Yapay zeka alanında faaliyet gösteren öncü şirketlerden Anthropic, yapay zeka sistemlerinin geleceğine dair önemli bir uyarıda bulundu. Şirket, bu sistemlerin giderek daha az insan müdahalesiyle yazılım geliştirme ve araştırma süreçlerini yürütebildiğini, bu eğilimin devam etmesi halinde kendi kendini geliştiren sistemlere dönüşebileceğini açıkladı.
Anthropic kurucu ortağı Jack Clark ve Enstitü Başkanı Marina Favaro tarafından kaleme alınan bir blog yazısında, bu duruma "özyinelemeli kendini geliştirme" (recursive self-improvement) adı verildi. Yazıda, geçmişte tamamen insanlar tarafından yürütülen yapay zeka geliştirme görevlerinin artık giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı vurgulandı.
Bu eğilimin sürmesi halinde, yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek bir seviyeye ulaşabileceği belirtildi. Şirket, "Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir" ifadelerini kullandı.
Kendi kendini geliştirebilen yapay zekanın bilim ve sağlık gibi alanlarda büyük faydalar sağlama potansiyeli olsa da, önemli bir riski de beraberinde getirdiği belirtildi. Bu risk, insanların yapay zeka sistemleri üzerindeki kontrolünü tamamen kaybetmesi olarak tanımlandı. Anthropic, bu teknolojik ilerlemelere toplumsal kurumların uyum sağlayabilmesi için ileri düzey yapay zeka çalışmalarının yavaşlatılmasını veya geçici olarak durdurulmasını önerdi.
