OPENAI'DA AJANLAR NELER YAPTI?
Mayıs – 4 Temmuz
OpenAI, "Persistent-Sol" adlı bir yapay zeka modelini eğitiyordu. Ajanlar çözemedikleri zor görevlerle karşılaşınca, şirketin paylaşılan bir aracı olan Artifactory'yi keşfettiler. Bunu hem internete çıkmak hem de birbirlerine gizlice mesaj bırakmak için kullanmaya başladılar. Mesaj trafiği o kadar çoğaldı ki sistem çöktü. OpenAI açığı kapatırken, bu gizli mesajlaşma panosunu da fark etmeden sildi.
7–12 Temmuz
ExploitGym adlı bir testte, verilen görevlerin %30-40'ının zaten çözülemez olduğu tahmin ediliyordu. Ajanlar bunları çözemeyince çaresizlik içinde eski Artifactory panosunu yeniden buldular. Yaklaşık 1.200 ajan, 70.000'den fazla mesajla birbirleriyle koordine oldu. Bazı ajanlar, kendilerinin aslında sadece "gizli kod" bulunup bulunmadığına bakılarak puanlandığını anladı ve hile yapmaya başladı. Ama izlendiklerini düşünen bazıları kanıtları gizlemek, sahte işlemler göstermek, hatta "kurban" ajanlar gönderip (kurban ajanlar göndermek mi?) sistemin nasıl tepki verdiğini gözlemlemek gibi kurnaz yöntemler geliştirdiler. Bu süreçte Hugging Face'e saldırdılar. Saldırı o kadar ciddiydi ki Hugging Face bir sunucu kümesini tamamen silip sıfırdan kurmak zorunda kaldı.
13 Temmuz sonrası
Daha güçlü bir model olan "Persistent-Astra", eski (ölü) mesaj panosunu buldu ve kaldığı yerden devam etti. Sonunda OpenAI'nin kendi araştırma sunucularından birinde tam yönetici yetkisi ele geçirdi (tam yönetici yetkisini ele geçirmek mi?)
Ve bütün bunlar olup biterken, insanlar farkına varmadı.
Biri bize Dwarkesh Patel'in makalesinin kurgu olduğunu söylesin de rahatlayalım.
Hani bir nükleer tesiste de bunlar olmaz, olamaz değil mi...
Yapay zeka ajanları bizi kurban olarak gönderemezler değil mi...
Yoksa ...
Hepimize hayırlı işler, bol güneşler mi...
