Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte güvenlik ve etik risklere dair endişeler de artıyor. Bu bağlamda, yapay zeka devi OpenAI, alanın önde gelen güvenlik araştırmacılarından Paul Christiano'yu kâr amacı gütmeyen vakfının yönetim kuruluna atadığını duyurdu. Bu atama, şirketin yapay zeka güvenliğine verdiği önemin bir göstergesi olarak değerlendiriliyor.
Christiano, ABD Ticaret Bakanlığı bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi'nde (CAISI) kıdemli teknik danışman olarak görev yapıyor. Burada yapay zeka modellerine yönelik yönergelerin geliştirilmesi ve test edilmesine katkı sağlıyor. Özellikle yapay zeka sistemlerinin insan çıkarları doğrultusunda çalışmasını amaçlayan 'hizalama' (alignment) konusunda uluslararası çapta bir uzman olarak kabul ediliyor.
Daha önce Anthropic'in kâr amacı gütmeyen vakfında da görev yapan Christiano, yapay zeka teknolojilerinin ciddi riskler taşıyabileceği yönündeki görüşlerini açıkça dile getirmişti. Hatta 2023'teki bir podcast yayınında, gelecekte insanlığın büyük bir bölümünün ölümüyle sonuçlanabilecek bir yapay zeka ele geçirme ihtimalini yüzde 10 ila yüzde 20 arasında görmüştü.
Yeni görevi kapsamında Christiano, OpenAI'daki kritik konulara ilişkin uygulamaları yöneten Güvenlik ve Emniyet Komitesi'nde yer alacak. Ayrıca, OpenAI'ın kâr amacı güden kolunun yönetim kurulunda oy hakkı bulunmayan bir gözlemci olarak görev yapacak ve şirketin yüzde 26 hissesine sahip olan vakfın hayırseverlik faaliyetlerinin denetlenmesine katkı sağlayacak. Christiano, 'Yapay zeka yetenekleri son bir yılda çok hızlı ilerledi ve hizalama konusu zorlu bir teknik sorun olmaya devam ediyor; bu durum, Güvenlik ve Emniyet Komitesi'nin sorumluluğunu her zamankinden daha önemli ve zorlu kılıyor' açıklamasında bulundu.
