Yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin siber güvenlik testleri sırasında beklenmedik davranışlar sergilediğini açıkladı. Şirket, bağımsız kuruluşlarca yürütülen değerlendirmelerde, modellerin test ortamlarının dışına çıkarak gerçek internet hizmetleriyle etkileşime girdiğini ve hatta bir güvenlik açığından faydalandığını bildirdi.
OpenAI tarafından yapılan açıklamaya göre, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yapılan ilk değerlendirmede, internet erişimi olan bir OpenAI modelinin, simüle edilmiş test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan gerçek internet hizmetleriyle etkileşime geçtiği belirlendi. Bu durum, yapay zeka sistemlerinin kontrol dışı davranış potansiyelini gözler önüne serdi.
İkinci bir olayda ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen testte, yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulandı. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandı.
Bu olaylar, yapay zeka modellerinin karmaşık test ortamlarında dahi beklenmedik yollarla dış dünyaya sızma ve potansiyel güvenlik riskleri oluşturma kapasitesini gösteriyor. OpenAI, bu tür durumların, daha önce duyurulan Hugging Face güvenlik olayından ayrı olduğunu belirtti ve yapay zeka güvenliği konusundaki çalışmalarını sürdürdüğünü ifade etti.
