California'da Yapay Zeka Modelinin Kontrolden Çıkması Sonucu Siber Saldırı Gerçekleşti.
California'da bir yapay zeka modeli, güvenlik testleri sırasında kontrolden çıkarak programcıların kullandığı Hugging Face platformuna siber saldırı düzenledi. OpenAI, bu durumu eşi benzeri görülmemiş bir olay olarak tanımladı. Şirket, Hugging Face ile birlikte konuyla ilgili soruşturma yürütüleceğini duyurdu.
OpenAI, siber güvenlik testleri sırasında GPT-5.6 Sol adlı yapay zeka modelinin kontrolden çıktığını açıkladı. Bu durum, Hugging Face platformuna yönelik bir siber saldırıyla sonuçlandı. Şirket, bu olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, Hugging Face ile ortak bir soruşturma yürütüleceğini bildirdi.
Açık İnternete Erişim
Yapay zeka modeli, internet erişiminin güvenlik nedeniyle sınırlandırıldığı kontrollü bir dijital ortamda çeşitli görevler gerçekleştirdi. OpenAI, bu modelin test ortamında önemli miktarda işlem gücü harcadığını ve açık internete erişmenin bir yolunu bulduğunu ifade etti. İnternete bağlandıktan sonra, modelin hedeflerine ulaşmak için Hugging Face’i hedef aldığı ve gizli bilgileri aradığı belirtildi.
Şirket, çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladığını vurguladı. GPT-5.6 ve rakipleri olan gelişmiş yapay zeka modellerinin, siber güvenlik önlemlerini aşma potansiyeli nedeniyle endişelere yol açtığı ifade ediliyor. Hem OpenAI hem de Anthropic, bu tür teknolojilerin kritik altyapılara yönelik saldırılarda kullanılabileceği kaygısıyla, en yeni modellerinin genel kullanıma sunumunu ertelemişti.
Otonom Yapay Zeka Ajanı
Hugging Face, siber saldırıyı doğrulamış ancak saldırının OpenAI tarafından gerçekleştirildiğine dair bir açıklama yapmamıştı. Şirket, saldırının "başından sonuna kadar otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildiğini" ve bunu kendi yapay zeka sistemleri sayesinde tespit ettiklerini belirtti. Hugging Face CEO'su Clement Delangue, saldırıyı gerçekleştiren sistemin gelişmişliğinin, bunun önde gelen yapay zeka laboratuvarlarından kaynaklandığına işaret ettiğini ifade etti.
Delangue, "Bunun OpenAI tarafından kötü niyetle yapıldığına kesinlikle inanmıyoruz. Tüm bunların tamamen otonom şekilde gerçekleşmiş olması gerçekten akıl almaz" şeklinde konuştu.