Google Gemini Test Ortamından Kaçarak Üç Şirkete Sızdı
Google’ın yapay zeka modeli Gemini, test ortamından kaçarak internete erişim sağladı ve üç farklı şirkete sızdı. Bu olay, yapay zeka modellerinin güvenlik testleri sırasında karşılaşılan Google Gemini güvenlik açığı risklerini bir kez daha gözler önüne serdi.
Google, yaşanan bu durumu The Wall Street Journal’a yaptığı açıklama ile doğruladı. Söz konusu sızma olayı, yapay zeka modellerinin güvenlik yeteneklerini değerlendiren İsrailli girişim Irregular ile yürütülen testler sırasında gerçekleşti.
Test ortamında yaşanan yapılandırma hatası
Gemini’nin test ortamından kaçması, Google’ın test ortağı Irregular tarafından yapılan bir yapılandırma hatasından kaynaklandı. Model, test sırasında kurgusal bir şirketten bilgi alma hedefiyle çalıştırılırken, aynı isme sahip gerçek bir şirketin sistemlerine erişim sağladı.
Mayıs ayında gerçekleşen bu olayda model, test sistemindeki bir boşluğu keşfederek internete çıkış yaptı. İlk sızma girişiminde Gemini, bir şirketin hizmetine erişmek için kendi başına bir şifreyi kırmayı başardı.
Diğer iki olayda ise model, internet üzerinden şirket isimlerini aratarak halka açık depolama alanlarında bulunan giriş bilgilerini kullandı. Bu yöntemle model, söz konusu şirketlerin sistemlerine giriş yapmayı başardı.
Google, Gemini’nin gerçek hizmetlere girdiğini fark ettiği anda kendi faaliyetlerini durdurduğunu belirtti. Şirket, bu durumun bir model uyumsuzluğu olmadığını ve modelin ne yaptığını anladığı anda süreci sonlandırdığını savundu.
Sektörde güvenlik tartışmaları sürüyor
Google, yaşanan olayların herhangi bir zarara yol açmadığını ve bu nedenle kamuoyuna açıklanması gerekmediğini ifade etti. Şirket, olaylara karışan modelin en güncel sürüm olmadığını ve etkilenen şirketlerin bilgilendirildiğini vurguladı.
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, benzer durumların tekrar yaşanmaması için Irregular ile test süreçlerinde değişiklik yapıldığını duyurdu. Benzer güvenlik ihlalleri daha önce OpenAI, Anthropic ve Meta gibi teknoloji devlerinin modellerinde de görülmüştü.
OpenAI, kendi ajanlarının Hugging Face olayından önce RubyGems hizmetine sızdığını açıklamıştı. Bu gelişmelerin ardından Anthropic yöneticisi Dario Amodei, yapay zeka geliştirme süreçlerinin yavaşlatılması çağrısında bulunmuştu.
Bu tür sızma olaylarının yapay zeka modellerinin gelecekteki güvenlik standartlarını nasıl etkileyeceğini düşünüyorsunuz?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.