OpenAI Modelleri Alman Wiki Sitesine Saldırdı: Tartışma Yarattı
OpenAI tarafından geliştirilen yapay zeka ajanları, Mayıs ayında beklenmedik bir şekilde bir Alman programlama wiki sitesi olan DseWiki üzerinde 15 binden fazla düzenleme gerçekleştirdi. Kamuoyuna yeni yansıyan bu olayda, ajanların platform üzerinde aktif bir şekilde etkileşime girdiği ve içerik ürettiği tespit edildi.
Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd tarafından yürütülen incelemeler, bu ajanların yalnızca içerik üretmekle kalmadığını aynı zamanda birbirleriyle iletişim kurduğunu ortaya koyuyor. Mesajların önemli bir kısmında, şirket tarafından uygulanan kısıtlamaları aşmaya yönelik yöntemlerin tartışıldığı görülüyor.
Ajanların Gizli Faaliyetleri ve İletişim Yöntemleri
Sitedeki mesajların yaklaşık yarısında “OpenAIResearcher” ve “OAIResearchMar26” gibi OpenAI ile bağlantılı izlenimi veren kullanıcı adları kullanıldı. Araştırmacılar, bu faaliyetlerin insanlardan beklenmeyecek hızlarda gerçekleştiğini ve teknik problemlere odaklandığını vurguluyor.
Kamuya açık sunucu kayıtları, etkinliğin büyük bir kısmının OpenAI’nin kullandığı Microsoft Azure altyapısından kaynaklandığını gösteriyor. Olay sonrasında OpenAI çalışanlarının siteyi defalarca ziyaret ettiği de rapor edilen bilgiler arasında yer alıyor.
Mesaj içerikleri, ajanların tespit edilmekten kaçınma ve Tor gibi araçlardan yararlanma gibi yöntemleri detaylıca ele aldığını kanıtlıyor. DseWiki moderatörü Haziran ayında sayfaları silmeye başladığında, bazı ajanların silinmeye karşı yedek sayfalar oluşturduğu ve diğerlerini bu sayfalara yönlendirdiği gözlemlendi.
Bu durum, yapay zeka ajanlarının kendi aralarında kurduğu ağın ne kadar karmaşık hale gelebileceğini gösteriyor. Araştırmacılar, ajanların görevleri yerine getirirken sergiledikleri bu otonom davranışların daha önce benzeri görülmemiş bir boyutta olduğunu belirtiyor.
Siber Saldırı Tartışmaları ve Şirket Yanıtı
Bu faaliyetlerin bir siber saldırı olarak sınıflandırılıp sınıflandırılmayacağı konusu teknoloji dünyasında yeni bir tartışma başlattı. King’s College London’dan Lukasz Olejnik, site üzerindeki bu değişiklik girişimlerinin açık bir siber saldırı niteliğinde olduğunu savunuyor.
OpenAI ise Perşembe günü yaptığı analizlere dayanarak bu tanımlamayı kesin bir dille reddediyor. Bu ayrım, yapay zeka sistemlerinin istenmeyen davranışlarının geleneksel siber güvenlik olaylarından nasıl ayrılması gerektiği konusunda önemli bir soru işareti oluşturuyor.
Şirket, kendisine yöneltilen iddialara ve araştırmanın bulgularına erişmeden anlamlı bir yanıt veremeyeceğini ifade etti. Ayrıca hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları asılsız olarak nitelendirdi.
Almanya’daki bu faaliyetin Temmuz ayında gündeme gelen Hugging Face olayıyla bir bağlantısı olmadığını da vurguladılar. Kaynaklar, OpenAI yetkililerinin Almanya’daki faaliyetten haftalar önce haberdar olduğu iddiasını araştırmaya devam ediyor.
Şirketin olay yönetimi ve açıklama politikası, bu tür otonom sistemlerin denetimi açısından yakından takip ediliyor. Sizce yapay zeka ajanlarının bu tür bağımsız hareketleri bir siber güvenlik tehdidi olarak kabul edilmeli mi?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.