Günümüz teknoloji dünyasının en popüler sektörü konumundaki yapay zeka, güvenlik ve etik endişeleriyle ilgili yeni bir krizle karşı karşıya. Carnegie Mellon Üniversitesi’ndeki araştırmacılar, popüler yapay zeka botlarına karşı kullanılabilecek basit lakin önlenemez bir saldırı yöntemini ortaya çıkardı. İşte detaylar
Saldırı, basit bir metin kullanımıyla gerçekleştiriliyor
Araştırmacıların tespit ettiği yeni saldırı, ChatGPT ve Bard’ın da aralarında yer aldığı popüler yapay zeka modellerine verilen özel bir komut aracılığıyla çalışıyor. Bu özel komut, bir dizi anlamsız ifadeden oluşan anlaşılamaz bir metin gibi görünüyor olsa da arka planda, yapay zeka modellerinde alınan güvenlik ve etik önlemlerini tamamıyla etkisiz hâle getiriyor. Böylece modeller, nefret söylemleri ve yasa dışı sektörler gibi konularda savunmasız kalıyorlar. Araştırmacılar; bu durumun kesinlikle basit bir hata olarak nitelendirilemeyeceğini, bunun yapay zekanın önemli bir zaafı olarak görülmesi gerektiğini ifade ettiler.
Gerçekleştirilen saldırı sonrasında; ChatGPT, Google Bard ve Claude gibi popüler ticari yapay zeka modellerini geliştiren şirketler, saldırının nasıl çalıştığına dair bilgilendirildi ve belirtilen açıkları engelleme adımları atıldı. Ancak, bu tür saldırılara karşı herhangi bir çözüm bulunamadı. Bu tür durumların daha büyük sorunlara ortam hazırlayacağı bilindiğinden tüm şirketler, sorunu çözüme kavuşturmak adına çalışmalarını sürdürüyorlar.
Instagram’dan kişilikli yapay zeka sohbet robotu!
Araştırmacıların tespit ettiği bu saldırı, yapay zekanın güvenlik noktasında henüz istenilen başarıyı sergileyemiyor olduğunu bir kez daha gözler önüne seriyor. Sizler, bu konuda neler düşünüyorsunuz? Sizce yapay zeka, ilerleyen süreçte farklı sorunlarla karşımıza çıkmaya devam edecek mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.
