Yapay Zeka Araçlarında Yeni Tehdit: HalluSquatting
Yapay zeka hizmetlerinin, kullanıcıların bilgisayarlarını veya telefonlarını birer botnet ağına dönüştürebilecek şekilde manipüle edilebileceği ortaya çıktı. Intuit, Technion ve Tel Aviv Üniversitesi araştırmacıları tarafından keşfedilen bu yeni yöntem, büyük ölçekli saldırılara kapı aralıyor.
HalluSquatting adı verilen bu teknik, yapay zeka modellerinin hatalı bilgi üretme eğiliminden yararlanıyor. Bu yöntem, geleneksel yazım hatalarından faydalanan typosquatting saldırılarına benzer bir mantıkla çalışıyor.
HalluSquatting nasıl çalışıyor?
Araştırmacılar, büyük dil modellerinin kaynakları veya depoları tanımlarken yüzde yüz doğrulukla hareket edemediğini belirtiyor. Bu zayıflığı kullanan saldırganlar, yapay zekanın yanlış tahmin edebileceği kaynakları önceden kaydederek sisteme sızıyor.
Saldırganlar, yapay zekanın hatalı bir şekilde yönlendirilebileceği bir kaynağı ele geçirdiğinde, buraya zararlı komutlar yerleştiriyor. Kullanıcı bu kaynağı tetiklediğinde, yapay zeka istemeden zararlı içeriği çalıştırıyor ve saldırı süreci başlıyor.
Bu yöntem, geleneksel kod enjeksiyonu ile yapay zeka tabanlı manipülasyonları birleştiriyor. Araştırmacılar, bu teknikle uzaktan kod yürütme ve araç kontrolü gibi kritik yetkilere erişilebildiğini vurguluyor.
Etkilenen popüler yapay zeka araçları
Yapılan testlerde Cursor, Cursor CLI, Windsurf, GitHub Copilot ve Cline gibi popüler kodlama asistanlarının bu saldırı türüne karşı savunmasız olduğu görüldü. Ayrıca Gemini CLI, OpenClaw, ZeroClaw ve NanoClaw gibi araçlar da risk altında bulunuyor.
Bu saldırı türü, cihazların birer botnet zombisine dönüştürülmesine veya geniş çaplı fidye yazılımı kampanyalarının başlatılmasına neden olabiliyor. Uzmanlar, JADEPUFFER gibi doğrudan yapay zeka tarafından yönetilen fidye yazılımlarının zaten sahada görüldüğüne dikkat çekiyor.
Güvenlik önlemleri arasında geliştiricilerin veri çekme işlemlerini kısıtlaması ve kaynak sahiplerinin daha katı isimlendirme kuralları uygulaması yer alıyor. Ancak bu tür çözümlerin farklı taraflar arasında iş birliği gerektirmesi nedeniyle uygulanmasının zaman alacağı ifade ediliyor.
Sizce yapay zeka araçlarındaki bu tür güvenlik açıklarına karşı kullanıcılar kendilerini nasıl koruyabilir?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.