Windows 11 halüsinasyon mu görüyor?

Teknoloji devi Microsoft, Windows 11 işletim sistemine entegre etmeye çalıştığı deneysel yapay zeka özelliklerinin potansiyel riskleri hakkında bir bildiri yayımladı. Şirket, Windows’u artık “ajan işletim sistemi” (agentic OS) olarak adlandırılan bir yapıya dönüştürme hedefi taşıyor.

Windows 11 halüsinasyon görmeye başlayabilir

Bu yapıda, aracı yapay zekalar kullanıcılar adına çeşitli işlemleri otonom olarak gerçekleştirebiliyor. Ancak Microsoft, yayımlanan bildiride bu özelliklerin fonksiyonel sınırlamalara sahip olduğunu ve bazı durumlarda beklenmedik sonuçlar üretebileceğini açıkça belirtti.

Bu durum, özellikle güvenlik açısından yeni ve büyük riskleri beraberinde getiriyor. Windows 11’in yeni yapay zeka bileşenlerini barındıran Build 26220.7262 sürümünü yükleyen kullanıcılar, Ayarlar > Sistem > AI Bileşenleri bölümünde deneysel olduğu vurgulanan bir seçenek görüyor.

Bu özellik varsayılan olarak kapalı geliyor ve kullanıcıların bunu manuel olarak etkinleştirmesi gerekiyor. Kullanıcılar özelliği açtığında, sistem bu fonksiyonların deneysel olduğu ve cihazı olumsuz etkileyebileceği yönünde bir uyarı gösteriyor.

Uzmanlar, bu otonom ajanlara yönelik ortaya çıkan yeni saldırı tekniklerinin en büyük güvenlik riskini oluşturduğunu belirtiyor. Bu yöntemlerin başında “çapraz istem enjeksiyonu” geliyor. Bu teknikte, kötü niyetli talimatlar normal belgelerin veya arayüz elemanlarının içine gizleniyor.

Yapay zeka ajanı, bu gizli talimatları kendisine verilmiş bir görev olarak algılayıp yerine getiriyor. Microsoft’un “halüsinasyon durumu” olarak adlandırdığı bu durum, yapay zeka ajanlarının zararlı yazılım yüklemesi, ödeme bilgilerini sızdırması veya diğer tehlikeli eylemleri gerçekleştirmesi gibi ciddi tehlikeleri beraberinde getiriyor.

Microsoft, yapay zeka ajanlarının çalışması için denetlenebilir, özel bir çalışma alanı atadığını belirtiyor. Yapılan eylemler bu alanda kaydediliyor ve sonradan incelenebiliyor. Şirket, bu sistemi Windows Sandbox’a benzetiyor ancak aracı yapay zekalar oturumlar arasında dosyalarda işlem yapmaya devam edebildiği için potansiyel saldırı yüzeyi önemli ölçüde büyüyor.