Son zamanların en popüler teknolojileri arasında yer alan yapay zeka; kamu kurumlarından sağlık sektörüne, otonom araçlardan mobil cihazlara birçok alanda aktif bir şekilde kullanılmaktadır. İnsanlarla arasındaki etkileşimi önemli bir boyuta ulaşmış durumda olan teknolojiyle ilgili bir araştırma, bazı dikkat çekici bulguları gözler önüne seriyor. İşte detaylar
Yapay zeka sistemleri, sanıldığından daha savunmasız!
Kuzey Carolina Eyalet Üniversitesi’nin yürütmekte olduğu bir araştırma projesi kapsamında, yapay zeka güvenliği masaya yatırıldı. Sistemlerin kötü niyetli saldırılara karşı neler yapabildiğini görmek adına sınırların zorlandığı araştırmada, son derece kritik sonuçlara ulaşıldı. Bu sonuçlar, günümüz koşullarında bu sistemlerin sanıldığından çok daha savunmasız olduğunu ortaya koyuyor.
Araştırma süresince yapılan düşmanca denemeler, yapay zeka sistemlerine sağlanan veri akışının manipüle edilmesi suretiyle gerçekleştirildi. “QuadAttacK’ isimli özel bir yazılım aracılığıyla yapılan denemelerde sistemlerin karar verme süreçleri detaylı bir şekilde incelenerek olası güvenlik açıkları tespit edildi.
ChatGPT için sunulacak olan GPT Store 2024'e kaldı. Bu mağaza, kullanıcıların özel GPT modellerinden para kazanmasını sağlayacak.
Tespit edilen farklı güvenlik açıkları üzerine yoğunlaşan araştırmacılar, sistemlerin güvenlik seviyesinin beklenenden çok daha düşük seviyede olduğunu ifade ettiler. Örneğin yapay zeka ile veri analizi yapan bir X-ray cihazının incelediği verileri kolaylıkla değiştirilebilmesiyle sonuçlanabilecek bu güvenlik açıkları, birçok kritik sektörü de büyük bir risk faktörüyle karşı karşıya bırakıyor.
Gerçekleştirilen bu kritik araştırmanın bilimsel raporları henüz tam anlamıyla hazırlanmamış olsa da araştırma eskiz haliyle bile ziyadesiyle dikkat çekici görünüyor. Peki, sizler bu konuyla alakalı olarak neler düşünüyorsunuz? Sizce bu bulgular, kapsamlı bir değişikliğe gidilmesine önayak olabilir mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.
