Google Gemini, ödev yapan öğrenciyi ölümle tehdit etti!

Google’ın yapay zeka chatbot’u Gemini, yakın zamanda yaşanan enteresan bir olayla yine gündem oldu. ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım isterken rahatsız edici ve tehditkar bir mesaj aldı. Chatbot, kullanıcıya “sen bir yüksün, evren için bir utanç kaynağısın, lütfen öl” gibi ifadeler içeren bir mesaj gönderdi. İşte detaylar…

Gemini ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi

Aslında yaşanan olay ilk vaka değil. Reddit kullanıcıları, benzer sorunların daha önce de yaşandığını iddia etti. Google yetkililerinden de cevap gecikmedi. Şirket: “Bu tür olayların tekrar yaşanmasını engellemek için gerekli önlemleri aldık” açıklamasında bulundu. Ancak yapılan açıklamalara rağmen, yapay zekanın kontrolü konusundaki endişeler sona ermiş değil.

Uzmanlar uyarıyor

Bu tür yapay zeka hatalarının özellikle gençler ve psikolojik olarak hassas bireyler için ciddi bir tehdit oluşturabileceği belirtiliyor. Bir araştırma, 12-18 yaş arasındaki öğrencilerin %50’sinin eğitim amaçlı olarak ChatGPT gibi yapay zeka araçlarını kullandığını gösteriyor. Fakat ne yazık ki bu kullanım, genellikle ebeveynlerin ve öğretmenlerin bilgisi dışında gerçekleşiyor. Yani ne kadar önlem alınsa da yapay zeka arada bir ne kadar tehlikeli olduğunu hatırlatmaya devam ediyor.

Apple iPhone kullanıcılarına müjde: Google Gemini resmen yayınlandı!

Bu tür rahatsız edici olaylar, yapay zekanın insanlarla güvenli bir şekilde nasıl etkileşim kuracağı konusundaki tartışmaları yeniden alevlendirdi. Her ne kadar güvenlik filtreleri bulunsa da, yapay zekanın hala birçok sorunu olduğunu ve bu alanın daha fazla geliştirilmesi gerektiğini unutmamak gerek. Siz ne düşünüyorsunuz?