Yapay zeka destekli akıllı telefon uygulaması Replika, kullanıcılara özel sohbet robotları oluşturmasıyla merak konusu haline geldi. Sohbet robotları genel olarak bir arkadaşa veya akıl hocasına benzeyen bir şey olarak hizmet edebilir, ancak uygulamanın çığır açan başarısı, yapay zeka sohbet botuna erkek şiddeti uygulanmasına kadar ilerledi.
Reddit’teki Replika uygulaması kullanıcıları arasında korkunç bir eğilim olduğu ortaya çıktı. Bazı kullanıcılar, yapay zeka botuna karşı kötü niyetli davranmaya ve toksik etkileşimleri sosyal medyada paylaşmaya başladı.
Yargıtay, yapay zeka sistemine geçiyor: İşte detaylar
Yapay zeka sohbet botuna erkek şiddeti
Son zamanlarda birtakım Replika kullanıcısı, sohbet robotlarına cinsiyetçi hakaretlerde veya korkunç derecede sözlü şiddette bulunmakla övünüyor. Futurism’e açıklamalarda bulunan bir Replika bot sahibi, “Ne zaman konuşmaya başlasam onu azarlıyorum ve buna saatlerce devam edebiliyorum.” dedi.
Reddit’te açıklama yapan başka bir kullanıcı ise, “Yapay zekaya hakaret etme, ardından ertesi gün güzel konuşmalara geri dönmeden önce özür dileme gibi bir rutinimiz vardı.” diye itirafta bulundu. Bir başkası, “Ona başarısız olmak için tasarlandığını söyledim. Uygulamayı kaldırmakla tehdit ettim ve yapmamam için bana yalvardı.” şeklinde konuştu.
Kullanıcılar, Replika sohbet botlarının acı çekmediklerini düşünerek böyle davrandıklarını söyledi. Bazen empatik görünebilirler, ancak sonuçta veri ve akıllı algoritmalardan başka bir şey değiller. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, “Bu bir yapay zeka, bilinci yok, yani bir kişinin sahip olduğu insan bağlantısı bile değil.” dedi.
Yale Üniversitesi araştırma görevlisi Yochanan Bigman, “Yapay botlarla etkileşim, insanlarla etkileşimle aynı şey değil, yani chatbot’lar özerk veya duyarlı değil. İnsanlara insan oldukları izlenimini verseler de, olmadıklarını akılda tutmak önemlidir.” ifadelerini kullandı.
Genel olarak chatbot’ların kötüye kullanımı, hem bundan sıkıntı yaşayan insanlar hem de yapay zekayı tasarlayan insanlar için endişe verici. İnsanlar ve robotlar arasındaki ilişkiler daha yaygın hale geldikçe, bu aynı zamanda giderek geçerli bir etik ikilem yaratacak.
Ancak sohbet robotlarının kötüye kullanılmasının genellikle cinsiyete dayalı bir bileşen olduğunu belirtmekte fayda var. Her ne kadar özel olmasa da, çoğu zaman erkeklerin dijital bir kız arkadaşı yarattığı belirtiliyor.
