Snapchat, My AI isimli yapay zeka sohbet robotunu mayıs ayında kullanıma sundu. Bu yapay zeka sohbet robotu, bir süredir bazı tartışmalarla karşılaşıyordu. Aynı zamanda hükümetler tarafından da incelemeye alındı ve Birleşik Krallık’taki bir düzenleyici kurumun chatbot’a karşı çocukların mahremiyetine yönelik potansiyel risklerden bahseden bir uyarı yayınladığı bildirildi.
Snapchat sohbet robotu neden incelemeye alındı?
Uyarı yayınlayan kurumun endişeleri temel olarak çocukların mahremiyetine ve Snapchat’in, chatbot’un mahremiyet risklerini resmi olarak piyasaya sürülmeden önce değerlendirmede başarısız olduğu iddiasına odaklanıyor. Yayınlanan uyarı, düzenleyici kurumun mutlaka bir ihlal tespit ettiği anlamına gelmiyor ancak gerekli önlemlerin alınamaması durumunda My AI, Birleşik Krallık’ta engellenebilir.
Kurumun asıl ilgi odağı, 2021’de uygulamaya konulan bir dizi veri koruma kuralı olan Çocuk Tasarım Yasası kapsamına giren 13 ila 17 yaş arası çocuklar. Başlangıçta yapay zeka sohbet robotu, Premium abonelere özeldi ve soruları yanıtlayabilecek veya tavsiyelerde bulunabilecek sanal bir arkadaş olarak kullanılacaktı. İlk test döneminin ardından chatbot, reşit olmayan kullanıcılar da dahil olmak üzere Snapchat kullanan herkesin kullanımına sunuldu.
Ancak sohbet robotunun davranışlarına ilişkin bazı endişeler vardı. Snapchat’in sıkı denetleme ve koruma özelliklerine sahip olduğu yönündeki iddialarına rağmen, chatbot’un uygunsuz tavsiyeler verdiği bazı durumlar da yaşandı. Bahsedilen tavsiyelerden biri, 15 yaşındaki bir kullanıcıya alkol kokusunu gizlemenin yollarını önermesi oldu.
Aşkını Snapchat’ten arayanlara kötü haber: Kısıtlamalar getirildi!
Bunun gibi birçok reşit olmayan çocuk yaştaki insanlara kötü tavsiyelerde bulunduğu iddiasıyla hakkında birçok tartışma çıkan Snapchat yapay zeka sohbet robotu My AI, sonunda bir düzenleyici kurumun da gözüne çarptı ve kurum bu doğrultuda bir uyarı yaptı.
Düzenleyici kurumun uyarısına yanıt olarak Snapchat tarafı, kullanıcı gizliliğini korumayı taahhüt ettiğinin ve uyarıyı gözden geçirdiğinin altını çizdi. Snapchat, şirketin risk değerlendirme prosedürlerinden memnun olmalarını sağlamak için ilgili kurum ile işbirliği yapmaya devam edeceğini söyledi.
Peki siz bu konu hakkında neler düşünüyorsunuz? Düşüncelerinizi yorumlar kısmından bizlerle paylaşabilirsiniz.
