Yapay zeka devi OpenAI’ın, Kanada’da yaşanan trajik bir okul saldırısını önceden fark etmiş olabileceği ancak harekete geçmediği ortaya çıktı. OpenAI polis ikilemi olarak adlandırılabilecek bu durum, şirketin kullanıcı gizliliği ve kamu güvenliği arasındaki hassas dengeyi sorgulatıyor. Wall Street Journal’ın özel haberine göre, saldırganın ChatGPT ile yaptığı tehlikeli konuşmalar, saldırıdan aylar önce şirket tarafından tespit edildi.
https://shiftdelete.net/openai-600-milyar-dolarlik-yatirima-hazirlaniyor
OpenAI Polis İkilemi Nasıl Başladı?
Her şey, Kanada’daki okul saldırısını düzenleyen Jesse Van Rootselaar’ın ChatGPT platformundaki yazışmalarıyla başladı. OpenAI’ın tehlikeli içerikleri tespit etmek için kullandığı otomatik güvenlik sistemleri, Rootselaar’ın konuşmalarını potansiyel bir tehdit olarak işaretledi. Bu işaretleme üzerine, kayıtlar çok sayıda OpenAI personeli tarafından incelendi.
Haberlere göre, şirket içinde ciddi bir tartışma yaşandı. Bazı çalışanlar, yazışmaların somut bir fiziksel şiddet tehdidi içerdiğini savunarak durumun derhal Kanada polisine bildirilmesi için yöneticilere baskı yaptı. Ancak, bu talepler sonuçsuz kaldı ve son kararın ihbarda bulunmamak yönünde olduğu belirtildi.
Şirketin Resmi Açıklaması ve Gerekçesi
Konuyla ilgili bir açıklama yapan OpenAI sözcüsü, şirketin durumu ciddiye aldığını ve söz konusu şahsın hesabını kapattığını doğruladı. Bununla birlikte sözcü, paylaşımların polise haber verme kriterlerini karşılamadığına karar verdiklerini ifade etti. OpenAI’ın politikasına göre, bir kullanıcının ihbar edilmesi için paylaşımlarının “ciddi ve her an gerçekleşebilecek bir risk” taşıması gerekiyor.
Bu olay, yapay zeka şirketlerinin etik sorumlulukları ve yasal yükümlülükleri konusunda önemli bir tartışmayı yeniden alevlendirdi. Bir yandan kullanıcıların özel konuşmalarının gizliliği, diğer yandan ise bu platformların potansiyel suçları önlemedeki rolü, teknoloji dünyasının çözüm bulması gereken en büyük zorluklardan biri olarak öne çıkıyor.
Peki, OpenAI’ın bu kararı hakkındaki sizin görüşleriniz neler? Düşüncelerinizi yorumlarda bizimle paylaşın!
