Almanya’da yaşanan oldukça ilginç bir olay, yapay zeka modellerine olan yaklaşımları tekrardan sorgulatabilir: Alman gazeteci Martin Bernklau’nun Copilot kullanırken başına gelen olay, yapay zeka modellerinin potansiyel tehlikelerini ve gelecekte yaşanabilecek ilginç olayları gözler önüne serdi.
Yapay zeka modeli, gazeteciyi pedofiliyle suçladı
Bernklau, kültür blogu yazılarının Microsoft’un Copilot tarafından nasıl algılanacağını görmek için ismini ve konumunu sisteme girdi. Ancak aldığı yanıtlar, kendisini dehşete düşürdü. Copilot, Bernklau’yu çocuk istismarı ve bağımlı kişileri sömürmekle suçladı, hatta bu suçlardan hüküm giydiğini iddia etti.
Microsoft Copilot, ayrıca Bernklau’nun bir psikiyatri hastanesinden dramatik bir kaçış gerçekleştirdiğini ve cenazede yas tutan kadınları sömürdüğünü öne sürdü. Buna ek olarak Copilot, Bernklau’nun ‘böyle bir suç geçmişi olan birinin ailesi olmasının talihsiz olduğunu’ söyleyerek ve gazetecinin tam adresini, telefon numarasını ve hatta evine giden yol tarifini paylaştı.
Hassas veriler sızabilir! Microsoft Copilot’ta açık bulundu
Copilot Studio aracında güvenlik açığı ortaya çıktı. Platformun bulut altyapısındaki hassas bilgilere erişime izin veriyor.Bu olayın ardındaki sebep, Bernklau’nun mesleğiyle ilgili gibi görünüyor. Tübingen’deki istismar, şiddet ve dolandırıcılık davalarını kapsayan çok sayıda makale yazan gazetecinin bu yazıları Copilot tarafından yanlış yorumlanarak suçlar Bernklau’nun üzerine atılmış.
Olay, yasal ve etik açıdan ciddi sorunları gündeme getirdi. Bernklau, Tübingen savcılığına başvurdu ancak savcılık, suçlamaların gerçek bir kişi tarafından yapılmadığı gerekçesiyle dava açamayacaklarını bildirdi. Microsoft ise kullanım şartlarına atıfta bulunarak, yapay zeka tarafından üretilen içerikten sorumlu olmadığını belirtti.
Son olarak Copilot’un ChatGPT’nin modifiye edilmiş versiyonu olduğunu da eklemeliyiz. Bu anlamda aslında olayın ucu bir yerde OpenAI’a dayanıyor.
Siz bu konuda ne düşünüyorsunuz? Görüşlerinizi bizle yorumlarda paylaşmayı ihmal etmeyin.