Canva’da Filistin Krizi! Gizli Sansür Uygulamışlar
Popüler grafik tasarım platformu Canva, yapay zeka destekli araçlarından birinde yaşanan beklenmedik bir metin değişikliği sorunuyla gündeme geldi. Kullanıcılar, platformun yeni Magic Layers özelliğinin tasarımlardaki ‘Filistin’ ifadesini otomatik olarak değiştirdiğini fark etti.
X platformu üzerinden paylaşılan görüntüler, ‘Cats for Palestine’ yazılı bir tasarımın yapay zeka tarafından ‘Cats for Ukraine’ şeklinde değiştirildiğini ortaya koydu. Bu durum, kullanıcılar arasında geniş çaplı bir tartışma başlattı.
Magic Layers özelliğinde yaşanan teknik hata
Canva sözcüsü, konunun farkında olduklarını ve Magic Layers özelliğinde yaşanan bu sorunu hızla inceleyerek çözüme kavuşturduklarını belirtti. Şirket, yaşanan durumdan dolayı üzgün olduklarını ifade ederek kullanıcılardan özür diledi.
Sözcü, sorunun izole edildiğini ve tasarımları genel olarak etkilemediğini savundu. Ancak bazı kullanıcılar, söz konusu hatayı kendi projelerinde tekrarlayabildiklerini rapor etti.
Canva, benzer durumların gelecekte yaşanmaması için ek denetim mekanizmaları kurduklarını açıkladı. Şirket, hatanın kökenini anlamak için kapsamlı bir iç denetim süreci başlattığını duyurdu.
Geçtiğimiz ay kullanıma sunulan Magic Layers aracı, statik görselleri düzenlenebilir katmanlara ayırmak için tasarlanmıştı. Aracın neden metinleri değiştirdiği veya hangi eğitim verilerinin bu sonuca yol açtığı henüz netlik kazanmadı.
Yapay zeka araçlarında yaşanan benzer tartışmalar
Bu olay, yapay zeka modellerinin belirli konularda sergilediği önyargılarla ilgili ilk örnek değil. Daha önce Meta’nın WhatsApp üzerindeki yapay zeka araçları, Filistinli görseli istendiğinde tartışmalı sonuçlar üretmesiyle eleştirilmişti.
Benzer şekilde 2023 yılında ChatGPT’nin Filistinlilerle ilgili bazı sorulara verdiği yanıtlar aktivistler tarafından incelenmişti.
Yapay zeka sistemlerinin eğitim süreçleri ve tarafsızlıkları, teknoloji dünyasında güncelliğini koruyan bir konu olmaya devam ediyor.
Canva, gelecekteki beklenmedik çıktıları tespit etmek adına iç test süreçlerini gözden geçirdiğini vurguladı. Şirket, kullanıcıların güvenini yeniden kazanmak için gerekli adımları atacağını belirtti.
Yapay zeka araçlarının bu tür metin müdahaleleri yapması hakkında siz ne düşünüyorsunuz?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.