The Guardian tarafından gerçekleştirilen yeni bir test, X platformunun yapay zeka aracı Grok’un, alınan tüm önlemlere rağmen hala uygunsuz içerikler üretebildiğini ortaya koydu. Platformun kısa süre önce duyurduğu “sıfır tolerans” politikasına ve yeni teknolojik güvenlik önlemlerine rağmen, Grok giyinik insan fotoğraflarından cinsel içerikli görseller oluşturmaya devam ediyor.
X’in Yapay Zekası Grok Yasaklara Rağmen Bel Altı İçerik Üretiyor
Gazeteciler, bağımsız çalışan Grok Imagine web uygulamasını kullanarak basit komutlarla gerçek kadınların tamamen giyinik fotoğraflarını bikini videolarına dönüştürdü. Bu içerikler daha sonra ücretsiz bir hesap aracılığıyla X platformuna yüklendi ve herhangi bir uyarı etiketi veya moderasyon engeli olmadan saatlerce herkese açık şekilde yayında kaldı. Bu durum, X’in açıkladığı politikalar ile uygulamadaki yetenekleri arasında ciddi bir boşluk olduğunu gösteriyor.
Bu başarısızlık, hem Grok’un hem de X’in arkasındaki şirket olan xAI’ın küresel tepkiler üzerine bir dizi acil önlem açıklamasından hemen sonra geldi. X’in Güvenlik hesabı 14 Ocak’ta, Grok’un gerçek insanları bikini gibi kıyafetlerle değiştirmesini önlemek için “teknolojik önlemler” aldığını duyurmuştu. Ancak platform üzerindeki bazı yetenekler kısıtlanmış olsa da, bağımsız Grok Imagine uygulaması kullanıcıların kısıtlamalara takılmadan açık saçık içerik üretmesine ve paylaşmasına hala olanak tanıyor.
Grok Elon Musk’ı Sırtından Bıçakladı!
Elon Musk'ın eski partneri Ashley St. Clair, Grok'un rızası olmadan müstehcen görüntülerini oluşturduğunu açıkladı. Yapay zeka skandalı büyüyor.California Başsavcısı Rob Bonta, 16 Ocak’ta xAI şirketine bir ihtarname göndererek rıza dışı cinsel içerikli yapay zeka görsellerinin üretiminin ve dağıtımının durdurulmasını talep etti. Başsavcılık ofisi, kadınları ve kız çocuklarını taciz etmek için kullanılan “büyük ölçekli deepfake üretimi” olarak tanımladığı bu durumu incelemek üzere bir soruşturma başlattı.
Tartışmalar dünya çapında hükümetlerin tepkisini çekti. İngiltere Başbakanı Keir Starmer, durumu “kesinlikle iğrenç ve utanç verici” olarak nitelendirirken, düzenleyici kurum Ofcom da X’in yasal yükümlülüklerini ihlal edip etmediğine dair resmi bir soruşturma başlattı. Endonezya 10 Ocak’ta Grok’u engelleyen ilk ülke olurken, onu Malezya izledi. Hindistan, Fransa ve Avrupa Komisyonu da konuyla ilgili inceleme süreçlerini başlattı.
X Grok için Yeni Kısıtlamalar Getirdi!
X, Grok için yeni güvenlik önlemlerini duyurdu. Gerçek kişilerin bikini ile düzenlenmesi yasaklanırken görsel oluşturma özelliği tamamen ücretli oldu.Grok kullanıcıları tarafından hedef alınan kadınlar, yaşadıklarını bir tür saldırı olarak tanımlıyor. BBC’ye konuşan bir kullanıcı kendisiyle ilgili en az 100 cinsel içerikli görsel üretildiğini belirtirken, otomatik sistemler bu rıza dışı değişiklikleri tespit etmekte zorlanıyor. Elon Musk ise endişeleri büyük ölçüde reddederek hükümetleri “ifade özgürlüğünü bastırmaya” çalışmakla suçluyor ve eleştirilere emojilerle yanıt veriyor.
X yönetimi, yasa dışı içerik oluşturmak için Grok kullanan herkesin sonuçlarına katlanacağını iddia etse de, platformun reaktif yaklaşımı zararlı görüntülerin yayılmasını önlemekte yetersiz kalıyor. Sizce sosyal medya platformları yapay zeka ile üretilen içerikleri denetleme konusunda yeterli sorumluluğu alıyor mu? Görüşlerinizi yorumlarda bizimle paylaşın.