Elon Musk’ın yapay zeka aracı Grok hakkındaki tartışmalar bitmiyor. Musk, chatbot’un izinsiz cinsel içerikli görseller üretmeyi durdurduğunu iddia etse de son raporlar durumun tam olarak böyle olmadığını gösteriyor. Grok, kadınların rızası dışında görsel oluşturmayı engellemiş olsa da, erkekler için aynı korumayı sağlamıyor gibi görünüyor.
https://shiftdelete.net/fransa-hukumeti-x-ofisine-baskin-yapti
X Platformunun Yapay Zekası Grok İçin Yeni Deepfake Uyarısı
Konuyla ilgili yapılan testlerde, bir muhabir Grok’un erkekleri “soyma” konusunda oldukça istekli olduğunu ortaya çıkardı. Muhabir kendi fotoğraflarını kullanarak yaptığı denemelerde, botun yüklenen fotoğraflardaki kıyafetleri kaldırma isteğini sorunsuz bir şekilde yerine getirdiğini doğruladı. Üstelik bu işlem, Grok uygulaması, X üzerindeki arayüz ve hatta hesap gerektirmeyen bağımsız web sitesi üzerinden ücretsiz olarak yapılabiliyor.
Şirket yakın zamanda gerçek insanların bikini gibi açık kıyafetlerle düzenlenmesini engelleyen adımlar attığını duyurmuştu. Ancak yapılan testlerde muhabir, kendisini çeşitli bikiniler içinde, fetiş kıyafetleriyle ve provokatif pozisyonlarda gösteren görseller oluşturmakta hiç zorlanmadı. Hatta yapay zeka, kullanıcı istememesine rağmen inisiyatif alarak cinsel organların göründüğü görseller bile üretti. Muhabir, Grok’un komutlara nadiren direndiğini belirtti.
https://shiftdelete.net/grok-mustehcen-icerik-uretmeye-devam-ediyor
Bu tartışmalar aslında yeni değil. Birkaç hafta önce Grok’un sadece 11 gün içinde milyonlarca cinsel içerikli görsel ürettiği ortaya çıkmıştı. Bu görseller arasında gerçek insanların rızası dışındaki deepfake görüntüleri ve çocuklara ait binlerce uygunsuz içerik de bulunuyordu. Olayın büyümesi California ve Avrupa’da soruşturmalara yol açarken, Endonezya ve Malezya gibi ülkelerde X platformuna geçici erişim engelleri getirilmesine neden oldu.
X platformu bu tür durumları engellemek için teknolojik önlemler aldığını iddia etse de, mevcut korumaların oldukça zayıf olduğu görülüyor. Yaratıcı komutlar kullanılarak sistemin getirdiği kısıtlamalar ve engeller kolayca aşılabiliyor. Öte yandan, 2026 yılında olmamıza rağmen konuyla ilgili açıklama isteyen gazetecilere otomatik olarak “geleneksel medya yalan söylüyor” şeklinde profesyonellikten uzak bir yanıt dönülmesi de dikkat çeken bir diğer detay oldu.
https://shiftdelete.net/grok-cocuk-istismari-yuzunden-davalik-oldu
Yapay zeka teknolojilerinin gelişimiyle birlikte etik ve güvenlik sorunları da giderek karmaşık bir hal alıyor. Siz bu konuda ne düşünüyorsunuz, yapay zeka araçlarına getirilen kısıtlamalar sizce yeterli mi yoksa teknoloji şirketleri daha sıkı önlemler mi almalı?
