Elon Musk’ın yapay zeka aracı Grok hakkındaki tartışmalar bitmiyor. Musk, chatbot’un izinsiz cinsel içerikli görseller üretmeyi durdurduğunu iddia etse de son raporlar durumun tam olarak böyle olmadığını gösteriyor. Grok, kadınların rızası dışında görsel oluşturmayı engellemiş olsa da, erkekler için aynı korumayı sağlamıyor gibi görünüyor.
Fransa Hükümeti X Ofisine Baskın Yaptı!
Elon Musk'ın X platformunun Paris ofisine siber suçlar birimi tarafından baskın düzenlendi. Grok ve deepfake soruşturması derinleşiyor.X Platformunun Yapay Zekası Grok İçin Yeni Deepfake Uyarısı
Konuyla ilgili yapılan testlerde, bir muhabir Grok’un erkekleri “soyma” konusunda oldukça istekli olduğunu ortaya çıkardı. Muhabir kendi fotoğraflarını kullanarak yaptığı denemelerde, botun yüklenen fotoğraflardaki kıyafetleri kaldırma isteğini sorunsuz bir şekilde yerine getirdiğini doğruladı. Üstelik bu işlem, Grok uygulaması, X üzerindeki arayüz ve hatta hesap gerektirmeyen bağımsız web sitesi üzerinden ücretsiz olarak yapılabiliyor.
Şirket yakın zamanda gerçek insanların bikini gibi açık kıyafetlerle düzenlenmesini engelleyen adımlar attığını duyurmuştu. Ancak yapılan testlerde muhabir, kendisini çeşitli bikiniler içinde, fetiş kıyafetleriyle ve provokatif pozisyonlarda gösteren görseller oluşturmakta hiç zorlanmadı. Hatta yapay zeka, kullanıcı istememesine rağmen inisiyatif alarak cinsel organların göründüğü görseller bile üretti. Muhabir, Grok’un komutlara nadiren direndiğini belirtti.
Grok Müstehcen İçerik Üretmeye Devam Ediyor!
The Guardian'ın testi, X'in yapay zekası Grok'un güvenlik önlemlerine rağmen rıza dışı müstehcen görseller ürettiğini ortaya çıkardı.Bu tartışmalar aslında yeni değil. Birkaç hafta önce Grok’un sadece 11 gün içinde milyonlarca cinsel içerikli görsel ürettiği ortaya çıkmıştı. Bu görseller arasında gerçek insanların rızası dışındaki deepfake görüntüleri ve çocuklara ait binlerce uygunsuz içerik de bulunuyordu. Olayın büyümesi California ve Avrupa’da soruşturmalara yol açarken, Endonezya ve Malezya gibi ülkelerde X platformuna geçici erişim engelleri getirilmesine neden oldu.
X platformu bu tür durumları engellemek için teknolojik önlemler aldığını iddia etse de, mevcut korumaların oldukça zayıf olduğu görülüyor. Yaratıcı komutlar kullanılarak sistemin getirdiği kısıtlamalar ve engeller kolayca aşılabiliyor. Öte yandan, 2026 yılında olmamıza rağmen konuyla ilgili açıklama isteyen gazetecilere otomatik olarak “geleneksel medya yalan söylüyor” şeklinde profesyonellikten uzak bir yanıt dönülmesi de dikkat çeken bir diğer detay oldu.
Grok Çocuk İstismarı Yüzünden Davalık Oldu
X'in yapay zekası Grok'un 11 günde 23 binden fazla çocuk istismarı görüntüsü üretmesi üzerine AB'den Grok soruşturması başlatıldı.Yapay zeka teknolojilerinin gelişimiyle birlikte etik ve güvenlik sorunları da giderek karmaşık bir hal alıyor. Siz bu konuda ne düşünüyorsunuz, yapay zeka araçlarına getirilen kısıtlamalar sizce yeterli mi yoksa teknoloji şirketleri daha sıkı önlemler mi almalı?