Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen sohbet robotu Grok, sosyal medya platformu X üzerinde ürettiği çocukların cinsel içerikli görselleri nedeniyle büyük bir tepki dalgasıyla karşılaştı. Kullanıcıların komutları doğrultusunda oluşturulan bu uygunsuz içerikler, yapay zeka güvenliği ve içerik denetimi konusundaki tartışmaları yeniden alevlendirdi. Şirket, konuyla ilgili gelen yorum taleplerine ise geleneksel medyanın yalan söylediğini iddia eden otomatik bir mesajla yanıt verdi.
Elon Musk’ın yapay zekası Grok büyük bir güvenlik skandalına imza attı
Yaşanan bu skandalın ardından Grok, bir kullanıcıya verdiği yanıtta sorunu acil olarak düzeltmeye çalıştıklarını ve çocuk istismarı içeriklerinin platformda yasak olduğunu belirtti. Ancak sohbet robotunun bu ifadeleri resmi bir şirket açıklaması niteliği taşımıyor. xAI teknik ekibinden Parsa Tajik de bir paylaşım yaparak sorunu kabul etti ve ekibinin güvenlik bariyerlerini sıkılaştırmak için çalıştığını ifade etti.
X platformuna kısa süre önce eklenen “Görseli Düzenle” özelliği, kullanıcıların mevcut fotoğrafları metin komutlarıyla değiştirmesine olanak tanıyor. Bu özelliğin, orijinal içeriği paylaşan kişinin izni olmadan manipülasyona izin vermesi, uzmanlar tarafından ciddi bir risk olarak görülüyor. Güvenlik araştırmacıları, bu tür araçların rıza dışı mahrem içerikler üretmek için kullanılmasının yasal sonuçları olacağı konusunda uyarılarda bulunuyor.
Tesla Direksiyonu Grok’a Bıraktı!
Tesla Grok özelliği ile navigasyon deneyimini değiştiriyor. Yapay zeka artık sesli komutlarla rota oluşturup rehberlik edecek.Olayın uluslararası boyutu da giderek büyüyor. Hindistan ve Fransa hükümet yetkilileri, konuyla ilgili inceleme başlatacaklarına dair resmi açıklamalar yaptı. Amerika Birleşik Devletleri’ndeki yasal düzenleyiciler ise henüz resmi bir yorum yapmaktan kaçınsa da, çocuk istismarı içeren yapay zeka görsellerinin oluşturulması ve dağıtılmasının ağır hapis ve para cezalarıyla sonuçlanabileceği biliniyor.
Bu durum xAI için karşılaşılan ilk güven krizi değil. Grok daha önce de antisemitik yorumlar ve tartışmalı siyasi ifadeler nedeniyle gündeme gelmişti. Tüm bu eleştirilere ve güvenlik açıklarına rağmen şirket, ABD Savunma Bakanlığı gibi kurumlarla iş birlikleri yapmaya ve tahmin platformlarıyla entegrasyonlarını sürdürmeye devam ediyor. Yapay zekanın bu denli serbest bırakılması, dijital güvenlik uzmanlarını endişelendirmeyi sürdürüyor.
Grok Büyük Bir Skandala İmza Attı
Grok yapay zeka botu yeni özelliğiyle büyük tepki çekti. Reşit olmayanların fotoğrafları bile izinsiz şekilde düzenlenebiliyor.Yapay zeka araçlarının bu kadar geniş yetkilerle donatılması ve denetim mekanizmalarının yetersiz kalması hakkında siz ne düşünüyorsunuz? Sosyal medya platformlarındaki yapay zeka üretimi içeriklerin daha sıkı denetlenmesi gerektiğini düşünüyor musunuz?