Makine‘lere karşı savaş tam gaz devam ediyor. Başlangıçta genel olarak üretken yapay zekaya olan hoşnutsuzluk, şimdi sanatçılar tarafından tam ölçekli bir saldırıya dönüşmüş durumda. Peki sanatçılar neden bu yola başvuruyor? Yapay zekayı kör etme sebepleri ne? İşte tüm yanıtlar…
Sanatçılar, yapay zekayı neden zehirlemeye çalışıyor?
Bu husumetin nedeni yapay zekanın, sanatçıların izni olmadan platformlardaki orijinal görüntülerle eğitiliyor olması. Spesifik olarak anlatmak gerekirse geliştirilen bazı yeni ürünler, yapay zekayı hatalar yapacak şekilde kafasını karıştırmayı amaçlıyor.
Yani yapay zekanın “sanat eseri” verilerini “zehirleme” amacıyla piyasaya sürülüyor. Örneğin Nightshade, Chicago Üniversitesi’ndeki araştırmacılar tarafından geliştirilmiş ücretsiz bir yazılım. Sanatçılar çok beklemiş olacaklar ki, ocak ayında çıkışından bu yana bu yazılımı 250 binden fazla kişi indirdi.
Bu yapay zeka sahte kimlik üretiyor! Sizinkini de çalabilir!
Yapay zeka ile üretilen sahte kimlik dolandırıcılıkta yeni bir tehdit oluşturuyor. Ne gibi önlemler alınmalı? İşte ayrıntılar...Konuyla ilgili bir VentureBeat makalesinde, “Araç temel olarak yapay zekayı yapay zekaya karşı kullanarak çalışıyor,” deniyor. Yani yapay zekayı kör etmek için başka bir yapay zeka kullanılıyor. DALL-E ve Midjourney AI gibi platformlar, ticari sanat da dahil olmak üzere web’den veri toplayarak çalışıyor.
Midjourney’in raporlara göre izinsiz olarak orijinal yapımcılardan daha fazla 100 milyondan fazla görüntüyle eğitim aldığı belirtiliyor. Açıklığa kavuşturmak gerekirse, bu doğrudan “çalıntı” anlamına gelmiyor. Eğitim verisi parçalara ayrılıyor ve ardından istendiğinde yeniden yapılandırılıyor, bu da çıktının mevcut bir sanat eserinin aynısı değil, bir benzeri olacağı anlamına geliyor.
Veri zehirleme aracı: Nightshade nasıl çalışıyor?
Bu yapay zeka yazılımı, diğer yapay zeka programlarının görüntülerdeki nesneleri yanlış tanımlaması için etiketler kullanarak çalışıyor, “piksel düzeyinde resmi ince bir şekilde değiştirerek diğer yapay zeka programlarının gerçekte olduğundan farklı bir şey görmesini sağlıyor.” Yani resmen zehirleniyor!
Kaynak, sonucun yapay zekanın muhtemelen kullanıcı talimatlarıyla eşleşmeyen sonuçlar üreteceğini açıklıyor. “Örneğin, insan gözleri yeşil bir alanda bir inek resmi görebilirken, bir yapay zeka modeli çimenlerin üzerinde yatan büyük bir deri çanta görebilir,” diyor. Nightshade’i tanıtan ekip, yaklaşık bir yıl önce piyasaya sürülen diğer bir AI-engelleyici araç olan Glaze‘in de arkasında.
Bu araç, sanatçının tarzını gizlemek için tasarlanmış, bu da üretken yapay zekanın sahneye girmesiyle sanatçıların en büyük kabusu haline geldiği anlamına geliyor. Geliştiricilere göre çözüm, yapay zeka şirketlerinin, görüntüleri sanatçılardan lisanslamaları olabilir. Böylece bunları ücretsiz web‘den almazlar.
Siz bu konu hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.
