ChatGPT Metinlerinde Görünmez Filigran Dönemi Başlıyor
OpenAI, Avrupa Birliği’nin yeni şeffaflık kurallarına uyum sağlamak adına OpenAI dijital filigran teknolojisini kullanıma sunmaya hazırlanıyor. Bu adım, üretken yapay zeka modelleri tarafından oluşturulan metin ve kodların tanımlanabilir hale getirilmesini hedefliyor.
Şirket, bu süreçte textGrain adını verdiği özel bir sistemden yararlanacağını duyurdu. Bu teknoloji, modellerin kelime seçimlerine görünmez istatistiksel sinyaller ekleyerek içeriğin kaynağını belirlemeye yardımcı oluyor.
textGrain Teknolojisi ve Çalışma Prensibi
OpenAI tarafından geliştirilen textGrain sistemi, yapay zeka tarafından oluşturulan içeriklerin tespit edilmesini sağlayan bir yöntem olarak öne çıkıyor. Sistem, modelin kelime tercihlerine görünmez bir istatistiksel sinyal yerleştirerek bu içeriğin yapay zeka ürünü olduğunu kanıtlıyor.
Bu sinyal, özel bir dedektör aracılığıyla taranabiliyor ve içeriğin filigranlı olup olmadığı anlaşılabiliyor. OpenAI, bu sistemin SynthID gibi diğer yaklaşımların performansını yakaladığını veya geçtiğini belirtiyor.
Ancak şirket, ideal koşullardaki güçlü performansın günlük kullanımda her zaman güvenilir sonuçlar garantilemediği konusunda uyarıda bulunuyor. Özellikle kısa metinler ve matematiksel içerikler, tespit edilme konusunda daha zorlu bir yapı sergiliyor.
OpenAI verilerine göre, bu tür içeriklerde başarı oranı yaklaşık yüzde 80 seviyesinde kalıyor. Metin üzerinde yapılan düzenlemeler de filigranın tespit edilme başarısını düşüren faktörler arasında yer alıyor.
AB Yapay Zeka Yasası ve Uygulama Süreci
Avrupa Birliği’nin Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sağlayıcılarının metin çıktılarını makine tarafından okunabilir bir şekilde tanımlanabilir kılmasını zorunlu tutuyor. Bu düzenleme, pazara yeni giren şirketlerin yanı sıra mevcut tüm kuruluşları da kapsıyor.
OpenAI ve Anthropic gibi şirketlerin yanı sıra Microsoft, Google ve Meta gibi devlerin de bu kurallara uyması gerekiyor. Mevcut kuruluşlar için belirlenen son uyum tarihi ise 2 Aralık olarak açıklandı.
Filigran özelliği, Avrupa Birliği’ndeki uygun ChatGPT ve Codex çıktıları için varsayılan olarak aktif hale getirilecek. Diğer bölgelerdeki kullanıcılar ise belirli modeller için bu özelliği isteğe bağlı olarak tercih edebilecek.
OpenAI, tespit yazılımına erişim konusunda başlangıçta daha temkinli bir yaklaşım sergiliyor. Yazılımın kullanımı, ilk aşamada yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlandırılacak.
Şirket, bu dedektörün kullanıcıyı tanımlamadığını veya herhangi bir istemi ya da konuşmayı ifşa etmediğini vurguluyor. Ayrıca, geliştirilen teknolojinin açık kaynaklı hale getirilerek başkalarının da üzerinde çalışma yapmasına olanak tanınması planlanıyor.
OpenAI, hangi modellerin genel kullanıma sunulacağı konusunda henüz net bir detay paylaşmadı. Bu teknolojik gelişme, yapay zeka içeriklerinin şeffaflığı konusunda önemli bir dönüm noktası olarak değerlendiriliyor.
Sizce yapay zeka tarafından üretilen içeriklere eklenen bu tür görünmez filigranlar, dijital dünyada güvenliği sağlamak için yeterli olacak mı?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.