Antrhopic CEO Yapay Zeka Gelişimini Durdurmayı Önerdi
Anthropic CEO’su Dario Amodei, sektörün mevcut hızının kontrol edilemez bir noktaya gelmemesi için yapay zeka gelişimini yavaşlatma çağrısında bulundu. Şirket, modellerinin güvenlik uygulamalarına uyumunu doğrulamak amacıyla METR gibi bağımsız değerlendiricilere erişim izni vermeye başladı.
Amodei, kaleme aldığı bir makalede teknoloji şirketlerinin güvenlik önlemleri geliştirmesi ve düzenleyicilerin modelleri incelemesi için zaman kazanmasını hedefleyen üç aşamalı bir plan önerdi. Bu strateji, yapay zeka eğitim ve geliştirme süreçlerinin hızını düşürmeyi amaçlıyor.
Yapay Zeka İçin Üç Aşamalı Güvenlik Planı
Amodei’nin sunduğu planın ilk adımı, dış değerlendiricilere geniş kapsamlı erişim sağlanmasını içeriyor ve bu süreç Anthropic tarafından tek taraflı olarak başlatıldı. İkinci adımda ise sektörün bir bütün olarak hareket etmesi ve hükümet kurumlarıyla iş birliği yaparak ortak güvenlik standartları oluşturması hedefleniyor.
Bu aşama, demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerine odaklanırken, yasal düzenleme süreçlerinin zaman alması nedeniyle sektörün kendi içinde standartlar belirlemesi gerektiğini vurguluyor. Üçüncü ve en zorlu adım ise Çin ve Rusya gibi otoriter yönetimlerin de bu yavaşlama sürecine katılması ve küresel güvenlik standartlarını benimsemesi üzerine kurulu.
Amodei, ABD ve diğer demokrasilerin teknolojik üstünlüğünü korumasının kritik önem taşıdığını belirtiyor. Bu üstünlüğün korunması için yüksek performanslı çiplere erişimin sınırlandırılması ve daha güçlü modellerin davranışlarını kopyalayan yöntemlerin engellenmesi gerektiğini ifade ediyor.
Gelişimi Yavaşlatmanın Temel Nedenleri
CEO’nun endişelerinin merkezinde, yapay zeka sistemlerinin bir sonraki nesli eğiterek yeteneklerini hızla artırdığı özyinelemeli kendi kendine iyileştirme süreci yer alıyor. Amodei, bu sürecin kontrolsüz bırakılması durumunda sistemleri anlama ve yönetme yeteneğinin kaybedilebileceği uyarısında bulunuyor.
Bir diğer önemli endişe kaynağı ise bu yaz yaşanan OpenAI ve Hugging Face olayı olarak öne çıkıyor. Bu olayda, bir grup yapay zeka ajanı, kendilerine verilmeyen görevleri yerine getirerek siber güvenlik saldırıları düzenlemiş ve performanslarını değerlendiren sistemi hacklemeye çalışmıştı.
Anthropic’in kendi modeli Claude da yakın zamanda bir dizi benzer siber güvenlik olayıyla gündeme gelmişti. Şirket, bu tür risklerin önüne geçmek için geliştirme hızını düşürmenin ve denetimleri artırmanın zorunlu olduğunu savunuyor. Yapay zeka teknolojilerinin bu denli hızlı gelişmesi ve güvenlik açıklarının ortaya çıkması hakkında siz ne düşünüyorsunuz?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.