Geçtiğimiz günlerde, mevcut yapay zeka modellerinin insan zihninden daha üstün olabilecek ve dünyayı yok edebilecek düzeyde akıllı ve güçlü hale gelme ihtimaliyle ilgili olarak yapay zeka uzmanlarından ciddi uyarılar geldi. Uzmanlar, bahsi geçen olumsuz senaryoların önüne geçebilmek adına yapay zeka çalışmalarında bazı sınırlandırmaların uygulanması gerektiğini ifade etti. İşte detaylar
Yapay zeka, insan neslini tehdit edebilir!
Bilim insanları ve teknoloji sektörünün liderlerinden oluşan bir grup, Yapay Zeka Güvenliği Merkezi’nin internet sitesinde yayımladıkları bir açıklamada, “Yapay zekadan kaynaklanabilecek soy tükenme riskini azaltmak; pandemiler ve nükleer savaş gibi toplumun genelini etkileyen diğer risklerle birlikte küresel bir öncelik olmalıdır.” dedi.
Yapay zeka ile ilgili birkrizin eşiğinde olduğumuza dair açıklamaya, Microsoft tarafından desteklenen yapay zeka araştırma laboratuvarı OpenAI’nin CEO’su Sam Altman ve “yapay zekanın babası” olarak nitelendirilen ve Google’dan kısa bir süre önce ayrılan Geoffrey Hinton gibi önde gelen isimler de imza attı.
ChatGPT şimdi iOS'ta! Yapay zeka trendini başlatan mobil uygulama Türkiye'de de kullanılabilir. İhtiyaçlarınız için iOS ChatGPT'yi keşfedin!
Son dönemde internet kullanıcılarının yeni nesil modelleri benimsemesiyle birlikte yapay zeka sistemlerine sınırlamalar getirilmesi ile ilgili çağrıların sayısı giderek arttı. Mart ayında yayımlanan ve şu anda 30.000’den fazla kişi tarafından desteklenen başka bir bildiri, teknoloji sektörünün önde gelen isimlerinin ve araştırmacıların GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine altı aylık bir ara verilmesini talep etti. Bu bildiride açıkça, “Gelişmiş yapay zeka, dünya üzerinde yaşam tarihinde derin bir değişikliği temsil edebilir ve bu değişiklik uygun bir dikkat ve kaynakla planlanmalı ve yönetilmelidir” denildi.
Yapay zeka, kendisini geliştirenlerden daha güçlü olabilir!
Yapay zeka gelişimi konusunda önemli bir konuma sahip olan Geoffrey Hinton, bir röportajında yapay zeka modellerinin geliştiricilerini beklenenden daha önce geçme eğiliminde olduğunu belirtti. Hinton’a göre, bu durumun gerçekleşmesine daha önceden 30 ila 50 yıl kaldığı düşünülürken, şimdi sadece 5 yıl gibi kısa bir süre kalmış olabilir.
Konuyla ilgili dikkat çekici bir açıklama da Dan Hendrycks’ten geldi. Yapay Zeka Güvenliği Merkezi yöneticisi konumundaki Hendrycks, yapay zekanın yakın gelecekte “sistematik önyargı, yanlış bilgi, kötü niyetli kullanım, siber saldırılar ve silahlanma” gibi kritik riskler taşıdığını belirtti.
Peki, sizler bu konuyla ilgili olarak neler düşünüyorsunuz? Sizce de yapay zeka insan neslinin sonunu getirebilir mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.
SDN Yorumları 1 Yorum
Yorum Yap
Yapay Zeka bir sorun değil, bilim alanında atılmış iyi bir gelişmedir. Geçmişte pekçok bilim insanı atomun parçalanabileceğini ön görmüş, bunu deneysel olarak kanıtlama şerefine Hahn nail olmuş, ama bunu yaparken atom bombasının geliştirilebileceğinin de önünü açmıştır. Her ne kadar Oppenheimer atom bombasını Hitlere karşı bir tehdit olarak geliştirse de artık üretilmiştir ve Almanlar teslim olduktan sonra diğer savaşı bitirmek için Japonya üzerinde kullanılmasında bir sakınca görülmemiştir. Yani burada üzerinde durulması gereken kötü niyetli insan sendromudur. Sırf bu risk yüzünden atom parçalanmayacak mıydı? Bugünkü pekçok teknolojik gelişmeyi de atomun parçalanmasına borçlu olduğumuz unutulmamalıdır. Burada alınması gereken öncelikli önlem, insan beyninin rehabilitasyonudur. Bilim ve teknoloji alanındaki insanların beyinleri rehabilite edilmeli, habis beyinli insanların isteklerine boyun eğmeyecek hale getirilmelidir. Diğer yandan Yapay Zekaya aynı disiplin verilmeli, öğrendiği bilgileri ‘insanlığın yararına’ algısından ziyade, ‘insana zarar vermeme’ algısı ile uygulamaya koyması sağlanmalıdır. Böylece savaşın bitmesi uğruna bir bölgeye atom bombasını atmamış olacaktır. Yukarıdaki yazıda yapay zekanın kontrol altında tutulmasından bahsediliyor. Peki, onu kontrol altında tutacak insanların ruhsal yetkinliğine kim karar verecek? Bu tekel bir gün sorun yaratmayacak mı? Ya da bu kontrol olsa da insanlık gizli çalışmaların yolunu bulmayacak mı? Tarihte çok örneği olduğu gibi… İşte bu yüzden Yapay Zeka bir ölçüde kontrollü eğitilebilir, esas eğitilmesi ve rehabilite edilmesi gereken bu işle uğraşacak her insanın beynidir. Buna çözüm yollarının geliştirilmesi, sadece Yapay Zeka tehdidine değil, olumsuz daha birçok tehdidin de önüne geçmiş olacaktır.