OpenAI, ChatGPT’nin yanıtlarındaki hataları belirleyerek eğitilmesine yardımcı olacak CriticGPT adlı yeni yapay zeka sistemini tanıttı. ChatGPT’nin açıklarını gidermek için kullanılacak model, “insan+ChatGPT” karışımından oluşuyor.
OpenAI, CriticGPT ile hatalı bilgileri bulacak
ChatGPT, sohbet etme yetenekleriyle teknoloji dünyasını kasıp kavurmaya devam ediyor. Ancak her yapay zekada olduğu gibi yanlış ve hatalar sonuçlar verebiliyor. Bu hataları tespit etmek ve düzeltmek ise ChatGPT’nin önemli bir parçasını oluşturuyor.
ChatGPT büyüdükçe ve daha fazla bilgi topladıkça bu görevi gerçekleştirme daha zor oluyor. Bu kapsamda OpenAI, hataları daha ince eleyen yeni bir yapay zeka modeli geliştirmeyi tercih etti. CriticGPT isimli model, GPT dil modeline dayanıyor ve temel çalışma amacı ise yanlış hata/bilgileri tespit etmek olacak.
OpenAI, çok yakın bir zamanda ChatGPT için Çin özelinde radikal bir karar alabilir. Şirketin, ülke genelinde erişimi engellemesi söz konusu.
Yürütülen testlerde OpenAI, “insan+ChatGPT ekibinden” gelen eleştirilerin yüzde 60’ını CriticGPT ile yakalayabildiğini ifade etti. Bu, önümüzdeki süreçte ChatGPT’nin yanıtlarını daha etkili şekilde değerlendirilebileceğini gösteriyor.
CriticGPT, kullanıcılar tarafından eklenen hataların yanı sıra, ChatGPT’nin hatalarını bularak eğitildi. Ancak OpenAI, yalnızca kısa yanıtları analiz edebileceğini söyleyerek sınırlamaları olduğunu belirtti. Bu kapsamda GPT-4’ün hatalarını bulmak için GPT-4’ü kullanacağını söylüyor.
Hatalı bilgilendirmeler aslında yapay zekaların tehlikeye girmesine yol açıyor. Örneğin, ChatGPT’nin Çin’de yasaklanacağı dair bazı iddialar bulunuyor. OpenAI ise Çin pazarından çekileceğine dair resmi bir açıklama yapmadı. Ancak şirketin bu kararı açıklamasının ardından ciddi bir domino etkisi doğacak gibi görünüyor
SDN Yorumları 1 Yorum
Yorum Yap
Kime göre doğru bilgi? benim doğrularım farklı başaksının doğruları farklı!