Meta, yapay zeka alanındaki çalışmalarını hızlandırıyor. Üretken yapay zeka konusunda yeni bir proje üzerinde çalıştığını duyuran şirket, yapay zeka tabanlı konuşma aracını sundu. Voicebox isimli projenin “kötüye kullanım nedeniyle” kullanıcılara açılmayacağını söyledi.
Meta Voicebox yapay zeka nedir?
Meta tarafından geliştirilen Voicebox, eğitiminin ötesinde görevleri tamamlayabilen ilk yapay zeka modeli olduğunu söylüyor. Şu anda altı dili destekleyen araç, yalnızca iki saniyelik ses örneğini kullanarak bir kişinin sesini taklit edebiliyor.
Ancak sosyal medya devine göre bu başarısı, tehlikeli durumlara kapı aralayabilir. Tüm seslerin yer aldığı bir metinden sahte konuşmalar yaratabilen Voicebox, yanlış kullanıldığında ciddi derecede tehlikeli sonuçlara yol açabilir.
Dolandırıcılar, yapay zeka ile sesinizi taklit edebiliyor. Bu taklit ile arkadaşlarınızdan veya aile üyelerinizden para isteyebilir.
Voicebox gibi yapay zekaların en büyük tehlikelerinden biri, tanınmış kişilerin seslerini üreterek insanları kandırmaktan geçiyor. Bu, yanlış bilginin yayılması ve dolandırıcılık faaliyetlerinin artması gibi sonuçlara yol açabilir.
Meta ayrıca bu araçlar sayesinde gerçek kişiler tarafından hazırlanan konuşmaların düzeltileceğini de dikkat çekti. Ses kayıtlarını düzenleme yeteneği sayesinde daha önceden kaydedilmiş bir sesin kalitesini artırmak mümkün.
Meta, bu teknolojiyle ilişkili riskleri kabul etti. Bu yüzden kötüye kullanımı önlemek için Voicebox’ı herkese açık hale getirmek yerine bir araştırma makalesi olarak sundu.
Geçtiğimiz günlerde ortaya çıkan bir araştırmaya göre, hackerlar, belirli kişilerin seslerini yapay zeka ile taklit ederek insanlardan para talebinde bulunuyor. Bu yüzden kullanıcıların gerçek ve sahte iletişim arasında ayrım yapması giderek zorlaşacağı düşünülüyor.
Peki siz bu konu hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.
