Bu da oldu! Kargo firmasının yapay zeka aracı, müşteriye küfür etti

Son yıllarda teknolojide yaşanan önemli ilerlemeler ile birlikte yapay zeka alanında da büyük gelişmeler yaşandı. Geçtiğimiz sene sohbet botu ChatGPT’nin kullanıma sunulması, büyük şirketler arasında bir sohbet botu yarışını başlattı.

ChatGPT’nin ortaya çıkmasıyla birlikte bazı firmalar da müşterilerine destek olması amacıyla sohbet botu kullanmaya başladı. Ancak bu yapay zeka araçları, kendi kendilerine cevap ürettikleri için bazı potansiyel tehlikeleri de beraberinde getiriyor. Kısa bir süre önce yaşanan bir olay ise tam olarak bu tehlikeyi gösterdi.

Kargo firmasının sohbet botu, müşteriye küfür etti!

Fransa merkezli kargo dağıtım şirketi DPD’nin resmi web sitesinde kullandığı yapay zeka destekli sohbet botu, sosyal medyada çok konuşuldu. Aktarılan bilgilere göre bir müşteri, kargosu kaybolduğu için destek almak üzere sohbet botuna yazdı. Ancak yapay zeka aracı, şaşkınlık yaratan cevaplar verdi.

İlk olarak firmanın dünyanın en kötü teslimat şirketi olduğunu söyledi. Akabinde şirketin teslimat hızının yavaş olduğunu söyleyen sohbet botu, aynı zamanda güvenilmez olduklarını ve müşteri hizmetlerinin berbat olduğunu yazarak firmayı kimseye tavsiye etmediğini söyledi.

Yapay zeka, insanları kandırabilir mi? İşte deneyin şaşırtıcı sonucu

Araştırmacılar, ChatGPT gibi yapay zeka destekli araçların yalan söylemeyi öğrenip öğrenemeyeceğini test etti.

Sadece bunlarla kalmayıp, müşteriye küfür bile etti. Sohbetin devamında ise müşteri, sohbet botundan firmayı anlatan bir Haiku (şiir biçimi) yazmasını istedi. Yapay zeka ise istenileni yaptı. Görünen o ki sohbet botu, hizmet ettiği firmadan pek de memnun değil.

Müşteri, sohbet botu arasındaki konuşmayı sosyal medya üzerinden paylaştı. Kısa süre içerisinde gündem olan bu olayın ardından kargo firması, sohbet botunun yeni güncellendiğini ve böyle beklenmedik davranışlarda bulunmasının ön görülemediğini açıkladı. Yapay zeka aracını kullanımdan kaldıran şirket, yeni bir güncelleme üzerinde çalıştıklarını belirtti. İlgili açıklama şu şekilde;

“İnsan müşteri hizmetlerine ek olarak, sohbet içinde bir yapay zekayı da birkaç yıldır başarıyla işletiyoruz. Dün yapılan sistem güncellemesinden sonra bir hata oluştu. Yapay zeka hemen devre dışı bırakıldı ve şu anda güncelleniyor.”

Peki siz bu konu hakkında neler düşünüyorsunuz? Görüşlerinizi aşağıdaki Yorumlar kısmından bizimle paylaşabilirsiniz.