Yapay Zeka ile Sahte Tanık Üreten Avukata Ağır Ceza
New Mexico Yüksek Mahkemesi, bir cinayet davası temyiz dosyasında yapay zeka kaynaklı sahte tanıklar ve gerçek dışı polis ifadeleri kullanan avukat Stephen Aarons hakkında yaptırım kararı aldı. Mahkeme, avukatın sunduğu belgelerin doğruluğunu teyit etmediği gerekçesiyle kendisine 5 bin dolar para cezası verdi.
Söz konusu dava dosyasının, tamamen uydurma tanık ifadeleri ile saldırganın kıyafetleri ve dış görünüşü hakkında yanlış bilgiler içerdiği tespit edildi. Avukat Aarons, mahkeme sürecinde ChatGPT kullanarak hazırladığı özetin hatasız olacağını düşündüğünü itiraf etti.
Mahkeme, avukatın mahkeme huzurunda kurşun geçirmez bir özet sunma beklentisiyle hareket ettiğini ancak bu süreçte temel yasal sorumluluklarını ihmal ettiğini belirtti. Bu durum, hukuk dünyasında yapay zeka araçlarının kontrolsüz kullanımına dair oldukça dikkat çekici bir örnek oluşturdu.
Mahkeme Sürecinde Yaşananlar
Ağustos ayında gerçekleştirilen duruşmada Yargıç C. Shannon Bacon, avukatın yapay zeka kullanımının getirdiği risklerden nasıl habersiz olabildiğini sorguladı. Yargıç Bacon, avukata dünyada olup bitenleri takip edip etmediğini sorarak, yapay zeka halüsinasyonlarının artık her gün haberlere konu olduğunu hatırlattı.
Mahkeme kayıtlarına göre, avukatın kurşun geçirmez bir özet oluşturacağını umduğu ChatGPT, aslında tamamen hayali veriler üretmişti. Bu durum, hukuk dünyasında yapay zeka araçlarının kontrolsüz kullanımına dair ciddi bir örnek teşkil etti.
Avukat Stephen Aarons, Reuters’a yaptığı açıklamada pişman olduğunu ve disiplin kurulunun bunun dürüst bir hata olduğunu dikkate almasını umduğunu ifade etti. Aarons, yapay zekanın sunduğu bilgileri doğrulamadan mahkemeye sunmanın sonuçlarıyla yüzleşmek zorunda kaldı.
Hukuk Dünyasında Yapay Zeka Tartışmaları
Hukuk alanında yapay zeka araçlarını kullanan avukatların sayısı artarken, mahkemeler tarafından tespit edilen hatalı veya uydurma alıntıların sayısı da yükseliyor. Geçtiğimiz yıl, iki hukuk firması, yanlış ve yanıltıcı yasal alıntılar içeren bir dosya sundukları için bir yargıç tarafından sert bir şekilde eleştirilmişti.
Ayrıca, Mike Lindell’in avukatları da yapay zeka tarafından oluşturulan hatalı alıntılar ve sahte referanslar nedeniyle para cezasına çarptırılmıştı. Bu tür vakalar, yapay zeka teknolojisinin hukuki belgelerde kullanımı konusunda ciddi güvenlik endişelerini beraberinde getiriyor.
Hukuk profesyonelleri, yapay zeka tarafından üretilen içeriklerin doğruluğunu teyit etmenin artık zorunlu bir sorumluluk haline geldiğini vurguluyor. Mahkemeler, avukatların teknolojik araçlara olan güveninin, profesyonel sorumluluklarını gölgelememesi gerektiği konusunda uyarılarını sürdürüyor.
Yapay zeka halüsinasyonları, özellikle hukuk gibi hassas alanlarda ciddi sonuçlar doğurabiliyor ve bu durum avukatların teknolojiye olan bağımlılığını sorgulatıyor. Yaşanan bu olay, yapay zeka destekli araçların hukuk sistemindeki yerini ve güvenilirliğini bir kez daha tartışmaya açıyor.
Sizce avukatların yapay zeka araçlarını kullanırken hukuki sorumlulukları nasıl sınırlandırılmalı?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.