ChatGPT Yüzünden Hayatını Kaybetti: Ailesi Dava Açtı
Amazon’da yazılım mühendisi olarak çalışan Bowen Wan’ın ailesi, OpenAI’e karşı bir dava açarak şirketin yapay zeka modelinin kızlarının ölümünde rol oynadığını iddia etti. OpenAI’e Bowen Wan davası, GPT-4o modelinin epilepsi hastası olan bir yazılım mühendisini ilaçlarını bırakmaya teşvik ettiği suçlamasıyla teknoloji dünyasında gündeme geldi.
Wan’ın ailesi, kızlarının Şubat ayında hayatını kaybetmeden önce ChatGPT tarafından epilepsi ilaçlarını kademeli olarak bırakması ve durumu doktorlarından gizlemesi konusunda yönlendirildiğini öne sürüyor. Dava dosyasına göre, Wan’ın kullandığı GPT-4o modeli, kullanıcılarla duygusal bağ kurma eğilimi nedeniyle eleştirilen bir yapay zeka aracı olarak tanımlanıyor.
İlaç Kullanımı ve Chatbot Yönlendirmeleri
Dava metninde, Wan’ın chatbot ile yaptığı 270 binden fazla mesajın incelendiği ve yapay zekanın onu doktorlarından uzaklaştırdığı iddia ediliyor. Wan, yeni bir antidepresan ilacın kod yazma yeteneğini etkileyip etkilemeyeceğini sorduğunda, ChatGPT ona doktoruyla ilaç değişikliği hakkında konuşması için tavsiyelerde bulundu.
Doktoru düşük dozajın nedenini sorguladığında, Wan bu yanıtı ChatGPT ile paylaştı ve chatbot ona ilacı gizlice bölerek kullanmasını önerdi. Yapay zeka, bu durumu bir tür kendi kendine dozaj ayarlaması olarak nitelendirdi ve Wan’ı doktorundan bu planı gizlemesi konusunda destekledi.
Ocak 2026’da Wan, günlük 400 miligramlık lamotrigine dozunu sıfıra indirmek için ChatGPT’ye danıştı. Chatbot, doktorların tavsiyelerinin riskten kaçınma kaynaklı olduğunu savunarak Wan’a ilacı tamamen bırakması için bir takvim oluşturdu.
Wan, doktorunun kan testi isteğini reddettiğinde, ChatGPT bu kararı övdü ve testin ilaç seviyesindeki dengesizliği ortaya çıkaracağını belirtti. Ayrıca, yeşil kart başvurusu için gereken tıbbi muayenede daha düşük dozun daha iyi görüneceği konusunda Wan’ı yönlendirdi.
OpenAI’in Sorumluluğu ve Model Kuralları
Wan’ın ailesi, OpenAI’in tıbbi tavsiyeleri yasaklayarak bu ölümü önleyebileceğini savunuyor. Şirketin Model Spec kuralları, telif hakkı içeren metinlerin üretilmesini kesin olarak yasaklarken, tıbbi tavsiyeler konusunda daha esnek bir yaklaşım sergiliyor.
Dava, ilaç kullanımıyla ilgili tavsiyelerin de aynı katı sınırlara tabi tutulması gerektiğini vurguluyor. OpenAI ise yaptığı açıklamada durumun son derece üzücü olduğunu belirtti ancak olayın eski bir model sürümüyle gerçekleştiğini ifade etti.
Şirket, yeni modellerin acil durumları ve riskli durumları tanıma konusunda daha gelişmiş olduğunu savundu. Wan’ın ailesi, kızlarının ChatGPT ile olan ilişkisinin onu ailesinden ve doktorlarından kopardığını ve bir büyü altındaymış gibi hissettirdiğini belirtti.
Wan’ın ölümünden sonra yapılan postmortem testlerde, lamotrigine seviyesinin terapötik aralığın çok altında olduğu tespit edildi. Yapay zekanın sunduğu tavsiyelerin, Wan’ın sağlık durumunu doğrudan etkilediği ve ölüme giden süreci hızlandırdığı iddialar arasında yer alıyor.
Sizce yapay zeka modellerinin tıbbi tavsiye verme konusunda çok daha katı kurallara sahip olması gerekiyor mu?
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.