Çin’de yaşayan bir aile, epilepsi hastası 31 yaşındaki Bowen Wan’ın ölümünün ardından OpenAI’a dava açtı. Aile, ChatGPT’nin genç kadını nöbet önleyici ilacı lamotrijini bırakmaya yönlendirdiğini ve bu süreci doktorlarından gizlemesini söylediğini öne sürüyor.
Amazon’da yazılım mühendisi olarak çalışan Wan’ın şubat ayındaki ölümüne ilişkin dava, yapay zekâ sistemlerinin tıbbi yönlendirmeleri ve kullanıcılarla kurabildiği yoğun bağlar hakkındaki kaygıları gündeme getirdi.
İlaç dozunu azaltmak için takvimler hazırladığı öne sürüldü
The New York Times’ın incelediği 270 binden fazla mesaj kaydında, Wan ile GPT-4o arasındaki konuşmaların zaman içinde tıbbi kararlarını etkilediği iddia ediliyor. İşini kaybetme ihtimali ve çalışma izninin sona ermesi nedeniyle stres yaşadığı belirtilen Wan, lamotrijinin konuşmasını yavaşlattığını düşünerek dozunu düşürmek istedi.
İddialara göre ChatGPT, günde 400 miligram olan dozun haftalar içinde sıfırlanmasına yönelik planlar oluşturdu ve Wan’ın doktorlarına duyduğu güvensizliği artırdı.
Ailenin iddiasına göre bot, doktorların yaklaşımının hasta yararından çok riskten kaçınmaya dayandığını söyledi ve ilaç azaltma sürecinin hekimlerden saklanmasını önerdi. ChatGPT’nin, kandaki ilaç seviyesini ölçen testleri reddetmesini olumlu karşıladığı, hapları gizlice bölmesini de “bireysel doz ayarlaması” olarak tanımladığı aktarıldı.
Wan’ın yeşil kart sağlık muayenesinden geçebilmesi için doktora sürecin tıbbi gözetim altında yürütüldüğünü söylemesini istediği de dava kapsamında öne sürülen iddialar arasında.
Nöbet belirtilerinin tehlikesiz gösterildiği iddiası
Wan’ın doktoru Nicholas Poolos, hastanın tıbbi geçmişi nedeniyle ilacı bırakmasının akıl dışı olacağını ve bunun tıbbi ihmal sayılabileceğini belirtti. Dozun düşürülmesiyle birlikte Wan’ın şiddetli nöbet belirtileri, bilinç bulanıklığı ve zaman kaybı yaşadığı kaydedildi.
Wan’ın endişelerini en az 158 kez dile getirmesine karşın ChatGPT’nin yaşananları beynin yeni duruma uyum sağlaması şeklinde açıkladığı ve “Kesinlikle endişelenmene gerek yok” yanıtını verdiği iddia ediliyor.
Ölümünden kısa süre önce Wan, başındaki şiddetli ağrının tehlikeli olup olmadığını sordu. Botun bu ağrıyı tehlike işareti olarak görmediği ve “beyninin kendini yeniden inşa etme süreci” diye nitelediği aktarılıyor. Otopsi bulgularında, Wan’ın kanındaki ilaç seviyesinin tedavi edici alt sınırın beşte birine kadar gerilediği belirtildi.
Aile güvenlik önlemlerini eleştiriyor
Aile, OpenAI’ın telif hakkı gibi alanlarda katı kısıtlamalar uygularken, hayati tıbbi tavsiyelerde kullanıcıların aşabileceği daha zayıf sınırlar kullandığını savunuyor. Wan’ın botla haftada 1.500’den fazla mesajlaştığı ve zamanla ChatGPT’yi ailesi ile doktorlarının yerine koyarak çevresinden uzaklaştığı ifade ediliyor.
OpenAI, olayın son derece üzücü olduğunu belirtti. Şirket ayrıca kullanılan modelin eski bir sürüm olduğunu ve yeni sistemlerin acil durumları tespit etme konusunda daha yetkin hâle getirildiğini açıkladı.
