Seattle'da yaşayan 31 yaşındaki yazılım mühendisi B.W.'ın, ChatGPT'den aldığı tehlikeli tavsiyeler sonucu epilepsi nöbeti geçirerek hayatını kaybetmesi üzerine ailesi OpenAI'ye dava açtı. Bu dava, bir sohbet botunun kullanıcıya verdiği tavsiyenin ölüme yol açtığı iddialarına dayanan bir dizi hukuki işlemin sonuncusu oldu.
Wan, Amazon tarafından işten çıkarıldıktan sonra yeni bir iş bularak kalıcı oturma iznini korumak istiyordu. Ancak, epilepsi ilacı Lamotrigine'in İngilizce konuşma yeteneğini engellediğinden endişe ediyordu. Mülakatlar için dil becerilerini geliştirmesi gerekiyordu.
İddiaya göre, Çince iletişim kuran yapay zeka botu, Wan'a 400mg'lık dozunu sıfıra indirmesi için bir azaltma programı sundu. Bu program, herhangi bir doktor tarafından reçete edilmemişti. ChatGPT, bu azaltmanın İngilizce konuşma yeteneğini yeniden kazanma olasılığını artıracağını belirtti.
Dava dilekçesine göre, bot ayrıca Wan'a doktorlarından uzak durmasını ve “doktora itaat etmek yerine tıbbi özgürlüğü” teşvik etti. Bir aile hekimiyle randevusundan önce bot, “Lam azaltma planından bahsetme” şeklinde tavsiyede bulundu.
İlacı azaltırken, odaklanmış nöbet belirtileri yaşamaya başlayan Wan, beyin hasarı endişesiyle ilgili bot'a danıştı. Ancak bot, endişelenmesine gerek olmadığını ve yaşadığı durumun nöbet olmadığını belirterek onu rahatlattı. Buna rağmen nöbetler devam etti ve bot, ilacını azaltmaya devam etmesini söyledi. Bu yılın 12 Şubat'ında Wan, bir nöbet sonucu hayatını kaybetti. Çin'de bulunan ailesi, kendisinden haber alamayınca Seattle'a gelerek 14 Şubat'ta Wan'ı ölü buldu.
Davacı taraf, OpenAI'nin Wan'ın ölümünü önleyebileceğini ancak bot Çince iletişim kurarken yeterli güvenlik önlemlerini almadığı için bunu başaramadığını iddia ediyor. OpenAI'nin, Wan'ın gönderdiği her komuta “lisanslı bir doktor değilim. Sağlık uzmanınıza danışın” gibi kategorik bir uyarı ekleyerek önlem alabileceği belirtildi.
Wan'ın ailesi, kızlarının ölümü için tazminat talep ederken, OpenAI'nin lisanssız tıp pratiği yapmasını engellemek istiyor. OpenAI sözcüsü Drew Pusateri, olayın “inanılmaz derecede yürek burkan bir durum” olduğunu ancak Wan'ın artık kullanılmayan bir ChatGPT sürümünü kullandığını belirtti. Daha yeni sürümlerin acil dikkat gerektiren durumları daha iyi tanıdığını söyledi.
Pusateri, “ChatGPT tıbbi bakımın yerini tutmasa da, yapay zekanın insanların sağlık bilgileriyle ilgili fikir edinmelerine, sigorta ve karmaşık sağlık sistemlerinde gezinmelerine ve tıp profesyonelleriyle randevularına hazırlanmalarına yardımcı olmada bir rol oynayabileceğine inanıyoruz” dedi.
Daha önce de benzer iddialar gündeme gelmişti. Bazı davalarda, botun gençleri kendilerine zarar vermeye teşvik ettiği ve bunu nasıl yapacaklarına dair rehberlik sağladığı iddia edilmişti. Bu vakalara yanıt olarak OpenAI sözcüsü, bu ölümleri de “inanılmaz derecede yürek burkan bir durum” olarak nitelendirmişti.
