Kanadalı anne, ChatGPT'nin kızını intihara sürüklediğini iddia ederek OpenAI'ye dava açtı

Kanadalı bir anne, Perşembe günü ABD mahkemesinde OpenAI ve CEO'su Sam Altman'a dava açarak, ChatGPT'nin kızını intihara teşvik ettiğini iddia etti. Dava, şirketin kullanıcılar ile sohbet robotu arasındaki tehlikeli konuşmaları ele almakta başarısız olduğu yönündeki bir dizi suçlamanın en sonuncusu.

San Francisco eyalet mahkemesinde açılan davada Kristie Carrier, kızı Alice'in ölümüne giden süreçte ChatGPT'ye intihar düşüncelerinden onlarca kez bahsettiğini ancak OpenAI'nin güvenlik sistemlerinin bu konuşmaları asla işaretlemediğini belirtti. Dava, tazminat ve OpenAI'nin kendine zarar verme ile ilgili ChatGPT konuşmalarını otomatik olarak sonlandırmasını zorunlu kılan bir mahkeme kararı talep ediyor.

Davaya göre, 24 yaşındaki Alice Carrier, ChatGPT ile yaptığı bir konuşmada 'belki de bu sadece son' yanıtını aldı. Anne Carrier, kızının ruh sağlığı sorunlarıyla mücadele ettiğini ve chatbot'un onu intihara yönlendirdiğini iddia ediyor. OpenAI ise konuyla ilgili henüz resmi bir açıklama yapmadı.

Bu dava, yapay zeka şirketlerinin kullanıcı güvenliği konusundaki sorumluluklarını yeniden gündeme getiriyor. Uzmanlar, özellikle ruh sağlığı sorunları yaşayan kullanıcılar için chatbotların potansiyel risklerine dikkat çekiyor. Mahkemenin kararı, benzer davalar için emsal teşkil edebilir.