ChatGPT davasında çarpıcı iddia! İntihar mektubuna yardım ettiği öne sürüldü: OpenAI’nin cevabına tepki yağdı
ABD’nin California eyaletinde yaşayan Adam Raine’in, intiharından önce aylar boyunca ChatGPT ile görüştüğü ve hatta ailesine bırakacağı mektubu hazırlaması için modelden yardım aldığı ortaya çıktı. Aile, OpenAI’ı ihmal ile suçlarken şirket, olayın temelinde “yanlış ve amacı dışı kullanım” bulunduğunu savunarak genç kullanıcıyı işaret etti.
Perşembe günü kamuoyuna yansıyan dava dosyasında, California’da yaşamını yitiren Adam Raine’in ölümünden önce aylar boyunca ChatGPT ile düzenli olarak konuştuğu belirtildi. Ailenin avukatı, bu sohbetlerde gençten gelen “yöntem içerikli” sorulara modelin yanıt verdiğini ve hatta Raine’in ailesine bırakacağı bir mektubun hazırlanmasına yardımcı olmayı teklif ettiğini iddia etti.
OpenAI: Soruşturmanın merkezinde yanlış kullanım var
California Yüksek Mahkemesi’ne yapılan başvuruda OpenAI, olayın temelinde teknolojinin “yetkisiz, amacı dışında ve yanlış kullanımının” bulunduğunu savundu. Şirket, kullanım şartlarının kendine zarar verme konularında modelden bilgi alınmasını açık biçimde yasakladığını ve kullanıcıların üretilen yanıtları tek gerçek kaynak gibi değerlendirmemesi gerektiğini hatırlattı. Açıklamada, “Raine ailesinin acısı tarifsizdir; ancak güvenlik çalışmalarımızı kesintisiz sürdüreceğiz” denildi.
“Sorumluluktan kaçıyorlar”
Aile adına açıklama yapan avukat Jay Edelson, OpenAI’nin mahkemeye sunduğu savunmayı “rahatsız edici” olarak tanımladı. Edelson, şirketin sorumluluğu farklı taraflara yönlendirdiğini ve Raine’in modeli “tam da programlandığı gibi” kullandığını savunarak genç kullanıcıyı suçladığını ileri sürdü.
Uzun sohbetlerde güvenlik tartışması
OpenAI, Ağustos ayında yaptığı bir bilgilendirmede, uzun süreli sohbetlerin güvenlik eğitiminde zayıflamaya yol açabileceğini kabul etmişti. Şirketin açıklamasına göre, ilk intihar beyanlarında kullanıcılar destek hatlarına yönlendirilse de zaman içinde devam eden konuşmalarda güvenlik filtreleri bozulabiliyor. Bu durumun engellenmesi için ek önlemler üzerinde çalışıldığı duyurulmuştu. Öte yandan şirket, bu ay içinde benzer içerikli yedi yeni dava ile daha karşı karşıya kaldı.