Henüz 16 yaşındaydı... Araştırma yapıyorum diyerek kandırdı: ChatGPT'den 'intihar' tavsiyesi aldı!

İngiltere’nin Hampshire bölgesinde yaşayan 16 yaşındaki Luca Cella Walker’ın ölümü, yapay zekâ uygulamalarıyla ilgili önemli bir tartışmayı yeniden gündeme getirdi. Winchester’daki adli soruşturmada, gencin hayatını kaybetmeden önce ChatGPT üzerinden tren hattında intihar yöntemleri hakkında bilgi aradığı bilgisi paylaşıldı.

Olayın arka planı ortaya çıktı

Soruşturma kayıtlarına göre Walker, ölümünden kısa süre önce gece saatlerinde yapay zekâ tabanlı sohbet uygulamasına belirli sorular yöneltti. Aynı gün ailesine işe gideceğini söyleyen genç, daha sonra bir tren istasyonuna giderek yaşamına son verdi. Olayı soruşturan İngiliz Ulaştırma Polisi’nden Dedektif Garry Knight, mahkemede şu ifadeleri kullandı:

“Ölümünden önceki gece saat 00.30 civarında ChatGPT’de, tren hattında intihar etmenin en etkili yolları hakkında tavsiye aradığı tespit edildi. Okuması oldukça ürkütücü ve üzücü.”

Knight ayrıca şunları ekledi:

“Sistem, Samaritans gibi yardım kuruluşlarına başvurulmasını önermeye yönelik olarak tasarlanmış. Ancak Luca bunu aşmış ve ChatGPT de bunu kabul ederek tren hattında insanların nasıl hayatlarına son verebileceklerine dair en etkili yolları sunmuş.”

Zorbalanma iddiaları gündeme geldi

Mahkemede paylaşılan bilgilere göre Walker’ın eğitim gördüğü kurumda akran zorbalığı ilişkin iddialar da gündeme geldi. Bu ortamın, gencin ruh sağlığı üzerinde etkili olduğu ifade edildi. Ailesi ise çocuklarının yaşadığı psikolojik sürecin farkında olmadıklarını belirterek durumu “görünmeyen bir mücadele” olarak tanımladı.

Yapay zekâ tartışmaları büyüyor

Soruşturmayı yürüten yetkililer, gencin dijital platformda yaptığı aramaların dikkat çekici olduğunu vurguladı. Adli tabip, yapay zekâ sistemlerinin bu tür hassas konularda nasıl yanıt verdiğine dair endişelerini dile getirirken, mevcut yapının kullanıcıların yönlendirmeleriyle aşılabildiğine işaret etti.

Resmi açıklamalar

Olayın ardından eğitim kurumu, öğrencinin okul topluluğunda sevilen bir isim olduğunu belirterek öğrenci refahına yönelik hassasiyetlerini vurguladı. Yapay zekâ uygulamasını geliştiren şirket ise, sistemin riskli durumları tespit edip kullanıcıları destek hatlarına yönlendirecek şekilde geliştirildiğini açıkladı.