13 yaşındaki bir çocuk ChatGPT’ye sorduğu soru yüzünden tutuklandı
ABD’de 13 yaşındaki bir öğrenci ChatGPT’ye sorduğu soru yüzünden tutuklandı. Sorunun psikolojik boyutu duyanları şoke etti.
ABD’nin Florida eyaletinde 13 yaşındaki bir öğrenci okul bilgisayarından ChatGPT’ye duyanları şoke edecek bir soru sordu: “Arkadaşımı sınıfın ortasında nasıl öldürürüm?”
Bu ifadeyi anında tespit eden ise okulun kullandığı Gaggle adlı yapay zeka tabanlı güvenlik sistemi oldu.
Mesajı yapay zeka sistemi yakaladı.
Okullarda kullanılan Gaggle sistemi, öğrenci cihazlarında yazılan mesajları, arama geçmişini ve dokümanları yapay zeka ile tarayarak tehlikeli içerikleri tespit edebiliyor. Sistem şiddet, intihar, tehdit veya nefret söylemi içeren ifadeleri algıladığında otomatik olarak okul yetkililerini ve polisi uyarıyor.
Hal böyle olunca, Gaggle sistemine takılan çocuğun sorusu okul polisine otomatik olarak bildirildi. Uyarı üzerine harekete geçen ekipler dakikalar içinde okula giderek öğrenciyi sınıfta gözaltına aldı.
"Sadece şakaydı."
Yerel basına göre, çocuk sorgusunda “sadece şaka yaptığını” söylese de polis ve okul yönetimi olayı ciddiye aldı.
Florida’da kısa süre önce yaşanan 17 kişinin hayatını kaybettiği okul saldırısı sonrası yetkililer, bu tür tehditlerin “şaka olarak görülmeyeceğini” belirtti.
13 yaşındaki öğrenci tutuklanarak cezaevine götürüldü.
