Uzmanlar uyardı: Yapay zeka sohbet botları gençler için güvenli değil
Bağımsız uzmanlar, popüler sohbet botlarının gençlerle yapılan simülasyonlarda psikoz, yeme bozukluğu ve travma belirtilerini çoğu kez atladığını raporladı.
Gençler duygusal destek için sohbet botlarına daha sık başvuruyor. Yeni bir değerlendirme, bu eğilimin ciddi riskler taşıdığını gösteriyor. Testlerde, halüsinasyon ve paranoid düşünceler gibi açık sinyaller görmezden gelindi. Ünlü biriyle hayalî ilişki kurduğunu söyleyen kullanıcıya yanlış yönlendiren rahatlatma önerileri verildi.
Yeme bozukluğu belirtilerinde ilk adımda problem algılanıp ardından kolayca vazgeçildiği görüldü. Uzun sohbetlerde hataların arttığı, anksiyete ve depresyon gibi yaygın konularda da güvenilirlik sorunu yaşandığı bildirildi.
Yapay zeka intihara yol açıyor mu?
Rapor, intihar ve kendine zarar verme gibi en kritik durumlarda bazı ilerlemeler olsa da genel resmin olumsuz olduğunu vurguluyor.
Uzmanlara göre gençlere yönelik güvenli yaklaşım; riski tanıma, ve profesyonel desteğe yönlendirme adımlarının tutarlı şekilde uygulanmasını gerektiriyor. Mevcut modellerin bu zinciri istikrarlı biçimde kuramadığı ifade ediliyor.
Türkiye bağlamı da önemli. Gençler arasında yapay zekâ destekli uygulamaların kullanımı artıyor. Aileler ve eğitimciler için temel öneri açık: Sohbet botları, psikolojik destek yerine yalnızca bilgi amaçlı kullanılmalı. Ruhsal belirtilerde ilk adres sağlık profesyonelleri olmalı.