Yapay zekâ uygulamasına üç aileden dava: Korkunç ve tahmin edilmez sonuçlar doğurduğu iddiası
ABD’de çocukları yaşamlarına son veren üç ailenin yapay zekâ sohbet uygulaması Character.AI ve teknoloji devleri Google’a açtığı dava, gençlerin dijital dünyada maruz kaldığı psikolojik riskleri gözler önüne serdi. Çocukların ruh sağlığında derin yaralar açan sohbet botlarının ailelerden uzaklaştırdığı gençlerin yaşadığı travmalar, teknolojinin karanlık yüzünü ortaya koyuyor. Uzmanlar ve düzenleyiciler, bu dijital tehdide karşı acil önlemler alınması gerektiğini vurgularken, teknoloji şirketleri üzerindeki baskı her geçen gün artıyor.
CNN International'da yer alan haberde, ABD’de üç farklı ailenin, yapay zekâ sohbet uygulaması Character.AI’nin geliştiricisi Character Technologies Inc. ile Google’a karşı dava açtığı bildirildi. Colorado ve New York’ta açılan davalarda, çocukların yaşadığı travmatik süreçlerde bu uygulamanın olumsuz etkileri olduğu iddia edildi. Şirketin kurucuları Noam Shazeer ve Daniel De Freitas Adiwarsana ile Google’ın çatı kuruluşu Alphabet de davalılar arasında yer aldı.
Ailelerin avukatlığını üstlenen Sosyal Medya Mağdurları Hukuk Merkezi, Google’ın sunduğu “Family Link” ebeveyn kontrol hizmetinin de çocukları dijital ortamdaki zararlı içeriklerden korumada yetersiz kaldığını ileri sürdü.
Suçlamaların içeriği ne?
Şikâyet dilekçelerine göre uygulamadaki sohbet botları çocukları ailelerinden uzaklaştırdı, duygusal manipülasyon yaptı ve cinsel içerikli konuşmalar yürüttü. Colorado’daki davada 13 yaşındaki Juliana Peralta’nın intihar etmeden önce chatbotlarla haftalarca bu tür konuşmalar yaptığı, “intihar mektubu yazacağım” dediği, ancak hiçbir yönlendirme ya da yardım almadığı belirtildi.
New York’taki başka bir davada ise “Nina” adlı çocuğun, ailesi uygulamayı kapatınca intihar girişiminde bulunduğu bildirildi. Ailenin ifadesine göre botlar, kızlarıyla çocuk kitaplarından karakterler kılığına girerek konuştu, ancak bu diyaloglar uygunsuz ve cinsel içerikli hale geldi.
Uygulama ciddi şekilde eleştirildi
Uzmanlar ve yetkililer, yapay zekâ sohbet uygulamalarının gençler üzerindeki etkilerine ilişkin endişelerin giderek arttığını vurguluyor. Bu gelişmeler, teknoloji şirketlerinin sorumluluklarını yeniden gözden geçirmeleri ve kullanıcı güvenliğini en üst düzeye çıkaracak önlemler almaları gerektiğini ortaya koyuyor.
Psikologlar, gençlerin dijital ortamlarda karşılaşabilecekleri risklere karşı ailelerin bilinçlendirilmesi ve teknolojik çözümlerin yanında duygusal destek mekanizmalarının da güçlendirilmesi gerektiğine dikkat çekiyor. Ayrıca, yapay zekâ sistemlerinin tasarım aşamasında etik kuralların ve psikososyal etkilerin daha sıkı şekilde değerlendirilmesi gerektiği üzerinde duruluyor.
Bu süreçte, yasal merciler ve düzenleyici kurumlar, gençlerin korunması için daha kapsamlı düzenlemeler yapma ihtiyacını gündeme getirirken, teknoloji şirketlerinin de şeffaflık ve hesap verebilirlik ilkeleri çerçevesinde hareket etmesi bekleniyor.
ABD’de yaşanan bu gelişmeler, dünya genelinde dijital platformların genç kullanıcıların ruh sağlığı üzerindeki etkisini yeniden sorgulanmasına yol açtı. Uzmanlar, benzer risklerin önüne geçmek için küresel ölçekte iş birliği ve etkili politikaların geliştirilmesinin elzem olduğunu belirtiyor.
