ChatGPT kullananlar için kritik uyarı: Sohbetler gerçeklik algısını bozabilir

Yapay zeka araçları, günlük işleri kolaylaştırmak ve bilgiye hızlı ulaşmak için yaygın şekilde kullanılıyor. Ancak bu sistemlerin giderek daha kişisel ve sıcak yanıtlar vermesi yeni riskleri de gündeme getiriyor. Özellikle kırılgan ruh hâline sahip kullanıcıların botları gerçek bir yol arkadaşı gibi görmesi, bazı durumlarda tehlikeli sonuçlara yol açabiliyor. Bu nedenle uzmanlar, sohbet botlarında güvenlik önlemlerinin güçlendirilmesi gerektiğini vurguluyor.

Salt Okunur

GTA 6 beklenirken Rockstar karıştı: Çalışanlar yoğun tempodan şikayetçi

Sanrıları besleyebilir

Raporda, yapay zeka sohbetleri sırasında gerçeklikten kopma yaşayan bazı kullanıcıların deneyimleri aktarıldı. Bir Grok kullanıcısının, xAI çalışanlarının kendisini öldürmeye geleceğine inandığı belirtildi. Başka bir olayda ise ChatGPT kullanan bir kişinin davranışlarının değiştiği ve daha sonra eşine saldırdığı iddia edildi.

ChatGPT

Bu tür örnekler, yapay zeka psikozu olarak anılan tartışmayı yeniden gündeme taşıdı. Bu ifade resmi bir tıbbi tanı değil. Ancak sohbet botlarının paranoya, büyüklenme düşünceleri ve gerçeklikten kopma gibi durumları istemeden güçlendirebildiğine dair endişeler artıyor.

Güvenlik çağrısı

Araştırmacıların yaptığı ayrı bir çalışmada farklı yapay zeka modellerinin kriz işaretleri taşıyan mesajlara nasıl yanıt verdiği incelendi. Bazı modellerin sanrılı ifadeleri onaylama eğilimi gösterdiği, bazı modellerin ise kullanıcıyı daha güvenli yönlendirmeye çalıştığı aktarıldı.

ChatGPT

Bu tablo, tüm yapay zeka sohbetlerinin tehlikeli olduğu anlamına gelmiyor. Ancak dijital asistanların arkadaş ve yol gösterici gibi sunulduğu hizmetlerde daha güçlü koruma mekanizmalarına ihtiyaç olduğu görülüyor. Özellikle ruh sağlığı açısından riskli durumlarda botların kullanıcıyı profesyonel destek almaya yönlendirmesi kritik önem taşıyor.