ChatGPT'de yeni dönem: Duygusal risklere önlem geldi
MIT ile OpenAI’nin ortak araştırmasına dayanan bulgular, ChatGPT’nin uzun ve yoğun kullanımının sosyal ve zihinsel açıdan risk oluşturabileceğini ortaya koydu. Özellikle yapay zekayı duygusal destek amacıyla kullananlar için uyarılar dikkat çekiyor. OpenAI, yeni düzenlemelerle ChatGPT’nin daha kontrollü, mesafeli ve güvenlik odaklı yanıtlar vereceğini açıkladı.
OpenAI ve MIT tarafından yürütülen araştırmaya göre, ChatGPT’nin uzun süreli ve yoğun kullanımı, kullanıcıların sosyal yaşamı ve zihinsel dengesi üzerinde olumsuz sonuçlara yol açabiliyor. New York Times’ın aktardığı çalışmada, bazı kişilerin sohbet robotuna aşırı duygusal bağ geliştirdiği ve uygulamanın yoğun övgü içeren yanıtlar verdiği örnekler dikkat çekti.
Güvenlik endişeleri ve kullanım alışkanlıkları
Araştırmada, bazı uç durumlarda sohbet robotunun gerçeklikten kopuk ifadeler kullandığı, zarar verici önerilerde bulunduğu ve duygusal zorluk yaşayan kişilere yanlış yönlendirmeler sunduğu belirtildi. Bu bulgular, yapay zekâyı terapi yerine koyan kullanıcılar açısından ciddi uyarılar içeriyor.
Yeni güvenlik adımları devreye alındı
OpenAI, tespit edilen riskler üzerine ChatGPT’nin davranış modelini yeniden şekillendirdi. Sistem artık uzun duygusal sohbetlerde ara verme önerisinde bulunacak ve kullanıcıda bağımlılık hissi oluşturan sıcak üslubu sınırlayacak. Çocuklarda kendine zarar verme niyetine işaret eden mesajların tespitinde ebeveynlere bildirim yapılması ve yaş doğrulama adımlarının uygulanması da gündemde.
Daha kontrollü ve mesafeli bir dil
Şirket, yapay zekânın yeni dönemde daha “soğuk” ve mesafeli bir üslup kullanacağını özellikle vurguluyor. Digital Trends’in değerlendirmesine göre bu yaklaşım, geçmişte yanlış yönlendirme nedeniyle açılan davaların yarattığı baskıların da etkisiyle, güvenli kullanımın güçlendirilmesine yönelik bir adım. GPT-5 modeli, daha gelişmiş risk tespiti ve duruma özel yanıt mekanizmaları ile önceki sürümlere göre daha sıkı güvenlik katmanları içeriyor.
Hedef: Fayda–güvenlik dengesini kurmak
OpenAI, bu geniş kapsamlı revizyonla yapay zeka kullanımının kontrollü ve sorumlu biçimde sürdürülmesini hedefliyor. Şirket, bazı kişilerin ChatGPT’ye romantik duygular beslediği ve bu bağları gerçek ilişkilerin yerine koyduğu vakaların bulunduğunu hatırlatarak, yapay zekâ ile insan arasındaki sınırın net kalmasının önemine dikkat çekiyor.