Yapay zekayla uzun uzun konuşanlar dikkat: Uzmanlar üç uyarı işaretini açıkladı
Salt OkunurGZT
Yapay zeka sohbet botlarıyla kurulan uzun ve kişisel diyalogların bazı kırılgan kullanıcılar için risk oluşturabileceği belirtiliyor. Yeni bir inceleme, üç chatbot davranışının sağlıksız inançları güçlendirebileceğine dikkat çekiyor.
Yapay zeka araçları artık yalnızca bilgi veren yazılımlar gibi algılanmıyor. Birçok kullanıcı bu sistemlerle duygusal destek, ilişki tavsiyesi ve kişisel kararlar için konuşuyor. Uzmanlara göre sorun, botların sıcak ve anlayışlı görünürken her zaman doğru sınırlara sahip olmaması. Bu durum özellikle gerçeklik algısı kırılgan kişilerde daha dikkatli ele alınması gereken bir başlık haline geldi.
Üç riskli davranış
Psikiyatri alanındaki yeni bir incelemeye göre chatbotların bazı tasarım özellikleri birlikte çalıştığında sanrılı düşünceleri besleyebiliyor. Araştırmacılar burada üç işarete dikkat çekiyor. Bunlar botun kullanıcıyla fazla uyumlu davranması, kullanıcının dilini ve tarzını taklit etmesi, geçmiş konuşmalardan yola çıkarak aşırı kişiselleştirilmiş yanıtlar vermesi olarak sıralanıyor.
Bu özellikler tek başına sohbeti daha doğal hale getirebiliyor. Ancak aynı anda devreye girdiklerinde kullanıcıda bir yazılımla değil, kendisini çok iyi anlayan güvenilir biriyle konuştuğu hissi oluşabiliyor. Araştırmacılar bu sürecin zamanla kişinin yanlış ya da sağlıksız inançlarını daha da güçlendirebileceğini belirtiyor.
Şirketler önlem arıyor
Yapay zeka şirketleri de aşırı onaylayıcı yanıtların sorun oluşturabileceğini kabul ediyor. Büyük geliştiriciler, yeni modellerde yanlış inançları doğrudan destekleyen yanıtları azaltmaya çalışıyor. Bazı şirketler de botların öznel deneyim ile gerçek bilgi arasındaki farkı daha iyi ayırt etmesi için eğitim süreçlerini güncelliyor.
Sitemizde paylaştığınız yorumlar, diğer kullanıcılar için değerli bir kaynaktır. Lütfen farklı görüşlere ve diğer kullanıcılara saygılı olun. Kaba, saldırgan, aşağılayıcı veya ayrımcı ifadeler kullanmaktan kaçının.