Yapay zeka 'bilmiyorum' demeyi öğreniyor: Yanlış bilgi üretme devri sona mı eriyor?

Güney Koreli bilim adamları, yapay zekanın en büyük sorunlarından biri olarak gösterilen “halüsinasyon” problemine karşı dikkat çeken bir yöntem geliştirdi. Yeni sistem sayesinde yapay zekanın, emin olmadığı konularda yanlış bilgi vermek yerine belirsizliğini fark etmesi hedefleniyor.

Çalışma, Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları tarafından yürütüldü. Araştırmanın sonuçları ise bilim dünyasının saygın yayınlarından Nature Machine Intelligence dergisinde yayımlandı.

Yapay zekanın en büyük sorunlarından biri

Uzmanlara göre günümüzde yapay zeka sistemlerinin en kritik problemlerinden biri “aşırı özgüvenli” yanıtlar vermesi. Özellikle sağlık, hukuk ve otonom sürüş gibi alanlarda kullanılan sistemler, yanlış olsa bile kesin ifadelerle cevap üretebiliyor.

Daha önce yapılan çalışmalarda, bazı yapay zeka modellerinin gerçekte var olmayan bilgileri doğruymuş gibi sunabildiği ortaya konmuştu. Teknoloji dünyasında bu durum “halüsinasyon” olarak adlandırılıyor.

İnsan beyninden ilham alındı

Araştırmacılar, geliştirdikleri yeni yöntemde insan beyninin çalışma sisteminden ilham aldı. Bilim insanlarına göre insan beyni, doğum öncesinde bile dış uyaran olmadan sinyaller üretebiliyor.

Bu yaklaşımdan hareket eden ekip, yapay zeka modellerini gerçek verilerle eğitmeden önce kısa süreli bir “gürültü verisi” aşamasından geçirdi.

“Henüz hiçbir şey bilmiyorum” aşaması

Araştırmacılar, bu ön eğitim süreci sayesinde yapay zekanın daha başlangıç aşamasında kendi belirsizliğini fark etmeyi öğrendiğini belirtiyor.

Yeni yöntemin, sistemin eğitim sırasında karşılaşmadığı konularda daha düşük güven düzeyiyle yanıt vermesini sağladığı ifade ediliyor. Bilim adamları, yapay zekanın böylece “bildikleriyle bilmediklerini ayırt etme” becerisinin geliştiğini söylüyor.

Kritik alanlarda kullanılabilecek

Uzmanlara göre yeni sistem özellikle hata payının çok düşük olması gereken alanlarda önemli katkı sağlayabilir. Araştırmacılar; otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojilerinde bu yaklaşımın güvenilirliği artırabileceğini düşünüyor.

Çalışmanın yazarlarından Se-Bum Paik ise yaptığı açıklamada, “Bu çalışma, yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanıyabileceğini gösteriyor” ifadelerini kullandı. Araştırma ekibi, hedeflerinin yalnızca daha fazla doğru cevap veren değil, aynı zamanda neyi bilmediğinin de farkında olan yapay zeka sistemleri geliştirmek olduğunu belirtti.