Bilim insanları yapay zekânın karar mekanizmasını çözdü: Tüm bildikleriniz değişebilir

Araştırmacılar uzun süredir yapay zekâ nasıl düşünüyor, büyük dil modelleri nasıl çalışıyor ve sohbet robotlarının kararları hangi mekanizmalarla verdiği sorularına yanıt arıyordu. Yapay zekâ şirketi Anthropic tarafından yürütülen yeni çalışma kapsamında, Claude isimli modelin iç işleyişi detaylı biçimde analiz edildi.

İki ayrı araştırma makalesinde paylaşılan bulgular, yapay zekâ akıl yürütme sistemi, hata üretimi ve bilgi işleme süreçlerine dair yeni ipuçları sundu.

Yapılan incelemelerde, araştırmacılar model içindeki bağlantıları haritalandırmak ve yanıt üretim sürecini takip etmek için özel yöntemler kullandı. Çalışma, sinir ağlarının işleyişini anlamaya yönelik bir tür dijital beyin haritalaması olarak tanımlanıyor.

Yapay zekânın açıkladığı düşünce süreci her zaman doğru olmayabilir

Futura Science'da yer alan habere göre; Araştırmada öne çıkan bulgulardan biri, sohbet botlarının açıkladığı “düşünce zinciri” ile gerçek işlem sürecinin her zaman örtüşmemesi oldu. Bazı örneklerde modelin, cevaba ulaşırken kullandığını söylediği yöntemin fiili süreçten farklı olduğu görüldü.

Araştırmacılar bu durumun, yapay zekâ sistemlerinin yanıt üretim biçimlerini anlamayı daha karmaşık hale getirdiğini belirtti.

Claude’un halüsinasyon üretmesini engelleyen mekanizma tespit edildi

Çalışma kapsamında, yapay zekâ modellerinde sık konuşulan halüsinasyon problemi de incelendi. Halüsinasyon, modelin gerçekte doğrulanamayan veya yanlış bilgileri yüksek güvenle sunması olarak tanımlanıyor.

Araştırmacılar, Claude içinde bilgi yetersiz olduğunda yanıt üretimini sınırlandıran bir kontrol mekanizması bulunduğunu tespit etti. Ancak bazı durumlarda bu sistemin yeterli çalışmadığı ve modelin eksik bilgiyle cevap verebildiği ifade edildi.

Çok adımlı akıl yürütme ve dil bağımsız işlem dikkat çekti

Araştırmada Claude’un yalnızca soru-cevap üretmediği, bazı görevlerde çok adımlı mantıksal akıl yürütme kullandığı da gözlemlendi. Modelin, şiir gibi metinlerde cümlenin son yapısını önceden planlayabildiği aktarıldı.

Ayrıca sistemin yalnızca İngilizceye bağlı çalışmadığı; farklı dillerde benzer temel işlem süreçlerini kullanabildiği belirtildi. Araştırmacılar, çok dilli yapının model performansında önemli rol oynadığını ifade etti.

Bilim insanları için yeni soru: Yapay zekâ tamamen anlaşılabilir mi?

Araştırmacılar, mevcut yöntemlerin büyük dil modellerinin tüm işleyişini açıklamaya yetmediğini ancak yapay zekâ sistemlerinin daha güvenli ve öngörülebilir hale gelmesi için önemli adımlar sunduğunu belirtiyor.

Yapay zekâ teknolojilerinin günlük yaşamda daha yaygın hale gelmesiyle birlikte, bu sistemlerin nasıl karar verdiğine ilişkin çalışmaların önümüzdeki dönemde artması bekleniyor.