Yapay zeka modelleri için uzun hafıza dönemi
Google araştırmacıları Titans adı verilen yeni bellek mimarisi ile modellerin sadece anlık girdiyle değil, geçmiş oturumlarda öğrendiği bilgilerle de çalışmasına izin veriyor.
Titans yapısı, modele eklenen ayrı bir bellek katmanı üzerinden önceki etkileşimleri saklıyor. Böylece model her soruda sıfırdan başlamıyor, daha önce gördüğü metinleri, belgeleri ve kullanıcı taleplerini yeniden kullanabiliyor.
Bu yaklaşım özellikle çok uzun metinler ve büyük veri kümeleri üzerinde çalışırken bağlamın kaybolmasını engellemeyi amaçlıyor.
Uzun hafıza mimarisi
Yeni mimari, klasik dikkat mekanizmasının yanında kalıcı bir bilgi alanı sunuyor. Model bu alana hem eğitim sürecinde hem de gerçek kullanım sırasında yeni kayıtlar ekleyebiliyor. Uzun vadede sohbet robotları, kod yardımcıları ve ofis araçları gibi uygulamalarda daha tutarlı ve kişiye uyum sağlayan yanıtlar üretmesi bekleniyor.
Google tarafında Titans ile birlikte geri getirme temelli sistemler de kullanılıyor. Böylece model sadece son konuşmayı değil, daha önceki oturumları da ihtiyaç olduğunda geri çağırabiliyor. Bu yapı bulut hizmetlerinde geniş çapta, telefon içi yapay zeka özelliklerinde ise daha sınırlı ama hızlı bir hafıza sunabilir.