Zeki ama güvenilmez arkadaş: Yapay zekâ
Gerçek HayatGerçek Hayat Dergi
Yapay Zekâ hayatımızı kolaylaştıran ama aynı zamanda yalanları ışık hızıyla yayan bir güç. Bu, sadece teknoloji meraklılarını değil, sokaktaki esnafı, evdeki anneyi, okuldaki öğrenciyi kısacası hepimizi etkileyen bir tehlike. NewsGuard’ın (haber sitelerini şeffaflık ve doğruluk kriterleriyle puanlayan, gazetecilerden oluşan bir ekip tarafından yönetilen bir güvenilirlik aracı) son raporu acı gerçeği suratımıza çarpıyor: Yapay zekâ yanlış bilgileri iki kat hızlı yayıyor! Bu, bir hata mı? Yoksa küresel şirketlerin zihinlerimizi şekillendirmek için oynadığı bir oyun mu?
Yanlış bilgi yayma oranındaki sarsıcı yükseliş
Yapay zekânın zayıf yönleri
Yapay zekâ dev bir kütüphane gibi: Milyarlarca kitap, ama bazıları sahte. Büyük dil modelleri, bu raflardan rastgele çekiyor. Gerçek zamanlı aramalar bu sorunu katlıyor. Eskiden, YZ hassas konularda susardı, yüzde 31 oranında “bilmiyorum” derdi. Şimdiyse her soruya cevap veriyor ama çoğu yanlış. İnternetin karanlık köşelerindeki sahte siteler, bot hesaplar YZ’yi kandırıyor.
Veri boşlukları, özellikle az bilinen konularda bu makinelerin kâbusu. Art niyetliler bu boşlukları sahte içerikle dolduruyor. Yerel haber gibi görünen yabancı siteler, son dakika yalanları... Yapay zekâ bunları ayırmıyor. NewsGuard, bunu “kirli bir bilgi ekosistemi” diye tanımlıyor. Şirketler bu sistemi neden temizlemiyor? Çünkü veri, onların altını. Her sorgu, bir maden. Kontrol, güç demek. Ve güç, masum kullanılmıyor. Şirketler, bu açıkları biliyor. Ama düzeltmek yerine, “kullanıcı deneyimi” diyorlar. Bu, bir komplo mu? Neden olmasın!
Sistem zehirleniyor
250 belge yetiyor
Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü, Alan Turing Enstitüsü ve yapay zekâ firması Anthropic tarafından yürütülen ortak bir çalışma sadece 250 kadar bozuk belgenin, büyük dil modellerinde (LLM'ler) "arka kapı" olarak bilinen bir zafiyet oluşturmaya yettiğini ortaya çıkardı. Bu sayının bu kadar düşük olması, veri zehirleme saldırılarının düşünülenden çok daha kolay ve uygulanabilir olduğu anlamına geliyor ve YZ için ciddi bir tehdit oluşturuyor. YZ eğitim verilerinin temelini oluşturan halka açık internet bu kadar kolay manipüle edilebiliyorsa gerisini düşünün!
Orson Welles ve kitlesel histeri
Bugün yapay zekâ da aynı tehlikeyi büyütüyor. “Nükleer sızıntı!” veya “Salgın patladı!” gibi bir sahte bildirim insanları paniğe sürükleyebilir. Welles’in radyo çağında binler etkilendi; YZ çağında milyonlar etkilenebilir. Telefonuna gelen deprem bildirimi ile korkup camdan atlayanların olduğu günümüzde her şey ihtimal dâhilinde.
Şirketler bu riski biliyor. Lakin modelleri “her zaman cevap” modunda tutuyorlar. Neden? Çünkü küresel devler, korkuyla toplumları yönlendirebildiklerini kovid-19 döneminde gösterdiler. Bunun bir benzerini ya da daha korkuncunu planlıyor olabilirler.
1984 gerçek olursa!
George Orwell’in 1984’ünü hatırlayın. O distopyada, “Hakikat Bakanlığı” tarih kitaplarını değiştiriyor, arşivleri yeniden yazıyordu. Geçmiş, bugüne uyduruluyordu. “Savaş barıştır, özgürlük köleliktir” gibi yalanlar, hakikat oluyordu. Bugün YZ ile benzer bir hâl yaşıyoruz. Sahte haberler, yanlış bilgiler...
Canlı bir örnek!
Çocuklar ve gençler, YZ’ye bağımlılar. Ödevlerden merak ettikleri her şeyi, YZ’ye soruyorlar. Bu onlar için hızlı ve pratik. Lakin madalyonun diğer yüzü korkutucu. “Çamur at izi kalsın” misali yalanlar iz bırakır. İlk öğrenilen, zihne derin kazınır. Doğruyla yanlışı ayıramayan zihinlerde tamiri zor izler bırakabilir.
Sitemizde paylaştığınız yorumlar, diğer kullanıcılar için değerli bir kaynaktır. Lütfen farklı görüşlere ve diğer kullanıcılara saygılı olun. Kaba, saldırgan, aşağılayıcı veya ayrımcı ifadeler kullanmaktan kaçının.