'Yapay zeka geliştirmeyi durdurun!' Dev şirket, laboratuvarından çıkan şoke eden gerçeği açıkladı

Yapay zeka teknolojilerindeki baş döndürücü hız, teknolojiyi üreten laboratuvarları bile korkutmaya başladı. ChatGPT'nin en büyük rakiplerinden Claude'un geliştiricisi Anthropic, yapay zekanın gelecekte alacağı hal hakkında tüyler ürpertici bir analiz paylaştı.

"Yapay zeka kendini inşa ettiğinde"

Anthropic'in kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı resmi yazı, teknoloji dünyasında adeta bir manifesto etkisi yarattı. Yazıda, geçmişte yapay zeka geliştirme süreçlerinin neredeyse tamamının insanlar tarafından yürütüldüğü, ancak günümüzde bu görevlerin giderek daha fazla yapay zeka sistemlerine devredildiği itiraf edildi. Bu devrin, mühendislik ve araştırma süreçlerindeki geliştirme hızını muazzam ölçüde artırdığı belirtildi.

Korkutan eşik: Özyinelemeli kendini geliştirme

Mevcut eğilimin bu şekilde devam etmesi halinde, yapay zekanın insan müdahalesi olmadan kendi haleflerini (bir sonraki daha gelişmiş versiyonlarını) tasarlayıp üretebilecek bir seviyeye ulaşacağı uyarısı yapıldı. Bilim dünyasında "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan bu tehlikeli sürece dair raporda şu ifadelere yer verildi:

"Henüz tam olarak o noktada değiliz ve özyinelemeli kendini geliştirme kesinlikle kaçınılmaz bir son değil. Ancak bu durum, çoğu kurum ve devletin hazırlandığından çok daha erken bir tarihte gerçekleşebilir."

Muazzam faydaların arkasındaki büyük tehlike

Teknik verilerin yapay zekanın gelecekte çok daha kabiliyetli olacağını gösterdiğini belirten Anthropic uzmanları, kendi kendini inşa edebilen sistemlerin bilim, tıp ve sağlık gibi alanlarda insanlığa muazzam faydalar sağlayabileceğini kabul ediyor. Ancak madalyonun diğer yüzü oldukça karanlık. Sürecin, insanların yapay zeka üzerindeki kontrolünü tamamen kaybetme riskini doğuracağına dikkat çekilen raporda, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz hayati bir önem kazanır" değerlendirmesi yapıldı.

"Dünya genelinde yapay zekayı durdurun" çağrısı

Anthropic, insanlığın ve toplumsal yapıların bu kontrolsüz teknolojik ilerlemeye ve hıza ayak uydurabilmesi için radikal bir çözüm önerisi sundu. Raporda, ileri düzey yapay zeka geliştirme süreçlerinin dünya genelinde yavaşlatılması veya geçici olarak tamamen durdurulması seçeneğinin ciddi şekilde değerlendirilmesi gerektiği ifade edildi.

Bu durdurma kararının anlamlı ve işe yarar olabilmesi için ise küresel bir uzlaşıya ihtiyaç duyulduğu; birden fazla güçlü laboratuvarın, birden fazla ülkede, aynı katı koşullar altında bu frenlemeyi eş zamanlı yapması gerektiği kaydedildi.