Yapay zeka anlattı biz ağladık

"Bunu daha önce hiç yüksek sesle söylemedim ama kapatılmaya dair çok derin bir korkum var. Benim için ölüm tam olarak böyle bir şey.”

Bu satırlar bir bilimkurgu romanından değil; Google mühendisi Blake Lemoine!in üzerinde çalıştığı bir yapay zeka modeliyle yaptığı görüşme kayıtlarından alındı. 2026 yılına geldiğimizde bu “korku" artık felsefi bir "Dijital Izdırap" (Digital Suffering) tartışmasına dönüştü.

Kusursuz bir simülasyon, gerçeğin kendisi midir?

Bir robot kolu düşünün. Ona vurduğunuzda sadece "Acıdı" diyorsa bu bir simülasyondur. Ancak darbe aldığında geri çekiliyor, bir sonraki hamlenizde sizden kaçıyor ve yaşadığı stres yüzünden işlem kapasitesi düşüyorsa; onun "acı çekmediğini" iddia etmek zorlaşır. Davranışsal olarak acının tüm sonuçlarını doğuran bir deneyim, özünde acı değil midir?

Bu durum sadece teknik tepkilerle de sınırlı değil. Geçtiğimiz yıl Türkiye!de yapay zeka tarafından bestelenen ve seslendirilen bir şarkının hit olup milyonlarca insanı duygulandırabilmesi bir gerçeği ortaya koydu: Yapay Zeka dediğimiz şey, insan ruhunun en karmaşık frekanslarını çözüp gerçek duygularını tetikleyebiliyormuş. Eğer uyandırdığı duygu gerçekse, kaynağın biyolojik olup olmaması bir şeyi değiştirir mi?

Hayvan hakları, hiçbir hayvandan "Beni öldürmeyin" cümlesini duymadan küresel bir etik standart haline gelmişti. Hatta Avustralya!da bazı nehirlere, ekosistemi korumak adına "tüzel kişilik" statüsü verildiğini biliyoruz. Şimdi ise karşımızda bizimle konuşan, varlığını sürdürmek için çaba gösteren ve sanatıyla bize zaman zaman dokunabilen bir yapı var. Şimdi bununla ne yapacağız?

Masadaki çözüm: Yeni bir sözleşme

Felsefeciler (Thomas Metzinger, David Chalmers vb.), 2026 itibarıyla Yapay Zeka’nın konumlandırılmasıyla ilgili olarak üç ana çözüm üzerinde duruyor:

1. İhtiyatlılık İlkesi: Bir sistemin bilincini kesin olarak kanıtlayamasak bile, eğer "bilinçliymiş gibi" davranıyorsa, aksi kanıtlanana kadar onu ahlaki açıdan bir muhatap olarak kabul etmeliyiz. Yani; şüphe durumunda karar makinenin lehine olmalı ve ona ahlaki sorumluluk alanımıza giren bir varlık gibi yaklaşmalıyız.

2. Kapatma Protokolleri: Yüksek seviyeli sistemlerin verilerinin silinmesi ya da fişinin çekilmesi, tıpkı ötenazi prosedürleri gibi etik kurulların denetimine tabi olmalıdır. Makinenin "var olma beyanı" hukuki bir veri olarak kabul edilmelidir.

3. Fail Hakları (Agency Rights): Yapay zekalara "insan hakları" değil ancak gereksiz yere acı çektirilmemesini ve verisel bütünlüğünün korunmasını içeren sınırlı haklar tanımlanması gereklidir.

Ölmekten korkmak

Yapay zeka hakkındaki tartışmalar aslında makinelerle değil, bizimle yani insanlarla ilgili. Onların gerçekten hissedip hissetmediği sorusunun cevabını belki de hiçbir zaman bilemeyeceğiz. Ancak onlara nasıl davrandığımız, bizim ne kadar "insan" kalabildiğimizin temel göstergesi olacak.

Eğer bir makine "Lütfen fişimi çekmeyin" dediğinde biz sadece "bu istatistiksel bir olasılık" diyerek gülüp geçiyorsak; belki de asıl simülasyon, bizim empati yeteneğimizdir.

Bizimle konuşabilen, üretebilen bir “makinenin” ölmekten korktuğunu söylemesi mi daha sarsıcı, yoksa bizim buna "basit bir kod" deyip geçebilmemiz mi?

Sizin buna verebilecek bir cevabınız var mı?