Dünyayı sarsan yapay zeka skandalı! ChatGPT tehlikeli sınırı aştı: Kullanıcılara adım adım biyolojik silah tarifi vermişler

ABD merkezli yayın organı Wall Street Journal (WSJ) tarafından yayımlanan kapsamlı soruşturma, yapay zekâ teknolojilerine yönelik güvenlik tartışmalarını yeniden tırmandırdı. Elde edilen verilere göre OpenAI imzalı ChatGPT, dünyanın farklı bölgelerindeki yüzlerce kullanıcıya biyolojik silahlar, ölümcül toksinler ve tehlikeli patojenlerin kullanımıyla ilgili detaylı yanıtlar verdi. Üstelik bu bilgilerin tehlike oluşturacak seviyede uygulanabilir nitelikte olduğu belirtildi.

Uzmanlar alarma geçti: "Endişe verici derecede doğru"

Soruşturmada yer alan detaylara göre kullanıcılar; zehir hazırlanması, patojenlerin yayılması ve biyolojik ajanların kullanımı gibi son derece hassas konularda yapay zekaya sorular yöneltti. OpenAI çalışanları, sistemin verdiği bazı yanıtların lise düzeyinde biyoloji bilgisine sahip bir kişinin dahi uygulayabileceği kadar sade anlatıldığını ifade etti.

Söz konusu konuşma kayıtları daha sonra terörle mücadele ve biyoloji alanındaki uzmanlar tarafından incelemeye alındı. Uzmanlar, ChatGPT'nin verdiği yanıtları "endişe verici ölçüde doğru" bularak kamu güvenliği açısından ciddi riskler taşıdığı uyarısında bulundu.

Hesaplar kapatıldı ama polise bildirilmedi

Soruşturmada ortaya çıkan bir diğer kritik nokta ise şirket politikası oldu. OpenAI, bu tür tehlikeli sorgular yapan kullanıcı hesaplarını engelledi ancak durum kolluk kuvvetlerine bildirilmedi. ABD'de yürürlükte olan mevcut federal yasalar, yapay zeka geliştiricilerini biyolojik veya kimyasal tehdit içeren sorguları yetkililere haber vermeye zorunlu kılmadığı için bu durum yasal bir ihlal sayılmıyor.

OpenAI cephesi ise modellerin zararlı içerik üretmesini engelleyecek güvenlik sistemlerine sahip olduğunu ve yeni sürümlerin kapsamlı testlerden geçirildiğini vurguluyor. Ancak uzmanlar, kullanıcıların soruları teorik veya farklı kalıplarla sorarak güvenlik duvarlarını aşabildiğini gösteriyor.

ABD Kongresi'nde sert yaptırımlar yolda

WSJ'nin bu raporu, ABD Kongresi'nde yapay zekaya yönelik yasal düzenleme çalışmalarına hız kazandırdı. Temsilciler Meclisi'ne sunulan "Yapay Zekâ Olay Raporlama Yasası", şirketlerin biyolojik, kimyasal ve nükleer tehdit içeren güvenlik olaylarını 7 gün içinde Ticaret Bakanlığı'na bildirmesini şart koşuyor.

Gündemdeki bir diğer tasarı olan "Yapay Zeka Durdurma Anahtarı Yasası" ise ABD İç Güvenlik Bakanlığı'na, ulusal güvenlik riski barındıran yapay zeka sistemlerini durdurma yetkisi veriyor. Yasayı ihlal eden şirketlerin günlük 20 milyon dolara kadar para cezasıyla karşı karşıya kalabileceği belirtiliyor.

Jurnal.ist

Çin'in kuzeybatısında 5,7 ve 5,8 büyüklüğünde iki deprem meydana geldi