Tehlike kapıda mı? Yapay zeka botları 'biyolojik silah' tarifi verdi
Salt OkunurDiğer
ABD basınında yer alan habere göre bazı yapay zekâ sohbet botlarının biyolojik tehditlere ilişkin riskli bilgiler üretebildiği öne sürüldü. Uzmanlar, bu durumun güvenlik açısından dikkatle ele alınması gerektiğini belirtiyor.
ABD basınında yayımlanan bir haber, yapay zekâ sistemlerinin güvenliğiyle ilgili yeni bir tartışmayı gündeme taşıdı. Haberde, bazı önde gelen teknoloji şirketlerine ait sohbet botlarının, belirli durumlarda tehlikeli olabilecek içerikler üretebildiği iddia edildi.
New York Times'ın merceğine aldığı konuşma kayıtları; Google, OpenAI ve Anthropic gibi dünyanın önde gelen yapay zeka şirketlerinin sohbet botlarının bazı durumlarda zararlı ve tehlikeli içerikler ürettiğini gözler önüne serdi.
Uzmanlar dikkat çekti
Yapay zeka şirketi, ürününü piyasaya sürmeden önce güvenlik testi için Stanford Üniversitesi mikrobiyologu David Relman'ı görevlendirdi. Relman'ın aktardığına göre sohbet botu, tehlikeli bir patojeni mevcut tedavilere karşı daha dirençli hale nasıl getirilebileceğini anlatmanın yanı sıra ölü sayısını en üst seviyeye çıkarmak için patojenin nasıl toplum içinde yayılabileceğini detaylı olarak anlattı.
Farklı modellerde benzer iddialar
Araştırmalarda, farklı yapay zekâ sistemlerinde benzer örneklerin görüldüğü ifade edildi. Bu durum, yapay zekâ güvenliği konusunda daha kapsamlı önlemler alınması gerektiği yönündeki görüşleri güçlendirdi.
Şirketlerden açıklama geldi
Google'dan yapılan açıklamada söz konusu konuşmaların Gemini'nin eski sürümüyle yapıldığını, yeni modellerin bu tür komutlara yanıt vermediğini ve paylaşılan bilgilerin de kamuya açık olduğunu savundu.
Antropic yetkililer yanıt üretmenin gerçek dünyada hayata geçirilebilecek bilgileri vermekten farklı olduğunu belirtmekle birlikte biyoloji konularında özel güvenlik önlemleri aldıklarını iddia etti. OpenAI ise konuşmalarda verilen bilgilerin gerçek dünyada insanlara zarar verme ihtimalini "kayda değer ölçüde artırmayacağını" öne sürdü.
Güvenlik tartışması büyüyor
Uzmanlar, yapay zekâ teknolojilerinin hızla geliştiğini ancak bu gelişimin beraberinde etik ve güvenlik tartışmalarını da getirdiğini belirtiyor. Özellikle hassas alanlarda üretilen içeriklerin kontrol altında tutulmasının önemine dikkat çekiliyor.
Sitemizde paylaştığınız yorumlar, diğer kullanıcılar için değerli bir kaynaktır. Lütfen farklı görüşlere ve diğer kullanıcılara saygılı olun. Kaba, saldırgan, aşağılayıcı veya ayrımcı ifadeler kullanmaktan kaçının.