Yapay zeka kontrolden çıkmadan önlem alınsın: OpenAI küresel denetim istedi

Yapay zeka yarışı son yıllarda teknoloji dünyasının en kritik gündemlerinden biri haline geldi. Büyük şirketler daha güçlü modeller geliştirmek için rekabet ederken, güvenlik ve denetim tartışmaları da büyüyor. Özellikle modellerin yapay zeka araştırmalarında daha aktif rol almaya başlaması, ilerleme hızının kontrol edilmesi gerektiği yönündeki görüşleri güçlendiriyor. OpenAI’ın son çağrısı, sektörün kendi içinde de daha sıkı denetim arayışına girdiğini gösteriyor.

Salt Okunur

İnsansı robot yanardağa tırmandı: Gerçek test zirvede ortaya çıktı

Küresel kurum önerisi

OpenAI CEO’su Sam Altman ve baş bilim insanı Jakub Pachocki tarafından yayımlanan değerlendirmede, yapay zeka gelişimini izleyecek uluslararası bir kuruluş fikri öne çıkarıldı. Bu yapının, toplumların uyum sağlaması ve güvenlik önlemlerinin yetişebilmesi için gerekli durumlarda sınır modellerin geliştirilmesini yavaşlatabilecek kararlar alması gerektiği ifade edildi.

Benzer bir çağrı kısa süre önce Anthropic tarafından da yapılmıştı. Şirket, küresel ölçekte koordineli bir yavaşlamanın mümkün olması halinde yararlı olabileceğini savunmuştu. Bu yaklaşım, yapay zeka alanındaki en büyük oyuncuların riskleri yalnızca teknik değil, küresel bir yönetim meselesi olarak gördüğünü ortaya koyuyor.

Kendi kendini geliştirme riski

yapay zeka denetim

Tartışmanın merkezinde, yapay zeka sistemlerinin yeni ve daha gelişmiş yapay zekaların geliştirilmesine katkı sunması yer alıyor. OpenAI, önümüzdeki birkaç yıl içinde yapay zekanın yapay zeka araştırmalarındaki ilerleme hızını belirleyen ana unsur haline gelebileceğini belirtiyor.

Şirket, 2028 yılına kadar araştırmalarının önemli bir bölümünün yapay zeka sistemleriyle birlikte yürütülebileceğini öngörüyor. Bu hedef, teknolojinin üretkenliğini artırabilir. Ancak aynı zamanda insan kontrolünün zayıflaması, güvenlik önlemlerinin geride kalması ve ticari rekabetin riskleri büyütmesi gibi endişeleri de beraberinde getiriyor