Çin'de yapay zekâyla oluşturulan deepfake videoları açıkça işaretlemek zorunlu hale geldi

Makine öğrenimi, mobil uygulamalardansesli asistanlarasağlık sektöründenotomasyon teknolojilerine kadar birçok farklı alanda aktif olarak kullanılıyor. Yani yelpaze epey geniş. Her ne kadar çalışmaların büyük kısmı verimligibi görünse de aslında farklı kullanım senaryoları kimi zaman insanları korkutuyor.

Deepfake videolar yanlış bilgilendirme, sahtekarlık ve seçimleri değiştirme riski içeriyor.

Bunun için en somut örnek aylar önce ortaya çıkan Mona Lisa tablosu. Samsung, geliştirdiği yeni yapay zekâyla tek bir fotoğrafı işleyerek video oluşturabiliyor. Bu da gerçekten ürkütücü yeni bir boyutu ortaya çıkarıyor. Deepfake videolar yanlış bilgilendirme, sahtekarlık ve seçimleri değiştirme riski bile içeriyor.

• Deepfake nedir? Bu teknoloji aslında fotoğraf ya da videoları analiz ederek herhangi bir kişinin sahte sahte görüntülerinin oluşturulmasını sağlıyor. Hem fotoğraf hem de video için aynı durum geçerli.

Devletler ve şirketler de bunu gördükten sonra aslında deepfake videolarla nasıl baş edeceklerini düşünmeye başladılar. Facebook'un başını çektiği ve Microsoft, Cornell Tech, MIT, Oxford Üniversitesi, UC Berkeley, Maryland Üniversitesi, College Park ve Albany-Suny Üniversi'nden akademisyenlerin yer aldığı Deepfake Detection Challenge (DFDC) isimli özel bir yapı kuruldu.

Sahtefotoğraf ve videoların insanları yanlış yönlendirdiği ortada. Yapay zekâya bu noktada her zamankinden daha fazla iş düşüyor. Zira herhangi bir ünlünün ya da siyasinin değiştirilen deepfake videosu aslında beraberinde bir dizi olayın gelişmesine sebep olabiliyor.

Manipüle edilen fotoğrafların bulunmasında %99 oranında bir doğruluk sağlıyor.

Dolayısıyla az önce bahsettiğimiz şirket ve üniversitelerin bir araya gelmesinin amacı da sahte videoları orijinallerinden ayırmak. Adobe'nin de benzer yazılımları var.

Çin, 2020'den itibaren yapay zekâ kullanılarak oluşturulan videoların açıkça işaretlenmesi kuralını getiriyor. Yani aslında Çinli şirketler, yapay zekâ ve sanal gerçeklik gibi teknolojilerle oluşturulan sahte haberlerin yayılmasını önlemek için çevrimiçi video ve ses içeriğini düzenleyen yeni kurallar yayınlıyor.

• DUYURU:
  GZT, 'Deepfake' teknolojisini mercek altına aldı! Savaş Çıkarır'ın ilk bölümünde uygulamanın en tehlikeli yanlarını inceledik. 'Savaş Çıkarır: Deepfake Teknolojisi, Aralık'ta GZT YouTube'da! Bekleyin... :)

1 Ocak'tan itibaren hayata geçiyor

Çin Siber İdaresi (CAC) web sitesinde yapay zekâ ya da sanal gerçekliğin herhangi bir kullanımının açıkça işaretlenmesi gerektiğini belirtiyor. Ayrıca kurallara uyulmaması durumunda bu bir suç olarak kabul ediliyor. 1 Ocak'tan itibaren geçerli olacak olan kurallar, geçtiğimiz hafta duyurulduktan sonra Cuma günü ayrıntılı şekilde web sitelerinde yer aldı. Çin Siber İdaresi, gerçekçi videolar oluşturmak için yapay zekâ kullananların neden büyük problemlere yol açabileceğinden de bahsediyor.

Ulusal güvenliği tehlikeye sokabilir.

Deepfake teknolojisi, CAC web sitesinde yayınlanan bir basın bülteninde göre 'ulusal güvenliği tehlikeye sokabilir, sosyal istikrarı bozabilir, sosyal düzeni bozabilir ve başkalarının meşru haklarını veya çıkarlarını ihlal edebilir.'

Çin'in üst yasama organı, bu yılın başlarında yapay zekâ teknolojisini yasa dışı hale getirmeyi planladıklarını açıkça ifade ediyor. Geçtiğimiz dönemlerde duyurulan Çin menşeili Zao uygulamasının bu kararın alınmasındaki payı ise oldukça büyük.