Amazon, deepfake ile savaşmak için Facebook ve Microsoft'a katıldı

Deepfake
Deepfake

● Tek bir fotoğraf üzerinden sahte videolar oluşturmayı sağlayan deepfake içerikleri artmayı devam ediyor.
● Sahte fotoğraf ve videoları ortaya çıkarmak için panzehir çalışmaları ise devam ediyor. Facebook ve Microsoft'un başı çektiği Deepfake Detection Challenge'a Amazon da dahil oldu.
● İki sene boyunca 1 milyon dolar yatırım yapacak olan Amazon, deepfake içeriklerin tespit edilmesinde bulut tabanlı servisler üzerinden de katkı sağlayacak. Ayrıntılar haberimizde:

Yapay zekâ teknolojileri birçok farklı alanda karşılık buluyor. Son yıllarda yelpaze sağlık sektöründen sesli asistanlara ve hatta otomasyonteknolojilerine kadar genişlemiş durumda. Sürekli tekrarlanan işler aslında makineöğrenimiyle cihazlara yerleşiyor ve doğruluk oranı da buna bağlı olarak artıyor.

İlginizi çekebilirGerçekten mükemmel deepfake videolar sadece 6 ay uzaklıkta!
  • Deepfake nedir? Bu teknoloji aslında fotoğraf ya da videoları analiz ederek herhangi bir kişinin sahte sahte görüntülerinin oluşturulmasını sağlıyor. Hem fotoğraf hem de video için aynı durum geçerli.

Tabii bu teknoloji her zaman olumlu sonuçlar doğurmuyor. Son aylarda sıkça karşımıza çıkan 'deepfake' fotoğraf ve videolar da aslında bu yöntemlerle oluşturuluyor. Yapay zekâ desteğiyle ortaya çıkarılan sahtefotoğraf veya videolar, aslında çok büyük bir riski de beraberinde getiriyor.

Yapay zekâ teknolojileri yanlış bilgilendirme; sahtekarlık ve seçimleri değiştirme riski içeriyor

Yalnızca tek birfotoğrafüzerinden sahte video oluşturmayı sağlayan yapay zekâ teknolojileri, Çinli bir geliştiricinin tasarladığı Zaoisimliuygulamayla video içinde bir kesite de yerleştirilebiliyor. Epey gerçekçi görüntüler oluşmasını sağlayan bu yenideepfakeuygulaması, kullanıcılar tarafından gizlilik endişeleri sebebiyle tepki görüyor. Ama yine de geliştirme süreci devam ediyor.

İlginizi çekebilirZao isimli deepfake uygulaması tek bir yüz fotoğrafını analiz ederek videolara yerleştiriyor

Siyasi ve ünlülerin fazlasıyla karşılaştığı bu sahte fotoğraf ya da videolar aslında yepyeni tehlikeleri beraberinde getiriyor. Devletler ve büyük ölçekli şirketler, yapay zekânın yanlış bilgilendirme, sahtekarlık, seçim değiştirme riskini göz önünde bulundurarak panzehir oluşturmak adına ortak bir paydada buluşuyor.

Adobe'nin geliştirdiği ve geçtiğimiz aylarda duyurduğu yeni yapay zekâ, manipüleedilen fotoğraflar ayrıştırılarak eski ve orijinal hallerine getiriliyor. Darmouth araştırmacısı Hany Farid, bu tip yapay zekâ teknolojilerinin artık herhangi bir sahte fotoğraf ya da video üretmek için çok az veri gerektirdiğinden bahsediyor.

İlginizi çekebilirAdobe'nin yeni yapay zekâsı manipüle edilen fotoğrafları algılayabiliyor

Deepfake videoların tespiti için çalışmaları hızlandıran yapay zekâ araştırmacıları, fotoğraf ve videolar üzerinde 'neredeyse kusursuz' oynama yapan teknolojileri ortaya çıkaran yeni sistemler geliştiriyor.

İlginizi çekebilirYapay zekâ araştırmacıları 'deepfake' videoları tespit etmek için çalışmaları hızlandırdı

Birçok önemli isim gibi ElonMusk'ın da bu konuda endişeleri var. Musk, yapay zekâ konusunda epey karamsar. Zaman zaman yaptığı açıklamalarla bunu doğrulayan isim, süper bir yapay zekânın insanları dağ gorilleri gibi nesli tükenmekte olan bir türe dönüştürebileceğini söylüyor.

İlginizi çekebilirElon Musk, gelişmiş yapay zekânın sosyal medyayı zehirleyebileceği konusunda uyardı

Manipüle edilen fotoğrafların bulunmasında %99 oranında bir doğruluk sağlıyor

Az önce de bahsettiğimiz dev şirketler ise bir araya gelip sahte fotoğraf ve videoların ortaya çıkarılması için çaba sarf ediyor. Facebook, aslında bu teknolojiler söz konusu olduğunda Microsoft, Cornell Tech, MIT, Oxford Üniversitesi, UC Berkeley, Maryland Üniversitesi, College Park ve Albany-Suny Üniversi'nden akademisyenlerle bir araya geliyor. Hatta deepfake videoların orijinallerinden ayırılması için Deepfake Detection Challenge (DFDC) isimli özel bir yapı da kuruyorlar.

Deepfake Detection Challenge, yapay zekâ aracılığıyla insanları manipüleeden medyayı devre dışı bırakmaya odaklanıyor. Üstelik az önce saydığımız şirket ya da üniversitelerin yanı sıra WITNESS ve sivil toplum örgütleri de bu yapıyı destekliyor. Üstelik oluşturulan yapay zekâ için toplamda 10 milyon dolardan fazla bütçe ayrılmış durumda. İlk testlerin Ekim'de düzenlenecek olan Conference on Computer Vision (ICCV) kapsamında gerçekleşeceğini de belirtmek gerekiyor.

İlginizi çekebilirFacebook, orijinal videoların ne zaman sahte hale geldiğini gösteren yapay zeka geliştiriyor

Şimdi bu şirketler arasına Amazon da dahil oluyor. Amazon, manipüleedilmişiçeriği tanımlama çabalarına destek sağlamak için Facebook ve Microsoft gibi şirketler arasına giriyor. Şirket, araştırmacılara önümüzdeki 2 yıl boyunca 1 milyon dolar katkıda bulunacak. AWS, Amazon S3 ölçeklenebilir altyapısını kullanarak bulut hizmetinde derin algılama için faydalı olacak gibi görünüyor.