Düşünsenize bir gün uyanıyorsunuz ve sosyal medyada görüntünüz ve sesiniz bir sansasyona neden olmuş. "Hadi canım" demeyin çünkü bu hiç zor değil. Bir süredir dünyanın birçok yerinde büyük sorunlara yol açan deepfake'den başkası değil bunu yapan. İnsanlar gerçek sanıyor ama değil. Bundan çok zaman önce değil, sadece birkaç ay önce gittiğim bir sergide, video art'lar dikkatimi çekmişti. Ünlülerin konuştuğu videoların yanında 'Hepsi deepfake' yazıyordu. Sanatçı bu meseleye dikkat çekmek isterken bana gerçek olmayan bir şeyin açıklamasını izletmişti. Kim Kardashian ve Donald Trump'ın deepfake videolarıydı onlar. İşte bu durum şu an günümüzde sosyal medyada çok yaşanıyor. Yakında daha da konuşulacak çünkü vakalar giderek artıyor. Deepfake; 'deep learning' ve 'fake' kelimelerinin birleşiminden oluşmuş bir terim, yapay zeka ve derin öğrenme algoritmaları kullanılarak görsel ve işitsel içeriklerin gerçekçi bir şekilde manipüle edilmesini ve değiştirilmesini ifade ediyor.
Peki deepfake'in başlıca riskleri neler?
YANLIŞ BİLGİ: Sahte haberler ve propaganda yaymak için kullanılıyor.
KİŞİLİK HAKKI İHLALİ: Kişilerin rızası olmadan sahte pornografik videolar oluşturmak için kullanılıyor.
DOLANDIRICILIK: Kimlik hırsızlığı ve finansal sahtekarlık için kullanılıyor.
Bu haftanın gündemi ise deepfake video ile 26 milyon dolarlık yapılan vurgundu.
Çin'de bilgisayar korsanları, çok uluslu bir şirketi deepfake teknolojisi yardımıyla CEO'sunu taklit ederek dolandırdı.
Nasıl oldu peki bu? İngiltere'deki Waterloo Üniversitesi'nden araştırmacılar; deepfake ile ürettikleri sesi kullanarak sesli kimlik doğrulama sistemlerini aldatma girişimlerinde sadece altı denemede yüzde 99 oranında başarı elde ettiklerini açıklamışlardı. Neyin yapay zeka tarafından üretilen içerik, neyin insan içeriği olduğunu anlayamıyoruz. Doğruluk krizinin tam merkezindeyiz aslında. Gerçekle sahteyi ayırt etmek çok zor.
ÜNLÜLER HEDEFTE
Ünlülerin kullanıldığı deepfake sahtecilik de artıyor örneğin. Amerikalı oyuncu Scarlett Johansson rızası olmadığı halde, sesini ve görüntüsünü reklam amacıyla kullanan yapay zeka uygulamasına karşı hukuki süreç başlatmıştı. Yakın zamanda Taylor Swift'in başına gelenler de çok korkutucuydu. Sosyal medya platformu, geçen hafta Swift'in yapay zeka tarafından üretilen sahte görüntülerinin viral hale gelmesinin ardından ünlü şarkıcının adının aranmasını geçici olarak engelledi. Swift'in medya platformunda yayınlanan sahte fotoğrafı, hesap askıya alınmadan önce 47 milyon kez tıklandı. Platformun güvenlik ekibi müdahale etmeden önce bu görüntülü içerik on binlerce kez paylaşıldı.
DEEPFAKE REKLAMLAR
Gelelim reklamlara, kısa bir süre önce ABD'li oyuncu Tom Hanks, diş sağlığı hakkında yapılan bir reklamda izni alınmadan yapay zekayla oluşturulmuş görüntüsünün kullanıldığını açıkladı ve hayranlarını deepfake reklama karşı uyardı. Tom Hanks, "Benim yapay zeka versiyonumla bir diş sigortası planını tanıtan bir video var. Benim bununla hiçbir ilgim yok" diyerek uyarıda bulundu.
GERÇEK Mİ SAHTE Mİ NASIL AYIRT EDEBİLİRİZ?
Görüntünün veya videonun kalitesi: Deepfake videolar, gerçek videolara kıyasla daha pürüzsüz ve kusursuz görünebilir.
Ağız ve dudak hareketleri: Deepfake videolarda, ağız ve dudak hareketleri sesle tam olarak eşleşmeyebilir.
Gözler: Deepfake videolarda, gözler gerçekçi görünmeyebilir veya ışıklandırmaya uygun şekilde tepki vermeyebilir.
Davranış: Deepfake videolarda, kişinin davranışları ve jestleri gerçekçi görünmeyebilir.
