Deepfake’ler Nedir? Örnekler, Uygulamalar, Etik Zorluklar

2020’de South Park yaratıcıları Trey Parker ve Matt Stone, başka bir dikkat çekici deepfake çalışmasına imza attı: "Sassy Justice" adlı dizinin pilot bölümünde, Donald Trump ve Mark Zuckerberg başta olmak üzere, deepfake’lerin “canlandırdığı” kurgusal karakterler yer aldı.

Deepfake’ler Nasıl Çalışır?

Deepfake’lerden bahsederken genellikle nihai ürüne odaklanırız. Biraz daha derine inelim ve nasıl oluşturulduklarını anlamaya çalışalım—teknik geçmişiniz olmasa bile konuyu kavrayacağınızdan emin olacağım.

Ayrıştırıcı ve üretici modeller

Ayrıştırıcı (discriminative) modeller şeyleri birbirinden ayırt etmek için kullanılır—örneğin bir görselin gerçek mi yoksa sahte mi olduğunu. Veriye bakar ve doğru etiketi ("gerçek" veya "deepfake" gibi) tahmin etmeye çalışırlar. Yaygın model örnekleri arasında lojistik regresyon, karar ağaçları, sinir ağları ve destek vektör makineleri yer alır. Bu modeller, değiştirildiğine ya da manipüle edildiğine dair işaretleri yakalamaya yönelik eğitildikleri için deepfake tespiti gibi görevler için uygundur.

Üretici (generative) modeller ise gerçek verinin nasıl çalıştığını anlamaya ve benzer yeni veriler üretmeye çalışır. Çok sayıda gerçek örnekten—gerçek yüz fotoğrafları veya gerçek ses kayıtları gibi—öğrenir ve ardından bu bilgiyi kullanarak sahte ama gerçekçi görünümlü medya üretir. Deepfake’ler bu şekilde yapılır.

Temel fark, kullanım amaçlarındadır: ayrıştırıcı modeller tespit eder, üretici modeller ise üretir. Deepfake teknolojisinde her ikisi de önemlidir—biri inandırıcı sahteler yapmak, diğeri ise onları yakalamak için.

Fark hakkında daha fazla bilgi edinmek için üretici ve ayrıştırıcı modeller hakkındaki bu blog yazısına göz atın.

Üretici çekişmeli ağlar

GAN’lar, üretici ve ayrıştırıcı bir modeli birlikte eğiten bir üretici yapay zekâ türüdür. İki model arasındaki ilişki, dostça bir rekabet olarak tanımlanabilir: üretici sentetik içerik üretirken, ayrıştırıcı gerçek medya ile sahteleri ayırt etmeye çalışır. Bu çekişme, üreticiyi çıktıları gerçek medyaya neredeyse ayırt edilemeyecek kadar yakınlaşana dek işini geliştirmeye iter.

Deepfake’ler özelinde üretici modelin rolü, sahte tablolar yapan bir sanat sahtekârına; ayrıştırıcı modelinki ise her eseri sahte olup olmadığını anlamak için inceleyen bir sanat eleştirmenine benzetilebilir. Daha fazla veriye maruz kaldıkça her ikisi de tecrübe kazanır; sonuçta giderek daha inandırıcı kopyalar ve daha isabetli değerlendirmeler ortaya çıkar.

Süreç, bir kişinin ses tonu ve yüz özellikleri gibi ayırt edici niteliklerini yakalamak için kapsamlı veri kümeleri üzerinde modellerin eğitilmesini içerir. Bu veriyi analiz ederek sistem, hedefin doğru bir temsilini kademeli olarak inşa eder ve bunu onu inandırıcı biçimde taklit etmek için kullanır.

Deepfake teknikleri

Yüz değiştirme için yaygın teknikler sıklıkla otoenkoderler ve evrişimli sinir ağlarını içerir. Bu araçlar, bir kişinin yüzünün nasıl göründüğünü—şekli, mimikleri ve temel özellikleri—öğrenmek için çok sayıda görsel veya video karesi üzerinde eğitilir. Yapay zekâ bu bilgiyi, bir bakıma kişinin yüzünün dijital bir özeti gibi, anlayabileceği bir biçime dönüştürür.

Ardından, bu özeti kullanarak bir kişiden alınan yüz ifadelerini diğerine uygular ve yüz değişimini gerçekçi gösterir.

Kaynak: Deepfakes Generation and Detection: State-of-the-art, open challenges, countermeasures, and way forward

Dudak senkronizasyonunda, sinir ağları yalnızca ağız hareketlerini değil, aynı zamanda video çıktısını konuşulan kelimelerle doğru hizalamak için ses girdilerini de analiz eder.

Her video karesi ile tam olarak hangi fonemin söylendiğini belirten bir ses etiketi eşleştirildiği etiketli veri kümeleriyle eğitilirler; böylece model ses ile görsel artikülasyon arasındaki kesin ilişkiyi öğrenir.

Bu veri ve etiket çiftlerini eşzamanlı analiz ederek ağ, öğrenilen ilişkiyi yansıtan ağız hareketlerine sahip video çıktıları üretmeyi öğrenir.

Son olarak, ses klonlama; kapsamlı ses veri kümeleri ile bunlara karşılık gelen transkriptler kullanılarak konuşma sentezi modellerinin eğitilmesiyle başarılabilir. Bu veri kümeleri, modellerin analiz edebileceği yapılandırılmış bir biçimde bir kişinin sesinin benzersiz özelliklerini (perde, ton ve ritim gibi) yakalar.

Bu veri ve etiket çiftlerinden öğrenen modeller, hedefin doğal ses özelliklerini yakından taklit eden, ikna edici sentetik konuşma üretir.

Deepfake Uygulamaları

Çoğumuzun ünlü oyuncuların veya kamu figürlerinin mizahi senaryolarda yer aldığı sentetik videoları gördüğüne eminim. Ancak deepfake’ler, eğitim amaçları da dahil olmak üzere erişilebilirliği artırmak gibi pek çok amaca hizmet edebilir.

Eğlence

Deepfake’ler, sinemacılara yenilikçi araçlar sunarak oyuncuları genç gösterebilmelerine veya filmlerin orijinal performanslara çok yakın dublajlı sürümlerini oluşturmalarına olanak tanır.

Buna çarpıcı bir örnek, Martin Scorsese’nin “The Irishman” (2019) filmidir; Robert De Niro, Al Pacino ve Joe Pesci geriye dönüş sahnelerinde onlarca yıl daha genç görünür. Böylece, karakterlerin gençliğini canlandırmak için birden fazla oyuncuya gerek kalmadan hikâye doğal akışında ilerleyebilmiştir. Sürecin açıklamasını bu videoda izleyebilirsiniz.

Deepfake’ler ayrıca video oyunları ve sanal gerçeklik için gerçekçi avatarlar üreterek dijital karakter oluşturmayı dönüştürüyor. Kullanıcılarla doğal etkileşim kuran, gerçeğe çok yakın karakterler tasarlayabilmek; daha etkileşimli ve kişiselleştirilmiş eğlence deneyimlerinin önünü açıyor. Örneğin, Epic Games’in MetaHuman Creator aracı, geliştiricilerin gerçek zamanlı olarak ikna edici biçimde hareket eden ve tepki veren fotogerçekçi avatarlar oluşturmasını sağlıyor.

Deepfake’lerin hiciv içerik üretimindeki potansiyeli de çok büyük. Geleneksel taklitler uzun zamandır komedyenlerin repertuvarının bir parçası olsa da deepfake’ler mizansenlere yeni bir ayrıntı ve gerçekçilik katmanı ekliyor. Snicklink ve Kyle Dunnigan gibi sanatçılar bu yenilikçi yaklaşımı şimdiden keşfediyor ve dijital hicvin sınırlarını zorluyor.

Eğitim ve erişilebilirlik

Deepfake teknolojisinin yakın tarihli bir kullanımı BBC Maestro’dan geldi; ölümünden neredeyse 50 yıl sonra yeniden canlandırılan Agatha Christie’nin yer aldığı bir yazarlık kursu başlattılar.

Yapay zekâ ile oluşturulmuş görseller ve mektupları, röportajları ve el yazmaları temel alınarak yapılan ses modellemesi kullanılarak, kurs Christie’nin kendi sözleriyle dersler anlattığı bir versiyon sunuyor. Bu, üretici medyanın tarihî figürleri çağdaş eğitim ortamlarına nasıl taşıyabileceğinin net bir örneği.

Deepfake’ler, özellikle konuşma bozukluğu olan bireyler için erişilebilirliği geliştirme vaadi de taşıyor. Kayıtlardan bir kişinin ses özelliklerini yakalayan sentetik sesler geliştirmek, daha doğal iletişime imkân verebilir.

Dikkate değer bir örnek, “Project Revoice”’tır; Motor Nöron Hastalığı olan (çoğunlukla konuşma kaybıyla sonuçlanan) bireylerin, erken dönemde ses kayıtları alarak doğal seslerini korumalarına ve yeniden yaratmalarına yardımcı olur.

Deepfake’lerin Etik ve Sosyal Zorlukları

Deepfake’lerle ilgili herhangi bir tartışma, yol açtıkları zorluklara değinmeden eksik kalır. En acil endişeler arasında şunlar yer alır:

• Güven erozyonu
• Hileli faaliyetler
• Gizlilik ihlalleri

Deepfake’ler, gerçek ile manipüle edilmiş içerik arasındaki farkı ayırt etmeyi giderek zorlaştırarak kamusal güveni aşındırma potansiyeline sahiptir. Yanlış bilgi yayıldığında, kamuoyunu şekillendirebilir, itibarları zedeleyebilir veya kritik durumlarda kafa karışıklığı yaratabilir.

En kötü senaryolarda deepfake’ler, kötü niyetli aktörler tarafından toplumları istikrarsızlaştırmak için silah haline getirilebilir; siyasi kutuplaşmaları körükleyebilir veya kamu figürlerine atfedilen uydurma ifadeler ya da eylemler yayarak seçimleri dahi etkileyebilir.

Birini inandırıcı biçimde taklit etme yeteneği, deepfake teknolojisiyle birlikte; finansal dolandırıcılıklar veya kimlik hırsızlığı gibi sahtekârlıklara kapı aralar. Siber suçlular, insanları para transferine ikna etmek veya hassas verilere erişim vermelerini sağlamak için klonlanmış sesleri kullanabilir. Bu durum, bankacılık ve siber güvenlik gibi sektörler için geleneksel doğrulama yöntemlerinin artık yeterli olmayabileceği endişesini artırır.

Deepfake’lerin en rahatsız edici uygulamalarından biri de rıza dışı içerik üretimidir; bu, bireyleri istismar etmek veya sindirmek için kullanılabilir. Mağdurlar kendilerini, itibarlarını zedeleyen veya mahremiyetlerine tecavüz eden uydurma medyada bulabilir. Bu durum, kişisel benzerliklerin rıza olmaksızın kötüye kullanılmasının, etkilenenler için uzun vadeli psikolojik ve mesleki sonuçları olabileceği gerçeğini vurgulayan önemli bir etik sorundur.

Artan risklere rağmen, deepfake üretimi ve dağıtımına ilişkin yasa ve düzenlemeler birçok ülkede hâlâ net değildir. Bazı yargı bölgeleri hedefe yönelik mevzuat getirmiş olsa da teknolojinin hızla ilerlemesi nedeniyle uygulama zordur. Belirgin bir hukuki çerçevenin olmayışı, failleri hesap vermeye zorlamayı güçleştirir ve ifade özgürlüğünü zararı önleme ihtiyacıyla nasıl dengeleyeceğimize dair sorular doğurur.

Deepfake’ler Nasıl Tespit Edilir

Gördüğümüz üzere, özgün içerik ile manipüle edilmiş içeriği ayırt etmek, yapay zekâ çağında kritik bir beceri haline geliyor. Gelin, onları birbirinden ayırmak için farklı yaklaşımlara bakalım.

İnsan gözlemi

Her ne kadar fark etmek giderek zorlaşsa da, insan gözünün az çok yakalayabildiği manipülasyon belirtileri vardır. Muhtemelen çoğumuz, insanlara birden dört ya da altı parmak “eklenen” yapay zekâ üretimi görselleri duymuşuzdur; ancak diğer işaretler daha inceliklidir.

Görsellerde, yüzlerin veya nesnelerin kenarlarında doğal olmayan bulanıklık ya da tutarsız pikselleşme, manipülasyona dair bir ipucu olabilir. Bu, modelin hangi pikselin yüze, hangisinin arka plana ait olduğunu doğru ayırt edemediğini ve az çok belirgin bir dikiş izi bıraktığını ima eder.

Bir diğer ipucu, ışıklandırma veya gölgelerin çevreyle uyuşmaması olabilir; bu da görüntünün yapay biçimde kurgulanmış gibi görünmesine yol açar.

Işık kaynağı ile gölgeler arasındaki uyumsuzluğu gösteren yapay zekâ üretimi görsel.

Videolarda, ışık kaynağının yönünün kareler arasında aniden değişmesi daha da göze çarpabilir. Ayrıca, çevre bağlamla uyuşmayan sıra dışı göz kırpma kalıpları veya donuk yüz ifadeleri yakalayabilir ve bu da hafif bir “tekinsizlik” hissi yaratır. Bazı durumlarda baş veya saç çevresindeki kenarlar titreşir; bu da videonun manipüle edilmiş olabileceğini ele verir.

Teknik yöntemler

Deepfake’leri tespit etmek sıklıkla, yüz özelliklerindeki, hareketteki ve diğer yapaylık izlerindeki tutarsızlıkları analiz eden yapay zekâ destekli yöntemlerin bir kombinasyonunu gerektirir. Manipüle edilmiş medya içeriğinin tespitinde uzmanlaşmış bazı yazılımlara örnekler şunlardır:

• GoogleSynthID
• Truepic
• DuckDuckGoose
• Intel FakeCatcher
• Reality Defender
• Sensity AI
• Deepware Scanner

Her araç, kendi birincil kullanım durumuna yönelik benzersiz bir yaklaşıma sahiptir. Diğer tüm araçlar halihazırda oluşturulmuş içeriği doğrulamaya odaklanırken, Google SynthID ve Truepic, yapay zekâ üretimi içeriği tespit etmeye yönelik önleyici tedbirler olarak görülebilir.

Google SynthID, yapay zekâ üretimi görsellere kökenlerini işaretlemek için algılanamaz dijital filigranları doğrudan gömerken, Truepic; yakalama anında medyayı doğrulamak için kriptografik özetleme ve blokzincir tabanlı doğrulama kullanır.

Ağırlıklı olarak yüz tutarsızlıklarını analiz eden DuckDuckGoose ile kan akış kalıpları gibi biyolojik sinyallerin tespitinde güçlü olan Intel FakeCatcher, adli ve araştırma uygulamalarını hedefler.

Reality Defender, Sensity AI ve Deepware Scanner arasındaki fark ise hedef kullanıcı grubunda yatar: Üçü de gerçek ve sahte içeriği ayırt etmek için derin öğrenme modelleri kullansa da, ilk ikisi kurumsal güvenlik araçlarıyla entegrasyon sunar ve geniş ölçekli kurumsal tespit görevleri için uygundur; Deepware Scanner ise sıradan kullanıcılar için daha hafif, tüketici odaklı bir araçtır.

Sonuç

Deepfake’ler hem teknolojik bir ilerlemeyi hem de önemli bir etik meydan okumayı temsil eder. Eğlence, eğitim ve erişilebilirlikte heyecan verici olanaklar sunsalar da, kötüye kullanım; yanlış bilgilendirmeye, dolandırıcılığa ve gizlilik ihlallerine yol açabilir.

Gelecekte, özellikle sanal gerçeklik uygulamalarında deepfake’lerin daha da gerçekçi hale gelmesini; tespit araçlarının ise giderek sofistikeleşen manipülasyon tekniklerine ayak uydurmaya çalışmasını bekleyebiliriz.

Deepfake’lerin kuramsal ve teknolojik yönleri hakkında daha fazla bilgi edinmek isterseniz, DataCamp aşağıdaki kaynaklarla yanınızda:

• Kurs: Generative AI Concepts
• Makale: Derin Öğrenme Nasıl Öğrenilir: Kapsamlı Kılavuz
• Eğitici yazı: Üretici Çekişmeli Ağlar (GAN’lar) Demistifiye Ediliyor
• Makale: Üretici vs Ayrıştırıcı Modeller: Farklar ve Kullanım Alanları