Google'ın SynthID'si: Örneklerle Bir Rehber

Yapay zekâ filigranlamanın amacı, özellikle yapay zekâ geliştikçe, dijital içeriği daha şeffaf ve izlenebilir hale getirmektir. Güvenilir işaretler olmadan, yapay zekâ tarafından üretilen içerikler kolayca araya karışıp fark edilmeden yayılabilir; bu da sahte haberlerin ve deepfakelerin yayılması veya yaratıcı çalışmaların izinsiz kullanımı gibi çeşitli sorunlara yol açabilir.

SynthID; metin, görsel, video ve ses üzerinde filigranlamayı destekler. Yaklaşımı, her medya türüne uyum sağlar; buna birazdan ayrıntılı şekilde değineceğiz. Filigran, kırpma, gürültü, sıkıştırma, kadrajlama ve filtreleme gibi yaygın düzenlemelerden sonra da korunacak şekilde tasarlanmıştır; bu da onu etkileyici derecede sağlam kılar.

SynthID, Google’ın üretken yapay zekâ ürünlerine hâlihazırda entegredir: metin için Gemini, görseller için Imagen, ses için Lyria ve video için Veo. Bu, modellerin algılanamayan filigranları çıktılarının içine doğrudan yerleştirebildiği anlamına gelir. SynthID Detector portalıyla birleştirildiğinde Google, kullanıcıların desteklenen tüm formatlarda yapay zekâ üretimi içerikleri hızla doğrulamasını sağlayan eksiksiz bir filigranlama çözümü sunar.

SynthID Nasıl Çalışır?

Filigranlama sürecinin ayrıntıları, medya formatına bağlıdır. Süreçlerini ve dayanıklılıklarını tek tek açıklayacağım.

Görseller ve videolar için SynthID

Görsel veriler için SynthID iki sinir ağı kullanır. İlki, görseldeki tekil renk değerlerini (piksel değerleri) insan gözüyle fark edilmeyecek kadar küçük ölçüde incelikle değiştirir.

Bu değişiklikler, kırpma, sıkıştırma, filtreleme, döndürme veya hatta ekran görüntüsü alma gibi tipik düzenlemelerden sonra bile ikinci sinir ağı tarafından filigranın tespit edilebilmesini sağlayacak şekilde seçilir. Bu da, görseller paylaşıldığında veya yeniden kullanıldığında sıkça karşılaşılan yaygın manipülasyonlara karşı filigranı özellikle dayanıklı kılar.

Videolar için SynthID

Bir videonun her karesi tekil görsellerle aynı muameleyi görür: her kare ayrı ayrı filigranlanır; böylece video ne kadar kırpılırsa kırpılsın iz işaretinin tespit edilebilirliği korunur. Bu, SynthID’nin görünmez video filigranını kırpma, sıkıştırma veya küçük kadrajlama gibi temel düzenlemelere karşı dayanıklı kılar.

Kararlı kullanıcılar veya ticari atlatma hizmetleri yine de filigranı kaldırabilir ya da gizleyebilir; özellikle de reklam platformlarındaki medya filtrelerini geçmek veya içerik denetimini aşmak amacıyla motive olmuşlarsa. Örneğin, renk bozulması veya aşırı kontrast değişiklikleri gibi agresif filtreler uygulamak ya da videoyu sıkıştırma, kare hızı veya renk profiline yönelik büyük ayarlamalarla yeniden kodlamak, filigranı yeterince zayıflatarak güvenilir tespiti zorlaştırabilir.

Ses için SynthID

Ses için SynthID, dalga formunu bir spektrograma dönüştürür; bu, bir ses sinyalindeki frekans tayfının zamana göre değişimini görsel olarak gösterir. Ardından filigranı spektrograma gömer ve son olarak sesten yeniden yapılandırır. Filigran duyulamadan kalır ancak standart ses işlemlerine karşı dayanıklıdır.

Yaygın formatları desteklemek için filigran, kayıplı sıkıştırmadan sağ çıkacak şekilde gömülür. Ancak perde kaydırma (pitch-shifting) veya zaman esnetme (time-stretching) gibi aşırı manipülasyonlar spektrogramı bozabilir ve tespit doğruluğunu azaltabilir. Ayrıca, MP3 sıkıştırmasına karşı dayanıklı olsa da SynthID’nin etkinliği tescilli ses formatlarında değişkenlik gösterebilir.

Metin için SynthID

Bir BBA metin ürettiğinde, dili; sözcükler, karakterler veya sözcük parçaları olan belirteçlere (token) ayırır ve olasılık puanlarına dayanarak bir sonraki belirteci tahmin eder. SynthID, bu özelliği kullanarak üretim sürecinde bu olasılık puanlarını ayarlayarak filigranları gömer. Bu değişiklik, belirli sözcük seçimlerini biraz daha olası kılan kontrollü, sözde rastgele bir şekilde yapılır.

Ortaya çıkan istatistiksel desen, okurlar için görünmezdir ve üretilen metnin anlamını, kalitesini veya hatta yaratıcılığını etkilemez. Tespit gerektiğinde SynthID, metni bu ince olasılık örüntüleri açısından analiz eder ve bunu filigranlı ile filigransız içerikten beklenenle karşılaştırır. Filigran genellikle hafif düzenleme ve yeniden ifade etmeye dayanır; ancak yoğun yeniden yazım veya çeviriyle zayıflayabilir.

SynthID Sınırlamaları

SynthID, gerçek dünya kullanımında önemli sınırlamalarla karşılaşıyor. Metin filigranlaması, eğitilmemiş dillerde başarısız olan sonradan tespit araçlarının aksine, diller arasında tutarlı performans gösterse de yoğun yeniden ifade veya çeviri altında tespit oranları düşüyor.

Metin dışı kiplerde (görsel, video, ses), Google’ın dayanıklılık iddialarını nicel olarak doğrulamayı engelleyen yayınlanmış doğruluk metrikleri kayda değer biçimde yok.

Ayrıca, üretim seçeneklerinin kısıtlı olduğu olgusal yanıtlarda filigran gömme, doğruluğu bozmadan desen yerleştirmeyi sınırladığı için daha az etkili olur.

Diğer yapay zekâ tespit araçlarında olduğu gibi, atlatmayı önlemek için SynthID kararlarına nasıl ulaştığını açıklamaz. Tespit kriterleri veya algoritmalar kamuya açıklansaydı, kullanıcıların tespitten kaçmak için içeriği özel olarak manipüle etmesi çok daha kolay olurdu.

Ek olarak, altta yatan modeller karmaşıktır ve sıklıkla istatistiksel örüntüler veya olasılık puanlarıyla çalışır; bu da kararlarını, uzmanlar için bile, basit terimlerle yorumlamayı zorlaştırır.

Şu anda, filigranın derinlemesine entegre edildiği Google’ın kendi modelleri tarafından üretilen içeriklerde SynthID’nin en güvenilir tespiti elde edilir. SynthID-Text’in açık kaynaklı bir sürümü mevcut olup Hugging Face Transformers aracılığıyla uyumlu dil modelleriyle kullanılabilir; ancak tespit oranları ve dayanıklılık genellikle Google’ın yerel uygulamalarına kıyasla daha düşüktür.

Sonuç olarak, SynthID’nin evrensel uygulanabilirliği sınırlı kalıyor ve özellikle içerik farklı yapay zekâ sistemleri tarafından düzenlendiğinde, OpenAI veya Meta gibi diğer sağlayıcılardan gelen yapay zekâ üretimi içerikleri tutarlı biçimde tanımlamayabilir.

Uygulamalı Uygulama: Metin İçin SynthID

Hadi başlayalım! Özel bir Google API erişimine ihtiyacınız yok—SynthID, transformers çerçevesi içinde yerel olarak çalışır. İhtiyacınız olanlar:

• transformers ve torch paketleri yüklü bir Python ortamı (sürüm 3.8 veya üstü)
• Hugging Face üzerinden bir BBA’ya erişim.

Ortamın oluşturulması

Python ortamı örneğin Anaconda ve aşağıdaki komutlar kullanılarak kurulabilir. transformers paketinin sürümünün, metin için SynthID desteği vermesi adına 4.46.0 veya daha yeni olması gerektiğini lütfen unutmayın.

conda create -n synthid-env python=3.9
conda activate synthid-env
pip install "transformers>=4.46.0" torchAltyapı:

Modelin indirilmesi

Metin üretimi için, tüketici donanımında verimli çalışacak şekilde özel olarak tasarlanmış ve çok çeşitli dil görevlerinde güçlü performans sunan hafif gemma-2b modelini kullanacağız. Kapılı bir model olduğundan, bir Hugging Face hesabına giriş yapılması ve modelin lisans koşullarının tarayıcıda kabul edilmesi gerekir.

Gemma-2b modeli iki ana formatta mevcuttur:

1. safetensors varyantı, PyTorch ve Hugging Face Transformers ile kullanım için
2. gguf varyantı, llama.cpp gibi özelleşmiş çıkarım motorları için

Bu eğitim için yalnızca safetensors dosyalarına ihtiyacınız var; çünkü Python’da transformers ile modeli yüklemek ve çalıştırmak için gereklidirler. Ancak, ilgili yapılandırma ve belirteçleyici (tokenizer) dosyalarını da indirmeniz gerekir; zira bu dosyalar, model mimarisi ve metnin nasıl işlendiğine dair temel bilgileri içerir—bunlar olmadan, hangi ağırlık formatını seçerseniz seçin model doğru şekilde yüklenip kullanılamaz.

huggingface-cli download google/gemma-2b model-00001-of-00002.safetensors model-00002-of-00002.safetensors config.json tokenizer.json tokenizer.model tokenizer_config.json special_tokens_map.jsonAltyapı:

Modelin yüklenmesi

Hugging Face’teki Gemma-2b veya diğer kapılı modellere erişebilmek için bir Hugging Face erişim jetonu sağlamamız gerekir. Erişim jetonunun yalnızca okuma izinlerine ihtiyacı vardır. Hugging Face ayarlarında jeton oluştururken “read” rolünü seçin; yazma veya yönetici izinleri gerekli değildir.

# Logging in to Hugging Face
from huggingface_hub import login
login("<your_huggingface_token>")Altyapı:

transformers paketinden AutoTokenizer ve AutoModelForCausalLM’i içe aktarmamız ve ikisini de seçtiğimiz modelle başlatmamız gerekiyor.

# Loading the models
from transformers import AutoTokenizer, AutoModelForCausalLM
 model_name = "google/gemma-2b"
tokenizer = AutoTokenizer.from_pretrained(generator_model_name)
model = AutoModelForCausalLM.from_pretrained(generator_model_name)Altyapı:

SynthID yapılandırmasının oluşturulması

Yapay zekâ üretimi metinlere SynthID filigranları uygulamak için SynthIDTextWatermarkingConfig kullanarak bir filigran yapılandırma nesnesi oluşturmanız gerekir. Bu nesne, metin üretimi sırasında filigranların nasıl gömüleceğini kontrol eder.

keys parametresi, özel dijital imzanız görevi gören rastgele tamsayıların (genellikle 20-30 değer) bir listesidir. Metin üretimi sırasında tespit edilebilir bir desen oluşturmak için sözcük seçimi olasılıklarının nasıl ince biçimde değiştirileceğini belirlerler. Bu keys listesinin gizli olduğunu unutmayın—açığa çıkmaları hâlinde saldırganlar filigranları taklit edebilir veya tespit edilemeyen yapay zekâ metni üretebilir.

ngram_len parametresi, filigran desen analizinde kullanılan sözcük-dizisi uzunluğunu tanımlar. Değerler düştükçe filigranlar ağır düzenlemelerden sağ çıkmaya daha yatkın olur; ancak tespit edilmeleri zorlaşır. Tersine, daha yüksek değerler tespiti iyileştirir ama küçük düzenlemelerde kırılır. Gerçek dünya kullanımı için 5 değeri en iyi denge olarak önerilir.

from transformers import SynthIDTextWatermarkingConfig
# SynthID configuration
watermark_config = SynthIDTextWatermarkingConfig(
    keys=[634, 300, 846, 15, 310, ...], # list of 20-30 integer numbers, keep this secret!
    ngram_len=5
)Altyapı:

Metne filigran uygulama

Filigran uygulanacak metnin istemi önce bir PyTorch tensörüne belirteçlenmelidir ki model anlayacağı sayısal belirteçleri alsın. Bu tokenized_prompt daha sonra yapılandırma nesnesiyle birlikte modelin generate() yöntemine aktarılır. do_sample parametresi, filigranla uyumlu örneklemeyi etkinleştirmek için True olarak ayarlanmalıdır.

tokenized_prompt = tokenizer(
    ["Answer in two sentences: What is AI?"],
    return_tensors=”pt”
)
output_sequences = model.generate(
    **tokenized_prompt,
    watermarking_config=watermark_config,,
    do_sample=True
)Altyapı:

Bu, üretim sırasında sözcük seçimi olasılıklarını değiştirerek görünmez bir desen gömer ve metin kalitesini korur. Yeniden kullanılabilirliği sağlamak için oturumlar arasında aynı keys listesini kullanın; böylece filigranlar tutarlı şekilde tespit edilebilir.

Bu örnekte modelden bize yapay zekânın tanımını vermesini istedik. Şimdi belirteçleri, `batch_decode()` yöntemiyle yeniden okunabilir metne çevirerek yanıtı görelim.

watermarked_text = tokenizer.batch_decode(
    output_sequences , # Model's tokenized output
    skip_special_tokens=True # Removes control tokens like [BOS], [EOS], etc.
)
print(watermarked_text)Altyapı:

['Answer in two sentences: What is AI?

Answer:
Artificial intelligence (AI) is a branch of computer science that deals with the development of intelligent machines that can perform tasks that normally require human intelligence, such as visual perception, speech recognition, decision-making, and language translation.
AI applications include autonomous vehicles, chatbots, and virtual personal assistants.']Altyapı:

Metindeki Yapay Zekâ Filigranlarını Nasıl Tespit Ederiz?

Yapay zekâ üretimi metinde SynthID filigranlarını tespit etme söz konusu olduğunda, şu anda üç pratik seçenek mevcuttur.

Gösterim ve deneyler için Hugging Face Transformers bir Bayesçi dedektör sınıfı sağlar. Bu sınıf, açık kaynaklı bir örnek model kullanarak Python kodunda tespit iş akışını test etmeyi mümkün kılar. Ancak bu modelin yalnızca demo amaçlı olduğunu ve güvenilir doğruluk veya üretim düzeyi dayanıklılık sunmadığını unutmamak önemlidir. 

Kurumsal ihtiyaçlara özel tespit için Bayesçi dedektör sınıfı, özel SynthID uyumlu dedektörler inşa etmekte kullanılabilir. Bu uçtan uca örnek, belirli bir yapılandırma ve paylaşılan belirteçleyiciyle üretilen filigranlı metin üzerinde nasıl eğitim yapılabileceğini ve böylece birden çok dahili model arasında tutarlı filigran doğrulaması sağlanabileceğini gösterir.

Eğitim tamamlandıktan sonra dedektörler, güvenli kurumsal erişim için özel bir Hugging Face Hub deposuna yüklenebilir ve Google’ın Responsible GenAI Toolkit’i üretim ortamına dağıtım için tamamlayıcı rehberlik sunar.

Google’ın yapay zekâ modelleri (Gemini veya Imagen gibi) tarafından üretilen içerikte SynthID filigranlarının gerçek tespiti için Google, bulut tabanlı SynthID Detector Portalı sunar. Hizmet kullanıcı dostudur ve kodlama gerektirmez; ancak mülkiyete tabidir, şu anda yalnızca bekleme listesiyle erişilebilir ve Google’ın kendi ekosisteminden gelen içeriğin doğrulanmasıyla sınırlıdır. Şu an için geliştiriciler adına herkese açık bir API veya yerel sürüm yoktur.

SynthID Üzerine Ek Tartışmalar

Standartlaştırma ve veri gizliliği

SynthID, Microsoft ve Meta gibi büyük oyuncuların kendi tescilli filigranlama sistemlerini kullanmaya devam etmesi nedeniyle sektör çapında bir standart olarak benimsenmemiştir; bu da çapraz platform tespitinin etkisiz kaldığı parçalı bir ekosistem yaratır. Şu anda metin, görsel, ses ve video kipleri arasında filigran dayanıklılığı için standart bir değerlendirme protokolü mevcut değildir.

Sektör ortaklıkları— Nvidia ile olan ve Cosmos platformlarında SynthID kullanan iş birliği gibi—mevcut olsa da nadirdir. Dolayısıyla umut verici görünümüne karşın, SynthID evrensel olarak kabul gören bir standart olmaktan hâlâ oldukça uzaktır.

Bazı endişelerin aksine, SynthID doğası gereği Google tarafından gözetim veya içerik takibi sağlamaz; zira filigran, üretim sırasında gömülen pasif bir tanımlayıcıdır ve doğrulama için SynthID Detector portalına isteğe bağlı yüklemeler gerektirir. Portalın tarama ve silme iş akışının ötesinde Google’ın içerik dağıtımını veya kullanımını izlediğine dair bir kanıt yoktur. Google, yüklenen dosyaların uzun vadede saklanıp saklanmadığını veya yeniden kullanılıp kullanılmadığını açıklamamıştır; bu da potansiyel gizlilik boşlukları yaratır.

Hukuki ve toplumsal etkiler

Yapay zekâ üretimi içeriklerden filigranların kaldırılması, özellikle AB Yapay Zekâ Yasası gibi yasalar yapay zekâ çıktılarının mülkiyetini açıkça tanımlamadığından, telif hakkı uygulamasını zorlaştırır. ABD COPIED Yasası (2024) böyle bir kaldırmayı suç sayarken saldırganlar, metni çevirmek veya medyayı yeniden düzenlemek gibi boşluklardan yararlanarak filigranları hukuki sonuç doğurmadan silebilir. Bu belirsizlik, içerik üreticilerini savunmasız bırakır.

Google ekosistemiyle sınırlı SynthID gibi araçlar, yalnızca gönderilerin küçük bir bölümünün tespit edilebilir filigranlar taşıması nedeniyle sorunun ölçeğini karşılayamaz. Statik filigranlar, teknik zafiyetler, yanlış pozitifler ve platform uyumsuzlukları nedeniyle tek başına yapay zekâ kaynaklı yanlış bilgiyle mücadele edemez. En kötü durumda, SynthID gibi araçlar, Google dışı içerik veya düzenlenmiş medya karşısında başarısız olurken güvenilir tespit ima ederek tehlikeli bir aşırı güvene yol açma riski taşıyabilir.

SynthID-Text gibi üretim aşamasında gömülen filigranlar, yapay zekâ tespiti için kapsamlı bir yanıt değildir; daha çok diğer stratejileri tamamlayan taktiksel bir araçtır. Etkinlikleri, filigranı metin üretimi sırasında gerçekten gömen sağlayıcılar arasındaki iş birliğine bağlıdır. Filigran kullanmayan kaynaklardan gelen yapay zekâ üretimi metni belirlemek için, sonradan tespit gibi alternatif yöntemler hâlen gereklidir.

Sonuç

SynthID, yapay zekâ üretimi metne filigran ekleme ve doğrulama yolu sunarak sentetik medya çağında içeriğin kökenlerini daha şeffaf hale getirir. Ancak etkinliği, sektör çapında standartların yokluğu ve filigranların kolayca kaldırılabilmesi veya atlatılabilmesi tarafından sınırlanmaktadır.

Yapay zekâ filigranlama ve diğer sorumlu yapay zekâ uygulamaları hakkında daha fazla bilgi edinmek için şu kaynaklara göz atabilirsiniz:

• Kurs: Üretken Yapay Zekâ Kavramları
• Kurs: Sorumlu Yapay Zekâ Uygulamaları
• Blog: Yapay Zekâ Filigranlama: Nasıl Çalışır, Kullanım Alanları, Zorluklar
• Blog: Deepfake Nedir? Örnekler, Kullanım Alanları, Etik Zorluklar