Google's SynthID: een gids met voorbeelden

Het doel van AI-watermerken is om digitale content transparanter en beter traceerbaar te maken, zeker naarmate AI geavanceerder wordt. Zonder betrouwbare markeringen kan AI-materiaal gemakkelijk opgaan in de massa en onopgemerkt verspreiden, wat tot allerlei problemen kan leiden, zoals de verspreiding van nepnieuws en deepfakes of het ongeautoriseerd gebruik van creatief werk.

SynthID ondersteunt watermerken voor tekst, afbeeldingen, video en audio. De aanpak past zich aan per mediatype; later gaan we hier dieper op in. Het watermerk is zo ontworpen dat het gangbare bewerkingen zoals trimmen, ruis, compressie, bijsnijden en filteren overleeft, waardoor het opvallend robuust is.

SynthID is al geïntegreerd in Google’s generatieve AI-producten: Gemini voor tekst, Imagen voor afbeeldingen, Lyria voor audio en Veo voor video. Dat betekent dat deze modellen onmerkbare watermerken direct in hun output kunnen inbedden. In combinatie met het SynthID Detector-portaal biedt Google een complete watermerkoplossing waarmee gebruikers AI-gegenereerde content in alle ondersteunde formaten snel kunnen verifiëren.

Hoe werkt SynthID?

Hoe het watermerkproces er precies uitziet, hangt af van het mediaformaat. Ik leg per type hun werkwijze en robuustheid uit.

SynthID voor afbeeldingen en video’s

Voor beelddata gebruikt SynthID twee neurale netwerken. Het eerste past individuele kleurwaarden (pixelwaarden) in de afbeelding zó subtiel aan dat het menselijk oog geen verschil ziet.

De aanpassingen worden zo gekozen dat het watermerk voor het tweede neurale netwerk detecteerbaar blijft na typische beeldbewerkingen zoals bijsnijden, compressie, filteren, roteren of zelfs screenshots. Daardoor is het watermerk bijzonder bestand tegen veelvoorkomende manipulaties die vaak optreden bij het delen of hergebruiken van afbeeldingen.

SynthID voor video’s

Elke frame van een video krijgt dezelfde behandeling als losse afbeeldingen: elk frame wordt afzonderlijk van een watermerk voorzien, zodat de markering detecteerbaar blijft, ongeacht hoeveel de video is getrimd. Dit maakt het onzichtbare videowatermerk van SynthID robuust tegen basisbewerkingen zoals trimmen, compressie of klein bijsnijden.

Vastberaden gebruikers of commerciële omzeildiensten kunnen het watermerk nog steeds verwijderen of verhullen, zeker als ze gemotiveerd zijn om mediamodellen op advertentieplatforms of voor contentmoderatie te passeren. Het toepassen van agressieve filters—zoals kleurvervorming of extreem contrast—of het opnieuw encoderen van de video met sterke aanpassingen in compressie, framerate of kleurprofiel kan het watermerk voldoende aantasten om betrouwbare detectie lastig te maken.

SynthID voor audio

Voor audio zet SynthID de golfvorm om in een spectrogram: een visuele weergave van het frequentiespectrum van een audiosignaal in de tijd. Vervolgens wordt het watermerk in het spectrogram ingebed en wordt de audio daaruit gereconstrueerd. Het watermerk blijft onhoorbaar, maar is bestand tegen standaard audiobewerking.

Om met gangbare formaten om te gaan, wordt het watermerk zo ingebed dat het verliesgevende compressie overleeft. Extreem manipuleren, zoals pitch-shifting of time-stretching, kan het spectrogram echter vervormen, waardoor de detectienauwkeurigheid afneemt. Bovendien kan, hoewel het robuust is tegen MP3-compressie, de effectiviteit van SynthID variëren tussen propriëtaire audioformaten.

SynthID voor tekst

Wanneer een LLM tekst genereert, breekt het taal op in tokens—woorden, tekens of woorddelen—en voorspelt vervolgens het volgende token op basis van waarschijnlijkheidsscores. SynthID benut deze eigenschap door tijdens het genereren watermerken in te bedden via subtiele aanpassingen aan deze waarschijnlijkheden. De wijziging gebeurt gecontroleerd en pseudotoevallig, waardoor bepaalde woordkeuzes net iets waarschijnlijker worden.

Het resulterende statistische patroon in de tekst is voor lezers onzichtbaar en beïnvloedt de betekenis, kwaliteit of zelfs creativiteit van de tekst niet. Bij detectie analyseert SynthID de tekst op deze subtiele waarschijnlijkheidspatronen en vergelijkt die met wat verwacht wordt van getagde versus niet-getagde content. Het watermerk overleeft doorgaans lichte bewerking en parafraseren, maar kan verzwakken door zwaar herschrijven of vertalen.

Beperkingen van SynthID

SynthID stuit op aanzienlijke beperkingen in praktijktoepassingen. Hoewel het tekstwatermerk consistent presteert over talen heen—in tegenstelling tot post-hocdetectors die falen bij ongetrainde talen—kelderen de detectiecijfers bij zwaar parafraseren of vertalen.

Voor niet-tekstmodaliteiten (afbeeldingen, video, audio) ontbreken gepubliceerde nauwkeurigheidsstatistieken, waardoor kwantitatieve validatie van Google’s robuustheidsclaims onmogelijk is.

Bovendien is het inbedden van watermerken minder effectief bij feitelijke antwoorden, waar beperkte generatiemogelijkheden de patrooninbedding beperken zonder de nauwkeurigheid te schaden.

Net als andere AI-detectietools legt SynthID niet uit hoe het tot beslissingen komt, om omzeiling te voorkomen. Als de exacte detectiecriteria of algoritmen openbaar zouden zijn, zou het veel eenvoudiger worden om content doelgericht te manipuleren om detectie te ontwijken.

Daarnaast zijn de onderliggende modellen complex en werken ze vaak met statistische patronen of waarschijnlijkheidsscores, waardoor hun beslissingen zelfs voor experts lastig in eenvoudige termen te duiden zijn.

Op dit moment is de meest betrouwbare detectie met SynthID mogelijk bij content die door Google’s eigen modellen is gegenereerd, waar het watermerk diep is geïntegreerd. Hoewel er een open-sourceversie van SynthID-Text beschikbaar is en te gebruiken met compatibele taalmodellen via Hugging Face Transformers, liggen detectiecijfers en robuustheid doorgaans lager dan bij Google’s eigen implementaties.

Daardoor blijft de universele toepasbaarheid van SynthID beperkt en zal het niet consequent AI-gegenereerde content van andere aanbieders zoals OpenAI of Meta herkennen, zeker niet wanneer content door verschillende AI-systemen is bewerkt.

Hands-on implementatie: SynthID voor tekst

Aan de slag! Je hebt geen speciale Google API-toegang nodig—SynthID werkt lokaal binnen het transformers-framework. Je hebt alleen het volgende nodig:

• Een Python-omgeving (versie 3.8 of hoger) met de pakketten transformers en torch geïnstalleerd
• Toegang tot een LLM via Hugging Face.

De omgeving aanmaken

De Python-omgeving kun je bijvoorbeeld opzetten met Anaconda en de onderstaande commando’s. Let erop dat de versie van het pakket transformers 4.46.0 of nieuwer is om SynthID voor tekst te ondersteunen.

conda create -n synthid-env python=3.9
conda activate synthid-env
pip install "transformers>=4.46.0" torchMogelijk gemaakt door

Het model downloaden

Voor de tekstgeneratie gebruiken we het lichtgewicht model gemma-2b, omdat dit specifiek is ontworpen om efficiënt te draaien op consumentenharde­ware en toch sterke prestaties te leveren op uiteenlopende taaltaken. Omdat het een gated model is, moet je inloggen bij een Hugging Face-account en in de browser akkoord gaan met de licentievoorwaarden van het model.

Het Gemma-2b-model is beschikbaar in twee hoofdformaten:

1. De safetensors-variant voor gebruik met PyTorch en Hugging Face Transformers
2. De gguf-variant voor gespecialiseerde inference-engines zoals llama.cpp

Voor deze tutorial heb je alleen de safetensors-bestanden nodig, omdat die vereist zijn om het model in Python met transformers te laden en uit te voeren. Je moet echter ook de bijbehorende configuratie- en tokenizerbestanden downloaden, omdat deze essentiële informatie bevatten over de modelarchitectuur en de tekstverwerking—zonder die bestanden kan het model niet correct worden geladen of gebruikt, ongeacht welk gewichtsformaat je kiest.

huggingface-cli download google/gemma-2b model-00001-of-00002.safetensors model-00002-of-00002.safetensors config.json tokenizer.json tokenizer.model tokenizer_config.json special_tokens_map.jsonMogelijk gemaakt door

Het model laden

Om Gemma-2b of andere gated modellen van Hugging Face te kunnen gebruiken, hebben we ook een Hugging Face-toegangstoken nodig. Het toegangstoken heeft alleen leesrechten nodig. Kies bij het aanmaken van je token in de Hugging Face-instellingen de rol “read”; schrijf- of adminrechten zijn niet vereist.

# Logging in to Hugging Face
from huggingface_hub import login
login("<your_huggingface_token>")Mogelijk gemaakt door

We moeten AutoTokenizer en AutoModelForCausalLM importeren uit het pakket transformers en beide initialiseren met het model van onze keuze.

# Loading the models
from transformers import AutoTokenizer, AutoModelForCausalLM
 model_name = "google/gemma-2b"
tokenizer = AutoTokenizer.from_pretrained(generator_model_name)
model = AutoModelForCausalLM.from_pretrained(generator_model_name)Mogelijk gemaakt door

De SynthID-configuratie maken

Om SynthID-watermerken op AI-gegenereerde tekst toe te passen, maak je een watermerkconfiguratieobject met SynthIDTextWatermarkingConfig. Dit object bepaalt hoe watermerken tijdens de tekstgeneratie worden ingebed.

De parameter keys is een lijst met willekeurige gehele getallen (meestal 20–30 waarden) die dienen als je private digitale handtekening. Ze bepalen hoe woordkeuzewaarschijnlijkheden subtiel worden aangepast tijdens het genereren om een detecteerbaar patroon te creëren. Let op dat deze keys geheim zijn—als ze uitlekken, kunnen aanvallers watermerken vervalsen of ondetecteerbare AI-tekst genereren.

De parameter ngram_len definieert de woordreeks-lengte die wordt gebruikt voor de analyse van het watermerkpatroon. Hoe lager de waarden, hoe waarschijnlijker het is dat watermerken zware bewerking overleven, maar des te moeilijker ze te detecteren zijn. Omgekeerd verbeteren hogere waarden de detectie, maar breken ze al bij kleine edits. Een waarde van 5 wordt aanbevolen als beste compromis voor praktisch gebruik.

from transformers import SynthIDTextWatermarkingConfig
# SynthID configuration
watermark_config = SynthIDTextWatermarkingConfig(
    keys=[634, 300, 846, 15, 310, ...], # list of 20-30 integer numbers, keep this secret!
    ngram_len=5
)Mogelijk gemaakt door

Een watermerk op tekst toepassen

De prompt voor de te watermerken tekst moet eerst worden getokenized naar een PyTorch-tensor, zodat het model de numerieke tokens krijgt die het begrijpt. Deze tokenized_prompt wordt vervolgens aan de generate()-methode van het model doorgegeven, samen met het configuratieobject. De parameter do_sample moet op True staan om watermerk-compatibele sampling in te schakelen.

tokenized_prompt = tokenizer(
    ["Answer in two sentences: What is AI?"],
    return_tensors=”pt”
)
output_sequences = model.generate(
    **tokenized_prompt,
    watermarking_config=watermark_config,,
    do_sample=True
)Mogelijk gemaakt door

Dit wijzigt de woordkeuzewaarschijnlijkheden tijdens het genereren, zodat er onzichtbare patronen worden ingebed terwijl de tekstkwaliteit behouden blijft. Gebruik voor herhaalbaarheid dezelfde keys over sessies heen, zodat watermerken consistent gedetecteerd kunnen worden.

In dit voorbeeld vroegen we het model om zijn definitie van AI. Laten we eerst het antwoord bekijken door de tokens weer om te zetten naar leesbare tekst met de `batch_decode()`-methode.

watermarked_text = tokenizer.batch_decode(
    output_sequences , # Model's tokenized output
    skip_special_tokens=True # Removes control tokens like [BOS], [EOS], etc.
)
print(watermarked_text)Mogelijk gemaakt door

['Answer in two sentences: What is AI?

Answer:
Artificial intelligence (AI) is a branch of computer science that deals with the development of intelligent machines that can perform tasks that normally require human intelligence, such as visual perception, speech recognition, decision-making, and language translation.
AI applications include autonomous vehicles, chatbots, and virtual personal assistants.']Mogelijk gemaakt door

AI-watermerken in tekst detecteren

Voor het detecteren van SynthID-watermerken in AI-gegenereerde tekst zijn er momenteel drie praktische opties.

Voor demonstratie en experimenten biedt Hugging Face Transformers een Bayesiaanse detectorklasse. Met deze klasse kun je de detectieworkflow in Python testen met een open-source dummy-model. Let wel: dit model is alleen bedoeld voor demo’s en biedt geen betrouwbare nauwkeurigheid of productieklare robuustheid. 

Voor organisaties die maatwerkdetectie nodig hebben, kan de Bayesiaanse detectorklasse worden gebruikt om eigen SynthID-compatibele detectors te bouwen. Dit end-to-end voorbeeld laat zien hoe je kunt trainen op getagde tekst die met een specifieke configuratie en gedeelde tokenizer is gegenereerd, zodat consistente watermerkverificatie over meerdere interne modellen mogelijk is.

Na training kunnen detectors worden geüpload naar een privérepository op Hugging Face Hub voor beveiligde, organisatorische toegang, en Google’s Responsible GenAI Toolkit biedt aanvullende richtlijnen voor productie-implementatie.

Voor authentieke detectie van SynthID-watermerken in content die door Google’s AI-modellen (zoals Gemini of Imagen) is gegenereerd, biedt Google een cloudgebaseerd SynthID Detector-portaal. De dienst is gebruiksvriendelijk en vereist geen code, maar is propriëtair, momenteel alleen via een wachtlijst beschikbaar en beperkt tot het verifiëren van content uit Google’s eigen ecosysteem. Er is op dit moment geen publieke API of lokale versie voor ontwikkelaars.

Verdere discussies over SynthID

Standaardisatie en gegevensprivacy

SynthID is nog geen industriestandaard, aangezien grote spelers zoals Microsoft en Meta eigen propriëtaire watermerksystemen blijven gebruiken. Daardoor ontstaat een gefragmenteerd ecosysteem waarin kruisplatformdetectie ineffectief blijft. Momenteel bestaat er geen gestandaardiseerd evaluatieprotocol voor de robuustheid van watermerken over tekst-, beeld-, audio- en videomodaliteiten.

Er zijn industriële samenwerkingen—zoals die met Nvidia, dat SynthID in hun Cosmos-platform gebruikt—maar die zijn schaars. Ondanks het veelbelovende perspectief is SynthID dus nog ver verwijderd van een algemeen geaccepteerde standaard.

In tegenstelling tot sommige zorgen maakt SynthID op zichzelf geen toezicht of contenttracking door Google mogelijk, aangezien het watermerk een passieve markering is die bij generatie wordt ingebed en vrijwillige uploads naar het SynthID Detector-portaal vereist voor verificatie. Er is geen bewijs dat Google contentdistributie of -gebruik monitort buiten de scan-en-verwijder-workflow van het portaal. Google heeft niet bekendgemaakt of geüploade bestanden langdurig worden opgeslagen of hergebruikt, wat potentiële privacygaten creëert.

Juridische en maatschappelijke implicaties

Het verwijderen van watermerken uit AI-gegenereerde content bemoeilijkt handhaving van auteursrechten, zeker omdat wetten zoals de EU AI Act het eigendom van AI-outputs niet duidelijk definiëren. Hoewel de Amerikaanse COPIED Act (2024) zo’n verwijdering strafbaar stelt, misbruiken aanvallers mazen—zoals tekst vertalen of media opnieuw bewerken—om watermerken te verwijderen zonder juridische consequenties. Deze onduidelijkheid maakt makers kwetsbaar.

Tools als SynthID, beperkt tot Google’s ecosysteem, pakken de schaal van het probleem niet aan, omdat slechts een klein deel van de posts detecteerbare watermerken draagt. Statische watermerken alleen kunnen AI-misinformatie niet bestrijden vanwege technische kwetsbaarheden, vals-positieven en platformonverenigbaarheid. In het worstcasescenario kunnen tools als SynthID gevaarlijk overmoed aanwakkeren door betrouwbare detectie te suggereren terwijl ze falen bij niet-Googlecontent of bewerkte media.

Generatieve watermerken zoals SynthID-Text zijn geen alomvattend antwoord op AI-detectie; het zijn tactische hulpmiddelen die andere strategieën aanvullen. Hun effectiviteit hangt af van samenwerking tussen aanbieders die het watermerk daadwerkelijk tijdens het genereren inbedden. Voor het identificeren van AI-gegenereerde tekst uit bronnen die geen watermerken gebruiken, blijven alternatieve methoden—zoals post-hocdetectie—nodig.

Conclusie

SynthID biedt een manier om AI-gegenereerde tekst te watermerken en verifiëren, waardoor de herkomst van content transparanter wordt in een tijdperk van synthetische media. De effectiviteit wordt echter beperkt door het ontbreken van breed gedragen standaarden en de eenvoud waarmee watermerken kunnen worden verwijderd of omzeild.

Wil je meer weten over AI-watermerken en andere verantwoorde AI-praktijken? Bekijk dan deze bronnen:

• Cursus: Generative AI Concepts
• Cursus: Responsible AI Practices
• Blog: AI Watermarking: How It Works, Applications, Challenges
• Blog: What Are Deepfakes? Examples, Applications, Ethical Challenges