OpenAI en ElevenLabs gaan SynthID gebruiken om AI-materiaal te watermerken

OpenAI en ElevenLabs gaan Google SynthID gebruiken om AI-beeldmateriaal te watermerken. Dat heeft Google bekendgemaakt op de eigen ontwikkelaarsconferentie I/O. Google gebruikt dat zelf al enkele jaren, Nvidia doet dat ook.

Daarmee krijgen vermoedelijk tools als de stemmen van ElevenLabs en foto's en video's gegenereerd met ChatGPT een SynthID-watermerk. Daarmee is na te gaan of beeldmateriaal echt is of met AI gemaakt of bewerkt is. Zo is onder meer terug te vinden of het is gebaseerd op een echte foto of dat het helemaal uit het niets door AI gemaakt is.

Google bouwt SynthID ook in Chrome en de zoekmachine, waardoor ook daar op te vragen is of een afbeelding echt is. Dat is mogelijk door de afbeelding in een chatvenster te zetten of te omcirkelen en te vragen of de foto echt is. Vervolgens zoekt de software de informatie van het SynthID-watermerk op. Die functie zit al enige tijd in Gemini van Google zelf.

Reacties (11)

[geerttttt]

Hoe zit dit nou verwerkt in een foto? Zit het wel in de zichtbare data/pixels? Of ergens in de metadata?

[RefriedNoodle]

Hoe zit dit nou verwerkt in een foto? Zit het wel in de zichtbare data/pixels? Of ergens in de metadata?

Van een artikeltje op TechCrunch: "The tool, called SynthID and available in beta for select users of Vertex AI (Google’s platform for building AI apps and models) embeds a digital watermark directly into the pixels of an image — making it ostensibly imperceptible to the human eye but detectable by an algorithm."

[neversium]

Het is maar even wachten totdat er weer een tool die synthID kan verwijderen

[iLaurens]

Hier wordt het enigszins technisch uitgelegd: https://vt-0xff.github.io/SynthID-Explained/

[adje123]

Daarom houd ik van DuckDuckGo. Daar kan je al een tijd lang bij afbeeldingen aangeven om AI afbeeldingen niet te tonen.

[_eLMo_]

Ik zou liever zien dat een dergelijk watermerk waterdicht wordt bedacht door instanties als IEEE, IEC, ISO dan een tech gigant die baat heeft bij het gebruik van AI. Of tenminste in samenwerking met.

[pvcholten]

Google heeft ook baat bij het kunnen herkennen van AI gebruik.

Een groot probleem is dat een model onbewust getraind wordt met data die door een eerdere versie is gemaakt. Dit is geen nieuwe informatie voor het model, dus hierop trainen maakt het model slechter in plaats van beter. Het helpt dan als je die data kan herkennen om het uit je trainingsdata te filteren

[Thonz]

In het kort: SynthID voegt een robuust patroon toe aan hetgeen wat het produceert.

Naast het aanbrengen van watermerken in hun output, zullen OpenAI en ElevenLabs even goed geïnteresseerd zijn in de SynthID detector, welke (nog) niet publiekelijk toegankelijk is.

It’s inaudible to the human ear, and can’t be altered by common modifications like adding noise, MP3 compression, or changing the speed of the track.

Ze zullen een bijzonder patroon hebben, gezien de MP3-compressie veel van de frequenties buiten het domein van menselijk gehoor comprimeert.

[pvcholten]

De techniek van stiekem data verwerken in een audiospoor is niet nieuw.

Cinavia zit verwerkt in veel films (Blu-ray maar ook in de bioscoop). Als een soort van kopieerbeveiliging. Als je een gebrande Blu-ray afspeelt met Cinavia in het audiospoor, weigert je Blu-ray speler de film af te spelen.

[Reactie gewijzigd door pvcholten op 19 mei 2026 20:09]

[HansvDr]

Ik gebruik alleen eigen smartphone fotos of AI fotos. Geen andere beelden van wie dan ook. In elk geval nooit meer gezeur van ANP met haar opsporingspraktijken

[MenN]

Zit daar ook een schaal in mbt de mate van Ai gebruik?

Een klein stukje content aware fill om een pukkel weg te werken is natuurlijk minder relevant dan misinformatie te genereren waarin bijv. Premier Jette aankondigt dat vanaf nu elke woensdag een vrije dag is.

Maar als beide scenario's hetzelfde label krijgen heb je er niet meer zoveel aan.