OpenAI en ElevenLabs gaan SynthID gebruiken om AI-materiaal watermerk te geven

OpenAI en ElevenLabs gaan Google SynthID gebruiken om AI-beeldmateriaal watermerken te geven. Dat heeft Google bekendgemaakt op de eigen ontwikkelaarsconferentie I/O. Google gebruikt dat zelf al enkele jaren, Nvidia doet dat ook.

Daarmee krijgen vermoedelijk tools als de stemmen van ElevenLabs en foto's en video's gegenereerd met ChatGPT een SynthID-watermerk. Daarmee is na te gaan of beeldmateriaal echt is of met AI gemaakt of bewerkt is. Zo is onder meer terug te vinden of het is gebaseerd op een echte foto of dat het helemaal uit het niets door AI gemaakt is.

Google bouwt SynthID ook in Chrome en de zoekmachine, waardoor ook daar op te vragen is of een afbeelding echt is. Dat is mogelijk door de afbeelding in een chatvenster te zetten of te omcirkelen en te vragen of de foto echt is. Vervolgens zoekt de software de informatie van het SynthID-watermerk op. Die functie zit al enige tijd in Gemini van Google zelf.

Reacties (20)

[Thonz]

In het kort: SynthID voegt een robuust patroon toe aan hetgeen wat het produceert.

Naast het aanbrengen van watermerken in hun output, zullen OpenAI en ElevenLabs even goed geïnteresseerd zijn in de SynthID detector, welke (nog) niet publiekelijk toegankelijk is.

It’s inaudible to the human ear, and can’t be altered by common modifications like adding noise, MP3 compression, or changing the speed of the track.

Ze zullen een bijzonder patroon hebben, gezien de MP3-compressie veel van de frequenties buiten het domein van menselijk gehoor comprimeert.

[pvcholten]

De techniek van stiekem data verwerken in een audiospoor is niet nieuw.

Cinavia zit verwerkt in veel films (Blu-ray maar ook in de bioscoop). Als een soort van kopieerbeveiliging. Als je een gebrande Blu-ray afspeelt met Cinavia in het audiospoor, weigert je Blu-ray speler de film af te spelen.

[Reactie gewijzigd door pvcholten op 19 mei 2026 20:09]

[zmaj]

Zomaar een paar vragen die nu bij mij opkomen:

1. Als ik een gedeelte van een Ai plaatje neem, werkt het dan ook nog?
2. Als ik een AI plaatje compress, en daarna weer un-compress, werkt het dan ook?
3. Als ik iedere pixel heel lichtjes random wijzig, werkt het dan ook nog?
4. Als ik een normaal plaatje heb, kan ik daar dan ook deze detectie inzetten?

Nummer 4 kan gebruikt worden om van echte plaatjes AI te maken, waarna niemand ze meer serieus neemt...

[Thonz]

alles kan, lees de link naar de site deepmind: daar staat het uitgelegd.

Wat betreft punt 4: ik denk dat ze dit tegengaan door middel van het beperken van toegang tot SynthID.

[geerttttt]

Hoe zit dit nou verwerkt in een foto? Zit het wel in de zichtbare data/pixels? Of ergens in de metadata?

[RefriedNoodle]

Hoe zit dit nou verwerkt in een foto? Zit het wel in de zichtbare data/pixels? Of ergens in de metadata?

Van een artikeltje op TechCrunch: "The tool, called SynthID and available in beta for select users of Vertex AI (Google’s platform for building AI apps and models) embeds a digital watermark directly into the pixels of an image — making it ostensibly imperceptible to the human eye but detectable by an algorithm."

[neversium]

Het is maar even wachten totdat er weer een tool die synthID kan verwijderen

[skredtsooj]

Inderdaad, dat was ook mijn eerste gedachte.

[iLaurens]

Hier wordt het enigszins technisch uitgelegd: https://vt-0xff.github.io/SynthID-Explained/

[_eLMo_]

Ik zou liever zien dat een dergelijk watermerk waterdicht wordt bedacht door instanties als IEEE, IEC, ISO dan een tech gigant die baat heeft bij het gebruik van AI. Of tenminste in samenwerking met.

[pvcholten]

Google heeft ook baat bij het kunnen herkennen van AI gebruik.

Een groot probleem is dat een model onbewust getraind wordt met data die door een eerdere versie is gemaakt. Dit is geen nieuwe informatie voor het model, dus hierop trainen maakt het model slechter in plaats van beter. Het helpt dan als je die data kan herkennen om het uit je trainingsdata te filteren

[adje123]

Daarom houd ik van DuckDuckGo. Daar kan je al een tijd lang bij afbeeldingen aangeven om AI afbeeldingen niet te tonen.

[HansvDr]

Ik gebruik alleen eigen smartphone fotos of AI fotos. Geen andere beelden van wie dan ook. In elk geval nooit meer gezeur van ANP met haar opsporingspraktijken

[MenN]

Zit daar ook een schaal in mbt de mate van Ai gebruik?

Een klein stukje content aware fill om een pukkel weg te werken is natuurlijk minder relevant dan misinformatie te genereren waarin bijv. Premier Jette aankondigt dat vanaf nu elke woensdag een vrije dag is.

Maar als beide scenario's hetzelfde label krijgen heb je er niet meer zoveel aan.

[Thonz]

Tja. Een paar pixels kunnen al een heel ander beeld schetsen.

Premier Jette die van een normale foto, nu met rode ogen over straat gaat is op de schaal van hoeveel ai manipulatie niet wezenlijk anders, maar op de schaal van gevolgen van het gebruik wel (minder in dit geval, maar dat is niet wat ik beargumenteer).

[z1rconium]

Er is dringend iets nodig, ook juridisch, er was een artiest, publiceerde alleen op youtube, AI heeft al haar content geleerd, hetzelfde AI bedrijf markeert haar content als copyright infringement op 'hun' muziek en moest haar kanaal opzeggen want klagen bij google kan niet. Dit is pas het begin van de ellende.

[Thonz]

Welke is dit?

[z1rconium]

Murphy Campbell heet ze (youtube), ze hebben ondertussen haar kanaal weer restored na een hoop backlash.

Zie post

[Wimmie13]

Wat als je zelf het vermogen hebt om een uitstekende variant van diffusion te draaien, dan maakt het toch weer geen drol uit? Alleen voor het grote gross is het dan wel te herkennen. Misschien ook goed voor Google en andere zoekmachines om websites daarop te filteren.

[themadone]

Filmpje openen in een editor, render as. Profit? Dit werkt nu al op bijvoorbeeld x om de ai detectie te omzeilen is het genoeg om in paint 1 pixel van je meme een kleurtje te geven.