Anthropic zet watermerk in AI-gegenereerde teksten van nieuwe Claude-modellen

Anthropic zet onzichtbare watermerken in teksten die nieuwe modellen van zijn AI-bot Claude genereert. Daarmee moet te bewijzen zijn dat teksten niet door mensen zijn geschreven. De Europese Unie schrijft sinds 2 augustus voor dat chatbots, deepfakes en AI-gemaakte teksten herkenbaar zijn als AI.

Anthropic stelt dat zijn maandag aangekondigde watermerk in AI-gegenereerde teksten bestand is tegen lichte bewerkingen. Het ingebedde watermerk zit in de tekst, maar is voor menselijke lezers onzichtbaar. "Je zult het niet zien en het verandert niet de betekenis, kwaliteit of leesbaarheid", aldus het Amerikaanse AI-bedrijf.

Doordat het watermerk deel uitmaakt van de tekst, gaat het mee wanneer een mens of een computersysteem de tekst kopieert. Een lichte bewerking van een tekst verwijdert een daarin opgeslagen watermerk niet. Het is onduidelijk in welke mate een tekst kan worden bewerkt of herschreven voordat die het AI-watermerk verliest.

In tekst en beeld

Anthropic past het watermerken wereldwijd toe op het diepste niveau van zijn AI-model Claude. Daardoor is het voortaan aanwezig in alle tekstuitvoer van alle mogelijke manieren om die AI-toepassing te gebruiken. Dit geldt dus ook voor andere software die zelf Claude aanroept of Claude-functionaliteit bevat.

Naast AI-gegenereerde teksten voorziet Anthropic ook Claude-output in bepaalde beeldformaten van een watermerk. Het bedrijf noemt .svg, .png en .jpg als ondersteunde bestandstypes hiervoor. De digitaal ondertekende metadata die daarin is opgenomen, moet aantonen of beeldmateriaal is gemanipuleerd met AI of niet.

AI Act van de EU

Sinds zondag 2 augustus gelden in de Europese Unie nieuwe transparantieregels voor AI-content en -chatbots. Deze regels zitten in de AI Act, waarvan enkele onderdelen zijn uitgesteld. Naast aanbieders van AI-modellen en -toepassingen moeten ook bedrijven en consumenten die AI gebruiken voldoen aan verplichtingen om hun AI-gebruik aan te geven.

De EU verplicht transparantie over AI-gebruik. Beeld: Tweakers

Reacties (58)

[Hans1990]

Ik dacht eerst dat men zoiets ging doen met unicode karakters o.i.d.
Maar een andere manier om dit te doen is werken met green/red woordenlijsten: https://llmrisks.github.io/week11/

Elke uitdrukking kan je op meerdere manieren schrijven, tot individuele woordkeuze aan toe. Net zoals dat we plaats en datum in NL door een zin kunnen shufflen. Bovendien is taal altijd enigzins ambigu, dus genoeg vrijheden om het te varieren.

Een LLM genereert woord voor woord, en deze selecteert het aan de hand van een voorspelling. In deze voorspelling kan men een tweedeling aanbrengen met 'goede' en 'foute' woorden. Deze tweedeling wordt bovendien ook telkens rondgeschud zodat je niet enkel met statische lijst de tekst kan herkennen. Het idee is dat een AI deze regeltjes perfect kan volgen, terwijl een mens dat niet doet, en dus 50% treft en 50% naast zit.

Er staat bij dat korte segmenten of "heavy edits" deze watermarks kan doen verwijderen.. maar met "heavy" neem ik aan dat ze een rewrite o.i.d. bedoelen. Want het is een statistische meting. Bovendien zijn sommige teksten quotes, gezegdes, e.d. en daar zit minder ruimte voor variatie in.

Tevens is een negatieve testuitslag nog steeds geen bewijs dat het door een mens is beschreven. Een positieve uitslag zegt alleen dat de tekst door een bepaald AI model is geschreven vanwege deze ontzichtbare schudmethode van het woordenboek. Bovendien zal de schudmethode per AI verschillen ook al werken ze met vergelijkbare lijsten (de taal verandert immers niet), dus dan kan ChatGPT "nooit goed" zeggen terwijl Claude "altijd fout" schrijft.
Maar taal is zo groot en complex, dan moet het haast een toevalstreffer zijn als bijvoorbeeld 95% van een essay deze regels matcht terwijl het door een mens geschreven is. Als een tekst 300 worden heeft, dan zijn dat 285 treffers, en met mogelijk tientallen keuzes per woordlocatie is de kans dat je die treft heel erg klein.

IMO leuk idee, maar er zal vast vrij snel een tooltje komen die de "LLM stainremover" heet o.i.d. die een tekst door een open-weight LLM haalt die deze schudmethode weer een schop geeft. Je hoeft immers niet eens een negatief van deze lijsten te maken, maar simpelweg iets dat statistisch gezien geen correlatie meer heeft, vermoed ik.
Hoe goed dit ook gaat werken met bijvoorbeeld coderen is ook maar de vraag. Syntax regels zijn vaak relatief strikt, en er worden zelden coherente zinnen geschreven.

[SunnieNL]

Ik denk dat het al weg is als je het kopieer in office en er een grammatica en spellcheck overheen laat gaan. Of een dienst als grammerly, die andere woorden of volgordes adviseerd. (en hoe grappig. Dat is ook weer een AI)

Maar ik kan niet wachten het te testen.

[MallePietje]

IMO leuk idee, maar er zal vast vrij snel een tooltje komen die de "LLM stainremover" heet o.i.d. die een tekst door een open-weight LLM haalt die deze schudmethode weer een schop geeft. Je hoeft immers niet eens een negatief van deze lijsten te maken, maar simpelweg iets dat statistisch gezien geen correlatie meer heeft, vermoed ik.

Ja, lijkt me ook. Een eenvoudig script dat elke zin of alinea van de tekst door een random llm laat herschrijven (random gekozen uit een lijst llms). Een zin of alinea is waarschijnlijk te kort om betrouwbaar een dergelijk watermark te herkennen. En de tekst als geheel heeft dan geen watermark van een specifiek model.

[dmantione]

Of laat Claude de tekst in een vreemde taal opdreunen en laat het daarna door bijvoorbeeld het neutrale DeepL naar het Nederlands vertalen.

[WargamingPlayer]

Heavy rewrite met AI voegt gewoon een nieuw watermerk toe. Dus dan moet je als mens een tekst totaal herschrijven. Dus kan je net zo goed de tekst zelf schrijven 🤣

[dmantione]

Je hebt geen superintelligente KI nodig om een tekst te herschrijven. Iets als Fietje is daarvoor ruim voldoende. Zo'n simpele KI voegt geen watermerk toe, probleem opgelost.

[baseoa]

Een LLM genereert woord voor woord

Ik neem aan dat dit een versimpeling is maar omdat het detail wel relevant is voor mijn opmerking: het kan een woord zijn maar dat hoeft niet. Soms is het een los teken, soms misschien een halve zin (theoretisch, als je een heel-veel-voorkomende zinsnede hebt)

Elke uitdrukking kan je op meerdere manieren schrijven, tot individuele woordkeuze aan toe.

Welk token zou het dan moeten autocompleten na "if " wanneer de taal () vereist bij if-statements en de codestijl zo is dat na het keyword "if" en een spatie het haakje-openen moet komen? Of als iemand vraagt "Is de bovenstaande tekst positief of negatief? Toon alleen het woord 'positief' of 'negatief' en verder niks." dan zou het moeten afwijken van de instructie òf liegen (positief zeggen waar het negatief zou hebben gezegd en vice versa).

[Casmo]

Het zal wel gelijkbaar werken als SyntID van Google (https://deepmind.google/models/synthid/). Hoe ik het begrijp is ipv dat woorden (of tokens) random worden gegenereerd op basis van probability, wordt er een soort 'seeder' vooraf gemaakt.

[7ven]

Ben benieuwd of het kan worden uitgeschakeld, wij 'mogen' claude gebruiken voor code maar mogen juist niet vermelden dat de code met claude is gemaakt ivm certificering. Als het toch herkenbaar wordt in de zin van herleidbaar dan is dat zeker een probleem.

[SilentLucidity]

Dat leest een beetje als frauderen en of het plegen van oplichting. Niet dat het mij uitmaakt, maar ik ben wel benieuwd naar de beredenering hierachter.

[xoniq]

Ik kan me wel voorstellen dat de werkgever liever heeft dat je het benoemen van Claude achterwege laat en klanten in ongewisse laten.

Is niet fraude ofzo, je laat alleen iets weg wat de indruk werkt dat een project in een dakje in elkaar gefietst kan worden, potentieel onterecht. Klant denkt dan; "oh AI gemaakt, dat kan tegenwoordig elke debiel in een uurtje toch?" terwijl je het slechts als tool gebruikt voor herhalende zaken of bugs uitzoeken.

Dus zijn genoeg redenen om voorzichtig te zijn met iets de AI-smudge te geven terwijl AI enkel heeft geholpen bij classes of services schrijven etc. Of de documentatie etc.

[Arhan]

Niet elke debiel kan een oplossing in elkaar flansen met AI. Het is juist die professional die iets wat dagen duurt in een uurtje kan oplossen met ai. Anders doet die klant het toch lekker zelf.

Eigenlijk kan ik me niet voorstellen dat er niet wordt gewerkt met AI. Dan zoek ik liever een ontwikkelaar die wel AI gebruikt want dat scheelt tijd en geld...

[xoniq]

Niet elke debiel kan een oplossing in elkaar flansen met AI.

Daarom zette ik het tussen quotes, dit is wat klanten straks gaan denken. Zodra de jeugd de markt verpest met puur vibe coden zonder verstand.

[DdeM]

Is gewoon fraude, niets meer en niets minder:

Fraude is het bedriegen van personen, bedrijven of de overheid. Zaken worden anders voorgesteld dan ze zijn om een voordeel te behalen ten koste van anderen.

https://www.rechtspraak.nl/onderwerpen/fraude

[xoniq]

Ten koste van anderen. Wie zijn die anderen? Bedrag is vooraf besproken, kwaliteit is vooraf vastgelegd, wie wordt er benadeeld?

Geen enkel bedrijf zwaait met een spandoek dat bepaalde delen worden uitbesteed aan goedkope krachten in India of Indonesië etc. Dat is al van alle tijden.

Klant ziet factuue, met de overeengekomen bedrag, nooit wordt besproken of je externe tools/mensen hebt ingehuurd. Het resultaat telt.

[DdeM]

Wat dacht je van anderen die het certificaat wel eerlijk verdienen en dus geen AI gebruiken. Het moment dat je iets effectief moet verbergen is het fraude en dat kan ook zo zijn als je heimelijk goedkope krachten inhuurt, de klant er naar vraagt en je vervolgens liegt.

[Cerberus_tm]

Als je geen KI mag gebruiken in je code (ik neem aan iets superbeveiligds: bank? AIVD?), dan moet je je misschien aan die regel houden?

[Gropah]

Ook bij banken worden gewoon LLMs gebruikt (bron)

[Cerberus_tm]

Verschilt misschien per bank, en per systeem binnen de bank. Iets met beveiliging?

[Gropah]

Het zal vast niet bij elke afdeling gebruikt worden, en niet elke bank zal er hetzelfde mee omgaan. Ik probeer puur duidelijk te maken dat banken ook LLMs gebruiken, en dus niet per se een goed voorbeeld zijn van super veilige omgevingen waar je nooit een LLM zal vinden. ING wil het in ieder gevaleer gaan inzetten, zoals uit deze vacature blijkt

[Cerberus_tm]

Een bank is een voorbeeld van een organisatie die systemen heeft die beveiligd zijn op topniveau, althans in Nederland normaliter.

[SherlockHolmes]

KI is ook gewoon een correcte Nederlandse afkorting voor een veelgebruikte term.

[Cerberus_tm]

KI is de correcte Nederlandse term. Onnodig Engels gebruiken in het Nederlands is minder mooi.

[TV_NERD]

Artificiëel is Nederlands, daarmee de afkorting AI ook. Onnodig moeilijk doen om het moeilijk doen is trouwens ook typisch Nederlands

[Cerberus_tm]

Het woord artificieel is een leenvertaling—een soort kunstmatig Nederlands, zou ik dan weer zeggen.

[dmantione]

"Kunstmatige intelligentie" is hoe we dit al tientallen jaren lang in de informatica noemen. Ik heb geen behoefte om op iets anders over te stappen.

[latka]

Dat is een generatie ding. En KI bij de boer is kunstmatige inseminatie... Zo is er altijd wel iets mis. AI stond ook al voor 'another Indian' als sneer naar de kwaliteit van het werk.

[Crysania]

waarom zou je wegens certificering geen code dat het met claude is gemaakt mogen gebruiken?

Uiteindelijk kun je nog steeds een mens verantwoordelijk laten zijn voor de code door PR review of iets dergelijks

[pvcholten]

Welke gekke certificering zegt dat je geen Claude mag gebruiken? Claude/Codex of vergelijkbaar is inmiddels industriestandaard.

[SunnieNL]

Zal er ook vast aan liggen hoeveel human oversight er is. Kan mij voorstellen dat bepaalde certificering vereist dat de code door AI niet klakkeloos wordt overgenomen en er een bepaalde mate van controle moet zijn.

[SunnieNL]

In principe zou uitschakelen tegen de AI act gaan. Watermerk is ook niet altijd nodig, bijvoorbeeld bij voldoende oversight. Maar als jij 2000 regels code laat schrijven en dan gewoon op OK drukt of we maar 10 controleert, hoort er een duidelijk AI label bij. Ongeacht wat de output is (code, tekst, video, foto)

Bij teksten is het alleen nodig als je ze klakkeloos overneemt. Een redactie, zoals Tweakers, zal de meeste teksten waarschijnlijk nalopen, waardoor je al voldoet aan human oversight en het op zich niet meer nodig lijkt het te vermelden.

Bij foto's wordt dat een heel ander ding. Die bewerk je meestal zelf niet meer voldoende.

[MallePietje]

Ben benieuwd of het kan worden uitgeschakeld, wij 'mogen' claude gebruiken voor code maar mogen juist niet vermelden dat de code met claude is gemaakt ivm certificering. Als het toch herkenbaar wordt in de zin van herleidbaar dan is dat zeker een probleem.

Het lijkt me dat je wilt kunnen aantonen dat je code juist functioneert. Hoe ver je daarin wilt gaan, hangt erg van de kwaliteitseisen van de toepassing af. Voor "gewone" code, zal je meestal wat testen schrijven om vertrouwen te krijgen in de werking. Of de code (deels) door AI is gegenereerd doet er dan niet zoveel toe.

Dat maakt me wel nieuwsgierig: wat voor domein hebben we het over? En wat voor certificering?

[Wilfred86]

Ik vraag me af hoe ze dit doen. Kopiëren en plakken zonder opmaak kan toch ook?

[baseoa]

Google zei enkele jaren geleden dat ze dit in Gemini gingen stoppen en dat je Gemini kan vragen of een tekst door Gemini geschreven is (ik neem aan dat het dan intern software aanroept en de check draait). In de praktijk blijkt dat laatste niet te werken dus twijfel ik of het misschien een plan was dat nooit is doorgevoerd, maar ze hebben toen gepubliceerd hoe dat werkt:

Een LLM is eigenlijk grand theft autocomplete, waarbij in dit geval de autocomplete-functie wordt aangepast. Om te voorspellen welk volgend token waarschijnlijk hoog scoort, worden alle voorgaande tokens aan het model gevoerd en krijg je in feite een grote rangschikking terug met welke tokens het meest waarschijnlijk daarop volgen. Je kunt dit kennen als de "k" instelling (variabelenamen kiezen was niet hun sterke kant), waarbij het aantal tokens dat moet worden overwogen ingesteld wordt. Na "hoedanig" zul je "heid" meestal in de top-k terugvinden, en na "Hoe gaat het?<|reply|>" zullen "Goed" en "Heel" hoog scoren. Welke kiest het dan? Daar komt willekeurigheid bij kijken. Een model dat altijd het meest waarschijnlijke token selecteert komt vaak vast te hangen in oneindige loops waarbij dezelfde zin steeds opnieuw komt, en met wat randomness erin is het heel onwaarschijnlijk dat elk woord (wat weer teruggevoerd wordt aan de input voor het volgende token) zo uitkomt dat het iets compleet herhaalt en blijft vasthangen of onzinnig uitziet.

Computers kunnen echter niks willekeurig doen, dus gebruiken we dingen als de laatste drie decimalen van de huidige tijd in nanoseconden. Dan zul je maar een op de duizend keer hetzelfde resultaat zien. Maar je kunt ook kiezen om altijd "007" te gebruiken en dan is je randomness weg. In het geval van een LLM heeft de gebruiker dat niet door omdat die toch niet weet wat het zes-na-waarschijnlijkste token is in elke positie. Maar nu heb je het herhalingsprobleem weer terug! Dus wat ze doen is het wel deterministic houden, maar de seed (de waarde die ten grondslag ligt aan welk getal gekozen wordt) af laten hangen van een geheime waarde en de vorige X tokens zodat dat steeds weer verandert. Dan is het voorspelbaar als je de geheime waarde weet en kun jij (en alleen jij) dus vaststellen of een gegeven tekst het patroon volgt of niet.

Dit is voor elk model weer uniek omdat het een variatie is op welke tokens het model normaliter zou kiezen, maar als over 50 jaar er 100 modellen zijn met elk 5 varianten dan is dat voor een computer nog altijd snel om allemaal te checken

[Reactie gewijzigd door baseoa op 11 augustus 2026 22:07]

[neversium]

Op basis van de volgorde van woorden, opbouw van zinnen en alineas, dus tenzij je tekst gaat herschrijven, geeft het een positieve melding. Verder zul je ook een groot gedeelte van de tekst moeten herschrijven als je vele pagina’s aan tekst hebt.

[xoniq]

Claude de basis laten maken, en een lokale LLM de boel laten herschrijven. Lokale LLM's hebben niks te schaften met die regeltjes.

Komen wel anti-detectie prompts die je kan gebruiken om bepaalde patronen te laten herschrijven.

[WargamingPlayer]

De EU regelgeving is duidelijk. Alle AI moet herkenbaar als AI aangegeven worden. In de hele EU. Dus als je local AI gebruikt en dat publiceert of gebruikt naar buiten toe, dan moet het duidelijk zijn dat het AI betreft.

Ik las ook ergens hier een bedrijf bewust verzwijgt dat bepaalde code door AI is gemaakt. Dat geeft een probleem als dat uit komt.

[grwl]

En hoe kan je dit checken?

Gaat elke dienst zijn eigen pagina maken? Gaat Europa een platform maken?

[Zoijar]

En hoe gaan oude omaatjes die geen "made with AI" logo zien ontdekken dat het toch wel AI is want criminelen met open weights chinese modellen doen hier niet aan? En dat geeft juist een false sense of security...

[maddog4004]

De tools om na te gaan of een text dan met AI gemaakt is, moeten dan toch ook vrijgegeven worden?

[Zoijar]

Ja dat lijkt me ook een beetje raar... we hebben een watermerk, maar niemand weet hie het eruit ziet of werkt, maar je kan ons vragen of het AI is en dan, trust me bro. Ja dat gaat natuurlijk nooit misbruikt worden....

[vharten]

Ik kwam dit artikel tegen waarin wordt beschreven hoe het watermerken van tekst zou kunnen werken: https://www.nature.com/articles/s41586-024-08025-4

[pvcholten]

Ik ken SynthID van Gemini, en ik vraag me sterk af hoe dit niet van invloed kan zijn op kwaliteit.

Zeker als de keuze in tokens beperkt is, zoals bij 'gebruik eenvoudig Engels, met een lexile score < 800' of 'maak geldig Javascript'

[HenkEisDS]

Best slim gedaan. Ze pakken in sommige gevallen niet de beste voorspelling, maar de tweede of derde. En omdat ze zelf weten wat de beste voorspelling is zijn kunnen ze afleiden dat het woord een onderdeel is van het watermerk als dit het tweede of derde woord is.

Het experiment leverde _____ resultaten op.

• significante 31%
• interessante 24%
• onverwachte 19%
• veelbelovende 14%
• gemengde 8%

En in die verstopte sleutel kun je informatie kwijt. En om dit te ontdoen van het watermerk moet je flink wat woorden door een synoniemenboek gaan halen.

[tweakuwe]

Maar ze weten de beste voorspelling niet, want ze weten niet de hele context. Dat zal niet snel tot false positives leiden als de sleutel meer dan een paar woorden raakt, maar wel tot false negatives.

Daarnaast zit er nu vaak al een random element in om te zorgen dat je niet steeds exact dezelfde uitkomsten krijgt.

[baseoa]

Bij dat voorbeeld heeft 'gemengd' wel een andere betekenis, dus als het dat zou kiezen (terwijl het doorheeft - zoals het significant lagere percentage suggereert - dat het niet goed past bij de context) dan heb je een slechter model te pakken. Ik heb ooit een paper gelezen hierover maar ben vergeten hoe ze dat voorkomen. Misschien door niet naar het setje meest-waarschijnlijke woorden te kijken maar naar alle met een kans binnen 10% van de bovenste?

[itcouldbeanyone]

Ben vooral benieuwd hoe het watermerk in de tekst verwerkt zit.
Dit kan al door een bepaalde karakter die om de zoveel karakters terugkomt en zo een bericht van “ik ben AI” verschuilen . En als deze karakters uit een lookup table komen is het nog lastiger te zien.
Ik denk daarom dat als je elk woord vervangt door een vergelijkbaar woord het watermerk vervaagd

[baseoa]

Als je élk woord vervangt, gaat het sowieso niet detecteerbaar meer zijn. Hoe zou dat nog kunnen? Als je alle cellen in je lichaam vervangt ben je immers... eh, andere discussie

Bij wat Gemini zegt te gebruiken moet je echter behoorlijk veel veranderen. Als ze helft van de woordparen nog origineel zijn kun je alsnog zien dat het daarmee gemaakt is, zolang de tekst lang genoeg is dat dat niet onder de toevalsgrens valt (immers kan wat ik schrijf ook toevallig precies dat zijn wat Gemini voor woorden zou kiezen, maar met elk woord wordt die kans gedeeld door het aantal woorden dat op die plek past)

Je kunt het dus nog altijd gebruiken voor brainstorming bijvoorbeeld. Als je dan de tekst zelf schrijft, kan men hooguit vermoeden dat het geen toeval is dat alle 25 leerlingen heel vergelijkbare verhaalstructuren hebben

[Reactie gewijzigd door baseoa op 11 augustus 2026 22:14]

[Travelan]

Ah, dit verklaart het waarom Fable in elke tekst "load-bearing" moet zeggen!

[ZpAz]

Exactly, and the more interesting half of your insight is that...