OpenAI gaat afbeeldingen die DALL-E genereert automatisch van watermerk voorzien

OpenAI gaat de afbeeldingen die met DALL-E 3 worden gegenereerd voortaan voorzien van een watermerk. Dat wordt toegevoegd aan de metadata van de afbeelding. Het bedrijf stelt de betrouwbaarheid van digitale informatie hiermee te willen verbeteren.

Afbeeldingen die met ChatGPT op het web en via de api worden gegenereerd, worden per direct voorzien van een watermerk, laat OpenAI weten. Bij mobiele gebruikers worden de labels vanaf 12 februari toegevoegd. Voor deze metadata wordt gebruikgemaakt van de open standaard C2PA. Met websites als Content Credentials Verify kunnen gebruikers hiermee controleren of een afbeelding is gegenereerd met DALL-E 3. Tekst en audio die met OpenAI's AI-modellen worden gegenereerd, worden vooralsnog niet voorzien van een watermerk.

OpenAI laat wel weten dat dit geen waterdichte methode is. De metagegevens kunnen eenvoudig worden verwijderd. Op sociale media wordt dat vaak automatisch gedaan, maar ook bij het maken van een screenshot blijft de metadata achterwege. The Verge schrijft dat er, naast een onzichtbaar watermerk, ook een CR-symbool aan afbeeldingen wordt toegevoegd in de linkerbovenhoek. In het artikel van OpenAI wordt daar echter niet over gesproken.

Dinsdag liet Meta al weten dat het afbeeldingen die gemaakt zijn door AI-generators van derden van onzichtbare en zichtbare watermerken wil gaan voorzien op zijn platforms. Daaronder valt dus ook content van OpenAI. Afbeeldingen die door de eigen AI van Meta worden gegenereerd, krijgen al een label.

Reacties (39)

[NosferatuX]

Een vervolgens kan je het watermerk met Ai weer verwijderen.

[SgtElPotato]

Als je de review van de S24 Ultra bekijkt van LTT zie je een mooi voorbeeld. Alle bewerkte afbeeldingen met AI krijgen een watermerk, maar vervolgens kun je dat watermerk weg halen met dezelfde AI...

https://youtu.be/OjxljuS7wY0?t=817

[NosferatuX]

Ja klopt die had ik ook gezien.
Lichtelijk hilarisch wel

[Duke of Savage]

Helpt het niet om de afbeelding te openen in Photoshop of Paint en dan opnieuw te exporteren?

[Christoxz]

De onzichtbare meta wel:

De metagegevens kunnen eenvoudig worden verwijderd

De zichtbare watermerk die Verge suggereert natuurlijk niet.

[xoniq]

Naja met diezelfde photoshop kan je direct de watermerk selecteren, verwijderen en klaar.

[itcouldbeanyone]

Niet als je het op deze manier doet
https://invisiblewatermar...ible-watermarks-work.html

Dan kan je het alleen verwijderen door een blur toe te voegen, of de odd en even pixels met een zelf geschreven programma manipuleren.

[jerisson]

Ik heb het nu niet geprobeerd (wil ik later wel eens doen), maar deze lijkt me wel heel gevoelig te zijn voor lossy-compressie, daar dit de waardes van de pixels aanpast en dus ook of een pixel odd/even is. Een eenvoudige upload op facebook zou de watermark al teniet doen, daar facebook de afbeeldingen opnieuw comprimeert.

In de praktijk ga je iets nodig hebben dat o.a. bestand is tegen de quantisatie van een DCT transformatie van image blocks.

[Uchy]

Dit watermerk lijkt juist een exif-info ding te zijn. Dat is natuurlijk makkelijk weg te halen.
Mooier lijkt me een watermerk onzichtbaar in de pixels te verwerken die herkent kan worden door een watermerk-reader.

[Alxndr]

Ik zeg niet dat het niet (makkelijk) weg te halen is, alleen dat iets openen en direct exporteren verder niets uithaalt - je zult verdere acties/stappen moeten ondernemen.

Dat ik nu een -1 krijg omdat degene op wie ik reageer niet goed verwoordt wat hij/zij bedoelt...

[3d-pint]

Wel als je exporteert naar een beeldbestand zonder metadata.

[Duke of Savage]

Photoshop heeft content-aware generator tegenwoordig. Watermerk is een non-issue.
Ik doelde meer op de metadata..

[Alxndr]

Dat is dan dus meer dan een afbeelding alleen maar even openen en exporteren?

[Bender]

Daarvoor heb je geen AI nodig, vrijwel ieder foto bewerkingsprogramma, api of extensie kan een meta data er af halen.
(simpel voorbeeld; met php kan dit al met standaard functies)

[WendelV]

Commenters gaan er van uit dat iedereen het watermerk zal verwijderen. In de meeste gevallen zullen gebruikers dit niet nodig vinden, zeker niet als het gaat om onzichtbare meta data. Het lijkt me wel nuttig als share sites als reddit imgur instagram deze tags dan niet strippen.

[Bender]

Je kunt er van uit gaan dat die websites het juist wel strippen.
Veel websites verwijderen meta/exif data om te voorkomen dat er persoonlijke informatie in zit zoals een naam maar ook coordinaten.
Daarnaast wordt zoveel mogelijk data verwijderd (dus ook gecomprimeerd) om een foto sneller te kunnen laten zien en data te besparen (opslag en traffic).

[OLED]

Het bedrijf stelt de betrouwbaarheid van digitale informatie hiermee te willen verbeteren.

Leuke bijkomstigheid dat een watermerk ook een reclamebanner is
In het geval van meta, onzichtbaar juich ik altijd toe

[Reactie gewijzigd door OLED op 24 juli 2024 19:53]

[himlims_]

wat mooi zeg .... en zooo effectief ook

*kuch* https://www.watermarkremover.io/nl

[Arrigi]

https://www.mdpi.com/2079-9292/11/1/136

Je zei iets van effectief ofzo?

[Bender]

Helaas geef je een verkeerd voorbeeld.

Want het watermerk zit in de EXIF informatie, dat kan met ieder standaard foto programma of programmeertaal wel verwijderd worden (dus ook gewoon via php).
Gaat dus niet om een visueel watermerk maar meta data.

[iqcgubon]

"Enterprise solutions at scale".

Wat een dwaze website. Alsof enterprises gaan betalen voor een watermark remover api ipv gewoon... Legaal stockfotos aan te kopen.

[joeri1]

Dergelijke watermerken kun je toch gewoon verwijderen/vervangen?

[Alxndr]

Het watermerkje staat zo mooi in een hoek dat je niet eens een tool nodig hebt maar gewoon kunt knippen en plakken...

Dat onzichtbare deel is onzichtbaar, dus dat boeit niet voor de consument, dat is alleen interessant als je daadwerkelijk wil weten of je misleid wordt - en laten we eerlijk zijn, dat willen we meestal niet, we willen iets geloven en er dan boos om worden (als dat tenminste bij de waan van die dag past)

[Crysania]

behalve dat social media platformen dit dan wel kunnen lezen en het er groter bij vermelden naast/onder het plaatje.

vraag me af of zoiets kan gaan werken want er zijn zo veel verschillende AI image generators dat je dit nooit gaat kunnen centralizeren

[Christoxz]

The Verge schrijft dat er, naast een onzichtbaar watermerk, ook een CR-symbool aan afbeeldingen wordt toegevoegd in de linkerbovenhoek.

Dat lijkt mij fout van The Verge, in de screenshot is inderdaad een CR-Symbool te zien, maar aan de rechterzijde zie je het origineel, zonder dit symbool. Het lijkt er dus op dat C2PA dit symbool er op zet wanneer je een afbeelding door hun systeem haalt?

[CyBeR]

Dit doet stablediffusion al heel lang, en die stoppen ook alle pertinente info in de output file zoals de prompt, settings, etc. Jammer dat DALL-E dat dan weer niet doet.

[david-v]

Onzichtbare watermerken of databases met hashes van gegenereerde plaatjes zou een betere oplossing zijn, maar kwaadwillenden ga je daar niet mee tegenhouden.

Elke AI plaatjes generator zou in het eindresultaat een onzichtbare watermerk kunnen plaatsen, het liefst zo slim mogelijk (dus niet in een hoek of een vaste locatie maar random over meerdere pixels van het geheel). Elke AI generator zou een API moeten hebben om na te gaan of een plaatje wel of niet gegenereerd is door hun engine. Niet waterdicht, maar al een stuk moeilijker te verwijderen. Het blijft hoe dan ook een kat en muis spel tussen de watermerkers en de online watermerkerverwijderaars

[svennd]

Maar je kan gewoon zelf met open modellen plaatjes maken ... Je geeft dan gewoon je image als input en klaar is kees, de meeste 'zichtbare' watermerken (die in de visuele data, daarom niet percé visueel) zouden zo onbruikbaar worden gemaakt. In meta-data is het uiteraard triviaal verwijderen.

[Anoniem: 454358]

Een hash van een plaatje veranderd dat niet elke keer als je het opslaat als jpg?

[david-v]

ja, hiermee vang je alleen de "originele" plaatjes af. Het is ook allemaal niet waterdicht, maar beter dan een makkelijk te verwijderen watermerk denk ik dan

[Anoniem: 454358]

Maar als je het upload, of via social media binnenkrijgt is die dan toch alweer weg?
Ik denk dat het allemaal nutteloos is, en dat we moeten leren dat een plaatje gewoon niet echt zal zijn.
Shaggy zou hier blij mee zijn geweest, "it wasn't me"

[Martinspire]

Mja ik denk alleen wel dat als de meest gebruikte tools het toepassen, je de meeste fake afbeeldingen er wel uit weet te vissen.

Verder zou ik liever een onzichtbaar watermerk willen zien waarbij patronen van bepaalde pixeldata wordt voorzien waarop een afbeelding wordt toegepast. Beetje als een verborgen QR code maar dan niet zo zichtbaar voor de mens.

[biglia]

Is dat voldoende om in de toekomst te voldoen aan de EU AI Act?

Generative AI, like ChatGPT, would have to comply with transparency requirements:
- Disclosing that the content was generated by AI