OpenAI voegt in de EU een watermerk toe aan gegenereerde teksten. In de rest van de wereld staat die functie standaard uit. Die functie heet textGrain en werkt volgens OpenAI beter dan bijvoorbeeld SynthID van Google.
Volgens OpenAI werkt de detectie van het watermerk in veel gevallen goed, maar er zijn twee situaties waarin die minder goed werkt. Als de tekst te kort is, is het detecteren lastiger. Ook als gebruikers 10 procent of meer van de woorden vervangen, is detectie moeilijker, aldus OpenAI.
Daarom geeft OpenAI niet direct iedereen toegang tot textGrain. "Deze beperkingen dragen bij aan ons besluit om in eerste instantie alleen toegang tot de detector te verlenen aan goedgekeurde onderzoekers en deskundige organisaties, die ons kunnen helpen de betrouwbaarheid en verantwoorde toepassingen te beoordelen." OpenAI past de detectiemethode standaard toe in de EU en biedt die daarbuiten via de api als optie aan.
Entropiebudget
De software werkt door de mogelijke woorden, eigenlijk tokens, met een geheime sleutel in groepen in te delen. Het systeem koppelt deze groepen aan een tabel van willekeurige waarden, gebaseerd op de sleutel. De detectiesoftware herkent de statistische afhankelijkheid tussen de gekozen woorden en de geheime sleutel, zonder dat de lezer dit merkt. Een ingesteld 'entropiebudget' regelt nauwkeurig hoeveel willekeurigheid mag worden opgeofferd voor het watermerk.
Waarom voegt iedereen watermerken toe?
De Europese AI Act verplicht AI-bedrijven om alle synthetische content, zoals tekst, beeld en audio, te voorzien van een machinaal herkenbare en detecteerbare markering. Door deze onzichtbare digitale watermerken of metadata in te bouwen, kunnen zoekmachines, detectietools en platforms direct achterhalen of een bestand van AI afkomstig is. Bedrijven die niet voldoen, riskeren forse boetes die kunnen oplopen tot miljoenen euro's of een percentage van hun wereldwijde omzet.
:strip_exif()/i/2008295616.jpeg?f=imagenormal)
:strip_icc():strip_exif()/u/132224/crop677a9fc7782e4.jpg?f=community)
:strip_icc():strip_exif()/u/140051/BSOD.jpg?f=community)
:strip_icc():strip_exif()/u/128701/crop5f952e0f85e5f.jpeg?f=community)
/u/111174/sachiel-small.png?f=community)
:strip_exif()/u/87336/crop6891d2e354b09.gif?f=community)
/u/2472420/crop6a8c03ab52337_cropped.png?f=community)
/u/39/crop6936c84f55170_cropped.png?f=community)
/u/686972/crop55c9ea3846ab3_cropped.png?f=community)
:strip_icc():strip_exif()/u/233767/crop5db03cbc075aa.jpeg?f=community)
:strip_icc():strip_exif()/u/498936/crop5b62bb30b720d_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/79969/crop5dd9232d4f793_cropped.jpeg?f=community)
:strip_exif()/u/892949/crop58bae766aacb3_cropped.gif?f=community)
/u/417493/crop6a85bfacd943b_cropped.png?f=community)
/u/183354/day.png?f=community)
:strip_icc():strip_exif()/u/249917/jaapschaap.jpg?f=community)
:strip_icc():strip_exif()/u/2557210/crop6ab23917515d2_cropped.jpg?f=community)
:strip_exif()/u/109857/ico2.gif?f=community)
:strip_exif()/u/467778/crop5d7a5dd1f296a.gif?f=community)
:strip_icc():strip_exif()/u/623534/crop68d7bf47903e1_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/140070/kalief.jpg?f=community)
:strip_icc():strip_exif()/u/116600/crop5be04a1ae3ded_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/299039/dv3.jpg?f=community)
:strip_icc():strip_exif()/u/41502/breezah.jpg?f=community)
/u/627287/crop5f8ef98351ddc_cropped.png?f=community)
:strip_icc():strip_exif()/u/145751/check-in-minion-small2.jpg?f=community)
/u/1308516/crop6a340a561505f.png?f=community)
:strip_icc():strip_exif()/u/46863/Nemo.jpg?f=community)
/u/363743/crop61aa1329d36b8_cropped.png?f=community)
:strip_icc():strip_exif()/u/21930/cybertroy-logo1.jpg?f=community)
/u/490497/qr_code_without_logo-klein.png?f=community)