Chatbots, deepfakes en automatisch gemaakte teksten moeten vanaf zondag 2 augustus vaker herkenbaar zijn als AI. Dan gaan nieuwe transparantieregels uit de Europese AI Act gelden. Andere onderdelen van de wet zijn uitgesteld.
De Europese verplichting om transparant te zijn over AI-gebruik raakt niet alleen aanbieders van AI-systemen en leveranciers van producten en diensten waarin of zulke systemen zijn verwerkt. Behalve bekende namen als OpenAI, Anthropic, Google, Microsoft, Amazon Web Services (AWS), Mistral en andere techbedrijven komen ook de organisaties in beeld die AI gebruiken.
:strip_exif()/i/2007938700.jpeg?f=imagenormal)
Meer uitzoekwerk dan de AVG
Een vergelijking met de ingrijpende privacywet AVG ligt voor de hand. Die Europese regels voor gegevensbescherming leidden eerder tot veel vragen, twijfels, praktijktoetsen en juridische kwesties, en later tot bijstellingen. Hoewel de transparantieverplichtingen voor AI-gebruik nu tot vergelijkbare vragen en bijstellingen kunnen leiden, gaat de vergelijking met de AVG mank.
Volgens Friesen zit het meeste werk namelijk in de manier waarop organisaties hun AI-governance inrichten. Dit is het geheel van regels, rollen, processen, verantwoordelijkheden, beheer en beleid op een bepaald gebied, in dit geval voor AI-gebruik. Terwijl de AVG alle dataverwerkingen raakt, gelden de transparantieverplichtingen van de AI Act niet simpelweg voor alle soorten en vormen van AI-gebruik. Organisaties moeten dat zelf gaan uitzoeken en de risico's van hun AI-gebruik bepalen. Vervolgens moeten organisaties per toepassing bepalen of ze mensen over het AI-gebruik moeten informeren.
Verschillende transparantieverplichtingen
De AI Act kent transparantieverplichtingen voor twee groepen: aanbieders van AI-systemen en gebruiksverantwoordelijken, oftewel organisaties of personen die zulke systemen beroepsmatig inzetten.
"Er zijn eigenlijk twee verschillende transparantieverplichtingen voor verschillende groepen", vertelt jurist Charlotte Meindersma aan Tweakers. In beide gevallen moeten organisaties duidelijk aangeven dat er AI in het spel is. Dat kan met een melding of met een label, zodat het voor mensen duidelijk is dat de vraagfunctie op een website niet een gesprek met een mens is. Het doel is duidelijk informeren wanneer mensen, maar ook andere computersystemen, in aanraking komen met systemen of content waarin AI een rol speelt.
Voor aanbieders zijn de regels nog verder onder te verdelen, geeft Meindersma aan. Een deel gaat over de interactie met een AI-systeem, bijvoorbeeld via een chatbot. Een ander deel gaat over AI-content. "De meeste mensen praten alleen over de verplichting rondom content", aldus de jurist.
Aanbieders moeten mensen informeren
AI-aanbieders moeten er vanaf 2 augustus voor zorgen dat het voor mensen duidelijk is wanneer ze met een AI-systeem te maken hebben. Een chatbot of controlesysteem moet duidelijk maken dat het AI gebruikt. "Denk aan een AI-chatbot op een website of een AI-systeem achter een camera die bepaalt of je wel oud genoeg bent om ergens binnen te komen of om alcohol of tabak te kopen."
:strip_exif()/i/2007624806.jpeg?f=imagenormal)
Computers moeten AI-content kunnen herkennen
Deze bestaande systemen is deze verplichting uitgesteld tot 2 december, vertelt AI- en IT-advocaat Kimberly Friesen. Dit uitstel komt voort uit de EU Digital Omnibus. Dat is een veelomvattend pakket verordeningen dat Europese regelgeving op cybergebied moet harmoniseren en vereenvoudigen, ook voor AI. Systemen die voor 2 augustus 2026 op de markt zijn, krijgen dus meer tijd om de verplichte aanpassingen door te voeren.
Aanbieders moeten AI-content voorzien van een machineleesbare markering, vertelt Meindersma. Dit moet in het bestand zelf staan, zodat sociale media en streamingdiensten kunnen detecteren dat content geheel of gedeeltelijk met AI is gemaakt. Deze regel geldt bijvoorbeeld voor AI-muziek en voor speciale effecten in video's.
:strip_exif()/i/2008087824.jpeg?f=imagenormal)
Ook organisaties die AI gebruiken hebben verplichtingen
De Europese transparantieverplichtingen gelden behalve voor AI-aanbieders ook voor organisaties en personen die AI beroepsmatig inzetten. Vanaf 2 augustus moeten zij mensen informeren als ze AI gebruiken voor zaken als emotieherkenning en het categoriseren van biometrische gegevens. Meindersma: "Dus als er een systeem gebruikt wordt om jouw emotie te herkennen, ook als je zelf geen interactie hebt met het AI-systeem, moet de gebruiksverantwoordelijke je wel vertellen dat jouw emotie wordt herkend op basis van AI."
De transparantieverplichting geldt vanaf zondag ook voor deepfakes. "Dit gaat dus niet over de aanbieders van het systeem, maar juist over jou en mij", vertelt Meindersma. "Als wij een mooi plaatje hebben gegenereerd voor bij een artikel of een LinkedIn-post, dan moet er vanaf 2 augustus een voldoende duidelijk leesbaar label bij staan." De Europese Commissie biedt een voorstel voor zulke labels. De Nederlandse vertaling daarvan is een machinevertaling, vermeldt de Commissie netjes bovenaan de vertaalde webpagina.
AI-teksten hoeven niet altijd een label
Ook voor AI-gegenereerde of -gemanipuleerde teksten 'die in het algemeen belang zijn' geldt de verplichting om transparantielabels te gebruiken. Er geldt een uitzondering als die teksten door mensen zijn gecontroleerd of als een redactie verantwoordelijk is voor de tekst. "Ofwel: alleen labelen wanneer teksten automatisch worden doorgeplaatst."
Meindersma meent dat teksten door deze uitzondering voorlopig zelden een AI-label krijgen. Het moet volgens haar 'natuurlijk wel' bij websites en nieuwssites die dagelijks automatisch AI-berichten publiceren. Friesen noemt nog de kwestie van AI-gegenereerde samenvattingen van vergaderingen of gesprekken. Die moeten ook een label krijgen. Dit geldt ook als het een AI-samenvatting is van een gesprek met een AI-chatbot die zelf al een verplicht AI-label heeft.
Wanneer hebben AI-beelden een label nodig?
Transparantie is niet verplicht voor deepfakes die duidelijk nep zijn. Afbeeldingen die in voldoende mate de werkelijkheid of een mogelijke werkelijkheid weergeven, moeten een label krijgen, licht Meindersma toe. "Is het zeer onrealistisch, dan hoeft er dus geen label bij." Ze adviseert om bij twijfel altijd een label te gebruiken. Friesen vindt dit ook: bij twijfel gewoon voldoen aan de verplichting door content een AI-label te geven.
Zij ziet wel een grijs gebied voor productfoto's. Daarvoor is beeldbewerking al jaren vaste praktijk en AI-gebruik ligt tegenwoordig ook voor de hand. De belangrijkste vraag is wanneer een bewerkt beeld als een deepfake valt te beschouwen.
:strip_exif()/i/2007146374.jpeg?f=imagenormal)
Volgens Meindersma is een AI-label ook verplicht als het meer om kunst of bijvoorbeeld satire gaat. Daarbij mag het label het gebruiksgenot van die content niet belemmeren, voegt ze toe. Het label zou dan wat kleiner in beeld mogen zijn. In een video mag het korter in beeld zijn of alleen in de aftiteling staan. De praktijk en de rechtspraak moeten nog duidelijk maken wanneer een label het gebruiksgenot niet belemmert en toch voldoende duidelijk is, geeft ze aan.
Europese Commissie publiceert richtlijnen
De Europese Commissie publiceerde op 20 juli richtlijnen over de transparantieverplichtingen. Dat is kort voor de deadline van 2 augustus. AI- en IT-advocaat Kimberly Friesen stelt dat deze richtlijnen nog 'best breed' zijn. Ze voegt daaraan toe dat ze wel al een stuk duidelijker zijn dan de conceptversie die de Commissie op 8 mei publiceerde.
Nog onduidelijkheid over de uitvoering
Toch is nog niet in alle gevallen duidelijk welke transparantieverplichting geldt. Dat is opvallend, omdat de regels al lange tijd in voorbereiding zijn. Volgens Meindersma zegt dat echter 'helemaal niets'. "De meeste mensen vinden regels en verplichtingen maar stom. Dus die houden zich er niet zo aan als ze de regel stom vinden of als ze denken dat de handhaving wel mee zal vallen."
Meindersma denkt wel 'dat het echt helpt dat de Europese Commissie dat voorzetje voor die labels heeft gegeven'. De gemiddelde consument hoeft daardoor 'niet meer zo erg zelf na te denken over hoe het dan moet' om te voldoen aan de nieuwe verplichtingen. "Dus zoals altijd komen er een brave groep en een groep die het stelselmatig zal negeren", voorspelt Meindersma.
Redactie: Jasper Bakker • Eindredactie: Monique van den Boomen
/i/2007989084.png?f=fpa_thumb)
:strip_exif()/i/2008209738.jpeg?f=fpa)
:strip_exif()/i/2008036352.jpeg?f=fpa)
:strip_exif()/i/2008077134.jpeg?f=fpa)
/i/2006847410.png?f=fpa)
:strip_exif()/i/1133107498.jpg?f=fpa)
:strip_exif()/i/1098602434.jpg?f=fpa)
/u/21440/palm-tree-on-beach_60.png?f=community)
/u/13460/JUN982.GIF?f=community)
/u/23741/crop65d220b3f3de0_cropped.png?f=community)
). Heeft welgeteld een half jaartje geduurt en nu vindt iedereen het dikke prima. Een koe op een tractor weet iedereen dat het fake is, de zoveelste LinkedIn post van een of andere muts over haar yoga retreat die nieuwe inzichten geven gevolgd door het advies van haar 5 jarige die Nietzsche quote vonden we voorheen ook al irritant.... :strip_icc():strip_exif()/u/1454528/crop5f6239efda858_cropped.jpeg?f=community)