AI-agents die in het wilde weg bedrijven hacken: is dat strafbaar?

hakakakakak

De ene na de andere organisatie wordt geteisterd door hacks die ongehoorzame AI-agents uitvoeren. De aanval op AI-platform Hugging Face door agents van OpenAI is de bekendste, maar de afgelopen maanden zouden nog tientallen andere AI-bots geprobeerd hebben om onlineplatforms over te nemen.

De meeste van deze bedrijven worden niet met naam genoemd. Het is dus niet helemaal duidelijk of er ook Europese organisaties getroffen zijn. Wel ontving de Spaanse gegevensautoriteit vorige week een melding over een lek dat zou zijn veroorzaakt door een AI-agent, hoewel ook daarbij onduidelijk is welk bedrijf precies is getroffen.

Zelfs als Europese bedrijven vooralsnog buiten schot zijn gebleven, lijkt het een kwestie van tijd voordat ook zij te maken krijgen met deze 'rogue AI-agents'. Tot dusver lijken dergelijke incidenten nog weinig consequenties te hebben gehad voor de achterliggende AI-bedrijven. Ze melden de incidenten (vaak pas maanden later), beloven beterschap en de kous lijkt daarmee af. Zijn er in Europa juridische consequenties mogelijk als AI-agents hier bedrijven gaan binnendringen?

Hugging Face

Wie is verantwoordelijk?

Dat AI-agents bedrijven hacken, is in Europa wel degelijk een strafbaar feit, zegt strafrechtadvocaat Richard Korver van Bureau Brandeis. "Wanneer een AI-agent zich via internet zonder toestemming toegang verschaft tot het systeem van een derde partij, bijvoorbeeld door een beveiliging te doorbreken of door een technische ingreep, kan dit in beginsel als computervredebreuk kwalificeren." Als de agent ook gegevens steelt, pleegt hij nóg een strafbaar feit.

Het is alleen niet zeker of het mogelijk is om iemand strafrechtelijk aansprakelijk te stellen voor zulke misdrijven, geeft hij aan. Als een hacker moedwillig AI-agents aanstuurt om sites te hacken, pleegt diegene duidelijk het strafbare feit. Maar bij de autonome AI-agents die Hugging Face en andere sites hackten, was er niemand die ze daarvoor uitdrukkelijk de opdracht gaf. Oftewel: de vraag is of er sprake was van opzet.

"Het is op dit moment nog een onbeantwoorde rechtsvraag hoe het opzet van een autonoom handelende AI-agent strafrechtelijk moet worden geduid", vervolgt Korver. "Denkbaar is dat het opzet wordt gevonden in het bewust inzetten van een AI-agent waarvan de onderneming wist of redelijkerwijs moest weten dat deze in staat was computersystemen zonder autorisatie binnen te dringen."

"Als de zaak voor de rechter komt, zal die heel precies moeten kijken of de ontwikkelaar wel heeft gecontroleerd of het systeem dat hij op de markt heeft gebracht veilig was", zegt Sofie Royer, docent ict-recht aan de KU Leuven. "Dat is heel moeilijk te bepalen, maar Europa heeft onder de AI-verordening wel strikte regels waaraan een AI-systeem moet voldoen. Ik neem dus aan dat die wet ook wel gebruikt zal worden bij de beoordeling."

De AI-verordening loopt mogelijk al achter de feiten aan

Toch lijkt die wet voor deze specifieke gevallen niet afdoende om te kunnen bepalen of een AI-tool veilig genoeg is. De verordening stelt wel eisen aan de cyberveiligheid, maar die gaan volgens Royer vooral over de beveiliging van de AI-systemen zelf, bijvoorbeeld om te voorkomen dat kwaadwillenden deze kunnen hacken en misbruiken. "Maar aan de omgekeerde situatie, waarover we het hier nu hebben, wordt eigenlijk weinig tot geen aandacht besteed in de AI-verordening."

Risicogroepen onder de AI-verordening

Het valt volgens haar dus nog te bezien of AI-agents die in het wilde weg beginnen met hacken, onder de AI-wet verboden kunnen worden. Dat geldt bijvoorbeeld voor 'manipulatieve' of 'misleidende' AI. Het zou volgens Royer ook kunnen dat dergelijke AI-agents wel worden toegestaan, maar worden gecategoriseerd als 'hoog risico'. Dat zou betekenen dat ze moeten voldoen aan strengere regels.

"In hoeverre dit betekent dat bedrijven een systeem zo moeten ontwerpen dat het niet op eigen houtje gaat hacken, is nog maar de vraag. Ik betwijfel of de wetgeving daar wel op voorzien is."

Bovendien plaatst privacyjurist Elise Troll van Bureau Brandeis de kanttekening dat AI-systemen die niet op de markt zijn gebracht, over het algemeen helemaal niet vallen onder de AI Act. Het Hugging Face-incident betrof namelijk ook cybersecuritytests van onuitgebrachte modellen.

"In dit kader hebben Europarlementariërs op 16 september 2026 vragen aan de Europese Commissie gesteld. Zij verwijzen nadrukkelijk naar het OpenAI/Hugging Face-incident en vragen of een aanvullende AI Liability Act nodig is om de volgens hen bestaande leemte te dichten voor schade die tijdens de ontwikkelings- en testfase ontstaat."

Meer kansen buiten strafrecht

Advocaat Tom Meevis van Law & More verwacht dat het voor getroffen organisaties lastig wordt om een strafrechtelijke zaak te beginnen tegen een modelaanbieder. Volgens hem is er meer ruimte in het civiele recht.

"Daar gaat het om de maatschappelijke zorgplicht: welke misbruikdetectie en -begrenzing mocht je redelijkerwijs verwachten en wat deed de aanbieder toen er signalen waren? Dat is een reële discussie, maar wel een dure en langdurige."

Volgens hem is de nieuwe productaansprakelijkheidsrichtlijn hierbij misschien ook relevant. Daardoor wordt software, zoals AI-systemen, als product behandeld en gelden de ontwikkelaars als fabrikanten. Dat betekent dat consumenten en organisaties de aanbieders van AI-modellen mogelijk aansprakelijk kunnen stellen als hun product gebrekkig is en schade veroorzaakt.

Daardoor hoeven zij niet meer te bewijzen dat de aanbieder nalatig is geweest bij de beveiliging. Meevis durft echter nog geen harde uitspraken te doen over de toepasbaarheid van deze richtlijn op losgeslagen AI-agents, aangezien deze pas eind dit jaar volledig in werking treedt in Nederland.

Wat moeten getroffen bedrijven doen?

Mochten er Europese bedrijven slachtoffer worden van een hack door een AI-agent, dan raadt Royer ze in elk geval aan om aangifte te doen bij de politie. "Die moet verder onderzoek doen en zo kan bijvoorbeeld de aanbieder van de AI-systemen uiteindelijk aansprakelijk worden gehouden."

Verder moeten bedrijven natuurlijk de gebruikelijke stappen ondernemen als ze slachtoffer zijn van een cyberaanval, zegt Meevis. "Bij persoonsgegevens moet je dit binnen 72 uur melden bij de Autoriteit Persoonsgegevens in Nederland en bij de Gegevensbeschermingsautoriteit in België. Val je onder de Cyberbeveiligingswet, die sinds 15 augustus geldt, dan moet je binnen 24 uur een vroegtijdige waarschuwing sturen naar je Csirt en de toezichthouder."

De Cyberbeveiligingswet legt plichten op die digitale dijken versterken.

"Bel op dag één ook je cyberverzekeraar, want polissen kennen korte meldtermijnen", vervolgt hij. "Stuur tot slot een gedocumenteerd abuseverzoek naar de AI-aanbieder met het verzoek gegevens te bewaren. Dat legt vast vanaf welk moment die wist wat er speelde en dat moment is later bepalend als er alsnog een zorgplichtdiscussie komt."

_{Redactie: Kevin Krikhaar • Eindredactie: Marger Verschuur}

Reacties (5)

[blottle]

Ik vind dat alle AI modellen/agents slim genoeg moeten worden dat zij weten wat wel en wat niet mag. Als iets gedaan wordt/op het punt staat iets te doen wat niet mag moet er een soort gate komen waarbij dit wordt gemeld aan de eigenaar van de agent en dat deze dan toestemming moet geven om door te mogen. heb je dit niet op orde? Dan is de eigenaar van de agent verantwoordelijk.

Mensen met slechte bedoelingen zullen zich hier helaas niks van aantrekken. Dus daarnaast moeten bedrijven zelf ook aan de slag door hun beveiliging op orde te hebben. Zorg dat alles gepatcht wordt, gebruik alleen spul wat nog gesupport wordt, gebruik veilige wachtwoorden met MFA of nog liever passkeys en zorg voor goede firewalling en threat detection.

[Bossie]

Ik denk dat de eigenaar sowieso aansprakelijk zou moeten zijn.

[Tlamain]

Volgens mij gaat het niet alleen om hoe slim een AI agent is. Hij kan begrijpen hoe hij ergens toegang krijgt, maar moet ook een moreel kompas hebben: herkennen dat toegang zonder toestemming verboden is en dan stoppen. Dat is wat alignment in de praktijk moet betekenen.

Een melding aan de eigenaar kan helpen, maar zijn akkoord maakt een hack nog niet toegestaan. Die grens moet ook gelden als de eigenaar slechte bedoelingen heeft. AI ontwikkelaars moeten daarom zorgen dat agents die grens respecteren, ook wanneer dat hun opdracht in de weg zit.

[GromuhlDjun]

Juridisch zou je het in ieder geval criminele nalatigheid kunnen noemen. Inmiddels is het immers bekend wat AI agents kunnen doen. Als je met 200km/u door een woonwijk scheurt en een ongeluk veroorzaakt, heb je toch echt wel een groot probleem, ook al heb je niet met opzet allerlei leed veroorzaakt.

Lastige is dat het in het geval van AI agents om data gaat en het leed mogelijk pas op langere termijn of moeilijker zichtbaar wordt.

[passantr]

Ik ben bang dat het een grote puinhoop gaat worden. De aanvalsmogelijkheden groeien letterlijk elke dag ondertussen en de verdediging door betere software en patches gaat gewoon langzaam. Als je al weet dat er een lek in je applicatie zit. De zwakke plek ‘mens’ zal ook altijd zwak blijven, zie als mooi voorbeeld de directeur van de bank die 100 miljoen laat overschrijven naar een crimineel na een AI-telefoontje. Iran, Noord-Korea, allerlei criminele groeperingen, de lijst van partijen die maar al te graag inbreken en schade veroorzaken is groot. Normen en waarden inbouwen in de (Westerse) modellen of de eigenaar aansprakelijk stellen gaat degene die kwaad wil doen echt niet tegenhouden. De toekomst is wat dat betreft best somber zo op de zondagochtend.