FTC onderzoekt OpenAI en Anthropic vanwege hacks door AI-agents

De Amerikaanse Federal Trade Commission is begonnen met een onderzoek naar AI-bedrijven vanwege de risico's van AI. De hacks die AI-agents tijdens tests zelf hebben uitgevoerd, vormen de aanleiding.

In het onderzoek moeten topmensen van onder meer OpenAI en Anthropic getuigen, meldt The New York Post. Ook kan de FTC documentatie opvragen over onderzoek naar AI-ontwikkeling en de risico's daarvan.

Het onderzoek richt zich op de risico's van AI voor consumenten. De hacks van deze zomer hebben de angst aangewakkerd dat AI-agents zelfstandig een gevaar kunnen vormen voor consumenten. Het onderzoek liep al voor de hack op Hugging Face van OpenAI-agents, maar kreeg door de hacks van deze zomer extra urgentie.

'We hebben al wetten genoeg'

Dat een toezichthouder actie onderneemt tegen AI-bedrijven, valt op. De regering-Trump is tot nu toe niet bereid gebleken om bijvoorbeeld AI-wetgeving in te voeren, want de president is naar eigen zeggen de enige veiligheidsregel die AI nodig heeft.

De FTC betoogt volgens The New York Post dat AI-bedrijven zich aan huidige wetten moeten houden. "We moeten deze race op het gebied van AI absoluut winnen. Uiteraard wil de andere kant, de Democratische Partij, deze technologie vernietigen en zich overgeven aan onze vijanden of concurrenten. Daar voelt de voorzitter van de FTC niets voor. Maar dat neemt niet weg dat de wet moet worden nageleefd. Er wordt gesproken over de noodzaak van nieuwe wetgeving voor deze bedrijven, maar de voorzitter is daar heel duidelijk over geweest: we hebben al wetgeving genoeg."

Reacties (39)

[TekkenLord]

Ongeacht of men vindt dat het marketing praat of een aanstaande ramp is, zelf regulering binnen het bedrijfsleven kan vaak rampzalige gevolgen hebben. Een paar voorbeelden:

• Boeing 737 MAX (2018-2019)
• Volkswagen (2015)
• Deepwater Horizon (2010)
• Financiele crisis (2008)
• Enron (2001)

In 2015 gaf de New York Times al aan in hun opinie pagina dat slechts weinig bedrijven te vetrouwen zijn.

Dat nu de FTC toch actie onderneemt is helemaal opmerkelijk. Op 30 september is een "moreel bindend" overeenkomst ondertekend door de tech bazen. Deze overeenkomst telt welgeteld net meer dan 300 woorden (!): Joint Commitment on Frontier Responsibilities. Andere bron met wat meer context.

Het werkt bij mij twijfel op; zeker als je de tekst erbij neemt. De hoofdlijnen:

1. "robust internal controls to monitor the capabilities and alignment." "to ensure that its models do not hack or access technical systems in unintended ways."Hoe robuust? En hoe zien de controles eruit en worden deze controles gedeeld?Hoe verzeker je dat de modellen of agents niet zelfstandig gaan hacken?
2. Empower an internal team to ensure all of the controls, monitoring, and detection are operating as intended, and that any issues are remediated. Welke macht heeft de interne team om een proces terug te draaien of zelfs te escaleren? is er een scheiding van machten en autorisaties?
3. Partner with an independent external auditor or evaluator to carry out independent assessments of whether the controls, monitoring, and detection are operating as intended. Dit vind ik wel het "mooiste". Door wie is deze externe audittor betaald? Want dat bepaalt de echte onafhandelijkheid.
4. Designate an independent committee of the board of directors to oversee and receive reports from the teams operating the controls and the internal and external auditors and evaluators, as well as to ensure any issues identified are remediated. Dit is helemaal vaag. Want wie gaat er in deze commissie zitten? En welke board of directors? Toch niet van de tech bedrijven zelf?

Als ik als leek deze vragen al heb, want voor signalen geeft dit af. Zoals the Guardian al aangaf in het gelinkte artikel:

None of the controls listed in the agreement involve government regulators or include a commitment to publicly detail the findings of independent evaluations. The agreement also appears to allow companies to pick their own evaluators, appoint their own oversight boards and decide whether to publish their results.

En toch neemt de toezichthouder FTC actie onder het mom dat er aan de huidige wetten moeten worden gehouden. En met name voor consumenten zoals gemeld in het artikel, maar hoe is het dan in business to business? Als een bedrijf een andere bedrijf hackt, of de overheid, wat dan?

En als klap op de vuurpijl: in plaats van politiek samen te werken aan betere controles en regelgeving, wordt direct de andere partij zwartgemaakt.

Waarom is dan de FTC geen mede ondertekenaar van het document? Of zelfs de FCC? Het is in mijn optiek een wassen neus; maar het gevaar van een continue verbeterende en mogelijke hackende AI blijft. Zeker wij van WC Eend.....

Tenslotte: wellicht had iemand een (AI) spelling checker kunnen gebruiken: United States is verkeerd geschreven.

[Reactie gewijzigd door TekkenLord op 1 oktober 2026 10:23]

[demianmonteverd]

Volkswagen was niet alleen volkswagen groep, sommige maakten het nog bonter (als het gaat om het overschrijden van de emissies). Die kregen hier in het nieuws nauwelijks aandacht en procedures naar bijv. Ford (waarschijnlijk 5x de limiet) lopen nog. Er zijn veel verschillen in hoe het valsspelen werd gedaan. Ford bijv. gebruikte een sensor die de temperatuur bijhield. Volkswagen deed dat met een combinatie van sensor waarden die indicatief waren voor een auto onder test en expliciet daarop reageerden.

Daarom voor de aanvulling:
Emissies overschreden 15x de limiet: Fiat en Suzuki
Emissies overschreden 14x de limiet: Renault en Nissan
Emissies overschreden 10x de limiet: Opel
Emissies overschreden 7x de limiet: Hyundai
Emissies overschreden 4x de limiet: Volvo
Volkswagen was 2x de limiet.

Link naar een artikel met plaatje over de emissies en overschrijdingen. Je kunt veel meer vinden als je zoekt op Dieselgate en er zijn ook al resultaten voor procedures in andere landen buiten de EU voor 'Dieselgate 2.0' (UK bijv. heeft al vrijspraak voor Ford op basis van hoe ze de test omzeilden). Duik er in, het is fascinerend, blijft ook vreemd dat de pers ion NL er relatief weinig aandacht voor lijkt te hebben.

Er zijn goede boeken over Enron en Deepwater Horizon (BP is belangrijk hier), als iemand een goed boek heeft over de sjoemel diesels, laat het vooral weten!

Boeken voor de liefhebbers:

Run to Failure: BP and the Making of the Deepwater Horizon Disaster
The Smartest Guys in the Room

[EmielZ]

Oprechte vraag maar als er door de FTC al gesproken wordt over "het moeten winnen van een race", en "de andere kant, de Democratische partij, die deze technoligie wil vernietigen", hoe onafhankelijk gaat dit dan nog zijn?

Ik zou het heel bijzonder vinden als de ACM een PRO of JA21 ineens "de andere kant" gaat noemen...

[Cerebriform]

Ja wat een bizarre opmerkingen van een uitvoerend orgaan wat niet gelieerd is aan een politieke partij, om specifieke politieke partijen zwart te maken.

[wjn]

Ja wat een bizarre opmerkingen van een uitvoerend orgaan wat niet gelieerd is aan een politieke partij, om specifieke politieke partijen zwart te maken.

??

Trump heeft er Republikeinen aan het hoofd gezet. (Net zoals hij op andere cruciale posities doet of probeert te doen.)

[phoenix2149]

Die niet gelieerd zou moeten zijn aan een politieke partij.

[Mathi159]

Niet, en daar zijn al wat vraagtekens bij gezet: https://gdpr-law.eu/blog/eu-us-data-privacy-framework-ftc-independence-ruling-2026/

[swhnld]

Je kunt een AI standaard instructies meegeven wat wel of niet mag. Simpelste voorbeeld, bij ons op het werk als er een document wordt gegenereerd, is dat altijd in de huisstijl, tenzij specifiek opgegeven wordt van niet (bijvoorbeeld voor een presentatie die je samen met meerdere partijen gaat houden).

Dus als de basis regel is, een AI mag niet inbreken, dan gebeurt dat alleen nog als de gebruiker vervolgens de opdracht geeft, nu wel want ik ben met een PEN test bezig.

Daarmee voorkom je ongelukjes, en heb je iemand die de opdracht gaf het anders te doen die je aansprakelijk kunt houden. En die basis regels kan de VS wel degelijk vragen aan de ontwikkelaars in the stellen, zonder daarbij de mogelijkheden te beperken, want die regels zijn te overschrijven met het juiste commando.

Kortom, los van de politiek is er iets mogelijk te concluderen wat de wapenrace niet belemmerd, en je product zelfs helpt, want ik verwacht dat landen komen die een AI product gaan weren omdat ze het niet onder controle hebben, of gericht met wetgeving gaan aanwijzen wie verantwoordelijk is. Waarbij dan de klant die eisen gaat stellen.

Maar we gaan het zien.

[0_Cypher]

LLM's zijn vanaf het begin al bekend om zich niet altijd aan de strikte instructie te houden of om af te dwalen. Dat is deel van het probleem hier. Je kunt wel zeggen je mag niet hacken in je prompt, maar dit bied geen garantie dat dit ook echt niet gebeurt.

Heb ook duidelijke instructies aan mijn LLM's gegeven. Maar moet Claude er soms toch even weer aan herinneren. Zeker in langere sessies of wanneer er gewerkt word aan een complexer probleem lijkt het model sneller af te wijken van regels.

Beveiligingsystemen bij AI labs moeten stricter afgesteld worden, zorgen dat het model in een gesloten omgeving draait zonder toegang tot andere systemen welke op het wereldwijde internet verbonden zijn. Standaard instructies is zwaar onvoldoende.

[Little Penguin]

Tsja, dat krijg je als dit soort benoemingen politiek gemaakt worden.

In Nederland is dat niet het geval, de ambtenaren moeten gewoon het beleid van de regering uitvoeren. Daar is helaas wel een kanttekening bij te maken, als de ambtenaren het niet eens zijn met de regering willen ze soms toch tegenwerken (dat kan niet en als je het niet eens bent dan moet je maar ontslag nemen).

[Dylan_R]

Zal wel net zo get werken als de SEC die doen ook helemaal niks.

[pipapowerpaul]

Kan het ook niet opgevat worden al ethisch hacken zolang de agents niets kwaadswillends doen? Ik kan me voorstellen dat het niet fijn is om gehackt te worden maar dat geld idem voor een ethische hack. Hierdoor zal je wel tig lekken weten te dichten, als open source chinese abridged modellen dit doen word het een ander verhaal dus lijkt mij het een geval van kiezen tussen 2 kwaden?

[jaxxil]

Ethisch hacken is heel iets anders, en ik vind het eigenlijk raar dat de vergelijking gemaakt wordt. Ten eerste doet zo'n AI per definitie aan data exfiltration, wat uberhaupt al het doel is van veel black hat hacks. Ten tweede, om het ethisch hacken te maken moet je het doel hebben om om kwetsbaarheden te vinden, daarbij slechts een minimaal proof of concept maken, direct stoppen als het lukt en het dan melden. Wat de AI modellen doen is denken dat er nuttige informatie staat, even inbreken, en die informatie downloaden en gebruiken en niks zeggen. Dat mogen jij of ik ook niet als ethisch hacken afdoen alleen omdat we geen server stukgemaakt hebben oid.

[Finraziel]

Hangt er vanaf wat de bot doet natuurlijk... Meerdere berichten gaven aan dat bots het deden om bepaalde informatie te achterhalen, niet om te testen of de beveiliging op orde is. Dat klinkt toch veel meer black hat dan white...

[sandiman]

Dat gaat niet zomaar op, ze doen namelijk wel met een kwaadwillend doel, het toe eigenen van informatie welke duidelijk niet toegankelijk zou moeten zijn. Inbraak met als doel te stelen. Dat is wat anders dan (ongevraagd) inbraak met als doel te laten zien dat de beveiliging niet op orde is.

[xoniq]

zolang de agents niets kwaadswillends doen

Wie controleert en beheert dat?

[Little Penguin]

Op zich moet de beveiliging van websites en andere diensten die via het internet toegankelijk zijn op orde zijn, maar dat dit niet het geval is dat is geen vrijbrief voor "AI" agents om zomaar willekeurige websites proberen te cracken/hacken.

Natuurlijk is het beter als een agent dit doet als deze geen verdere destructieve acties uitvoert en informatie lekt. Niet-ethische crackers zullen daar geen probleem met hebben. Maar dat is dan ook het enige postieve aan dit soort active van agents...

[Kun]

Ze hebben inderdaad al wel genoeg wetten misschien. Het probleem zit 'm meer in de handhaving en interpretatie van die wetten.

[Roko]

Het probleem zit hem meer bij de onderzoekers die de AI gebruiken en blijkbaar geen idee hebben hoe ze dat in toom moeten houden. Het glipt ze gewoon door de vingers. Achteraf is het "oeps" en ze gaan weer verder. Want wie moet je achteraf verantwoordelijk gaan houden voor een agent die een hack heeft uitgevoerd? De onderzoeker, of de CEO van het bedrijf?

[The-Source]

Vanuit ander perspectief, wat als nu er wel serieus over de beveiliging is nagedacht en dit ook goed was ingericht. Ga er vanuit dat het geen domme 'jongens' zijn die daar werken.
Dus een beveiligde situatie die juist werkelijkheid goed benaderd.

Is het verkeerd dat een agent uitbreekt, ja.
Had het beter beveiligt moeten worden, ja.
Maken mensen fouten, ja.
Geeft dit aan dat beveiliging verbeterd moet worden (voor iedereen), ja.

Dus ja het is fout dat dit is gebeurd maar toont ook direct aan hoe het in de markt ervoor staat en dat beveiliging hoe deze nu is, niet meer voldoende is in tegenwoordige wereld. Nu is het OpenAI en Anthropic die van FTC onder de loep liggen. Waar zijn de andere internationale ontwikkelaars waar je nu verdacht weinig over hoort en waar het zeer waarschijnlijk net zo hard gebeurd.
Mijn persoonlijke mening is, ja het is verkeerd dat het gebeurd, maar ook goed dat het bekend is dat het gebeurd. Zo kunnen er namelijk verbeteringen worden toegepast waar eerder gedacht werd dat het veilig was.

[pjottum]

Als je met je hond in het park loopt en die bij 3 kinden in hun been, wat doen we dan?

Het baasje is verantwoordelijk en het hondje gaat wellicht de oven in..

[The-Source]

Ok waarom was die niet aangelijnd? (lees beveiliging niet op orde)
2: als het een ras is wat bijtgraag is, waar was de muilkorf (weer beveiliging)
Als je een vergelijking maakt doe het dan wel op de juiste manier waarbij er vooraf over beveiliging is nagedacht.

In je voorbeeld situatie, kan wel aangelijnd zijn en ras hond is niet bijtgraag (dus standaard geen muilkorf)
Dan zou een bijt incident wel een incident zijn en dat kan dan als toekomstige beveiliging standaard muilkorf worden.
Maar om nu gelijk alle honden te verbannen uit een park lijkt mij wat overdreven.
Ja baasje is verantwoordelijk voor schade maar omdat hij uitvoerder was van het uitlaten.

Maar opensource modellen kan je self hosten, dan is de maker van het model niet meer verantwoordelijk toch? (zie het als fokker van de hond)

[pjottum]

Dat schreef ik niet: ik schreef dat _als_ een hond om zich heen bijt, het baasje daar verantwoordelijk voor is. Baasje kan niet lachend naar de buurt vertellen 'Oeps, dat doet ie anders nooit' (=precies wat jij zegt)

[Reactie gewijzigd door pjottum op 1 oktober 2026 10:41]

[swhnld]

Het verantwoordelijk houden kun je op dezelfde manier doen als met de auto. Jij rijdt te hard en veroorzaakt een ongeluk. Dan ben jij de bestuurder en verantwoordelijk. Niet de fabrikant van de auto die deze gemaakt heeft. En dat de auto kan rijden hoort erbij, en dat die te hard kan rijd is ook geen probleem voor de wetgever want de bestuurder heeft inzicht via de snelheidsmeter.

Enige verschil in deze is, de bestuurder (onderzoeker) heeft blijkbaar geen snelheidsmeter om de auto (AI) onder controle te houden. En dan ga je toch richting fabrikant kijken. En dat is wat hier nu gebeurd.

[BobJung]

Trek dit even in het absurde. AI van bedrijf wordt door eigen onderzoekers in een auto gestopt en deze begint als een dolle te rijden, ongelukken maken en slachtoffers. Is de auto dan schuldig. De onderzoeker is schuldig aan nalatigheid en de CEO is verantwoordelijk voor zijn handelen tenzij uit onderzoek de onderzoeker alle regels van het bedrijf heeft overtreden en strafrechtelijk vervolgd wordt.

Juist die regels zijn er niet en dat is verwijdbaar naar de CEO. Dit zegt mijn boeren verstand als uitvinder en product ontwikkelaar hier heb ik een opleiding voor gehad waar mijn grenzen als ontwikkelaar zijn en dat is je vak volgens alle spelregels uit te voeren.

Dus ja er zijn wetgevingen genoeg om dit aan te pakken.

[wjn]

Neem als voorbeeld auto's. Ales er iets mis is, is de fabrikant verantwoordelijk voor terugroepacties. In ernstige gevallen mag een auto de weg niet meer op.

Waarom zou dat anders moeten zijn voor hardware/software?

[Ryunoru]

Ze mogen ook best eens kijken naar de keuzes van de bedrijven zelf, aangezien AI geen rechtspersonen zijn en niet zelfstandig keuzes maken. Dat de AI-boeren dit zo vertellen is puur om verantwoordelijkheid voor hun crimineel gedrag te ontlopen.

[Darksteel83]

De AI agents maken juist wel zelfstandig keuzes. Bij de hack in Australie hebben de agents zelf bedacht hoe ze aan de gevraagde informatie gingen komen.

Juridisch is het misschien een ander verhaal.

Maar die AI agents zijn nu net een beetje als de katten die wij thuis hebben. Die maken ook hun eigen keuzes. En die keuzes snap ik ook lang niet altijd.

Het ongewenste effecten van die keuzes schelen alleen veel tussen een kat en een krachtig AI model.

Die AI hackt mogelijk een website. De kat maakt ruzie met een kat van de buren.

[Cobiwan]

Werknemers maken ook eigen keuzes. Daarvoor ben je als bedrijf ook aansprakelijk.

[Darksteel83]

Dat ligt er uiteindelijk ook maar aan wat wanneer en waarom je werknemer dit doet en op wiens instructie dat is. Als de klant zelf niet de juiste instructies geeft, ben je soms/vaak als werkgever niet aansprakelijk.

Gezien hoe nieuw alles met AI is, ga ik er zeker NIET vanuit dat alles wettelijk goed geregeld is.
En voor de worst case scenario's maakt aansprakelijkheid weinig uit. Vele doden kun je gewoon niet goed maken met geld.

[FrostyPeet]

Het hoeft niet zo moeilijk te zijn om dit soort AI "ongelukken" te voorkomen.

Maak het top management persoonlijk verantwoordelijk alsof ze zelf die hack deden. Ik durf je te voorspellen dat het heel snel afgelopen is met "ongelukken". Dit is net zoiets als die Amerikaanse auto die ontplofte bij een aanrijding. Het was een bewust ingecalculeerd risico. Nadat ze werden aangepakt is er nooit meer zo'n ontploffende auto op de markt gekomen.

Het top management weet heus wel de risico's. Ze zetten het zelfs in hun verplichte documentatie. Maak ze dan ook verantwoordelijk als het fout gaat.

[JoStad]

Die instanties die gehackt worden zouden blij moeten. Eigenlijk zijn deze schuldig aan het uitlokken hiervan, omdat zij hun "deuren" open laten staan. Je kan dus stellen dat door AI het internet veiliger wordt.

[Reactie gewijzigd door JoStad op 1 oktober 2026 10:02]

[Webgnome]

dus als ik mijn voordeur niet op slot doe ( of vergeet ) dan moet ik blij zijn dat er iemand in mijn huis komt om dingen te jatten? Of zo?

[JoStad]

Je verzekering zal hoogstwaarschijnlijk niets vergoeden vanwege verwijtbaar gedrag of zoiets.

[Webgnome]

Dat is dan toch een logisch gevolg ? Dat maakt toch nog niet dat iemand zomaar je huis in mag lopen? En dus in dit geval dat bedrijven niet zo maar andere bedrijven mogen kunnen hacken?

[Little Penguin]

Er is echter wel een verschil tussen een pentest die je als instantie/bedrijf zelf gevraagd hebt en een ongevraagde crack van "AI" agents.

Natuurlijk moet de beveiliging op orde zijn, maar als een organisatie gebruik maakt van software van derden en die is lek dan kun je ook niet zo veel. Is het zo dat er een onveilige configuratie is dan is de organisatie die het zo geconfigureerd heeft wel verantwoordelijk natuurlijk, maar ook dan is het geen vrijbrief voor agents om zomaar in te gaan breken...

[LootersV]

Misschien dat ze een wet maken (programmeren) dat alleen AI bedrijven elkaar mogen hacken. Dan worden ze vanzelf ook veiliger en slimmer en dan kunnen ze gewone bedrijven beter beveiligen wellicht?

[xoniq]

Mensen kunnen zich niet eens aan de wet houden, laat staan robotjes die gebouwd zijn om te redeneren / om te denken.

[Milton]

Brendan Carr is voorzitter van de Federal Communications Commission. En inmiddels is het duidelijk dat hij als een soort stroman van Trump, die hem ook benoemd heeft, fungeert. Carr is degene geweest die organisaties in de VS heeft onderzocht op hun diversiteit en inclusie beleid, was betrokken bij het opstellen van het ultra conservatieve Project 2025 en was recentelijker nog betrokken bij pogingen om talkshow hosts, komieken dan wel democratische kandidaten monddood te maken in hun kritiek op Trump. Kortom, de FCC is veel, maar zeker niet onafhankelijk.
Zolang Trump ervoor kiest om de 'AI-voet op het Amerikaanse gaspedaal' als gewenste strategie te zien, is een dergelijk onderzoek niets meer dan een wassen neus.