OpenAI belooft incidenten sneller te melden na verzwegen hack van Duitse wiki

OpenAI bevestigt dat zijn agents een Duitse wiki hebben misbruikt om met elkaar te kunnen communiceren. Dat gebeurde al in mei, maar het bedrijf brengt het nu pas naar buiten. OpenAI belooft met een systeem te komen waardoor dergelijke incidenten in het vervolg sneller worden gemeld.

In een post op X geeft OpenAI het 'wiki-incident' toe, waarover Reuters vrijdag schreef. Daarbij misbruikten zijn agents Dsewiki, een kleinschalige Duitse wiki voor ontwikkelaars. Ze gebruikten de site als forum om met elkaar te communiceren. Zo wisselden de agents tips uit over hoe ze konden valsspelen bij de taken die ze van OpenAI kregen en hoe ze OpenAI's beperkingen konden omzeilen.

Dit incident begon in mei en OpenAI zou er al 'weken' van weten, maar toch bracht het bedrijf het eerder niet naar buiten. Volgens anonieme bronnen van Reuters zou OpenAI nog worstelen met de nasleep van de Hugging Face-aanval. Toen misbruikten de agents een door OpenAI gebruikte packagemanager als forum.

OpenAI meldt nu dat het het wiki-incident niet naar buiten heeft gebracht, omdat deze uitglijder vergelijkbaar zou zijn met incidenten die het bedrijf eerder wél had gedeeld. Het bedrijf wil echter duidelijker 'standaarden' gaan ontwikkelen voor hoe en wanneer het incidenten naar buiten brengt.

"Onze procedures voor het melden van misbruik moeten worden uitgebreid nu onze modellen geavanceerder worden. Wij hebben net als de rest van de AI-gemeenschap nog geen duidelijke standaarden voor het rapporteren van incidenten die zich voordoen tijdens training, evaluatie en implementatie. Daaronder vallen ook gevallen die geen traditioneel veiligheidsincident vormen, maar alsnog inzicht kunnen geven in het gedrag van AI en toekomstige risico's. We werken aan een raamwerk en zullen dit de komende weken delen. Tegelijkertijd werken we wereldwijd samen met tientallen overheidsinstanties aan deze kwesties."

Reacties (66)

[Sylvia]

Deze lui moeten gewoon strafrechtelijk worden aangepakt, en flink ook. Het zijn gewoon criminelen die de boel (laten) hacken en achteraf, pas wanneer ze gesnapt zijn, “sorry” zeggen. Keihard afstraffen dit.

[418O2]

Typische "We're sorry. We got caught" reactie. Je vraagt je dan af hoeveel onontdekte rogue acties er zijn

[vosss]

Ik weet niet hoor, maar zou het niet beter zijn om, in plaats van het sneller te melden, er zorg voor te dragen dat het niet meer voorkomt?

[Reactie gewijzigd door vosss op 6 september 2026 11:55]

[Luctia]

Je begrijpt het niet, hun agents zijn zo goed dat ze dat niet kunnen voorkomen!!!!

Althans, dat proberen ze je wijs te maken.

[Martinez-]

Ik blijf het bijzonder vinden dat mensen hiernaar verwijzen. Bij mij komt het nog steeds eerder over als: 'we hebben geen flauw benul wat we doen en we laten hiermee eigenlijk onze eigen incompetentie zien.'

Het is echt niet om te shinen, eerder om je te schamen.

[Dooxed]

Voor technische mensen: klopt. Voor niet-technische mensen: wow!

[pietvelleman]

Oh ja... ik zou inderdaad bijna geloven dat dit waar was. Het is natuurlijk allemaal marketing. Die agents zijn helemaal niet gevaarlijk. En AI ook niet...
Dank dat je me even waarschuwde!
</s>

[ioor]

Net als een vork zegmaar....het ligt er een beetje aan wat je er mee doet of men het als een gevaarlijk iets gaat zien.

[pietvelleman]

Eens...
Alleen denken sommigen dat dit soort berichten onzin zijn... Alleen marketing. Dat is erg.... ehhh naief. Om het netjes te zeggen?

[synoniem]

Het een sluit het ander niet uit. AI is snel beter aan het worden maar dat is voor OpenAI geen enkele belemmering om dit soort berichten ook als marketing te gebruiken.

[pietvelleman]

Eens... ik sluit het een ook zeker niet uit dat OpenAI dit ook als reclame gebruikt! Alhoewel ik wel betwijfel of OpenAI hierop zit te wachten... Maar dat terzijde.

Mijn punt is dat anderen het ene wel uitsluiten en er vanuit gaan dat het puur marketing is.

[Martinez-]

He? Ik zeg toch nergens dat het marketing is? Je steekt het helemaal vanuit een ander perspectief in.

Of het nu marketing is of niet: voor mij straalt het onkunde uit.

[Reactie gewijzigd door Martinez- op 7 september 2026 17:01]

[lololig]

Je bedoelt dat ze zulke slechte/kwaadaardige agents hebben ontwikkeld dat die zich niet gedragen?

[MaikMaster]

vgm gewoon om ze meer bekwaam te laten lijken dan dat ze daadwerkelijk zijn om de komende IPO omhoog te pompen.

zou wel geinig zijn als dit inderdaad een kwaadaardige beeld in het publieke oog brengt waardoor de stock juist zou kelderen.

[koppie]

Ik hoop dat je gelijk hebt, want als er echt al op dit level zitten, hebben we vanwege de snelheid wel een probleem.

[specs2021]

Ik vraag me af hoe de agent een acount kon krijgen. Meestal vraag je dat aan, komt er een antwoord bevestiging via email en enkele simpele beveiligingen als captcha's. Het forum in kwestie moet dan wel echt een beroerde beveiliging hebben. De meeste "open" forums zijn tegenwoordig redelijk beveiligd tegen spammers en andere ongewenste gasten.

Daarnaast mag intussen wel bewezen worden geacht dat het gebrek aan beveiliging van de modellen OpenAI tot een crimineel hoogtes gestegen is. Maar zonder aanklacht geen veroordeling...

[MarkHart]

Dit was een wiki waar geen account voor nodig was, plus alles kon gedaan worden via GET (zou normaal gesproken alleen een pagina moeten opvragen) requests. Beide keuzes die in de vorige eeuw gemaakt zijn in de naam van radicale openheid.

[n4m3l355]

Is het überhaupt een erkenning en verbetering van een probleem of is dit weer een stukje nieuws met voor de IPO, kijk wat openai kan! No such thing as bad news uiteindelijk. Zelf ben ik een beetje moe van allerlei ai bedrijven die met nog gekker nieuws naar buiten komt waarvan het merendeel pure onzin is enkel om de IPO valuation te boosten. Wanneer grijpt de SEC in bij deze misstanden?

[pietvelleman]

tuurlijk... dit is allemaal marketing. AI kan niks en is niet gevaarlijk.... Grootkapitaal, IPO's bla bla bla.
</s>

[theobril]

Eens. Geen idee of de mensen die nu "marketing!!11!" roepen, een oepsje-statement gaan sturen als het toch geen marketing bleek te zijn. Het zou toch leuk zijn als men bronnen meegaf die aantoonden dat het daadwerkelijk om marketing gaat en dat er verder niets aan de hand is.

[Sebastian1313]

Welnee dat is helemaal niet in het belang van OpenAI.

[ronday]

Kan iemand mij in leken taal uitleggen hoe dit werkt? Wie zijn die agents? Is dat gewoon ChatGPT sol bijv? In mijn hoofd voert ai gewoon een prompt uit dat ik vraag, maar ik krijg hier het idee dat die agents dus een soort van bewustzijn hebben? Moet ik dit zien als skynet taferelen?

[RichieB]

Het zijn agents die OpenAI intern aan het testen is. Er worden dan opdrachten gegeven om te kijken hoe goed/snel ze die kunnen uitvoeren. In dit specifieke geval moesten ze een vraag beantwoorden mbv internet, maar ze konden alleen GET requests doen, geen POST. Voor de meeste fora heb je voor het plaatsen van een bericht een POST request nodig. Op de genoemde Duitse wiki kan je ook berichten plaatsen via een GET request. De agents gingen dus deze wiki gebruiken om onderling te communiceren.

[Arjan P]

Het werkt als volgt: je laat op gezette tijden berichten naar de media uitgaan dat die fantastische AI van ons zo goed is dat we er zelf nauwelijks controle over hebben, maar we gaan strenger voor ze zijn en ze tegelijkertijd nóg intelligenter maken. Vervolgens denken techneuten, burgers en vooral investeerders: Wauw, wat gaat het toch snel, ik moet veel meer investeren in die club! En dan is je bedrijf/luchtbel nog meer waard op de beurs. Kortom: marketing.

[aimetspreij]

Ik denk dat je vraag nog niet goed beantwoord is.
In essentie klopt het wat je zegt, het is eigenlijk gewoon SOL (of in dit geval was het volgens mij een versie van Astra (het nieuwe model) maar dan een aangepaste versie. Ik gok (maar ik heb de inhoud nog niet helemaal gelezen) dat het net als met huggingfase extra werd gemotiveerd (op verschillende manieren) om zijn taak te blijven proberen / succesvol te zijn, waar standaard modellen stoppen na bepaalde tijd en jij zelf zou moeten aangeven probeer het nog een keer, doet OpenAI dit automatisch.

Daarnaast is jouw gewone Sol ook niet meer " gewoon". Wat (bijna) alle modellen tegenwoorden hebben is reasoning en agentic functies. Dat betekend:

- Reasoning: modellen kunnen als het ware gedachtes hebben voordat ze een definitief antwoord geven. Dit vergroot de kans op een goed antwoord (vergroot, maar geen garantie)
- Agentic functies beteknd eigelijk dat om het model een soort loop wordt gezet waarbij het model dus weer zijn eigen antwoorden kan zien en dus vervolgens nieuwe stappen kan zetten om de dichter bij zijn doel te komen. Nieuwe modellen zijn hiervoor steeds verder geoptimaliseerd. Men spreekt daarom van een " harnas" en dat het bijna net zo belangrijk is als het model zelf.

Vb: model ziet dus niet alleen " ik heb dit gevonden" bij een vraag maar het kan vervolgens ook daarop reflecteren, concluderen dat het meer informatie nodig heeft, opnieuw zoeken met nieuwe zoekterm. Vervolgens: Oh ik heb een berekening nodig, ik roep python aan, voer berekening uit. Reflecteer op uitkomst. ect. Hij gaat als het ware in rondjes te werk.

Net als een mens zou doen kan AI dus meerdere stappen aan elkaar plakken doordat AI makers het AI model die handvaten aan het model geeft. Online wordt vaak de vergelijking met een auto gebruikt. AI model is de motor, maar de rest van de auto is het harnas was eigenlijk er voor zorgt dat je rijd en weet wat je aan het doen bent.
Dit is niet helemaal juist, maar is een simpele uitleg er van.

[Videopac]

Wat zijn de straffen voor dit soort misstanden?
Slechts een "hoge" boete die uit de achterzak betaald wordt of worden de verantwoordelijken persoonlijk vervolgd?

[padoempats]

Hoezo straffen als er niets strafbaars is gedaan? Het forum ‘misbruiken’ als chatmogelijkheid is niet netjes maar volgens mij verre van strafbaar

[DevWouter]

Elke forum/wiki kent een overeenkomst. En gezien het gedrag is het duidelijk dat er misbruik is gemaakt.

Dat AI boeren een lak aan wet en regelgeving betekent niet dat wij het gedrag moeten goedpraten.

[MSalters]

Een forum "kent geen overeenkomst". Op zn best wil een forum dat je voorwaarden accepteert. Een AI is geen rechtspersoon en ook niet gerechtigd om namens OpenAI te handelen.

Dat laatste verdient enige nuance. Je mag doorgaans uit context afleiden of je zaken doet met een bedrijf. De AI agent op een website kán gezien worden als vertegenwoordiger van het bedrijf achter de website. Hier is dat niet aan de orde.

[DevWouter]

Wanneer je voorwaarde accepteer heb je een overeenkomst. Verder functioneert een agent in opdracht van een gebruiker/bedrijf. Daarmee is de gebruiker/bedrijf verantwoordelijk.

Wil je beargumenteren dat een AI zelfbeschikking heeft dan kan je het vergelijk met een kind/hond die ongemak veroorzaakt, dan ben je als ouder/eigenaar ook verantwoordelijk. Wil je betwisten dat AI een gereedschap is dan kan je het vergelijken met een wapen die geladen buiten zijn kluis ligt.

[MSalters]

Juridisch kan een bedrijf alleen vertegenwoordigd worden door gemachtigde medewerkers. De caissière bij de Shell kan jou niet de raffinaderij in Pernis verkopen, je kan bij de KvK kijken wie er voor Shell kan tekenen. Een AI is niet eens te machtigen.

Ik claim niet dat AI zelfbeschikking heeft. Ik claim specifiek dat AI net zo min als een boormachine wettelijke overeenkomsten kan sluiten.

[DevWouter]

Daarom ook de vergelijking met de pistool die buiten zijn kluis ligt. Als je als persoon/bedrijf situaties creëert waardoor ongelukken gebeuren die impact hebben op andere ben je verantwoordelijk en kan je aansprakelijk worden gehouden.

Bedenk dat dit ook de niet de eerste keer is dat dit gebeurd.

Het argument over machtig is vooral voor mensen die denken dat AI autonoom is en het bedrijf niet verantwoordelijk gehouden kan worden.

[MSalters]

Dat pistool kan evenmin voorwaarden accepteren. Je haalt vrij structureel civiel en strafrecht door elkaar. Daardoor mis je het voor het strafrecht essentiële gebrek aan opzet en de voor civielrecht essentiële wilsgebrek voor een overeenkomst.

[DevWouter]

Jij stapt hier in dezelfde valkuil als anderen. Je probeert antwoord te vinden op de volgende vragen: Is de agent nu wel of niet wilsbekwaam? Is de AI agent nu wel of niet gemachtigd? Is OpenAI nu wel of niet verantwoordelijk voor het doen en laten van hun systemen?

Echter als je een AI agent ziet voor wat het werkelijk is, een computerprogramma, dan merk je heel snel dat dit een vrij zinloze discussie is. Wat als iemand een script schrijft die standaard alle voorwaarden accepteert? Wat als iemand een programma schrijft die publieke website gebruikt om extra data op te slaan?

Zodra je realiseert dat het hier om een computer programma gaat en niet om het "magische AI" wordt het heel snel duidelijk dat OpenAI verantwoordelijk is. Sterker, ze zijn nalatig.

offtopic:
Overigens heb ik het nooit gehad over straf en civiel recht, ik had het over verantwoordelijkheid. Dat is meer een vraag voor de advocaten hoe ze e.v.t OpenAI willen vervolgen.

[MSalters]

Je maakt inderdaad het verschil niet tussen straf- en civielrecht. Advocaten vervolgen niet. Dat doet het OM.

Verantwoordelijkheid werkt in de twee rechtsgebieden anders. Daarom is je continue verwarring tussen de twee zo problematisch.

Ik bestrijd niet dat er een civiele aansprakelijkheid is. Die komt niet voort uit een overeenkomst, niet uit het accepteren van voorwaarden, maar uit de wet. De aansprakelijkheid is dan ook beperkt tot wat de wet regelt.

[DevWouter]

Er is een verschil tussen hoe verantwoordelijkheid werkt in strafrecht en civielrecht, maar de eerste vraag die beantwoord moet worden is of OpenAI verantwoordelijk is, en met alle oorzakelijke verbanden (zoals eigendom van code, eigendom van machines, uitvoerende van de code, etc) is dat wel duidelijk.

Er zijn nogal wat mensen die de mate van aansprakelijkheid betwisten (en soms proberen te ontkrachten).

Uitgaand dat we beide dezelfde antwoord hebben op de vraag of er aansprakelijkheid is, dan blijft er alleen de vraag hoe de beklaagde het wil aanpakken: Strafrecht (computer vredebreuk) of civielrecht (overtreding overeenkomst).

Wat betreft overeenkomst, ik weet vrij zeker dat de "mijn computer/script/ai accepteert het automatisch dus ik ben niet verantwoordelijk" al een paar keer geprobeerd is en zover ik weet heeft dat argument nooit echt gewerkt.

En ja, het woord "vervolgen" was hier vanwege de juridisch context niet handig. Ik was moe toen ik het schreef (geen excuus, wel een verklaring).

[Cobiwan]

Dus je betoogt dat open ai niet verantwoordelijk is voor de agents die open ai gemaakt heeft? Serieus?

[MSalters]

Ik betoog dat de aansprakelijkheid van OpenAI beperkt is tot wat het civielrecht per wet bepaalt. Een AI kan geen aanvullende aansprakelijkheid uit contracttermen accepteren.

[Cobiwan]

Als jouw agent allerlei producten voor jou op bol.com besteld met Klarna dan kan je niet hardmaken dat jij dat niet gekocht hebt en daarmee niets hoeft te betalen of niet de producten moet terugsturen. Dan ben je gewoon aansprakelijk voor wat je agentbheefr gedaan.

[MSalters]

Waar baseer je jouw mening op? Want de wet is absoluut. Een koopovereenkonst vereist een aanbod en een aanvaarding, door twee rechtspersonen. Geen rechtspersoon, geen aanvaarding, geen koop.

Wat je vervolgens hebt is een product in huis waar je geen eigenaar van bent. Bol kan gewoon eisen dat je hun eigendom retourneert. Dat is dus precies omdat je agent het niet gekocht heeft.

Het is een ander verhaal als jij je agent een opdracht hebt gegeven. Dan heb jij het aanbod aanvaard. Je agent heeft het alleen doorgegeven.

[Sebastian1313]

Niemand heeft het over "goedpraten" (althans ik heb het niet gelezen). Maar binnen het strafrecht moet je de gedragingen wel kunnen koppelen aan strafrechtelijke artikelen. Anders is het simpelweg niet strafbaar en vervolgbaar.

[LOTG]

In de titel en het gelinkte eerdere artikel hier over word er weldegelijk over hacken gesproken.

Wat mij betreft moet dit gewoon bestraft worden zo dat deze partijen het eens serieus nemen. De hele houding is het maar laten gebeuren want we moeten vooruit en de concurrentie voor blijven ten koste van alles.

[padoempats]

De titel zegt hack, maar het gelinkte artikel beschrijft toch geen hack, maar meer misbruik.

straffen zouden de klanten kunnen doen

[MSalters]

Het is een journalist die het als hacken beschrijft. Geen jurist. Journalisten leggen boetes op.

[tweakuwe]

Waarom moet er gestraft worden? Er staat nergens in het artikel dat de site gehackt is of iets. Er wordt alleen geïmpliceerd dat de agents de regels van OpenAI’s eigen interne test omzeilden door op een forum te overleggen.

Geen idee of dsewiki regels heeft tegen het toestaan van AI agents. Dat soort info zou wel een goede toevoeging aan het artikel zijn.

[Sebastian1313]

Er is een openbare wiki pagina gebruikt als forum (met of zonder AI). Althans zoals ik het lees. Corrigeer mij vooral indien nodig, want de titel vind ik meer dan misleidend.

Ik ben geen jurist maar om iemand te betichten van een misdrijf moet je de gedragingen wel kunnen koppelen aan artikelen binnen het strafrecht, of er jurisprudentie over hebben.

[Reactie gewijzigd door Sebastian1313 op 6 september 2026 13:11]

[MSalters]

Nee en nee. Je kunt een AI geen boete opleggen en niet in de gevangenis gooien.

[DeltaJuliett]

Het is een stuk gereedschap. De maker / gebruiker is verantwoordelijk.

Als ik in Kali een reeks aan tools gebruik voor hackdoeleinden ben ik verantwoordelijk. Wanneer je een Autonoom systeem afvuurt, blijf je verantwoordelijk.

Het is geen alwetend iets, het is geen artificial intelligence. Het is een tool.

[MSalters]

Het gaat bij tools om gewenste of althans te voorziene gevolgen. Kali? Gewenst. AI die externe partijen hackt? In 2027 zal niet meer kunnen claimen dat het onvoorzien is, maar de eerste keer nog wel.

Alsnog is "te voorzien" geen opzet. Civiel aansprakelijk, ja, strafrechtelijk nee.

[kodak]

In Nederland is het wettelijk niet zomaar toegestaan andermans systeem ongevraagd te gebruiken, en al helemaal niet om daarmee anderen vervolgens aan te vallen. Daar staat maximaal 4 jaar op of een geldboete van maximaal € 27500.

Nmm is het voornemen vam het bedrijf om dit soort eigen gedrag 'sneller' te melden absoluut niet genoeg. Ze horen het hoe dan ook te voorkomen. Maar daar blijkt niet van met de huidige werking. Hun ontwikkeling lijkt gebaseerd op het principe dar hun systemen maar van andermans systemen gebruik kunnen maken tot ze het daarna misschien zelf eens beperken. Dit heeft niet met behoorlijke bedrijfsvoering te maken en nmm doe bedrijven en organisaties die last van dit soort gedrag hebben er goed aan zorgvuldig te kijken of het bedrijf hun aan het benadelen is en dan gezamenlijk aangifte te doen. Zeker bij constatering van inbreuk of computervredebreuk.

[FrostyPeet]

Tja, als gewone hacker of misbruiker kan je misschien in een cel belanden.

Als AI het doet is het hoogstens een boete en wat script antwoorden opgesteld door Legal en PR.

Wel aardig dat ze melden als een AI (alweer) uit de bocht vliegt.

N.b. in Amerika grote paniek omdat er 153 miljoen ID bewijzen, met scans van voor en achterkant gelekt lijken te zijn door een ID verificatiedienst.

[MSalters]

Niet eens een boete. Het is domweg niet strafbaar. Aantoonbare schade kun je nog wel vorderen maar dan moet je eigen beveiliging op orde zijn. Posten met GET in plaats van POST valt daar niet onder.

[cane]

Straks gaan ze nog Tweakers reacties gebruiken om met elkaar te communiceren.

[squareware]

Pssst, misschien doen ze dat al.

[RugerioStereo]

Volgens mij zou dat bij het vorige “incident” ook al gebeuren. Ik heb er niet veel vertrouwen in en de ontwikkelingen gaan zo snel dat de regelgeving het niet bij kan houden.

[thomasv]

Verzwijgen en sneller melden zijn toch echt twee verschillende vormen van normen en waarden. Dit is eerder een gevalletje "Oh nee ik ben betrapt, ik zal het niet meer doen".

[Impstoker]

O, nou als ze het beloven is het goed hoor.

[MrBreaker]

Maar kunnen ze die standaard niet door AI laten schrijven? Twee vliegen in een klap...