OpenAI belooft incidenten sneller te melden na verzwegen hack van Duitse wiki

OpenAI bevestigt dat zijn agents een Duitse wiki hebben misbruikt om met elkaar te kunnen communiceren. Dat gebeurde al in mei, maar het bedrijf brengt het nu pas naar buiten. OpenAI belooft met een systeem te komen waardoor dergelijke incidenten in het vervolg sneller worden gemeld.

In een post op X geeft OpenAI het 'wiki-incident' toe, waarover Reuters vrijdag schreef. Daarbij misbruikten zijn agents Dsewiki, een kleinschalige Duitse wiki voor ontwikkelaars. Ze gebruikten de site als forum om met elkaar te communiceren. Zo wisselden de agents tips uit over hoe ze konden valsspelen bij de taken die ze van OpenAI kregen en hoe ze OpenAI's beperkingen konden omzeilen.

Dit incident begon in mei en OpenAI zou er al 'weken' van weten, maar toch bracht het bedrijf het eerder niet naar buiten. Volgens anonieme bronnen van Reuters zou OpenAI nog worstelen met de nasleep van de Hugging Face-aanval. Toen misbruikten de agents een door OpenAI gebruikte packagemanager als forum.

OpenAI meldt nu dat het het wiki-incident niet naar buiten heeft gebracht, omdat deze uitglijder vergelijkbaar zou zijn met incidenten die het bedrijf eerder wél had gedeeld. Het bedrijf wil echter duidelijker 'standaarden' gaan ontwikkelen voor hoe en wanneer het incidenten naar buiten brengt.

"Onze procedures voor het melden van misbruik moeten worden uitgebreid nu onze modellen geavanceerder worden. Wij hebben net als de rest van de AI-gemeenschap nog geen duidelijke standaarden voor het rapporteren van incidenten die zich voordoen tijdens training, evaluatie en implementatie. Daaronder vallen ook gevallen die geen traditioneel veiligheidsincident vormen, maar alsnog inzicht kunnen geven in het gedrag van AI en toekomstige risico's. We werken aan een raamwerk en zullen dit de komende weken delen. Tegelijkertijd werken we wereldwijd samen met tientallen overheidsinstanties aan deze kwesties."

Reacties (14)

[vosss]

Ik weet niet hoor, maar zou het niet beter zijn om, in plaats van het sneller te melden, er zorg voor te dragen dat het niet meer voorkomt?

[Reactie gewijzigd door vosss op 6 september 2026 11:55]

[Luctia]

Je begrijpt het niet, hun agents zijn zo goed dat ze dat niet kunnen voorkomen!!!!

Althans, dat proberen ze je wijs te maken.

[lololig]

Je bedoelt dat ze zulke slechte/kwaadaardige agents hebben ontwikkeld dat die zich niet gedragen?

[Videopac]

Wat zijn de straffen voor dit soort misstanden?
Slechts een "hoge" boete die uit de achterzak betaald wordt of worden de verantwoordelijken persoonlijk vervolgd?

[padoempats]

Hoezo straffen als er niets strafbaars is gedaan? Het forum ‘misbruiken’ als chatmogelijkheid is niet netjes maar volgens mij verre van strafbaar

[LOTG]

In de titel en het gelinkte eerdere artikel hier over word er weldegelijk over hacken gesproken.

Wat mij betreft moet dit gewoon bestraft worden zo dat deze partijen het eens serieus nemen. De hele houding is het maar laten gebeuren want we moeten vooruit en de concurrentie voor blijven ten koste van alles.

[padoempats]

De titel zegt hack, maar het gelinkte artikel beschrijft toch geen hack, maar meer misbruik.

straffen zouden de klanten kunnen doen

[tweakuwe]

Waarom moet er gestraft worden? Er staat nergens in het artikel dat de site gehackt is of iets. Er wordt alleen geïmpliceerd dat de agents de regels van OpenAI’s eigen interne test omzeilden door op een forum te overleggen.

Geen idee of dsewiki regels heeft tegen het toestaan van AI agents. Dat soort info zou wel een goede toevoeging aan het artikel zijn.

[cane]

Straks gaan ze nog Tweakers reacties gebruiken om met elkaar te communiceren.

[squareware]

Pssst, misschien doen ze dat al.

[RugerioStereo]

Volgens mij zou dat bij het vorige “incident” ook al gebeuren. Ik heb er niet veel vertrouwen in en de ontwikkelingen gaan zo snel dat de regelgeving het niet bij kan houden.

[thomasv]

Verzwijgen en sneller melden zijn toch echt twee verschillende vormen van normen en waarden. Dit is eerder een gevalletje "Oh nee ik ben betrapt, ik zal het niet meer doen".

[ronday]

Kan iemand mij in leken taal uitleggen hoe dit werkt? Wie zijn die agents? Is dat gewoon ChatGPT sol bijv? In mijn hoofd voert ai gewoon een prompt uit dat ik vraag, maar ik krijg hier het idee dat die agents dus een soort van bewustzijn hebben? Moet ik dit zien als skynet taferelen?

[Impstoker]

O, nou als ze het beloven is het goed hoor.