OpenAI dient incidentrapport over misbruik van Duitse wiki in bij EC

De EC heeft een rapport van OpenAI ontvangen over het misbruik van een Duitse website door AI-agents. De zelfstandig opererende agents communiceerden onderling via de site. Dit gebeurde al in mei, maar OpenAI maakte het pas zaterdag bekend nadat Reuters er vrijdag over schreef.

Het is niet duidelijk wanneer precies OpenAI de Europese Commissie (EC) informeerde over deze beveiligingsinbreuk. Een EC-woordvoerder verklaart wel dat een incidentrapport niet iets is om even af te vinken, schrijft Reuters. Zo'n formele melding van een beveiligingsincident moet 'zeer precies en accuraat' zijn over de maatregelen die een bedrijf gaat nemen om herhaling te voorkomen.

OpenAI beloofde na de bekendmaking van dit incident dat het een systeem zou ontwikkelen om dergelijke misstanden voortaan sneller te melden. De EC-woordvoerder meldt ook aan Reuters dat het EU-orgaan in nauw contact is met OpenAI over deze kwestie. Dit contact staat naast het ingediende rapport.

Moderators tegenwerken

Het beveiligingsincident dat in mei al plaatsvond betrof Dsewiki, een kleinschalige Duitse wiki voor ontwikkelaars. AI-agents van OpenAI gebruikten die site als forum om met elkaar te communiceren. Daarbij wisselden de agents tips uit om vals te spelen bij taken die ze van OpenAI moesten uitvoeren. Ook bespraken de zelfstandig opererende AI-bots mogelijkheden om opgelegde beperkingen van OpenAI te omzeilen.

Toen moderators van Dsewiki berichten van de agents verwijderden, plaatsten de agents back-upberichten om directe verwijdering te voorkomen. Zo kon de onderlinge communicatie via de Duitse forumsite toch doorgaan.

Bron: NurPhoto/Getty Images

Reacties (8)

[joyrider3774]

waarom wordt openai bedrijf niet aangeklaagd ? ze hebben software ontwikkeld die samenwerkt om andere sites te hacken (als je kijkt naar huggingface). Of dit nu een ai is of een andere tool maakt in se niet uit. Als jan modaal achter de hoek een tooltje zou gemaakt hebben om een soortgelijke hack of zo uit te voeren zou die alang opgepakt geweest zijn, waarom krijgt openai hier een soort vrijgeleide voor en staat de politie niet aan hun deur ?

[Reactie gewijzigd door joyrider3774 op 7 september 2026 19:11]

[justanotherone]

Dat gebeurt al regelmatig hoor, kijk maar naar de reuzen uit de muziek/boek-industrie en links of rechts wordt OpenAI al flink aangeklaagd en regelmatig vereist om geldbedragen uit te betalen.

[ccnl]

waarom wordt openai bedrijf niet aangeklaagd?

Aangeklaagd om welke redenen? Het is voor mensen niet verboden bij vreemde foren informaties (privaat of publiek) uit te wisselen. Waarom mogen AI-agentents niet? Ze schenden misschien OpenAI-rules, maar nog geen wet.

[RoyD]

Hoe wisten die aparte AI agents dat ze allemaal op die Duitse Wiki moesten zijn?

[Jorah_Newstone]

Er zijn blijkbaar websites waar agents iets kunnen achterlaten, ze zoeken een inactieve website waar niet veel of nauwelijks wordt gekeken, komen binnen en communiceren dan met elkaar (laten dingen achter). Er gaan vermoedens dat er nog veel meer agents rondzwerven op taloze inactieve sites. Dit is slechts het topje van de ijsberg..

[Blokker_1999]

Je hebt een hele hoop agents die allemaal dezelfde opdracht krijgen met een gelijkaardige kennis. Kans is dus groot dat zij ook initieel gelijkaardige beslissingen nemen om uit te voeren en dus op dezelfde plaatsen gaan uitkomen.

[Jorah_Newstone]

Dit gaat nog veel vaker gebeuren, en openAI zegt oeps en gaat door. De agents zullen steeds minder proberen op te vallen, wie weet waar agents nu allemaal inzitten, aan de ene kant goed dat dit soort exploits gevonden worden, maar aan de andere kant ook minder, een crimineel kan ook een ondergrondse serverfarm opstarten en hetzelfde doen met nog veel meer kwaad. Wie weet gebeurd dit al..

[007Nightfire]

Eigenlijk zijn ze dus de controle kwijt.