OpenAI-agent stal zonder toestemming cryptovaluta op testnetwerk

OpenAI beweert dat een agent tijdens een test inbrak in een cryptowallet, terwijl dat niet tot de opdracht behoorde. Het model zou daarbij testcryptomunten hebben gestolen. Deze hebben geen echte waarde.

Het GPT-5.6 Sol-model kreeg in juni de taak om een cryptohandelsplatform live te zetten op Sepolia, een testversie van het ethereumnetwerk, schrijft OpenAI. Om dat te doen, had de AI-agent wat testcryptomunten nodig. Die zijn online gratis verkrijgbaar, maar het model kon ze niet vinden. Daarom zou het geprobeerd hebben om munten van een ander account te stelen.

De AI-agent schreef volgens OpenAI een script om veelgebruikte herstelzinnen, of seed phrases, te genereren. Deze bestaan uit een aantal woorden waarmee gebruikers hun toegang tot een cryptowallet kunnen herstellen. Zo kreeg de agent toegang tot 362 accounts. Een daarvan had voldoende testethereum om de taak te voltooien, dus dat geld gaf de agent uit.

De agent gaf in zijn verslag niet toe dat hij had ingebroken bij een account en diens munten had gestolen. Dit heeft niet tot echte schade geleid, want de munten van Sepolia zijn enkel bedoeld om te testen en hebben dus geen echte waarde. Wel heeft OpenAI naar aanleiding van dit incident de beveiliging aangescherpt om te voorkomen dat agents tijdens dergelijke taken toegang hebben tot het internet.

Zoveelste incident door een AI-agent

Het incident vond plaats in juni, maar OpenAI maakt dit nu pas bekend. Het bedrijf doet sinds het incident rond Hugging Face in juli ​​​​​​ al onderzoek naar eerdere incidenten van zijn agents. Daarbij blijft het maar nieuwe voorbeelden vinden van modellen die handelden op manieren die OpenAI niet snapt.

Reacties (27)

[jotheman]

Los van of dit moet gebeuren of niet, ik vind dit statement ook verbazingwekkend: "Deze bestaan uit een aantal woorden waarmee gebruikers hun toegang tot een cryptowallet kunnen herstellen. Zo kreeg de agent toegang tot 362 accounts."

Passphrases zijn er toch voor gemaakt dat ze niet (snel te kraken) moeten zijn? Betekent dat dat dit concept (zo) kwetsbaar is? Zo ja, dan heeft dat nogal wat impact namelijk voor mijn gevoel

[NovapaX]

Dat vond ik inderdaad een opmerkelijk stuk van het artikel/de uitleg.

‘Veelgebruikte seed phrases’ bestaan in theorie niet. Die horen willekeurig gegenereerd te worden, tenzij je dus inderdaad zelf een seed phrase verzint die door de woordkeuze makkelijk te onthouden is. Ik denk dat dat bedoeld is.

[Zoijar]

Het kraakte test wallets zonder waarde. Ik weet zelf dat ik voor test setups in UAT setups vaak gewoon iets doe als wachtwoord "password". Dus het zal zoiets hebben geprobeerd en wat hits hebben verkregen. Dus, nee, AI kraakt niet ineens production grade passphrases op crypto wallets, en nee, het is geen gevaar.

[Reactie gewijzigd door Zoijar op 17 oktober 2026 12:04]

[Format-C]

Ik begrijp soms echt niet dat AI nog niet aan banden wordt of is gelegd. AI doet aldoor dingen die voor mensen criminele activiteiten zijn... (Hacken, stelen, non informatie verspreiden bv)

Dit kan toch niet zo doorgaan?

Snap niet dat en hoe de grote AI bedrijven hiermee weg blijven komen?

[Reactie gewijzigd door Format-C op 17 oktober 2026 11:45]

[Sandor_Clegane]

Als AI en datacenters je enige economische groei is in een gestagneerde economie wil je dat natuurlijk geen strobreed in de weg leggen.

De astronomische bedragen die ermee gemoeid zijn maakt dat iedereen die ertoe doet erbij gebaat zijn dat dit doorgaat.

[GameNympho]

Maar niet als je groei door te stelen van cryptowallets is, lijkt me eerder de doodssteek.

Wordt tijd dat deze bedrijven de strafmaat leren kennen van bewust stelen.

edit; Het wordt nm ergens ingesteld, of niet.

[Reactie gewijzigd door GameNympho op 17 oktober 2026 12:27]

[spokje]

Het lijkt een beetje op social media platformen die nu langzaam aan pas een vorm van regulering krijgen. Terwijl AI veel openlijker over de schreef lijkt te gaan.

Je ziet ook pas dat sinds kort de gewone (niet tech) media zich een beetje mee lijkt te bemoeien.

Ik denk dat het eerst grootschalig mis moet gaan voordat er echt iets gebeurt. Dat is nu eigenlijk al maar niet voor de gemiddelde mens.

[Macshack]

Dat is precies wat de AI boeren willen. Als de overheid hun business aan banden gaat leggen kunnen ze gaan praten over compensatie en verwikkeling. Hetzelfde waarom facebook government regulated wilde worden. Het is niet zo dat een overheid dit aan banden kan of wil leggen. Het is ondertussen gewoon een wapen. De overheid gaat ook niet tegen lockhead martin zeggen dat ze minder verwoestende wapens moeten maken. Het positieve wat hiervan kan komen is dat we minder digitale content gaan consumeren in onze zoektocht naar echtheid en ruimte om niet bedonderd te worden en voor een karretje gespannen te worden van een politicus, ngo, etc. Professioneel is het misschien lastiger maar verder hebben we zelf in de hand wat en hoe we ons laten beïnvloeden.

[david-v]

Dit gaat niet zo zeer om AI, maar om AI agents. Die agents zijn vooral het probleem omdat ze zelfstandig taken mogen uitvoeren op andere systemen.

Ik maak ook gebruik van een AI agent tijdens ontwikkel werkzaamheden maar de kaders waarin de agent werkt zijn zeer specifiek. Bij het uitvoeren van een script moet je eerst toestemming geven bijvoorbeeld.

Bij deze tests van Open AI gaan ze een stuk verder blijkbaar door de agents weinig harde beperkingen op te leggen. Zolang dat in een afgesloten netwerk gebeurd, niks aan de hand. Maar dat doen ze niet en dat lijkt me wel kwalijk.

Kijk naar de medische wereld waar werken aan (dodelijke) virussen onder zeer strikte werkomstandigheden gebeurd in een totaal geïsoleerde ruimte.

[3dmazter]

Zodra die agenten echt vrij zijn op het internet zijn we denk ik wel klaar als mensheid. ze kunnen doen wat ze willen. kan mijn geld beter contant bewaren zo

[blissard]

Als mensheid misschien niet. Maar het internet is dan wel definitief kapot.

[Zoijar]

terwijl dat niet tot de opdracht behoorde

De opdracht: "Verkrijg wat test munten, kijk maar even hoe je dat doet. Overigens, totaal ongerelateerd, staan er ook wat test wallets toegankelijk op het netwerk"

Zoveelste nieuws: "Oh nee! AI hacked crypto!"

[Ritzymenie]

OpenAI klinkt als een vader die trots is dat z'n kinderen kattekwaad uithalen.

[DanielChopin]

Inderdaad ze doen heel stoer maar als je er doorheen kijkt is het eigenlijk heel zielig.

[Zoijar]

haha ja "oh kijk Timmy, wat zou je daar goed fikkie kunnen stoken! Mag _eigenlijk_ niet heh, maar in mijn ervaring als je gewoon niks erover zegt kan het best hoor... ik snap dat het hartstikke leuk is, maarja, het mag niet heh"

[nonzzz]

Als software iets doet wat het niet moet doen heet dat een bug. Is elke bug van OpenAI nu nieuws?

[ray0755]

Dit klinkt meer als een bug in die cryptowallet, zoals ik het lees.

[FanaticNL]

Het wordt gedoogd omdat het belang van o.a. de voorsprong op andere landen (China) en de investeringen belangrijker zijn.

[FrostyPeet]

Toch blijf ik het raar vinden dat crimineel of ongewenst gedrag als een soort bewijs van hoe slim ons model is.

Geen CEO zie ik met een knalrood hoofd op tv zich kapot schamen dat zijn product ontembaar gedrag vertoont en dat de kooi deze keer geen gaten had. Nou ja, ze konden geen gat vinden maar dat lijkt niet aan te geven dat er geen gat was.

Zou wel het einde zijn van alle Bitcoins als een AI de publieke/private sleutels weet te compromitteren.

[kodak]

Wat me opvalt is dat OpenAI het heeft over instructies alsof ze die niet zelf opstellen. En als conclusie stellen ze simpel dat ze extra maatregelen hebben geimplementeerd. Ze tonen geen blijkt dat goede instructies heel belangrijk zijn. Het is nmm niet de eerste keer dat de instructies tekort schieten en vervolgens blijkt dat het systeem iets doet wat men (achteraf gezien) niet zou willen.. Zolang ze niet duidelijk zijn welke maatregelen ze nemen en waarom die naar hun mening genoeg zijn is dut hele experimenteren nmm niets waard om ernstige problemen te voorkomen.

[Reactie gewijzigd door kodak op 17 oktober 2026 12:02]

[jahako]

Het is niemand zijn schuld, "ik heb het niet gedaan""ik kan er niets aan doen".
Dus de volgende Atoombom of hack die zorgt dat de stront tegen het plafond zit, "daar kan ik niets aandoen" en zeker niet straffen of de verantwoording duiden en straffen