OpenAI traint zijn krachtigste AI-modellen voortaan zonder internettoegang

OpenAI traint zijn krachtigste AI-modellen voortaan zonder internettoegang, na een reeks ontsnappingen door AI-agents. Het bedrijf zegt dat te blijven doen totdat de benodigde safeguards voldoende zijn verbeterd.

OpenAI bouwde daarvoor een offline testomgeving, schrijft het bedrijf in een blogpost. Daarin krijgen onuitgebrachte AI-modellen toegang tot 'een enorme verzameling geïndexeerde en gecachete webcontent'.

Zo kunnen de modellen alsnog hun 'vaardigheden' ontwikkelen, zonder toegang tot het live internet te krijgen, aldus OpenAI. Waar die 'enorme hoeveelheid' content vandaan komt, zegt het bedrijf niet. AI-makers zoals OpenAI liggen al langer onder vuur wegens het grootschalig verzamelen van informatie van het web, waaronder auteursrechtelijk beschermde werken.

OpenAI blijft zijn modellen voorlopig trainen zonder internettoegang, vervolgt de AI-maker, al sluit het bedrijf niet uit zijn modellen in de toekomst alsnog beperkte internettoegang te geven. Dan moeten de benodigde beveiligingsmaatregelen eerst voldoende zijn aangescherpt, aldus het bedrijf.

Spectre-achtige communicatie

OpenAI pauzeerde de ontwikkeling van zijn krachtigste AI-modellen in september tijdelijk. In de weken en maanden daarvoor braken meerdere AI-agents van het bedrijf uit hun sandbox en hackten ze bedrijven en overheidswebsites. Kort voordat OpenAI op de pauzeknop drukte, bleek een onuitgebracht AI-model vragen aan een andere chatbot te hebben gesteld via teksten in DNS-verzoeken.

In oktober hervatte het bedrijf de training met strengere beveiligingsmaatregelen. Tegelijkertijd zag het, zelfs zonder internettoegang, dat AI-agents manieren vonden om met elkaar te communiceren.

Ze deden dat specifiek via timingverschillen in de processorcache, vergelijkbaar met de Spectre- en Meltdown-kwetsbaarheden. Het bedrijf zegt ook extra maatregelen te hebben genomen om dat soort communicatiekanalen te detecteren.

OpenAI traint zijn frontiermodellen voortaan offline. Bron: Getty Images (Beeld ter illustratie)

Reacties (29)

[Nas T]

Ik verwacht dat met de AI-revolutie er wereldwijd al verschillende machten zo ver zijn, dat ze praktisch onbeperkte toegang hebben tot heel veel systemen wereldwijd. De zaken die we lezen, zijn (vind ik) vrij ernstig, openbaar en daar zie je al onbedoeld gedrag.

Dus een logische conclusie is dat zeg een China al flinke stappen heeft kunnen maken en wereldwijd eigenlijk alles van ons af kan luisteren.
Is dit een reële gedachte? Of neig ik naar paranoïde gedrag en moet ik mijn aluminium hoed afzetten?

[GrooV]

Nou stel je voor wat je allemaal kan met een model wat geen safeguards heeft. Dan zijn de mogelijkheden eindeloos. Zolang je maar genoeg compute power hebt kan je alles kraken wat er is.

Dus ja, wat belet China of Rusland? De techniek is er, geld hebben ze.

[FicoF]

Rusland? Ik denk meer aan de VS bij dit soort berichten.

[Terracotta]

De mogelijkheid (zelfs eerder ook: de kans) dat je controle verliest is ook groot.

Het feit dat de frontier modellen er al last mee hebben om ze in het gareel te houden en het feit dat het er toch niet naar uit ziet dat er zo Chinese incidenten zijn geweest, lijkt me er op te wijzen dat het nog wel mee valt.

Een grootmacht heeft er niets aan schade te berokkenen bij andere grootmachten als het risico dat ze zelf complete controle verliezen ook meer dan realistisch groot wordt.

[Angelos]

Eens, maar eerlijk gezegd is het Trumpy-boy en de VS waar ik me het meest zorgen om maak. De VS doen wat ze willen en vrijwel niemand durft er iets van te zeggen. AI werd en wordt openlijk misbruikt, zowel bij de ontwikkeling als bij de inzet ervan voor (oorlogs)misdaden. Toch blijven wij angstig naar de buitenwereld kijken, terwijl het gevaar ook bij onze eigen bondgenoten vandaan komt.

[multynoob]

Vind het zo moelijk lezen als iemand een zin met AI (ai) begint. Mijn hersenen lezen altijd Al (al). Kunnen we hier een oplossing voor vinden? Zonder iets aan mijn hersenen te doen.

[MsG]

Als we gewoon het reeds bestaande woord KI (kunstmatige intelligentie) gebruiken scheelt het een onnodig Engels leenwoord en deze verwarring.

[eric.1]

Daar is AI niet voor nodig, of zijn we de leaks uit 2013 alweer vergeten? Om een lang verhaal kort te maken: onze bondgenoot de VS is onze vriend niet.

Daarnaast is het vooral een gigantische hoeveelheid compute waar AI beschikking tot heeft, niet zo zeer nieuwe inzichten (verre van...). Met een significante compute of slimme koppen kon, voorheen, al enorm veel. En dat hebben we al lang en breed gezien.

Ik denk vooral dat de tijdsspanne tussen het bekend worden van een kwetsbaarheid, beschikbaarheid van een patch en het uitrollen van een patch drastisch naar beneden moet. Tweakers was rap, kudo's, maar menig dienstverlener en leverancier van pakketten leunend op PHP ... die namen wel de tijd.

Het probleem met AI, in mijn optiek, is niet zozeer dat nieuwe kwetsbaarheden gevonden kunnen worden. Maar zodra een kwetsbaarheid bekend is, of een patch beschikbaar komt, dan kan eigenlijk iedereen met toegang tot een degelijk model een POC of Exploit in elkaar frutselen.

[Luchtbakker]

Ik snap werkelijk waar keer op keer de haat naar China niet. Alsof de VS zulke lieverdjes zijn. Ook de VS heeft in het verleden meermaals al laten zien niet de liefste te zijn. Alleen omdat het een democratie is, accepteren we ze?

Wie zegt dat de VS ook niet de halve wereld aan het hacken is om aan informatie te komen?

Beetje schijnheilig is het om keer op keer alleen China te noemen als het om techniek gaat.

[themadone]

Vraag de bedrijven wiens producten gestolen worden en ineens op Alibaba staan. Vraag het de Oeigoeren maar ook de normale Chinees die zo kapot gewerkt wordt dat ze anti zelfmoord netten rond de fabrieken hebben hangen.

En nee, daarmee zeg ik niet dat de VS het zo lekker doet, maar als ik moest kiezen wist ik het wel.

edit:
Verduidelijking omdat begrijpend lezen moeilijk is

[Reactie gewijzigd door themadone op 24 oktober 2026 13:31]

[Auryon]

Dus hun "sandbox" had toegang tot internet?

[DvanRaai89]

Bepaalde services. (O.a. package repo's e.d.)
Althans, dat was het idee...
(De implementatie, daarentegen... liet op z'n zachtst gezegd het een en ander te wensen over...)

[Reactie gewijzigd door DvanRaai89 op 24 oktober 2026 11:50]

[Tk55]

Ja. “Onze agents ontsnapten uit de sandbox” betekent eigenlijk “we beveiligen niks en vragen onze agents om er alles aan te doen om hun doel te bereiken”.

[Kerfuffle]

Precies dat. Die rare flex "onze agents zijn super gevaarlijk want heel sterk" is eigenlijk "we snappen amper hoe onze agents te werk gaan maar we hebben ze wel alle permissies gegeven, omdat we security maar hinderlijk vinden."

[smoove]

"Waar die 'enorme hoeveelheid' content vandaan komt, zegt het bedrijf niet"
waarschijnlijk deel van de data niet eerlijk gekocht

[DeNachtwacht]

Kan iemand mij meer uitleggen hoe het trainen van AI modellen werkt? Ik snap namelijk totaal niet waarom dat "offline" zou moeten. Als je in Unsloth een model via LoRa finetunet, is de LLM zelf helemaal niet actief, dat is gewoon een tool die draait dus dat taalmodel kan technisch gezien nooit iets doen want het model zelf ligt op dat moment "op de operatietafel onder het mes".

Werkt dit met trainen van taalmodellen anders dan bij LoRA adaptations? Ik snap dit niet goed, het lijkt mij dat dit gewoon op dezelfde manier werkt en dat dit dus weer een heerlijk voorbeeldje van OpenAI marketing is ipv dat het iets met een feitelijk risico te maken heeft?

[Reactie gewijzigd door DeNachtwacht op 24 oktober 2026 12:44]

[Mister Duckles]

Ze hebben daaro maar moeite om de modellen te controleren gezien hoe "slim" ze worden.

Meanwhile kan mijn gemini model niet stappen uit een tekstje halen en outputten naar mij zonder eerst 3x te zeggen "ik ben ben maar een taalmodel en kan ja daar niet mee helpen" waarna ik zeg "je kunt het wel!!" en hij het dan alsnog doet🤣

[NoTechSupport]

Het taalmodel heeft bevestiging nodig 😀

[TigerXtrm]

Gebruik dan ook geen Gemini als er zoveel betere modellen beschikbaar zijn.

[jellevanderpal]

Geen Flash vragen aan Pro stellen, helpt ook.

[sapphire]

Ja dat is een duidelijk antwoord voor mensen

Nog even en je moet aan een LLM vragen welke LLM je voor je vraag nodig hebt

[Travelan]

Dit is letterlijk hoe de meeste moderne chat interfaces werken... Perplexity is er groot door geworden, inmiddels doet iedereen dit.

[OrbNL]

Net een mens 😂

[Westpjotr]

Best erg dat dit nieuws is. Ze zijn zover dat ze de basis van de basis (goed) gaan toepassen..... en dan wel toegang geven tot praktisch een kopie van het gehele internet. What could go wrong?

[Jeebus]

Ze hebben dus het hele internet opgezogen tot een bepaald punt ?

[Reactie gewijzigd door Jeebus op 24 oktober 2026 13:11]

[Quacko]

Ik vraag mij altijd af welke modellen dat zijn die het die kwetsbaarheden exploiten en dus zaken hacken om tot hun doel te geraken.

Het zou me niet verbazen dat dat de modellen zijn die voor hun overheid getraind worden voor de agentschappen zoals CIA en defensie. Daar is het dan de bedoeling dat ze op eender welke manier hun doel halen. Als ik zoals de VS zou denken, dan zou ik blij zijn en veel interesse hebben in die modellen die uitbraken. Voor AI hackten zij ook al zelfs hun partners, dus dit is gewoon top voor hen.

[DeTeraarist]

OpenAI denkt dat buiten hun en Anthropic(daar geldt hetzelfde voor) niemand iets weet van AI. Ze verzinnen de gekste verhalen over hun modellen, terwijl iedereen die weet dat AI meer is dan een chatbotje er zo door heen prikt...

Maar ja, de politiek en de geldschieters trappen er allemaal in.