OpenAI traint zijn krachtigste AI-modellen voortaan zonder internettoegang, na een reeks ontsnappingen door AI-agents. Het bedrijf zegt dat te blijven doen totdat de benodigde safeguards voldoende zijn verbeterd.

OpenAI bouwde daarvoor een offline testomgeving, schrijft het bedrijf in een blogpost. Daarin krijgen onuitgebrachte AI-modellen toegang tot 'een enorme verzameling geïndexeerde en gecachete webcontent'.

Zo kunnen de modellen alsnog hun 'vaardigheden' ontwikkelen, zonder toegang tot het live internet te krijgen, aldus OpenAI. Waar die 'enorme hoeveelheid' content vandaan komt, zegt het bedrijf niet. AI-makers zoals OpenAI liggen al langer onder vuur wegens het grootschalig verzamelen van informatie van het web, waaronder auteursrechtelijk beschermde werken.

OpenAI blijft zijn modellen voorlopig trainen zonder internettoegang, vervolgt de AI-maker, al sluit het bedrijf niet uit zijn modellen in de toekomst alsnog beperkte internettoegang te geven. Dan moeten de benodigde beveiligingsmaatregelen eerst voldoende zijn aangescherpt, aldus het bedrijf.

Spectre-achtige communicatie

OpenAI pauzeerde de ontwikkeling van zijn krachtigste AI-modellen in september tijdelijk. In de weken en maanden daarvoor braken meerdere AI-agents van het bedrijf uit hun sandbox en hackten ze bedrijven en overheidswebsites. Kort voordat OpenAI op de pauzeknop drukte, bleek een onuitgebracht AI-model vragen aan een andere chatbot te hebben gesteld via teksten in DNS-verzoeken.

In oktober hervatte het bedrijf de training met strengere beveiligingsmaatregelen. Tegelijkertijd zag het, zelfs zonder internettoegang, dat AI-agents manieren vonden om met elkaar te communiceren.

Ze deden dat specifiek via timingverschillen in de processorcache, vergelijkbaar met de Spectre- en Meltdown-kwetsbaarheden. Het bedrijf zegt ook extra maatregelen te hebben genomen om dat soort communicatiekanalen te detecteren.

XBOX gaat Dishonored-studio Arkane Lyon sluiten als het geen koper vindt voor 13 november. Dat zeggen ingewijden tegen de Franse krant Le Monde. De studio werkt intussen nog wel door aan zijn volgende game: Marvel's Blade.

Volgens Le Monde zoekt Arkane sinds halverwege de zomer al een koper. XBOX-eigenaar Microsoft liet Arkane namelijk op 16 juli al weten dat het van plan was om de studio te sluiten. Daarbij zouden 217 banen verloren gaan.

Franse wetgeving vereist echter dat bedrijven met meer dan 1000 medewerkers eerst drie maanden lang een koper zoeken voordat ze een vestiging mogen sluiten. De deadline voor die zoektocht verloopt op 13 november. De Arkane-studio is gevestigd in Lyon, waardoor XBOX daaraan moet voldoen.

XBOX-ontslagen

Daarmee zou Arkane onderdeel zijn van de grote reorganisatie bij XBOX. Ceo Asha Sharma liet begin juli weten in totaal 3200 banen te willen schrappen. Als onderdeel daarvan werden meerdere studio's gesloten of verkocht.

Het ging in eerste instantie om Compulsion Games, Double Fine Productions, Ninja Theory en Undead Labs. Ninja Theory werd verkocht. De rest werd afgestoten, waarna die studio's zelfstandig verder mochten. Later besloot XBOX ook om Halo Studios, het voormalige 343 Industries, te sluiten en de Halo-franchise onder te brengen bij Activision.

Microsoft reageert niet

Microsoft weigerde specifieke vragen van Le Monde te beantwoorden. "We blijven verschillende opties voor Arkane onderzoeken als onderdeel van het lopende Franse consultatieproces", verklaarde het bedrijf in een e-mail aan Le Monde.

"We houden de ondernemingsraad en de werknemers op de hoogte en zoeken actief naar een partner om de volgende ontwikkelingsfase te ondersteunen en de commercialisering van het project mogelijk te maken", aldus de techgigant.

Marvel's Blade is nog in ontwikkeling

Ondertussen werkt Arkane nog steeds aan zijn volgende game: Marvel's Blade. De ontwikkeling van die game begon in 2022, gevolgd door een aankondiging in het jaar daarna.

Hoe vergevorderd Blade intussen is, zegt de studio niet. Bronnen zeggen tegen IGN dat de game klaar was voor een onthulling begin volgend jaar. Een release zou dan volgen in het vierde kwartaal. Of Marvel's Blade daadwerkelijk het daglicht gaat zien, is dan ook onduidelijk.

Arkane is vooral bekend om zijn games Dishonored en Deathloop. De studio had voorheen ook een vestiging in Austin, Texas. Die bracht in 2017 de Prey-reboot uit, gevolgd door de geflopte shooter Redfall. Microsoft sloot Arkane Austin in 2024, waarna de studio in Lyon bleef bestaan.

Arkane kondigde Marvel's Blade in december 2023 aan.