Het Witte Huis heeft OpenAI en Anthropic gevraagd om nieuwe AI-modellen niet meteen te delen met de testinstantie van de Britse overheid. Amerika wil de modellen eerst zelf testen. Dat meldt Politico op basis van anonieme bronnen.
Volgens de berichtgeving komt het verzoek van het Office of the National Cyber Director, een agentschap binnen de overheid dat de wettelijke taak heeft om de Amerikaanse president te adviseren over cybersecurity. Volgens een anonieme hoge functionaris van de Amerikaanse regering wil het Witte Huis nieuwe AI-modellen eerst zelf testen voordat AI-bedrijven ze delen met het Britse AI Security Institute (AISI).
Wat is het AI Security Institute?
Het AI Security Institute is een Britse overheidsonderzoeksorganisatie die de risico's van geavanceerde AI-modellen onderzoekt en test. Het is onderdeel van de Britse overheid, maar opereert onafhankelijk.
De AI-bedrijven belanden daarmee in een spagaat. Het AISI heeft eerder toegang gekregen tot AI-modellen en staat bekend om de ruime middelen waarover het beschikt om modellen te testen. Maar als AI-bedrijven besluiten om geen gehoor te geven aan het verzoek van het Witte Huis, kunnen ze de Amerikaanse regering boos maken.
Anthropic heeft zijn keuze wel gemaakt: het bedrijf heeft het AI-model Claude Mythos 5.1 niet naar het AISI gestuurd. "Momenteel is het model alleen beschikbaar voor geselecteerde Amerikaanse organisaties, maar we coördineren met de Amerikaanse overheid om de toegang zo snel mogelijk uit te breiden tot internationale partners." zegt Anthropic in de aankondiging van het model.
Henry de Zoete, de directeur van het AISI, zegt in een brief dat de banden met AI-ontwikkelaars sterk blijven en dat het instituut vroegtijdige toegang blijft krijgen tot geavanceerde AI-modellen. "Deze maand hebben we OpenAI's krachtigste model GPT-6 Astra getest, voordat het uitkwam voor het publiek", legt De Zoete uit. Daarnaast benadrukt het AISI dat vroegtijdige toegang niet noodzakelijk is en dat de organisatie ook al uitgebrachte modellen test.
Ondanks deze woorden is vroegtijdige toegang voor het AISI van groot belang. Zonder die positie zou de veiligheidsbeoordeling van de grootste AI-modellen volledig in Amerikaanse handen belanden, zonder onafhankelijk toezicht voordat ze worden uitgebracht. De Verenigde Staten hebben geen centrale toezichthouder op de veiligheid van AI-modellen, maar zijn daarover wel in gesprek.
:strip_exif()/i/2008139138.jpeg?f=imagenormal)
:strip_icc():strip_exif()/u/140051/BSOD.jpg?f=community)
:strip_exif()/u/120134/Cucco.gif?f=community)
:strip_icc():strip_exif()/u/1427178/crop626a923e6b621_cropped.jpg?f=community)
/u/2466866/crop69a1fc114accf_cropped.png?f=community)
:strip_icc():strip_exif()/u/40949/polarwolf.jpg?f=community)
:strip_icc():strip_exif()/u/132224/crop677a9fc7782e4.jpg?f=community)
/u/256640/crop57a32232b96c6.png?f=community)
/u/1982/crop5a048313062a4_cropped.png?f=community)
/u/239959/crop6299c74b18146.png?f=community)