Amazon zou de Amerikaanse overheid hebben gevraagd om Anthropic Fable 5 offline te laten halen. Daarnaast kwam het rapport over de vermeende kwetsbaarheid in dit model van Amazon. Vijf andere bedrijven hebben ook gebeld met overheidsfunctionarissen.
Amazon wil geen toelichting geven op de discussies met de Amerikaanse overheid, schrijft Axios. Het is onbekend welke vijf andere bedrijven contact hebben opgenomen met de Amerikaanse overheid om zorgen te uiten over Anthropic Claude Fable 5. De Amerikaanse overheid zou bovendien aanwijzingen hebben dat een Chinese groep toegang had gekregen tot Mythos, schrijft Semafor.
Wat is Fable 5?
Anthropic Claude Fable 5 is een variant van het krachtige Mythos-model. Deze programmeertool is goed in het vinden van beveiligingslekken. Daarom werd Mythos voor een zeer select publiek uitgebracht.
Fable 5 is de eerste publieke versie van Mythos. De tool kan hetzelfde, maar heeft zeer strenge veiligheidsmaatregelen om te voorkomen dat kwaadwillenden het model gebruiken om kwetsbaarheden te vinden en te misbruiken. Een jailbreak van dit model zou betekenen dat iedereen toegang heeft tot Fable zonder vangrails, wat in principe dus Mythos is.
De blokkade van Mythos en Fable voor mensen buiten de VS, zoals de Amerikaanse overheid wilde, had onverwachte gevolgen. Zo konden medewerkers van Anthropic zelf die buiten de VS geboren zijn, niet meer bij hun eigen modellen. Anthropic heeft de modellen nu helemaal ontoegankelijk gemaakt.
'Eerst goedkeuring nodig'
De bedoeling van de Amerikaanse overheid is om AI-bedrijven te forceren mee te werken, schrijft Axios. "Alles op Mythos-niveau of hoger zou eerst door de overheid moeten worden goedgekeurd om ervoor te zorgen dat het nationale veiligheidsapparaat voldoende is gehard." De overheid van de VS wil vroege toegang tot nieuwe AI-modellen. Anthropic had de release van Fable 5 van tevoren met de Amerikaanse overheid overlegd en die zou geen bezwaar hebben gehad.
De aanleiding voor de exportbeperkingen was een rapport van Amazon over een vermeende kwetsbaarheid in Fable 5. Volgens Anthropic is dat een normaal beveiligingslek dat ook in andere modellen te vinden is en geeft het geen universele toegang tot Mythos.
De relatie tussen het Amerikaanse Anthropic en de Verenigde Staten is al langer gespannen. Zo loopt er een rechtszaak tussen de twee omdat de VS Anthropic als veiligheidsrisico bestempelde. De VS plaatste het bedrijf namelijk op de zwarte lijst.
/i/2008210580.webp?f=imagenormal)