Anthropics Mythos-model heeft zo'n 1600 kwetsbaarheden in 281 coderepo's openbaar gemaakt sinds het in februari beschikbaar werd. Anthropic schrijft dat in een bijgewerkt dashboard waarop het bugs bijhoudt. Het lijkt erop dat Anthropic zich steeds meer richting een bredere beschikbaarheid van Mythos begeeft.
Anthropic heeft een publiek dashboard bijgewerkt waarin het bijhoudt welke kwetsbaarheden Claude Mythos heeft gevonden en gerepareerd. Het bedrijf zegt dat het inmiddels 1596 bugs heeft gevonden in 281 opensourceprojecten. Anthropic zegt dat het van 97 bugs weet dat ze gepatcht zijn. Het gaat om bugs die disclosed zijn, dus waarvan openbaar is wat de bug en de status ervan is. Volgens Anthropic gaat het over 'een deel' van het totale aantal kwetsbaarheden dat Mythos zou hebben gevonden, omdat menselijke reviewers de bugs ook nog bekijken. "Het aantal reviews is een beperkende factor", zegt het bedrijf.
Mythos bevindt zich nog in een previewfase. Mythos is een model binnen Claude dat vooral bedoeld is om securityonderzoek te doen. Het model is enigszins controversieel omdat het eenvoudig bugs kan opsporen in coderepository's, al ligt een belangrijk deel van de controverse in de marketinghype die Anthropic rondom Mythos creëert. Het bedrijf onthulde het model officieel in april, maar zei toen dat het dat voorlopig niet openbaar zou maken omdat het 'te gevaarlijk' zou zijn. Tweakers schreef er een achtergrondartikel over.
De claim dat een model 'te goed en te gevaarlijk' zou zijn, wordt wel vaker ingezet door AI-bedrijven. Die zeiden dat bijvoorbeeld ook al toen GPT-2 uitkwam.
Inmiddels maakt Anthropic zich er klaar voor het model wel uit te brengen, maar dan alleen voor betalende, zakelijke klanten. Die kunnen het dan gebruiken om hun eigen software te testen. Anthropic heeft Mozilla bijvoorbeeld al toegang gegeven. Dat gebeurt onder de naam Project Glasswing.
Anthropic schrijft in een blogpost dat het 'in de nabije toekomst' van plan is Mythos algemeen beschikbaar te maken. Daarvoor wil het bedrijf eerst 'veel sterkere vangnetten' opstellen, maar de stelling dat Mythos te gevaarlijk is voor een publieke release lijkt inmiddels vergeten te zijn.
/i/2008170090.png?f=imagenormal)