Anthropic breidt toegang tot Mythos uit naar 150 organisaties, waaronder in zorg

Anthropic heeft 150 organisaties toegang gegeven tot zijn krachtigste model Mythos, dat goed is in het opsporen van kwetsbaarheden in software. Onder meer organisaties in zorg en energiebedrijven kunnen er nu bij, zegt Anthropic.

De organisaties zitten in meer dan vijftien landen, zegt Anthropic. De bedoeling is om het aantal landen waar organisaties toegang hebben tot Mythos verder uit te breiden. Het stap voor stap toegang geven tot Mythos noemt Anthropic Project Glasswing. Voor de meeste partners geldt dat offline gaan van de software gevolgen heeft voor minstens honderd miljoen mensen.

Anthropic wil Mythos wel voor het algemene publiek uitbrengen, maar zegt eerst te werken aan beveiliging om te zorgen dat misbruik niet mogelijk is en geen grote gevolgen heeft. Door organisaties nu al toegang te geven, moeten die lekken kunnen dichten voordat cybercriminelen met behulp van dergelijke AI-modellen lekken kunnen vinden.

Te gevaarlijk

Mythos bevindt zich nog in een previewfase. Mythos is een model binnen Claude dat vooral bedoeld is om securityonderzoek te doen. Het model is enigszins controversieel omdat het eenvoudig bugs kan opsporen in coderepositories, al ligt een belangrijk deel van de controverse in de marketinghype die Anthropic rondom Mythos creëert. Het bedrijf onthulde het model officieel in april, maar zei toen dat het voorlopig niet openbaar zou maken omdat het 'te gevaarlijk' zou zijn. Tweakers schreef er een achtergrondartikel over.

De claim dat een model 'te goed en te gevaarlijk' zou zijn, wordt wel vaker ingezet door AI-bedrijven. Dat zeiden ze bijvoorbeeld ook al toen GPT-2 uitkwam. Inmiddels maakt Anthropic zich er klaar voor om het model wel uit te brengen, maar dan alleen voor betalende, zakelijke klanten. Die kunnen het dan gebruiken om hun eigen software te testen. Anthropic heeft Mozilla bijvoorbeeld al toegang gegeven. Dat gebeurt onder de naam Project Glasswing.

Anthropic schrijft in een blogpost dat het 'in de nabije toekomst' van plan is Mythos algemeen beschikbaar te maken. Daarvoor wil het bedrijf eerst 'veel sterkere vangnetten' opstellen, maar de stelling dat Mythos te gevaarlijk is voor een publieke release lijkt inmiddels vergeten te zijn.

Reacties (10)

[pietvelleman]

Zou Tweakers ook meer informatie kunnen geven over Mythos? Waaorm dit beter is dan andere modellen? Kan het meer data verwerken? Bijv complete codebases in 1x (ipv stukje voor stukje). Of is het specifiek getraind?

[cool0]

Het grootste voordeel van Mythos is dat je dus je hele code base erin kan gooien en het daar bugs in kan vinden. Het heeft dan de mogelijkheid als het meerdere bugs kan vinden om deze aan elkaar te plakken en zo bv. een werkende exploit te creeren. Dit is anders dan traditionele scanners die eigenlijk een CVE lijst af gaan met wat eigen input.

[punishedbrains]

Het enige wat ik tot nu toe heb vernomen van sommigen die er, naar eigen zeggen, toegang toe hebben (gaat in dit geval om een werkgever van een security researcher) is dat het niet echt wereldschokkend is allemaal. In goede code-bases vindt het nauwelijks meer dan andere modellen, mensen vinden meer. Waar het wel beter in werkt, schijnt, is in vibe-coded software. Als dat waar is vind ik dat wel weer grappig.

[dasiro]

niet om het werk van velen te bekritiseren, maar software was en is heel lang geschreven met de gedachte om iets te laten werken, niet om elk mogelijk alternatief scenario af te vangen.

Het simpelste voorbeeld is een rekenmachine. Als je cijfers ingeeft werkt ze perfect, maar gooi er een letter in en het ding crasht, wil dat zeggen dat je berekeningen dan plots buggy en onbetrouwbaar zijn en je een "slechte" code-base hebt? Niet per sé, maar dat is wel wat er in de huidige tijd van misbruik van gemaakt wordt.

[Muncher]

Ik ben benieuwd of er ook partijen in Nederland zijn die toegang hebben

[lariekoek]

Ja man, je hele in-house source code tegen hun API gooien.

[RobbertBink]

Vooralsnog denk ik dat het een beetje 50/50 is. Erg goed model / slimme marketing boys.

[Glowingmonx]

Ik denk dat het gedeeltelijk een capaciteitsprobleem is (als Opus een 5T-model is, zal dit een 10T-model zijn?) en dat ze niet willen dat Chinezen het model distilleren voordat ze dat zelf gedaan hebben voor Haiku/Sonnet/Opus.

[STV]

Kan ie ook kwetsbaarheden in zichzelf vinden.

[bazs2000]

"De organisaties zitten in meer dan vijftien landen, zegt Anthropic. De bedoeling is om het aantal landen waar organisaties toegang hebben tot Mythos verder uit te breiden. Het stap voor stap toegang geven tot Mythos noemt Anthropic Project Glasswing. Voor de meeste partners geldt dat offline gaan van de software gevolgen heeft voor minstens honderd miljoen mensen."

Natuurlijk is dat de bedoeling, het marktaandeel moet omhoog. En gelukkig weet Anthropic alvast te melden dat offline gaan gevolgen heeft voor MINSTENS 1.000.000 mensen. Dat klinkt als een verkapt dreigement. Hey psst, niet offline gaan want het zou vervelend zijn als jouw cliënten iets zou overkomen.

Mijn inslag is te negatief maar het lijkt wel alsof het opdringen van AI in alle markten nu echt is begonnen. Mag ik weten, als mens en wereldburger, waar dit stopt?