Anthropic herstelt de toegang tot Fable 5 en Mythos 5. Dat mag van de Amerikaanse regering van president Donald Trump. Wel heeft Anthropic beloofd dat het zijn beste nieuwe modellen voortaan eerst voorlegt aan bedrijven die de Amerikaanse overheid heeft aangewezen.
Dit nieuws in het kort
- Anthropic geeft klanten en partners weer toegang tot Fable 5 en Mythos 5, zijn krachtigste AI-modellen.
- Partnerbedrijven van de Amerikaanse overheid mogen voortaan krachtige AI-modellen van Anthropic van tevoren bekijken en beoordelen.
- Anthropic wil dat er een industriestandaard komt om te beoordelen hoe ernstig AI-jailbreaks zijn.
De toegang is vanaf woensdag weer mogelijk, zegt Anthropic. Het gaat daarbij om Fable 5, dat voor alle betalende klanten beschikbaar is met credits, en Mythos 5, de variant die alleen bedoeld is voor bepaalde organisaties. De Amerikaanse regering stelde enkele weken geleden een exportverbod in voor Fable 5 en Mythos 5, waarna Anthropic de modellen offline haalde.
Het exportverbod zou voortgekomen zijn uit zorgen over een jailbreak. Anthropic roept de industrie nu op om met een standaard te komen die de ernst van jailbreaks inschat. Daarin moet onder meer meewegen hoe makkelijk een jailbreak is, hoe breed die is en hoeveel de jailbreak toelaat van wat niet de bedoeling is. Er komt bij Anthropic bovendien een team dat elk moment van de dag kan ingrijpen bij een jailbreak met een hoge score.
Daarnaast waarschuwt het bedrijf dat Fable 5 sommige goedbedoelde prompts kan afkeuren vanwege streng afgestelde veiligheidseisen. Dat is met opzet, zodat jailbreaks minder snel leiden tot ongewenst gedrag bij de AI-chatbot.
Ook geeft Anthropic voortaan partnerbedrijven van de overheid vroege toegang tot nieuwe modellen om ze te evalueren. Welke bedrijven dat zijn, zegt Anthropic niet. Daarnaast bekijken de partnerbedrijven de ingebouwde veiligheidsmaatregelen.
De safeguards van Claude Fable 5
/i/2008239402.webp?f=imagemedium)
/i/2008239404.webp?f=imagemedium)
/u/2488044/crop69ea309cb0d91.png?f=community)
:strip_icc():strip_exif()/u/226826/aardblij-60.jpg?f=community)
/u/357567/crop5dfcfaa04d0e8_cropped.png?f=community)
/u/179202/crop699b7c771bf33_cropped.png?f=community)
:strip_icc():strip_exif()/u/515822/crop651d207499f53.jpg?f=community)
/u/7714/crop59cb4491e936a_cropped.png?f=community)
:strip_icc():strip_exif()/u/604689/rsz_1triryche.jpg?f=community)
/u/69680/crop5fd33cb788a9c_cropped.png?f=community)
/u/322053/wit.png?f=community)
/u/3586/bismarck.png?f=community)
:strip_icc():strip_exif()/u/1199012/crop5e9b58ab2e2b7_cropped.jpeg?f=community)
/u/1436766/crop618e3e0324655_cropped.png?f=community)
:strip_exif()/u/324634/crop659fcf9abb18b_cropped.gif?f=community)
:strip_icc():strip_exif()/u/399334/crop5a6e1999e99b3_cropped.jpeg?f=community)
/u/591812/crop6994400847912_cropped.png?f=community)
:strip_icc():strip_exif()/u/136442/crop6198f3130240d.jpg?f=community)
/u/544641/crop5b54ab6a932d5_cropped.png?f=community)
:strip_exif()/u/53522/crop583d477015a24.gif?f=community)
:strip_icc():strip_exif()/u/63255/crop62861790abf81_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/745575/crop5de1181b59fc4_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/64489/hoogtevorst.jpg?f=community)
:strip_icc():strip_exif()/u/743665/crop653bb45d86f19_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/769883/crop69b40281cf7ec_cropped.jpg?f=community)
/u/627287/crop5f8ef98351ddc_cropped.png?f=community)
:strip_icc():strip_exif()/u/282325/crop6159e3e38b9a8_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/168551/crop5cc9f0696f0a5_cropped.jpeg?f=community)
/u/617872/crop5e9c2d5258164_cropped.png?f=community)
:strip_icc():strip_exif()/u/511559/crop5afaa030963dc_cropped.jpeg?f=community)