Anthropic schrapt een belangrijke veiligheidsbelofte uit zijn beleid voor het ontwikkelen van AI-systemen. Het bedrijf staat onder druk van de VS die Anthropics Claude zonder beperkingen wil inzetten voor militair gebruik. Concurrent xAI heeft nu een nieuwe, bredere deal met het Pentagon.
Topmensen van Anthropic vertellen dat ze de centrale veiligheidsbelofte van het bedrijf loslaten. Het gaat om de belofte van 2023 dat de AI-aanbieder nooit een AI-systeem zou trainen als het niet vooraf kon garanderen dat de veiligheidsmaatregelen van het bedrijf adequaat zijn. Dit is de kern van de responsible scaling policy (RSP) van het bedrijf, schrijft het tijdschrift TIME.
Hoofdwetenschapper Jared Kaplan zegt tegen TIME dat deze belofte een hindernis is geworden in het licht van de snelle ontwikkelingen op AI-gebied. Concurrenten gaan vol gas vooruit en Anthropic zou zichzelf afremmen wat 'niemand echt helpt'. Kaplan ontkent dat deze verandering een ommekeer is.
AI voor militaire doeleinden
Het Amerikaanse bedrijf staat wat veiligheidsmaatregelen betreft onder druk van de Amerikaanse regering. Het ministerie van Defensie wil het AI-systeem Claudee van Anthropic gebruiken voor militaire doeleinden, zonder ingebouwde beperkingen. Defensieminister Pete Hegseth dreigt het bedrijf met maatregelen. Dit omvat beëindiging van het in 2024 gesloten contract, maar ook het bestempelen van Anthropic als risico en het plaatsen van het bedrijf op een zwarte lijst.
Laatstgenoemde kan een vlekwerking hebben doordat bedrijven die aan de Amerikaanse overheid leveren dan geen zaken meer mogen doen met Anthropic. Ceo Dario Amodei weigert toe te geven, schrijft VRT. Minister Hegseth zou het bedrijf tot vrijdag de tijd geven om zijn AI open te stellen voor 'alle legale militaire toepassingen'.
Grok van Musk en Gemini van Google
Ondertussen heeft xAI van miljardair Elon Musk een bredere overeenkomst gesloten met het Pentagon. AI-systeem Grok mag nu ook draaien op geheime netwerken van het Amerikaanse leger, bevestigen woordvoerders van Defensie tegen Axios. Tot op heden was Claude van Anthropic de enige toegestane AI-toepassing op systemen die dienen voor gevoelig werk zoals wapenontwikkeling en gevechtsoperaties. xAI wordt hiermee een alternatief voor Claud, wat nodig kan zijn als het conflict tussen de regering Trump en Anthropic escaleert.
Verder zou het Amerikaanse ministerie van Defensie dichtbij een deal met Google zijn voor gebruik van zijn AI-bot Gemini. Dit meldt The New York Times op basis van ingewijde bronnen. Gemini doet net als Grok al dienst in het Amerikaanse leger. Het is niet duidelijk of een nieuwe Gemini-deal dan gelijk is voor gebruik op geheime netwerken en gevoelige systemen. De betrokken partijen geven geen commentaar op deze berichten.
/i/2007977876.png?f=imagenormal)
:strip_exif()/i/2008035358.jpeg?f=fpa)
/i/2006829312.png?f=fpa)
/i/2007887364.png?f=fpa)
:strip_exif()/i/2004607630.jpeg?f=fpa)
/i/2006847410.png?f=fpa)
/i/2004628264.png?f=fpa)
:strip_exif()/i/2007938840.jpeg?f=fpa)
/u/1355926/crop5f62118b50c6a_cropped.png?f=community){kind=small}
:strip_icc():strip_exif()/u/476420/crop5623d9ad036cf_cropped.jpeg?f=community){kind=small}
/u/427817/crop5e73d28a6dd87.png?f=community){kind=small}
:strip_icc():strip_exif()/u/45000/zardoz3-edit.jpg?f=community){kind=small}
/u/158148/crop5d2f87b2c1740_cropped.png?f=community){kind=small}
/u/263454/crop69528a83920d8.png?f=community){kind=small}
:strip_icc():strip_exif()/u/20646/crop68f8089046714_cropped.jpg?f=community){kind=small}
:strip_icc():strip_exif()/u/289675/crop6401bf2c85501_cropped.jpg?f=community){kind=small}
:strip_icc():strip_exif()/u/1134851/crop5ffd71fe99560_cropped.jpeg?f=community){kind=small}