Leiders van een aantal grote techbedrijven hebben een vrijwillig akkoord gesloten met de Amerikaanse president Donald Trump om zelf AI te reguleren. In het akkoord staat onder andere dat de bedrijven zowel intern als extern toezicht gaan houden op de ontwikkeling van AI. Daarin staat ook dat het 'op termijn' logisch is om de vrijwillige afspraken wettelijk vast te leggen.
Trump heeft het akkoord gedeeld op Truth Social. Hij ondertekende het samen met Sundar Pichai van Google, Dario Amodei van Anthropic, Mark Zuckerberg van Meta, Greg Brockman van OpenAI, Elon Musk van xAI en Jensen Huang van Nvidia. In het akkoord staan vier vrijwillige maatregelen waarvan de techreuzen zeggen dat 'elk bedrijf' ze zou moeten invoeren.
:strip_exif()/i/2008038410.jpeg?f=imagegallery)
Zo willen de bedrijven volgens het akkoord 'robuuste interne controles' invoeren om de capaciteiten en de uitlijning van modellen in de gaten te houden. De controles zouden zich vooral richten op cybersecurity, klimaatbescherming en chemische bedreigingen. Daarnaast stelt het akkoord dat de bedrijven interne teams gaan opzetten die toezicht houden op de controles.
De bedrijven willen ook samenwerken met een externe toezichthouder om te beoordelen of de interne controles robuust genoeg zijn. Ook moeten bedrijven in hun raad van bestuur een interne commissie opzetten die rapporten van de interne en externe toezichthouders beoordeelt.
Wat is uitlijning?
Uitlijning wordt binnen de AI-context vaak 'alignment' genoemd. Het houdt in dat AI-modellen in lijn moeten zijn met menselijke waarden en menselijk gedrag. Met andere woorden: AI moet doen wat de mens wil en geen onvoorspelbaar gedrag vertonen.
Details blijven vaag
Het akkoord geeft weinig concrete details. Het is niet bekend om welke externe toezichthouders het zou gaan. In hoeverre externe toezichthouders bevoegd zouden zijn om in te grijpen als het misgaat, is ook niet bekend. De andere maatregelen lijken er vooral voor te zorgen dat de bedrijven de veiligheidsbeoordeling van AI-modellen naar zich toe trekken. Aangezien de maatregelen ook niet in de wet zijn vastgelegd, zijn bedrijven niet verplicht om ze na te leven.
Het is ook maar de vraag in hoeverre de regering-Trump toezicht op AI-modellen uit Amerikaanse handen wil geven. De Amerikaanse regering verzocht OpenAI en Anthropic onlangs om nieuwe AI-modellen niet te delen met het AI Security Institute, een Britse instantie die modellen op veiligheid test. Anthropic ging daarmee akkoord.
:strip_exif()/i/2007654988.jpeg?f=fpa)
/i/2008423266.avif?f=fpa)
:strip_exif()/i/2005545080.jpeg?f=fpa)
/i/2008381946.webp?f=fpa)
:strip_icc():strip_exif()/u/116600/crop5be04a1ae3ded_cropped.jpeg?f=community)
/u/1219196/crop6324b2e35d04c_cropped.png?f=community)
/u/98125/Tweakers-_avatar.png?f=community){kind=avatar}
/u/151149/crop5fde11d32f663_cropped.png?f=community)
:strip_icc():strip_exif()/u/1089681/crop5f198c600e816_cropped.jpeg?f=community)
/u/722808/crop5c59d573bb7ca_cropped.png?f=community)
:strip_icc():strip_exif()/u/141718/crop68960f6a25222_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/223185/crop56b333829cf30_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/337051/crop55aa209c43fed_cropped.jpeg?f=community)
/u/155722/Looneytunes.png?f=community)
/u/256640/crop57a32232b96c6.png?f=community)
/u/380683/crop5848673f28e5a.png?f=community)
:strip_icc():strip_exif()/u/20646/crop68f8089046714_cropped.jpg?f=community)