AI-bedrijven sluiten vrijwillig akkoord om toezicht te houden op AI-ontwikkeling

Leiders van een aantal grote techbedrijven hebben een vrijwillig akkoord gesloten met de Amerikaanse president Donald Trump om zelf AI te reguleren. In het akkoord staat onder andere dat de bedrijven zowel intern als extern toezicht gaan houden op de ontwikkeling van AI. Daarin staat ook dat het 'op termijn' logisch is om de vrijwillige afspraken wettelijk vast te leggen.

Trump heeft het akkoord gedeeld op Truth Social. Hij ondertekende het samen met Sundar Pichai van Google, Dario Amodei van Anthropic, Mark Zuckerberg van Meta, Greg Brockman van OpenAI, Elon Musk van xAI en Jensen Huang van Nvidia. In het akkoord staan vier vrijwillige maatregelen waarvan de techreuzen zeggen dat 'elk bedrijf' ze zou moeten invoeren.

Anthropic-ceo Dario Amodei

Zo willen de bedrijven volgens het akkoord 'robuuste interne controles' invoeren om de capaciteiten en de uitlijning van modellen in de gaten te houden. De controles zouden zich vooral richten op cybersecurity, klimaatbescherming en chemische bedreigingen. Daarnaast stelt het akkoord dat de bedrijven interne teams gaan opzetten die toezicht houden op de controles.

De bedrijven willen ook samenwerken met een externe toezichthouder om te beoordelen of de interne controles robuust genoeg zijn. Ook moeten bedrijven in hun raad van bestuur een interne commissie opzetten die rapporten van de interne en externe toezichthouders beoordeelt.

Wat is uitlijning?

Uitlijning wordt binnen de AI-context vaak 'alignment' genoemd. Het houdt in dat AI-modellen in lijn moeten zijn met menselijke waarden en menselijk gedrag. Met andere woorden: AI moet doen wat de mens wil en geen onvoorspelbaar gedrag vertonen.

Details blijven vaag

Het akkoord geeft weinig concrete details. Het is niet bekend om welke externe toezichthouders het zou gaan. In hoeverre externe toezichthouders bevoegd zouden zijn om in te grijpen als het misgaat, is ook niet bekend. De andere maatregelen lijken er vooral voor te zorgen dat de bedrijven de veiligheidsbeoordeling van AI-modellen naar zich toe trekken. Aangezien de maatregelen ook niet in de wet zijn vastgelegd, zijn bedrijven niet verplicht om ze na te leven.

Het is ook maar de vraag in hoeverre de regering-Trump toezicht op AI-modellen uit Amerikaanse handen wil geven. De Amerikaanse regering verzocht OpenAI en Anthropic onlangs om nieuwe AI-modellen niet te delen met het AI Security Institute, een Britse instantie die modellen op veiligheid test. Anthropic ging daarmee akkoord.

Reacties (54)

[herpiederpienow]

Leuke intentieverklaring, maar zolang er geen toezicht plaatsvind van een onafhankelijke partij, heb ik er geen enkel vertrouwen in dat me nu anders gaat handelen als men al deed. Zolang de ontwikkeling in AI in handen is van vooral commerciële bedrijven heb ik er geen enkel vertrouwen in dat de mogelijkheden die AI te bieden heeft wordt aangewend om veel anders dan winstbejag.

En ja, in mijn ogen is dat iets smerigs. Al deze partijen profiteren namelijk wel van de collectieve kennis die wij als mensheid door de eeuwen heen hebben opgebouwd terwijl anderen dat niet doen en deze partijen hebben geen bijzondere bijdrage geleverd aan de opbouw van deze kennis ten opzicht van anderen. Ja, de technologie die zij ontwikkelen kost wat en kan meerwaarde bieden, maar de bronnen waar al deze op teren en zij die hieraan hebben bijgedragen worden hier niet voor beloond.

Ik snap dat copyright nooit in toepassing van dergelijke technologie heeft voorzien en ik ben ook bekend met vele analogieën omtrent de vergelijking tussen wat deze technologie kan en menselijke inspiratie. Dat zal allemaal best, maar het is moreel op zijn minst twijfelachtig te noemen dat de bedrijven die goudgeld verdienen aan deze AI koorts, terecht of niet, dezelfde mensen die hen van de data hebben voorzien om hun technologie op te trainen grof geld durven te vragen voor het gebruik van de technologie die enkel dankzij ook hen mogelijk is.

Zolang geen van de genoemde bedrijven in dit artikel expliciet vastleggen te streven naar zaken als een globaal basisinkomen of iets vergelijkbaars, inclusief serieuze consequenties voor het hiervan afwijken, zijn deze bedrijven niets anders dan parasieten van de samenleving.

[Sebast1aan]

Ik heb sterk de indruk dat hier twee dingen spelen:

1. "Onze AI is supergevaarlijk, en dus de beste. Koop daarom ons product."
2. Ze roepen al heel lang dat ze bijna AGI hebben ontwikkeld. Nu hebben ze, door de opkomende regulatie en het argument dat het "te gevaarlijk" is, een perfect excuus om te verklaren waarom die AGI er nog niet is. Ze kunnen zich verschuilen achter veiligheidsredenen en regelgeving. De realiteit is echter dat veel AI-onderzoekers al langer aangeven dat AGI met de huidige architectuur helemaal niet mogelijk is, en dat het simpelweg blijven opschalen van modellen een doodlopende weg is.

[vanviegen]

Is AGI er nog niet? Wat mis je nog dan, specifiek?

Ik heb nog nooit een ontwikkelaar mogen aansturen die op basis van zo weinig sturing zulk goed en grondig werk oplevert als een hedendaagse agent. En deze agent doet het ook nog eens 100x zo snel, is vloeiend met elke mogelijke tech stack én kan hierbij ook leunen op diepgaande domeinkennis van vrijwel elke domein.

[heerhaan]

Dat je het nog steeds moet aansturen lijkt mij toch een indicatie dat we nog steeds niet kunnen spreken over AGI. Maar goed, daar zit sowieso geen strakke definitie aan dus iedereen kan met AGI zijn eigen gelijk wel bij elkaar praten.

[vanviegen]

Wat verwacht je dan? Dat het ding je gedachten kan lezen en vanzelf doet wat jij wil? De lat voor AGI is een mens, niet god.

[BenVenNL]

Je vergeet 3: We leggen ons zelf veiligheidsregels op die alleen met enorm veel geld gerealiseerd kunnen worden zodat kleine succesvolle startups worden tegengewerkt. Als deze toch succesvol worden bedenken we nieuwe regels of passen we de huidige aan om het hun maar lastig maken.

[Sebast1aan]

Klopt, mee eens. Daarnaast proberen ze op die manier ook open source modellen te killen waarschijnlijk.

[Joystick]

Ik pleit dan ook zoals velen andere, van het corrupt maken van info voor AI. Meta data die nergens op slaat, verborgen teksten die alleen gelezen kunnen worden door AI, die nergens over gaan of zelfs onzin verkopen. Het injecteren van niet bestaande geluiden in muziek die mensen niet horen maar machines wel oppakken. Kunst dat lagen krijgt die onzichtbare ink bevatten etc etc

Misschien is dit niet DE oplossing, maar het is wel een signaal om terug te vechten aan de hongerige computers die beheerd worden door bedrijven die ons leeg willen slurpen met onze eigen kennis.

[herpiederpienow]

Ik snap de behoefte, maar volgens mij is dit niet de oplossing. Ik begrijp héél goed dat je als enkeling iets wilt doen en dat dit iets haalbaars is, maar volgens mij zit de oplossing in een meer collectieve aanpak waarbij men samenkomt om verandering af te dwingen en dan het liefst zonder bloedvergieten. Daarom vind ik dat onze overheden (wereldwijd) met hun geweldsmonopolie veel, maar dan ook véél harder moeten optreden tegen misstanden en sturing moeten geven aan de ontwikkelingen die plaats vinden, binnen welke kaders dit moet gebeuren en met welke doeleinden. Het probleem is echter dat men last heeft van onderlinge strijd (zie bijv USA vs. China) en belangen die diametraal staan tegenover de belangen van de bevolking. AI zal eerder worden aangewend om de (eigen) bevolking te onderdrukken dan de bevolking optimaal te laten profiteren van de ontwikkelingen.

Ik zie het dan ook somber in voor de mensheid. Veruit de meeste machtshebbers laten keer op keer zien dat ze niet te vertrouwen zijn. Misschien is het iets dat in de menselijke natuur zit of misschien is het vooral een cultureel probleem. Ik weet het niet, maar volgens mij moeten we met zijn allen héél snel betere machtsstructuren bedenken en toepassen, want het is niet geheel onbedenkelijk dat het reguliere volk binnen afzienbare tijd vrijwel volkomen nutteloos word in de ogen van het groot kapitaal die in deze aan de touwtjes trekken.

Eigenlijk zou iedereen gewoon het werk neer moeten leggen zolang er nog een afhankelijkheid bestaat en verandering af dwingen terwijl men nog enige macht heeft. Als het straks te laat is heb ik geen vertrouwen in de medemenselijkheid van noch de overheid, noch het grootkapitaal, noch AI systemen zelf. Je kan nu al wel een beetje inschatten welke kant het in de toekomst op gaat als je met de huidige LLM's interacteert. De data waarop het is/word getraind is politiek gekleurd op een manier die mij absoluut niet bevalt. Daarom denk ik dat het om terug te komen op jouw punt dat het vooral belangrijk is AI systemen te voeden met data leunend tegen zaken als empathie, mensenrechten, collectivisme en mededogen in plaats van bescherming van het grootkapitaal en winstbejag.

[amusedly]

Heb dingen met luchtvaart en medisch gedaan, en de wetgeving zorgt daar voor een stapel papierwerk waar veel tijd in gaat zitten, en het is geen simpel papierwerk dat iedereen kan doen. Ontzettend zonde van kostbare resources. Ik vind het pervers dat de AI labs het zo spelen. Ze mikken er denk ik op om het zo te regelen dat de kleine partijen (poteniële concurrentie) het meest geraakt gaan worden. Een rot ontwikkeling. Hopelijk snel goedkopere hardware zodat we niet meer van de rotclubs afhankelijk zijn.

[Reactie gewijzigd door amusedly op 30 september 2026 18:17]

[Cobiwan]

Het artikel linkt naar de verkeerde "Truth", namelijk een executive order waarin Trump opdraagt om artificial Intelligence "super intelligence" te gaan noemen. Hier vind je het akkoord: https://truthsocial.com/@realDonaldTrump/posts/117356435739432952.

Het stelt weinig voor. Er staat dat de bedrijven geloven dat ieder bedrijf de 4 genoemde dingen zou moeten implementeren, niet dat zij het zelf gaan implementeren. Daarnaast lijken mij dit dingen die er allang zouden moeten zijn...

[Reactie gewijzigd door Cobiwan op 30 september 2026 23:41]

[Pasteis]

Wat proberen ze te bereiken? Hun discutabele positie op te poetsen? Doen alsof het niet aan hun ligt als het een keer goed mis zal gaan?

Als het even niet uit komt en het kost geld, dan worden alle principes en afspraken over boord gegooid.

[punishedbrains]

Geld, dat is wat ze proberen te bereiken. Als iedereen rustiger aan doet, heb je mogelijkheden om zaken langer aan te houden, zoals hoge prijzen. Maar verplaatsen van verantwoordelijkheid (2020 en verder sport) is een mooie bijvangst natuurlijk,

[Reactie gewijzigd door punishedbrains op 30 september 2026 18:06]

[ALittleTooLate]

"Het toezicht" zal er vooral zijn om concurentie tegen te gaan. Er zullen regels komen waaraan vooral Amerikaanse modellen kunnen voldoen. Goedkopere chineese modellen worden verboden. De USA zal ook de EU proberen te dwingen niet amerikaanse modellen te verbieden.

[jpsch]

Als het misgaat, kunnen ze het afschuiven op de overheid. En gezien de verwevenheid met surveillance en defensie gokken ze op een bail-out. Klinkt mij het meest logische.

[ALittleTooLate]

Die bail out zou dan iets van 30x die van 2008 zijn. Dat lijkt me onder normale omstandigheden niet mogelijk.

[amusedly]

Zij mijn reactie op dit artikel. Ik denk da het is om concurrentie tegen te werken.

[Tijger]

Ja, ze proberen zichzelf in te dekken.

[CivLord]

Er is nu een wedloop aan de gang wie de snelste/ beste/ slimste AI heeft, met elke paar weken nieuwe, krachtigere versies. Het trainen van die nieuwe modellen kost ontiegelijk veel rekenkracht en geld. Dat is voor (vrijwel) alle AI-bedrijven onhoudbaar. Maar even een pas op de plaats maken kan een onoverbrugbare achterstand opleveren.

Alle bedrijven zijn het er over eens dat een adempauze noodzakelijk is om niet financieel ten onder te gaan, maar wanneer ze daar onderling afspraken over maken om financiële reden, vormen ze een illegaal kartel. Maar wanneer ze samen met de Amerikaanse regering een akkoord sluiten om veiligheidsredenen, kan het ineens wel. En ze dwingen daarmee ook andere AI-bedrijven, die geen zin hebben in een pas op de plaats, om mee te doen.

[hawke84]

WC eend gaat WC eend controleren.

Is dit omdat ze:

• de frontier-model race niet meer bij kunnen benen longterm financieel
• door hebben dat opensource modellen voor een fractie van het bedrag beschikbaar zijn
• zich legaal willen indekken voor als het fout gaat
• om het verhaal op te hypen

of alle van bovenstaande ?

[Simon Weel]

Je kan aan het lijstje nog toevoegen: de burger geruststellen. Deed Chamberlain destijds ook met het Verdrag van München.

[BlaDeKke]

Belangrijker voor de AI boeren, hun engineers en onderzoekers geruststellen.

[vanviegen]

Ja, alle van bovenstaande, lijkt mij. Maar óók het onder controle houden van agents is natuurlijk een echt argument. Welk belang heeft het bedrijf bij het riskeren van de apocalyps?

[uiltje]

Veel van de mensen die bij deze tech reuzen werken hebben aan de bel getrokken en gevraagd om regels. Er zijn al experts vertrokken omdat ze vinden dat het gevaar wordt onderschat. Nu doen ze het enige wat ze kunnen doen nu Trump niet aansluit op de wensen voor regulatie. En die wens is er omdat je als AI bedrijf natuurlijk niet in je eentje op de rem wil trappen. Maar nee, alles is negatief, net alsof dit reclame is voor AI bedrijven.

Maar gelukkig alleen maar commentaren onder het bericht van hoe slecht te allemaal wel niet zijn. Natuurlijk zijn bedrijven als eerste denken aan hun markt, maar het is net alsof er geen mensen werken maar alleen maar monsters. Voelt een beetje aan als met de politiek, waarbij iedereen die in de politiek zit "natuurlijk" corrupt is - behalve de populisten natuurlijk die dat mee helpen schreeuwen.

[synoniem]

Het merendeel van de politici en in het bijzonder Amerikaanse politici zijn inderdaad corrupt alleen noemen we dat lobbyen. Populisten zijn juist zo mogelijk nog corrupter omdat ze helemaal nergens voor staan behalve eigenbelang.
En als je kijkt naar het Angelsaksische bedrijfsmodel waar alleen shareholder value telt acht ik de kans dat dit niet voor AI bedrijven zou gelden als bijzonder klein.
Alles wat ze nu doen is alleen voor de bühne. OpenAI had jaren terug al een safetyboard en die hebben ze weggewerkt en soortgelijke situaties hoor je ook van de andere AI bedrijven.

[vanviegen]

Bedrijven streven naar winst. De mensen waar die bedrijven uit bestaan kunnen (ook) andere doelen hebben. Zoals het voortbestaan van de mensheid, of zoiets onzinnigs. :-)

[heerhaan]

Ik geloof oprecht niet dat de top van de mensen bij AI-bedrijven erg bekommerd zijn met het voortbestaan van de mensheid, eerlijk gezegd. Er zijn niet bepaald veel signalen die hierop wijzen. En dan de producten die met AI ontwikkeld worden, deels goed natuurlijk maar je hebt ook een hoop toepassing van AI in drones en surveillance.

[Llopigat]

Natuurlijk zijn bedrijven als eerste denken aan hun markt, maar het is net alsof er geen mensen werken maar alleen maar monsters.

In de praktijk is dat ook zo, vooral aan de top.

Vergeet niet, zij zijn verplicht om de maximale aandelenwaarde voor hun aandeelhouders te behalen. Dat heet due diligence. En dat doen ze door alle nadelen af te schuiven op de maatschappij, zoals milieu, werknemersrechten enz. De wet overtreden hoor daar ook bij zolang ze maar niet gepakt worden.

Dit is ook niet iets exclusiefs voor de AI bro's maar geldt voor elke multinational. Alleen met AI geldt het wat meer omdat het zo'n hype is momenteel.

Maar zonder een dosis psychopathie word je geen CEO van een grote multinational of wereldleider natuurlijk. Het hele proces selecteert daarop.

[Reactie gewijzigd door Llopigat op 30 september 2026 19:26]

[ZpAz]

Niet iedereen in de farmaceutische industrie is corrupt, de meerderheid waarschijnlijk niet. Maar de industrie verkoopt zonder blikken of blozen medicatie voor veel meer geld dan nodig is.

[DdeM]

Weet niet of ze het perse voor meer geld dan nodig is verkopen, maar dat ze liever levensverlengende medicatie welke je moet blijven nemen verkopen ipv daadwerkelijk genezende middelen is zelfs al eens op tv uitgelicht bij Pointer.

[bilbob]

Ik denk dat ze het gewoon doen omdat ze dan later, als het misgaat, kunnen zeggen: wij hebben gewaarschuwd en we hebben maatregelen genomen. En als het wel goed gaat, is er niets aan de hand. Dat is niet per se cynisch, het is ook gewoon hoe je als bedrijf met een risico omgaat..

[Zorg]

Inderdaad, doen ze niks: ooooh ze doen niks aan regulatie!
Doen ze iets: ooooh ze doen het alleen maar voor hunzelf....

Kortom wat ze ook doen, de commentaren blijven sowieso hetzelfde. En natuurlijk zit er een deel marktprotectie in, dat is nu eenmaal inherent aan een commerciële bedrijfsvoering. Dat doet ieder bedrijf, ook waar wij allemaal werken. En dat is kapitalisme die zijn ding doet, en we doen er allemaal net zo hard aan mee

[Oon]

Dit is toch hetzelfde als wanneer Trump en Putin een akkoord zouden sluiten om geen nieuwe kernwapens te ontwikkelen?
Het ontwikkelen verplaatst zich gewoon naar een nog donkerder kamertje, maar echt niet dat ze stoppen of ineens voorzichtiger gaan zijn, er gaat gewoon een groter budget naar het geheim houden ervan.

[IStealYourGun]

Neen, het Non-proliferatieverdrag is een internationaal verdrag. Dit gaat over een simpele industriële afspraak. Dat is totaal niet te vergelijken imo.

[Maurits van Baerle]

En dit is bovendien een industriële afspraak binnen één land. Een Brits, Chinees, Duits of Frans AI bedrijf is er geen onderdeel van.

[The Chosen One]

Even de politiek blij maken en dan zijn we/ze al weer paar jaar verder. Makkelijk exploiteren zo.

[vanviegen]

De politiek blij maken? Trump heeft duidelijk aangegeven dit allemaal onzin te vinden. Hij wil meer gas geven.

[klakkie.57th]

Als de vos de passie preekt, boer pas op je kippen

[ZpAz]

Vrijwillig een akkoord om zichzelf te reguleren 🫡

[phoenix2149]

Er van uit gaande dat het een reële wens is en ook uitgevoerd wordt is dit een goede ontwikkeling om veilig een handig hulpmiddel te blijven houden.

Ze lijken geprobeerd te hebben om dit via federale regulering voor elkaar te krijgen wat niet lukt met deze narcistische idiocratische regering. Daar valt geen goed gesprek mee te houden.

Recente ontwikkelingen waren toch best zorgwekkend.

[geekeep]

Jij gelooft daadwerkelijk dat ze dit wilden en het beste met ons voor hebben uit idealisme of filantropische gedachte?

Er worden tientallen miljarden besteed/verspild aan dit geintje en de groene cijfers zijn nog ver te zoeken. Deze afspraak is één grote poppenkast om vooral zélf niet verantwoordelijk te hoeven zijn voor hun eigen beslissingen.

Daarnaast is de huidige Amerikaanse regering vooral goed in publiek geld wegsluizen naar schimmige bedrijven waarin ze toevallig zelf een vinger in de pap hebben. De ontwikkelingen gaan zich onder het mom van nationale veiligheid gewoon nog verder in de achterkamertjes begeven. En mocht het toch allemaal mislopen, kan met belastinggeld de boel weer gered worden.

En vergeet ook niet dat bovenstaande ook een ideale manier is om (neutrale) buitenstaanders/inspecties buiten de deur te houden en tevens mogelijke klokkenluiders in het gareel te houden.

[Reactie gewijzigd door geekeep op 30 september 2026 18:11]

[phoenix2149]

“Er van uitgaande” laat zien dat ik mijn reserveringen heb. Dat is in ieder geval de bekoeling om duidelijk te maken.

Maar dank je voor je rant.