Microsoft-ceo Nadella pleit voor noodrem op AI-modellen

AI heeft een noodrem nodig. Dat vindt Microsoft-ceo Satya Nadella. In een blogbericht op X deelt hij zijn visie op hoe AI veiliger kan worden. "We kunnen de verantwoordelijkheid voor wat AI namens ons doet niet simpelweg uitbesteden."

Volgens Nadella is het tijd om de 'vertrouwensarchitectuur' voor dit nieuwe tijdperk te beoordelen. "We kunnen superintelligentie niet behandelen als een reeks in elkaar geneste 'black boxes' en simpelweg de aanbevelingen, antwoorden en acties ervan accepteren of verwerpen", zegt de Microsoft-ceo. "We moeten afgeschermde systemen bouwen waarvan we het gedrag kunnen observeren, de grenzen kunnen testen en de acties altijd kunnen beheersen."

In zijn blog doet hij een aantal voorstellen om dat te bereiken. Denk aan uiteenlopende modellen en de mogelijkheid om alle acties te observeren. Ook moet het hele systeem voortdurend worden getest, zegt Nadella. Organisaties moeten verder onafhankelijk kunnen instellen waar een model bij kan en welke acties het kan nemen.

Modellen pauzeren

Nadella pleit daarnaast voor een soort handrem op AI-modellen. "Een geautoriseerd persoon moet een model altijd halverwege een taak kunnen pauzeren of stoppen", zegt hij. "Geavanceerdere modellen hebben geavanceerdere afschermtechnologieën nodig, waarvoor we standaarden moeten opstellen."

Gaat het dan toch mis met een AI-systeem, dan moet dat snel gemeld worden aan de getroffenen, vindt Nadella. Ook zijn er mechanismen nodig om te delen wat er fout ging, welke controles faalden en hoe voorkomen wordt dat het nog een keer gebeurt. De geleerde lessen moeten vervolgens met de hele sector gedeeld worden, vindt Nadella.

Nadella reageert daarmee op de verschillende incidenten met AI van de afgelopen maanden, waarbij AI-bedrijven de controle over hun modellen leken te verliezen. Verschillende topmannen van AI-bedrijven riepen vorige maand al op om de ontwikkeling van AI te vertragen, als gevolg daarvan.

Microsoft-ceo Satya Nadella

Reacties (17)

[mrbones92]

Haha dit komt van de CEO van een bedrijf die zowat alles heeft gerebrand naar COPILOT wat op zichzelf een enorm geflopte propositie is. Totaal ongeloofwaardig deze man.

[PanzerschrekNL]

De CEO van Microsoft ' totaal ongeloofwaardig ' noemen is natuurlijk een beetje raar.

[iqcgubon]

Nadella heeft heel veel goeds betekent voor Microsoft, maar de hele rebrand van "letterlijk alles moet Copilot heten", waarbij Copilot AI dan ook nog eens by far de slechtste van de klas is, was echt wel een slechte move. Er is een reden dat men ze Microslop is beginnen noemen.

[maartend]

En vervolgens worden de AI noodremmenvan een concurerend bedrif door een eigen AI systeen gehacked en geactiveerd.

Ik ben bang dat de bedrijven hierr niet mee akkoord gaan ; China en Trump willen al geen inmenging, dus de rest kan dit dan ook niet accepteren.

Trouwens, nog wat meer mening in eerder tweakers artikel;
review: Kan AI een nucleaire ramp veroorzaken? 'AI heeft mogelijk al mensen gedood'

[Reactie gewijzigd door maartend op 12 oktober 2026 09:35]

[Arnoud Engelfriet]

Dit staat overigens met zo veel woorden al in de AI Act: artikel 14 lid 4 onder e eist "een stopknop of een vergelijkbare procedure waarmee het systeem op veilige wijze kan worden stopgezet." Leuk dat de praktijk eens de wet wil volgen.

[DropjesLover]

An sich klinkt het logisch, maar onder de streep blijven het commerciële bedrijven die hun (gigantische!) investeringen terug willen verdienen. Dat kan alleen nog maar door monopolist te worden;

• Startende partijen bij voorbaat uit te sluiten
• De techniek af te schermen (niet lokaal draaien)
• Te wachten tot concurrenten omvallen ofwel door gigantische fuckups of doordat ze net $1 te weinig hebben en de boel klapt.

En Trumpspeak gebruiken laat al zien hoe bruin de vuist/arm/schouder is

[Wim Cossement]

Yup, het is gewoon een strategie. Nu pleiten alle AI-boeren voor noodremmen en overzichtscommissies zus en zo, maar dit is gewoon om de beginnende concurrentie het lastiger te maken en het monopolie te kunnen behouden…
Ze zitten echt niet in met ons (of de rest, iedereen buiten zich...).

[voltexx]

Zelfs als deze AI's uitgeschakeld zijn, functioneren ze zelfstandig. We moeten de vraag over AI en hoe je die kunt gebruiken opnieuw bespreken.

[jpsch]

Inderdaad, mijn Windows computer is geen afgeschermde zwarte doos. Graag al die AI uit al die applicaties halen.

[The Zep Man]

Inderdaad, mijn Windows computer is geen afgeschermde zwarte doos.

Niet helemaal waar. Jij hebt niet de broncode van Windows of die van de firmware die in de TEE draait, waar ondersteunde Windowsinstallaties van afhankelijk zijn. Je hebt ook geen overzicht over wat in de TEE draait en kan dit niet uitschakelen.

[Reactie gewijzigd door The Zep Man op 12 oktober 2026 09:53]

[kozue]

Windows is per definitie een black box. En MacOS ook. Zolang je de code niet in kunt zien weet je niet wat het onderwater allemaal doet. Als je een open source OS gebruikte kon je zelf de AI er weer uit slopen, maar MS staat dat niet toe. Zolang je closed source gebruikt, heb je geen echte controle over je eigen systeem.

[TheVMaster]

Maar ook als je een Open Source systeem hebt gaat niet iedere gebruiker AI er weer uit slopen. Tuurlijk kunnen er dan varianten ontstaan zonder AI of met andere 'tracking' systemen, maar de meeste gebruikers maken zich daar niet erg druk om denk ik.

[erikitweakt]

Als we veiligheid echt naar een hoger niveau willen tillen, zouden we wat mij betreft een soort luchtvaartmodel moet hanteren waarbij iedereen op een gestandaardiseerde wijze haar incidenten uiteenzet en zo de hele gemeenschap helpt om incidenten te voorkomen.
Ik betwijfel echter sterk of de industrie ooit zover zou willen gaan. Het is en blijft een cowboyland dat door een soort blitzkrieg tactiek zoveel mogelijk naar de handen van de grote spelers moet worden gezet om zoveel mogelijk marktaandeel te vergaren en zoveel mogelijk door te dringen in de haarvaten van de maatschappij.

[kamerplant]

Heeft het nu echt over "superintelligentie", omdat die term gebruikt moet worden van Trump? Sad!

[Nightscope]

Komt dit omdat de CEO's op een gegeven punt verantwoordelijk worden gehouden voor eventuele schade die AI aan de maatschappij gaat brengen?

[Simon Weel]

Mooie woorden. Gaat Microsoft ze ook in praktijk brengen? Dat vermeldt het verhaal niet...