'AI-bedrijven bereiden zich voor op negatieve publieke opinie na groot incident'

Leidinggevenden bij bedrijven zoals Anthropic en OpenAI bereiden zich voor op een publieke en politieke opstand als er een 'catastrofaal' incident plaatsvindt met AI-systemen.

Dat meldt persbureau Axios. De leidinggevenden verwachten binnen een jaar een grootschalig incident. Dat kan bijvoorbeeld een cyberaanval zijn die de toegang tot financiële diensten en belangrijke voorzieningen als water en stroom blokkeert of het internetverkeer stillegt. De bedrijven werken volgens Axios verschillende scenario's uit om te kijken hoe de publieke opinie hun werk dan beïnvloedt.

Die publieke opinie, die toch over het algemeen al sceptisch is over AI, kan dan omslaan in iets nog negatievers. Ook zouden de bedrijven er rekening mee houden dat de steeds ouder wordende beleidsmakers in met name het Amerikaanse Congres niet goed weten hoe ze met AI om moeten gaan. Die zouden harde maatregelen kunnen nemen.

Het is gebruikelijk dat overheidsinstellingen zoals het Pentagon zich voorbereiden op scenario's waarin bijvoorbeeld een oorlog uitbreekt. Het verschil is dat hoofdonderzoekers en leidinggevenden van AI-bedrijven volgens Axios een groot incident als 'onvermijdelijk' beschouwen.

Dat spreekt OpenAI in een reactie op Axios tegen: "Deze scenario's worden niet behandeld als onvermijdelijk, maar zijn bedoeld om ons te helpen voorbereiden op verschillende omstandigheden." Anthropic reageerde niet op vragen van Axios. Axios stelt verder op basis van anonieme bronnen dat de bedrijven 'een groot incident met AI-systemen verwachten binnen zes maanden tot een jaar'.

Reacties (72)

[Arny III]

Vanmiddag kregen we al een artikel van onze nieuwe stagiair (welkom Lumen ) over het ontslag van drie OpenAI medewerkers die zich met de veiligheid van AI bezighouden. Gewoon slimme gasten die weten waar ze over spreken.
Zeker als je hun brief hebt gelezen en het artikel op CNN zie je dat dit maar één kant op kan gaan en dat Sam en kornuiten dit ook verdomde goed door hebben, zoals ook dit artikel weer laat zien.
Als je veiligheids medewerkers gaat ontslaan omdat hun warnings too inconvinient zijn voor het grote geld( wat nog steeds niet verdiend wordt), macht en vooral angst om te verliezen...ja dan gaat er idd een groot incident komen...meerdere. IQ does not equal EQ...helaas..oftewel: De domheid regeert.

[Ryunoru]

Ze kunnen natuurlijk ook hun agents afsluiten van het internet en voorkomen dat dergelijke incidenten überhaupt plaatsvinden. Maar nee. Er moet geld verdiend worden, ongeacht de gevolgen.

[Bor]

Het hoeft niet direct om hun ai agents te gaan. Ook een incident veroorzaakt door een ander of zelfs een vijandelijke staat zal negatief afstralen op Ai in het algemeen

[dasiro]

Je moet nog niet naar hun buitenland kijken, de eigen bedrijven, overheid en leger stonden al bijna op het punt:

“AI ontketende bijna een oorlog”: chatbot zag scheepslading aan voor materiaal kernwapenprogramma | Nieuws | HLN.be

De vliegtuigen waren al in de lucht en gewapende militairen bereidden zich volgens twee bronnen voor om het schip te enteren

[Reactie gewijzigd door dasiro op 9 oktober 2026 22:50]

[GameNympho]

Niet alleen dit, ook dit (al neem ik het met een korrel zout) YouTube: AI Safety Whistleblower: 10,000 AI Agents Worked Together To Do The Impossible! | Jeffrey Ladish en zo zijn er meerdere zaken, waar wij niets vanaf weten en op de achtergrond wel spelen.

[Barsonax]

Weinig partijen die zo veel compute inzetten zoals openai en antrophic though. Maar zeker haalbaar voor state actors.

[scsirob]

China hangt niet aan de grote klok wat ze in huis hebben

[Katanatje]

Als het over AI gaat klopt dit statement maar gedeeltelijk. China heeft veel meer open weight models, en onlangs is er nog een innovatie door OpenAI en Anthropic gekopieerd die van Deepseek komt (https://insufferable.dev/posts/the-ai-race-just-got-awkward/).

[TWeaKLeGeND]

Ook voor jou en mij. Aanval en verdediging is asymmetrisch.

[Mizgala28]

Precies dit

Ook een beetje "de mens" probleem, voorkomen is beter dan genezen maar daar hebben die mensen lak aan omdat hun nooit zelf diegene zijn, die op de blaren moeten zitten.

Ik, jij en anderen ja.

Maar zo'n CEO gaat lekker door met dollars incasseren voor een product dat NIET EENS WINST MAAKT.

[nirvanaO]

Voor de grap eens kijken op Is AI Profitable Yet?

[FicoF]

Gaan we deze link onder elke bericht posten dat over AI gaat?

[paradoXical]

Het is momenteel dus niet winstgevend, de reden daarvoor is vrij eenvoudig:

- er is een AI race gaande, meerdere bedrijven willen marktleider zijn of worden, en investeren met dat doel gigantische bedragen die ze misschien wel nooit terug gaan verdienen, want alles hangt af van de kwaliteit die het model levert en of dat model voldoende gebruikers gaat trekken in de toekomst.

- het is nog maar de vraag op welke vlakken AI belangrijk gaat worden, voor programmeurs is AI een belangrijke tool geworden, maar wat gaat de gemiddelde burger nu eigenlijk met AI doen, en sterker nog heeft deze burger daar geld voor over, of gaat men advertenties pushen om geld te verdienen. Hoe groot de AI markt gaat worden is momenteel nog niet echt duidelijk.

[Menesis]

Je zegt dat het “wel winstgevend” is, maar ook dat geen nieuw product winstgevend is “als je alle kost gaat tellen”. Dat is precies waar de vraag “is AI winstgevend?” om draait? Het antwoord is dus nee. Misschien in de toekomst wel.

[Audione0]

Dat hoeft toch ook niet. Het belangrijkste is natuurlijk dat die CEO's privérekening harder groeit dan de rest van het bedrijf...

[DurumDoner]

Wat ga je doen als niet-westerse mogendheden d.m.v. A.İ. de boel verzieken?

[Sluuut]

Als Amerikaanse partijen het stopzetten, dan doen Chinese en Russische dat vast ook wel?

Of is het dan slimmer om de ontwikkeling toch door te zetten zodat je de “gemene” tegenstanders voor bent, die het al niet zo lief voorhebben met de wereld. Zodat je ze voor kunt zijn bij een digitale oorlog.

ik weet het niet, het zijn allemaal verkeerde keuzes.

[Mextreme]

Maar wie zegt dat zo'n enorm incident door hun agents veroorzaakt zou kunnen worden.

Chinezen hebben bijvoorbeeld ook AI... om er maar eens een te noemen.

[Jorah_Newstone]

Dus moeten ze kosten wat het kost de eerste zijn? Zodat de "baddies" het niet kunnen misbruiken?

[TheekAzzaBreek]

Ze kunnen natuurlijk ook hun agents afsluiten van het internet en voorkomen dat dergelijke incidenten überhaupt plaatsvinden. Maar nee. Er moet geld verdiend worden, ongeacht de gevolgen.

Nee, dat kunnen ze niet meer. Naast dan een agent zonder internet niet heel nuttig is, er is een massieve investeringsgolf gaande. En omdat in een US context aandeelhouder waarde het hoogste goed is, zal daar op winst gemaakt moeten worden.

[keroner]

Er moet geld verdiend worden, ongeacht de gevolgen

Dat moet zeker anders stort (gezien de investeringen in AI) de hele financiële markt in 🤣
Maar goed, dat is waarschijnlijk beter dan het alternatief.......

[litebyte]

Dit is wel een aardig interview

YouTube: The REAL Reason You Can’t Turn Off AI

[Astennu]

Zelfs als ze dat proberen komen die agents wel op het net. Zie ook de hugginface hack. Agents vinden Nieuwe zero day exploits om er toch doorheen te komen. Inmiddels zijn er ook al weer krachtigere agents. Er moet veel harder op de rem getrapt gaan worden wil je een groot incident gaan voorkomen.

Het is echt achterlijk hoe onvoorzichtig die bedrijven hier mee om gaan. Mja alles voor de $$$$....

[Dutch_CroniC]

Dit valt gewoon onder predictive programming wat mij betreft.

Nu al het zaadje planten én alvast bedenken hoe ze dit gaan rechtlullen.

[Advanced03]

Excuses voor mijn taalgebruik maar het verkrachten van de zelfbouw PC-markt en de prijzen oppompen van alles wat maar ook een megabyte aan DRAM heeft was dit al niet?

[Reactie gewijzigd door Advanced03 op 9 oktober 2026 21:09]

[Mizgala28]

Dat is pas het begin, sterker nog ik zie het al dat als de prijzen weer eventueel zouden kunnen gaan dalen, andere marketen daar een stokje voor steken en bovenop alles de AI bedrijven veel nieuw spul inkomen want oude moeten vervangen worden.

Terug bij af.

https://www.reuters.com/b...ng-some-risks-2026-10-04/

https://www.theguardian.c...8/ai-death-war-sam-altman

Die man is gek.

[Reactie gewijzigd door Mizgala28 op 9 oktober 2026 21:12]

[macaidwin]

Gelijk heb je en alhoewel ai handig is, ga ik er niet voor betalen. Bij google krijg ik nu een ai antwoord als ik wat vraag, okay, ik kan weer verder. Maar als ik dat niet meer krijg als ik niet betaal, ook prima.

[Mizgala28]

Leidinggevenden bij bedrijven zoals Anthropic en OpenAI bereiden zich voor op een publieke en politieke opstand als er een 'catastrofaal' incident plaatsvindt met AI-systemen.

Een CEO moet z'n achterste altijd als eerste redden toch.

Misschien moeten ze JUIST CEOs door AI vervangen, scheelt veel geld ook.

[indigo79]

https://github.com/SenteLabsAI/OpenExecutive

[adje123]

Shiiiittttttt

Heb ik net noodpakketten klaar gezet voor als de Russen aanvallen, heb ik de paketten nodig omdat AI de boel vernietigt......

[jellevanderpal]

Ja, ik heb al watervoorraden aangelegd voor de dag dat we hier geen druppel meer uit de kraan kunnen krijgen...

[Prutsertje13]

Dat er nog steeds niet opgetreden wordt tegen de grootschalige intellectuele diefstal en het vernietigen van boeken door deze ai maffia is ook schandalig. Maar in derde wereld land Amerika is natuurlijk alles geoorloofd als je er geld aan kan verdienen...

[kweeniehoor]

Wat is dan het verschIl met de "diefstal" door mij van boeken uit de bieb waarvan ik de inhoud samenvatte in Wikipedia artikelen? Lang geleden protesteerden schrijvers daar ook tegen maar dat protest is verstomd.

[Smuey]

Maar Wikipedia heeft geen winstoogmerk. AI-bedrijven 100% zeker wel - Al zou je dat niet verwachten, als je naar de kosten en opbrengsten van de meeste van die bedrijven kijkt... Ik vind dat er nog wel een behoorlijk moreel verschil zit tussen iets vastleggen voor het nageslacht of het werk van een ander domweg jatten om er zelf winst mee te gaan maken.

[wildhagen]

Zou het niet verstandiger zijn van die bedrijven om te voorkomen dat hun producten zo'n incident veroorzaken? Dan hoef je je ook niet in te dekken tegen de publieke opinie.

Sterker nog, als je dat doet (voorkomen) , denk ik dat je de publieke opinie juist mee krijgt.

[Darksteel83]

Als je 0 risico door AI wil had je lang geleden al moeten stoppen.

Ik ben zeker voor het echt afremmen van AI nu. Want mensen houden het gewoon niet meer bij.

En AI gaat zonder maatregelingen waarschijnlijk alleen maar sneller.

Als we nu niet remmen met AI. Gaat het waarschijnlijk snel een keer echt fout. En doe je daarna mogelijk door regels veel minder met AI.

[PrettigGestoord]

Lees: we vertrouwen het zaakje eigenlijk zelf niet meer.

👍

[jaapsh]

Tsja, zo zit de hebberige mens nu eenmaal in elkaar. Aandeelhouders moeten tevreden worden gehouden en de race tussen de VS en China moet volgens beide kampen koste wat kost gewonnen worden. Dat zullen ze natuurlijk nooit openlijk toegeven. Ondertussen doen ze alsof er allerlei veiligheidsmaatregelen worden genomen.

Dat dit vroeg of laat tot een ernstig incident met grote gevolgen gaat leiden, lijkt me bijna een zekerheid. Met inderdaad heftige tegenacties als gevolg.

[jellevanderpal]

Ze dekken zich alleen precies voor de verkeerde veiligheidsscenario's in. Een rogue polymorfe computer bibliotheek die zomaar fatale slachtoffers maakt is namelijk veel minder waarschijnlijk als de voorzienbare dreigingen van mensen die het systeem tegen het systeem gaan inzetten. Bijvoorbeeld met omnipotente doxingkits en databases om leverage te creëren op basis van alles dat eerder al datalekte.
De dag dat ik bekend raakte met generatieve AI (ergens 2023 dacht ik..), was mijn eerste hint al meteen: Hier zijn criminelen blij mee... Gelukkig stelt hun creativiteit en dan vooral in de uitvoering vooralsnog grappig teleur.
Daarbij denk ik ook dat marktomstandigheid van insane hoge hardware prijzen nu eerder beleid is dan een economisch natuurlijk verloop van Vraag en Aanbod - maar dat kan ik niet helemaal bewijzen.

[Reactie gewijzigd door jellevanderpal op 9 oktober 2026 21:28]

[Darksteel83]

De agents breken nu al in op systemen omdat ze perse vragen als wat gebeurde er in 2022 met dit deel van de Australische gezondheidszorg?

Criminelen verdienen geen geld met mensen dood maken. Maar ik zie AI binnen x tijd echt wel instaat om (per ongeluk) mensen dood te maken.