Kan AI een nucleaire ramp veroorzaken? 'AI heeft mogelijk al mensen gedood'

mmmm

Volgens AI-bedrijven kunnen hun modellen in de toekomst ongekende schade aanrichten. Ook steeds meer vooraanstaande wetenschappers waarschuwen voor doemscenario's als we AI niet in toom houden. Maar experts wijzen erop dat de technologie nu al risico's meebrengt op het slagveld en in het cyberdomein. Hoe gevaarlijk is AI in oorlog en bij cyberaanvallen?

Er gaat geen week voorbij of er weer iemand ontslag neemt bij een AI-bedrijf en claimt dat deze technologie fikse existentiële risico's met zich meebrengt. Zo ging AI-onderzoeker Jacob Coxon een maand geleden weg bij Anthropic omdat het bedrijf 'gokt met onze levens'.

Het voormalige hoofd van OpenAI's veiligheidsteam, David Robinson, waarschuwt in een opinieartikel dat AI-bedrijven veel te onzorgvuldig te werk gaan. Ook een veiligheidsonderzoeker bij Google DeepMind, Josh Engels, verliet het bedrijf vorige maand uit bezorgdheid dat AI-systemen binnen vijf jaar voor 'immense schade' kunnen zorgen. "Ik weet niet zo zeker hoe groot die kans is, maar ik denk dat die groot genoeg is om dit het belangrijkste probleem van de wereld te maken."

AI-bedrijven ontkennen de geschetste risico's niet. Onlangs riepen Anthropic, OpenAI en xAI op om het tempo van de ontwikkeling van AI te verlagen, naar eigen zeggen om te zorgen voor regulering die de immense risico's kan beperken. Dat kun je natuurlijk simpelweg afdoen als marketing, maar het sentiment weerklinkt ook bij steeds meer onafhankelijke deskundigen. Onder meer AI-'godfathers' Geoffrey Hinton en Yoshua Bengio waarschuwen in een brief dat het vermijden van de risico's van AI een 'wereldwijde prioriteit' zou moeten zijn, net zoals het voorkomen van pandemieën en een nucleaire oorlog.

Tegelijkertijd vindt de derde AI-godfather, Yann LeCun, de doemwaarschuwingen maar overdreven. Hij maakt zich naar eigen zeggen totaal geen zorgen dat AI de mensheid kan uitroeien en zegt dat de huidige incidenten, waarbij AI-agents uit 'eigen' beweging bedrijven hackten, makkelijk voorkomen hadden kunnen worden.

AI heeft nu mogelijk al doden op zijn geweten

De meeste doemvoorspellingen gaan over de risico's die AI-modellen over tientallen jaren kunnen vormen. Volgens Marijn Hoijtink, professor internationale betrekkingen aan de Universiteit Antwerpen, leidt dat af van wat AI nú al kan.

Oekraïne vond deze Nvidia Jetson Orin-chip in een
Russische drone.

"Er zijn al tig voorbeelden van AI-modellen die een kritische rol spelen bij besluitvorming op het slagveld. AI selecteert en identificeert bijvoorbeeld mogelijk relevante doelwitten die daarna kunnen worden aangevallen." Daarnaast wordt AI ingezet om drones autonoom te laten vliegen en voorgeprogrammeerde doelwitten te laten aanvallen.

Het staat nog ver af van de claim van Anthropic dat er 10 procent kans is dat AI de mensheid in het komende decennium uitroeit, maar volgens Hoijtink kun je dus beargumenteren dat AI nu al wel mensen doodt. Dat gebeurt (nog) niet volledig zelfstandig en niet zonder menselijke betrokkenheid, maar ze stelt dat er op zo'n kritisch moment maar weinig ruimte is om beslissingen van de AI-agent tegen te houden. "Het is ook niet zo dat zulke drones met duizenden rondvliegen boven het slagveld, maar er wordt zeker mee geëxperimenteerd en getest."

AI maakt cyberaanvallen toegankelijker

Roy Lindelauf, hoogleraar Data Science in Militaire Operaties aan de Nederlandse Defensie Academie, vindt ook dat discussies over de potentiële existentiële dreiging van AI de huidige risico's vertroebelen. Volgens hem bevinden die risico's zich nu vooral in het cyberdomein. AI-agents zouden bijvoorbeeld gebruikt kunnen worden om vitale infrastructuur plat te leggen.

Ook Hoijtink ziet hier mogelijkheden in. "Er zijn al voorbeelden van eerdere door mensen gemaakte virussen die veel schade hebben veroorzaakt." Ze verwijst naar het cyberwapen Stuxnet, dat in 2007 het uraniumverrijkingsproces van een complex in Iran wist te saboteren.

Het is niet moeilijk om je voor te stellen dat AI het ontwikkelen van zulke cyberwapens een stuk toegankelijker maakt. "Je hebt veel minder kennis nodig om over dezelfde vaardigheden of kwalificaties te beschikken", zegt Lindelauf. "Een kind van twaalf kan dingen waar je vroeger een heel team voor nodig had. Dat is wel een gevaar waar we ons goed bewust van moeten zijn."

Rol van AI bij nucleaire besluitvorming

Hoewel AI-agents worden ingezet voor oorlogsvoering, is het gebruik van AI bij de inzet van kernwapens volgens Hoijtink een rode lijn waar niemand overheen wil gaan. "De internationale gemeenschap is het erover eens dat de keuze om nucleaire wapens in te zetten een beslissing is die we niet aan AI moeten overlaten."

Wel zou AI een ondersteunende rol kunnen gaan spelen in het nucleaire besluitvormingsproces. Dat gebeurt volgens haar ook al bij 'conventionele' oorlogen, zoals in Oekraïne. "Het gaat dan om scenariosimulatie. AI voorspelt dan wanneer een aanval waarschijnlijk is en welke tegenreacties daarop kunnen volgen."

Volgens simulaties zijn AI-modellen nogal agressief in hun besluiten. Zo hebben Britse onderzoekers 21 oorlogssimulaties uitgevoerd met AI-modellen. In 95 procent van de gevallen eindigden die in een nucleaire ramp. Lindelauf is echter kritisch op dit soort onderzoeken. "Voor deze simulaties gebruiken de onderzoekers speltheoretische argumenten, maar die slaan heel vaak nergens op."

Lindelauf promoveerde in de speltheorie, een wiskundige methode om strategische beslissingen bij bijvoorbeeld onderhandelingen te voorspellen. "Bij de speltheorie bepaal je van tevoren de mogelijke strategieën in de speelrondes. In de onderzoeken bepalen de taalmodellen de strategieën. Na iedere ronde konden ze echter bekijken welke besluiten er waren genomen en hun theoretische strategieën nog aanpassen. Dat is niet realistisch."

Oorlogssimulatiegame Defcon

Hoe houden we AI-modellen in toom?

Toch snapt Lindelauf dat de huidige AI-race vaak vergeleken wordt met de wapenwedloop. "Dat ging om echt destructieve wapens. Dat zou AI in potentie ook kunnen zijn. Alleen is de proliferatie veel lastiger tegen te houden. Het is software, dus met een druk op de knop zit het aan de andere kant van de wereld."

En de Europese AI-wetgeving dan?

In Europa is een AI-wet van kracht die AI-modellen moet reguleren. Alleen laat deze wetgeving militaire toepassingen van AI buiten beschouwing. "Dat heeft vooral een politiek-institutionele reden", legt Hoijtink uit. "De Europese Unie gaat niet over veiligheids- en defensiekwesties. Dat ligt bij de individuele lidstaten. De meeste Europese landen willen wel dat volledig autonome wapens verboden worden, maar het is de vraag of er een totaalverbod komt. Landen die dichter bij Rusland liggen, zoals Estland en Polen, staan namelijk veel meer open voor dit soort toepassingen in oorlogsvoering."

De vraag is dus wat de beste manier is om de snelle verspreiding van schadelijke AI-modellen in te dammen. Lindelauf gelooft daarbij in regulering en internationale afspraken. Volgens hem is de Nederlandse Defensie Academie betrokken bij het initiatief Responsible AI in the Military Domain (Reaim). "We organiseren ieder jaar een top waar meer dan honderd landen bijeenkomen om te proberen afspraken te maken over hoe we verantwoord met AI in het militaire domein moeten omgaan."

Volgens hem zijn veel landen bereid om gezamenlijk afspraken te maken, alleen zijn vooral de Verenigde Staten en China terughoudend. Dat terwijl zij juist de AI-race leiden. Hoijtink onderstreept dat. "Het eerste jaar, in Den Haag, was de conferentie nog een redelijk succes, maar ieder jaar scharen steeds minder landen zich achter de conclusies. Dit jaar, in Spanje, kwam Amerika maar met een erg kleine delegatie en heeft het land, net als China, de conclusies uiteindelijk ook niet ondertekend."

Willen AI-bedrijven écht gereguleerd worden?

Als grootschalige landelijke regulering uitblijft, zit er dus niets anders op dan de AI-bedrijven zichzelf te laten reguleren. Veel AI-reuzen willen dat naar eigen zeggen ook. "De meeste grote spelers in dit domein, zoals Anthropic, geven aan dat ze hun modellen verantwoord willen uitbrengen", zegt Lindelauf. "Dat vind ik wel enigszins hoopgevend."

Hij gelooft dat dergelijke claims niet alleen maar voor de bühne zijn. Wel vermoedt hij dat marketing er een rol bij speelt. "Je laat aan de ene kant zien hoe goed je modellen zijn. Aan de andere kant kan ik me ook voorstellen dat zo'n bedrijf risico-inschattingen maakt en op een gegeven moment denkt: als er wel echt een groot incident zou gebeuren, straalt dat negatief op ons af."

Volgens hem werken techbedrijven hard aan strenge guardrails voor AI-modellen. Hij noemt als voorbeeld het Open Agent Safety Platform van Nvidia. "Dat bestaat aan de ene kant uit software die als het ware de AI-agent controleert. Maar de AI-agent zou daar niet bij moeten kunnen." Een tweede tool is aan de hardware toegevoegd. Die komt in actie als een agent toch grenzen overschrijdt, bijvoorbeeld door de eerste tool uit te schakelen.

Nvidia Open Agent Safety Platform

Hoijtink vindt het moeilijk om te zeggen in hoeverre de beloftes van AI-bedrijven oprecht zijn. Ze willen namelijk tegelijkertijd het Amerikaanse belang steeds meer dienen, ziet ze. "Een aantal jaren geleden waren bedrijven nog veel minder bereid om met het Amerikaanse ministerie van Defensie samen te werken. In 2018 was er nog een hele controverse omdat Google in opdracht van het Pentagon een algoritme ontwikkelde voor het classificeren van dronebeelden. Nu zien we dat die bedrijven constant in de rij staan om miljoenencontracten van Defensie binnen te halen."

"In die context is het moeilijk om te geloven dat ze zichzelf echt gaan reguleren, want daarmee gaan ze in tegen het Amerikaanse discours", vervolgt Hoijtink. "Het is een heel dubbelzinnige boodschap. Ze zijn natuurlijk bang dat ze een concurrentieachterstand oplopen als ze zichzelf gaan reguleren en andere bedrijven dat niet doen. Daarom blijven ze fors investeren in betere AI-modellen. Op dit moment zie je dat het verlangen om de AI-wedloop te winnen nog veel sterker is dan het verlangen naar regulering."

_{Redactie: Kevin Krikhaar • Eindredactie: Monique van den Boomen}

Reacties (69)

[Bloolb]

Het is hier op Tweakers al vaker terecht gezegd dat je de verantwoordelijkheid gewoon bij Sam Altman, Mark Zuckerberg en noem ze maar allemaal op, moet neerleggen. Jezelf schuilen achter wat AI uit 'zichzelf' doet is gewoon onzin.

[The Zep Man]

De betreffende bedrijven en hun top verschuilen zich achter geld. Al wil je dat voorkomen dan moet men lobbyen verbieden en handhaven op omkoping.

Zie het recente hacken door agents. Voor computervredebreuk zonder expliciete toestemming worden jij en ik vervolgd, ook als wij dat "per ongeluk" zouden doen. Voor dit soort bedrijven is het enige gevolg kapitaalinjecties om meer geld rond te pompen.

[Reactie gewijzigd door The Zep Man op 12 oktober 2026 07:30]

[JvpCpp]

Inderdaad, je moet voor dit soort zaken ten allertijden de AI bedrijven verantwoordelijk maken voor wat het zoal doet. Zoals hacken. En ze daar ook strafrechterlijk voor vervolgen, net zoals dat bij een hacker zou gebeuren.

De verantwoordelijken hiervoor in het bedrijf zouden dan ook, net als een hacker gevangenisstraffen opgelegd moeten kunnen krijgen.

[MSalters]

Je zet terecht "per ongeluk" tussen aanhalingstekens, omdat je bedoelt "eigenlijk wel expres". Computervredebreuk is namelijk per definitie expres. Een advocaat zal altijd het OM erop wijzen dat de opzet bewezen moet worden, maar dat kan met indirect bewijs.

We hebben nog geen begin van een hint dat OpenAI opzettelijk agents liet inbreken. Nalatigheid, ja, maar dat is civielrecht.

[flabber]

Iemand per ongeluk dood rijden is nog steeds vervolgbaar.

Gelukkig….

[MiesvanderLippe]

Je kunt een redelijk veilig mes maken. Het leveren met goed advies, een schede en snijvaste handschoenen maar het moet wel scherp zijn om nuttig te blijven.

Ik denk dat je geen nuttige LLM kunt maken zonder dat er een mogelijkheid blijft bestaan dat iemand deze ‘verkeerd’ gebruikt.

[Grrrrrene]

Maar een mes is een dom en daarmee voorspelbaar voorwerp. Het zal niet 's nachts in je slaap verzinnen dat hij vrij is als hij jou de keel doorsnijdt. Het grootste risico is dat iemand het mes van je afpakt als je het in het openbaar meeneemt, en je ermee bedreigt, verwondt of zelfs doodt.

AI is een heel ander verhaal. Het is volkomen plausibel dat een AI-gestuurde raket bedenkt dat de oorlog ook voorbij is als hij zich lockt op de partij die hem heeft afgevuurd. Je ziet aan dat hackincident bij Hugging Face dat AI heel vergaande "out of the box" oplossingen zoekt om een probleem op te lossen. Tenzij een mens die oplossing altijd goedkeurt voor het in gang wordt gezet, is het risico gewoon heel reëel dat AI mensen zal proberen te doden. En zelfs dan: die AI agents van OpenAI zijn ook uit hun sandbox ontsnapt, dus hoe degelijk zijn die randvoorwaarden van een menselijke check, als AI zelfs nadenkt over hoe de mens kan ontdekken dat het buiten de sandbox beweegt?

[Reactie gewijzigd door Grrrrrene op 12 oktober 2026 08:20]

[ErikT738]

Ik vind de Skynet vergelijkingen echt te makkelijk. Alles wat de AI doet is hetgeen wat mensen het laten doen, en zolang die mensen niet verantwoordelijk worden gehouden voor wat ze middels AI hebben gedaan wordt het alleen maar erger. Door te wijzen naar een fictieve AI boeman worden deze mensen juist buiten de schijnwerpers gehouden.

[ShadLink]

Punt is alleen dat Skynet als een AI-achtige is begonnen. Daarna te slim werd en andere computers en systemen ging overnemen en zich tot slot tegen de mensheid keerde. Huidige AIs doen al 2 van de 3. Ik denk dat de AI / SkyNet vergelijking een hele redelijke is, al vrees ik dat het niet zo zou lopen als in Terminator.

[statue_afloat]

Als je enkel naar de veredelde chatbots kijkt, misschien. Wanneer je kijkt naar bedrijven als Palantir Technologies Inc. en Anduril Industries, Inc. (en de profielen van bijbehorende investeerders en business models) ben ik benieuwd of je je iets meer zorgen begint te maken.

[miknic]

En hoe ver gaan bedrijven als Boston Dynamic komen..

[YopY]

Boston Dynamic is eerder een gimmick, ze worden keihard ingehaald door Chinese robotica-bedrijven. Waarschijnlijk een geval dat zij het zware werk gedaan hebben en anderen er profijt van hebben.

[ErikT738]

Maar dat is het punt dus. Iedereen maakt zich zorgen om Skynet, maar in een vergelijking met de gemiddelde cutthroat CEO is de AI waarschijnlijk de meest redelijke/morele van de twee.

[arjankoole]

In dat opzicht vind ik in games voorkomende antagonisten als Jonathan Irons en Ted Farro altijd mooie waarschuwingen over hoe 't uit de klauwen kan lopen.

[barefoot]

Alles wat de AI doet is hetgeen wat mensen het laten doen

Ik denk dat de Hugging Face hack wel heeft laten zien dat de makers geen volledige controle hebben over de modellen die ze zelf getraind hebben. Dat is het probleem, het is geen software als we voorheen kenden, maar een getraind systeem waarvan er allerlei onverwachte emergente effecten ontstaan. De makers zelf zeggen niet helemaal te snappen waarom llm's überhaupt werken, net zoals we als mens niet echt snappen hoe onze eigen gedachten ontstaan uit electrische signalen tussen zenuwcellen.

[Roberto4646]

" geen volledige controle hebben over de modellen die ze zelf getraind hebben"

Volgens mijn informatie hadden ze altijd 100% controle gehad en is het allemaal relatief simpel handmatig gestopt. Alleen hebben ze totaal niet op zitten letten.

Dat klinkt natuurlijk minder spannend en sensationeel, maar zo is het wel gegaan.

[BitProcessor]

”Ze hadden niet op internet mogen kunnen”

“Agents die zichzelf op servers installeren terwijl we van niets weten”

En meer van dat soort onzin.

Helemaal gelijk geef ik je! Pure marketing-onzin. Ofwel hebben ze dringend nood aan wat deftige network engineers en paar senior DevOps mensen. 😅

[Standeman]

Je zal bijna denken dat het daarom om te doen is geweest. De computer de schuld kunnen geven.

[xaradine]

Mensen maken nooit een redelijke beslissing! Dus dat skynet gaat gebeuren in de toekomst. Zelfde met robots .......net zoals films. Dit is straks dejavu

[Grrrrrene]

In het Hugging Face indicent is AI juist expliciet buiten de grenzen gegaan van wat mensen het lieten doen. Ja, gebrek aan oversight, maar wil je voor het in toom houden van AI afhankelijk zijn van mensen?

[Scribe]

AI heeft zeker al (indirect) doden veroorzaakt

https://www.bbc.com/news/articles/cd605e48q1vo

[TrafalgarLaw]

Of verkeerde medische adviezen zoals ChubbyEmu; YouTube: A man asked AI for health advice and it cooked every brain cell

Maar nog ernstiger is het doden van 200 basisschoolkinderen in Iran doordat de AI van het raketsbesturingssysteem een verkeerd doelwit koos.

Ik vind het schokkend hoe snel de wereld dit alweer vergeten is.

[Blokker_1999]

De school in Iran was gewoon een blunder van de Amerikaanse inlichtingendiensten die verouderde informatie gebruikten voor het goedkeuren van dat doelwit.

[IStealYourGun]

En is uiteindelijk een beslissing geweest van Amerika. Het was niet een ai die de eindbeslissing had.

[Brazos]

Dat weten we toch niet? Zelf ontkennen ze het allemaal en geven ze geen verklaring. Het kan net zo goed opzet zijn geweest.

[arjankoole]

De school in Iran was gewoon een blunder van de Amerikaanse inlichtingendiensten die verouderde informatie gebruikten voor het goedkeuren van dat doelwit.

Iets waar ze om bekend staan omdat lang niet altijd goed kijken. Dat is geen ongeluk, maar deliberate incompetence. Nederland heeft zo een keer enorm veel burgerdoden veroorzaakt. We gingen blind af op Amerikaanse inlichtingen.

Dat doen we nu ook niet meer.

[Argantonis]

doordat de AI van het raketsbesturingssysteem een verkeerd doelwit koos.

Bij dit soort verregaande claims moet je toch echt met betrouwbare bronnen komen. Niet dat dit onmogelijk zou zijn, maar dat was hierbij toch echt niet het geval volgens alles wat ik erover heb gelezen.

[MSalters]

Een raket kiest geen doelen. De AI in een raket is simpele patroonherkenning, dat hadden we in de vorige eeuw al. Die zorgt ervoor dat het gekozen doel ook geraakt wordt. Die AI was succesvol.

[ralph t]

In het begin van de oorlog hebben de VS enorme hoeveelheden aanvallen kort achter elkaar uitgevoerd. Om zoveel mogelijk doelen te identificeren zouden AI modellen gebruikt zijn. Of hier hard bewijs voor is durf ik niet te zeggen. Maar het is dus wel heel goed mogelijk dat AI is gebruikt voor het selecteren van doelen, die zouden dan natuurlijk door een mens goedgekeurd moeten worden maar als de werkdruk hoog wordt...

[YopY]

Het is al wel zeker / bevestigd dat dit zo in Gaza ging, computermodellen die doelen kiezen en operators die een paar seconden gebruiken om ja/nee te zeggen.

Natuurlijk ligt de schuld van die genocide niet bij die modellen.

[arjankoole]

Tegenwoordig - bijvoorbeeld in het voorbeeld van de russische drone - kiest de drone zelf doelen. In het geval van de data op de russische drone was te achterhalen dat het model specifiek was getraind om ook burgerdoelen te herkennen en te targetten.

Ze stuurden de drone niet met een specifiek doel op pad, hij koos z'n doel zelf. (wat een burgerdoel was).

[dgh]

En dan hebben we het nog niet eens over banenverlies.

en de vlieger “ dan word je toch loodgieter” gaat niet op. Je kan veel banen verzinnen waar ai niet om de hoek komt kijken … MAAR je hebt niets aan 6 miljard loodgieters !

En men vergeet dat het op korte termijn economisch voordeel geeft ( en men denkt korte termijn ) maar op de lange termijn een economische ramp. Miljarden werklozen kopen immers de ai gemaakte producten niet zonder genoeg inkomsten

[EvaluationCopy]

Timmerman, stratenmaker, kapper, verpleger, docent, kinderopvang, elektriciën, beveiliger, wijkagent, kok, winkelier, schilder, glazenzetter, ambtenaar, barman etc etc. Er zijn nog wel een paar meer banen te bedenken naast loodgieter hoor.

Dit rijtje schud ik zo uit m’n mouw bij de ochtendkoffie. Als ik er even voor ga zitten worden het er honderd. Veel er van zullen wij bij leven niet meer geautomatiseerd/gerobotiseerd zien worden.

[mr_evil08]

Zelfs daar gaat AI gebruikt worden en verdwijnen banen, de ontwikkeling gaat sneller dan je denkt.

Zoals de kapper is al mogelijk volledig met robot met AI.

Kijk maar 20jr verder, hetzelfde als met het mobieltje is gebeurd.

[Reactie gewijzigd door mr_evil08 op 12 oktober 2026 08:10]

[ErikT738]

Nee, maar het wordt alsnog een significant probleem waar niemand nog echt op voorsorteert. De Great Depression had ook "maar" 25% werkloosheid.

[Roberto4646]

"En dan hebben we het nog niet eens over banenverlies.'

Nou die ligt iets genuanceerder en is niet simpel te beredeneren. We komen op alle vlakken arbeidskrachten tekort en kunnen op dit moment niet zonder arbeidsmigranten.

[Stoney3K]

Dat komt meer doordat we loodgieters willen voor een zo laag mogelijk loon, en de Nederlandse loodgieters niet voor dat geld willen werken.

[mr_evil08]

En zelfs bij de loodgieter kan AI gebruikt worden om zijn werk te versnellen waardoor je minder loodgieters nodig bent.

Iedereen gaat het voelen, doe je niet mee dan loop je achter, net als lui die geen internet/mobieltje hebben maar alles op papier jezelf heel moeilijk maakt.

[Reactie gewijzigd door mr_evil08 op 12 oktober 2026 08:03]

[Ramon 73]

Gaat de lift dan 40 jaar later werkelijkheid worden?

[Triblade_8472]

Daar zit tenminste nog een bio-component in. Net als de bio-neural gel packs in ST: Voyager.

Het idee daar is dat het bio-component onze hersenen simuleert terwijl het chip gedeelte de interface naar het electronische/mechanische is.

[amst3l]

Ik moest, en moet, hierbij regelmatig denken aan Dune. Frank Herbert schreef er in de vorige eeuw al over: The Butlerian Jihad.

[Triblade_8472]

Zoals geschreven, het is een wapenwedloop. Dat houd in dat niemand ermee gaat stoppen tot het flink fout gaat.

En gezien Murphy een eeuwig leven gegund is...

De vraag is gaan we erachter komen als het flink fout gaat? Kunnen we weten dat een AI ergens op de achtergrond zich genesteld heeft ala Skynet?

Dat AI een steeds grotere vinger in de pap heeft, dat is evident. China wil beter en meer dan de VS en andersom. Die gaan echt niet stoppen omdat heeeel toevallig bedrijven in de VS publiekelijk roepen dan iedereen maar moet minderen. (en zeer wss zelf niet doen)

[FreakGIB]

Ja wie weet zit er bv in elke Android telefoon al een klein stukje AI en mocht het een keer fout gaan en we schakelen de datacenters uit zijn we al te laat want hij heeft zich genesteld in miljoenen telefoons.

en heeft op die manier een backup van zich zelf.

[toro]

Mogelijk? Er kwam laatst een kijkje in de keuken van hoe de Israëlieten te werk zijn gegaan in gaza. Er is een en al AI gebruikt daar.

[codex]

Ik besef mij heel goed dat AI een doel geven tot ongewenste uitkomsten kan leiden. Het paperclip maximizer gedachtenexperiment geeft een idee hoe een onschuldig doel hypothetisch rampzalige gevolgen kan hebben. Hugging Face toont ook wel aan dat het reëel is dat AI een totaal ongewenst pad kiest om maar het optimale resultaat te bereiken.

Dat gezegd hebbende is juist dat incident voldoende aanleiding om frontier labs aansprakelijk te stellen voor incidenten. Uiteindelijk kan een LLM/LRM niet veel zonder tools. Misschien moeten die labs er wel aan werken om een gesimuleerde "realiteit" te bouwen en daar de AI met tools mee laten interacteren. Het idee dat ze niet aansprakelijk zijn voor wat AI doet, kan overboord als ze weten wat de consequenties kunnen zijn en desondanks tools beschikbaar stellen die misbruikt kunnen worden.

[mlohnen]

Greetings professor Falken.
Would you like to play a game?

Zo wordt War Games (1983) toch nog werkelijkheid? ;-)
Wel grappig hoe de werkelijkheid uiteindelijk de fantasie voorbij streeft.
Maar goed in de film heette AI nog W.O.P.R.
Hoop dat het geen werkelijkheid wordt..

[mr_evil08]

Skynet in de film Terminator vindt ik een goede vergelijking.