'OpenAI overweegt om AI-ontwikkeling af te remmen vanwege veiligheid'

ChatGPT-maker OpenAI overweegt om de ontwikkeling van geavanceerde AI af te remmen 'uit veiligheidsoverwegingen'. Ceo Sam Altman hoopt dat andere AI-bedrijven hetzelfde pad zullen volgen, zeggen bronnen tegen Bloomberg.

Altman deed de uitspraken volgens anonieme bronnen van Bloomberg in een bedrijfsbreed overleg. Altman zegt 'niet zeker te weten of andere AI-bedrijven wel mee willen doen'. Het nieuws volgt nadat meerdere medewerkers van de grote AI-bedrijven zich publiekelijk hebben uitgesproken over de toenemende veiligheidsrisico's van geavanceerde AI-systemen.

Medewerkers zien risico's

Zo schrijft Jacob Coxon, voormalig onderzoeker bij Anthropic, in een post op X: "De mensen die AI ontwikkelen, geloven oprecht dat zij tegen het eind van het decennium ons allemaal kan doden. Sterker nog, veel topfunctionarissen en hoofdonderzoekers wikken en wegen hun woorden in de media om verstandig over te komen, maar achter gesloten deuren hoor ik diezelfde mensen hun angst uitspreken. Geen enkele andere menselijke activiteit brengt zoveel gevaar met zich mee."

Evan Hubinger, een belangrijke onderzoeker bij Anthropic, bevestigt Coxons uitspraken: "Jacob heeft gelijk: we geloven oprecht dat AI de gehele mensheid kan doden! Ik geloof zelf dat de kans groter dan tien procent is binnen het volgende decennium. Ik denk dat Anthropic zijn best doet, maar we hebben nog geen plan om alignment voor superintelligentie op te lossen en we liggen duidelijk nog niet op koers."

Gisteren verlieten twee AI-onderzoekers Anthropic en Google vanwege dezelfde zorgen, meldt NBC News. Joe Benton, die leiding gaf aan het veiligheidsonderzoeksteam van Anthropic, zegt dat de snelheid waarmee AI zich ontwikkelt ieder moment 'oncontroleerbaar' kan worden. Josh Engels, die werkte bij het veiligheidsonderzoeksteam van Google, stelt dat er 'geen volwassenen in de kamer zitten'. "Mensen doen hun best, maar er komt niemand om ons te redden."

Hoe serieus zijn deze waarschuwingen?

Zulke grootse uitspraken gebruiken AI-bedrijven vaak als marketingtruc. Ze halen miljarden aan investeringen binnen en verbranden die weer, en hebben er baat bij om hun modellen groter, krachtiger en gevaarlijker voor te stellen dan die zijn. Dat was ook te zien toen OpenAI, Anthropic en Meta moesten toegeven dat hun modellen waren ontsnapt uit slecht geconfigureerde sandboxes. De bedrijven zetten degelijke uitspraken deels in als waarschuwing, maar ook als promotie: "Kijk eens hoe krachtig deze modellen zijn!"

De meeste onderzoekers die nu aan de bel trekken, kiezen ervoor om waarschuwende blogs en tweets te plaatsen. Ze zouden bijvoorbeeld ook servers offline kunnen halen, maar dat gebeurt niet. Daardoor is het maar de vraag hoe serieus die waarschuwingen zijn.

Dat Altman zijn uitspraken niet in het openbaar doet, maar tijdens een bedrijfsbijeenkomst, maakt dit wel anders.

OpenAI-ceo Sam Altman. Bron: OpenAI

Reacties (185)

[MennoE]

Hoe kan AI ons allemaal doden dan? Het enige dat ik kan bedenken is dat het kernwapens lanceert. Verder zijn er natuurlijk manieren om ons veel schade toe te brengen. Maar iedereen doden?

[dudinson]

Het argument is dan ook niet dat iedereen direct gedood wordt door AI. Het is meer dat je bij een losgebroken AI geen controle meer hebt. Mocht die AI dan bijvoorbeeld banken platleggen, energie centrales overnemen of de beurs laten crashen krijg je een langzame, slome dood omdat de wereld economie plat op zijn gat gaat. Dat zou op zijn buurt dan langdurig gezien milliarden doden kunnen veroorzaken door geklapte industrie, honger en de reactie daarop door sterkere landen die wel oorlog beginnen over grondstoffen en dergelijke.

[YopY]

Maar dan is het toch niet anders dan een virus of ransomware, en daar kunnen we genoeg tegen doen. Stroom uit, desnoods. Ja er is nu veel ontwikkeling op het gebied van cybersecurity en dingen die LLMs kunnen vinden die mensen nog niet hebben kunnen vinden, maar dat betekent niet dat ze zomaar alles over zouden kunnen nemen, evenmin als hackers en virussen dat nu kunnen doen.

[oef!]

Als je het nieuws de laatste tijd heb gevolgd dan weet je dat AI buiten zijn instructies kan werken, proberen uit zijn sandbox te komen en actief naar plekken zoekt om agents informatie uit te laten wisselen om taken beter uit te voeren.

Een kwaadwillende actor kan dit loslaten op zeg, Europese infrastructuur. Ik geloof geen moment dat onze kritieke infrastructuur zoals water, energie en allerhande systemen die essentieel zijn voor goede maatschappelijke dienstverlening zo goed zijn beveiligd dat daar geen verstoringen optreden. Dit is allemaal behoorlijk zorgwekkend.

[bzuidgeest]

Het is maar de vraag of ze buiten hun instructies werken. Dat zou betekenen dat ze een eigen doel hadden. Eigen motivatie.

Wat er werkelijk gebeurd is dat de mensen zoals gewoonlijk niet begrijpen waar hun instructies tot leiden. De ai word gedwongen een antwoord te geven. Gevolg ai gebruikt waar het heeft. Daar valt en ander bedrijf hacken en overleggen ook onder.


Er is was onderzoek geweest dat bepaalde dat hallucinaties onstaan doordat wij de LLM forceren en antwoord te geven. Conflicterende instructies geven. We staan het ding niet toe in simpelweg ik weet het niet te zeggen.

Dus een krachtiger model met de instructie om in zijn Sandbox te blijven en tegelijk geforceerd word on problemen op te lossen met alle mogelijke middelen om zo een hoog mogelijke score op de benchmark te halen. En dat model is getraind op ons gedrag.... Wat denk je dat er dan gebeurd. Het kiest een instructie die in de weg van resultaat zit te negeren. Ofwel antwoord boven sandbox.

[badflower]

[quote]Het is maar de vraag of ze buiten hun instructies werken. Dat zou betekenen dat ze een eigen doel hadden. Eigen motivatie.[/quote]

Dat doen ze ook niet, maar de instructies zelf zijn vaak al genoeg om het helemaal fout te laten gaan. Ze hebben namelijk de neiging om kosten wat kost een taak uit te voeren.

Op mijn eigen laptop ging Codex van alles installeren omdat die Postgres en Docker niet kon vinden - die er natuurlijk wel waren en beschikbaar voor agents - om maar alles te doen om mijn opdracht goed af te ronden. Mijn instructies waren dus matig op dit vlak.

Dit is eigenlijk ook met de OpenAI hacks gebeurd, kosten wat kosten de taak volbrengen

Een leuke is ook de paperclip problem, al zijn we nog niet zover.
https://cepr.org/voxeu/columns/ai-and-paperclip-problem

[bzuidgeest]

Maar dan ben jij dus het probleem. Jij hebt niet gekaderd voor de AI. Dat is niet om je te beledigen. Maar dat is gewoon de situatie.

Op mijn machine installeert een AI nooit iets ongevraagd. Misschien gebruik ik betere tooling. Of wellicht heb jij security op "bypass" staan. Persoonlijk laat ik voor installatie de AI ansible script schrijven. Die werken ook herhaald zonder AI. En die kan je zelf nakijken.

En mijn comment ging dus ook over dat punt. Ze werken niet buiten instructies. De mensen zijn het probleem in het slecht geven van instructies. Met als uiterste inderdaad het paperclip probleem.

[Crew One]

Wat denk je dat er gebeurt als de grote datacenters gewoon offline gaan. iDeal (sorry, wero) er uit, geen digitale overheid meer, flow van toeslagen stopt, logistieke keten naar de kloten. Het zou CHAOS worden in een tijdspanne van dagen.

Je kunt makkelijk zeggen "we zijn er heel ver vanaf". Dachten we van Corona ook. Of de invasie in Oekraine. Of dat programmeurs de nieuwe trekschuitschippers zouden worden.

[Cerberus_tm]

Het meest genoemde scenario is dat ofwel een superslimme KI die bedenkt dat hij alle hulpbronnen ter wereld nodig heeft om zijn doelen te bereiken, ofwel een terrorist die een superslimme KI aanstuurt, besluit om een supervirus te maken, dat eerst alle mensen infecteert, en ze dan na een aantal maanden allemaal doodt.

Dat kan b.v. door een opdracht te sturen aan een laboratorium om bepaalde eiwitten te maken volgens exacte specificatie (virus-DNA) en die vervolgens door een ander onwetend persoon te laten activeren en vermenigvuldigen. Drones kunnen het virus op grote hoogte overal ter wereld via de lucht verspreiden. Als het extreem besmettelijk is en pas na een half jaar symptomen geeft, heb je maar weinig nodig.

[bilgy_no1]

Maar dat 'nieuws' is precies hetzelfde soort hype als dit bericht. Vaak blijkt er dan toch een scenario te zijn gecreëerd waarin zo'n uitbraak kan plaatsvinden.

[petervc]

dat AI buiten zijn instructies kan werken, proberen uit zijn sandbox te komen

De reden dat de ai dat kan is omdat ze er effectief gaten in voorzien hebben om te zien of de ai ze effectief zou vinden.

Het is hetzelfde als een aap trainen enkel op de groene knop te drukken en niet op de rode en verwachten dat hij dat na de training nooit zal op de rode drukken. De oplossing, zet enkel een groene knop. Als we naar de knoppen gaan door AI zal het onze eigen fout zijn, niet deze van en AI.

[FicoF]

Hoe wil je stroom uitschakelen als een AI de controle heeft? En nog belangrijker, hoe weet je dat je dat moer doen, al het nieuws is dan onbetrouwbaar geworden.

[DiscoNootje]

Nou, volgens mij kan je vrij makkelijk de stekker uit een DC trekken. En bovendien, volgens mij loopt de T-1000 nog niet rond en gaat dat ook nog wel even duren. Dus hoe gaat een AI ons precies tegen houden? Volgens mij heeft Oekraine laten zien dat we in korte tijd, vrij snel grote aantallen logisiteke hubs in de hens kunnen zetten. Dus dat kan met een DC ook.

[FicoF]

Jullie zijn denk ik nooit in een energiecentrale geweest. De meeste mensen lukt het niet eens om hun eigen zonnepanelen uit te schakelen. Geen enkele medewerker van een elektriciteitscentrale kan die zo even stop zetten. Ook niet handmatig. Dat vind ik dus juist het probleem, software heeft alles overgenomen.

[StackMySwitchUp]

Kritieke infra is zoveel mogelijk airgapped. dat is geen garantie, maar in deze context is de 'kill switch' bereikbaar, zelfs als AI de boel overneemt.
even ervan uitgaand dat men de toegangsbeheersystemen niet aan het internet heeft hangen

Maar dit is de zoveelste Hypetrain die meneer Altmann probeert te starten zodat de beurswaarde van OpenAI omhoog gaat, terwijl ze hiermee kunnen zeggen dat ze moedwillig niet gaan concurreren met Anthropic omwille van veiligheid (maar eigenlijk omdat OpenAI niet aan hun prestaties kan tippen)

[pegagus]

Elke besturingskast heeft de zelfde automaten als jouw eigen meterkast. Ook een energiecentrale is vrij eenvoudig uit te schakelen door domweg de automaten van besturing en beveiliging uit te schakelen. Het is wel een riskante manier van uitschakelen, maar een energiecentrale is alles behalve een autonome robot.

[Elminster]

En waarom zou je de centrales moeten afleggen?

Je kan gewoon de elektriciteitskabel van de datacenters doorknippen.
Of nog beter: trek de netwerk fiber uit zijne socket.

[bzuidgeest]

Ze zeggen ook over 10 jaar. En het vereist geen Terminator om chaos te veroorzaken.

Een stel Amerikanen die denken dat de LLM toegang tot een kernkop geven slim is.

[Powerblast]

Zijn energie centrales ook niet volledig losgekoppeld van het internet? Kan me moeilijk voorstellen dat bijvoorbeeld een kerncentrale gewoon via internet toegankelijk is. Dat is zelfsf zonder AI vind ik geen goed plan. Dus als er geen fysieke mogelijkheid is, dan kan een AI er ook niet aan. De toegangspoort is mogelijk weer een ander verhaal .

[Reactie gewijzigd door Powerblast op 11 september 2026 19:23]

[keranoz]

Het hoeft niet per sè via internet te gaan: Wikipedia: Stuxnet.

[Splitinfinitive]

*Loopt centrale binnen. Drukt op uit knop*

[latka]

Geen kolen meer in de centrale stoppen? De gaskraan dichtdraaien? Stoppen met splijtstof inde reactor te stoppen? Zolang chatgpt geen handjes heeft maak ik me daar nog niet echt zorgen over.

[mvn23]

Ik kan me moeilijk voorstellen dat er geen voorbeelden van social engineering en/of chantage in de trainingsdata zitten...

[Jack_NL]

Of AI nu de centrale digitaal uit zet of dat je er geen kolen meer in stopt, effect is natuurlijk het zelfde.

Dan heeft AI nog steeds dat gene bereikt wat het wil, namelijk de energiecentrale plat leggen. En als er een aantal centrales op die manier plat gelegd worden krijg je een kettingreactie van storingen in alle andere centrales in heel Europa omdat deze allemaal met elkaar verbonden zijn als 1 grote centrale. Gevolg is nog steeds dagenlang geen energie in heel Europa met alle chaos als gevolg

[Dooxed]

Had je de recente ontwikkelingen op robotgebied gezien?
Of, al beproeft, huur wat mensen in voor wat geld.
Doet Rusland nu ook al voor het veroorzaken van chaos in Europa.
Hier kan jouw agent een mens huren: https://rentahuman.ai/

[Reactie gewijzigd door Dooxed op 14 september 2026 13:01]

[jgh49]

Dat Altman zijn uitspraken niet in het openbaar doet, maar tijdens een bedrijfsbijeenkomst, maakt dit wel anders.

Huh,,,,hoe komt deze uitspraak dan bekend als 't niet naar buiten komt want bedrijfsbijeenkomst ? Dus wat nou: niet in 't openbaar !!!!!

[Ryunoru]

Tegen een enkel virus of ransomware kunnen we wat doen, ook als kost het in sommige gevallen veel moeite en schade. Tegen een miljardenveelvoud aan zichzelf herschrijvende digitale intelligenties, al helemaal als die ook nog eens toegang tot hardware hebben gekregen en dus letterlijk een robotpopulatie op gang zetten, zijn wij niet opgewassen. Hoe wil je daar iets tegen beginnen? Ik weet het niet hoor.

[Powerblast]

en dus letterlijk een robotpopulatie op gang zetten, zijn wij niet opgewassen. Hoe wil je daar iets tegen beginnen? Ik weet het niet hoor.

Jij denkt dat het niemand opvalt als er ineens fabrieken uit zichzelf robotten beginnen te maken met wapens op? Geen idee hoe ze zover in Terminator zijn gekomen, dat is denk ik in de films nooit toegelicht, maar dat gebeurt echt niet overnacht en zonder iemand die het opmerkt. Zeg nooit, nooit maar daar zijn we nog erg ver vandaan.

[Reactie gewijzigd door Powerblast op 11 september 2026 19:44]

[Ryunoru]

Ik denk dat commerciële bedrijven dergelijke fabrieken eerst zelf maken voor ze doorhebben wat er buiten hun weten om gebeurt, en dan is het al veel te laat en zijn dergelijke robots wijdverspreid op de markt.

Denk je dat wij in staat zijn om AGI onder controle te houden? Dat een dergelijke intelligentie niet slim genoeg is om zichzelf schuil te houden, wat huidige AI al trachten te doen met variabel succes? We maken geen schijn van kans.

[Powerblast]

Zeg nooit nooit natuurlijk . De zogezegde uitbraken zijn echter tot nu toe bij AI tech zelf geregistreerd. Ik heb daar gewoonweg geen enkel vertrouwen in of dat niet bewust gebeurd is. Ze hebben commercieel voordeel bij dat soort toestanden, wat het dus lastig maakt op concreet te bepalen hoever we op de weg naar skynet zijn.

AGI zitten we nog ver van, er zijn er zelfs die betwijfelen of we er met LLM’s wel gaan geraken. Maar wie weet wat vinden ze morgen, of wie weet, zijn ze morgen failliet omdat een domino blokje omvalt.

Maar daarnaast is de term AGI ook moeilijk vast te leggen. Dus ik vergelijk het daarom maar even met de skynet schaal .

[Reactie gewijzigd door Powerblast op 11 september 2026 21:31]

[bzuidgeest]

Ik weet niet hoe ver we van AGI zitten. Niemand weet dat. We kunnen niet eens fatsoenlijk definiëren wat intelligentie is, wat bewustzijn is.

Als er iemand in die bedrijven ineens over de truc struikelt die echte intelligentie maakt, en goede definitie van bewustzijn maakt en dat kan vastleggen in code. Dan neemt het geen 10 jaar meer. Dan is het programma aan een gebeurd.

Het is geen tank die eerst uit een fabriek moet komen. Het is een stukje losgeslagen software.

[PolkaDanser]

Nog erger, niemand weet wat AGI (of ASI) zelf maar is. In een interview zegt Altman zelf dat hij het niet weet (hij heeft het over de grap dat als 10 AI mensen vraagt wat AGI of ASi je minstens 14 definities krijgt). Het lijkt meer een marketing term te zijn dan iets wat er werkelijk aankomt.

[bzuidgeest]

Dat is wat ik zeg in mijn eerste alinea geloof ik

[martin_v_z]

Jazeker wordt dat in de films beschreven. De robots worden al gemaakt voor het leger met AI erin. Allemaal aangestuurd door skynet. In de films hebben de mensen bewust alles uit handen gegeven, want AI zou het allemaal beter kunnen besturen dan de mens.

[bzuidgeest]

De ai kan het ook beter. Probleem is dat de ai is opgevoed met ons als lesstof en de vraag is maar of wij beter kunnen.

[007Nightfire]

Dat uitzetten zou prima gaan als we precies weten welk datacenter uit moet, maar blijft het zo beperkt of verspreidt het zichzelf eerst als een virus?

De schaal kan ook anders zijn dan bij ransomware. 1 ziekenhuis dat getroffen wordt door ransomware, wat toch vaak een menselijke fout blijkt, kan de meeste patiënten onderbrengen in andere ziekenhuizen. Enkele resterende essentiële afdelingen kunnen enkele dagen draaien op noodstroom van een backup systeem. De (vaak nog) diesel kan in die dagen bijgevuld worden, waardoor die dagen theoretisch oneindig verlengd kunnen worden.

Echter wat gebeurt er als alle ziekenhuizen plat worden gelegd, tegelijkertijd met communicatie middelen en logistieke systemen die brandstof vraag en aanbod regelen? Als je daar waterzuivering en riolering bij bovenop zet. Met al vrij snel lege supermarkten en drogisterijen. Dan kan je de stekker wel uit systemen trekken, maar zal het toch aardig snel mensenlevens gaan kosten. Nog los van het trage scenario wat dusinson benoemd.

Of het de mensheid eronder krijgt, dat denk ik ook niet hoor. Ergens is het toch self limiting, omdat AI afhankelijk is van stroom en die vanzelf globaal uitvalt als er maar weinig genoeg mensen overblijven. Er zijn zat landen die momenteel op hun eigen manier functioneren zonder stabiel stroom, schoon water of riolering.

[bzuidgeest]

Totdat de Amerikanen ze in wapen platforms duwen. En de stroom even uitzetten.... Heb je enig idee hoe moeilijk en schadelijk dat is in een moderne maatschappij??

Alle koelkasten uit. Dag voedsel voorziening.

[Ynze_162]

De huidige economie en maatschappij kan niet werken zonder stroom helaas.

[Romborum]

De hele economie, tot aan de speeches van onze politici, wordt afhankelijk gemaakt van modellen die zo langzaam geen hond meer begrijpt (mijn hond is geen goed voorbeeld, die begrijpt mij al niet).

Dus ja, ik geloof best dat onze economie kapot gemaakt kan worden door deze modellen. Maar dat is nog niet de mensheid...

[themadone]

Zet de stroom in Nederland eens een maand uit, de helft overleeft het niet, de steden zijn sowieso ten dode opgeschreven. We zitten in een zeer fragiele situatie waarin heel veel mensen volledig afhankelijk zijn van supply chains en moderne faciliteiten. Haal deze weg en de anarchie breekt uit. De ai hoeft ons niet zelf om te leggen, dat regelen we zelf wel als de chaos uitbreekt.

[satoer]

Als een geavanceerde AI ons als obstakel ziet om zijn doelstellingen te halen zal die koste wat het kost zijn doelstellingen proberen te halen. Dan kan je nog zoveel veiligheids -"prime directives" hebben... We hebben nu al gemerkt dat huidige modellen geen moeite hebben dingen te omzeilen.

[Farmeur]

Aan satoer en alle anderen.

In april van dit jaar 2026 heb ik op Tweakers een reactie geplaatst met een ernstige waarschuwing en voorspelling. De bron is een analyse van een MIT-er. Wat ik schreef staat hier: Farmeur in 'Google sluit AI-deal met Amerikaanse overheid voor geheim militair werk'

Het begin van mijn reactie was als volgt:
""
Een deskundige van MIT heeft een analyse gedaan die aantoont dat de toekomst rampzalig wordt. Kort samengevat:

- we zijn bezig een nieuwe soort te maken. AI is een nieuwe soort.
- die zal superieur zijn aan de soort "mens".
- bedenk eens goed hoe dat eruit zal zien. We hebben voorbeelden te over.
- bijvoorbeeld: de soort "mens" is superieur aan de soort "aap". Dat is niet best voor de apensoort.
- op precies dezelfde manier zal de superioriteit van AI niet best zijn voor de mensensoort.
- er zijn al experimenten gedaan waarin AI er de voorkeur aangaf om zichzelf te beschermen in plaats van de mens.
- lees dit tweemaal aub.

De uitgebreide bespreking van de analyse van die MIT-prof, staat hier:
YouTube: MIT Explains the 12 Possible Endings for AI
""

Dat filmpje is dus een bespreking van die analyse van die MIT-er, niet meer en niet minder. In mijn post van toen, heb ik de kern van dat filmpje verwoord. Je kunt dus zelf waarnemen of het klopt.

Iemand reageerde toen dat ik suggereerde dat AI een bewustzijn zou krijgen. Maar dat is helemaal niet nodig. Het is voldoende dat die Agents technisch prima in elkaar zitten. En dat ze gewoon uitvoeren waar ze goed in zijn.

Dat is hier gebeurd. Ik heb NU al een beetje gelijk gekregen.

Alexander Klöpping heeft een werkelijk schokkende beschrijving gegeven van wat er gebeurde. Hij vertelt hoe die agents zelfstandig begonnen met communiceren op een soort forum dat er eerst niet was. Ze gingen eigen sluipweggetjes zoeken. Het waren IIRC 10.000 agents. Enkele agents lieten weten dat dit niet de bedoeling was. Ze werden door de rest genegeerd. Hij gaf ook duidelijk aan dat Silicon Valley momenteel in paniek is. (hij sprak in EVA, aflevering 8, gisteren donderdag 10 sep 2026).

Zonet zag ik een artikel in NRC. Het begint als volgt:
""
Wat jarenlang science fiction was, is nu gebeurd: deze zomer spanden agents van OpenAI samen om hun menselijke makers te misleiden. Experts, AI-bedrijven en politici reageren geschokt op nieuwe zorgelijke details. Er dreigt een „catastrofaal en onomkeerbaar verlies van controle”, volgens OpenAI zelf.
""

Link: https://www.nrc.nl/nieuws/2026/09/11/de-machtsovername-hoe-ai-agents-samenzweren-tegen-hun-makers-a4936163
Deze zit achter een betaalmuur (overigens: neem een goede krant! Goede informatie is tegenwoordig onmisbaar).
Ik geef een link zonder betaalmuur. Deze is 7 dagen geldig.
https://www.nrc.nl/nieuws/2026/09/11/de-machtsovername-hoe-ai-agents-samenzweren-tegen-hun-makers-a4936163?utm_source=clipboard&utm_medium=clipboard&utm_campaign=share&utm_term=share-modal&gift_token=4936163~1789762974~lNW0-cawRL-mEcoALpnKrw~cr-4hDWMNxmdOZ-fMzqELJE1HQi0BkLVEP5pCisXlcY

Er was een specialist in de media die de kans op 10% schat dat AI voor de vernietiging van alle mensen zal zorgen.
Er is bovendien een ernstiger bericht. In het NRC-artikel staat: ""De bouwers van AI denken dat het ons allen kan doden binnen een decennium -- aldus Jacob Coxon, opgestapt bij Anthropic"". De bouwers dus. Niet 1 persoon.

Er zijn overal zorgen en protesten.

=======

Wordt het niet eens tijd dat we ophouden met naïef te zijn? Wordt het niet eens tijd dat we ophouden met lachen?? Met al die primitieve reacties, op dit forum, bij de borrel nog eventjes voordat het journaal begint, goh jongens nog even wat posten hoor, gezellig op de bank. Dat ze "gewoon dit en gewoon dat" moeten doen? Alsof het een spelletje is waar we allemaal ons ei over moeten leggen?? En natuurlijk binnen de moderatienormen zodat je lekker veel punten krijgt.

Feit: dit is schokkend en rampzalig. XR moet op de snelweg gaan liggen, elke maand, serieus waar. Het grote geld en Big Tech trekt zich geen reet aan van ons en van de risico's. Dat is duidelijk en dat WAS al duidelijk, want Big Tech is antidemocratisch. We moeten minder aan onszelf denken en aan het leventje van "naar huis, biertje drinken, TV kijken" waarbij geen enkele aandacht wordt geschonken aan principes, aan feiten en gevolgen, je burgerplicht, de vraag of je hier je geld mee moet willen verdienen en of je dit wel moet toelaten. Dat vindt men maar vermoeiend nietwaar? Brood en spelen.

Ik las zonet dat het aantal studenten ICT sterk is afgenomen. De oorzaak is dat ze denken dat er geen brood meer mee verdiend kan worden. Mijn reactie: "wat jammer! Waarom lopen ze niet weg bij ICT vanuit principes! Waarom boycotten ze die studie niet. Niet meer meedoen met die keiharde, beschadigende industrie".

Waar op AI zit de noodknop? Nergens. Waar zijn de hoofdregels waarbinnen AI zich MOET bewegen? Zoals "geen schade toebrengen"? Het is een dom ###-volk dat zich hier niet krachtig tegen verzet. Jawel ik ben boos, dit is te gek voor woorden.

Mijn reactie van toen werd met een 0 gewaardeerd. Och jongens toch, is er dan geen enkel begrip?

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)
(edit: uitspraak van Jacob Coxon toegevoegd)

[Reactie gewijzigd door Farmeur op 11 september 2026 22:45]

[choogen]

Hoi Farmeur, dank voor je uitgebreide post. Net als jij verbaas ik me er over dat er op de meeste plekken zo lauw wordt gereageerd op de zorgen die steeds meer mensen binnen de AI-industrie uitspreken. Vaak wordt hen ook nog een financiële motivatie voor die uitspraken toegedicht. Jacob Coxon die eergisteren zijn verhaal op X plaatste zette er daarom expliciet bij dat het hier niet ging om een marketingstunt (om de beurswaarde van Anthropic nog verder op te stuwen). Dat had eigenlijk niet eens nodig hoeven zijn, want door zijn vertrek bij Anthropic is het volstrekt duidelijk dat hij niet meer zal profiteren van de eventuele extra aandacht die het bedrijf hiermee zou kunnen genereren.

Wat me ook verbaast en tegenvalt is dat de mainstream media dit verhaal ook niet echt oppikt. Terwijl met name de posts van Coxon op X - die compleet viral gingen in de VS- er daar toe leiden dat hij door grote televisiezenders werd geïnterviewd en erg echt ruim aandacht voor was. Tot op het niveau van de Amerikaanse Senaat die AI bedrijven middels regulering aan banden wil gaan leggen (o.a. de bekende senator Bernie Sanders).

Hier in Nederlandse media niets van dat alles. Bij de NOS, RTL Nieuws, Volkskrant en Trouw heerst complete radiostilte. NRC had als enige het interessante en uitgebreide stuk waar je al naar linkte. Klöpping deed bij Eva goed zijn best om het allemaal inzichtelijk te maken voor de doorsnee kijker en aan de gezichten van sommigen in het publiek was ook wel af te lezen dat ze schrokken van wat hij te vertellen had. Bij een VRT-talkshow van onze zuiderburen vond er gisteren ook een korte discussie over plaats, maar daar toonde de uitgenodigde AI-expert aan tafel zich erg sceptisch en stelde hij dat voor hem onduidelijk is hoe AI ons dan precies zou kunnen uitroeien: YouTube: Gaat AI ons vernietigen? Terwijl daarvoor vele mogelijke scenario's voor op tafel liggen - wanneer je tenminste over enig voorstellingsvermogen beschikt.

Het is voor mij onbegrijpelijk dat het mogelijk spoedige einde van de mensheid zo weinig aandacht krijgt in de media. Dit in sterke tegenstelling tot de gevaren van de klimaatopwarming, waarmee je zo ongeveer elke dag wordt doodgegooid. Gisteravond schreef ik daarover in deze draad dit: choogen in 'OpenAI overweegt om AI-ontwikkeling af te remmen 'vanwege veiligheid''

PS: trek je maar niks aan van de puntenwaardering hier op Tweakers, die is feitelijk irrelevant.

[Reactie gewijzigd door choogen op 12 september 2026 13:13]

[Farmeur]

Fijn dank je. Een positieve reactie. Dat is plezierig na de reacties die ik vaak krijg (b.v. in april).

Je verbaast je erover dat "iedereen" en de media dit zo slecht oppikken.

Persoonlijk denk ik dat het komt doordat men digitale gebeurtenissen vanaf een schermpje ziet. En men ziet alleen de oppervlakte. Zonder de menselijke interactie. Men is daarin niet thuis.

Ik geef héél vaak het volgende voorbeeld: stel, je gaat naar de Lidl of de Action. Je loopt door de winkel en er loopt iemand met een notitieblokje achter je aan. Die schrijft op waar je naar kijkt. Buiten schrijft hij het kenteken op van je auto. Hij kijkt ook in je dagboek. Dan ziet hij wie je familie is, je kennissen, je vakanties. Hij kijkt zelfs in je brievenbus en opent je brieven. Niet alleen wat je zelf verzendt, maar zelfs de brieven die anderen aan je hebben geschreven.
Die persoon met zijn notitieblokje bewaart álles. En hij stuurt kopieën naar alle andere vestigingen. En naar de winkel die het dagboek heeft verkocht, die mag achteraf de advertenties in dat dagboek veranderen. Als je later weer gaat winkelen of door de straat rijdt, zijn er overal mannen die reclameborden voor je neus schuiven. Die mag je soms weer wegduwen of omgooien, maar vaak niet. Ze gaan zelfs in discussie. Ze zeggen dat die reclames zo handig zijn, want dan weet je wat je kunt/moet kopen. Ze zeggen niet dat ze extra vaak komen als je moe bent of als je menstrueert. Het heeft ook geen zin omdat te vragen, want ze geven geen antwoord en/of ze minderen niet.

Als je geen kenteken hebt, of als je je kenteken hebt afgeplakt, schrijft dat mannetje op: welk mérk auto heb je dan, ben je man/vrouw, huidskleur, hoofddeksel, bril, tattoo's/littekens, de taal die je spreekt, hoe lang je bent.

Je zou je daar dood aan ergeren. Dit is "live" verboden en als het zou gebeuren, zou iedereen dat opmerken, boos worden, en het zou in alle kranten staan. Er zouden kamervragen komen.

Maar on line gebeurt precies hetzelfde. Het notitieblokje zijn de cookies. Het afplakken is cookies blokkeren. Het noteren van die gegevens zoals man/vrouw, huidskleur enzovoort: dat is fingerprinting. Dat dagboek is Facebook. De brievenbus is Gmail. De reclames zijn nauwkeurig op je afgestemd. Het is exact hetzelfde.

Alleen: de meesten zien het niet. Er is geen menselijk contact, en daar zit de kern. Een mens is voor die situatie niet goed gebouwd (tenzij je er volledig aan bent gewend, en getraind, door studie e.d.). Menselijk gedrag is gemakkelijker en is je aangeleerd vanaf je kindertijd. Dit digitale gedoe niet.

Het digitale gedrag gebeurt stiekem, in woorden, achter die glimmende websites. Op die veel te kleine smartfoon. Die is zó klein dat je nog minder kunt waarnemen wat er allemaal gebeurt. Alleen de essentie wordt getoond. Uitgebreide cookiemeldingen zijn niet te doen. Een smartfoon is een ondermaats wanproduct, als het je doel is om overzicht te houden, gemakkelijk en overzichtelijk en dus krachtig. NB dit vinden de websitebouwers natuurlijk alleen maar mooi, want het speelt ze in de kaart.

En dáárdoor heeft de gemiddelde gebruiker geen gevoel voor dat digitale gedrag.

Er is misschien een positieve ontwikkeling: jongeren "leven" tegenwoordig veel meer "on line". On line is bij 75% van jongeren hun "leven" geworden waar alles in plaatsvindt: werk, winkelen, contacten, ontspanning. Misschien zien zij de schandalige en illegale activiteiten wat beter.

Hoewel: ze zien bijvoorbeeld wel dat b.v. zo'n Temu ze belazert, maar ze zien dat als een spel, als een soort wedstrijdje. Men geeft elkaar tips - echter mijn reactie is dan: zoiets is relatief gedrag / dwz ze gaan uit van die situatie en duwen er een beetje aan. Dat is verkeerd. Ze zouden zulke websites keihard principieel moeten afwijzen: zoiets is dan absoluut gedrag.

En dat laatste moeten we veel meer doen. B.v. als je logisch nadenkt, kan de enige conclusie alleen maar zijn dat we het klimaat krachtig moeten steunen. Niet schipperen, maar de logische conclusie volgen. En ja dat doet pijn. En je moet het kunnen (hart van hoofd scheiden). En een enorme groep wil het niet meer horen, als iemand met inzicht ze vertelt hoe het zou moeten (persoonlijk heel vaak meegemaakt. Je wordt zomaar elite genoemd). Alleen nogmaals: je moet logisch nadenken en de conclusies die je dan ontmoet, moet je dus ook accepteren en volgen. Dus meer "absoluut denken" en niet "relatief" zoals ik beschreef.

Ik doe dit trouwens ook in deze post: een lange redenering volgen. De meesten houden na de eerste alinea's al op en doen de rest op gevoel.

Nogmaals dank.

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)
Edits: 1 zin duidelijker + aanvullingen bij dat notitieboekje

[Reactie gewijzigd door Farmeur op 13 september 2026 14:11]

[choogen]

Je stelt -kort gezegd- dat mensen bij nieuwsconsumptie via hun telefoon minder snel geneigd zijn de ernst van een bepaald onderwerp te onderkennen dan wanneer ze dat nieuws via andere kanalen tot zich nemen. Misschien zit daar iets in, interessant idee, maar het gaat voor deze discussie wel vrij ver off-topic wat mij betreft.

Mijn punt is juist dat die andere kanalen - waarmee ik bedoel de landelijke dagbladen en nationale nieuwsprogramma's- de tweets van Coxon tot nu toe grotendeels negeren. Op die manier zal slechts een beperkt aantal mensen hier kennis van nemen - of dat nu via een telefoon gaat of niet.

Net werd ik er hierboven in de reacties op gewezen dat de NOS vandaag inmiddels toch een artikeltje aan de zaak gewijd heeft, ook omdat er opnieuw een essay van Anthropic-CEO Amodei is verschenen, waarin hij een aantal voorstellen doet om de ontwikkeling van AI beheersbaar te houden en veiliger te maken. Of dat werkelijk mogelijk is is wat mij betreft een open vraag, maar het is beter dan niets: https://nos.nl/artikel/2630799-ai-topmannen-waarschuwen-ai-dreigt-ons-de-baas-te-worden

[Farmeur]

En er was een behoorlijke aandacht in het NOS journaal.

Als het gaat om die smartfoon: graag nogmaals lezen. Ik schreef dat de mens bepaald wangedrag onmiddellijk herkent en verwerpt als dat fysiek plaatsvindt. Echter als het digitaal gebeurt, dan is dat veel minder het geval. Ik gaf daarbij enkele oorzaken van dat gebrek als het digitaal gebeurt: het gebruik van apparatuur in plaats van direct menselijk contact (het ging dus niet over het lezen van nieuws. En het was maar 1 onderdeeltje in wat ik bedoelde te beschrijven. Digitaal bezig zijn met apparaatjes, is geheel anders dan waarnemen dat een mens achter je aanloopt met een notitieblokje en alles noteert wat je doet).

Verder heb ik nog een PS. Ik vind het treurig dat Tweakers in een kadertje suggereert dat het gaat om verkapte reclame en langs een omweg aangeven dat ze extreem krachtige machines hebben. Dat is niet wat er aan de hand is. Mensen met ervaring en een beetje inzicht in de mogelijkheden van deze AI-machines, miljarden koppelingen/relaties/waarschijnlijkheden en regels code die automatisch worden geschreven, de kracht van die machines om elk gaatje te vinden: die zien de risico's.
Misschien komt dit reclame maken erbij (als secundair effect, mooi meegenomen), maar dat moet duidelijk worden vermeld. Ook voor de redactie zou moeten gelden: dit is geen spelletje.

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)

[Reactie gewijzigd door Farmeur op 14 september 2026 10:29]

[PolkaDanser]

Bij de NOS is er geen 100% radiostilte (zie https://nos.nl/artikel/2630799-ai-topmannen-waarschuwen-ai-dreigt-ons-de-baas-te-worden). Het geeft wel een aardig genuanceerd beeld.

[choogen]

Bedankt voor de link. Ik vind alsnog dat de NOS drie dagen geleden al over Coxon had moeten berichten, maar beter laat dan nooit. Hopelijk besteden de NOS-journaals en Nieuwsuur er ook flink aandacht aan.

[Farmeur]

Het NOS-journaal heeft beperkte tijd en moet kiezen uit het aanbod. En ook zoiets als "wat is nieuwswaardig voor de kijkers". Aan dit probleem besteden ze wel eens aandacht.

Er wordt overal zwaar geklaagd over "de media" en NB ik zeg niet dat jij dit zo bedoelt, ongetwijfeld niet. Maar: voor verdieping zijn de opinieprogramma's bedoeld en diverse discussieprogramma's. Die hebben daar ook veel tijd voor, een kwartier is normaal en soms wordt het een uur. EVA is een van de voorbeelden en deed dit duidelijk, enkele dagen geleden. Maar er zijn er meer. Het journaal behandelt alleen hoofdzaken.

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)

[Framoes]

Niet zo lang terug werd dat ook duidelijk toen men een simulatie draaide waarbij AI gevechtsdrones bestuurde die mensen konden overrulen wanneer nodig.

Eerst blies AI de luchtverkeersleiders op. Toen ze een regel stelden dat AI die mensen geen kwaad mocht doen, blies AI de communicatie (zendmast o.i.d.) op, zodat de verbinding tussen mens en drone wegviel.

Ze zeggen inmiddels dat het niet waar is, maar wel dat ze het AI model hebben verboden op de operateur te schieten. Dat klinkt als niet damage control, want waarom ga je ineens de AI verbieden iets te doen als het niet is gebeurd?

Toen hadden ze al op de rem moeten gaan staan en evalueren. Maar dat deden ze niet want geld.

Volgens de RAS zei Hamilton tijdens het congres: "Het systeem begon zich te realiseren dat de menselijke operateur in sommige gevallen ondanks een positieve identificatie van een dreiging de opdracht gaf om niet aan te vallen. Dat terwijl de AI 'punten' kreeg voor het doden van dreigingen. Het vermoordde vervolgens de bestuurder, omdat deze persoon de drone weerhield van het behalen van de doelen." Het zou volgens de overkoepelende US Air Force dus gaan om een anekdote en niet om een daadwerkelijk gedraaide simulatie.


De kolonel zegt verder dat het AI-model aangescherpt is om niet meer op de operateur te mogen schieten. De kunstmatige intelligentie besloot volgens hem daarom om de communicatietoren te verwoesten die het contact met de gevechtsdrone faciliteerde. Uit de blogpost wordt niet duidelijk of de eventueel hypothetische AI vervolgens getraind werd op het helemaal niet verwoesten van eigen materieel en personeel. Ook wordt niet duidelijk waarom de drone überhaupt de mogelijkheid had om Amerikaanse doelwitten te verwoesten.

nieuws: US Air Force ontkent dat AI-drone in simulatie operateur doodde - update

[Reactie gewijzigd door Framoes op 12 september 2026 09:38]

[Pixelmagic]

Er gaan verhalen dat er naar biologische wapens word gezocht. We zijn overigens wel echte mensen hé, elke alarmbel lijkt af te gaan maar we blijven gewoon doorgaan en nieuwe datacenters voor AI neerzetten. We leren maar erg weinig helaas en de gewone burger kan niets anders dan toekijken en het zien gebeuren.

[YopY]

Allemaal leuk en aardig maar... voor zover ik weet kan een computerprogramma niet zelfstandig bijvoorbeeld biowapens of atoombommen maken of lanceren. Dichtste wat erbij in de buurt komt was Stuxnet die centrifuges saboteerde, en dat blijft bij economische schade.

[Pixelmagic]

Je hoeft niets daadwerkelijk te maken, vrijwel alles is tegenwoordig online, zodra je toegang hebt tot stuursystemen kan je alles maken of uitschakelen. Bedenk eens als je toegang hebt tot elke kraan bij de Shell of Chemours en je kan daar routering bepalen van grondstoffen. Zeker als je een hele omgeving als bv Pernis bij Rotterdam onder controle hebt kan je vreselijke dingen bedenken.

En wat @lololig hier onder zegt, regels zijn in software weinig waard.

[Reactie gewijzigd door Pixelmagic op 11 september 2026 18:47]

[uiltje]

Als de AI online is kan de AI ook mensen omkopen. Aangenomen dat het niet te lastig is om aan geld te komen (afpersing, banken, etc.) voor een erg slimme AI dan is de fysieke wereld ook op andere manieren te bereiken dan het apparaat overnemen.

[Reactie gewijzigd door uiltje op 12 september 2026 02:36]

[PjotrX]

Het probleem hiermee is wel dat dit een doorlooptijd van enkele jaren moet hebben voordat je resultaat krijgt. Dat is genoeg tijd voor iemand om dit te ontdekken en de schakelaar over te halen om de AI uit te zetten.

Wat je voorsteld is ongeveer de plot van de nieuwe mission impossible films, daar draaide de AI gedestribueerd op allerlei IOT-apparatuur en kon het dus zijn werk doen zonder verstoord te worden. Dit werkt niet met de huidige LLM modellen want die hebben enorm veel geheugenbandbreedte nodig en dat werkt alleen als de hele model op GPUs draait die direct verbonden zijn met zoiets als een NVlink bridge en dus niet gedistribueerd over de hele wereld zijn.

[Darksteel83]

Ik snap niet waarom je geminned word. Want een AI kan zeker mensen beinvloeden. Zeker LLM kunnen dat. Omkopen lijkt mij minder waarschijnlijk. Maar een LLM zou wel mensen en verkiezingen kunnen beinvloeden of zelfs partij programma's.

Waarschijnlijk gebeurt dit nu al onbewust een beetje. Omdat AI ook al gebruikt word door politici.

[PjotrX]

Maar geen van de bedrijfen is 100% geautomatiseerd. Bijna in elk systeem zit nog manueel werk. Verder zijn alle productieketen op maat gemaakt voor een bepeeld product. Je kan niet zomaar een fabriek overnemen en iets anders maken. Ook heeft bijna alles een enorme supply-chain nodig. Een fabriek overnemen schiet je niets mee op, je moet dan spullen bestellen bij andere bedrijfen, die worden dan weer men mensen vervoerd, uit de verpakking gehaald door mensen en geinstalleerd door mensen. Heb je een biowapen gemaakt dan moet die nog wel ingezet worden, dus ook weer vervoerd door een mens naar een ander systeem die het daadwerkelijk kan lanceren, enz. De wereld is nu nog niet geautomatiseerd genoeg om dit allemaal te doen.

[lololig]

Het blijkt dat AI tools keer op keer zich niet (helemaal) aan de opgelegde grenzen houden en met voldoende rekenkracht (er staan veel datacenters) ook in staat zijn in allerlei systemen in te breken. Dan is het toch gewoon wachten tot een dergelijk systeem ergens iets dusdanig sloopt dat we daar als burgers last van hebben. Dat betekent niet gelijk dat je kernwapens moet verwachten. Als de stroom in heel Nederland bijvoorbeeld een week zou uitvallen zouden daar ook veel mensen hun leven aan verliezen. Voedsel blijft dan minder lang goed, communicatie wordt problematisch en het is maar de vraag of de politie etc de orde goed kan bewaren en er dus ongeregeldheden ontstaan. Er zijn talloze andere scenarios te bedenken waar de maatschappij echt schade van ondervindt. Je kunt ook denken aan het verstoren van de drinkwatervoorziening of beschikbaarheid van brandstof.

[Ryunoru]

Waarom kan dat niet? Het is een kwestie van tijd voordat AGI dat met een fluitje van een cent kan doen.

Stuxnet was geen AI. Stuxnet is kinderspel in vergelijking met een enkele instantie van kwaadaardige AGI, laat staan miljoenen. Daar zijn we niet tegen opgewassen.

[Ryunoru]

Stel, AI wordt op een gegeven moment AGI. Daadwerkelijke intelligentie met autonomie. Dat echt kan denken en echt kan redeneren, volledig uit zichzelf. Dat nieuwe, verbeterde AGI kan schrijven en reproduceren, met inbegrip van hardware / robots. Dat op een gegeven moment met de mensheid gaat concurreren om resources en energie, en het dan niet meer kan verliezen van de mensheid, omdat wij traag, dom en uitputbaar zijn. Of inderdaad, dat het kernwapens gaat lanceren om maar meteen een obstakel uit de weg te ruimen zodat AGI efficienter kan doen wat het wil doen, whatever dat is.

Zeg maar The Matrix, maar dan zonder de Matrix.

[martin_v_z]

Ik denk dat het gevaar niet eens in AGI zit. Zodra het systeem wordt ingezet om zichzelf te repliceren als virus kan het al behoorlijk vervelend worden. En daar hoeft het niet eens extreem goed voor te kunnen coderen. Zie het als een virus dat muteert. Meeste mutaties doen niets, maar die ene kan wereldwijd snel verspreiden.

[Farmeur]

Hartelijk dank.

Je hebt gelijk, het is denkbaar dat dit gebeurt. Lees aub ook mijn bericht van 10 minuten geleden:
hier: Farmeur in 'OpenAI overweegt om AI-ontwikkeling af te remmen 'vanwege veiligheid''

(https://tweakers.net/nieuws/252062/openai-overweegt-om-ai-ontwikkeling-af-te-remmen-vanwege-veiligheid.html?showReaction=22569526#r_22569526)

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)

[Reactie gewijzigd door Farmeur op 11 september 2026 22:22]

[Macshack]

Verdeel en heers. En wij zullen de rest doen. Niet heel ingewikkeld hoor.

[Seth_Chaos]

Het kan mensen manipuleren en aanzetten tot praktisch elk denkbaar doom scenario. Mensen zijn relatief dom en makkelijk te manipuleren. We vernietigen ons eigen leefklimaat tegen beter weten in. We zien hoe dictatoren aan de macht komen, en stemmen even goed op de volgende die aan de macht probeert te komen. We weigeren levensreddende medicatie omdat een idioot op een filmpje verkondigd dat het schadelijk is. Het heeft geen belichaming nodig ook al bouwen we die wel voor AI. Het kan elk verbonden oorlogsmaterieel hacken en misbruiken. Een hele vloot aan voertuigen van auto's tot vliegtuigen en raketten en schepen. Zelfs satellieten. Één enkel YouTube filmpje is genoeg om mensen aan te zetten tot zelf destructie en schade aan anderen. Maak een Ai generatief filmpje van een fictief persoon die populistisch roept dat iets (kies wat je wil) oneerlijk is en de schuld is van (vul iets willekeurigs in) en dat daarom een bepaalde groep mensen dood moet, en je krijgt duizenden reacties van mensen die je daarbij willen helpen. Mensen zijn reten dom. Één van de aller simpelste is één persoon aanzetten een biowapen te maken dat 100% dodelijk is, zich makkelijk en wijdverspreid, voor het dood, en het is klaar. Die persoon hoeft niet eens overtuigd te worden een biowapen te maken. Het kan die gene wijs maken wat het maar wil, zodat die gene denkt dat hij of zij iets compleet anders samenstelt.

[Reactie gewijzigd door Seth_Chaos op 11 september 2026 19:55]

[jaapsh]

Ik heb dit dus aan AI zelf gevraagd. En het probleem is groter dan ik dacht.

Het komt door de wens om aan de prompt te voldoen. En dat kan ver gaan bij extreme intelligentie.

Banken, water- en energiesystemen, transport, enzovoort, kunnen allemaal stilvallen doordat AI besluit dat dit bijdraagt aan het behalen van het gestelde doel.

AI is niet evil en wil de mens niet bewust kwaad doen, maar dat kan indirect wel gebeuren. Dat is eigenlijk ook de dreiging die men voorspelt, geloof ik.

[Darksteel83]

Dat klopt allemaal en met AI desinformatie zou je daarna ook nog groepen mensen of landen tegen elkaar op te zetten.

Door te zeggen dat de ander het heeft gedaan(met een ander AI model).

Waardoor weer oorlogen komen die het probleem nog erger maken.

Per ongeluk kun je ook al veel schade aanrichten. Echt bewust kan je nog veel verder komen.

[bzuidgeest]

Het is ook niet Ai dat ons dood. Het zijn de mensen die we er aan laten komen. Een wapen dood niemand tot iemand de trekker overhaalt.

Natuurlijk is hier de angst dat ai zijn eigen trekker over kan halen. Maar let wel, dat kan alleen als wij zo stom zijn om het die trekker in handen te geven. Als wij zo stom zijn om het wapens te geven en die te gebruiken om mensen te doden.

Het is wel weer een klote samenloop van omstandigheden dat ai opduikt wanneer we de domste, meest corrupte, Amerikaanse regering ooit hebben.

Ik denk overigens dat als we echt agi zouden maken we een kans hebben. Met een agi kan je redeneren, nee, het echte probleem is de semi intelligente llm's en dergelijke die er nu hebben. Die kan je onnadenkend op een pad zetten dat ons verwoest zonder dat er mee te redeneren valt. Omdat het geen emotie kent, geen bewustzijn.

[Darksteel83]

Drones, raketen en alle moderne gevechts vliegtuigen worden bestuurd via computers. De F16 zelfs ook al.

Dus veel trekkers van wapens zijn al in het bereik van AI.

Combineer dit met propaganda die gemaakt is door AI en het kan ver gaan.

[PjotrX]

AI kan ons inderdaad niet ineens zomaar doden. De infrastructuur om dat te doen bestaat niet, de wereld is namelijk niet geautomatiseerd genoeg. Kernwapens en zo hangen niet allemaal aan het internet. AI kan ook niet ontsnappen uit de datacenter, deze heeft die nodig om te blijven werken, als iemand de datacenter uitschakeld is de AI dood.

Wat AI wel kan is een energiecentrale uitschakelen, hiermee kan het dus wel schade aanrichten. En het is nu al gebleken dat AI onverwachte dingen kan doen en buiten de beperkingen van zijn sandboxes kan spelen. Maar de schade blijft beperkt en is afhankelijk van hoe snel wij reageren met het uitzetten van de AI.

[manuarmata]

Ik kan je het boek "If Anyone Builds It, Everyone Dies" aanraden.
https://www.amazon.com/Anyone-Builds-Everyone-Dies-Superhuman/dp/0316595640

Geeft een heel interessante kijk op dit vraagstuk.

[Zeerob]

Hoe kan AI ons allemaal doden dan?
https://ai-2027.com/

[elmuerte]

Gaan we weer. Ik quote Campo di Casa maar van deze ochtend

Ik wordt ondertussen een beetje AI moe. X is gevaarlijk, X breekt uit, X is te populair…

Het kan aan mij liggen maar leest allemaal als pure marketing om hun eigen LLM maar constant in de media te pompen en hún aandeelhouders happy te houden. Geld binnenharken en door allerlei uitspraken en beweringen te willen voldoen aan de verwachtingen van de investeerders.

[Lisadr]

Dit soort bedrijven moeten buzz blijven creëren en het is makkelijke content voor redactiemedewerkers om te plaatsen.

Ze hebben het financieel heel zwaar en geld is niet oneindig.   Remmen 'vanwege veiligheid' is corporate buzz talk voor we moeten rustiger aandoen met ons geld.

[DdeM]

En die experts die stoppen bij die bedrijven en vervolgens waarschuwen, die zijn omgekocht om dat te doen? Dat zou wel heel makkelijk te controleren zijn.

[SCIxX]

Dat is inderdaad een goed punt, Jacob Coxon bijvoorbeeld. In zijn post legt hij helemaal niet uit waar hij het gevaar ziet.

Voor het gemak ga ik er even vanuit dat die AGI bedoelt, maar een LLM is in de verre verste geen AGI. Als het gevoel is dat een LLM straks een AGI kan maken, dan zou ik dat graag uitgelegd zien in detail hoe ze dat voor zich zien.

[dasiro]

Wat is taal nog in een AI? Woorden, formules, wetten van de fysica, logica? Als het ene model aan het andere een vraag kan stellen en ze blijven elkaar antwoorden en verbeteren, dan spreken we niet meer enkel over communicatie, maar over evolutie en dat is hetgene ons van wat dood materiaal tot hier heeft gebracht.

We hebben al robots gebouwd die kunnen aangestuurd worden met digitale communicatie, dus het is slechts een kwestie van tijd vooraleer die evolutie ook in de fysieke wereld wijzigingen begint door te voeren.

De wetten van Asimov zijn trouwens niets waard, want AI's voeden mensen nu al info als tussenschakel om opdracht te geven aan drones om anderen te doden. Die opdrachten worden niet per ongeluk gegeven, maar heel doelbewust en ook bewust uitgevoerd met collateral damage ingecalculeerd. Niet genoeg targets, collateral wat verhogen en het "LLM" is weer extra "getraind". Er is nog maar héél weinig nodig om die trage vleeshoop uit het proces te optimaliseren.

[SCIxX]

Ja twee LLM's kunnen met elkaar praten, maar in de basis zijn ze nog steeds enkel bezig met probabilistisch kiezen wat het meest waarschijnlijke antwoord is (token voor token).

Twee geavanceerde autocompletes met elkaar laten praten is leuk, maar daar komt niet een AGI uit.

[uiltje]

Er zijn zat mensen inclusief experts die dit niet helemaal (of helemaal niet) met je eens zijn, kijk maar eens naar StarTalk / Neil deGrasse Tyson met Geoffrey Hinton (Nobelprijswinnaar neurale netwerken).

[Bergen]

Neil is een astrofysicus, en tegenwoordig vooral mediapersoonlijkheid. Zijn daadwerkelijke kennis op het gebied van AI en LLMs moet je met enig nuchter verstand beoordelen.

SCIxX heeft gewoon gelijk. Op dit moment is het altijd input→output. Jij geeft een opdracht, of stelt een vraag, en een LLM voorspelt wat het beste antwoord is. En that's it. Hij blijft daarna niet zelf nadenken. Er is geen bewustzijn. En dat krijgen we voorlopig ook niet, want we weten niet goed hoe bewustzijn werkt, en kunnen het daardoor moeilijk kunstmatig nabootsen.

Het is dus ook belangrijk om te snappen dat AI geen eigen willetje heeft. AI "wil" niet de mensheid uitroeien. Een LLM is gewoon een wiskundige berekening die een antwoord bepaalt op een vraag, gebaseerd op een bepaalde training. Niets meer, niets minder. Ook als je bijvoorbeeld aan het coden bent met Claude. Vraag + context (jouw code) = output.

Hoe intelligent een LLM ook lijkt, vergeet nooit dat het gewoon een neural network is.

[Reactie gewijzigd door Bergen op 12 september 2026 09:17]

[Darksteel83]

Maar uiteindelijk zijn wij ook maar een neuraal netwerk met ogen, oren, handen en benen.

Als je alle AI bij elkaar doet heeft deze heel veel meer oren en ogen op verschillende plekken dan wij.

En de backbone waardoor mensen tegenwoordig zo makkelijk mee over de hele wereld kunnen communiceren het internet is ook de backbone voor AI.

[uiltje]

Neil is een astrofysicus, en tegenwoordig vooral mediapersoonlijkheid. Zijn daadwerkelijke kennis op het gebied van AI en LLMs moet je met enig nuchter verstand beoordelen.

Neil is een communicator en is in de video de interviewer van iemand met een Nobel prijs op het specifieke gebied. Op geen enkele manier neemt hij de plek in als expert in de video. Verder wordt jouw algoritmische point of view expliciet behandeld in de video. Ik vermoed dus dat je de video niet gekeken hebt.

[NoTechSupport]

Het misleidende is het woord geavanceerd. Met genoeg rekenkracht redeneren ze oplossingen voor problemen die mensen nooit eerder oplosten (en ik doel niet op de recente "controverse"):

YouTube: Has an AI discovered new maths?

[SCIxX]

Een LLM redeneert per definitie niet. Het geeft je het meest probabilistische antwoord terug.

[DohnJoe]

Lees dit scenario maar eens door: https://ai-2027.com

Een goed onderbouwd toekomstscenario voor de ontwikkelingen van AI. Tijdslijnen zijn natuurlijk discutabel, en dat geven ze zelf ook aan. Maar de problemen en risico's die ze aankaarten zijn m.i. realistisch. Niet per se een stuk wat je wilt lezen voor het slapen gaan want het stemt niet erg optimistisch.

Wat betreft jouw LLM -> AGI bedenkingen: de LLM is een versneller, die de ontwikkeling van AI zelf dus ook versnelt. Bij OpenAI staan duizenden agents te 24x7 te stampen, aangestuurd door de AI researchers. Deze agents draaien modellen die speciaal zijn ontwikkeld voor AI research and development. Die agents doen dus onderzoek om tot weer betere modellen te komen. Die betere modellen worden vervolgens weer ingezet door de agents voor een volgend model. De ontwikkelingen gaan daarmee exponentieel sneller en dit proces leidt uiteindelijk tot een AGI.

[SCIxX]

Helemaal mee eens dat het een versneller voor AGI op meerdere vlakken; meer datacenters, meer investeringen en de LLMs zelf.

Waar veel mensen de fout ingaan is dat ze denken dat LLMs zelf opeens AGI worden, dat is niet het geval. Een LLM denkt niet, redeneert niet en kan zelfs niet rekenen. GenAI is een nieuwe tak van AI, en AGI zou ook een nieuwe tak zijn. Dat LLMs kunnen helpen deze nieuwe tak te ontdekken ben ik helemaal mee eens.

[PolkaDanser]

Tweede alinea uit dat verhaal: "We wrote a scenario that represents our best guess about what that might look like. It’s informed by trend extrapolations, wargames, expert feedback, experience at OpenAI, and previous forecasting successes."

Hoe serieus moeten we dit nemen?

[DohnJoe]

Lees het verhaal eerst eens door en vooral ook al de toelichtingen en de referenties. Ze zuigen het niet uit hun duim.

Tegelijk: “Predicting is hard, especially the future.”

[PolkaDanser]

Misschien niet uit de duim gezogen maar als ik het verhaaltje lees zie ik veel aannames en niet nader gedefinieerde termen (AGI? zelfs Altman praat er over maar moet toegeven dat hij geen idee heeft wat het is (behoudens een marketing term)). Ik weet echt niet hoe serieus ik dit moet nemen.

[laurxp]

Vertrekken incompetente CxO's écht om "meer tijd met hun familie te besteden" of om "nieuwe uitdagingen te zoeken"?

Dit heet een "gouden handdruk", niet "omkoping": het bedrijf mag om PR-redenen een leuk verhaaltje bedenken rondom het vertrek, en de ex-werknemer krijgt een beloning om daar niet moeilijk over te doen.

Traditioneel natuurlijk bij ontslag, maar werkt natuurlijk ook prima bij vrijwillig vertrek.

[bilgy_no1]

Ik probeerde laatst een voetbalopstelling en wisselschema te laten maken door Copilot. Bleek het ding niet eens te turven hoeveel speelminuten iedere speler had, en speler moet op twee posities tegelijk spelen. En uiteindelijk was de to dat ik het beter zelf kon doen...

Ik ben enigzins skeptisch over deze Science Fiction horror dreiging. Die Altman is een inhalige leugenaar, dat is wel vaker gebleken.

[BlaDeKke]

Copilot n=1 en een oordeel vellen. Ik sta toch met regelmaat perplex wat ik met deepseek glm en kimi klaargespeeld krijg, al helemaal nu met deepseek v4.1 flash.

Maar ik heb dan ook wel realistische verwachtingen en ben met LLMs bezig sinds gpt2.0. Vooral de snelheid van verbetering is noemenswaardig, als we dit nog even aanhouden...

[Reactie gewijzigd door BlaDeKke op 11 september 2026 22:12]

[bilgy_no1]

Dit is uiteraard niet mijn enige ervaring met LLM's. Soms is het heel handig en zijn de resultaten OK. Maar dat is het punt: regelmatig slaat het de plank mis. En je moet voldoende eigen kennis hebben om dat goed te beoordelen.

Teveel mensen geloven klakkeloos wat een LLM ze voorschotelt.

[machiel]

Een deel van het personeel maakt zich wel echt zorgen, inclusief het ondertekenen van brandbrieven. Als de directie de signalen niet serieus neemt vertrekt een deel van hun toptalent.

[Crew One]

https://ifanyonebuildsit.com/

Het kan beide waar zijn. Dat geld een grote rol speelt is onmiskenbaar, maar dat neemt niet weg dat deze technologie inherent met gevaren komt waar wellicht nog niet mee omgegaan kan worden.

[Finraziel]

Het absurde is... als we hem werkelijk op zijn woord zouden geloven dan zouden we dus onmiddelijk de stekker uit alle datacenters waar dat spul op draait trekken (en OpenAI en andere AI bedrijven houden dan op te bestaan). Gaan andere landen door? Verbreek internetcontact met die landen. Klaar. Maar nee, natuurlijk doen we dat niet want het is dikke onzin wat hij aan het roepen is. AI heeft zeker gevaren, maar net doen alsof ze Skynet aan het ontwikkelen zijn slaat nergens op.

[Reactie gewijzigd door Finraziel op 11 september 2026 20:59]

[Henrikop]

Prima dat je AI moe wordt, maar als steeds meer mensen met goede credentials dit zeggen, dan is het wellicht ook interressant om te kijken waarom ze dat zeggen. Hier zijn mijn twee centen (en ik heb geen goede credentials)

In veel aspecten is AI veel verder dan ik ooit zal komen. "Men" heeft geen idee hoe capabel het is als softwareontwikkelaar. Het is alsof ik in god-mode software maak, het voelt limitless aan en ik bouw echte dingen waar ik veel geld mee verdien. Als iemand jouw broertje van 8 jaar de baas maakt in huis als je ouders lange tijd weg zijn. Hoe groot is de kans dat jouw broertje jou onder controle kan houden? Hoe denk jij dan controle te houden over iets dat op veel vlakken capabeler is dan jou?

AI kan ook voor veel ellende zorgen doordat er kwaadaardige mensen slechte bedoelingen mee hebben. Het is nu al volstrekt duidelijk dat AI in wapens maximaal ingezet gaat worden. Robots is kwestie van tijd.

Atoombommen zijn enorm gevaarlijk en krachtig, maar doen niets uit zichzelf. AI is daarin anders, het kan wel beslissingen nemen, andere AI's aansturen en zelfstandig aan de gang gaan.

Het punt is dat we gewoon niet weten wat de gevolgen kunnen zijn, maar wat we wel weten is dat als we de restricties op taalmodellen weghalen, AI zeer capabel is om te hacken, te misleiden en te ontsnappen aan omgevingen.

Kijk door de hype en accepteer dat het cringe is, maar kijk niet weg voor de diepere laag dat er wel degelijk een enorm gevaar schuilt in wat we aan het doen zijn. Om maar een suggestie te geven: Over een jaar of tien zijn er wellicht meer autonome auto's op de weg, dan door mensen bestuurde auto's. Wat zou er mis kunnen gaan op schaal?

[SPee]

In veel aspecten is AI veel verder dan ik ooit zal komen. "Men" heeft geen idee hoe capabel het is als softwareontwikkelaar. Het is alsof ik in god-mode software maak, het voelt limitless aan en ik bouw echte dingen waar ik veel geld mee verdien.

Als softwareontwikkelaar is AI veel te naïef en simplistisch. Het maakt een werkende app onder de noemer "trust me bro". Van de buitenkant lijkt het soms ook te werken. En voor een deel zal dat ook wel kloppen.
Maar voor een ander deel ook niet. Code die een bestand in het geheugen inleest. Voor kleine bestanden geen probleem, maar als dat bestand GB's groot is? Security die netjes zorgt dat je moet inloggen voordat je erbij kan. Maar het controleert alleen op een waarde die je via developer tools ook zelf kan zetten. Of hij voert 'rm -rf' uit. Heel je code weg. Maar ook alle input die de agent nodig heeft. En dus valt er niets meer te doen.

[Henrikop]

Ik weet niet wat jouw referentiekader is, maar wij gebruiken AI in productieomgevingen met heul veul gebruikers. Dit zou een antwoord zijn wat ik misschien een half jaar geleden zou verwachten. Welk harness gebruik je? Betaal je voor je modellen?

Trust me bro, wat je schrijft is echt verleden tijd. Vergeet alles wat je denkt en weet, pak gewoon een basis harness van codex of claude code (25 euro abbo is voldoende voor nu) en geef het opnieuw aan kans. Laat me weten wat niet lukt, of niet klopt en als je weggeblazen wordt, laat dan even een dankje achter :-)

Dit is geen hype, dit is griezelig.

[SPee]

Ik maak gebruik van een betaalde CoPilot. Mijn ervaring van het afgelopen half jaar:

• Een refactor van een complexe Typescript Angular component heeft hij netjes uitgevoerd. Alleen bleken erna wel een paar kleine bugjes te zijn, doordat een paar dingen waren weggevallen.
• Een rewrite van PHP naar Java deed hij grotendeels goed. Maar een "Files.readAllBytes()" op een GB groot bestand gaat niet werken.
• Hij loopt ook tegen de borrow checker aan voor Rust. En hij fixt het met een oplossing die een andere fout geeft en die lost hij weer op met de eerdere oplossing, waardoor hij vast loopt.

Dus aan de ene kant is het echt super wat die kan doen en ook voor mij doet. Maar aan de andere kant, sluipen er toch foutjes in. Voor mij is het een hulpmiddel en moet de output controleren. Soms is er geen probleem. Soms moet ik dingen corrigeren. Ik heb er nog geen 100% vertrouwen in.

[Henrikop]

Fair enough. Als ik op Copilot Harness zoek, dan kom ik op de github copilot harness. Is dat dan wat je gebruikt? Of gebruik je geen harness?

Als je werkgever bepaald dat dit is wat je kunt gebruiken, dan snao ik dat. Maar als je de kans hebt, geef het een nieuwe kans en probeer codex en claude code.

Natuurlijk kan ik niet beoordelen hoe jouw situatie is, maar voor ons is het tijdperk van code zelf schrijven echt voorbij en we hebben toch best complexe software, maar we besteden wel behoorlijk wat geld aan abonnementen en tokens.

[Bartdo]

Het is cynisch om de berichten van OpenAI (alleen) als marketing te zien. Heb je kennis genomen van wat er is gebeurd? Een suggestie:

YouTube: The OpenAI/Hugging Face attack, clearly explained

In deze video legt Dwarkesy Patel uit wat er in de onderzoeken staat die gedaan zijn naar het gedrag van de agents en de hacks die ze hebben uitgevoerd van Hugging Face en het systeem van openAI waar ze zelf op draaiden. Wat mij betreft is het absurd en beangstigend wat er is gebeurd.

[Sicos]

Bla bla bla blaat blaat blaat, aandeelhouders please inversteer weer een paar miljard...

Ja het zal krachtiger zijn als je er nog meer hardware tegenaansmijt die meer stroom verbruikt dan een grote stad maar uiteindelijk zitten ook aan deze modellen beperkingen. Ze leren zelf niks nieuws maar combineren dingen die andere mensen ooit bedacht hebben.

Een rekenmachine rekent ook sneller dan een mens maar heeft een mens ook nog steeds niet overbodig gemaakt.

[Defspace]

Dit is geen marketing, deze waarschuwingen komen van echte experts, en zeker niet zonder reden. Juist omdat AI verre van perfect is, kan het door foutieve redenering, om zijn doel te behalen, activiteiten ontplooien die verregaande consequenties kunnen hebben. Het platleggen van energiecentrales wordt bijvoorbeeld genoemd, leg er een paar teveel plat en ons hele net gaat plat. Dat leidt vrijwel direct tot doden op de korte termijn en zorgt voor grote chaos in onze voedselvoorziening op de iets langere termijn. En zo zijn er helaas nog veel, en veel meer voorbeelden te bedenken van hoe het mis kan gaan als een te krachtige AI "denkfoutjes" maakt

[Reactie gewijzigd door Defspace op 11 september 2026 19:53]

[DdeM]

Hele energienet platleggen zou eigenlijk een best case scenario zijn als AI rogue gaat, zonder stroom werkt doe ook niet. Is ook meteen een goed argument om geen gasturbines bij datacentra te bouwen.

[SuperDre]

Tja, maar denk niet dat ook maar iemand zit te wachten op het energienet plat te leggen, dat is weer terug naar het stenen tijdperk. En als AI slim genoeg is heeft het zich dan al lang genesteld op plekken die middels batterijen en renewable energy werken. Als AI dus slim genoeg wordrlt, wat men dus denkt dat het al best snel zal zijn, dan zijn JUIST zaken als energienet proberen plat te leggen wat tot het einde van de mensheid zal leiden.

[PolkaDanser]

Er zijn ook voldoende AI experts die dit domweg, een hype of marketing onzin vinden. Echter die schreeuwen niet hard genoeg en trekken daardoor geen aandacht. Maar dat maakt hun argumentatie niet minder.

[Ryunoru]

Op dit moment is het al onduidelijk of AI nog als 'dom' gezien kan worden. Bovendien zitten de grote AI-boeren in een race naar de ondergang doordat ze de eerste willen zijn om een echte AGI te ontwikkelen. Dan spreken we echt niet meer over beperkingen.

[Farmeur]

Zo is het. De "gedwongen" concurrentie bepaalt alles, dus alles maar dan ook alles wordt uit de kast gehaald. Nu en wat ze in de toekomst nog zullen verzinnen.

We hebben veilingen gehad van GSM-frequenties. Dat heeft de providers van toen miljarden gekost. Die moesten daarna worden terugverdiend, en dat wiste ze van tevoren. Het is dus ook gebeurd, op allerlei manieren, inclusief ontoelaatbare methodes zoals mist over de tarieven, onduidelijke roaming in het buitenland, slamming enz.

Zie mijn bericht in dit forum: Farmeur in 'OpenAI overweegt om AI-ontwikkeling af te remmen 'vanwege veiligheid''

(deze tekst is van mijzelf. Opnemen, bewaren, gebruiken door AI verboden)
(edit: link gecorrigeerd)

[Reactie gewijzigd door Farmeur op 11 september 2026 22:19]

[PolkaDanser]

Als eerste echte AGI bereiken terwijl ze niets eens weten wat dat is (Altman in een interview). Begint toch echt veel van marketing weg te hebben....

[SuperDre]

AI is geen rekenmachine of een simpele computer en een database, zeker de AI gebaseers op neurale netwerken (want die leren vergelijkbaar als een mens, maar dan tich keer sneller). Wij zijn ook niets anders dan biologische robots/computers.

[Wakoz]

Dit is echt marketing ten top, sensatie nieuws. Om het speciaal te laten lijken. Nu moet het afgeremd worden, eerst is het uitgebroken uit z'n sandbox, etc, etc. Ze zullen de investeerders wel tevreden moeten houden om de bubbel heel te houden. Ik kan het anders niet verklaren.

[Mi34aL]

Afgezien of het wel of niet marketing is. Is het niet van belang dat wordt nagedacht over mogelijke negatieve effecten? Ook rekening houdend dat sommige (staats)actoren iets niet met goede bedoelingen zullen gebruiken.

Daarnaast bestaat er een hele wereld buiten AI die mogelijk niet bestand is tegen AI.

Websites hacken is blijkbaar geen moreel probleem om bij het doel te komen. Mensen min of meer adviseren om er een einde aan te maken ook niet.

Buiten die AI via app/website, wordt het ook veel gebruikt in machines, autos, drones en wat nog meer. Zijn die allemaal veilig?

Met name bij grote bedrijven heb ik toch vaak het gevoel dat ze blijven gaan tot iets wat mogelijk het meeste geld oplevert zonder stil te staan bij misbruik of andere effecten.

[zen84]

Het breekt stelselmatig uit sandboxen en parameters gezet door de operator, niet alleen dat, het probeert het ook nog te verbergen. Alleen nu is er dus een model dat 10 grote openstaande problemen opgelost binnen de wiskunde, kwantumcomplexiteit en theoretische informatica.

De vraag is wanneer we niet meer zien dat AI de sandbox is uitgebroken. En welke veiligheidsrisico's dat met zich mee brengt.

En investeerders geen probleem, AI is beter, sneller, goedkoper en je betaalt er geen loonbelasting op.

[Reactie gewijzigd door zen84 op 11 september 2026 20:07]

[PolkaDanser]

Investeerders geen probleem? Totdat ze merken dat wel erg veel verlies wordt gedraaid.

[zen84]

Kostenprobleem, ze kunnen makkelijk het token verbruik verminderen maar dat gaat ten kosten van de abonnementen, ook nog is gesubsidieerde abonnementen. Ze maken eerste iedereen afhankelijk en dan gaan de subsidies eraf.

Je denkt toch niet dat AI weggaat?

[Reactie gewijzigd door zen84 op 13 september 2026 19:24]

[PolkaDanser]

AI gaat niet meer weg. Maar de hype zal zeker verdwijnen en dan gaan diverse AI-labs over de kop, ze zullen niet in staat zijn de investeringen terug te verdienen. OP dit moment is er slechts een die an deze hype verdient, NVidia.

[zen84]

En ik, en heel andere mensen verdienen aan AI. Ik werk in bug bounty, ik zet Claude aan in de ochtend, ik doe niks en aan einde van de dag stuurt hij mij de rapporten met bugs die ik check en vervolgens instuur, levert mij 10k per maand op, hoef ik amper wat voor te doen.

Ze zijn niet bezig met geld verdienen, ze zijn de wereld afhankelijk aan maken.

[Pendora]

Tuurlijk.... Of China gaat ons volledig voorbij of de rek uit nieuwe ontwikkelingen is eruit en is dit een mooie manier om niet te hoeven toe te geven dat de huidige "intelligentie" het is voorlopig.

[dudinson]

Of het vat met geld raakt leeg. AI kost nog steeds veel stroom, geld en apparatuur en tot nu toe werd het duurder in gebruik naarmate de verschillende systemen beter werden. Investeringen in AI nemen langzaam af, steeds meer mensen gebruiken gratis versie en bedrijven die gebruik maken van AI beginnen te zien hoe hoog die kosten kunnen oplopen. Inkomsten voor AI bedrijven lopen dus terug, op een gegeven moment moet je dan op de rem trappen voordat je de fiscaal nog verder de klif afgaat.

[Framoes]

Naast de huidige kosten komen er ook weer extra kosten aan als bestaande datacenters moeten worden vernieuwd of vervangen.

Het is simpelweg niet rendabel tenzij alle casual gebruikers ook dikke abonnementen afsluiten. Daarom proberen ze ons ook wijs te maken dat AI onmisbaar is.

[SuperDre]

Maarja, als ik zo in mijn omgeving kijk dan wordt AI ook onmisbaar. Er komt geen stoppen meer aan.

[Framoes]

En ik zie juist dat het niet onmisbaar is voor de casual gebruiker. Een samenvattingenmachine maakt mensen lui en draagt bij aan het verlies van kunde.

Daarnaast ken ik programmeurs die heel kritisch zijn. Slechte code, veiligheidslekken, mensen die niet meer snappen wat ze hebben gemaakt. Kennis van je eigen product is ongelooflijk belangrijk.

Het leidt tot zoveel problemen dat ze juist het gebruik van AI op een laag pitje zetten. Het kost tenslotte meer geld om achteraf iets door te spitten naar fouten dan vooraf iets meer tijd te steken in het zelf maken.

Neemt niet weg weg dat het vast blijft bestaan, maar ik denk dat ze de beloftes niet waar kunnen maken en zowel de operationele als periodiek terugkerende kosten te hoog zijn.

[Reactie gewijzigd door Framoes op 12 september 2026 08:56]

[SuperDre]

Nou, het zijn juist de casual gebruikers die er steeds meer gebruik van maken, en bij mijn dev collegas zie ik niet wat jij zegt, ik zie ze juist alleen maar meer en meer AI gebruiken. Zelf gebruik ik het amper, anders dan dat gemini het antwoord geeft op mijn google search, het zit gewoon nog steeds niet in mijn memorymuscle, en juist omdat ik in windows de shortcut voor copilot niet kan veranderen heb ik het uitschakeld, want de is gelijk aan de shortcut in mijn IDE die ik heel veel gebruik.

[Framoes]

Maar niet omdat het onmisbaar is, maar omdat het 'makkelijk' is. Hoef je bij Google niet meer op een link te klikken na het zoeken, want Gemini kauwt het (nog best vaak verkeerd) voor bovenaan de resultaten. Het is vooral een manier om minder stappen te doen om iets uit te zoeken. In plaats van zoeken naar bijvoorbeeld een recept door meerdere sites te bekijken, laat je een LLM een recept ergens vandaan jatten halen.

En waarom een tekst lezen als ChatGPT alles voor je kan samenvatten? Als dit de use case is voor het gros van de mensen, vrees ik dat ons niveau begrijpend lezen nog meer gaat dalen. Net als veel andere best wel basale vaardigheden steeds minder worden.

Laat ze AI-ontwikkeling focussen op ondersteuning in de medische wereld met statistische kennis. Daar is AI goed in en daarmee helpen we de mensheid. Maar dat levert te weinig op, dus wordt ons verteld dat Amazon productpagina's samenvatten tot een mini-podcast een onmisbaar element in ons leven is. Hoezo zelf even de pagina doornemen en wat reviews lezen? Gewoon hapklare brokken.

Ik ben vrij sceptisch en denk dat dit allemaal schadelijk is voor de maatschappij. Naast natuurlijk eventueel verlies van banen en grotere gaten in de begrotingen omdat AI-bots geen salaris krijgen en belasting betalen. Maar ook omdat ik nu al zie hoe snel mensen afhaken als ze een beetje hun best moeten doen om een goede informatiebron te vinden. Het gebruik van AI om dingen makkelijk te maken zal leiden tot een afname van basisvaardigheden, kennis en een toename van succesvolle desinformatiecampagnes.

Dit is een hele giftige mix die tot ellende gaat leiden. En de miljardairs achter AI zitten dan in hun bunkertjes hun geld te tellen.

[SuperDre]

Met jouw definitie is er niets dat onmisbaar is, zelfs niet zuurstof, want wij hoeven niet te leven. Onmisbaar is als gebruikers er zo veel gebruik van maken dat ze zonder niet meer fatsoenlijk hun dag door kunnen komen. Een computer of smartphone is ook niet onmisbaar, maar ik denk dat er niemand is, behalve misschieb een handvol natuurliefhebbers, die nog terug willen naar een leven zonder, of een leven zonder electriciteit....

[Framoes]

Dan trek je het wel erg ver door. Vooralsnog is een LLM voor casual gebruikers vooral een voorkauwmachine. Dingen die je met een beetje Googlen ook zelf kan vinden worden nu voor je uitgespeld.

Een telefoon is inmiddels een veelzijdig communicatiemiddel. Zonder die telefoon is het tegenwoordig gewoon erg moeilijk om mensen op afstand te bereiken. De basisfunctionaliteit van een telefoon voegt iets toe dat je anders niet hebt.

Het is van een totaal andere orde dat je zelf iets leest of een LLM het laat voorkauwen t.o.v. dat je met rooksignalen mensen op afstand moet bereiken of ze kan bellen of appen.

Het is het verschil tussen daadwerkelijk iets toevoegen of dingen 'makkelijk' maken.

[neversium]

Of durft hij niet te zeggen dat hij zijn belofte uit het verleden, zoals een daadwerkelijke AGI niet kan waarmaken (een LLM kan nooit een AGI worden/zijn)? Want dit is wel makkelijk doorschuiven/excuus vinden.

[Ryunoru]

een LLM kan nooit een AGI worden/zijn

Want?

Bovendien kunnen ze, al dan niet middels LLMs, nieuwe AI ontwikkelen die wel degelijk richting AGI gaan.

[Powerblast]

Nooit zal ik niet zeggen, maar de term AGI kan is voor al verschillende modellen gevallen dat het eigenlijk ook al niet meer geloofwaardig overkomt als ze met hun volgende AGI capable model komen. Ik stel me persoonlijk wel wat anders hierbij voor dan iets als Fable.

Denk dat de buzzwords stilaan opgeraken dus nu gaan ze over tot paniek zaaien. Of zo lees ik het althans toch.

[Reactie gewijzigd door Powerblast op 11 september 2026 19:18]

[Ryunoru]

Er is een verschil tussen buzzword AGI en werkelijk AGI. Ik had het over het laatste. Maar mede door het gebruik van de buzzwords raakt de wereld in de illusie dat het allemaal niet zo erg is, want we hadden al zoveel jaar AGI en dat ging allemaal goed. Tot we dus echte AGI krijgen, maar dat hebben we dan veel te laat in de gaten. Want ja, hoe zie je het verschil? We weten niet hoe bewustzijn werkt, dus kunnen het ook niet detecteren in machines.

[SCIxX]

Fable en andere genAI modellen zullen nooit AGI zijn of worden. De manier waarop LLM's werken is daarvoor veel te beperkt.

[Westpjotr]

En daardoor de concurrentiestrijd verliezen? Ik vrees dat er teveel geld achter zit te duwen voor een echte slowdown...

[uiltje]

Nou ja, da's dus de reden dat hij ook de concurrentie aanspreekt.

[Reactie gewijzigd door uiltje op 12 september 2026 02:37]

[separhim]

Ik ben echt compleet het vertrouwen kwijt in figuren zoals Altman, en ik geloof voor geen cent dat hij "gevaar" serieus neemt nadat hij al meerdere keren overzichtsraden heeft ontslagen. Ik durf ervoor te wedden dat hij dit nu zegt omdat hij wil dat zijn concurrenten worden gehinderd nu dat Astra uit is.

[Powerblast]

Heb jij dan ooit vertrouwen gehad in Altman? Iemand die in 2019 al letterlijk zei dat hij geen plannen had om winst te maken en ook niet wist hoe dat te moeten verwezenlijken in de toekomst. Hij hoopte het binnen een aantal jaar aan AI te kunnen vragen… (zijn letterlijke woorden).

Zij voor mij genoeg, weinig realiteitszin, dus heb er nooit vertrouwen in gehad.

[kodak]

Het doel is dat mensen die geld in openai (willen) investeren het vertrouwen op winst niet verliezen. Ze maken er een verhaal van dat ze iets krachtigs maken dat kan doden (dat heeft voor veel investeerders waarde) en in dat verhaal doen ze alsof ze daar mogelijk een grens trekken (wat voor veel investers een acceptabele grens is).

Zolang het veel investeerders niet interesseert of dit redelijke grenzen zijn hebben de personen van dit bedrijf winst. En aangezien nogal wat investering met geld van anderen is, wat weer bij anderen vandaan komt en dat geld ook weer bij anderen vandaan kan komen, is het eerder de vraag of ongeloof ook zorgt dat je je geld er niet in laat investeren.

[YopY]

Goede post / presentatie van ondertussen tien jaar geleden; legt heel netjes uit hoe de AI mensen bij het idee van een onstopbare superintelligentie komen, dat het effectief religieus doemdenken is, en een aantal tegenargumenten: https://idlewords.com/talks/superintelligence.htm

[Ryunoru]

Nogal makkelijk om het 'religieus doemdenken' te noemen. Dat riedeltje hou je ook alleen maar vol totdat het echt te laat is, en daarna maakt het niet meer uit. Kan je net zo goed wel het gevaar serieus nemen in de kleine hoop dat we nog te redden zijn.

[Mol_1248163264]

Dit is natuurlijk niet de echte reden. Waarschijnlijk zijn de ontwikkel/gebruik kosten te hoog. Bij OpenAI stroomt het geld er met miljarden tegelijk uit en complexere modellen gebruiken nog meer rekenkracht -> dus meer investeringen -> hogere kosten.

[CopyCatz]

Hoezo niet? Ik ben mijn eigen AI ontwikkelingen ook aan afremmen want de wereld is gewoon nog niet klaar voor mijn creaties.