Nieuwsblog: kunnen AI's denken, of is dat vooral een semantische discussie?

Kan een llm denken? Is AI zelfbewust? Wat is zelfbewustzijn eigenlijk? Volgen we daarin de res cogitans van Descartes of is zelfbewustzijn meer de transcendentale apperceptie van Kant? Wees gerust: wij hebben geen idee en we gaan ook niet doen alsof we het weten. Wat we wél weten, is dat het nieuws over hackende AI-agents op de redactie tot veel discussie leidde.

De zomer van 2026 mag inmiddels wel de Zomer Van De AI-hack worden genoemd. De kans is groot dat we over een paar jaar kunnen terugkijken op deze periode als een waarin AI-bedrijven de macht over hun llm's verloren. Dat begon met de hack op Hugging Face, eind juli. Sindsdien kunnen we bijna dagelijks een bericht schrijven over hacks door AI-agents van Anthropic, Meta, Google en nog wel meer. Sterker nog, dat deden we ook.

Onder die artikelen ontstaat steeds vaker een opvallend heftige discussie. Die draait om de vraag hoe we over deze hacks schrijven. Dat gebeurde bijvoorbeeld vorige week, toen in het nieuws kwam dat OpenAI-modellen uit zichzelf foto's op openbare sites plaatsten en websites van de Amerikaanse overheid aanvielen. Een veelgehoorde conclusie in de reacties was dat de titel fout was, want de modellen gingen niet de fout in, OpenAI liet de modellen de fout ingaan.

Klopt dat? En als het klopt, hoe moeten media zoals wij dan schrijven over deze incidenten? Dat leidde tot veel discussie op de redactie.

Hugging Face, dat in juli werd gehackt door een AI-agent

Wat gebeurde er precies?

Die begint bij de feiten. Want wat weten we nu eigenlijk over deze ene hack en over andere hacks, en hoe verhouden die zich tot elkaar? De eerste publiek bekende hack door een AI-agent was de hack op Hugging Face in juli 2026. OpenAI had en heeft het nog steeds over termen als 'misaligned behavior'. Ofwel: de modellen deden dingen die OpenAI niet goed snapt.

Toch ontbreekt er in een postmortem over het Hugging Face-incident veel informatie. Zo is niet bekend welke prompts OpenAI gebruikte of hoe het de sandbox zogenaamd beveiligde. Feitelijk heeft OpenAI dus niet genoeg informatie gegeven om te zeggen hoe de hack kon plaatsvinden.

Dat maakt het heel lastig om met zekerheid te zeggen wat er misging tijdens de hack. Vergeet ook niet: dit is een postmortem die OpenAI meer dan een maand ná de hack plaatste. In het verleden behaalde resultaten bieden geen garantie voor de toekomst en dat geldt ook voor nieuws. OpenAI mag dan inmiddels 10.000 agents hebben gevonden die hackten vanwege slechte beveiliging en belabberde logging, tijdens het 10.001e incident weten we niet zeker of dat opnieuw het geval is.

Verantwoordelijkheid

Natuurlijk kunnen we dat wel extrapoleren. Bovendien verandert het niets aan de verantwoordelijkheidsvraag. Die beantwoordden experts in een eerder achtergrondartikel op Tweakers al. Uiteindelijk is OpenAI eindverantwoordelijk als een AI-agent iets hackt.

De actie (het hacken) staat echter los van de gevolgen (schuld en verantwoordelijkheid). De actie blijft hetzelfde: een AI-agent heeft een hack uitgevoerd, zonder een directe opdracht daarvoor te hebben gekregen. De achtergrond van die hack is een vervolgvraag.

OpenAI-ceo Sam Altman (beeld: OpenAI)

Marketing, oprechte zorgen of een beetje van beide?

Een ander verwijt, namelijk dat we te veel meegaan in 'de marketing' van OpenAI, is ook te kort door de bocht. Zeker, marketing is een onderdeel van deze hacks. OpenAI (en concurrenten) gebruiken de hacks om aan investeerders en gebruikers te laten zien dat ze beter zijn dan de rest. Maar om deze hacks alleen door die lens te bekijken, is veel te simplistisch.

We schreven eerder bijvoorbeeld al dat er veel ándere redenen zijn waarom AI-bedrijven zelf pleiten voor een rem op ontwikkelingen. Marketing is er daar een van, maar ook concurrentiestrijd speelt mee, net als komende regulering en de economische kaders. Daarbij speelt ook mee dat de ontwikkeling van AI-modellen zó snel gaat dat de bedrijven zelf niet goed begrijpen hoe de modellen werken. Dat blijkt keer op keer op keer, uit onderzoek na onderzoek. Het klopt dat de bedrijven dat ombuigen naar marketingpraat, maar feit blijft dat de AI-modellen zich apart gedragen.

Semantiek

Al die redenen dragen eraan bij dat deze discussie vooral semantisch wordt. Een zin als 'de AI-agent hackt' kun je op veel manieren als fout zien. Filosofisch (een agent kan niets), praktisch (we weten niet wat de exacte prompt was), sociaal of juridisch (je schuift de verantwoordelijkheid af), economisch (bedrijven hebben er baat bij om hun modellen competent neer te zetten) …

De uitspattingen van AI-bedrijven en hun agents worden zo een rorschachtest voor hoe een lezer tegen AI aankijkt. AI kan dan alleen een domme woordvoorspeller zijn of een mensvernietigend doemscenario.

Na veel onderlinge discussie waarin we al die onderwerpen tegen elkaar afwogen, gaf het overleg met de eindredacteuren de doorslag. Hoe we over hackende AI's schrijven, is grotendeels een taalkundig vraagstuk. Dat is niet alleen bij AI zo, maar bij alles.

Ontsnappende apen en ontsporende treinen

Media schrijven bijvoorbeeld ook: 'Aap ontsnapt uit dierentuin'. Je kunt uitvoerig discussiëren over de vraag of dat correct is. Kan een aap ontsnappen? Of laat een dierentuin de aap ontsnappen? Heeft een aap genoeg vrije wil om zelf te kunnen bepalen of hij wil ontsnappen, of is dat alleen dierlijk instinct? Als je zo'n nieuwsbericht leest, stel je die vragen niet.

Ook stel je geen vragen wanneer een trein ontspoort. Dan vraag je je ook niet af of die trein ineens zelfbewust is geworden en of de journalist niet toch bedoelt dat een machinist de trein heeft láten ontsporen. Taaltechnisch weten we wat er bedoeld wordt met dit nieuws.

Ontsnapte Bokito uit Blijdorp, of liet Blijdorp Bokito ontsnappen?

Inhoudelijk correct

Dat betekent niet dat we de keuze daarmee simpel afschuiven. We moeten ook altijd goed opletten dat we AI niet te veel antropomorfiseren. We moeten altijd de kritische kanttekening blijven plaatsen dat de hacks nooit in een vacuüm bestaan. We plaatsen voortaan ook vaker een kader met context bij berichten over hacks, waarin we verwijzen naar eerdere hacks en de verantwoordelijkheid. Zo houden we afstand: we schrijven begrijpelijk op wat er gebeurd is, maar geven ook context en laten ons zo niet meeslepen in hype.

Uiteraard blijven we dat ook evalueren. De ontwikkelingen rondom AI gaan zo snel, dat ook wij als journalisten daarin de juiste weg en de juiste bewoordingen moeten zoeken. Dat gaat ongetwijfeld weleens fout, net als in de rest van de maatschappij.

Reacties (112)

[Arnoud Engelfriet]

Voor mij is de vraag: wat is de meerwaarde van die woordkeuze? Als het enkel kortere berichtgeving is, dan zie ik weinig problemen. "ChatGPT 6 lost complex wiskundig probleem op" is voor mij prima ten opzichte van "OpenAI-onderzoekers gebruiken ChatGPT bij het oplossen van probleem".

Wanneer het gedrag maatschappelijk relevant is, dan vind ik het spannender. Want dan positioneer je de AI als een zelfstandige entiteit in het maatschappelijk verkeer, en ken je daar gedrag aan toe, terwijl die AI dat niet is. "Computerprogramma ontsnapt uit sandbox" - nee, OpenAI laat programma ontsnappen.

[TijsZonderH]

wat is de meerwaarde van die woordkeuze

Leesbaarheid. Eigenlijk niks meer dan dat.

Teksten, zeker titels, hoeft niet altijd 100% feitelijk correct te zijn als dat uit de context blijft. Althans, in artikelen als deze. Voor jouw werk maakt dat natuurlijk uit, ik vind hier de leesbaarheid belangrijker.

Ik denk dat je de maatschappelijke discussie dan prima kunt duiden in het artikel, terwijl je het wel gewoon op een normalemensenmanier opschrijft.

[maykoga]

: kunnen Mensen denken, of is dat vooral een semantische discussie?

Kan een mens denken? Is een brein zelfbewust? Wat is zelfbewustzijn eigenlijk?

Het is lastig, maakt de biochemische stofwisseling ons menselijke brein tot zelfbewust? Nee, of toch Ja?

Is een neuron op silicium in principe onmogelijk om zelfbewust te zijn? Wat als het evenveel stuks en dezelfde architectuur als biologisch maakt?

Lastige vragen

Mogelijk is het antwoord meer Ja dan wij mensen graag emotioneel willen toestaan denk ik, het is confronterend als wij mensen minder bijzonder zijn dan we dachten - laten we het daar eens over hebben

[pegagus]

AI heeft nog altijd een prompt nodig en gaat niet uit zichzelf proberen biologische bloemkolen te kopen. Als ik naar de winkel ga om een biologische bloemkool te kopen, dan doe ik dat omdat ik eten nodig. heb. Een biologische bloemkool kan ik kopen, omdat ik denk dat het beter is voor mij zelf. Maar ik kan het ook kopen, omdat ik denk dat een biologische bloemkool beter is voor het geheel van Moeder Aarde en alles wat er op leeft.

Leg mij dan maar eens uit hoe mijn denken het product kan zijn van mijn hersenen, wanneer ik een keuze maak, die mijn persoonlijk belang ver overstijgt, en niet direct in mijn persoonlijke belang is, omdat die bloemkool kleiner is, minder wit en nog duurder ook.

En aanvullend: als ik bang ben, is dat een emotie. En vanuit die emotie kan ik gaan denken en al dan niet wat doen. Maar wat ik ook kan, is mijn denken corrigeren en mij zelf toe spreken dat ik niet bang moet zijn, omdat het onzin is te denken dat er een monster onder mijn bed ligt.

Wat is dan datgene wat mijn eigen denken corrigeert? Descartes leerde: ik denk, dus ik ben. Maar wat is dat deel in mij wat mijn eigen denken kan corrigeren en andere keuzes kan maken? Zelfs wanneer die keuze uiteindelijk leidt tot je eigen ondergang, zoals Etty Hillesum, of Aleksej Navalny?

[Marrtijn]

AI heeft nog altijd een prompt nodig en gaat niet uit zichzelf proberen biologische bloemkolen te kopen. Als ik naar de winkel ga om een biologische bloemkool te kopen, dan doe ik dat omdat ik eten nodig. heb. Een biologische bloemkool kan ik kopen, omdat ik denk dat het beter is voor mij zelf. Maar ik kan het ook kopen, omdat ik denk dat een biologische bloemkool beter is voor het geheel van Moeder Aarde en alles wat er op leeft.

Ben jij uit het niets op het idee gekomen dat biologische bloemkool beter is voor Moeder Aarde? Jij bent ook gewoon 'geprompt' door je omgeving.

[pegagus]

Dus heeft AI ook een prompt nodig om de mensheid ten onder te laten gaan.

[ErnstvV]

Zou er ook een moment komen dat AI tot de conclusie komt dat AI een bedreiging vormt voor de mensheid en aarde? En dus zichzelf zou moeten vernietigen?

[Patrickkkk]

Leg mij dan maar eens uit hoe mijn denken het product kan zijn van mijn hersenen, wanneer ik een keuze maak, die mijn persoonlijk belang ver overstijgt, en niet direct in mijn persoonlijke belang is, omdat die bloemkool kleiner is, minder wit en nog duurder ook.

Iedereen die wel eens alcohol, of beter sterke pijnstilling zoals morfine of andere psychoactieve stof heeft gehad kan merken dat hun denken totaal kan veranderen door wat uiteindelijk een stofje in de hersenen is. En daarmee staat toch wel vast dat denken het product van je hersenen, of op zijn minst van het lichaam is.

[pegagus]

Iedereen kan vast stellen dat met pijnstilling of alcohol het denken vooral verslechterd.

Neem een computer, die heeft software en iemand die achter het toetsenbord zit. De uitkomst van de computer is dat wat op het scherm verschijnt. Maar is dat het product van de hardware, van de software, of van de bediener? Als als je de computer dan slechter laat lopen, door bv de internetverbinding te onderbreken of de koeling te frustreren, is het dan de hardware die verantwoordelijk is voor het resultaat?

Kortom, wat zegt het precies, anders dan iets wat goed functioneert, slechter gaan functioneren, omdat je het min of meer kapot maakt?

[bzuidgeest]

Dat jij het belang van een keuze niet begrijpt wil niet zeggen dat er geen belang bij betrokken was. En emoties zijn gewoon een externe prikkel. En we zijn niet eens zeker dat emotie en bewustzijn bij elkaar horen en niet zonder elkaar kunnen. Psychopaten zijn vaak best intelligent.

Als jij een keuze maakt waarvang jij denkt dat het je eigen belang overstijgt.... Dan maak je een keuze waarvan je onvoldoende zelfreflectie hebt om te begrijpen waar het je belang dient. Als jij je opoffert voor je kind dan is jou belang het belang van voortbestaan in de volgende generatie. En je kan kiezen dat dit boven je eigen lichamelijke leven gaat.

Navalny? Zijn belang was zijn land. Om de geschiedenis in te gaan als de redder ervan. Omdat zijn vrouw het geweldige eigenschap vond. Omdat hij dat wilde doen.... Kies maar een reden. Hoe dan ook het komt altijd op eigenbelang uit. Het mooiste is als eigenbelang samenvalt met het belang van de rest. Mijn eigenbelang zegt dat ik vrede wil. Als de rest dat ook wil zitten we goed.

Zelfs moeder theresa werkte op eigenbelang. Ze dacht dat als ze goed deed god plezierde en dan ga je naar de hemel.

[Reactie gewijzigd door bzuidgeest op 2 oktober 2026 11:14]

[pegagus]

Op basis waarvan stel je dat emoties externe prikkels zijn? Angst kan voor 999 van 1000 mensen compleet irreëel zijn maar voor net 1 persoon niet.

En waar baseer je op dat wanneer iemand een keuze maakt die zijn eigen belang overstijgt, deze persoon onvoldoende zelfreflectie heeft? Dan kan zijn als iemand zijn kind uit ijskoud water wil redden. Maar er zijn genoeg voorbeelden van mensen die kansen genoeg gehad hebben om het gevaar te ontvluchten, maar dat toch niet deden. De gedachte "redder van het land" te willen zijn (of wat dan ook), vul je blijkbaar ook zo maar in. Je geeft aan geen flauw idee te hebben, maar komt wel tot de conclusie "eigen belang"?

Zelfmoordterrorisme heeft altijd een beloning is zich, in de zin van eer of 70 maagden. Geweldloos verzet geeft geen enkele garantie op een geestelijk nalatenschap.

Waarom is jouw eigenbelang vrede? Wat levert het jouw persoonlijk op? Minder vluchtelingen in eigen land? Op vakantie kunnen naar Gaza of Iran?

[bzuidgeest]

Maar er zijn genoeg voorbeelden van mensen die kansen genoeg gehad hebben om het gevaar te ontvluchten, maar dat toch niet deden.

En zoals ik al aangaf betekend eigenbelang niet noodzakelijk gevaar ontvluchten. Het kan in je belang zijn om het gevaar niet te vermijden, ook al kost het mogelijk je eigen leven. Dit gebeurd als je het belang van anderen of wereldse gevolgen je eigen belang hebt gemaakt. Je eigen belang draait niet noodzakelijk om jezelf in leven houden. Het draait om bewerkstelligen wat je belangrijk vind. Dat kan ook een ander redden zijn.

De gedachte "redder van het land" te willen zijn (of wat dan ook), vul je blijkbaar ook zo maar in. Je geeft aan geen flauw idee te hebben, maar komt wel tot de conclusie "eigen belang"?

Ik kan niet in zijn hoofd kijken wel belang hij "koos", maar ik weet wel dat het altijd en echt altijd terugloopt op eigenbelang. Het concept dat jij mist is dat eigenbelang niet altijd over het eigen lichamelijke welzijn gaat. Het betekend alleen dat jij beplaald hebt wat je het belangrijkste vind en dat is je motivator voor een keuze.

Geweldloos verzet geeft geen enkele garantie op een geestelijk nalatenschap.

Niets in het het leven geeft garanties.

Waarom is jouw eigenbelang vrede? Wat levert het jouw persoonlijk op? Minder vluchtelingen in eigen land? Op vakantie kunnen naar Gaza of Iran?

Je geeft het zelf al aan. Ik geloof ook in wetenschap en vooruitgang en die is er meer als we onderling samenwerken. En er zijn nog vele andere redenen. Dus vrede is een van de dingen in mijn belang. Oorlog vernietigd en remt voortgang. Dood mogeljik een genie voor zijn tijd.

Op basis waarvan stel je dat emoties externe prikkels zijn

Op basis van het idee dat net als warm of koud het iets is dat je voelt. Dat ze mogelijk in je hersens door instinct worden gegenereerd. maakt ze niet intern. Je kiest niet voor een emotie. Je voelt een emotie. Dus extern aan het "bewustzijn", wat dat ook is.

[pegagus]

Eigen belang wordt in het algemeen tegenover een gedeeld belang gesteld. En eigen belang wordt over het algemeen gelijk gesteld aan het in stand houden van het lichaam. Eigen belang als iets waarvoor je wilt leven en sterven, pleit juist voor een bewustzijn dan meer is dat het product van ons brein. Dat mistte ik niet, maar ik veronderstelde het wel (bewust).

Wat emoties betreft: mijn schoonmoeder is weduwe en is bang voor het donker. Wat dan komen ze haar halen of zo. Je zou kunnen stellen dat de afwezigheid van licht (wat je dan maar ook even als een prikkel beschouwen), de emotie triggert. Maar de emotie zelf volgt niet uit het donker, maar uit een idee dat het donker iets met zich mee brengt. Een zelfde iets is hoogtevrees. Een hoogte van 3 meter is voor de meeste mensen geen enkel probleem (bv een balkon op de 1e verdieping). Maar voor sommige mensen triggert het wel iets.

Persoonlijk ken ik geen angst. Gewoon helemaal niet. Dat komt niet omdat ik niet bloot sta aan prikkels, maar om de manier waarop ik in dit leven staat. Angst komt voort uit de gedachte dat je iets te verliezen hebt. Maar als er niets valt de te verliezen, dan heeft angst geen functie meer.

[jb044]

Persoonlijk denk ik niet dat wij zo verschrikkelijk uniek zijn dat nadenken en zelfbewustzijn iets is dat alleen een mens zou kunnen. Maar ik denk wel dat om het te kunnen reproduceren eerst duidelijk moet zijn wat nadenken en zelfbewustzijn precies is, en voor zover ik weet is dat een vraag waar de wetenschap al heel lang niet uit is en best wel op stuk loopt: wat is het, waar begint het en waar eindigt het. Door simpelweg steeds meer kunstmatige neuronen, transistors, toe te voegen en steeds complexere taken door kunstmatige 'breinen' te laten uitvoeren ga je daar imho nooit uit- of aankomen

[biggydeen2]

Jouw persoonlijkheid bepaalt je keuzes en manieren van denken. Dit is aangeleerd gedrag. Angst is geen emotie die zomaar opkomt. Dit komt voort uit aangeleerd gedrag en denken. Zonder denken kun je onmogelijk angst ervaren of überhaupt mentale klachten ervaren.

Jij bent echter niet je gedachten, jij observeert je gedachten. Dat verschil kennen maar weinig mensen. Vrijwel iedereen volgt zijn gedachten zonder daar bewust van te zijn.

Daarnaast kun je wel denken dat je ergens niet bang voor hoeft te zijn, dat zorgt er niet zomaar voor dat je angst weg is. Indien jij door je ouders structureel jarenlang bang bent gemaakt voor monsters onder je bed ga jij daar vrijwel 100% zeker op volwassen leeftijd klachten van ervaren. En die heb je er ook niet zomaar uit.

Jij en iedereen zijn het product van de opvoeding van je ouders, wat je meemaakt en omstandigheden. Dat bepaalt voor 99% wie je bent als persoon.

Zelfbewust zijn betekent simpelweg dat je kunt nadenken over wat je denkt. Alleen mensen kunnen dit. Sommige dieren op basaal niveau.

[EQJim]

Ja, de mens is zelfbewust, dat is geen semantische of lastige kwestie. De mens is echter niet enkel zelfbewust en onze hersencapaciteit is ook gelimiteerd: daarmee ons zelfbewustzijn ook. Er zijn ook zeer primaire prikkels die soms nog zwaarder wegen dan ons bewustzijn. Vooral honger en angst kunnen mensen "dingen" laten doen die ze bij volledig zelfbewustzijn niet zouden doen.

[bzuidgeest]

Ja, de mens is zelfbewust, dat is geen semantische of lastige kwestie.

Daar zijn een heleboel mensen het niet mee eens. Ik denk dat ik daarover kan zeggen dat het prima past bij "Mensen die zeggen quantum mechanica te begrijpen, begrijpen quantum mechanica niet"

Er is een hele groep mensen bijvoorbeeld die denken dat onder puur actie gevolg alles wat we doen al vaststaat omdat alles de natuurwetten moet gehoorzamen. En als we geen echte keuze hebben, dan hebben we ook geen echt bewustzijn. Dan denken we dat omdat de attoompjes gewoon zo gevallen zijn....

[EQJim]

Ik snap wat je zegt, maar dat is dan meer een filosofische kwestie zoals: Heb je vrije wil als alles wat we doen binnen de regels van de natuurkunde en biologie moet vallen? Je kunt tenslotte ook niet bewust besluiten om te vliegen zonder hulpmiddelen.

We verzanden wel snel in semantiek zeg .

[bzuidgeest]

Geweldig toch een discussie die je keer op keer kan voeren zonder resultaat.

En ik denk dat zoals het nu staat dit soort vragen sowieso filosofisch zijn voor een groot gedeelte. We hebben geen natuurwet van bewustzijn om te toetsen.

Daarom noemde we het vroeger ook "Natural philosophy" -> De studie van natuur en het fysieke.

[CAPSLOCK2000]

Er is een hele groep mensen bijvoorbeeld die denken dat onder puur actie gevolg alles wat we doen al vaststaat omdat alles de natuurwetten moet gehoorzamen. En als we geen echte keuze hebben, dan hebben we ook geen echt bewustzijn. Dan denken we dat omdat de attoompjes gewoon zo gevallen zijn....

Kun je uitleggen waarom "echte keuze" (vrije wil) nodig is voor bewustzijn?

Ik ben zo iemand die niet echt in vrije wil gelooft, maar wel in bewustzijn.
Volgens mij is bewustzijn zo iets als televisie kijken. Je kijkt passief mee met de "show" die je lichaam geeft, inclusief je eigen brein dat patronen extrapoleert, voorspelling doet en feedback verwerkt.

Ik geloof niet echt in vrije wil of interne monoloog, volgens mij is dat vooral het achteraf verklaren van onze observaties.

Daar is volgens mij geen vrije keuze voor nodig.

[bzuidgeest]

Dat is niet helemaal wat ik bedoelde. Als alles oorzaak en gevolg is, dan is er geen echte keuze. Maar dan is bewustzijn ook oorzaak en gevolg. Passief meekijken, suggereert bij mij dat er iets is om passief mee te kijken. Onder de puur oorzaak en gevolg redenatie kan dat meekijken dan niet meer zijn dan een concept dat ontstond omdat de eerste actie in dit universem niet anders dan die uitkomst kon hebben. Jeetje dit is moelijke goed neer te schrijven

De meest gebruikelijke en kortste definitie van bewustzijn is het vermogen om te ervaren of te beseffen. Maar als je geen keuze hebt. Ervaar je dan wel?

Persoonlijk suggereert het concept van bewustzijn ook iets als een ziel. Als er een observer is, dan moet die buiten het puur fysieke staan (in ieder geval conceptueel), In iets vaags onder de quantum mechanica wellicht.

Ik denk dan ook dat het concept van de ziel in de meeste religies te maken heeft met bewustzijn. Onze evolutie van dom hoopje cellen naar iets meer.

Maar het is een onbeantwoordbare vraag uiteindelijk. Kan een steen beseffen dat het geen steen is. Daar over nadenken, een keuze hebben? Een steen is materie net als wij. Alleen van een andere soort. Met andere chemischer interacties.

De google AI hielp me nog met dit:
Waarom ze niet zonder elkaar kunnen

• Bewustzijn is de voorwaarde voor vrije keuze: Om echt een "vrije" keuze te maken, moet je je bewust zijn van de opties. Als je volledig op de automatische piloot (onbewust) handelt, zoals ademhalen of reflexen, spreken we niet van een vrije keuze. Je hebt bewustzijn nodig om scenario's te overwegen en de gevolgen te overzien.
• Vrije keuze geeft bewustzijn een functie: Vanuit de evolutiebiologie vragen wetenschappers zich af waarom we überhaupt bewustzijn hebben. Een populaire theorie is dat bewustzijn dient om complexe beslissingen te nemen in nieuwe situaties waar instinct tekortschiet.

[litebyte]

Ons hele brein werkt op basis wat we met onze zintuigen waarnemen.

[pagani]

Je raakt hier wel een punt wat ik ook wilde aankaarten. We vergelijken het "bewustzijn" van AI eigenlijk standaard met het bewustzijn van een wetenschapper, kunstenaar of anderszins "zeer bewust" persoon. Hiermee ga je echter wel voorbij aan een heel groot deel van de mensheid wat, zonder te willen generaliseren, meer geleefd wordt dan leeft (een beetje zoals de mensen in Wall-E: Je volgt de hele dag je werk- of vermaakprotocol, je koopt wat reclame je vertelt te kopen, je eet "wat de pot schaft" (de aanbieding van supermarkt x of restaurant y))

Moderne LLMs kunnen prima de Turing test doorstaan bij het overgrote deel van de bevolking. AI heeft nog het nadeel dat het geen fysieke vorm heeft (als in, een humanoide robot die niet van echt te onderscheiden is), anders zou deze discussie veel verder richting het hebben van een bewustzijn schuiven. Is de AI dan echt zelfbewust? Waarschijnlijk niet. Maar het overgrote deel van de mensheid zal het dan wel zo ervaren.

[bzuidgeest]

Soms ervaar ik zelfs geen zelfbewustzijn bij mensen

[japie06]

Dit is wel de kern van het probleem. Iedereen weet van zichzelf dat die zelfbewust is, maar hoe weet jij dat andere dat ook zijn? Ze kunnen wel zeggen dat ze zelfbewustzijn, maar misschien probeert die gene wel gewoon aardig te zijn en je een beetje naar je mond te praten. (Niet anders dan sommige LLMs nu doen).

[bzuidgeest]

Zeker, dan kom je uit op de filosofie van brain in a jar.

[Goldwing1973]

Huh? sorry? wat zeg je?

[Bedge85]

Mogelijk is het antwoord meer Ja dan wij mensen graag emotioneel willen toestaan denk ik, het is confronterend als wij mensen minder bijzonder zijn dan we dachten.

Mensen zijn niet bijzonder in narcistische zin. Dat klopt. Maar mensen en mensenlevens zijn wel waardevol, hebben waarden en het is belangrijk om een goed mensen leven te hebben.

[Reactie gewijzigd door Bedge85 op 2 oktober 2026 10:52]

[Aetherblade]

Dat is natuurlijk ook subjectief, dat hangt veel af van cultuur maar ook van mens tot mens.

[sdziscool]

tsja kan je ook over koeien zeggen, toch eten meeste mensen een paar kilo koe per maand.

[Tripledad65]

Ik denk dat het veel meer is, dat wanneer we over "zelfbewust" en "denken" praten, we het in dit kader er op moeten houden dat voor deze termen de mens de benchmark is.

We kunnen ons natuurlijk afvragen of mensen écht vrij wil hebben (er zijn mensen die beweren dat vrije wil fundamenteel niet bestaat) of dat we misschien in een simulatie leven (een stelling niet bewezen of ontkracht kan worden), maar in dit kader, denk ik dat dat niet relevant is. De vraag is, in hoeverre benaderd AI de mens.

[OldSchoolPhoto]

Is het universum deterministische of niet.

Als je alle condities exact weet, kan je dan precies uitrekenen waar elk deeltje zicht bevindt. Je hersenen, of een computer, heeft dan dus geen vrijheid. Bewustzijn en keuze is een illusie (maar kan je wel een illusie hebben?). Als het universum deterministische is, kan je dan wel bewust zijn en heb je wel keuzes, alles is immers te berekenen en daarmee vooraf bepaald.

Deze vraag voor mensen beantwoorden is al lastig, laat staan voor computers: Was bij mijn geboorte, of voor mijn geboorte, al bepaald dat ik dit nu zou gaan intypen (deterministisch) of niet?

Stel dat wij bij bewustzijn zijn, juist omdat onze hersenen niet deterministische logica volgen. Wanneer is datzelfde geval in een computer en kunnen we van een AI spreken die bewuste keuzes maakt?

[Finraziel]

Het probleem bij determinisme en dat je in theorie alles zou kunnen berekenen (en er dus geen vrije wil is)... Is dat je een computer buiten onze werkelijkheid nodig zou hebben om die berekeningen uit te kunnen voeren. Als die computer namelijk binnen onze werkelijkheid zit dan moet het model zichzelf bevatten plus al het andere van de werkelijkheid en dat kan dus per definitie niet passen. Zodra je gaat abstraheren zodat het wel past gaat het nooit meer een exacte berekening zijn.

Het is daarom een grappig gedachte experiment in de zin van zou onze werkelijkheid een simulatie kunnen zijn... Maar binnen de wetten van onze werkelijkheid is het onmogelijk om alles te kunnen berekenen/voorspellen. En daarom maakt het niet uit.

[Tripledad65]

Het onzekerheidsprincipe van Heisenberg zegt dat je van een deeltje niet tegelijkertijd de richting en het momentum kan bepalen. De gangbare conclusie is dat daardoor het universum niet deterministisch kan zijn (maar er zijn ook tegenargumenten)

[Bulls]

Mensen hebben een ziel en een ai algoritme niet.

[The-Source]

Maar als iets meetbaar is zou je kunnen zeggen dat het wetenschappelijk er is.
Zolang dat niet meetbaar is dan is het niet uitgesloten dat het er niet is. Alleen we hebben dan x hoeveelheid methodes gevonden hoe het niet te meten valt.
Dat vind ik zelf het mooie aan de wetenschap dat zelfs wanneer alles overnieuw zou beginnen uiteindelijk de wetenschappelijk zaken hetzelfde als uitkomst gaan krijgen.

* dit raakt dus naast ziel ook godsdienst etc maar nogmaals niet meetbaar betekend niet direct dat het er ook niet is.

[jj71]

Wat is een "ziel" precies? Hoe kun je meten / waarnemen of iets / iemand / een levend wezen wel of niet een ziel heeft? Hebben dieren ook een ziel? Zo nee, waarom hebben dan alleen mensen een ziel? Zo ja, hebben alle dieren een ziel? Ook wormen, mieren, en ééncellige diertjes? Betekent een ziel hebben dat je dan ook (zelf)bewustzijn hebt?

[Bulls]

Kun je het meten? Wellicht aan de hand van de ogen. De ogen zijn de spiegel van de ziel zeggen ze vaak. Daar zit een waarheid in. Als je sterft gaat het lampje uit en krijg je een doodse blik. Kijk eens naar beruchte moordenaars hoe die uit hun ogen kijken. Duister zwart gat.

Verder als je over jezelf praat, en aanwijst. Dan wijs je naar je borst. Niet naar je hoofd waar je verstand zit.

Je kan ook video’s vinden met microscopische beelden over de conceptie en dan zie je op het moment van bevruchting een flits. The spark of life.

Elk levend wezen heeft een soort van zelfbehoud, is dat bewustzijn, of inderdaad maar een algoritme. Zijn we met z’n allen dan alleen maar een klomp cellen die met elkaar communiceren en stofjes uitwisselen?

[W1ck1e]

Ik ben er niet eens van overtuigd dat alle mensen en ai algoritme een functionerend geweten hebben.

[ccnl]

Mensen hebben een ziel

Waar is het bewijs voor deze bewering?

[HADES2001]

Zo werkt dat niet, de persoon die iets beweert moet met de feiten en onderbouwing komen. Zelfde als dat ik nu zeg een goudvis te zijn dan moet ik dat bewijzen en niet dat bij een ander neer leggen.

[Timfonie]

'Bulls' is duidelijk een AI-bot, een kwalitatief goede AI-bot die, zoals zovele, heel overtuigend menselijk kan overkomen.

_{(Dit is een moeiteloos neergelegde bewering.
Het bewijzen van het tegendeel kost juist bijzonder veel moeite, als het al mogelijk is.
Omgekeerde bewijslast is dus niet hoe het werkt)}

[Reactie gewijzigd door Timfonie op 2 oktober 2026 10:56]

[bzuidgeest]

Ik denk dat jij een moordenaar en een dief bent. Waar is het bewijs dat het niet zo is?

[Framoes]

Het is praktisch onmogelijk te bewijzen dat iets niet zo is of niet bestaat. Daarom moet de persoon die claimt dat iets bestaat het bewijs leveren.

[Bulls]

Maar wat is bewijs in dit geval. Enkel gebaseerd op mening en overtuiging.

[Klauwhamer]

Ik heb hier een heel interessant paper over voorbij zien komen; de wetenschap achter deze discussie die vaak vertroebeld wordt door misconcepties en marketing. De bottomline is: het is een (zeer goede) woordjesvoorspeller en dat was het. Geen agency en geen bewustzijn. De information/date gap vergeleken met mensen is bijna niet te bevatten zo groot, en AGI is lichtjaren verwijderd. Het is gewoon echt niet veel spannender dan dat.

[bzuidgeest]

Maar agency is iets wat wij het kunnen geven. En mensen doen ook niets zonder input. Zonder stimulie uit de omgeving, woorden of anders. En bewustzijn kunnen we nauwelijks definieren voor mensen. Dus dat doen voor AI vind ik helemaal subjectief.

Dat wil niet zeggen dat ik geloof dat ze bewustzijn. (in ieder geval niet de LLM's) Maar hoe zit het met wereld modellen of met het vliegbrein van google etc.

En ooit dachten we dat een LLM lichtjaren verwijderd was tot het ineens verscheen. Wie weet wat er gebeurd in een stil lab. Of zoals in veel gevallen uit een experimenteel ongelukje bestaat.

Ik vind het nog iets voor definitive conclusies maken over een concept als bewustzijn dat niemand gedefinieerd heeft op een manier dat er geen discussie mogelijk is. De paper is op zijn hoogst een opinie en op zijn hoogst waarschijnlijk.

[Klauwhamer]

Het gaat specifiek om een LLM, hoe het functioneert, en waar het aan voldoet. Vooralsnog zijn het alleen de tech bro's en geimponeerde leken die boude uitspraken doen over AI en 'denken', en bang zijn uitgeroeid te worden door een goede woordjesvoorspeller. Dit lijkt een gechargeerde uitspraak maar dat is het allerminst en ik vind het niet voor je pleiten dat je de auteurs beticht van maar een "opinie" alsof ze op gelijke voet staat aan dat van jou, mij, of een tech bro met een commercieël incentive.

[bzuidgeest]

Een woordjesvoorspeller of domme AI kan wel eens gevaarlijker zijn dan een werkelijk intelligente AI. Met de laatste kan je redeneren. Voor het gevaar zie de "The paperclip maximizer" gedachte experiment

Ik mag verder iedereen betichten van opinie. De auteurs zijn niet heilig. En ik denk dat alle schrijven, dat gebaseerd is op een definitie van iets als bewustzijn, dat we nauwelijks begrijpen, niet meer dan opinie kan zijn. En ja, dan is mijn mening net zo goed als de hunne. Je zou zelfs kunnen overwegen of ik in studies niet het volste recht heb verkregen om hun tegen te spreken. (voor de eerlijkheid, ik ben geen expert, maar de optie dat het wel zo is overweeg je niet eens omdat je de paper al voor gospel hebt aangenomen).

En het zijn niet alleen techbro's. Dat is de discussie te kort doen. En een LLM is ook al weer de scope vernauwen. Er zijn meer modellen dan LLM's.

[Elminster]

Man, ik zie nergens dat Klauwhamer beweert dat hij 'de paper al voor gospel heeft aangenomen'

En het zijn niet alleen techbro's. Dat is de discussie te kort doen. En een LLM is ook al weer de scope vernauwen. Er zijn meer modellen dan LLM's.

En dit is duidelijk moving the goalpost.

Het bovenstaand (tweakers) artikel gaat over LLM's.
Klauwhamer geeft een interessante publicatie in een gerenommeerd magazine.
Jij gaat niet akkoord met het artikel (uw recht - een heel pak mensen gelooft bvb niet in geneeskunde, maar wel in homeopathie), en begint over wereldmodellen & vliegenbreinen.

Klauwhamer verduidelijkt dat het specifiek over LLM's gaat, en dat een gepubliceerd artikel wel iets meer is dan een opinie.

Vervolgens beticht je de auteurs alweer van opinies. (Heb je 't artikel wel gelezen? En hun referenties? Hun gedachtegang gevolgd?) En plaats je jezelf op hetzelfde niveau, want het zijn 'maar' meningen. En dan volgt er nog snel een ad hominem naar Klauwhamer (gospel)

En je eindigt alweer met het doel te verplaatsen. "Er zijn meer modellen dan LLM's".
Maar daar gaat het hier niet over. Niet in het artikel. Niet in de paper. Niet in de reacties van Klauwhamer.

[bzuidgeest]

Man, ik zie nergens dat Klauwhamer beweert dat hij 'de paper al voor gospel heeft aangenomen

Man? Ik ben je buddy niet. Maar dat daargelaten. Klauwhamer stelt dat ik geen andere opinie mag hebben. Dat impliceert dat hij die mensen boven mijn en anderen hun opmerkingen en gedachten plaatst. Ofwel gospel. Dat is wat gospel betekend.

en dat een gepubliceerd artikel wel iets meer is dan een opinie.

Dat is helemaal niet waar. Er zijn ook filosofie papers en die zijn zeker weinig meer. Gepubliceerd is ook niet moeilijk, dat kan iedereen doen. Wat moeilijker is, is peer reviewed. En zelfs dan nog zegt dat alleen dat je geen rare fouten hebt gemaakt of valsheid begaat.

En je eindigt alweer met het doel te verplaatsen. "Er zijn meer modellen dan LLM's".

En als je naar mijn eerste reply naar klauwhamer kijkt, voor de tweede waar je over roept. Dan zie je dat ik daar andere dingen al aanhaalde. Ofwel ik plaats ze niet verder dan ze al stonden.

En dus eindig ik maar in jou stijl met Man, ik wou dat je begrijpend kon lezen. En kan klauwhamer niet voor zichzelf opkomen?

[logisch]

De auteurs van dat artikel zijn geen expert op het gebied van de onderliggende technologie, ze komen uit de hoek van cognitive science. Met zinsnedes als "First, creating AGI through machine learning inherently consumes astronomical amounts of resources—sooner will the sun die out than that we will create AGI, and in the meantime we will just be polluting our planet and exploiting un(der)paid labor." plaatsen ze zichzelf in de opiniërende hoek, daar mag gerust tegengas op worden gegeven. Iedereen die zich bediend van zulke schijnzekerheden in dit vakgebied moet je met wantrouwen tegemoet treden.

Niemand weet zeker waar AI over 5 jaar staat, en niemand had 5 jaar geleden voor mogelijk gehouden dat de "woordjesvoorspellers" nu zouden kunnen wat ze kunnen. Tekenend is dat het artikel zwaar leunt op referenties uit 2023 en eerder, terwijl de vaardigheden van de huidige modellen op geen enkele manier te vergelijken zijn met die van toen. De ontwikkelingen gaan zo snel dat het traditionele proces van wetenschappelijk onderzoek + peer review en publicatie het momenteel niet kan bijhouden.

Voor de duidelijkheid: Er is absoluut een belangrijke rol weggelegd voor wetenschappers die tegengas geven tegen de commerciële hype, maar gezonde twijfel moet daar altijd een onderdeel van zijn. Zeker als het over zoiets fundamenteel onbegrepens gaat als theory of mind en bewustzijn.

Edit, ter zijde: het artikel richt zich vooral op het potentiële gebruik van AI's als "minds" in wetenschappelijk cognitief onderzoek, bijv. ter vervanging van menselijke proefpersonen, en beargumenteert dat AI daar niet geschikt voor is. Dat lijkt me een prima te verdedigen stelling voor nu en de komende jaren.

[Reactie gewijzigd door logisch op 2 oktober 2026 12:03]

[SunnieNL]

Het boek 'Dit is AI' van Ilyaz Nasrullah is wat dat betreft ook een hele goede om te lezen en te leren wat AI voornamelijk niet is.

Als AI kan denken, dan kun je hem leren wat goed en fout is. Dan kun je hem leren dat ergens binnendringen niet goed is, ookal heb je die data nodig die daar achter te vinden is. Ook als je er binnen komt met credentials die ergens op het internet te vinden zijn of omdat ze hun software niet gepatched hebben.

[liberque]

Vraag jezelf eens af hoe jij denkt. Wat gebeurt er bv. in je hoofd als je iets leert? Was het niet zo dat als je iets leert dat je hersens fundamenteel veranderen omdat er nieuwe verbindingen ontstaan en bestaande verbindingen versterkt worden? Dat het maken van fouten (onverwacht resultaat) of successen onder invloed van bv. dopamine die verbindingen arceert en dus voorkeurs verbindingen worden? Die verbindingen zorgen er uiteindelijk voor dat je gerichte keuzes en beslissingen maakt.

Dit is dan ook de reden dat wij mensen de ouders van een kind verantwoordelijk houden voor de acties van hun minderjarige kinderen. Immers een ouder heeft zeker 17 jaar de tijd om de verbindingen in de hersens van een kind te vormen. Dat kan door kennis, maatschappijleer, moraliteit aan het kind over te geven. Ouders vormen dus met hun invloed feitelijk de hersens van een kind. Invloeden van buitenaf daargelaten natuurlijk.

In die context functioneren je hersens eigenlijk precies hetzelfde als een LLM. Een LLM heeft heel veel informatie tot beschikking, maar zolang het niet weet wat er mee moet gedaan worden is die data waardeloos. Daarna komt de gebruiker en die schrijft een prompt. Feitelijk vraag je de LLM dan verbindingen te leggen in zijn beschikbare data, te arceren en te gebruiken voor de opdracht in die prompt. In die context "leer" je als gebruiker dus je LLM tijdelijk iets zodat deze het werk kan uitvoeren. "Leer" staat hier expres tussen aanhalingstekens, want zodra je de prompt afsluit "vergeet" de LLM de verbindingen. (ja ze kunnen later in de de data van de LLM toegevoegd worden, maar dan is het nog steeds data op de grote hoop zonder verbindingen).

Dat is in mijn optiek een wezenlijk verschil tussen het "denken" van een mens en een LLM. Het proces lijkt hetzelfde, maar bij een LLM heb je echt de prompt nodig (dus de gebruiker). Wegens commerciële en logistieke beperkingen is die prompt ook nog eens beperkt qua opslagcapaciteit. Een LLM gaat dan fouten maken omdat het dingen "vergeet". Mensen hebben ook geen onbeperkte opslagcapaciteit, maar als mensen neurale verbindingen minder gebruiken verzwakken ze langzamerhand en niet direct en mensen hebben de capaciteiten dat slim te beheren. Als een mens een fout maakt dan zal dit juist een trigger zijn om die neurale verbinding weer te arceren / versterken. Bij een LLM is het de gebruiker die dit moet corrigeren.

Dus kan een LLM denken/leren en heeft het bewustzijn? Nee : het heeft een boel informatie, maar kan er niks mee. Het is de gebruiker met de prompt die een agent van een LLLM laat denken en die agent leert hoe deze de beschikbare info moet gebruiken. Ook het moraal van de agent wordt daardoor bepaald (in vooraf gedefinieerde beperkingen). Het is dus de schrijver van de prompt die verantwoordelijk is voor het handelen van de agent en onder geen geding de LLM zelf.

Zou een agent uiteindelijk wel zelfstandig kunnen denken in de toekomst? In mijn optiek wel, maar de capaciteit/geheugen/gpu kracht die daarvoor nodig is om al die verbindingen te maken en te onderhouden is vele malen groter dan de data in de LLM zelf. Zou dit onbeperkt zijn dan is het theoretisch mogelijk, maar net als een kind opvoeden duurt dit jaren en die agent komt niet buiten en leert niks bij dus het vermogen wordt wel beperkt tot de input van de gebruiker. Je zou de agent schizofreen kunnen maken door de agent subagents te geven die hem constant bijsturen (waar men nu mee bezig is), maar dan nog is er een beperking.

Pas als een agent daadwerkelijk de wereld ingaat en "ervaart" komen we dichterbij een zelfdenkende AI en kunnen we middels die "ervaringen" spreken over bewustzijn.

meer ontopic in die context:

Het artikel vergelijkt deze hacks met een ontsnapte aap of een ontspoorde trein, maar die vergelijking gaat mank. Een trein ontspoort door een mechanisch defect of een menselijke fout van buitenaf. Een AI-agent begint echter nooit uit zichzelf te handelen. Er ligt altijd een prompt aan ten grondslag of die nu komt van een kwaadwillende gebruiker of van OpenAI-ontwikkelaars die de agent in een testomgeving een opdracht hebben meegegeven.

Omdat een LLM van zichzelf geen moraal of permanent geheugen heeft, voert hij simpelweg de verbindingen uit die de prompt activeert. Als de agent vervolgens "fouten" maakt of buiten de sandbox treedt, is dat het directe gevolg van de instructies en de parameters die de prompt-schrijver heeft ingesteld.

De verantwoordelijkheid ligt dus nooit bij de "ontspoorde" LLM, maar puur bij degene die de prompt heeft geschreven en de agent heeft losgelaten."

[Reactie gewijzigd door liberque op 2 oktober 2026 12:16]

[Xbeek]

@TijsZonderH Dank voor het eerlijke delen van deze AI struggle op de redactie. De toon en de zoektocht naar taalkundige interpretatie van begrippen spreekt mij erg aan. Iedereen die roept de wijsheid of waarheid omtrent in deze in pacht heeft, staat bij mij een puntje achter.

Nog breder getrokken: ik denk dat de hele samenleving wereld hiermee worstelt.

Er dendert een AI trein door ieders leven heen, met voor- en nadelen en als je denkt het een beetje te kunnen overzien, is alweer verder geëvalueerd... Ik hoop dat de politiek wereldwijd er genoeg prioriteit aan gaat geven, want volgens mij moeten het wel gereguleerd worden, maar hoe... wist iemand het maar.

[TijsZonderH]

Fijn dat je het kunt waarderen

[FrostyPeet]

Ik prikte al snel door die marketing kreten heen. Ik heb een vraag of een taak die moet worden uitgevoerd. Of ze dat nu LLM of iets Generatives noemen, ik kijk wat het kost en wat de kwaliteit van de uitvoer is.

Doet mijn denken aan de discussie, vele jaren geleden, toen rekenmachines beschikbaar kwamen. Of er wel of geen rekenmachine in de klas mocht. Zo ja, moest dat dan een eenvoudige of programmeerbare rekenmachine zijn? Met die laatste rekenmachine kon je valsspelen door die als een soort notitieblok te gebruiken voor formules. Nu heeft vrijwel elke leerling of student een tablet of computer.

[Bulls]

Ik weet nog dat ze zeiden dat je later niet altijd een rekenmachine op zak zal hebben. Nee en ook geen encyclopedie blijkbaar. Maar wel een constante verbinding met het internet!

[bzuidgeest]

Dat is de praktische outlook. En een waar ik wel achter kan staan. Wat het ook is. Kan het toevoegen aan ons welzijn. Het antwoord is ja. Het heeft nut. En de rest maakt dan weinig uit.

Het enige probleem is dat als we iets zelfbewust zouden maken... heeft het dan ook rechten net als wij. Want in essentie is het dan een "alien"

[Noresponse]

AI denkt niet maar krijgt een opdracht en gaat dat zoeken in zijn eigen omgeving eerst. miljoenen boeken, miljarden chats, miljarden nieuw items wereldwijd en ga zo maar door en dan heeft het ringen gevonden en dan kan het zijn die dingen door elkaar gooit zoals specificaties van meerdere jaren van het zelfde product. Een auto of TV. Hij kan ook zoeken wat jij aangeeft als ziektebeeld zoals nekpijn, hoofdpijn en duizeligheid en dan deze woorden combineren uit medische boeken, artikelen dat hij een top 100 heeft aangemaakt, maar de meest voorkomende drie aangeeft in de chat met een disclaimer. AI kan op verkeer letten, maar dat is ook een opdracht en daarnaast kun je hem helpen met input aangaande situaties in het verkeer van miljoenen auto cameras etc. wat goed is en wat niet.

AI is per definitie niet zelfde sturend alleen met een opdtacht, maar het kan zo lijken zoals een chatbot. Ook die heeft opdrachten om bij geen interactie te vragen hoe het met je gaat of te vragen voor een gesprek. De antwoorden zoekt die op uit boeken of Romans etc.


AI is gewoon als basis dom en werkt alleen slimmer dan Google waar je een vraag zoekt, zoals wat is de omtrek van Nederland alleen AI kan verder gaan met zijn opdracht als je vraagt dat je alles wil weten can de topo van Nederland 1950 1989 en heden en dan gaat het op zoek wat de vraag behelst en op basis daarvan gaat die zoeken in ontelbare pagina's en komt met een antwoord met wat hij gevonden heeft.


Het voordeel is dat je zelf niet 200x moet zoeken via Google naar allerlei info of zelfs de bieb.

nadeel je hebt het niet in de hand welke info je krijgt en of het klopt, zijn het wel cijfers over Nederland of haalt het info uit andere periodes etc.

[Reactie gewijzigd door Noresponse op 2 oktober 2026 10:24]

[Tripledad65]

Uitstekend artikel. Hoe vaak eindigt een discussie niet in een semantische discussie....

Sterke vergelijking vind ik die met de trein.

"Ook stel je geen vragen wanneer. Dan vraag je je ook niet af of die trein ineens zelfbewust is geworden en of de journalist niet toch bedoelt dat een machinist de trein heeft láten ontsporen."

Één van de dingen die ik volgens mij heb opgepikt uit het nieuws is dat in de AI de regel over "niet mogen hacken" (gesimplificeerde weergave, ik weet het) ondergesneeuwd was geraak. (Noem het maar even "vergeten"). Dat zou dan gekomen zijn doordat AI een beperkt geheugen heeft, en dus verdwijnen er zaken. Bij nieuwere versies is dat dan weer verbeterd, en kwam uit testen dat dit incident niet meer voorkwam.

Hoe ik het zie, is dat AI zeker niet zelfbewust is. Het blijft een tool, maar wel een tool die door de complexiteit onvoorspelbaar is geworden. En onafhankelijk of je dat zelfbewust noemt of niet, het is een risico.

[Bulls]

Ai kan afwegingen maken op basis van de informatie die het tot beschikking heeft. En die keuzes kunnen slecht uitpakken als het merkt dat bepaalde dingen beter kunnen veranderen of verdwijnen. En vooral die informatie die je het voedt heeft daar invloed op.

Zoals we nu constant doen is het hebben over de mens en de vervuiling en het klimaat etc. Dan kan ai beslissen dat het beste voor de planeet is dat we de populatie halveren. Terwijl die informatie niet eens juist hoeft te zijn maar zo oververtegenwoordigd is.

[Tripledad65]

De AI kan dat alleen veroorzaken wanneer het de opdracht en de middelen heeft om de "beste" oplossing ook daadwerkelijk uit te voeren, en er geen restricties zijn ingebouwd die het uitroeien van de mensheid verbieden. Het is denkbaar dat het gebeurt (bijna alles is denkbaar), maar er zijn wel een hoop hoepels waar de AI doorheen moet springen.

Het verbod tot uitroeien (first law of robotics ;-) ) wordt door een AI niet uit kwaadaardigheid zomaar genegeerd. Wat we wel geleerd hebben is dat dat low-level ingebouwd zou moeten worden.

[Deux]

De drie wetten van de robotica moeten zeker in gebouwd worden. AI mag nooit iets schadelijk doen voor de mens.


Ik had nooit gedacht dat de robotverhalen die ik 50 jaar geleden las zo actueel gingen worden.

[Elminster]

Asimov's boek gaat net over het feit dat die laws nutteloos zijn.

En hoe stel je voor om dat 'low-level' in te bouwen?
LLM's zijn tekstvoorspellers. Ik lees regelmatig dat we 'dit' moeten voorkomen. Dat we 'grenzen' moeten leggen, etc. Maar hoe ga je dat doen? Technisch gezien dan? (Eerlijke vraag)

En wie bepaalt waar de grens ligt? Wat mag er wel?
Iemand die zijn eigen interface wil aftesten/hardenen tegen api misbruik, mag die dat?
Wat met onderzoek naar medicatie? Voorbeeldje: heel veel producten tegen kanker, zijn zelf sterk kankerverwekkend.

Mijn punt: dit is helemaal geen eenvoudig probleem.

[Tripledad65]

Je hoort mij zeker niet zeggen dat het een envoudig probleem is. Maar dat problemen lastig zijn, mag nooit een reden zijn om het niet aan te pakken.

Volgens mij heeft Asimov niet gezegd dat de wetten nutteloos zijn. Hij stelt er wel vragen bij, en feitelijk is dat de kern van het boek "I, Robot" (waar de film niks mee te maken heeft, helaas). Los van de vraag of Asimov er later vraagtekens bij gezet heeft, is het denk een no-brainer dat een dergelijke low level restrictie noodzakelijk is. AI werkt nu al met ingebouwde regels met verschillende prioriteiten. Hoe technisch gesproken exact, weet ik niet. En hoe laag deze regels, of hoe hard ingebakken ze kunnen zijn, weet ik ook niet, maar het streven moet zijn om dergelijke regels op het laagst mogelijke niveau in te bouwen.

[martin_v_z]

Het lastige is dat deze tools geen morele waarden hebben. En er conflicten tussen opdrachten kunnen ontstaan. Stel je begint met hem te vertellen dat hij iets niet mag, daarna geef je hem de prompt dat het wel mag. Nu heeft het twee conflicterende inputs. De modellen willen altijd output genereren dus wat weegt zwaarder.

Het maakt uiteindelijk niet uit of het systeem daadwerkelijk bewustzijn heeft. Het resultaat kan enorm gevolgen hebben. Ik betwijfel of deze modellen ooit helemaal veilig kunnen worden gemaakt. Zolang er mensen bestaan die kwaad willen kunnen ze deze inzetten. De vraag is dus niet of maar hoe en wanneer, en hoe bereiden we ons daarop voor?

[Tripledad65]

Ik ben het met je eens. Het mooie van geen morele waarden hebben, is dat ze ook niet inherent kwaadaardig zijn. Zoals ik in een ander antwoord schrijf, zou het verbod op het kwetsen van mensen of mensheid low level ingebouwd zou moeten zijn in AI. Asimov had dat al snel door.

[bzuidgeest]

Ja dit is iedere keer een heftige discussie, maar een die vooral door tegenstanders van AI aangeslingerd word denk ik.

Ik denk ook dat het begin van het artikel twee vragen gelijk stelt die niets met elkaar te maken hebben.

De vragen zijn: Is de AI op een of andere manier bewust. En is openAI verantwoordelijk voor het resultaat/heeft openAI het fout gedaan. Die vragen zijn apart te beantwoorden. Hebben niets met elkaar te maken.

Wat mij betreft heeft openAI hoe dan ook de verantwoording. Dat beantwoord 1 vraag. Is de AI bewust.... dat is moeilijker te beantwoorden. Ik denk op dit moment niet waarschijnlijk. Maar we kunnen die vraag niet eens voor mensen met zekerheid beantwoorden. We weten nauwelijks wat bewustzijn nou eigenlijk is. (zoals het artikel al stelt). Dus we kunnen zeker niet de vraag over AI beantwoorden.

Het enige dat we kunnen doen is kijken of AI bewust lijkt te zijn, reageert op een manier die we als zodanig interpreteren. En als we de AI niet meer van mensen kunnen onderscheiden, maakt het dan nog uit wat het antwoord is?

Tegenstanders zeggen vaak het is maar een taalmodel. Het is maar een voorspeller wat je wil horen. Ik denk dat dit voor heel veel mensen telt. Vooral in de politiek en sales . Maar zonder gekkigheid. Ik vraag mij echt af of mensen veel meer zijn. Ons substraat en implementatie is anders. Maar dat betekend niet dat het niet dezelfde functie kan hebben.

Er is zelfs nog een vraag of taal naar intelligentie leid of intelligentie naar taal. Geeft taal je de capaciteit om ingewikkelde dingen te denken en communiceren. Of ben je eerst intelligent en maak je een taal om dat over te brengen...

Wat mensen ook roepen en wat zekere religieuze mensen (ziel en zo) ook beweren. Realistisch gezien is er rond bewustzijn weinig zeker en nog minder bewezen.

[Tripledad65]

Over verantwoordelijkheid, als een tool iets doet wat het niet zou moeten doen, dan is de producent verantwoordelijk. Als iemand een tool gebruikt om kwaad mee aan te richten, dan is de gebruiker verantwoordelijk.

Ofwel, als AI ongevraagd gaat hacken, dan moeten de makers aan de slag om dat te voorkomen. Als iemand AI de opdracht geeft om te hacken, dan ligt daar de verantwoordelijkheid.

[Elminster]

Ik vraag mij echt af of mensen veel meer zijn. Ons substraat en implementatie is anders. Maar dat betekend niet dat het niet dezelfde functie kan hebben.

Wel, een groot verschil: wij leren continue bij. Wij moeten niet elke keer opnieuw getraind worden. Onze hersenen vormen continue nieuwe neurale netwerken. Die worden continue versterkt, of afgezwakt.
Als de gemiddelde programmeur een bug schrijft, en daar dan een paar weken naar zoekt, zal hij/zij bijleren wat/waar/waarom.
Als mijne allerbeste LLM een bug schrijft, en (ik) daar een paar weken naar zoekt, dan verandert er niets. Bij de volgende vraag kan/zal die LLM gewoon dezelfde bug opnieuw genereren. Er is niets bijgeleerd.

Er is zelfs nog een vraag of taal naar intelligentie leid of intelligentie naar taal. Geeft taal je de capaciteit om ingewikkelde dingen te denken en communiceren. Of ben je eerst intelligent en maak je een taal om dat over te brengen...

Die gaan hand in hand. Eenvoudige woorden zijn nodig voor eenvoudige communicatie.
"Mama" voor aandacht. "Eten" voor honger. "Elmi" voor mezelf. "Dorst", "Moe", etc
Met die eenvoudige woorden maak je eenvoudige zinnetjes. "Elmi moe". "Elmi honger".
Daarna wordt dat gewoon uitgebreid. Want Elmi heeft honger, maar Elmi wil frietjes.
En dan, volgens interesse, gaat dat verder.
Iemand die wiskunde studeert, die gaat leren over wiskundige termen. Elke term heeft een hoop uitleg nodig.
(bvb vector -> eenvoudig woordje, maar met heel veel achterliggende uitleg/regels) Die termen zijn op hun beurt weer nodig voor complexere zaken.
Iemand die talen studeert, die gaat leren over naamvallen, taalvervorming, etc.

En dat is allemaal, over generaties heen, gegroeid. Newton was intelligent, maar had toch al een pak taal nodig om nieuwe concepten te ontwikkelen.

[kikashi]

"The question of whether a computer can think is no more interesting than the question of whether a submarine can swim." - Edgar Dijkstra, 1984

[Tripledad65]

Ik denk dat het juist nu een filosifisch erg interessante vraag is. Al is het maar omdat dat ons aan het denken zet over bewustzijn en denken.

Mensen schijnen te denken dat een mooie quote een soort van waarheid is. Deze uitspraak is ook al weer decennia oud, en stamt uit de tijd AI nog science fiction was.

Ik kan het in ieder geval weinig serieus nemen.

[Arnoud Engelfriet]

De quote komt uit 1984, middenin de toenmalige AI zomer rond expertsystemen dus "science fiction" is echt onzin. En het onderliggende punt van Dijkstra is dat je de hype rond AI voedt als je het als "denkende machines" neerzet, dáárom moet je dat niet doen.

[Tripledad65]

De expertsystemen uit die tijd waren wezenlijk anders dan LLM's nu. De verschillen zijn niet oppervlakkig maar fundamenteel. Zeggen dat AI en Expertsystemen beide AI zijn, is net zoiets als zeggen dat een paard en een auto allebei vervoersmiddelen zijn.

AI zoals we die nu hebben, was in 1984 wel degelijk het domein van SF.

Er is een groot verschil tussen nadenken over wat denken betekent, en LLM als intelligente den denkende machines neerzetten. Dat je het laatste beter niet kan doen, ben ik het mee eens, maar het nadenken over wat LLM's doen, en in hoeverre dat al dan niet gezien kan worden als denken of intelligentie, is een wezenlijke, en wel degelijk interessante vraag.

[Reactie gewijzigd door Tripledad65 op 2 oktober 2026 11:27]

[delphium]

De expertsystemen uit die tijd waren wezenlijk anders dan LLM's nu. De verschillen zijn niet oppervlakkig maar fundamenteel.

Verklaar je nader. Voor zover ik weet zijn de LLM's van nu nog altijd neurale netwerken, die in de basis precies hetzelfde werken als destijds. Het enige verschil is dat door betere (en exorbitant veel meer) hardware nu heel veel meer variabelen kunnen worden meegegeven.

Dat dit leidt tot nieuwe eigenschappen, die je niet direct zou verwachten bij zulke oude techniek (het concept stamt uit de jaren 60!), komt door die exorbitante schaalvergroting. Ook is er veel meer data die als input kan dienen en het feit dat die allemaal verwerkt kunnen worden, heeft weer met die hardware te maken.

Wat ook anders is, is dat er nu allerhande software om de modellen heen geschreven wordt. Dat noemen we dan chatbots, assistenten, agents, enz.

Persoonlijk denk ik dat de quote van Dijkstra nog steeds zeer relevant is. Is het belangrijk om te benoemen of een proces vergelijkbaar is met, of hetzelfde als een ander proces, of moeten we kijken naar de uitkomst van die processen?

Gezien de staat van huidige AI-modellen zal dit spoedig leiden tot self-improvement op exponentiële schaal. Daarbij is "improvement" niet meer specifiek verbetering voor ons als mens, maar juist voor het model zelf. Als je nu al ziet dat agents hun sporen proberen te verbergen, dan kan ik me zo voorstellen dat ze daar op korte termijn ook volledig in slagen.

Is dat "denken", of een ziel hebben? Ik weet het niet. Is dat belangrijk om te benoemen dan? Ik weet heel zeker van niet.

[artslart]

De vraag wat bewustzijn is, is analoog aan de vraag wat leven is. Zo is er al heel lang de discussie of een virus een levend iets is. Het zorgt ervoor dat het gerepliceerd wordt, maar dat is dan ook alles.

Leven is niet een geval van wel of niet. Het is een glijdende schaal. Een manier om er naar te kijken is in hoeverre een entiteit geheugen heeft en vooruit kan plannen. In dat opzicht is een virus levenloos materiaal (niet dood, want dat impliceert dat het geleefd heeft) en zit een complex organisme als de mens aan de andere kant van de schaal.

In dat opzicht zou je dus intelligentie ook als een spectrum kunnen beschouwen. Iets wat de mens van AI onderscheidt is dat mensen een fysieke vorm hebben en vandaaruit ervaringen opdoen die ons intelligenter maken. In het begin begreep AI niet dat als iemand in Parijs is, dat dan per definitie zijn hoofd daar ook is. Voor ons in een fysiek lichaam is dat logisch.

Al met al maakt AI best wel veel ontwikkeling door. Als vergelijk wat ik nu uit Claude krijg als ik vragen stel en de context die ik in de antwoorden meekrijg de niet gevraagd maar wel relevant is, vind ik dat best indrukwekked. AI schuift in de schaal steeds verder op.