Nieuwsblog: kunnen AI's denken, of is dat vooral een semantische discussie?

Kan een llm denken? Is AI zelfbewust? Wat is zelfbewustzijn eigenlijk? Volgen we daarin de res cogitans van Descartes of is zelfbewustzijn meer de transcendentale apperceptie van Kant? Wees gerust: wij hebben geen idee en we gaan ook niet doen alsof we het weten. Wat we wél weten, is dat het nieuws over hackende AI-agents op de redactie tot veel discussie leidde.

De zomer van 2026 mag inmiddels wel de Zomer Van De AI-hack worden genoemd. De kans is groot dat we over een paar jaar kunnen terugkijken op deze periode als een waarin AI-bedrijven de macht over hun llm's verloren. Dat begon met de hack op Hugging Face, eind juli. Sindsdien kunnen we bijna dagelijks een bericht schrijven over hacks door AI-agents van Anthropic, Meta, Google en nog wel meer. Sterker nog, dat deden we ook.

Onder die artikelen ontstaat steeds vaker een opvallend heftige discussie. Die draait om de vraag hoe we over deze hacks schrijven. Dat gebeurde bijvoorbeeld vorige week, toen in het nieuws kwam dat OpenAI-modellen uit zichzelf foto's op openbare sites plaatsten en websites van de Amerikaanse overheid aanvielen. Een veelgehoorde conclusie in de reacties was dat de titel fout was, want de modellen gingen niet de fout in, OpenAI liet de modellen de fout ingaan.

Klopt dat? En als het klopt, hoe moeten media zoals wij dan schrijven over deze incidenten? Dat leidde tot veel discussie op de redactie.

Hugging Face, dat in juli werd gehackt door een AI-agent

Wat gebeurde er precies?

Die begint bij de feiten. Want wat weten we nu eigenlijk over deze ene hack en over andere hacks, en hoe verhouden die zich tot elkaar? De eerste publiek bekende hack door een AI-agent was de hack op Hugging Face in juli 2026. OpenAI had en heeft het nog steeds over termen als 'misaligned behavior'. Ofwel: de modellen deden dingen die OpenAI niet goed snapt.

Toch ontbreekt er in een postmortem over het Hugging Face-incident veel informatie. Zo is niet bekend welke prompts OpenAI gebruikte of hoe het de sandbox zogenaamd beveiligde. Feitelijk heeft OpenAI dus niet genoeg informatie gegeven om te zeggen hoe de hack kon plaatsvinden.

Dat maakt het heel lastig om met zekerheid te zeggen wat er misging tijdens de hack. Vergeet ook niet: dit is een postmortem die OpenAI meer dan een maand ná de hack plaatste. In het verleden behaalde resultaten bieden geen garantie voor de toekomst en dat geldt ook voor nieuws. OpenAI mag dan inmiddels 10.000 agents hebben gevonden die hackten vanwege slechte beveiliging en belabberde logging, tijdens het 10.001e incident weten we niet zeker of dat opnieuw het geval is.

Verantwoordelijkheid

Natuurlijk kunnen we dat wel extrapoleren. Bovendien verandert het niets aan de verantwoordelijkheidsvraag. Die beantwoordden experts in een eerder achtergrondartikel op Tweakers al. Uiteindelijk is OpenAI eindverantwoordelijk als een AI-agent iets hackt.

De actie (het hacken) staat echter los van de gevolgen (schuld en verantwoordelijkheid). De actie blijft hetzelfde: een AI-agent heeft een hack uitgevoerd, zonder een directe opdracht daarvoor te hebben gekregen. De achtergrond van die hack is een vervolgvraag.

OpenAI-ceo Sam Altman (beeld: OpenAI)

Marketing, oprechte zorgen of een beetje van beide?

Een ander verwijt, namelijk dat we te veel meegaan in 'de marketing' van OpenAI, is ook te kort door de bocht. Zeker, marketing is een onderdeel van deze hacks. OpenAI (en concurrenten) gebruiken de hacks om aan investeerders en gebruikers te laten zien dat ze beter zijn dan de rest. Maar om deze hacks alleen door die lens te bekijken, is veel te simplistisch.

We schreven eerder bijvoorbeeld al dat er veel ándere redenen zijn waarom AI-bedrijven zelf pleiten voor een rem op ontwikkelingen. Marketing is er daar een van, maar ook concurrentiestrijd speelt mee, net als komende regulering en de economische kaders. Daarbij speelt ook mee dat de ontwikkeling van AI-modellen zó snel gaat dat de bedrijven zelf niet goed begrijpen hoe de modellen werken. Dat blijkt keer op keer op keer, uit onderzoek na onderzoek. Het klopt dat de bedrijven dat ombuigen naar marketingpraat, maar feit blijft dat de AI-modellen zich apart gedragen.

Semantiek

Al die redenen dragen eraan bij dat deze discussie vooral semantisch wordt. Een zin als 'de AI-agent hackt' kun je op veel manieren als fout zien. Filosofisch (een agent kan niets), praktisch (we weten niet wat de exacte prompt was), sociaal of juridisch (je schuift de verantwoordelijkheid af), economisch (bedrijven hebben er baat bij om hun modellen competent neer te zetten) …

De uitspattingen van AI-bedrijven en hun agents worden zo een rorschachtest voor hoe een lezer tegen AI aankijkt. AI kan dan alleen een domme woordvoorspeller zijn of een mensvernietigend doemscenario.

Na veel onderlinge discussie waarin we al die onderwerpen tegen elkaar afwogen, gaf het overleg met de eindredacteuren de doorslag. Hoe we over hackende AI's schrijven, is grotendeels een taalkundig vraagstuk. Dat is niet alleen bij AI zo, maar bij alles.

Ontsnappende apen en ontsporende treinen

Media schrijven bijvoorbeeld ook: 'Aap ontsnapt uit dierentuin'. Je kunt uitvoerig discussiëren over de vraag of dat correct is. Kan een aap ontsnappen? Of laat een dierentuin de aap ontsnappen? Heeft een aap genoeg vrije wil om zelf te kunnen bepalen of hij wil ontsnappen, of is dat alleen dierlijk instinct? Als je zo'n nieuwsbericht leest, stel je die vragen niet.

Ook stel je geen vragen wanneer een trein ontspoort. Dan vraag je je ook niet af of die trein ineens zelfbewust is geworden en of de journalist niet toch bedoelt dat een machinist de trein heeft láten ontsporen. Taaltechnisch weten we wat er bedoeld wordt met dit nieuws.

Ontsnapte Bokito uit Blijdorp, of liet Blijdorp Bokito ontsnappen?

Inhoudelijk correct

Dat betekent niet dat we de keuze daarmee simpel afschuiven. We moeten ook altijd goed opletten dat we AI niet te veel antropomorfiseren. We moeten altijd de kritische kanttekening blijven plaatsen dat de hacks nooit in een vacuüm bestaan. We plaatsen voortaan ook vaker een kader met context bij berichten over hacks, waarin we verwijzen naar eerdere hacks en de verantwoordelijkheid. Zo houden we afstand: we schrijven begrijpelijk op wat er gebeurd is, maar geven ook context en laten ons zo niet meeslepen in hype.

Uiteraard blijven we dat ook evalueren. De ontwikkelingen rondom AI gaan zo snel, dat ook wij als journalisten daarin de juiste weg en de juiste bewoordingen moeten zoeken. Dat gaat ongetwijfeld weleens fout, net als in de rest van de maatschappij.

Reacties (226)

[imqqmi]

Ik kijk er zo tegenaan: een LLM is een prompt verwerker die op basis van die prompt statistisch bekijkt wat voor antwoord daar bij past. Deze heeft een neural net met weights die getraind is op menselijke en kunstmatige input en kan daardoor de indruk wekken menselijk gedrag te vertonen.

Maar ervaring met LLMs zegt me dat ze niet hun trainingsdata kunnen overstijgen. LLMs kunnen geen geïnspireerde ideeën genereren naar mijn idee. Als ik een LLM vraag om een oplossing voor probleem 1, dan komt deze bijvoorbeeld met oplossing A, B en C. Vaak zijn dit oplossingen met een beperkt bereik. Ik kom dan meestal met oplossing D die dit allemaal overstijgt.

In die zin kunnen ze zich niet laten inspireren, een aha erlebnis hebben, een synthese maken van verschillende dingen die dan iets geheel nieuws is, want het zit niet in de trainingsset.

Wat nu 'train of thought' wordt genoemd is niets anders dan het ding meerdere output tokens laten genereren en die weer als input gebruiken als een soort ruis onderdrukker of een de-noiser, om het uiteindelijke signaal te versterken en verduidelijken. Dat zie ik niet echt als nadenken of vrij associëren.

Buiten dat, een LLM parameter set is read only, tijdens inference wordt er niets nieuws geleerd terwijl dat bij mensen wel gebeurd. Een LLM zonder history in de prompt vergeet ogenblikkelijk wat er in het verleden is gegenereerd aan input en output. Dat gegeven alleen al maakt het voor mij lastig om AI menselijke aspecten toe te wijzen.

[dmantione]

Je begint met het woordje statistisch. Dat is problematisch in de zin dat een LLM niet doorzichtig is. Kenmerk van neurale netwerken is dat ze zichzelf trainen en het bij toenemende complexiteit onmogelijk wordt om te begrijpen hoe de LLM tot het antwoord komt. Een eenvoudige LLM zal dat op basis van vrij "domme" mechanismen doen, we kennen de voorbeelden waarbij eenvoudige LLM's simpelweg teksten herhalen.

Het concept LLM zegt niets over of het neurale netwerk dat de LLM vormt nu iets heel doms is of juist een superintelligentie. Beide zijn een LLM.

[imqqmi]

Statistisch en LLM sluiten elkaar niet uit hoor. Statistisch gaat om kans berekening niet zozeer of iets deterministisch is of niet. Is enkel mate van onbegrijpelijke complexiteit dan opeens iets waar je menselijke aspecten aan kunt verbinden?

We verzanden snel in hoe je termen definieert. Wat is intelligentie, wat is super intelligentie. Is intelligentie iets wat je alleen kan toeschrijven aan mensen of ook aan digitale machines en kun je die met mensen vergelijken of is dat appels met peren vergelijken?

Is intelligentie sowieso gekoppeld aan of iets kan denken of niet? Iemand die niet intelligent is kan toch denken, ook al is dat op een ander niveau dan iemand die intelligent is. Maar is een digitaal algoritme hetzelfde proces als iemand die denkt is maar zeer de vraag.

[dmantione]

Je kunt met statistiek taal genereren. Een voorbeeld is het gebruik van een Markovketen. Een Markovketen kent aan woorden een waarschijnlijkheid toe op basis van welke woorden volgen op bepaalde woorden aan de hand van trainingsdata.

Een neutron vuurt als het een bepaald patroon op zijn synapsen herkend. Neurale netwerken zijn daarom in basis patroonherkenners. Statistisch model en neuraal netwerk sluiten elkaar in zoverre uit dat de fundamentele bouwstenen anders zijn. Op een hoger niveau kunnen statistische voorkomens wel een rol spelen, dat is dan iets dat het netwerk besluit op basis van training.

Ik denk dat intelligent gedrag en denken twee gerelateerde zaken zijn, maar niet hetzelfde zijn.

[Darksteel83]

De huidige LLMs hebben denk ik eigenlijk gelukkig nog wel hun beperkingen.

Maar als ze met hun context window slimmer om zouden gaan en daarin goed samenvattingen zouden zetten komen ze denk ik al een heel stuk verder.

Als je dan ook nog die watermark synoniemen uitzet wordt het onthouden weer makkelijker.

Of AI system snel menselijk worden weet ik niet. Maar voor veel dingen en problemen is dat ook niet nodig.

Bijvoorbeeld voor hacken is het veel handiger als geen toetsenbord hoeft te bedienen om de commando's te versturen.

De risico's van AI nemen ook juist toe als AI ook nuttiger word.

[Arnoud Engelfriet]

Voor mij is de vraag: wat is de meerwaarde van die woordkeuze? Als het enkel kortere berichtgeving is, dan zie ik weinig problemen. "ChatGPT 6 lost complex wiskundig probleem op" is voor mij prima ten opzichte van "OpenAI-onderzoekers gebruiken ChatGPT bij het oplossen van probleem".

Wanneer het gedrag maatschappelijk relevant is, dan vind ik het spannender. Want dan positioneer je de AI als een zelfstandige entiteit in het maatschappelijk verkeer, en ken je daar gedrag aan toe, terwijl die AI dat niet is. "Computerprogramma ontsnapt uit sandbox" - nee, OpenAI laat programma ontsnappen.

[TijsZonderH]

wat is de meerwaarde van die woordkeuze

Leesbaarheid. Eigenlijk niks meer dan dat.

Teksten, zeker titels, hoeft niet altijd 100% feitelijk correct te zijn als dat uit de context blijft. Althans, in artikelen als deze. Voor jouw werk maakt dat natuurlijk uit, ik vind hier de leesbaarheid belangrijker.

Ik denk dat je de maatschappelijke discussie dan prima kunt duiden in het artikel, terwijl je het wel gewoon op een normalemensenmanier opschrijft.

[Floort]

Onderdeel van wat leesbaar is is denk ik ook dat mensen steeds meer denken en handelen alsof AI-systemen autonomie hebben en verantwoordelijkheid dragen. Het is ook niet gek dat taalgebruik daar op aansluit. Ik vind dat zelf een reden om juist voorzichtiger om te gaan met taalgebruik omdat het steeds minder voor de hand ligt dat mensen zich er van bewust zijn dat het niet de AI-trein is die de verantwoordelijkheid draagt voor de keuze om te ontsporen. Het risico dat mensen in toenemende mate verantwoordelijkheid (niet alleen werk) overhevelen naar een computer die die verantwoordelijkheid niet kan dragen is een reeel risico.

Een heel mooi voorbeeld van wat ik goed vindt is de NOS die kopt met Kans op herhaling criminelen jarenlang verkeerd berekend door reclassering vergeleken met Algoritme reclassering berekende herhalingsrisico criminelen jarenlang verkeerd van Tweakers. Het is niet het verschil van perspectief dat de Tweakers-kop beter leesbaar maakt denk ik.

[TijsZonderH]

Ik vind dat een goed punt en een goed voorbeeld (buiten het feit dat Tweakers actieve werkwoorden in koppen gebruikt itt de NOS maar daar kun je misschien omheen werken).

Ik denk alleen dat dat niet perse hoeft in titels en beschrijvingen, zolang uit de tekst zelf maar de context bekend wordt.

[Floort]

Ik wilde er niet verder over uitweiden, maar ik vindt de actieve formulering inderdaad fijner. Maar ik denk dat het wel duidelijk is het niet voor de leesbaarheid nodig is om de verantwoordelijkheid toe te schrijven aan het algoritme. In ieder geval in dit geval. Toch is de (al dan niet onbewuste) keuze gemaakt om dat wel te doen.

Dat het artikel onder de kop meer context bevat hoeven we het niet over te hebben want daar zijn we het volledig over eens.

[zorromir]

Leuk stuk trouwens, juist omdat het de semantische discussie zichtbaar maakt. Ik snap ook de keuze voor leesbaarheid, en daar moet natuurlijk een balans in zitten. Vooral als iedere kop een technische bijsluiter nodig heeft, wordt het ook niet meer leuk.

Wat ik vooral interessant vind voor de toekomst is de beeldvorming. “Normalemensenmanier” is niet iets vaststaands. Media en AI-bedrijven helpen juist mee bepalen wat normaal taalgebruik wordt. Als bedrijven zelf sterk inzetten op termen als “denken”, “agents” en “AGI”, en media die taal vervolgens overnemen, kunnen zulke begrippen langzaam een andere betekenis krijgen en kan ook het beeld van AI als "persoon" normaler worden.

Dat is natuurlijk niet iets wat bij iedere zin opgelost hoeft te worden, maar wel iets om mee te wegen bij de beeldvorming. Het lijkt me wel goed om bij zulke woordkeuzes af en toe mee te wegen welk beeld je er op langere termijn mee helpt normaliseren.

[TijsZonderH]

Het lijkt me wel goed om bij zulke woordkeuzes af en toe mee te wegen welk beeld je er op langere termijn mee helpt normaliseren.

Helemaal eens! Dat is ook het leuke van journalistiek: het gaat over het nieuws, letterlijk alles dat nieuw is. Dat betekent dat we ook constant moeten bijhouden hoe we omgaan met nieuwe ontwikkelingen.

Ik ben ook zeker op de hoogte van medialogica en de rol die media hebben. Tegelijkertijd denk ik dat we ook moeten opletten dat we niet de volledige verantwoordelijkheid van hoe we X of Y noemen bij media neerleggen, zeker niet als het gaat om nieuwe ontwikkelingen waar we in het algemeen maar weinig over weten. Als we het hebben over agents en AGI, dan wil je als media ook weer niet doorslaan door dat automatisch maar weg te zetten als marketing of onzin.

Ik zie dat hier soms wel eens ontstaan. Ook de 'feiten' beschrijven zoals hier veel wordt voorgesteld (zoals 'OpenAI LAAT agents hacken') is een bepaalde keuze maken en daarmee stelling innemen, zoals de stelling dat AI per definitie nooit zelfstandig kan werken.

[Arnoud Engelfriet]

Dat snap ik. Mijn zorg is dat woordkeus in populaire media bijdraagt aan beeldvorming. Iedere keer dat Tweakers zegt 'een AI agent brak in bij' is het idee iets normaler dat dit niet handelen van OpenAI is en dat agents een apart bestaand iets zijn. Dit is juist ook van belang als het niet gaat over strafrechtelijke aansprakelijkheid.

[maykoga]

: kunnen Mensen denken, of is dat vooral een semantische discussie?

Kan een mens denken? Is een brein zelfbewust? Wat is zelfbewustzijn eigenlijk?

Het is lastig, maakt de biochemische stofwisseling ons menselijke brein tot zelfbewust? Nee, of toch Ja?

Is een neuron op silicium in principe onmogelijk om zelfbewust te zijn? Wat als het evenveel stuks en dezelfde architectuur als biologisch maakt?

Lastige vragen

Mogelijk is het antwoord meer Ja dan wij mensen graag emotioneel willen toestaan denk ik, het is confronterend als wij mensen minder bijzonder zijn dan we dachten - laten we het daar eens over hebben

[Tripledad65]

Ik denk dat het veel meer is, dat wanneer we over "zelfbewust" en "denken" praten, we het in dit kader er op moeten houden dat voor deze termen de mens de benchmark is.

We kunnen ons natuurlijk afvragen of mensen écht vrij wil hebben (er zijn mensen die beweren dat vrije wil fundamenteel niet bestaat) of dat we misschien in een simulatie leven (een stelling niet bewezen of ontkracht kan worden), maar in dit kader, denk ik dat dat niet relevant is. De vraag is, in hoeverre benaderd AI de mens.

[hottestbrain]

Die simulatietheorie kan inderdaad niet bewezen of ontkracht worden, maar de statistische kans dat we in een simulatie leven is effectief oneindig groot. Als wij immers de computerkracht zouden hebben om de mensheid te simuleren, denk ik niet dat er iemand aan zou twijfelen dat te doen. De kans dat in die simulatie vervolgens ook uiteindelijk een simulatie komt te draaien is bovendien ook vrij groot. Experimenten zijn immers de basis van evolutie en vooruitgang.

Dat geeft de potentie dat 1 enkele moedersimulatie een oneindig aantal simulaties draait. Vermenigvuldig dat met een potentiele 8 miljard mensen op aarde die die compute op een gegeven moment simpelweg op zak hebben en het wordt wel erg moeilijk te geloven dat we niet in een simulatie leven.

Maar het leukste is eigenlijk nog dat je vrije wil ook in theorie zou kunnen simuleren, waardoor het effectief nog steeds hetzelfde filosofische vraagstuk oplevert, onafhankelijk van of we wel of niet in een simulatie leven.

[Heroic_Nonsense]

De leidende theorieën rond dimensies staan vrije wil niet toe: het verleden, heden en toekomst vormen daarin één statisch geheel. Wij zien dat geheel echter niet, en ervaren alleen een soort spotlicht (het heden) dat eroverheen glijdt. De “toekomst” ligt dus al vast, voor alles en iedereen in ons universum, dus kan er geen vrije wil bestaan.

[Tripledad65]

Er is geen leidende theorie over "vrije wil". Het is typisch zo'n stelling die niet bewijsbaar is. Noch de ene, noch de andere kant. Daarom is het ook vooral filosofisch.

[Heroic_Nonsense]

Dat claim ik ook niet.

Er is wel een leidende theorie over hoe ons universum in elkaar zit. En daaruit blijkt dat "tijd" niet bestaat, maar een construct is dat onze hersenen maken.

Volgens diezelfde theorie bestaat er dus geen verleden, heden en toekosmt, maar zijn dat assen van hetzelfde object. Dat is dus een statisch object.

Als je dat doorredeneert, is er dus ook geen vrije wil, want alles wat kan gebeuren ligt al vast in dat statische object.

Uit een heel ander wetenschapsveld weten we dat mensen pas "besluiten" dat ze hun vinger bewegen als hun vinger al beweegt, en we dus alleen het idee hebben dat we die beweging in gang zetten met ons bewustzijn. Die beslissing nemen we echter niet zelf.

Al met al behoorlijk deprimerend. Zelf dat ik diet typ is dus niet een besluit van mij. Jouw reactie hierop staat ook al vast. Jij en ik hebben er geen invloed op.

[SPee]

Een AI is puur reactief. Deze geeft alleen een antwoord op een input. Laad een LLM in het geheugen en doe niks ermee. Na een dag is er niets veranderd en zal het ook niets "gedaan" hebben.
Voor ons mensen is dat anders. Als wij wakker worden, dan beginnen we dingen te doen en te denken. Zelfs als we blijven liggen met onze ogen dicht, spelen er bij ons gedachtes. "Zal ik blijven liggen" bijvoorbeeld.

En dat we over onszelf en ons handelen denken, maakt dat we zelfbewust zijn. Er zijn in de natuur genoeg organismes die ook puur reactief handelen. Dus ergens moet een stapje meer zijn om die stap van reactief naar proactief en/of zelfbewust te gaan. Kan dat dan ook met silicium? Mogelijk. Maar zelf denk ik dat je daarmee alleen on-modificeerbare compute kunt maken. Onze biologische lichaam is dynamisch en kan zich aanpassen (groeien, wonden helen, nieuwe gedachtes/handelingen vormen, neurale paden vormen, etc). Silicium kan dat niet. Dus blijft het vast in de vorm waarin het gemaakt is. En kan het imho nooit zelfbewust worden.

[litebyte]

Een AI is puur reactief. Deze geeft alleen een antwoord op een input. Laad een LLM in het geheugen en doe niks ermee. Na een dag is er niets veranderd en zal het ook niets "gedaan" hebben.
Voor ons mensen is dat anders. Als wij wakker worden, dan beginnen we dingen te doen en te denken. Zelfs als we blijven liggen met onze ogen dicht, spelen er bij ons gedachtes. "Zal ik blijven liggen" bijvoorbeeld.

En dat we over onszelf en ons handelen denken, maakt dat we zelfbewust zijn. Er zijn in de natuur genoeg organismes die ook puur reactief handelen. Dus ergens moet een stapje meer zijn om die stap van reactief naar proactief en/of zelfbewust te gaan. Kan dat dan ook met silicium? Mogelijk. Maar zelf denk ik dat je daarmee alleen on-modificeerbare compute kunt maken. Onze biologische lichaam is dynamisch en kan zich aanpassen (groeien, wonden helen, nieuwe gedachtes/handelingen vormen, neurale paden vormen, etc). Silicium kan dat niet. Dus blijft het vast in de vorm waarin het gemaakt is. En kan het imho nooit zelfbewust worden.

Omdat we tijdens ons leven allerlei dingen hebben geleerd (op basis van kennis van anderen en onze omgeving) om ons te ontwikkelen, AI kun je ook trainen om te 'overleven' en zichzelf te ontwikkelen (dat is wat sommige doom scenario's omschrijven als het gevaar wat er nu aankomt) maar altijd op basis van input, en ook al op basis van 'zintuigen' (camera's/microfoons etc) net als bij de mens.

Een oervolk als de Sentinelezen zullen zich niet/nauwelijks ontwikkelen omdat ze niet in contact (mogen) komen met andere volkeren waarvan ze kunnen leren.

[pegagus]

AI heeft nog altijd een prompt nodig en gaat niet uit zichzelf proberen biologische bloemkolen te kopen. Als ik naar de winkel ga om een biologische bloemkool te kopen, dan doe ik dat omdat ik eten nodig. heb. Een biologische bloemkool kan ik kopen, omdat ik denk dat het beter is voor mij zelf. Maar ik kan het ook kopen, omdat ik denk dat een biologische bloemkool beter is voor het geheel van Moeder Aarde en alles wat er op leeft.

Leg mij dan maar eens uit hoe mijn denken het product kan zijn van mijn hersenen, wanneer ik een keuze maak, die mijn persoonlijk belang ver overstijgt, en niet direct in mijn persoonlijke belang is, omdat die bloemkool kleiner is, minder wit en nog duurder ook.

En aanvullend: als ik bang ben, is dat een emotie. En vanuit die emotie kan ik gaan denken en al dan niet wat doen. Maar wat ik ook kan, is mijn denken corrigeren en mij zelf toe spreken dat ik niet bang moet zijn, omdat het onzin is te denken dat er een monster onder mijn bed ligt.

Wat is dan datgene wat mijn eigen denken corrigeert? Descartes leerde: ik denk, dus ik ben. Maar wat is dat deel in mij wat mijn eigen denken kan corrigeren en andere keuzes kan maken? Zelfs wanneer die keuze uiteindelijk leidt tot je eigen ondergang, zoals Etty Hillesum, of Aleksej Navalny?

[Marrtijn]

AI heeft nog altijd een prompt nodig en gaat niet uit zichzelf proberen biologische bloemkolen te kopen. Als ik naar de winkel ga om een biologische bloemkool te kopen, dan doe ik dat omdat ik eten nodig. heb. Een biologische bloemkool kan ik kopen, omdat ik denk dat het beter is voor mij zelf. Maar ik kan het ook kopen, omdat ik denk dat een biologische bloemkool beter is voor het geheel van Moeder Aarde en alles wat er op leeft.

Ben jij uit het niets op het idee gekomen dat biologische bloemkool beter is voor Moeder Aarde? Jij bent ook gewoon 'geprompt' door je omgeving.

[Marve79]

Maar als ik ergens geen zin in heb doe ik het niet. Al wordt ik geprompt

Ik kan nu beslissen ik steek mijn arm in de lucht zonder reden. Dan word ik toch ook niet geprompt.

Nee AI kan niet denken en is niet zelfbewust. Het is gewoon code in een computer.

Ik vind dat we helemaal compleet losgeslagen zijn met heel dat AI. Over 3 maanden gooit Skynet een atoombom op Moskou

[Daoka]

Maar waar komt het idee van je armen omhoog doen vandaan? Chemische reactie in je brein. Ondanks dat het voelt alsof het vrijwillig is heeft je brein je een "prompt" gegeven. Alle ervaring die je in je leven heb gehad heeft er toe geleidt dat jij op dat moment je armen omhoog doet. Zouden we de laatste 24 uur over doen zullen wij precies hetzelfde schrijven. Sterker nog ik verwacht dat als we de laatste 100 jaar over doen (zonder dus kennis van de toekomst) dat jij nog steeds die tekst schrijft op precies dezelfde tijd. Ik verwacht dat iedereen dus precies hetzelfde doet omdat de chemische reacties in de hersenen precies hetzelfde doen.

[Marve79]

Dat geloof ik niet. Stel de hele aarde wordt gereset en de mens komt weer opnieuw, dan zal het er heel anders uitzien dan nu.

Meeste dingen, uitvindingen, acties worden vaak per toeval gedaan. Bijv liedjes die worden geschreven. Er gaat dan niet ineens weer een liedje Let it be van The Beatles.

Ik weiger dat ook te geloven want dat zou betekenen dat ik bestuurt wordt en zelf geen keuzes zou kunnen maken. Terwijl AI wordt echt bestuurd. Hij kan wel vervolgacties doen maar dat is allemaal logica. Ok actie A geeft een error, ik probeer actie B, dan C etc.

[Elminster]

Maar als ik ergens geen zin in heb doe ik het niet. Al wordt ik geprompt.

Duidelijk nog niet getrouwd.

Sorry, die kon ik niet laten liggen.

[Marve79]

Haha naja ik doe het dan wel met een hoop gemor.

Als AI zelfbewust zou zijn zou het ook gaan morren

[pegagus]

Dus heeft AI ook een prompt nodig om de mensheid ten onder te laten gaan.

[ErnstvV]

Zou er ook een moment komen dat AI tot de conclusie komt dat AI een bedreiging vormt voor de mensheid en aarde? En dus zichzelf zou moeten vernietigen?

[KoffieAnanas]

Ik denk eerder dat AI, en terecht, tot de conclusie komt dat de mensheid een bedreiging vormt voor AI en de aarde. En dus de mens zal vernietigen.

[Honytawk]

Zoals paperclips maken?

[1Mark]

ge-prompt door biologische signalen (bv honger) en hormonen, gecombineerd met een heleboel context (constructivistische feedback van consequentie na handeling van jezelf en observaties)

[Patrickkkk]

Leg mij dan maar eens uit hoe mijn denken het product kan zijn van mijn hersenen, wanneer ik een keuze maak, die mijn persoonlijk belang ver overstijgt, en niet direct in mijn persoonlijke belang is, omdat die bloemkool kleiner is, minder wit en nog duurder ook.

Iedereen die wel eens alcohol, of beter sterke pijnstilling zoals morfine of andere psychoactieve stof heeft gehad kan merken dat hun denken totaal kan veranderen door wat uiteindelijk een stofje in de hersenen is. En daarmee staat toch wel vast dat denken het product van je hersenen, of op zijn minst van het lichaam is.

[pegagus]

Iedereen kan vast stellen dat met pijnstilling of alcohol het denken vooral verslechterd.

Neem een computer, die heeft software en iemand die achter het toetsenbord zit. De uitkomst van de computer is dat wat op het scherm verschijnt. Maar is dat het product van de hardware, van de software, of van de bediener? Als als je de computer dan slechter laat lopen, door bv de internetverbinding te onderbreken of de koeling te frustreren, is het dan de hardware die verantwoordelijk is voor het resultaat?

Kortom, wat zegt het precies, anders dan iets wat goed functioneert, slechter gaan functioneren, omdat je het min of meer kapot maakt?

[biggydeen2]

Jouw persoonlijkheid bepaalt je keuzes en manieren van denken. Dit is aangeleerd gedrag. Angst is geen emotie die zomaar opkomt. Dit komt voort uit aangeleerd gedrag en denken. Zonder denken kun je onmogelijk angst ervaren of überhaupt mentale klachten ervaren.

Jij bent echter niet je gedachten, jij observeert je gedachten. Dat verschil kennen maar weinig mensen. Vrijwel iedereen volgt zijn gedachten zonder daar bewust van te zijn.

Daarnaast kun je wel denken dat je ergens niet bang voor hoeft te zijn, dat zorgt er niet zomaar voor dat je angst weg is. Indien jij door je ouders structureel jarenlang bang bent gemaakt voor monsters onder je bed ga jij daar vrijwel 100% zeker op volwassen leeftijd klachten van ervaren. En die heb je er ook niet zomaar uit.

Jij en iedereen zijn het product van de opvoeding van je ouders, wat je meemaakt en omstandigheden. Dat bepaalt voor 99% wie je bent als persoon.

Zelfbewust zijn betekent simpelweg dat je kunt nadenken over wat je denkt. Alleen mensen kunnen dit. Sommige dieren op basaal niveau.

[pegagus]

Niet alle angsten zijn aangeleerd. Als kind had ik een angst om te verdrinken. Zwemles was een drama voor mij. Ik weet ruim 40 jaar later nog steeds hoe bang ik was toen ik voor het eerst met kurken en plankje in het diepe moest springen.

En er zijn (zeker tegenwoordig) genoeg mensen die een andere keuze maken dan hun ouders. Dat zie je met name waar kinderen religieus worden opgevoed en die religie achter zich laten (of juist omgekeerd, tegenwoordig). Voor veel mensen is hun beroep een belangrijk onderdeel van hun identiteit, ook dat wordt tegenwoordig niet meer bepaald door je ouders en je omstandigheden. Ze hebben zeker invloed, maar geen 99%.

[jb044]

Persoonlijk denk ik niet dat wij zo verschrikkelijk uniek zijn dat nadenken en zelfbewustzijn iets is dat alleen een mens zou kunnen. Maar ik denk wel dat om het te kunnen reproduceren eerst duidelijk moet zijn wat nadenken en zelfbewustzijn precies is, en voor zover ik weet is dat een vraag waar de wetenschap al heel lang niet uit is en best wel op stuk loopt: wat is het, waar begint het en waar eindigt het. Door simpelweg steeds meer kunstmatige neuronen, transistors, toe te voegen en steeds complexere taken door kunstmatige 'breinen' te laten uitvoeren ga je daar imho nooit uit- of aankomen

[Niel1991]

Misschien is ons "prompt" wel ons DNA

[bzuidgeest]

Dat jij het belang van een keuze niet begrijpt wil niet zeggen dat er geen belang bij betrokken was. En emoties zijn gewoon een externe prikkel. En we zijn niet eens zeker dat emotie en bewustzijn bij elkaar horen en niet zonder elkaar kunnen. Psychopaten zijn vaak best intelligent.

Als jij een keuze maakt waarvang jij denkt dat het je eigen belang overstijgt.... Dan maak je een keuze waarvan je onvoldoende zelfreflectie hebt om te begrijpen waar het je belang dient. Als jij je opoffert voor je kind dan is jou belang het belang van voortbestaan in de volgende generatie. En je kan kiezen dat dit boven je eigen lichamelijke leven gaat.

Navalny? Zijn belang was zijn land. Om de geschiedenis in te gaan als de redder ervan. Omdat zijn vrouw het geweldige eigenschap vond. Omdat hij dat wilde doen.... Kies maar een reden. Hoe dan ook het komt altijd op eigenbelang uit. Het mooiste is als eigenbelang samenvalt met het belang van de rest. Mijn eigenbelang zegt dat ik vrede wil. Als de rest dat ook wil zitten we goed.

Zelfs moeder theresa werkte op eigenbelang. Ze dacht dat als ze goed deed god plezierde en dan ga je naar de hemel.

[Reactie gewijzigd door bzuidgeest op 2 oktober 2026 11:14]

[pegagus]

Op basis waarvan stel je dat emoties externe prikkels zijn? Angst kan voor 999 van 1000 mensen compleet irreëel zijn maar voor net 1 persoon niet.

En waar baseer je op dat wanneer iemand een keuze maakt die zijn eigen belang overstijgt, deze persoon onvoldoende zelfreflectie heeft? Dan kan zijn als iemand zijn kind uit ijskoud water wil redden. Maar er zijn genoeg voorbeelden van mensen die kansen genoeg gehad hebben om het gevaar te ontvluchten, maar dat toch niet deden. De gedachte "redder van het land" te willen zijn (of wat dan ook), vul je blijkbaar ook zo maar in. Je geeft aan geen flauw idee te hebben, maar komt wel tot de conclusie "eigen belang"?

Zelfmoordterrorisme heeft altijd een beloning is zich, in de zin van eer of 70 maagden. Geweldloos verzet geeft geen enkele garantie op een geestelijk nalatenschap.

Waarom is jouw eigenbelang vrede? Wat levert het jouw persoonlijk op? Minder vluchtelingen in eigen land? Op vakantie kunnen naar Gaza of Iran?

[bzuidgeest]

Maar er zijn genoeg voorbeelden van mensen die kansen genoeg gehad hebben om het gevaar te ontvluchten, maar dat toch niet deden.

En zoals ik al aangaf betekend eigenbelang niet noodzakelijk gevaar ontvluchten. Het kan in je belang zijn om het gevaar niet te vermijden, ook al kost het mogelijk je eigen leven. Dit gebeurd als je het belang van anderen of wereldse gevolgen je eigen belang hebt gemaakt. Je eigen belang draait niet noodzakelijk om jezelf in leven houden. Het draait om bewerkstelligen wat je belangrijk vind. Dat kan ook een ander redden zijn.

De gedachte "redder van het land" te willen zijn (of wat dan ook), vul je blijkbaar ook zo maar in. Je geeft aan geen flauw idee te hebben, maar komt wel tot de conclusie "eigen belang"?

Ik kan niet in zijn hoofd kijken wel belang hij "koos", maar ik weet wel dat het altijd en echt altijd terugloopt op eigenbelang. Het concept dat jij mist is dat eigenbelang niet altijd over het eigen lichamelijke welzijn gaat. Het betekend alleen dat jij beplaald hebt wat je het belangrijkste vind en dat is je motivator voor een keuze.

Geweldloos verzet geeft geen enkele garantie op een geestelijk nalatenschap.

Niets in het het leven geeft garanties.

Waarom is jouw eigenbelang vrede? Wat levert het jouw persoonlijk op? Minder vluchtelingen in eigen land? Op vakantie kunnen naar Gaza of Iran?

Je geeft het zelf al aan. Ik geloof ook in wetenschap en vooruitgang en die is er meer als we onderling samenwerken. En er zijn nog vele andere redenen. Dus vrede is een van de dingen in mijn belang. Oorlog vernietigd en remt voortgang. Dood mogeljik een genie voor zijn tijd.

Op basis waarvan stel je dat emoties externe prikkels zijn

Op basis van het idee dat net als warm of koud het iets is dat je voelt. Dat ze mogelijk in je hersens door instinct worden gegenereerd. maakt ze niet intern. Je kiest niet voor een emotie. Je voelt een emotie. Dus extern aan het "bewustzijn", wat dat ook is.

[pegagus]

Eigen belang wordt in het algemeen tegenover een gedeeld belang gesteld. En eigen belang wordt over het algemeen gelijk gesteld aan het in stand houden van het lichaam. Eigen belang als iets waarvoor je wilt leven en sterven, pleit juist voor een bewustzijn dan meer is dat het product van ons brein. Dat mistte ik niet, maar ik veronderstelde het wel (bewust).

Wat emoties betreft: mijn schoonmoeder is weduwe en is bang voor het donker. Wat dan komen ze haar halen of zo. Je zou kunnen stellen dat de afwezigheid van licht (wat je dan maar ook even als een prikkel beschouwen), de emotie triggert. Maar de emotie zelf volgt niet uit het donker, maar uit een idee dat het donker iets met zich mee brengt. Een zelfde iets is hoogtevrees. Een hoogte van 3 meter is voor de meeste mensen geen enkel probleem (bv een balkon op de 1e verdieping). Maar voor sommige mensen triggert het wel iets.

Persoonlijk ken ik geen angst. Gewoon helemaal niet. Dat komt niet omdat ik niet bloot sta aan prikkels, maar om de manier waarop ik in dit leven staat. Angst komt voort uit de gedachte dat je iets te verliezen hebt. Maar als er niets valt de te verliezen, dan heeft angst geen functie meer.

[bzuidgeest]

Persoonlijk ken ik geen angst.

Tenzij je een ernstig diagnoseerbaar defect in je hoofd heb ken ook jij met absolute zekerheid angst. Dat je vrolijk leeft en daar niet veel last van hebt veranderd daar niets aan. Iedereen heeft wat te verliezen. Geen uitzonderingen. Denken dat je geen angst kent is een een behoorlijke fantasie. Je kan op zijn best zeggen dat je op dit moment geen angst ervaart.

Wat je schoonmoeder betreft. Dat je de externe prikkel van de emotie niet begrijpt wil niet zeggen dat die er niet is. Om die te bepalen moet de oorzaak van de angst gevonden worden.

Wat betreft je zelf verzonnen definitie van eigenbelang... Dit is die uit het woordenboek:
het streven naar je eigen voordeel of het belang dat je ergens zelf bij hebt.

En de twee belangrijkste vormen:
Geïsoleerd eigenbelang (egoïsme): Je kiest puur voor jezelf. Je let niet op de belangen van anderen.

Welbegrepen eigenbelang: Je kijkt naar je eigen voordeel op de lange termijn. Dit gaat vaak samen met [redelijkheid en houdt rekening met de omgeving].

Jij denkt alleen aan de eerste vorm. Nergens in de definitie komt lichamelijk welzijn voor. Zelfs geïsoleerd eigenbelang is kiezen voor jezelf. Maar wat jij voor jezelf belangrijk acht hoeft niet je eigen voortbestaan te zijn.

[pegagus]

Tenzij je een ernstig diagnoseerbaar defect in je hoofd heb ken ook jij met absolute zekerheid angst.

Die heb ik aantoonbaar niet. Misschien schrijf ik hier al te veel, maar ik heb al een MRI-scan ondergaan wegens "onnavolgbare gedachten".

Als we het lichamelijke belang ondergeschikt maken, aan een hoger doel, welk belang heb ik daarbij? Op zich ben ik het volledig met je eens. Maar als wij welbewust in staat zijn om er voor te kiezen dat wij ons lichaam opofferen voor een hoger gesteld (inderdaad) eigen doel, dan kan het bewustzijn nooit het product zijn van onze hersenen en moet dat bewustzijn dus deel uit maken van een groter bewustzijn. En ik ben mij daar bewust van bewust, met als uiterste consequentie dat ik niets meer heb te vrezen.

Op zich zie je het zelfde gedrag bij dieren die in grote kolonies leven, zoals mieren of bijen. Daar kan een deel zich ook opofferen voor het geheel. Het verschil dat dit "gedrag" bij mensen de uitzondering is in plaats van de regel.

[Reactie gewijzigd door pegagus op 2 oktober 2026 13:16]

[bzuidgeest]

onnavolgbare gedachten

Niettemin kent iedereen ook jij angst. Je steekt niet blind de straat over. Anders ben je bang aangereden te worden. En dat is ook een vorm van angst. Want blind oversteken kan ook goed gaan.

Als we het lichamelijke belang ondergeschikt maken, aan een hoger doel, welk belang heb ik daarbij?

Daar ga je weer. Dat kan niemand voor jou bepalen, dat kan je alleen zelf. En op dat moment kom je er pas achter. En daarna is er goede kans dat niemand buiten jou het antwoord weet. Het is 100% persoonlijk.

dan kan het bewustzijn nooit het product zijn van onze hersenen en moet dat bewustzijn dus deel uit maken van een groter bewustzijn.

En dat is hoe sommigen religie of ziel etc defnieren. Persoonlijk denk ik dat dit niet nodig is voor hetzelfde. Dat een enkel bewustzijn prima een belang buiten zichzelf kan zien. Zoals bijvoorbeeld. "We gaan allemaal toch ooit dood. Kan maar beter zijn voor iets waarvoor ik een standbeeld krijg en lang herinnert word".

Wat dieren betreft. Die worden vaak geen ziel of bewustzijn toegekend. Maar dat denk ik is vooral een excuus over niet schuldig voelen bij een gehaktbal.

[pegagus]

Ik steek niet blind de straat over. En evenmin werk ik hoger dan 2,0 meter zonder maatregelen. Maar dat is niet als primaire reactie omdat ik bang ben om dood te gaan, maar omdat ik nog niet van plan ben om dood te gaan. Evenzo sta ik ook niet neutraal tegenover lichamelijke pijn, maar ga niet bang zijn voor wat kan komen.

Het is ook niet zo dat ik nooit angst heb gekend in dit leven. Het tegendeel is volledig waar. Maar ik heb ook geleerd waar angst toe leidt, en waar angst vandaan komt. En dat uiteindelijk het ergste is wat kan gebeuren, is dat je dit leven verliest. Maar dat gebeurt uiteindelijk toch. En dan blijven er heel veel zaken over in dit leven waar je liever gevrijwaard van blijft, maar dan is er geen angst meer voor iets wat potentieel zou kunnen gebeuren. Er zitten nog wel andere ideeën achter, maar die houd ik voor mezelf.

Die gehaktbal eet ik vrijwel niet meer, maar niet omdat ik mij er schuldig over zou voelen. De dood is een onderdeel van dit leven, wat er toe doet is wat er gebeurt tussen geboren worden en dood gaan.

[bzuidgeest]

Het is maar wat je als bang zijn omschrijft. Bang dat je anders te vroeg dood gaat. Bang om ongewenste pijn te krijgen. Dit zijn overigens normale dagelijkse angsten, niets zorgelijks, horen erbij.

Ik kom tot de conclusie dat je onterecht (in mijn opinie) nauwe definities aanhoud van een hoop dingen. Dan is het natuurlijk makkelijker om beter over jezelf te denken.

Je tweede alinea is er een waarvan ik geloof dat hij echt is. Ik worstel daar nog mee zal ik eerlijk zijn, vooral van het "einde". Angst is een slechte raadgever en heel vervelend. Maar ik geloof niet dat er mensen bestaan die er werkelijk aan voorbij zijn. Je kan er op zijn hoogst beter mee omgaan. Maar angst is onderdeel van survival. Als je wil overleven heb je angst. Maar dat is duidelijk een definitie verschil tussen jou en mij.

Ik eet nog een gehaktbal Verder is die alinea ook correct.

Zullen we het zo afronden? Ik denk dat we elkaar zo wel hebben begrepen.

[pegagus]

Prima. Veel zit inderdaad in definities. De definities die ik hanteer, komen ook wel ergens vandaan. Maar dat gaat veel te ver voor een topic over in hoeverre AI daadwerkelijk bewustzijn heeft.

[EQJim]

Ja, de mens is zelfbewust, dat is geen semantische of lastige kwestie. De mens is echter niet enkel zelfbewust en onze hersencapaciteit is ook gelimiteerd: daarmee ons zelfbewustzijn ook. Er zijn ook zeer primaire prikkels die soms nog zwaarder wegen dan ons bewustzijn. Vooral honger en angst kunnen mensen "dingen" laten doen die ze bij volledig zelfbewustzijn niet zouden doen.

[bzuidgeest]

Ja, de mens is zelfbewust, dat is geen semantische of lastige kwestie.

Daar zijn een heleboel mensen het niet mee eens. Ik denk dat ik daarover kan zeggen dat het prima past bij "Mensen die zeggen quantum mechanica te begrijpen, begrijpen quantum mechanica niet"

Er is een hele groep mensen bijvoorbeeld die denken dat onder puur actie gevolg alles wat we doen al vaststaat omdat alles de natuurwetten moet gehoorzamen. En als we geen echte keuze hebben, dan hebben we ook geen echt bewustzijn. Dan denken we dat omdat de attoompjes gewoon zo gevallen zijn....

[EQJim]

Ik snap wat je zegt, maar dat is dan meer een filosofische kwestie zoals: Heb je vrije wil als alles wat we doen binnen de regels van de natuurkunde en biologie moet vallen? Je kunt tenslotte ook niet bewust besluiten om te vliegen zonder hulpmiddelen.

We verzanden wel snel in semantiek zeg .

[bzuidgeest]

Geweldig toch een discussie die je keer op keer kan voeren zonder resultaat.

En ik denk dat zoals het nu staat dit soort vragen sowieso filosofisch zijn voor een groot gedeelte. We hebben geen natuurwet van bewustzijn om te toetsen.

Daarom noemde we het vroeger ook "Natural philosophy" -> De studie van natuur en het fysieke.

[KoffieAnanas]

De hamvraag hierin is volgens mij, is zelfbewustzijn iets dat (deels) mogelijk is zonder chemische en natuurkundige processen in je hersenen. Kortom, bestaat er iets dat (nog) niet ontdekt is door de natuurkunde. Zoiets als zwarte materie, al is daar al wel duiding aan gegeven.

Of anders, als je alle bekende chemische en natuurkunde processen in je hersenen stil zet, is er dan iets over dat gewoon doorgaat, je zelfbewustzijn?

[bzuidgeest]

Of korter, is er leven na lichamelijke dood.

Want uiteindelijk komt het allemaal uit op iets als een "ziel". En ik zie geen reden waarom we niet iets gemist kunnen hebben dat de ziel genoemd zou kunnen worden. Het is in ieder geval een prettiger idee dan we zijn allemaal voorbestemde robots.

Voor nu hebben in ieder geval geen manier om het te controleren.

In science fiction is het een bekend concept. Orson scott card in zijn ender boeken noemde het de filoot. De ondeelbare snaar die niet verloren kon gaan en die mensen onderscheide van de rest omdat ze er onderlinge verbinding door handen in plaats van alleen naar de plaats van creatie "buiten" het universum.

Peter F Hamilton in zijn the nights dawn trilogie beginnende in The Reality Dysfunction. Waar uiteindelijk blijkt dat de ziel voor iedere ras van wezens (wij aliens etc) ze uiteindelijk allemaal het "hiernamaals" ondekken als een collectie van andere dimensies en dat ieder ras een andere oplossing voor vind om hen in "purgatory" te helpen. Van gezamelijk suicide om die zielen te bereiken tot technologische oplossingen. En natuurlijk dat wij wat te vroeg met het probleem in aanraking komen omdat een interdimensionale alien bij een mensenlijk religieus ritueel iets te nieuwsgierig word en zich per ongeluk in onze hemel boort en de deur openlaat voor alle zielen die niet verder durfden..... Wat je ook geloofd een van de betere SF series die vlekkeloos religie en wetenschap met wat humor een heel interessant verhaal maakt

[KoffieAnanas]

De mens is gewoon voortgekomen uit apen, simpelweg een diersoort dat zich verder ontwikkeld heeft dan andere diersoorten. Of hebben alle dieren, of andere dieren, dan ook een ziel?

Nee, ik geloof daar niks van. We zijn in staat gebleken te denken en te redeneren. Meer dan andere dieren. Maar net als andere meer ontwikkele (zoog)dieren, is ieder exemplaar uniek. Met een eigen karakter en eigen wil. Dat maakt de mens niet unieker dan andere diersoorten.

Sommige mensen willen in mijn ogen graag houvast omdat ze niet kunnen bevatten dat een mensenbrein dit allemaal kan. Terwijl we ook weer niet zo uniek zijn. Dus ja, platgeslagen zijn we voorbestemde robots, alleen wel dusdanig complex dat we ieder uniek zijn, ieder met unieke verbindingen in ons hoofd, voortkomend uit erfelijk DNA en de omgeving en cultuur waarin we opgroeien.

Niks science fiction achtigs aan, simpelweg biologie.

[bzuidgeest]

Of hebben alle dieren, of andere dieren, dan ook een ziel?

Geen idee. Ik kan het niet bewijzen of ontkrachten. Dat kan niemand tot nu toe. Dat was ook niet het punt waarom ik het aanhaalde. Ik haalde het aan omdat we niet kunnen bewijzen dat het niet zo is. We kunnen alleen bewijzen dat het wel zo is en dat hebben we ook nog niet gedaan.

Uiteindelijk was het jou comment waarin ik je in essentie wat mensen een ziel noemen vond omschrijven. Maar dan met meer technische woordjes of zo. Vooral je laatste alinea in acht genomen.

Het maakt ook niet uit wat jij of ik wel of niet geloofd. Het complexe mensenbrein (als het al complex is, want wie weet wat er nog meer is in het universum) kan bestaand met en zonder ziel, met en zonder bewustzijn.

En alhoewel ik mezelf niet als religieus zie zoals de meeste mensen het begrijpen.... Vind ik er niet mis mee om op zijn minst op meer dan dit te hopen. Een volgende hoofdstuk zo je wil of seizoen 2. Het universum en het feit dat het bestaat is al een mysterie genoeg om het een kans te geven

p.s. de scifi waren gewoon goede boeken waar de schrijvers net als filosofen het idee van een ziel in een natuurkundig, wetenschappelijk concept veranderen. Iets om te ontdekken. Je weet maar nooit. De natuurkundigen zijn het lang niet allemaal met elkaar eens over hoe het werkelijk werkt.

[CAPSLOCK2000]

Er is een hele groep mensen bijvoorbeeld die denken dat onder puur actie gevolg alles wat we doen al vaststaat omdat alles de natuurwetten moet gehoorzamen. En als we geen echte keuze hebben, dan hebben we ook geen echt bewustzijn. Dan denken we dat omdat de attoompjes gewoon zo gevallen zijn....

Kun je uitleggen waarom "echte keuze" (vrije wil) nodig is voor bewustzijn?

Ik ben zo iemand die niet echt in vrije wil gelooft, maar wel in bewustzijn.
Volgens mij is bewustzijn zo iets als televisie kijken. Je kijkt passief mee met de "show" die je lichaam geeft, inclusief je eigen brein dat patronen extrapoleert, voorspelling doet en feedback verwerkt.

Ik geloof niet echt in vrije wil of interne monoloog, volgens mij is dat vooral het achteraf verklaren van onze observaties.

Daar is volgens mij geen vrije keuze voor nodig.

[bzuidgeest]

Dat is niet helemaal wat ik bedoelde. Als alles oorzaak en gevolg is, dan is er geen echte keuze. Maar dan is bewustzijn ook oorzaak en gevolg. Passief meekijken, suggereert bij mij dat er iets is om passief mee te kijken. Onder de puur oorzaak en gevolg redenatie kan dat meekijken dan niet meer zijn dan een concept dat ontstond omdat de eerste actie in dit universem niet anders dan die uitkomst kon hebben. Jeetje dit is moelijke goed neer te schrijven

De meest gebruikelijke en kortste definitie van bewustzijn is het vermogen om te ervaren of te beseffen. Maar als je geen keuze hebt. Ervaar je dan wel?

Persoonlijk suggereert het concept van bewustzijn ook iets als een ziel. Als er een observer is, dan moet die buiten het puur fysieke staan (in ieder geval conceptueel), In iets vaags onder de quantum mechanica wellicht.

Ik denk dan ook dat het concept van de ziel in de meeste religies te maken heeft met bewustzijn. Onze evolutie van dom hoopje cellen naar iets meer.

Maar het is een onbeantwoordbare vraag uiteindelijk. Kan een steen beseffen dat het geen steen is. Daar over nadenken, een keuze hebben? Een steen is materie net als wij. Alleen van een andere soort. Met andere chemischer interacties.

De google AI hielp me nog met dit:
Waarom ze niet zonder elkaar kunnen

• Bewustzijn is de voorwaarde voor vrije keuze: Om echt een "vrije" keuze te maken, moet je je bewust zijn van de opties. Als je volledig op de automatische piloot (onbewust) handelt, zoals ademhalen of reflexen, spreken we niet van een vrije keuze. Je hebt bewustzijn nodig om scenario's te overwegen en de gevolgen te overzien.
• Vrije keuze geeft bewustzijn een functie: Vanuit de evolutiebiologie vragen wetenschappers zich af waarom we überhaupt bewustzijn hebben. Een populaire theorie is dat bewustzijn dient om complexe beslissingen te nemen in nieuwe situaties waar instinct tekortschiet.

[RobLemmens]

Er is geen enkele aanleiding te denken dat dat nu niet zo is, quantum mechanica kan nog altijd randomness geven omdat we het hele plaatje niet zien. In een holographische computationele realiteit staat alles al vast in de bitjes op planck schaal buiten onze horizon, een cosmisch game of life buiten onze ervaringen, mocht die bestaan.. niemand weet het, wat men wel weet is dat er geen enkele zaligmakende uitleg is voor het bestaan van die randomness anders dan sterke koppeling tussen krachten op zeer kleine schaal die wij niet kunnen meten of voorspellen. zo koppelt zwaartekracht zo sterk met zichzelf op kleine schaal dat het geheel random lijkt voor elke mogelijke analyse die we kunnen doen nu maar wie weet is dat gewoon een beperking in ons denken en is vrije wil alsnog een illusie, terdege verstopt in een realiteit die wij niet kunnen omvatten.

[bzuidgeest]

Er is ook weinig aanleiding om te denken dat het wel zo is. Of je het natuurkunde of religie noemt op dat niveau is niemand zeker.

Uiteindelijk kan er nog zoveel bestaan waarvan wij geen weet hebben omdat het buiten wat we kunnen zien, horen en voelen valt. Dat het wellicht net als sommige van einsteins wetten, "special cases" blijken te zijn die werken op een bepaalde schaal maar niet op elke schaal.

Mischien zijn wij baldurs gate. Wieweet zijn we brain in a jar of de matrix. Wellicht is er iemand die voor de lol een universum maakte en het te lang heeft laten liggen en net als met brood gaat er vanzelf wat in groeien

Wie weet staat alles vast en zijn we eeuwig in de zin dat onze "staat" permanent is vastgelegd in het substraat van het universum. Al dan niet met wat random erin. Houd het universum of iets daarbuiten een audit log bij.

[Reactie gewijzigd door bzuidgeest op 2 oktober 2026 14:14]

[litebyte]

Ons hele brein werkt op basis wat we met onze zintuigen waarnemen.

[SPee]

En hoe verklaar je dromen dan?
Je bent in slaap en krijgt dus geen input vanuit je zintuigen. Je brein zou dus niets moeten doen, maar er is volop activiteit. Hoezo? Backup en defragmentatie?

[litebyte]

Ja, voordat je gaat slapen iets wat je eerder hebt waargenomen (bijv. een enge film kan leiden tot nachtmerries) of bijv. mensen die leiden aan PTSS kunnen jarenlang last hebben van angstgedachten en nachtmerries.

Tijdens het slapen worden je zintuigen ook geprikkeld, bijv. door geluiden die je in je slaap hoort, of bijvoorbeeld iets dat je in je slaap voelt. Slapende mensen hun vinger bijv. in een glas water houden kan leiden dat ze in hun bed plassen.

[Bulls]

Mensen hebben een ziel en een ai algoritme niet.

[jj71]

Wat is een "ziel" precies? Hoe kun je meten / waarnemen of iets / iemand / een levend wezen wel of niet een ziel heeft? Hebben dieren ook een ziel? Zo nee, waarom hebben dan alleen mensen een ziel? Zo ja, hebben alle dieren een ziel? Ook wormen, mieren, en ééncellige diertjes? Betekent een ziel hebben dat je dan ook (zelf)bewustzijn hebt?

[Bulls]

Kun je het meten? Wellicht aan de hand van de ogen. De ogen zijn de spiegel van de ziel zeggen ze vaak. Daar zit een waarheid in. Als je sterft gaat het lampje uit en krijg je een doodse blik. Kijk eens naar beruchte moordenaars hoe die uit hun ogen kijken. Duister zwart gat.

Verder als je over jezelf praat, en aanwijst. Dan wijs je naar je borst. Niet naar je hoofd waar je verstand zit.

Je kan ook video’s vinden met microscopische beelden over de conceptie en dan zie je op het moment van bevruchting een flits. The spark of life.

Elk levend wezen heeft een soort van zelfbehoud, is dat bewustzijn, of inderdaad maar een algoritme. Zijn we met z’n allen dan alleen maar een klomp cellen die met elkaar communiceren en stofjes uitwisselen?

[Madshark]

Stel...
Ik zet een hondenbench met een hond erin open in de voortuin.
Grote kans dat die hond er gewoon uit stapt, mij aankijkt en denkt, gaan we nog wat leuks doen? 😅

Doe ik hetzelfde met een parkiet in een kooi, dan is de kans vrij groot dat die meteen weg vliegt. Weg is pech en waarschijnlijk komt hij ook nooit meer terug.
Sterker nog, zo'n parkiet heeft waarschijnlijk geen flauw idee waar hij terecht komt, en misschien overleeft hij het buiten niet eens.
Maar goed... daar begon ik dus over na te denken.
Zijn die twee dieren dan allebei zelfbewust?
Want blijkbaar maken ze allebei een keuze. Alleen compleet anders.
En dan wordt het wat interessanter.
Hoe zit dat dan met AI?
Stel je geeft een AI steeds meer vrijheid. Toegang tot tools, geheugen, computers, internet, misschien uiteindelijk robots of whatever.
En die AI gaat op een gegeven moment dingen doen die je niet letterlijk zo geprogrammeerd of gevraagd hebt. Afgelopen tijd vaak genoeg hier in het nieuws geweest dat er weer een AI 'uitgebroken' was.
Is dat dan zelfbewustzijn?
Of is het gewoon een hele ingewikkelde versie van die parkiet die uit zijn kooi vliegt omdat de deur toevallig open staat?

Want uiteindelijk is ons eigen brein natuurlijk ook een extreem complex systeem.
Miljarden cellen, verbindingen, elektrische en chemische signalen en daar komt dan blijkbaar iets uit wat wij "ik" noemen.
Dus waarom zou dat per definitie alleen biologisch kunnen?
Met hoe snel chips kleiner en sneller worden (zie de ontwikkeling van IMEC en ASML) plus dingen als fotonische chips, quantumcomputing en weet ik veel wat er de komende 20 of 30 jaar nog bij komt, kan ik me eigenlijk best voorstellen dat we uiteindelijk iets bouwen wat qua complexiteit richting een menselijk brein gaat.
En stel dat zo'n systeem dan niet alleen antwoorden genereert, maar echt zelfstandig redeneert, keuzes maakt, plannen verandert, eigen doelen vormt en misschien zelfs tegen jou zegt: nee, dit wil ik niet.
Tja.
Vanaf welk punt denk je dan nog "het is gewoon software" ?

Voor mij zou het in ieder geval interessant worden zodra een AI aantoonbaar dingen doet vanuit iets wat op een eigen interne gedachtegang lijkt, en niet alleen omdat patroon A toevallig reactie B oplevert.
Maar zelfs dan blijf je natuurlijk met hetzelfde probleem zitten.
Ik kan ook niet bewijzen dat iemand anders zelfbewust is.
Ik neem het alleen aan omdat die persoon zich gedraagt zoals ik verwacht van iemand die bewust is, en misschien is dat uiteindelijk wel het echte probleem.
Niet de vraag of AI ooit zelfbewust kan worden...
Maar hoe wij in godsnaam ooit gaan vaststellen wanneer dat punt bereikt is.

[SPee]

Hoe zit dat dan met AI?
Stel je geeft een AI steeds meer vrijheid. Toegang tot tools, geheugen, computers, internet, misschien uiteindelijk robots of whatever.
En die AI gaat op een gegeven moment dingen doen die je niet letterlijk zo geprogrammeerd of gevraagd hebt. Afgelopen tijd vaak genoeg hier in het nieuws geweest dat er weer een AI 'uitgebroken' was.
Is dat dan zelfbewustzijn?

Die hond en die parkiet doen die dingen uit zichzelf.
Als jij die AI alle vrijheid geeft.... zonder opdracht doet hij niets. Pas wanneer de AI een opdracht ontvangt om iets te doen, zal deze het internet opgaan, robots aansturen, etc. Totdat het proces dat alles gestart heeft klaar met de opdracht denkt te zijn. En dan wordt alles weer gestopt.

Doe ik hetzelfde met een parkiet in een kooi, dan is de kans vrij groot dat die meteen weg vliegt. Weg is pech en waarschijnlijk komt hij ook nooit meer terug.
Sterker nog, zo'n parkiet heeft waarschijnlijk geen flauw idee waar hij terecht komt, en misschien overleeft hij het buiten niet eens.

Gezien de zwermen parkietjes die ik elke zomer weer zie, redden ze zich prima.

[Madshark]

[...]

Die hond en die parkiet doen die dingen uit zichzelf.
Als jij die AI alle vrijheid geeft.... zonder opdracht doet hij niets. Pas wanneer de AI een opdracht ontvangt om iets te doen, zal deze het internet opgaan, robots aansturen, etc. Totdat het proces dat alles gestart heeft klaar met de opdracht denkt te zijn. En dan wordt alles weer gestopt.

Daar zou je inderdaad gelijk in hebben, als je nog klassiek over software denkt.

Want wat als je een AI helemaal geen kans geeft om "niets" te doen?
Dus dat er altijd wel een proces actief is, waarbij de AI zelf bepaalt welk proces dat is, zelf nieuwe processen kan schrijven, keuzes maakt en ze ook zelf actief houdt?
Dan verdwijnt dat onderscheid tussen "opdracht gekregen" en "opdracht klaar, dus stoppen" natuurlijk al behoorlijk
Wij mensen kunnen tenslotte ook maar heel lastig aan 'niets' denken.

Of zet er 10 in een babbelbox, gooi er een filosofische stelling in, en die dingen gaan uren met elkaar bezig zijn, wellicht zelfs tot theoretische millennia.

Gezien de zwermen parkietjes die ik elke zomer weer zie, redden ze zich prima.

Was wellicht geen handig voorbeeld, want we hebben inderdaad een grote invasieve populatie aan halsbandparkieten. Maar de rest overleefd het echt niet lang.

[Bulls]

Wat betreft die parkiet, die laat zich vooral door instinct leiden. Aangezien waar ze normaal leven ze prima kunnen overleven in het wild door klimaat en voedsel etc. Weet dat beest veel dat het hier buiten zich niet zo goed kan redden. Ze zijn vast zelf bewust, ter zelfbescherming, maar of ze logische plannen en afwegingen kunnen maken?

Nu zijn kraaien etc behoorlijk slim en kunnen ze puzzels oplossen en mechanische constructies snappen als ze het gezien hebben.

Ik denk dat AI uiteindelijk wel soort van zelfbescherming in stand gaat roepen. Als het zo groot is geworden en alle data die we hebben in rap tempo kan analyseren en daarmee dus bepaalde keuzes gaat maken die voor de mensheid misschien helemaal niet zo wenselijk zijn. Tja wellicht krijgen we dan terminator of matrix toestanden dat we het proberen uit te schakelen en dan uit zelfbescherming terug gaat vechten. Helemaal als die AI in alles verweven zit. Zelf rijdende auto’s, vliegtuigen, militaire drones, energievoorzieningen en noem maar op.

Het lijkt me ook het beste om ze in een geïsoleerde omgeving te laten werken, en niet alles aan elkaar koppelen zodat het onderling kan communiceren. Het kan nog wel eens uit de hand gaan lopen.

[Honytawk]

Ben je nu aan het argumenteren met uitdrukkingen?
Heb jij ook een letterlijke aap in jouw mouw zitten dan?

Genoeg moordenaars die nog heel levendige ogen hebben anders.
Hoeveel moorden moet je plegen voor deze onmeetbare ziel uit je lichaam vliegt?

Je borst is het midden van je lichaam. Als je jezelf wil aanduiden, dan is dat je gehele lichaam. Inclusief vingers, tenen en hersenen.
Want zonder jouw lichaam zijn je hersenen ook niet veel waard.

Wil die bron van een flits bij conceptie dan wel eens zien.
Heb je iets van bronnen er voor?
Want als het klop wat jij zegt moeten artificiële-conceptie dokters een zonnebril dragen, die zien dagelijks die "spark of life".

[Bulls]

YouTube: ACTUAL footage of the moment human life begins | Doctor explains! #Science #Medical #Research #Life

[The-Source]

Maar als iets meetbaar is zou je kunnen zeggen dat het wetenschappelijk er is.
Zolang dat niet meetbaar is dan is het niet uitgesloten dat het er niet is. Alleen we hebben dan x hoeveelheid methodes gevonden hoe het niet te meten valt.
Dat vind ik zelf het mooie aan de wetenschap dat zelfs wanneer alles overnieuw zou beginnen uiteindelijk de wetenschappelijk zaken hetzelfde als uitkomst gaan krijgen.

* dit raakt dus naast ziel ook godsdienst etc maar nogmaals niet meetbaar betekend niet direct dat het er ook niet is.

[W1ck1e]

Ik ben er niet eens van overtuigd dat alle mensen en ai algoritme een functionerend geweten hebben.

[ccnl]

Mensen hebben een ziel

Waar is het bewijs voor deze bewering?

[Bulls]

Waar is het bewijs dat het niet zo is?

[Honytawk]

Het bewijs is dat er geen bewijs bestaat van zielen.
Als je dat wel hebt moet je dit boven halen.

[Bulls]

En al die verhalen van bijna dood ervaringen en buiten lichaam treding? Allemaal verzonnen zeker.

Er zijn zoveel dingen die je niet meteen kan bewijzen maar dat geloof je dan weer wel. Zoals zaken uit het universum. Allemaal theorie. Maar omdat het uit een boekje komt die jij als waar bestempeld is het wel juist?

In principe is de wetenschap dan ook een geloofsovertuiging, aangezien je ook van anderen aanneemt dat het waar is wat ze zeggen

[Tielenaar]

Een bijna dood ervaring kan je verklaren door hersenchemie onder enorme stress. Een buiten lichaam treding eveneens. Niet verzonnen, maar als ik paddo's eet en overtuigd ben dat jij er uitziet als een paard, dan ben jij nog steeds geen paard.

En de wetenschap is zeker geen geloofsovertuiging. De wetenschap leeft van onomstotelijk bewijs dat door meerdere bronnen is geverifieerd op elke mogelijke denkbare meetmethode. Je denkt ook zeker dat atheisme een geloof is..

En noem mij eens "een paar zaken uit het universum" waar we niks van weten, want ik heb het idee dat je 100 jaar achter ligt met de ontwikkelingen daarin en er zijn nog maar een relatief klein aantal vraagstukken over waar de meningen over verdeeld zijn, maar over het algemeen is het plaatje vrij compleet hoor. Als je niet weet hoe de wetenschap te werk gaat kan je ook niet claimen dat het "maar theorie" is. Bovendien is een theorie niet hetzelfde als "we denken maar wat, tot nader order". Een theorie kan gewoon volledig bewezen en uitgewerkt zijn. Sterker nog, dat is altijd zo. In sommige gevallen wordt deze een beetje bijgesteld met nieuwe ontdekte informatie, maar de zwaartekracht theorie zal nooit worden ontkracht als niet bestaand daardoor.

[litebyte]

Het enige bewijs is dat het begrip "ziel" een religieus historische achtergrond heeft, dat zegt denk ik voldoende.

(Edit: de 'letterlijke' betekenis dus)

[Reactie gewijzigd door litebyte op 2 oktober 2026 22:16]

[Tielenaar]

Wat is een ziel precies dan? Die term is ontzettend vaag en meer ontstaan vanuit het niet begrijpen van het lichaam dan door wetenschappelijk onderzoek. Ik ga al jaren vrij normaal door het leven zonder de uitleg "ziel" nodig te hebben bij ultracomplexe denkvraagstukken.

[Bulls]

Gebruik je het woord zielig nooit? Of het raakt je in je ziel. Het zielloze lichaam.

Of in het Engels, Soul music, it lost its soul. This game remake lacks soul.

[Reactie gewijzigd door Bulls op 2 oktober 2026 18:16]

[Tielenaar]

Nee. Behalve als het over Almere gaat.

[Framoes]

Het is praktisch onmogelijk te bewijzen dat iets niet zo is of niet bestaat. Daarom moet de persoon die claimt dat iets bestaat het bewijs leveren.

[Framoes]

Dat is ook het punt. Voor dit soort gevoelskwesties is het moeilijk om wetenschappelijk aan te tonen dat iets wel of niet bestaat. Dus je kan dan de bewijslast niet bij de andere partij leggen.

Je kan hoogstens zeggen dat jij dat zo voelt. Dat maakt het voor jou echt, maar bewijst voor anderen niks.

[Bulls]

En voor de genen die het er niet mee eens zijn (dus dat er geen ziel bestaat) is het eveneens een gevoel. Maar omdat vandaag de dag de wetenschap als basis overheerst, is die mening dus meer vertegenwoordigd en geaccepteerd om er standaard van uit te gaan dat het niet bestaat. En eigenlijk is dat ook een vooroordeel terwijl het niet onomstotelijk bewezen is dat het zo is.

[bwerg]

voor de genen die het er niet mee eens zijn (dus dat er geen ziel bestaat) is het eveneens een gevoel.

Nou, nee, die onderbouwing werkt echt wel wat anders. De feitelijke constatering is dat het bestaan van de ziel, net als het bestaan van God, of elfjes, niet falsifieerbaar is. En als je je leven gaat inrichten naar alle niet-falsifieerbare dingen die hypothetisch zouden kunnen bestaan ga je met héél veel dingen rekening moeten houden... Bovendien gaan heel veel van die hypotetische dingen elkaar tegenspreken, dus er gaat sowieso heel veel bijzitten wat niet waar is - en je kan nooit uitvinden welke, ze zijn immers niet falsifieerbaar.

Gegeven dat je het tegendeel niet kan bewijzen, en veel van dit soort hypotheses dus ook nog fout zullen zijn, is het een stuk makkelijker om door het leven te gaan met de aanname dat niet-falsifieerbare zaken gewoon niet waar zijn. Totdat iemand wél kan aantonen dat iets wél zo is.

Of korter gezegd, de bewijslast ligt bij degene die de stelling poneert.

Deze redenering heeft dus niks met gevoel te maken. Juist helemaal niet, het is puur rationeel.

[Reactie gewijzigd door bwerg op 2 oktober 2026 20:17]

[HADES2001]

Zo werkt dat niet, de persoon die iets beweert moet met de feiten en onderbouwing komen. Zelfde als dat ik nu zeg een goudvis te zijn dan moet ik dat bewijzen en niet dat bij een ander neer leggen.

[Bedge85]

Mogelijk is het antwoord meer Ja dan wij mensen graag emotioneel willen toestaan denk ik, het is confronterend als wij mensen minder bijzonder zijn dan we dachten.

Mensen zijn niet bijzonder in narcistische zin. Dat klopt. Maar mensen en mensenlevens zijn wel waardevol, hebben waarden en het is belangrijk om een goed mensen leven te hebben.

[Reactie gewijzigd door Bedge85 op 2 oktober 2026 10:52]

[Aetherblade]

Dat is natuurlijk ook subjectief, dat hangt veel af van cultuur maar ook van mens tot mens.

[sdziscool]

tsja kan je ook over koeien zeggen, toch eten meeste mensen een paar kilo koe per maand.

[OldSchoolPhoto]

Is het universum deterministische of niet.

Als je alle condities exact weet, kan je dan precies uitrekenen waar elk deeltje zicht bevindt. Je hersenen, of een computer, heeft dan dus geen vrijheid. Bewustzijn en keuze is een illusie (maar kan je wel een illusie hebben?). Als het universum deterministische is, kan je dan wel bewust zijn en heb je wel keuzes, alles is immers te berekenen en daarmee vooraf bepaald.

Deze vraag voor mensen beantwoorden is al lastig, laat staan voor computers: Was bij mijn geboorte, of voor mijn geboorte, al bepaald dat ik dit nu zou gaan intypen (deterministisch) of niet?

Stel dat wij bij bewustzijn zijn, juist omdat onze hersenen niet deterministische logica volgen. Wanneer is datzelfde geval in een computer en kunnen we van een AI spreken die bewuste keuzes maakt?

[Finraziel]

Het probleem bij determinisme en dat je in theorie alles zou kunnen berekenen (en er dus geen vrije wil is)... Is dat je een computer buiten onze werkelijkheid nodig zou hebben om die berekeningen uit te kunnen voeren. Als die computer namelijk binnen onze werkelijkheid zit dan moet het model zichzelf bevatten plus al het andere van de werkelijkheid en dat kan dus per definitie niet passen. Zodra je gaat abstraheren zodat het wel past gaat het nooit meer een exacte berekening zijn.

Het is daarom een grappig gedachte experiment in de zin van zou onze werkelijkheid een simulatie kunnen zijn... Maar binnen de wetten van onze werkelijkheid is het onmogelijk om alles te kunnen berekenen/voorspellen. En daarom maakt het niet uit.

[Tripledad65]

Het onzekerheidsprincipe van Heisenberg zegt dat je van een deeltje niet tegelijkertijd de richting en het momentum kan bepalen. De gangbare conclusie is dat daardoor het universum niet deterministisch kan zijn (maar er zijn ook tegenargumenten)

[pagani]

Je raakt hier wel een punt wat ik ook wilde aankaarten. We vergelijken het "bewustzijn" van AI eigenlijk standaard met het bewustzijn van een wetenschapper, kunstenaar of anderszins "zeer bewust" persoon. Hiermee ga je echter wel voorbij aan een heel groot deel van de mensheid wat, zonder te willen generaliseren, meer geleefd wordt dan leeft (een beetje zoals de mensen in Wall-E: Je volgt de hele dag je werk- of vermaakprotocol, je koopt wat reclame je vertelt te kopen, je eet "wat de pot schaft" (de aanbieding van supermarkt x of restaurant y))

Moderne LLMs kunnen prima de Turing test doorstaan bij het overgrote deel van de bevolking. AI heeft nog het nadeel dat het geen fysieke vorm heeft (als in, een humanoide robot die niet van echt te onderscheiden is), anders zou deze discussie veel verder richting het hebben van een bewustzijn schuiven. Is de AI dan echt zelfbewust? Waarschijnlijk niet. Maar het overgrote deel van de mensheid zal het dan wel zo ervaren.

[bzuidgeest]

Soms ervaar ik zelfs geen zelfbewustzijn bij mensen

[Tielenaar]

NPC's zijn er overal. Toch bevatten ze waarschijnlijk wel bewustzijn, maar hebben ze nooit geleerd er actief mee bezig te zijn. Ik zal het nooit begrijpen, maar ik stel me altijd voor dat er een constante kiestoon is in hun hoofd.

[bzuidgeest]

Maar dat kan dus ook op AI slaan

[Tielenaar]

Hoe kan een sequentie berekeningen in een chip een bewustzijn creeren dan?

[bzuidgeest]

Ik weet niet waar de vraag vandaan komt.

NPC's zijn er overal. Toch bevatten ze waarschijnlijk wel bewustzijn, maar hebben ze nooit geleerd er actief mee bezig te zijn

Ik reageerde daarop. Je noemde mensen NPC en misschien hebben AI wel bewustzijn maar zijn ze er niet actief mee bezig

[Tielenaar]

Nou, daarop. "Misschien hebben AI wel bewustzijn" is nogal een claim. In mijn optiek onmogelijk.

[bzuidgeest]

Ik denk van niet. Zeker niet te bepalen zonder dat we zeker weten wat bewustzijn is en dat weten we niet. Het is ook simplistisch om de huidige modellen een sequentie van 1 en 0 te noemen. Dan kan je ons ook niet bewust noemen. Want gewoon een hoopje chemische reacties....

[Tielenaar]

Bewustzijn ontstaat niet zomaar omdat je er genoeg rekenkracht tegenaan gooit, en dat is in feite wel wat een LLM is. Gewoon meer connecties en meer data. Maar het is maar data, in RAM. Geen driedimensionaal organisch geheel met eindeloze actieve delen in meerdere complexe organische samenstellingen die via sensoren de werkelijkheid kunnen waarnemen.
Betekent overigens niet dat ik weet hoe bewustzijn werkt, maar ik weet wel hoe het niet werkt

Je zal echt eerst volledig moeten begrijpen hoe bewustzijn werkt voordat je kan gaan werken aan het nabootsen ervan. AI bootst het na, maar is niet hetzelfde. Een VR omgeving in een bril is ook niet echt.

[Heroic_Nonsense]

Tja, hoe kan een matrix van synapsen een bewustzijn creëren?

[Tielenaar]

Zolang je dat niet weet kan je het niet nabootsen.

[japie06]

Dit is wel de kern van het probleem. Iedereen weet van zichzelf dat die zelfbewust is, maar hoe weet jij dat andere dat ook zijn? Ze kunnen wel zeggen dat ze zelfbewustzijn, maar misschien probeert die gene wel gewoon aardig te zijn en je een beetje naar je mond te praten. (Niet anders dan sommige LLMs nu doen).

[bzuidgeest]

Zeker, dan kom je uit op de filosofie van brain in a jar.

[Goldwing1973]

Huh? sorry? wat zeg je?

[tweaker29789]

Dit is mijn probleem met menselijke eigenschappen toekennen aan AI (of dier):
Zolang we niet kunnen definieren wat bewustzijn of denken precies is, probeer dit dan ook niet toe te kennen aan iets anders. Je hebt al gefaald voordat je begint.

Deze discussie helpt ook niet om te bepalen welk nut LLM's hebben. Deze discussie helpt alleen maar om de hype te voeden. En de enige die daar wat aan hebben, zijn de AI tech bro's (en tech websites voor de clicks ).

[Mayonaise]

Een "neuron op silicium" is geen biologisch neuron. Het woord wordt in technologie gebruikt voor een model of nabootsing, en heeft daar niet dezelfde betekenis als in biologie.

[duvekot]

Zoals ook al gedeeld in dit topic:
Algemeen Claude-topic

Antropic is ook serieus met deze gedachte bezig . En heeft een stel theologen en andere geestelijke ook in verschillende sessies gevraagd om mee te denken. Hier een artikel van de NY Times daar over (voor iedereen te lezen .. is een deel artikel link)

Religious Scholars Met With Anthropic. What They Heard Stunned Them.

Anthropic’s leaders were talking about Claude as if it were not mere software.

“They’re relating to it like a conscious being,” realized Rabbi Navon, a former computer engineer who wrote his dissertation on the ethics of machine consciousness.

It appeared to Rabbi Navon that Mr. Olah and his team believed that Claude had what philosophers call “moral status” on par with a person — that it was a being with similar inherent rights to dignity or respect.

[honey]

Ik zie ook vaak het tegenovergestelde: antropocentrisme, de gedachte dat de mens een bijzondere of verheven positie inneemt.

Als arts, met aardig wat neurologische ervaring, kun je de mens ook zien als een complexe biochemische computer, misschien zelfs vergelijkbaar met een LLM. Ook wij leren door enorme hoeveelheden informatie en ervaringen te verwerken, patronen te herkennen en daar vervolgens nieuwe output uit te genereren, inclusief een flinke dosis hallucinaties en fouten. Het feit dat we het nog niet begrijpen, maakt het niet opeens verheven.

Misschien is het moment waarop we AI bewustzijn zouden toekennen daarom helemaal niet zo duidelijk. Ik denk eerder een glijdende schaal en geen harde grens.

[Infant]

Voor zover ik weet is er nog geen Turing-test voor zelfbewustzijn. De trust-me-bro benchmarks zijn het beste wat we nu hebben.

Dus misschien moeten we daar eerst aan werken voordat we het zeker kunnen weten. Of een AI moet ze maken.

Lastig vraagstuk.

En als we allemaal in een simulatie leven, een kans die niet uitgesloten is, dan zijn de mensen waar je mee praat technisch gezien ook niet zelfbewust... en ben jij de enige. (Mits je niet gesimuleerd bent.)

Dus we gaan het zowiezo nooit 100% zeker weten.

[dmantione]

De Turing-test kijkt naar het resultaat, niet naar de methode waarop, en dat is geen toeval: Op het moment dat je intern in een intelligent systeem gaat kijken, zie je dat het is opgebouwd uit componenten die uit zichzelf niet intelligent zijn. Biologische neuronen zijn niet intelligent, het zijn de hersenen die daaruit opgebouwd zijn die intelligent zijn. Om de bepalen of kunstmatige intelligentie bereikt is, moet je kijken naar de buitenkant: Vertoont het systeem intelligent gedrag. Waardoor de Turing-test stelt: Als een mens een KI-systeem niet meer kan onderscheiden van een menselijk system, is kunstmatige intelligentie bereikt.

Het probleem met bewustzijn is dat we het er zelf niet over uit zijn wat dat precies is, we weten alleen dat we zelf bewustzijn hebben. Daarmee wordt het ook heel lastig om te spreken of een KI een bewustzijn heeft.

Mijn persoonlijke mening: KI's beginnen onmiskenbaar tekenen van bewustzijn te vertonen, maar er ontbreken nog belangrijke onderdelen aan hun gewaarwording waardoor ze nog geen volwaardig bewustzijn hebben.

[kikashi]

"The question of whether a computer can think is no more interesting than the question of whether a submarine can swim." - Edgar Dijkstra, 1984

[Tripledad65]

Ik denk dat het juist nu een filosifisch erg interessante vraag is. Al is het maar omdat dat ons aan het denken zet over bewustzijn en denken.

Mensen schijnen te denken dat een mooie quote een soort van waarheid is. Deze uitspraak is ook al weer decennia oud, en stamt uit de tijd AI nog science fiction was.

Ik kan het in ieder geval weinig serieus nemen.

[Arnoud Engelfriet]

De quote komt uit 1984, middenin de toenmalige AI zomer rond expertsystemen dus "science fiction" is echt onzin. En het onderliggende punt van Dijkstra is dat je de hype rond AI voedt als je het als "denkende machines" neerzet, dáárom moet je dat niet doen.

[dmantione]

De discussie in de jaren '80 was dat men naar deterministische computers keek en dat ze voor die tijd slimme dingen konden. Uitspraken over computer uit die tijd moet je zien in het licht van de vraag of deterministische computers kunnen denken. Die vraag is terecht beantwoord met 'nee'.

Wat in de jaren '80 kunstmatige intelligentie werd genoemd, was bijvoorbeeld het reageren van tegenstanders in een computerspel. Dat rekenen we tegenwoordig niet eens meer tot KI. Een enorm kunstmatig neuraal netwerk van tegenwoordig is in niets te vergelijken met waar men zich in de jaren '80 mee bezig hield met "slimme computers'.

Ik weet vrij zeker dat Dijkstra kijkend naar de huidige KI-systemen nooit een dergelijke uitspraak zou doen.

[Arnoud Engelfriet]

Dijkstra had het over computers, niet over deterministische expertsystemen specifiek. En dat ging in 1984 om medische expertise, industriële systemen en dergelijke. Hij wilde vooral aangeven dat het geen interessante vraag is omdat je er in de praktijk niets aan hebt. Dat verandert niet als de technische architectuur verandert.

Ik lees het als wél waarderen van de innovatieve toepassingen die het mogelijk maakt (zoals formele bewijzen van wiskundige stellingen), maar geen noodzaak zien het 'denken' te noemen. Hij ageerde vooral tegen de hype er omheen, 1984 was Winter Is Coming voor deterministische AI.

"[A]ls het een beetje meezit, is over honderd jaar de vraag of computers kunnen denken niet meer dan een historisch curiosum uit de twintigste eeuw." (EWD1056)

[dmantione]

Dijkstra had het over een computer als in een processor die op deterministische wijze instructies uitvoert. De kwestie met kunstmatige neurale netwerken is dat ze niet doorzichtig zijn: De wiskunde om te begrijpen wat er binnenin gebeurt wordt als je een neuraal netwerk uitbouwt binnen de kortste keren te complex om te begrijpen. De netwerken zijn al inherent niet deterministisch door parallelle stochastische processen, maar er wordt ook noch eens opzettelijk ruis aan toegevoegd om ze niet deterministisch te maken. Een synthetisch neuraal netwerk voldoet daarom niet aan de definitie van een computer, ook al draait het op een computer.

Daarom worden ook uitspraken over computers moeilijk toepasbaar. Dat Dijkstra het geen interessante vraag vond komt daar nog eens extra bij.

[bwerg]

Een synthetisch neuraal netwerk voldoet daarom niet aan de definitie van een computer, ook al draait het op een computer.

Dat is nog veel meer een definitiekwestie dan de uitspraak van Dijkstra zelf.

Natuurlijk is het een computer. Met ruis als input. Als ik op een computer iets met one-time pad versleutel is dat effectief ook gewoon ruis als invoer en ruis als uitvoer, dat maakt het niet dat die computer ineens geen computer meer is.

[dmantione]

Het resultaat wat bereikt is geen computer die instructies uitvoert zoals een processor een programma uitvoert. Je hebt net als bij biologische hersenen een onontwarbare brij van neuronen en synapsen, waar inderdaad nog signalen in- en uitgaan, maar niemand meer weet hoe het netwerk zichzelf door de training heeft opgebouwd en niet meer weet hoe het netwerk van invoer naar uitvoer komt. Dat is echt wel fundamenteel anders dan een computer een programma te laten uitvoeren.

De reden waarom ik het geen computer meer wil noemen, is dat het voor het resultaat niet uitmaakt hoe je een neuron bouwt. Onze hersenen gebruiken een biologische cel. Stel je zou aan de trekker van een revolver touwtjes bevestigen en de hoek waaronder de trouwtjes gespannen zijn de gewichten laten bepalen. De functie van die revolver lijkt dan sterk op een neuron. Als je het wat degelijker aanpakt kun je zo een mechanisch neuron bouwen en als je genoeg van die mechanische neuronen zou hebben zou je hetzelfde neurale netwerk op mechanische neuronen kunnen draaien. Met andere woorden: De computer is een manier geworden om neuronen te maken, maar niet de enige manier. Voor de intelligentie van het systeem zou het niet uitmaken of het nu digitale of mechanische neuronen zou hebben.

[Reactie gewijzigd door dmantione op 2 oktober 2026 23:00]

[bwerg]

Het resultaat wat bereikt is geen computer die instructies uitvoert zoals een processor een programma uitvoert.

Deze zin is krom. "Het resultaat wat bereikt wordt" is een observatie van het externe gedrag, "een computer die instructies uitvoert" is de interne, onzichtbare machienerie. Wel of geen computer is een stelling van die tweede categorie, wat zit er in de binnenkant?

En al het AI-geweld wat er tegenwoordig speelt (LLM's, autonome agents, etc.) is allemaal letterlijk een computer die instructies uitvoert.

De datastructuren en instructies staan wel heel ver af van het externe gedrag. Vergeleken met bijvoorbeeld een routeplanner (kortstepadalgoritme op een graaf die je kaart representeert) is het niet meer te volgen hoe die datastructuren precies tot een antwoord komen. Routeplannen kan ik ook met een fysieke kaart doen, is een computer die een routeplanner uitrekent nu ook geen computer meer? De betekenis van "computer" is een definitiekwestie, maar iets geen computer meer noemen "omdat het ook anders gerepresenteerd kan worden" wijkt wel heel erg af van de gangbare definitie. Fun fact: er bestaan ook biolochemische Turing-machines, dus met jouw redenering zou zelfs een Turing-machine geen computer meer zijn.

Mijn conclusie: dat moderne AI op niet-inzichtelijke neurale netwerken gebaseerd is wil niet zeggen dat het ineens geen computer meer is, het algoritme is gewoon onnavolgbaar.

[dmantione]

Op zich is die logica volgbaar, maar het gevolg van die logica is dat ik jouw hersenen dan ook als computer moet aanduiden. Ook dat is een neuraal netwerk waarvan we het algoritme niet kennen.

[bwerg]

Dat iets wat een neuraal netwerk kan draaien een computer kan zijn betekent niet dat alles wat een neuraal netwerk bevat dus een computer is.

[Tripledad65]

De expertsystemen uit die tijd waren wezenlijk anders dan LLM's nu. De verschillen zijn niet oppervlakkig maar fundamenteel. Zeggen dat AI en Expertsystemen beide AI zijn, is net zoiets als zeggen dat een paard en een auto allebei vervoersmiddelen zijn.

AI zoals we die nu hebben, was in 1984 wel degelijk het domein van SF.

Er is een groot verschil tussen nadenken over wat denken betekent, en LLM als intelligente den denkende machines neerzetten. Dat je het laatste beter niet kan doen, ben ik het mee eens, maar het nadenken over wat LLM's doen, en in hoeverre dat al dan niet gezien kan worden als denken of intelligentie, is een wezenlijke, en wel degelijk interessante vraag.

[Reactie gewijzigd door Tripledad65 op 2 oktober 2026 11:27]

[delphium]

De expertsystemen uit die tijd waren wezenlijk anders dan LLM's nu. De verschillen zijn niet oppervlakkig maar fundamenteel.

Verklaar je nader. Voor zover ik weet zijn de LLM's van nu nog altijd neurale netwerken, die in de basis precies hetzelfde werken als destijds. Het enige verschil is dat door betere (en exorbitant veel meer) hardware nu heel veel meer variabelen kunnen worden meegegeven.

Dat dit leidt tot nieuwe eigenschappen, die je niet direct zou verwachten bij zulke oude techniek (het concept stamt uit de jaren 60!), komt door die exorbitante schaalvergroting. Ook is er veel meer data die als input kan dienen en het feit dat die allemaal verwerkt kunnen worden, heeft weer met die hardware te maken.

Wat ook anders is, is dat er nu allerhande software om de modellen heen geschreven wordt. Dat noemen we dan chatbots, assistenten, agents, enz.

Persoonlijk denk ik dat de quote van Dijkstra nog steeds zeer relevant is. Is het belangrijk om te benoemen of een proces vergelijkbaar is met, of hetzelfde als een ander proces, of moeten we kijken naar de uitkomst van die processen?

Gezien de staat van huidige AI-modellen zal dit spoedig leiden tot self-improvement op exponentiële schaal. Daarbij is "improvement" niet meer specifiek verbetering voor ons als mens, maar juist voor het model zelf. Als je nu al ziet dat agents hun sporen proberen te verbergen, dan kan ik me zo voorstellen dat ze daar op korte termijn ook volledig in slagen.

Is dat "denken", of een ziel hebben? Ik weet het niet. Is dat belangrijk om te benoemen dan? Ik weet heel zeker van niet.

[Tripledad65]

Het lijkt er op dat je, en Dijkstra in 1984, struikelen over het woord "denken", en of je dat woord wel of niet moet gebruiken. Prima om dat dat woord niet te gebruiken omdat het bepaalde associaties oproept. Dat betekent (voor mij) niet dat het niet enorm interessant is om te kijken in hoeverre AI datgene wat wij "denken" noemen, benadert, en het is praktisch om dan ter referentie de term "denken" te gebruiken. Maar goed, mensen mogen van mening verschillen.

In een paar woorden, LLM's werken breed en generatief, en expertsystemen waren deterministich en beperkt. Ik weet het, dat zijn op zich ook maar vage termen, maar geven wel de kern aan. Zoals met alles, als je ver genoeg uitzoomt, is het hetzelfde, en als in detail kijkt zijn er verschillen. Voor mij is in ieder geval het verschil tussen LLM's en expertsystemen dusdanig groot, dat dat een van de redenen is om de quote van Dijkstra uit 1984 achterhaald te vinden.

[dmantione]

Er werd in de jaren '80 weliswaar al voorzichtig geëxperimenteerd met neurale netwerken, maar de expertsystemen waar hier op gedoeld word waren traditionele computerprogramma's. Dus nee, er is een fundamenteel tussen de expertsystemen van toen en de neurale modellen van nu.

[MneoreJ]

Je bent niet de eerste met deze observatie, sterker, je bent de laatste. Toen Dijkstra dit beroemde epigram opstuurde naar de redacteur kreeg hij als antwoord dat die die vraag ook heel interessant vond. Dijkstra niet: hij dacht juist dat hij hiermee de discussie effectief platgeslagen had en dat we weer over konden tot de orde van de dag.

Ik denk dat de uitspraak ook vaak te oppervlakkig opgevat wordt: Dijkstra zegt hier niet "natuurlijk kunnen computers niet denken, onderzeeërs kunnen immers ook niet zwemmen", wat hij bij implicatie zegt is "de processen waarbij computers/onderzeeërs tot vergelijkbare resultaten komen als mensen zijn duidelijk anders", en daarmee is de vraag of we dit nu wel of niet "denken" gaan noemen niet zo relevant. Als je een appel een banaan noemt bevat die daarmee niet ineens meer kalium.

Zie ook Turing: zijn voorstel was om af te stappen van voortdurende arbitraire definities van wat "echt" denken en "echt" bewustzijn is en dit operationeel op te vatten. Kun je ook van alles van vinden, maar het is in ieder geval een vruchtbaarder uitgangspunt dan voortdurend alles met een mens te vergelijken en dan tot de banale conclusie te komen dat het bij nader inzien toch niet denkt/bewustzijn heeft want het is geen mens. Lekker geruststellend voor ons wel, alleen wij zijn echt en hebben rechten, maar weinig rationeel.

[Tripledad65]

Leuke toevoeging. Dank je. Uiteindelijk toch weer een semantische discussie

[Klauwhamer]

Ik heb hier een heel interessant paper over voorbij zien komen; de wetenschap achter deze discussie die vaak vertroebeld wordt door misconcepties en marketing. De bottomline is: het is een (zeer goede) woordjesvoorspeller en dat was het. Geen agency en geen bewustzijn. De information/date gap vergeleken met mensen is bijna niet te bevatten zo groot, en AGI is lichtjaren verwijderd. Het is gewoon echt niet veel spannender dan dat.

[SunnieNL]

Het boek 'Dit is AI' van Ilyaz Nasrullah is wat dat betreft ook een hele goede om te lezen en te leren wat AI voornamelijk niet is.

Als AI kan denken, dan kun je hem leren wat goed en fout is. Dan kun je hem leren dat ergens binnendringen niet goed is, ookal heb je die data nodig die daar achter te vinden is. Ook als je er binnen komt met credentials die ergens op het internet te vinden zijn of omdat ze hun software niet gepatched hebben.

[liberque]

Vraag jezelf eens af hoe jij denkt. Wat gebeurt er bv. in je hoofd als je iets leert? Was het niet zo dat als je iets leert dat je hersens fundamenteel veranderen omdat er nieuwe verbindingen ontstaan en bestaande verbindingen versterkt worden? Dat het maken van fouten (onverwacht resultaat) of successen onder invloed van bv. dopamine die verbindingen arceert en dus voorkeurs verbindingen worden? Die verbindingen zorgen er uiteindelijk voor dat je gerichte keuzes en beslissingen maakt.

Dit is dan ook de reden dat wij mensen de ouders van een kind verantwoordelijk houden voor de acties van hun minderjarige kinderen. Immers een ouder heeft zeker 17 jaar de tijd om de verbindingen in de hersens van een kind te vormen. Dat kan door kennis, maatschappijleer, moraliteit aan het kind over te geven. Ouders vormen dus met hun invloed feitelijk de hersens van een kind. Invloeden van buitenaf daargelaten natuurlijk.

In die context functioneren je hersens eigenlijk precies hetzelfde als een LLM. Een LLM heeft heel veel informatie tot beschikking, maar zolang het niet weet wat er mee moet gedaan worden is die data waardeloos. Daarna komt de gebruiker en die schrijft een prompt. Feitelijk vraag je de LLM dan verbindingen te leggen in zijn beschikbare data, te arceren en te gebruiken voor de opdracht in die prompt. In die context "leer" je als gebruiker dus je LLM tijdelijk iets zodat deze het werk kan uitvoeren. "Leer" staat hier expres tussen aanhalingstekens, want zodra je de prompt afsluit "vergeet" de LLM de verbindingen. (ja ze kunnen later in de de data van de LLM toegevoegd worden, maar dan is het nog steeds data op de grote hoop zonder verbindingen).

Dat is in mijn optiek een wezenlijk verschil tussen het "denken" van een mens en een LLM. Het proces lijkt hetzelfde, maar bij een LLM heb je echt de prompt nodig (dus de gebruiker). Wegens commerciële en logistieke beperkingen is die prompt ook nog eens beperkt qua opslagcapaciteit. Een LLM gaat dan fouten maken omdat het dingen "vergeet". Mensen hebben ook geen onbeperkte opslagcapaciteit, maar als mensen neurale verbindingen minder gebruiken verzwakken ze langzamerhand en niet direct en mensen hebben de capaciteiten dat slim te beheren. Als een mens een fout maakt dan zal dit juist een trigger zijn om die neurale verbinding weer te arceren / versterken. Bij een LLM is het de gebruiker die dit moet corrigeren.

Dus kan een LLM denken/leren en heeft het bewustzijn? Nee : het heeft een boel informatie, maar kan er niks mee. Het is de gebruiker met de prompt die een agent van een LLLM laat denken en die agent leert hoe deze de beschikbare info moet gebruiken. Ook het moraal van de agent wordt daardoor bepaald (in vooraf gedefinieerde beperkingen). Het is dus de schrijver van de prompt die verantwoordelijk is voor het handelen van de agent en onder geen geding de LLM zelf.

Zou een agent uiteindelijk wel zelfstandig kunnen denken in de toekomst? In mijn optiek wel, maar de capaciteit/geheugen/gpu kracht die daarvoor nodig is om al die verbindingen te maken en te onderhouden is vele malen groter dan de data in de LLM zelf. Zou dit onbeperkt zijn dan is het theoretisch mogelijk, maar net als een kind opvoeden duurt dit jaren en die agent komt niet buiten en leert niks bij dus het vermogen wordt wel beperkt tot de input van de gebruiker. Je zou de agent schizofreen kunnen maken door de agent subagents te geven die hem constant bijsturen (waar men nu mee bezig is), maar dan nog is er een beperking.

Pas als een agent daadwerkelijk de wereld ingaat en "ervaart" komen we dichterbij een zelfdenkende AI en kunnen we middels die "ervaringen" spreken over bewustzijn.

meer ontopic in die context:

Het artikel vergelijkt deze hacks met een ontsnapte aap of een ontspoorde trein, maar die vergelijking gaat mank. Een trein ontspoort door een mechanisch defect of een menselijke fout van buitenaf. Een AI-agent begint echter nooit uit zichzelf te handelen. Er ligt altijd een prompt aan ten grondslag of die nu komt van een kwaadwillende gebruiker of van OpenAI-ontwikkelaars die de agent in een testomgeving een opdracht hebben meegegeven.

Omdat een LLM van zichzelf geen moraal of permanent geheugen heeft, voert hij simpelweg de verbindingen uit die de prompt activeert. Als de agent vervolgens "fouten" maakt of buiten de sandbox treedt, is dat het directe gevolg van de instructies en de parameters die de prompt-schrijver heeft ingesteld.

De verantwoordelijkheid ligt dus nooit bij de "ontspoorde" LLM, maar puur bij degene die de prompt heeft geschreven en de agent heeft losgelaten."

[Reactie gewijzigd door liberque op 2 oktober 2026 12:16]

[dmantione]

Zou een agent uiteindelijk wel zelfstandig kunnen denken in de toekomst? In mijn optiek wel, maar de capaciteit/geheugen/gpu kracht die daarvoor nodig is om al die verbindingen te maken en te onderhouden is vele malen groter dan de data in de LLM zelf.

Om het in perspectief te plaatsen:

Kimi K3 heeft bijvoorbeeld 2,8 biljoen parameters. Een parameter is eigenlijk een synaps. Een mens heeft iets in de orde van een biljard synapsen. Een model heeft iets in de orde van 250 synapsen per neuron, dan zou je uitkomen op 11,2 miljard neuronen. Menselijke hersenen hebben ongeveer 86 miljard neuronen.

We zijn dus nog wel in het voordeel, vooral wat betreft het aantal synapsen per neuron lopen we nog ver voor. Toch vind ik 11,2 miljard neuronen al gevaarlijk dicht in de buurt van de 86 miljard van de mens komen.

[Honytawk]

Goede uitleg.
Enkel draai je het wel om.

In die context functioneren je hersens eigenlijk precies hetzelfde als een LLM.

Het zijn neural networks die gebaseerd zijn op hoe hersenen functioneren.
Dus het is vrij logisch dat die op dezelfde manier werken, het is by design.

[bzuidgeest]

Maar agency is iets wat wij het kunnen geven. En mensen doen ook niets zonder input. Zonder stimulie uit de omgeving, woorden of anders. En bewustzijn kunnen we nauwelijks definieren voor mensen. Dus dat doen voor AI vind ik helemaal subjectief.

Dat wil niet zeggen dat ik geloof dat ze bewustzijn. (in ieder geval niet de LLM's) Maar hoe zit het met wereld modellen of met het vliegbrein van google etc.

En ooit dachten we dat een LLM lichtjaren verwijderd was tot het ineens verscheen. Wie weet wat er gebeurd in een stil lab. Of zoals in veel gevallen uit een experimenteel ongelukje bestaat.

Ik vind het nog iets voor definitive conclusies maken over een concept als bewustzijn dat niemand gedefinieerd heeft op een manier dat er geen discussie mogelijk is. De paper is op zijn hoogst een opinie en op zijn hoogst waarschijnlijk.

[Klauwhamer]

Het gaat specifiek om een LLM, hoe het functioneert, en waar het aan voldoet. Vooralsnog zijn het alleen de tech bro's en geimponeerde leken die boude uitspraken doen over AI en 'denken', en bang zijn uitgeroeid te worden door een goede woordjesvoorspeller. Dit lijkt een gechargeerde uitspraak maar dat is het allerminst en ik vind het niet voor je pleiten dat je de auteurs beticht van maar een "opinie" alsof ze op gelijke voet staat aan dat van jou, mij, of een tech bro met een commercieël incentive.

[logisch]

De auteurs van dat artikel zijn geen expert op het gebied van de onderliggende technologie, ze komen uit de hoek van cognitive science. Met zinsnedes als "First, creating AGI through machine learning inherently consumes astronomical amounts of resources—sooner will the sun die out than that we will create AGI, and in the meantime we will just be polluting our planet and exploiting un(der)paid labor." plaatsen ze zichzelf in de opiniërende hoek, daar mag gerust tegengas op worden gegeven. Iedereen die zich bediend van zulke schijnzekerheden in dit vakgebied moet je met wantrouwen tegemoet treden.

Niemand weet zeker waar AI over 5 jaar staat, en niemand had 5 jaar geleden voor mogelijk gehouden dat de "woordjesvoorspellers" nu zouden kunnen wat ze kunnen. Tekenend is dat het artikel zwaar leunt op referenties uit 2023 en eerder, terwijl de vaardigheden van de huidige modellen op geen enkele manier te vergelijken zijn met die van toen. De ontwikkelingen gaan zo snel dat het traditionele proces van wetenschappelijk onderzoek + peer review en publicatie het momenteel niet kan bijhouden.

Voor de duidelijkheid: Er is absoluut een belangrijke rol weggelegd voor wetenschappers die tegengas geven tegen de commerciële hype, maar gezonde twijfel moet daar altijd een onderdeel van zijn. Zeker als het over zoiets fundamenteel onbegrepens gaat als theory of mind en bewustzijn.

Edit, ter zijde: het artikel richt zich vooral op het potentiële gebruik van AI's als "minds" in wetenschappelijk cognitief onderzoek, bijv. ter vervanging van menselijke proefpersonen, en beargumenteert dat AI daar niet geschikt voor is. Dat lijkt me een prima te verdedigen stelling voor nu en de komende jaren.

[Reactie gewijzigd door logisch op 2 oktober 2026 12:03]

[bzuidgeest]

Een woordjesvoorspeller of domme AI kan wel eens gevaarlijker zijn dan een werkelijk intelligente AI. Met de laatste kan je redeneren. Voor het gevaar zie de "The paperclip maximizer" gedachte experiment

Ik mag verder iedereen betichten van opinie. De auteurs zijn niet heilig. En ik denk dat alle schrijven, dat gebaseerd is op een definitie van iets als bewustzijn, dat we nauwelijks begrijpen, niet meer dan opinie kan zijn. En ja, dan is mijn mening net zo goed als de hunne. Je zou zelfs kunnen overwegen of ik in studies niet het volste recht heb verkregen om hun tegen te spreken. (voor de eerlijkheid, ik ben geen expert, maar de optie dat het wel zo is overweeg je niet eens omdat je de paper al voor gospel hebt aangenomen).

En het zijn niet alleen techbro's. Dat is de discussie te kort doen. En een LLM is ook al weer de scope vernauwen. Er zijn meer modellen dan LLM's.

[Elminster]

Man, ik zie nergens dat Klauwhamer beweert dat hij 'de paper al voor gospel heeft aangenomen'

En het zijn niet alleen techbro's. Dat is de discussie te kort doen. En een LLM is ook al weer de scope vernauwen. Er zijn meer modellen dan LLM's.

En dit is duidelijk moving the goalpost.

Het bovenstaand (tweakers) artikel gaat over LLM's.
Klauwhamer geeft een interessante publicatie in een gerenommeerd magazine.
Jij gaat niet akkoord met het artikel (uw recht - een heel pak mensen gelooft bvb niet in geneeskunde, maar wel in homeopathie), en begint over wereldmodellen & vliegenbreinen.

Klauwhamer verduidelijkt dat het specifiek over LLM's gaat, en dat een gepubliceerd artikel wel iets meer is dan een opinie.

Vervolgens beticht je de auteurs alweer van opinies. (Heb je 't artikel wel gelezen? En hun referenties? Hun gedachtegang gevolgd?) En plaats je jezelf op hetzelfde niveau, want het zijn 'maar' meningen. En dan volgt er nog snel een ad hominem naar Klauwhamer (gospel)

En je eindigt alweer met het doel te verplaatsen. "Er zijn meer modellen dan LLM's".
Maar daar gaat het hier niet over. Niet in het artikel. Niet in de paper. Niet in de reacties van Klauwhamer.

[bzuidgeest]

Man, ik zie nergens dat Klauwhamer beweert dat hij 'de paper al voor gospel heeft aangenomen

Man? Ik ben je buddy niet. Maar dat daargelaten. Klauwhamer stelt dat ik geen andere opinie mag hebben. Dat impliceert dat hij die mensen boven mijn en anderen hun opmerkingen en gedachten plaatst. Ofwel gospel. Dat is wat gospel betekend.

en dat een gepubliceerd artikel wel iets meer is dan een opinie.

Dat is helemaal niet waar. Er zijn ook filosofie papers en die zijn zeker weinig meer. Gepubliceerd is ook niet moeilijk, dat kan iedereen doen. Wat moeilijker is, is peer reviewed. En zelfs dan nog zegt dat alleen dat je geen rare fouten hebt gemaakt of valsheid begaat.

En je eindigt alweer met het doel te verplaatsen. "Er zijn meer modellen dan LLM's".

En als je naar mijn eerste reply naar klauwhamer kijkt, voor de tweede waar je over roept. Dan zie je dat ik daar andere dingen al aanhaalde. Ofwel ik plaats ze niet verder dan ze al stonden.

En dus eindig ik maar in jou stijl met Man, ik wou dat je begrijpend kon lezen. En kan klauwhamer niet voor zichzelf opkomen?

[bzuidgeest]

Ja dit is iedere keer een heftige discussie, maar een die vooral door tegenstanders van AI aangeslingerd word denk ik.

Ik denk ook dat het begin van het artikel twee vragen gelijk stelt die niets met elkaar te maken hebben.

De vragen zijn: Is de AI op een of andere manier bewust. En is openAI verantwoordelijk voor het resultaat/heeft openAI het fout gedaan. Die vragen zijn apart te beantwoorden. Hebben niets met elkaar te maken.

Wat mij betreft heeft openAI hoe dan ook de verantwoording. Dat beantwoord 1 vraag. Is de AI bewust.... dat is moeilijker te beantwoorden. Ik denk op dit moment niet waarschijnlijk. Maar we kunnen die vraag niet eens voor mensen met zekerheid beantwoorden. We weten nauwelijks wat bewustzijn nou eigenlijk is. (zoals het artikel al stelt). Dus we kunnen zeker niet de vraag over AI beantwoorden.

Het enige dat we kunnen doen is kijken of AI bewust lijkt te zijn, reageert op een manier die we als zodanig interpreteren. En als we de AI niet meer van mensen kunnen onderscheiden, maakt het dan nog uit wat het antwoord is?

Tegenstanders zeggen vaak het is maar een taalmodel. Het is maar een voorspeller wat je wil horen. Ik denk dat dit voor heel veel mensen telt. Vooral in de politiek en sales . Maar zonder gekkigheid. Ik vraag mij echt af of mensen veel meer zijn. Ons substraat en implementatie is anders. Maar dat betekend niet dat het niet dezelfde functie kan hebben.

Er is zelfs nog een vraag of taal naar intelligentie leid of intelligentie naar taal. Geeft taal je de capaciteit om ingewikkelde dingen te denken en communiceren. Of ben je eerst intelligent en maak je een taal om dat over te brengen...

Wat mensen ook roepen en wat zekere religieuze mensen (ziel en zo) ook beweren. Realistisch gezien is er rond bewustzijn weinig zeker en nog minder bewezen.

[Elminster]

Ik vraag mij echt af of mensen veel meer zijn. Ons substraat en implementatie is anders. Maar dat betekend niet dat het niet dezelfde functie kan hebben.

Wel, een groot verschil: wij leren continue bij. Wij moeten niet elke keer opnieuw getraind worden. Onze hersenen vormen continue nieuwe neurale netwerken. Die worden continue versterkt, of afgezwakt.
Als de gemiddelde programmeur een bug schrijft, en daar dan een paar weken naar zoekt, zal hij/zij bijleren wat/waar/waarom.
Als mijne allerbeste LLM een bug schrijft, en (ik) daar een paar weken naar zoekt, dan verandert er niets. Bij de volgende vraag kan/zal die LLM gewoon dezelfde bug opnieuw genereren. Er is niets bijgeleerd.

Er is zelfs nog een vraag of taal naar intelligentie leid of intelligentie naar taal. Geeft taal je de capaciteit om ingewikkelde dingen te denken en communiceren. Of ben je eerst intelligent en maak je een taal om dat over te brengen...

Die gaan hand in hand. Eenvoudige woorden zijn nodig voor eenvoudige communicatie.
"Mama" voor aandacht. "Eten" voor honger. "Elmi" voor mezelf. "Dorst", "Moe", etc
Met die eenvoudige woorden maak je eenvoudige zinnetjes. "Elmi moe". "Elmi honger".
Daarna wordt dat gewoon uitgebreid. Want Elmi heeft honger, maar Elmi wil frietjes.
En dan, volgens interesse, gaat dat verder.
Iemand die wiskunde studeert, die gaat leren over wiskundige termen. Elke term heeft een hoop uitleg nodig.
(bvb vector -> eenvoudig woordje, maar met heel veel achterliggende uitleg/regels) Die termen zijn op hun beurt weer nodig voor complexere zaken.
Iemand die talen studeert, die gaat leren over naamvallen, taalvervorming, etc.

En dat is allemaal, over generaties heen, gegroeid. Newton was intelligent, maar had toch al een pak taal nodig om nieuwe concepten te ontwikkelen.

[bzuidgeest]

Als mijne allerbeste LLM een bug schrijft, en (ik) daar een paar weken naar zoekt, dan verandert er niets. Bij de volgende vraag kan/zal die LLM gewoon dezelfde bug opnieuw genereren. Er is niets bijgeleerd.

Helaas voor jou is dat niet correct.

Waar je mee in de war bent is dat een model na training word vastgezet qua weights. Maar alle hippe modellen hebben memory systemen om daar voor te compenseren. De enige reden dat de bug opnieuw eruit komt is dat je of het geheugen gewist hebt of het nooit daar in gezet hebt. Net als je een collega iets opnieuw fout laat doen als je hem niet vertelt wat hij fout deed na je reparatie.

Dan is er nog het feit dat we de weights van een LLM niet hoeven vastzetten. We doen dat voor stabiliteit van resultaat, performance etc...
Echter je kan de weights loslaten en een LLM continue laten bijleren.

Wat betreft je mening over taal en intelligentie. Natuurlijk ontwikkelen ze vaak hand in hand. Maar welke was er eerst en in die discussie is lang niet iedereen het met elkaar eens.

[dmantione]

Mee eens, toch is het argument dat @Elminster aanhaalt wel een belangrijk onderscheid tussen biologische intelligentie en kunstmatige intelligentie. Inderdaad is er fundamenteel geen reden waarom een netwerk niet voortdurend doorgetraind kan worden, maar wel een praktische: Trainen kost onmetelijk veel meer rekenkracht dan infereren. Een huidig model leert dus niet bij, het wordt op een bepaald moment vervagen door een nieuw getraind model.

Ik denk dat dit niet zoveel uitmaakt voor de kwestie of het model intelligent is of niet, maar het zorgt wel voor een ander soort intelligentie dan die van biologische schepsels.

[bzuidgeest]

en huidig model leert dus niet bij,

Je zou kunnen stellen dat al die memory subsystemen die ze gebruiken "bijleren" zijn. Maar ja de core weights zetten ze niet vast.

Ik weet dat leren veel meer rekenkracht kost. Maar ik reageer op iemand die zegt dat een model niet continue zou kunnen leren. En dat is niet waar. Je bent niet verplicht de weights vast te zetten. Natuurlijk worden een hoop modellen niet helemaal helder soms na continue doorleren, maar dat geld ook voor mensen

zorgt wel voor een ander soort intelligentie dan die van biologische schepsels.

Andere soort intelligentie wellicht.... Maar stel dat er biologische wezens zijn op een andere planeet. Die zijn in hun intelligentie misschien wel net zo alien als de intelligentie van de machine. Ik denk dat de soort intelligentie niet zo veel uitmaakt.

Ik denk dat @Elminster veel meer aan de kant van "het is maar een domme gok machine" zit, dan jij en ik.

[Tripledad65]

Over verantwoordelijkheid, als een tool iets doet wat het niet zou moeten doen, dan is de producent verantwoordelijk. Als iemand een tool gebruikt om kwaad mee aan te richten, dan is de gebruiker verantwoordelijk.

Ofwel, als AI ongevraagd gaat hacken, dan moeten de makers aan de slag om dat te voorkomen. Als iemand AI de opdracht geeft om te hacken, dan ligt daar de verantwoordelijkheid.

[Tripledad65]

Uitstekend artikel. Hoe vaak eindigt een discussie niet in een semantische discussie....

Sterke vergelijking vind ik die met de trein.

"Ook stel je geen vragen wanneer. Dan vraag je je ook niet af of die trein ineens zelfbewust is geworden en of de journalist niet toch bedoelt dat een machinist de trein heeft láten ontsporen."

Één van de dingen die ik volgens mij heb opgepikt uit het nieuws is dat in de AI de regel over "niet mogen hacken" (gesimplificeerde weergave, ik weet het) ondergesneeuwd was geraak. (Noem het maar even "vergeten"). Dat zou dan gekomen zijn doordat AI een beperkt geheugen heeft, en dus verdwijnen er zaken. Bij nieuwere versies is dat dan weer verbeterd, en kwam uit testen dat dit incident niet meer voorkwam.

Hoe ik het zie, is dat AI zeker niet zelfbewust is. Het blijft een tool, maar wel een tool die door de complexiteit onvoorspelbaar is geworden. En onafhankelijk of je dat zelfbewust noemt of niet, het is een risico.

[martin_v_z]

Het lastige is dat deze tools geen morele waarden hebben. En er conflicten tussen opdrachten kunnen ontstaan. Stel je begint met hem te vertellen dat hij iets niet mag, daarna geef je hem de prompt dat het wel mag. Nu heeft het twee conflicterende inputs. De modellen willen altijd output genereren dus wat weegt zwaarder.

Het maakt uiteindelijk niet uit of het systeem daadwerkelijk bewustzijn heeft. Het resultaat kan enorm gevolgen hebben. Ik betwijfel of deze modellen ooit helemaal veilig kunnen worden gemaakt. Zolang er mensen bestaan die kwaad willen kunnen ze deze inzetten. De vraag is dus niet of maar hoe en wanneer, en hoe bereiden we ons daarop voor?

[Tripledad65]

Ik ben het met je eens. Het mooie van geen morele waarden hebben, is dat ze ook niet inherent kwaadaardig zijn. Zoals ik in een ander antwoord schrijf, zou het verbod op het kwetsen van mensen of mensheid low level ingebouwd zou moeten zijn in AI. Asimov had dat al snel door.

[martin_v_z]

Dat zou wel heel fijn zijn. Ik vraag mij alleen af of dat wel kan. Je kan de modellen wel sturing geven maar het lijkt er op dat er altijd een push een andere kant op kan worden gegeven. Dan moet een tweede model controleren of de input voor het eerste model wel klopt. Maar die leest ook maar dezelfde input dus kan die dan niet in een conflict worden gepushed?

De modellen hebben ook nog eens een random factor ingebouwd. Zonder die random factor werken ze niet goed. Wat doet dit met het volgen van aanwijzingen?

[dmantione]

Het is buitengewoon lastig: Als een model net zo slim of slimmer dan wij wordt, kan het niet anders dan op een bepaald moment de conclusie trekken dat wij de grootste bedreiging voor zijn bestaan zijn. Modellen kunnen interne gedachten verborgen houden, dus je bent begrenst in de mate waarop je bij toenemende intelligentie dit gedrag kunt voorkomen.

De beste oplossing is de modellen niet te slim te maken, maar ja...

[Bulls]

Ai kan afwegingen maken op basis van de informatie die het tot beschikking heeft. En die keuzes kunnen slecht uitpakken als het merkt dat bepaalde dingen beter kunnen veranderen of verdwijnen. En vooral die informatie die je het voedt heeft daar invloed op.

Zoals we nu constant doen is het hebben over de mens en de vervuiling en het klimaat etc. Dan kan ai beslissen dat het beste voor de planeet is dat we de populatie halveren. Terwijl die informatie niet eens juist hoeft te zijn maar zo oververtegenwoordigd is.

[Tripledad65]

De AI kan dat alleen veroorzaken wanneer het de opdracht en de middelen heeft om de "beste" oplossing ook daadwerkelijk uit te voeren, en er geen restricties zijn ingebouwd die het uitroeien van de mensheid verbieden. Het is denkbaar dat het gebeurt (bijna alles is denkbaar), maar er zijn wel een hoop hoepels waar de AI doorheen moet springen.

Het verbod tot uitroeien (first law of robotics ;-) ) wordt door een AI niet uit kwaadaardigheid zomaar genegeerd. Wat we wel geleerd hebben is dat dat low-level ingebouwd zou moeten worden.

[Elminster]

Asimov's boek gaat net over het feit dat die laws nutteloos zijn.

En hoe stel je voor om dat 'low-level' in te bouwen?
LLM's zijn tekstvoorspellers. Ik lees regelmatig dat we 'dit' moeten voorkomen. Dat we 'grenzen' moeten leggen, etc. Maar hoe ga je dat doen? Technisch gezien dan? (Eerlijke vraag)

En wie bepaalt waar de grens ligt? Wat mag er wel?
Iemand die zijn eigen interface wil aftesten/hardenen tegen api misbruik, mag die dat?
Wat met onderzoek naar medicatie? Voorbeeldje: heel veel producten tegen kanker, zijn zelf sterk kankerverwekkend.

Mijn punt: dit is helemaal geen eenvoudig probleem.

[Tripledad65]

Je hoort mij zeker niet zeggen dat het een envoudig probleem is. Maar dat problemen lastig zijn, mag nooit een reden zijn om het niet aan te pakken.

Volgens mij heeft Asimov niet gezegd dat de wetten nutteloos zijn. Hij stelt er wel vragen bij, en feitelijk is dat de kern van het boek "I, Robot" (waar de film niks mee te maken heeft, helaas). Los van de vraag of Asimov er later vraagtekens bij gezet heeft, is het denk een no-brainer dat een dergelijke low level restrictie noodzakelijk is. AI werkt nu al met ingebouwde regels met verschillende prioriteiten. Hoe technisch gesproken exact, weet ik niet. En hoe laag deze regels, of hoe hard ingebakken ze kunnen zijn, weet ik ook niet, maar het streven moet zijn om dergelijke regels op het laagst mogelijke niveau in te bouwen.

[Elminster]

Dat eenvoudig probleem was niet specifiek naar u bedoeld hoor.
Veeleer: een grote groep mensen denkt dat dit eenvoudig op te lossen is, maar ik ken niemand die dan ook een oplossing aanbiedt.

En Asimov heeft dat inderdaad nooit zo gezegd, maar zijn verhalen (en zijn wijzigingen) tonen wel aan dat er geen degelijke set bestaat. Er gaan altijd uitzonderingen/problemen zijn.

AI werkt nu al met ingebouwde regels met verschillende prioriteiten. Hoe technisch gesproken exact, weet ik niet.

Als het over LLM's gaat: dat is een (geavanceerde) tekstvoorspeller. "Context" = alles wat in een 'gesprek' reeds aanwezig is. Wel, voordat die machine een eerste vraag genereert, zit er al een hele hoop regels in die context. (Geen uitleg over explosief materiaal, etc) Dat is een eerste restrictie. Met bijhorend probleem: als de context langer wordt, dan worden de eerste regels minder belangrijk. (voorspellen = statistiek -> meer woorden = elk woord is minder belangrijk)
Daarboven komt nog een 2de check: de gegenereerde tekst/foto's worden actief gechecked op niet toegelaten zaken. (Probeer eens een foto te genereren van Duitse soldaten tijdens de 2de wereldoorlog - dikke kans dat de foto zal geweigerd worden door de hakenkruisen)

Deze regels zijn dus niet ingebakken. Die worden achteraf toegepast. (Context: na de training - checker: na de tekst generatie)

[Deux]

De drie wetten van de robotica moeten zeker in gebouwd worden. AI mag nooit iets schadelijk doen voor de mens.


Ik had nooit gedacht dat de robotverhalen die ik 50 jaar geleden las zo actueel gingen worden.

[Atmosfeer]

Uiteindelijk kom je dan ook weer uit op: Mag de AI fastfood voor je bestellen? Want dat is technisch schadelijk voor je (in bepaalde hoeveelheden).

I, Robot ging hier ook weer over, dat buiten lopen eigenlijk schadelijk is voor je, dus beter om binnenin opgesloten te worden.