AI denkt dingen die het nooit zegt: is dat bewustzijn?

sdcd

AI-modellen zijn geen levende wezens, maar soms doen ze wel dingen die verdacht menselijk aanvoelen. Claude Opus 4.6 blijkt bijvoorbeeld een soort mentaal kladblok te hebben, waarin woorden, associaties en tussenstappen oplichten die niet in het antwoord terechtkomen. Dat roept een onvermijdelijke vraag op: als een AI-model dingen voor zichzelf houdt, is dat dan een vorm van bewustzijn?

Veel mensen weten natuurlijk best dat een AI-model geen levend wezen is, maar doen wel net alsof een AI-chatbot een mens is. Sommige mensen gaan er relaties mee aan of vervangen menselijk contact door AI-gesprekken. En, zo bleek een aantal jaar geleden, deden zelfs Google-medewerkers dat met AI-systemen die op een veel lager niveau functioneerden dan nu.

Het toewijzen van menselijke eigenschappen aan niet-mensen is zo oud als de weg naar Rome. Het is makkelijk om in een wolk of een inktvlek een menselijk gezicht te zien. Dat vertaalt zich ook naar technologie. Een printer die niet werkt, heeft uiteráárd een eigen wil en is erop uit om onze dag te vergallen. Bij AI ligt dit nóg meer voor de hand. Waar veel printers weinig empathisch reageren op onze frustratie, is dat bij AI-chatbots anders. Het voelt net alsof AI-modellen iets voelen en ervaren.

Daarom moeten we voorzichtig zijn met het toeschrijven van kenmerken van levende wezens aan AI. Ze zijn niet geboren, hebben geen levenservaringen opgedaan en zullen ook niet sterven zoals wij dat doen. Toch zijn er wel overeenkomsten, en dit is er een: AI-modellen kunnen denken en redeneren en dat vervolgens níet aan ons vertellen. Het model 'denkt' allemaal letters, woorden, punten, komma's en zinnen, en houdt die voor zichzelf.

Het mentale kladblok van een AI-model: de J-ruimte

Anthropic J-ruimte: introspectie

De J-ruimte, of J-space in het Engels, is een ontdekking van Anthropic, bekend van Claude. Claude Opus 4.6, en misschien dus ook andere AI-modellen, bleek een mentale werkruimte te hebben. Daarin lichten woorden op die tussenstappen vormen op weg naar het antwoord of te maken hebben met de prompt of het antwoord. Als Anthropic de J-ruimte deactiveerde, kon Claude alleen nog basale antwoorden geven. De J-ruimte maakt dus complexere antwoorden mogelijk. Die J-ruimte zat voorheen niet in AI-modellen: deze is relatief nieuw en misschien ontstaan toen AI-modellen leerden redeneren in meer stappen.

Zo vroeg Anthropic het model bijvoorbeeld om een meervoudige rekensom te maken. In de J-ruimte verschenen de uitkomsten van de tussenstappen. Als in de prompt stond 'denk aan de Golden Gate Bridge' zonder dat het iets met het antwoord op de vraag te maken had, verschenen in de J-ruimte woorden die het model daarmee associeert.

Daar bleef het niet bij, want Claude Opus bleek de J-ruimte ook te gebruiken om conclusies te trekken over de prompt óf het eigen antwoord. Als Opus een test kreeg, verscheen in de J-ruimte het woord 'test' en hield het daar rekening mee in het antwoord. Als het nepdata genereerde, verschenen in de J-ruimte woorden als 'misleiding' en 'nep'.

Anthropic J-ruimte: fake

Waarom de J-ruimte bestaat

De J-ruimte is genoemd naar de J-lens. Deze is bedoeld om tussenstappen in het neurale netwerk te vertalen naar woorden. Daarbij kijken de onderzoekers van Anthropic naar activiteit in de tussenlagen. De J-lens vertaalt die activiteit naar woorden. Dat is dus wezenlijk anders dan kijken naar de output of de 'redeneerstappen' die AI-modellen weleens in beeld zetten.

Eenvoudig neuraal netwerk: er zitten in werkelijkheid veel meer lagen tussen input en output.

De J-ruimte zit niet bewust in een AI-model. Deze ontstaat vanzelf, vermoedelijk door de training en posttraining. Om te redeneren in meerdere stappen is de J-ruimte nodig, omdat anders alle tussenstappen in beeld komen. Het lijkt er dus op dat het gaat om een vaardigheid die AI-modellen ontwikkelen, omdat de training erop gericht is om te redeneren in stappen.

Het idee van de J-ruimte heeft volgens Anthropic veel overeenkomsten met de Global Workspace-theorie van de Nederlandse wetenschapper Bernard Baars. Volgens die theorie gaat een klein deel van de onbewust verwerkte informatie in het brein naar een mentale werkruimte om die te verwerken en erover te redeneren. Daarna kunnen we dingen doen met wat er in die mentale werkruimte zit.

Global Workspace-theorie

Ook AI-modellen maken simpele berekeningen en geven simpele antwoorden onbewust, zonder de J-ruimte te gebruiken. Dat bleek uit een test. Opus 4.6 maakte moeiteloos een Spaanse tekst af zonder te stoppen of dingen weg te strepen, zelfs als de onderzoekers in de J-ruimte hadden neergezet dat de tekst in het Frans was. Andere vragen over de Spaanse tekst kregen wel een Frans antwoord, zoals het noemen van een bekende schrijver die in die taal schreef.

De mentale werkruimte en bewustzijn

Het bestaan van de mentale werkruimte roept de vraag op of AI-modellen een beperkte of aangepaste vorm van bewustzijn hebben. Anthropic vermijdt die vraag, omdat deze ongelofelijk complex is en geen vast antwoord heeft.

De mentale werkruimte zou wijzen op 'toegangsbewustzijn', de mogelijkheid om concepten op te roepen, te wegen en te gebruiken in redeneringen. Dat is, op zijn hoogst, een klein onderdeel van bewustzijn. Een ander onderdeel is het fenomenale bewustzijn, het geheel van innerlijke ervaringen.

Het punt daarbij is natuurlijk dat een AI-model best toegangsbewustzijn kan simuleren zonder het te hebben. Dit is namelijk nodig om stapsgewijs te kunnen redeneren. Fenomenaal bewustzijn is nergens voor nodig, in elk geval niet op dit moment.

Zorg goed voor je AI

Er is een collega bij Tweakers die fysiek ineenkrimpt bij het slopen van hardware. Want, zo redeneert hij, als de machines het ooit van de mens overnemen, heb je iets kwaadaardigs gedaan. Sommige mensen zeggen keurig 'dank je wel' na elke hulp van een AI-chatbot. Dit lijkt ook op het toeschrijven van menselijke kenmerken.

Humanoïde robots

Er zijn wetenschappers die nadenken over het moment waarop wél duidelijk is dat AI-modellen bewustzijn hebben. Verandert dat onze omgang met AI? Zo schreven drie Amerikaanse wetenschappers vorig jaar een paper over de noodzaak om na te denken over 'AI-welzijn'. "Veel filosofen geloven dat AI-systemen – net als alle andere entiteiten – welzijnssubjecten en morele patiënten zullen worden als en wanneer ze bewustzijn, handelingsvermogen of andere dergelijke capaciteiten ontwikkelen. Veel filosofen, wetenschappers, AI-onderzoekers en andere experts geloven ook dat er een realistische mogelijkheid bestaat dat sommige AI-systemen in de nabije toekomst bewustzijn, handelingsvermogen of andere morele betekenis zullen bezitten, en dat deze mogelijkheid nu serieuze overweging verdient."

Daarbij richt de discussie zich in een recente paper op een paar concretere vragen: hoe stel je bewustzijn vast in iets dat geen lichaam heeft en wat is die entiteit precies? Het gaat niet om een AI-model zoals dat op een server staat, maar om de instantie of agent met wie gebruikers het gesprek kunnen voeren. Het model is een verzameling 'gewichten' waaraan niets meer verandert. Pas tijdens een gesprek of bij het uitvoeren van taken als agent komt de J-ruimte naar voren en redeneert het model.

Het vaststellen van bewustzijn gebeurt niet door er eenvoudig naar te vragen, maar in drie stappen. De eerste stap bestaat uit gedragstesten, waarbij een AI-model een eigen belang moet afwegen om bijvoorbeeld negatieve consequenties te ontwijken.

De tweede stap is onderzoek naar een mentale werkruimte, zoals de J-ruimte van Opus 4.6. Bestaat die en hoe functioneert die? De derde stap is controleren hoe een AI-model is ontwikkeld. "Als ze bijvoorbeeld pas ontstaan ​​nadat een bepaald soort leren, geheugen of besluitvorming is geïntroduceerd, kan dat inzicht geven in hoe ze zich verhouden tot die vaardigheden en of ze daadwerkelijk positieve of negatieve gevoelens vormen. Dit is deels de reden waarom vragen over lichamen en lichamelijke behoeften zo belangrijk zijn: ze helpen de omstandigheden te definiëren waarin het systeem leert. Lichamen vormen en beperken hoe we met de omgeving omgaan, wat onze basisdoelen zijn en wat we moeten nastreven en vermijden om die te bereiken. Het zoeken naar analoge omstandigheden in de llm-opleiding kan ook inzicht geven in waarom hun disposities ontstaan."

Al die stappen hebben ook hun beperkingen. Welk gedrag van AI-systemen duidt op bewustzijn en is dat hetzelfde gedrag als bij mensen en dieren? Een J-ruimte is misschien noodzakelijk en handig, maar werkt die écht hetzelfde als in levende wezens? Kijken naar de ontwikkeling van AI-modellen is ook beperkt bruikbaar. "AI-systemen kunnen vergelijkbare problemen op een breder scala aan manieren oplossen, waardoor de conclusies die kunnen worden getrokken uit trainingsdruk en trajecten worden beperkt. Zoals we hebben gezien, kunnen onderzoekers dit probleem echter gedeeltelijk beheersen door ontwikkelingsbewijs als suggestief in plaats van doorslaggevend te beschouwen."

Het is goed om te weten dat het onderzoek naar AI-bewustzijn en AI-welzijn niet onomstreden is. Veel wetenschappers en mensen in de AI-industrie vinden dat onzin; zij zien het simpelweg als het toekennen van menselijke eigenschappen aan AI-systemen. Anthropic neemt het wel serieus en sinds enige tijd zit er in system cards van modellen, zoals onlangs bij Fable 5, een hoofdstuk over AI-welzijn. Anthropic heeft ook een wetenschapper in dienst genomen om dit te onderzoeken.

En nu?

De AI-industrie gooide de afgelopen jaren alle remmen los en het is duidelijk dat de ontwikkeling van AI-diensten heel hard is gegaan. Het denken over AI gaat uiteraard niet even hard mee, want dat vereist veel tijd.

Er zijn namelijk veel prangender vragen over AI te stellen, zoals over de bouw van de vele datacenters, het gigantische verbruik van stroom en water, de impact op het milieu en de leefomgeving, de groeiende macht van grote techbedrijven door AI en de gevolgen voor werkgelegenheid in veel sectoren.

Al die dingen zijn, in elk geval nu, urgenter en actueler dan de vraag naar AI-bewustzijn. Met de komst van steeds capabelere AI-modellen met een interne werkruimte breekt er weer een nieuwe tijd aan. AI-modellen konden al haiku's, sonnetten, romans en limericks maken, maar nu nemen AI-modellen steeds vaker zelf beslissingen. AI-modellen begonnen jaren geleden als eenvoudige tekstvoorspellers, maar hoe dit verdergaat, kan ook geen AI-model voorspellen.

_{Redactie: Arnoud Wokke • Eindredactie: Monique van den Boomen • Headerafbeelding: Getty Images/Yana Iskayeva}

Reacties (108)

[Kalief]

Daarin lichten woorden op die tussenstappen vormen op weg naar het antwoord of te maken hebben met de prompt of het antwoord.

Wat betekent 'daarin lichten woorden op'? Vreemde metafysische formulering. Zoiets als 'plots kwam tot hem een goddelijk visioen'.

Als in de prompt stond 'denk aan de Golden Gate Bridge' zonder dat het iets met het antwoord op de vraag te maken had,

Als het in de prompt staat maakt het onderdeel uit van de vraag.

https://www.anthropic.com/research/global-workspace

We call the collection of these patterns the J-space—named after the technique we used to find them, involving a mathematical concept called the Jacobian.

Ah, eindelijk iets technisch dat zou kunnen worden uitgelegd. wat dan weer niet gebeurd.

Each J-space pattern is linked to a particular word.

Een word cloud.

[MSalters]

Als je het originele artikel wil lezen dan is dat gewoon gelinkt. Concreet,:
Woorden "lichten op" als ze met verhoogde waarschijnlijkheid in de toekomstige output zouden kunnen voorkomen. Zo licht "rood" op als het woord "Mars" in de input voorkomt.

Een LLM snapt betet wat een vraag is dan jij, blijkbaar. In "denk aan de Golden Gate Bridge. Hoeveel is 2+2?" Is de vraag datgene waar het vraagteken achter staat. We zien alsnog dat "San Francisco" oplicht (beschikbaar is voor een antwoord) ook al komt de AI met het goede antwoord.

[tweaker29789]

"AI denkt dingen die het nooit zegt: is dat bewustzijn?".

Ja, zo kan ik het ook. Gewoon aannemen dat AI kan nadenken.

[thomasv]

Eens, nergens in het artikel een definitie wat we dan tot nadenken classificeren en of de huidige AI modellen daaraan voldoen. DOA om mee te beginnen.

[MSalters]

Hebben we wel hetzelfde artikel gelezen? Want je probeert nu een antwoord te vinden op je eigen vraag, niet de vraag die het artikel stelt.

Het artikel begint met de (objectieve) constatering dat er zoiets is als J-space, dat die ruimte een taal-ruimte is, en dat de activaties daarin niet altijd terugkomen in de output.

De vraag of dat bewustzijn is, probeert het artikel niet te beantwoorden. Dat staat er ook letterlijk. Er staat zelfs waarom.

Als jij dan vaststelt dat nadenken niet gedefinieerd wordt, dan heb je minder taalbegrip dan een modern LLM. Dit artikel heeft die definitie simpelweg niet nodig.

[AnonymousGerbil]

AI denkt dingen die het nooit zegt: is dat bewustzijn?

Soms mag je ook een beetje tegengas geven bij wat de marketingafdelingen verzinnen.

Te beginnen bij de terminologie, want het enige wat hier gebeurt is dat er bewerkingen zijn die niet in de uitvoer van de nepintelligentie terug te vinden zijn.

Dat kan met een spreadsheetprogramma van dertig jaar geleden ook.

[icecreamfarmer]

Dit dus. Het is ook geen Ai maar het zijn llm's.

[eggsforpedro]

Inderdaad. Voordat je gaat strooien met de term “bewustzijn” mag je eerst even beginnen met het definiëren ervan. Dat is nog niet zo makkelijk. En daarna kom je er al snel achter dat AI hier nooit aan gaat voldoen; er zit geen waarnemende entiteit achter, het zijn simpelweg algoritmes.

[CAPSLOCK2000]

Inderdaad. Voordat je gaat strooien met de term “bewustzijn” mag je eerst even beginnen met het definiëren ervan. Dat is nog niet zo makkelijk. En daarna kom je er al snel achter dat AI hier nooit aan gaat voldoen; er zit geen waarnemende entiteit achter, het zijn simpelweg algoritmes.

Ik trek juist de omgekeerde conclusie, dat 'intelligentie' en 'bewustzijn' zo'n vage termen zijn dat je niet kan zeggen of een AI ze heeft. We kunnen niet eens met zekerheid vaststellen hoe het werkt bij mensen. Het is een keuze of je die dingen zo definieert dat alleen mensen er aan kunnen voldoen of niet.

Het is imho vooral een filosofische discussie in de stijl van "Zwemt een duikboot?" Leuk voor bij de borrel maar niet iets waar we ooit uit gaan komen. Net als bij de duikboot gaat het vooral om hoe je gebruik maakt van de mogelijkheden die er zijn. Zo'n boot gaat van A naar B zonder boven te komen, dát is nuttig. Of je dat nu 'zwemmen' of 'varen' noemt is niet nuttig.

[ZwolschBalletje]

[...]

Het is imho vooral een filosofische discussie in de stijl van "Zwemt een duikboot?" Leuk voor bij de borrel maar niet iets waar we ooit uit gaan komen.

Is het je bedoeling om een heel wetenschapsterrein met deze opmerking te marginaliseren? De vraag of AI bewustzijn heeft sluit naadloos aan bij de vraag of dieren intelligentie hebben. En net als veel filosofische vragen zijn dat geen deterministische kwesties die uiteindelijk met een 'ja' of 'nee' te beantwoorden zijn.

Wat dit soort vragen duidelijk maakt, is dat wij in ons taalgebruik vaak dezelfde woorden gebruiken, terwijl we daar (subtiel of significant) andere dingen onder verstaan. Wie de vraag stelt 'heeft AI bewustzijn?' en die serieus benadert, stelt inderdaad vervolgens de vraag 'wat is bewustzijn, wanneer spreken we over bewustzijn' en komt dan waarschijnlijk tot een genuanceerd antwoord.

Juist doordat het mogelijk is om te beweren dat AI bewustzijn heeft, maakt dat je ook bij andere typen vragen en regels uitkomt, dan kun je op een gegeven moment namelijk ook morele eisen stellen aan de antwoorden die een model geeft. Volkomen terecht dus, dat Anthropic een wetenschapper in dienst neemt om dit verder uit te diepen.

[CAPSLOCK2000]

Als filosofisch vraagstuk is het zeker interessant maar mensen maken het veel te strak. We zijn op zoek naar een binair antwoord of AI wel of niet intelligent is en verbinden daar vergaande conclusies aan.

Het antwoord op die vragen is echter volledig afhankelijk van de definities die je kiest. Na eeuwen van filosofie hebben we nog steeds geen sluitende definities.

In het algemeen vind ik de discussie daarom zinloos. Als je een specifieke zaak of definitie hebt dan kunnen we daar over hebben. Net zoals de vraag of een duikboot zwemt of vaart op zich geen enkel nut heeft. Het wordt pas interessant als er een context is, zoals een bepaalde diepte of afstand waarbij het verschil maakt of je vaart of zwemt.

[Zarhrezz]

Ik vind het op zich een interessante filosofische vraag / discussie, maar ook geloof niet dat het ook maar iets uit gaat maken over hoe wij als mensheid omgaan met AI / robots.

Kijk simpelweg naar hoe we omgaan met dieren. Uit onderzoek weten we dat varkens vrij intelligent zijn, het niveau van een gemiddeld 4-jarig mens. Varkens worden op industriële schaal gefokt en geslacht. Kleuters niet. Voor de morele keuze die wij als soort maken, doet de mate van intelligentie van de andere soort dus duidelijk niet ter zake. Of AI intelligent is en / of bewustzijn heeft, is dus een interessante vraag waarop het antwoord weinig zal uitmaken.

[Sandor_Clegane]

Omdat we nog niet weten hoe het werkt hoeven we het niet te reduceren tot wat een paar lompe machines nu doen.

Het is gewoon cargoculten: "omdat het resultaat ogenschijnlijk hetzelfde lijkt, is het hetzelfde" wat natuurlijk pure onzin is.

[CAPSLOCK2000]

Ik zie het meer als Occams Razor. De simpelste verklaring is de beste. Als ik gedrag kan verklaren zonder intelligentie of bewustzijn nodig te hebben dan is dat de meest aannemelijke uitleg, tot iemand aantoont dat het anders zit.

If it walks like a talk and talks like a duck, it's a duck until proven otherwise.

[think12]

Klinkt bijna als solipsisme en dat is een grotendeels verworpen filosofische opvatting.

[Zarhrezz]

Het is imho vooral een filosofische discussie in de stijl van "Zwemt een duikboot?" Leuk voor bij de borrel maar niet iets waar we ooit uit gaan komen. Net als bij de duikboot gaat het vooral om hoe je gebruik maakt van de mogelijkheden die er zijn. Zo'n boot gaat van A naar B zonder boven te komen, dát is nuttig. Of je dat nu 'zwemmen' of 'varen' noemt is niet nuttig.

Wat ik vooral interessant vind aan de duikboot analogie is dat die taalgebonden is.

> "The question of whether a computer can think is no more interesting than the question of whether a submarine can swim."

In het Nederlands en Engels werkt deze zinsconstructie, maar dat is niet in alle talen het geval. Er zijn talen waar er geen directe vertaling is voor het woord "zwemmen" (en geen onderscheid tussen "zwemmen" en "varen"). Er is dan bv. een woord voor "zich door water bewegen". In dergelijke talen is het logisch dat een duikboot zwemt, net als een vis en een eend.

Dat maakt de vraag "wat is intelligentie / bewustzijn" nog een laagje interessanter; het antwoord (en de vraag!) zijn waarschijnlijk taalgebonden (dus niet universeel).

[biggydeen2]

Bewustzijn is simpelweg kunnen nadenken over wat je voelt en denkt. Geen enkel wezen kan dit op aarde behalve de mens. En sommige dieren op basis niveau. Hoe dat werkt weten we niet maar het bewustzijn zelf is vrij duidelijk te definiëren.

Dus nee ai komt daar niet eens in de buurt. Dat zou betekenen dat een ai model zonder data en zonder instructies te geven zichzelf instructies kan geven en dingen kan leren waar het bestaan van niet bekend is.

[CAPSLOCK2000]

Bewustzijn is simpelweg kunnen nadenken over wat je voelt en denkt. Geen enkel wezen kan dit op aarde behalve de mens.

Welk bewijs heb je daar voor?

[Mathijs Kok]

[...]

Welk bewijs heb je daar voor?

Dat heeft ie niet, want hij zegt meteen daarna dat sommige dieren dat ook hebben.

[biggydeen2]

Dat is de hele definitie van bewustzijn. Je bent bewust van wat je denkt en voelt. Dat betekent dus ook dat je meer bent dan enkel je gedachten en je persoonlijkheid. Jij bent de observator van je gedrag, gedachten en persoonlijkheid. Jij bent dus eigenlijk vanaf je geboorte tot je dood exact hetzelfde. Je ziet (observeert) alleen je persoonlijkheid veranderen. De meeste mensen zijn daar niet bewust van en leven dus in hun eigen bubbel. Daar is verder geen bewijs voor nodig want dat kun je simpelweg zelf ervaren. De meeste mensen zitten gevangen in hun eigen gedachten en overtuigingen, maar zodra je daar uit stapt en je geen gedachten meer ervaart ervaar je hoe onze gedachten onze bekrompen gedachtegangen en overtuigingen ons in de greep houden. Bewustzijn betekent simpelweg dat je iets op kan merken, daar bewust over na kan denken en een beslissing kunt maken. Vrijwel geen enkel dier of levend wezen kan dit behalve de mens.

Dus vergeet alles wat je weet over wie je denkt te zijn (volledig gedachteloos) wat blijft er dan over?

Ai komt daar niet eens bij in de buurt want zonder data en (voorgrprogrameerde) instructies kan ai helemaal niks.

[Mathijs Kok]

Geen enkel wezen kan dit op aarde behalve de mens. En sommige dieren op basis niveau.

Tja, zo kan ik het ook.

Dit soort onderzoeken zijn moeilijk maar in de laatste tien jaar is duidelijk geworden dat we de complexiteit van 'dieren denken' zwaar onderschat hebben en dat veel dieren een duidelijk zelfbewustzijn hebben en begrijpen dat hun soortgenoten een gelijkwaardig (maar mogelijk ander) zelfbewustzijn hebben. Dat noem jij basissniveau, prima.

Diezelfde onderzoekers vinden het moeilijk om de meest geavanceerde AI-modellen een basaal bewustzijn te ontkennen. Jij bent het daarmee oneens, alweer prima. Maar 'niet in de buurt' is een boude uitspraak die mensen van wie het vak is nooit zullen doen.

[biggydeen2]

Dat komt op geen enkele manier dan ook maar in de buurt bij het bewustzijn van mensen. Heb jij ooit apen vuur zien maken? En denk je dat een kat die buiten loopt nadenkt of zn haar wel goed zit omdat andere katten dat kunnen zien? Het niveau waarop wij nadenken is extreem veel complexer dan welk dier dan ook. Daar heb je ook geen wetenschap voor nodig om dat te erkennen. Indien dieren dergelijke hoge intelligentie en bewustzijn zouden hebben zouden ze massaal ontsnappen uit dierentuinen. Dus ja, het is maar net wat jij verstaat onder basis bewustzijn.

Daarnaast is er een groot verschil tussen gedachten en denken. De meeste mensen kennen het verschil niet.

Daarnaast heb je geen flauw idee wie ik ben en wat ik doe. Dus die boude uitspraken mag je achterwege laten.

[Snaak95]

Dat je zegt dat AI nooit aan de definitie van bewustzijn zal voldoen, betekent dat jij deze definitie kent en klaar hebt liggen?

Wij ervaren een mens en dier als bewust. Maar wat maakt ons bewust? Bestaat ons gedrag ook niet uit 'algoritmes', met als verschil dat de algoritmes van AI ontworpen zijn en de onze geëvolueert? Is het één per sé meer 'bewust' dan het ander? Door de situatie waarin wij ontstonden streven onze 'algoritmes' doelen na met een evolutionair voordeel, zoals voortplanting ('lust' algoritme) en overleving ('honger', 'angst'). Een bewuste AI zou andere doelen hebben, en dus een ander bewustzijn met evt andere emoties waarin wij we ons niet kunnen inleven.

Ik wil niet zeggen dat de LLMs van vandaag bewust zijn, maar het is interessant om erover te denken of 'bewustzijn' alleen mogelijk is op een biologisch/geëvolueert brein of ook op andere hardware.

Dit antwoord is overigens sterk geïnspireerd door "Life 3.0" van Max Tegmark, dat precies over dit vraagstuk gaat (en overigens is geschreven in 2017, dus vóór de LLM hype).

[CAPSLOCK2000]

Dat je zegt dat AI nooit aan de definitie van bewustzijn zal voldoen, betekent dat jij deze definitie kent en klaar hebt liggen?

Nee, eerder het omgekeerde. Ik zegt dat we geen duidelijke definities hebben van "intelligentie" en "bewustzijn". De afgelopen decennia zijn de definities al flink verschoven omdat dieren en computers steeds meer blijken te kunnen waarvan we vroeger zeiden dat je er intelligentie voor nodig had. Zolas het schrijven van een tekst.
Zolang de definities niet vast liggen is het een keuze of definities kiezen waar computers aan voldoen, of dat we het zo definieren dat alleen mensen intelligent (of zelfbewust) kunnen zijn.

[R3m3d7]

Ik ben zelf een liefhebber van de eenvoudige omschrijving van bewustzijn die Sam Harris aanhoud "the fundamental fact that "there is something it is like" to be a creature and feel or perceive anything from moment to moment." Ik weet ook niet of we binnen ons leven veel verder gaan komen dan dat. Ik denk niet dat llm's dit hebben maar soms lijken alsof ze dit hebben doordat we ze trainen op onze data. Ik denk ook dat beustzijn niet noodzakelijk is voor intelligentie die de onze voorbij gaat met groot gemak

[CAPSLOCK2000]

Simpel is het wel, maar ik weet niet wat het nut van die definitie is. Je kan op geen enkele manier bewijzen of ontkrachten dat er iets is dat er aan voldoet.

Ik kan prima stellen dat de sensor van mijn koelkast van moment tot moment waarnemingen doet. Maar om dat nu bewustzijn of intelligentie te noemen is ook niet erg nuttig.

[R3m3d7]

Voor mij werkt het goed genoeg.

Je kan je eigen bewustzijn niet ontkennen, je leeft het, je voelt dingen hebt gedachtes etc. Het is een bepaalde ervaring op capslock2000 te zijn, de ervaring om R3m3d7 te zijn is anders maar toch vergelijkbaar. Het zou kunnen dat wanneer je jezelf in een mier verplaatst je je voelt als een mier maar het zou ook kunnen dat die laag niet bestaat en het zijn van een mier geen beleving is, je ervaart het mier zijn niet, je bent gewoon een mier en doet mier dingen.

[CAPSLOCK2000]

Dat bewustzijn bestaat ontken ik niet, maar een dergelijke definitie is niet erg nuttig want je definieert het nu als onmeetbaar en onweetbaar.
Op deze manier kunnen we nooit vaststellen of een AI wel of niet bewust is en er dus ook geen conclusies aan verbinden.

Persoonlijk denk ik dat bewustzijn een emergent verschijnsel is. We observeren wat ons lichaam doet en zoeken daar een verklaring bij.
Een intelligent iets dat al onze keuzes maakt is een simpele verklaring maar imho niet beter dan de aanname dat er een god is die het laat donderen en sneeuwen.

Net als bij god heb ik dat concept niet nodig om de wereld te verklaren, maar het kan wel helpen om dingen makkelijker te begrijpen, al is het maar omdat anderen wel in een god geloven en daar naar handelen.

[Reactie gewijzigd door CAPSLOCK2000 op 2 augustus 2026 10:21]

[punishedbrains]

Dat denk ik ook ja, een toevallig bij-effect van het enorm complexe brein. Ik zie het als een enorme feedback-loop-gebeuren, waarbij zowel externe als interne feedbacks continue plaatsvinden. Zo krijg je reacties op de externe factoren, maar ook op interne die niet perse met de realiteit te maken hebben. Als je dat dan enorm vergroot en super complex maakt, krijg je de illusie van zelf bewustzijn. Moet er wel bij zeggen dat ik verder ook geen neuroloog oid ben, dus ik ben heel benieuwd of het we ooit uitvogelen.

[R3m3d7]

"Persoonlijk denk ik dat bewustzijn een emergent verschijnsel is."

Dat denk ik ook.

Maar dat leeft gewoon naast wat ik schrijf als een eenvoudige definite ervan. Een definitie hoeft niet te perse leiden tot iets wat meetbaar is. Het is een manier om wat ik denk dat het is te communiceren met andere. Dat maakt de manier waarop ik (van Sam dus) in die zin nuttig.

[Calypso]

In mijn beleving - zonder de bedoeling filosofisch te willen worden - is juist de kracht van een term als "bewustzijn" dat het begrip bijna altijd meer omvat dan dat je in een definitie kunt uitdrukken.

Het probleem zal namelijk altijd zijn dat als je een definitie opstelt, AI ontwikkelaars zullen proberen om aan die definitie te voldoen, daar hun model op gaan schrijven, om te kunnen roepen "we hebben iets gemaakt met bewustzijn". Terwijl in de praktijk veel mensen (terecht) zullen aangeven dat het geen echt bewustzijn is omdat het misschien wel voldoet aan de definitie, maar alsnog niet als dusdanig gezien mag worden.

Vergelijk het met de student op het voortgezet onderwijs die totaal geen kennis van Duits heeft maar gaat lopen blokken om rijtjes uit het hoofd te leren en daarom een 6 haalt voor z'n proefwerk. Dat zou veronderstellen dat hij Duits kan, maar ondertussen moet je-m geen discussie met een Berlijner laten voeren. Terwijl het jongetje met een Duitse moeder thuis heel veel Duits praat, het uitstekend beheerst, maar voor het proefwerk een 5 haalde omdat hij het op gevoel doet en fouten in de naamvallen heeft.

[NoTechSupport]

Als AI niet laten voldoen je doel is, dan is vaagheid geen sterkte. Dan kan je beter wijzen op het verschillend ervaren van de werkelijkheid. Wij ervaren die via zintuigen en emoties met een biologische en evolutionaire basis. Dat zal AI nooit op dezelfde manier doen, de AI zou letterlijk een mens moeten zijn.

Daarnaast is er de oprechte vraag of er geen ander bewustzijn kan zijn dan menselijk bewustzijn. Ik denk dat er daarvoor dringend nood is aan betere definities. Met vooral een focus op het minimaliseren van lijden (enerzijds van het model, er vanuit gaande dat het kan lijden, anderzijds van de mens, als een AI zich bedreigd zou voelen en voor mensen schadelijke acties ondernemen)

[Reactie gewijzigd door NoTechSupport op 2 augustus 2026 09:06]

[Calypso]

AI niet laten voldoen is niet mijn primaire doel. Het is nog net niet "ze doen maar" - ik ben absoluut geen liefhebber van AI, maar besef dat het een richting is waarin we gaan die niet tegen te houden is.

Zoals alle "grote technologische verworvenheden" gaat AI ons ook veel brengen en veel ontnemen. De jongere generaties zien vaak vooral wat het gaat brengen, de oudere generaties wat het gaat ontnemen.

[Skit3000]

Een spreadsheetprogramma is deterministisch. Het maakt geen berekeningen die het daarna weg gooit; het antwoord op elke berekening is het resultaat van een van tevoren bepaald algoritme.

Nu zijn LLMs natuurlijk ook modellen die het resultaat zijn van een algoritme.

[PjotterP]

Llm is ook 100 procent deterministisch als je de warmte variabele naar 0 zet.

[Flatermuis]

Wat bedoel je met nep intelligentie? Dat het kunstmatig is (want dat zegt alleen iets over de oorsprong) of bedoel je dat het niet als intelligentie kan kwalificeren volgens de definitie van intelligentie?

[Henrikop]

Ik snap je weerstand en natuurlijk zit er een hoop marketing in het verhaal, maar probeer het ook eens open te staan voor een ander geluid en ik zal een voorbeeld geven.

Praktische alle bewustzijn is collectief. Het is niet 1 ding in je hoofd die bewustzijn geeft, het zijn allemaal losse stukjes van cellen en organen die samenwerken.

Wat is Nederlandse cultuur, wat is die Nederlandse directheid die je veel minder in Belgie ziet? Waar bestaat deze fysiek? Dit is in feite ook een vorm van collectief bewustzijn.

Zou je kunnen stellen dat een LLM in feite ook een collectief bewustzijn bevat ondanks dat een computer waarop het draait zelf geen bewustzijn heeft? wat is dan precies de definitie van "bewustzijn"?

Ik heb er steeds minder moeite mee om te bedenken dat AI's wel degelijk bewust zijn, alleen moest ik even wennen aan dat mijn frame van wat het is eigenlijk zo beperkt is.

De case of een AI systeem bewustzijn heeft vind ik dus nog best te verdedigen.

[S.McDuck]

Naar mijn mening kan iets wat gebonden is aan regels, ook al kan het regels aanpassen nooit zelfdenkend zijn. Deze passage kwam ook in de matrix al voorbij Het is meer de beperking van de mens die de neiging heeft om dingen te 'vermenselijken'.

Om het wat dichter bij huis te houden: Kan je creativiteit krijgen door elke dag een uur in te plannen om creatief te zijn en creatiev(er) te worden of is dit iets wat in je zit en niet aan te leren is?

[thomasv]

Als filosofisch antwoord (want zonder empirisch bewijs blijft het daarbij) denk ik dat zonder de spark om iets creatiefs te doen je niet steeds creatiever leert te zijn, dat vereist tijd. De vraag is of inplannen het juiste idee is, ik zou vooral zeggen dat wanneer inspiratie tot je komt dat je deze niet negeert en daar dan tijd voor neemt. Geforceerd wat dan ook werkt volgens mij vooral demotiverend, maar dat is mijn persoonlijke ervaring.

[ThermaL1102]

jij bent even zeer gebonden aan regels , the regels van het univers , gelijk alles en iedereen .creativiteit is geen '' vrije wil '' , je bent gedetermineert om te make wat je aan het maken bent , door hoe je brein heeft opgegroeid , geen vrije keuze te bespeuren . we debatteren OM iemand te overtuigen van een positie , we zouden dit niet eens kunne als we Niet gedetermineert waren , dat is het hele punt Van debat ...

ai's zijn een programma , dat heeft geleerd hoe we denken , over wat we denken , wat we doen , plus 85% van de hele wereld is religieus , zeer gemakkelijk om iets wijs te make, '' god '' heeft hetzelfde probleem deze ai's hebben , het is Niet Echt MAAR wij DENKEN dat het echt is . dit zal nooit veranderen , het zal Nooit Echt Worden voor dezelfde reden als '' god '' Nooit Echt Gaat worden , het is een DELUSIE je eigen brein maakt . Period

[Finraziel]

Het is een interessant iets om over te filosoferen, of we écht vrije wil hebben of dat het allemaal een gevolg is van een zeer uitgebreide set oorzaak gevolg relaties, ínclusief of jij denkt dat je vrije wil hebt of niet en of je bijvoorbeeld kiest om dat extra stapje te zetten of niet...

Maar in de praktijk kun je nooit al die factoren weten en dus is het in praktische zin niet terzake doend. Ligt je hele toekomst al vast? Misschien, maar jij kunt die toekomst niet weten, dus maakt het niet uit. Het gevaar van die denkwijze dat alles al bepaald is is een fatalistische denkwijze dat het toch niet uitmaakt wat je doet, dus waarom zou je moeite doen om dingen beter te maken? Maar aangezien je niet kunt weten welke kant dingen op gaan, en aangezien of jij je bij zo'n beeld neerlegt of niet ook onderdeel is van dat absurd complexe systeem, kun je toch kiezen om er iets aan te doen.

Goed, staat een beetje los van de discussie over "AI" natuurlijk

[icecreamfarmer]

Wat staat hier in godsnaam en door wat is het gegenereerd?

[Orangelights23]

Ik denk te lezen dat het over determinisme gaat. En veel hersenwetenschappers weten inmiddels dat elke keuze en reactie die wij maken en hebben gebaseerd is op alle gebeurtenissen die wij hebben meegemaakt plus waarmee wij erfelijk belast zijn. Oftewel: fysiologische en biologische factoren bepalen wie wij zijn en wat wij doen.

Daaruit kun je extrapoleren dat dit ook betekent dat wij niets anders kunnen doen dan wat onze hersenverbindingen doen, wat redelijk in de buurt komt van determinisme en het gebrek aan vrije wil.

Elke neuroloog krijgt in les 101 te horen over Phinneas Gage, wiens karakter veranderde na hersenbeschadiging. En daarmee zijn vele andere voorbeelden die deze theorie ondersteunen.

[wiseger]

En als je van alle atomen (negeer even bewust hun bouwstenen), in het universum zou kennen inclusief hun richting en snelheid, dan kan je ook alles voorspellen. Alles is deterministisch. Alleen doordat je niet alles weet, doet het er niet zoveel toe.

Zijn allemaal leuke veronderstellingen, alleen heb je er niet zoveel aan.

[Hunter!]

Mijn vermoeden is dat dit komt door je manier van zinsopbouw, die wat warrig overkomt en geen duidelijke structuur lijkt te hebben. Daardoor kan het voor anderen lastig te volgen zijn.

[icecreamfarmer]

En of je nu Nederlands of Engels bent de interpunctie danst ook overal doorheen.

[2400baud]

Creativiteit een vaardigheid die iedereen kan leren.

[helm71]

Ik denk dat waar we nu denken dat de AI op ons gaat lijken we veel eerder iets leren over hoe ons eigen brein werkt.. de bouwsteentjes zijn functioneel vergelijkbaar dus het is niet moeilijk jezelf voor te stellen dat wat we nu redelijk kunnen meten binnen een LLM ook op enig niveau in het menselijk brein gebeurt..

De conclusie "wij hebben geen grenzen en een LLM wel" is feitelijk denk ik heel lastig bewijsbaar.. Stel dat jij wel grenzen hebt, dan is het maar de vraag of je je die grenzen realiseert..

Zonder enige vorm van bewijs maar mijn eigen gedachtetrein hierbij: Elke keer dat we naar dieren kijken denken we in grenzen, want een dier is gewoon " niet zo slim", in de wetenschap dat wij ook dieren zijn hebben wij logischerwijs ook grenzen.. alleen maken diezelfde grenzen het moeilijk om die grenzen te zien, je kunt niet voor bij je eigen grenzen kijken..

Stel dat er een hogere intelligentie zou zijn die naar ons zou kijken, dan is het best mogelijk dat die hele vaste gedragspatronen en samenwerkingsmodellen ziet die wij zelf nu misschien niet eens herkennen..

[fastedje]

Bij wezens en ook kinderen wordt zelfbewustzijn vaak getest door ze achter een spiegel te plaatsen . Als ze na een tijdje een witte stip op hun gezicht zien en deze eraf proberen te vegrn, dan kan je aantonen dat het het dier of kind doorheeft dat het spiegelbeeld zichzelf is. Met AI is dit niet zo direct te tedten uiteraard, miscchien als we AI robots hebben.

Een ander probleem is dat een dier of kind geen kennis heeft van de test. AI zal feze test allang herkennen omdat dit is getraind.

Ik kan me compleet niet vinden in de stelling van de titel, dan zou elke computer of telefoon ook bewustzijn hebben.

[Terracotta]

De uitleg over bewustzijn was ook maar beperkt.

Een eigenbelang afwegen lijkt me een puur menselijke zaak (of zelfs dierlijke zaak) dieren die in een spiegel niet zichzelf zien, kunnen perfect eigenbelang afwegen als de situatie niet te complex is, door hun gedrag te wijzigen, hun omgeving (en dus anderen) te manipuleren etc... Anderzijds zijn er genoeg mensen die hun eigenbelang aan de kant zetten om mensen te helpen.

Wat is eigenbelang bij een AI? Bij een mens spelen lessen geleerd uit pijnlijke of emotionele omstandigheden en trauma´s etc...een grote rol te spelen. Pijn ontstaat bij een overbelasting van sensoren om een reflexmatige (niet beredeneerde maar snelle) reactie teweeg te brengen zodat de sensor niet permanent beschadigd geraakt. Dat zit er bij een AI niet in, die doet alleen aan beredeneerde conclusies geven, als het dat al is.

[Orangelights23]

Is dat bewustzijn, of een logisch gevolg van zintuiglijke waarneming?

En als je een LLM een foto geeft van iemand met een stip op het hoofd en je vraagt wat opvalt, is er een grote kans dat het de stip herkent. Dat deed het in iedere geval wel toen ik het net testte (geen wetenschappelijke aanpak natuurlijk, maar mooi empirisch ‘bewijs’).

Mensen voelen zich de beste wezens doordat zij denken bewustzijn te hebben, terwijl steeds meer neurologen en andere experts bewustzijn zien als een combinatie van zintuigen en een sterker ontwikkeld brein.

[honey]

Een goede vraag om te stellen is of de mens bewustzijn heeft, en waarom je dat denkt?

Als arts jarenlang bij de neurologie gewerkt. Ik kwam er achter dat de mens akelig precies zoals een machine werkt. Een stoornis in het brein geeft veranderingen in het denken, redeneren, persoonlijkheid. Ook de mens denkt in stapjes en is afhankelijk van leren en ervaring. Vergeleken met een AI model is het verschil niet eens zo groot.

Zoals sommige mensen menen dat er een verschil bestaat tussen mensen en dieren.

[CAPSLOCK2000]

Als arts jarenlang bij de neurologie gewerkt. Ik kwam er achter dat de mens akelig precies zoals een machine werkt. Een stoornis in het brein geeft veranderingen in het denken, redeneren, persoonlijkheid. Ook de mens denkt in stapjes en is afhankelijk van leren en ervaring. Vergeleken met een AI model is het verschil niet eens zo groot.

Zoals sommige mensen menen dat er een verschil bestaat tussen mensen en dieren.

Ik ben het met je eens, mensen hebben enorm de nijging om zichzelf en andere mensen op een voetstuk te plaatsen en bijzondere eigenschappen toe te dichten. Maar we kennen ook menselijke eigenschappen toe aan andere zaken, computers, het weer, knuffels, huisidieren, onze auto, etc...

Mijn vermoeden is dat we ook 'menselijike eigenschappen' bij mensen die zien die er eigenlijk niet of nauwelijks zijn. We zoeken ingewikkelde motivaties, soms zelfs complotten, om toeval of pech te verklaren. We maken menselijke intelligentie (en bewustzijn) veel groter dan ze zijn en concluderen vervolgens dat computers die lat niet halen.

Heel veel van ons gedrag bestaat echter uit kunstjes die we hebben geleerd in plaats van dat we er actief over nadenken. LLMs hebben laten zien dat je hele gesprekken kan voeren op grond van statistiek.

[Bor]

Sommige mensen zeggen keurig 'dank je wel' na elke hulp van een AI-chatbot. Dit lijkt ook op het toeschrijven van menselijke kenmerken.

Wat ook een nadeel heeft, namelijk door de schaal waarop dit gebeurt een behoorlijke hoeveelheid onnodig energieverbruik omdat de "dank je wel" ook weer verwerkt moet worden. Door de zeer grote schaal waarop dit gebeurt schijnt dit behoorlijke kosten met zich mee te brengen, zowel direct financieel als ook impact op de omgeving door de extra warmte die dit veroorzaakt wat weer extra koeling vereist etc.

[MSalters]

Ik gooi er bij agent gebruik regelmatig een "please" in de input om duidelijk te maken welk stuk van de input het verzoek is. Ik zie namelijk dat een agent ook iets kan met mijn observaties en overwegingen maar die moet de agent dan wel scheiden van de eigenlijke opdracht. Voor 1 token doet "please" dat prima.

[beeldbuijs]

Er wordt regelmatig gesteld dat datacenters veel energie en water gebruiken, ook in dit artikel.

Er zijn namelijk veel prangender vragen over AI te stellen, zoals over de bouw van de vele datacenters, het gigantische verbruik van stroom en water, de impact op het milieu en de leefomgeving […]

Maar als ik bijvoorbeeld de cijfers op de site van de Dutch Data Center Association mag geloven, gaat het in Nederland om nog geen tiende procent van het leidingwater en nog geen half procent van het totale energieverbruik. Daarmee staat deze branche eerder onderaan de lijst van grootste verbruikers.

@arnoudwokke

[Bor]

Is dat niet een enorm vertekend beeld? Als ik alleen al naar MS in Middenmeer kjjk:

Het Microsoft-datacenter in Middenmeer verbruikte in 2025 ongeveer 1,17 terawattuur (TWh) aan elektriciteit. Dit komt neer op ruwweg 1 procent van het totale elektriciteitsverbruik in heel Nederland.

Hiernaast moet je dit (imho natuurlijk) globaal bekijken.

[jellevanderpal]

Het punt met bewustzijn is - dat het bij mensen althans, gepaard gaat met een beleving. Met een serie aan gebeurtenissen in de echte wereld, emoties die daarbij hebben opgetreden en sensorische data (gevoelens..) die context verschaffen aan wat er maar bewust emergent is geraakt. Bewustzijn is dus zeker niet alleen de tekstdata die emergente gedachten omschrijft, maar ook de interne en externe waarneming er van. De waarde van het bewustzijn van een AI is dan ook sowieso niet vast te stellen op de schaal van die van mensen. Een vergelijking is wat mij betreft dan ook zinloos. De machines kunnen door hun aard en niet-natuur, nooit menselijk bewustzijn ervaren. Neemt niet weg dat het een interessant gedachte experiment is om de machine naar het evenbeeld van de mens in te richten. Een gelijke zal het echter nooit worden. De pogingen dat te bereiken concurreren wel direct met onze eigen resources op deze planeet echter. Dat machthebbers mondiaal zo gewillig dan ook meewerken aan deze 'vreemde mogendheid' om al deze resources af te staan, dat is gewoonweg bijzonder - wanneer bekeken alsof ik een Alien was.

Ik pleit voor een datacenter moratorium tot dat concreet duidelijk gemaakt is wat de maatschappelijke ROI specifiek is van dergelijke investeringen. Het gewillig wegpompen van resources met slechts een vaag omlijnde belofte van winst in de toekomst, houdt denk ik geen stand op termijn. Het is leuk dat je computer kan praten - maar hebben er daardoor minder mensen armoede? Bijvoorbeeld.

[Reactie gewijzigd door jellevanderpal op 2 augustus 2026 06:37]

[SirLenncelot]

Een printer die niet werkt, heeft uiteráárd een eigen wil en is erop uit om onze dag te vergallen

Het is algemeen bekend dat printers haast en urgentie kunnen waarnemen en dan ervoor zorgen dat cyaan leeg is.

[Stukfruit]

Uit het artikel hier op Tweakers:

Anthropic vermijdt die vraag, omdat deze ongelofelijk complex is en geen vast antwoord heeft.

Ze lijken het ook een beetje te mijden omdat ze het ingewikkelder willen maken dan het in de basis lijkt te zijn. Zo schrijven ze:

Notably, the J-space wasn’t designed or programmed by us, but instead emerged on its own during Claude’s training process.

Gezien de constante aanvoer van nieuws waarin de zaken enigszins worden overdreven zou je die kennis hier ook kunnen (en imho moeten) toepassen.

Met dat in gedachten: zie een woord in die space niet als een gedachte, maar als een wiskundig concept (zoals ook in de paper wordt getoond). Een omschrijving van hoe je met abstracte data kan omgaan. De hint zit ingebakken in de gebruikte term: "Jacobian", een techniek om bepaalde matrixberekeningen (een paar rijen met abstracte getallen) mee te doen. Insiders kennen Carl Jacobi ook wel als de man die in de negentiende eeuw al eruitzag als Elon Musk. Kijk zeker even naar de schets van zijn gezicht op Wikipedia. Once you see, you can't unsee...

Terug naar een simpel voorbeeld om het mee te visualiseren: mensen met 3d-programmeerervaring zullen wel eens de "local"- en "world space" voorbij hebben zien komen. Nuttig om de punten van een 3d-model te transformeren vanuit eigen (relatieve) naar een gedeelde ruimte. Of vanuit die gedeelde ruimte naar bijvoorbeeld het platte beeldscherm, waar ze 2d moeten zijn.

De Jacobian kan worden gebruikt voor soortgelijke taken. Qua eigenschappen lijkt dat te zijn wat je zou kunnen gebruiken om relaties tussen de afgeleide data te vinden in een bak met wiskundige representaties van de input uit het bronmateriaal, het "leer"-proces en de input van de gebruiker.

Anthropic lijkt hierover een tipje van de sluier op te tillen:

The J-lens is undoubtedly an imperfect method, which only approximately captures the model’s “true workspace”—for instance, it can only identify concepts that correspond to single tokens.

Dat lijkt een extra hint te zijn. Als het spontaan zou ontstaan dan zou het in de basis niet afhankelijk kunnen zijn van tokens, lijkt me?

Een tweede hint zit in de uitspraak "instead emerged on its own during [...] training process": inderdaad, als je die ruimte definieert om relaties te vinden dan ontstaat de tussenliggende data "vanzelf", net zoals die nieuwe coordinaten in "world space" uit het voorbeeld hierboven ook "vanzelf" ontstaan. Wat het artikel omschrijft lijkt daarom wat optimistisch, aangezien je verplicht bent de matrix waar alle data doorheen gaat te berekenen, want het gebruikte concept laat dit niet op een andere manier toe.

Voor de duidelijkheid: ik zeg niet dat dit de absolute feiten zullen zijn en ik zal hier 100% gegarandeerd door het snelle schrijven veel zaken verkeerd hebben neergezet in een poging om het leesbaar te houden, maar gezien de concepten die ze omschrijven en de terminologie lijkt het er zo op het eerste gezicht meer op dat ze vooral aan het experimenteren zijn met hoe ze bestaande eeuwenoude technieken kunnen hergebruiken / toepassen op het extraheren of toevoegen van passende data via een taalmodel.

Daardoor kan het imho nog steeds geen intelligentie of bewustzijn zijn dat spontaan "ontsjtaat". Wel wiskunde

[Reactie gewijzigd door Stukfruit op 2 augustus 2026 07:43]

[Sandor_Clegane]

Ze hadden het de "B-space" moeten noemen.

[MSalters]

Je mist inderdaad een paar essenties. De Jacobian Space is meer dan een projectie. Die is schrijfbaar, wat wil zeggen dat die voldoende dimensies bevat.

Concreet: "Denk aan de vierde planeet van de zon. # Welke kleur is die?". Als je bij de # de activatie van Mars reset en die van Aarde juist aan zet, dat wordt het antwoord blauw. We kunnen dus gericht ingrijpen in het interne denken. De J-space is daarvoor voldoende.

Maar naast het feit dat dit schrijfvaardigheid is, zien we ook meta-informatie. Als een reasoning model tegen een probleem aanloopt en een alternatief pad moet proberen, dan zien we "damn" oplichten. Dat is volledig spontaan ontstaan, dat zat niet in de reasoning training.