AI-chatbots zijn fantastisch! Maar hoe werkt ChatGPT?

Bewustzijn als 'fantoom' of als 'stemmen' is een concept dat mooi is uitgewerkt door de psycholoog Julian Jaynes, in zijn boek uit 1976: The Origin of Consciousness in the Breakdown of the Bicameral Mind. Een erg ondergewaardeerd werk in de filosofie en psychologie van het bewustzijn. De tv-serie Westworld haalt er redelijk wat inspiratie vandaan, ook over hoe artificiale autonome systemen (androids) bewust zouden kunnen worden.

Dat is een interessante vraag, of bewustzijn wel bestaat. En al zeker de implicaties daarvan. Als bewustzijn een illusie blijkt te zijn, dan bestempelen we ons bewustzijn (beter gezegd: ons brein) als niet meer dan een voorspellingsapparaat dat door toevallige input getraind wordt en binnen de capaciteiten van dat brein reageert. Onterecht zouden we dit dan als een 'ik' beschouwen. Het verschil met een plant, of ChatGPT, is wel dat we in staat zijn om proactief en creatief te handelen. Dat doet toch vermoeden dat we op z'n minst een begeesterde machine zijn.

[Reactie gewijzigd door Login als Gast op 23 juli 2024 15:40]

Ik denk zelf dat alles – ook het levenloze – bewustzijn bevat, zij het in verschillende vormen. Menselijk bewustzijn voelt continu (en creëert een illusie van vrije wil), omdat we feedback loops hebben tussen geheugen en ervaring. Maar neem je dat geheugen weg, kun je alsnog stellen dat bewustzijn er nog steeds is, alleen dan sporadisch of "on-demand".

Dit soort ideeën vallen onder 'panpsychisme', een filosofie met verschillende stromingen. Olivia Goldhill heeft daar een goed artikel over in Quartz: "The idea that everything from spoons to stones is conscious is gaining academic credibility"

Ik ben het met je eens dat de termen teveel gehyped worden, maar dit betekent nog niet dat het niet bestaat. Zoals ik eerder probeerde uit te leggen bestaat het dus niet uit if-then constructies. Ben je bekend met hoe een neuraal netwerk werkt?

Dit werkt op basis van zogenaamde "artificial neurons" die allemaal geassocieerd zijn met een bepaald gewicht; meerdere invoer wordt dan door een vaak non-lineaire functie gehaald om tot een output te komen. Dan zijn er meerdere lagen met elk een groot aantal "neurons" die allemaal input en output produceren. Om zo'n netwerk dan te trainen, wordt er eerst gebruik gemaakt van een soort "student-leraar" constructie met een zogenaamde error of loss function. Deze functie duidt aan hoe "verkeerd" het netwerk zit door te laten zien wat de voorspelling is van het netwerk en wat het juiste "antwoord" had moeten zijn. Door middel van non-lineaire optimalisatie op deze error function kunnen dan de gewichten in het netwerk aangepast worden waardoor de voorspellingen dichterbij de verwachtte output komen. Natuurlijk worden hier allerlei slimme wiskundige foefjes aan toegevoegd zodat het netwerk niet precies leert wat je het laat zien, maar kan generaliseren naar onbekende inputs.

Punt van het verhaal: zo'n neural netwerk gebruikt nergens if-else statements en is dus al helemaal geen aaneenschakeling van if-then constructies. En de term "neuraal netwerk" is gekomen omdat het geïnspireerd is op biologische neurale netwerken (zenuwstelsels...). Uiteraard bestaan er wel if-then methoden zoals decision trees maar deze zijn een stuk minder krachtig.

Zouden we willen

Ik wees niemand op zijn spelling; ik vertelde dat ChatGPT een opvallende stijl had die opvalt tussen andere reacties. Ik zal de laatste zijn die iemand anders aanspreekt op grammatica, dat is niet mijn sterkste kant