Bewustzijn in kunstmatige intelligentie

Belofte of bluf?

Kan zelfbewuste AI bestaan?

Bestaat bewuste of zelfbewuste kunstmatige intelligentie of is zoiets mogelijk in de toekomst? Voormalig Google-medewerker Blake Lemoine denkt van wel. Hij werd in juli 2022 ontslagen na beweringen over de aanwezigheid van een persoonlijkheid, een bewustzijn, in taalmodel LaMDA, kort voor Language Models for Dialog Applications. De meeste AI-experts doen zijn uitlatingen af als pure onzin. Lemoine wordt weggezet als een ‘gekkie’ en hij wordt beschuldigd van antropomorfisme, het toeschrijven van menselijke eigenschappen aan niet-menselijke wezens of entiteiten.

En ja, antropomorf denken is zeker een valkuil, vooral bij niet-levende voorwerpen. Je hebt vast weleens gevloekt tegen je auto of je laptop gesmeekt om het toch vooral weer te gaan doen, al weet je rationeel heus wel dat er niemand ‘thuis’ is. Maar hoe zit met nieuwe, zich razendsnel ontwikkelende technologie als AI? Is daar werkelijk niemand thuis? Zullen deze systemen ooit in staat zijn tot een vorm van bewustzijn? Het zijn vragen die niet eenvoudig te beantwoorden zijn. Om te beginnen is er geen duidelijke, algemeen aanvaarde wetenschappelijke definitie van bewustzijn. Ook niet van het menselijk bewustzijn dus. Wetenschappers vliegen elkaar al eeuwen in de haren en het wemelt van de tegenstrijdige theorieën, verklaringen en gedachte-experimenten. De Australische filosoof David Chalmers beschrijft de complexiteit rondom bewustzijn daarom als the hard problem of consciousness.

Primair en secundair bewustzijn

De meeste onderzoekers beseffen heel goed dat het bewustzijnsvraagstuk, op dit moment, nagenoeg onoplosbaar is. Toch is er veel interessants te vertellen over de huidige stand van zaken en de verwachting voor de toekomst. Zo geeft Rudy van Belkom, toekomstonderzoeker en directeur bij de Stichting Toekomstbeeld der Techniek, aan dat het belangrijk is om onderscheid te maken tussen primair en secundair bewustzijn. “Bij de vraag of AI en technologie wel of geen bewustzijn kunnen bereiken, wordt dat onderscheid vaak niet gemaakt”, vertelt hij.

Rudy van Belkom. Bron: Stephanie Elmensdorp

Bij primair bewustzijn, ook wel het sensorische bewustzijn genoemd, gaat het volgens Van Belkom vooral over onze sensomotorische ervaringen. “Het is het vermogen van mensen en dieren om waarnemingen te integreren met geheugen, om op deze wijze een bewustzijn van het heden te creëren. Het gaat over het bewustzijn van de wereld om hen heen in het hier en nu, zonder enig gevoel van verleden en toekomst”, legt hij uit. “Ik denk dat dat de basis is vanwaaruit het bewustzijn is ontstaan.” Het secundaire bewustzijn daarentegen zit wat ingewikkelder in elkaar. Hierbij gaat het over vooruitkijken naar de toekomst en reflecteren op het verleden. “Het omvat functies als zelfreflectie en abstract denken. Dit is wel redelijk uniek aan de mens. Als het gaat over de relatie tot AI is het de vraag of we dat secundaire bewustzijn überhaupt nodig hebben om goedwerkende AI-systemen te ontwikkelen.”

Aangeleerd bewustzijn

Denkt Van Belkom dat er een primair bewustzijn mogelijk is in AI? “Het is lastig die vraag te beantwoorden vanwege het ontbreken van een goede definitie. Het feitelijk toekennen van bewustzijn aan hersengebieden is voor zover ik weet nog niet een-op-een duidelijk. Daardoor is het eigenlijk niet mogelijk om te toetsen of een systeem een vorm van bewustzijn heeft. Zonder operationele definitie kom je niet ver. Daarbij vraag ik me af waarom we überhaupt zo verzot zijn op het ontwikkelen van een bewustzijn in een kunstmatig systeem.”

Is het dan niet mogelijk dat een dergelijk bewustzijn alsnog vanzelf ontstaat in AI? “Dat vraag ik me sterk af”, zegt Van Belkom. “Als we het menselijk brein imiteren, zou het er onbewust uit voort kunnen komen. Ik denk dat dat misschien nog wel een geloofwaardigere route is dan dat we het heel bewust gaan creëren. Want als we het niet kunnen definiëren of operationaliseren, hoe kun je het dan ontwikkelen?” Bovendien is er het risico van een ‘aangeleerd bewustzijn’. Van Belkom: “Misschien heeft het systeem geleerd om zich te gedragen alsof het een vorm van bewustzijn heeft. Daarmee is nog niet aangetoond dat het er daadwerkelijk is.”

Niemand thuis

Pim Haselager

Pim Haselager, hoogleraar maatschappelijke implicaties van kunstmatige intelligentie aan de Radboud Universiteit, denkt hier min of meer hetzelfde over. Hij vertelt: “Bewustzijn gaat om ervaring, een besef, een gevoel van aanwezigheid, om snappen waar het over gaat.” Daar zit volgens Haselager dan ook precies het probleem met AI. “We hebben bijvoorbeeld systemen die heel goed kunnen schaken. Ze verslaan de wereldkampioen zonder enig probleem, maar ze weten niet wat winnen of verliezen is. Of denk aan medische systemen die perfect tumoren kunnen detecteren. Ze weten echter niet wat ziek zijn is of hoe dat voelt. Bij AI zitten we dus met systemen die op sommige domeinen heel erg goed zijn en er toch geen ene jota van begrijpen”, aldus Haselager.

Op een bepaalde manier is dat misschien grappig, maar het wordt problematisch als er iets fout gaat. Ze hebben er namelijk geen idee van dat het fout is. “Dat zie je nu ook in taalprogramma’s”, zegt Haselager. Als voorbeeld noemt hij het door OpenAI ontwikkelde taalmodel GPT-3. “Zo’n programma produceert heel overtuigende zinnen, doordat het zo enorm uitgebreid is en met gigantisch veel data werkt, maar er is nog steeds niemand thuis. Elke vijf jaar is er weer een nieuw voorbeeld van een computer die lijkt te slagen voor de turingtest en waaraan vervolgens een bewustzijn wordt toegeschreven. Elke keer weer moeten er mensen opdraven om uit te leggen dat er een verschil is tussen goed doen alsof en het echt snappen.”

Onderscheid intelligentie en bewustzijn

Haselager raakt daarmee aan een andere belangrijke kwestie in de discussie rondom bewustzijn in AI: het onderscheid tussen intelligentie en bewustzijn. “Ervan uitgaande dat we bestaan uit materiële deeltjes die wetmatig interacteren en zich gedragen volgens de natuurwetten, moet natuurlijk uit te leggen zijn hoe we bewust kunnen zijn en gevoelens en ervaringen kunnen hebben. Ik constateer echter tegelijk dat we in de praktijk wel heel veel snappen van intelligentie, maar heel weinig van bewustzijn. Ik zie het zo langzamerhand als twee dimensies”, zegt hij.

Op het gebied van intelligentie is er volgens Haselager een duidelijke stijgende lijn; we snappen steeds meer. Wat gevoel en beleving betreft zijn we echter nog lang niet zover, zegt Haselager. Hetzelfde geldt voor onze slimste, intelligentste systemen. “Die programma’s voelen nog steeds evenveel als een ijskast, helemaal niks dus. Daar moeten we mee leren leven, want dat is nieuw voor ons.” Hij legt uit: “Alle natuurlijke systemen, mens en dier, hebben een bepaalde mate van gevoel en een bepaalde mate van intelligentie. Op de een of andere manier waren die twee dingen altijd met elkaar verbonden. Wat we nu zien, is dat er een nieuw soort systeem komt dat we zelf gebouwd hebben. Op deelgebieden is dat systeem hartstikke goed in intelligentie, maar het heeft nul gevoel. Dat zijn we niet gewend.”

Aandacht voor gevoel en emotie

'Door AI leren we nu misschien juist wel dat onze intelligentie helemaal niet zo briljant is'Haselager ziet hierin een positief aspect. “Vanuit de westerse traditie zijn we bovenmatig gefascineerd door intelligentie. Onze taal en intelligentie zouden ons onderscheiden van de dieren. Door AI leren we nu misschien juist wel dat we meer verbonden zijn met dieren dan we ons realiseren en dat onze intelligentie helemaal niet zo briljant is.” Volgens Haselager moeten we toe naar een herwaardering van gevoel en emotie. “Met het zalig verklaren van intelligentie zijn we niet bepaald opgeschoten. Zo slim zijn we helemaal niet. We hebben meer ethiek en empathie nodig en niet het steeds beter kunnen doen alsof.”

Ook Frank van Harmelen, hoogleraar knowledge representation & reasoning op de AI-afdeling van de Vrije Universiteit Amsterdam, is van mening dat intelligentie en bewustzijn minder vaak samenvallen dan we denken. “Ze worden heel vaak door elkaar gehaald, maar ik denk dat het twee verschillende systemen zijn”, zegt hij. “Ik kan me bijvoorbeeld een systeem voorstellen dat heel intelligent is in die zin dat het allerlei problemen kan oplossen zonder dat daar veel bewustzijn aan te pas komt. Ik kan me echter ook goed voorstellen dat er vormen van bewustzijn zijn die helemaal niet zo intelligent zijn. Ik heb geen idee hoe die samenhangen, maar ze hoeven zeker niet hetzelfde te zijn.”

Antropomorfisme

Frank van Harmelen

Ruimte bieden aan andere vormen van bewustzijn kan volgens Van Harmelen alleen als we onze menselijke bril afzetten. Dat is nog niet zo makkelijk, mede vanwege onze niet te onderdrukken neiging om antropomorf te denken. “We schrijven allerlei eigenschappen toe aan niet-levende dingen”, zegt Van Harmelen. “Daarom kan ik me ook best voorstellen dat die Google-medewerker dacht dat LaMDA een bewustzijn had. De mogelijkheden van dergelijke programma’s zijn werkelijk verbluffend. Als antropomorf denkend mens is het verleidelijk om dan te denken dat er iemand thuis is. Het zegt echter meer over onze denkneigingen dan over wat er daadwerkelijk in die computer gebeurt.”

Hoewel Van Harmelen dus begrijpt hoe Lemoine tot zijn ideeën kwam, ziet hij ook de risico’s van diens uitlatingen. “Het gevaar van de onzin die zo’n man uitkraamt, is groter dan het gevaar van het systeem waar hij mee werkt. Google heeft een stevige reputatie en als iemand daar iets roept, krijgt het geloofwaardigheid.”

Wapperen met onze vleugels

Van Harmelen, Haselager en Van Belkom zijn van mening dat de focus veel minder op menselijke intelligentie en bewustzijn moet liggen. “Ik heb me altijd afgevraagd waarom menselijke intelligentie als stip op de horizon staat. Waarom gaan we niet op zoek naar vormen van intelligentie die ons aanvullen of versterken? We streven nu iets na waarvan we weten dat het niet foutloos is”, zegt Van Belkom. Hij noemt de luchtvaart als voorbeeld. “We zijn eigenlijk pas stappen gaan maken op het moment dat we het idee loslieten dat we moesten vliegen als een vogel. Door te kijken naar de krachten die vliegen mogelijk maken, kwamen we vooruit. Sinds we snappen hoe al die krachten samenwerken, hebben we vliegtuigen die veel sneller zijn dan vogels.” Bij het ontwikkelen van AI proberen we volgens Van Belkom nog steeds te ‘wapperen met onze vleugels’. “Mijn advies zou zijn daarmee te stoppen”, zegt hij. “Laten we in plaats daarvan onderzoeken welke krachten een rol spelen bij intelligentie en bewustzijn.”

'Uiteindelijk is ons brein een fysieke machine. Ik denk dat bewustzijn te herleiden zal zijn tot wat er in die machine gebeurt'Stel nu dat het ons lukt te stoppen met antropomorf denken en open te staan voor andere, niet-menselijke vormen van bewustzijn. Is zo’n vorm dan mogelijk in AI? Van Harmelen geeft aan dat bij het beantwoorden van die vraag onderscheid gemaakt moet worden tussen de filosofische discussie 'is het in principe mogelijk?’ en de technologische discussie ‘is het nu al mogelijk of zouden we nu al kunnen weten of het over tien jaar mogelijk zal zijn?’

“Uiteindelijk, en deze mening wordt gedeeld door vele andere wetenschappers, is ons brein een fysieke machine. Ik denk dat bewustzijn te herleiden zal zijn tot wat er in die machine gebeurt. Er is dus niet nog een tweede wolkje dat daarboven zweeft als een immateriële geest.” Zo’n fysieke machine zou best bepaalde ervaringen tot stand kunnen brengen, al hoeven die dus niet overeen te komen met onze menselijke ervaringen. “Het filosofische antwoord op de vraag of een bewustzijn in principe mogelijk is, is wat mij betreft een hartgrondig ja. Er is geen enkele reden om te denken dat het spul tussen onze oren zo bijzonder is dat dat op een andere manier niet mogelijk zou zijn. Je hoeft niet per se mens te zijn om bewustzijn te hebben.”

Ruimte vol bewustzijnsvormen

Het antwoord is echter een hartgrondig ‘nee’ in het geval van de technologische vraag. “Onze computers komen niet in de buurt van de complexiteit zoals wij die hebben. Of zoals honden, katten of octopussen die hebben. Computers zijn daarentegen wel goed in imiteren”, aldus Van Harmelen. De mogelijkheid dat er in de verre toekomst ‘iets’ in de systemen ontstaat dat wij er niet opzettelijk in hebben gestopt, sluit hij echter niet uit. “Dat zou iets kunnen zijn dat de naam bewustzijn verdient, maar wat voor soort bewustzijn dat is, blijft speculeren.”

Misschien kunnen we bewustzijn wat dat betreft beter zien als een heel grote diversiteit van mogelijkheden, als een soort ruimte, zegt Van Harmelen. Overal in die ruimte bestaan verschillende soorten bewustzijn. “Dat zijn allemaal vormen van bewustzijn die op de een of andere manier die naam verdienen, al hebben we er geen goede definitie voor.” Een eventueel toekomstig AI-bewustzijn bevindt zich ook in die ruimte, waarschijnlijk heel ver weg van de plek voor het menselijk bewustzijn.

Tweesnijdend zwaard

Op de vraag of hem dat beangstigt, zegt hij: “Ik vind het heel moeilijk die vraag te beantwoorden. Het gaat'Er wordt niet altijd goed nagedacht over de consequenties van wetenschappelijke ontdekkingen' hierbij vooral om wenselijkheid. Ik denk dat er in de loop van de geschiedenis van de wetenschap veel ontdekkingen zijn geweest waar we uiteindelijk zeer gemengde gevoelens over hadden, de atoombom bijvoorbeeld. Natuurkundigen hebben later gezegd dat de ontdekkingen die geleid hebben tot de atoombom, eigenlijk best gevaarlijk waren en dat er niet genoeg was nagedacht over de gevolgen.”

Toch hebben dergelijke ontdekkingen ook tot positieve ontwikkelingen geleid. Met radioactiviteit kun je onder meer energie opwekken en kankerbestralingen uitvoeren. “Het is een tweesnijdend zwaard met goede en slechte kanten. Er wordt niet altijd goed nagedacht over de consequenties. Ik maak me weleens zorgen dat AI in zo’n zelfde positie zal belanden. Daar moeten we als maatschappij en als wetenschappers wel over nadenken.”

Bannerfoto: Yuichiro Chino / Getty Images

Reacties (65)

[pim]

Als we geloven in wetenschap, is alles te verklaren, en heeft elk probleem een theoretische oplossing.
Daarmee zou ook bewustzijn theoretisch verklaarbaar moeten zijn, en hypotethisch gesimuleerd kunnen worden.
Ondanks dat we nu nog niet snappen hoe bewustzijn werkt.

[JurGor]

Wetenschap is geen geloof. Ik wil je echt op het hart drukken om niet die denkfout te maken. Dat er ook gelovige wetenschappers zijn en dat je theologie kan studeren aan de universiteit doet hier niets aan af: wetenschap. is. geen. geloof.

De huidige wetenschappelijke consensus wijst in de richting dat bewustzijn iets is dat in de hersenen gegenereerd wordt. De exacte mechanismen erachter snappen we nog niet. Zoals het artikel ook weergeeft: we zien vogels vliegen, maar snappen nog niet hoe ze dat doen.

Dat betekent niet dat het kunstmatig opwekken van bewustzijn nu nog niet mogelijk is. Maar het zou een absolute toevalstreffer zijn, omdat we simpelweg nog niet weten hoe dat zou moeten.

Sterker nog, omdat zelfs de definitie van bewustzijn nog niet rond is, zou het bij voorbaat al een probleem kunnen zijn om überhaupt vast te stellen dat er bewustzijn is gecreëerd.

[blorf]

Volgens mij heb je bij een computerprogramma het probeem dat de logische bewerkingen op bit-niveau geen enkel verband met elkaar hebben omdat ze zijn gescheiden door klokcycli. Er kan geen persoonlijkheid, wil of doel bestaan en het geheel kan gewoon gepauzeerd of overgeschreven worden zoals altijd.

[foaly]

je kan met die logische bewerkingen op bit niveau wel een artificieel neutraal netwerk simuleren en dan is de vraag zolang die simulatie draait, geldt voor die simulatie dan hetzelfde?

[teek2]

Precies, misschien is het eerst een gigantische computer die we bouwen om (ons!) bewustzijn te simuleren, we doen dan alle neurons zo goed mogelijk na. Dan gaan we kleiner maken, en misschien gebruiken we wel synthetische cellen enz... tot we eigenlijk gewoon een mensen brein hebben gebouwd.

Het is een beetje het thema van Ghost in the Shell, the Major is voor zo'n groot deel synthetisch dat ze worstelt met de vraag: "Ben ik wel mens?" Ik vind het wel sterk dat ze dit nooit beantwoorden overigens, we kunnen er nog niet echt iets over zeggen. Misschien kunnen we wel ooit wiskundig bewijzen dat een brein nooit zichzelf helemaal kan begrijpen? (Maar een complexer brein kan de onze weer wel begrijpen/omvatten?). Of misschien bewijzen we dat dit zo'n vraag is die altijd onbewezen zal blijven (https://www.youtube.com/watch?v=HeQX2HjkcNo&t=58s).

Ach ja, blijft leuk om over na te denken, met ons kleine breintje.

[pegagus]

Als we geloven in...... Dan bepaald jouw geloof of iets mogelijk is.

Maar even een andere mogelijkheid (en zo je wilt, ook een vorm van geloof). Stel dat ons bewustzijn onze werkelijke identiteit is, die ook kan bestaan zonder menselijk lichaam. En stel dat we buiten ons lichaam veel meer kunnen waarnemen, omdat onze hersenen en ons zintuigen werken als een filter, waardoor wij niet alles waarnemen, wat er werkelijk is. Wat bouw je dan en wat simuleer je dan? Het bewustzijn of de hersenen.

Bovenstaande is algemeen aanvaard binnen de paranormale wereld. Met name in bijna dood ervaringen wordt dit fenomeen beschreven. In die wereld wordt ook beschreven hoe ons bewustzijn onlosmakelijk deel uit maakt van een veel groter kosmisch bewustzijn, en dat we zonder ons lichaam communiceren zonder woorden, maar met onze gedachten. En bv ook dat tijd een aards en lichamelijk fenomeen is. Dat wanneer je bij wijze van spreken in Nederland denkt aan een strand in Spanje en dat je dan instantaan op dat strand is Spanje brengt.

En dan nu terug naar geloven in wetenschap: Einstein heeft al eerder ruimte en tijd verklaard. De quantummechanica verklaart (een heel klein beetje) wat in de paranormale wereld wordt beschreven.

De gedachte dat bewustzijn iets is, wat in de hersenen wordt geproduceerd, is in de wetenschap redelijk algemeen aanvaard. Maar er zijn dus ook gedachten dat bewustzijn iets is wat los van het lichaam kan bestaan, en die gedachte wordt dus ook wel degelijk gevoed vanuit de wetenschap. Een apparaat maken wat zelf bewustzijn produceert, dat kan alleen als bewustzijn op een zelfde manier in de hersenen wordt geproduceerd. Maar die gedachte kan wel eens van het zelfde niveau zijn als dat de aarde plat is.

[Nappie]

Volgens mij is al bewezen dat niet elk probleem oplosbaar is. Gödels onvolledigheidsstellingen.

[Sensor55]

Nou ja, Gödels theorema zegt dat een compleet en consistent logisch systeem niet zichzelf kan bewijzen.
Maar dit is inderdaad relevant voor deze discussie.
Lees Roger Penrose - Shadows of the Mind.

[Zeerob]

“Uiteindelijk, en deze mening wordt gedeeld door vele andere wetenschappers, is ons brein een fysieke machine. Ik denk dat bewustzijn te herleiden zal zijn tot wat er in die machine gebeurt. Er is dus niet nog een tweede wolkje dat daarboven zweeft als een immateriële geest.”

Ik vraag me af of de beide geïnterviewde deskundigen wel zo erg vooroplopen in dit vakgebied.
De hier aangehaalde mening dat een brein niets meer is dan een machine en dat bewustzijn uiteindelijk gewoon een eigenschap van die machine is, is naar mijn mening al een wat ouder standpunt (20 jaar geleden). Tegenwoordig gaan er steeds meer stemmen op dat bewustzijn iets fundamenteels is, dus misschien wel een tweede wolkje. Dit komt ook duidelijk naar voren in het filmpje met David Chalmers.

[koelpasta]

David Chalmers is een filosoof. De wetenschap heeft door de jaren heen de ene na de andere filosofie van bewustzijn onderuitgehaald. Ik zie geen goede reden om aan te nemen dat deze filosoof het nu wel bij het juiste eind heeft.
Om je een idee te geven over de verhouding tussen bewustzijn en het brein wil ik je vragen een priem in je schedel te boren en te kijken of dat wolkje dan onafhankelijk blijft voortbestaan zonder de hersenen. (nee, niet serieus bedoelt ).
Het grootste probleem dat ik heb met filosofen die bewustzijn proberen te verklaren is dat ze allemaal 'van binnen uit' redeneren. Maar vanuit die positie kun je nooit losbreken naar de buitenwereld. Ons denken is het gevolg van een fysiek systeem maar je kunt met denken de grenzen van de binnenkant van dat systeem niet doorbreken. Je ziet dus dat dit soort denkers dan te veel belang gaan hechten aan de zaken die ze wel van binnen kunnen 'zien', zoals taal. Dat soort paden beschrijven dan enkel de eigenschappen van de output van specifieke functies van menselijk bewustzijn, maar kunnen dat niet koppelen aan werkelijke functies van de neurale verbindingen, het interne functioneren van neuronen en de algemene chemische huishouding in ons lichaam (hormonen, energievoorziening, etc). Hierdoor gaat alles dat ze van binnenuit zien eruitzien als een wolk zonder een echte verklaring.
En ik denk dat die David Chalmers er ook zo een is die het bewustzijn in esotherische regionen gaat zoeken.
Overigens zijn dit soort stemmen er altijd geweest en er was een tijd waarin dit 'wolkdenken' de enige filosofie was die werdt beschouwd. Je kon zelfs op de brandstapel belanden als je niet in een ziel geloofde.
Hoe dan ook denk ik dat terugvallen op een versie van een ziel een teken is van opgeven. Er is tot nog toe nul bewijs voor. Daarnaast zijn we nog heel vroeg in het stadium van het begrijpen van de implicaties van neurale netwerken. Die bron is bij lange na niet uitgeput. Om nu dus al te roepen dat de fysieke weg geen heil brengt is veel te voorbarig.
Niet dat er niet over nagedacht mag worden, maar de recente opwelling van dit soort ideeen (panpsychisme, etc) voelt sterk als vluchtgedrag. Het veronderstelt een systeem dat volledig buiten het onderzoekbare valt. Het is non-wetenschappelijk. Metafysieka dus.
We zijn net begonnen de werking van het menselijk lichaam te ontrafelen en dit soort mensen vlouchten dan gelijk naar een hoek waar wetenschap niet mogelijk is. Dit is hoe religies werken en is eigenlijk anti-wetenschappelijk. Kijk er dus mee uit.

[Tweddy]

Pim Haselager: "Elke vijf jaar is er weer een nieuw voorbeeld van een computer die lijkt te slagen voor de turingtest en waaraan vervolgens een bewustzijn wordt toegeschreven. Elke keer weer moeten er mensen opdraven om uit te leggen dat er een verschil is tussen goed doen alsof en het echt snappen.”

Hij lijkt hiermee schamperend te suggereren dat kunstmatige intelligentie nooit de grens van het menselijk bewustzijn zal benaderen.

[ari3]

Hij lijkt hiermee schamperend te suggereren dat kunstmatige intelligentie nooit de grens van het menselijk bewustzijn zal benaderen.

De Turing-test toetst alleen de uiterlijke gedragingen van een vermeend zelf-bewustzijn. Op die manier kun je de ervaring van bewustzijn door een AI nooit toetsen, net zoals je de ervaring van bewustzijn van mensen op die manier ook niet kan toetsen.

Het is een oud filosofisch concept: ik kan alleen van mezelf vaststellen dat ik mijn bewustzijn ervaar. Het is zelfs de enige objectieve observatie die je kunt doen. Al het andere is subjectief. Mijn familie en collega's slagen ook voor de Turing-test, maar ik kan niet met zekerheid vaststellen dat zijn ook bewust zijn of hun bewustzijn ervaren.

[JorisIH]

Ik heb turing test altijd een wat vreemde gevonden.
Wat nu als een AI met evenveel bewustzijn als een koelkast er perfect in slaagt om de gebruiker te doen denken met een intelligent wezen te maken te hebben?

Wellicht een bijzonder knappe simulatie, maar impliceert dat werkelijk bewustzijn?

Maar die vraag blijft redelijk loos als er geen definitie van bewustzijn bestaat.

[Playa del C.]

Goed verhaal, fascinerend. Zelf denk ik dat de sleutel ligt bij de combinatie geheugen/denkvermogen. Het creëert immers een constante link tussen wat ik deed, wat ik denk en wat ik ga doen. Een moment later is wat ik ging doen, toegevoegd aan de lijst wat ik deed. Daardoor blijf ik mij voortdurend herinneren wat en wie ik ben.

Heel jonge mensen (baby's) hebben nog weinig tot geen geheugen en hebben een stuk minder zelfbewustzijn dan een volwassen mens. Een baby opereert meer als een machine of een chip. Honger, moe, pijn => huilen. Als volwassene heb je die ervaringen ook, maar ben je zo bewust dat je er vrijwel nooit om huilt en er vaak bewust een tegengestelde keuze bij maakt. 'Ik ben wel moe, maar ik wil nog niet slapen.'

Bij een bejaarde kan het denkvermogen en/of het geheugen door ziekte/ouderdom flink worden aangetast. Ook daar zie je het bewustzijn weer afnemen, ze gedragen zich vaak weer erg primair en meer als een baby.

Dan zijn er nog de bijzondere gevallen waar iemand een kasplantje is geworden of in slaap is of onder invloed van stoffen. Het heeft zo'n impact dat ons bewustzijn anders wordt of zelfs weg raakt. Het is dus iets in het brein en de meest opvallende functies zijn, volgens mijn brein, dat we geheugen hebben en denkvermogen. Zei het brein dus over zichzelf. Zelfbewust...

Computers hebben beide functies ook. Ze zijn echter 100% voorgeprogrammeerd, waar onze hersenen flexibel en zelflerend zijn. Is dat zelflerende genoeg om van een ding met geheugen en denkvermogen iets zelfbewusts te maken? Zou best kunnen als het ding zich steeds aanleert dat het iets gaat doen en dat het zich daarna aanleert dat het datgene net heeft gedaan. Het creëert de illusie dat je ergens mee bezig bent als bewuste identiteit.

Maar daarbovenop moet ik wel zeggen dat ik totaal geen enkel idee heb bij de vraag waarom ik dan precies mij ben en niet een ander. Had ik geboren kunnen worden als een ander? Of als een AI?

[Slaveofthewave]

Wat je denkt, weet en wat je doet of gedaan hebt zijn puur feitjes, dat moet voor AI geen moeite kosten. Waar je welke prikkels ervaart in je lijf bv waar je arm zich bevind, of er ies beschadigd raakt, hoe fel licht is of hoe hard geluid is zal AI ook prima kunnen.

Beleving en (emotionele)betekenisgeving zijn daarbij zaken die een andere dimensie toe voegen. Iets mooi vinden, iets dat je raakt, dat je de postzegelverzameling van je overleden oma nooit weg zal doen, ookal geef je helemaal niets om postzegels, of de ene keer heerlijk vinden als het 30 graden is, en de andere keer je er kapot aan ergeren etc. Ik weet niet wat AI allemaal kan, maar vermoed dat dit soort dingen nog lastig zijn. Dat dit aardig gesimuleerd kan worden denk ik wel.

Wanneer noem je het bewustzijn? Wij gaan veelal uit van onze eigen bewustzijnsbeleving. Maar misschien moeten we dat begrip als iets wat zich in een spectrum bevind aanschouwen

[Reactie gewijzigd door Slaveofthewave op 22 juli 2024 23:30]

[equit1986]

maar hoe zit dat dan met iemand zoals ik, die aangeleerd sociaal gedrag heeft.
Van nature heb ik geen of verminderde empathie en acteer ik alleen maar op aangeleerd sociaal gedrag.
Ik heb dus geleerd hoe ik met mensen om moet gaan en welke omgangsvormen daar bij komen kijken. Dit is niet iets wat bij mij van nature komt. Zou ik dan een slecht geprogrammeerde AI zijn? Want ik kan sociaal gedrag heel goed simuleren, maar daadwerkelijk iets voelen als een ander voor mijn neus zn been breekt(heel grof gechargeerd natuurlijk), doe ik eigenlijk niet. En toch kan ik prima functioneren in de maatschappij, door mijn aangeleerd sociaal gedrag. 100% van de mensen die ik ontmoet en achteraf vertel dat ik autisme heb met aangeleerd sociaal gedrag, is het niet eens opgevallen.
Desondanks heb ik wel een bewustzijn(denk ik ). Ik heb een groot probleem oplossend vermogen, maar heb een verminderd korte termijn geheugen.

Ik denk persoonlijk dat iedereen een AI is, alleen een organische AI vanuit de evolutie. Niet een met de handgemaakte AI. Ik denk ook serieus dat AI icm bewustzijn niet iets technisch is, maar iets filosofisch.

[fastedje]

In de kwantummechanica is bewustzijn ook een belangrijk begrip en zijn hier ook al diverse wetenschappelijke studies naar gedaan waarbij blijkt dat je met je bewustzijn kwantummechanische effecten kan beïnvloeden, zoals in deze studie: https://youtu.be/nRSBaq3vAeY

Een ander zeer bekend voorbeeld is dat mensen met hun gedachte random-number-generators kunnen beïnvloeden. Er is zelfs een heel wereldwijd netwerk die abnormale schommelingen registreerd: net voor het 9-11 gebeuren waren er flinke afwijkingen in de gemeten eaarden over de hele wereld.

Ik vraag me dan ook af of een zeer geavanceerd AI systeem dezelfde effecten kan veroorzaken.

[rvt1]

Sorry, “I call bull”, zonder dat erg gedegen onderzoek naar gedaan is door wetenschappers. Dus met proper peer reviews en herhaling.

[fastedje]

Dat is wel het mooie aan wetenschap: je kan zelf ook gewoon een randomn number generator kan kopen en dit experiment zelf kan uitvoeren. Het effect is al jaren bekend en onderzocht, google maar eens op ' influence random number generator with your mind'

[akooijman]

En zijn er ook peer reviewed artikelen in serieuze wetenschappelijke tijdschriften gepubliceerd? Dan kun je ongetwijfeld een paar referenties delen?
Honderdduizend hits op Facebook zeggen namelijk helemaal niets.
James Randi heeft tien jaar of langer een miljoen beschikbaar gesteld voor de eerste die onder gecontroleerde omstandigheden 'iets paranormaals' kon. Nul kandidaten zijn de uitdaging aangegaan.
Hetzelfde gaat zonder enige twijfel gebeuren bij jouw random generator experiment onder gecontroleerde omstandigheden: de random generator blijft gewoon wat hij is: een random generator.

[rvt1]

Independent scientists Edwin May and James Spottiswoode conducted an analysis of the data around the September 11 attacks and concluded there was no statistically significant change in the randomness of the GCP data during the attacks and the apparent significant deviation reported by Nelson and Radin existed only in their chosen time window.[5] Spikes and fluctuations are to be expected in any random distribution of data, and there is no set time frame for how close a spike has to be to a given event for the GCP to say they have found a correlation.[5] Wolcotte Smith said "A couple of additional statistical adjustments would have to be made to determine if there really was a spike in the numbers," referencing the data related to September 11, 2001.[15] Similarly, Jeffrey D. Scargle believes unless both Bayesian and classical p-value analysis agree and both show the same anomalous effects, the kind of result GCP proposes will not be generally accepted.[16]

Er staat gewoon duidelijk in dat er geen invloed is.

Zelf testen heeft uiteraard geen zin. A ik ben geen wetenschapper en b de TRNG is mij te duur om iets mee te testen.

[koelpasta]

In de kwantummechanica is bewustzijn ook een belangrijk begrip en zijn hier ook al diverse wetenschappelijke studies naar gedaan waarbij blijkt dat je met je bewustzijn kwantummechanische effecten kan beïnvloeden, zoals in deze studie: https://youtu.be/nRSBaq3vAeY

Die studie is onzin en voldoet totaal niet aan wetenschappelijke eisen. Zo laat de testopstelling een 'effect' zien zonder dat er uberhaupt testpersonen aan te pas kwamen. En dat effect (afwijking) is ook nog eens groter dan het effect dat ze zeggen te meten. Het is bizar slecht gedaan en je mag het resultaat niet gebruiken om wat dan ook te bewijzen. Zie https://www.frontiersin.o...389/fpsyg.2019.01891/full

Een ander zeer bekend voorbeeld is dat mensen met hun gedachte random-number-generators kunnen beïnvloeden.

Daar zijn ook nul bewijzen voor.

Ik vraag me dan ook af of een zeer geavanceerd AI systeem dezelfde effecten kan veroorzaken.

Alle paranormale nonsens is tot nu toe zwaar gedebunked en er is nul bewijs dat er zoiets bestaat als telekinese e.d. Aangezien die 'effecten' waar jij in gelooft bij nader inzien niet bestaan denk ik dat het antwoord op je vraag vrijwel zeker 'nee' is.

[Bauknecht]

Heel jonge mensen (baby's) hebben nog weinig tot geen geheugen en hebben een stuk minder zelfbewustzijn dan een volwassen mens. Een baby opereert meer als een machine of een chip. Honger, moe, pijn => huilen. Als volwassene heb je die ervaringen ook, maar ben je zo bewust dat je er vrijwel nooit om huilt en er vaak bewust een tegengestelde keuze bij maakt. 'Ik ben wel moe, maar ik wil nog niet slapen.'

Ik begrijp het anders. Baby's functioneren net niét als een machine, maar als een dier. Ze gebruiken nog geen intelligentie of deelaspecten daarvan. Dat kunnen ze ook niet (zie Piaget bv.). Ze zijn één en al instinct en waarneming zonder cognitieve abstractie. Het is ook niet omdat er geen bewustzijn is, dat er geen emoties zijn: die zijn er bij baby's ook. Een baby kan best wel huilen omdat hij ongelukkig is. Wat soms voortkomt uit de fysieke gewaarwording van honger. Een prikkel die aanleiding geeft tot een emotie: dat is net hetgene dat levende wezens vooralsnog onderscheidt van machines.

Edit: een boek dat het uitvoerig heeft over bewustzijn is "Buitengewoon Bewustzijn" van Peter Godfrey Smith. Verwacht geen definitief antwoord, meer een reeks observaties en bedenkingen die je aan het nadenken zetten over dit onderwerp.

[Reactie gewijzigd door Bauknecht op 22 juli 2024 23:30]

[koelpasta]

Baby's functioneren net niét als een machine, maar als een dier. Ze gebruiken nog geen intelligentie of deelaspecten daarvan.

Dieren hebben wel degelijk verschillende uiteenlopende vormen van intelligentie.
Je maakt niet duidelijk om wat voor soort intelligentie je het hebt.
Babies kunnen bijvoorbeeld dingen vastpakken die ze in hun mond willen stoppen. Dat is intelligentie, zelfs als dat vanuit instinct gebeurt.
Ook kunnen babies dingen leren herkennen. Dat is op zn minst een deelaspect van intelligentie.
Sowiso, het feit dat babies verbanden kunnen leren is een overduidelijke manifestatie van intelligentie.

zie Piaget bv.

Dat is een man die meer dan een eeuw geleden was geboren en die zijn boeken formuleerde met kennis van vele decennia geleden. Aannemen dat hij het toen 100% bij het rechte eind had en dat er in de tussentijd geen nieuwe inzichten zijn ontstaan is waanzin. Niet alleen is de definitie van intelligentie enorm veranderd, ook de mogelijkheden tot onderzoek zijn veel groter dan waar hij over kon beschikken.

een boek dat het uitvoerig heeft over bewustzijn is "Buitengewoon Bewustzijn" van Peter Godfrey Smith.

Maar die man argumenteert dat er verschillende vormen van intelligentie bestaan. Hoe kan je dan claimen dat babies geen intelligentie gebruiken? Weet je zeker dat je alle vormen van intelligentie in een babie kunt herkennen en ben je niet per ongeluk jouw eigen ervaring als ervaringsdeskundige op het gebied van het bezitten van een intelligentie aan het projecteren op die arme babie?

[Bauknecht]

Jij argumenteert dat baby's als machines zijn. Ik stel dat het complexer is: baby's beleven de wereld - net zoals dieren - via emoties. Ze zijn meer dan eenvoudige als-danautomaten. En nu begint jij een semantische discussie over soorten intelligentie, gooit maar wat termen op een hoop (een grijpreflex is net géén vorm van intelligentie) en haalt er wat inhoudsloze ad hominem argumenten bij (laten we Newton ook maar schrappen uit de handboeken want oude kennis van een oude man opgedaan met oude methodes) en citeert de achterkant van een boekkaft zonder dat je het boek gelezen hebt, en dit allemaal zonder verder in te gaan op de oorspronkelijke discussie. Ik ga geen discussie om de discussie voeren, prettige dag nog.

[gaskabouter]

Op zich een mooi betoog wat je houdt met toch twee opmerkingen:

Baby's hebben een gereedschapskist meegekregen die hun in staat stelt volledig zelfbewust te worden. Die gereedschappen moeten na de geboorte nog verder groeien om gebruikt te kunnen worden, daar hebben ze hulp in de zin van een sociale structuur of cultuur voor nodig (om te leren praten bijvoorbeeld). Het bewustzijn of geheugen is er dus waarschijnlijk wel, in ieder geval de basis maar ze gebruiken het nog niet of wij kunnen nu nog toetsen of ze dat doen. In de regel kunnen ze iedere keer dan we denken als we het gaan onderzoeken, dieren trouwens ook. Bij ouderen geldt dat bepaalde functies prevaleren. Andere banen gaan verloren en de neurocognitive "olifantenpaadjes" blijven behouden. Is geen teken van verlies van bewustzijn maar een vasthouden aan functies die effectief zijn. Overigens ook zeer goed te trainen.

Tweede is meer beetje zeuren. De term bewustzijn zegt niets over je cognitieve functies maar de mate waarin je in staat bent die in te zetten. Een verlaagd bewustzijn is een pathologische conditie veroorzaakt door een ziekte of intoxicatie van de hersenen. Slapen is in feite geen verlaagd bewustzijn maar een fysiologische variant daarop. Zelfbewust zijn, twee losse woorden, is niets anders dan weten dat je een denkend wezen bent, en in hogere vorm weten dat een ander dat ook is. Dus een olifant die in de spiegel kijkt weet dat hij zichzelf ziet en een kraai die iets verstopt en ziet dat ik hem zie weet dat ik weet dat hij daar iets verstopt heeft.

Eigenlijk geen maat van intelligentie maar komt wel bij vrijwel alle "hogere" dieren, en octopussen, voor een in die zin een functie van de hersenen die duidt op hogere intelligentie. Maar je zou je voor kunnen stellen dat het niet nodig is voor hogere cognitieve processen maar alleen voor de interactie met andere wezens.

[Artimunor]

Klinkt als een overtuigend verhaal maar je statement dat babies minder zelfbewust zijn en als een machine opereren is een beetje kort door de bocht.
Lees bijvoorbeeld het boek Wonderweeks waar onderzoek gedaan is naar het huilen van babies en deze toegeschreven wordt aan emotionele stress. De baby is wel zelfbewust maar kent zijn omgeving nog niet, als zijn ervaringswereld groter wordt dan maakt dat een enorme (stressvolle) indruk. Super interesting is hoe veel effect het goed ondersteunen en het er voor de baby zijn in die moeilijke periode heeft op het leervermogen en onderzoeksvermogen van het latere kind.

Je linkt (net als de A.I. boeren eigenlijk) uiterlijk gedrag/vertoon aan het hebben van beleving, precies hetgeen waar Pim Haselager tegen ageert.
Interessante redenering, maar ik denk dat bewustzijn een stukje ingewikkelder in elkaar zit, en we er gewoon nog te weinig van weten om te kunnen stellen hoe het in elkaar zit. Het blijft giswerk, en logische in-en-uitsluitingen, scratching the surface.

[koelpasta]

Ze zijn echter 100% voorgeprogrammeerd, waar onze hersenen flexibel en zelflerend zijn.

Je kunt een computer 100% voorprogrammeren om zelf te leren.

[akooijman]

Alphazero is zeker niet 100% voorgeprogrammeerd maar heeft van nul af go leren spelen.
PaLM is ook als leeg blad begonnen en heeft 540 miljard webpaginas gelezen om dingen te leren. (Het zit iets anders in elkaar overigens, maar dit leest lekker).
Intelligent? Denk ik niet, maar honderd procent voorgeprogrammeerd zijn deze systemen niet.

[eggsforpedro]

De aanname die we bij dit soort vraagstukken bijna altijd doen is dat bewustzijn een product is van de hersenen. Maar hoe gaan we dat ooit toetsen? Wie zegt dat bewustzijn niet primair is, en dat onze hersenen slechts een ontvanger zijn van dit bewustzijn? Ook zonder gedachten of herinneringen is er bewustzijn, dit kan je zelf toetsen. Bewustzijn gaat ook vooraf aan zintuigelijke ervaring. Het is ons bewustzijn die dit alles (gedachten, herinneringen en zintuigelijke ervaringen) registreert. Het staat dus los van die dingen.

[Reactie gewijzigd door eggsforpedro op 22 juli 2024 23:30]

[hantheman]

Interessant, echter de aanname dat bewustzijn vooraf gaat aan zintuigelijke ervaring vindt ik moeilijk voor te stellen.
Waar zit dat stuk bewustzijn dan als het los zou kunnen staan van het brein?

[eggsforpedro]

Met betrekking tot je eerste opmerking: je bent je bewust van zowel stilte als geluid. Het geluid wordt door het bewustzijn ervaren, maar de stilte ook. Het bewustzijn gaat daarmee vooraf aan de zintuigelijke ervaring, sterker nog, het is een voorwaarde voor het hebben van die zintuigelijke ervaring.

Je tweede vraag is precies waar het hier om gaat. Wat is primair? Is dat materie of bewustzijn? Is bewustzijn een afgeleide van materie, of begint alles met bewijstzijn en is materie slechts een object van dit bewustzijn? Alles zou een droom kunnen zijn, maar dan is er nog steeds een bewustzijn wat die droom ervaart. Dit bewustzijn is dan primair: het is er altijd, onvoorwaardelijk, oneindig.

[Reactie gewijzigd door eggsforpedro op 22 juli 2024 23:30]

[ari3]

Wat is primair? Is dat materie of bewustzijn? Is bewustzijn een afgeleide van materie, of begint alles met bewustzijn en is materie slechts een object van dit bewustzijn?

Het gaat hier eigenlijk om de definitie van bewustzijn. Bewustzijn moet niet als materie of zelf-actualiserend gedefinieerd worden, maar als het het product van informatieverwerking. Voor informatieverwerking is een faciliterend medium nodig, zeg een brein of een computer. Bewustzijn is dus geen materie, maar heeft een materieel medium nodig om zich te manifesteren. Er is geen ruimte voor magie en zelf-actualisatie.

Alles zou een droom kunnen zijn, maar dan is er nog steeds een bewustzijn wat die droom ervaart. Dit bewustzijn is dan primair: het is er altijd, onvoorwaardelijk, oneindig.

Nee, een droom is ook het gevolg van informatieverwerking. De ervaring van een droom is niet wezenlijk anders dan de ervaring van de realiteit. Het bewust ervaren van de realiteit is immers een projectie op een model van de realiteit zoals in kaart gebracht door zintuigen. Dit model kun je ook virtueel instantiëren en dan beleven als droom. Ook hier is het niet nodig om magie en zelf-actualisatie te introduceren.

[koelpasta]

Dit bewustzijn is dan primair: het is er altijd, onvoorwaardelijk, oneindig.

Ik kan je aanraden om dit een keer opnieuw te formuleren terwijl je onder narcose bent...

[System]

Een computer met bewustzijn is de reinste onzin. Dat gaan we nooit zien.
Niet onlogisch gezien de biologische aard van een bewustzijn.

Zelfs AI is niets meer dan een modewoord.
Vroeger heette dat gewoon een algoritme, nu moet het fancy klinken als AI, maar uiteindelijk is het even dom of slim.
Dat algoritmes steeds complexer en beter worden is zeker, maar dat maakt het niet zelfdenkend.

[Fiander]

Een computer met bewustzijn is de reinste onzin. Dat gaan we nooit zien.

Waarom onzin? Jij en ik bestaan in absolute form gewoon uit wat sensoren ( oren, ogen, huid) wat cpu kracht ( hersenen ) en wat actuatoren (spieren) en nog een communicatie ding (stembanden) . Dit alles verpakt in een unit met daar een energie unit met buffer ingebouwd ( maag, darmen, longen, vetmassa, hart)

het bewustzijn zit in de hersenen, dat zijn niks meer dan wat neuronen en synapsen welke elektrische pulsen versturen en verwerken. De sensoren worden als input gebruik, daar word door de neuronen en synapsen samen op gereageerd. Net alsof je 1000 transistors samen laat reageren op 1000 binnenkomende spanningsniveaus en daar een output van maken.

Noem eens één reden waarom een computer (of computerfarm) met sensoren (internet is daar één van bv) welke synapsen en neuronen simuleert niet het zelfde zou kunnen zijn. Dat de synapsen en neuronen niet echt zijn, maakt hun uitwerking niet minder echt.

Niet onlogisch gezien de biologische aard van een bewustzijn.

Waarom ? dat op aarde toevallig alles biologisch is, sluit de rest toch niet uit?
Een boom is biologisch, heeft geen bewustzijn.

ff scifi als voorbeeld, we zijn NU nog niet zo ver, maar dat komt echt wel: Commander Data van StarTrek heeft duidelijk een bewustzijn, en zelfs een zelfbewustzijn.

Vroeger heette dat gewoon een algoritme, nu moet het fancy klinken als AI, maar uiteindelijk is het even dom of slim.
[...]
Dat algoritmes steeds complexer en beter worden is zeker, maar dat maakt het niet zelfdenkend.

Waarom niet?

[System]

Heel simpel. Ze kunnen het niet.
Er worden mooie praatjes verkocht, maar dat blijven praatjes.
Er is geen AI tot het tegendeel bewezen is. Ook dat is wetenschap.
En laat ons aub niet fantasy/entertainment shows als referentie gaan gebruiken voor wetenschap. Dan wordt het helemaal te gek.

Waarom niet?

Omdat het voorgeprogrammeerd is tiens. De processor voert enkel uit wat het opgedragen is.

Ze slagen er nog steeds niet in een auto volledig autonoom te laten rijden, laat staan dat ze er een bewustzijn aan kunnen geven.
Nee, ik ben er vrijwel zeker van dat ik geen echte AI zal meemaken in mijn leven. Ik durf zelfs stellen dat mijn kinderen dit ook niet gaan meemaken.
Mocht dit toch gebeuren, dan trek ik met plezier mijn woorden terug.

[koelpasta]

Er is geen AI tot het tegendeel bewezen is.

Je gebruikt het woord AI op een archaische manier.
Jouw begrip van AI is dat het zich precies zo moet gedragen als bijvoorbeeld een menselijk brein.
Maar het begrip intelligentie is al vele jaren veel breder.
Je zou je eens moeten inlezen in wat de wetenschap tegenwoordig weet over intelligentie. Ik denk dat dan veel dingen een stuk duidelijker worden.

Ook dat is wetenschap.

Nou ja, gezien je beweringen heb je denk ik heel weinig besef van hoe 'de wetenschap' denkt over intelligentie.

Omdat het voorgeprogrammeerd is tiens. De processor voert enkel uit wat het opgedragen is.

Heb je al eens Conways game of life zien draaien? En heb je dan gezien hoeveel complexiteit er kan ontstaan door de werking van simpele sub-systemen die samen iets maken dat vele ordes van grootte meer complexiteit heeft dan een enkel individueel?
De clou is dat je met een processor een programma kan schrijven waarbij de processor geen idee heeft van de data die het verwerkt en welke verbanden die data vertegenwoordigt met andere data.

Ze slagen er nog steeds niet in een auto volledig autonoom te laten rijden, laat staan dat ze er een bewustzijn aan kunnen geven.

Ten eerste is het helemaal geen doel om een autonome auto bewustzijn te geven.
Ten tweede is de echte wereld enorm complex. Het is helemaal niet raar dat het niet zo makkelijk gaat. Ik wist dit jaren geleden al. De mogelijkheden die de fabrikanten voorspiegelen zijn inderdaad overdreven.
Maar dat neemt niet weg dat het hier wel degelijk om kunstmatige intelligenties gaat.
Alleen is het begrip 'AI' niet zo extreem nauw gedefinieerd zoals jij dat (onterecht, lees je in) doet.

Nee, ik ben er vrijwel zeker van dat ik geen echte AI zal meemaken in mijn leven.

Er is in de wetenschap geen notie van een 'echte' AI.
Wat jij bedoelt is een soort kopie van de menselijke hersenen, maar dat is niet de definitie van AI.
Je moet echt onderscheid maken tussen intelligentie in het algemeen en specifiek de intelligentie die levende organismes bezitten.
Waar jij het telkens over hebt is een (kustmatige) intelligentie van menselijk niveau. Maar dat is slechts een enkele specifieke vorm van intelligentie.

Nogmaals, lees je in in de materie.

[System]

Dus, AI is niets meer dan een algoritme en geen echte intelligentie...

[koelpasta]

Dat is een hele rare conclusie.
Ik wil je erop wijzen dat wij mensen het resultaat zijn van genen die chemische algoritmes afspelen om van 1 zaadcel en 1 eicel een heel mens te groeien, inclusief de menselijke hersenen. Wij mensen zijn dus ook 'niets meer' dan een algoritme.
Je conclusie zou dus moeten zijn dat mensen ook geen echte intelligentie bezitten.

Daarnaast geef je geen enkele reden waarom een algoritme geen echte intelligentie kan vertonen.
Ik denk dat je ook geen definitie kunt geven voor wat 'echte' intelligentie dan zou moeten zijn.

En je hele post geeft de indruk dat je eigenlijk niks hebt geleerd van de informatie die ik je gaf en ik twijfel eraan of je dat ook werkelijk gepoogd hebt.
Ik blijf dus bij mijn standpunt dat je je moet inlezen in de materie.

[System]

Inlezen in marketing taal lijkt me niet opportuun. Ik zal AI pas erkennen als het er is. En momenteel bestaat het enkel in theorie.
Als jij wil geloven dat AI bestaat en kan is mij dat prima.
Maar ik verwacht eerder bruikbare kernfusie dan AI in de zuiverste zin van de term.
En dus niet een sprekende robot die wat kan kletsen over het weer of uw mooi hemd zoals we altijd te zien krijgen.

[koelpasta]

Inlezen in marketing taal lijkt me niet opportuun.

Ik heb het niet over marketingmateriaal gehad. Ik heb het over wetenschappelijk onderzoek.

Ik zal AI pas erkennen als het er is.

Tja, daar heeft de wereld niet zoveel aan aangezien je een definitie van AI hanteert die niet van deze tijd is. En dat heeft niks met marketing te maken.

Maar ik verwacht eerder bruikbare kernfusie dan AI in de zuiverste zin van de term.

Er is geen 'zuiverste zin' in relatie tot AI.
Ik weet zeker dat je zelf helemaal geen goede definitie kunt geven van wat een 'zuiver' AI nou eigenlijk is.
En waarschijnlijk bedoel je wat in het veld 'strong AI' heet. Maar je weet niet eens dat daar een naam voor is.

En dus niet een sprekende robot die wat kan kletsen over het weer of uw mooi hemd zoals we altijd te zien krijgen.

En toch wordt dat door de wetenschap gezien als een vorm van kunstmatige intelligentie.
Dat weet jij niet omdat je geen idee hebt wat er speelt in het veld.
Niemand zal bijvoorbeeld claimen dat een GPT3 chatbot ook maar lijkt op menselijke intelligentie. Maar desalniettemin is het volgens wetenschappers een vorm van intelligentie.
https://en.wikipedia.org/wiki/Artificial_intelligence, tweede alinea:
"The term "artificial intelligence" had previously been used to describe machines that mimic and display "human" cognitive skills that are associated with the human mind, such as "learning" and "problem-solving". This definition has since been rejected by major AI researchers who now describe AI in terms of rationality and acting rationally, which does not limit how intelligence can be articulated."

Je hanteert dus een definitie van intelligentie die al een paar decennia niet meer relevant is omdat het op verkeerde aannames was gebouwd.

Als jij wil geloven dat AI bestaat en kan is mij dat prima.

Maar het is geen kwestie van geloof, het is een kwestie van definitie van het woord intelligentie. Jij blijft denken dat het om menselijke intelligentie gaat terwijl de wetenschap die definitie al tientallen jaren geleden heeft laten varen. Je loopt met je ideeen dus een paar decennia achter.

[System]

AI is in de basis zelfdenkend.
En dat is het nog altijd niet. Het zijn gewoon een reeks ja/nee schakelingen die vooringesteld zijn.
Jij gaat uit van iets wat in theorie ooit zou kunnen komen.
Ik hou het bij het heden.

[koelpasta]

AI is in de basis zelfdenkend.

Er is geen gangbare definitie van het woord AI dat duid op zelfdenkendheid.
Sterker nog, 'denken' staat in het veld los van 'intelligentie'. Voor intelligentie blijk je dus helemaal geen denkprocessen nodig te hebben.

En dat is het nog altijd niet.

Dat klopt. Maar dat neemt niet weg dat er sprake is van intelligentie.

Jij gaat uit van iets wat in theorie ooit zou kunnen komen.

Nee, wat ik zeg is dat jouw definitie van intelligentie, en daarmee je definitie van kunstmatige intelligentie, niet up to date is.

Maar als je mijn mening wilt weten of menselijke intelligentie in digitale vorm in de basis mogelijk is dan denk ik dat dat waar is. Er is in ieder geval tot nog toe niks gevonden dat het fundamenteel tegenhoudt. Als je een ontzettend goede simulatie maakt van de menselijke hersenen dan denk ik dat zo'n simulatie zich net als een mens zou gedragen, dus inclusief menselijke intelligentie en bewustzijn.

[iDaniel]

Je bent in die twee uur en één minuut een stuk minder stellig geworden, van ''gaan we nooit zien'' naar ''ik ben er vrijwel zeker van dat ik geen echte AI zal meemaken in mijn leven''.

Mensen (en al het andere leven) zijn tevens eveneens voorgeprogrammeerd. Voorgeprogrammeerd om te eten, te overleven en voort te planten. Ik zie niet hoe dat anders is dan een eventuele AI.

[System]

Hoch, misschien als binnen 2000 jaar onze aardkloot nog niet uiteengespat is door een meteoor kan er wel een vorm van AI ontwikkeld zijn.
Maar of die technologie relevant zal zijn met wat we nu hebben is maar de vraag.

Met de huidige technologie zie ik NOOIT echte AI ontwikkeld worden.
Als ze ooit die quantum tovenarij door ontwikkelen, dan misschien. Met nadruk op misschien.
Want dat alleen zie ik niet volstaan.

Je verwart programmatie met een gewoonteroutine.
Een routine kan je op eigen initiatief wijzigen en aanpassen.
De evolutie is geen voorgeprogrammeerd ding. Dat zou er op wijzen dat er ooit een schepping was. En aan sprookjes doe ik niet mee.
Het enige wat er is, is dat wezens met bepaalde eigenschappen betere kansen hebben waardoor andere eigenschappen onderdrukt worden en verdwijnen.
Dat zien we duidelijk in werking de laatste jaren met het corona virus.
Omikron heeft de andere varianten verdreven door evolutie.

Iets wat voorgeprogrammeerd is kan niet aangepast worden zonder externe invloed.
Ik ben niet geprogrammeerd, maar heb wel (hardnekkige) gewoontes.

[koelpasta]

De evolutie is geen voorgeprogrammeerd ding.

Je begrijpt, hoop ik, dat moderne AI systemen soms middels evolutie worden ontwikkeld?

Iets wat voorgeprogrammeerd is kan niet aangepast worden zonder externe invloed.

Wat als je een systeem voorprogrammeert om zichzelf aan te passen op basis van interne staat?
Wat als je een programma maakt dat zichzelf kan programmeren?
Het begrip Self Modifying Code bestaat al best wel lang.

[Fiander]

Haal jij niet gewoon AI en Leven door elkaar?

En ben jij niet voor geprogrammeerd met al je ervaringen die je tot nu toe hebt opgedaan? Waarin verschilt dat?

Er is geen AI tot het tegendeel bewezen is. Ook dat is wetenschap.

Alleen is de wetenschap er heel duidelijk over, AI bestaat al, alleen niet ( nog niet ) met bewustzijn.

En laat ons aub niet fantasy/entertainment shows als referentie gaan gebruiken voor wetenschap. Dan wordt het helemaal te gek.

Ik denk dat jij StarTrek zwaar onderschat. Mobiele telefoon? komt uit StarTrek. Warp drive? Is volgens onderzoekers mogelijk.

Omdat het voorgeprogrammeerd is tiens. De processor voert enkel uit wat het opgedragen is.

En is jou gedrag, kennis en ervaring dat niet? We zijn niks meer dan zelf lerende systemen, iets wat prima ook synthetisch kan.

Ze slagen er nog steeds niet in een auto volledig autonoom te laten rijden, laat staan dat ze er een bewustzijn aan kunnen geven.

Ik kan hogere wiskunde uitleggen aan een persoon met een iq van 70, maar dat betekend niet dat deze er goed in is, of snel genoeg. Het probleem met autos autonoom maken is de verwerkingssnelheid. Van zowel de sensoren, als de cpu. Grappig dat bij een autonome auto elke fout afgestraft word, maar dat er zat achterlijken zijn die 60 in een 30KM zone rijden, rood negeren, of bij elke scheet driftig worden.
En dat met een verwerkingskracht die een factor miljoen hoger ligt.

Nee, ik ben er vrijwel zeker van dat ik geen echte AI zal meemaken in mijn leven. Ik durf zelfs stellen dat mijn kinderen dit ook niet gaan meemaken.

Spijtig om te horen dat jullie zo ziek zijn.... sterkte.

Mocht dit toch gebeuren, dan trek ik met plezier mijn woorden terug.

tja, Het probleem is dat jou definitie van het woord AI ( eigenlijk afkorting ) niet matched met wat de rest van de wereld gebruikt.

Verder heb ik het idee dat jij denkt dat AI niet veel meer is dan een programma met daarachter een database met vaststaande uitkomsten. Wanneer dit gebeurt, doe dan dat.
Klopt deze aanname?

[System]

Daar hoeft niet per se een database achter te hangen.
Het is eerder een logaritme dat voor gedefinieerd is met voorwaarden. Dat wel.

[Sebas1979]

Ik vind t maar een gammel verhaal van Van Belkom. Eerst stellen dat we onvoldoende onderscheid maken tussen primair en secundair bewustzijn, om dan drie zinnen verder op aan te geven dat er zelfs van dat ‘primaire bewustzijn’ te weinig consensus is over wat dat dan precies is…

In het algemeen is het wel interessant om te zien dat de “grote vragen” van AI niet veranderd zijn sinds ik 20 jaar geleden een poging deed een studie er naar te volgen.
We weten niet wat ‘bewustzijn’ en ‘intelligentie’ precies zijn, waardoor we ook niet precies kunnen zeggen wanneer we AI gecreëerd hebben.
De technologische vooruitgang op de deelgebieden is desalniettemin immens geweest.

[koelpasta]

In het algemeen is het wel interessant om te zien dat de “grote vragen” van AI niet veranderd zijn sinds ik 20 jaar geleden een poging deed een studie er naar te volgen.
We weten niet wat ‘bewustzijn’ en ‘intelligentie’ precies zijn, waardoor we ook niet precies kunnen zeggen wanneer we AI gecreëerd hebben.

Moah, volgens mij is er qua inzichten wel het 1 en ander veranderd. Zo is bijvoorbeeld het begrip 'intelligentie' enorm veranderd waardoor wij weten dat het zich niet enkel in de vorm van hersenen kan manifesteren. De verschillende machine learning systemen vallen tegenwoordig onder AI en het idee dat de mens het enige voorbeeld van intelligentie is (en dus het enige voorbeeld voor kunstmatige intelligentie) is sterk veroudert.

We weten niet wat ‘bewustzijn’ en ‘intelligentie’ precies zijn, waardoor we ook niet precies kunnen zeggen wanneer we AI gecreëerd hebben.

Waar je denk ik met 'AI' op doelt is de vraag van wanneer we kunnen zeggen dat we menselijke intelligentie hebben gecreeerd.

[icceni]

We weten (nog) niet precies wat bewustzijn is. Toch ervaren we het wel. En het zou heel goed iets kwantummechanisch kunnen zijn, bijvoorbeeld: je maakt een eenvoudige hoofdrekensom, waarvan je niet direct het antwoord weet. Kort daarna weet je het. Het voelt dan alsof het antwoord niet het resultaat is van een proces, maar alsof de uitkomst en de oorspronkelijke som onlosmakelijk met elkaar verbonden zijn. Ze zijn als het ware met elkaar verstrengeld.
Wellicht kunnen kwantumcomputers wel zoiets als bewustzijn ontwikkelen.

[koelpasta]

Zulke zaken kun je volgens mij ook prima verklaren door neuronen en de complexiteit die daaruit ontstaat. Besef je goed dat je met je bewustzijn niet de werking van neuronen kunt 'voelen' . Je bent letterlijk de informatie die door de neuronen stroomt en niet de neuronen zelf. Je kunt dus nooit dat substraat van neuronen voelen. Je bent het gevolg van de werking vandat substraat.

Ik denk dat het betrekken van zaken als kwantumfysica onnodig is zoalng we de mogelijkheden van biologische neurale netwerken niet hebben uitgeput. Het kan zijn dat kwantumfysica uiteindelijk nodig blijkt te zijn om een goede verklaring te geven maar dat is nog niet zo en kwantumfysika wordt in mijn ogen gebruikt als een joker, zo van: "We begrijpen het niet dus is het kwantumfysica want dat is ook magisch is voor ons". Uiteindelijk verklaren de kwantumfysische bewustzijnstheorieen helemaal niks. Het enige wat ze doen is datgene wat wij niet begrijpen aan bewustzijn onder het grote kwantumvloerkleed schuiven waar de wetenschap niet bij kan en ik denk dat dat problematisch is.

[icceni]

Wat mij betreft is kwantumfysica net zo magisch als klassieke mechanica of relativiteit, en het bestaat allemaal naast elkaar. Ongetwijfeld hebben ze ook een relatie.

Ik besef goed / ben me ervan bewust dat hersenen niets voelen, want er zitten geen zenuwen.
Als het bewustzijn door de informatiestroom door de neuronen zou ontstaan, zou een parallel rekenende computer ook prima een bewustzijn kunnen hebben, zou ik zo denken. Dat kan ik niet uitsluiten. Alleen kan ik het me moeilijk voorstellen.

[af_bert]

Wanneer heeft KI een 'echt' bewustzijn?
Volgens mij is dit wanneer KI ook een verkeerde beslissing kan nemen.
bv: iemand staat voor een rood licht. Je mag dan niet doorrijden. Een mens kan toch de beslissing nemen om door dat rood licht te rijden, wat ook de consequenties zijn.
KI zal dat NOOIT doen, omdat het brein ervan zo geprogrammeerd is dat het zulke beslissing niet kan nemen.
Wanneer KI op een bepaald moment zo intelligent zal zijn en een eigen 'bewustzijn' zou hebben, dan kan KI zelfstandig beslissen om ook eens door het rood licht te rijden. Niet door een programmafout of bug, maar door zijn/haar/het/ABCDEFG+- eigen beslissing, wat ook de consequenties zijn.
Zolang dit niet kan of zal geburen, zal men nooit over een bewustzijn bij KI kunnen spreken.
Mijn persoonlijk gedacht.

[koelpasta]

Wanneer heeft KI een 'echt' bewustzijn?
Volgens mij is dit wanneer KI ook een verkeerde beslissing kan nemen.

Maar kunstmatige intelligenties maken aan de lopende band fouten.
Dat een neuraal netwerk een fout maakt zegt volgens mij niks over of er sprake is van bewustzijn of niet.

[BG_tweakersnet]

Het antwoord is simpel; JA, de vraag moet zijn tegen wanneer.

Al degenen die neen antwoorden zitten redellijk vastgeroest in het idee dat onze huidige wetenschappelijke kennis alles kan verklaren.

Ten laatste tegen 2050 is AI het grootste gevaar geworden voor de mensheid, en niet langer een microscopische bacterie of virus.

[PinusRigida]

Het antwoord is simpel; JA, de vraag moet zijn tegen wanneer.

Al degenen die neen antwoorden zitten redellijk vastgeroest in het idee dat onze huidige wetenschappelijke kennis alles kan verklaren.

Ten laatste tegen 2050 is AI het grootste gevaar geworden voor de mensheid, en niet langer een microscopische bacterie of virus.

Binnen 28 jaar haal ik dit boven om tegen je te gebruiken.

...maar alle gekheid op een stokje...
"alles verklaren" is per definitie niet mogelijk zonder te weten of je -letterlijk- alles wat er te onderzoeken valt, hebt onderzocht, en dat weten is ook voor AI onmogelijk. Wat onbekend is, is per definitie ongekend. Je kan niet zeker weten dat je alles over iets weet want de dingen die je misschien niet weet, weet je niet eens dat die dingen er zijn.

F***k, voordat dit hier semantisch ontspoort :

Ik deel je angst niet... misschien is het naïef -de toekomst zal het uitwijzen- maar ik denk dat AI veel te vaak veel te negatief wordt belicht, zoals in allerhande doomscenario's die beschrijven wat je in je laatste zinnetje zegt.

Waarom geloven mensen zoiets? Om exact dezelfde reden als waarom generaties geleden mensen de eerste vliegmachines zagen als "des duivels" idem met het komen van de automobiel, idem met letterlijk élke nieuwe -grote- sprong in techniek/wetenschap. De mens is van nature uit "waakzaam". Het heeft ons ooit geholpen om te overleven en het is goed om waakzaam te zijn, maar geschiedenis leert dat we -als maatschappij, zelfs als (mensen)ras- heel erg vaak brand en moord schreeuwden voor niks. Hoe zit het nog met die millenniumbug?

Hoe het zal gaan met AI in de -al-dan-niet-verre- toekomst?
Ik wéét het simpelweg niet, daar komt het op neer... en doordat ik het simpelweg niet weet, vind ik het ook compleet onnodig om doemscenario's te gaan bedenken of verwachten. (wat iets anders is dan de mogelijkheid compleet te negeren)
Nog eens: alleen de toekomst zal uitwijzen of dit een naïeve redenering is... maar het is de enige redenering die ons als mensheid vooruithelpt: de andere optie is angst, en dan stagneert alles.

En als je me toelaat om een kleine gedachte-oefening te maken: ik zie het eerder positief... net zoals wetenschap en techniek kan en zal worden gebruikt voor kwaadaardige doeleinden, kan en zal het even goed gebruikt worden voor de vooruitgang van de soort.

Voorbeelden legio en lang verhaal kort:
De kans dat AI ingezet zal worden in oorlogsvoering is een zekerheid, punt. Maar het zal ook ingezet worden voor allerhande onderzoek. Medisch, fysisch, maatschappelijk, astronomisch,... als we ooit het overleven van het mensenras willen veiligstellen hebben we AI nodig.

[Reactie gewijzigd door PinusRigida op 22 juli 2024 23:30]