Ik heb jarenlang gewerkt als programmeur van kunstmatige intelligentie en heb een tijd psychologie gestudeerd (w.o. neuropsychologie). Ik denk dat je de wereld iets anders ziet dan zij is.
Allereerst over onze hersenen...
Mensen hebben op dit moment een eenvoudig model van hoe de hersenen werkt; veel van de details weten we eigenlijk niets van.
Wat we wel weten (heel globaal): Ja, we weten dat bepaalde functies een plaats hebben (lees: in de meeste gevallen - er zijn uitzonderingen, meestal komen we hier achter als er een raar ongeluk gebeurt zoals iemand die een staaf door zijn hoofd krijgt en blijft leven!). Ja het autonome zenuwstelsel bestuurt 'automagisch' alle dingen zoals ademen, etc. En ja, het 'oude' gedeelte van de hersenen bepaalt voor een groot deel de keuzes van de bovenlaag van de hersenen (ik heb even gezocht, deze vertelt het verhaal wel:
http://www.newyorker.com/...sychology-of-electability ). Daarnaast weten we van een hoop 'support' systemen (zoals het oor) hoe ze signalen uit de fysieke wereld omzetten naar signalen voor de hersenen. Op klein niveau weten we hoe neuronen ongeveer werken, dwz: we weten dat ze signalen ontvangen, aggregeren en propageren. We weten ook dat dendrieten verbindingen aanleggen als ze dat nodig vinden.
Dit is denk ik wel het belangrijkste topje van de ijsberg. :-)
Wat weten we dan niet? We weten weinig van de structuur van neuronen. Wat ik daarmee bedoel: sommige delen van de hersenen zijn neuronen heel dicht op elkaar gepakt, op andere delen zit er relatief veen ruimte tussen; we weten niet waarom. We weten ook niet waarom dendrieten groeien en afsterven; we weten wel dat dit heel belangrijk is voor het leerproces, maar niet hoe dit mechaniek precies werkt. En dan neuronen zelf. Wist je dat er neuronen zitten in de hersenen die af en toe 'pulseren'? Een aantal hiervan kunnen verklaard worden als 'klok'; maar van sommige van deze neuronen weten we gewoon niet waarom ze er zijn. Daarnaast zijn er ook neuronen in de hersenen waar alleen signalen heen gaan, soms groeien hier zelfs dendrieten naartoe. Hier is geen goede verklaring voor, alleen een aantal theorieen. ('bovennatuurlijk'? Of snappen we het gewoon niet?) En tot slot gaan we er vanuit dat neuronen op 1 manier informatie aggregeren; in werkelijkheid is het een complex samenspel in een cel, waar we maar nauwelijks grip op hebben.
Computers... tsja, die werken weer heel anders met neurale netwerken. De triviale 'back propagation' implementatie die je hersenen het best simuleren zijn inefficient voor een computer; andere algoritmes werken beter. Signalen zijn binair ipv. een golfbeweging. En we proberen meestal met een beperkt aantal neuronen gecontroleerd een specifieke functie te 'leren', omdat overfitting al snel een probleem wordt.
De key takeaway hier is dat de complexiteit van neuron in je hersenen is vele malen groter is dan een neuron in je computer. Ja, het lijkt op elkaar, maar is absoluut niet hetzelfde. (Ik heb hier nog ergens een verslag liggen met een uitgebreide vergelijking; mocht je interesse hebben kan ik wel even zoeken of ik het kan terugvinden).
Wat hoe dan ook wel zeker is, is dat je hersenen niet werken met een 'relationele database'. Een AI heeft zo'n ding dus absoluut niet nodig. En spontane intelligentie die 'ontstaat' - daar heb ik nog nooit van gehoord.
Goed, dan AI. We gaan er altijd vanuit dat een AI slimmer is dan we zelf zijn (wat intimiderend werkt). Onze hersenen bevatten ongeveer 86 miljard neuronen. Zelfs al lossen we al bovenstaande op en hebben we 100.000 machines staan, dan nog denk ik niet dat we 860.000 neuronen op 1 machine kunnen simuleren. Uiteraard is dat geheel speculatie van mijn kant - feit is echter dat de meeste neurale netwerken in de informatica 'in het echt' vrij klein zijn. De kans is vele malen groter dat een AI ongelofelijk dom is. Dat is prima voor stofzuigen, maar minder prima als volwaardige zelfbewuste AI.
Het niveau van onze AI's op het moment is ongeveer op het niveau van dat van een huisspin. Ja, die kunnen we vrij goed simuleren inmiddels.
Computers zijn in andere dingen goed dan mensen. Mensen kunnen vanwege deze neurale netwerken geweldig patronen herkennen (recente publicatie van Google laat zien hoe neurale netwerken dit doen), computers kunnen heel goed algoritmes doorrekenen. Spraakherkenning e.d. werken vrijwel allemaal via algoritmes die een groot deel van het probleem oplossen (een paar voorbeelden: het Chomsky algoritme voor het parsen van NLP en language models voor statistische berekeningen); de overgebleven dingen (zoals herkennen van fonemen) worden via machine learning (w.o. neurale netwerken) gedaan. De combinatie noemen we spraakherkenning. Dit heeft weinig te maken met AI, maar je kan beargumenteren dat het wel een noodzakelijke voorwaarde is (die voor een computer efficienter op deze manier werkt dan met neuronen). In dit soort systemen zijn we best ver en hoe meer data je er tegenaan smijt, hoe beter dingen als statistiek lijken te werken. Nogmaals, dit is geen intelligentie; statistiek en algoritmitiek zijn denk ik een betere naam.
Met deze data kunnen we theoretisch gezien dus 'de wereld' modelleren. Of in ieder geval 'goed genoeg'. Context en statistische verdelingen... volgens mij zit hier een hele dunne lijn tussen. Een statistisch systeem kan je al prima vertellen wat een cirkel is. (Om dat gewicht bij te zetten, hier is hij dan:
http://www.wolframalpha.com/input/?i=what+is+a+circle%3F )
Of een AI wel of niet mogelijk is, weet ik niet. Wat ik wel weet is dat we met de huidige technologie er nog lang niet zijn. En wat ik ook denk is dat we niet zo arrogant moeten zijn om te denken dat we weten hoe het in elkaar zit - aangezien we voor een groot deel er gewoon niets vanaf weten.
De echte uitdaging in AI zit inderdaad niet in 'keuzes maken' of 'leren van feedback'. De echte uitdaging zit volgens mij in 'creativiteit tonen'. Ik heb het niet over problem solving hier; ik heb het over patronen toepassen op andere domeinen en hierop actie nemen. Zoals het kind dat spontaan tegen moeder zegt "je bent de liefste moeder van de wereld" -- niet omdat een random number generator dit influistert, niet omdat het kindje dan een snoepje krijgt, maar ... tsja, we kunnen erover speculeren, maar weten eigenlijk gewoon niet hoe dit werkt.
Terug naar Zuckenberg. Dat alles neemt niet weg dat we best wel geweldige dingen kunnen doen. Zuckenberg heeft voor een personal assistent (Jarvis) misschien wel helemaal geen volwaardige AI nodig. Misschien heeft hij gewoon een Wolfram Alpha nodig met een spraakherkenner erop. En dan misschien met wat extra dingetjes als temperatuurregeling, wat beeldschermen, geofencing, een 3D printer, etc. om het leuk te maken. Sommige dingen met machine learning, andere niet. Kortom, ik ben wel benieuwd hoe het projectje eruit ziet over een paar jaar. Maar voor een echte AI hebben we nog best een hoop break-throughs nodig.