Even een paar aantekeningen bij wat je hier schrijft.
Ik ben MSc in AI.
Eerst massaal leren en dan doen is inderdaad kenmerkend voor machine learning. Als één alinea volstaat om een handschrift te leren, vind ik dat echter helemaal niet veel. Vergelijk het maar eens met
AlphaGo, die
miljoenen potjes Go moest spelen om er goed in te worden. Ik vind het juist heel indrukwekkend dat dit algoritme al na een alinea iemands handschrift kan imiteren.
Er zijn een aantal eenvoudige redenen waarom er zoveel met machine learning wordt gedaan. Ten eerste: als een machine zelf kennis en vaardigheden verwerft, hoef je die er niet zelf in te stoppen. In die zin is machine learning juist een manier om te zorgen dat er wél meer uit een machine komt dan je erin stopt. Nu moet je er vaak inderdaad erg veel voorbeelden in stoppen, maar dat neemt niet weg dat zo'n algoritme kan generaliseren. AlphaGo deed in de potjes tegen Lee Sedol bijvoorbeeld een aantal hele sterke zetten die nog nooit eerder waren gezien. Doordat je als ontwikkelaar alleen hoeft te beschrijven hoe kennis wordt verwerkt en niet alle kennis zelf hoeft voor te kauwen, win je tijd.
Ten tweede: 'de natuur' doet 'het' ook grotendeels met leren. Trial and error. Jij was nooit zo slim geworden als je nu bent, als je niet eerst heel veel had geleerd. Veel machine learning algoritmes zijn direct afgekeken van de natuur, zoals neurale netwerken en evolutionaire algoritmes. Dit wordt júist toegepast in AI omdat het in de natuur zo'n robuust recept voor succes is, en in de AI is het vaak net zo succesvol.
Ten derde: het laatste woord is nog niet gezegd over de vraag of machine learning volstaat om een
strong AI te maken. Er zijn een aantal stromingen binnen het vakgebied van AI, waarin juist wordt gedacht dat het dé manier is om tot een algemene intelligentie te komen. Hierbij wordt dan met name vaak gekeken naar
diepe neurale netwerken. Ik behoor zelf overigens niet tot zo'n stroming.
Ten vierde: zelfs als je met alleen machine learning geen strong AI kunt maken, is een
weak AI meestal al ruimschoots de moeite waard. Wat maakt het uit dat je systeem alleen maar auto's kan besturen, als het daar waanzinnig goed in is? Zie het als een extreme vorm van specialisatie. Het filmpje
Humans Need Not Apply van CGP Grey staat vol met indrukwekkende voorbeelden van bestaande weak AI's. (Disclaimer: ik onderschrijf de centrale boodschap van dat filmpje niet helemaal.) Op dit moment storten grote bedrijven zich en masse op weak AI's op basis van machine learning, omdat er bakken met geld mee te verdienen zijn. Er is zelfs zoveel geld mee te verdienen dat eigenlijk niemand nog oog lijkt te hebben voor strong AI.
Kortom, machine learning is niet voor niets booming business. Er zijn wel voorbeelden van commerciële weak AI die niet of weinig aan machine learning doen, met name de spraakassistenten zoals Siri, Cortana en Google Now. Die vallen echter juist op doordat ze zo inflexibel zijn; ze kunnen alleen met de scenario's omgaan die iemand er bloedig met de hand ingeprogrammeerd heeft. Dat zijn nu écht gevallen waar er niet meer uit komt dan je erin stopt. Zie ook wat ik er bij een ander nieuwsbericht over
schreef.
Dan nog iets over de singulariteit: strikt genomen wordt die bereikt, als een (strong) AI slim genoeg is om zichzelf te verbeteren. Je krijgt dan een sneeuwbaleffect waarbij de AI gegarandeerd een mens kan gaan overtreffen,
vooropgesteld dat die AI daarvoor voldoende vrijheid en motivatie heeft. Ik zie die singulariteit nog niet zo snel gebeuren, maar zelfs wanneer dat wel gebeurt, is dat volgens mij niet per sé heel gevaarlijk. Dat zo'n AI extreem intelligent kan worden wil nog niet zeggen dat die almachtig wordt, of dat die de rest van de wereld aankan. Er zijn ook fysieke limieten aan hoeveel reken- of denkkracht er in een bepaalde hoeveelheid materie past, wat dus zal betekenen dat er een praktische bovengrens is aan hoe slim dat systeem kan worden. Daarnaast zullen er meerdere van die systemen tegelijk kunnen bestaan, dus als er eentje lelijk gaat doen, kan een andere daarvoor compenseren. Zie ook een reactie die ik eerder
schreef op het paperclip-rampscenario.