Palm-ontwerper gaat AI-software maken

Jeff Hawkins, geestelijke vader van de Palm Pilot en de Handspring Treo, wil zich op de ontwikkeling van artificiële intelligentie gaan richten. De 47-jarige Hawkins gebruikte een deel van zijn kapitaal om het Redwood Neuroscience Institute op te richten en vorig jaar verscheen zijn boek 'On Intelligence' dat hij samen met een wetenschapster schreef om zijn theorie over de werking van het menselijke brein uit de doeken te doen. In zijn theorie maakt Hawkins gebruik van enkele controversiële ideeën die door zowel wetenschappers in de neurologie en door AI-community's vol aandacht bekeken worden. Samen met zijn partner Donna Dubinsky richtte Hawkins nu het bedrijf Numenta op, waar software ontwikkeld zal worden die anderen kunnen gebruiken om 'brain-like' computerprogramma's te ontwikkelen.

Het zou daarbij vooral gaan om 'pattern recognition', het herkennen van patronen in bijvoorbeeld cijferreeksen, en 'machine learning', waarbij de computer leert van zijn vorige ervaringen. De reden dat het bedrijf nu opgericht wordt is volgens Hawkins dat men nu een technologie gevonden heeft waarmee men bepaalde theorieën kan uitwerken. Een mede-oprichter en ex-stagair bestudeerde Hawkins' theorie en ontwikkelde een manier om deze in wiskundige formules uit te drukken, waardoor het mogelijk werd 'brain-like' computers te simuleren. In een proof-of-concept project is de computer al in staat met behulp van Numenta's programma's eenvoudige objecten relatief snel te herkennen. Experts in de AI-wereld zijn kritisch tegenover Hawkins' ideeën, maar achten het niet onmogelijk dat hij de sector een nieuw impuls geeft.

Reacties (51)

[Rekcor]

een manier om deze in wiskundige formules uit te drukken, waardoor het mogelijk werd 'brain-like' computers te simuleren

Volgens mij zijn computers per definitie niet 'brain-like', aangezien wij niet volgens wiskundige formules denken. Ze zullen hoogstens wat trekken van menselijk denken vertonen.

@Zwartoog: jouw model van zenuwcellen is natuurlijk een enorme vereenvoudiging van de werkelijkheid. Het verklaard intelligentie noch creativiteit noch bewustzijn noch geheugen noch 'pattern recognition'. Het is hoogstens een adequate biochemische beschrijving van een aspect van de (communicatie tussen) zenuwcellen.

[killercow]

En dat is nu net het leuke aan neural networks.

De wiskundige formule die uit een neural netwerk komt rollen is zo inmogenlijk ingewikkeld dat hij bij benaderin best wel eens braid like kan reageren op invoer.

Hersenen zijn ook niets meer dan een groot spinnenweb van keuzes en verbindingen die door gebruik ervan sterker worden.

Met een soortgelijk database model icm de juiste pathfinding technieken zouden de zelfde keuzes gemaakt kunnen worden door het programma dat de database gebruikt.

[koelpasta]

"Hersenen zijn ook niets meer dan een groot spinnenweb van keuzes en verbindingen die door gebruik ervan sterker worden."

Dit is precies wat sommige wetenschappers de afgelopen 50 jaar verkondigden.
Het blijkt in de praktijk echter wat anders te werken.

Het bestaan van keuze-paden kan bijvoorbeeld op geen enkele manier zoiets als bewustzijn verklaren.

Ook speelt timing een belangrijke rol in de hersenen.
Zo stuur je je spieren aan door de FREQUENTIE van pulsen die door de zenuwen gaan.
Dus moeten er timingsmechanismen bestaan.

Verder is er sprake van terugkoppeling in de hersenen.
Wij kunnen dingen zelf bedenken, fantaseren, dromen.
Wij kunnen nadenken over ideen, gedachtes expanderen, etc, etc.

Een neuraal netwerk wordt meestal gedefinieerd door [INPUT]=>process=>[OUTPUT]

Bij de hersenen wordt de output nog eens op complexe wijze met de input verbonden.
Die complexiteit is door evolutie ontstaan.
Het is daarom moeilijk om deze structuur te ontrafelen, evolutie heeft namelijk geen logica nodig maar slechts een toepasbaarheid.

Hier komen we zo'n beetje aan bij het hele probleem met KI (kunstmatige intelligentie).
Omdat de hersenen geevolueerd zijn en vrij groot en complex zijn kunnen we moeilijk bepalen welke structuren zorgen voor welke uitwerking.
We snappen al goed dat er neuronen in het spel zijn en we kunen allerlei leuke dingen doen met neuro-logica.
Maar dat komt nog voor geen meter in de buurt van wat we zelf ervaren als intelligentie.

Met de huidige kennis van zaken zijn we in staat om zoiets als insecten-hersenen te maken.
Insecten hebben namelijk niet echt hersenen, die hebben een soort simpele zenuwknoop waar informatie vrij lineair doorheen loopt.

vergelijk nu eens de zenuwknoop van een mier met onze hersenen en je ziet al snel het probleem.
Onze hersenene zijn ongelovelijk veel groter en bevatten dus ook ongelovelijk veel meer complexiteit.
En dat is niet zomaar random complexiteit, het is evolutionairte complexiteit.
d.w.z. er zit geen logica achter de complexiteit, het is een gevolg van de ontstaansgeschiedenis van de hersenenen.

Hier kunnen wij op dit moment nog geen moer mee doen, we kunnen dat samenspel van alle neuronen nog niet goed onderzoeken.

Wat we wel kunnen doen is abstracties maken van delen van de hersenen.
Dus gewoon de boel een beetje bagitaliseren en zeggen 'dit groepje van miljoenen neuronen geven we een naampie, definieren de in en outputs in grote lijnen en kijken of het bruikbaar is in onze modellen'
De meeste KI theorien gaan tegenwoordig over hoe je de hersenen in zinnige/bruikbare delen kunt abstraheren.

Helaas (of gelukkig) blijk dan weer dat de hersenen zo in zichzelf verwoven zitten dat er geen duidelijke scheiding valt te maken in handige I/O modules.

Het mysterie blijft bij benadering.

[Verwijderd]

nu ben ik niet echt heel erg onderlegd in de neurale netwerken, maar terugkoppeling is wel redelijk makkelijk in NN.
De dynamische keuze van een hersen naar welke terugkoppelingen worden gemaakt zal deze omzetten in een NN heel erg complex maken, elke terugkoppellus moet kunnen worden gemaakt dus moet ieder neuron een FF en FB lus hebben nr elk ander neuron. Dat maakt het NN enkel complexer, maar daarom niet onmogelijk.
Bedenken, fantaseren en dromen zie ik eerder als het kiezen van welke pad je als output wilt gaan nemen. dus ieder neuron-neuron pad moet als output kunnen gaan dienen.

Op deze manier wordt je netwerk en het stabiliseren/trainen ervan wel een stuk ingewikkelder, maar als ja daar nog es de mogelijkheid van biases aan meegeeft die afhankelijk kunnen zijn van eender welke externe factor kom je als je t aan mij vraagt redelijk in de buurt van de werking van een hersenknobbel.
Die dromen en fantasieen zijn eigenlijk niet meer dan al dan niet willekeurige bijproducten van je input->process->output systeem die worden gegenereerd in een deel van het netwerk en zonodig als output geobserveerd kan worden. De creatie van deze gedachten is afhankelijk van je dynamische terugkoppeling die door je output en input is beinvloed.

lijkt me sterk dat uit een dergelijk NN met genoeg neuronen geen brain-like gedrag zou kunnen spruiten.

my 2 cents.

[Dr C]

stoer hoor. aan jouw post heeft 99% van de lezers geen ene moer aan. Je legt niet uit wat FF en NN e.d. is....

[caipirinha]

@ dr ivar
Baseer je dat op feiten of is dat puur speculatie. een beetje lezen op dit forum en je weet dat waarschijnlijk 99% WEL weet wat Feed Forward en een Neural Net is. Waarschijnlijk heeft 99% nooit een NN gesimuleerd of gebouwd maar dat is wat anders.

[J.J.J. Bokma]

"Verder is er sprake van terugkoppeling in de hersenen."

geen probleem bij neurale netwerken, kan ook

"Wij kunnen dingen zelf bedenken, fantaseren, dromen."

Een neuraal netwerk met terugkoppeling zal zonder input ook "dromen" (i.e. output genereren).

Genetische algoritmen (ook een AI tak) hebben al elektronische schema's bedacht die gepatenteerd waren, plus nieuwe, die ook hun werk goed deden (filters) met alleen kennis over de werking van elektronische componenten.

"En dat is niet zomaar random complexiteit, het is evolutionairte complexiteit."

Complexe neurale netwerken worden o.a. gemaakt met evolutionaire software, en zelfs getrained met evolutionaire software. Maar je moet klein beginnen :-)

[sergefonville]

NN lijkt mij neural network, de rest is mij ook niet duidelijk

[koelpasta]

Nee, ik weet wel dat terugkoppeling op zich geen probleem is.

wat wel een probleem is is hoe de hersenen dat regelen.
er is namelijk ontzettend veel van dat teruggekoppel.
en zowel synchroon (aan een diversiteit van chemische klokken gesynchroniseerd) en asynchroon, extern getriggert.

en dat alles zo, dat het resulteert in iets dat wij schijnen te beleven

zoals je al aangeeft kun je neurale netwerken in combinatie met GA goed gebruiken voor het optimaliseren van complexe structuren zoals electronische schakelingen.

maar de hersenen zijn veel complexer dan dat.
wij kunnen met onze kop een ongelofelijke verscheidenheid aan problemen aan.
er is niets in onze omgeving waar we absoluut niets mee kunnen doen.

het punt, denk ik, is dat onze hersenen zowel (genetisch) voorgeprogrameerde terugkoppeling hebben als naderhand (onder invloed van externe factoren) aangelegde optimalisaties.
en zelfs die later aangelegde routes zijn voorzien in ons genetisch 'programma'. ik bedoel dus dat de mogelijkheid er al in zit met een bepaald balans dat door de eeuwen heen getuned is geraakt.
en juist die tuning maakt ons tot wat we zijn.
het zorgt voor dingen als kunst, cultuur, ethiek, taal, spelletjes, tv, etc, etc.

het volgend probleem doet zich voor:
neem een paar honderd miljard neuronen (die gemiddeld verbonden zijn met zo'n 15000 andere neuronen) en optimaliseer die zodat er iets uitkomt dat zich ongeveer hetzelfde gedraagt als een mens.
zodra we dat kunnen dan kunnen we menselijke intelligentie maken.

veel gemakkelijker (en waarschijnlijker) is gewoon de genetische blueprint nemen en een eigen versie te maken van de hersenen.
technisch gezien zitten we daar veeel dichter bij dan bij sterke kunstmatige intelligentie.

ben het wel eens met je dat je klein moet beginnen en idd werken de evolutionair geselecteerde netwerken een niveautje beter.
het probleem blijft echter schaal.
we kunnen alleen al energie-techniesch voorlopig niet opboksen tegen de tijd van de selectie en toepassing op het milieu van onze genen. wij zijn al miljoenen jaren in de maak en we veranderen elke dag.

wat dit soort experimenten bewijzen is dat we idd op de goede weg zitten maar dat we dan ook idd heel veel meer zullen moeten doen om het allemaal echt cool te krijgen.

[J.J.J. Bokma]

"Hersenen zijn ook niets meer dan een groot spinnenweb van keuzes en verbindingen die door gebruik ervan sterker worden."

Dat valt in principe reusachtig mee. Al jaren worden neurale netwerken "gedumpt", en vervolgens uitgezocht wat ze precies doen (dus de functie die ze na leren implementeren). En daar kan soms een eenvoudige functie uit komen rollen, die sneller werkt.

[Zwartoog]

Wel, daar valt nog over te discussieren. Bij biologie heb ik geleerd dat een zenuwcel bestaat uit verschillende acceptors (dendriten) en een lange uitloper (de axon). In feite komt het er op neer dat verschillende acceptors getriggerd worden (1) en andere niet (0). Pas wanneer er een bepaald aantal dendriten getriggerd worden, laat de axon een stroompje lopen (die op zijn beurt dan weer een dendriet van een andere zenuwcel triggert).

In feite is een zenuwcel dit:
while {}
if ninput>threshold
output = 1
else
output = 0
endif
endwhile

Het feit dat (het lijkt dat:9) organismen niet logisch denken komt door de enorme complexiteit van het geheel, plus dat de communicatie nog beinvloed wordt door andere factoren (zoals hormonen, drugs, etc).

http://en.wikipedia.org/wiki/Neuron

[Verwijderd]

en dan een miljard while loops
en allemaal kunnen ze een ander patroon volgen

[Verwijderd]

Bij kunstmatige neurale netwerken zijn uitbreidingen gemaakt zoals recurrentie, waarbij b.v. de input van de vorige stap opnieuw het netwerk wordt ingevoerd in de huidige tijdsstap. Dit zorgt ervoor dat het neurale netwerk al een soort van korte termijn geheugen heeft.

Ook zorgt dit ervoor dat een kunstmatig neuraal netwerk meer is dan Input --> processing --> output.
Zelfs een simpel perceptron (geeft inputs direct door naar de output) kan al 'moeilijke' dingen. Omdat het netwerk gesitueerd kan zijn (bijvoorbeeld een robotje met inputs, en 2 wielen), is de nieuwe inputcycle afhankelijk van de acties die het neurale netwerk geeft. Zo is bewezen dat een perceptron al om kan gaan met ambigue input, dit door een andere actie te nemen om op zoek te gaan naar niet ambigue informatie.
Met de uitbreidingen (multilayer perceptron, recurrentie) wordt het gedrag alleen maar nog complexer, dat terwijl dit model een sterke vereenvoudiging is van de werkelijkheid. Deze modellen zijn al in staat taken te leren.

Maar waar het bij de meeste mensen om gaat is niet zo zeer of een computer menselijke intelligentie kan evenaren, maar meer de uniekheid van menselijke intelligentie. De categorie: zelfbewustzijn, creativiteit, liefde, vrije wil ed
Voor mij is dit simpel, ik geloof niet in vrije wil. Wij hebben hersens, deze zijn gegroeid tijdens de geboorte (een proces waarbij allerlei variabelen meespelen), daarna zijn ze gevormd door de omgeving (ouders, vrienden, dingen die je meemaakt). Daarnaast is er nog een interne link in de hersenen (vergelijkbaar met recurrentie) waardoor dezelfde inputs opeens een andere output kunnen opleveren. Maar nergens in dit systeem zie ik een 'magische input' die ervoor zou kunnen zorgen dat een mens zelf zijn beslissingen maakt. Hij is gevormd door de omgeving, en dus zal precies hetzelfde reageren indien je dezelfde vormingscyclus zou afspelen.

Waarom mensen dit moelijk vinden te geloven: bij het ontbreken van een vrije wil denkt men al snel aan zombies die altijd hetzelfde reageren. Maar omdat de omgeving complex is (veel variabelen, ook nog eens als alle tijdstappen van een leven invloed hebben), reageren wij ook complex en uniek.


(p.s. de eerste keer dat ik hier post, ik begrijp er de ballen van, geen idee op welke post ik nu gereageerd heb)

[daft_dutch]

Maar nergens in dit systeem zie ik een 'magische input' die ervoor zou kunnen zorgen dat een mens zelf zijn beslissingen maakt. Hij is gevormd door de omgeving, en dus zal precies hetzelfde reageren indien je dezelfde vormingscyclus zou afspelen.

ach man wat een gelul, Het menselijk brein is grillig en totaal onberekenbaar.

hypnotiseer 2 mensen laat ze 2 potjes schaken (2de zonder te weten dat ze er 1 voor speelde) en als jij gelijk hebt is het 2de potje uniek aan het eerste.
ik geef het niet eens 0.2003%

[Verwijderd]

Zoals ik al zei: het is mijn mening.
Ik zou het erg knap vinden als jij in dat schaakpotje alle variabelen (de temperatuur van de omgeving, de stoffenwisseling van de mensen, de flikkering van de tl-buis, het zweetdruppeltje wat langs de nek loopt, enz) hetzelfde houdt. Wat ik zeg is dat er zoveel variabelen zijn dat het brein grillig en onberekenbaar voor ONS overkomt.

[Rekcor]

Voor mij is dit simpel, ik geloof niet in vrije wil. Wij hebben hersens, deze zijn gegroeid tijdens de geboorte (een proces waarbij allerlei variabelen meespelen), daarna zijn ze gevormd door de omgeving (ouders, vrienden, dingen die je meemaakt).

Als het naturalisme waar is, heb je gelijk en is alles te herleiden tot materie. Het moeilijke met deze stelling (van het absolute naturalisme) is dat ze zelf niet tot materie te herleiden is. Ze is 'zelfreferentieel incoherent', net zoals de stelling "Alleen stellingen langer dan acht woorden zijn waar".

Ik denk dus dat de mensheid over een tijdje goed in staat zal zijn het materieele aspect van de hersenen te simuleren mbv neurale netwerken, maar dat de 'geest' 'ziel' etc. niet te vangen zal zijn in een computer.

Daarnaast is

Maar nergens in dit systeem zie ik een 'magische input' die ervoor zou kunnen zorgen dat een mens zelf zijn beslissingen maakt. Hij is gevormd door de omgeving, en dus zal precies hetzelfde reageren indien je dezelfde vormingscyclus zou afspelen.

geen wetenschappelijke uitspraak, aangezien je dit nooit zult kunnen meten.

[koelpasta]

"Ik denk dus dat de mensheid over een tijdje goed in staat zal zijn het materieele aspect van de hersenen te simuleren mbv neurale netwerken, maar dat de 'geest' 'ziel' etc. niet te vangen zal zijn in een computer."

wat is dan eigenlijk het verschil tussen 'materiele aspecten' en 'ziel' ?

is dat meetbaar?

hoe gedragen hersenen zich zonder een ziel?


is het dan ook zo dat als een stelling niet bewezen kan worden dat dan persee het tegenovergestelde waar moet zijn?
(ik denk persoonlijk dat jouw stelling net zo min bewezen kan worden als naturalisme, ze vallen in dezelfde categorie van zelfreferentieel incoherent.)

als wij nou een simulatie van een stukje universum maken dat voldoet aan alle eigenschappen van ons universum, en we laten daar hersenen in groeien, zullen die dan wel een bewustzijn kunnen hebben?

wat is er op tegen dat onze hersenen zo in elkaar zitten dat wij, de hersenen, ervaren een bewustzijn te hebben?

even zo wat vraagjes die in me opkomen.,

wat ik persoonlijk wonderlijk vind is dat je een bewustzijnsverandering (zielsverandering, wat je wilt) ervaart als iets of iemand met je hersenen knoeit.
er is dus klaarblijkelijk een strikt verband tussen de hersennen en wat wij menen te ervaren als ziel of bewustzijn.

de hamvraag blijft natuurlijk of we het hebben over 2 opzichzelfstaande fenomenen die min of meer vervlochten zijn of dat het feitelijk maar om 1 ding gaat, namelijk de hersenen.

[Verwijderd]

Ik ben het zeker met je eens.

Ik raad de mensen die hier meer over willen weten aan te kijken naar de eerste aflevering van 'God bestaat niet' met cognitief wetenschapper Dick Swaab. Deze aflevering is online te bekijken op http://www.rvu.nl/rvu.php?i=4&l=0&n=806.

PS: Ik weet dat 'God bestaat niet' enigzins omstreden is. Als je echter de sketches negeert en je concentreert op de interviews is het imho een prima hoogstaand stukje televisie.

[koelpasta]

" Hij is gevormd door de omgeving, en dus zal precies hetzelfde reageren indien je dezelfde vormingscyclus zou afspelen. "

1 woord: Heisenberg

[Verwijderd]

Hee bedankt voor je info, ik ben nog niet thuis op dit theoretisch gebied (heb nog nooit iets ervan gelezen).
Maar bedoelde je:Werner Heisenberg
Zo ja, welk artikel/stuk kan je aanraden. Of ging het je meer om het concept quantum mechanica (waar ik ook niets over weet).

[J.J.J. Bokma]

"noch 'pattern recognition'"

Verdiep je in ANN (Artificial Neural Networks) en je zal ontdekken dat Zwartoog's model niet zo gek is.

En ja, dus wel pattern recognition.

Een ander ding dat je over het hoofd zag: simulatie. Hoeveel hersencellen zijn er?

Tenslotte, "we" kunnen eenvoudige netwerk modellen laten leren e.d. Bij hele grote en complexe netwerken wordt dat lastig. Bij extreem grote netwerken... Er moet dus nog veel onderzoek gedaan worden.

[Verwijderd]

Dit is een beetje oud nieuws, het boek is er al een half jaar ofzo, maar:

Ik heb het boek (en ook gelezen) en ik kan het iedereen aanraden! Het is duidelijk een breuk met de klassieke AI aanpakken die tot nu toe zijn gebruikt. Het heeft dus weinig te maken met de artificial neural nets die nu vooral worden gebruikt.

Het boek gaat over het zo goed mogelijk simuleren hoe de hersenen werken, waarbij de nadruk ligt op het voorspellen van gebeurtenissen op basis van eerdere ervaringen. Moeilijk om het kort uit te leggen, je kan het beter zelf lezen.

Er is ook een forum bij het boek: www.onintelligence.org, waar het e.e.a. wordt besproken over simulaties, biologie etc. Erg interessant allemaal!

[mad_dog]

12013: Het boek gaat over het zo goed mogelijk simuleren hoe de hersenen werken, waarbij de nadruk ligt op het voorspellen van gebeurtenissen op basis van eerdere ervaringen. Moeilijk om het kort uit te leggen, je kan het beter zelf lezen.

Sorry dat ik het zeg maar dit is toch wel een beetje sneu. Je hebt een boek gelezen maar kan niet aangeven wat de essentie is. Het doel van dit boek is om zijn manier van denken uit te leggen, en deze zou revoluionair moeten zijn. Het enige wat jij zegt is het bovenstaande, en dat is nou precies wat een neural network kan! Leren door ervaring!
Nu is mijn vraag, wat is dan het verschil....

[Verwijderd]

Ik kan het boek ook aanraden, behalve de stukken waar het over de fysiologie gaat van de hersenen, zijn de andere delen zeer zeker goed te lezen voor de leek, en Hawkins maakt goed duidelijk dat volgens hem intellegentie een feature van voorspellingen is. Wanneer je, baserend op invariabele herinneringen, iets kunt voorspellen, dan kan dat als teken van intelligentie gezien worden.

[KopjeThee]

Ik wil toch even zeggen dat "pattern recognition" en helemaal "machine learning" hele algemene benamingen zijn voor bepaalde soorten algortimen binnen de AI, dus zeker geen uitvinding van Jeff Hawkins.

Hawkins beweert te weten hoe het menselijk brein werkt (althans de neocortex) en heeft een prototype die zijn ideeen implementeert. Voor de ideeen zelf, zullen we het boek "On Intelligence" moeten lezen, vrees ik. Het artikel zegt niets meer dan dat het gebaseerd is op een "hierarchical memory system". Wat dat ook moge zijn.

[Verwijderd]

Wordt met dat hierarchical memory system niet zoiets als het 'korte termijn geheugen' en het 'lange termijn geheugen' bedoeld? Zoiets van: er wordt eerst in het korte termijn geheugen gezocht naar een manier/patroon, daarna pas in het lange termijn geheugen.

[KopjeThee]

Ik heb eigenlijk geen idee, maar ik kan wel eens gokken wat bedoeld wordt :-)

Je kunt veel dingen een een hierarchie indelen. Bijvoorbeeld geschriften. Op het hoogste niveau in de hierachie zitten alle geschriften met als gemeenschappelijk "patroon", dat je series van bladzijden hebt met geschreven tekst. Nu kan bijvoorbeeld 2 subklassen onderscheiden "novellen" en "romans". Novellen hebben als "patroon" dat ze minder dan 100 bladzijden lang zijn. Romans hebben als "patroon" dat ze langer dan 100 bladzijden zijn.

Kortom als je objecten in een klassen hierarchie indeelt, zou je op elk niveau kunnen proberen te achterhalen wat het karakteristieke patroon is. Op die manier kan je misschien snel dingen herkennen. Als je iets nieuws "ziet" dan kijk je eerste of het een geschrift is. Als het dat niet is, dan hoef je niet meer te kijken of het een novelle is, want dat kan niet meer. Ik kan me voorstellen dat je bij een grote hierarchie zo wat tijd kunt besparen.

Maar nogmaals ik weet dus echt niet wat zijn systeem doet.

[Verwijderd]

Het leukste (al wat oude) voorbeeld van de leermogelijkheden van neurale netwerken is wel het leger-experiment waarbij een netwerk 'leerde' foto's te onderscheiden met en zonder tanks. Werkte perfect, groot succes! Tot er een nieuwe set foto's werd aangeboden en er ineens geen enkele tank meer herkend werd.

Wat bleek? In de eerste set was elke foto met tank op een relatief zonnige dag gemaakt en elke foto zonder tank op een relatief bewolkte. Het netwerk zag de verschillen in kleur en contrast, en besliste op grond daarvan...

Moraal: een neuraal netwerk 'leert' wel, maar je kunt er nooit zeker van zijn wat.

[The Flying Dutchman]

Dat is slechts een kwestie van een goede trainingset aanbieden. Die is in dit geval duidelijk verkeerd gekozen. Of het netwerk is te lang doorgetraind tot het heel specifiek de tanks op de foto's kon herkennen, maar andere foto's niet meer (dus de trainingsset werd perfect herkent omdat daar voortdurend op getraind is, maar een andere set werkt dan niet meer...).

Op een afgebakende ruimte (in dit geval de trainingsset met tanks in een zonnige omgeving) kun je elk neuraal netwerk heel simpel tot een 100% score laten komen. Maar zo werkt het in het echt natuurlijk niet... je kunt niet 100% van de ruimte aanbieden om mee trainen (de situaties zullen elke keer weer een beetje anders zijn).

Maar goed, 100% is wellicht onmogelijk... en inderdaad, het netwerk leert wel, en misschien kun je er niet 100% van op aan... maar aan de andere kant, kun je 100% vertrouwen op het menselijke brein?

[Verwijderd]

Net als koeien, die herkennen ook geen objecten als ze op een andere afstand staan dan waarop ze getraind zijn!

[J.J.J. Bokma]

"Moraal: een neuraal netwerk 'leert' wel, maar je kunt er nooit zeker van zijn wat."

Onzin natuurlijk. Met een foute trainingset gaat elk stukje leersoftware de mist in.

[The Flying Dutchman]

De discussie of een menselijk brein in wiskundige formules samen te vatten is, is best een interessante. Ik denk dat we ooit in staat zullen zijn om een machine te maken die veel lijkt op de menselijke hersenen en ook tot hetzelfde in staat is. Dit zal dan een machine zijn, gebasseerd op neurale netwerken. Echter denk ik dat de huidige neurale netwerken (en een neuraal netwerk zou je kunnen zien als een wiskundige formule) veel te simplistisch zijn om het brein na te bootsen.

Het brein van mensen is zo onmogelijk ingewikkeld. Een menselijk brein bevat zo'n 100 miljard neuronen die op duizenden verschillende manieren met elkaar communiceren. Een neuraal netwerk van die schaal en dat op verschillende manieren met de andere knopen communiceert zal voorlopig nog niet mogelijk zijn.

Toch denk ik wel dat het ooit zal lukken en dan zou je kunnen zeggen dat de wiskunde als basis staat voor het menselijk brein. Echter zal het dan dusdanig ingewikkeld zijn dat niemand precies weet wat er gebeurt in dat neurale netwerk (en dat is ook de klacht die veel wetenschappers nu al tegen neurale netwerken hebben, ze weten niet wat er gebeurt, dus het is niet betrouwbaar, en onbruikbaar).

[J.J.J. Bokma]

"Het brein van mensen is zo onmogelijk ingewikkeld. Een menselijk brein bevat zo'n 100 miljard neuronen die op duizenden verschillende manieren met elkaar communiceren. Een neuraal netwerk van die schaal en dat op verschillende manieren met de andere knopen communiceert zal voorlopig nog niet mogelijk zijn."

Beowulf cluster b.v., of dedicated hardware. Probleem is echter, hoe ga je zoiets laten leren :-).

100 miljard neuronen hoef je niet allemaal gelijktijdig in het geheugen te hebben. Daarnaast hoef je niet elke hersencel te simuleren. Technisch zou elke Internetter een klein stukje software kunnen draaien, wat b.v. 1000-2000 neuronen simuleert.

[Verwijderd]

Intelligentie heeft, denk ik, voor een deel maar te maken met de hoeveelheid neuronen/grootte van je netwerk.

Een fysiologische onderbouwing voor deze bewering is dat:
- er in maand 3-4 van de zwangerschap als een gek neuronen aangemaakt worden
- tot ong 8 maanden na de geboorte worden hiertussen ook nog eens als een gek (en vrij random) verbindingen(synapsen) tussen gemaakt worden
- maar dat er aan de andere kant tot het twaalfde levensjaar (de leeftijd waarop volgens ontwikkelingspsychologie kinderen abstract gaan denken, volgens mij niet toevallig) er enorm veel 'pruning' plaats vindt.

Intelligentie is denk ik meer een gevolg van het 'prunen' dan van de grootte van het 'netwerk' in je hersenen.
Dit is denk ik ook een van de redenen waarom er door kwasten als deGaris klik hier (let niet op het stuk over 'artilect war') zo weinig vooruitgang wordt geboekt.

[Verwijderd]

Piet:"Vergeet niet de computer uit te zetten als je naar huis gaat. Hij leert namelijk exponentieel!"

Jan:"Ok, zal ik doen. Tot morgen!"

maar Jan vergeet dat! en what happens!!!

[familyman]

Sterker, Jan is de computer, maar Piet is dat vergeten

[Shaidar]

Klasse reply!

[CherandarGuard]

Jaja, vast.

[Verwijderd]

BTW. Intelligentie is niets anders dan een ondoorgrondelijke chaos. Naarmate de chaos toeneemt is er steeds een intelligenter persoon nodig om aan te tonen dat een systeem niet intelligent is. Wanneer zo'n persoon niet meer gevonden kan worden is het eerste, echt intelligente systeem gebouwd. Dit systeem is dan ook meteen superieur.

[Verwijderd]

Een neuraal netwerk kan niets wat een factoranalyse ook niet kan. Een factoranalyse doet er alleen wat langer over maar geeft dan ook uitleg over de tussenresultaten.

[0vestel0]

Leuke discussie. Voorheen was ik iemand die er stellig van overtuigd dat je persoonlijkheid en reacties kwamen van het leerproces van je hersenen (lees ervaringen)

Nu ik 2 kids heb denk ik er volledig anders over. Vanaf het moment dat een mens geboren is zit er al iets ingebakken. Noem het maar karakter ofzo. Iets ongrijpbaars dat de persoon definieerd. Niet bepaald een technische of wetenschappelijke opmerking. Maar ik kan er helaas niet omheen. En ik denk dat om deze reden Ai nooit op deze wijze zal kunnen functioneren/redeneren zoals een mens dat kan.

[The Flying Dutchman]

Wat vaak vergeten wordt is dat een kind zich ook al ontwikkeld als het nog niet geboren is! Terwijl het kind zich nog in de baarmoeder bevind vind er al een ontzettende hoop ontwikkeling plaats. Of er dan ook al daadwerkelijk iets geleerd wordt is natuurlijk maar de vraag...

Maar het is wel een aspect wat vaak vergeten wordt in onderzoeken (naar bijvoorbeeld geadopteerde kinderen, komt een bepaald gedrag voort uit de genen, of uit de opvoeding? Lastige vraag die moeilijk te beantwoorden is omdat de omgeving waar het kind zich in bevond voor de geboorte ook belangrijk is).

[tweaktubbie]

Misschien beetje 'boerenverstand' of versimpeld, maar een technologie die intelligentie in welke vorm dan ook wil beschrijven, moet toch eerst die intelligentie beheersen en kunnen omzetten naar een of andere code?

Met andere woorden, een computer leren om patronen te ontdekken of vergelijkingen te maken, die moet dan toch uitgelegd krijgen HOE je die link kunt leggen. En dus heeft een ontwikkelaar/bouwer/programmeur daarover nagedacht, dus loopt het principe van AI toch achter bij het denken van de maker... Eenvoudig gedacht, ik weet het, maar feitelijk is de kracht van AI toch alleen dat het geheugen qua onthouden en qua snelheid beter is?

In een proof-of-concept project is de computer al in staat met behulp van Numenta's programma's eenvoudige objecten relatief snel te herkennen

Het knappe is dus niet om een pc een kunstje te leren, maar eenvoudig en 'onfeilbaar' specificaties te converteren naar snelle code.

[Verwijderd]

Dit klopt niet. Vroeger was de aanpak van de A.I. inderdaad het analyseren hoe een mens een taak doet (om een blikje cola te pakken, moet je eerst kijken, dan het blikje herkennen wat een cylindrische vorm heeft, daarna je arm er naar toe bewegen, etc.). Het probleem met deze aanpak was dat mensen in feite totaal anders zulke problemen aanpakte, dat onze zelfanalyse verkeerd is.
B.v. bij het om ons heen kijken ziet ons bewustzijn iets vergelijkbaars met een foto, dat terwijl onze ogen maar minuscule elementen ziet. Als je bijvoorbeeld in je rechtergezichtsveld compleet blind wordt, dan valt dit voor je bewustzijn totaal niet op omdat het oog de hele tijd beweegt (spreek uit ervaring). Onze analyse wat betreft intelligentie is dus ook gekleurd door onze perceptie.

Huidige A.I. is gericht op b.v. het analyseren van basis levensvormen (b.v. mieren), en het simuleren daarvan. Niet het nabootsen van denkprocessen zoals wij het zien, maar het nabootsen van fysische processen (b.v. neuronen).
Het klopt dat een kunstmatig neural netwerk door een programmeur in een programma gezet wordt, maar het trainen/leren gebeurd door het netwerk zelf (bijvoorbeeld door evolutionaire algoritmes). De programmeur legt de basis, het netwerk leert zijn taken zelf.
Dit is precies hetzelfde als bij de mens. De evolutie heeft vorm gegeven aan onze hersens, wij leren daarna met ons gegeven netwerk.

[J.J.J. Bokma]

"Met andere woorden, een computer leren om patronen te ontdekken of vergelijkingen te maken, die moet dan toch uitgelegd krijgen HOE je die link kunt leggen."

voorbeeldje. Een GA (Genetisch algoritme) wordt geprogrameerd met de werking van een aantal elektronische componenten. Het GA kan deze componenten aan elkaar knopen. Als omgeving wordt het filteren van een elektronisch signaal aangeboden. Na een tijd komt het GA met een elektronisch filter. Moet de programmeur kennis hebben van het ontwerpen van elektronische filters?

Dit is een praktijkvoorbeeld. De software kwam met een aantal gepatenteerde filters aan, filters waar dus flink wat onderzoek naar was gedaan. Op basis van alleen kennis over de elektrische *componenten*.