Intel brengt neuromorfisch systeem uit met rekenkracht van '8 miljoen neuronen'

Intel heeft Pohoiki Beach aangekondigd, een systeem met 64 neuromorfische Loihi-chips voor onderzoeksdoeleinden. Het systeem, dat is gebaseerd op de werking van het menselijk brein, moet berekeningen op het gebied van kunstmatige intelligentie efficiënt afhandelen.

Pohoiki Beach is opgebouwd uit 64 Loihi-chips, die op hun beurt uit 130.000 cores bestaan, waardoor het totale aantal cores van het systeem op 8.320.000 uitkomt. 8 tot 32 Loihi-chips zitten op een Intel Nahuku-moederbord. De cores dienen als virtuele neuronen in een meshnetwerk. Net als de menselijke hersenen kan het systeem verbindingen tussen de neuronen in het netwerk verstevigen om te 'leren' en efficiënter data te verwerken. De connecties worden hechter op basis van de kracht van binnenkomende pieken in het signaal en op basis van de frequentie van die pieken.

Later dit jaar wil Intel Labs de architectuur opschalen naar honderd miljoen neuronen. De fabrikant bouwt met dat systeem, met de naam Pohoiki Springs, voort op Pohoiki Beach en lijkt het aantal Loihi-chips daarmee tot zo'n 770 te verhogen. Het onderzoek is volgens Intel een opmaat naar de uiteindelijke commerciële inzet voor neuromorfische systemen, maar voorlopig worden de Loihi-chips nog voor onderzoek gebruikt.

Zo claimt de mede-ceo van Applied Brain Research dat het verbruik van Loihi bij een deeplearningbenchmark 109 keer lager lag dan bij een gpu. Ten opzichte van niet nader aangeduide speciale inference hardware, oftewel ai-accelerators, mat het bedrijf een vijf keer zo laag verbruik. Neuromorfische chips worden al jaren als een belofte gezien voor het efficiënter afhandelen van berekeningen op het gebied van kunstmatige intelligentie dan bestaande cpu's of gpu's. Onder andere IBM en het Belgische instituut imec werken aan een neuromorfische chip.

Reacties (67)

[OcNewB]

Spannende ontwikkelingen.
Menselijk brein heeft er ongeveer 100 miljard...

[GeoBeo]

Spannende ontwikkelingen.
Menselijk brein heeft er ongeveer 100 miljard...

keer 10.000 voor het aantal synaps verbindingen tussen neuronen.

Waarbij die verbinding zelf ook nog eens een filter is en niet zomaar 1 op 1 het signaal tussen neuronen doorlaat (dus elke synaps is meer dan alleen "een draadje"). Synaptome.

Chip "gebaseerd op de werking van het menselijk brein" zou ik dan ook maar als een korreltje zout nemen.

Net als dat neural networks in machine learning (en deep learning) vrijwel niets met de werking en architectuur van het menselijke brein te maken hebben. En al helemaal niets met bewustzijn of zelfs intelligentie (als dat laatste al te definiëren is).

Uiteraard is het wel positief dat er dit soort hardware bestaat voor experimenteren. Het helpt waarschijnlijk wel om bepaalde theorieën over de architectuur te toetsen. Zoals "a 1000 brains" theorie of anderen.

En voor het trainen van neural networks voor bijvoorbeeld beeldherkenning. Dat zal met zo'n systeem veel sneller gaan, omdat berekeningen voor trainen makkelijk parallel gemaakt kunnen worden.

Dat allemaal gezegd hebbende, denk ik dat een AI brein nog voor 2030 op alle vlakken beter zal presteren dan een menselijk brein. Wat betekend dat de wereld in korte tijd veel meer zal veranderen dan ooit te voren. En dat we het menselijke brein tegen die tijd volledig zullen snappen. Aanrader: https://en.wikipedia.org/wiki/The_Singularity_Is_Near

[Reactie gewijzigd door GeoBeo op 23 juli 2024 06:55]

[Dorstlesser]

Net als dat neural networks in machine learning (en deep learning) vrijwel niets met de werking en architectuur van het menselijke brein te maken hebben. En al helemaal niets met bewustzijn of zelfs intelligentie (als dat laatste al te definiëren is).

Mja, ik vind dit altijd zo'n opvallende uitspraak die ik zelfs AI professors hoor maken. Het is goed om te benadrukken dat kunstmatige neurale netwerken heel anders zijn dan echte neurale netwerken, maar er zijn wel degelijk veel overeenkomsten. Ik doe zelf hersenonderzoek en hypothesen over de werking van het visuele systeem in de neocortex informeren ontwerpen van DNNs. Daarnaast worden DNNs ook veelvuldig gebruikt voor het maken van testbare hypothesen wat betreft diezelfde anatomie en fysiologie van (o.a.) het visuele systeem. Dat de twee niks met elkaar te maken hebben is dan ook wat kort door de bocht imo. Er is alleen niks uniek 'menselijks' aan dit soort netwerken; andere zoogdieren hebben heel vergelijkbare visuele systemen. Uiteraard geldt dat niet elk DNN ontworpen is om een menselijk brein getrouw na te bootsen, juist niet, maar in de basis vertonen zelfs de minst neuromorfische DNNs nog gelijkenissen met daadwerkelijke neurale netwerken die niet uit de lucht zijn komen vallen maar voortkomen uit de neurowetenschap.

En dat we het menselijke brein tegen die tijd volledig zullen snappen.

Kunstmatige neurale netwerken gaan ons zeker veel helpen bij hersenonderzoek maar ik denk dat er ook na 2030 nog genoeg te leren zal zijn over het brein. De input/output relaties van het brein *redelijk* na kunnen bootsen betekent niet dat we het brein daadwerkelijk doorgronden. Er zijn uitermate primitieve DNNs die opmerkelijk genoeg gedrag laten zien van laag tot laag wat opvallende overeenkomsten vertoont met de verschillende 'lagen' van een echt visueel systeem, maar er zijn ook genoeg verschillen. Waar die verschillen vandaan komen kan je het beste onderzoeken door een echt brein te bestuderen. Het maken van hypothesen is door kunstmatige neurale netwerken wel vergemakkelijkt en versnelt, maar opnames maken van wat er in een echt brein gebeurt onder allerlei omstandigheden is een tijdrovende maar noodzakelijke bezigheid. Vergeet ook niet dat het menselijk brein meer doet dan waar DNNs voornamelijk voor ontwikkeld worden en dat het brein 'volledig begrijpen' ook de biochemie en ontwikkeling behelst, welke niet door onderzoek naar AI beïnvloed worden.

[GeoBeo]

[...]
Mja, ik vind dit altijd zo'n opvallende uitspraak die ik zelfs AI professors hoor maken. Het is goed om te benadrukken dat kunstmatige neurale netwerken heel anders zijn dan echte neurale netwerken, maar er zijn wel degelijk veel overeenkomsten. Ik doe zelf hersenonderzoek en hypothesen over de werking van het visuele systeem in de neocortex informeren ontwerpen van DNNs. Daarnaast worden DNNs ook veelvuldig gebruikt voor het maken van testbare hypothesen wat betreft diezelfde anatomie en fysiologie van (o.a.) het visuele systeem. Dat de twee niks met elkaar te maken hebben is dan ook wat kort door de bocht imo. Er is alleen niks uniek 'menselijks' aan dit soort netwerken; andere zoogdieren hebben heel vergelijkbare visuele systemen. Uiteraard geldt dat niet elk DNN ontworpen is om een menselijk brein getrouw na te bootsen, juist niet, maar in de basis vertonen zelfs de minst neuromorfische DNNs nog gelijkenissen met daadwerkelijke neurale netwerken die niet uit de lucht zijn komen vallen maar voortkomen uit de neurowetenschap.

Je kunt prima een DNN maken dat een deel van de visuele processing van mensen redelijk nabootst. Maar dan doe je dat met een fundamenteel andere architectuur en manier dan hoe die van het brein werkt.

Ik snap daarom heel goed dat AI professoren expliciet heel duidelijk maken dat machine learning (of DNNs specifiek) niet op dezelfde manier werken als het brein. Er worden in het machine learning vakgebied namelijk heel veel termen geleend uit de biologie van het menselijke brein. Omdat dit "cool" klinkt of wat dan ook. En dat is enorm misleidend/verwarrend voor iemand die een machine learning les ingaat met het idee dat hij zal ontdekken hoe hij een menselijk brein werkt om het vervolgens na te maken in software. Terwijl machine learning maar een een heel beperkt aspect van het kunnen van het brein grofweg nadoet.

Mijn punt is, dat je met machine learning niet (zoals je zelf ook al aangeeft) "op dezelfde manier als het brein" aan processing doet. Ook niet als je een basis aspect van een piepklein gedeelte van het brein daarmee heel losjes nabootst. En dat je daarmee dus niet het brein of haar architectuur als geheel evenaart. DNN, zijn niet een versimpelde versie van het menselijke brein dat ineens magisch "slim" en "menselijk" wordt als je het op schaalt. Terwijl de menselijke cortex met haar "cortical columns" juist wel schaalt richting "menselijkheid". Bovendien vergt het opschalen van de capaciteiten van DNNs exponentieel veel rekenkracht, terwijl ook dit opschalende aspect bij het brein niet zo werkt. Door de fundamenteel andere architectuur.

In het brein staat het leren van een object op basis van visuele input bijvoorbeeld, niet los van input van andere zintuigen. Zelfs op een heel laag niveau vindt er al "sensor fusion" plaats, terwijl dat in DNNs enorm lastig is. Zelfs achteraf op een hoog niveau. Omdat de architectuur en werking fundamenteel verschillend zijn.

Kunstmatige neurale netwerken gaan ons zeker veel helpen bij hersenonderzoek maar ik denk dat er ook na 2030 nog genoeg te leren zal zijn over het brein. De input/output relaties van het brein *redelijk* na kunnen bootsen betekent niet dat we het brein daadwerkelijk doorgronden. Er zijn uitermate primitieve DNNs die opmerkelijk genoeg gedrag laten zien van laag tot laag wat opvallende overeenkomsten vertoont met de verschillende 'lagen' van een echt visueel systeem, maar er zijn ook genoeg verschillen. Waar die verschillen vandaan komen kan je het beste onderzoeken door een echt brein te bestuderen. Het maken van hypothesen is door kunstmatige neurale netwerken wel vergemakkelijkt en versnelt, maar opnames maken van wat er in een echt brein gebeurt onder allerlei omstandigheden is een tijdrovende maar noodzakelijke bezigheid. Vergeet ook niet dat het menselijk brein meer doet dan waar DNNs voornamelijk voor ontwikkeld worden en dat het brein 'volledig begrijpen' ook de biochemie en ontwikkeling behelst, welke niet door onderzoek naar AI beïnvloed worden.

Mee eens.

[Reactie gewijzigd door GeoBeo op 23 juli 2024 06:55]

[Dorstlesser]

Het is natuurlijk semantiek maar als iemand zegt dat een DNN niks met het brein te maken heeft dan moet die persoon het gewoon niet een kunstmatig neuraal netwerk noemen, maar gewoon een kunstmatig netwerk.

Terwijl machine learning maar een een heel beperkt aspect van het kunnen van het brein grofweg nadoet

Maar voor zover het op het brein gebaseerd is, is het op het brein gebaseerd. Het beestje moet uiteindelijk een naam hebben en om marketingredenen moet die goed klinken; 'neuro' is zo'n mooi klinkend woord en ik vind het niet problematisch dat producenten van neuromorphische chips, die daadwerkelijk bepaalde, beperkte, aspecten van neurale circuits in hardware emuleren, spreken van 'neuraal geïnspireerd' of 'neuromorfisch'. Het gaat hier toch echt om heel andere hardware dan al bestaande chips. Ik weet niet hoe veelzijdig deze hardware precies is; als het werkelijk alleen gemaakt is om beeldverwerking te versnellen zal er waarschijnlijk wel niet zo heel veel 'neuromorfisch' aan zijn, maar ik kan me voorstellen dat er allerlei soorten kunstmatige netwerken op te realiseren zijn en dat er dus ook goed mee te rekenen valt aan netwerken die meer biologisch geïnspireerd zijn.

In het brein staat het leren van een object op basis van visuele input bijvoorbeeld, niet los van input van andere zintuigen.

En dit is nou net zo'n probleem waarbij neuromorfische DNNs gebruikt worden voor het formuleren van hypothesen. Daarvoor draaien nu bij ons op het lab een paar 1080 Ti's constant (ik werk hier zelf niet mee, een collega wel); ik kan me voorstellen dat neuromorfische hardware als deze van Intel hier meer efficiëntie en mogelijkheden biedt. Als de hardware daarvoor ontwikkeld is, die dus efficiënter is in het emuleren van biologische neurale netwerken door bepaalde, zij het beperkte, aspecten in silico over te nemen, dan is er toch een concreet verband met het biologische brein?

Dat zaken als 'tensor cores' of zelfs doodgewone GPU pipelines tegenwoordig in chips als 'neural processing engines' gemarket worden vind ik kwalijker.

[Vernes]

De term "gebaseerd op de werking van het menselijke brein" is absoluut correct.
Tenzij je "gebaseerd" verkeerd interpreteert.
De eerste ontwikkeling van een ANN was gebaseerd op de werking van de menselijke brein.
https://en.wikipedia.org/...al_neural_network#History

Net zoals vliegtuigen gebaseerd zijn op vogels, maar in geenszins zelf vogels zijn en al helemaal niet vliegen als vogels.
Toch is de stelling dat vliegtuigen gebaseerd zijn op vogels, een correcte.

[GeoBeo]

De term "gebaseerd op de werking van het menselijke brein" is absoluut correct.
Tenzij je "gebaseerd" verkeerd interpreteert.
De eerste ontwikkeling van een ANN was gebaseerd op de werking van de menselijke brein.
https://en.wikipedia.org/...al_neural_network#History

Net zoals vliegtuigen gebaseerd zijn op vogels, maar in geenszins zelf vogels zijn en al helemaal niet vliegen als vogels.
Toch is de stelling dat vliegtuigen gebaseerd zijn op vogels, een correcte.

Ik snap wat je bedoeld, maar op die manier is "gebaseerd op" zo algemeen dat het niets toevoegt. Je kunt dan namelijk ook stellen dat vliegtuigen gebaseerd zijn op vleermuizen, vliegende stukken steen, zwevende zaadjes van bomen, het langzaam neerdalen van een kledingstuk, het wegvliegen van een stuk papier, het gooien van en schoen enz. Wat is dan nog de toegevoegde waarde van schrijven dat het "gebaseerd op" is? Uitleggen wat vliegen betekend? Dat weten mensen toch al...

Beter zou zijn: het concept vliegtuig is geïnspireerd door vogels. Of het concept neural networks is geïnspireerd door leren van categorieën door het menselijke brein.

Voor de technologische werking zijn vliegtuigen niet gebaseerd op vogels en neural networks niet gebaseerd op het menselijke brein. IMO impliceert in de Nederlandse taal "iets baseren op" dat de werking van iets nagemaakt/gekopieerd wordt en niet (alleen) dat het concept nagedaan wordt.

Uit je eigen link:

The original goal of the ANN approach was to solve problems in the same way that a human brain would. However, over time, attention moved to performing specific tasks, leading to deviations from biology.

[Reactie gewijzigd door GeoBeo op 23 juli 2024 06:55]

[Verwijderd1]

Uit je eigen link:

[...]

Zo werkt het brein toch ook? Bepaalde delen van het brein zijn gespecialiseerd in bepaalde taken. Die taken zijn bij het brein complexer en het geheel is veer uitgebreider dan wat we nu aan neurale netwerken hebben maar het is niet zozeer heel verschillend.

[GeoBeo]

[...]
Zo werkt het brein toch ook? Bepaalde delen van het brein zijn gespecialiseerd in bepaalde taken. Die taken zijn bij het brein complexer en het geheel is veer uitgebreider dan wat we nu aan neurale netwerken hebben maar het is niet zozeer heel verschillend.

Nee. De werking is anders.

Het brein en neurale netwerken bereiken deels hetzelfde doel, maar niet op dezelfde manier.

Zie 1000 brains theory, voor meer info hierover.

[Verwijderd1]

Zie 1000 brains theory, voor meer info hierover.

Wat bedoel je daar precies mee? Kende het niet, maar van wat ik zie gaat het over het maken van meerdere modellen waarbij de beste(?) gebruikt wordt d.m.v. voting.

Zoiets is ook wel gedaan bij artificiële netwerken. Zie bijvoorbeeld dit artikel uit 1994.

Wat ik bedoelde is meer op macro schaal dat het brein een bepaald deel heeft voor visie, een deel voor motoriek, etc. In die zin is het dus niet totaal verschillend (maar wel heel veel simpeler, onder andere natuurlijk omdat je niet de rekenkracht hebt) dat je een model maakt voor iets specifieks, bijvoorbeeld binaire classificatie van afbeeldingen in twee categorieën.

[GeoBeo]

[...]
Wat bedoel je daar precies mee? Kende het niet, maar van wat ik zie gaat het over het maken van meerdere modellen waarbij de beste(?) gebruikt wordt d.m.v. voting.

Zoiets is ook wel gedaan bij artificiële netwerken. Zie bijvoorbeeld dit artikel uit 1994.

Wat ik bedoelde is meer op macro schaal dat het brein een bepaald deel heeft voor visie, een deel voor motoriek, etc. In die zin is het dus niet totaal verschillend (maar wel heel veel simpeler, onder andere natuurlijk omdat je niet de rekenkracht hebt) dat je een model maakt voor iets specifieks, bijvoorbeeld binaire classificatie van afbeeldingen in twee categorieën.

Het hele punt dat de 1000 brains theorie maakt is dat de delen voor visie en motoriek en gehoor en "nadenken" dus juist niet heel verschillend zijn in architectuur, maar juist hetzelfde zijn. Het enige dat het verschil maakt tussen die regios van het brein is welk soort zintuig aan welk stuk brein aangesloten zit en hoe de verbindingen lopen tussen neuronen (dit is plastisch dus kan zichzelf opnieuw "trainen").

De theorie zegt dus dat in principe visuele input (in de cortex) volledig uitwisselbaar is met de regio's die normaal gesproken audio input processen (in de cortex). Om maar een voorbeeld te noemen.

En dat is toch echt fundamenteel anders dan de architectuur achter kunstmatige neurale netwerken.

Side note: de 1000 brains theorie gaat dus alleen over hoe de "verschillende regio's" van de cortex (die dus niet echt verschillend zijn) werken. Niet over de architectuur van het brein als geheel.

Dit is wel degelijk een fundamenteel andere architectuur dan kunstmatige neurale netwerken. Het brein netwerk wordt volledig anders getraind (met input uit meerdere sensoren tegelijk), het wordt continu getraind en alles wordt gecodeerd opgeslagen en teruggehaald op basis van patronen die 3D coördinaten in de ruimte voorstellen (op basis van echte bestaande ruimtes en objecten of op basis van "virtuele" 3D ruimtes zoals gedachten/herinneringen/nadenken/logica waar het brein als het ware onbewust "doorheen loopt").

[Reactie gewijzigd door GeoBeo op 23 juli 2024 06:55]

[bbob]

Vraag me namelijk nog steeds af hoeveel we echt van de werking van het menselijk brein afweten. Lees laatst bijv onderzoek over darmen, werking daarvan en de invloed of het brein, bijv depressies. Denk dat we pas aan het begin staat te begrijpen hoe ons brein werkt als we het al begrijpen.

Misschien kun je daarom gebaseerd beter vervangen door geïnspireerd.

[Vernes]

Mee eens.

[Baklap-XD]

If the brain were simple enough for us to understand it, we would be too simple to understand it

[Joppiesaus2]

Wat ik altijd mis bij deze vergelijkingen is dat de frequentie van siliconen hoger ligt dan in biologie. Dus zou je weer met minder verbindingen dezelfde taken moeten kunnen berekenen per seconde. Wellicht werkt het totaal niet zo, maar is toch iets wat een factor speelt me dunkt?

[akooijman]

Over tien jaar duurt het waarschijnlijk nog steeds tien jaar.
Met AI kunnen inmiddels bijzondere dingen, maar intelligentie is nog in geen velden of wegen te bekennen.

[Navi]

Als we nu op 8 miljoen zitten kun je de wet van moore toepassen en uitrekenen wanneer 'het' self-aware wordt en judgment day is aangebroken

[Cergorach]

Als we nu op 8 miljoen zitten kun je de wet van moore toepassen en uitrekenen wanneer 'het' self-aware wordt en judgment day is aangebroken

Die gaat niet op omdat:

Later dit jaar wil Intel Labs de architectuur opschalen naar honderd miljoen neuronen.

Das 12.5x zoveel in een periode van minder dan zes maanden.

Daarnaast hebben slimme/domme mensen niet meer of minder neuronen. Dus puur het aantal neuronen kopiëren is niet voldoende om intelligentie/selfawereness te ontwikkelen.

[Mathijs1]

Maar het maakt voor zelfbewustzijn niet uit of je slim of dom bent, en waarschijnlijk kun je dit ook wel bewerkstelligen met minder dan het aantal neuronen in de hersenen van een moderne mens. Het gaat meer over de architectuur van de hersenen dan het aantal neuronen, als je het hebt over abstracte concepten zoals 'zelfbewustzijn'. Zie ook https://www.quora.com/How...rigger-that-consciousness

En als je dit een interessant onderwerp vindt, dit boek is erg boeiend: https://www.bol.com/nl/f/...-a-mind/9200000023158454/

[Reactie gewijzigd door Mathijs1 op 23 juli 2024 06:55]

[Rudie_V]

Maar het maakt voor zelfbewustzijn niet uit of je slim of dom bent, en waarschijnlijk kun je dit ook wel bewerkstelligen met minder dan het aantal neuronen in de hersenen van een moderne mens.

In de jaren 70 heeft men zich afgevraagd of dieren ook zelfbewust zijn en men heeft hiervoor de mirror test ontwikkeld:
https://nl.wikipedia.org/wiki/Spiegelproef

In de spiegelproef wordt een dier zonder dat het dat doorheeft gemarkeerd met een plek of stip. De plek is zodanig aangebracht dat het dier deze alleen kan zien via het spiegelbeeld. Vervolgens wordt het dier voor een spiegel geplaatst en gekeken of het doorheeft dat de plek zich op het eigen lichaam bevindt. Dit wordt afgeleid uit het aanraken van de plek met bijvoorbeeld de hand (bij aap), snavel of poot (vogel) of de slurf (bij olifant). Soms draait het dier (zoals een dolfijn) de kop naar de spiegel toe om de plek van meer dichtbij te kunnen inspecteren. Vogels proberen de plek met de snavel of poot te verwijderen nadat ze in de spiegel hebben gekeken.

Dieren die de test met succes hebben afgelegd, zijn:

Mensen
Chimpansees
Orang-oetans
Bonobo's
Dolfijnen (tuimelaars)[2]
Eksters[3]
Aziatische olifanten[4]

Kinderen slagen pas voor spiegelproef als zij 1.5 tot 2 jaar oud zijn. Dat is aangetoond met een rougetest: ze wrijven een veegje rouge waarvan ze nog niet wisten dat het er zat, met de hand weg als ze voor de spiegel staan.

Kinderen die nog niet zelfbewust zijn willen de veeg in de spiegel wegvegen, kinderen die wel zelfbewust zijn vegen het op de wang van het eigen lichaam weg.

www.animalcognition.org/2...e-passed-the-mirror-test/

Conclusion

If an animal can pass the mirror test, it’s certainly strong evidence of self-recognition, and indicates the possibility of self-awareness (i.e. a “sense of self”). However, it’s not definitive proof. And if an animal isn’t able to pass, that doesn’t necessarily mean that they do not possess these abilities.

For example, animals that rely on other senses more heavily than their vision may not take much interest in the sight of their reflections. Dogs, who recognize others mainly by their sense of smell, might quickly conclude that their mirror image is not of themselves or any other animal, because it lacks a corresponding scent. Furthermore, some animals may be able to recognize themselves in the mirror and see that they have been marked, but do not find the mark important enough to warrant touching or inspection.

Kortom, het lijkt erop dat je geen mens hoeft te zijn om zelfbewust te zijn en dus ook met minder neuronen dan een mens heeft al zelfbewustheid kan ontwikkelen..in ieder geval in de natuur dan.

[Reactie gewijzigd door Rudie_V op 23 juli 2024 06:55]

[bbob]

Je hebt gelijk waarbij naar menselijke normen de vraag is wanneer bereik je zelfbewustzijn. Iemand met iq van 80 zal net als iemand met iq van 180 zelfbewustzijn hebben. Heeft iemand met iq van 20 (als dat al bestaat) ook zelfbewustzijn ? Hoe meten we zelfbewustzijn.

In sommige zaken kunnen dieren ook complexe, intelligentie dingen doen, neem dolfijnen, maar hebben ze ook zelfbewustzijn.

[DeDooieVent]

Zelfs een bij heeft weet van het begrip "0"

https://www.scientias.nl/...at-nul-minder-is-dan-een/

Dus ik denk inderdaad dat het aantal neuronen ondergeschikt is

[japie06]

Daarnaast heeft het menselijk brein een vermogen van van 'maar' 20 watt.

[Zezura]

Ik zou zeggen dat de complexe berekeningen door onze hersenen uitermate efficiënt gebeurd. Watt zegt niks als je het niet verhouding brengt tot iets.

[japie06]

Dat klopt. Maar ik weet niet op hoeveel Ghz of teraflops ons brein draait.

[bbob]

Geen idee maar kijk wat een brein moet verwerken aan data. Zien, horen, voelen, proven, ruiken, dat met elkaar combineren en dat alles in fractie van een seconde.

Op specifieke taken, lees rekenen zal computer veel sneller zijn, maar in totaliteit en alle invoer die een mens krijgt aan gegevens is een mens nog steeds uniek.

[Reactie gewijzigd door bbob op 23 juli 2024 06:55]

[Zezura]

Als ik een schatting moet maken zal dat wel Hexa of Exa zijn.

[Reactie gewijzigd door Zezura op 23 juli 2024 06:55]

[jinxedworld]

Dat klopt. Maar ik weet niet op hoeveel Ghz of teraflops ons brein draait.

It is difficult to comparable the processing process of a brain with the process of a modern computer. They work in very different ways.

An electronic computer has one to perhaps a dozen cores, processing units, that do only one thing at a time, but can do do it very quickly. Even the most monstrous super computers don’t have that much parallel capability.

The latest Department of Energy / IBM super computer has 4,608 compute servers, each containing two 22-core IBM Power9 processors and six Nvidia Tesla V100 graphics processing unit (GPU) accelerators each. Each NVidia GPU contains 640 Tensor cores, and 5120 NVidia CUDA cores. Problem is that it requires 13 megawatts of power. Let’s see that’s 4608 x 2 x 22 x 6 x (640 + 5120) or about 7,007,109,120 cores

A typical human brain has about 100 billion neurons. Each neuron is connected to hundreds or possibly thousands other neurons. There are both incoming connections, and the output of a neuron can connect to one or a thousand other neurons.

These connections can be excitatory, meaning that when they fire, they tend to turn on the neuron that they connect to. Other connections tend to be inhibitory, and they tend to turn off the neuron they connect to.

Whether a particular neuron turns on and fires, or turns off and does not fire depends on the balance of the excitatory and inhibitory impulses it is receiving at the moment.

I’ve read that it takes about 100 to 250 milliseconds for the brain to complete one “thought”. Since you have 100 billion biological CPU cores all running in parallel, that would be roughly like one core running at something like 400 to 1,000 GHz.

The comparison is not great, though, because electrical CPU cores work on only one thing at a time, while each neuron in the brain is simultaneously receiving 100s to 1000s of inputs.

I think someone in med school taught that we live about 450 milliseconds in the past, because what we perceive as reality has already happened half a second before we are aware of it. When a baseball player hits a thrown ball, it’s not because he sees it coming and adjusts his swing to hit it, but because his brain anticipates and computes the swing to where the brain predicts the ball will be. It as our ability to anticipate based on previous experience plus our massively parallel processing capability that sets brains apart from electronic computers.

Pretty amazing for something that consumes less than 100 watts of power, and is built out of food, and runs continuously for 70 - 99 years.

Bron: https://www.quora.com/How-many-GHz-does-the-human-brain-have

tl;dr : Lastig te vergelijken, maar als je er een getal aan moet hangen dan tussen de 400 tot 1,000 GHz.

[Verwijderd1]

I think someone in med school taught that we live about 450 milliseconds in the past, because what we perceive as reality has already happened half a second before we are aware of it. When a baseball player hits a thrown ball, it’s not because he sees it coming and adjusts his swing to hit it, but because his brain anticipates and computes the swing to where the brain predicts the ball will be.

Klopt dit wel? Als je zo'n reactietijd tester doet waarbij een bepaalde knop in beeld komt en je gelijk moet klikken, maar je weet niet wanneer die knop in beeld komt (je ziet hem niet aankomen als een bal die gegooid wordt) dan kan je volgens mij ook best onder de 450ms komen.

Zie deze bijvoorbeeld, daar hebben ze het over een gemiddelde van 215ms.

[bbob]

mooie is natuurlijk dat de natuur voorbeeld mis voor deze zaken. Een menselijk brein heeft gigantsiche rekenkracht maar verbruik is idd maar een fractie. GPU is wat dat betreft voor de toekomst achterhaald concept op basis van prestatie en verbruik.

Maar neem zelfs onze spieren, die verbruiken ook maar een fractie als je dat met robot techniek vergelijkt. Neem een paard, gewicht van paard en hoeveelheid voer dan is het verbruik van spieren bij paard en grotere dieren vaak nog lager.

De natuurlijk is een mooi voorbeeld en deze ontwikkeling probeert dat na te bootsen.

[Verwijderd]

Op het gebruik van die 100 miljard menselijke neuronen hebben we maar heel weinig invloed.
Deze 'neuronen' kunnen we actief bijsturen, dus zorgen dat ze zoveel mogelijk efficiënt ingezet worden.
Ik vraag me dan ook af of we de haalbaarheid van het evenaren van menselijke intelligentie niet al veel eerder gaan bereiken dan die 100 miljard.

[bbob]

Evenare van menselijke intelligentie is afhankelijk van 2 zaken. Hardware en software. Hardware is bovenstaand artikel dat meer mogelijk maakt met minder energie. Intelligentie wordt misschien mogelijk gemaakt door hardware maar het is software of eerder nog een leerproces dat intelligentie mogelijk zou kunnen maken. De vraag is echter welke kant dat leerproces opgaat, of en hoe we dat kunnen beïnvloeden. Vergeet ook niet dat ons brein data uit meerdere signalen, ogen, gehoor, reuk, tast, smaak. Intelligentie en de ontwikkeling van AI het leerproces zal dan ook samen moeten gaan met zien, horen, voelen.

[SSDtje]

Dan zijn ze toch al aardig op weg dacht ik zo, alleen zijn ze inderdaad nog lang niet zo ver als in vergelijking met hoeveelheid aan neuronen die er in menselijk brein zitten inderdaad, maar goed, een begin is gemaakt in elk geval, nu nog 85.992.000.000‬ te gaan, en dan zijn ze er.

[Reactie gewijzigd door SSDtje op 23 juli 2024 06:55]

[Verwijderd]

Allemaal leuk en aardig, but will it play Crysis ?

[Raphaelo]

Crysis heeft juist veel baat bij singlecore performance, dus ik denk het niet.

[SilverRST]

Oh shit! Skynet is real! Maar zelfs al bereiken ze de 100 miljard neuronen (afgaande op anderen hun reacties), dan alsnog mist er iets: zelfbewustzijn. Nu weet ik even niet of de 100 miljard neuronen voor de gemiddelde volwassene gaat of een kind/tiener of dat het voor beiden gelijk is.

[Reactie gewijzigd door SilverRST op 23 juli 2024 06:55]

[jqv]

Een kind heeft er bij geboorte minder.

De mens is uniek hierin. De hersenen groeien de eerst jaren van het leven van een mens. Vandaar dat de schedel nog verdeeld is in losse stukken die later pas aan elkaar groeien.

En het maakt het hoofd ook wat makkelijker pasbaar door het geboortekanaal.

[SilverRST]

Idd, fontanel is het. De schedel van een baby is zacht in het begin.

[Namixam]

Is dat niet omdat anders de baby niet door het geboortekanaal kan?

[blorf]

Voor zover ik weet is die flexibiliteit er
juist om de relatief grote hersenpan de bevalling te laten doorstaan zonder schedelfractuur, omdat het meest, zo niet alles er al in aanwezig moet zijn en het daardoor niet kleiner kan.

[Reactie gewijzigd door blorf op 23 juli 2024 06:55]

[Kraay89]

De fontanellen (2 stuks meen ik?) groeien binnen een paar maanden al dicht. Dat heeft dus weinig met hersengroei in de eerste jaren te maken. Om dat op te vangen groeit de schedel in zijn geheel gewoon mee.

[m_snel]

Ik wou al zeggen, wat zit er anders in een hoofd van een volwassene.

[Verwijderd]

Oh shit! Skynet is real! Maar zelfs al bereiken ze de 100 miljard neuronen (afgaande op anderen hun reacties), dan alsnog mist er iets: zelfbewustzijn.

Waarom zou dat moeten missen?
Is wel een aardig filosofische vraagstuk natuurlijk, maar ik zou niet weten waarom een zelfdenkend elektronisch brein geen zelfbewustzijn zou kunnen hebben.
We vertellen 'hem' alles, maar we verzwijgen dat hij of zij eigenlijk een computer is?
Sterker nog: als dit brein echt slim wordt komt deze daar zelf wel achter...

[nobraininvolved]

hmmm...ben benieuwd hoe zo'n computer 'opgevoed' gaat worden...
brein hebben is 1 ding, maar alle omgevingsfactoren erin brengen zodat dat brein ook weet wat wel/niet mag, wat cultureel wel/niet acceptabel is (wat nog eens per gebied verschilt), wat de gangbare normen en waarden zijn...
intelligentie is maar 1 deel van het verhaal...maar de context daarvan is veel belangrijker (soms kan het heel intelligent zijn om b.v. mensen te vermoorden, maar is het nog steeds niet wettelijk/cultureel aanvaard).

[bbob]

Opvoeding is een goede vraag. Schreef het hierboven als, mensen worden opgevoed met regels waar we ons in een maatschappij aan moeten houden om samen te kunnen leven.
Diezelfde mens heeft echter ook een overlevingsmode, kijk naar oorlogsgebieden en gruwelijkheden die daar gebeuren. Om te overleven zet je als mens vaak ook regels overboord. Je eigen overleving of die van je kinderen kan dan boven het leven van een ander staan.

Neem heel eenvoudig, grote ruimte veel mensen, brand brand. Iedereen wil zo snel mogelijk naar buiten, gevolg, dringen, mensen die vallen, doodgetrapt worden.

De vraag is we kunnen een AI opvoeden, informatie geven, de vraag is hoe deze dat gaat interpreteren. Zit er ook een overlevingsmodus in AI. Dus stel wij als mens vinden een AI systeem te zelfstandig worden en niet meer volgens onze regels functioneren, Wie zegt dat een ai systeem met zelfbewustzijn dat ook zo ziet. Willen wij AI veranderen kan deze dat als een aanval zien en in overlevingsmodus springen.

[nobraininvolved]

Een overlevingsmodus is natuurlijk ook iets wat 'voorgeprogrammeerd is'. Bij mensen heet dat oerinstinct. Daar zit ook een heleboel informatie in...zo springen de meeste mensen weg als ze een slang zien, of lopen ze niet lachend naar een tijger om die te aaien of eten ze bepaalde dingen niet zomaar....en daar hoort idd ook gedrag bij zoals jij beschrijft...
Aan de ene kant is het een stukje aangeleerd gedrag mss, maar aan de andere kant is het ook voor een groot deel info uit ons oerbrein.
Een computer heeft dat oerbrein niet, dus die zal niet op die manier reageren, tenzij wij als mens zo'n ding erin zetten...(en dan wordt het eng denk ik haha)...

[bbob]

Een computer heeft dat oerbrein niet, dus die zal niet op die manier reageren, tenzij wij als mens zo'n ding erin zetten...(en dan wordt het eng denk ik haha)...

Het is niet gezegd dat wat wij als mens erin zetten ook eruit komt. We kunnen met regels beginnen de vraag is en blijft hoe een ai zich zal ontwikkelen. Als het er achter komt dat het superieur is aan de mens, de mens ai wil stoppen kun je zelf ook invullen dat het naar zelfbehoud kijkt.
Het zal ook kunnen leren uit gedrag van de mens. Echter cultuurverschillen zijn soms groot wat ander gedrag kan geven. In ene land is bepaald gedrag aanvaard in ander niet.
Het is dus allemaal vrij complex. 1 ding is zeker het kan alle kanten opgaan, de goede kans voor de mens maar ook slechte kant voor de mens. We weten het niet, is is speculeren of filosoferen.

[paltenburg]

Afhankelijk van wat je zelfbewustzijn noemt kun je het ook doortrekken naar dieren natuurlijk.

[Orion64]

Vanaf je geboorte heb je al je hersencellen al voor de rest van je leven. Het enige wat er vanaf het begin gebeurt is dat er allemaal vertakkingen tussen die hersencellen gaan groeien en die maken dan wie je bent (min of meer).

[Verwijderd]

In bepaalde delen van de hersenen worden nog wel degelijk neuronen aangemaakt.

A few areas, including the cerebellum and the prefrontal cortex, continue adding new neurons in infancy. And scientists believe that at least one region of the brain — the hippocampus — continues to create new neurons throughout life.

Interestingly, this brain region is involved in learning and memory. The hippocampus forms memories of events and experiences. Some scientists believe the addition of new neurons to the hippocampus may enhance learning and memory because new neurons are more plastic than older neurons, meaning they can more easily modify their connections to form and store memories.

http://www.brainfacts.org...s-or-do-you-grow-new-ones

Adult Neurogenesis in the Mammalian Brain: Significant Answers and Significant Questions

[Orion64]

Mijn academische kennis stamt uit begin jaren negentig. Of het werd toen niet zo uitgebreid besproken in de stof of het was nog niet bekend. Wel heel interessant. Als dat hersencel generatie na de geboorte mogelijk is, is dat misschien ook een interessant onderzoeksveld naar het herstellen van hersenen bij beroerte, enzo.... Maar goed, wordt wat offtopic.

[SilverRST]

Precies. En ook de keuzes die je maakt en of je het onderscheid kent tussen goed en kwaad.

[bbob]

Vergeet ook niet intelligentie. Je kan wel veel cellen hebben maar de verbindingen maken ook groot deel van de intelligentie.

Onderscheid tussen goed en kwaad is weer heel iets anders. Dat zijn regels die je opgeld krijgt als mens. Waarbij de ene soms kwaad niet als kwaad ziet. Dat zijn regels die wij opgesteld hebben in onze maatschappij om samen te leven. Let wel die regels zijn niet in ieder land of volk hetzelfde en toch zijn we mensen.
Als je als mens dan in een oorlog situatie terecht komt, komt de natuur van de mens, lees overlevingsdrang naar voren. Dan veranderd ook de mens omdat de regels veranderen.

Het is dus vrij complex allemaal en de basis in ieder mens overleven maakt soms dat je dingen kan doen die je normaal niet zou doen.

De vraag is dan kijkende naar AI wat zou AI doen als het in hun bestaan zou worden bedreigd of ingeperkt.

[Mr_0izO]

Weer een stukje dichterbij "onsterfelijkheid". In de toekomst uploaden we onze hersenen/bewustzijn naar zo'n chip als ons lichaam er geen zin meer in heeft!

[RMYuma]

Of is het slechts een kopie van je bewustzijn dat je dan over zet naar een chip, en ga je zelf alsnog gewoon dood? Dezelfde paradox als bij het "beamen" in Star Trek.

[Polyanos]

Als dat maar een keuze blijft, ik ben het persoonlijk na 70-80 jaar waarschijnlijk wel zat en wie weet hoe de wereld er dan uit zal zien.

[bille]

Over 13 en 14 jaar zitten we dus op 100 miljard (zoals het menselijk brein)? Dat is best snel. Maar dat gaat er wel vanuit dat er niet eerder een moment komt waarop waarop het neuraal netwerk zijn eigen groei exponentieel kan verbeteren.

[Reactie gewijzigd door bille op 23 juli 2024 06:55]

[Verwijderd]

Iemand enig idee hoe groot dit systeem op dit moment is??

[Rob Coops]

Langzaam maar zeker komen we steeds een stapje dichterbij het punt waarop we veel mensen niet meer nodig zullen hebben om veel taken uit te voeren. Nu is dit nog allemaal toekomst muziek natuurlijk als het nu onderzocht wordt dan moeten we in ieder geval nog een paar jaar wachten voor we dit als product op de markt zien komen, maar als het inderdaad zo veel efficienter is dan is het zeker de moeite waard.

Als je je bedenkt dat we in middels computers hebben die poker spelen kunnen winnen ook van professionele spelers in een standaard spel met 6 spelers en dat deze computer bestaan uit maar 2 Intel CPU's dan is het niet vreemd om te bedenken dat we over een paar jaar een mobiele telefoon hebben die ons kan helpen met onderhandelingen of kan vertellen wat het beste bedrag is om te bieden tijdens een veiling etc...
Ook kan ik me helemaal voorstellen dat grote investeerders dit soort systemen gebruiken om hun modellen nog meer gegevens te kunnen voeren en op die manier nog betere beslissingen kunnen nemen op de aandelen markten en zo.

Het is interessant om in deze tijden te leven maar het is ook erg raar om je te bedenken dat steeds meer banen zullen verdwijnen omdat dit soort systemen de werkzaamheden over zullen nemen en ze in de meeste gevallen minimaal net zo goed zullen doen als mensen en vaak al hele erg veel beter.
Het geen waar ik me de meeste zorgen over maak is dat juist de mensen die nu banen hebben die niet heel erg veel kennis of creativiteit vereisen het heel erg moeilijk zullen vinden om werk te vinden als al dit soort banen verdwenen zijn. Er zijn immers maar weinig mensen die er voor kiezen om achter de vuilniswagen te lopen of om een kantoor schoon te maken. Als dit soort banen vervangen worden door machines en de mensen die nu creatieve kennis banen hebben overschakelen naar andere banen dan kon de markt nog wel eens erg krap worden en een werkeloosheidscijfer van +20% is dan zeker niet ondenkbaar. Iets dat we op dit moment ons vrijwel niet kunnen voorstellen. Zonder een hele erg andere manier van kijken naar de wereld zou dit nog wel eens voor grote problemen kunnen gaan zorgen.
Want als 20% van de beroepsbevolking thuis zit geen geld verdiend en ook geen uitzicht heeft op een inkomen dan gaat dat voor serieuze problemen zorgen.

[rikkert278]

Interessante gedachtentrein. Ik heb mijzelf ook lopen afvragen hoe we dit probleem in de toekomst het beste kunnen aanpakken. Gelukkig is dit voor nu nog toekomstmuziek en ik verwacht dat de snelheid van onze technologie vooruitgang sterk gaat afvlakken; mogelijk door de polarisatie die sinds 2000 eigenlijk alleen maar toeneemt, en steeds meer conflicten veroorzaakt waar ook steeds meer landen bij betrokken lijken te zijn. Of door een vergelijkbaar effect zoals bij de wet van Moore, misschien worden de effecten van klimaatverandering wel dusdanig heftig en ingrijpend dat er een groot deel van de R&D verplaatst gaat moeten worden voor het zoeken naar oplossingen puur om de effecten zo veel mogelijk te minimaliseren zodat we letterlijk niet kopje onder gaan en de temperaturen een beetje leefbaar houden.

Een bekende YouTuber heeft een uitgebreide en goed doordachte video gemaakt over precies het onderwerp wat jij uiteenzet in je reactie. De video is al een jaar of 4 oud, maar in mijn mening nog steeds erg relevant. Kijk er eens naar, ik ben benieuwd wat je van zijn kijk op dit probleem vind en van de oplossingen die hij aandraagt: https://youtu.be/7Pq-S557XQU

[m_snel]

Ach een beetje meer vrije tijd kan geen kwaad, allemaal 1 dag in de week werken voor extra inkomen en allemaal een basis inkomen.

[akooijman]

De robotisering heeft bijna alle fabrieksarbeiders overbodig gemaakt, de supermarkt bijna alle bakkers, de computer bijna alle kantoorklerken...
Er is nog steeds veel vraag naar mensen.
Voorlopig kunnen robots nog steeds alleen routinewerk, computers alleen snel rekenen en AI alleen een beetje beeld en geluid herkennen.
We zijn nog tenminste 25 jaar van bruikbare intelligentie verwijderd.

[Zeerob]

25 jaar is zo voorbij

[koelpasta]

Wow. 8 miljoen neuronen..
Daar kan je bijna een insectenbrein mee simuleren!

[Durandal]

Wow. 8 miljoen neuronen..
Daar kan je bijna een insectenbrein mee simuleren!

Nu suggereer je dat het onbruikbaar is want hogere levensvormen hebben meer,
maar de natuur levert niet per definitie de beste oplossing maar slechts een die werkt, gebaseerd op de vorige.

Kijk naar vliegtuigen; die hebben ook geen klapperende vleugels maar zijn wel flink groter, en daarmee voor ons bruikbaarder, dan vogels.

[koelpasta]

Nu suggereer je dat het onbruikbaar is want hogere levensvormen hebben meer,
maar de natuur levert niet per definitie de beste oplossing maar slechts een die werkt, gebaseerd op de vorige.

Ik suggereer helemaal niet dat het onbruikbaar is.
Over optimale oplossingen, ik denk dat de natuur best wel heel efficiente oplossingen voortgebracht heeft. Ik denk alleen dat wij daar niet erg bij stilstaan omdat heel veel van die dingen voor ons als natuurlijk overkomen en ook heel erg aan biologisch leven gelinkt zijn.
Wat dacht je bijvoorbeeld van voortplanting, gedrag gerelateerd aan het verkrijgen van voedsel, veiligheid, etc.
En bij mensen kun je denken aan de snelheid waarmee we een vaardigheid kunnen aanleren, of hoe we muziek kunnen ervaren, of hoe we abstracte dingen in taal kunnen uitdrukken.

Hoe dan ook, ons clustertje neuronen kan met heel veel situaties omgaan, kan uit nieuwe situaties informatie extraheren en die informatie in de toekomst gebruiken om iets beter te doen. Het is een vrij brede set van oplossingen die met een heel breed spectrum van problemen kan omgaan. Van bergen beklimmen tot wiskunde uitvinden.
Zelfs insecten hebben enorm veel ingebouwd gedrag dat ze in staat stelt binnen hun wereld met heel veel situaties om te gaan.

En de vogel die met zn vleugels klappert verbruikt veel minder energie per gewicht dan dat lompe vliegtuig van ons. Dus onderschat evolutie vooral niet.

Over evolutie gesproken, dat is precies wat er wordt gebruikt om neurale netwerken vorm te geven. Dat is dus ook allemaal niet de beste oplossingen die ook allemaal gebouwd zijn op de vorige. Het zijn allemaal oplossingen die enkel positief gekwalificeerd worden omdat ze werken. Hoe ze werken weten we niet goed en we weten dus ook niet of het uberhaupt 'de beste' oplossing is. Ik zou zelfs durven te beweren dat er helemaal geen 'de beste' oplossing bestaat met neurale netwerken. Elke oplossing zal voor- en nadelen hebben en wat het ene moment 'de beste' oplossing lijkt kan met nieuwe input compleet falen. Dat is een bekend probleem bij veel onderzoek met neurale netwerken.

Ik denk dus dat je de natuur (en de miljarden jaren aan evolutie die het vorm heeft gegeven) flink onderschat met je uitspraken.