Kunstmatige intelligentie van OpenAI maakt diamanten pikhouweel in Minecraft

OpenAI heeft een paper gepubliceerd waarin het proces van het trainen van kunstmatige intelligentie bij het spelen van Minecraft wordt beschreven. De AI wist uiteindelijk zover in Minecraft te komen dat het een pikhouweel van diamant kon craften.

In eerste instantie verwerkte OpenAI grofweg 4500 uur aan gameplay door gamers ieder frame te laten labelen op basis waarvan de kunstmatige intelligentie de basale Minecraft-handeling kon leren, zo legt OpenAI in een blogpost uit. Hiervoor spendeerde het bedrijf ruim 150.000 euro aan freelancers die het beeldmateriaal voorbereidden. Het bedrijf noemt dit proces Video PreTraining, het vooraf alvast trainen van AI op basis van een kleine dataset gelabelde beelden.

Later werd zo'n 70.000 uur aan gameplay van over heel het internet gebruikt om de AI, een samenstelling van uiteenlopende neurale netwerken, verder toe te spitsen op het spelen van Minecraft. Hiervoor werden geen labels meer gebruikt; de kunstmatige intelligentie wist ondertussen hoe het moest spelen en leerde op basis van de nieuwe dataset wat het moest doen om een doel te bereiken.

Dat doel was het leren om een diamanten pikhouweel te maken, wat een relatief geavanceerde taak is in Minecraft. Dat lukte in zo'n 2,5 procent van alle tien minuten durende Minecraft-sessies die de Video PreTraining-AI uitvoerde. Een menselijke Minecraft-speler lukt dat binnen gemiddeld twintig minuten, al zal het slagingspercentage een stuk hoger uitvallen.

Het spelen van Minecraft is een zeer geavanceerde taak voor een neuraal netwerk omdat de game zeer open is en er een zekere mate van willekeur in de gameplay is gebakken. Het doel van OpenAI is dan ook niet zozeer om een geavanceerde Minecraft-bot te maken, maar juist om een algemeen toepasbare kunstmatige intelligentie te ontwikkelen. In de paper wijden de onderzoekers dan ook uitgebreid uit over het trainen van AI op basis van VPT. De techniek zou het mogelijk maken om een AI met een relatief kleine dataset voor te bereiden, wat volgens OpenAI op de lange termijn veel kosten moet besparen.

De kunstmatige intelligentie van OpenAI weet in Minecraft binnen grofweg 4 minuten een diamanten pikhouweel te craften. Afbeelding via OpenAI

Reacties (142)

[MrMonkE]

Zoe misschien wel eens een leuk premium artikel zijn.
Over hoe ze zo'n AI een game laten leren

[dasiro]

er is zelfs een volledige gratis paper over geschreven

[n0np3r50n]

Beetje een off-topic zeur, ik ga het zeker lezen, maar zou het woord "schrift" niet beter zijn geweest? Ik bedoel het goed; hier op Tweakers en ABN véél te veel vreemde, en dan natuurlijk de meeste, Engelse woorden. Ik noem een voorbeeld, "rare" betekend zowel zeldzaams als iets geks, leer-raar en onder-wijs zag ik nooit totdat een oudere professor mij daarop attent maakte. Toen kon ik onze taal opnieuw waard-eren.

Snelle update; mooie inhoudsopgave ziet er netjes uit! Ga ik op mijn e-reader zetten eh, electronisch papier.

PS: ik woon in het buitenland.

[Reactie gewijzigd door n0np3r50n op 23 juli 2024 09:41]

[Zoijar]

Paper staat gewoon in de van dale, dat is zo ingeburgerd dat het nederlands is (leenwoord). Iedereen gebruikt dat ook zelfs in spreektaal.

[Gadgetryer]

Eens, maar op tweakers hebben redacteurs nogal er een handje van om alles naar het Nederlands te vertalen of dat inconsequent te doen. Dit is ook zeker geen aanval naar de redactie, maar een zin zoals onderstaande is wat mij betreft redelijk tenenkrommend.

Naast de renders zegt de lekker Ice Universe op Twitter dat de S7 een scherm van 120Hz krijgt."

Eerst wordt het woord renders gebruikt om vervolgens niet "leaker" maar "lekker" te gebruiken en er vervolgens een Engelse naam achter te plakken (lekker ijs .)

Komt trouwens uit een oud artikel, maar dit artikel schoot mij het eerste binnen waarover ik echt even na moest denken over hoe die zin nou loopt.
https://tweakers.net/nieu...7-verschijnen-online.html

[Micahve]

Als de redactie inderdaad dat goed had willen doen hadden ze better dit ervan kunnen maken: de lekker: Ice Universe.

Het is naatuurlijk conventie dat je namen niet gaat vertalen. En ook al is het een gebruikersnaam, taalkundig gezien moeten we het hanteren als een gewone naam.

[MrMonkE]

Hou je schrift vast! Dit is maar 1 schrift onder de weg. En wat een vooruitgang. Wonderbaarlijk. Wat een tijd om te leven!

[dasiro]

Ik ben het met je eens, ware het niet dat de term zo ingeburgerd is in de academische wereld, dat de vertaling ervan meer opgetrokken wenkbrauwen zou opleveren.
Ik kom hier op tweakers (als Vlaming) maar al te vaak tenenkrommende termen en woordgebruik (vb potentie ipv potentieel is er eentje van, wat eerder met viriliteit geassocieerd wordt dan met toekomstperspectief of het verbannen van traditionele benamingen zoals master/slave, blacklist/whitelist) tegen waardoor je aandacht helemaal is afgeleid van het artikel en als je er een opmerking over maakt wordt je daar zwaar voor afgestraft.

Als termen de communicatie makkelijker maken ben ik er niet tegen, zo wil ik liever computer en printer gebruiken dan ordinateur/rekenaar en imprimante/drukker, maar als viertalige Belg maak ik wel snel genoeg een beschrijving van een woord dat ik niet weet

[dieAndereGozer]

of het verbannen van traditionele benamingen zoals master/slave, blacklist/whitelist)

Kek, de eerste die zich houdt aan die zogenaamde verbanningen moet ik nog vinden. Ja op twitter heb ik ze gezien, maar twitter is eigenlijk de buurtvereniging voor uitkeringstrekkers. Dat moet je niet serieus nemen.

[dasiro]

linux en github (Microsoft) zijn niet de uitkeringstrekkers lijkt me

[dieAndereGozer]

Ik heb die mensen nooit ontmoet, daar doelde ik meer op. En natuurlijk doet een Microsoft mee, want PR. Mensen moeten eens leren dat de reden dat een bedrijf een maand lang een regenboog vlaggetje heeft op twitter is niet omdat ze het nou eens zijn of niet, het is gewoon:"Hier, wij spreken jouw doelgroep aan, geef ons je geld."

En Torvaldis tjah.... Die man doet wel meer questionable dingen op sociaal gebied, misschien niet het beste om als goed voorbeeld te gebruiken. Niet dat ik iets tegen Torvaldis heb, ik gebruik eigenlijk alleen maar Linux.

[Micahve]

Ja, maar praat met een Microsoft dev en dan gebruiken ze met zo goed de termen

[Oon]

Moet zeggen dat een artikel op Tweakers toch vaak wel makkelijker te verwerken is dan zo'n paper. Ik kan het nog goed volgen omdat ik zelf veel bezig ben met de technologie erachter, maar er zijn genoeg mensen die niet weten dat een AI van tevoren getraind kan/moet worden en zich dus bij het begin van die paper al achter de oren krabben.

[sjoerd.stougie]

waarom zou dat een leuk PREMIUM artikel zijn? Ik zou het gewoon een leuk artikel noemen

[CH4OS]

Premium artikelen hebben volgens sommigen meer diepgang.

[dieAndereGozer]

Dat zeggen ze alleen omdat ze er voor betaald hebben, objectief moet ik het nog zien.

[CH4OS]

Vandaar ook de 'volgens sommigen' nuance, niet iedereen is het ermee eens.

[dieAndereGozer]

Zover ik van de meeste heb gekregen, zitten de premium artikelen vol met spelfouten en weet ik het.

[CH4OS]

Spelfouten zitten ook in de andere artikelen, die kun je overigens melden in het daarvoor bestemde topic in Geachte redactie.

[dieAndereGozer]

Tjah ach, je zou hopen met al die spellcheckers en AI dat die niet meer in journalistieke stukken zouden zitten. Maar het lijkt t.o.v. 30 jaar geleden veel meer voor te komen(niet perse tweakers).

[loki504]

Nu weet ik niet hoe het in Minecraft is gegaan. (Heb geen zin het paar door te nemen. Maar wel in Trackmania kan https://youtu.be/SX08NT55YhA

En zo zijn er nog een hoop videos op YouTube hoe de AI keert hoe je een spelletje moet spelen.

[Reactie gewijzigd door loki504 op 23 juli 2024 09:41]

[dieAndereGozer]

De leukste was nog met dota https://www.youtube.com/watch?v=tfb6aEUMC04

sws is dat kanaal geweldig

[dieAndereGozer]

Nergens voor nodig, gewoon dit kanaal volgen: https://www.youtube.com/c/K%C3%A1rolyZsolnai/videos

[stefanhendriks]

voor zover ik begrijp is "AI" in dit geval een "model" wat getraind wordt. En voor zover ik begrijp is dat model een hoop neuronen die reageren op bepaalde patronen. De patronen worden op een manier 'zichtbaar' gemaakt voor de 'neuronen'. In zekere zin is deze vertaling cruciaal om voor een "AI" te "herkennen" in welke situatie zich bevindt en welke beste "actie" er nodig is.

Ik vraag me af in hoeverre de AI verstand heeft van doelen en in welke volgorde dingen moeten worden uitgevoerd. Dit lijkt me een meervoudigheid van modellen en patronen om dit te bereiken.

Maar zelfs dan vraag ik me af of dit - uiteindelijk - niet gewoon een zooi indirectie is om tot 'if-else' achtige structuren te komen. Welliswaar een veelvoudiging ervan (ik bedoel je gaat niet een matrix maken van 100 if/else's), maar in uiteindelijk is het in mijn beleving toch een matrix van 0-1 waarde's waarop je een bepaalde gewenste actie "koppelt" (door training). Zodra deze koppeling meer 'generiek' toepasbaar zal zijn (wat in mijn beleving vooral aan de 'voorkant' dan zou moeten zitten, namelijk het omzetten van 'beeld' en andere sensorische input naar een raamwerk van 0-1 getallen waarop een "ai" dan kan reageren), dan pas wordt het interessant natuurlijk...

[klonic]

niet gewoon een zooi indirectie is om tot 'if-else' achtige structuren te komen

Ik wilde het eigenlijk gaan maar ik denk dat je hier maar naar moet kijken.
AI hide and seek
Trackmania, inclusief AI output en input uitleg, Neural Network uitleg en machine learning uitleg
Volgens mij is dit ontzettend veel werk om dit te doen met if-else statements.

Als je echt wil begrijpen hoe een neural network werkt dan raad ik je de videos van 3 Blue 1 Brown aan.

Het mooie aan neural networks is dat het niet-binair is. Daardoor kan je bijvoorbeeld elke input niet 2 waarden geven maar een getal geven (bijvoorbeeld 1.345656).

[Reactie gewijzigd door klonic op 23 juli 2024 09:41]

[stefanhendriks]

thx voor de links.

Als het niet binair is dan is het gewoon meer van hetzelfde (meer condities in je if-statement?).

Wat ik bedoel, het model wat je trained is uiteindelijk ook een collectie van 'actie-reactie' (model/patroon-> actie). In die zin vraag ik me af hoe flexibel het is (voor general purposes zeg maar). De voorbeelden die ik heb gezien bijv van een mario of race spel waar op 1 kaart 1 miljoen keer getrained wordt waren prachtig, maar bij een volgend level moest je weer opnieuw beginnen. Dus wat mij betreft is het dan geen "AI", maar meer op een complexe manier een programma maken wat 1 taak goed kan doen.

Anyway, ik zal de linkjes lezen/bekijken, dat schept hopelijk wat meer inzicht.

[TvL2386]

Ik denk dat ik snap wat je bedoeld. Volgens mij is het inderdaad zo dat bij deze AI in feite alles samengevat kan worden in een enorme lap van if/else statements en zeer diep genest. Uiteindelijk zijn alle beslissingen die de AI neemt een reactie op alle inputs die het ontvangt.

Echter, vraag ik mij af of dat eigenlijk niet gewoon heel logisch is dat dat zo is en werkt. Deze AI's werken op basis van neurale netwerken waarvan de werking gebaseerd is op het brein (in zeer vereenvoudigde vorm). Maar is het eigenlijk ook niet zo dat voor ons menselijk brein hetzelfde geld? Zou je onze eigen beslissingen ook niet kunnen samenvatten in een enorme lap van if/else statements? Waarom zou je van ons brein niet kunnen zeggen dat het een complex programma is :-)

[stefanhendriks]

juist, dat is wat ik bedoel.

Of dat 1 op 1 met ons brein te vergelijken is weet ik niet; al neig ik er wel naar ;-)

[TvL2386]

Ik weet het ook niet, maar Ik neig er ook naar ;-)

[Wilfred86]

Bestond zoiets al niet op 2b2t? Die bot kon navigeren, vechten en craften volgens mij.

[Reactie gewijzigd door Wilfred86 op 23 juli 2024 09:41]

[drpaashaas]

Nee, dat is geen AI. Dat is hard coded.

[Accretion]

Een bot is geprogrammeerd om bepaalde logische output te geven op inputs.

Het idee van deze 'AI' is een soort 'machine learning' waarbij d'r niet direct geprogrammeerd wordt wat de AI moet doen, maar door middel van 'training' vanuit een dataset uiteindelijk 'zelf' een plan van aanpak genereert.

Echter, de normale bots kosten niet 4500uur/150.000eu om iets te laten doen.

[svenk91]

Deze 'AI' wordt nog steeds geprogrammeerd, maar dan met video's en labels.

[dieAndereGozer]

Dat ontkent @Accretion ook niet.

[n0np3r50n]

De interferentie zoekt inderdaad naar welke input de ML bot de meeste 'waarde' krijgt.

[langestefan]

Dat doel was het leren om een diamanten pikhouweel te maken, wat een relatief geavanceerde taak is in Minecraft. Dat lukte in zo'n 2,5 procent van alle tien minuten durende Minecraft-sessies die de Video PreTraining-AI uitvoerde.

In de andere gevallen kwam de AI een creeper tegen?

[Cowamundo]

Dot vroeg ik mij ook af, als hij alle andere keren net niet zo ver komt maar wel bijna een diamante pickaxe heeft is het natuurlijk geen slechte poging. Als hij echter elke keer dood gaat in de overige 97,5% is het al wat minder spectacular? Volgende stap: Op naar de ender dragon en daarna elke dag een lets play of speed run posten!

[Reactie gewijzigd door Cowamundo op 23 juli 2024 09:41]

[formant]

of viel in lava hehe

[Atmosfeer]

Hij graaft wel recht naar beneden vaak....

[Irsu85]

Maar als je de seed weet kan je uitrekenen waar de gevaarlijke dingen zitten en DSDen op plekken waar dat niet gevaarlijk is

[joost00719]

Dat is wel een grote maar...
Ik graaf liever een trap naar beneden, kost je een paar minuten extra maar dan garandeer je wel dat je heel aan komt.

[formant]

precies, wie niet hehe

[Irsu85]

Ik DSD meestal niet hoor, sinds 1.17 is dat gevaarlijker geworden

[paoper]

Hierbij is gebruik gemaakt van pre-training op basis van gameplay videos met bijbehorende (key) inputs. Dus niet echt een AI die zelf 'from scratch' leert zoals met reinforcement learning, maar ook duidelijk gebruik maakt van vele voorbereide samples.

[T-men]

Dat is precies wat het artikel beschrijft, ja. Wat is je punt?

[Bulkzooi]

ik denk dat hij benadrukt dat AI een erg generieke term is. Net als alle beschrijvende definities, zoals reinforcement learning, from scratch & key inputs.

Wat dacht jij dan?

[Anoniem: 718943]

Volgens mij kun je ook vrij gemakkelijk iets in elkaar draaien als `while len(diamonds) < 3: mine(random.choice(directions))` en ook het resultaat behalen dat er op een gegeven moment een pickaxe gemaakt kan worden.
Dit zal het meest lompe en stugge voorbeeld zijn, en een echt autonoom zelflerend systeem het meest complexe. Alles ertussen zal bestempeld worden als 'AI'.

[Bulkzooi]

Hij doelt op de verschillende typen AI, misschien zelfs verschillende fases, vooral gesegmenteerd naar toepassing. Maar het moge duidelijk zijn dat dit alles niet in het Engels gebeurd maar met behulp van een computertaal.

Zelflerendheid is weer een ander concept dat je kan coderen in een model; het is geen vereiste voor AI in ieder geval. Machine learning is ook van die buzzwoord terminologie.

[Reactie gewijzigd door Bulkzooi op 23 juli 2024 09:41]

[prutser387]

om Diamand te kunnen minen, moet je een pickaxe van minimaal iron maken.
iron pickaxe maak je door iron ore te smelten in een furnace, welke ook weer brandstof nodig heeft.
en houten stokken maak je van planken, die je weer van bomen maakt.

dus uiteindelijk best ingewikkeld 😉

[bigbadbull]

en dat op 4 minuten, knap.

toen ik nog minecrafte was ik uren bezig om m'n eerste diamant te vinden.
en dan ja zogezegd op de juiste hoogte.
Vrienden op dezelfde serve vonden alles redelijk snel.

geen idee waarom, zit op juiste hoogte ed. maar blijkbaar kom ik altijd in de slechte spawns terecht.

[ByteArray]

Waarschijnlijk dat de term AI of kunstmatige intelligentie ook een beetje een modewoord (buzz word) is. Zelf gebruik ik voor zwakke kunstmatige intelligentie/weak AI liever de term kunstmatige slimmigheid of artificial cleverness.

Alleen harde algemene kunstmatige intelligentie én het onderzoeksgebied zelf dient AI genoemd te worden naar mijn mening, om zodoende die term minder interessantdoenerig te maken.

Een verstandelijk beperkt kind dat een beetje meewerkt had dit véél sneller én goedkoper kunnen leren met een beperkte hoeveelheid instructies vooraf en tijdens het leren. Misschien dat het maken van het pikhouweel zelf iets langer zou duren, maar toch...

'Kunstmatige intelligentie' zoals we dat nu kennen is overgewaardeerd. Het onderzoeksgebied is nuttig en interessant. Maar stop met de interessantdoenerij.

[Reactie gewijzigd door ByteArray op 23 juli 2024 09:41]

[matroosoft]

Volgens mij ben je slachtoffer van het "AI effect": het steeds verleggen van wat echt kunstmatige intelligentie is.

https://en.m.wikipedia.org/wiki/AI_effect

The AI effect occurs when onlookers discount the behavior of an artificial intelligence program by arguing that it is not real intelligence.

"A problem that proponents of AI regularly face is this: When we know how a machine does something 'intelligent,' it ceases to be regarded as intelligent. If I beat the world's chess champion, I'd be regarded as highly bright."

[ByteArray]

De vooruitgang op dit gebied verloopt traag, en valt vooral toe te schrijven aan toegenomen rekenkracht, bij videokaarten bijvoorbeeld -nuttig voor dit soort toepassingen- neemt de rekenkracht iedere 2 jaar nog steeds aardig toe, deels met dank aan Taiwan's TSMC. Maar we bereiken rond 2030 waarschijnlijk wel een grens qua het verkleinen van schakelingen op chips. En dan heb je nog toepassingsspecifieke hardware die bepaalde berekeningen nog efficiënter uit kan voeren dan een normale CPU of zelfs GPU.

In de jaren 80 was AI ook een hype, toen waren er grootse voorspellingen over wat er binnen afzienbare tijd mogelijk zou worden. Daarna had je nog een hype net na de millenniumwisseling, en nu deze hype. Het woord hype is misschien wat te negatief, maar vaak werden er wel overdreven voorspellingen gedaan.

Intelligentie draait om begrip, en computers begrijpen helemaal niks. Zo kunnen computers makkelijk mensen verslaan tijdens een potje schaken, maar begrijpen ze het spel zelf niet. Ik denk eerder dat het begrip intelligentie steeds minder betekent, dan dat er sprake is van een 'AI effect'.

Hier een voorbeeld van een vooraanstaand wiskundige:
https://www.npostart.nl/v.../24-01-2021/VPWON_1322203 (vanaf 28:10)

Intelligentie is iets unieks op deze planeet, en we begrijpen zelf nog niet eens volledig hoe onze hersenen, of die van relatief intelligente diersoorten, werken. Het zou kunnen dat echte algemene kunstmatige intelligentie ooit een mogelijkheid wordt, dat sluit ik niet uit, maar dan zijn we minstens decennia verder. Minimaal.

[langestefan]

Het zou kunnen dat echte algemene kunstmatige intelligentie ooit een mogelijkheid wordt, dat sluit ik niet uit, maar dan zijn we minstens decennia verder. Minimaal.

De theoretische grondslag ligt er nu met Karl Friston's free energy principle, een geniale neuro-wetenschapper die een wiskundige theorie heeft ontwikkeld die beschrijft hoe het brein leert. Ik ben er van overtuigd dat dit het missende bouwsteentje is.

[Fornoo]

Precies dit. Je ziet vaak dat mensen denken dat AI wordt gelimiteerd door hardware, of doordat we niet of niet voldoende weten welke parameters software-matig in te voeren. We hoeven niet te weten hoe de ene zenuwcel is gekoppeld aan de andere en dat voor alle zenuwcellen. We hoeven niet te weten wat bewustzijn of intelligentie is.

Het (enige) kunstje wat in feite van belang is, hoe ons brein leert. Een AI kan dat kunstje uiteindelijk ook. En in den beginne zal daar de nodig rekenkracht voor nodig zijn. Die rekenkracht is echter niets meer dan het comprimeren van miljoenen jaren van evolutie tot enkele decennia. Iets wat wij als biologische entiteiten reeds hebben doorlopen en wat is ingebouwd in ons DNA. Miljoenen jaren van in- en output en eindeloze reeksen feedback op die in- en output.

Uiteindelijk zal een AI op een chip ter grootte van een speldenknop kunnen bestaan.

Alleen wordt een AI niet geremd door fysieke grenzen en kan en zal dus veel sneller leren dan wij ooit kunnen.

[kdekker]

Dit is nu precies het punt waar ik afhaak, want zo wordt AI een soort geloof, samen met - als ik je goed begrijp - met de idee dat menselijke intelligentie na te bouwen is. Dat vind ik net iets te veel vertrouwen (of wensdenken) in technologie.

[a fly]

met de idee dat menselijke intelligentie na te bouwen is

Wat is er zo speciaal aan mensen dat je dit ondenkbaar vindt?

[kdekker]

Weet jij een ander wezen/schepsel die vergelijkbaar is met een mens (even los van de positieve of negatieve aspecten)?

Waarom vind jij mensen kennelijk niet speciaal? Er is geen dier, die techniek kan toepassen zoals een mens dat kan. Daarom denk ik niet dat techniek ooit (en zeker niet met de efficiency) in de buurt kan wat een mens kan.

Uiteraard is er techniek die sneller rekent, meer kan tillen etc, maar nooit als zelfstandige actie, op eigen initiatief. Daarom is zelf de beste AI verstoken van slimmigheid. Want trainen heeft veel meer met herkennen te maken dan met intelligentie. Uiteraard bent dat laatste beter. Onderzoekers hebben ook geld nodig. En voor AI zijn ook nuttige toepassingen... (al zie in de praktijk ook veel tegenvallende resultaten).

[a fly]

Je eerste vraag is niet relevant. Geloof je dat er in ons -en dus al het biologisch leven- een proces afspeelt wat niet fysiek plaats neemt? Zo nee is het bijzonder aannemelijk dat we elk proces kunnen namaken.

[kdekker]

De eerste vraag is wel degelijk relevant. Want anders zou je niet focussen op louter fysiek of biologisch. En nee, een mens is niet louter biologisch, want anders zouden menselijk begrip, emotie, compassie, empathie, liefde etc niet bestaan. Dat is gelijk de reden waarom AI altijd ondergeschikt zal zijn aan menselijke intelligentie.

Daarmee is je aanname wensdenken, lijkt me.

Aanvulling: AI 'ontstaat' pas na maken van een model en deze de 'trainen' (=data voeren). De terminologie in AI lijkt soms wel een beetje sterk aan wensdenken gekoppeld te zijn...

[Reactie gewijzigd door kdekker op 23 juli 2024 09:41]

[Fornoo]

Je aanname dat emoties geen biologische oorsprong hebben, koppel ik aan het ietsisme of een stapje verder met het geloof.

Vind ik prima om dat als leidraad in je leven te gebruiken. Ik hoop dat je begrijpt dat dit voor iemand die niet gelovig is, of iemand met een ander geloof, dit geen feiten zijn.

Termen als intelligentie en bewustzijn zijn mijns inziens taalkundige constructen van de mens. Het omschrijft iets wat niet exact gedefinieerd kan worden, en geen van beiden kunnen exact aangewezen worden in ons brein of ander deel van het lichaam. Het is echter niet moeilijk om te begrijpen dat onze intelligentie en bewustzijn een resultante zijn van de miljarden neuronen in ons brein. Biologische wezens die niet anders kunnen dan de wereld bekijken met behulp van onze zintuigen. Die neuronen kunnen digitaal gesimuleerd worden. Alleen het stukje leren leren, ontbreekt nog in de puzzel. Maar we zijn hard op weg om de AI van de toekomst te voorzien van context door het eindeloze hoeveelheden gegevens te geven. Op een gegeven moment valt alles in elkaar en staat er ergens digitaal brein op, die alle beschikbare kennis in een keer kan opnemen. Vervolgens niet geremd door biologische zintuigen, maar alles tegelijk kan zien, horen en ervaren en ons binnen een fractie is voorbijgestreefd qua intelligentie en een ander soort bewustzijn zal ervaren. En nee, ik ben niet erg optimistisch helaas...

[Reactie gewijzigd door Fornoo op 23 juli 2024 09:41]

[kdekker]

Ook al ben je niet gelovig, dan nog is de aanname dat we 'louter ons brein zijn' nog problematisch. Want dan ben je eigenlijk slachtoffer van je brein, als je een moord pleegt. Omdat daarmee persoonlijke verantwoordelijkheid uitgebannen wordt, is het ook een m.i. aanname dat we louter uit neuronen bestaan. Ik begrijp dat je met een louter naturalistische blik daar niet in mee kunt gaan, maar de kant waar jij heen gaat is inderdaad een (m.i. ook geloof) aanname dat de mens volledig (na)maakbaar is. Kortom, dan zou de sky-the-limit zijn en is het een kwestie van tijd dat m.b.v. techniek een (uber) mens gemaakt wordt.

Of iets anders: in een laboratorium leven gemaakt kan worden. Daar is men al zo lang mee bezig, maar tot op heden niet gelukt. Ik proef bij je een optimisme, die m.i. erg lijkt op, of samenvalt met 'geloof'. Maar wellicht bedoel je iets anders?

[Fornoo]

Dat we louter ons brein zijn, betekend niet dat onze hersenen deterministisch werken.

De kwantummechanica maakt namelijk korte metten met het beeld dat onze wereld deterministisch werkt. Dat is momenteel de theorie die waar het gros van de natuurkundigen achter staat. Onze hersenen zijn aan diezelfde wetten onderhevig.

Dat gezegd hebbende moet je een term als vrije wil niet te letterlijk nemen. Onze vrije wil opereert binnen bepaalde bandbreedtes. Voornamelijk ingegeven door onze genen. Onze sociale vaardigheden zijn in de loop der miljoenen jaren ontstaan. De gemiddelde mens weet instinctief wat wel en niet kan in de omgang met anderen. Moorden, stelen en liegen zijn zaken waar de meeste mensen van nature een afkeer tegen hebben.

En natuurlijk is het een aanname dat we louter uit neuronen bestaan. Dat is op zichzelf te simplistisch gesteld natuurlijk, want de rest van ons lichaam is net zo goed een onderdeel van ons wezen.

[robertlinke]

een mens is niet louter biologisch, want anders zouden menselijk begrip, emotie, compassie, empathie, liefde etc niet bestaan

dus toch wel, want dat zijn al biologische processen bepaald door hormonen en prikkels.
er word bij dieren in gevangenschap zoals bij leeuwen in dierentuinen al hormonen aangebracht die gevoelens en affectie kunnen opwekken voor andere leeuwen opwekken.

hormonen als serotonine en dopamine geven je gevoelens van blijheid en gezelligheid, adrenaline voor situaties waar hogere focus voor nodig is. dit zijn allemaal biologische processen

[kdekker]

Dat is wel mogelijk een al te snelle projectie van gedrag bij dieren op mensen en weet niet of dit een valide argument is wat je zo kunt extrapoleren. M.i. niet.

Het heeft in het kader van dit artikel weinig nut om hier heel ver op door te gaan, maar laten we het erop houden dat ik het met je oneens bent. Jouw visie schakelt namelijk verantwoordelijkheid uit. Het verschil tussen een held of verrader, een helper of wegkijker zou dan het verschil zijn in prikkels en hormonen. Een begrip als rechtvaardigheid zou dan niet bestaan (dat begrip zit zeker niet vast aan hormoonspiegels, noch louter aangeleerd). Daar laat ik het nu even bij.

Persoonlijk vond ik het boek van Aleman ("Je breind de baas") een eyeopener over wat neurowetenschappers (nog niet) weten.

[Reactie gewijzigd door kdekker op 23 juli 2024 09:41]

[divvid]

Alleen wordt een AI niet geremd door fysieke grenzen en kan en zal dus veel sneller leren dan wij ooit kunnen.

Uiteindelijk is het de mens die de toepassing bepaald. Net zoals we hebben ‘leren vliegen’ en ‘leren snel te rekenen’ zullen we snel lerende systemen ook naar onze hand zetten en gebruiken, zonder misschien in detail te begrijpen hoe het werkt

[Zeerob]

Intelligentie draait om begrip, en computers begrijpen helemaal niks. Zo kunnen computers makkelijk mensen verslaan tijdens een potje schaken, maar begrijpen ze het spel zelf niet. Ik denk eerder dat het begrip intelligentie steeds minder betekent, dan dat er sprake is van een 'AI effect'.

Vroeger waren schaak engines gebaseerd op de menselijke kennis van het schaakspel. Een aantal jaar geleden is men overgestapt op AI. Deze engines waren niet meer gebaseerd op bestaande kennis van het schaakspel, maar begonnen blanco, en leerden het spel door tegen zichzelf te spelen.
Deze AI engines bleken al snel veel sterker dan de oude engines, en ook dan mensen. Voor schaak experts was het spel van deze engines een openbaring, en men leerde er veel van.

Dus om nu te zeggen dat AI schaakcomputers het spel niet begrijpen, lijkt me zeer onterecht.

Zoek maar eens op AlphaZero. Op youtube staan ook allerlei analyses van het spel van deze engines. Erg indrukwekkend.

[dieAndereGozer]

https://www.npostart.nl/v.../24-01-2021/VPWON_1322203

28:10

[Zeerob]

Okay, lijkt interessant. Ik ga er eens naar kijken als ik tijd heb.
Ik heb trouwens het boek van Roger Penrose gelezen (The emperor's new mind). De eerste 90% van het boek was heel interessant. Het laatste stukje over die micro-tubules vond ik eigenlijk maar heel raar, en totaal niet onderbouwd. Enige tijd geleden zag ik een interview met hem, en hij vertelde over het schrijven van dat boek. Hij zei: ik dacht ik begin, maar en tegen het einde van het boek weet ik wel wat ik moet schrijven, maar toen ik bij het einde was, wist ik het nog steeds niet, dus heb ik maar wat gedaan.

[dieAndereGozer]

Ik ken het boek niet, misschien eens opzoeken.

Het stuk over die micro tubules is wel interessant ja, hier heeft hij ooit een interview over gegeven:

https://www.youtube.com/watch?v=hXgqik6HXc0

Best interessant.

[Zeerob]

Ik heb de uitzending bekeken. Wel interessant, maar er werden ook wel een hoop dingen door elkaar gehaald, zoals intelligentie en bewustzijn. In ieder geval bedankt voor de tip.
Wat betreft het fragment bij 28:10, waar de schaak-engine een hele bijzondere stand niet begrijpt, en mensen wel. Dat is idd zo. Maar een schaak AI is ook geen 'general AI' en is alleen getraind om 'normaal' een schaakspel te spelen. Een mens heeft een veel bredere intelligentie en kan dit soort bijzondere situaties herkennen. Deze stand zal in een normaal schaakspel nooit voor komen, en daarom gaat de engine er waarschijnlijk niet goed mee om.

[dieAndereGozer]

Dus dan zeg je eigenlijk dat de schaak AI schaak gewoon niet snapt. Anders had hij dat wel ingezien.

Ik kan niet schaken op het niveau van AIs, maar ook ik zag, in mijn bescheiden amateur schaak, dat het inderdaad een remise was.
Een AI speelt tegen zichzelf miljarden games om te leren, dus zeker dat die stand wel een keer is voorgekomen.

Verder is AI gewoon een mooi woord voor matrix rekenen.

[Zeerob]

Als je de stukken op het bord zou plaatsen in de vorm van b.v. een hart, of een bepaalde letter, dan zal ons dat opvallen, maar de schaak AI niet. Dat is omdat wij gewoon een veel bredere blik hebben. Deze schaak AI is alleen getraind in 'normaal' schaken en heeft een veel nauwere blik. Deze speciale stand zal volgens mij nooit in een normale wedstrijd voorkomen.
Als je de schaak AI zou trainen op allerlei kunstmatig gefabriceerde standen dan zal ie daar waarschijnlijk ook heel goed in worden. Maar dat is ie niet.
In ieder geval hebben schaak AI's zichzelf spel tactieken aangeleerd waardoor ze van de beste grootmeesters gemakkelijk winnen.
Tja, matrix rekenen. Wat de neuronen in onze hersenen doen is dat dan misschien ook wel. Maar daar kan je ook eindeloos over doorpraten.

[dieAndereGozer]

Mijn punt is, als de schaak AI schaken echt zou begrijpen, zou die niet in de war raken van rare opstellingen, immers begrijpt hij schaak.

Een vraag op een andere wijze. Als de kleuren van het stoplicht veranderen, dan begrijpt u toch nog steeds wat stoppen en wat gaan betekent? Dat is namelijk exact hetzelfde als de rare opstelling hier. Als je in de war raakt van de andere kleuren begrijp je dus niet hoe autorijden werkt.

En echte neuronen werken anders dan neurale netten werken, dit is al vaker besproken.

[Argantonis]

Het gaat puur om definities dan. Ik ben het met je eens dat dit ook AI is volgens de definities, maar dat was het al toen de harvesters in Red Alert steeds hun pad niet konden vinden. Degene waar je op reageert vind dat simpelweg de term niet waard, dat kan en mag gewoon. De weak AI die we nu meestal hebben wordt door ontwikkelaars gewoon machine learning genoemd. Dat er een strong AI mogelijk is dat staat voor mij vast, er is niets magisch aan onze hersenen en het bewustzijn dat daaruit voortkomt en DUS kunnen we het nabouwen. Maar daar zijn we nog niet.

[kdekker]

Waarom is er niets magisch aan de hersens? Een neuro wetenschapper zegt je dat vermoedelijk niet na. En op aarde is er geen equivalent wezen van de mens, die op zo'n manier zijn/haar hersens gebruikt (of ook misbruikt).

Wat jij zegt, klinkt voor mij meer als de heilige graal. En daar naar op zoek zijn, is van alle tijden.

[Argantonis]

Waarom is er niets magisch aan de hersens? Een neuro wetenschapper zegt je dat vermoedelijk niet na.

Een neurowetenschapper zal mij dat absoluut nazeggen. Magie is namelijk niet iets waar een wetenschapper in gelooft. Om de hersenen magisch te noemen moet je bijna wel religieus zijn of in een ziel geloven.

Toevallig heb ik zelf aardig wat boeken over neurologie gelezen, aangezien ik van plan was dat als studierichting te nemen. De hersenen zijn simpelweg een elektrochemische machine, ontzettend complex maar niet magisch.

[Dooxed]

Als je serieus overweegt om het als studierichting te kiezen, lees dan ook het een en ander over de filosofische en metafysische kant.

[Argantonis]

Als je serieus overweegt om het als studierichting te kiezen, lees dan ook het een en ander over de filosofische en metafysische kant.

Dat heeft echt niks met neurologie als wetenschap te maken dus ik weet niet waarom ik dat in vredesnaam zou doen. Je zegt toch ook niet tegen een natuurkundige om ook wat over filosofie te gaan lezen? Neurologie houdt zich niet bezig met of er een hiernamaals is of dat we een onsterfelijke ziel hebben, dat is het domein van religie.

[Dooxed]

Natuurkunde is voortgekomen uit de filosofie en daarmee is het een naast gelegen domein. En met nuttige overlap, bijvoorbeeld bij interpretatie van de experimenten in de quantumfysica of bij de astrofysica. Dus naast geleden domeinen afdoen als 'heeft er niks mee te maken' is een nogal beperkte visie. Tevens wordt er veel interessant onderzoek gedaan op snijvlakken van verschillende principes, dus je daarin verdiepen biedt je meer kansen als succesvol onderzoeker. Daarnaast probeert neurologie ook het begrip bewustzijn te verklaren vanuit begrip van het neurologische substraat. Bewustzijn is al een eeuwenoud onderwerp binnen de filosofie, en meer recent binnen de psychologie. Zonde om die inzichten te laten liggen. (Zie bijvoorbeeld de sterke overeenkomsten tussen inzichten uit Boedisme en recent neurohormonaal en neurofysiologisch onderzoeknaar de vraag: waar komt geluk vandaan?).

[Argantonis]

Tja met dat argument is alles uit de filosofie voortgekomen. Dat mag je vinden maar dat vind ik niet zo’n nuttige stelling, zeker niet in de context van deze discussie over hoe het brein wel of niet iets magisch zou zijn.

[kdekker]

Het klopt dat iemand als Swaab dat heeft gezegd, maar iemand als Aleman het tegenovergestelde. Het gaat niet om magie, maar de vergaande consequentie dat o.a. het concept verantwoordelijkheid verdwijnt als we inderdaad ons brein zijn. Ondanks dat iets niet te zien is, is dat geen bewijs dat het er niet is. Zoals hierboven ook gezegd: de metafysische en de filosofische kant spelen ook een rol.

[Reactie gewijzigd door kdekker op 23 juli 2024 09:41]

[iOnoWLIt]

Is dit whataboutism voor AI kritiek?

[drakiesoft]

Waarom benoem jij hier een verstandelijk beperkt kind en vergelijkt dit met AI?
Ik denk dat jij niet over dingen moet gaan praten waar jij geen verstand van hebt. Mijn kind met verstandelijke beperking kan namelijk helemaal geen minecraft spelen.
Daarbij vind ik het behoorlijk lomp om AI met deze kinderen te vergelijken vwb prestaties. Hopelijk kan AI in de toekomst wel een ondersteuning zijn voor deze groep.

[Zeerob]

'Kunstmatige intelligentie' zoals we dat nu kennen is overgewaardeerd. Het onderzoeksgebied is nuttig en interessant. Maar stop met de interessantdoenerij.

Interessantdoenerij?
https://www.youtube.com/watch?v=jgHZOfQskgU
Transcript of a conversation of a human with an AI from Google. Really amazing!
One employee of Google was suspended because he claimed that their AI has become sentient. Judge for yourself.

[sdziscool]

Ik, een mens (denk ik), leer ook best veel op die manier, best effectief.

[Argantonis]

Ik, een mens

Precies wat een AI zou zeggen!

[Splorky]

Nou ik vind het knap, als ik 4500 uur naar gameplay beelden zou moeten kijken voor ik daadwerkelijk ook maar mocht beginnen met spelen dan zou ik me zelf zo snel mogelijk in de lava storten.

[sdziscool]

het concept van een boom herkennen, actie en reactie begrijpen, rondkijken, computermuis gebruiken neemt waarschijnlijk meer dan 1000 uur in een mensenleven, dus valt best mee als je nagaat wat deze AI allemaal moet leren.

[The_Woesh]

De gemiddelde menselijke gamer doet precies hetzelfde getuige alle walk through en how to game videos.

[mphilipp]

Dat hebben ze alleen maar gedaan om het proces te versnellen. Het gaat een stuk sneller als je gerichte zaken voert ipv random waar ie dan zelf door moet spitten. Zeg maar hetzelfde als dat ik je drop in Parijs zonder dat je 1 woord Frans spreekt (echt helemaal niets, niet eens oui en non) of dat ik je een snelcursus geef. Van de straat leer je het ook wel, maar niet de grammatica en duurt het uiteindelijk langer om de taal écht onder de knie te krijgen.

Ergo: het is dezelfde AI, maar ze hoeven nu niet een jaar (ik noem maar wat) te wachten tot ie iets kan.

[Oon]

Dit is erg vergelijkbaar met bijv. TabNine en GitHub's CodePilot/Amazon's CodeWhisperer, er gaat gewoon een flinke bak mogelijk relevante data in en het resultaat zal 9/10 keer vrij nutteloos zijn maar wel ook gerelateerd aan de context.

[BadRespawn]

Dus niet echt een AI die zelf 'from scratch' leert zoals met reinforcement learning, maar ook duidelijk gebruik maakt van vele voorbereide samples.

Mensen leren vaak ook op basis van vele voorbereide samples.

[merethan]

Is er een Twitch-stream van?
Boel ads nodig voor anderhalve ton

[3raser]

Zou best grappig zijn als je een Twitch stream hebt waarop iedereen kan zien hoe een AI leert spelen. En dan echt van de grond af waarbij de AI alleen de input controls weet en verder geen idee heeft wat het spel inhoudt. Het enige probleem is dat deze vorm van leren zo enorm traag zou gaan dat je waarschijnlijk zeer weinig progressie gaat zien. Als je op YouTube wat video's bekijkt over kunstmatig leren gamen dan zijn dat eenvoudige spelletjes waarbij ze tientallen tot honderden iteraties doen voordat er ook maar enige progressie is.

[Daoka]

Ik heb nooit Minecraft gespeeld dus ik had het wel leuk gevonden als er in het kort een uitleg was geweest wat er gedaan moet worden of wat er nou zo moeilijk aan is om zo een pikhouweel van diamant te maken.

Dan nog de vraag: waarom krijgt de AI maar 10 minuten terwijl een gemiddelde speler er 20 over doet. En houdt gemiddelde speler iemand in die al vaker Minecraft heeft gespeeld of is dit iemand die het nog nooit gespeeld heeft en dus eigenlijk alles nog moet leren hoe het spel werkt maar wel bekend is met het soort genre spel? Daarnaast vraag ik me af is dit echt intelligentie geweest of is dit geluk geweest dat het gelukt is. Want 2.5% klinkt niet echt als intelligentie. Waar zit het verschil voor mij? Ik denk vooral doelgericht zijn maar ook niet perfect doelgericht zijn. Nogmaals ik heb Minecraft niet gespeeld dus misschien zijn de volgende voorbeelden niet van toepassing in Minecraft.

Heb je hout nodig dan loop je snel naar een boom. Heb je steen nodig dan sloop je een steen. En niet ik sla alles maar om me heen kapot en hoop dat na een minuut de juiste materialen te hebben. En dan een error krijgt omdat de juiste materialen niet bemachtigd zijn. Of bijvoorbeeld iets maken wanneer de hoeveelheid spul verzameld is. Maar dan bijvoorbeeld niet iets gaat craften terwijl je in een gevecht bezig ben (met uitzondering van bijvoorbeeld betere wapens of potions).

Slim omgaan met materialen. Bijvoorbeeld niet 3 keer een houten zwaard maken terwijl je er 1 nodig hebt. Of dat er een houten zwaard gemaakt wordt terwijl eigenlijk het hout bedoelt was voor bijvoorbeeld een huis of kampvuur.

Vijanden vermijden die veels te sterk zijn of die bijvoorbeeld niets bijzonders kunnen geven. Of gevaarlijke situaties vermijden zoals niet in de afgrond vallen of door lava omdat aan de andere kant iets is wat je nodig hebt.

Goed voorbereid zijn. Genoeg drankjes meenemen (maar ook niet overdreven veel tenzij je die materialen nergens anders voor kan gebruiken). De beste uitrusting aan doen wanneer mogelijk.

Aan zulke dingen denk ik dan als ik aan intelligentie denk. Al blijft de vraag natuurlijk wanneer is iets echt ai en wanneer gewoon voorgeprogrammeerde scenario hebben.

[HerrPino]

Ik denk dat je hier pas echt van AI kunt spreken als het de concepten die het hier geleerd heeft snel (1 dag?) zou kunnen toepassen of een ander spel, zeg Roblox. Als je een kind van 4 Minecraft leert spelen in een paar dagen (baby speeltijd even vergeten) dan kan het binnen een mum van tijd ook met andere spelen aan de slag.

Ik heb trouwens (nog) niet gezien of de AI kon interacteren met Mobs of dat het alleen heel goed kan simuleren dat het Minecraft speelde, maar er verder niets van begreep.

[Tweddy]

We leren nu pas AI te leren. De volgende stap is dat het zichzelf laat leren.
Daarna zijn de mogelijkheden ongegrensd.

[Harm_H]

Het is jammer dat Tesla 1500 mensen in dienst heeft om video's te labelen (of eigenlijk de 'label AI te trainen'). Ik vraag me ook af of er geen doelfunctie is zodat die AI zelf kan gaan labelen op falende/succesvolle beslissingen?

Des te verder hij met craften komt, des te meer 'points'?
(reinforcement learning blijkbaar)

[Reactie gewijzigd door Harm_H op 23 juli 2024 09:41]

[Gropah]

Een AI dingen laten labelen is vragen om problemen, maar in theorie kan het.

Garbage in is garbage out. Als je rommel in een AI gooit, dan kun je het antwoord niet vertrouwen. En met het trainen van een AI is je input nogal snel rommel, omdat het vaak een soort van zwarte doos is en je niet altijd makkelijk kan zeggen waar of waarom een AI zijn keuze op basseerd. Zo is bijvoorbeeld de toeslagen affaire een goed voorbeeld van slechte input, slechte controle van de output en de mogelijke gevolgen daarvan. En als de output van de AI die labelt niet goed is, dan kun je de output van het AI dat daar op gebasseerd is dus ook niet vertrouwen.

Daarbij, je hebt dus een AI nodig om het spul te labelen, maar om die te trainen heb je ook al input nodig. Er zijn ook manieren om zonder handmatige input te werken, zoals unsupervised learning en reinforcement learning. Maar daarbij moet je erg goed de output controleren, omdat de AI zelf probeert in te schatten wat goed werkt. Met deep learning is dat nog meer het geval.

[Anoniem: 532949]

dat is anders precies wat dit onderzoek wel heeft gedaan, aan de had van 2000 uur aan training hebben ze 70000 uur aan ongelabeld data kunnen gebruiken voor training.

Snap überhaupt niet waarom er veel negatieve comments zijn die proberen te ontkrachten dat het hier om AI gaat. Denk dat men te veel SiFI films kijkt en denkt dat iets pas AI als het rond human intelligents zit.

Wat ze hier hebben gedaan is niet veel anders dan Tesla / Comma AI, maar dan in video game.

[Bulkzooi]

het is een she/her volgens mij.

[lanarhoades]

Blijkbaar heeft de AI aan de inventory gezien deze wijze woorden nooit gehoord https://www.youtube.com/watch?v=nOad0ygv5v0