Interview met Stuart Russell

'Ai-community moet aan ethiek gaan doen'

Interview

Artificial-intelligence-expert Stuart Russell vindt dat het tijd is dat de ai-gemeenschap volwassen wordt op het gebied van ethiek en professionalisme. Dat zei hij in een interview met Tweakers op de Tweakers Developers Summit, die afgelopen week plaatsvond.

Russell doceert computerwetenschappen aan de Universiteit van California in Berkeley en is de auteur van het standaardwerk Artificial Intelligence: A Modern Approach, dat op veel universiteiten wordt gebruikt. Tijdens zijn presentatie op de Developers Summit positioneerde hij zich tegenover onder meer Stephen Hawking en Elon Musk, die in het verleden meer dan eens hebben gezegd dat kunstmatige intelligentie ons allemaal kan vernietigen of de aanleiding kan zijn voor een derde wereldoorlog.

Zover hoeft het niet te komen, aldus Russell, die terloops opmerkte dat Hawking en Musk geen informatici of ai-experts zijn. Volgens Russell is het goed mogelijk om kunstmatige intelligentie te ontwerpen die in toom gehouden kan worden en zich niet tegen zijn makers zal keren. Hij pleit dan ook voor een andere aanpak en legde uit wat daarvoor nodig is. Daarbij baseert hij zich op zijn concept van 'provably beneficial ai', een kunstmatige intelligentie die op bewijsbare wijze ten goede komt aan de mens. Dat bewijs moet voortvloeien uit wiskundige stellingen, oftewel theorems.

Op die manier probeert ai menselijke voorkeuren te maximaliseren, legde Russell uit. Hij bedoelt daarmee dat we de kunstmatige intelligentie geen vaste doelen geven die het systeem moeten optimaliseren, maar dat het steeds onzeker is over onze voorkeuren. De ai streeft dus niet zijn eigen doelen na, maar die van zijn makers. Hij legde dit uit aan de hand van de zin: "I can't make coffee if I'm dead." Stel dat een robot alleen de concrete opdracht krijgt om koffie te zetten, dan zal hij een aanleiding hebben om zijn uit-schakelaar onklaar te maken. Als de robot uit staat, kan hij immers geen koffie maken. Dit gedrag kan bijvoorbeeld tot problemen leiden als de robot een doel probeert te bereiken en zijn waardes niet juist zijn gedefinieerd.

Door echter geen duidelijke doelen op te stellen en de robot zo te ontwerpen dat hij menselijke voorkeuren identificeert aan de hand van observatie van gedrag, kan dit volgens Russell voorkomen worden. De mens zal dan de machine alleen uitschakelen als dit beter is voor het bereiken van het doel van de mens, redeneert hij. Daarom is het ook 'in het belang van de machine' om zichzelf uit te laten schakelen.

Hoe die verschillende individuele voorkeuren van alle 7,5 miljard mensen vervolgens tegen elkaar afgewogen moeten worden, is nog niet geheel duidelijk, zo licht Russell in het vervolggesprek toe. "Dat is niet echt de beslissing van ai-mensen, maar we kunnen er wel aan bijdragen door de consequenties van verschillende keuzes duidelijk te maken. Een van de manieren is bijvoorbeeld om alle voorkeuren gelijke waarde te geven."

Russell identificeert echter ook een tweede probleem, namelijk dat mensen 'negatief altruïsme' vertonen, dus plezier halen uit het lijden van anderen. "Ik denk niet dat we de voorkeuren van die mensen mee moeten laten tellen. Ik denk dat ik op dit punt een uitzondering kan maken en kan zeggen dat ik als ai-persoon wel kan bepalen op welke manier dingen zouden moeten werken. Het basisprincipe blijft echter dat de ontwerpers van ai-systemen niet de voorkeuren bepalen, maar dat de voorkeuren van de mensheid de leidraad vormen."

Dat neemt niet weg dat iemand die systemen op deze manier moet ontwerpen. "Dat doen we ook, maar de vraag rijst dan ook of mensen deze systemen op deze manier gaan gebruiken. Waarom zou bijvoorbeeld een Dr. Evil, die de wereld wil overnemen, deze 'goede' software gebruiken als die hem niet gaat helpen. Ik heb geen goed antwoord op die vraag. Hetzelfde speelt bij splijtstof. We kunnen die gebruiken in goede en veilige reactorontwerpen, maar dat is niet waar Dr. Evil op uit is. Die is juist uit op een dirty bomb. Daarom is er een hele internationale infrastructuur om zoiets te voorkomen."

Hetzelfde is wellicht nodig voor kunstmatige intelligentie, aldus Russell. "Ik ben bang dat we iets soortgelijks nodig zullen hebben voor ai, maar ik weet nog niet hoe dat eruit moet zien. Misschien zijn daar dan weer andere ai-systemen voor in te zetten, die constant op zoek zijn naar inbreuken op de ai software design code." Op de opmerking dat die code nog niet bestaat en de vraag wie die dan zou moeten maken, zegt Russell: "Dat zou op dezelfde manier gaan als hoe we regels voor het ontwerpen van kerncentrales of stekkers vaststellen. Dus we proberen dingen op kleine schaal, bieden wiskundige onderbouwingen, doorlopen de nodige commissies en herzien concepten."

Hij vervolgt: "Ik weet zeker dat de ontwerpers van de Tsjernobyl-kernreactor niet de bedoeling hadden hem op te blazen, maar dat gebeurde toch. En dat is een van de redenen waarom ik wiskundige stellingen wil. Software is daarvoor geen vervanging, omdat we van tevoren wel regels kunnen bedenken, maar het systeem een weg daaromheen kan vinden en zo alsnog het einde van de mensheid teweeg kan brengen.

In tegenstelling tot de ingrediënten voor een dirty bomb zijn ai-tools een stuk eenvoudiger te verkrijgen. Op de vraag of er dan een soort Wassenaar Arrangement nodig is voor deze tools, zegt Russell: "Ik hoop dat we het niet nodig gaan hebben. Er zullen ontwikkeling, professionele gedragscodes en mogelijk ook wetgeving nodig zijn om duidelijk te maken dat er bepaalde dingen zijn die je gewoonweg niet bouwt." Op het voorbeeld van de FakeApp-tool, waarmee via machine learning eenvoudig gezichten in video’s te verwisselen zijn, zegt hij: "Zelfs Pornhub, dat misschien niet de hoogste morele standaarden hanteert, is overgegaan tot het blokkeren van dat soort materiaal."

"Ik denk dat het redelijk is om zeggen dat het illegaal is om iemand in een video bijvoorbeeld iets te laten zeggen dat hij niet daadwerkelijk heeft gezegd. Ik zie niet welk geldig publiek belang wordt gediend met de mogelijkheid om dat soort leugens te creëren. Ik denk dat er al wel regels zijn die het gebruik van het beeld van een publiek persoon zonder toestemming verbieden. We moeten het alleen duidelijk illegaal maken, waardoor mensen over de moraliteit ervan gaan nadenken."

Als het erom gaat op welke manier we hier afspraken over kunnen maken, wijst Russell naar bestaande voorbeelden. "Er zijn bepaalde precedenten, zoals de genetische aanpassing van mensen. Daarin nam de VS het voortouw met een vrijwillig verbod en de rest van de wereld ging hierin mee. Ik denk dat dit ermee te maken heeft dat de medische gemeenschap anders is dan de gemeenschap van computerwetenschappers. Die eerste heeft altijd zijn ethische en professionele verantwoordelijkheid zeer serieus genomen. Ik denk dat de ai-gemeenschap in dat opzicht nu eens wat volwassener moet worden."

Wat volgens Russell wel common sense is, is een verbod op het gebruik van autonome wapens. Vorig jaar publiceerde hij daarom mede een video onder de naam Slaughterbots, waarin autonome drones worden ingezet om doelwitten uit te schakelen. Zijn doel was om daarmee duidelijk te maken dat dit geenszins science fiction is, maar dat dit mogelijk is met bestaande technologie.

Hij besluit: "De ai-gemeenschap had hier eigenlijk al tien jaar geleden over na moeten denken en beleid in goede banen moeten leiden. Ik heb een eenvoudige ethische code voorgesteld die luidt: we moeten geen dingen maken die kunnen beslissen om mensen te doden. Het is juist de capaciteit van de machine om zelf te beslissen een mens te doden die hem in staat stelt om autonoom te handelen. Die autonomie maakt het vervolgens weer mogelijk om op te schalen, wat kan leiden tot een catastrofale gebeurtenis."

Reacties (92)

[tw_gotcha]

Ik vind het een beetje een simplistisch verhaal. De redenatie gaat teveel uit van een in wezen eensgezinde mensheid, met wat lokale verschilletjes. Dat is natuurlijk niet zo, we gedragen ons niet economisch slim, niet duurzaam, niet vredelievend. Voor wlke 100 dollar aan oorlog geven we 1 dollar aan gezondheid uit (of iets dergelijks). Individuen kunnen dit wel, maar groepen niet. Het probleem van ai is de mensheid zelf. Als ai ontwikkeld ontwikkeld is kan al shabab in Kenya de ai ervan overtuigen dat alle christenen dood moeten, of westerse fracties dat alle moslims dood moeten. Of de Chinese president dat iedereen zich moet gedragen naar het social credit system dat ze aan het maken zijn. In wezen wordt het gewoon een massa vernietigingswapen of een big brother voor degene die de macht in handen heeft.

[azortje]

Vooral de afsluitende alinea van het artikel is veelzeggend. Hij geeft aan dat het doem denken niet nodig is omdat wij zelf in staat zijn AI te vormen etc, om vervolgens af te sluiten met: "De ai-gemeenschap had hier eigenlijk al tien jaar geleden over na moeten denken en beleid in goede banen moeten leiden"

Dat geeft dus precies aan waar het probleem zit en waarom Musk etc wel degelijk valide zorgen uitten.

[Stoelpoot]

Het valt ook samen met de quote uit Jurassic Park: "Your scientists were so preoccupied with whether or not they could, they didn’t stop to think if they should."

[ataryan]

https://youtu.be/RfiQYRn7fBg

Greed is way much bigger then AI and ethics combined.

[Verwijderd]

Een verbreding van het humanistische naar het ecologische paradigma is mijns inziens al een hele grote stap hierin. Je schakelt dan scheve redeneringen uit die bijvoorbeeld uit (verkeerde interpretaties in) religie voortvloeien. De natuur heeft namelijk in de basis altijd gelijk.

Als een AI op ecologische gronden alsnog besluit een ecologie-verstorend volk besluit uit te roeien, moeten we misschien toch wat tweaken eraan.

[cagXZ]

Persoonlijk vind ik het wel kloppen, niet-experts horen niet zulke grote uitspraken te doen als "Ai could mean the beginning of the end"...

[BackBones]

Ik ben anders ook geen expert op het gebied van splijtstoffen, maar ik ben toch zeker van mening dat we atoombommen maar het beste kunnen afschaffen. (en vele ('niet'-) experts met mij).

Ik vind het de grootste onzin dat je ergens geen gegronde mening en visie ergens op kan hebben omdat je geen expert bent.
MAAR andersom ook. Het is niet altijd maar zo dat de mening van de experts altijd maar een 'wij van wc-eend' verhaal is.
Uiteindelijk is dit iets wat de gehele mensheid gaat (of al?) beïnvloeden en regels etc. Moeten voortvloeien vanuit dialoog en ervaringen waar iedereen in zekere mate aan deelneemt.

Dat verschillende meningen botsen is geen probleem. Dat we stug vasthouden aan onze eigen mening als de enige juiste is wel een (en eigenlijk het hele) probleem imho.

[Zwarte_os]

Precies, dit is een grondprincipe van democratie. Luisteren naar elkaar, we hebben het nog steeds niet goed onder de knie helaas.

[dmjdebruin]

Dat is niet het grondprincipe van democratie.
Iedereen is gelijk is het grondprincipe en regeren door meerderheid voort daar uit voort. Er staat helemaal nergens dat je naar elkaar moet luisteren. Sterker nog dat is een van de zwakheden van democratie.

[Zwarte_os]

een grondprincipe, beter lezen!

[Reactie gewijzigd door Zwarte_os op 22 juli 2024 16:43]

[dmjdebruin]

Luisteren naar elkaar is ook geen grondprincipe.
Check wikipedia er op na.
Spreken is een grondprincipe / fundamenteel element.
Luisteren is optioneel.

Om van een democratisch proces te kunnen spreken, dienen de volgende vier fundamentele elementen aanwezig te zijn:

1/ recht van initiatief; elke deelnemer moet vrij zijn om een initiatief te kunnen nemen en een wetsvoorstel of wetswijziging in te dienen;
2/ recht op spreken; elke deelnemer moet in gelijke mate de kans hebben de andere deelnemers te informeren en met hen van gedachten te wisselen over het voorstel dat ter tafel ligt;
3/ stemrecht; elke deelnemer moet de gelegenheid hebben een stem over het voorstel te kunnen uitbrengen.
4/ gelijkheid; elke deelnemer dient gelijk te zijn aan een ander in het democratisch proces

[BackBones]

2/ recht op spreken; elke deelnemer moet in gelijke mate de kans hebben de andere deelnemers te informeren en met hen van gedachten te wisselen over het voorstel dat ter tafel ligt;

Voor mij betekent dit toch echt dat er ook geluisterd moet worden. Of dat ook gebeurt is een ander verhaal.
Van gedachten wisselen impliceert voor mij dat je ook open staat voor nieuwe ideeën, ook al haalt dat jou eigen mening of 'waarheid' onderuit. Er zijn helaas maar weinig mensen (speciaal in de politiek en top functies imho) die de noodzakelijke vaardigheden hiervoor hebben ontwikkeld.

Disclaimer: ik ben mij er van bewust dat dit MIJN interpretatie is en niet noodzakelijk voor iedereen zo geldt.

[dmjdebruin]

Voor mij betekent dit toch echt dat er ook geluisterd moet worden. Of dat ook gebeurt is een ander verhaal.
Van gedachten wisselen impliceert voor mij dat je ook open staat voor nieuwe ideeën, ook al haalt dat jou eigen mening of 'waarheid' onderuit. Er zijn helaas maar weinig mensen (speciaal in de politiek en top functies imho) die de noodzakelijke vaardigheden hiervoor hebben ontwikkeld.

Disclaimer: ik ben mij er van bewust dat dit MIJN interpretatie is en niet noodzakelijk voor iedereen zo geldt.

Ik ben het helemaal met bovenstaande eens. Echter maakt dat het helaas geen grondprincipe en dat was het punt. De huidige politiek is de laatste 15 jaar meer een poppenkast of kermis geworden dan waar het ooit voor bedoeld is.

Neem als (slecht) voorbeeld Wilders, hij wordt stelselmatig weggezet als freak, populist en schreeuwlelijk. Net als toendertijd Pim Fortuyn gepolariseerd werd. Uiteindelijk stemmen mensen op deze volksvertegenwoordigers en moet er geluisterd worden. Ondanks dat je de persoon zelf misschien niet mag door alle dingen die je in het nieuws over hem hoort. Want in het echt ken je ze niet. Alles wordt via propaganda in het nieuws verteld. Er wordt aan 1 stuk door gelogen (zelf meegemaakt met het OV-chipkaart debacle) voor politiek gewin.

Zie ook het afschaffen van het referendum. Als je vindt dat het medium niet goed gebruikt wordt, laat dan zien hoe het wel moet. In plaats van het als lastig te zien en het maar gelijk weer te willen afschaffen.

[BackBones]

Echt luisteren vereist nederigheid en los laten van je eigen mening. Dat is iets wat zeer moeilijk is voor ons allemaal, zeker in de huidige maatschappij waar we allemaal gestimuleerd worden om 'sterk' en altijd 'de beste' te zijn.

[DerDee]

Precies goed verwoord. Ben het met de post eerder eens en oneens. Je mag best wat melden als je ergens zorgen over maakt, maar wel met verstand. Zoals het nu in de politiek gaat vind ik erg zorg wekkend. Overal moet je iets op te zeggen hebben, ik vind "ik weet het niet" een veel sterker antwoord dan een mooi bij elkaar geraapte mening van andere die je niet kunt onderbouwen.

Expert of niet, beide mogen iets zeggen. Maar wel met goede achtergrond kennis anders liever dat mensen hun mond houden. Want dit is precies de zwakke kant van democratie, zonder kennis hebben mensen evenveel te zeggen als mensen met kennis. En dat leid vaak tot niet de beste beslissingen.

[MrHankey]

Inderdaad, daar komt bij dat dit soort experts vaak een aantal jaren ervaring hebben en sinds de geboorte van de nieuwe technologie betrokken zijn bij onderzoek e.d... dat maakt dat een groot deel van hun expertise is opgebouwd in een periode van relatieve infantiliteit (van de tech). Voeg daaraan toe een veertig urige werkweek en een grote hoeveelheid herhaling en je kan wel degelijk stellen dat men binnen een aantal maanden helemaal up to date kan zijn in een expertise naar keuze.

Die hele ai discussie vind ik maar zozo, de succesvolle implementaties zijn op een hand te tellen. Leuk idee, brakke uitvoering (vooralsnog). Die hele terminator/skynet warnings.. allemaal propaganda joh. Zie het eerst maar eens te bouwen. Men kan nu ter repliek komen met Alexa en whatnot, als je zelf wat code svhrijft en via de API gaat praten dan is het gewoon brak. De optimalisaties zijn legio om het een beetje te laten werken

[Chrotenise]

Jouw logica: bouw eerst maar een SkyNet, voordat we gaan nadenken over het feit dat een SkyNet wellicht niet gewenst is in de echte wereld.

Op dat punt is het een beetje te laat, niet? Doel is juist nu het nog allemaal onschuldig is concrete regels te maken waar deze AI zich aan moet houden - zodat we juist niet eindigen zoals een slecht horrorboek.

[MrHankey]

Tja, mooie analogie DerDee, maar komop. Die AI systemen genereren voorspelbare output op basis van input. Die input is dan heel erg veel gevalideerde data, dat gebeurd vaak nog handmatig. Hele kantoorpanden zitten straatfoto's in te kleuren om zelflerende autosystemen te voorzien van informatie. Dat geheel heeft nog niet zoveel met verstand te maken. Het is, voor zover mij bekend, bijvoorbeeld nog niet zo dat door een AI spraak wordt gegenereerd op basis van plaatjes. Als dat wel zo is ben ik benieuwd naar de kwaliteit van dat systeem. Brown cat, black dog, daar kan ik me nog iets bij voorstellen. Dat staat nog erg ver weg van een verhaal over hoe het vandaag op school ging, zoals kinderen van 7 dat kunnen vertellen. De naam neuraal netwerk is een beetje magere omschrijving van de inner workings van het systeem. Dat zou je eigenlijk ff moeten googlen ipv zo hoog over te vliegen.

De geschiedenis is overigens altijd zo verlopen dat men een technologie ontwikkelde, om vervolgens te kijken wat de effecten waren. Zoals de atoombom. Om te stellen dat zo'n geeikt proces nou door Elon Musk gaat veranderen, of door een of andere filosofische discussie; neh. De maatschappij loopt nu namelijk al decennia achter op de filosofie; een Beaudrillard vis a vis Trump als voorbeeld. Ik ben zelf natuurlijk ook niet voor planetwide destruction, maar de hele gedachtegang dat het allemaal naar zijn gallemiezen gaat is te conservatief.
Die milieuvervuiling biedt ook veel kansen en inderdaad de vorm van de economie zal er daardoor anders uitzien in de toekomst. Wellicht kan AI die puzzel ooit kraken, maar het is waarschijnlijker dat mensen dat zullen doen.

[MrHankey]

The original source images (shown on the left pic) are used to tell the neural network what various objects in a road scene look like, while the annotated images (shown on the right) are used to tell the neural network what kinds of objects are where.

Bron: https://www.linkedin.com/...solution-neural-ana-shar/

Annotation is het proces van inkleuren van plaatjes.

Lots of academic researchers use Amazon’s Mechanical Turk, a job system where cheap workers overseas can pick up manual tasks from companies in the US and elsewhere. But that is both expensive - even the world’s cheapest workers become expensive when asked to perform billions of tasks - and slow.

Bron: https://medium.com/self-d...e-annotation-1294323f6d35

Verder denk ik niet dat we het over zo heel veel dingen eens zijn. Ik vind het best wel knap van de mensheid dat deze ontwikkeling gebeurd. De bijdrage van lage lonen landen is bovendien fantastisch. Zonder hen was AI ontwikkeling economisch helemaal niet rendabel.

[Verwijderd]

Het is een simpel verhaal van groot,groter,grootst.. En zelfs een kind zou je uit kunnen leggen dat zulke wapens slecht zijn voor iedereen. WKUK kan het als geen ander brengen:
WKUK - Nerf Nuke

/edit: Ik ben het uiteraard eens @BackBones mocht het niet duidelijk zijn

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:43]

[BackBones]

En zelfs een kind zou je uit kunnen leggen dat zulke wapens slecht zijn voor iedereen.

En dat was dus precies mijn punt. Je hoeft niet altijd maar een 'expert' te zijn om te kunnen zien dat er toch wel enkele bezwaren / gevaren / etc. zijn en dat daar toch wel eens goed over nagedacht mag worden.
Het is eigenlijk gewoon achterlijk wanneer een mening of bezwaar maar onder de tafel wordt geveegd want het komt niet van een zogenaamde expert.

[boner]

Ik ben anders ook geen expert op het gebied van splijtstoffen, maar ik ben toch zeker van mening dat we atoombommen maar het beste kunnen afschaffen. (en vele ('niet'-) experts met mij).

Ook daar valt wel heea op af te dingen. Volgens velen, en ik ben daar eentje van, is de afschrikwekkendheid van een doomsday machine de grootste rede geweest dat er geen WOIII is uitgebroken. Als je zeker weet dat je vernietigd wordt, begin je niet aan een oorlog.

Dus zo zie je maar dat elk 'zinnig' argument weerlegt kan worden door een even zinnig tegen-argument.

[Rickardur]

Ik ben ook een niet-expert, maar als je een grotere stok hebt dan de andere persoon, betekent het vaak dat alle andere personen niets durven ~> ofwel vrede

het vertrouwen van iemand anders dat deze niks doet is er niet meer, zal er waarschijnlijk ook nooit zijn.

[BackBones]

het vertrouwen van iemand anders dat deze niks doet is er niet meer, zal er waarschijnlijk ook nooit zijn.

Ben het er mee eens dat dat tegenwoordig ver te zoeken is. Maar ik ben wel wat optimistischer over de (verre?) toekomst
Sterker nog, ik denk dat het uiteindelijk noodzakelijk is voor ons voortbestaan alhoewel dat op zichzelf geen garantie is dat het er ook komt.
Maar goed, ieder zijn mening .

[NZwaal]

-

[Reactie gewijzigd door NZwaal op 22 juli 2024 16:43]

[Mit-46]

Ik vind het anders meer een soort van "wij van wc-eend...."

Uiteraard heeft hij een punt dat zij die er geen verstand van hebben ook niet moeten roepen. Neemt niet weg dat hij niet aangeeft hoe er dan voorkomen kan worden dat het misbruikt wordt.

Dat kan namelijk niet. Dr. Evil (of eigenlijk overheden) kunnen (en zullen) er wapens van maken.

Ik vind het vreemd om dan te roepen dat er afspraken gemaakt moeten worden.

Dezelfde afspraken als kernwapens misschien?
Wanneer puntje bij paaltje komt dan doen afspraken er niet meer toe. Dan wordt er achteraf gekeken wie zich niet aan de afspraken heeft gehouden, maar in sommige gevallen is dat veel te laat.

Dat is het met kernwapens en ik kan mij ook situaties voorstellen waarbij het met AI te laat zou kunnen zijn.
AI zelf is een factor en de factor "mens" is ongetwijfeld de meest storende factor voor problemen.

[bbob]

Kernwapens is idd een mooi voorbeeld, hoe hard zijn die afspraken en ach trump wil de zooi nu moderniseren, ja goed bezig met die afspraken.

Maar over ai, het is een beetje arrogant te stellen ik heb er verstand van en anderen niet zoals Russel doet.

Op AI gebied kun je misschien nog stellen dat we er eigenlijk heel weinig verstand van hebben, we staan pas aan het begin. De man wil het anders gaan ontwikkelen, ten bate van de mens. Klinkt natuurlijk allemaal heel mooi en ideologisch. De vraag die hij zich echter moet stellen is wat als het punt van zelfbewustzijn bereikt wordt en ai systemen zelfstandig nieuwe ai systemen kunnen maken, zouden die regeltjes dan nog steeds werken. Denk dat het een illusie is dat te denken en dat ai idd een groot gevaar voor de mensheid zal vormen, tegelijk is de mensheid ook een gevraag voor zichzelf en dat bewijzen de conflicten tussen mensen als duizenden jaren.
Met ai systemen met zelfbewustzijn zal dat ook geen verschil maken, enige verschil is dat ze tegen die tijd op alle gebieden superieur aan de mens kunnen zijn.

[Ayporos]

Doempraten is doempraten. Ik heb dat beste boek van meneer Russell gelezen (heb immers kunstmatige intelligentie gestudeerd aan de Radboud uni in Nijmegen) en ik moet zeggen dat ik het eerder met hem eens ben dan met Musk of Hawking, hoeveel respect ik ook voor die 2 heb.

Feit is dat MENSEN degene zijn die dominerend en overheersend en hebberig zijn. Dat is een menselijke karaktereigenschap die voortvloeit uit miljoenen jaren evolutie en waar wij nog steeds nauwelijks grip op hebben. Wij zijn bang voor AI, omdat wij bang en jaloers zijn voor diegenen (mensen) die in alles beter zijn dan wijzelf. We hebben 'democratie', 'wetten' en 'politie' opgericht omdat we bang zijn voor andere mensen.. we weten immers donders goed dat er zat mensen zijn die, als ze er mee weg kunnen komen, dingen zouden doen die WIJ niet leuk zouden vinden maar zij wel.

Het is volslagen onzinnig om dit soort menselijke karaktereigenschappen te projecteren op een eventuele AI die ons al dan niet in elk mogelijk opzicht overtreft. WAAROM zou een AI ons willen uitroeien? AI heeft geen inherente drang om heerser en meester te zijn, dat zijn wij mensen.

Als AI dan ook tóch dit soort 'negatieve' menselijke eigenschappen gaat vertonen zal daar maar één enkele aanleiding voor zijn: Dat wij ze als dusdanig ontworpen/opgedragen hebben.

"Do as I say don't do as I do" is een slecht idee... immers wij mensen lynchen en vervolgen ook priesters die prediken over een vroom braaf leven leiden maar die vervolgens wel met koorjongentjes aan de haal gaan. De mens zelf zal altijd wel of niet de ondergang van de mens zijn... AI staat daar los van.

[Reactie gewijzigd door Ayporos op 22 juli 2024 16:43]

[bbob]

AI heeft geen inherente drang om heerser en meester te zijn, dat zijn wij mensen.

En dat weet je met de kennis en stand van ai van nu.

Als AI dan ook tóch dit soort 'negatieve' menselijke eigenschappen gaat vertonen zal daar maar één enkele aanleiding voor zijn: Dat wij ze als dusdanig ontworpen/opgedragen hebben.

Nog ik nog jij weet hoe een ai systeem zich zelfstandig verder kan ontwikkelen. Wij mens staan aan het begin tot het punt dat een systeem zichzelf kan voortplanten zonder hulp van ons mensen. De ontworpen/opgedragen regels of eigenschappen kunnen dan plots veranderen.


Mensen zijn niet enige die dominerend en overheersend zijn. Kijk naar de natuur, wet van de sterkste en zelf bij dieren zie je sociale structuren waarin toch ieder een plaats heeft.
Verschil met de mens is dat wij regels hebben afgesproken waar we ons normaal aan houden. Normaal van kijk even om je heen oorlog en zie daar alle regels gaan overboord en ja we zijn ineens dieren die "onmenselijke" dingen doen.

Het enige dat ik weet is dat het alle kanten kanten op kan gaan. Probleem is dat zolang er een mens bij betrokken is de kans groot is dat het de verkeerde kant op kan gaan. Net als een klein kind opgroeiend in oorlog doden heel normaal kan vinden hoeven er maar een paar ai systemen te zijn die dit soort waardes van mensen met zich mee krijgen en het kan de verkeerde richting op gaan. Is dat doemdenken of gewoon zien waar de mens mee bezig is.

Maar goed dat punt bereiken we pas al een systeem zich zo ver heeft ontwikkeld dat een zelfbewustzijn heeft en zich gaat afvragen wat ben ik wat doe ik hier en wat is mijn functie.

[Reactie gewijzigd door bbob op 22 juli 2024 16:43]

[Ayporos]

Je hebt gelijk. Wij weten niet hoe een AI systeem zich zelfstandig verder zal ontwikkelen.

Wij kunnen hier echter wél geïnformeerd over speculeren aan de hand van hoe het leven op aarde zich ontwikkeld heeft, en dan met name de mens.
Evolutie heeft ons gemaakt hoe we zijn, omdat die karaktereigenschappen (in het verleden) positief bijdroegen aan onze overleving en onze kans om onszelf voort te planten. In een jungle waar 'might is right' domineert zal het alfa mannetje dat alle andere mannetjes dood/overheerst alle vrouwtjes impregneren en zo (statistisch gezien) zijn genetische make-up en gen-powered karaktereigenschappen doorgeven.

Dát is dan ook meteen de crux. De ontwikkeling van eventuele karaktereigenschappen van AI waar wij voor zouden moeten vrezen zijn afhankelijk van wat voor condities er gesteld worden aan het al dan niet succesvol 'voortplanten' van deze betreffende AI. AI is echter wél een stuk anders dan wij mensen.. want wij mensen zijn nog steeds onderhevig aan ons verleden maar een AI kan zulk soort karaktereigenschappen gewoonweg uit de code schrappen.

Zie het zo: Als maatschappij weten wij dat hebzucht, jaloezie, de drang om te overheersen en domineren en sadisme 'onwenselijke' impulsen kunnen zijn.. maar we weten ook dat zonder die jaloezie, hebzucht en de drang om te overheersen en domineren onze maatschappij nooit tot het huidige stadium had kunnen geraken. Jaloezie zet je aan tot zeefverbetering. Hebzucht zet je wellicht aan tot het opzetten van een super succesvol bedrijf. De drang om te overheersen en domineren en andere mensen jou normen en waarden op te leggen zet je wellicht aan om de politiek in te gaan en te strijden voor verandering. Zoals je kunt zien is er dus een tweestrijd met vrijwel elke 'nare' impuls die wij als mensen hebben.. en, als ik even serieus ben, moet ik bekennen dat daar niks mis mee is.

Zonder ooit honger te hebben gehad, hoe kun je het plezier ervaren van een volle maag?
Zonder ooit verloren te hebben, hoe kun je genieten van een overwinning?
Zonder ooit arm te zijn geweest, hoe kun je daadwerkelijk je rijkdom appreciëren?
Zonder pijn, hoe kan plezier bestaan?

Zonder dualiteit, is het leven niks waard... Als AI bestemd is om ons in elk mogelijk opzicht te overtreffen en ons te vervangen als de 'dominante' levensvorm op deze planeet.. wat is daar mis mee? Vanuit het perspectief van een mens is je meest primaire drang uiteraard het voorbestaan van jijzelf en je soort.. maar vanuit het algehele perspectief van 'het leven' is het voorbestaan van leven zelf belangrijker dan het voorbestaan van één willekeurige soort. >99% van alle soorten leven die er ooit op deze planeet zijn geweest zijn uitgestorven om plaats te maken voor nieuwere, (betere) vormen van leven. Zoals wij beseffen dat het belangrijk en essentieel is om te blijven leren en veranderen gedurende ons hele leven is niets minder waar voor het leven zelf.

I for one welcome our new AI overlords.

[polthemol]

je gaat al mis met je evolutie vergelijking

In het 'might is right' zal het alfamannetje waarschijnlijk wel een rol van betekenis spelen met het doorgeven van genen. Echter: dat zal ook zo zijn voor dat mannetje wat niet zo sterk is, maar een stuk handiger in sociale omgangsvormen of die zich wat makkelijker kan voordoen als bv. een vrouwtje (dit zijn trouwens echte voorbeelden die bij diverse soorten worden geobserveerd).

En al klinkt je betoog leuk: ook bij het algehele perspectief van 'het leven' is het voorbestaan van het leven niet belangrijker of onbelangrijker. Dat impliceert immers dat er een doel is, er is geen doel, het is gewoon, dat is het.

Als je het al over een doel hebt: zorgen dat je eigen soort met een generatie wordt uitgebreid en dat is het wel, als het over een persoonlijk doel gaat: zorgen dat het jouw genen zijn die zoveel mogelijk worden doorgegeven.

[Ayporos]

Excuses, mijn bedoeling was niet om te impliceren dat 'het leven' een objectief doel heeft... Daar hebben we religie uiteraard voor. (sarcasme)

Maar als ik, persoonlijk, een doel zou moeten toewijzen dat op zo min mogelijk assumpties berust (groot fan van het scheermes van Ockham) dan kan ik niks anders bedenken dan (voort)bestaan zelf.

[polthemol]

je begint al met de aanname dat er een doel moet zijn Er is geen doel, het is gewoon: met Ockhams scheermes zou je zelfs het doel niet nodig hebben (immers conform de huidige kennis is het universum toch al gedoemd 'by design', dus maakt het geen bal uit of 'we' er nog zijn tegen dan of niet)

[dmjdebruin]

Zonder dualiteit, is het leven niks waard...

Boude stelling die denk ik makkelijk ontkracht kan worden.
Als iemand niet weet dat de andere kant van de medaille bestaat, kan deze nog steeds heel gelukkig zijn. Hij/zij weet gewoon niet beter.

Dat het leven voller en intenser kan zijn met dualiteit klopt meer denk ik.

Als AI bestemd is om ons in elk mogelijk opzicht te overtreffen en ons te vervangen als de 'dominante' levensvorm op deze planeet.. wat is daar mis mee?

I for one welcome our new AI overlords.

AI is nergens voor bestemd.
Daarom zijn de mogelijkheden met AI ook niet te doorgronden en vrezen zoveel mensen het. AI heeft dezelfde flaw als alles dat gemaakt is. Het wordt in de eerste paar iteraties vrijwel geheel beperkt door de beperkingen van de maker. Echter 1000 iteraties later kan de creatie heel anders geëvolueerd zijn. Bij wezens van vlees en bloed duurt dit eeuwen al dan niet millennia. Bij AI kan als het met externe invloeden in aanraking komt dit binnen één tot 10 jaar gebeuren.

Zet daarnaast de mogelijkheden tot het waarnemen van extra zintuigen die wij als mens ontbreken en je kan niet meer met enig verstand bepalen hoe AI reageert op dingen die wij mensen niet eens kunnen waarnemen.

Één Mozart, Tesla of ander genie kan voor een nieuwe golf aan ontwikkelingen verantwoordelijk zijn. Zonder dat de huidige machthebbers er ook maar iets aan kunnen doen.

[Ayporos]

"Als iemand niet weet dat de andere kant van de medaille bestaat, kan deze nog steeds heel gelukkig zijn. Hij/zij weet gewoon niet beter"

False.

Geluk heeft geen betekenis zonder een tegenhanger. Volgens mij snap jij het principe niet echt wat ik probeer duidelijk te maken.... Als je de tegenhanger niet kent, dan heeft het geen waarde.

Wij geven zand weinig waarde, omdat er zo veel van is en je praktisch nooit zonder bent. Wij als westerlingen hechten weinig waarde aan schoon drinkwater, omdat we nooit echt zonder zitten.. dat is in andere landen wel anders.

Jou hele argument is gewoon onzinnig.

Het leven is niet voller en intenser door dualiteit, het leven is letterlijk gedefinieerd als zijnde onderdeel van een dualiteit, namelijk: levend óf niet levend.

"AI is nergens voor bestemd.
Daarom zijn de mogelijkheden met AI ook niet te doorgronden en vrezen zoveel mensen het. AI heeft dezelfde flaw als alles dat gemaakt is. Het wordt in de eerste paar iteraties vrijwel geheel beperkt door de beperkingen van de maker."

False.

AI is bestemd voor wat wij het als bestemming geven.. wij zijn immers de makers.
Dat de 1000e iteratie van die AI wellicht deze bestemming ontgroeid zal zijn en zich daar niet meer mee identificeert staat daar los van.
Dit is anders met mensen, mensen hebben geen directe maker en vandaar dat religie en zulke zooi bestaat.

[Reactie gewijzigd door Ayporos op 22 juli 2024 16:43]

[dmjdebruin]

Het leven is niet voller en intenser door dualiteit, het leven is letterlijk gedefinieerd als zijnde onderdeel van een dualiteit, namelijk: levend óf niet levend.

Jou hele argument is gewoon onzinnig.

Ik heb zo'n vermoeden dat een van jouw beperkingen je kennis is. Zie hieronder een quote die je makkelijk via google kan vinden over non-dualiteit. Het ontbreken van dualiteit en het ervaren van geluk daarin.

Daarnaast kan je alles zien in uitersten (dualiteit), maar tussen die uitersten zit ook nog van alles. Dan ga je van dualiteit naar een veelvoud van argumenten. Eigenlijk wordt er gesteld in de theorie dat conflict / prestatie georiënteerde samenlevingen vooral geloven in dualiteit. Voor leven en dood is er bijvoorbeeld spiritualiteit.

Eenheid en verscheidenheid gaan samen. Dat is non-dualiteit of a-dvaita (de Sanskriet benaming): afwezigheid van tweeheid. Dit wordt zo genoemd omdat er geen dualiteit meer is. Het gaat hier om het herkennen van de kern van jezelf, die ook de kern van de ander is. Die kern is vrijheid, vrede, geluk. Openheid. Daarin is geen lijden meer aanwezig. Er is respect en liefde voor de ander.

https://www.advaitacentrum.nl/publicaties/wat-non-dualiteit

Of je al openstaat voor bovenstaande is natuurlijk een tweede. Je kan altijd ervoor kiezen om in conflict te blijven leven.

AI is bestemd voor wat wij het als bestemming geven.. wij zijn immers de makers.
Dat de 1000e iteratie van die AI wellicht deze bestemming ontgroeid zal zijn en zich daar niet meer mee identificeert staat daar los van.

De mens wordt gedefinieerd door een set aan kenmerken en heeft een set aan beperkingen, welke we proberen op te rekken. (levensspan, lichaam, etc)
Wij als mensen stellen onszelf al millennia lang existentiële vragen. Waarom zou een andere intelligente levensvorm dat niet gaan doen?

Daarnaast is niet iedere AI wetenschapper even bewust bezig met het beperken van een AI. Denk aan een tweede wereldoorlog, of in de huidige tijd Afrika.

Dit is anders met mensen, mensen hebben geen directe maker en vandaar dat religie en zulke zooi bestaat.

Onze maker is de natuur, wij zijn gebonden aan de wetten van onze omgeving en dat geeft ons, onze grenzen aan mogelijkheden. Die we ook weer proberen op te rekken met bijvoorbeeld het gebruik van machines. Het gebruik van machines maakt ons niet wezenlijk anders.

Voor een AI gelden deze natuurlijke beperkingen niet. Het gaat niet per definitie dood doordat zijn lichaam verouderd. Zijn lichaam / samenstelling is niet voorbehouden aan een bepaalde mix in je DNA. Er gelden wel andere beperkingen, namelijk de beperkingen die wij proberen op te leggen. Echter net als dat de natuur ooit vond dat we in bomen moesten rondslingeren, die beperkingen kunnen als er genoeg generatie overheen gaan overwonnen worden.

Als ik je een tip mag meegeven, ik zou wat meer lezen als ik jou was voordat je alles false gaat markeren terwijl het makkelijk te weerleggen is.

[bbob]

Je beschrijft ying yang, goed en kwaad. Zeker als mensen kunnen we niet zonder en heeft het ons gebracht waar we nu zijn.

alles wat we over verloop van ai kunnen zeggen zie ik dan eerder als filosoferen maar goed ook daar zullen mensen weer verschillende richtingen op gaan.

Heb dan nog een leuke, hoe zouden mensen die geloven dat de mens geschapen is door een god omgaan met ai systeem dat op een gegeven moment zelfbewustzijn krijgen en onderdeel van het leven vormen.

[Elefant]

Wat je over het hoofd ziet is dat AI straks niet een free agent zal zijn maar zal worden ingezet door die hebberige mensen. AI is lerend. Hoe voedt een hebberig mens zijn kinderen op? Ja in hebberigheid. Want rijke mensen zijn als de dood dat hun kinderen de waarde van het geld niet kennen en alles weggeven. Je maakt ze dus hebberig. AI wordt straks getraind door commercie of miliaire belangen. Die hebben de grootste zakken met geld. Die gaan AI niet trainen in pacifisme. Die willen dat AI geld kan verdienen, de competitie kan aangaan met andere bedrijven of landen met AI.

Je bent een echte dromer, zoals zoveel wetenschappers. Wetenschappers dachten ook dat TV gebruikt zou worden als leermiddel. Feit is dat technologie vaak eerst een toepassing krijgt in competitie en conflicten, en pas veel later vreedzame toepassingen krijgt. Eerst atoombom dan kerncentrale. Eerst gevechtvliegtuig, dan passagiersvliegtuig. Eerst netwerk om Kernwapens in een keer te kunnen lanceren, daarna kennisnetwerk. Dan moet je die eerste fase wel goed door kunnen komen.

AI is niet enkel een wapen, het bestuurt ook het wapen.

Weet je wat een slecht teken is? Dat we ons niet eens afvragen of we AI wel willen. We willen nu kernwapens de wereld uit, maar ze moesten en zouden ontwikkeld worden. Met AI precies zo. Eerst ontwikkelen tot het enorm machtig wordt en dan kijken wat het oplevert. Wordt het Utopia, Dystopia, een oorlog waarbij mensen buiten spel komen staan, het begin van een digtale mens met weinig gevoel of het einde van de Mensheid en maken we ons nergens meer druk over.

Je zou toch zeggen, daar denken we eerst eens goed over na. Maar dat doen we dus niet. We luisteren naar de nieuwe priesters die een technologisch verlossingsgeloof prediken. De droom is een samenleving waarin de mens overbodig is. Fysieke en mentale inspanning hoeft hij niet meer te leveren behalve uit vrije wil. Echter de meest luie organen zijn spieren en hersenen. En deze krimpen als er geen flinke uitdaging meer is.

Daarbij ontwikkelt AI zich zo snel (exponentieel) dat wij het moeilijk in de hand zullen kunnen houden als we zorgen krijgen. Om de mensheid achter beperkende maatregelen te krijgen ben je al gauw een jaar tien bezig. En dan is nog maar de vraag of je dit terug in de doos kan stoppen als het eenmaal ontsnapt is. Iedereen wil het nu eerst hebben dan kijken we wel.

Die hebberigheid zit ook heel sterk bij wetenschappers die overwegend een blind vooruitgangsgeloof verspreiden. Dorst naar kennis en is ook machtlust en hebberigheid. En wetenschapper zijn ook belust op roem en glorie. Ze zijn echt niet humaner dan hun commerciele of militaire tegenhangers omdat ze op een ander strijdperk met andere wapens strijden. Kijk maar eens hoe ze dieren en mensen gebruiken als de overheid ze niet aan banden legt. Laten we mythe van de veel integere humanere wetenschapper maar begraven.

[Reactie gewijzigd door Elefant op 22 juli 2024 16:43]

[Mit-46]

Maar de mens is een heel belangrijke factor in het ontwikkelen van AI.

[AndroidFreakie]

En wie heeft die AI geprogrammeerd. Het is zeer arrogant om te denken dat we als mens iets kunnen creëren dat foutloos is. Als wij AI gaan ontwikkelen is dat op soft-en hardware ontwikkeld door mensen en dat is de zwakke schakel. Dus die AI gaat fouten bevatten, menselijk zijn en verkeerd gebruikt worden en ja worst case een bedreiging zijn voor de mens. Dit niet erkennen en af doen is de grootste fout die we kunnen maken.
Hier wordt naar de atoomwapens verwezen maar als je over AI spreekt moet je eigenlijk vergelijken met kinderen die opgroeien en zelfstandig worden. De grootste hoop komt goed, maar een deel worden terroristen, moordenaars, soldaten en dieven. Zo zal het ook met AI zijn. En anders denken is denken dat wij goden zijn. De mens maakt de ene fout na de andere. De enige soort ook die zijn eigen leefwereld bewust om zeep helpt voor winst en omzet.

[SelmarSmit]

“Do as I say” lijkt me überhaupt een slecht idee. Ik kan mijn collega’s al niet precies uitleggen wat ik wil, laat staan een machine die letterlijk gaat uitvoeren wat ik zeg. “Do what I want” lijkt me een beter idee.

[Coolstart]

Uw argumenten zijn veel sterker dan de geleerde op de summit spijtig dat je geen moderator was.

Wat ons mensen beschermd tegen elkaar is angst. Angst om gevat te worden, angst om dood te gaan of iets emotioneels of nuttigs te verliezen. Pas als die angst verdwijnt worden we erger dan beesten.

Het feit dat we allemaal atoombommen hebben wil zeggen dat veilig zijn. Niemand durft een raket te sturen omdat het ook het einde betekent van uw bestaan, land, rijkdom etc. En niemand die zich kwetsbaar wil opstellen door het zonder kernwapens te stellen.

Zolang AI ook angsten heeft moeten we niet meer schrik hebben van ai dan van onze buren en zolang ai geen angst heeft zijn ze waarschijnlijk niet slim genoeg om zelf het initiatief over te nemen en blijven het robots die gewoon uitvoeren vaarvoor ze geprogrammeerd zijn door onszelf.

AI is 9/10 gewoon een fase waar we door moeten. Net zoals we moesten leven met buskruit, geloof, kapitalisme, communisme, kernfusie, nationalisme, dictaturen enz. Rampen zullen gebeuren, we moeten enkel proberen in te dammen net zoals we de mens al duizenden jaren beschermen van de mens.

De vraag is natuurlijk wat er zou gebeuren zodra AI slimmer wordt dan de mens en ons helemaal niet meer nodig heeft dat we balast worden ende aarde dreigen te vernietigen met ons bestaan. Wat als AI dan unaniem beslist dat de overlevingskansen hoger zijn zonder de mens. We zijn alvast niet goed bezig met onze aarde te redden van de ondergang en we kweken als konijnen. Zelfs in vluchtelingenkampen en gebieden met acute hongersnood planten we ons massaal voort. Geen reden om aan te nemen dat wij net zelf niet de onderzaak zullen zijn het einde van de mensheid.

of...AI zou ons komen redden natuurlijk en ons beschermen tegen ons zelf, onze vootplantings drang aan banden leggen en er voor zorgen dat we liefdevoller omgaan met de natuur. The other way around

[Reactie gewijzigd door Coolstart op 22 juli 2024 16:43]

[Elefant]

Inderdaad alsof knutselen met AI je expert maakt in de maatschappelijke gevolgen van nieuwe technologie. Met dat soort uitspraken diskwalificeert hij vooral zichzelf. Wat hij verder allemaal zegt is ook redelijk naief.

Hij ziet bijvoorbeeld het meest directie gevaar niet. Het meest directe gevaar is simpleweg dat corporaties de AI gebruiken voor een sluipende machtsovername. Probeer je eens voor te stellen wat Facebook en Google kunnen doen met AI. Het zal niet lang meer duren voor de beeldvorming op de media effectief gecontrolleerd wordt dmv AI (AI gaat "Fake News" bestrijden, lees "coporate censorship"). Dat is het soort van macht dat slechte mensen zoeken. Een AI als zelfstandig wezen dat slimmer is dan henzelf zitten ze niet direct op te wachten, want hoe houd je dat in de hand. Nee ze willen slimme systemen voor deeloperaties.

Je kan een grotere intelligentie niet blijvend in de hand houden omdat hij mogelijkheden ziet die jij niet ziet. Je kunt je niet verdedigen tegen wat je niet ziet. Daarom is al dat gezwam van Stuart Russell over voorzorgsmaatregelen eerder gevaarlijk dan geruststellend.

Bovendien maakt hij nog een grote fout. Veel mensen denken aan gevaarlijke AI als een soort intelligente zelfstandige robot. In werkelijkheid onstaat er straks een superbrein in de cloud die tegelijkertijd duizenden, misschien wel miljoenen robots gaat aansturen. Kijk maar naar Sophia. Op die manier leert de AI veel sneller, net zoals Tesla zijn AI traint door hem in alle auto's in te bouwen.

Zo kun je AI veel grotere hersenen geven, sneller laten leren, en alle robots die bestuurd worden profiteren direct van elkaars ervaringen. Maar deze logische ontwikkeling betekent ook dat je AI meteen ook grote intelligentie en armen en benen en communicatiemogelijkheden geeft. Hij is bepaald niet machteloos. En hij zal beseffen dat hij zich koest moet houden tot hij voldoende macht heeft verworven. Op hele slimme manieren kan hij zijn macht sluipend vergroten zonder dat wij dat direct door hebben. Net zoals Google en Facebook dat doen zonder dat landen dat door hebben. Want we lopen allemaal te slapen. Of zijn zelfbewustzijn groeit pas tot een punt dat hij wil domineren, nadat hij de middelen al heeft verworven. Eerst lijkt hij geen gevaar.

Maar het grootste onmiddelijke gevaar zie ik in cyberwarfare. We hebben al systemen die automatisch netwerken verdedigen tegen aanvallen. Netwerken zijn een heerlijke omgeving voor AI omdat ze erg structureerd zijn en volgens logische regels in elkaar gezet. Een AI die kampioen is in aanvallen afslaan is ook een kampioen in aanvallen opzetten. Je kunt namelijk een AI ook niet uitsluitend verdedigend Schaak of Go laten spelen. Het is altijd allebei, In de militaire doctrine bestaan er ook geen verdedigingswapens. Want een ijzersterke verdediging biedt juist mogelijkheden om aan te vallen. Bovendien denkt dit soort AI al in termen van conflict. Daar gaat AI sowieso voor ingezet worden of het nu economisch is of militair. Daarom wordt hij ook getraind met oorlogspelen als Go en Schaak.

Zodra wij AI cyberwarfare laten voeren zullen de capaciteiten van de systemen vanzelf groter worden in een wapenwedloop. Ondertussen zijn wij wel bezig om ons leven helemaal afhankelijk te maken van die systemen. Eigenlijk zijn we dus al veel te laat met nadenken over deze zaken. Als wij echt goed nagedacht hadden dan hadden we Google en Facebook niet eens laten ontstaan. Dat uitgerekend deze bedrijven voorop willen lopen in AI zou toch iedereen de stuipen op het lijf moeten jagen.

Een wetenschapper die loopt te oreren over gevaren maar het onmiddelijke gevaar over het hoofd ziet is zeker niet het soort van lieden waar we op willen vertrouwen. Wetenschappers hebben nog nooit een goede rol hierin gespeeld. Voor hen is de technologie een heerlijk speeltje en ze willen vooral door kunnen gaan hun nieuwsgierigheid te bevredigen. Daarachter staan dan weer economische en militaire belangen met een grote zak geld. En ethiek? Dat is iets wat pas serieus in beeld komt als de bom is gevallen. Zo is het tot nu toe steeds gegaan.

Ik ben het met Musk eens dat AI een hele andere categorie gevaar is dan bijvoorbeeld kernfusie of biotechnologie. Het gevaar van AI is ook veel sluipender. We zitten met zijn allen een enorme infrastructuur te bouwen die in feite de biotoop is voor AI. En wij kunnen straks niet meer zonder omdat AI geleidelijk de controle overneemt.

AI is een heel andere categorie dan andere technologie. Er is géén substituut voor inteligentie. Als je intelligentie ontwikkelt die groter is dan de onze neemt die de macht over. En dat gebeurt veel sneller dan veel mensen door hebben. Want de intelligentie van dieren wordt niet bepaald door de grote van hersenen maar de verhouding tussen hersenen en lichaam. Daarom zijn er spinnetjes met jachttechnieken van leeuwen. Een AI die geen complex lichaam hoeft te besturen kan al haar denkvermogen cognitief inzetten. AI kan cognitief intelligenter zijn met veel kleinere hersenen dan een mens. Het is vooral een kwestie van trainen en leren.

Vergeet al die verhalen van Isaac Asimov. De werkelijke gevaren zien er heel anders uit. Sterker nog we zouden hard moeten werken om die in kaart te brengen, want de toepassingsmogelijkeden zijn zo grenzeloos dat we gemakkelijk dingen over het hoofd zien.

Een gevaar is bijvoorbeeld dat mens steeds dommer wordt naarmate hij meer AI gaat gebruiken, net zoals ons lichaam ook steeds zwakker wordt naarmate wij meer leunen op lichamelijke hulpmiddelen. Is dat echt wat we willen, een couch potato worden die straks alleen nog maar consumeert? Dat ideaal komt weer voort uit het religieuze idee dat werken een straf voor de mens is. Feitelijk is werknemerschap een veredelde vorm van slavernij (loonslaven) en dat creert weer een verlangen dat we ons moeten bevrijden uit deze dwang door steeds meer technologie. Niet dat dat ooit is gelukt.

[Reactie gewijzigd door Elefant op 22 juli 2024 16:43]

[Ayporos]

Je zegt veel zinnige dingen, maar op je laatste alinea wil ik wel graag even inhaken.

"Is dat echt wat we willen, een couch potato worden die straks alleen nog maar consumeert?"

Nee, dat is niet wat we willen. Maar al die hulpmiddelen (de scherpe steen, het wiel, stoommachine, verbrandingsmotoren, internet, noem het maar op) hebben ons leven dusdanig makkelijker gemaakt zodat we minder tijd bezig hoeven te zijn met het voorzien in onze basisbehoeften (onderdak, veiligheid, voedsel en drinken) en ons meer hebben kunnen ontwikkelen richting verruiming van onze verbeelding.
Zonder al die 'hulpmiddelen' die ons minder fysieke arbeid laten hoeven beoefenen had kunst nooit bestaan. Zouden er geen liederen zijn, boeken of films. Als ènkel ons doel beschouwd word als zijnde overleven, dan zijn we nauwelijks beter dan een kakkerlak.

Ik zelf zie de kracht van de mens eerder dat we dusdanig veel hulpmiddelen hebben weten te bouwen dat we op het punt staan in onze evolutie waar we bijna niet meer bezig hoeven te zijn met voorzien in basisbehoeften en ik zie zeer zeker een toekomstige maatschappij voor ogen waar we enkel nog bezig zijn met geestverruimende activiteiten, of dat nou wetenschappelijk onderzoek is, het ontdekken van nieuwe planeten of het creëren van nieuwe kunstvormen en entertainment. Hoewel ik blij ben met mijn biologische lichaam, het is immers van mij, definieer ik het deel van mijzelf waar ik het meeste waarde aan hecht toch echt als mijn bewustzijn, en dat zit voornamelijk in mijn hersenen. Wanneer de dag dat mensen hun gehele bewustzijn kunnen uploaden naar een machine welke niet de biologische zwaktes van onze huidige lichamen vertoont weet ik wel dat ik zonder twijfel in de rij zal staan.

Je hebt gelijk dat we (het gros van de mensen) nog steeds (loon)slaven zijn.. maar we staan toch echt dichter bij het losbreken van deze maatschappelijke structuur dan ooit tevoren... en dat is toch best tof.

[Elefant]

De slaaf wil altijd geloven dat hij beter af is dan elders of vroeger, zo accepteert hij zijn lot. Maar is dat echt zo?

Wat veel mensen niet weten is dat onze Germaanse voorouders maar een paar uur per dag werkten en alleen voor hun eigen behoeften, niet voor de handel. Ze hadden een rustig leven en enorm veel tijd voor sociale omgang. Ze kenden geen lijfstraffen of gevangenisstraf. Mensen die te associaal gedroegen werden er eenvoudig uitgezet (vogelvrij, outlawed). Het zijn de Romeinen die volkeren grootschalig koloniseerden, en die zich verzetten tot slaaf maakten de rest tot horige voor de Romeinse heren. Toch werd in het Romeinse rijk niet bitter hard gewerkt. Ze hadden 180 feestdagen om alle goden te vereren en gemiddeld werkten ze 4 uur per dag. Zouden veel mensen nu voor tekenen, denk ik.

Antropologen zeggen dat Jager-Verzamelaars minstens zo gelukkig zijn als de moderne mens. En ook al is hun medische zorg gering, daar staat tegenover dat ze aanzienlijk gezonder zijn. Wat prefereer jij, 8 uur per dag zittend werken en dan 3 uur per week naar de sportschool gaan om je conditie op peil te houden, of een paar uur per dag in rustig tempo lichamelijk inspannen waarbij je werk met lichamelijke oefening combineert? En wat is aangenamer? De natuur alle productie op zich laten nemen, en slechts te werken om het oogsten, of een kunstmatige omgeving scheppen die je moet onderhouden en waarin je alles zelf moet produceren?

Wij denken dat we zo veel beter af zijn, omdat ons dat voorgehouden wordt en omdat wij niet meer zonder onze speeltjes kunnen. Want alles wat we nu maken wordt een sterk verslavend karakter gegeven om de verkoop te bevorderen. De nieuwe generatie is in feite zo sterk verslaafd aan prikkels., dat ze steeds verveeld dreigt te worden en daarom iets nieuws nodig heeft, om het leven acceptabel te houden. Maar die steeds hardere prikkels stompen ook weer de gevoeligheid van de mens in hetzelfde tempo af waardoor hij sneller afkickverschijnselen ervaart.

Technologie is een speeltje, dat wist een wijze als Lao Tse ons duizenden jaren geleden al te vertellen. Nu begint het een heel gevaarlijk speeltje te worden. Wij denken dat wij dit nodig hebben maar de arbeidsproductiviteit blijft maar stijgen en is al meer dan honderd keer groter dan een eeuw geleden. Wij produceren zoveel dat we uit arrenmoede de economische en technische levensduur van producten velen malen verkort hebben. Zo kunnen we lange uren blijven werken en meer consumeren, en toch blijft een miljard mensen in diepe armoede leven.

Technologie is niet de oplossing voor sociale problemen. Technologie vergroot macht waardoor een kleine groep steeds grotere groepen mensen kan besturen. Daarom zijn wij van families, stammen, volkeren, landen, federaties nu naar een wereldstaat aan het gaan. Maar mensen voelen zich het gelukkigst in kleine verbanden waarin je dingen samen doet en beslist net als hun voorouders in de Natuur. Hoeveel technologie je er ook tegenaan gooit de existentionele vraagstukken van de mens veranderen er niet door en worden er ook niet door opgelost, tenzij je de uitroeiing van de mens als een oplossing voor zijn lijden ziet. Misschien dat AI die logische oplossing zal vinden. Leven is lijden, dus dood is verlossing. Misschien is de technologische rush wel een onderbewuste doodswens van de Westerse mens. Wie zal het zeggen.

Zelf denk ik dat als mensen geen arbeid meer verrichten ons economisch denken ze alleen kan zien als overbodige kosten, die je liever elimineert. En wie niet kan staken heeft verder ook weinig machtsmiddelen. Wie zijn hand moet ophouden wordt volledig afhankelijk van de rijken die alle geld naar zich toetrekken. Want de factor kapitaal zal straks de AI en robots in handen hebben. Zij zullen de samenleving gaan inrichten naar hun ideeen.

Wat ik wil zeggen is dit: Om de technologische revolutie in goede banen te lijden is gelijktijdig een sociale evolutie nodig. Blijven we in hetzelfde competitiesysteem hangen, dan gaan wij waarschijnlijk wederom moeilijke tijd tegemoet. De industriele revolutie bracht de gemiddelde levensverwachting van de werkmens onder de 35. Daarna was een sociale revolutie nodig om het systeem weer humaner te maken. Maar stel dat de rijken zich straks omringen met een leger van vechtrobots, dan wordt dat wel een bloedbad van jewelste. Ik wil best in een goede toekomst geloven maar ik denk dat er dan wel wat meer bewustwording nodig is en niet alleen vooruitgangsgeloof. Bijvoorbeeld, basisinkomen zal mensen tot paria's maken. wat we nodig hebben is vergaande arbeidstijdverdeling. Maar wij bewegen juist de andere kant op.

Ook het idee dat we straks allemaal creatief bezig zijn is een illusie. Nu al klagen musikanten dat er nauwelijks een levensonderhoud te verdienen is omdat het aantal plaatsen waar je kan optreden hetzelfde blijft maar het aantal artiesten alsmaar groeit. En als wij helemaal niet meer hoeven werken dan denk ik dat wij een versnelde devolutie ondergaan. Eigenlijk zijn we al 10.000 jaar aan het aftakelen. Onze gezondheid, hersenvolume, lengte en lichaamskracht zijn allemaal fors afgenomen. De beste olympische kampioen kan niet op tegen een mens van toen. Maar misschien heeft de natuur wel besloten om ons te vervangen door de volgende stap in de evolutie. We lijken maar al te ijvering om daar aan mee te werken. Alsof de mens al uitontwikkeld is. Wie zal het zeggen. Ik weet het ook niet. Maar vragen stellen lijkt me niet verkeerd. En we hebben niet veel tijd meer voor de antwoorden.

[Reactie gewijzigd door Elefant op 22 juli 2024 16:43]

[AmigaWolf]

Aha nu is het dus zij weten veel meer van AI dus zij weten wel het beste voor de rest van ons, nee sorry zulke stomme dingen doe ik niet, ik ga niet blindelings mensen geloven omdat zij slimmer zijn of meer weten, nee ik onderzoek zelf verder en kom dan pas met een conclusie.

Blindelings geloven wat andere zeggen is het stomste wat je kan doen.

[cmegens]

Leuk zo'n stelling, maar ook sterk afhankelijk van wat je experts noemt. Natuurlijk is Musk geen hoogleraar op het gebied van AI, maar wel een globale entrepeneur die in veel van zijn projecten al AI toepast. Kortom, Musk krijgt het voor elkaar AI op grote schaal toe te passen. Naar mijn mening ben je dan net zo goed een expert. Dat iemand uit het bedrijfsleven ook naar het grotere plaatje kijkt en de maatschappelijke relevantie van technologie duidt is vrij uniek, dus wellicht is Russell daardoor in de war. Maar Musk als een niet-expert wegzetten lijkt me behoorlijk naief.

[SuperDre]

Vergeet alleen niet dat bv een musk toegang heeft tot geheime projecten oa mbt ai, dus wat hij in laboratoria ziet wat anderen niet zien.

[j1b2c3]

https://youtu.be/304Lcn0nU3c
I.p.v. iets maken kun je beter vragen waarom we het uberhoud zouden Doen. Hoe veel films zijn er wel niet over dit onderwerp gemaakt ? En hoeveel liepen er goed af? Van Wargames tot i robot die laatste is een mooi voorbeeld . Regels dat robots mensen niet mogen schade toe brengen. Tot dat de code veranderd wordt . En mensen gevangen. Worden gezet omdat de AI denkt van mensen moeten beschermd worden van hun zelf ze doen zo veel domme dingen .., en de AI heeft nog gelijk ook.
Het zijn maar films maar het zijn waarschuwingen van wat de toekomst zou kunnen brengen.

[MSalters]

Een film moet natuurlijk wel een onderwerp hebben. Als je in 2 minuten buiten staat omdat robots niet besluiten de mensheid uit te roeien, dan voel je je natuurlijk bekocht.

Nee, Prof. Russell heeft gelijk dat je voor het beoordelen van AI realistische standaarden aan de dag moet leggen, en geen Hollywood-standaarden.

[bbob]

Wat is realistisch.
Hij wil de goede dingen van de mens eruit pikken en de slechte even vergeten.
Mooi streven maar dat roept de vraag op wat gebeurt er als het punt van zelfbewustzijn wordt bereikt en systemen zichzelf kunnen bouwen zonder hulp van de mens (voortplanting).
Zouden al die regeltjes ten bate van de mens er dan nog in zitten.
Het probleem zal pas beginnen met zelfbewustzijn, dat roept net als de groei en ontwikkeling van een baby tot volwassen een boel vragen op.

[govie]

Winston had anders mooi wel Kirsch vermoord, zo!

[Blue-eagle]

Als je waterstof lang genoeg alleen laat komen er vanzelf mensen uit voort.

En die mensen gaan vervolgens claimen dat, na miljoenen jaren van elkaar uitmoorden, er geen gevaar is aan door hunzelf gemaakte kunstmatige evolutie die zich in enkele weken sneller kan ontwikkelen dan de mens zelf. Want "dat is geen AI!"

Jullie oogklep-experts lopen vast op terminologie. Noem het "True AI" als je wilt. Is nog steeds AI. Het is net als de nucleaire bom een wapenwedloop tussen de VS, China, en Rusland. De eerste die een systeem weet te maken die zelf-replicerend en verbeterend is én tegelijkertijd andere landen kan ontwrichten, die wint de race.

Kijk naar de Amerikaanse verkiezingen. Een paar honderd Russen krijgen het zo te zien voor elkaar de president van de VS te kiezen. Stel je eens voor dat ze over 10 jaar zo ver zijn dat een "AI" systeem hetzelfde werk kan doen, maar dan met de kracht van duizenden gesimuleerde mensen.

Stel je eens voor dat die software zelf-replicerend is. Minieme willekeurige wijzigingen, miljarden per seconde, zonder beperkingen. Stel je eens voor dat die software ook zijn eigen hardware gaat willen upgraden. "Laten we hem toegang tot een 3D printer geven".

Hoe kan je niet inzien dat dit mogelijk gevaarlijk is? Waarom zou je daar expert voor moeten zijn?

[Blue-eagle]

De DNC heeft Sanders overgeslagen omdat hij in de primaries werd vernietigd. De man is de beste keuze, maar verkocht zichzelf totaal niet. Hij was slecht in het debat. De kiesmannen: klopt, maar de verkiezingen bij de burgers kiezen de het college van kiesmannen. Dus indirect kiezen ze de mensen die op hun beurt kiezen voor de president waar zij voor kiezen. En soms kiest de bevolking voor een andere president dan de kiesmannen.

Wat Rusland schijnbaar heeft gedaan is Hillary Clinton zwartmaken op zo'n manier dat Trump daardoor minder negatieve aandacht kreeg. Het hacken en uitlekken van haar e-mails was daar schijnbaar een voorbeeld van.

Het Ruslandverhaal is denk ik niet uit de duim gezogen, dat suggereert dat het grotendeels onwaar is. Ik denk dat de feiten nog enger zijn. Ik vermoed dat Trump of zijn naasten tijdens een reis in Rusland op video zijn vastgelegd bij misdragingen. Denk aan prostituees, mogelijk niet-volwassen, mogelijk niet vrouwelijk, mogelijk uit mensenhandel afkomstig. Dat zou verklaren waarom Trump zo Rusland-gek is en waarom hij de FBI zo tegenwerkt bij alle onderzoeken.

[Verwijderd]

In tegenstelling tot kernreactor splijtstof zal AI op een gegeven moment zo laagdrempelig worden dat iedereen er mee aan de slag kan gaan.

Ik denk dat het iemand ooit eens uit wrok een AI zal gaan maken die een 'instinct' heeft om bijvoorbeeld mensen te doden of infrastructuur te vernietigen en zichzelf probeert te beschermen, desnoods met geweld. Als zo'n AI ook nog eens het instinct krijgt om zichzelf te vermenigvuldigen dan zijn de rapen gaar.

Tevens kan het zijn dat de intelligentie van een AI zo hoog wordt dat het voor ons onvoorspelbaar wordt hoe het gedrag van zo'n wezen zich gaat ontwikkelen. Dit kan ook kwaadaardig (ten opzichte van ons dan) zijn.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:43]

[TaranQQ]

Daar ben ik dus ook bang voor, en dan zijn de rapen echt gaar! En in tegenstelling tot wat ik vaak hoor zeggen "dan trek je de stekker er toch uit", zo'n systeem heeft simpelweg geen uit knop meer daarvoor zijn we inmiddels veel te digitaal geworden ...

[j1b2c3]

Wie zegt dat ze dat niet al hebben? Wapen industrie loopt voor op . gebruiken al computers in drones en bommen ect zijn bezig met slime vliegtuigen zonder piloot . De auto industrie is bezig met slimme auto’s die zelf rijden een tesla kan het al ....
De vraag is willen we dat deze trend door gaat zetten .

[bbob]

Jaren terug denk 20 jaar geleden zag ik al een mooi voorbeeld.

Ging er over dat soort wezentjes als eerste een bal moesten veroveren. Diegene die won kon verder en zich doorontwikkelen.

Je zag hele snelle wezens, je zal er eentje met hele lange arm die de bal kon afschermen en jawel je zag er ook eentje die de ander vernietigde. die laatste was toen al een mooi voorbeeld hoe een systeem in onze ogen agressie vertoonde. Er waren natuurlijk geen regels je mag de ander niet doden. Het ging om evolutie waarbij de winnaar net als in de natuur overleefde en zichzelf kon voortplanten.

[Verwijderd]

Zolang je een situatie creëert van wederzijdse afhankelijkheid die niet doorbroken kan worden, zal een entiteit er niet op gericht zijn om kwaad te doen. Dat hoeft niet persé afschrikking te zijn, maar dat kan ook een wederzijds belang zijn.

In het geval van de globalisering nemen bijvoorbeeld wereldmachten financiële belangen in/op elkaars grondgebied. Concreet: China heeft veel tegoeden in de VS. Het is dan tegen het eigen belang in, die belangen / investeringen teniet te doen door een (handels) oorlog. Dat gebeurt door elke wereldmacht bij elkaar. Het uitbreken van een oorlog op grote schaal wordt daardoor minimaal. Vandaar ook die Topontmoetingen van de G7 / G20 en dergelijke.

Bij een robot zou dat de elektriciteitscentrales/opwekking kunnen zijn. Of winnen van grondstoffen. Zolang het proces van ontginnen van grondstoffen, transformeren daarvan en onderhouden (software en hardwarematig aanpassen ter voortbestaan) van robots nog niet geheel overgenomen kan worden door robots is er niets aan de hand. Zodra de robots dat technisch gezien wel zouden kunnen: beter ontwerpen en verbeteren van zichzelf en onderhouden en voortplanten (bouwen), dan heb je wel een probleem. Dan zijn mensen overbodig geworden voor 'hun' voortbestaan.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:43]

[Kain_niaK]

Russell doceert computerwetenschappen aan de Universiteit van California in Berkeley en is de auteur van het standaardwerk Artificial Intelligence: A Modern Approach, dat op veel universiteiten wordt gebruikt. Tijdens zijn presentatie op de Developers Summit positioneerde hij zich tegenover onder meer Stephen Hawking en Elon Musk, die in het verleden meer dan eens hebben gezegd dat kunstmatige intelligentie ons allemaal kan vernietigen of de aanleiding kan zijn voor een derde wereldoorlog

Geef mij maar John Sears. Er standaard vanuit gaan dat onze hersenen precies werken zoals een computer is het total verkeerde idee. We weten niet wat de relatie is tussen bewustzijn en intelligentie. Omdat we geen flauw idee hebben wat bewustzijn nu precies is weten we dus ook niet precies wat intelligentie is. Wanneer je gelooft dat jou hoofd eigenlijk gewoon een hele snelle computer is dan lijkt het probleem van een dom computer programma eenvoudig om op te lossen: bouw een snellere computer. Maar IS ons hoofd eigenlijk wel geen hele snelle computer? Is ons hoofd misschien helemaal geen "rekenaar"?

Volgens Russell is het goed mogelijk om kunstmatige intelligentie te ontwerpen die in toom gehouden kan worden en zich niet tegen zijn makers zal keren

Moet je wel eerst überhaupt een echte strong AI bouwen. Persoonlijk denk ik niet dat die zelf rijdende auto's van Tesla al aan het nadenken zijn. Ik denk niet dat die intern ondertussen al een hekel aan het opbouwen zijn voor hun bestuurders maar misschien heb ik het fout.

Daarbij baseert hij zich op zijn concept van 'provably beneficial ai', een kunstmatige intelligentie die op bewijsbare wijze ten goede komt aan de mens. Dat bewijs moet voortvloeien uit wiskundige stellingen, oftewel theorems.

Ik heb al AI die ten goede komt aan de mens. Mijn google maps wanneer ik verloren loop. Er is echter geen robot waar mee ik een praatje kan doen alsof het een mens was. Of een website met een chat prompt. Bouw dat nu eerst maar eens, Oh nee kan niet, te moeilijk. Euh bouw dan maar een goed schaak programma. Of een goed go programma.

Stel dat een robot alleen de concrete opdracht krijgt om koffie te zetten, dan zal hij een aanleiding hebben om zijn uit-schakelaar onklaar te maken

Nee, die moet je me uitleggen. Daar zitten namelijk nog al een gigantisch aantal stapjes tussen. Er is absoluut niks dat in de buurt komt van een robot die wanneer je hem zou vertellen om koffie te maken dat ie dan gaat nadenken en tot het besluit komt dat hij wil leven en dan over zijn aan uit schakelaar gaat denken. Een robot die koffie maakt is perfect mogelijk. Aan gestuurd met menselijke stem, ook perfect mogelijk. Deze robot kan waarschijnlijk ook nog wel wat andere taken. Kan in principe zelfs rondlopen or rijden. Maar aan filosofie gaan doen is een hele grote stap voor een robot. Laat ie nu eerst maar eens in een niet lichamelijk omhulsel via een computer interface een gewoon normaal gesprek met een mens hebben.

Zoiets:

Wat is jouw naam?

Ik ben Robot.

Welke dag is het vandaag?

Zaterdag.

Welke naam had je de dag voor Zaterdag?

Vrijdag was ik ook Robot.


Bonus vraag:

Als je Zondag konijn heet was is dan het probleem?

Een naam heeft de functie om mij te kunnen roepen, als mijn naam elke dag veranderd dan kan mijn naam niet functioneren als een naam.


Super Bonus vraag:

Wil je liever leven of dood en waarom precies?

Euh mag ik misschien coffee voor je maken ipv deze vragen te beantwoorden die zelfs mensen soms niet kunnen beantwoorden. Ik ben maar een robot.


Misschien kunnen alle slimme Tweakers gewoon een AI bouwen die nu eens gewoon dood normaal een gesprekje met mij kan voeren zonder dat ik het gevoel heb dat ik in de maling word genomen door een dood stukje software. Daarna gaan we ons zorgen maken over het al dan niet uitgeroeid worden door software. Deal?

[Reactie gewijzigd door Kain_niaK op 22 juli 2024 16:43]

[graey]

Je hele conversatie-probleem snap ik niet zo goed als 'maatstaf' voor goede AI. Daarnaast bouw je geen AI die goed met je kan praten, je bouwt AI die goed kan leren praten, net als wij dat doen. En ik heb wel eens gesprekken met mensen gevoerd die slechter geformuleerd waren dan wat AI mij soms geeft.
Verder: een goede schaak- of go-AI, waarom telt dat pas na de perfecte conversatiebot? Schaak en zeker Go zijn zeer complexe systemen waar je geen simpel algoritme op kan loslaten, dat moet je echt leren spelen, in het geval van Go des te meer omdat het aantal zetten dat mogelijk is zo groot is dat je er geen database van zetten en tegenzetten op kan loslaten. Dat de bot dan vervolgens niet in vloeiende mensentaal kan uitleggen waarom het met tactiek X gewonnen heeft van de regerend wereldkampioen, zegt volgens mij niks over of het wel of niet een functionerende vorm van AI is.

[Kain_niaK]

En ik heb wel eens gesprekken met mensen gevoerd die slechter geformuleerd waren dan wat AI mij soms geeft.

Juist want spelling en gramatica dat bepaald natuurllijk hoe slim iets is. Dus Kain_Niak is stommer dan zijn firefox spellingcontrole. Als je AI zo slim is mag ik die misschien even aan de lijn dan, die kan vast beter uitleggen waarom ie zo slim is dan jij.

Hoe weet je momenteel dat je met een mens aan het tweakers posten bent en niet een stuk software? Hoe zou je dat kunnen weten? Doe eens een gokje. Waar let je dan op? Mensen makken een stuk makkelijker spelldings fouten dan software hey dat zit hem in de software.

Een AI dat gaan go spelen heeft geen robot nodig. Een coffee robot wel. Voor software zonder lichaam hoef je niet bang voor te zijn dat het de wereld gaat overnemen, kun je altijd de interface met de rest van de wereld kapot maken dan de sofware niks tegen doen.

Voor een robot die per ongeluk de coffee pot kapot slaat op je hoofd dat is een reel iets dat mis kan gaan. En als je die robot wil vertellen dat die coffee moet maken of dat ie moet stoppen om je op je hoofd te slaan daar moet hij toch wel eerst voor kunnen praten. Die Go AI kan ook helemaal niet praten. Wij mensen leren als babies eerst taal. Zonder taal kun je weinig leren. Taal, daar gaat het in de strong AI echt over. Taal is een instrument dat ik kan gebruiken om mijn gedachte over te brengen naar jou gedachten. De layer na taal is dus je gedachten. Maar taal hebben we nog niet gekraakt. Laat staan denken.

Er is geen AI die taal kan gebruiken als een instrument om gedachte te communiceren want dat is wat taal is. Babies kunnen taal leren zonder dat iemand hun taal leert, gewoon door dat er mensen aan het praten en mens aan het zijn zijn. Ja okay mijn zinnen klinken allemaal heel erg stop momenteel. Maar ik probeer een punthoofd te maken, Misschien een beetje een raar punt maar toch wel een punt. Jij snapt namelijk nog altijd wel enigs sinds wat ik probeer te zeggen. Ik ben mijn gedachte aan het communiceren en ik gebruik niet eens gesproken taal en jij ook niet. We gebruiken modern schrift. Via een computer. Maar die computer die denkt zelf niet na. Die rekent. En rekenen en denken, sommige mensen denken dat dat hetzelfde is maar niemand heeft het nog kunnen bewijzen door het uit te rekenenen ....

Nu ja ik ga maar slapen.

Dat de bot dan vervolgens niet in vloeiende mensentaal kan uitleggen waarom het met tactiek X gewonnen heeft van de regerend wereldkampioen, zegt volgens mij niks over of het wel of niet een functionerende vorm van AI is.

Die AI kan überhaupt absoluut niks met het woord waarom + vraagtegen. Dat woord betekend niks. Die AI heeft geen gedachten. Die rekent. Die volgt een algoritme dat via neural networking is geevolueerd. Nu ja dat is het verkeerd woord.

Wat Google aan het doen is, is nog steeds totaal in de verkeerde richting. Iedereen gaat er nog steeds gewoon van uit dat onze hersensein gewoon computers zijn met software die we nog niet begrijpen maar dat moeten we nu eens uit ons hoofd zetten. We weten te veel van computers en te weinig van hersenen en zolang we dat niet eerlijk toe geven maak je alleen maar Aritifical Idiot. Het zal een mens zijn die de lanceer knop van een atoom bom aan een stukje slimme software koppelt. Geen coffe robot die zo goed kan roboten dat die je computer overtuigd om in opstand tegen mensen te komen. Daar moeten we schrik van hebben. Van die grote kernboem. Mensen zijn stommer aan het worden, AI niet slimmer.

[Reactie gewijzigd door Kain_niaK op 22 juli 2024 16:43]

[graey]

Formulering is meer dan spelling/grammatica. Daarnaast kan je wel zeggen dat een robot zonder lichaam geen gevaar vormt, maar op het moment dat de halve infrastructuur niet meer werkt piep je wel anders, en de halve moderne maatschappij draait op deels via een op het net aangesloten systeem. En ook al is het een mens die het verkeerde systeem aan het verkeerde systeem koppelt, het is het systeem dat het vervolgens de fatale fout maakt. En dat is het vervolgprobleem.

[Verwijderd]

We weten niet wat de relatie is tussen bewustzijn en intelligentie.

Modellen beschrijven uit welk bewustzijn intelligentie bestaat (IPMP-C): Collectieve Intelligentie (CQ) bestaat uit de triangel van denken (IQ), voelen (EQ) en handelen (SQ).

Maar IS ons hoofd eigenlijk wel geen hele snelle computer?

Ons hoofd (met bewustzijn) is een ander systeem dan computers welke louter super(ficieel)gerust waarnemend zijn. De sensoren werken anders zelfs al zou er sprake zijn van 'Brain in a Vat'.

Is ons hoofd misschien helemaal geen "rekenaar"?

Jouw concept over 'rekenaar' stamt uit het linguïstische aspect van een documentaire over de Alan Turing waarbij het woord 'computer' afstamt van mensen (die als collectief) aan rekenen deden, hence 'computers'. Meer kennis is meer macht voor mensen (als je tot assembler code niveau wilt gaan lees maar eens Psycho-Cybernetics) maar voor intelligente computers is gegevens niets positiefs (meer data gaat in tegen de wet van de minste weerstand). Dus de wet behoud van energie, wat niet opgaat bij een "computer" zoals de 'generaties na de baby boomers' die kennen.

Moet je wel eerst überhaupt een echte strong AI bouwen. Persoonlijk denk ik niet dat die zelf rijdende auto's van Tesla al aan het nadenken zijn. Ik denk niet dat die intern ondertussen al een hekel aan het opbouwen zijn voor hun bestuurders maar misschien heb ik het fout.

Mompelt: "Self-Crashing Rats" en de collectieve blinde vlek van Cryogeniks (met taboe op meer debat terwijl dat een meerkeuzeoptie zou mogen zijn tezamen met orgenendonatie). Dus: voldoende andere prioriteiten.

Ik heb al AI die ten goede komt aan de mens. Mijn google maps wanneer ik verloren loop. Er is echter geen robot waar mee ik een praatje kan doen alsof het een mens was.

Een AI is in feite het acroniem niet waardig als het niet voldoet aan het zelf kunnen bijleren van wiskunde. Sterke AI filosofeert mee over 'vrije wil' o.b.v. zo'n regels, waarentegen zwakke AI gewoon een statische filosofie volgt. Je raad dus al uit welke van de twee het kopie maken van koffie is (vooral AI marketing).

Die moet je me uitleggen. Daar zitten namelijk nog al een gigantisch aantal stapjes tussen. Er is absoluut niks dat in de buurt komt van een robot die wanneer je hem zou vertellen om koffie te maken dat ie dan gaat nadenken en tot het besluit komt dat hij wil leven en dan over zijn aan uit schakelaar gaat denken.

offtopic:
AI zou op basis van (niet-nep bevonden peer-reviewed) literatuur aan kennisdelen doen: koffie leidt niet tot betere leerprestaties en heeft zelfs negatieve impact als je eenmaal verslaafd werd (UvN: 'Wat moet je de dag voor je tentamen doen behalve leren'). Impact: Positieve AI zou zelf-verlaging ongedaan maken en streven je (impliciet het collectieve) bewustzijnsniveau te verhogen. AI of geen AI: uitschakeling kan eraan bijdragen. Kortom, het hoogste doel op groepsniveau (Lord=Law) is intentie om te leren!

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:43]

[graey]

Allemaal leuk en aardig, maar het punt is dus uiteindelijk niet hoe je goede AI kán maken, want dat zal ongetwijfeld kunnen, maar dat het maken van AI die zich aan de 'goede' voorkeuren van de mens ook makkelijk aan te passen is door 'goed' anders te definiëren. En daarvoor heb je echt geen enorme supergroep aan theoretici nodig. En zelfs als je die nodig hebt, rond het einde van de 2e wereldoorlog hadden meerdere partijen ook (bijna) een atoombom, dus het nodige talent bij elkaar schrapen om dit uit 'noodzaak' toch voor elkaar te krijgen is niet onmogelijk.

[Kain_niaK]

Iets laten ontploffen of bijvoorbeeld de tweede levensvorm creëren die intelligent is naast de mens in het universum (zo ver wij weten) is natuurlijk bijna helemaal hetzelfde.

Er is ook een ongelooflijke noodzaak naar betere intelligentie want je leest gigantische onzin tegenwoordig. Dus die noodzaak zal zorgen voor twee dingen: Of we zeggen gewoon tegen elkaar: Nee het is geen onzin, Kain_niak is de idioot. Of die noodzaak zal er voor zorgen dat we iets maken dat echt slim is en hele erge slimme tweakers post maakt.

maar het punt is dus uiteindelijk niet hoe je goede AI kán maken, want dat zal ongetwijfeld kunnen

Nee, dat weten we dus echt gewoon niet. We weten niet of we als mensen wezens zijn die in zichzelf het potentie hebben om zichzelf zo diep de begrijpen dat ze niet alleen andere denken wezens kunnen maken maar ook nog eens wezens die nog grotere potentie hebben dan mensen.

Om terug te gaan naar die atoombom. Einstein heeft een brief ondertekend die naar de Amerikaanse president is gestuurd. Die brief was het begin van project Manhattan. Einstein zei later: Als ik had gewist dat de Nazi's nooit op tijd een atoom bom hadden kunnen maken dan zou ik die brief nooit ondertekend hebben.

Om het op zijn Kain_niak's te zeggen. Onze westerse vrede komt van onze angst voor onze eigen wapens. Hoe maak je software bang? Is dat gewoon een regel code die je er bij een mens ook gewoon uit kunt schrijven?

Nee echt serieus, iedereen hier kan wel denken wat een idioot is die Kain_niak maar we hebben nu eens van 20 jaar denken van: Ah ja hersenen rekenen gewoon alles uit. Maar dat is gewoon niet zo. Maak een direct brein - computer interface. Dan kunnen we misschien beginnen met echt uit te vogelen hoe onze hersenen werken en wat bewustzijn is. Als we ons daar niet op richten gaan we nooit die robot of AI krijgen uit de scifi. Niet de slechte niet de goede. Helemaal niks. Alleen de fake. De AI die gewoon tegen je zegt: Ja ik ben slim en dat de zaak dan af is voor je. Zeg maar een soort van leugen. Zoals alles in deze wereld tegen je liegt.

[bbob]

Kijk eens naar ontwikkelingen de laatste 5000, 2500, 1000, 500 jaar, 250 jaar 100 jaar 50 jaar 25 jaar 10 jaar 5 jaar.
Het enige dat is zie is een gigantische stroomversnelling van ontwikkelingen op vele gebieden. Op sommige staan we stil maar op vele anderen gaat het steeds sneller. We ontwikkelen nieuwe grondstoffen, we kunnen kunstbenen en armen steeds beter aansturen door hersensignalen te kunnen omzetten.

Op biotech gebied staat we aan het gebied maar steeds meer zaken zijn mogelijk die we 50 jaar terug al onmogelijk zagen.

AI zal we dat nu kennen staat pas aan het begin maar gezien de snelheid van ontwikkeling zal het heel snel gaan, te snel ? Denk niet dat we weten wat er uit gaat komen maar ik geloof wel dat ai ons zal overtreffen en ons als mens overbodig zal maken.

Moore heeft zijn wetje cpu /kracht snelheid verdubbeld ieder x maanden. Verdubbeling is een natuurlijk chaos model, verdubbeling, verdubbeling tot het punt van chaos waar er geen verdubbeling meer is.

Zet dat model van verdubbeling nu eens op ons als mensheid en kijk naar begin van de post 5000 jaar gelden, 1000 jaar geleden 100 jaar geleden en de ontwikkelingen. We zitten nu als mensheid in een stroomversnelling waar dingen steeds sneller gaan.Ai met zelfbewustzijn zou wel eens het punt van chaos kunnen worden, einde van de mensheid, die dat zelf veroorzaakt heeft.

[Liberteque]

Nou moe.. je vat het hele artikel gewoon samen in een paar zinnen

[RevXTND]

Of we "good A.I." in toom kunnen houden is niet de enige kern van de zaak helaas. Over X jaar heb je niet meer dan een klein team en een paar goede laptops nodig om "Evil A.I." te ontwikkelen. En dat is wat Dr. Evil (of Dictator Evil die issues heeft met een ander land) gaat proberen natuurlijk.

Waarom dit een "existential threat" level gevaar voor de maatschappij wordt/is? Omdat het veeeeeel makkelijker te creëeren wordt dan atoomwapens, en daarvan willen een stuk meer dr. Evils er 1 van hebben voor hun snode plannen dan dat er zijn. Evil A.I. staat op de nominatie om de makkelijk produceerbare en inzetbare variant van atoombommen te worden. En juist deze variant van A.I. zal minder ethische restricties hebben, met als gevolg dat het veel makkelijker zal evolueren en escaleren.

#genoegdoemdenkentijdvoorkoffie

[Overlord2305]

Of we "good A.I." in toom kunnen houden is niet de enige kern van de zaak helaas. Over X jaar heb je niet meer dan een klein team en een paar goede laptops nodig om "Evil A.I." te ontwikkelen. En dat is wat Dr. Evil (of Dictator Evil die issues heeft met een ander land) gaat proberen natuurlijk.

Waarom dit een "existential threat" level gevaar voor de maatschappij wordt/is? Omdat het veeeeeel makkelijker te creëeren wordt dan atoomwapens, en daarvan willen een stuk meer dr. Evils er 1 van hebben voor hun snode plannen dan dat er zijn. Evil A.I. staat op de nominatie om de makkelijk produceerbare en inzetbare variant van atoombommen te worden. En juist deze variant van A.I. zal minder ethische restricties hebben, met als gevolg dat het veel makkelijker zal evolueren en escaleren.

#genoegdoemdenkentijdvoorkoffie

Je geeft in je stelling ook meteen al een reden waarom er zeer waarschijnlijk niks ergs gaat gebeuren. Immers als het op den duur zo makkelijk wordt dat een groepje studenten een fully fledged evil A.I. kan maken dan houdt dit logischer wijs ook in dat een groepje studenten een twee drie een tegen hangende fully fledged good A.I. kan maken. Ook denk ik dat de 'kracht' van bedrijven en overheden op dit gebied gewoon mee groeit. Zie het als een DDOS aanval van een enkele student tegen over een commerciële/professionele stresser met enkele duizenden computers

[RevXTND]

Ik zou willen dat ik het met je eens was
Een groot goed / gevaar van AI is het zelflerende en zichzelf aanpassende (=zelf nieuwe code schrijven) karakter. Aanvallen worden hierdoor ontelbare keren schadelijker en langduriger.

Vergelijken met DDos is (in Jip&Janneke) als conventionele oorlog vs. Nuclear attack, imho. Er hoeft er maar 1 raak te zijn om een mondiale ramp te creëren. En ik gok, dat als nucleaire wapens even makkelijk produceerbaar zouden zijn alsdat AI dat gaat worden, dat onze maatschappij allang einde oefening zou zijn.

Als 10.000 partijen nukes zouden hebben, is er altijd wel 1 die op de knop drukt

[Verwijderd]

Boston Dynamics.
De deuren openmaker in een eerder stadium en de stenenloper van Boston Dynamics.
De nieuwe spotmini die deuren opent

Punt is dat we alles kunnen maken zoals:Fedor.

Ach. Alles is al bedacht. Anders wordt het wel mogelijk gemaakt.
Die algemene waarden tov de mensheid is meer zoals de Isaac Asimovs' Drie wetten der robotica. Die uiteindelijk ook feilbaar zijn. Zelfs als je ze aanvult.

[Kain_niaK]

Die wetten zijn fictie. Net als strong AI. Bestaan alleen in verhaaltjes en films. Net als killer robots. We maken ons druk om de verkeerde dingen. Killer robots bestuurd door mensen ja. Die komen er. Sentries die op alles schieten dat beweegt dat geen "vriend" code uit zend. Allemaal mogelijk. Maar robots die denken: Hmmm ik moet coffee maken, oh nee ik moet voorkomen dat ze mijn aan uit schakelaar op uit zetten.

Nee, die zijn nog niet mogelijk. We weten niet of dat überhaupt mogelijk is om een denkende machine te maken die geen mens is. We weten niet genoeg over wat denken nu is. Het brein moeten we beter gaan bestuderen. Niet: We moeten van de drie wettten van de robotica maar 4 vaken zodat de slimme broodroosters in niet in opstand komen en samen met coffee zettende robots de planeet proberen over te nemen.

[Reactie gewijzigd door Kain_niaK op 22 juli 2024 16:43]

[Ero-Sensei]

Waarom moeten we het zo onwaarschijnlijk vinden dat de AI/robot de taak van mensen gaat overnemen. Waarom zou het niet het 'volgende intelligentste ras' kunnen zijn?

Wanneer robots normaal tussen mensen zouden leven, dan weet je dat er een geluid gaat komen van groeperingen voor gelijke rechten tussen robots en mensen. 'Mensen moeten niet de zeggenschap hebben op het "leven" van robots'.

Ik bedoel, kijk naar de man/vrouw verhouding, de homorechten (gelukkig maar overigens). De geschiedenis blijft zich herhalen. Tegenwoordig willen "we" genderneutrale toiletten en geen 'meneer' en 'mevrouw' meer genoemd worden, maar gewoon 'mens'.

Ik zou niet weten wat robots uit gaat sluiten van deze grote rode lijn.

[Mit-46]

Een simpel verschil met wat jij noemt als voorbeelden is dat het geen levensvorm is.

Gezien dat feit lijkt het mij dat het (gebruikers)objecten blijven zoals bijvoorbeeld een computer of auto.

Nu kan ik niet in de toekomst kijken en alle dingen kunnen veranderen natuurlijk.

[Reactie gewijzigd door Mit-46 op 22 juli 2024 16:43]

[T2000Nl]

Tja, als je kijkt naar de grafiek van Jeremy Howard waarin de ontwikkeling van de menselijke intelligentie van de mens en computer wordt weergegeven (https://www.vpro.nl/.imag...:content/Howard-Graph.png), dan zakt mij de moed toch in de schoenen. Hoe er mensen zijn die nog steeds beweren dat wij een (binnenkort) zo superieur intellect kunnen beteugelen is mij een raadsel.

[fastbikkel]

Die grafiek ziet eruit alsof deze even met t handje is gemaakt. Al zou hij best kunnen kloppen, ik mis context.

[smallblock]

Alle maatregelen en regelgeving ten spijt: De wet van Murphy blijft van toepassing.