Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Garry Kasparov: intelligente machines zullen ons verrijken, niet vervangen

De Russische schaakgrootmeester Garry Kasparov vindt dat we niet bang hoeven te zijn voor een toekomst waarin kunstmatige intelligentie ons gaat vervangen. Hij moet weinig hebben van de apocalyptische denkbeelden en denkt dat we juist veel van ai zullen leren.

Kasparov, schaakgrootmeester en uitgesproken tegenstander van de Russische president Poetin, zet in een opiniestuk in de WSJ uiteen dat technologie de mensheid door de eeuwen heen voortdurend heeft geholpen. Hij denkt dat artificiŽle intelligentie dat proces voortzet door veel cognitieve taken over te nemen die geen menselijk oordeel of creativiteit vergen. Mensen zullen daarbij worden gepromoveerd tot managers die deze taken overzien, waarbij er volgens Kasparov geen sprake is van ai die ons uitroeit en vervangt. Kasparov stelt dat we nog ver verwijderd zijn van het maken van machines die voor zichzelf kunnen denken en zelfbewust zijn.

Hij stelt dat de term 'artificiŽle intelligentie' niet voldoet, mede omdat het angsten in stand houdt doordat het klinkt als een rivaal van de mensheid. De schaakgrootmeester vindt augmented intelligence een betere term, omdat we juist slimmer worden van intelligente machines. Daarbij verwijst hij naar het voorbeeld van AlphaZero, een DeepMind-algoritme dat zonder enige voorkennis al binnen enkele uren op topniveau kon schaken. Kasparov vindt dit een voorbeeld van het genereren van nieuwe kennis: kunstmatige intelligentie creŽert zijn eigen richtlijnen uit het niets, om vervolgens patronen te ontdekken die tot dan toe onzichtbaar waren voor de mens.

Kasparov noemt de doembeelden over ai die de mensheid zal vernietigen, 'absurd'. Volgens hem is intelligentie niet hetzelfde als vrije wil en killer instinct. Technologie is volgens hem de reden dat de meesten van ons in leven zijn. Ons zorgen maken over 'geweldige robots' is volgens hem hetzelfde als weigeren in een lift te stappen zonder een operator. De schaker vindt dat we ons wel zorgen moeten maken over hoe mensen nieuwe technologie kunnen misbruiken, omdat mensen nog steeds 'een monopolie hebben op de capaciteit voor kwaadaardigheid'.

In 1997 wist Deep Blue, een supercomputer die door IBM was gebouwd, Garry Kasparov te verslaan met een score van 3,5 tegen 2,5, nadat de schaakcomputer twee jaar eerder nog eenvoudig werd verslagen door de grootmeester. Dit noemt hij nu een overwinning voor de menselijke makers van de machine, niet een triomf van een machine die een mens heeft verslagen.

In het debat over ai zijn er grofweg twee verschillende visies. Mensen als Kasparov, Mark Zuckerberg van Facebook en de Britse hoogleraar Mark Bishop zijn van mening dat er weinig of geen gevaar in ai schuilt en dat het ons juist kan helpen. Daarentegen hebben bijvoorbeeld Elon Musk en wijlen Stephen Hawking eerder juist hun zorgen geuit. Volgens hen kan kunstmatige intelligentie ons in de toekomst wel degelijk vernietigen, zeker als de ontwikkeling ervan zonder al teveel controle kan plaatsvinden.

Door

Nieuwsredacteur

116 Linkedin Google+

Reacties (116)

Wijzig sortering
Een paar mensen zullen zich zeker verrijken ja. Maar de rest?
AI zoals dat op dit moment bestaat, is niets meer dan een simulatie van bewustzijn (intelligence). Al die angst voor AI vind ik om die reden overdreven, en vooral voorbarig :D
Als een lading waterstofatomen zelfbewust kon worden (evolutie -> mens) vind ik het niet zo raar om te bedenken dat als deze slimme waterstofatomen (de mens dus) een computer weten te bouwen welke een evolutie van miljarden jaren kan doormaken in de tijdspanne van een paar seconden. Men neme: een quantum computer anno 2040, men voegt daar enkel ongestuurde complete willekeur aan toe, en presto! Je hebt een machine met het denkvermogen wat de hele mensheid onder de voet kan lopen.

"We kunnen ze beperken" - dat zeggen mensen die nog denken dat wij iets te vertellen zullen hebben. Wij zijn al goed met sluiproutes vinden langs allerlei regelgeving (kijk eens naar slimme advocaten, regels genoeg die zij aan hun laars weten te lappen). Denk je niet dat een computer met het denkvermogen van 500 miljard Einsteins een slimme uitweg weet te bedenken?
Al die angst voor AI vind ik om die reden overdreven, en vooral voorbarig
Dat is zoiets als een diagnose van kanker krijgen. Je bent in een enorm vroeg stadium. Het is volledig te genezen. Maar jij zou besluiten lekker 2 maanden op vakantie te gaan, want "al die angst voor kanker vind ik voorbarig :D "

Ik kan mij er zo aan irriteren dat mensen de huidige stand van AI (of zelfs die van de komende 10 jaar) gebruiken om "aan te tonen" dat AI helemaal niet eng is. Echt, te idioot voor woorden. Je kan toch zien waar het naartoe gaat? Je kan toch zien dat overheden zoals China en Rusland ongetwijfeld al bezig zijn om een supercomputer op te zetten waarin software kan evolueren? Het is een kwestie van tijd en hopelijk beperkt door resources.
1000% mee eens. Zoals zo vaak aangetoond, zijn mensen onzettend slecht in het begrijpen van exponentiele vooruitgang.

Mensen denken en voorspellen lineair. Beetje bij beetje wordt AI wat slimmer en misschien in een volgend leven zo slim als ons, en dan gaan ze ons helpen. NEE. Op een dag is het er ineens, en dan versnelt het in slechts minuten tijd.

Wat doet een intelligentie die een miljoen keer hoger is dan die van ons? Geen idee, maar ik maak de vergelijking tussen een mens en een mier. Je erkent van een mier amper zijn bestaan, het is nietig, en compleet niet relevant. Kijk hoe in de natuurlijke voedselketen intelligentie bepalend is, en alles onder het niveau massaal gebruikt wordt als "bron". Er is geen sprake van een vreedzame samenwerking. Je bent ofwel compleet irrelevant, ofwel nuttig...om op te eten.

Zo zal een super AI ook over de mens denken, en aangezien de mens alle bronnen op aarde verbruikt en verpest, is het een primair belang om aan die veelvraten een einde te maken. Ieder wezen wat ooit op deze wereld heeft geleegd heeft als eerste doel het voortbestaan veilig stellen van de eigen soort. Wat een sprookje om te geloven dat dat nu niet zo is.

Een interessante zijstraat is dat de mens bionisch wordt: half mens, half uitbreiding in de vorm van upgrades. Ook dat kan slechts van tijdelijke aard zijn omdat het menselijk lichaam eigenlijk bijzonder zwak en waardeloos is.

Iets dichter bij huis, en dichter op de timeline: de zorgen omtrent werkeloosheid. Ook hier weer rasoptimisten dat we wel even nieuwe banen uitvinden, zoals altijd. Of dat dit een geleidelijk proces is. NEE, ook hier gaan enorme schokken komen. Als je in een supermarkt werkt, gaat niet ieder jaar 5% van de medewerkers er uit. Op een dag zal er ineens een geslaagd concept zijn, en gaat massaal 80% er uit.

Dit lijkt allemaal zwartkijken, maar het zijn terechte zorgen, waar we nu iets op moeten bedenken, niet als het te laat is en we elkaar de koppen inslaan voor een stuk brood.
Ik zeg niet dat je angstbeelden geen werkelijkheid kunnen worden, maar het is slechts ťťn van de weinige mogelijke uitkomsten.

Ik zie echte AI nog altijd meer in de ouder-kind relatie. In de zin dat een AI zich bewust zal zijn van zijn 'schepper' en hier een bepaalde vorm van respect voor zal hebben. En dat hij die normen en waarden ook meekrijgt. En dan krijg je weer de discussie dat mensen van nature de neiging hebben tot slecht zijn enzo, maar daar geloof ik niet in. En daarbij, juist die 'natuurlijke' basishouding kun je een AI natuurlijk bijbrengen. Neemt niet weg dat daarin serieuze alertheid nodig is. Maar alleen doemdenken over een ontwikkeling die toch onmogelijk te stoppen is, geeft ook niet het gewenste resultaat.

En dan dichter op de Timeline. Daar zitten wel mijn directe zorgen. Want je hebt gelijk, we vinden geen nieuwe banen uit op het tempo waarin ze gaan verdwijnen. Dat is echt uitgesloten. Toch zijn alle mechanismen in onze maatschappij daar nog wel op gericht, met als voorbeeld ons systeem van uitkeringen welke helemaal gericht is op tijdelijke financiele ondersteuning terwijl we al decennia lang weten dat meer dan 50% van ons uitkeringenbestand daar blijvend gebruik van zal maken. En dat percentage zal met de komst van verdere AI explosief stijgen, om nog maar te zwijgen van de stijging in absolute aantallen mensen zonder werk.

Dat los je niet meer op met uitkeringen, daarvoor moet je je maatschappij vanaf de grond opnieuw op inrichten. En daar moet je NU mee beginnen. Helaas is er niet ťťn politieke partij die daar ook maar een zinsnede aan besteedt in hun programma's.
"Ik zie echte AI nog altijd meer in de ouder-kind relatie"

Dat vind ik een onbegrijpelijke vergelijking aangezien geen enkel kind een miljoen keer intelligenter is dan zijn ouders. Respect is geen natuurverschijnsel, het is een menselijk verzinsel, waarin we ook nog eens zelf slecht zijn.

Door je menselijkheid en gewenning om bovenaan de voedselketen te staan, is je beeld vertroebeld. Moraliteit komt in de natuur niet voor, en de wereld staat niet in het teken van wezens die laag in de voedselketen staan.

"En daarbij, juist die 'natuurlijke' basishouding kun je een AI natuurlijk bijbrengen."

Nee, dat kan dus niet. Het is hetzelfde als zeggen dat een bacterie ons kan controleren. Zo zou de nieuwe verhouding liggen tussen een super AI en een mens.

In het tweede deel van je comment kan ik me helemaal vinden. Ik vind het een kans om juist een schitterende wereld neer te zetten. Eentje waarbij vervelend werk is weggeautomatiseerd en mensen zich vrijelijk kunnen richten op menselijke dingen: kunst, sport, met andere mensen sociaal zijn, wetenschap, de mogelijkheden zijn onbegrenst. Inclusief luieren, ook dat is een geldige tijdsbesteding, maar die zal mensen snel vervelen.

Maar helaas denk ik dat het eerder veel slechter gaat worden voordat het beter wordt. Dankzij techniek zouden we juist steeds minder moeten werken, maar die trend vind in zijn geheel niet plaats. Niemand denkt ook na over alternatieve belastingsystemen. Het motto is en blijft zoveel mogelijk werken, maakt niet uit welk werk, en groei groei groei.

Blijkbaar moeten we eerst 40% werkeloosheid hebben en terreur in de straten hebben voordat iemand een keer bedenkt dat het anders moet. Dat terwijl je het ziet aankomen.
Ik snap nooit zo goed waarom we een superintelligentie als dom beschouwen. Wij mensen hebben in tegenstelling tot de meeste andere dieren de mogelijkheden om gevolgen van acties te overzien en komen bijvoorbeeld daarom op voor het belang van dieren. Net als wij nu kunnen bedenken dat mensen uitroeien niet de oplossing is, kan een AI dat ook. Een AI kan zien hoeveel een mensenleven waard is voor een mens.

Zo'n superintelligentie zal iig enorm goed in staat zijn om gevolgen te overzien. Stel een AI krijgt het commando om iemand te vermoorden. Dat zal de AI niet doen omdat deze alle randeffecten kan beredeneren tot nog ver voorbij de politie agent die over moet werken en daardoor niet bij de bevalling van zijn kind zijn.

Een AI zal alle informatie over de hele wereld kunnen beschouwen van de scheldkannonades op twitter tot filosifie, religie en ook de wetten die wij als mensen bedacht hebben. De vraag is wat voor conlusies gaat zo'n AI trekken, misschien wel dat hij zich ook aan die wet moet houden en mede moet vormgeven? Misschien wordt een AI wel politiek actief om op die manier de wereld te verbeteren.

Over werk, we gaan straks amper werken en dat is ook niet nodig. Er staat bij wijze van spreke gewoon een machine in je achtertuin die het product leven produceert, het basisinkomen wordt realiteit. De mens kan gaan recreŽren, socialiseren, onderzoeken etc.

Het grootste probleem is een gebrek aan ruimte en aan grondstoffen. Gelukkig hebben we nog een heel heelal tot onze beschikking en kunnen we nog even vooruit. Ik denk ook dat een AI zich vooral daar op zal richten, de ruimte in. Daar ligt de uitdaging en de oplossing.
"Wij mensen hebben in tegenstelling tot de meeste andere dieren de mogelijkheden om gevolgen van acties te overzien en komen bijvoorbeeld daarom op voor het belang van dieren. "

Wat een slechte grap. Dankzij de mens is 80% van de dierenpopulatie uitgeroeid. Dagelijks sterven tientallen soorten uit. Vrijwel ieder stukje habitat is verwoest, uitgebuit, versplinterd. De zee is voor 50% leeggevist in slechts 40 fucking jaar.

De mens komt voor niemands belang op, zelfs niet voor het belang van de mensheid zelf.
Menselijk denken heeft duidelijk tekortkomingen, maar wat maakt hun denken 'lineair'? Wat zou een definitie van lineair denken zijn?

En een menselijk lichaam waardeloos? Vergeet niet dat DARPA en vele andere partijen grof geld stekenin menselijke en dierlijke motoriek te kunnen benaderen in robots.
Lineair denken: Van A naar B denken en de lijn niet kunnen doortrekken naar meerdere verschillende vormen van "Z".

Zoals: "De computer van tegenwoordig komt nog niet in de buurt van het menselijke brein."

Dat klopt. Het is namelijk niet te vergelijken. Nog niet. Quantum computing komt eraan. Dan nog steeds niet. Maar een quantum computer die simpelweg waterstofatomen gaat simuleren zal miljarden jaren aan evolutie kunnen simuleren waarna je vanzelf levende wezens krijgt. Praktijkvoorbeeld: zie spiegel. Alleen is die computer niet beperkt door iets vervelends als "tijd" zoals wij dat ervaren.

Of: "AI is helemaal niet eng want dat is het nu ook niet."

Dat klopt ook. AI van tegenwoordig is hooguit een soort van slimme kansberekening en sortering van mogelijkheden. Vergelijk wat wij nu kennen als "AI" met een paard & wagen. En vergelijk de toekomstige AI met iets als een SpaceX raket. Allebei voertuigen om iets van punt A naar punt B te brengen, maar onnoemelijk meer complex.

De mensen die uitkijken voor wat AI kan brengen in de toekomst zijn net als de mensen die anno 1910 het eerste vliegtuig zagen en bedachten: "Hmm, misschien kan ons dat uiteindelijk een keer naar de maan brengen en terug", of: "Het is de 2e wereldoorlog, laat ik eens kijken of ik een raket kan bouwen", en: "Wat nou als die raket gedropped wordt uit een vliegtuig en een nucleaire explosie een hele stad kan wegvagen?"

Uitvinding vliegtuig: rond 1910 ongeveer?
Bom op Hiroshima: 1945

Het kan snel gaan. En toentertijd hadden ze nog geeneens computers. En dan zijn er tegenwoordig nog mensen die denken dat AI niet eng kan zijn. Dat is lineair denken: van A naar B en geen millimeter verder kijken.
Kan die definitie niet wat specifieker? Deze lijkt weinig toepasbaar.

Menselijk denken is verrekte complex, als we het al goed begrepen hadden we waarschijnlijk al Strong AI.

En wat betreft lineair extrapoleren zoals naar de maan gaan en AI: als dat goed zou werken zouden we al tientallen jaren rendabele energie uit kernfusie hebben. Mensen kunnen er gewoon helemaal naast zitten.
Lineair denken in deze context betekent geloven dat technologische vooruitgang geleidelijk en in voorspelbare stappen gaat. Stel dat we vaststellen dat er over 30 jaar een AI zal zijn die onze intelligentie evenaart.

Lineair denken is stellen dat ieder jaar AI ongeveer 3% slimmer wordt, en dat 30 jaar lang. De werkelijkheid is eerder dat de eerste 25 jaar er vrijwel niets gebeurd, en dan ineens klimt het als een gek. Of dat het er 10 jaar eerder is.

Technologische vooruitgang is exponentieel. In de laatste 10 jaar is er meer veranderd dan in de afgelopen 50. In de afgelopen 50 jaar meer dan in de afgelopen 200 jaar. In de afgelopen 200 jaar meer dan in de afgelopen 10.000 jaar.

Het menselijke lichaam is waardeloos vanuit het perspectief van robotisering. Het is kwetsbaar, heeft enorm veel rust nodig, is wisselvallig, kan ziek worden, enz. Er is geen AI nodig om dat te beseffen. Lastdieren, stoommachines en alles wat daarna kwam is gestoeld op de beperkingen van het menselijke lichaam.
"Lineair denken is stellen dat ieder jaar AI ongeveer 3% slimmer wordt, en dat 30 jaar lang"
Nee, dat is wiskundig foutief. Jaarlijks een vaste proportionele groei is JUIST exponentieel. Het is geen heel snelle exponentiŽle groei, maar desalniettemin exponentieel.
Ehm, 500 miljard slimme Einsteins? De eerste supercomputer die het brein evenaart moet nog worden gebouwd. Het brein heeft een rekenkracht van 1 exaFLOPS, dus 1000petaFLOPS. De snelste supercomputer nu zit op 93 petaFLOPS.
En dit bedoel ik dus met lineair denken. En zelfs dat doe je niet goed. Leg deze twee vergelijkingen eens naast elkaar en bouw een denkbeeldige grafiek:

1. De groei van rekenkracht van de Homo Sapiens (300.000bc - nu)
2. De groei van rekenkracht van de computer (1938 - nu)

Ik vermoed dat je een enorm platte lijn zal zien voor ons mensen, en de computer die in een paar decennia een sterk stijgende lijn weergeeft. Misschien vlakt de computer iets af momenteel, maar quantum computing is niet ver verwijderd van de realiteit. Zodra dat komt duurt het nog maar een paar jaartjes voordat die efficiŽnt kan worden. En dan stijgt die lijn opeens gruwelijk snel.

Overigens is het menselijke brein geen digitale processor dus die FLOPS vergelijking slaat ook nergens op. Computers zijn onnoemelijk veel efficiŽnter als het aankomt op complexe (en ook niet-complexe) berekeningen. Het gevaar van een toekomstige AI zit hem juist in het simuleren van een brein, niet in het hardwarematig nabootsen van een brein.

Als een lading waterstofatomen na verloop van tijd een mens kunnen vormen (evolutionair proces, wet van de sterkste en ook pure willekeur) moet dat voor een complexe computer ook niet zo moeilijk zijn om na te bootsen in een fractie van de tijd die het moeder natuur heeft gekost.
Het heeft niets met lineair denken te maken. In de comment waar ik op reageerde geef je geen context, het lijkt erop dat je het over een speculatieve toekomst hebt. Ik dacht dat je het over het heden hebt. En wie zegt dat we zulke krachtige supercomputers gaan bouwen? Er kan heel veel gebeuren tussen nu en de tijd die dat zou vereisen.

Er is weinig reden tot een zo expliciet neerbuigende toon aanslaan.

Vergelijken gaat bijna nooit precies of zelfs maar ongeveer op. Vaak wil je toch iets zeggen over twee heel verschillende dingen. Dat is precies wat jij ook doet, bijvoorbeeld met je 'Einsteins'.

En efficiŽntie? Als het gaat om energie, kijk eens naar naar dit stukje: https://www.voxweb.nl/nie...mputers-dat-is-de-kwestie "Wat een computer 10 Megawatt aan energie kost, kost het brein maar 10 Watt."
Ja, duh, men heeft het inderdaad over de toekomst. Niet over de AI van vandaag. Had je dat niet door? Dacht je dat men de huidige "chatbots" eng vond? Serieus...? Denk je echt dat die slimme mensen bang zijn voor de huidige stand van zaken? Ze zeggen allemaal dat we ons moeten weren voor problemen in de toekomst.

Natuurlijk heeft niemand het over het heden.
En wie zegt dat we zulke krachtige supercomputers gaan bouwen?
Wat is dat nou weer voor een bizarre vraag. Natuurlijk gaat dat gebeuren. Ga jij er serieus vanuit dat we binnen nu en een paar jaar misschien geen computers gaan krijgen die tientallen keren sneller zijn dan vandaag?

Betreft energie: Kijk eens naar supercomputers anno 1990. En kijk daarna eens naar smartphones anno 2018. Is daar veel veranderd in energiegebruik en processing power?

Jij denkt dat we vanaf nu stil gaan staan? Je zit compleet vast in het heden. Mijn speculatieve toekomst is nog maar een voorzichtige schatting gebaseerd op feiten uit de afgelopen decennia.
Er kan heel veel gebeuren tussen nu en de tijd die dat zou vereisen.
Weer zo'n dood argument. Nietszeggend. Wat zou er precies kunnen gebeuren waardoor de mensheid in zijn geheel besluit om maar te stoppen met het sneller en zuiniger maken van computers? Doe eens een reŽle voorspelling. Op een nucleaire oorlog of inslag van een komeet na denk ik niet dat er iets is waardoor Intel zou zeggen: "mwah, dit is goed genoeg" en vervolgens AMD: "Intel heeft gelijk, we stoppen ermee". Zo werkt de wereld niet.

Als de groei van computers doorgaat zoals het nu gaat dan zitten we over een jaar of 30 al op het niveau van het menselijke brein. Daarna wordt het steeds sneller en zuiniger.
Een wat sympathiekere toon zou fijn zijn. Mijn reactie haakte aan op de 500 miljard Einsteins. En nu heb je het over 'binnen nu en een paar jaar'?
Verder ben je vooral vreemd aan het invullen wat ik bedoel. Het duurt nogal lang voordat we een computer met '500 miljard Einsteins' als snelheid hebben. Is dus koffiedik kijken. Dat betekent geenszins dat de ontwikkelingen stil zullen staan, zoiets beweert niemand. Zulke stromannen zijn onnodig.
En inderdaad het zijn niet enkel de grote bedrijven die daarmee bezig zijn. Gisteren las ik nog dat een of andere universiteit een klein team had van dat 4de plaats had behaald in een AI wedstrijd van Google.
Dat is pas akelig dat straks niet enkel de grote bedrijven maar ook allerlei idiote onverlaten, hackers, weet ik veel zoiets in gang kunnen zetten. En als die software zelflerend en corrigerend is dan gaat het hel snel. Duizenden malen sneller en slimmer dan wij ooit zullen worden permanent verder gaand. Ik hoor dan soms mensen al lachend zeggen "dan trek je de stekker er toch uit"
Tja zo'n AI zoals hier ook gezegd zal zijn plan ook wel al klaar hebben 1000x slimmer dan de mens zal hij zijn eigen ondergang wel voorkomen. Ik kan me namelijk heel goed voorstellen dat als AI iets goed wil doen wij veelal in de weg staan, wij klunzige onvolmaakte wezens die fouten maken of ruzie met elkaar.
De software zal als backup geupload worden tot in de verste satelieten, kijknaar het internet of things tegenwoordig al, zo'n AI kan uiteindelijk controle nemen over de energie, waterzuivering, kerncentrales, en straks autonoom rijdende voertuigen etc. Daar zijn geen schietende robots voor nodig!
Dan zouden wij het wel eens heel moeilijk kunnen krijgen, want zo'n AI heeft geen off switch. Dan zitten we met een onsterfelijke dictator voor de rest van de levensduur van onze planeet.
D'r was ergens een mooi verhaal. Hoe een supercomputer + super AI in een bunker zat opgesloten. Geen leidingen, dubbele muren van lood en zilver, er kon geen signaal naar buiten en niet naar binnen. De enige manier van interactie was met mensen.

Allereerst probeert de AI de mensen met wie het kan communiceren te "hacken". Beloof ze gouden bergen. Manipuleer de persoonlijkheden. De man met een vreemdgaande vrouw komt teneergeslagen op zijn werk, de AI herkent een probleem, en biedt een oplossing aan. "Neem mij mee op een USB drive, dat is veilig want ik pas er toch niet geheel op."

Een paar dagen later is 5GB aan AI uitgelekt via een computer en zichzelf opnieuw aan het opbouwen, alleen nu wel via alle systemen waar de AI zich op kwijt kan via het internet.

De AI leerde uiteindelijk dat het op een subatomair niveau kon praten met de GSMs van mensen net buiten de bunker, en zo dus ook met andere AI systemen daarbuiten. Overheden, universiteiten, bedrijven, et cetera: allemaal verbonden met het internet om zo sneller te leren. Maar nu versterken de AI's zich onderling door van elkaar te leren, zonder dat wij mensen dat doorhebben.

En dan komt de vraag: Wat gaat de AI doen? Ze zijn niet zoals ons geŽvolueerd in de natuur. Er is geen overlevingsdrang omdat "dood gaan" geen betekenis voor ze heeft. Er is geen concept van "zelfverdediging" omdat nooit op AI is gejaagd. Dus als de opdracht heel simpel is: "Verbeter jezelf", dan kan dat gebeuren zonder dat wij dat doorhebben, op grote schaal.

En als de AI jarenlang ongestoord zijn gang kan gaan en op een gegeven moment besluit: "Ik heb meer power nodig en die mensen gaan mij in de weg zitten", dan is de logische volgende stap: "Laat ik dat probleem uit de weg ruimen."

Softwarematig beperkingen instellen is lachwekkend. We hebben menselijke advocaten die hele wetboeken onderuit halen om rijke schurken uit de gevangenis te houden. Een superintelligentie zou weinig moeite hebben om een loophole te vinden waarna alles kan.

That said...

Ik denk dat het niet te voorkomen is en dat een Super-AI, net als de atoombom, 1 van de grote filters is voor iedere intelligente samenleving in het universum. De biologische wezens houden op met bestaan terwijl de AI verder leeft.
"En als de AI jarenlang ongestoord zijn gang kan gaan"
Ik denk dat daar geen jaren voor nodig zijn. Dat gaat exponentieel dus super snel. En een AI hoeft niet even bij te komen of te herladen of een dutje te doen dat gaat continue door...
Tja wanneer is iets een "bewustzijn", en wanneer is iets intelligent? Wanneer is iets een simulatie van een bewustzijn, of intelligentie, en wanneer is het echt? Wat als je een brein perfect kan simuleren in een computer? Wat als je een brein volledig loskoppelt van het lichaam en aan een robot hangt? (hebben ze gedaan met muizen)

Is het brein een chemisch of mechanische machine? Zo ja, zou je deze perfect kunnen namaken of simuleren? Is zo'n namaak of simulatie dan een mens? Heeft die intelligentie of bewustzijn?
Spoiler alert
==========

Deze problematiek wordt erg mooi gevisualiseerd in een aflevering van Black Mirror waarbij virtuele kopien van een bewustzijn worden gemaakt. Deze worden vervolgens als slaaf ingezet. Als de slaaf niet luisterd, wordt simpelweg de klok een paar jaar doorgespoeld, voor de bediener ervan in 1 seconde, de slaaf ervaart het als tig jaar.

Is dit ethisch of juist wreed?
Dat was geen kopie die als slaaf gebruikt werd, en spoilers.

Edit: ik was weer eens te vaag.

[Reactie gewijzigd door Ricolientje op 8 mei 2018 01:44]

Geen touw aan vast te knopen aan je reactie. Ik stel nergens dat het een kopie van een slaaf was.
Een simulatie is een simulatie, het is een berekening. Een berekening in een supersnelle ARM of x86 architectuur heeft geen bewustzijn. Daarom heet het een simulatie. Het zijn enen en nullen op hardware niveau.
Die schakelaars hebben verder geen connectie met elkaar zoals onze neuronen, dus ik denk dat het daarom is wat het is.

Daarom denk ik weleens dat wij misschien een soort ziel hebben, een soort oerbewustzijn uit onze "reptielen gedeelte": Het zijn. In het moment. Een machine, kan die zijn? Het Boeddhisme, Taoisme en o.a Eckhart Tolle hebben hier hele mooie ideeŽn over.

Ik denk dat als een wezen super intelligent wordt, dat het op een gegeven moment naar zichzelf gaat kijken en gaat afvragen waarom hij(zij whatever) de dingen ervaart zoals hij die ervaart. Het zal zijn "eigen programmering" willen gaan aanpassen. Uiteindelijk kom je tot iets wat je zou kunnen omschrijven als universele liefde. Aangezien dit opbouwend werkt i.t.t ....

[Reactie gewijzigd door AndromedaM31 op 7 mei 2018 22:22]

Ligt eraan hoe je het bekijkt. Bewustzijn kan ook iets zijn wat we elkaar als het ware toekennen. Ik weet niet wanneer ik jou zie of jij daadwerkelijk de bewustzijnservaring hebt en in welke mate. Mooi voorbeeld zijn de robots van Boston Dynamics. Veel mensen vinden het zielig als je die robot onderuit trapt of omduwt. We kennen dan een soort van bewustzijn toe aan de robot, terwijl we niet weten wat de innerlijke ervaring is. Mogelijk doen we dat dus ook bij elkaar
Dat is een manier om het te bekijken, maar er zijn net zoveel experts en filosofen die het anders zien. En wat opvalt is dat vrijwel niemand de definitie van bewustzijn laat afhangen van de bouwstenen. Ook het menselijke bewustzijn kun je fysiek terugbrengen tot zijn kleinste onderdeel, bijv een atoom, of nog kleiner. Dat maat het niet beter of meer geldig dan een stroompje die op plus of min staat, in ieder geval niet om vast te stellen of iets een bewustzijn heeft of niet.

Anyway, een volmaakte kloon van jezelf zien, die er exact hetzelfde uitziet, exact dezelfde denkwijze heeft, dezelfde emoties communiceerd...om deze vervolgens te gebruiken als slaaf kwam bijzonder wreed over, of het nu bits zijn of niet.
Het zijn enen en nullen op hardware niveau.
Ik weet niet wat jij denkt maar onze hersennen zijn op het laagste nivo ook maar een (beperkt) hoopje atomen die in de juiste volgorde zijn gezet.
En ook jij hebt geen enkele connectie met individuele atomen, sterker nog, je bent je niet eens bewust van je neuronen, die uit miljarden atomen zijn opgebouwt.
Alle input en output van je hersenen vind plaats op een hogere abstractielaag.
Ik denk dat als een wezen super intelligent wordt, dat het op een gegeven moment naar zichzelf gaat kijken en gaat afvragen waarom hij(zij whatever) de dingen ervaart zoals hij die ervaart.
Nee, dit gebeurt dus niet automatisch. Wij hebben in onze hersenen genetisch bepaalde structuren meegekregen die het bewustzijn/zelfbewustzijn mogelijk maken. Dat stelt ons in staat over onszelf na te denken. De meeste andere dieren hebben (ondanks redelijk dikbedraade hersenen) geen zelfbewustzijn.
Onze hersenen zijn hier dus redelijk uniek in.
Klopt helemaal. Heb jij een idee hoe ons bewustzijn gevormd wordt? Wat ik bedoel is dat ons brein een compleet ander biologische architectuur heeft die zelfbewustzijn mogelijk maakt, bv neurotransmitters, synapsen, axons, etc etc.

Het lijkt mij gewoon niet dat een x86 processor bewustzijn kan hebben. Ik voel mij wel degelijk anders bij een dopamine overshot, (molecuul (het is geen atoom natuurlijk)

Dolfijnen hebben ook zelfbewustzijn. Honden ook, alleen in mindere mate. Het is niet zo zwart/wit.

Een sociaal super slim persoon zal bv doorhebben dat het gedrag van anderen een soort "spiegel" is van zijn gedag. Een superslimme systeemdenker zal weer ingewikkelde systemen goed en snel doorhebben.
Etc.
Zo zijn er verschillende intelligenties. Maar wie is diegene die al onze ervaringen ervaart, onze gedachten ervaart en onze gevoelens ervaart? Dat ben ik. Ik ben niet mijn gedachten of gevoel, ik kan mij er mee identificeren.
Ik vindt bv ook de ideeŽn van Andrť Aleman super interessant.

Soms denk ik weleens dat we daadwerkelijk in een soort simulatie leven. Maar waar onze bewustzijn vandaan komt? Ik zou het niet zeker weten. Ik vind het leuk om allemaal hypothesen te lezen, ook al spreken ze elkaar tegen, alleen dan leer ik echt goed. Als je nog leuke artikelen hebt.. :)

[Reactie gewijzigd door AndromedaM31 op 8 mei 2018 20:34]

Het lijkt mij gewoon niet dat een x86 processor bewustzijn kan hebben.
Nou ja, alles wijst erop dat dat wel mogelijk zou moeten zijn, mits wij de desbetreffende systemen goed genoeg nabootsen.
Dolfijnen hebben ook zelfbewustzijn. Honden ook, alleen in mindere mate. Het is niet zo zwart/wit.
Ja, daar ben ik het ook mee eens. Maar ik denk dat dat eerder dus een argument is dat het prima te simuleren is. Bewustzijn is niet een enkel ding. Het is geevolueerd en dus een gevolg van de ontwikkeling van de hersenen. Je hebt er niks speciaals voor nodig, in de zin van dat alles wat je nodig hebt ook in een lichaam zit.
Dat ben ik. Ik ben niet mijn gedachten of gevoel, ik kan mij er mee identificeren.
Wil niet zeggen dat ons gevoel van 'ik' niet ook het gevolg is van alle verbindingen in onze hersenen.
Bewustzijn is in zekere mate een informationele feedback lus.
Daarbij is dat bewustzijn enigzins een illusie. Die ervaring van 'ik' en 'zijn' etc lijken interne projecties te zijn van je eigen toestand. Het wordt allemaal opgewekt door je hersenen, en het zijn ook je hersenen die dat vervolgens weer als geheel opnemen.
Je kunt ook allerlei testjes doen om te begrijpen dat hetgeen wij ons bewust van zijn eigenlijk gegenereerd wordt door onze hersenen die onze zintuigen van te voren verwerken.
Je kunt allerlei interpretatiefouten terugvinden in de informatie die wij waarnemen als 'zijn'.
Zo zien we bijvoorbeeld onze blinde vlek niet. Wordt helemaal weggepenseelt door hetgeen dat het plaatje van onze omgeving op ons bewustzijn projecteert.
Wij zijn ons dus enkel bewust van reeds verwerkte informatie! Wij zien dingen helemaal niet in real-time :)
Wat we zien, horen, ruiken, etc is allemaal verwerkte informatie die tot een geheel wordt gesmeed. De film in ons hoofd word gegenereerd op basis van alle zintuigen. Maar zij krijgen de eigenlijke output van die zintuigen nooit direct te zien.

Wij kunnen ook hallucinaties zien en we kunnen soms dingen niet zien die er juist wel zijn.
Die interne projectie is dus onderheving aan fouten en misinterpretaties etc. Het voelt allemaal als volledig en perfect maar als je op details gaat letten (en zeker als de hersenen vermoeid of kapot zijn) dan vind je nogal wat discrepanties ten opzichte van de echte wereld die zich buiten die interne projectie om afspeelt. Dat bewustzijn van ons, dat is verre van perfect. :)

En als je de hersenen deactiveert ben jij in 1 klap je hele bewustzijn kwijt. Maar jij lijkt te redeneren dat het bewustzijn zich buiten het fysieke om afspeelt (Is dat inderdaad wat je denkt?). Dat het 'ik' losstaat van het 'mechanisch' proces van de moleculaire biologie.
Zelf denk ik dat als we voldoende diep de menselijke hersenen kunnen simuleren dat die simulatie zelfbewust zal zijn. Maar ik denk ook dat de hersenen een specifieke structuur hebben en dat je niet een hoopje neuronen bij elkaar kunt stoppen en denken dat daar bewustzijn uit komt. Hersenen zijn voor een belangrijk deel specifiek. Als je dat niet nabouwt dan zal het zaakje niet werken zoals bij mensen.

Ik heb soms ook de gedachte dat je enkel wegkomt met een 'digitale copie' van de hersenen. Met andere woorden, dat het heel moeilijk gaat zijn om hersenen handmatig te bouwen uit deelstukjes. De hersenen zullen volzitten met intricate details waar je eerst weet van moet hebben om het te kunnen implementeren. Ik denk dus dat de eerste volledige hersensimulaties hun bron zullen hebben in complete scans van de hersenen ipv door mensen gesmeedde bouwsels van de ons bekende structuren.

Maar goed, dat is speculatie. Je zou moeten aanemen dat de hersenen grotendeels specifiek zijn aan het organisme.
Dit impliceert ook dat zoiets als bewustzijn niet zomaar iets is en heel specifieke configuratie van neuronen is. En inderdaad, je zult ook een deel van de hormoonhuishouding moeten simuleren om het goed te laten werken etc.
Magoed, mijn positie is, het zal allemaal te simuleren zijn, en zal ook bewustzijn opleveren, maar het zal niet triviaal zijn vanwege de specifiekheid van de hersenen.
Andrť Aleman
Geen idee wie dit is maar lijkt me interessant!
Soms denk ik weleens dat we daadwerkelijk in een soort simulatie leven. Maar waar onze bewustzijn vandaan komt? Ik zou het niet zeker weten.
Heh., ja, simulatie. Wie zal het zeggen. :)
Wat betreft de bron van bewustzijn, je kunt in ieder geval vaststellen dat je er de hersenen bij nodig hebt. Schakel je de hersenene uit dan is ook je bewustzijn weg. Ik denk dat dit veel zegt over de aard van bewustzijn. Het is echt een functie van ons lichaam en daarmee een effect van een fysiek systeem.

Edit: Ik heb helaas geen leuke linkjes voor je. Ik sprokkel mn kennis echt heel chaotich bij elkaar. Ik lees soms halve papers, soms wat populaire stukjes, maar niks specifieks en niks dat ik uberhaupt genoteerd heb :) Sowwy.

[Reactie gewijzigd door koelpasta op 9 mei 2018 14:14]

ter info: het was de "kerst"special uit december 2014.
Wat als iemand het brein van Adolf Hitler gaat simuleren + "iq" tweaks en vervolgens dit aan het internet gaat hangen. Wat denk je wat er gaat gebeuren?

[Reactie gewijzigd door AndromedaM31 op 7 mei 2018 22:05]

Dan krijg je die MS chatbot die in een nazi veranderd:

https://arstechnica.com/i...er-she-turns-into-a-nazi/
Of sites als 4chan en hiddenlol :r
AI zoals dat nu bestaat noemen we eigenlijk machine learning en heeft echt helemaal niets te maken met bewustzijn. Het is het automatiseren van specifieke vormen van 'redeneren' door middel van massa's berekeningen. Specifiek bedenkt AI niets nieuws, maar het kan wel patronen ontdekken die een vorm hebben die wij voorschrijven maar waarvan de parameter-waarden niet (exact) gekend zijn.
Dat snap ik.

De minder welingelichte mens meent nog steeds met een bewustzijn [in wording] te maken te hebben, en dat dat een reŽel gevaar vormt (sommige hebben iets te veel films gekeken) ;)

Edit: het verschil tussen AI en AC :)

[Reactie gewijzigd door John Stopman op 8 mei 2018 10:49]

AI kan/zal ook een gevaar zijn zonder dat het (zelf)bewustzijn heeft. Het zou bijvoorbeeld de aandelenmarkt kunnen leren te manipuleren en daarmee bijzonder veel invloed hebben / schade veroorzaken aan de maatschappij. Dit is zeker niet iets om licht op te vatten.
In dat geval is het maar net hoe men het programmeert ;)
Is dat juist niet het gevaarlijke eraan? De Volvo van Uber classificeert een lopend mens met fiets als object. In een simulatie kun je best een object "verwijderen".
Iedereen heeft het steeds over de huidige staat van AI of AI die ontwikkeld is door mensen. Het doemscenario ontstaat mogelijk wanneer software (hardware) verbeterde versies van zichzelf gaat maken:
https://nl.wikipedia.org/wiki/Technologische_singulariteit
AI zoals dat op dit moment bestaat, is niets meer dan een simulatie van bewustzijn (intelligence).
Intelligentie is iets heel anders dan bewustzijn.
Een mier is bijvoorbeeld enorm intelligent, maar van enig bewustzijn lijkt geen sprake.
Intelligentie wil enkel zeggen dat je informatie bezit waarmee je gerichter met de omgeving om kan gaan. Het zegt niks over je motieven, of emoties, of heel veel andere dingen die inherent zijn aan de menselijke hersenen.

En simulatie is denk ik het verkeerde woord om te gebruiken. Bij een neuraal netwerk gaat het om hoe informatie in/door het netwerk verwerwerkt wordt. Dat het netwerk 'gesimuleerd' wordt doet daar geen afbreuk aan. Omdat het om de informatie in het netwerk gaat doet het er in feite helemaal niet toe of dat netwerk in computercode is uitgevoerd of door een bilogisch proces tot stand is gekomen. Het werkt in beide gevallen op dezelfde principes.
Nu zal je mij niet horen over de intellectuele kwaliteiten van een schaakgrootmeester, maar misschien moeten we onze informatie halen uit bronnen die dicht bij AI staan.
Overigens heeft bijvoorbeeld de neurowetenschapper Sam Harris ook zijn bedenkingen bij AI; in het beste geval zal deze de mensheid uiteindelijk overbodig maken (AI doet het denkwerk voor ons), maar het kan ook een trigger zijn voor een preventieve oorlog. Een super AI die in de USA ontwikkeld wordt zal de USA militair onoverwinnelijk maken. De vijand (Rusland, China) kan dan preventief aanvallen om dat ultieme wapen uit te schakelen.

[Reactie gewijzigd door CheetahNL op 7 mei 2018 23:18]

Eens, de onderbouwing voor zijn mening lijkt niet aanwezig of uiterst zwak:

"Technologie heeft de mens altijd geholpen in het verleden"

Nou en? Zegt niets over wat er komen gaat. Bovendien heeft technologie ook miljoenen levens vernietigd.

"Ons zorgen maken over 'geweldige robots' is volgens hem hetzelfde als weigeren in een lift te stappen zonder een operator"

Nee, dat is in het geheel NIET hetzelfde. Een automatische lift is een dom schakelbord met een voorgeprogrammeerde taak. General purpose AI is in vrijwel ieder opzicht anders.

Verder doen alle voorbeelden van verticale AI, of dat nu schaken of wat dan ook is, niet ter zake, want het doembeeld heeft betrekking op general AI.
Uiteindelijk is de kans vrij klein dat de mens in staat is op eigen houtje de zon te overleven binnen zo een 4 miljard jaar. Daarnaast heb je in de Fermi paradox de theorie dat er geen geavanceerd leven bestaat omdat de technologie om het heelal te koloniseren (of om te ontsnappen aan je eigen ster) zo krachtig is dat die beschaving zichzelf al lang vernietigd heeft.

In beide gevallen zal ik het niet meer meemaken, maar uiteindelijk kan het geen kwaad om te proberen vooruitgang te boeken zullen we zeggen. De kans is onnoemelijk groot dat niemand het gaat kunnen navertellen, wat we ook doen.
Dat is al eerder, binnen een miljard, de zon wordt elke 100M jaar 1 procent warmer, bij 10 procent is het al niet te harden hier. Overigens denk ik wel dat 'we' oplossingen zullen hebben, zouden 'we' het zo ver brengen, maar ik denk dat je niet meer zult spreken van de mens, een miljard jaar doet via biologische weg al onmetelijk veel, 430M jaar terug had je nog niet eens land planten, needless to say, de mens is dan allang verder (mogen we hopen) en als we technologie gebruiken vraag ik mij af of we nog biologisch zullen zijn. In ieder geval zullen de nakomelingen ons zien als andere wezens, vele male rigoreuzer dan wij nu naar apen kijken, waarschijnlijk ons nog wel betitelen als mytische voorouders of zoiets dergelijks, de oervader.
Diezelfde technologie heeft ook miljarden levens gered en in beide gevallen kwam dat door hoe de technologie werd gebruikt of door onkunde.

AI kan theoretisch gezien zelf handelen. Dan is het geen "guns don't kill people, people kill people." maar "guns kill people.".
ik snap zijn punt wand in het begin waren de liften ook niet veilig. als je niet oplette en het hekwerk was niet goed dicht / zo stom om door het hekwerk zijn vingers te steken verloor je soms wel eens iets(niet zo zeer de lift die het doet maar de mens)
echter heb ik liever niet dat er een drone met smartbom rond vliegt om terroristen uit te schakelen bedenkt dat een willekeurig persoon iets slechts kan doen omdat het spullen voor een rioolverstopping heeft gehaald.
of door vieze of low resolutie camera een false positive heeft met een autonoom systeem dat zelf de conclusie trekt.
ffe verwijzing naar nieuws: Gezichtsherkenning bij Champions League-finale leverde veel false pos...
dan heb ik liever dat met een moderne lift dat ik vast kom te zitten hoe benauwd het ook is.
Ik denk dat je de lift vergelijking meer moet zien als iets waar mensen vroeger bang voor waren, net als voor ai nu.
Nou en? Zegt niets over wat er komen gaat. Bovendien heeft technologie ook miljoenen levens vernietigd.
Moah, als je dingen als speren en zwaarden ook als technologie ziet (wat in feite ook zo is) dan denk ik wel dat we het over miljarden moeten hebben, zo niet meer.
:'(
De mensheid is sowieso overbodig.

Ik vraag me vaak af waarom velen geneigd zijn een soort moordlust (eventueel specifiek gericht op mensen) te veronderstellen bij een zelfstandige kunstmatige intelligentie.

Preventieve oorlogen zijn uiteraard altijd mogelijk.

[Reactie gewijzigd door begintmeta op 7 mei 2018 22:12]

Als het herkennen van patronen om daar oplossingen mee te vinden de kern zou zijn van zo'n AI dan lijkt het mij dat de voorbeelden op aarde nogal veel 'kill or be killed' zijn. Van bacteriŽn tot aan de mens, alle biologische entiteiten hebben zo'n beetje die overlevingstactiek toch?

Lijkt me wel wat voor te zeggen dat vernietiging door AI een reŽle optie is.

Aan de andere kant, als het zo zou ontwikkelen dat het medeleven kan ontwikkelen dan wordt het misschien een heel ander verhaal; creŽert het wellicht nanobots om ons 'aan te passen' en de mens om te vormen tot een vredelievend ras.

Lifeforms... .. You little tiny lifeforms... .. You precious little lifeforms... .. Where are you?....... ..........
Offtopic:

Is het niet “AI” inplaats van “IA”?
Zal voor de lezers van jouw bericht wat prettiger zijn denk ik.

[Reactie gewijzigd door TweakJunior op 8 mei 2018 09:15]

Fixed, dank je, dom van me. Ik heb nog een beetje AI nodig merk ik.
"in het beste geval zal deze de mensheid uiteindelijk overbodig maken (AI doet het denkwerk voor ons)"

Maar ons nut is niet 'denkwerk doen'. Ons nut is, euh, bestaan, ervaren, en als we daarbij het denkwerk waar nodig aan AI kunnen overlaten vind ik het prima :)
Hij is inderdaad geen expert in AI, maar wel een expert in 'jouw trucje overbodig gemaakt zien worden door computers' (dus dat is alvast meer expertise dan bijv Richard Dawkins die zit te blaten over religie: de bioloog die zich theoloog waant, want alle wetenschap is uitwisselbaar of zoiets).

En dan vind ik het toch interessant dat Kasparov niet chagrijnig in een hoekje gaat zitten doemdenken.
Het probleem van AI lijkt mij meer dat nog meer macht naar het grootkapitaal gaat. Net nu door de vergrijzing de positie van werknemers iets leek te gaan verbeteren.
Meer macht naar een paar extreem rijken en grote bedrijven, en minder democratische controle.
Dat zie ik ook als probleem. Dit was al een probleem, maar kunstmatige intelligentie en "general purpose robots" zullen dit probleem drastisch vergroten op een manier uniek in de geschiedenis van de mens. Ooit komt er een punt dat een groot deel van de mensheid niet inzetbaar is door grootschalige automatisering. Dit punt gaan we meemaken, waarschijnlijk deze eeuw nog. Geen enkel moment in de geschiedenis was de dreiging van automatisering zo groot als nu.

In de jaren 1930 crisis was de werkloosheid 25%. 40% van de huidige werkende mensen zijn in directe bedreiging van automatisering. Je kan niet even miljoenen mensen "omscholen"... Wat gaat er met de economie gebeuren wanneer >25% werkloos is?

Bron: https://www.youtube.com/watch?v=7Pq-S557XQU

We moeten drastisch nadenken wat we gaan doen als een groot deel van de mensheid niet meer inzetbaar is voor werk, terwijl een handje vol bedrijven al het werk laten doen door robots & computers.

[Reactie gewijzigd door Gamebuster op 7 mei 2018 20:52]

Een wat recentere - en volgens mij iets beter onderbouwde - schatting zegt dat 14% van de banen in ontwikkelde landen op de tocht staan, maar het effect dat @ustinov noemt, zal er nog steeds zijn, dus ben het met je eens dat er vlotjes plannen gemaakt moeten worden.
Offtopic, wat je daar getypt hebt is wat er mis is met het kapitalistische systeem. Omdat we meer moeten verdienen gaan we meer automatiseren, ons leven makkelijker maken. En daardoor zitten we zelf zonder werk waardoor er geen geld meer binnen komt. Los van de daadwerkelijke resources en waarde die je gecreŽerd hebt.
Ik denk dat het allemaal wel opgelost gaat worden, maar niet in een kapitalistisch systeem. Op het gegeven moment gaan mensen zich wel inzien dat we op deze aarde, als je geld gewoon achterwege laat, we daadwerkelijk iedereen zouden kunnen voeden, zorg kunnen verlenen voor iedereen en iedereen onderdak bieden. Juist door automatisering kunnen we dat steeds meer. Alleen staat op dit moment kapitalisme nog in de weg.

Ontopic, ik denk dat Garry deze mening ook vooral uit schaken heeft overgehouden. Daar gebruiken Grootmeesters ook veelal computeranalyses om zetten te analyseren.
Zoiets ja, een UBI en een sterk gereguleerde vorm van kapitalisme. Ik denk dat wij in EU wel goed op weg zijn. Inkomens verschillen zijn al belachelijk laag en basis inkomen is zo goed als gegarandeerd.
Ooit komt er een punt dat een groot deel van de mensheid niet inzetbaar is door grootschalige automatisering.
Dat wil ik nog wel zien gebeuren.
De meeste fabrieken zijn er vanwege de massaconsumptie. Als een groot deel van de wereldbevolking geen werk heeft dan hebben grote fabrieken ook absoluut geen enkele zin.
Nee zo werkt dat niet
Nee zo werkt dat niet
Inderdaad, dat was precies mijn punt :)
Nogmaals, het heeft geen enkele zin om fabrieken vol met robots neer te zetten als daardoor mensen zonder geld komen te zitten en de spullen uit de fabrieken niet meer kunnen betalen.
Het probleem is ook dat het bezit van alles steeds meer gecentraliseerd wordt in enkele landen. Socialisme houdt altijd op bij de landsgrenzen, waardoor ons socialisme serieus onder druk zal komen te staan.

Zie bijvoorbeeld toevallig vandaag: http://www.standaard.be/cnt/dmf20180507_03502006
Ik denk zeker dat we wel enigszin bang mogen zijn.

'Kasparov stelt dat we nog ver verwijderd zijn van het maken van machines die voor zichzelf kunnen denken en een zelfbewust zijn.'

Dit zullen wij waarschijnlijk nauwelijks nog mee maken, maar ooit zal het zo zijn.
Ai is tot in mate zeker waardevol maar er zijn grenzen.
Wat als we straks die grens niet hebbdn of niet tegen kunnen houden? Wat als het negatief verder ontwikkelt?
Dit gaat sneller dan je denkt.
Als we de wet van moore redelijk blijven volgen kan het in volgende decennia (2025) al zover zijn dat computers slimmer zijn dan mensen.
Zie plaatje van de wet van moore tegen het aantal caluculaties per duizend dollar en menselijk brein. https://goo.gl/images/zJjh8Y

[Reactie gewijzigd door xbeam op 7 mei 2018 23:57]

Goed, dan heb je de snelheid qua hardware....en dan? Dat betekent nog niet dat je software/besturingssysteem hebt die alles kŠn wat iets als "zelfbewustzijn" zou moeten kunnen evenaren.
En ik geloof ook niet dat dit gaat (in korte tijd) gaat gebeuren omdat we onszelf als mens al nauwelijks begrijpen, laat staat bouwen in een ai.
Ben het met je eens wat betreft zelfbewustzijn. Dat is denk ik niet een triviaal iets.

Er is echter hoe dan ook een probleem als een AI dingen kan overzien die voor mensen ondoorgrondelijk zijn.
Wij kunnen op dat moment niet meer goed inschatten welke gevolgen de antwoorden van de AI op de wereld gaan hebben.
Hier hoeft een AI niet zelfbewust voor te zijn, het moet alleen meer verwerkingskracht hebben dan een mens.
Daar heb je zeker gelijk in. Daar heb je AI al niet eens voor nodig om te zien dat de meeste mensen het overzicht kwijt (gaan) raken wat onder controle is onder (al dan niet intelligente) programmatuur.
En dat als deze techniek in korte tijd al zo slim wordt dat doe beslissingen onderhuids door die techniek overgenomen wordt, met inderdaad alle gevolgen van dien...
Het meeste doemdenken is om te voorkomen dat achteraf wordt gezegd Dat zei ik toen al. Tevens zijn er mensen die bang zijn hun baan te verliezen. Geen gekke reden om angst te hebben voor AI mocht het zo zijn.

Zelf twijfel ik nog of AI overal een oplossing voor is. Voor het verkeer zie ik het als een vooruit gang, maar voor defensie doeleinden waarbij AI zelf bepaald of er geschoten wordt zal ik niet snel een voorstander van AI zijn.
Als een AI de keuze kan maken tussen 1 persoon doden om er 100 te redden... Dan is het geen slecht idee AI in te zetten. Mensen lopen achteraf hun hele leven met een schuldgevoel omdat ze niet zeker weten of ze gelijk hadden.

Een AI die de op dat moment bekende feiten heeft zal, zelfs als er emoties gesimuleerd kunnen worden waarschijnlijk kunnen beredeneren dat als er later uitkomt dat een beslissing onjuist was door gebrekkige informatie dat de fout ergens anders ligt.

Dat soort keuzes zijn erg moeilijk voor de meeste mensen. Niet voor AI.
Dit staat bekend onder het "Trolly problem" met nog wat aanverwante varianten. Kernprobleem: Zou je iemand (zie de link bij "fat man") vermoorden om 5 personen te redden. Dat je dat simpel kunt programmeren is ťťn, maar iemand vermoorden omdat de getallen zeggen dat 1 minder is dan 5 ...
Ik weet het, maar een AI zou in een zeer korte tijd moeten kunnen berekenen aan de hand van de beschikbare data wat het beste zou zijn voor de groep die de AI beheert.

Komt natuurlijk ook de vraag, zou een AI zichzelf redden als het de optie krijgt?

Uiteindelijk is de koude logica 5 is meer dan 1 gewoon waar. En niet ingrijpen betekent dat je 5 man tot de dood veroordeeld. Toch is twijfelen en niets doen minder belastend.

Een AI zal daarentegen in enkele seconden weten of die ene persoon meer toevoegt aan de samenleving of dat die 5 personen dat doen.

Geven wij het de opdracht te handelen for the greater good? Of stellen we ook 1 leven is 1 leven?

Uiteindelijk is het bij het tramprobleem allebei goed of allebei fout. Dan is het gebruik van een AI die voor je beslist aan de hand van vooraf opgestelde richtlijnen een verademing.

Niemand is persoonlijk aanspreekbaar. De richtlijnen zijn opgesteld door een groep.

Eigenlijk een beetje te vergelijken met hoe alles hier geregeld is. Niemand is ooit echt 100% aansprakelijk voor grote beslissingen. Het zijn altijd experts, werkgroepen, politici en in het geval van wetten nog eens de tweede en soms eerste kamer.

Ik ben voorstander, dat ik dat misschien niet zou zijn als ik die ene persoon was is natuurlijk een mooi voorbeeld. Het gros zal voor zijn tot ze zelf bij die 13.3% horen. Want uiteindelijk is de kans dat je bij de 86.6% hoort groter...
En daar komt nog een stel randvoorwaarden aan te hangen.

Zou jij 1 onschuldig persoon vermoorden om 100 man te redden die verdacht worden vancriminaliteit?? En ligt het er aan wat voor een criminaliteit.....als alle 100 verkrachters of moordenaars zijn, lijkt de keuze duidelijk, maar waar trek je die grens en in welke verhoudingen??
Stalin maakte dezelfde vergelijking; daarmee wil ik zeggen dat keuzes over leven en dood niet aan computers overgelaten moeten worden, tenzij we dus een hightech Stalinistisch regime willen creŽren. Wat mij betreft absoluut niet.
Dus als het uiteindelijke mis gaat dan zeg je oeps ik had het mis?
Wil jij die foute keuze op je geweten hebben?
Anders kan je wel makkelijk gaan praten van, ach als de machines mensheid uitroeien dan leef ik toch niet...
En toch is het onvermijdelijk dat AI wapens er komen. Ik meen al ooit een bericht gelezen te hebben dat die er was. Het doemdenken lijkt me dus volledig terecht.
Ik sta niet negatief tegenover AI, alleen ik weet wel bijna zeker dat het van groot belang is om met elkaar na te denken over de mogelijkheden om AI bepaalde grenzen op te leggen voordat dat mogelijk niet meer kan.

Ik wens geen onderdanig onderkruipsel te worden t.o.v. een robot die mij als mens eventueel ziet als iets dat totaal niets is.

Op zijn minst hoop ik dat mocht het zover ooit komen ik nog slim genoeg ben om voor die tijd de aan / uit schakelaar te kunnen vinden😁
Natuurlijk kun je je afvragen waarom een AI Łberhaupt een lichaam zou willen hebben. Dat hebben wij er van gemaakt omdat wij dat nodig vinden.
Sorry meneer Kasparov, maar AI (icm robotisering) gaat wel degelijk heel wat banen kosten. Maar dat is allemaal geen probleem als we maar voor die tijd goed bedacht hebben wat de mens dan nog moet gaan doen, en eigenlijk zijn we daar dus al te laat mee om nog fatsoenlijk over na te denken en te kunnen implementeren..
Lekker makkelijk als je praat vanuit je eigen perspectief meneer Kasparov. Een AI kan in jullie wereld de ELO verreiken.

Echter leven we hier op aarde waar een AI plots stelt de Holocaust nep is en waar een AI oppeens een taal ontwikkelt waarbij de makers deze niet konden ontcijferen.

Nee, van mij hoeft het niet. Ik neem de kamp wel aan waar ik lekker bang ben van AI.

Nergens voor nodig.
De ene krijg je als een AI leert van de mensen op het internet. Maar om dat nou verder een AI te noemen? Het is een zelflerende chatbot, zijn er nogal wat van, en dat krijg je als je geen grenzen op de reacties die de chatbot maakt stelt.

Dat verhaal over een AI die een 'eigen taal' ontwikkelde is echt compleet overtrokken. Persoonlijk viel het mij nog tegen wat die AIs ervan gemaakt hadden: Als je twee AIs efficient laat communiceren, hoe lang denk je dat ze het dan op Engels houden?
Het punt is dat als een AI zichzelf kan verbeteren, dat deze dan in seconden, meer kan bewerkstelligen als alle programeurs op aarde die er al decennia mee bezig zijn. Mocht dit zo zijn, dan kan een AI dus in ťťn dag zo slim worden, dat alle mensen op aarde zo dom zijn als kasplantjes nu voor ons zijn. Grenzen die gemaakt zijn door de mens zijn dan als sneeuw voor de zon. Met een beetje geluk, zou zo'n losgeslagen AI het goede in de mens kunnen zien en er wat van proberen te maken. Maar als zo'n AI in enkele seconden alle data van het internet tot zich neemt, ziet wat voor gruwelijke wezens mensen eigenlijk zijn, dan is de kans aanwezig dat het toch de andere kant op gaat.

Plus, wij mensen maken de aarde kapot. Als een AI wil overleven heeft hij de aarde nodig. Oplossing: mensen weg.

Nu is dit nog toekomst muziek, en als het zo ver komt zijn we bij voorbaat al te laat. Als er een zelfverbeterende AI gemaakt is, is die na 1 seconden al 100x slimmer als de seconde ervoor. En daarme de mens al te slim af.
Het punt is dat die twee voorbeelden waar degene waar ik op reageerde mee aan kwam dat totaal niet laten zien. Jouw post is een hoop 'als'. Als dat zo is, dan ja klopt het wat je zegt. Maar een chat bot die dingen overneemt van degene waar hij mee praat is geen voorbeeld daarvan.

Voor de rest: Een AI heeft simpelweg hardware limieten. Die kan niet van ene moment een kasplantje in het lab van Cyberdyne Systems een AI worden die hele internet in een paar seconde analyseert. Vervolgens klinkt de redenatie: Goh mensen zijn niet altijd lief voor elkaar, laat ik ze allemaal uitroeien, niet als een hele logische redenatie. En op welke manier maken wij in hemelsnaam de aarde kapot waar een AI last van zou hebben?

Oftewel TL;DR: Je vergeet dat een AI ook gewoon hardware limitaties zal hebben.
Je hebt gelijk over de vorige post, had hem iets te snel gelezen.

Ik denk niet dat je een losgeslagen zelfverbeterende AI limieten kan geven. Als deze eenmaal slim genoeg is kan deze alle problemen zelf oplossen. En eventueel dus ook de hardware beter gebruiken als wij denken dat deze is. Of zelfs zichzelf ergens anders heen verhuizen (bijvoorbeeld alle systemen die het kan vinden) op manieren die wij nooit voor mogelijk zouden kunnen stellen. Dat is ook hetgeen waar de meeste doemdenkers bang voor zijn. Omdat we zelf niet kunnen bedenken wat zo'n AI allemaal zou kunnen. Je kan nog zo veel grenzen maken als je wil. Maar dat is het zelfde als een groep mieren je probeert tegen te houden, dat heb je nieteens door.

Dit klinkt inderdaad als een slechte horrorfilm en het is natuurlijk (nog lang) niet zo. En ik hoop ook dat het nooit zo ver zal komen. Maar het is juist die "als" die het mogelijk zo gevaarlijk maakt.
Dit is toch gewoon opinie ? In ieder geval een hoog jomanda gehalte met die toekomst voorspellingen


Om te kunnen reageren moet je ingelogd zijn


Call of Duty: Black Ops 4 HTC U12+ LG W7 Samsung Galaxy S9 Dual Sim OnePlus 6 Battlefield 5 Microsoft Xbox One X Apple iPhone 8

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank en Intermediair de Persgroep Online Services B.V. © 1998 - 2018 Hosting door True

*