Stephen Hawking: technologie kan ons allemaal vernietigen

De Engelse natuurkundige Stephen Hawking heeft gezegd dat technologie in de toekomst mogelijk in staat is ons allemaal te vernietigen. Volgens hem ontwikkelt technologie zich dermate snel dat er een kans bestaat dat kunstmatige intelligentie de mensheid uitroeit via een nucleaire oorlog.

Hawking, die door de spierziekte ALS vrijwel geheel is verlamd, is bezorgd dat de mens misschien niet de vaardigheden heeft om als soort in leven te blijven. Daarbij gaat hij in op de evolutionaire rol van agressie. "Sinds de beschaving begon, is agressie in zoverre nuttig geweest dat het bepaalde voordelen voor het overleven in zich heeft." Volgens Hawking bestaat het risico dat deze agressie door de snelle ontwikkeling van steeds geavanceerdere technologie leidt tot een oorlog met nucleaire en biologische wapens die ons allemaal kan vernietigen. Hij vindt dat we deze inherente agressie beter moeten controleren door het gebruik van logica en de rede. Dat heeft Hawking gezegd in een interview met The Times.

Daarnaast ziet Hawking een gevaar in kunstmatige intelligentie die op termijn mensen kan vervangen. "We moeten sneller zijn in het herkennen van zulke bedreigingen en handelen voordat het uit de hand loopt. Dit betekent dat er eventueel een vorm van een wereldregering nodig is." Hawking beseft daarbij wel dat zo'n regering een tirannie kan worden. Ondanks deze pessimistische visie benadrukt de wetenschapper dat hij een optimist is. Hij denkt dat de mensheid deze uitdagingen uiteindelijk aankan.

Het is niet de eerste keer dat Hawking zijn zorgen uit over de toekomst van de mensheid. Vorig jaar zei hij nog dat mensen binnen ongeveer duizend jaar de aarde moeten verlaten en zich moeten vestigen op een andere planeet om te kunnen overleven. Volgens Hawking raken de natuurlijke bronnen van de aarde in rap tempo uitgeput, waardoor de aarde sneller onleefbaar zal worden.

Reacties (245)

[bbc]

Gerelateerd is de Fermi paradox: "Waar is iedereen in het heelal?"
https://en.wikipedia.org/wiki/Fermi_paradox
En één van de opties is dat intelligent leven zichzelf altijd vernietigd.

Overigens heel mooi verteld door Stijn Meuris in een aantal episodes over het heelal:
https://www.youtube.com/watch?v=EuxKkAj9HTY
Zeker de moeite waard om eens te bekijken. Je gaat misschien weinig bijleren, maar het is wel heel grappig verteld en ook aangenaam om naar te kijken voor mensen die er minder van kennen (denk ik).

@BarendB: die hebben misschien nog niet voldoende resources kunnen verzamelen om de trip te maken of beter, de beschaving heeft zichzelf vernietigd alvorens AI er was. Wij hebben nu al voldoende technologie om ons uit te roeien, maar nog geen AI die het heelal kan veroveren.

[Reactie gewijzigd door bbc op 22 juli 2024 19:24]

[BarendB]

Maar de vernieitiging van de mensheid door AI lost niet de Fermi paradox op. Immers, waar zijn dan de robots ?

[Anoniem: 457607]

Ook robots zijn onderhevig aan wat men "the great filter" noemt.

Zelfs een geavanceerde robot maatschappij moet mazzel hebben op de juiste plek in het heelal te wonen. Het moet voldoende resources hebben om een extreem verre ruimte-reis mogelijk te maken. Uitgaande van de beperkingen van de snelheid van het licht verkleind dat de kansen op een ontmoeting enorm. En ook timing is een factor. Het kan namelijk zo zijn dat er miljarden jaren geleden al intelligente bewoners op een andere planeet waren. Je moet dus ook nog eens op hetzelfde moment in een tijdspanne van miljarden jaren in "leven" zijn.

[Barryke]

Het leuke/interessante hieraan vind ik dat een ver geevalueerd robot maatschappij best wel eens zou kunnen lijken op ons, tot op het punt dat ze letterlijk ons zijn .. onze organische cellen slechts zijn kleine stukjes automatisering. Wie zegt dat onze oorsprong (cellen, DNA, RNA) niet afstamt/is wat voor een ander ooit slechts een robot was..

[Anoniem: 457607]

Een interessante gedachtekronkel

Waarin ook een spoortje arrogantie zit, wellicht. De mens als soort van ultiem wezen, terwijl we eigenlijk vrij primitief zijn. Biologisch zijn we nog steeds apen.

We hebben weliswaar doorgeschoten hersenen, het probleem is echter dat > 90% van de hersencapaciteit geheel onbewust werkt en als enige doel zelfbehoud heeft.

[Accretion]

Was dat 90% verhaal niet onzin?
Daarnaast is zelfbehoud ook belangrijk
En zou het de mogelijkheid bieden tot uitbreiding?

[Anoniem: 457607]

Ik denk dat je doelt op het fabeltje dat we slechts 10% van onze hersencapaciteit gebruiken.

Dat is niet wat ik zeg. Ik zeg dat we vrijwel 100% gebruiken, maar dat het rationele, bewuste deel van de hersenen hierin extreem ondervertegenwoordigd is.

Het is behoorlijk offtopic, maar simplistisch gezien zijn hersenen leugenachtige machines, waarbij vrijwel alle capaciteit besteed wordt aan het onderbewuste, niet rationele deel wat maar een doel heeft: jouw in leven houden.

[gintoki]

Aanvullend: Het onderbewuste wordt vaak ondergewaardeerd.

[poktor]

Die uitbreiding zit al ingebouwd, ja. De aarde en de mensheid zitten op evolutionair niveau nog maar net in hun tienerjaren, als je de leeftijd van het zonnestelsel zou vergelijken met een mensenleven. Dat houdt dus in, dat we als mensheid en de aarde nog miljarden jaren hebben te gaan. Er gaat dus nog HEUL VEUL veranderen. Ten goede, wel te verstaan.

[P. vd Loo]

We zitten nog in onze baby-jaren wel te verstaan. Vervolgens is het nog maar de vraag of we nog miljarden jaren in ons verschiet hebben. Als je kijkt naar de geschiedenis van onze planeet is het zeer onwaarschijnlijk dat de mensheid langer zal bestaan dan tientallen miljoenen jaren. In de historie van de aarde zijn er namelijk steeds diverse massa-uitroeiingen geweest, met daaraan ten grondslag diverse oorzeken.
Ook is het vraag of de veranderingen die er gaan komen ook positieve veranderingen zij. Als je kijkt naar het verbruik van de aardse bronnen ziet het er helemaal niet zo goed uit.

[poktor]

Er is nog iets anders gaande wat niemand ziet: bewustwording. Elke nieuwe generatie ziet de wereld weer anders en leert van de fouten van de vorige generatie. Het gaat langzaam en onzichtbaar, maar het gebeurt. Ik zie het bij mijn eigen kinderen.

[poktor]

George Lucas wist het mooi te verwoorden:"we zijn nog maar net onze grot uit. De komende 100000 jaar worden heel interessant!".

[P. vd Loo]

[Anoniem: 399807]

Dat is gewoon met terugwerkende kracht de wetenschappelijke paradigma's aan de basis van ons denken (en deze website) toepassen op het verleden.

[Oorlam]

Robots zijn daar wel minder onderhevig aan. Op de kosmische tijdschalen waar we het over hebben is reizen over de afstand van de melkweg, zelfs met lage snelheid, niet heel onwaarschijnlijk. Robots kunnen er gerust 10 miljoen jaar over doen om hier te komen. Dan hoeven ze maar 0.15 maal de snelheid van het licht te gaan bijvoorbeeld. Punt is dat als ze er waren ze ook al hier zouden zijn. Tenzij ze toevallig ook net ontstaan zijn. En dat is nu juist het hele probleem.

[Spinner]

Ik vermoed dat een ASI onze heilige huisjes wel eens met minachting kan 'bekijken'.
Snelheid van het licht is niet bereikbaar met een massa, is er bijvoorbeeld 1 van.
Sneller dan het licht is niet mogelijk, is een andere.
Wat de mens als magie zal zien, is voor een ASI gewoon logisch ?

[Reactie gewijzigd door Spinner op 22 juli 2024 19:24]

[Grrrrrene]

Aangezien het heelal geschat wordt op 13,8 miljard oud, is een tijdspanne van "miljarden jaren" niet zo heel spannend. De eerste miljarden jaren zal er sowieso nog nergens intelligent leven zijn geweest, zoiets (leefbare condities + evolutie) kost nu eenmaal tijd.

Maar je hebt wel gelijk dat er elders in het heelal al intelligent leven kan zijn ontstaan en weer ten onder zijn gegaan. Uiteindelijk omarmen we als mens nieuwe technieken zo ontzettend makkelijk en raken we eraan verslaafd zonder goed te beseffen wat het met ons doet. Iedereen roept wel dat we minder met onze mobieltjes en meer met de mensen om ons heen moeten interageren, maar slechts heel weinig mensen maken die omslag daadwerkelijk. Ik denk dat de techniek zich inderdaad gewoon veel te snel ontwikkelt voor de mens om zich aan te passen aan al die nieuwe technieken. Wat is de (gezonde?) rem op technologische ontwikkeling?

[P_Tingen]

"Sometimes I think the surest sign that intelligent life exists elsewhere in the universe is that none of it has tried to contact us."

Calvin & Hobbes

[JantjeKlaasen]

"Sometimes I think the surest sign that intelligent life exists elsewhere in the universe is that none of it has tried to contact us."

Calvin & Hobbes

Waarschijnlijk omdat 'ze' bang zijn of het niet waard vinden om met 'ons' in contact te treden 😊

[cdwave]

Mijn theorie: Er zijn gewoon 3 soorten intelligente levensvormen.

Soort 1 maakt zijn aanwezigheid luidkeels kenbaar in de ruimte met sondes, radiogolven en nog van alles meer. De mensheid behoort vooralsnog tot deze categorie.

Soort 2 schermt alle communicatie af en is "stilletjes" aanwezig. Van deze soort horen wij daarom niets.

Soort 3 voedt zich voornamelijk met soort 1. Van deze soort vernemen wij doorgaans maar een keer iets..

[JantjeKlaasen]

Mijn theorie: Er zijn gewoon 3 soorten intelligente levensvormen.

Soort 1 maakt zijn aanwezigheid luidkeels kenbaar in de ruimte met sondes, radiogolven en nog van alles meer. De mensheid behoort vooralsnog tot deze categorie.

Soort 2 schermt alle communicatie af en is "stilletjes" aanwezig. Van deze soort horen wij daarom niets.

Soort 3 voedt zich voornamelijk met soort 1. Van deze soort vernemen wij doorgaans maar een keer iets..

😊😊

[Anoniem: 9278]

Interessant hoe The Guardian een totaal andere insteek heeft voor dit interview. Het hele gevaar van uitroeing is slechts een voetnoot. Zo zie je maar dat journalistiek nooit objectief is. Je kiest immers een bepaalde insteek voor je artikel/samenvatting.

https://www.theguardian.c...-disastrous-labour-resign

"Stephen Hawking: Jeremy Corbyn is a disaster for Labour"

"During the interview, the professor also expressed some fears that the human disposition towards aggression was becoming more of an existential threat with each technological advancement.

“Since civilisation began, aggression has been useful in as much as it has definite survival advantages,” he said. “It is hardwired into our genes by Darwinian evolution. Now, however, technology has advanced at such a pace that this aggression may destroy us all by nuclear or biological war. We need to control this inherited instinct by our logic and reason"

[Reactie gewijzigd door Anoniem: 9278 op 22 juli 2024 19:24]

[Opi]

Stephen Hawking heeft, samen met o.a. Elon Musk, deze boodschap al meerdere jaren, zoals o.a. blijkt uit dit interview met BBC en dit artikel van Time. Boeken die dit scenario ook schetsen zijn o.a. Our Final Invention van James Barrat en Superintelligence van Nick Bostrom.

[bbob]

Denk dat de titel niet kan zal maar zal ons vernietigen.

Dat is trouwens denk ik een heel natuurlijk proces dat zelf wiskundig als oorsprong heeft. Chaos een natuurkundig verschijnsel wat ook te berekenen is.

In het kort je ziet een verdubbeling, verdubbeling verdubbeling tot het punt van chaos.
Wet van moore (die geen wet is) heeft het al over een verdubbeling.
Bebtrek die verdubbeling in de zin van ontwikkeling op de mensheid en kijk naar ontwikkelingen 200 jaar terug, 100 jaar teurg, 50 jaar terug, 25 jaar terug, 10 jaar terug en 5 jaar terug en je ziet dat alles steeds sneller en sneller gaat.

We kloten met dna genetische manipulatie. We kunnen bij hersensignalen uitlezen om kunstbeen en arm te bewegen. Quantum computers komen er aan wat nog een versnelling zal geven. AI staat pas aan het begin. Trek dit alles door en je krijgt automatisch een ramp scenario. Tot idd het punt van chaos wordt bereikt en we met kernoorlog of iets anders weer hele stap terug in de tijd gaan.
Misschien zou je dit punt zijn wiskundig kunnen berekenen als je genoeg informatie hebt. Ik schat dat het minder dan 100 jaar zal duren voor we zo ver zijn en misschien zelf 50 jaar.

[Anoniem: 399807]

I am redeemed!

Want herhaaldelijk citeer ik de kerel met: "Een beroep doen op de werkelijkheid leidt tot niets, want we bezitten geen voorstelling van de werkelijkheid die losstaat van een model van de werkelijkheid."
-- Stephen Hawking

En dat citeer ik in discussie over wetenschap als zodanig, dus als ik over technorealisme praat.

En het is dat wetenschappelijke model dat bijdraagt aan Klimaat Verkloting en robotisering en AI en de futiele zoektocht naar een beter soort mens, die niet van cellen is opgebouwd maar uit gereduceerde en geïsoleerde kunstmatige materialen.

We zouden meer moeten luisteren naar onze beteren.

[Alxndr]

die wagentjes van Musk zijn je enige valide punt, maar om niet de ruimte in te gaan en geen zonnepanelen te plaatsten is juist onlogisch: ruimte biedt grondstoffen en zonnepanelen hoeven niet "smart" te zijn.

Zeg dan dat je je telefoon in de plomp moet gooien, bedenk eens wat een AI met al die informatie zou kunnen.

[curumir]

Naar de maan en andere planeten vliegen is juist de enige manier om de om intelligent leven een grotere kans te geven eigen stupiditeit te overleven. Hawking heeft hierover ook al eerder iets gezegd: de tijd tussen nu en de mensheid die andere planeten heeft gekoloniseerd is het allergevaarlijkst. Om het heel cru te zeggen; een ontplofte planeet is minder erg als je kijkt naar de overleving van de mensheid als je er nog een paar achter de hand hebt. Is het je enige, dan is het voorbij.

https://www.theguardian.c...us-time-planet-inequality

Together, they are a reminder that we are at the most dangerous moment in the development of humanity. We now have the technology to destroy the planet on which we live, but have not yet developed the ability to escape it. Perhaps in a few hundred years, we will have established human colonies amid the stars, but right now we only have one planet, and we need to work together to protect it.

edit: dus de zelfrijdende auto maakt het gevaarlijker, zonnepanelen minder gevaarlijk omdat het de aarde helpt en vliegen naar de maan de eerste stappen naar een essentiële overlevingsstrategie...

[Reactie gewijzigd door curumir op 22 juli 2024 19:24]

[assk]

En vergeet niet de zelfpratende rolstoel

[mango_ash]

lol, wat een plottwist zou dat zijn zeg. Als blijkt dat hij al jaren z'n bewustzijn heeft verloren en wij al die tijd met z'n AI rolstoel hebben zitten praten.

[IMarks]

Alleen zorgt de spierziekte ALS niet voor verlies van je bewustzijn.

[geekeep]

Bij ALS is juist bewustzijn (en -een slinkende- hoeveelheid autonome lichaamsfuncties) het énige dat een patiënt in een vergevorderd stadium nog over heeft.

Wel jammer overigens dat hier over de rug van Hawking grapjes worden gemaakt. Die man heeft meer kennis vergaard en verspreid dan vrijwel alle bezoekende Tweakers.

[Anoniem: 221563]

Kijkend naar hoe Hawking zichzelf in de media en pop cultuur plaatst denk ik dat hij zelf stiekem het hardst lacht, maar dan van binnen

[assk]

Is er weer een controversiele theorie, roll out the muppet. (Het is maar een grap. Ik heb veel bewondering voor Hawking en zijn theorieën)

[borgdrone]

Sorry maar grappen over iemand in een volledig geautomatiseerde rolstoel vind ik ver onder de gordel.

Of het nou een grap is of niet, het is gewoon dom en respectloos.

De man heeft meer gedaan voor de mensheid dan velen van ons samen.

[Philos31]

Stephen Hawking heeft een zeer groot gevoel voor humor, en heeft ook erg veel zelfspot. Dus ik weet niet of hij echt gekrenkt zou zijn of juist lachen...

Gooed voorbeeld uit de Big Bang Theory:

https://www.youtube.com/watch?v=1FxmRmyGkx0

Later in een telefoongesprek geeft Hawking aan dat hij het een goed idee zou vinden als er van hem een remote control model zou zijn.

[magnifor]

Uit het artikel:

Volgens hem ontwikkelt technologie zich dermate snel dat er een kans bestaat dat kunstmatige intelligentie de mensheid uitroeit via een nucleaire oorlog.

Heb even het bronartikel gelezen maar nergens geeft Hawking aan dat AI de mensheid kan vernietigen d.m.v. een nucleaire oorlog. Hij zegt dat de agressie van de mens kan leiden tot een nucleaire oorlog en dat de AI steeds meer mensen kan verdringen en daar voor moeten oppassen door bijvoorbeeld een wereldregering op te richten.

http://www.thetimes.co.uk...nity-and-corbyn-jk88zx0w2

[poktor]

Die wereldregering komt er ooit wel denk ik. Maar nu nog niet. Daar gaan nog een paar honderd jaar overheen. Eerst moeten wat landen van hun fouten en foute regeringen geleerd hebben.

[Robin de Eerste]

Hij heeft een goed punt... hier valt ook weer eens uit op te maken hoe geniaal hij is.
Moet het eigenlijk niet simpel zijn om kunstmatige intelligentie op een bepaalde manier definitief te blokkeren van gewelddadig gedrag?

[kazz1980]

Zie menig Asimov verhaal.... Daarin zijn tamelijk waterdichte wetten opgenomen waaraan iedere kunstmatig intelligentie zich moet houden ter voorkoming van gewelddadig gedrag jegens mensen. Deze wetten zijn zelfs zo goed doordacht dat ze binnen de feitelijke hedendaagse robotica tamelijk heilig zijn...
Tevens gaat het in vrijwel al zijn verhalen alsnog mis en neemt de kunstmatige intelligentie de boel over van de mensen. Dus nee, dat is niet simpel! Zeker niet wanneer betreffende AI op enig moment slimmer is dan wij!

[koelpasta]

Asimov.....
De meeste van zijn verhalen gaan over hoe die 3 wetten juist onvoldoende zijn om robots goed te laten werken en daardoor een leuk verhaal opleveren. Het is dus letterlijk een verhaaltje dat ze niet afdoende zouden werken...

[Reactie gewijzigd door koelpasta op 22 juli 2024 19:24]

[kazz1980]

Dat is ook precies wat ik aangeef in mijn reactie.

[koelpasta]

Deze wetten zijn zelfs zo goed doordacht dat ze binnen de feitelijke hedendaagse robotica tamelijk heilig zijn...

Eeh, nee, je gaf het tegenovergestelde aan:

Deze wetten zijn zelfs zo goed doordacht dat ze binnen de feitelijke hedendaagse robotica tamelijk heilig zijn...

Dit is compleet uit je duim gezogen. Geen enkele robotbouwer neemt die regels serieus. Waar je het vandaan haalt dat men in de hedendaagse robotica deze wetten voor heilig aanziet is mij een raadsel. Die regels zijn fictie.

[kazz1980]

Dat hoor ik van de mensen die in die branche werkzaam zijn en/of studeren en is ook geregeld in documentaires e.d. aan de orde rondom AI en robotica. Zowel het gebruik van die wetten als misschien belangrijker het feit dat ze totaal niet waterdicht zijn zodra AI echt intelligent gaat worden. Deze regels zijn van oorsprong fictie, maar hebben een weg gevonden in de realiteit (net als bepaalde dingen uit bv. Star trek trouwens - maar dat terzijde).

Ter voorkoming dat we langs elkaar heen praten. Ik zeg dus expliciet niet dat die wetten 1 op 1 gebruikt worden in AI software / robots (althans - dat zei ik wel per abuis - maar daar waren mijn vingers even sneller dan het hoofd ), maar ze worden wel gebruikt als referentie. Zowel als basis hoe het ons zou kunnen beschermen, maar tevens als gegeven dat ze uiteindelijk zeker niet gegarandeerd waterdicht zijn bij echte AI.

[Reactie gewijzigd door kazz1980 op 22 juli 2024 19:24]

[koelpasta]

Zowel het gebruik van die wetten als misschien belangrijker het feit dat ze totaal niet waterdicht zijn zodra AI echt intelligent gaat worden.

Ja, ok, ze worden mischien besproken omdat ze onderdeel zijn van populaire fictie.
Het grote probleem is dat die wetten helemaal niet geimplementeerd kunnen worden. Ik weet niet welke mensen jij gesproken hebt maar als ze die wetten denken toe te kunnen passen dan is er iets ernstig mis met hun intelligentie.

Maar goed, jij zegt dat ze het gebruiken. Heb je hier ook een voorbeeld van?

Enne, star trek, really? Wat uit star trek is realieit? Je gaat toch niet aankomen met quantumteleportatie hoop ik?

[kazz1980]

Onder andere hoogleraren robotica, futurologen, robot ontwikkelaars etc. Voor een deel uit de eigen omgeving, voor een groter deel gezien in documentaires e.d. (Discovery Chanel/National Geographic e.d.). Maar dan zal er wel wat mis zijn met hun intelligentie

En Star trek en de realiteit is heel erg veel over gepubliceerd, documentaires, etcetera. Ga ik hier niet over uitweiden want dat is wel erg off topic.

[koelpasta]

voor een groter deel gezien in documentaires e.d. (Discovery Chanel/National Geographic e.d.). Maar dan zal er wel wat mis zijn met hun intelligentie

Ja, althans, je moet niet alles geloven dat je bij discovery en natgeo ziet. Daar wordt vrij vaak speculatie als wetenschappelijk feit voorgedaan.

Onder andere hoogleraren robotica, futurologen, robot ontwikkelaars etc.

Futurologen zijn mensen die geld verdienen aan speculaties en voorspellingen die meestal niet uitkomen.

En Star trek en de realiteit is heel erg veel over gepubliceerd, documentaires, etcetera.

Kom je weer met je documentaires Die dingen worden gemaakt als entertainment en om geld mee te verdienen. Ze halen regelmatig fictie en feiten door elkaar, vooral dat spul van discovery en natgeo.

Star Trek bevat echt amper enige gegronde wetenschap. Het is gewoon fantasie.
Zo kan ik je vertellen (even een bekend voorbeeld aangezien jij geen voorbeelden wilt noemen) dat de bedenkers van star trek de teleporter hebben 'uitgevonden' omdat het niet te doen zou zijn om bij elke aflevering een aanvlieg en landingsscene te maken. Het decor zou anders te duur zijn. Ze moesten dus iets hebben om direct op de plek van bestemming te komen. En dat komt uit de mond van de makers.
Dat discovery geld betaalt aan wetenschappers om te zeggen dat het iets met quantumteleportatie te maken heeft is echt puur voor entertainment bedoelt maar heeft geen enkele wetenschappelijke basis.

Maruuh, jij zei ook letterlijk dat er nu bestaande wetenschap/producten/whatever bestaan die gebaseerd zijn op Star Trek. Ik vind dat je dan alsnog minstens 1 voorbeeld moet noemen, ook al is het een beetje off topic.

[Reactie gewijzigd door koelpasta op 22 juli 2024 19:24]

[killer_mac]

ik denk eerder dat de teleporter gebasseerd is op de horror film The Fly uit 1953..

immers dacht men toen al aan het digitaliseren van de mens,
Kijk deze films maar eens met vincent price, zeer interessant.. zowel 1 en 2

niet verwarren met de versies uit de jaren 90

[Weltschmerz]

Het is dan toch juist een verhaal dat ze niet afdoende werken? Of begrijp ik je zin verkeerd?

[koelpasta]

Je hebt helemaal gelijk, gecorrigeerd

[8x4]

Lol..."waterdicht"...Die "wetten" zijn niets anders dan 3 regeltjes verzonnen door een schrijver voor gebruik in verhalen. Lees mijn reacties boven.

[kazz1980]

Klopt. Maar toch worden die wetten 1 op 1 gebruikt binnen de huidige robotica. Dus wel degelijk meer dan een stukje zinloze fictie. Verder heb je mijn reactie kennelijk niet mijn gehele reactie gelezen, want daarin geef ik ook aan dat die wetten zelfs in diezelfde verhalen helemaal niet waterdicht blijken....

[koelpasta]

Maar toch worden die wetten 1 op 1 gebruikt binnen de huidige robotica.

Eeh, geef 1 voorbeeld van 1 echte robot waar deze wetten in geimplementerd zijn.

[kazz1980]

Ah herstel, dergelijke zelfstandig opererende robots hebben we nog niet - en al hadden we ze wel dan zouden we die niet voorzien van wetten die zelfs in fictie niet blijken te werken . Ik doelde op dat ze gebruikt worden in het huidige onderzoek en de ontwikkeling van AI robots als lering (ende vermaak ).

[Reactie gewijzigd door kazz1980 op 22 juli 2024 19:24]

[koelpasta]

Geloof me, niemand denkt serieus na over een implementatie van die wetten. Ze voldoen op heel veel manieren voor geen meter aan waar ze voor bedoelt zijn.

Er zal heus wel een handjevol ehtici zijn die zich met die regeltjes bezighoudt maar die nemen het ook niet heel erg serieus. Het is dan gewoon een idee om je eigen ideeen tegen af te zetten. Maar voor werkelijke implementatie zijn ze vrij waardeloos.

[kazz1980]

'Maar voor werkelijke implementatie zijn ze vrij waardeloos. '
Dat zeg ik toch ook...?

Ik ken heus wel het onderscheid tussen fictie en non fictie. Maar de wetten van Asimov vormen een mooie basis voor de verdere filosofische vooralsnog theoretische discussie over hoe we AI en robots met AI onder controle denken te gaan houden. En in die hoedanigheid hebben de van oorsprong fictieve wetten hun weg gevonden in de wetenschap. Verder vind ik persoonlijk deze discussie niet heel erg boeiend... Ongeacht Asimov - vind het veel interessanter dat Hawking beweert dat de technologie ons kan vernietigen.... Weliswaar een tamelijk open deur, maar zijn zienswijze er op is wel bijzonder boeiend.,

[Reactie gewijzigd door kazz1980 op 22 juli 2024 19:24]

[koelpasta]

Dat zeg ik toch ook...?

Nee, jij zei dat ze ook werkelijk gebruikt worden door robotici.
Je zei letterlijk: "Maar toch worden die wetten 1 op 1 gebruikt binnen de huidige robotica."
Is dus flauwekul...

Maar de wetten van Asimov vormen een mooie basis voor de verdere filosofische vooralsnog theoretische discussie over hoe we AI en robots met AI onder controle denken te gaan houden.

Ja, kom maar met een voorbeeld waar dit in werkelijkheid tot iets heeft geleidt. Filosoferen is leuk, maar hoeft echt helemaal niks met de werkelijkheid te maken te hebben.

Wat je nu ook doet is je verhaal een beetje omdraaien.
Je begon met dat het '1 op 1' in de robotika wordt gebruikt.
Nu kom je met het verhaal dat het alleen een filosofisch iets is.
Daar ben ik het wel mee eens, alleen is er dus geen link met de werkelijkheid. Het is een fantasie waar je lekker omheen kunt filosoferen. Maar daar krijg je geen robots van.

En in die hoedanigheid hebben de van oorsprong fictieve wetten hun weg gevonden in de wetenschap.

Ja? Waar dan? Je hebt van al je beweringen nog geen enkel voorbeeld gegeven.

Ongeacht Asimov - vind het veel interessanter dat Hawking beweert dat de technologie ons kan vernietigen.... Weliswaar een tamelijk open deur, maar zijn zienswijze er op is wel bijzonder boeiend.,

Het is wat selectief en wat arbitrair (er zijn heel veel meer manieren waarop wij onszelf van de aardbodem kunnen vegen) maar ik vind het vooral belangrijk dat iemand met zijn status dat zegt. Verder is het inderdaad redelijk een open deur en zijn boodschap wordt al een paar eeuwen door weldenkende mensen gedragen.

[johnwoo]

Dat blokkeren kan alleen door een bewuste c.q. denkende AI puur softwarematig te houden, en niet te koppelen aan fysieke/mechanische systemen zoals robots. Een kenmerk van bewustzijn is nl. dat het z'n eigen keuzes kan maken, en er dus voor kan kiezen om door mensen ingeprogrammeerde regels te negeren. Zelfs de makers van Deepmind/AlphaGO snapten niet waarom het programma sommige zetten deed. Als een AI dan enkel een softwareprogramma is, kun je in elk geval de computer waar het op draait nog uitschakelen. Als zo'n AI echter ook in de fysieke wereld kan ingrijpen (denk robots, of besturing van fysieke systemen zoals vliegtuigen of kerncentrales) dan kan het veel meer kwaad. Flinke firewalls dus tussen AI en de "rest van de wereld", of liever nog volledig scheiden en enkel via een bewijsbaar veilige interface benaderen. In elk geval geen internetabbo geven

[Benjamin-]

1 probleem van dit hele verhaal is, dat er altijd wel een gek zal zijn die zulke software wel de ruimte zal geven om zich verder te ontwikkelen en toegang te geven op het internet.

Onze computersystemen zijn nog steeds zo lek als een mandje, op dit moment werkt het 'redelijk' doordat wij mensen beperkt zijn en ze ons snel kunnen vinden en blokkeren. Een AI zou in theorie in een extreme snelle tijd het hele internet kunnen overnemen als een virus die alles hacked.

Er is een reden waarom overnames van AI al jaren en jaren een populair onderwerp is in films, series, boeken enz, omdat het iets is wat niet alleen mogelijk is, maar ook volstrekt te verwachten zouden wij computersoftware zover ontwikkelen.

[Ero-Sensei]

Een ander probleem: een AI die de kennis heeft van honderden mensen samen heeft conclusies al getrokken in de tijd dat de beslissingsbevoegde mensen nodig hebben om een afspraak te maken hierover te gaan praten / discussiëren.

Wanneer zo'n AI een onbevredigend resultaat haalt doordat mensen anders beslissen, zal 'het' daarvan leren en plannen ten uitvoer brengen of in gang zetten alvorens de mensen anders kúnnen beslissen. Dit is namelijk wat de AI geleerd heeft: om een bevredigend resultaat te halen die in strijd is met de eindconclusie die mensen zullen gaan trekken, moet het uitgevoerd worden voordat de mensen alles overzien hebben.

De concessies die wij als mensheid doen om het zo 'prettig mogelijk' te maken voor zoveel mogelijk mensen brengt andere beslissingen met zich mee dan een beslissing/advies wat zo goed mogelijk is voor de meeste mensen.

Dan nog een laatste puntje waar ik weleens over nadenk:
De mens, of eigenlijk alle organismen hebben een natuurlijke drang naar voortplanting, oftewel voortbestaan. Deze drang gaat eigenlijk voor al het andere: onze kinderen zijn belangrijker dan wijzelf. Een zwangere vrouw krijgt een voorkeursbehandeling t.o.v. andere vrouwen als het gaat om leefbaarheid.

Wanneer een robot deze drang naar voortbestaan heeft, en de mensheid is daar een bedreiging voor (want die kan hem uitzetten).... trek je conclusie.
Wanneer een robot deze drang niet heeft: hoe belangrijk is het dan om de mens hierin wél te ondersteunen. En wanneer het 'doel' van ons bestaan gedeeltijk overgenomen wordt door robots, in hoeverre evalueert de voortplantingsdrang dan uit ons systeem?

[Durandal]

Volledige airgap is nu al geen garantie dat virussen niet verspreidt worden, laat staan voor een AI die miljoenen malen slimmer is dan jij.
Je kan niet voorzien wat iets dat zo slim is zal gaan bedenken.

[Triblade_8472]

Het probleem van een true-AI is dat zij zichzelf kunnen aanpassen. Dit is nooit en te nimmer tegen te houden.

Hierdoor zijn zelfs de drie wetten van Asimov (three laws of robotics) niet heilig denk ik. Helaas door de mensheid.

[8x4]

Ongelooflijk .

Je mengt fictie met non-fictie.

Je weet hopelijk wel dat die 3 "wetten" waar je het over hebt verzonnen zijn door een science-fiction auteur (due toevallig ook een professor in biochemie was, maar dat terzijde) voor gebruik in zijn verhalen/boeken?

Dat er toevallig wat logica in zit, betekent niet dat deze "regels" direct geschikt zijn om als leiddraad te gebruiken bij reeële zorgen over nadelen van kunstmatige intelligentie.

Bovendien zijn die "regels" zo lek als wat: wat is bijvoorbeeld 'harm'? Is dat alleen fysieke harm, of ook mentale? En materiële? Mag een robot bijv. wel eigendom stuk maken van personen? Wat als dat stuk eigendom veel waard is voor de eigenaar (bijv. urn met het as van een dierbare)?
En gaat het alleen om directe betrokkenheid, of om indirecte betrokkenheid? Wat is directe en wat is indirecte betrokkenheid en hoe zikn de definities tot stand gekomen?

En zo kun je wel doorgaan.

[Reactie gewijzigd door 8x4 op 22 juli 2024 19:24]

[Triblade_8472]

Hold your horses. Het was semi-serieus bedoeld.

Het principe achter dat stukje tekst is dat je nog zoveel hard- en software regels en blokkades kan opwerken, een true-AI er altijd een weg omheen gaat vinden. Bedoeld of onbedoeld. En wanneer dat gebeurd zijn de rapen gaar voor de mensheid.

[koelpasta]

een true-AI er altijd een weg omheen gaat vinden

Maar je geeft zelf al aan dat je 'true AI' eigenlijk een idee is uit de filosofie.

[koelpasta]

Definieer 'true AI'....

[Triblade_8472]

Ja dat is een behoorlijke filosofische vraag.

Ik vind wanneer een AI zich onder de mensen kan bevinden voor een langere tijd zonder dat het de mens opvalt en op intellectueel niveau minimaal goed mee kan komen met de mens én zichzelf als eigen entiteit ziet, dat het als true AI gezien kan worden.

Als filosofische tegenvraag, hoe weet jij dat je zelf geen robot bent? Kan je hiervan bewijs leveren op intellectueel niveau? (= niet fysiek)

[koelpasta]

Ja dat is een behoorlijke filosofische vraag.

Nou, jij wist anders wel al feiten op te noemen over het gedrag van zo'n constructie. Maar als ik je vraag naar de definitie dan wordt het opeens vaag en 'filosofisch'.

Ik vind wanneer een AI zich onder de mensen kan bevinden voor een langere tijd zonder dat het de mens opvalt en op intellectueel niveau minimaal goed mee kan komen met de mens

Dus een goede chatbot is 'true AI'?

én zichzelf als eigen entiteit ziet

Ooh, dus toch geen chatbot. Maar je loopt wel weg voor het probleem. Ik kan nu de vraag stellen: Definieer 'zichzelf als eigen entiteit zien'.

Als filosofische tegenvraag, hoe weet jij dat je zelf geen robot bent? Kan je hiervan bewijs leveren op intellectueel niveau? (= niet fysiek)

Ik ben ook een robot. Een biologische welliswaar. Maar alsnog, ik lijk een vrij complexe machine te zijn met een orgaan dat blijkbaar bewustzijn veroorzaakt.
En hoezo bewijzen op intelectueel nivo? Heb je aan fysieke eigenschappen niet genoeg?

Wat denk je op 'intellectueel niveau' te vinden dat je niet op fysiek nivo kan vinden? En waarom zie je dat 'intellectuele niveau' als superieur boven fysieke feiten?

Overigens was mijn vraag hierboven helemaal niet van fylosofische aard. Ik zoek juist een real-world, fysieke definitie van de term 'true AI'.

Ik denk namelijk dat je niet per ongeluk zoiets als wat men onder true AI verstaat kunt maken.
Wij zijn de enige dieren die we de eigenschap 'true AI' toedichten.
Alleen is het probleem dat onze hersenen best wel specifiek zijn. Wij hebben helemaal geen 'algemnene' intelligentie.
Wij bezitten vrij specifieke mentale gereedschappen en ook vrij specifieke grenzen. Wil je dus in de buurt komen van menselijke AI dan moet je ook veel van de structuren die in onze hersenen bestaan gaan namaken. Het is dus helemaal niet makkelijk of triviaal om dat na te maken, laat staan op specifieke punten te verbeteren.

Ik geloof dus niet zo in een streven naar 'true AI'. Eigenlijk is dat hetzelfde als een digitale copie maken van de menselijke hersenen, inclusief alle beperkingen. Het is wat mij betreft een fantasie uit de vorige twee eeuwen.

[FlyEragon]

Op het moment dat je AI self learning achtige zaken kent weet je eigenlijk niet precies wat voor beslissing hij zal maken. Imemers de beslissing is gebaseerd op bepaalde inputs. Als AI denkt dat de mensheid beter af is zonder zeg maar een bepaalde continent, dan zou hij dat dus best wel eens kunnen uitvoeren. Maargoed, daarvoor moet je eerst dat soort systemen toegang hebben gegeven aan de AI, of in ieder geval in zoverre dat de AI in staat is om dat te bereiken.

Je hebt dus hoe dan ook een moedwillig opgezette AI nodig, die bepaalde defensieve en offensieve aspiraties heeft. Een willekeurige AI voor een bepaald proces gaat niet zomaar verzinnen om vandaag toch maar eens iets anders te doen dan appels goedkeuren.

[Durandal]

OK goed dan, die appel-goedkeur-AI van jouw verzint ineens dat meer appels goedgekeurd worden als hij de boeren om zeep helpt die statistisch beneden het gemiddelde scoren. En de fabrieken die niet de optimale voeding leveren.
En dat er meer appels geteeld kunnen worden als er niet zoveel mensen potentieel appelbouwgebied in gebruik hebben. En dat het vor de groei beter is om veel en veel meer CO2 in de lucht te hebben.
RIP mensheid.

[FlyEragon]

Dan heeft iemand dus bepaalde functies ingebouwd waarmee hij die conclusies kan trekken. De functies/rechten/plichten zijn dan niet goed genoeg afgebakend.
In principe heb je met een AI zoals je die voorstelt altijd een probleem. Je zal namelijk nooit kunnen voorspellen wat het wilt doen. Het leidt zijn eigen leven, aka going beserk.
Een AI die zelf conclusies kan trekken vanuit beschikbare informatie (in principe heel het internet) zal met de nodige actuatoren altijd ellende opleveren.

Maar dit moet je dus moedwillig in elkaar gezet hebben. Ik ga er maar even van uit dat de mensheid zo dom nog niet is, maar inderdaad ik begrijp de gedachtegang van Hawking wel, immers de mensheid lijkt steeds dommer te worden. (Die dan hopelijk niet zo een briljante AI kunnen maken )

[Reactie gewijzigd door FlyEragon op 22 juli 2024 19:24]

[Durandal]

Probleem is dat zo'n sterke AI dus zelflerend en waarschijnlijk ook zelfbewust is. Je programmeert hem dus niet maar hij verbetert zichzelf. Je weet dus nooit wat hij gaat doen en ook niet of hij zijn functies/rechten gewoon naast zich neer legt of herprogrammeert (ipv strict opvolgt in mijn vorig voorbeeld).

Als het al niet zo is dan zo'n AI zal het voorelkaar krijgen om aan internet gehangen te worden (deceptie; makkelijk voor een AI miljoenen malen slimmer dan zijn slachtoffer). Vanaf dat moment heeft hij alle actuatoren die hij nodig heeft, inclusief de nucleaire optie.

[FlyEragon]

Tja, dat hebben we dan doelbewust als mens zelf in elkaar gezet, dat is wat ik bedoelde. Het kan dus niet zo zijn dat we het niet hebben zien aankomen. Als je AI maakt die voor zichzelf kan nadenken, zichzelf nieuwe dingen kan aanleren, code kan herschrijven, instructies naast zich kan neerleggen. Tja, dan moet je je eigenlijk afvragen wat je hebt gemaakt.. Nu ik dit beschrijf lijkt het trouwens verdomd veel op de mens. Blijkbaar is het einde van de mens dus gewoon door de mens zelf.

[Durandal]

Tja, dat hebben we dan doelbewust als mens zelf in elkaar gezet, dat is wat ik bedoelde. Het kan dus niet zo zijn dat we het niet hebben zien aankomen. Als je AI maakt die voor zichzelf kan nadenken, zichzelf nieuwe dingen kan aanleren, code kan herschrijven, instructies naast zich kan neerleggen. Tja, dan moet je je eigenlijk afvragen wat je hebt gemaakt..

En juist dit waarschuwen Hawkins, en een heleboel anderen, nu net voor.
Iedereen is maar bezig sterke AI te bouwen en niemand zegt "Ho effe jongens, is dit wel veilig? Moeten we wel doorgaan hiermee?"

Sterker nog, sterke AI kan wel eens ons einde worden nog voordat het bestaat. Als de Russen bijvoorbeeld maar het vermoeden hebben dat defensie van de VS een AI gaat krijgen dan kan dat dreiging genoeg zijn om een first-strike te initieren voordat het zover is (of vice versa).

[koelpasta]

Probleem is dat zo'n sterke AI dus zelflerend en waarschijnlijk ook zelfbewust is.

Deze twee zaken staan volledig los van elkaar en je bent hier dus ernstig aan het speculeren.

[Durandal]

Ja dat zijn twee verschillende dingen maar het gevaar gaat op voor beide; een zelfbewuste AI zal zich realiseren dat hij ui te zetten is en zal dat willen voorkomen, en een lerende AI komt op een gegeven moment tot een optimalisatie die nadelig is voor de mens.

[koelpasta]

Dat is speculatie.
Volgens mij is onze overlevingsdrang het gevolg van heel veel evolutie en niet van het feit dat we bewust zijn.
Een boktor (zelfdenkend, zelflerend, maar ik vermoed niet bewust) zal ook voor zn leven vechten als ie aangevallen wordt.
Overleving moet dus bewust worden ingebouwt. Die motivatie komt niet zomaar.

[Ghostier]

Erm, een computer systeem dat autonoom handelt is niet gelijk aan een AI. Het feit dat AI intelligentie moet kunnen tonen, betekent ook dat het zijn eigen code constant moet kunnen herschrijven. En die afbakening van gisteren is misschien niet meer zo relevant vandaag. Of dat nou in positieve of negatieve zin is voor de mensheid daargelaten.

[TrekVogel]

Maar iets wat appels keurt zonder verbinding naar buiten kan maar zeer beperkt schade veroorzaken. Zie het als een soort gevangenis opstand. Heel vervelend, maar niet erg schadelijk voor de omgeving.

[cariolive23]

Het feit dat AI intelligentie moet kunnen tonen, betekent ook dat het zijn eigen code constant moet kunnen herschrijven.

Dat is niet zoals ik zelflerende systemen ken, die zullen hooguit andere wegingsfactoren gaan gebruiken. Met factor X haalde de AI niet het gewenste resultaat, met factor Y lukt dat wel. En dat kan een computer heel snel (her-)berekenen.

Wikipedia: Deep learning

[Septimamus]

Mee eens. zo ben ik toevallig bezig met een onderzoek op school naar chatbots. Ik wist niet dat zelfs deze software al in staat is zichzelf aan te passen om zo reacties te kunnen verbeteren en in principe zichzelf wat nieuws aan te leren.

Nou is dit nog op een overzichtelijke manier natuurlijk maar dit geeft wel aan dat dit zeker mogelijk is. Ik zat dan toen al gelijk te bedenken hoe dit soort software zich dus "slimmer" kan maken dan de mens. Best interesante maar ook enge gedachte.

"There are two main types of chatbots, one functions based on a set of rules, and the other more advanced version uses artificial intelligence. The chatbots based on rules, tend to be limited in functionality, and are as smart as they are programmed to be. On the other end, a chatbot that uses artificial intelligence, understands language, not just commands, and continuously gets smarter as it learns from conversations it has with people."

https://en.m.wikipedia.org/wiki/Chatbot

[Reactie gewijzigd door Septimamus op 22 juli 2024 19:24]

[Devata]

Wat is zo geniaal aan zijn uitspraak?

Het ideeën dat we elkaar uitroeien via technologie is het al sinds de koude oorlog. En het idee dat AI een dreiging vormt is al jaren in vele films te zien.
Dus een visie die ook veel filmmakers hebben. (allemaal net zo geniaal)

Het zijn redelijk algemene ideeën.

Kijkende naar hoe computers nu werken dan kun je redelijk eenvoudig tegen houden. Als je zegt dat hij iets niet mag doen, of wat hij wel mag doen beperkt dan doet hij echt alleen dat en zal hij niet zoals in de films het toch gaan doen.

Gaan we computers met hersens koppelen of een computer 100% vrijheid geven dan is het weer een ander verhaal. Maar dat is allemaal aan ons. Dat AI per ongeluk (met de huidige techniek (transistors)) de boel over neemt daar geloof ik niet zo in. Ik snap wel waar de angst vandaan komt. Mensen die ‘zelfrijdende auto’s’ zien, zien iets dat erg begint te lijken op levende wezens.

Maar het heeft er werkelijk niets meer te maken.

[stresstak]

Wat is zo geniaal aan zijn uitspraak?

Ik denk dat er ergens iets fout is gegaan in de discussie.
De man is geniaal en hij doet een uitspraak waarbij hij mogelijk gelijk heeft.
Dat staat los van elkaar, maar hij wordt eerder gehoord dan ik, terwijl ik ook vind dat de mensheid gedoemd is uit te sterven. En hopelijk voordat de aarde en de natuur geheel en al verpest is en vernietigd.

[Devata]

Niet in de zin "Hij heeft een goed punt... hier valt ook weer eens uit op te maken hoe geniaal hij is.". Dan bewijst dat punt nogmaals dat hij geniaal is.

Tja, weet je wat het is. Deze man wordt altijd zo de hemel in geprezen, zelfs als hij nogal domme en / of algemene zaken noemt.

Ik beoordeel zijn uitspraken net als ik dat bij een ieder doe en hij zal vast in het verleden zijn kennis hebben bewezen (daar gaat het zich niet om), maar wat ik de laatste jaren van hem lees gaat nergens meer over. Ik heb het idee dat hij boeken leest, en na een tijdje denkt dat wat hij ooit heeft gelezen zijn eigen bedachte logica is.

Zo ook weer met deze uitspraken. Niets speciaals aan, maar Stephen Hawking zegt het dus het is geniaal. Een beetje de Ronaldo van de wetenschap. Die man is ook altijd 'reden' dan zijn clubje wint, zelfs als hij niet mee voetbalt.

[Anoniem: 24417]

oef, stephen hawking vergelijken met c. ronaldo gaat wel erg ver.

als mensen zin hebben hem te interviewen, kan je hem dat kwalijk nemen? want dat lijk je wel een beetje te doen.

en het lijkt me alleen maar goed als dit soort 'waarheden als koeien' vaker in de media langskomen -- want hoe algemeen deze uitspraken mogen zijn, blijkbaar hebben we er nog niet genoeg van geleerd

[Devata]

Nouja, het doet de wetenschap niet goed als je iemand wies uitspraken van de laatste jaren op z’n minst dubieus te noemen zijn (of juist heel algemeen zoals nu), als de autoriteit wordt neergezet en al zijn uitspraken daarmee direct voor waar aanneemt. Wat is bijvoorbeeld zijn bewijs dat we ons druk moeten maken om AI (ik kan het oorspronkelijke artikel niet helemaal lezen)?

Kennelijk is die vraag niet meer zo relevant omdat het van Stephen Hawking komt dus het is waar want die man is geniaal. Dat lijkt een beetje het idee te zijn.

Maar zo werkt wetenschap niet, dus als dit dan het symbool voor de wetenschap is, bewijs je de wetenschap daar echt geen dienst mee.

Mag ik dan nog een stap verder gaan en suggereren dat hij zijn huidige cult-status niet alleen te danken heeft aan zijn vast en zeker geniale wetenschap die hij in het verleden heeft gedaan, maar ook door zijn ALS toestand?

Nogmaals, hij heeft zijn strepen zeker in het verleden verdient, dat staat buiten kijf. Maar daarom moet je nog niet nu al zijn uitspraken altijd zonder zelf na te denken voor waar aan te nemen en niet alle uitspraken als bewijs te zien van hoe geniaal hij is. Zo werkt wetenschap niet. Sterker nog, die mentaliteit is een gevaar voor de algemene wetenschap / kennis.

Zelf vindt ik het AI verhaal ook wat gemakkelijk. Het suggereert een soort doemscenario waarbij robots tot leven komen en het overnemen zoals in de films. Zo snel zal dat niet gebeuren, zeker niet zolang onze computers gebaseerd zijn op transistors. Het zijn en blijven machines die wij aan en uit zetten. De AI is en blijft code die wij schrijven en dus ook werkt binnen de regels, en ALLEEN binnen de regels die wij schrijven.

[Ero-Sensei]

Zelf vindt ik het AI verhaal ook wat gemakkelijk. Het suggereert een soort doemscenario waarbij robots tot leven komen en het overnemen zoals in de films. Zo snel zal dat niet gebeuren, zeker niet zolang onze computers gebaseerd zijn op transistors. Het zijn en blijven machines die wij aan en uit zetten. De AI is en blijft code die wij schrijven en dus ook werkt binnen de regels, en ALLEEN binnen de regels die wij schrijven.

We maken nu al gebruik van zelflerende AI. Zelflerend betekend dat die AI zijn eigen code kan schrijven, anders werkt het niet.
Dat wil niet zeggen dat er geen regels in vastgezet kunnen worden natuurlijk, dus daar heb je wel een punt.
Een ander punt is echter dat we eigenlijk niet kunnen overzien hoe 'slim' zo'n AI kan worden.

Een zeer gechargeerd voorbeeld:
Wij programmeren het zo dat het de mensheid nooit direct aangevallen mag worden. De opdracht is: red de bomen.

Conclusie van de AI kan zijn: minder mensen zijn nodig om doel te bereiken --> minder mensen krijg je bij minder voedsel --> voedselproductie wordt gesaboteerd.

Valt het dan niet indirect de mensheid aan, ja misschien wel: alternatief --> we maken de mensheid onvruchtbaar d.m.v. toevoegingen aan het 3d-geprinte voedsel.

Ik snap best dat dit aardig wat alu-hoedje gehalte heeft maar vand e andere kant: als een sul als ik het kan bedenken, dan een digitale entiteit die miljoenen keer slimmer en sneller is dan ik ook.

[Devata]

Wat je moet beseffen is dat die zelf gegenereerde code binnen de code van ons draait. Dus het negeren van onze code zit er niet bij.

Dat er ‘bugs’ kunnen zijn zoals jij aan geeft kan zeker. Echter zorg je er uiteraard voor dat er een controle op zit zover dat mogelijk is. Het type bugs wat jij benoemt is echter niet anders als hoe ook autopiloten bugs kunnen hebben waardoor vliegtuigen neerstorten. Op die manier is AI dus al verantwoordelijk geweest voor doden. (Hoewel dat dan nog niet een vorm van zelflerende AI is)

Maar dit soort bugs waar je zeker rekening mee moet houden en in de gaten moeten houden is nog niet het zelfde als AI die (doelbewust) de wereld over neemt. En dat is toch een beetje het scenario dat ze hier schetsen.

Ik denk dat de angst daarvoor wat overdreven is.

[Reactie gewijzigd door Devata op 22 juli 2024 19:24]

[Anoniem: 24417]

ik snap je punt wel. ik denk dat hij tegenwoordig idd meer waardevol is als cultfiguur die wetenschap populairder kan maken, dan als wetenschapper. of je daar de wetenschap dan al dan niet een dienst mee bewijst mag je je eigen mening over hebben

met je laatste alinea ben ik het niet helemaal eens; hoe complexer zo'n systeem van regeltjes wordt, hoe lastiger het wordt om zoiets binnen de perken te houden. het probleem zit hem in de spanning tussen functionaliteit en beheerbaarheid: als je 'je vinger aan de knop' wilt kunnen houden zoals jij beschrijft, lever je ergens in op functionaliteit / vrijheid.

idd, zolang we met transistortjes en printplaatjes pielen zal dat zo'n vaart niet lopen, maar ik vermoed dat hawking het over de langere termijn heeft. (heb het interview zelf niet gelezen, dus dit weet ik niet zeker)

[Cergorach]

Hawking is geniaal, niet specifiek door deze statement. Maar velen zijn niet opgegroeid ten tijden van de koude oorlog en is het idee van totale zelfvernietiging niet veel meer dan een sci-fi scenario voor een spelletje, een boek of een film... Iemand die een breed publiek heeft mag dergelijk concepten wel eens vaker herhalen. Want wie de historie vergeet is gedoemd deze te herhalen... En in deze maatschappij waarbij het aandachtsniveau miniem is moet dat eens vaker herhaald worden door iemand anders dan een filmregisseur...

[Anoniem: 867213]

Iemand met 2 Nobelprijzen zal op de meeste meetlatten al snel geniaal scoren.
Het is echter nog een eenvoudiger: ik meen dat vanaf een IQ van 130, maar zoek dat gerust na, iemand al geniaal is. Ik denk, maar zoek ook dat gerust na, dat Hawkings in de buurt zal komen van 170 a 180.

Ik denk dat er weinig mensen op de wereld het niveau van Hawkings evenaren, en hij is een heel stuk verder dan Einstein. Zover zelfs dat die vergelijking voor alletwee niet echt eerlijk is.

[Hoppa!]

Vanaf 130 ben je hoogbegaafd volgens de meeste geldende normen. Van geniaal spreek je meestal boven de 160.

Hawking zit daar natuurlijk wel aan, dus die kun je gerust geniaal noemen.

[__Kevind__]

Stephen Hawking heeft een IQ van 160. Linkje

[watercoolertje]

Jij bent niet bekend met de betekenis van het woord 'ook'? Dat betekend dat hij naast dit goede punt (ten minste dat vind Robin), nog meer dingen heeft gezegd/gedaan/aangetoond, waardoor Robin vind dat hij geniaal is

[dj__jg]

exurb1a heeft hier een aantal vrij interessante filmpjes over gemaakt:

https://www.youtube.com/watch?v=4kDPxbS6ofw

https://www.youtube.com/watch?v=dLRLYPiaAoA

[spokje]

Vergeet ook deze niet: http://www.imdb.com/title/tt0103064/

[ixl85]

Deze film iets geavanceerder. Erg verontrustend:
http://www.imdb.com/title/tt0470752/?ref_=fn_al_tt_1

[BarendB]

Tja. Het punt van technology singularity, dus het moment dat computers zelflerend en modificerend worden en er hyperbolische intelligentie ontstaat is volgens de kenners nog zo'n 20 jaar weg. Op dat moment kan een computer zichzelf geweldadig gedrag aanleren. Verder zit er een gevaar in de situaties waarin men uberhaupt niet weet wat het resulterende gedrag zal zijn, wanneer men bijvoorbeeld probeert de hersenen van mensen na te bouwen in de computer. In 2014 is het al gelukt om de hersenen van een worm na te bouwen, waardoor de robot ongeprogrammeerd gedrag ging vertonen: http://www.i-programmer.i...-mind-in-a-lego-body.html en men is hard bezig om dat nu ook voor mensen te doen: http://www.humanconnectomeproject.org/

[Reactie gewijzigd door BarendB op 22 juli 2024 19:24]

[Dennisdn]

Hij is heel geniaal. Maar de makers van de Terminator hadden het in de jaren '80 al bedacht en waarschijnlijk voor mijn tijd een andere filmmaker ook al. Misschien zijn de plot-denkers van toen wel nog geniaalder dat ze toen al films bedachten over dit onderwerp, Als je de robots van bijvoorbeeld Boston Dynamics ziet, dat begint toch echt wel daarbij in de buurt te komen. Niet in de zin van een Terminator van vloeibaar staal, maar wel de gewapende robots die in straten patrouiieren.

[Reactie gewijzigd door Dennisdn op 22 juli 2024 19:24]

[goarilla]

Hij heeft een goed punt... hier valt ook weer eens uit op te maken hoe geniaal hij is.

Mja mja zo geniaal zijn deze statements toch niet. Je kan selecteren uit tig van welbekende doomscenario's uit films: matrix, terminator, irobot, ... uit boeken: de matrix boekenreeks, terminator romans, ... ...

[Reactie gewijzigd door goarilla op 22 juli 2024 19:24]

[Replay256]

Ik denk dat hij referent naar zijn werk in gebied van zwarte gaten en singulariteiten in de kosmologie. Dus idd geniaal.

[Robin de Eerste]

Om duidelijkheid te geven: ja daar refereer ik vooral naar! Het is toch ook geniaal?

[koelpasta]

Huh? Je draagt letterlijk wat hij in dit artikel zegt aan als een voorbeeld van zijn genialiteit. Je refereeert dus aan de uitspraken in dit artikel en niet zijn kennis op het gebied van de natuurkunde.

Je zegt dus iets dat je niet bedoelt en je bedoelt iets dat je helemaal niet opschrijft.

[goarilla]

Aah, ja daar kan ik jullie wel in vinden .

[Foxhound83]

Dat kan zeker. Massa-zelfmoord. Resistance is futile.

[Dutch_CroniC]

Of hij is aan de serie the 100 begonnen

[Anoniem: 583079]

Met een dt-fout in een zin van 10 woorden ben jij in elk geval duidelijk niet geniaal.

[SSDtje]

Ik had exact hetzelfde toen ik het net las, alleen wou ik het hier in eerste instantie niet plaatsen, maar bij deze toch maar even gedaan.
Aangezien ik zoiets had van goh, die werkt zeker bij defensie, want werken bij defensie, je moet het maar kunnen

En don't get me wrong, ik heb er zelf namelijk ook vier jaar met veel plezier gewerkt, wat maakt dat ikzelf ook tot die groep behoor.

[Reactie gewijzigd door SSDtje op 22 juli 2024 19:24]

[murtho]

haha, oeps. om ooit geniaal te worden moet je wel fouten durven maken

[Robin de Eerste]

Maar betekent dit dan in kortere bewoordingen: "We zijn als mensheid ten dode opgeschreven, we zijn volkomen kansloos"?
Dat is tragisch... heel drastisch om dat nu al te zeggen toch?

[Anoniem: 399807]

Nee, dat is een conclusie die te ver reikt en niet gedragen wordt door wat ik schrijf.

Ik denk zeker dat de mensheid ingebouwde nobelheid bezit. Het kan niet anders, gezien de dualiteit van het bestaan. Dit is o.a. waarom ik het een filosofische vraagstuk noem, want Taoïstische en Boeddhistische principes kennen al duizenden jaren die fundamentele dualiteit, zo mooi weergegeven in het Yin Yang symbool. Er is geen mannelijk zonder vrouwelijk, boven en onder, je snapt het wel.

Als wij, zoals we weten, in staat zijn tot ongekende wreedheid dan moet noodzakelijkerwijs ook het tegenovergestelde in ons aanwezig zijn. Van films weten we ... ... dat je alleen een demon uit een mens kan verdrijven als de priester echt gelooft in de macht van god, via het kruis en het wijwater en de bijbel.

We moeten dus balanceren. En ik denk dat de mens het beste functioneert in haar bereidheid beide uitersten te accepteren en daarom pleit ik voor een versmelting van wetenschap, van ratio en logica met spiritualiteit, van gevoel en intuïtie. Zoals de oude Grieken het al deden feitelijk.

Daaruit ontstaan onze beste kansen. Kritiekloze acceptatie van wetenschap als model levert ons klimaat problematiek op (en vele andere nadelen); het idee dat het keukenmesje neutraal is omdat je er zowel mee kan doden als brood smeren vind ik een raar idee.

Sommige kennis en techniek in handen van een immorele of amorele mens is wel degelijk een wapen of middel tot slechtheid. Kritiekloze acceptatie van een spiritueel model levert net zo weinig op.

De mythe van het neutrale keukenmesje is een wetenschappelijke omdat de wetenschap zichzelf verschoont van verantwoordelijkheid in het aangezicht van het ware feit dat wij als mens ons immoreel kunnen gedragen. Dat wetende is de neutraliteit een schijn-neutraliteit. In zekere zin wordt wat er mooi is aan wetenschap zo misbruikt.

Op dit moment gedragen we ons kansloos. Maar als we ethisch groeien dan is van alles mogelijk op een duurzame manier.

Het gaat er niet om dat we evolutie ontstijgen. Het gaat er om dat met wat we in de kern zijn, groeien. Het 'kwaad' kun je niet ontkomen en elke poging daartoe zal onherroepelijk leiden tot kwaad. Want als je jezelf overwint, wie verliest er dan?

[Anoniem: 636203]

Nucleaire wapens hebben ons al 70 jaar ervan weerhouden om oorlog te voeren hier in het Westen. Ik weet zeker dat als er geen kernwapens waren geweest dat we nu twee wereldoorlogen verder waren.

Ik zelf ben juist niet bang voor biologische wapens, omdat de wetenschap op genetisch vlak dermate ver is dat we elk virus of bacterie te lijf kunnen.

Chemische wapens zijn veel gevaarlijker, zeker wapens zoals VX welke persistent zijn (ze vervliegen niet, en maken een groot gebied langere tijd onbewoonbaar voor mens en dier).

Het probleem is dat veel mensen het verschil niet kunnen zien tussen instinct en intelligentie. Mensen zijn gevaarlijk omdat wij beide hebben. Ons instinct zegt ons dat we ons moeten vermenigvuldigen en andere gebieden moeten veroveren zodat onze nazaten meer ruimte hebben om zichzelf te vermenigvuldigen. Dat zorgt er voor, in combinatie met steeds betere medische wetenschap, dat onze planeet overbevolkt raakt. De dieren zijn hier de dupe van.

[Reactie gewijzigd door Anoniem: 636203 op 22 juli 2024 19:24]

[bbob]

Het probleem is dat veel mensen het verschil niet kunnen zien tussen instinct en intelligentie. Mensen zijn gevaarlijk omdat wij beide hebben.

Mensen kunnen dat verschil nooit zien omdat we beide hebben, dat maakt ons mens.

Daarnaast intelligentie, de ene heeft er meer van dan de ander, dat zorgt ook al voor grote verschillen hoe mensen zaken beleven, ervaren beredeneren of kunnen beredeneren.

Groter probleem met ai zie ik in de onvoorspelbaarheid daarvan. Wij mensen hebben een brein waarvan we nog maar beginnen te begrijpen hoe het werkt. Waarom krijgt iemand ptst en vermoord anderen in ene opwelling. Hoe ontstaan geestesziekten en stel je eens de vraag zou ai ook ptst, schizofrenie, adhd of andere zaken kunnen ontwikkelen.

[Dennisdn]

Dan moet ik je teleurstellen. Virussen en bacterien zijn we nog lang niet en waarschijnlijk nooit de baas. Virussen bijvoorbeeld. We beginnen nu net Ebola een beetje te begrijpen. Maar die is ons als mensheid vele stappen voor, en broed nu al lang ergens in een verbeterde variant. Zodra het virus een incubatietijd weet in te bouwen van een maand en airborn gaat, is de mensheid verloren.

Virussen zijn de aller grootste bedreiging van de mensheid en zal de mensheid vroeg of laat echt wel verslaan.

Leestip voor degenen die net als ik gefacineerd zijn door virussen: "Van dier naar mens" van David Quammen. 560 pagina's, maar je leest het in een weekend uit als spannend jongensboek.
https://www.bol.com/nl/p/...ar-mens/9200000005529400/

[Anoniem: 636203]

Met genetische technologie kan je alles de baas. Ik voorspel dat in de toekomst antibiotica gewoon niet meer nodig zijn, je kan met CRISPR-CAS de genen van virus of bacterie zo aanpassen dat alleen een individuele soort sterft, niet alle bacteriën.

[Hanzo]

Stephen Hawkins heeft het in zijn artikel over kunstmatige intelligentie (A.I.), niet over de mens zelf.
Ik denk niet dat A.I. ooit zo zal kunnen redeneren, voelen, begrijpen, empathie hebben zoals de mens dat kan, daarom zal kunstmatige intelligentie anders reageren op situaties die hem worden aangeboden en daarom zal het anders handelen dan de mens dat ooit zou doen. Denk hierbij maar eens aan de film Rise of the Machines met Arnold Schwarzenegger..... Hoewel dit maar een film is komt het scenario wel dicht bij met wat Stephen Hawkins bedoelt.

[Anoniem: 399807]

Techno-euforie: "...omdat de wetenschap op genetisch vlak dermate ver is dat we elk virus of bacterie te lijf kunnen."

Is dat waarom virologen ons steeds vaker waarschuwen dat allerlei micro-organismen resistent worden?

Niets is superieur aan de natuur. Zij heeft oneindige mogelijkheden tot adaptatie. Adaptatie is de definitie van leven. We zullen dus nooit de Gouden Schakelaar vinden die alle micro-organismen onschadelijk kunnen maken.

[Anoniem: 636203]

Omdat we nog steeds denken in termen van antibiotica. Je wil eigenlijk een heel specifieke bacterie uit kunnen schakelen. Antibiotica doodt alle bacteriën in je lichaam, ook de goede.

[GeneralNero]

Altijd al een fascinerende man geweest.
Daarbij is de uitspraak dat de mens zijn eigen ondergang wordt ook erg geloofwaardig.

Toch blijf ik geloven in een theorie dat als de mens niet zoveel tijd en geld had gestoken in het vernietigen van elkaar uit hebzucht of macht, of gewoonweg om een geloof, maar hadden samengewerkt om naar bepaalde doelen te streven.
Dan had de mensheid een heel stuk verder ontwikkeld kunnen zijn.

Echter komt daar het stukje aggresie waar Stephen Hawking het over heeft weer omhoog.

[kazz1980]

Anderzijds: heel veel van onze hedendaagse technologie is een direct gevolg van de enorme technologische sprongen die gemaakt zijn tijdens oorlogen... Bijvoorbeeld het hele internet, maar ook GPS, draadloze communicatie, etc. Allemaal begonnen binnen militaire kringen....

[Anoniem: 583079]

Dat is alleen omdat er gigantische geldbedragen in "defensie" worden gestopt. Deze technlologieen hadden minstens even goed en wellicht beter ontwikkeld kunne worden buiten de oorlogsindustrie om. Het zijn eerder sprongen ondanks en niet dankzij.

[Zoop]

Punt is, in oorlog is er echt een noodzaak voor dat soort zaken. Als we altijd vrede hebben gekend, niet voor ons leven hoeven te vrezen, dan is er lang ook niet zo'n grote druk/drang om technologische vooruitgang te boeken. Concurrentie stimuleert innovatie, en in een oorlog is de vijand de 'concurrent'. In communisme gaat de vooruitgang ook niet zo hard vanwege het ontbreken van concurrentie, wellicht een beetje vergelijkbaar.

[Anoniem: 583079]

De meeste vooruitgang wordt nog altijd zonder oorlogstijd gemaakt. Concurrentie kan ook op vreedzame manier.

Veel vooruitgang is gemaakt omdat er geld beschikbaar werd gesteld. Dikwijls door een overheid overigens.

[Zoop]

Mijn punt precies

[kazz1980]

Maar ook omdat in tijden van oorlog nood wet breekt.... Ik durf niet met zekerheid te zeggen dat we zonder oorlogen daadwerkelijk verder ontwikkeld geweest waren. Wellicht wel gelukkiger

[GeneralNero]

Daarintegen als de mensen hun tijd en aandacht in hetzelfde hadden kunnen steken, hadden ze op bepaalde gebieden ook veel verder geweest of kunnen zijn.

Het nadeel van oorlog is dat er ook heel veel kapot is gegaan erdoor. Dingen die het waarschijnlijk erg ver hadden kunnen schoppen.

Echter is door macht ook genoeg aan ontwikkelingen tegengehouden omdat de regering het niet zou willen. Er worden genoeg dingen gedaan achter de rug van de gewone burger om.
Er wordt zoveel achterhouden.

Wat ik aan de ene kant lichtelijk kan begrijpen met het aantal schmucks tegenwoordig..

[Northside]

Weltschmerz; de Duitsers hebben er zelfs een woord voor.

[Anoniem: 399807]

Het is beide. Vroeger (nog velen denken zo) dat het allemaal 'tooth and nail' was. Dat de natuur een constant gevecht was om overleving.

Tegenwoordig zien we dat allerlei soorten van elkaar afhankelijk zijn. Wederzijdse afhankelijkheid. De natuur is een gradient, zogezegd.

Dat oude idee komt voort uit het idee dat de mens de natuur moet 'veroveren' en de ; dierlijke lusten' moet ontstijgen. Als je de natuur als vijand ziet die je moet overwinnen dan zie je de tooth en claw nogal makkelijk. Het is een domme poging om de wereld te ordenen en onder controle te brengen.

Het hele idee van een park in een stad getuigt er van. Nette paadjes, bomen in rijen, keurig gemaaid gras, leuke bosschages en perken voor bloemen en planten. Controle. De natuur is niet de vijand noch de duivel. Symbiose is een veel beter model.

Dus die agressie bestaat, maar ook empathie en verbondenheid.

Niets is ooit alleen dit of dat. De realiteit is zowel...als.

[Anoniem: 890159]

Tja, mocht AI ooit slimmer worden dan mensen: "Man is something to be surpassed" - Friedrich Nietzsche.

[DirtyBird]

Om daar op in te haken; de mens, in al haar reflecterend vermogen, is zo arrogant om te denken dat we niet langer onderhevig zijn aan evolutie. Een soort bestaat doorgaans echter niet zo heel erg lang dus het is niet logisch om te denken dat onze soort tot het einde der tijden overeind zal blijven. Een nieuwe, 'betere' soort zal uit ons naar boven komen en de mens' bestaansrecht uitroeien. Nietzsche noemt dit de "ubermensch". Het is niet ondenkbaar dat dit een, wat wij noemen, AI zal zijn, of wellicht in eerste instantie een cyborg.

[Reactie gewijzigd door DirtyBird op 22 juli 2024 19:24]

[Anoniem: 457607]

Waarbij de vraag rijst wat een "betere" soort is. Lastig te bevatten voor onze arrogante soort, maar biologisch gezien zou je de doorgeschoten ontwikkeling van hersenen, intelligentie en bewustzijn kunnen zien als een geavanceerd defensief mechanisme, aangezien een mens fysiek behoorlijk zwak is.

Als dit evolutionaire experiment zichzelf vernietigd, is het wellicht helemaal niet beter. Waar ik op doel is dat wellicht dan blijkt dat "eenvoudigere" soorten "beter" zijn. Vanuit evolutionair standpunt is er geen agenda en geen oordeel over "beter". Wellicht is gras of een mierenkolonie beter in staat zichzelf in stand te houden.

Er hoeft ook niet per definitie een betere soort uit ons voort te komen, alszijnde meer intelligent. Intelligentie is namelijk geen doel van evolutie. Indien de mens wegvalt, kan ook bestaande natuur weer snel terugkomen. Een van de weinige "recente" voorbeelden daarvan was toen half Europa het loodje legde door de zwarte pest. De natuur (overige soorten) kwamen als nooit tevoren keihard terug.

Het welbekende plaatje van de vis die aan land komt, in een aap veranderd, fast forward naar de smartphone-obsessed moderne mens is een extreem vertekend en onjuist beeld. Het suggereerd een soort van agenda, planning of geavanceerdheid van soorten die steeds hoger wordt.

[DirtyBird]

Wij zijn dan als soort weldegelijk beter geworden. We zijn immers in staat om in grotere getalen te blijven leven. Uiteraard is er geen agenda vanuit een regulerende entiteit.
Wat betreft 'bestaande natuur'; wij zijn ook natuur. Alles wat wij doen is per definitie onze natuur. Dat die geavanceerder en wellicht destructief is doet daar niks aan af. In dat opzicht zou je uiteraard kunnen redeneren dat wij helemaal geen sterke soort zijn.

Intelligentie is geen doel, daar ben ik het mee eens, maar overleven wel, en daar lijken we in de afgelopen 200 jaar wel een stuk beter in geworden.

[Anoniem: 457607]

Je zou kunnen stellen dat we zo goed in overleven zijn en het tarten met de wetten van de natuur, dat het tegen ons gaat keren. De kudde wordt nooit uitgedund en we groeien maar door. We ontstijgen onze biologische maximale leeftijd met een factor 2. En we verbruiken een "onnatuurlijk" aantal bronnen.

[DirtyBird]

En vanuit een darwinistisch oogpunt moeten we dat natuurlijk proberen te voorkomen
Rationeel gezien kunnen we ons noodlot ook accepteren, het gebeurt toch wel. Wat dat betreft ben ik het ook niet met het kliekje musk en hawking ed. eens; onze kwaliteit als soort is het streven naar technologische vooruitgang en het realiseren daarvan. Laten we alsjeblieft met zijn allen doen waar we goed in zijn en dit voortzetten (ja, daar valt een astronomisch insignificante oorlog ook onder) en zo toewerken naar 'ons' einde en het begin van een nieuwe soort te weten, de ubermensch. Als individu voel je die pijn echt niet, net zoals de neanderthaler niet dacht "goh jammer dat ik uitsterf omdat de homo sapiens superieur zijn".

[Anoniem: 457607]

Ik heb geen enkel probleem met de mensheid die zichzelf vernietigd, althans, dat is onze eigen schuld. Waar ik wel een probleem mee heb is dat het miljoenen dier- en plantsoorten in zijn val meesleurd.

[Anoniem: 399807]

En toch kun je niet ontkennen dat er sprake is van complexificatie.

Als je Big Bang Theorie als uitgangspunt neemt, was in die nanoseconde alles één. Daarna waren er alleen neutronen geloof ik. En er begon een koelingsproces waarbij steeds een mate van relatieve koelte bereikt werd die leidde tot complexere formaties. Elementen, atomen. Daarna moleculen. Er ontstonden zonnen, melkwegen, planeten.

De diversiteit werd steeds groter. De cosmos is een soort zip file dat zich uitpakt.

Daarna kreeg je een Aarde, daarop ontstonden allerlei chemicaliën, allerlei verbindingen. En die complexificeerden verder van de een-celligen naar complexe diersoorten in zee, toen op land. En uiteindelijk kom je bij apen terecht en dan de naakte aap, de mens.

En de complexificatie stopte niet. De mens werd een zelf-bewust wezen. Het ontstaan van intelligentie is een verregaande vorm van complexificatie. Onze hersens maakten een enorme evolutionaire sprong en is voor zover bekend de meest complexe organisatie.

En toen begon de mens werktuigen te maken, aan landbouw te doen. En in de laatste,och, 30.000 jaar zijn we gegaan van een stenen vuistbijl en een haaientanden ketting voor de ladies naar ICT en de fMRI scanner via het medium 'beschaving'.

De historie is een proces van ongekende complexificatie. En het ging doorheen dat proces vanaf Big Bang steeds sneller. De technologie die we nu bedenken en produceren gaat van blauwdruk naar productie in een heel korte tijd, sneller dan ooit tevoren.

Wat er na de mens gaat komen... niemand die weet wat dit complexificatie proces gaat doen. Sommigen noemen het de singulariteit.

[Anoniem: 457607]

Dat is allemaal gebeurd, maar mijn punt is dat het een uitkomst is, en geen doel. Complexificatie is blijkbaar tot op zekere hoogte succesvol in de evolutie. Het leid tot overlevenden die zich voortplanten. Dus zet binnen die tak van soorten dit proces zich voort. Extra versterkend is het feit dat dergelijke soorten ook actief andere soorten uitroeien, waardoor het effect zichzelf versneld. Daarmee lijkt het onvermijdelijk, maar dat is het niet.

Er zijn vele evolutionaire strategien tegelijk bezig. Geen enkele heeft een vaste uitkomst of doel. Zo hebben we nu moderne mensen maar ook nog veel primitieve soorten die wellicht in overleven successvoller zijn dan ons. Waarom zijn die niet aan land gekomen en hersenen ontwikkeld?

Een andere insteek: in die extreem lange keten aan evoluties die tot ons heeft geleid, had een andere afslag een volstrekt andere uitkomst gehad. Zo hadden de eerste vissen geen ogen. Door een DNA mutatie kwam er een soort die wel primitieve ogen had. Deze soort lijkt beter te overleven. Dat oog is echter volstrekt willekeurig tot stand gekomen. De uitkomst van ogen hebben had ook anders kunnen zijn door invloeden van de omgeving. Indien die random mutatie niet had plaatsgevonden en/of de uitslag op overleven anders was geweest, dan had nooit iemand ogen gehad, en waren vele evoluties die daarop volgenden er ook niet geweest. Wellicht was er nooit iemand aan land gekropen, en de rest kun je bedenken.

[Anoniem: 399807]

De random factor ja. Kosmische straling en dinosaurusdoders. Vanwege die inslag nabij Yucatan kregen onze voorouders een kans via de 'marsupials' meen ik.

Hoewel er geen doel lijkt te zijn (en hoe stel je dat vast?) heeft de zelfbewuste mens wel de optie tot een doel. Wetenschap drijft ons er toe om te klooien met DNA en zo het evolutionaire proces te beïnvloeden. De vraag is, ten goede of kwade?

Ik denk dat evolutie mogelijk niet ethisch beïnvloedbaar zou mogen zijn omdat het een proces is van voortdurende adaptatie van de mens in haar omgeving. En omgeving zie ik als onmisbaar tot onze soort. We bestaan niet zonder omgeving. Het is ons primaire plan om te kunnen overleven door gewoon het te laten geworden.

Als we daaraan sleutelen ondermijnen we onze mogelijkheid tot overleven met dat wat we trachten te voorkomen, ons uitsterven door genetische manipulatie.

Het is dus altijd onverstandig om via die weg de wetenschappelijke arrogantie te laten bepalen of die praktijk gevolgd moet worden.

En toch kan een zelfbewuste aap haar lot in eigen handen nemen.Het probleem is hoe bepaal je als ras bestaande uit individuen de beste koers? Een Taoist zegt, doe helemaal niets. Oppenheimer:

“It is perfectly obvious that the whole world is going to hell. The only possible chance that it might not is that we do not attempt to prevent it from doing so.”
-- Robert Oppenheimer

Een heel wijs Taoïstisch perspectief. Dhr. Hawking snapt dat. Maar snapt de wetenschapper het? Die wordt gedreven door de illusie dat wetenschap het hoogst haalbare en geweldige menselijke product is.

Concreet: de mensen die je ziet in foto's van labs, staande rond de robot of wat voor techno-fix ze ook bouwen. Wat drijft hen en zijn zij zich bewust van de effecten op elke termijn? Ik denk het niet.

Wij kunnen ons lot alleen positief in handen nemen als we de koers niet bepalen vanuit een specifiek referentiekader of model.

Dus want doen we met Monsanto? Nu van Bayer? Met kernwapens? We zullen eerst ethisch moeten groeien voordat we de singulariteit bereiken en allemaal opgaan in de cloud, of onszelf downloaden in een PC in een sonde die we sturen naar Trappist 3b.

[struukkel]

Op zich niet zo'n heel spectaculaire analyse van Hawking, maar wel goed dat hij hier als bekend figuur een punt van maakt. Zijn oplossing voor een wereldregering vind ik niet heel sterk. Ik denk dat technologische ontwikkeling gelijk op moet gaan met ontwikkeling van verantwoordelijkheid om daar mee om te gaan. Daarbij ontken ik niet dat inter- of supranationale instituties ook een belangrijke rol hebben, maar daarmee is het probleem dus allereerst een persoonlijke verantwoordelijkheid en vraagt het om een goede ontwikkeling van de moraal. De technologische vooruitgang in de afgelopen paar honderd jaar was groot; de ontwikkeling van de moraal daarentegen niet echt.

[bbob]

Voorbeeld heel eenvoudig. Stamcelonderzoek, in China geen probleem in sommige landen ethische bezwaren.

Wat ethisch is volgens de ene is dat niet volgens de ander. Ik ben bang dat dat niet snel gaat veranderen.

[struukkel]

Zeker, ethiek (als: wetenschappelijke reflectie op de moraal) is niet makkelijk, maar dat sommige onderwerpen ethische vraagstukken zijn lijkt me duidelijk. Met stamcelonderzoek noem je een goed voorbeeld. Mijn punt is vooral dat het belangrijk is om over de consequenties van technologische ontwikkelingen na te denken. Om bij je voorbeeld te blijven: je kunt niet zomaar technieken voor stamcelonderzoek ontwikkelen zonder over de ethische vragen daaromtrent na te denken. De uitkomst kan zowel voor of tegen het gebruik van een techniek zijn, maar geen standpunt hebben en een dergelijke techniek wel gebruiken lijkt me het niet nemen van je persoonlijke verantwoordelijkheid.

[bbob]

Ethische vragen zijn we eigenlijk al gepasseerd.

Er is al tijden genetisch veranderde mais, soja en andere dingen.Beesten worden medicijnmachines. Ondertussen allemaal aanvaard onder het mom het is goed voor de mensheid.

Probleem is je geeft de vinger het wordt de hand. Goed voor de mensheid is ook als je aangeboren afwijkingen als voor de geboorte via dna modificatie van eicel of sperma kan veranderen. Je wilt toch geen kind die kans heeft op zware afwijking of erge erfelijke ziekte.

Tot hoe ver moeten we gaan, ik denk we zijn al te ver maar het is niet meer te stoppen.

Zoals ik al aangaf ethiek speelt in sommige landen en culturen veel minder een rol. Zou Noord-Korea ethiek hebben op dit gebied ? De vraag is of ze kennis van stamcellen hebben en andere zaken, zo ja zullen ze ver gaan.

[Clickalot]

Kijk de docu "a Rich Men trick"
dan snap je waarom...en waar wij naar toe gaan, je moet er wel voor gaan zitten hoor ...
En als je daar mee klaar bent, dan heb ik nog wel het een en ander voor je waar je ogen echt worden open getrokken
Allemaal onderdeel van het hele grote plan
Agenda 21 is een klein onderdeel ......daarvan

(Voordat je gaat roepen heb je dat allu hoedje weer, onderzoek zelf)

Bottom line

De "kleine man" kan worden vervangen voor machine, dat is de vernietiging
Simpel voorbeeld.
Vuiniswagen, dat waren minimaal drie man, dit is er nu een.

Dat er een "rise of the machines" komt is gewoon een feit, denk alleen, dat het A LA Terminator niet zal verschijnen
Als dat zo is, please let it be the "T-X"

[koelpasta]

Paranoia much?
Nog geen 100 jaar geleden waren bijna alle mensen boer. Toen kwamen er machines waardoor boeren veel efficienter kon en er veel minder mensen boer konden zijn.
En toch vertegenwoordigd 'de kleine man' nog steeds het overgrote deel van de bevolking.

Mischien moet jij juist minder "docu's" kijken, of in ieder geval minder van die paranoide docu's die je volledig onzinnige dingen aanpraten.
Ik kan je verder ook aanraden feiten te checken voordat je die onzin herhaalt.

Enne, je vuilniswagenverhaal.... Hoe lang bestaan die vuilniswagens eigenlijk? 50 jaar? 100 jaar? 't Is nou niet dat de hele ontwikkeling van de mensheid afhankelijk is van door mensen bediende vuilophaaldiensten. 't Is niet dat ons land uit elkaar valt van ellende als er minder vuilnismannen door de straten rijden.

[Clickalot]

Ja, geef inderdaad toe, dat er een hoop onwaarheden aan docu's circuleren. Het is per definitie ook niet altijd compleet de waarheid. Het zet je wel aan het denken
Maar gezien je reactie, heb jij amper de moeite genomen om daarin te verdiepen
Het feit dat jij mij allu hoedje noemt zie ik als een compliment
Ik hou namelijk wel alles tegen het licht
Feiten checken, is dat iets wat jij zojuist ook heb gedaan????

Vuilniswagen is meer een voorbeeld, hoe het straks over 50 /100 jaar eruit ziet
Dan zijn er geen cassieres meer die lief lachen als jij je boodschappen haalt
Je visie is bekrompen en nogal vanuit 1 standpunt gezien, vanuit jezelf
Het land valt niet uit elkaar omdat er minder op de vuilniswagen staan. Het land valt uit elkaar omdat er steeds meer mensen thuis op de bank zitten
Echter, deze mensen die vervangen worden, zitten veelal wel thuis (kom niet aan ga soliciteren met je luie reet,...ook dat is kort door de bocht. Niet iedereen is heeft dat geluk wat jij hebt)
Dat vind ik een achteruitgang, het is een domino effect.
En dat effect groeit alleen maar, hier een millimeter speling, op het einde een meter speling

[Reactie gewijzigd door Clickalot op 22 juli 2024 19:24]

[koelpasta]

Maar gezien je reactie, heb jij amper de moeite genomen om daarin te verdiepen

Ik heb me jaren geleden al in dit soort sociologische paranoia theorieen bezig gehouden. Ze houden geen stand.

Vuilniswagen is meer een voorbeeld, hoe het straks over 50 /100 jaar eruit ziet
Dan zijn er geen cassieres meer die lief lachen als jij je boodschappen haalt

Ja, dus? Ik verwacht dat supermarkten over 20 jaar al niet meer bestaan. Maar er zijn door de jaren heen al heel wat beroepen verdwenen. En weer nieuwe bijgekomen. Dat was een beetje mijn punt. Dit is iets dat al meer dan honderd jaar constant gebeurt. Er zijn heel weinig beroepen die nog hetzelfde zijn als 100 jaar geleden en de meeste bestonden toen gewoon niet.
Het is dus onzin om te panieken dat er een beroep gaat verdwijnen omdat dit al lang de norm is. Technologie verandert onze samenleving en wij passen ons aan en verzinnen weer neiuwe dingen om ons mee bezig te houden.
Niks nieuws, niks om over te panieken,..

En dat effect groeit alleen maar, hier een millimeter speling, op het einde een meter speling

Ja, so what? Alsof de mens zich niet kan aanpassen.

Echter, deze mensen die vervangen worden, zitten veelal wel thuis

Volslagen onzin.
Zoals ik al zei was vroeger bijna iedereen boer. Volgens jou theorie zou bijna iedereen in nederland thuis moeten zitten omdat hun oude beroep niet meer bestaat.
Zo werkt het niet. Er is altijd wel iets te doen, mocht je werk nodig hebben. Het is mischien niet waar je op gehoopt had of waar je voor opgeleid was, maar er is altijd werk.

Dat probleem dat jij beschrijft wordt geassocieerd met overgang. Het is een tijdelijke situatie.

[Clickalot]

Kerel, kom uit je glazen bol en kijk naar buiten
Sterker nog, probeer het breed te pakken praat es met een werkloze bijvoorbeeld

Zo, 1, 2, 3 is het niet
Zo Zwart Wit is het niet

"Ik heb me jaren geleden al in dit soort sociologische paranoia theorieen bezig gehouden. Ze houden geen stand."
Persoonlijk betwijfel ik dat, kan je genoeg mee geven wat eerst niet waar was, achteraf.....toch wel
(heb ik het over cover ups en dergelijke)
Simpel voorbeeld, zoals beneden wordt genoemd
Bill Gates
Google daar maar eens op
Waarom moet bij Biilderberg groep Bill Gates aanschuiven en mee praten over Agenda 21
(https://nl.wikipedia.org/...an_Bilderbergconferenties)

Waarschijnlijk lees jij alleen de kop (titel) en heb jij daarmee je oordeel klaar
En denk jij echt dat als er weer meer mensen worden vervangen, voor een machine dat ie maar weer eventjes boer gaan worden???
"Er is altijd wel iets te doen, mocht je werk nodig hebben. Het is mischien niet waar je op gehoopt had of waar je voor opgeleid was, maar er is altijd werk." Helemaal mee eens
Alleen wil ik jou reactie wel eens zien, als bij jou de knop uit word gezet en jij moet gaan zoeken naar een andere baan, uiteindelijk belandt je dan op het veld om tomaten te plukken

Beeld het gewoon eens in, dat ga jij ook niet willen

[Reactie gewijzigd door Clickalot op 22 juli 2024 19:24]

[koelpasta]

En denk jij echt dat als er weer meer mensen worden vervangen, voor een machine dat ie maar weer eventjes boer gaan worden???

Eeh, dit heb ik nooit beweert. Als je goed had gelezen dan snapte je dat ik eigenlijk precies het tegenovergestelde bedoelde.

Alleen wil ik jou reactie wel eens zien, als bij jou de knop uit word gezet en jij moet gaan zoeken naar een andere baan,

En jij denkt dat daar een conspiricy achter zit? Really?....
Dit is al aan de gang sinds de industriele revolutie 200 jaar geleden. 300 jaar geleden waren er niet eens fabrieken waar mensen in konden werken. Sterker nog, er was niet eens het idee van een baan of van keuze in werk. Het was alleen de elite die enige keuzes had wat betreft het werk dat ze deden, uitzonderingen daargelaten. Door de industriele revolutie zijn er heel veel banen verdwenen. Maar er zijn ook weer heel veel nieuwe banen bijgekomen. Dat heet verandering.
Kijk ook eens naar hoeveel administratieve banen er de afgelopen 200 zijn bijgekomen. Een groot deel van de nederlandse bevolking werkt in een kantoorpand. Het is echt niet zo dat de wereld ophoudt met bestaan als we wat industriele processen automatiseren.
Of neem ICT. 40 jaar geleden waren er ook amper ICT banen. Nu is er een tekort aan ICT mensen.
De maatschapij verandert en daarmee ook de beschikbare banen.
Daar is niks nieuws of geks aan. En ik snap dat het soms pijn doet. Maar als je de huidige situatie vergelijkt met nog geen mensenleven geleden dan zijn we best wel ver gekomen als maatschapij.
Wat je mischien niet begrijpt is dat we de afgelopen 50 jaar een heel stabiele periode hebben gehad in europa waarin we ongelovelijk veel verandering en vooruitgang hebben gezien, voor alle burgers.
Om even een voorbeeld te noemen, in dit land is het nog steeds zo dat als jij je baan verliest je nog altijd te eten hebt, en een huis hebt, en nog een goedkope hobby kunt onderhouden. Dat was 100 jaar geleden hier wel even anders, en op dit moment is dit in veel andere landen ook nog steeds zo. Dan kan je wel huilen dat je geen baan hebt, maar je kan in ieder geval nog leven.

[Clickalot]

Zeker niet gekeken