Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Hoogleraren boycotten Koreaanse universiteit om onderzoek naar 'killer robots'

Meer dan vijftig hoogleraren uit allerlei landen die zijn gespecialiseerd in onderzoek naar robotica en ai, boycotten een Koreaanse universiteit. Dat doen ze omdat de instelling zou werken aan de ontwikkeling van 'killer robots'.

In een brief stellen de hoogleraren dat de Zuid-Koreaanse onderzoeksuniversiteit KAIST samen met het Koreaanse defensiebedrijf Hanwha Systems werkt aan ai-technologie voor militaire wapens, waarmee de universiteit volgens de professoren is begonnen deel te nemen aan wereldwijde competitie voor de ontwikkeling van autonome wapensystemen. De wetenschappers maken zich hier grote zorgen over en zeggen de universiteit te boycotten totdat de directeur hen ervan heeft overtuigd dat er geen autonome wapens worden ontwikkeld waarbij een betekenisvolle menselijke controle ontbreekt.

De vele hoogleraren, waaronder Antal van den Bosch van de Nijmeegse Radboud Universiteit en Maurice Bruynooghe van de KU Leuven, stellen dat autonome wapens, ook wel 'killer robots' genoemd, een derde revolutie in oorlogsvoering teweeg kunnen brengen, mede omdat ze het mogelijk maken om sneller en op een grotere schaal oorlog te voeren. Ook zijn de professoren bang dat ze in verkeerde handen vallen en bijvoorbeeld door dictaturen of terroristen tegen onschuldige burgers worden gebruikt. Men is van mening dat killer robots een doos van Pandora zijn die moeilijk weer is te sluiten als deze eenmaal is geopend. De hoogleraren vinden dat de mensheid er ook voor kan kiezen om de autonome wapens simpelweg niet te ontwikkelen en roepen KAIST op dat pad in te slaan.

Er bestaan al langer zorgen over de ontwikkeling van 'killer robots'. Zo hebben bestuurders van bedrijven die zich bezighouden met kunstmatige intelligentie en robotica, in augustus vorig jaar een open brief gestuurd aan de Verenigde Naties waarin ze waarschuwen voor deze wapens en de organisatie oproepen in actie te komen. Onder de bestuurders bevond zich onder meer Elon Musk van Tesla en SpaceX. In 2015 waarschuwden Human Rights Watch en de Harvard Law School ook al voor de gevaren van autonome wapens, waarbij werd gepleit voor een verbod.

Door Joris Jansen

Nieuwsredacteur

05-04-2018 • 10:08

109 Linkedin Google+

Reacties (109)

Wijzig sortering
Zoiets als dit: https://www.youtube.com/watch?v=9CO6M2HsoIA bijvoorbeeld geeft een interessante indicatie hoe AI ingezet kan worden.
Dacht gelijk ook aan dat filmpje.
En denk zelf dat het een groot probleem wordt als je dit zelf kan maken.
Stel je voor dat je dit kan maken met 3D printers. Dan kunnen er veel problemen ontstaan.
Ik zelf vind het heel lastig om te denken hoe je de samenleving er uit moet ziet om veilig te zijn.
Zie steeds verschillende dingen dat 1 persoon veel schade/dode kunnen veroorzaken en ben heel erg voor privacy maar als het mogelijk is dat 1 persoon veel kan veroorzaken dan is het voor mij erg lastig dat je er niet onderuit kan dat iedereen wordt gecontroleerd. Je hoeft maar even verkeerde gedachten hebben als je onder invloed bent of verward zijn, dan kunnen er al gekken dingen gebeuren. Misschien een vb net als die schietparty bij Youtube hoofdgebouw.
Heb er vaker over na gedacht maar het is volgens mij heel erg moeilijk om een midden weg te nemen tussen privacy en controle. Want hoe China met hun puntensysteem is zou ik zelf niet graag hebben. Zou eerder voor zijn om apparaten te reguleren of zo iets

[Reactie gewijzigd door Calamor op 5 april 2018 11:09]

Privacy is een vrijheid en je gaat voorbij aan het feit dat door het ontnemen van vrijheden er meer van deze potentiele individuen komen die solo grote groepen schade willen toebrengen.
Door het indammen van vrijheden gaan we toe naar een wereld met steeds meer gefrustreerde individuen waarvan sommige door zouden kunnen slaan en/of geronseld kunnen worden door militante groeperingen.
Het middel draagt dan bij aan de kwaal.
Het probleem is dat we nu al deze groeperingen hebben en door heel veel pijn moeten om dit te neutraliseren, echter door het probleem in te perken met regels die andere individuen hun rechten ontnemen is een stap in de verkeerde richting.

De etterende wond openmaken gaat er een stuk lelijker uitzien dan er maar een verbandje overheen plakken met een pijnstillend middel dat de rest van de huid ook ziek kan maken.
Het grootste probleem is dat de wereld overbevolkt raakt. Hierdoor worden wat jij al aangeeft deze beperkingen opgelegd cq aangedragen. Dit komt mede door dichtbevolkte gebieden, macht hebbers en misbruikers.

Naast dit is AI de meest slechtste uitvinding, men kijkt niet naar de gevolgen van evolutie van AI. Wij zullen er nooit controle over krijgen. Er moet ten aller tijde een kill switch ingebouwd worden.
Overbevolking + onvrede.

Het probleem is dat welvaart niet eerlijk wordt verdeeld in de wereld. En nu via TV en Internet is dat duidelijk voor de rest van de wereld. Een fractie van die lui zullen radicaliseren maar een fractie van belachelijk veel mensen is nog steeds een hele hoop..
In communistisch Rusland was ooit ieder inkomen gelijk, geloof niet dat mensen daar nou gelukkig van werden
gelijk, als in 1984 :(
Zo, spijker, kop, ik wil jouw post wel een +5 geven.

Door mensen te onderdrukken komen ze in opstand. Dat is niet alleen in het midden oosten zo, dat is idd ook in het westen zo.
Vrijheden komen en gaan door de geschiedenis heen. Aan de ene kant hebben mensen een diepe behoefte aan vrijheden, aan de andere kant willen ze geleid worden. Het is niet voor niets dat zoveel landen die ooit een dictatuur waren, vervallen in chaos op het moment dat er opeens vrijheid is. Dat zijn ze niet gewend, dat gaat te snel en het heeft tijd nodig voor men ermee om kan gaan.
Andersom geldt dat ook. Neem iemand als Hitler, die van een redelijk vrij Duitsland toch binnen een jaar of 15 een dictatuur van de ergste soort heeft kunnen maken.

Wat ik hiermee bedoel te zeggen is: privacy is NU een vrijheid, maar of dat het ook over 15, 20, 50, 100 jaar is?
Relax! We kunnen al heel lang wapens maken in de schuur en tot op heden nog geen Apocalypse...

Zelf vuurwapens kunnen we al veel langer maken dan dat er 3D printers zijn. En voor 'drones' hadden we ook al radiografisch bestuurbare helikopters en vliegtuigjes waar je ook al zelfgemaakt explosieven ik kwijt kon...

En zoals we in Nederland ook al hebben gezien kan je met kwade bedoelingen en een auto ook heel veel schade aan brengen... En dat we met vliegtuigen heel veel schade kunnen aanbrengen weten we ook al sinds 11 september 2001... Oh, wacht, dat wisten de Japanners (en de Amerikanen) ook al 55-60 jaar eerder met praktijkervaring...
Het hele verschil is alleen dat we die wapens niet voorzien van een zelfdenkend brein met de intelligentie van een kleuter van 4 en het vermogen om extreem snel te leren.

We maken misschien al sinds mensenheugenis wapens in de schuur, maar tot op heden heeft niemand nog een laser op een haai vast geknoopt en daar zal vast een goede reden voor zijn geweest.
Het hele verschil is alleen dat we die wapens niet voorzien van een zelfdenkend brein met de intelligentie van een kleuter van 4 en het vermogen om extreem snel te leren.
Je bedoeld de gemiddelde volwassene (intelligentie van een kleuter)...
We maken misschien al sinds mensenheugenis wapens in de schuur, maar tot op heden heeft niemand nog een laser op een haai vast geknoopt en daar zal vast een goede reden voor zijn geweest.
Been there, done that:
https://www.wired.com/2012/05/wicked-lasers-shark/
oprecht angstaanjagend
Tof filmpje, thanks.
Lol, ik hield dit jaren terug al voor een mogelijkheid aan. Goed om te zien dat er meer aandacht aan besteed wordt.
Is deze ontwikkeling uberhaubt tegen te houden vraag ik mij af.
Ik zie niet in waarom het niet kan. Het is net zoals bij veel verboden wapens een afspraak. Naast chemische, biologische en kern wapens zijn ook vlammenwerpers niet meer geaccepteerd voor oorlogvoering tegen alles behalve onkruid.
Zelfs als de technologie er is kan het eenvoudig verbonden worden. Natuurlijk zal er zo af en toe een (Rus)land zijn die zich niet aan de afspraken hoedt, maar overtredingen moeten hard en streng gestraft worden.
Toch houden die kernwapens, waar afspraken over zijn, ons nog dagelijks bezig. Daarbij kun je trouwens de discussie voeren over of dat slecht is. Ik denk dat kernwapens een enorme bijdrage leveren in het voorkomen van een derde wereldoorlog. Al decennia lang.

De wereldorde is zich opnieuw aan het settelen met een China dat zich nadrukkelijk roert en waar schijnbaar eindeloze resources zijn om zaken te ontwikkelen. Geloof maar dat die zich letterlijk niets aantrekken van welke regels van de VN dan ook op dit vlak. Misschien voor de bŁhne, maar dat is dan ook alles.
Een toevoeging hierop is dat Chinezen een compleet andere kijk hebben op moraal dan wij in de Westerse wereld en dus compleet anders kijken naar ontwikkelingen op dit gebied.

De enige redding die de mensheid op dit gebied heeft is verregaande globalisatie waarbij landen zo economisch verweven zijn dat externe destabilisatie altijd zal lijden tot interne destabilisatie en val van welk bewind dan ook.

Technologische progressie is al decennia de snelheid van de mentale vooruitgang van de mensheid voorbij en daarmee de ontwikkeling van ethiek en wetgeving om technologische ontwikkelingen en hun gevolgen tegen te houden.
Maar daar loert juist het gevaar. China is die verwevenheid aan het opzoeken en zo aan het sturen dat zij op dat vlak de touwtjes in handen beginnen te krijgen. Handelsbalansen met vrijwel alle economische machten zijn al in hun voordeel, ze zijn voor vrijwel alle grondstoffen zelfvoorzienend of bezig om dat te worden en ook op technologisch gebied zijn ze allang niet meer afhankelijk van kopiŽren. Daarnaast zijn ze in rap tempo bezig met het kopen van strategische posities in het Westen (bedrijven, maar ook (lucht)havens. En vergis je daarbij niet: elke rijke Chinees die hier iets koopt, elk Chinees bedrijf dat hier een overname doet...het is allemaal overheid gestuurd en onderdeel van het plan naar werelddominantie.

Tel daar bij op een potentie tot het grootste leger ter wereld en, inderdaad, een bijzondere normen en waarden set.... Nou goed, ik maak me meer zorgen om China dan om welk land dan ook.

Misschien dat bovenstaande voor sommige zal lezen als aluhoedjes-gedachten, ik hoop echt dat ik het overdrijf.
Ik denk dat het een reeŽl aluhoedje is. De vraag is, hoeveel machtsdrang hebben de chinese leiders? Gaan ze territoriaal doen?
Een toevoeging hierop is dat Chinezen een compleet andere kijk hebben op moraal dan wij in de Westerse wereld en dus compleet anders kijken naar ontwikkelingen op dit gebied.
Het is niet zo zeer dat ze andere waarden hebben, meer dat het overgrote gedeelte van traditionele Chinese cultuur en waarde is vernietigt / verloren gegaan tijdens de culturele revolutie waardoor er daar nu een achterstand is op dit gebied.
Geen waarden/normen is ook anders dan hier... Overigens hebben ze daar wel degelijk de nodige van die wormen en waerden, alleen lijken die zelden op de Balkenendiaanse versie die wij kennen. De waarde van een mensenleven wordt over de hele wereld anders bepaald, en ik weet niet of wij em wel juist zien. Het lijkt mij voer voor een grote globale discussie, maar die gaat denk ik pas komen zodra er noodzaak voor is (lees: die waarden geschonden worden op grote schaal).
Volgens mij hebben we als mensheid die waarden/normen al gedefinieerd in de Universele Verklaring van de Rechten van de Mens. En dan nog gaat iedereen er anders mee om.
En het handhaven daarvan blijkt in de praktijk ook niet lekker te werken. Alleen al in de VN Veiligheidsraad is dat duidelijk te zien. Als Rusland of China geen veto uitspreekt bij een resolutie doet een van de andere permanente leden (USA, UK) dit wel. En zelfs als ze het eens zijn is handelen nog steeds niet doortastend.
Het is net zoals bij veel verboden wapens een afspraak.
Dat soort afspraken worden anders om de haverklap geschonden. Als het niet is door die wapens daadwerkelijk in te zetten, dan is het wel door continue onderzoek te blijven doen naar dat soort wapens.

Er is bijvoorbeeld een internationaal akkoord dat clusterwapens niet toegestaan zijn, maar toch heeft bijna ieder land met een beetje luchtmacht clusterwapens in zijn arsenaal.

Wanneer een wapen technisch of theoretisch mogelijk is, en het praktisch inzetbaar is, zal er zo lang er geen zinnig alternatief voor bestaat onderzoek naar gedaan worden.
Zelfs als de technologie er is kan het eenvoudig verbonden worden.
Het probleem is dat dat soort reguleringen alleen maar op UN-niveau ingevoerd kunnen worden. Door de manier waaop de UN georganiseerd is, met landen met veto-recht in de veiligheidsraad, kunnen dat soort afspraken alleen maar doorgevoerd worden op vrijwillige basis. De landen met veto-recht kunnen in principe doen en laten wat ze willen, evenals hun bondgenoten.

[Reactie gewijzigd door houseparty op 5 april 2018 11:12]

Landen ontwikkelen zulke wapens toch wel inderdaad, met de aard van de mensheid (uiteengevallen fracties, niet met je eigen soort kunnen opschieten.) kun je 't risico niet nemen dat een ander heimelijk iets ontwikkelt en jij niet.

Verdragen daargelaten zijn deelnemers alsnog bezig met chemische, biologische en kernwapens te ontwikkelen/verbeteren (recent nog Rusland met een beter systeem om nukes op Amerika/wereldwijd te kunnen gooien en de VS heeft nog niet zo lang geleden een nieuw leversysteem voor nukes getoond, suborbital, binnen 20-30 minuten waar dan ook ter wereld.), want mocht er onverhoopt een grote oorlog uitbreken dan interesseert niemand zich meer voor de regels, dan is 't survival en dan heb je die dingen en verdedigingen ervoor of je hebt ze niet en dus gaat iedereen heimelijk verder met "voorbereid" zijn, verdragen of niet.. O.a. daarvoor bestaat 't principe van classified/geheimhouding :') Niet alsof de VN inzicht krijgt in wat bv de VS heimelijk ontwikkelt. Durf een jaarsalaris te wedden dat ze nog nieuwe chemische en biowapens hebben ontwikkelt sinds het "verbod" :')
Je "mag" ook geen dirty bombs gebruiken of dirty kogels met verarmd nucleair materiaal er in, desondanks werd Irak ermee bezaait door de VS tijdens de laatste oorlog.

We zijn al wat laat hiermee imho:
US Mechatronic autonomous sentry gun, MIDARS, Autonomous rotorcraft sniper system en Franse Dassault nEUROn autonome combat UAV bv zijn er al of in vergevorderde ontwikkeling en dat is alleen wat in de openbaarheid is gebracht.

Links, google. Beetje veel dan moet ik een waslijst aan links plaatsen.
Er is bijvoorbeeld een internationaal akkoord dat clusterwapens niet toegestaan zijn, maar toch heeft bijna ieder land met een beetje luchtmacht clusterwapens in zijn arsenaal.
Logisch. Je kunt met 2 of 3 landen al een "internationaal akkoord" afsluiten, maar dan heb je nog 190+ landen die dat akkoord niet hebben ondertekend. En het akkoord over clusterbommen is zo'n voorbeeld van een akkoord met een beperkt aantal deelnemers. Dat is simpelweg niet bindend voor de overige landen.

Bij chemische wapens ligt het anders, daar is de brede consensus dat ze illegaal zijn, en zelfs zo verwerpelijk dat ze extern ingrijpen rechtvaardigen. AI is tot nu toe vooral gangbaar in geleide wapens, en op zich geaccepteerd. Dan ga je niet zo gauw naar een brede consensus op een verbod.
Bij chemische wapens ligt het anders, daar is de brede consensus dat ze illegaal zijn, en zelfs zo verwerpelijk dat ze extern ingrijpen rechtvaardigen.
En toch zijn het vooral de landen die om het hardst schreeuwen wanneer een ander die wapens heeft (of inzet) die zelf gewoon onderzoek doen naar die wapens en de inzetbaarheid ervan, en ze ook nog eens hoogstwaarschijnlijk in hun arsenaal hebben. Landen als de USA, Rusland, China, Frankrijk, Groot BritanniŽ, voorop. Laat staan de vele andere landen op de wereld.

Extern ingrijpen in die context is meestal de hypocrisie ten top. Het draait er niet om wie die wapens heeft, maar meer om wie men niet wil dat die wapens heeft. Het draait meer om internationale belangen en politiek dan dat het draait om het voorkomen van de proliferatie van dat soort wapens. Wat dat betreft geldt voor chemische/biologische wapens dus hetzelfde als voor nucleaire wapens.
Op zich mag je onderzoek doen naar dat soort wapens, mits voor beschermingsmaatregelen. Maar de OPCW voorziet expliciet in inspecties, in verschillende soorten en maten. Het idee is dat zulk legitiem onderozek streng gecontroleerd wordt, en geen ander illegaal onderzoek plaatsvindt.

Het idee dat zulke wapens zelfs in het arsenaal van de strijdkrachten terechtkomen is niet zo aannemelijk. De meest waarschijnlijke aanname is dat alle grote landen een noodplan hebben hoe binnen X dagen dat soort wapens geproduceerd kunnen worden. Er zijn genoeg bestaande chemische fabrieken die vergelijkbare chemicaliŽn maken, en die gevorderd kunnen worden voor militaire doeleinden.
Beetje propaganda napraten om Rusland hier expliciet te noemen. Er zijn meer landen die draaien op wapengekletter en hun eigen normen hanteren. Enkele voorbeelden:
  • Landen die clustermunitie-verdrag niet ondertekenden: China, Turkije, India, IsraŽl, Pakistan, Rusland en de Verenigde Staten.
  • Landen die landmijnen-verdrag niet ondertekenden: Rusland, China, Irak, Iran, Cuba, de Verenigde Staten, India en IsraŽl.
  • Landen die hebben opgegeven chemische wapens produceren: Bosnia and Herzegovina, China, France, India, Iran, Iraq, Japan, Libya, Russia, Serbia, Syria, United Kingdom, United States.
Waarom denk je dat het verbieden van ai zal gebeuren? De enige landen die daaraan meewerken zijn landen die een achterstand hebben opgelopen.
Fun fact als toevoeging op bassekeNL:
In 2002 wilden Irak en mogelijk zelfs Libie controles toelaten en hun chemische wapens wegdoen, maar de United States stak daar een stokje voor door het ontslag af te dwingen van de toenmalige directeur van de OPCW (de organisatie die toeziet op chemische ontwapening.)

Mijn punt is dat met een klein beetje meer moeite en beetje minder tuig aan het roer van de VS het lijstje van landen met chemische wapens al 15% korter was geweest. Zulke verdragen tegen een bepaald type wapen zijn geen silver bullet maar ze helpen misschien wel. Turkije heeft geen gifgas ingezet tegen de Koerden, tel uit je winst.

AI zal wel lastiger te reguleren zijn, handhaven dat spullen (grondstoffen voor gif, gevechtsvliegtuien etc) niet in de verkeerde handen vallen is toch een stuk simpeler dan handhaven dat informatie niet in verkeerde handen valt.
Mijn 2 ct.
Lijkt mij inderdaad sterk, malafide organisaties gaan het onderzoek toch wel doen, dan heb ik liever dat overheden die te vertrouwen zijn het onderzoek ook doen.
Ligt natuurlijk aan je definitie van malafide organisaties. Het is niet echt het gebied van de mafia bijvoorbeeld. Maar ik eet mijn stoel op als bijvoorbeeld een DARPA geen onderzoek hiernaar doet. En natuurlijk niet alleen de Amerikanen, ik ga er ook vanuit dat de Chinezen hier onderzoek naar doen, en de Russen zeker ook (al hebben die misschien wat minder budget er voor als de andere). Ook India zie ik niet achter blijven

Ik ben eerder een beetje 'bang' dat Europa beste jongetje van de klas gaat zijn en straks als enige achterblijft zonder autonome wapens. En ik zie dit niet als iets wat je tegen kan houden, en heb dus liever dat als toch iedereen ze heeft, dat wij ze ook hebben.
dan heb ik liever dat overheden die te vertrouwen zijn het onderzoek ook doen.
En wat als de overheid niet meer te vertrouwen is? Uit het artikel:
bijvoorbeeld door dictaturen of terroristen tegen onschuldige burgers worden gebruikt
Een "overheid die niet te vertrouwen is" zal zich toch niks aantrekken van de regeltjes....
Overheden veranderen om de haverklap. Eentje die nu te vertrouwen is kan vervangen worden door eentje die niet te vertrouwen is of andere bedoelingen heeft.
Er is geen enkele overheid die ik voldoende vertrouw om zich met dit soort zaken bezig te houden.
Ik persoonlijk vertrouw onze huidige overheid voor geen cent. En dat heeft alles te maken met hoe ze met hun eigen burgers omgaan. Dat voorspeld weinig goeds als het om de burgers van een ander land gaat...
En ik heb net zo weinig, of minder, vertrouwen in de overheden van allerlei andere staten, waarbij ik geen onderscheid maak tussen bevriende naties, of landen waar we een wat bekoelde relatie mee hebben.
Kijk voor de grap even naar de VS, twee jaar terug zat daar Obama en nu die mafketel van een Trump.
Nee dank je.
Malafide?
Is een kwestie van programmeren.

Tzt zullen bedrijven met relatief simpel werk meer en meer robotica inschakelen. Een beetje medewerker kost al gauw 40k,
3 ploegen, weekend, pauze, vakantie, toeslagen,
dan heb je het al over factor 5.
Een beetje robot die half zo productief is en 50k kost kun je binnen een jaar afschrijven.

Guns don’t kill people, people do.

Maar de grote vraag is wat je kunt en moet doen als die dingen in grote getallen worden geproduceerd. Een robot van 50k lijkt veel, maar het budget van veel legers gaat grotendeels naar salaris.
Nee. Er zal altijd een land bezig zijn met deze ontwikkelingen en andere landen om dit weer te kunnen counteren. De US of A, Rusland, China zullen ongetwijfeld al druk bezig zijn met "killer" robots.

[Reactie gewijzigd door ShellGhost op 5 april 2018 10:14]

Is een beetje zoals het ging in de Koude Oorlog en biologische oorlogsvoering. Ze hadden allemaal de conventies getekend om nooit biologische wapens te maken/gebruiken, maar iedereen deed het toch omdat ze er van uit gingen dat de andere het ook deed.

Gaat ook zo worden met killer robots, er komen wel regels die het ontwerp/design verbieden, maar dan doen ze het nog steeds omdat ze er van uit gaan dat de andere het toch wel doen. Een beetje self-fulfilling prophecy allemaal, wederzijdse wantrouwen.

En daarnaast is het lastig om er ook nog eens regels voor te maken. Wat valt onder een 'killer robot' en wat valt er onder een drone? Want er bestaan al autonome drones die rondvliegen, en er is vast al wel technologie en software die het mogelijk maakt voor deze drones om zelf hun targets te kiezen, met hooguit iemand achter een bureau die op Yes/No klikt.

In een oorlogssituatie lijkt het me nog makkelijker, een drone kan dan vast makkelijk een vijandige tank onderscheiden van een vriendelijke, en een vijandige tank van een onschuldig bestelbusje. Dus in zulke situaties kan je zo'n drone al helemaal zijn eigen gang laten gaan zonder (veel) oversight.
De spijker op zijn kop

Het zou me zelfs verbazen als er niet al software is ontwikkeld en klaar staat om de huidige (Amerikaanse) militaire drones autonoom te laten opereren op het moment dat daar toestemming voor word gegeven. (bijvoorbeeld in oorlogssituatie)
Stond er in ťťn van de Snowden files niet dat men al een keer een mac-adres of IMEI nummer van een telefoon had gebruikt om een drone of raket te geleiden.
Maar wat als de "vijand" een tankbataljon kaapt van een tegenstander? Hoe ga je die dan onderscheiden van de "goeden"?
En kaapt moet je lezen als hacken. :) Dan is niks meer hetzelfde namelijk. Alle vaste punten zijn dan in eens variabelen geworden.
Dat is dan ook de oorlogsvoering van de toekomst. Het platleggen of zelfs overnemen van de oorlogstuigen van de andere, het mes omdraaien en hem in de buik van de messentrekker duwen.

Maarja, dat is natuurlijk allemaal near-future praat, en met hoeveel informatie er word verzonden zou het best wel mogelijk te zijn om te zien dat een drone zich niet correct gedraagt omdat iemand heeft zitten morrelen in zijn base code. Het is dan de kunst om zo'n drone te stoppen voordat hij zich omdraait en gaat richten op zijn robot-kameraden.

Daarom zie ik oorlogsmachten ook nooit volledig digitaal worden. Een mens met een wapen is misschien fysiek kwetsbaar en 'onvervangbaar', maar die kan altijd nog kritisch denken en hoeft niet bang te zijn dat iemand zijn hersenen overneemt. (Of we moeten Metal Gear achtige nanomachines krijgen! :+ )
Het is ook zo dat als oorlogsvoering volledig digitaal en gerobotiseerd wordt, het geen nut meer heeft omdat er geen slachtoffers gemaakt worden maar alleen schroot.

Dan loopt er dus niemand meer gevaar en heeft de hele oorlogvoering geen nut meer, of de doelwitten veranderen naar targets van vlees en bloed.
tuurlijk heeft het dan nog "nut" land in nemen bijvoorbeeld
En waarom zou een regering land af gaan staan (innemen betekent immers dat de ander het afstaat) als er alleen robots over het terrein zwerven?

Vroeg of laat zijn die robots er alleen om mensen te beschermen: Regeringsleiders, of mensen die belangrijk werk doen. Die mensen zullen altijd (indirect) doelwit blijven en de robots staan alleen maar in de weg.

Een pure robot-on-robot warfare zal het nooit worden, want dan kun je net zo goed een hele oorlog virtueel uitvechten in een videogame.
En waarom zou een regering land af gaan staan (innemen betekent immers dat de ander het afstaat) als er alleen robots over het terrein zwerven?
Grondstoffen?
Volledig gerobotiseerde oorlogsvoering draait om het vernietigen van de productiecapaciteit van je tegenstander. Dan worden de fabrieken en/of grondstoffen van je tegenstander de doelwitten.
Mensen zijn ook best goed te beinvloeden met onder andere propaganda. Ze zullen wellicht zelden direct de wapens op hun buren richten, maar spionage danwel massaal deserteren is ook vervelend.
Is deze ontwikkeling uberhaubt tegen te houden vraag ik mij af.
Misschien wel, als je Sarah Connor of John Connor wil worden, moet je die de ontwerpers en fabrikanten van oorlogsrobots tot oorlog verklaren. Schakel ze uit voordat jullie uitgeroeid worden.
Onze lieve heer (of wie ons designed heeft) had eerst nog wat revisies moeten maken voordat hij ons op deze bol neerzette.. :P

Onze oorsprong/absolute begin is sowieso al fout, had nooit mogen plaatsvinden vanaf dag 1 al niet... O-) :Y)

[Reactie gewijzigd door Audione0 op 5 april 2018 12:57]

Op langer termijn niet, ethiek legt het op den duur altijd af tegen geld en macht.

Al zouden de huidige AI wetenschappers niet zwichten, toekomstige kunnen dit wel.
Vergeef mijn cynisme, maar in de politiek werkt het juist andersom. Zodra er geld en macht te verdelen valt worden ethiek en principes vaak snel overboord gegooid.
Denk het niet, dit is openbaar maar wie weet wat er achter de schermen allemaal gebeurt
Enorm makkelijk*. Door er geen onderzoek naar te doen.

* voor de onderzoekers op de KAIST dan.
Nee. Per definitie niet. Hooguit kun je door een enorm taboe er voor zorgen dat je het iets afremt, maar er zullen altijd landen zijn die doorgaan met de ontwikkeling. Door het boycotten van bedrijven en universiteiten die zich hiermee bezighouden maak je het in ieder geval iets lastiger om dit soort zaken te ontwikkelen.

Daarmee vertraag je de wapenwedloop iets, maar dat zal uiteindelijk niet zo veel uitmaken. Landen als de VS, Rusland, de beide Korea's en China zullen het onderzoek nooit staken en hebben genoeg resources en connecties om uiteindelijk gewoon dit soort wapens in omloop te krijgen.

Kan niet goed aflopen wat mij betreft. Tenzij een vredelievende AI voor die tijd de macht op onze planeet heeft overgenomen.
helemaal niet - sterker nog, is reeds al in productie en operationeel.

Samsung heeft de SGR-1 ontwikkeld; dat is een autonome dronegun welke de grens bewaakt.
Ding werkt volledig automatisch, beschikt over diverse sensoren en scopes. Kan iemand tot ~3km uitschakelen.

zie model en filmpje van device in werking
Die maakt niet echt een "beslissing" though, het is meer een stomme sensor met een "kill all" order. De beslissing is dus al genomen, ik zie dat meer als een slimme landmijn.
Nee, als een overheid het niet doet doet een of andere hobyist het wel, het is natuurlijk levensgevaarlijk en heel slecht enzo, maar hoe vet is het wel niet om zo'n ding rond te zien rijden. Het zijn robots ťn explosies ťn dikke wapens, ik vind het best gaaf (doch ook nogal dreigend als het tzt waarschijnlijk in oorlog wordt ingezet)
Nee, technisch gezien is het niet tegen te houden.
Ja, organisatorisch kan je daar afspraken overmaken, net zoals over chemische en atoom wapens. Je kan de krant er bijpakken hoe deze afspraken worden nageleefd. Het leeuwendeel zal daar gehoor aangeven, echter zullen er altijd een paar hun eigen weg kiezen.
Je kunt dit verbieden wat je wil (met handhaving, en dat is het moeilijkste) maar als er 1 land is die dit toch doorzet, is de rest van de wereld natuurlijk de kreupele. Dat wil je dan ook weer niet. Nare situatie.
Dat is een manier van redeneren waar je alles mee goed kan praten.
"Ik reed door rood omdat iedereen dat toch al doet"
"Als ik hem niet doodgeschoten had, had hij mij wel gepakt"
"Wij willen een nucleair arsenaal om ons te kunnen verdedigen tegen een eventuele aanval van een land dat al een nucleair arsenaal heeft."
Bij die eerste, inzetten is wat anders als ontwikkelen. Maar als iedereen autonome killer robots inzet, ja dan ben ik er groot voorstander van dat bij conflicten waar wij betrokken zijn wij ze ook inzetten, en niet onze militairen als target practice voor drones ingezet worden.

Die laatste laat juist zien waarom imo wij ze ook gewoon moeten ontwikkelen. De relatieve vrede sinds WW2 komt doordat de grootmachten allemaal kernwapens hebben. Wat als maar ťťn grootmacht kernwapens had? Dan hadden we een serieus probleem gehad.
En dat voorbeeld van de kernwapens was precies omdat de militairen hadden geleerd van zowel WO1 als WO2. Waarom oet Neville Chamberlain Sudetenland weggeven aan Hitler? Omdat Engeland WO1 alweer vergeten was, en het leger had verwaarloosd. En Hitler ist daran dat hij zijn gang kon gaan in Polen, BelgiŽ, Nederland, Duitsland, Frankrijk, ...
Dat eerste is natuurlijk onzin, maar bij het tweede zou je met zelfverdediging weg kunnen komen en het laatste is helaas gewoon de realiteit.
En toch is het naÔef als je denkt dat de wereld niet werkt zoals Arokh zei.
Hoeft niet eens een land te zijn, kan ook een rijk persoon zoals Elon Musk / Tony Stark ;) zijn die zich er mee bezig houd.
Pfoe ja, daar heb je gelijk in. Dat is nog veel erger potentieel :-)
Goh, ja, het zou zo maar kunnen dat die AI om wapens te geleiden heel erg veel lijkt op... even goed nadenken... de software van een zelfrijdende auto?

Ik weet niet wat voor beleid Musk hanteert voor defensie-doeleinden, maar je hebt natuurlijk altijd de kans dat zijn ontwikkelwerk uitlekt of zelfs door een geheime dienst bewust wordt gejat.
De hoogleraren vinden dat de mensheid er ook voor kan kiezen om de autonome wapens simpelweg niet te ontwikkelen en roepen KAIST op dat pad in te slaan.
Volgens mij moet je dan (ook) sturen op internationale afspraken, zoals dat bijvoorbeeld gedaan wordt over chemische wapens.
Wat heb je aan internationale afspraken als die niet gehonoreerd worden? Zie een Assad...
Ze worden zelfs niet nageleefd door degene die ze opgesteld hebben. Zie hier...
Maar gelukkig worden ze wel beter nageleefd dan de Parijs/Klimaatafspraken. Want anders waren we al allemaal vergast geweest...
Zelfs komen er regels en wetten die killer robots aan banden leggen, dan gaan alle grote landen toch killer robots ontwerpen onder de gedachte van 'De ander doet het vast ook, dus wij moeten het ook doen.'.

Net zoals de biologische wapens van de koude oorlog gaat de angst wat een andere KAN doen regeren en de onderzoeken vooruitduwen.
"Ook zijn de professoren bang dat ze in verkeerde handen vallen en bijvoorbeeld door dictaturen of terroristen tegen onschuldige burgers worden gebruikt."
Ik zou het persoonlijk even erg vinden als een grootmacht als de VS, China, Rusland of India dit gebruikt, als wanneer een dictatortje dit doet. De verkeerde handen zijn iedereen zijn handen.
Precies. Dit bericht is een staaltje virtue signalling van deze "hoogleraren"
een betekenisvolle menselijke controle
Ach wat lief.

[Reactie gewijzigd door Compunologist op 5 april 2018 12:01]

Belachelijk begrijpelijk maar belachelijk...

Geld maakt alles mogelijk deze robots or autonome systemen komen er. Er is niets tegen te doen of we deze dingen nu volgend jaar bouwen of over 50 jaar uiteindelijk is de techniek zo goed begrepen dat ieder regime en alle voldoende vermogende entiteiten dit onderzoek met gemak kunnen betalen en uitvoeren.

Dat je als persoon zegt ik wil niet mee werken aan dat soort dingen is volledig te begrijpen maar als er ook maar 1 persoon is die denkt dat door dit te weigeren dat autonome systemen als deze dan dus ook niet gebouwd kunnen worden dan is het simpel weg belachelijk.

Ik ben het geheel met deze mensen eens dit soort systemen moeten we niet willen, maar ze zullen er zeker komen. Turkije is een goed voorbeeld van een NAVO partner die enorme sommen geld spendeert aan het onderzoek naar dit soort systemen, ook Korea een bondgenoot van Amerika (zelf ook niet onverdienstelijk in dit veld) en bijvoorbeeld Rusland en China spenderen allemaal aanzienlijke bedragen aan onderzoek naar killer robots.
Turkije lijkt op dit moment zeer ver gevorderd met haar onderzoek maar het is moeilijk dit met zekerheid te zeggen omdat landen als Rusland, China en Amerika dit onderzoek zo veel mogelijk geheim houden, en de informatie die vrijgegeven wordt is over het algemeen niet echt duidelijk wat betreft wat de echte mogelijkheden zijn omdat veel van dit soort informatie meer propaganda is dan echte serieuze onderzoeksinformatie.
Bijvoorbeeld Rusland die een van haar ontwerpen liet zien dat vrolijk twee normale handvuur wapens gebruikt en op doelen schiet zelfs met assault riffles is het ding redelijk accuraat. Maar het is belachelijk om te denken dat een autonome killer robot normale wapens zou moeten gebruiken dat kan veel makkelijker met ingebouwde wapens. Het enige voordeel dat je hebt met menselijke wapens is dat deze makkelijk en snel te vervangen zijn maar daar blijft het dan wel bij.
Een killer robot is het probleem nog niet. Een war drone is ook een "killer robot".

Een killer robot met AI is een probleem.
Het is simpelweg niet tegen te houden. Door de juiste technieken te combineren zal het uiteindelijk relatief eenvoudig zijn om autonome robots te bouwen. De keus om er een machinegeweer op te zetten is dan nog een klein stap richting een zogenaamde 'killerrobot'. Ik denk dat het beter is om deze ontwikkeling te omarmen, zodat we niet verrast worden.
Hoewel ik er helemaal geen voorstander van ben heb je hier zeker een heel goed punt.
Los van bovenstaande commentaren, degene die als eerste op de "knop" drukt, zal, net zoals kernwapens, het einde van de huidige beschaving in kunnen luiden, maar waar moet een "Killer robot" aan voldoen om als zodanig geclassificeerd te kunnen worden?

Een Pi met gezichtsherkenning, een paar sensoren en een machinegeweer met rijdend onderstel kun je zo de straat op laten rijden en zal op iedereen die als mens wordt herkend, het vuur openen.

In hoeverre dient de AI doorontwikkeld te worden zodat een dergelijke robot niet wild schietend uit m'n garage vertrekt richting waar dan ook?
Het gaat me niet om hoe goed een robot is in het moorden, maar aan welke regels deze zich zou kunnen houden teneinde zijn taak "correct" uit te voeren?
waar moet een "Killer robot" aan voldoen om als zodanig geclassificeerd te kunnen worden?
Goeie vraag, met een klein beetje fantasie kun je Tesla al als killer robot classificeren :+
Randall Munroe illustreerde dit probleem recentelijk ook. Er komt een punt waarop het te makkelijk is voor iemand om anderen dood te maken.

Onder andere Google medewerkers zijn daar ookal in opstand tegen gekomen.
De geschiedenis herhaalt zich dus. Begin vorige eeuw deed Albert Einstein een ontdekking waarbij energie = massa. In de loop van WOII, zijn de Amerikanen dan begonnen met het Manhattan project, om deze ontdekking te gebruiken voor militaire doeleinden. Daarna pas, is de wereld dit gaan gebruiken voor betere doeleinden. Maw, niets nieuw dus dit verhaal.
Met als grote verschil dat er een behoorlijke militaire drijfveer achter het Manhattan project zat, daarvoor was het onderzoek van Einstein alleen maar dat: Fundamenteel wetenschappelijk onderzoek. Die drijfveer is er nog niet voor killer-robots, tenzij er spontaan een derde wereldoorlog uitbreekt.
Daar is geen derde wereldoorlog voor nodig. Als landen dit kunnen ontwikkelen, dan kunnen criminele organisaties het ook. Het drugslab wordt vervolgens bewaakt door robots. Vervolgens laten ze drones zoals uit het filmpje los op aanklagers en/of politieagenten en ze kunnen hun gang gaan.

Ook voor terroristen is zoiets ideaal, als de er eenmaal zijn is het heel goedkoop om ze in grote aantallen te laten maken.
dat kan nu ook al (helaas)

Neem een flinke quadcopter drone met een pistoolmitrailleur eronder en klaar ben je.

Kapot maken is nu eenmaal veel eenvoudiger als iets heel maken

Op dit item kan niet meer gereageerd worden.


Apple iPhone XS Red Dead Redemption 2 LG W7 Google Pixel 3 XL OnePlus 6T (6GB ram) FIFA 19 Samsung Galaxy S10 Google Pixel 3

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank en Intermediair de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2018 Hosting door True