Expert waarschuwt voor gevaren van militaire robots

Een deskundige op het gebied van kunstmatige intelligentie waarschuwt voor de gevaren van militaire robots. Zo zouden de vechtmachines in handen kunnen vallen van terroristen en er bestaat het gevaar van een nieuwe wapenwedloop.

Noel Sharkey, professor aan de universiteit van Sheffield en expert op het gebied van kunstmatige intelligentie, deed zijn uitlatingen tegenover AFP, vlak voordat hij een presentatie zou houden op een bijeenkomst van het Britse Royal United Services Institute. Volgens Sharkey kunnen militaire robots een gevaar voor de mensheid gaan vormen, omdat legerleiders hun soldaten graag zouden vervangen door autonoom opererende vechtmachines. De behoefte aan meer robots zou versterkt worden doordat het grote publiek steeds minder vaak het risico van gesneuvelde soldaten accepteert. Daarnaast kan defensie met robots op de kosten besparen.

Momenteel zijn de robots die voor militaire doeleinden worden gebruikt nog sterk gebonden aan menselijk handelen: hoewel robots op de grond en onbemande vliegtuigjes in de lucht al doelen kunnen traceren, is het een menselijke militair die al dan niet de trekker overhaalt. Desondanks groeit het aantal militaire robots snel. Alleen al in Irak heeft het Amerikaanse leger zwaarbewapende Swords-robots op patrouille gestuurd. Het Pentagon is uiterst enthousiast over de gehoorzame vechtmachines en heeft bij wapenfabrikant Foster-Miller al nieuwe exemplaren besteld.

De VS denkt in 2010 vier miljard dollar aan onbemande wapensystemen uit te zullen geven, terwijl voor 2032 een bedrag van 24 miljard dollar is begroot. Ook landen als China, Rusland, Zuid-Korea en Israël investeren in toenemende mate in robottechnologie. Volgens futuristen zouden toekomstige legereenheden bestaan uit 150 'normale' militairen en tweeduizend robots.

Sharkey ziet de toenemende autonomie die de robots krijgen toebedeeld als belangrijkste gevaar. De professor stelt dat de huidige stand van zaken in de kunstmatige intelligentie het niet toelaat dat een militaire robot de mogelijkheid krijgt om met dodelijke precisie autonoom te opereren. Een ander gevaar zou schuilen in de mogelijkheid dat terroristische organisaties een militaire robot in handen krijgen. Het is volgens Sharkey allesbehalve ondenkbaar dat een of meer vechtmachines tegen hun schepper worden ingezet.

Toch ziet de ai-deskundige ook voordelen van robots aan het front. Zo zouden ze, ongehinderd door menselijke factoren als emoties of pijn, in theorie de mogelijkheid hebben om, in het heetst van de strijd, ethisch beter beslissingen te nemen dan mensen. Een nadeel zou echter zijn dat correct opererende robots een nieuwe wapenwedloop kunnen ontketenen. Zo is het Amerikaanse Future Combat Systems-programma, dat drie klassen voor landrobots en drie voor een onbemande luchtvloot kent, met 230 miljard dollar voorlopig het duurste defensieprogramma aller tijden. Sharkey ziet als mogelijke oplossing een wereldwijd overeengekomen verbod op autonome robots. Het is echter de vraag of een dergelijk voorstel binnen afzienbare tijd serieus overwogen zal worden. Ondertussen werkt het Amerikaanse leger hard aan nieuwe onbemande wapensystemen, waarbij testversies - geheel conform het tijdsbeeld - met een Xbox 360-controller worden bestuurd.

Reacties (93)

[Verwijderd]

Dat wou ik net ook roepen Razor.Timo,

Bedoel het blijft componenten van electronica die erg gevoelig zijn voor Statische stroom en een EMP wave .
het is niet zo moeilijk om zo'n robot uit te schakelen, een ijzeren mat in het zand met 10.000Vlt of meer doet al wonderen ,oke ze zijn geisoleerd dan is nog altijd een EMP wave waar een panser enkel met lood of 50cm dik staal is tegen bestand om electronische circuits tegen een EMP wave te beschemen.

Verder vind ik het een gevaarlijke ontwikkeling, oorlogen worden makkerlijk gevoerd omdat er toch nauwelijk mensenlevens sneuvelen dus er zullen veel sneller confrontatie's zijn tussen landen met een hoge technologie.
Landen die niet technologische mee kunnen komen worden in een conflict onder de voet gelopen met wel veel menselijke slachtoffers.
Niemand kan garanderen dat een robot feilloos kan of blijft functioneren, immers de software is door de mens geprogrammeerd en ik moet er niet aan denken dat deze robots in handen vallen van b.v terorristen die ze kunnen herprogrameren en gebruiken
om zoveel mogelijk slachtoffers in een stad te maken of in een stadion, noem maar op.

En kan zo'n apparaat ook weigeren ? softwarefout en hij schiet op alles wat vliegt of beweegd ? soort terminator effect .

[Verwijderd]

Wel grappig hoe snel mensen grijpen naar doemscenarios, of grote massale scenario's. Techniek gaat heel snel, maar de (massale!) implementatie van techniek gaat ongelooflijk langzaam. Anders zouden we volgens voorspellingen van decenia terug, al met zijn allen moeten vliegen in auto's.

De toekomst perspectieven blijven altijd veel groter als dat de toekomst uiteindelijk is. En een toekomstperspectief gaat voornamelijk toch echt over algemene massale implementaties van technieken, niet van 1 nieuwe ontwikkeling die het laat zien wat er mogelijk is.

Overigens doordat het pad van ontwikkeling naar implementatie zo ontzettend lang is, kan er veel gebeuren in de tussentijd in onze houding tegenover het betreffende stukje techniek.

[Verwijderd]

Dat men snel naar doenscenario's grijpt is gedeeltelijk et verklaren door het feit dat in media (films ...) al heel wat mogelijke toekomstbeelden werden voorgeschoteld.
Ik weet niet wat je denkt, maar volgens mij zijn de vliegende auto's toch wat minder gevaarlijk en aangsaanjagend dan schietende robots.
Velen onder ons zullen misschien die problemen niet ondervinden. Wel de landen die veel achterstaan op technologische vlak, waardoor ze geef deftig antwoord kunnen bieden tegen die robots.

Dat de implementatie van nieuwe technologie soms heel lang kan duren, darr heb je gelijk ik. Je vergeet dat er veel 'toekomstperspectieven' uit het verleden overtroffen zijn door hedendaagse technologien. Er is dus ook nog kans dat het nog erger zou kunnen worden.

Off-topic:
Ter illustratie: de meeste van ons zijn wel op de hoogte van klimaatverandering; tegenwoordig is zelfs een beetje sprake van een hype; deze 'beweging' begon groter te worden vooral na de film van Al Gore (niet dat ik het een prachwerk vindt, maar toch beter dan helemaal niets); maar weten jullie sinds wanneer er eigelijk al sprake was van klimatverandering??
Reeds rond het jaar 1970 waren er grote wetenschappelijke rapporten (ook bij ons in Europa) die wezen op klimaatverandering en de averechtse effecten (schaarste, hoge prijzen, ...) !! 40 jaar dachten we dat eht toekomstbeeld was! Tegenwoordig zijn niet echt gevorderd, want ons verbruik (ondaks alle maatregelen) blijft stegen. Alles zou dus heel anders en minder vredelievend kunnen worden, dan we denken.

[Verwijderd]

Inderdaad.
En zelfs als je geen zin hebt om al die Africanen en Aziaten te helpen, dan zou men met dat geld al die daklozen/kansarmen/... kunnen helpen.

Ik zie alleen maar één reden in heel die strategie:
America is de macht en invloed over de wereld aan het kwijtgeraken. Er zijn steeds minder landen afhankelijk van America.Er zijn steeds meer landen/machten die met America zouden kunnen concurreren. ... En hoe kunt ge terug reputatie, aanzien, kunnen krijgen? Normale mensen onder ons zouden denken aan een redelivende, respectvolle strategie. Maar de militairen denken daar anders over: enkel met macht en oorlog.
Hopelijk hebben Europese politici meer echte hersenen in hun kop, dan die Americaanse, die vol zitten met geld.en macht.

[Ulx]

Als zo'n robot langskomt laat je toch gewoon een bermbom afgaan?

[diminator]

ik vind dit helemaal niet zo goed voor de mensheid. je kan nu veel makkelijker zeggen, jah we gaan nu oorlog voeren. nou jah...makkelijker, je snapt wel wat ik bedoel want ik weet dat je niet zomaar een land kan binnenvallen, maar een oorlog voeren wordt op deze manier natuurlijk een stuk makkelijker, wat dus NIET positief is. wat van mij dan wel best kan is dat zo'n robot mijne gaat opruimen, of bommen laat ontploffen, misschien zelfs in het arrestatieteam ingezet kan worden. tuurlijk in de oorlog zal het levens sparen, maar dan wordt oorlog voeren gewoon een spelletje, daar zit zoiezo geen eer in. vroegen moest je met een zwaard soor de vijand boren en dan realiseer je pas echt dat je een leven wegneemt als zijn bloed op je gezicht zit. met een robotje iemand afknallen is gewoon een spelletje , een beetje onmenselijk. kortom het is goed dat robots meer kunnen en het zal eker goed zijn voor bepaalde dingen maar ga er nou geen oorlog mee voeren

[Thystan]

" Zo zouden ze, ongehinderd door menselijke factoren als emoties of pijn, in theorie de mogelijkheid hebben om, in het heetst van de strijd, ethisch beter beslissingen te nemen dan mensen. "

Hoe bedoel je bullshit? Ik mag toch hopen dat er een mens door de camera kijkt of de robot wel goed zn werk doet.

Ik neem ook aan dat een mens bepaald of de robot dodelijk gaat reageren of niet.

Ik ga er dan ook vanuit dat als er bloederige toestanden onstaan dat een mens nog steeds emoties heeft en de robot, die in opdracht van mensen functioneert, hierdoor nog steeds beinvloed wordt.

Ik denk dat we tegen een effectieve serealkiller aankijken als robots uit zichzelf een situatie gaan inschatten en (dodelijk) kunnen handelen. Dan is het ook wel heeel gevaarlijk als een IRA of Al Qaida aan dergeljike robots kan komen.

Het zal niet voor het eerst zijn dat een grootmacht 1000 robots (wapens) besteld en er maar 998 aankomen bij het wapendepot...

[Innsewerants]

lol ben eerder bang voor de verdere toekomst muziek, autonome robots, AI.

20 jaar later AI realiseert zich dat

- Hey ik heb geen mensen meer nodig ik heb een eigen fabriek voor "nageslacht"

of

- (AI pure logica he) bescherm de mens, ergste vijand van de mens... de mens... conclusie kill mens. bescherm mens voor mens kill kill kill (error reboot..)

Zie het nog eens fout gaan, tuurlijk is terminator sci-fi maar een autonoom kanon wat opeens jou begint te beschieten door een logica fout (of juist niet eigenlijk) of een deels beschadigde besturingseenheid van de robot (of windows 2026 wat weer een bsod gaat )
Vraag me ook af of dit niet nog meer oorlog uitlokt bij agressors.. "het kost ons tenslotte geen piloten....."

Iets anders wat meespeelt denk ik is dat ergens staan met je zwaard, je vijand in de ogen moeten kijken en omleggen heel iets anders is dan een knopje duwen en de volgende dag het nieuws zien dat 10000 km verderop een kernbom is afgegaan.

het wordt te makkelijk en te onpersoonlijk, ik vind dat link.

de grootste rem om oorlog te beginnen is menselijk verlies en persoonlijke angsten (wie wil er nou dood?).. dat haal je weg, het resultaat zal heus niet minder oorlog en minder collateral damage zijn (waaronder wij vrolijke burgers dus).

Vraag me ook af als ooit al dat autonome wapentuig makkelijk te regelen valt vanuit één locatie wat dat betekend voor de opkomende dictators en mafketels van de toekomst. Nu heb je nog altijd steun van een leger nodig, maw mensen die (hopelijk) zelf nadenken.. Straks dus niet meer want botjes doen gewoon wat je ze zegt te doen.

Dit kun je allemaal flauwekul vinden maar waarom denken de grootste militaire thinktanks dan over deze scenario's na ?

[Reactie gewijzigd door Innsewerants op 24 juli 2024 01:59]

[Verwijderd]

En welke oorlog ga je dan voeren? Tegen plastieken soldaten misschien?
Die robots worden juist gemaakt met het doel om zo snel en efficient mogelijk te doden en te vernietigen, niet om vrede te brengen.
En wat betreft die regels ... Het is altijd al zo geweets dat er op elke regel ooit een uitzondering (zeg maar een fout of iets dergelijks) komt.
Maar die uitzondering zou dan wel heef catastrofaal zijn.

[Tjeerd]

Dus dadelijk zijn we geen oorlog meer onderling aan het voeren, maar tegen de robots? In dat laatste geval is het nog niet eens zo erg omdat het dan eindelijk geen mensenlevens meer kost. Tenminste, als we "goed" oorlog voeren

[Reactie gewijzigd door Tjeerd op 24 juli 2024 01:59]

[SRI]

Dat is dus ook maar weer een droom zou ik zeggen, zodra dan een leger van het andere heeft gewonnen en het gebied van de vijand bezet zouden de burgers gewoon niks doen omdat ze geen robots hebben? Mensen zullen altijd wel blijven vechten voor hun vrijheid (of wat hun het beste vinden) ook met minder superieure wapens.

[RhodesMK1]

Ik denk dat de meeste landen waartegen de VS gaat "optreden" niet echt de financiele of technische mogelijkheid om robotjes te maken om oorlog te voeren. Het zal dus waarschijnlijk robot vs mens worden en het is die emotionele loskoppeling die mij wat zorgen baart.
Oorlog zou wel eens te gemakkelijk en koel kunnen worden, terwijl ik vind dat oorlog iets verschrikkelijk en gruwelijk moet blijven zodat we er niet te snel aan beginnen.

[ljo13]

Ik vrees dat het idee van een oorlog zonder mensenlevens toch rare gevolgen zal hebben. De meeste oorlogen worden nu gestopt omdat ze al aan teveel mensen het leven hebben gekost. Volgens mij zullen de oorlogen hierdoor veel langer duren. Het zal dan hoogstwaarschijnlijk eindigen met het feit dat diegene met het minste geld de oorlog verliest. Een oorlog zonder slachtoffers is trouwens onmogelijk. Ik ben nog altijd van het principe dat een oorlog vermijden beter is dan oorlog. Hoe weinig slachtoffers er ook zouden vallen.

[mae-t.net]

En bovendien zullen de robots gewoon tegen mensen worden ingezet, zodat het nog steeds mensenlevens kost.

Er is dus simpelweg geen sprake van een oorlog zonder (verlies van) mensenlevens.

[Verwijderd]

Wel een enorm eenzijdig verlies aan mensenlevens.

En bijvoorbeeld Irakezen zijn toch niets waard, etc...

Wat is dan nog de rem om Iran er ook nog eventjes bij te pakken, niets eigenlijk.

[Verwijderd]

Met dit nieuws krijgt " I, Robot " meer gestalte.

De wapen wetloop gaat overigens altijd door.

Het monopolie op de koppositie daarin is het meest echte gevaarlijke daarin.

Overigens zijn robots relatief makkelijk uit te schakelen met een EM-Puls.

[prutser001]

En maakt een robot onderscheid? Ik bedoel een robot heeft geen moraal, of het nou kinderen, vrouwen etc zijn. Als alleen de US ze inzet en andere landen niet over de techniek zouden bezitten krijg je nogsteeds het 'robot vs mens'.

[batavier]

Waarschijnlijk erg off-topic: wat ik me altijd afvraag: waarom is het erger om vrouwen en kinderen te doden dan mannen? Heel vreemd.

[Verwijderd]

Oorlog kost altijd mensenlevens. Je wil niet weten hoeveel mensen er worden uitgebuit [lees: loonslaven zijn] om die machtige wapenindustrie te financieren.

Wordt eens wakker - het gaat hier maar om een ding:

The only thing that seperates the men from the boys are the price and the size of their toys.

[bangkirai]

Als 2 partijen alleen nog robots het veld insturen, kunnen ze net zo goed potje schaken zou je zeggen.....

[PhoenixT]

Ik snap ook niet helemaal hoe dat gaat werken. Als alle robots kapot zijn, geeft een land zich dan over? Uiteindelijk zullen toch de mensen de wapens opnemen als laatste mogelijkheid. In plaats van het vervangen van soldaten lijkt me dit eerder een "uitstelling van de inzet".

[the___butcher]

Uiteindelijk worden deze robots zoveel sterker dan menselijke soldaten, dat elk menselijk verzet zinloos wordt. Als alle robots van een land kapot zijn, rest er niets dan vechten tot een zekere dood of overgave. Zoiets gebeurt nu ook al als een van de partijen een enorme overmacht krijgt.
Wat dat betreft is de verwijzing naar een nieuwe wapenwedloop ook terecht: de oude wapenwedloop draaide ook om een "nieuw" wapen waartegen menselijke soldaten niets konden beginnen.

[uflex]

Het probleem met een "virtuele" wapenwedloop is dat je geen garantie hebt dat de tegenpartij zich onder alle omstandigheden aan de afspraak zal blijven houden om het bij deze veredelde videogame te houden.

Als het confict om water, olie of ideolgie gaat kan je er niet vanuit gaan dat de verliezer zich sportief toont en alles na afloop van spel blijmoedig weggeeft. Maar intussen is er al wel een winnaar die zijn speeltjes nog één keer kan inzetten.

[Reactie gewijzigd door uflex op 24 juli 2024 01:59]

[mashell]

Ze gaan natuurlijk geen robots tegen robots inzetten. Ze gaan die robots tegen mensen inzetten.

[Tower410]

Wat maakt het uit, als beide partijen robots gebruiken, vallen er ook geen gewonden meer

[Verwijderd]

Denk je niet dat er uiteindelijk menselijke doelen zullen worden gekozen? Wat is nu effectiever: 1000 robots kapotschieten of 1 mens die deze robots aanstuurt kapotschieten (en misschien dan wel zijn 1000 robots toevoegen aan je eigen leger)? Daarnaast kan je de wil van een samenleving om te vechten veel effectiever beinvloeden door burgerdoden te maken (denk aan terroristen, maar ook aan de atoombom op Hiroshima)

Ook een angstige is de gedachte dat een coup plagen voor een legerleiding kinderlijk eenvoudig wordt omdat ze niet een heel leger maar alleen de bestuurders van robotsdivisies aan hun zijde moeten krijgen.

Ik vind het terecht dat hier verder wordt nagedacht wat de gevolgen van deze ontwikkeling zijn dan een naieve opmerking als "Wat maakt het uit, als beide partijen robots gebruiken, vallen er ook geen gewonden mee"

@Tower410: Voor verkenningstaken zie ik relatief weinig gevaren en duidelijke voordelen en met de huidige stand van techniek wordt dat nu al veel toegepast.
Ik ben verder ook niet volledig tegen het gebruik van robots in gevechtssituaties, maar wil wel zien dat er met een grote mate van zorg over wordt nagedacht. Jouw eerste post is echter een gevaarlijke gedachte, omdat het initieel "waar" lijkt te zijn terwijl het aan werkelijke bezwaren voorbij gaat.

@SlasZ: "besturen" kan in deze context op meerdere manieren opgevat worden. Een autonome robot moet nog steeds een missie krijgen, en het geven van zo'n missie is tenminste als "aansturen" en wellicht ook wel als "besturen" te zien.

[Reactie gewijzigd door Verwijderd op 24 juli 2024 01:59]

[Tower410]

Nou heb ik mijn reactie misschien een beetje overdreven door te zeggen dat er geen gewonden meer vallen, maar in ieder geval minder.
Veel doden of gewonden vallen toch wel bij patrouilles door bermbommen, mijnen, en meer van dat spul. En daar zijn deze dingetjes nou erg geschikt voor. Natuurlijk is het wel noodzakelijk dat ze dan wel alleen op de vijand schieten en niet op onschuldige burgers of nog erger op eigen man.

[Reactie gewijzigd door Tower410 op 24 juli 2024 01:59]

[SlasZ]

Het gaat er hem juist over dat de robot's te autonoom worden, dus niet bestuurd worden door mensen.

Maar inderdaad scary, misschien kan je nog vervolgd worden als je een robot 'doodt'...

[Verwijderd]

Het zal niet 'misschien' zijn, maar Heel Zeker!
Sommige criminelen krijgen nu al evenveel straf voor verkrachting/moord, als voor een simpele diefstal ... Materiele wordt steeds belangrijker, zeker iets wat bij overheid hoort.