Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Regering VK: mensen houden altijd controle over autonome wapensystemen

De regering van het Verenigd Koninkrijk heeft bij monde van minister Mark Lancaster van Defensie gezegd dat de autonome wapensystemen van het land altijd zullen worden bediend door mensen van vlees en bloed, en dat dus niet de robots de belangrijke beslissingen zullen nemen.

De inhoud van deze verklaring is onderdeel van een nieuwe doctrine, waarin het Verenigd Koninkrijk onderstreept dat 'killer robots' altijd gegarandeerd onder menselijke controle blijven staan. De regering stelt overigens dat het VK geen volledig autonoom opererende wapensystemen heeft en niet de intentie heeft die te ontwikkelen.

Deze verklaring van de minister komt op het moment dat het Britse defensiebedrijf British Aerospace bekendmaakte dat het plannen heeft om een onbemande gerobotiseerde tank te ontwikkelen die autonoom kan opereren, waarbij menselijke soldaten nog wel op afstand aan de knoppen zitten. Dit concept, met de naam Ironclad, gebruikt systemen om zelf vijanden van vrienden te kunnen onderscheiden. Volgens het bedrijf zullen er bij de inzet van dit wapensysteem, mocht het ooit daadwerkelijk gebouwd worden, heel snel tactische beslissingen genomen moeten worden; mede daardoor is de kans aanwezig dat een deel van de controle wordt overgedragen aan de computersystemen.

In augustus hebben bestuurders van bedrijven die zich bezighouden met kunstmatige intelligentie en robotica, een open brief gestuurd aan de Verenigde Naties. Daarin waarschuwen ze voor de ontwikkeling van autonome wapens en vragen ze om actie. Onder de ceo's zijn Elon Musk, bekend van Tesla en SpaceX, en Mustafa Suleyman van Googles DeepMind-project, dat zich richt op kunstmatige intelligentie. Met de open brief willen ze 'een wapenwedloop voorkomen, burgers tegen deze technieken beschermen en de destabiliserende effecten van deze technologie voorkomen'.

Dit was niet de eerste keer dat de VN een waarschuwing ontving over dit onderwerp. In 2015 stelden Human Rights Watch en Harvard Law School een rapport op waarin zij waarschuwden voor zogenaamde killer robots. Ook in 2009 riep een commissie op om het gebruik van militaire robots te beperken.

Door Joris Jansen

Nieuwsredacteur

12-09-2017 • 16:10

74 Linkedin Google+

Reacties (74)

Wijzig sortering
Als er altijd iemand aanwezig blijft als 'tussenpersoon' van vlees en bloed zal het nooit een 'autonoom' wapensysteem worden.

En hoe kunnen we dan garanderen dat die tussenpersoon geen rare bestandjes gaat toevoegen aan het systeem?

[Reactie gewijzigd door Prinzie op 12 september 2017 16:22]

Tja ik denk dat de grens tot schieten toch wel wat lager word als je het een beetje via een monitor op afstand doet...
Tja ik denk dat de grens tot schieten toch wel wat lager word als je het een beetje via een monitor op afstand doet...
Dat is inderdaad een bekend probleem. Er zijn meerdere documentaires over Amerikaanse *) die Iraki's en Afghanen **) neermaaien zonder enige blijk te geven van het besef dat het om mensen gaat, niet om "zomaar poppetjes op een scherm". Maar als we wapensystemen autonoom maken dan komen de beslissing te liggen bij mensen die niet alleen vele duizenden kms verderop, maar ook maanden of jaren van tevoren werken. Dat zou het probleem nog vele malen groter maken. Dit verbod lost het probleem niet op (de echte oplossing heet "wereldvrede" en daar zijn we nog lang niet...), maar voorkomt in elk geval dat het nog veel erger wordt dan het al is.

*) Van alle legers die vaak daadwerkelijk oorlog voeren is het Amerikaanse leger veruit het grootste en meest moderne, dus logisch dat het probleem daar het meest zichtbaar is.
**) Want dat waren de oorlogen waar de techniek voor het eerst modern genoeg was.
Gegeven dat de winnaar meestal degene zal zijn die het snelste de tegenstander ziet en het snelste reageert, zal in een situatie van volledig autonoom wapensysteem <vs> systeem waarbij mens goedkeuring aanval geeft, de laatste vaak verliezen.
Dus in hoeverre dit houdbaar is....
Gaat u maar rustig slapen.
Ik geloof de intentie, maar ik denk dat dit soort autonome wapens niet tegen te houden zijn. Voor zover ze niet al zijn gearriveerd. De Britten misschien nog niet maar andere landen vast wel.

Er is vast een mooie naam voor deze situatie maar er schiet me niks te binnen. Het is een soort prisoners dilemma op een hellend vlak. ;)
Momenteel moet er een mens op de knop drukken en die doet dat op grond van informatie die het systeem (bv een drone) aanlevert. Uiteraard wil je dat het systeem zo goed mogelijk maken en de beste informatie leveren. Hoe meer informatie het systeem zelf kan verwerken hoe beter. Vroeg of laat zal dat systeem beter gaan oordelen dan de menselijke soldaten die achter de knop zitten.

Hoe beter het systeem hoe eenvoudiger de soldaat die er achter zit kan zijn. De financiŽle tekorten die altijd en overal bestaan zullen er voor zorgen dat de goedkoopste soldaat die nog net voldoet achter de knop zal worden gezet.

Nu is de soldaat achter de knop meestal nog een piloot; dat zijn over het algemeen slimme jongens met een goede opleiding die stressbestendig zijn en goed met verantwoordelijkheid om kunnen gaan. Het is maar de vraag hoeveel er van die kwaliteiten overblijven als de drones zelfstandig vliegen en je geen pilotenopleiding meer nodig hebt.

Mensen maken fouten en die soldaat dus ook. Eenvoudige soldaten met een beperkte training zullen waarschijnlijk meer fouten maken. Als het systeem wel de juiste beslissing had willen nemen dan komt vanzelf de roep om de mens er tussen uit te halen. Dat geeft minder fouten en is nůg goedkoper; houdt het dan nog maar eens tegen.

(Dat is ongeveer hetzelfde argument als dat zelfrijdende auto's in de toekomst wel eens verplicht zouden kunnen worden gesteld door de verzekeraars omdat ze beter rijden dan mensen.)
Robots en AI zijn te toekomst, ja het zal vast ooit mis gaan maar de nadelen daarvan wegen echt niet op tegen de voordelen.

Pak een autonoom rijdende auto, die nog steeds een ongeluk kan veroorzaken, maar waarbij de kans een factor 1000 kleiner is dan bij een menselijk bediende auto.

Zelfde met wapens, kans op ongewenste slachtoffers blijft, maar stel dat het aantal ongewenste slachtoffers met een factor 100 afneemt, prima ontwikkeling toch?

Technologische ontwikkelingen zijn misschien een beetje eng, maar stel je toch eens voor dat we zonder de computer zouden moeten leven, we zouden als mensheid gigantisch achteruit gaan.
Het lijkt mij wel interessant om te zien wat een geavanceerd wapensysteem die interconnected is doet als je hem vraagt voor wereldvrede en stabiliteit te zorgen.
Lijkt me niet dat een dergelijk wapensysteem veel met abstracte begrippen als 'wereldvrede' en 'stabiliteit' kan. Daar zijn ontzettend veel waarde-oordelen aan gekoppeld. Een volkomen rationele intelligentie zal daarom mijns inziens nooit dezelfde conceptie hebben als een mens, tenzij de intelligentie door een mens is geprogrammeerd, wat weer vraagtekens oproept bij de autonomiteit.

Dus nee, Šls een autonoom wapensysteem al uitvoering zou kunnen geven aan een dergelijke opdracht, denk ik niet dat deze ook maar enigszins te voorspellen is.

Edit: typo

[Reactie gewijzigd door Rabelais op 12 september 2017 17:13]

Hetzelfde als Ultron in Avengers: Age of Ultron...
:/
"Mensen houden altijd controle"
Dat zouden dus ook menselijke hackers kunnen zijn die dit voor de uitdaging doen.
Of mensen in dienst van een vijandige mogendheid.
Of bots die menselijk gedrag mimicken.
Of mensen die hun menselijke normen overboord hebben gegooid.
Of mensen die tijdelijk even in de war zijn.
Of mensen die niet voldoende opgeleid zijn.
Of,...

Nee, ik voel me nu een stuk veiliger.

[Reactie gewijzigd door Brainbox2 op 12 september 2017 17:32]

Die kerel moet eens een woordenboek pakken om 'autonoom' op te zoeken, dat gaat namelijk niet samen met zijn 'altijd door mensen bestuurd' uitspraak.
Probleem met dit idee is dat AI al lang langzaam ingevoerd wordt. Het begint met een simpel scriptje en wordt steeds geavanceerder, terwijl de gebruiker geen idee heeft dat het zo is omdat 'ie er al aan gewend is. Ik vind dit statement erg onvoorzichtig en weinig toekomstbestendig.

Op dit item kan niet meer gereageerd worden.


Apple iPhone XS Red Dead Redemption 2 LG W7 Google Pixel 3 XL OnePlus 6T (6GB ram) FIFA 19 Samsung Galaxy S10 Google Pixel 3

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank en Intermediair de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2018 Hosting door True