Hoofdcategorieën

[RSS] Index » Nieuws » Core » Wetenschap » VS ontwikkelt robotsoldaten die geen oorlogsmisdaden kunnen begaan

VS ontwikkelt robotsoldaten die geen oorlogsmisdaden kunnen begaan

Door Willem de Moor, maandag 1 december 2008 14:44, views: 21.626

Het leger en de marine van de Verenigde Staten maken in toenemende mate gebruik van robots op het slagveld. Naarmate de robots meer autonomie verkrijgen, rijzen er ethische vragen rond het gebruik van de geautomatiseerde soldaten.

Vooralsnog worden de robots nog door mensen op afstand bestuurd, maar de zelfstandigheid van de toestellen neemt toe. Nu zullen het ook bij toenemende autonomie voorlopig nog mensen zijn die de beslissing nemen al dan niet de trekker over te halen, maar ook aan robots met grotere beslissingsbevoegdheden wordt hard gewerkt. Militaire onderzoekers werken aan robots die bijvoorbeeld zelfstandig een doelwit kunnen identificeren en die vervolgens aan de hand van de dreiging kunnen bepalen welk doelwit als eerste wordt aangevallen en welke munitie gebruikt moet worden. Een doembeeld in de richting van Terminator-achtige taferelen, waarin robots alle mensen structureel afslachten, is in dat geval niet ver weg meer.

Hoewel de praktijk minder bedreigend is, houdt het Amerikaanse ministerie van Defensie zich wel al bezig met ethische kwesties rond de inzet van een robotleger. Daarbij heeft de Amerikaanse marine de hulp ingeroepen van een Britse filosoof, die zijn expertise zal aanwenden om te helpen bij het ontwerp van gedragsregels voor robots. Zo zullen de machines conform de Geneefse conventie moeten strijden, wat onder meer betekent dat ze geen wraakacties mogen uitvoeren en mensen niet mogen martelen. Ook het Amerikaanse leger heeft derden ingeschakeld, nu in de vorm van een computerwetenschapper die meewerkt aan de ontwikkeling van software voor autonome robots.

Onderzoek heeft aangetoond dat Amerikaanse soldaten aan het Iraakse front meer dan eens marteling en wraakacties goedkeuren; een robot zou daar niet toe in staat zijn. Ook ontbreekt bij robots de noodzaak zichzelf te beschermen, zelfs al zou dat gezien de prijs van de hardware wel wenselijk zijn. Daarmee zouden robots ethischer dan mensen zijn, ook al beschikken ze uiteraard niet over de mogelijkheid tot reflectie.

Hunter-killer
Volgende 15:18
Vorige 14:14

Categorieën

Gerelateerde content

Reacties

Flat modeFlat mode Sorteer aflopendSorteer aflopend Moderatie FAQModfaq
Niveaufilter: -1 Ongewenst: 154 reacties zichtbaar1540 Off-topic / Irrelevant: 127 reacties zichtbaar127+1 On-topic: 27 reacties zichtbaar27+2 Informatief: 14 reacties zichtbaar14+3 Must-read: 0 reacties zichtbaar0
«  1  2  3  4  5  »

Door 0vestel0, maandag 1 december 2008 14:44

Score: 0
ED209?
Skynet?

Zoek de 10 verschillen
Zo zullen de machines conform de Geneefse conventie moeten strijden, wat onder meer betekent dat ze geen wraakacties mogen uitvoeren en mensen niet mogen martelen.
Tja. Dat is niet zo moeilijk. Dat zijn typisch menselijke eigenschappen. Net zoals Barmhartigheid en vergiffenis. Kent zo'n apparaat ook niet.

[Reactie gewijzigd door 0vestel0 op maandag 1 december 2008 14:46]

Door SG, maandag 1 december 2008 15:26

Score: 0
Films met robots zijn zo fake als het maar kan. robot runt een programma.
Als dit fixed is. ROM voorgebakken. Dit kan je zien als basic instictief gedrag tov die biologische formen voort brengt.
dan is er geen emotie vorlijkheid sentiment haat afkeer etc. Wat kan lijden van hippie gedrag tot genocide .
'n Robot kan dat ook. Want 'n Amerikaan met voldoende toezicht maakt een robot met geneve conventies beperkend. De CIA Specialops heeft een assasin programma.
en als de Amerikaantjes het hebben. zijn de jappen er nog verder mee maar dan civile toepassing. En als paar landen de tech niek hebben dan komt het ook een op de markt, En evil landen zullen uiteraard de geneve conveties er niet in pleuren.
Of Genocide er in programeren. 'n robot doet dat 24/7.
En gezien er groot geld in gaat mogelijk ook al snel te koop ook voor terroristen.

Dan Terminator verhaal. Zodra AI ook zelfbehoud en zelf lerend en adoptief kunnen ontwikkelen. Creeer je iets dat autonoom zelf peoriteiten gaat ontwikkelen. zoals die mensen zijn niet goed voor zelfbehoud en survival. Bevoorbeeld AI gaat mensen beoordelen.
De kans op Terminator is groot. En vooral AI met een eigen mening moet je niet hebben. Ten zij je een overheersend basis code hebt die alles over ruled.

Maar zoals men zegt over biologische species 'Live finds it way' Zo ook complexe software sysyemen.

Door cappie, maandag 1 december 2008 16:39

Score: 1
http://www.kuro5hin.org/prime-intellect/

Hier een quote uit "The Metamorphosis of Prime intellect":
Intellect 39 included code and memories from a series of previous Intellects, going all the way back to Intellect 1, which had been a program written for a high-end desktop computer, and also including the much larger Intellect 24. Intellect 9 had been the first equipped with a microphone and a speaker. Its predecessors had communicated with him strictly through computer terminals. Lawrence had spent many painstaking months talking to it and typing the translation of the sounds he was making. It had learned quickly, as had its successors. Intellect 39, which was optimized as much as Lawrence could manage for human communication, probably had the combined experiences of a ten-year-old child. One with a good teacher and a CD-ROM in its head.
"Your tricks with words prove nothing, machine. I still don't think you are alive."
"I never claimed to be alive. I do, however, think."
"I refuse to believe that."
"It must be a terrible burden to have such a closed mind. I know I can think, but I sometimes wonder how people like you, who refuse to see what is in front of your faces, can make the same claim. You certainly present no evidence of the ability."
The preacher's lips flapped open and shut several times. Lawrence himself raised his eyebrows; where had it picked that up? He foresaw another evening spent interrogating the Debugger. He was always happy to receive such surprises from his creations, but it was also necessary to understand how they happened so he could improve them. Since much of the Intellect code was in the form of an association table, which was written by the machine itself as part of its day-to-day operation, this was never an easy task. Lawrence would pick a table entry and ask his computer what it meant. If Lawrence had been a neurosurgeon, it would have been very similar to stimulating a single neuron with an electrical current and asking the patient what memory or sensation it brought to mind.

Door It_was_me, maandag 1 december 2008 16:52

Score: 0
Ik begrijp niet helemaal wat je punt nu precies is..

Door kimborntobewild, maandag 1 december 2008 22:35

Score: 0
Maar zoals men zegt over biologische species 'Live finds it way' Zo ook complexe software sysyemen.
Het loopt alleen maar vaker geheel vast naarmate de software complexer wordt. Kijk maar naar Windows. En komt Windows met zijn 1 miljard programmacode nu slim over? Niet bepaald.
'T is niet voor niks dat ze voor Windows8 opnieuw beginnen - en veel modulairder.
Nee... Zelfs in de meest optimistische breinen (van mensen met verstand van zaken) heeft software nog een extreem lange weg te gaan wil 't ooit ook maar een klein beetje te vergelijken zijn met 'life'. Op dit moment is er gewoon nog totaal geen enkele zicht op zoiets in de verte.

Door PaulDune, dinsdag 2 december 2008 11:04

Score: 0
Ik zeg er niet snel wat van, maar ... Jezus, ik moest me toch een moeite doen om te begrijpen wat je nu eigenlijk schrijft....

Door Fastman, maandag 1 december 2008 15:19

Score: 0
Zulke propaganda doet me toch wel luidop lachen.

Ethisch oorlog voeren, is dat iets nieuws? :P
*We schieten je dood, maar wel op een humane manier* ... olé ...

Heel cool die robots, maar niet echt tof voor de 'targets'.

Hoe ver staat men met de emp-bom? Als die er is, is hun leger niks meer waard.

[Reactie gewijzigd door Fastman op maandag 1 december 2008 15:21]

Door bbr, maandag 1 december 2008 15:24

Score: 0
Regels in een oorlog, dat is hoewel leuk voor burgers, niet altijd handig.

In war, those willing to bend / break the rules will generally win.

Door W3ird_N3rd, maandag 1 december 2008 16:32

Score: 1
Hoe ver staat men met de emp-bom? Als die er is, is hun leger niks meer waard.
Die robots worden gewoon EMP-bestendig (kwestie van afschermen). Dat is technisch geen probleem. De reden dat consumentenelektronica en de meeste elektronica in bedrijven niet EMP-bestendig is is omdat dit een nogal dure grap is terwijl het geen enkele meerwaarde heeft zolang er geen reëele vrees voor een EMP is.

[Reactie gewijzigd door W3ird_N3rd op maandag 1 december 2008 21:39]

Door SKiLLa, maandag 1 december 2008 18:14

Score: 1
Worden ze dan ook meteen laser en/of bazooka-bestendig ? Het blijft een eeuwig spelletje/race. En de vijand zou een kopie van de software in handen kunnen krijgen, waarmee men middels reverse engineering de zwakheden kan vinden ...

Op een nieuwe doorbraak volgt bijna altijd een nieuwe contra-doorbraak, waardoor het weer in evenwicht is. Net zoals in Afghanistan, daar worden de nieuwste generatie gevechtshelicopters ($$$ !) simpelweg neergehaald door bazooka's die de USA zelf 20 jaar geleverd hebben ...

Door W3ird_N3rd, maandag 1 december 2008 18:55

Score: 2
Worden ze dan ook meteen laser en/of bazooka-bestendig ?
Nee. En natuurlijk zal zich uiteindelijk weer een evenwicht vormen.

Maar dit gaat er niet over dat er onverslaanbare gevechtsrobots zouden komen. Het gaat erover dat er robots komen die zelfstandig minstens zoveel schade als een mens kunnen aanrichten en hoe die met situaties om moeten gaan.

Een menselijke soldaat is evenmin laser en/of bazooka-bestendig, dus dat is geen beperking om in het slagveld ingezet te worden.

Door AHBdV, maandag 1 december 2008 19:01

Score: 0
Die nieuwe generatie gevechtshelicopters werden door dezelfde generatie hittegeleide rakketten neergehaald.

Het zijn geen simpele bazooka's, maar hoogst geavanceerde stukjes techniek.

Door Mr_gadget, dinsdag 2 december 2008 13:16

Score: 2
Dan nog: een robot kan eventueel zelfmoordacties uitvoeren. Je kan hem zo een grot met Taliban strijders insturen en als ie dreigt gesloopt te worden dan blaas je hem gewoon op. Het is geen mens maar een vervangbare machine..
Dit hoef je dan niet elke keer te doen, op een geven moment geven strijders zich dan al over voordat je hem inzet. Taliban zijn ook al bang voor overvliegende (stokoude) B52's omdat die zulke enorme bomtapijten kunnnen leggen.

De SWORDS is overigens al best gevanceerd ook zonder autoome sturing.

Door vgroenewold, dinsdag 2 december 2008 15:39

Score: 0
Klopt, het lijkt mij niet bepaald bemoedigend om je leven te wagen voor een aantal robots die behoorlijk gericht en zonder emotie schieten. Maak ze ook nog lekker drijgend qua uiterlijk en je komt een heel eind. Zo gaven bijv. tijdens de eerste Golf-oorlog, aardig wat soldaten zich over aan de eerste robot-vliegtuigjes en kan ik mij herinneren dat een aantal piloten het al opgaven toen ze de F117 (die zwarte, vliegende driehoek) in het maanlicht zagen verschijnen. Imponeren, als je dat kan heb je al veel gewonnen.

Door Ghoztmaster, maandag 1 december 2008 17:48

Score: 2
tja, je kunt onder ethisch laten vallen, het niet gebruiken van gifgassen, geen burgers martelen etc. etc. de conventie van Genève is er niet voor niets.

Dat oorlog niet ethisch is, is weer een heel andere discussie.

Door GetaGrip, maandag 1 december 2008 19:56

Score: 2
de conventie van Genève is er niet voor niets
De Geneefse Conventie is achterhaald, waarom...? Omdat er gesproken wordt van combattanten die duidelijk herkenbaar zijn als combattant, laat het nu zijn geworden dat de laatste 'gewone' oorlog in 1992 in Joegoslavië was, alles daarna is moeilijk te toetsen naar deze richtlijnen. Want wanneer de 'tegenpartij' zich niet openlijk als combattant profileert, geen land of regering vertegenwoordigd, wie schend dan als eerste het verdrag van Genève?

Plus dat ik uit eigen ervaring weet dat je daar erg nerveus van kan worden, wanneer je niet weet wie - wie is.[September 1988-Free Lion, Palastijnse strijders overvallen regelmatig als burger gekleed geallieerde soldaten voor hun wapens - drie maal raden wie er mee deed en 's nachts patrouille liep met 'scherp']

Daar komt bij dat de Geneefse Conventie van kracht is op regeringen/landen en het verdrag zijn oorsprong had in het einde van de tweede wereld oorlog, wat een totaal andere wereldpolitiek had.

Nee, het wordt tijd voor een nieuw verdrag - maar wanneer de VN (wat ook al een instrument uit de 20' eeuw is) zo machteloos is ten opzichte van het hedendaagse wereldpolitiek, zie ik het somber in.

Door MSalters, maandag 1 december 2008 22:14

Score: 0
De Geneefse conventie is niet zozeer achterhaald als onvolledig. In "failed states" als Somalie werkt het concept inderdaad niet. Je tegenvoorbeeld is daarentegen weer geen probleem. Burgers die gewapend en in groepsverband tegen het wettelijk gezag opereren zijn criminele bendes. Die vallen onder nationaal recht. Dat wil zeggen dat je ze niet krijgsgevangen mag nemen, of voor onbepaalde tijd gevangen mag zetten (wat Israel dus wel doet).

Door Maikel_1976, maandag 1 december 2008 16:42

Score: 0
Een T-1, de testontwerpen die de T-X activeerde in terminator 3, arnie rukte van zo'n ding de arm af en schoot een andere ermee overhoop.

Nog ff doorontwikkelen tot we een T-800 hebben, en dan wel de stem in laten spreken door arnie :Y)

Door xtrme, maandag 1 december 2008 14:46

Score: 0
de robots mogen niet martelen
dus elk doelwit wordt direct uitgeschakeld

das ook fijn. uitschakelen is niet altijd omleggen volgens mij

Door SoulSurfer, maandag 1 december 2008 16:08

Score: 0
Of het waarschuwingsschot in de voet wordt juist vaker gebruikt? Als zo'n robot op een doel kan richten, kan dat doel ook een voet/hand zijn. Over nauwkeurigheid hoef je je bij robots niet veel zorgen te maken.

Door Johnny, maandag 1 december 2008 16:33

Score: 1
Volgens mij is er geen enkele gewapende unit die als beleid heeft om waarschuwingsschotten in de voet te doen. Ten eerste is het geen echte waarschuwing om iemand in zijn voet te schieten maar een directe aanval, ten tweede is het raken van een voet nogal lastog waardoor er een grote kans is dat je mist, en de kogel afkaatst tegen de vloer en een ander doel raakt. Daarnaast zal een zo'n schot, of het raak is of niet het doelwit niet uitschakelen maar alleen maar bozer maken en de situatie alleen maar verder doen escaleren.

Door pocketgamer, maandag 1 december 2008 15:37

Score: 0
Ze bepalen oo kwat voor munitie gebruikt moet worden, waarschijnlijk zullen robots dus veel sneller voor verdovende wapens kiezen als dat kan.

Door pcgek, maandag 1 december 2008 20:37

Score: 0
Je bedoeld waarschijnlijk: Wat de programmeur de robot voorgeschreven heeft, in welke situatie ,welke wapens en/of ammo te gebruiken. ;)

Door kimborntobewild, maandag 1 december 2008 22:42

Score: 0
En... heel belangrijk: zoiets een beetje 'goed' programmeren is uitermate moeilijk. Waarschijnlijk is zoiets de eerst komende honderden jaren zelfs nog gewoon onmogelijk.
Het zal voorlopig echt wel blijven bij op afstand bestuurbare robots. Indien niet: maak dan je borst maar nat - je krijgt dan heel veel grote fouten en heel veel cover-ups.

Door orca, maandag 1 december 2008 14:48

Score: 0
Krijgen alle militairen dan transponders zodat ze als 'friend or foe'aangemaerkt kunnen worden? hoe herken je burgers? dat is voor mensen al moeilijk genoeg...

Door Elmo_thefirst, maandag 1 december 2008 14:49

Score: 0
Alles en iedereen fie een wapen heeft, is een dreiging
Ga daar gepast mee om.
Gepast is dan weer een interpretatie door de software programmeur ingevuld.
Aangezien het allemaal weer overheidswerk is, zal het wel weer prutsen worden. Wel leuk dat er over nagedacht word. Nadenken, dat zie je daar niet veel meer.

Door Mellow Jack, maandag 1 december 2008 14:58

Score: 0
Lol dan komt er zo'n zelf moord terroriste met een staaf TnT in der boezem aangelopen :P

KABOEM DAAR GAAT WEER EEN PAAR MILJOEN

Door Corrit, maandag 1 december 2008 15:10

Score: 0
Heb jij dan liever dat er een persoon word opgeblazen ofzo?

Door Mellow Jack, maandag 1 december 2008 15:15

Score: 0
Dat bedoel ik helemaal niet wat ik ermee wilt zeggen is dat een persoon argwaan kan hebben en om dit bij een machine in te programmeren is heel lastig

Een persoon kan gemakkelijk de keuze maken van is het veilig dat dat kleine meisje bij mij id buurt komt of is het mogelijk dat zei een bom bij zich heeft

bijv een blik in dr ogen kan veel zeggen

[Reactie gewijzigd door Mellow Jack op maandag 1 december 2008 15:16]

Door Toontje_78, maandag 1 december 2008 15:21

Score: 1
Paar miljoen of een vergissing, die groot in de media uit word gemeten; beter een paar miljoen. D

aar komt bij, ik kan me niet indenken dat zelfmoordterroristen graag genoegen nemen met hun leven vergooien voor (kleine) financiele schade, je wil toch zeker een (liefts meer) menselijke vijanden meenemen de dood in.

Door mangahuisman, maandag 1 december 2008 15:31

Score: 0
er zijn al prima algoritmes om stress, of verkeerde bedoelingen te herkennen. op luchthavens word dit gebruikt.... grensposten enz.

Door Fastman, maandag 1 december 2008 15:40

Score: 0
maar ze werken echter niet ;)
geef één voorbeeld van een goed werkend systeem met 95% correct (en dan laten we 5% liggen) resultaat

Door SoulSurfer, maandag 1 december 2008 16:20

Score: 0
100% is sowieso nooit haalbaar en 95% is nog steeds heel hoog.

Een bepaling in een willekeurig medisch laboratorium heeft zelden een nauwkeurigheid van 95%. Door verschillende bepalingen te doen naar één ziekte kun je een redelijke diagnose stellen. Dat kunnen ze hier ook doen, een combinatie van systemen.

De onnauwkeurigheid die overblijft heb je maar te accepteren.

Door MSalters, maandag 1 december 2008 22:26

Score: 0
95% is niet heel hoog. 95% is misdadig laag.

Neem een dorp in Afghanistan als voorbeeld. Daar is hoogstzelden een zelfmoord terrorist. Misschien 1 op de 50 dagen, in 1 op de 20 dorpen is 1 op de 100 man een zelfmoord terrorist. Je hebt dus 5% * 10.000 = 500 onschuldigen afgeknald voordat je een 95% kans hebt om de echte zelfmoord terrorist te spotten.

Wil een herkenningssysteem betrouwbaar zijn, dan moet het foutpercentage heel veel lager zijn dan het percentage objecten wat je wil herkennen ten opzichte van andere objecten.

Door FvdM, maandag 1 december 2008 15:31

Score: 0
Het is een robot dus er kan vanalles ingebouwd worden zoals explosieven detectie

Door Fastman, maandag 1 december 2008 15:42

Score: 0
je loopt er voorbij met je pot verf (je gaat schilderen) en je gooit die in z'n ogen (camera's). end of story. of ga je nu ook al iedereen met verf neerschieten?
dan nemen we modder of aardbeien of ... Dus je gaat gewoon iedereen afschieten?

Door SoulSurfer, maandag 1 december 2008 16:31

Score: 1
Je loopt voorbij die soldaat met je pot verf (je gaat schilderen) en er blijkt stiekem expres een paar kilo explosieven in te zitten. Of wordt iedereen met verf nu ook neergeschoten?
Dan nemen we gewoon een uitgeholde pompoen of een neppe zwangere buik of ... Dus iedereen wordt nu ook gewoon afgeschoten?

Wat ik hier dus mee wil zeggen is dat hetzelfde trucje waarmee jij zo'n robot wilt uitschakelen ook werkt bij een normale soldaat. Een gewone soldaat kan wel zeggen dat een vijand op afstand moet blijven, maar dat kun je ook bij een robot inbouwen, in alle talen van de wereld zelfs.
Loop je toch op de robot af? Dan wordt je onschadelijk gemaakt op wat voor manier het meest voor de hand ligt. Een normale soldaat laat ook niet zomaar iemand op zich aflopen als hij gewaarschuwd heeft.

[Reactie gewijzigd door SoulSurfer op maandag 1 december 2008 16:47]

Door Fastman, maandag 1 december 2008 16:43

Score: 0
die explosieven kan men opsporen, explosieven kan men op een kilometer afstand detecteren. ik wou gewoon aantonen dat alles een wapen kan worden.

Door Mellow Jack, maandag 1 december 2008 17:05

Score: 0
Klopt klopt maar als een kind zijn moeder 100 m achter de robot staat en het kind rent "langs" de robot

Zal de robot dan snappen dat de moeder van dat kind 100 m achter hem staat of zal hij een waarschuwing geven en dat kindje neer schieten (verdoven of gewoon afknallen)

Hiermee wil ik zeggen dat een mens beter verbanden kan leggen dan robots, robots kunnen alleen uitgaan van het gene wat geprogrammeerd is en uit eigen ervaringen maar zal (voorlopig) geen fantasie hebben en dat heb je nodig om 2 vreemden aan elkaar te koppelen.

(Kindje luisterd niet naar de waarschuwing maar alleen naar de moeder)

Door Mellow Jack, maandag 1 december 2008 15:49

Score: 0
Bedankt FvdM voor die informatie, daar heb ik weer wat door bijgeleerd vandaag :D ik wist dat ze bestonden daar niet van maar niet dat ze zo accuraat zijn

@ mangahuisman, daar heb je gelijk in maar de uiteindelijke keuze wordt gemaakt door een mens ;) de computer zegt alleen, dit zou wel eens verdacht kunnen zijn...
Het is op een vliegveld niet erg om te veel mensen te controlleren (computer geeft bij 10 mensen aan die is verdacht en 1tje heeft iets bij zich) het is bij zo'n robot wel erg als hij 10 mensen neer schiet waarvan er 1tje echt een bom draagt oid

Ik vind dat computers voorlopig nog te veel afgaan van feiten want zoals veel mensen weten kan je feiten verdraaien :)

Ik kan bijvoorbeeld overkomen op computers als een erg stressvol/verdacht persoon omdat ik veel zweet of mijn hartslag om hoog gaat bij vreemde gebeurtenissen maar wie zegt dat het hierdoor komt en niet door iets wat in mijn hoofd speelt op dat moment?

Door Roland684, maandag 1 december 2008 14:58

Score: 0
Iedereen met een wapen? Dat is dus ongeveer elke amerikaan.

En wat is een wapen? Een knuppel? een stok?
Wat als dat ding zich vergist in een een boomstam of raketwerper?
Of kinderen die met speelgoedgeweren 4 jaar na de oorlog in het bos spelen?

Een robot die ethiek kent, laat me niet lachen. Ze hebben al moeite genoeg de situatie te herkennen, laat staan de gevaren in te schatten en die in de juiste context te plaatsen.

Door Yoozer, maandag 1 december 2008 14:55

Score: 0
hoe herken je burgers?
"You have 20 seconds to comply" :P
Aangezien het allemaal weer overheidswerk is, zal het wel weer prutsen worden.
Ja, maar - je verplaatst dan de focus van menselijke training naar programmering, dus het wordt een technologische wedloop. Alles wat prutswerk is verliest domweg z'n sappige vette contractor-status.

Wat interessanter gaat worden zijn de low-budget tegenmaatregelen (aka guerilla).

Door bbr, maandag 1 december 2008 15:26

Score: 0
Doet me een beetje denken aan robocop idd.

Demonstratie model, 20 seconds to comply.
Ging beetje mis door software foutje :P
http://en.wikipedia.org/wiki/ED-209

[Reactie gewijzigd door bbr op maandag 1 december 2008 16:16]

Door Cloud, maandag 1 december 2008 14:48

Score: 0
Ik moest hierbij meteen denken aan de "Three Laws of Robotics".

Dit is een paar jaar geleden ook verfilmd (I, Robot), en toen leek het zo ver weg, maar blijkbaar is het dichter bij dan we dachten.

Door Blue2ter, maandag 1 december 2008 15:10

Score: 2
Hier moest ik ook direct aan denken. Het systeem is redelijk eenvoudig en het lijkt me echt wel de oplossing voor deze dingen.

Je laat de robot een beslissing maken over iets bepaald. Voor dat de robot deze beslissing mag uitvoeren, voert hij de beslissing door een aantal regels. Is er een overtreding op een bepaalde regel, mag de actie niet uitgevoerd worden.

Voorbeeldje:

Robot heeft als functie de munititevoorraad op een slagveld aan te vullen. Deze robot kan zelf verbanden leggen en deze tot een actie omvormen. Hij merkt dat de munitievoorraad leegraakt doordat de soldaten hier items van wegnemen. Denkt die robot: Als er geen mensen zijn, is mijn munitievoorraad altijd 100%. Besluit: elke mens uitschakelen voordat ze een item uit de voorraad nemen.

Nu zijn we gekomen aan het probleem hoe dit op te lossen.

De robot heeft zijn besluit genomen maar gaat dit eerst door een set regels loopen. Als voorbeeld de "Three Laws of Robotics". Deze kunnen natuurlijk even goed uitgebreid worden tot de 50 laws of robotics.

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Bij de eerste regel laat hij het idee al varen en is er geen probleem meer.

Zolang dit systeem consequent wordt doorgevoerd en de robot na het doorlopen van de regels geen AI besluiten meer kan maken, begrijp ik niet goed waar het probleem nog ligt. Ben natuurlijk ook maar n enorme leek op gebied van robotica :p


Het wordt dan natuurlijk een pak moeilijker als je robot mensen moet gaan afmaken. Hoe ga je vriend van vijand onderscheiden? Kleding zal hier dan een grote rol spelen maar hoe lang gaat het duren tot de vijand dezelfde kleding als vriend draagt. Dan is het eerder een beter idee om alle manschappen een transponder te laten dragen op het slagveld. Maar dat kan ook weer nagemaakt worden, gescrambled worden, enz... enz...

Het is gwoon een straatje zonder einde. Zolang men met technologie werkt, zal de vijand hier steeds op reageren. Wat altijd het eeuwige slagveld buiten de oorlog is geweest.

[Reactie gewijzigd door Blue2ter op maandag 1 december 2008 15:22]

Door ZpAz, maandag 1 december 2008 15:20

Score: 1
Mja, een gevechtsrobot welke niet mag moorden (niet dat moorden goedkeur) schiet ook niet op. Die eerste regel zou dus alleen gelden voor huis-tuin-keuken robotten. In het leger is het wel handig dat zo'n ding de tegenstander wel neerschiet.

Door Reinman, maandag 1 december 2008 15:21

Score: 0
Die eerste regel is natuurlijk funest voor een oorlogs robot :9. Of hij moet mensen kunnen uitschakelen zonder hem pijn te doen.

Door bush, maandag 1 december 2008 15:26

Score: 0
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
Lijkt me nogal lastig als het een robot soldaat is. Veel "vijanden" zullen er niet worden neergeschoten :-)

Door Blue2ter, maandag 1 december 2008 15:45

Score: 0
Klopt hoor, maar die 3 regels zijn gewoon een voorbeeld van... Dit is uit een scifi boek dus je moet het niet te serieus nemen :)

Je zou hem eventueel kunnen aanpassen naar:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm unless it's an enemy.

Maar dan komen we bij het verhaaltje dat ik onderaan getypt heb in vorige post.

Door RocketKoen, maandag 1 december 2008 21:09

Score: 0
Nulde Wet
Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

Door sleezball, maandag 1 december 2008 23:57

Score: 2
Vertel er dan ook meteen even voor het gemak bij van wie, wat en hoe...

In de jaren '50 heeft een sci-fi schrijver genaamd Isaac Asimov de 'Drie Wetten der Robotica' geïntroduceerd in een verzameling korte verhalen, later gebundeld en beter bekend onder de naam 'I Robot'. Onlangs is het boek verfilmd (naar mijn idee een bijzonder slap aftreksel van het boek, al was Will Smith als Elijah Baley wel goed gecast).

In het verloop van de verhalen, die hoofdzakelijk robotpsychologie behandelen op hetzij spannende wijze, hetzij op humoristische wijze, wordt een voorzet gegeven in een richting die in latere romans uitgediept wordt en vormen de 'Drie Wetten' de grootste leidraad voor een groot deel van Asimov's verhalen, bundels en romans.

De 'Nulde Wet' staat boven de 'Eerste Wet' en 'overruled' alles daaronder, de 'Tweede Wet' en de 'Derde Wet' en is door een robot ontwikkeld om de mensheid te behoeden voor het uitsterven. De 'Nulde Wet' is dermate triviaal dat in de verhaalontwikkelingen uiteindelijk een soort van burgeroorlog uitbreekt onder robots. Het omhelst namelijk het volgende idee:

stelling: Y > X

Als je als robot een X aantal mensen niet redden kunt ten gunste van een Y aantal die je dan wél redden kunt, is het dus beter de Y groep te redden en de X groep te laten verrekken.

Het gaat dus om het dilemma. Als de 'Wetten' er hard genoeg ingebakken zijn en het dilemma zoals hierboven speelt zich voor gaan er onherroepelijk mensen dood, onschuldige mensen. Door het dilemma zal het brein simpelweg 'stallen', doorbranden wellicht. In een ramzaliger scenario slaat 'ie op hol en gaat knallend in het rond, wie weet.

Door Rob Coops, maandag 1 december 2008 16:20

Score: 2
Het echte probleem begint als je de robot wil laten leren iets wat toch wel nodig is in oorlogs situaties bijvoorbeeld anders worden ze net als de AI in computer spelen te voorspelbaar en makelijk te verslaan.

Als een robot kan leren betekend dat dus ook dat een robot voor een deel zijn eigen programatuur en regels moet kunnen aan passen en op dat moment kom je in een echt schemer gebied terecht waar bij een robot dus in ieder geval in theorie zou kunnen besluiten dat het beter is om jouw uit te schakelen omdat er dan minder slachtoffers vallen en de oorlog sneller over is bijvoorbeeld.

Het lijkt heel simpel om regels op te stellen over wat we en niet mag voor een kunstmatige inteligentie maar het is heel veel moeilijker dan het lijkt.
Wij mensen zijn al vele duizenden jaren bezig op deze planeet met elkaar uit te moorden te stelen liegen en bedriegen. Genocide nooit meer roepen we steeds als er weer een paar honder duizend mensen van de een of de andere bevolkings groep om het leven gekomen zijn.
Dat soort regels op stellen voor mensen zo als bijvoorbeeld de Geneefse conventie is leuk en aardig maar voor alle mensen die nog dagelijks in Irak etc. dood gemarteld worden heeft het totaal geen betekenis.
Voor robots is het natuurlijk iets anders omdat sommige regels mischien niet te overschrijven zijn, maar als je vijhand dat wel doet kun je dan nog steeds vol blijven houden dat je dat niet kan doen; ook niet als je aan de verliezende hand bent?

Ik weet dat het vanzelf gaat gebeuren en net als iedereen op deze planeet die er ook maar even over na denkt weet ik dat de robots gemaakt gaan worden in ons evenbeeld en dus zullen zij net als wij niet perfect zijn. Daar bij komt nog eens dat ze door mensen gemaakt gaan worden en er dus on ontkomentlijk fouten gemakt gaan worden iets wat er toe kan leiden dat wij uit eindelijk aan het kortste eind zullen trekken.

Door W3ird_N3rd, maandag 1 december 2008 17:25

Score: 0
Het wordt dan natuurlijk een pak moeilijker als je robot mensen moet gaan afmaken. Hoe ga je vriend van vijand onderscheiden? Kleding zal hier dan een grote rol spelen maar hoe lang gaat het duren tot de vijand dezelfde kleding als vriend draagt. Dan is het eerder een beter idee om alle manschappen een transponder te laten dragen op het slagveld. Maar dat kan ook weer nagemaakt worden, gescrambled worden, enz... enz...
Even een vraag die nu misschien wel heel dom klinkt, maar als de vijand dezelfde kleding, gekloonde transponders etc heeft.. Hoe maakt een mens dan het onderscheid?

Een mijns inziens veelgemaakte fout is dat men van een AI-systeem verwacht dat deze beter kan presteren dan een mens.

Door kimborntobewild, maandag 1 december 2008 22:52

Score: 0
...begrijp ik niet goed waar het probleem nog ligt. Ben natuurlijk ook maar n enorme leek op gebied van robotica
Het probleem zit 'm niet bij robotica, maar bij de software. Het is een immense opgave om zelfs maar software te maken die de intelligentie van een mier overstijgt.
Er is momenteel gewoon nog totaal geen punt in zicht van ook maar matige kunstmatige nuttige intelligentie bij robots. Het wordt keer op keer onderschat.
Hoeveel tienduizenden programmeurs werken er niet aan Windows? Zelfs 't eenvoudig openen of opslaan van een bestand (ik noem maar iets willekeurigs) kan bij Windows al hopeloos mis gaan. En dat met die tienduizenden programmeurs achter zich. Lijkt Windows al enigszins intelligent? Totaal niet.

Door coretx, dinsdag 2 december 2008 02:43

Score: 0
Wet 2 stelt indirekt dat een robot naar geen enkel mens mag luisteren.
Dit vanwegen het feit dat wij allen ( indirekt ) verantwoordelijk zijn voor de dood van andere mensen
Wet 3 is ook nogal vreemd. De robot heeft namelijk resources nodig. Die zelfde resources zouden ook gebruikt kunnen worden om een mensenleven te redden.
Oftewel, de robot moet zichzelf kapot laten gaan.

Ja, ik gebruikt het woord "indirekt" meer dan 1 keer.
Let op wet 1. inaction

Door YopY, maandag 1 december 2008 15:18

Score: 0
Alleen zijn alle drie niet van toepassing op oorlogsrobots, =D. De derde misschien, maar die ook maar gedeeltelijk.

Door Cloud, maandag 1 december 2008 15:23

Score: 0
Scherp. :)

Ze zullen inderdaad aangevuld moeten worden met het concept, vriend en vijand. De drie wetten zullen dan in plaats van 'human', 'friendly human' moeten gebruiken.

Door jvo, maandag 1 december 2008 15:40

Score: 0
Tja, maar dan wordt het echt tricky. De robot mag vervolgens zelf beslissen of een mens vijandig is of niet?

Door tuXzero, maandag 1 december 2008 19:02

Score: 1
Inderdaad, en dat mag jij ook. Daarom voeren mensen oorlog. Omdat een groep mensen een ander als bedreiging zien voor hun land, vrijheid of ideeën. Dit is geen menselijke eigenschap maar één van de natuur.

De truk is dus om het perspectief van de kunstmatige intelligentie te laten grenzen aan jouw idee van hetgeen dat verdedigen dient te worden.

Het probleem is echter, dat hetgeen dat verdedigt dient te worden naast de relatief simpele en verre van ideale "three laws" de rest erg moeilijk definieerbaar is. Een voorbeeld is: 'verdedig onze troepen', 'verdedig de burgers', etc..

Probeer deze doelen maar eens te definiëren. Zelf ben ik programmeur dus ik weet hoe lastig het is om een computer iets te laten "begrijpen". Object geörienteerd ontwerp lost daarbij een hoop op, maar complexe interacties met niet fysieke objecten blijft lastig. Een fysiek object is makkelijk te classificeren en vaak zijn zijn eigenschappen makkelijk te meten.

Zo kan je de computer makkelijk laten "begrijpen" dat een auto 4 wielen heeft. Maar als we een mens hebben. Welke karakteristieken houd die persoon aan de kant van de "good guys"?

Door Darkprince1234, maandag 1 december 2008 19:47

Score: 0
Op moeilijke zaken zijn vaak makkelijke antwoorden mogelijk ;)

Alles wat kleiner is dan 1,5meter en een mens is neerschieten :) Vervolgens worden er enkel nog maar kleine mensen van onder de anderhalve meter in het eigen leger aangenomen.

Opgelost! }:O 8-)

Door Cowboy op zee, maandag 1 december 2008 21:06

Score: 0
Lees je post nog eens goed door.
1. jouw robot begint zijn eigen leger af te knallen
2. jouw robot doet niets tegen vijandelijke robots
Vergissen is menselijk, maar je wilt niet dat degelijke vergissingen in de software van zo'n robot zit en daar zou ik erg bang voor zijn.

Door Tjeerd, maandag 1 december 2008 15:23

Score: 2
Er lopen al van dat soort robots rond in in Zuid Afrika, zie hier. Schijnt goed te werken.

(lees dit bericht van mij over een jaar of 25 opnieuw en er is niets vreemds meer aan)

@hieronder: het filmpje is niet echt - vandaar de nadruk op het opnieuw lezen over 25 jaar - maar de kans dat zoiets werkelijkheid is over 25 jaar acht ik heel erg groot. Kijk naar ASIMO, die al een jaar of drie rondloopt. Een robot die al prima zelf kan lopen en in het openbaar bekend is/commercieel te krijgen is. Achter de schermen zijn er veel bedrijven die ook aan robots werken, misschien zelfs prototypes die het publiek niet gezien heeft, maar nog veel geavanceerder zijn dan bijvoorbeeld ASIMO. Ik vind het vreemd dat veel mensen het zo vergezocht vinden allemaal. De ontwikkelingen gaan harder dan wij weten/denken. Als je er nu niet over hoort betekent niet dat er in de laboratoria geen prototypes zijn.

Een andere vraag die ik meer van betekenis vind is of die manier van beveiligen, zoals in mijn eerste filmpje, ooit bewaarheid zal worden. Zelfde verhaal met het leger, robots hebben een hele hoop voordelen, die met de tijd meer en meer gaan wegen en mits goed ingezet, een goede aanvulling kunnen zijn op mensen en misschien het leger.

[Reactie gewijzigd door Tjeerd op maandag 1 december 2008 16:15]

Door Rinzwind, maandag 1 december 2008 15:34

Score: 0
Je denkt hopelijk niet dat het filmpje echt is huh? De kans dat zoiets over 25 jaar werkelijkheid is, is een ander verhaal...

Door Stukfruit, maandag 1 december 2008 15:47

Score: 0
Fout.

Die robots lopen alleen rond in de gedachten van Neill Blomkamp, de director die dat filmpje maakte.

De robots zijn gemaakt door The Embassy en lopen ook in hun computers rond als 3d model. Juist ja, dat zijn dezelfde heren als van de Citroenfilmpjes met de dansende auto.

Door kimborntobewild, maandag 1 december 2008 23:05

Score: 0
De ontwikkelingen gaan harder dan wij weten/denken.
Je haalt twee zaken door elkaar. Robots (fysiek) ontwikkelen gaat inderdaad voortvarend. Maar de software: die blijft totaal achter. Zo'n Asimo, dat ziet er leuk uit. Maar alles is voorgeprogrammeerd. Hij kan een obstakel omzeilen als je 'm opdracht geeft ergens heen te lopen. Daarmee heb je zo ongeveer de belangrijkste vorderingen gehad op software gebied. En dan nog... Er zijn ook filmpjes dat ie van een trap kukelt. Je zou bijna medelijden krijgen. Terwijl dat nergens op slaat - 't is een stuk mechaniek!!
Er zijn wel kleine vorderingen op softwaregebied maar dat stelt echt nog niks bijzonders voor. Zeker niet vergeleken met de vorderingen op het mechanische.

Door reiplrecordz, maandag 1 december 2008 14:48

Score: 0
Nee, het is de "Tracked Hunter Killer" uit Terminator.

zie: http://www.goingfaster.co...K%20technical%20data.html

[Reactie gewijzigd door reiplrecordz op maandag 1 december 2008 14:49]

Door tw3akfr3ak, maandag 1 december 2008 14:49

Score: 0
is dat slechts een schaalmodel op de foto of iets echt werkend?
ziet er wel leuk uit voor in me tuintje :+

Door Allubz, maandag 1 december 2008 14:50

Score: 2
Wat er echt in het artikel staat:

De Brit is geen filosoof doch een Robotics Expert. Een ordinaire wetenschapper dus. Filosofen worden over het algemeen niet als wetenschappers betracht.
De filosoof is van de Indiana's University en heeft een boek geschreven mbt. Moraal en Machines.

In de filosofie worden robots meestal gedefinieerd als dat wat geen ethiek kan bedrijven, omdat dit speciaal voor mensen bedoelt zou zijn.
Beter gezegd: Er zou een reconstructie van de menselijke ratio moeten plaatsvinden, mits deze überhaupt bestaat. (Neurowetenschappen / Neurofilosofie / Filosofie)

[Reactie gewijzigd door Allubz op maandag 1 december 2008 14:51]

Door Allubz, maandag 1 december 2008 15:36

Score: 0
Ongetwijfeld, ik studeer zelf ook filosofie aan een universiteit.

Studeren /= Wetenschap
Werken /= Wetenschap
Filosoferen /= Wetenschap
Onderzoek doen (ook naar filosofische schriften) kan heel goed wetenschap zijn.

Ik betrek me voornamelijk op de filosoferende filosoof :)

[Reactie gewijzigd door Allubz op maandag 1 december 2008 15:37]

Door tuXzero, maandag 1 december 2008 19:11

Score: 0
Is filosoof niet Grieks voor: "vriend van de wijsheid" (uit Wikipedia)? Zoals ik het daar lees zijn filosofen mensen die streven naar de wijsheid. Is dat dan geen vorm van wetenschap en misschien wel zijn fundamenten?

Door Cowboy op zee, maandag 1 december 2008 21:21

Score: 0
Neem onderstaande alsjeblieft niet letterlijk, zeker de beledigende stukken niet, maar ik kon het niet nalaten om dit stukje te quoten
But you think you're an intellectual,
don't you, ape?

- Apes don't read philosophy.
- Yes, they do, Otto.

They just don't understand it.

Now let me correct you
on a couple of things, OK?
Uit de film A fish called Wanda

Filosofie is zeker een wetenschap, maar het is een van de weinige (enige? ik heb ook niet de wijsheid in pacht) niet empirische wetenschappen. Dat betekent dat kennis niet door verifieerbaar onderzoek wordt verkregen maar door redenatie en argumentatie. Voor zaken als ethiek is dit de enig mogelijke werkwijze.
Betrachten is een oud werkwoord dat in Nederland eigenlijk alleen nog in spreekwoorden/gezegden wordt gebruikt: "zijn plicht betrachten". Het woord dat je zoekt is "beschouwd" of "gezien"

Door Lennart, maandag 1 december 2008 14:52

Score: 0
"Daarmee zouden robots ethischer dan mensen zijn, ook al beschikken uiteraard ze niet over de mogelijkheid tot reflectie"
Fout! Ethiek is afwegen en tot een keuze komen. Dat kan nooit op grond van een vaste set van regels. Al zijn er stromingen die zeggen van wel...

Door BarôZZa, maandag 1 december 2008 14:58

Score: 2
Juist met een vaste set van regels kan je beter ethiek bedrijven. Een robot zal dus de regels afwerken en aan de hand daarvan zijn keuze maken, daar waar bij mensen nogal eens emoties de overhand kunnen hebben.

Bijvoorbeeld de keuze om wel of niemand uit te schakelen.

Een robot kan een set regels aflopen van:
- Is hij bewapend en klaar om te schieten
- Wat is de afstand?
etc om het gevaar in te schatten.

Terwijl een soldaat zoiets kan hebben van:
'Vieze @#$@^, ik knal je neer'
of
'Een week geleden heeft hij of een vriend van hem een collega van mij neergeschoten'

Door Helghast., maandag 1 december 2008 15:17

Score: 0
Ethiek is de gedachtegang achter goed en fout voor >mensen<. Je kan niet verwachten dat een broodrooster met een geweer ethisch verantwoorde keuzes kan maken hier is namelijk bewustzijn voor nodig.

De mensen die het ding programmeren geven de betekenis die het aan de input moet geven en de gepaste reactie op die input. Daar komt geen gedachte aan te pas slechts een hele lange wiskundige berekening.

Tijdens oorlogen gebeuren vreselijke dingen door menselijke emoties en dat is maar goed ook! Als oorlogen een steriele aangelegenheid waren dan hadden we oorlogen om niets omdat er toch geen zware consequenties zijn. Het feit dat oorlog vreselijk is zorgt er voor dat we er heel lang en goed over na denken voor we er aan beginnen.

Door BartOtten, maandag 1 december 2008 17:59

Score: 1
Stel er staat een groepje Afganen in de lucht te schieten vanwege een bruiloft.
Stel iemand ziet de robot aankomen en weet niet wat het is. Voor de zekerheid pakt hij zijn geweer en richt erop terwijl hij er naartoe loopt.
Stel kinderen lopen rond met namaakgeweren
Stel.......

En dan is dit nog niet eens ethiek :D

Er is in het Neerlandsch recht een voorbeeld over een kind dat gehandicapt geboren werd en die een ziekenhuis aanklaagde (de advocaat van de ouders dan) vanwege haar geboorte. Met juiste medische gegevens zou ze namelijk nooit geboren zijn. Ze vroeg een schadevergoeding.

Ethisch puntje: Als je een schadevergoeding toekent dan geef je het leven een waarde/prijs. Als je het afwijst dan geef je aan dat het leven geen waarde heeft.

Het ligt allemaal iets complexer waardoor dit voorbeeld nu een beetje mank gaat. Maar het is een ideale casus om te snappen dat ethiek niet alleen uit regels bestaat. In de bestreffende casu sprak de Hoge raad uiteindelijk uit dat het slachtoffer niet kon weten hoe het zou zijn om niet geboren te zijn en dat het dus ook niet kon weten of gehandicapt leven slechter was dan niet geboren zijn. Mooi staaltje rechtspraak ;)

Door himlims_, maandag 1 december 2008 14:54

Score: 0
Daarmee wordt de komst van doeltreffende en kleine EMP's groter.
Verwacht wel dat deze mits je in de buurt kunt komen, eenvoudiger te blokkeren zijn dan gewone tanks. Er is inmiddels geen human die een error kan herstellen; uitstappen en blokkade verwerpen.

Door Sgreehder, maandag 1 december 2008 15:57

Score: 0
EMP granaten.. kun je zowel deze broodroosters als modern uitgeruste soldaten flink mee raken. Waarschijnlijk doe je er goed aan de kogels zonder CPU nog even reserve te houden ;-)
«  1  2  3  4  5  »

Op dit item kan niet meer gereageerd worden.

Volgende 15:18
Vorige 14:14
VNU Media logo Hosted by True

© 1998 - 2009 Tweakers.net - Alle rechten voorbehouden - Uw Privacy - Algemene Voorwaarden

Uitgever van: