Google: Amerikaanse leger mag onze ai-techniek niet gebruiken voor wapens

Google is bezig met het opstellen van regels voor samenwerking met het Amerikaanse leger op het gebied van kunstmatige intelligentie. Een van die regels zal zijn dat het leger de techniek van Google niet mag gebruiken voor wapens.

Google zal de regels ergens in de komende weken intern bekendmaken, meldt The New York Times. Of die regels ook naar buiten zullen komen, is onbekend. Google gaat samenwerken met het Amerikaanse leger, omdat het contract veel geld oplevert voor onderzoek naar kunstmatige intelligentie.

Het specifieke project voor het Amerikaanse Pentagon, ook wel Project Maven genoemd, behelst Google-software waarbij het leger machinelearning inzet om videobeelden te interpreteren, die militairen vervolgens kunnen gebruiken.

Veel Google-medewerkers zijn tegen de samenwerking, omdat het volgens hen niet past bij het zoekbedrijf en niet past bij hun eigen waarden. De bezorgde medewerkers zijn bang dat de technologie bijvoorbeeld wordt gebruikt voor het doelgerichter uitvoeren van droneaanvallen, iets waarvan Google volgens hen ver weg moet blijven. Ze vinden dat niet algoritmes, maar mensen voor dit potentieel dodelijke werk moeten worden ingezet. Begin april hebben bijna vierduizend Google-medewerkers al tegen dit project geprotesteerd. Een dozijn medewerkers zijn al opgestapt vanwege de samenwerking.

Reacties (54)

[Blokker_1999]

En denken zij echt dat het leger zich aan zo een contract gaat houden? Die roepen gewoon even nationale veiligheid en ze doen wat ze willen. Tegen dat Google ooit kan bewijzen dat ze het gedaan hebben zijn ze 10 jaar verder.

[Jorgen]

Dat, of ze zetten het gewoon in voor apparaat/doel/afdeling 1, die via afdeling 2 en 3, in verbinding staat met dodelijk apparaat 4. Voldoen ze er toch aan, kan je er niks tegen doen.

[Elefant]

Google's AI-technologie IS al een wapen. Daarom is het misleidend om te zeggen het niet ingezet mag woorden voor wapens. Google en Facebook zelf zijn wapens die ingezet worden tegen landen. Controleren welke informatie mensen wel en niet te zien krijgen is veel sterker wapen dan tanks. Mensen opsluiten in hun eigen bubble is een wapen.

Dat we geen knopje hebben om dat uit te zetten zegt genoeg. Als we allemaal het zelfde zagen dan zouden we ook kunnen zien hoe evenwichtig Google de informatie presenteert. Dat kunnen we dus niet. Daarom kan Google en Facebook perfect doen wat Cambridge Analytica deed zonder dat we daar ooit achterkomen. Daarbij worden ze nog geholpen door overheden die Google dwingen om informatie onzichtbaar te maken. Kennis is macht, Google is almacht.

Bijvoorbeeld Netneutraliteit. Google en Facebook zijn daar fel op voor, want dat scheelt ze heel veel geld. Hoe gemakkelijk is het voor ze om protesten tegen de afschaffing bij mensen onder de aandacht te brengen?

Google en Facebook maken in feite diensten als de Stasi overbodig, omdat zij de meningsvorming vergaand kunnen beinvloeden. Het is echt een achterhaald idee dat we alleen bang hoeven zijn voor repressie. Repressie is achterhaald als je subtiel de meningsvorming van de massa kan beinvloeden. helaas is het zo dat wij mensen lang niet zo zelfstandig handelen als wij wel denken. Als op de goede knoppen gedrukt worden, reageren wij heel voorspelbaar.

Het gevaar van AI zit niet zozeer in wapens maar in grootschalige goedkope ongewenste beinvloeding. Zeker met AI kan je de oorlog nog wat goedkoper maken in mensenlevens, maar daarvoor zetten ze tegenwoordig al huurlingen in. Wat daarmee gebeurt interesseert ook niemand. Mensen denken te veel in repressie en te weinig in manipulatie. Met goede manipulatie heb je geen repressie nodig. Dat vereist wel een intelligente aanpak.

Hoe lang zal het duren voor AI perfect onze micro-expressies en daarmee emoties kan lezen? Hoe lang zal het duren voor AI een gezicht toont dat zelf micro-expressies toont om de onze onbewust te beinvloeden? Hoe lang zal het duren voor AI zal kunnen lezen wat onze werkelijke gevoelens over onderwerpen zijn, als ze daar met ons over praat? Ik denk dat we al zo ver zijn, en dat het een kwestie is van grootschalig uitrollen. De mens wordt dan steeds meer gereduceerd tot zijn productie en consumptie functie.

Ik wil eigenlijk maar een ding en dat is vrij blijven van de alles doordringende blik van Google en Facebook. Maar de sociale omgeving zelf dwingt je om je privacy vrij te geven, bijv. via WhatsApp. En alles wat je prijs geeft kan je niet meer terug halen. De privacy wetten in Nederland zijn gewoon bliksemafleiders omdat ze de ergste schenders gewoon door laten gaan.

[robvanwijk]

Tegen dat Google ooit kan bewijzen dat ze het gedaan hebben zijn ze 10 jaar verder.

En zelfs al kunnen ze dat bewijzen, wat dan nog? Gaat Google het Pentagon aanklagen voor contractbreuk, of nog leuker, schending van intellectuele eigendomsrechten? Zelfs al zouden ze, juridisch gezien, gelijk hebben, dan nog zie ik het niet gebeuren dat Google de aanklacht indient (want dat is "unpatriotic"). En zelfs als ze de rechtszaak beginnen, dan nog heb ik niet genoeg vertrouwen in het Amerikaanse rechtssysteem dat het Pentagon ook daadwerkelijk wordt teruggefloten. Kijk naar alle andere grove misdaden waar ze mee weg komen; waarom zouden ze voor zoiets knulligs als diefstal opeens wel ter verantwoording worden geroepen...!?

Sorry Google (en, sorry wereld), maar als je het wiel, pantserstaal of AI ontwikkelt, dan gaat dat gebruikt worden om oorlog mee te voeren, of je het nu leuk vindt of niet.

[MSalters]

't Is geen kwestie van "vertrouwen in het Amerikaans rechtssysteem". Je mist het probleem van "soevereine immuniteit". Je kunt niet zomaar overheden aanklagen, en zeker de Amerikaanse overheid niet. Overheden zijn simpelweg geen mensen of bedrijven, en zijn dus niet gebonden aan dezelfde regels.

Omdat er niemand zaken wil doen met een overheid die niet betaalt is het gangbaar dat betalingsvoorwaarden e.d. uitgezonderd zijn van soevereine immuniteit. Dit soort contractvoorwaarden zullen echter niet uitgezonderd worden.

[robvanwijk]

Je kunt niet zomaar overheden aanklagen, en zeker de Amerikaanse overheid niet. Overheden zijn simpelweg geen mensen of bedrijven, en zijn dus niet gebonden aan dezelfde regels.

Googlen naar "nederlandse staat aangeklaagd" geeft 154.000 treffers. Het aan kunnen klagen van de overheid is nou juist één van de belangrijkste principes van onze samenleving:

quote: https://nl.wikipedia.org/wiki/Rechtsstaat

Belangrijk is dat niet enkel de rechtsonderhorige, maar ook de overheid gebonden is door deze wetten.

Er was wel ergens iets van een uitzondering. Als ik me goed herinner geldt dit alleen voor je eigen overheid; jij en ik kunnen dus wel de Nederlandse overheid aanklagen, maar niet de Amerikaanse. Voor Google (een Amerikaanse bedrijf), zou dit echter geen probleem mogen. Gerelateerd leesvoer.

[Verwijderd]

Je mist het probleem van "soevereine immuniteit".

Omdat het hier niet van toepassing is.

Google heeft de US overheid al enige malen (met succes) aangeklaagd. Google maar eens.

[snellie123]

Google maar Trias politica, de scheiding der machten. De overheid staat los van het rechtsysteem en is zelf ook wel degelijk te vervolgen. Niemand staat boven de wet, de president niet, het parlement niet en ja ook het pentagon moet zich gewoon aan de regels houden.

[defixje]

De president heeft toch gewoon politieke onschendbaarheid ?

[Tjolk]

Hij wordt dan misschien niet vervolgd (dat weet ik eerlijk gezegd niet zeker), maar er kan wel een Impeachment procedure gestart worden: https://nl.wikipedia.org/wiki/Afzetting_(bestuur)

Vind-ie ook niet leuk.

[snellie123]

klopt, daarna kan hij echter nog steeds crimineel vervolgd worden.

[robvanwijk]

We hebben het over twee heel verschillende dingen: theorie en praktijk. Ja, juridisch gezien zal Google het Pentagon echt wel aan kunnen klagen, dat klopt, maar ik zie het nog niet gebeuren dat ze het ook echt doen.

Ten eerste omdat een heleboel Amerikanen "nogal" nationalistisch zijn en fervent aanhanger van het leger ("Support our troops"). Als Google die aanklacht indient, dan zit het er dik in dat iemand met veel geld en belang bij een leger dat veel, dure wapens koopt (laten we zeggen, de wapenfabrikanten) een modder-gooi PR-campagne starten met als thema "dankzij Google gaan soldaten dood" en dan hebben ze een probleem. Juridisch kunnen ze helemaal gelijk hebben, maar als ze de rechtszaak winnen wordt het probleem juist alleen maar nog veel groter.

Ten tweede omdat ik ontzettend weinig vertrouwen heb in het Amerikaanse rechtssysteem. Ze hebben er nogal een handje van om te kiezen voor "het doel heiligt de middelen" en het verkiezen van Amerikaanse belangen boven niet-Amerikaanse. Hoeveel Amerikanen zijn vervolgd voor de mishandelingen in Abu Ghraib en Guantanamo Bay? Hoeveel landen die officieel bondgenoten van de VS waren, zijn slachtoffer geworden van hacks door de VS? En hoeveel "bondgenoten" kunnen een militaire invasie verwachten als represaille voor het vervolgen van oorlogsmisdaden? Ze negeren, keer op keer, alle wetten, regels en verdragen (zowel die van zichzelf als internationale) als dat het Pentagon goed uitkomt... en ze komen er nog mee weg ook. En dan moet ik geloven dat Google erin slaagt om ze succesvol ter verantwoording te roepen?

Nee sorry, trias politica is een prachtig (en cruciaal) uitgangspunt, maar in de praktijk staat het Pentagon wel degelijk boven de wet.

[snellie123]

Boven de wet staan is wat anders dan niet vervolgd kunnen worden. Wat ik zei en jij nog benadrukt is dat ze wel degelijk voor de recht gedaagd kunnen worden. Of google dat daadwerkelijk gaat doen is een hele andere discussie.

[LtMarx]

Heeft toch niets te maken met een contract? Als Google weigert om mee te werken aan dergelijke projecten vanwege hun interne morele code en regels dan heeft dat niets te maken met een contract.

De tweede vraag is of project maven past binnen die nieuwe regels. Maar Google heeft zich blijkbaar al gecommitteerd aan dit product\contract.

[Qinshi]

Inderdaad @Blokker_1999 .
Ik zie dit vooral als een soort PR move van Google.
Om hun goed geweten veilig te stellen. Dat ze nadien kunnen zeggen 'jamaar, het leger van de USA mocht het niet gebruiken van ons'.
Precies of het leger van de USA zal luisteren. Desnoods kopiëren ze de AI en tweaken ze hem een beetje, zodat hij toch doet wat hij voor hun moet doen.

[Jerie]

Dan kunnen ze zeggen: "wir haben es nicht gewusst." De oorlog in Irak leert ons echter dat het Amerikaanse leger boven de (internationale) wet staat.

[MSalters]

Dat heeft ook een heleboel te maken met het feit dat er geen internationale wet is. Nou ja, je hebt de EU, dat komt in de buurt. Maar de bulk van het internationaal recht bestaat uit verdragen - als die er al zijn. Indien Trump Noord-Korea aanvalt, is dat gewoon een einde aan een informele wapenstilstand; er is niet eens een vredesverdrag.

[Jerie]

Dat heeft ook een heleboel te maken met het feit dat er geen internationale wet is. Nou ja, je hebt de EU, dat komt in de buurt.

Er was ooit een wereldoorlog waarna we met z'n allen hebben besloten de VN op te richten. Misschien is dat een handige organisatie om te beslissen in welke landen we binnen moeten vallen om de boel te beveiligen? Liever dat dan AI, toch? Welnu, er was geen VN mandaat voor de oorlog in Irak omdat de bewijzen niet overtuigend waren. Vervolgens is de VS met een coalitie -onder naar wat later bleek valse voorwentselen- toch binnengevallen. Die wij overigens "wel politiek, maar niet militair" hebben gesteund. Wat blijkt dus: de VN had het bij het rechte eind. De VS niet.

[robvanwijk]

Er was ooit een wereldoorlog waarna we met z'n allen hebben besloten de VN op te richten. Misschien is dat een handige organisatie om te beslissen in welke landen we binnen moeten vallen om de boel te beveiligen?

Dat is het ook, maar die beslissing moet dan door de Veiligheidsraad heen. En de vijf permanente leden (VS, VK, Frankrijk, Rusland, China) hebben allemaal veto-recht. Dus zo'n beslissing kan alleen genomen worden als al die vijf landen vóór stemmen (of zich van stemming onthouden), zelfs als er maar eentje tegen stemt gaat het niet door. Dus ja, een VN-mandaat krijgen voor een vredesmacht (om het over een preventieve invasie helemaal maar niet te hebben) is "nogal lastig" om het heel voorzichtig uit te drukken.

[WoutervOorschot]

Het wordt waarschijnlijk niet gebruikt in wapens, dat was al wel redelijk bekend, het echte probleem zit erin dat het wel wordt gebruikt voor verkenning en alles dat er bij hoort; alles behalve mikken en de trekker overhalen kan je nog steeds doen als het ‘niet gebruikt wordt voor wapens’

[ger jansen]

Hahahahhaa..Inderdaad!

[dwaas]

Doesnt matter. Got paid. Symboolpolitiek.

[diyoo]

Ik vermoed dat je daar helaas gelijk in hebt. Even heel cynisch gedacht.. Zelfs als zouden ze zich aan afspraken houden, dan bieden ze hun beelden aan aan een andere partij, die vervolgens google algos gebruikt om het doel wat het leger nastreeft te bewerkstelligen. Resultaten worden teruggegeven aan het leger en zie daar, ze hebben geen direct gebruik gemaakt van deze technologie.. afspraak nagekomen. Uiteraard wordt dat een "schandaal" wat een paar weken aanhoudt en daarna is het business as usual. M.i. maakt google deze afspraken enkel om intern de gemoederen te sussen, zodat het personeel ophoudt met protesteren en doet waarvoor ze zijn aangenomen, nl. geld verdienen voor het bedrijf.

[Verwijderd]

Eigenlijk zouden de GPL en BSD licentie een "not evil" clausule moeten hebben zodat open source code nooit gebruikt kan worden voor het doden of verwonden van mensen

[Verwijderd]

Dat gaat nogal in tegen één of meer van de essentiële vrijheden die je, in geval van GPL, bij een GPL licentie krijgt (namelijk vrijheid nul):

Om te beginnen: wat is de GNU General Public License?

De GNU General Public License is een Vrije Softwarelicentie, dat betekent een licentie die is ontworpen om je vier essentiële vrijheden te geven – de vier vrijheden die Vrije Software definiëren.

Een applicatie is Vrije Software als u, de gebruiker, deze vier vrijheden bezit:

o. Vrijheid nul is de vrijheid om de applicatie te gebruiken zoals u het wilt, voor ieder doel.
o. Vrijheid één is de vrijheid om de broncode te bestuderen en te wijzigen om het te laten doen wat u wenst.
o. Vrijheid twee is de vrijheid om je buurman te helpen, dat wil zeggen kopieën maken en distribueren o. naar anderen als u dat wenst.
o. Vrijheid drie is de vrijheid om de gemeenschap te helpen: de vrijheid om de gewijzigde versies te publiceren en te distribueren wanneer u dat wenst.

ps. Ja, programmeurs beginnen wel vaker te tellen vanaf nul. Vandaar vrijheid nul en niet vrijheid één.

[latka]

Sun licenceerde zijn software met een "mag niet in nucleaire installaties gebruikt worden" clausule. Dat komt in de buurt. Van de OSS licenties ken ik alleen die van IText (pdf generator): na een ruzie met de Belgische belastingsdienst mochten zij het volgens de licentie niet meer gebruiken.

[MSalters]

Dat was een standaard clausule omdat verzekeraars daar moelijk over deden en doen. Check je inboedelverzekering maar, goede kans dat atoomreacties uitgezonderd zijn.

Grappig: https://www.youtube.com/watch?v=-hCimLnIsDA

[ieperlingetje]

Als Google hier echt tegen was dan zetten ze gewoon de samenwerking stop. Maar het is net zoals dat de regering accijnzen heft op sigaretten in plaats van het te bannen. Geld is nu eenmaal een belangrijke drijfveer voor zulke beslissingen.

[latka]

Google kan hier onmogelijk tegen zijn want aandeelhouders. Als blijkt dat dit contract zeg 500 miljoen oplevert en de directie zegt: doen we niet zeggen de aandeelhouders "dag directie" en komt er een ander die het wel doet. Ethiek en moreel besef gaan de deur uit zodra je de beurs op gaat.

[twizzle]

Maar de ontwikkelaars schijnen nu massaal te zeggen dat willen we niet. En dan kan Google hoog of laag springen maar als die massaal ontslag nemen hebben ze wel een groot probleem wat potentieel meer geld kan kosten als het verliezen van een groot contract.

[Verwijderd]

En dan neemt het leger die AI in gebruik, het leger kennende zal dat wel op eigen systemen draaien, en dan heeft Google er niks meer over te zeggen.

[Sandor_Clegane]

En dan verontwaardigd: "But they told us.......". Pinky swear.

[Compunologist]

Komt allemaal goed. Het verhaal moet nog een paar keer gespind worden voordat het naar de buitenwereld een "sell" is:

Avoid at ALL COSTS any mention or implication of AI...This is red meat to the media to find all ways to damage Google

the company did not publicize Maven

Nu nog wat papieren tijgers creëren en we kunnen weer verder

[Martinspire]

Ik snap de negativiteit maar kan ook wel bedenken dat er inderdaad veel plekken naast het front zijn om Ai te gebruiken. Recruitment, logistiek, management, training. Zaken die ook weer aan consumenten en bedrijven zijn te verkopen. Het leger heeft een groot budget en kan een project meerdere decennia ondersteunen.

[m0nkey]

Google heeft diens lijfspreuk don't be evil vervangen door do the right thing, nu gaan ze ook in zee met het Ministerie van Oorlog. Spijtig.

[latka]

"the right thing" is rekbaar. Super ai die minder bommen nodig heeft om hetzelfde doel te bereiken is verdedigbaar "the right thing" en misschien zelfs "not evil" alhoewel je voor die laatste verdediging waarschijnlijk Amerikaan moet zijn.

[Sandor_Clegane]

Mwoah, dat maakt het alleen maar gemakkelijker om ze in te zetten. Zie hoe gemakkelijk Predators het gemaakt hebben om mensen aan te vallen nu er geen vliegtuig met piloot daadwerkelijk die kant op moet vliegen.

Als er straks geen bijkomstige schade meer is, zowel aan eigen troepen als die van het doelwit, is het hek van de dam.

[MrMonkE]

Je houdt het toch niet tegen. Als het belangerijk wordt dan kopen de defense-contracters hun kennis in door de creme de la creme weg te kopen bij meer ideologisch georienteerde bedrijven. Sommige van de individueele werknemers hebben misschien een andere mening dan het bedrijf.

[dogan2010]

Ja joh noem het systeem skynet en t is compleet
Jesus als je vroeger zou zeggen dat het vlakbij zou komen t film terminator werd je opgenomen.
T is nu wel heel vlakbij

[dikkemuu]

De "AI-techniek" die hier wordt genoemd is niets vergeleken met hoe het fictieve Skynet werkt.

Ik bedoel Google's demonstratie van zijn AI techniek d.m.v. Google Assistant op de I/O 2018 conference was leuk maar die dingen zijn heavily scripted.

[Reactie gewijzigd door dikkemuu op 22 juli 2024 21:16]

[Sandor_Clegane]

Dat is er al, geloof het of niet: https://www.wired.com/2015/05/nsa-actual-skynet-program/