'Google-medewerkers stappen op uit onvrede over ai-project voor Pentagon'

Website Gizmodo meldt dat ongeveer een dozijn Google-medewerkers ontslag neemt, vooral uit onvrede over een Google-project waarbij kunstmatige intelligentie dronebeelden van het Pentagon classificeert. Ook is er ontevredenheid over Googles bredere beleidsbeslissingen.

Volgens de vertrekkende medewerkers zijn de leidinggevenden van Google minder transparant geworden tegenover het personeel over controversiële zakelijke beslissingen en lijken ze minder bereid om te luisteren naar de protesten van het personeel. Gizmodo heeft Google gevraagd te reageren op de vertrekkende werknemers, maar heeft nog geen reactie ontvangen.

Volgens Gizmodo hebben veel van de ontslag nemende Google-medewerkers hun vertrekredenen opgeschreven, die vervolgens zijn gebundeld in een intern document. Verschillende bronnen hebben de inhoud daarvan aan de website uiteengezet, zegt Gizmodo. Ook zegt de website dat diverse voormalige medewerkers hun beslissing om Google te verlaten hebben toegelicht.

Het specifieke project voor het Amerikaanse Pentagon, ook wel Project Maven genoemd, behelst Google-software waarbij machinelearning wordt ingezet om videobeelden te interpreteren, die vervolgens voor militaire doeleinden kunnen worden gebruikt. Hiermee zou de analyse van dronebeelden worden versneld, omdat de kunstmatige intelligentie in staat is om ze bijvoorbeeld te classificeren op de aanwezigheid van personen of objecten.

De onvrede hierover richt zich vooral op het feit dat Google zich door dit project met het Pentagon direct met oorlogvoering zou bezighouden. De bezorgde medewerkers zijn bang dat de technologie bijvoorbeeld wordt gebruikt voor het doelgerichter uitvoeren van droneaanvallen, iets waarvan Google volgens hen ver weg moet blijven. Ze vinden dat niet algoritmes, maar mensen voor dit potentieel dodelijke werk moeten worden ingezet.

Begin april hebben bijna vierduizend Google-medewerkers al tegen dit project geprotesteerd. Google heeft de technologie van Project Maven verdedigd. Google-topvrouw Diana Greene heeft eerder gezegd dat de technologie niet direct wordt gebruikt om drones te laten vliegen of wapens af te vuren.

Er is niet alleen onvrede over de manier waarop door Google ontwikkelde ai wordt ingezet voor het Amerikaanse leger, die is er ook over het feit dat Google de Conservative Political Action Conference heeft gesponsord, en er is kritiek op de wijze waarop het bedrijf omgaat met het tegengaan van discriminatie op de werkvloer.

Reacties (123)

[2green]

Wauw: "Google-topvrouw Diana Greene heeft eerder gezegd dat de technologie niet direct wordt gebruikt om drones te laten vliegen of wapens af te vuren."

Het wordt dus enkel gebruikt om het doelwit te selecteren

[Verwijderd]

Zonder Arpanet was er geen internet en ook geen Google. Betreffende medewerkers van Google hebben last van selectieve verontwaardiging.

[2green]

Als het regent wordt de weg nat, maar als de weg nat is hoeft het niet geregend te hebben.

Oftewel, veel gemaakte redenatie fout om oorzaak en gevolg omgekeerd ook "altijd" als waar te zien.

[Znorkus]

Arpanet is al 28 jaar dood, en Google werd opgericht op het moment dat het internet een wereldwijd web was waar iedereen zich bij aan kon sluiten. Weinig militairs meer aan. Dus om in 2018 te beweren dat iedereen die voor een wereldwijd communicatienetwerk is daardoor niet meer kritisch mag zijn op defensie (of moeten we zeggen offensie) van de VS - dat is natuurlijk kletskoek

[2green]

Nu ben je aan het doorredeneren tot in het absurde, dit doen mensen vaak om hun gelijk te halen wanneer ze dit niet hebben. Maar toegegeven is het ook handig in de wetenschap om te testen hoe stevig een hypothese is. Echter nooit geschikt om als tegenargument te gebruiken, zie onderstaande reactie bijvoorbeeld.

Zou ik deze methode toepassen op jouw reactie: een leven waarin logische principes ineens geen effect hebben op ons leven (geen logica, wiskunde, natuurkunde, etc). Dan wordt het al onprettig als 1+1=2 niet meer logisch is voor ons tweakers (hint: to compute betekend optellen).

[Verwijderd]

Wauw: "Google-topvrouw Diana Greene heeft eerder gezegd dat de technologie niet direct wordt gebruikt om drones te laten vliegen of wapens af te vuren."

Het wordt dus enkel gebruikt om het doelwit te selecteren

Inderdaad. Van het "do no evil" is al lang niets meer over, helaas.

[Soldaatje]

Tja, als deze techniek zorgt voor meer precisie bij aanvallen met minder burgerslachtoffers zou ik er niet op tegen zijn.

[84hannes]

Ik denk dat de vraag vooral is of je voor een technologiebedrijf werkt, of voor het leger. In dit geval zijn mensen aangenomen voor het eerste, maar schuift het een klein beetje naar het tweede.

[MsG]

Maar als de overheid dan wel bij een andere technoloog gaat shoppen ben je als Google ook niet per se beter af. Ik snap dat het hip is om ze een bepaalde ethiek op te leggen, maar uiteindelijk is het leger ook gewoon een bepaalde afnemer van zaken, net als ieder ander bedrijf. Iets kan natuurlijk altijd wel breder worden ingezet in plaats voor maar één bepaald doemscenario.

Het gebash op 'Don't be evil' vind ik dan ook vrij kinderlijk, alsof een staatsleger per definitie geclassificeerd zou moeten worden als evil. Met militaire zaken steekt altijd een soort collectieve hypocrisie op dat we enerzijds wel degelijk erkennen een leger nodig te hebben, danwel te willen voor onze bescherming, maar als deze dan ineens legitimiteit krijgt is het vervolgens weer 'evil'.

[Reactie gewijzigd door MsG op 23 juli 2024 14:57]

[SpiceWorm]

Hoe wordt Nederland beschermd dan in door soldaten in Irak?

Het lijkt een flauwe vraag maar het gaat over de discussie over wat een leger zou moeten doen. Ik geloof wel dat ze Nederlandse belangen dienen in Irak, maar gaat het stiekem niet gewoon over olie? Het heeft heel erg weinig te maken met het verdedigen van onze landsgrenzen - hetgeen waarvoor de meeste mensen vinden dat een leger is.

Ik snap de ontwikkelaars erg goed dat ze niet willen bijdragen aan techniek die gebruikt wordt in een oorlog, daar kan je van alles bij halen maar deze ontwikkelaars kunnen dat prima voor zichzelf beslissen. Ik zou dat ook niet willen.

[Reactie gewijzigd door SpiceWorm op 23 juli 2024 14:57]

[Verwijderd]

NL heeft inderdaad weinig directe dreiging ondervonden van Irak. De reden zit daarom zoals bekend in geopolitiek, een complex internationaal mechanisme met allerlei belangen, handjeklap, conflicten en compromissen.

Specifiek in Irak aanwezig zijn lijkt me voor Nederland puur een stukje loyaliteit richting de westerse alliantie, lees: USA.

Even als side note: het hele land Irak is een slecht verzinsel, na de oorlog op een kaart in elkaar geflanst, waardoor verschillende groepen die elkaar het licht in de ogen niet gunnen gevangen zitten binnen landgrenzen die gewoon niet kloppen.

We kunnen stellen dat Amerika bedienen niet fijn is, en die kritiek wordt veelvuldig geuit. Voor diegene die dat het hardste roepen, besef dan ook even de gevolgen van niet onder de beschermde vleugels zitten van deze supermacht.

Het betekent nul bescherming, aangezien Europa tegen andere machten niet is opgewassen. Er is een kans dat je dan onder een Chinese of Russische overheid gaat vallen. Eens kijken of mensen dan nog zo hard piepen.

Ondanks de vele fouten die de USA maakt, heb je je welvarende, vrije, vredige leven te danken aan de USA als beschermheer van Europa. Deze bescherming is niet vanzelfsprekend, en dat is je welvaart en vrijheid ook niet. Het merendeel van de mensheid leeft in een land waarin deze vrijheid en deze welvaart niet gelden.

Met andere woorden, de USA is een bemoeizuchtige supermacht, maar dat is de rol van een absolute supermacht. Uit alle kwaden die we kunnen kiezen, blijf ik erbij dat een USA als wereldmacht de beste uitkomst is gegeven de "alternatieven".

[SpiceWorm]

Je hebt gelijk dat Nederlandse soldaten daarom in Irak zitten, maar waarom zit de coalitie er? Waarom zat (zit?) de US er?

[Verwijderd]

Ik weet niets meer dan wat het nieuws meld.

Ten tijde van Bush sr. was het omdat Kuweit onder druk stond, een bondgenoot van de USA. Een vrij zwakke reden, waar waarschijnlijk veel meer achter zat.

Tijdens Bush jr. omdat er massavernietigingswapens waren, maar dat bleek niet zo te zijn.

Tijdens Obama omdat ISIS de boel op stelten zet, wat op het oog een zinniger reden is dat bovenstaande gevallen.

Ongetwijfeld steekt er veel meer achter, maar dat kan een leek niet doorzien. Ik ga er daarom niet naar gissen. Mensen die echte redenen willen naspeuren kunnen de vele tienduizenden onthulde documenten doorlezen en analyseren, maar daar heeft niemand zin, ik ook niet.

[mjtdevries]

jemig, als je 5 seconden moeite doet dan zou je weten dat kuweit niet "onder druk" stond, maar aangevallen en bezet was door Irak. (omdat het zijn schulden aan Kuweit niet meer kon betalen en dit was een handige manier om van schulden af te komen)
Saudi Arabie was bang dat Irak hetzelfde zou doen tegen hen. Er was een VN mandaat om Kuweit te bevrijden. Niks geen zwakke reden dus.

Daarna heeft Saddam er alles aan gedaan om het de wapeninspecteurs onmogelijk te maken hun werk te doen. Saddam wilde ook graag dat iedereen nog dacht dat hij nog steeds massavernietigingswapens had. Het staakt het vuren had als voorwaarde dat de inspecteurs hun werken konden doen. Maak dat onmogelijk en dan is er geen staakt het vuren meer. Wederom geen zwakke reden.

Veel mensen denken altijd dat amerika op olie uit is, maar de amerikanen zijn helemaal niet afhankelijk van de olie in het midden oosten. Zij hebben zelf genoeg.
Het is juist Europa dat uit is op olie in het midden oosten. En vooral Frankrijk. Frankrijk was dikke maatjes met Saddam. En Europa is nu ook dikke maatjes met Iran en heeft daar tientallen miljarden in de olie industrie gestoken. (daarom zijn ze nu ook boos op Trump, want dan ben je ineens die tientallen miljarden voor kwijt)

[Verwijderd]

Bespaar je de tijd. Mijn hele punt was dat het onmogelijk is voor een leek om perfect alle achtergronden en redenen te doorgronden. Ik begin er daarom niet eens aan. Blijkbaar zie jij dat juist als uitnodiging om een gekleurde eigen conclusie van ieder geval te maken.

Ik begin niet aan die discussies. Ik ben het niet per definitie oneens met welke conclusie dan ook, ik stel dat het merendeel pure speculatie is.

[demartijn]

Ho eens even. Als we kijken naar de gecombineerde defensie van de individuele landen in Europa kom je op een respectabel legertje. Wel vind ik dat we dat onvoldoende hebben onderhouden en dat we eigenlijk volledig zouden moeten samenwerken. Dan zou Europa, militair gezien een grotere supermacht dan Amerika en China kunnen zijn (zoals we nog niet zo lang geleden (voor WO2) ook gewoon waren). Als we niet zo achterover leunen dan wel vergaderen tot we er bij neervallen, zijn we in potentie zowel militair als economisch de grootste supermacht op deze planeet.

Ik vind het jammer dat we deze potentie nu niet benutten, en veel te veel op onze "bondgenoot" Amerika hebben geleund. Wel denk ik de laatste tijd dat we langzaam aan het wakker worden zijn, en onszelf weer wat serieuzer nemen. Ook denk ik dat (voor de rest mafketel) Trump daarin een positivie stimulans betekend.

[Verwijderd]

Volgens mij heeft het niets met 'hip' te maken. Ik zou wilen dat meer mensen principieel zouden zijn. De wereld zou er in potentie beter uitzien.

Ik hou mij principieel niet bezig met defensie, koffieshops, veehouderijen, slachterijen en overige locaties die tegen mijn ethiek in gaan.

Deze ethische bezwaren hebben mij vele tienduizenden euro's gekost, maar geld zorgt niet voor een zuiver geweten en een zuiver geweten is voor mij belangijker dan geld.

[Zoijar]

Ik hou mij principieel niet bezig met defensie, koffieshops, veehouderijen, slachterijen en overige locaties die tegen mijn ethiek in gaan.

Deze ethische bezwaren hebben mij vele tienduizenden euro's gekost, maar geld zorgt niet voor een zuiver geweten en een zuiver geweten is voor mij belangijker dan geld.

Natuurlijk hou je je wel bezig met defensie: je leeft immers in een vrij land dankzij defensie en plukt daar de (economische) vruchten dagelijks van. Tevens gaat een deel van de belasting die jij betaalt direct naar die defensie dus het gebeurt ook nog "van jouw geld".

Maar zodra er rechtstreeks contact is vinden mensen het ineens niet ethisch en hebben ze liever dat iemand anders het naamloos en ongemerkt doet: het is makkelijker als iemand anders zijn ziel verdoemd voor een noodzakelijk "lesser evil" en men zelf de handen in onwetende onschuld kan wassen. Dat is de hypocrisie van dit zgn. ethisch handelen, ook bij de Google medewerkers.

[Reactie gewijzigd door Zoijar op 23 juli 2024 14:57]

[Verwijderd]

Ja, laten we dik 70 jaar terug in de tijd gaan.

Gelukkig heeft de westerse mens een ontwikkeling doorgegaan en gaan we tegenwoordig wat beschaafder met elkaar om en hebben we alleen nog een leger om een beetje mee te vechten in een of ander oliestaatje om dat de Amerikanen ons dan weer leuk vinden. Die Amerikanen waar de productie van defensie materieel en overig wapentuig een significant aandeel heeft in het BNP en dus economisch baat hebben bij een oorlogje hier en daar.

Als ik een keus had, dan zou ik de belasting die ik graag betaal heel anders verdelen en zou defensie geen rooie cent van mij krijgen. Maar ja, ik heb maar marginaal invloed met mijn stemrecht over het kasboekje van de Staat der Nederlanden.

De enige invloed die ik heb is persoonlijk geen inspanningen te verrichten in markten waar ik ethische bezwaren tegen heb.

V.w.b. die die iemand ander die het naamloos en ongemerkt doet; ik heb liever ook niet dat deze het doen.

Ik zie mijzelf dan ook niet als hypocriet op dit vlak.

[kozue]

je leeft immers in een vrij land dankzij defensie

Dat is natuurlijk compleet de zaak omdraaien. Je leeft in een vrij land (alhoewel dat ook steeds minder wordt, maar dat terzijde) ondanks defensie, niet “dankzij”. Het is natuurlijk heel spijtig dat er het idee heerst dat legers perse nodig zijn om onze vrijheid te beschermen. De wereld zou vrijer zijn zonder legers. Hoe minder vechtende groeperingen, hoe beter voor de gewone bevolking. Uiteindelijk is een leger ook gewoon een vechtgroep, maar dan in dienst van een overheid in plaats van hun leider en eigen overtuigingen. Hoe goed of slecht een leger is valt of staat dus met hoe goed of slecht die overheid is.

[MSalters]

Tja, die strategie hebben we in 1930 geprobeerd. Ik zou dat geen succes noemen.

We weten sindsdien ook beter. En dan bedoel ik niet sinds 1940, maar sinds 1944. In dat jaar legde von Neumann de grondslag voor game theory. De naam is misleidend; het gaat over de wiskundige analyse van strategieën. Belangrijker nog, in 1950 ontwikkelde Nash het concept wat we nu kennen als het "Nash evenwicht" - een evenwicht waar je geen voordeel kunt behalen met een eenzijdige beslissing, ongeacht de strategie van de ander.

Een situatie waarin iedereen een leger heeft is Nash stabiel - het afschaffen van je eigen leger is geen voordeel als iemand anders je land wil binnenvallen.

Een situatie waarin niemand een leger heeft is niet Nash stabiel. De eenzijdige beslissing om een leger op te bouwen stelt je in de mogelijkheid om buurlanden binnen te vallen.

[kozue]

Als je zo redeneert, zou ieder land dus het grootste leger moeten hebben, omdat het anders niet bestand is tegen het grootste leger van de ander. Waarmee je dus een wapenwedloop creëert, en we weten ook sinds de jaren 80/90 hoe dat af loopt...
Volgens mij maakt het niet zo veel uit of jouw leger 50% of 0% van de capaciteit van de tegenstander is, in beide gevallen is het te weinig. Dan beter gewoon 0% aanhouden, dan verspil je geen resources die je beter had kunnen gebruiken.

En je kunt het ook zien als RTS game: als je je basis niet voldoende uitbouwt, loopt de tegenstander (ook een AI) over je heen. Het effect is hetzelfde als wanneer je nooit iets gebouwd had: je hebt verloren.

[MSalters]

Dat is dus inderdaad de reden dat we iets als de NAVO hebben. Wij hoeven geen groter leger dan de Russen te hebben; niemand hoeft dat zolang we samen dat maar wel hebben.

[Verwijderd]

je leeft immers in een vrij land dankzij defensie

Op zowel dat "vrij" als dat "dankzij" valt een hoop af te dingen.

Momenteel houdt het Nederlandse leger zich vooral bezig met het verdedigen van Amerikaanse oliebelangen. Ik ben voor een leger voor landsverdediging, maar dan ook alleen daarvoor en niet dat het ingezet wordt voor kansloze missies in Afghanistan en Mali die alleen maar geld en levens kosten en niks nuttigs opleveren. Of zelfs rechtszaken opleveren zoals Srebrenica.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 14:57]

[Verwijderd]

Technici kunnen wel voor zichzelf beslissen of ze aan zoiets willen meewerken.Ik heb ook wel eens nee gezegd toen een recruiter over een baan begon in beeldherkenningssoftwware die gebruikt zou worden in kentekenscanners. Daar wil ik niet aan meewerken.

[bbob]

Het amerikaanse leger staat er ondertussen de laatste 15 jaar om bekend dat ze evil zijn. Tel de burgerslachtoffers eens die in de oorlogen zijn gevallen. Hoeveel collateral damage slachtoffers. Wij weten nog niets eens het topje van de ijsberg. Het zijn echter wel keuzes die men maakt en waar niemand verantwoording over hoeft al te leggen.

Als je als technology bedrijf voor het amerikaanse leger werkt geef je jezelf een stempel. Dat stempel is wat mij betreft evil. Als google het niet doet zal een ander het doen, dan moet die ander het idd maar doen.

AI laten beslissen of mee te laten beslissen over leven en dood is de eerste stap, een stap die verkeerd is en een stap die niet genomen mag worden. Je zou moeten weten dat dit alleen maar het begin is.

[monojack]

Hip? Wat heeft ethiek met hip te maken? Ik kies veel van de producten die ik koop op basis van de ethiek van het bedrijf. Ethiek is niet hip, ethiek heeft met visie te maken. Als je de gevaren van je eigen producten kan inzien dan wil dat ook zeggen dat je je producten goed begrijpt. Bedrijven met ethiek leveren meestal betere producten af dan bedrijven waar ethiek ver zoek is.

[MsG]

Ethiek is enorm in the eye of the beholder. Ik noem het 'hip' omdat het tegenwoordig vrij hip is om daar een mening over te hebben zonder dat je er consistent naar hoeft te handelen. Zo willen we enerzijds beschermd worden, maar wordt het anderzijds hier veelvuldig afgedaan als 'evil'. Er bestaan dan ook geen bedrijven 'zonder ethiek', enkel bedrijven met een andere ethische blik of mentaliteit dan de jouwe. Ik blijf het bijzonder vinden hoe op Tweakers een ethisch fenomeen vaak wordt beschreven als een zwart/wit-kwestie.

[LaLinea]

Het is heel belangrijk om basis feit niet te verliezen. Het gaat niet om "een staatsleger" maar om leger die sinds 2de WO meer dan 40 keer werd ingezet en geen een keer voor de verdediging van eigen land of burgers. Oorlogen voeren blijft voor sommige "zaken doen" en voor sommige "het levens verhaal".

[CAPSLOCK2000]

Met militaire zaken steekt altijd een soort collectieve hypocrisie op dat we enerzijds wel degelijk erkennen een leger nodig te hebben, danwel te willen voor onze bescherming, maar als deze dan ineens legitimiteit krijgt is het vervolgens weer 'evil'.

Ken je de term "noodzakelijk kwaad"? Die is hier van toepassing.

Dan vind ik niet hypocriet maar juist heel realistisch. Mensen snappen dat we soms een leger nodig hebben, omdat we ons in deze wereld helaas soms 'evil' moeten opstellen om op te komen voor onze rechten. Soms zijn de problemen groot genoeg dat we accepteren dat we (deels onschuldige) mensen gaan doodschieten, bombarderen, verbranden of verkrachten omdat we geen andere oplossing meer zien. Het doel van het leger is niet om 'evil' te zijn, maar we beseffen dat dit nu eenmaal hoort bij het werkterrein. Zelfs het beste getrainde leger met het beste materiaal maakt vergissingen met afschuwelijke gevolgen. De meeste legers zijn niet het best getrainde leger met het beste materiaal maar bestaan uit middelmatige soldaten (het zijn immers gewoon mensen) en aftands materiaal.
Dat neemt niet weg dat je heel goed kan beseffen dat het leger in fundament is opgericht om te vechten en te doden en dat is zo'n beetje de basis van wat wij "slecht" en "onbeschaafd" gedrag noemen.

[Verwijderd]

Soms zijn de problemen groot genoeg dat we accepteren dat we (deels onschuldige) mensen gaan .. verbranden of verkrachten omdat we geen andere oplossing meer zien.

.

Euhm.. denk dat je mss je reactie zou willen aanpassen

[OddesE]

Verbranden gebeurt gewoon als policy hoor. Zie hoe men bunkers leeg blaast door een vlammenwerper naar binnen te richten. Verkrachten daarentegen... Helaas is het in sommige legers ook policy maar in de meeste westerse legers niet. Wat niet wil zeggen dat het niet gebeurt.

[MSalters]

We accepteren het wel stilzwijgend door VN-vredesmissies te laten bemannen door onderbetaalde soldaten uit Derde-Wereldlanden. Die zijn slecht getraind, met weinig toezicht door de militaire leiding.

[Verwijderd]

Dat zal allemaal best, maar dan nog kun je twijfels hebben over het soort wapens dat dat leger kan gebruiken. Je hoeft geen fundamentalistische pacifist te zijn om tegen autonome drones die kunnen doden te zijn. Hetzelfde geldt voor zaken als fragmentatiebommen, landmijnen en chemische, biologische en kern wapens. Allemaal zaken waar veel mensen tegen zijn hoewel ze op zich niet de noodzaak voor het bestaan van een leger ontkennen.

[OddesE]

Je weet dat de Nazi's ook een staatsleger hadden toch? En Stalin? en en en...

[OddesE]

Het is een reactie op 'Als er geen conflict of dispuut is tussen een land of tussen groeperingen onderling gaat een staatsleger niet zomaar vechten.'

Het Duitse leger ging wel degelijk 'zomaar' vechten. Legers moeten we wantrouwen.

[Verwijderd]

Ik denk dat de vraag vooral is of je voor een technologiebedrijf werkt, of voor het leger. In dit geval zijn mensen aangenomen voor het eerste, maar schuift het een klein beetje naar het tweede.

Nu is die grens sowieso vaak dun. Kijk bijvoorbeeld naar een specialist in telecommunicatie die meewerkt aan technologie die radars verbetert, niet eens per se met het doel radars te verbeteren, iets wat voor A ontwikkeld wordt kan ook voor B worden gebruikt. Een ander voorbeeld, stel dat we niet het Manhattanproject hadden gehad en allerlei ingenieurs, natuurkundigen en wiskundigen hadden voor civiele doeleinden uitgezocht hoe je uranium verrijkt, dan had uiteindelijk ook het leger dit gebruikt voor militaire toepassingen. De wetenschappers die de LASER ontwikkelden hadden waarschijnlijk geen militaire motieven, dit wordt nu als wapen gebruikt door de marine van de USA maar diezelfde LASER kan ook worden gebruikt om een ruimteschip te koppelen aan het ruimtestation, een auto te parkeren, om data van een optische schijf te lezen of betere sneeën te maken bij een operatie.

Hoe krachtiger een technologie hoe groter het potentiële nut maar ook hoe meer schade het kan opleveren bij gebruik. Het probleem zit in de kloof tussen het ontwikkelingsniveau van de techniek en het gebrekkige ontwikkelingsniveau van de beschaving. Een grote kloof hiertussen is erg gevaarlijk.

[Verwijderd]

Ik denk dat het tot meer aanvallen leidt, de verantwordelijkheid kun je zo lekker afschuiven. "De AI zei dat het mogelijk terroristen waren, wist ik veel dat het een (de zoveelste) bruiloft was."

[cappie]

Beetje zoals die drones die mensen targetten met shaped explosive charges zoals @ https://www.youtube.com/watch?v=TlO2gcs1YvM ?

Speciaal voor het mongooltje hieronder: ja, dit is fictie

[Reactie gewijzigd door cappie op 23 juli 2024 14:57]

[MSalters]

Je weet dat dat fictie is?

Shaped charges bestaan, ja, maar ze worden gebruikt tegen bepantserde doelen. Snipers in het echt gebruiken gewoon kogels als ze iemand willen doden. En de UAV's die de VS gebruikt tegen terroristen gebruiken gewone "niet-shaped" explosieven.

[DrSnuggles]

De nekharen gingen overeind staan bij me na het lezen van het artikel, maar jouw argument is eigenlijk een hele sterke.

[cadsite]

Inderdaad stof om over na te denken.
Maar zo kan je alles omdraaien.

Misschien ging er geen aanval uitgevoerd worden wegens te groot risico op veel collateral damage en nu wel omdat die beperkt is. Bijvoorbeeld, "slechts" risico op enkele burgerslachtoffers.

[DrSnuggles]

Agreed. Al zal gemiddeld genomen die collateral damage minder worden, afhankelijk van hoe die samenhangt met de keuze om wel of niet aan te vallen.

Als blijkt dat hierdoor het absolute aantal aanvallen omhoog gaat, en daardoor absoluut ook meer burger slachtoffers, dan gaan we er op achteruit.

Dit soort ontwikkelingen zullen echter sowieso plaats vinden, of het nou door een Google wordt gefaciliteerd of niet. De truc is volgens mij dus vooral goed monitoren wat de gevolgen lijken te zijn, en op basis daarvan opnieuw afwegingen maken.

[cappie]

Weet je wat je dan krijgt? Dit soort praktijken: https://www.youtube.com/watch?v=TlO2gcs1YvM

[MsG]

Waarom is het noodzakelijk dat het die kant opgaat? Ik gooi hem er maar weer even in: https://yourlogicalfallacyis.com/nl/hellend-vlak

[cappie]

Waarom ga je er automatisch van uit dat (aangejaagd door geld, macht en een ziekelijke verslaving aan een van beiden OF allebei) dit scenario nooit gaat plaatsvinden en er nooit (mini)drones/quadcopters/"smart weapons" zullen worden uitgevonden die specifieke doelen kunnen targetten? (of deze algoritmen faalbaar zijn is een andere discussie).

Ik gooi deze dan maar meteen weer terug in je gezicht.. je mag 'em houden:
https://yourlogicalfallacyis.com/nl/de-drogreden-drogreden

[Reactie gewijzigd door cappie op 23 juli 2024 14:57]

[MsG]

Ik zeg niet per se dat het helemaal niet gaat gebeuren in evolutionaire zin, maar hier op Tweakers is een eventuele mogelijkheid tot efficiëntieverbetering altijd inherent aan een of ander fictief endgame-scenario, liefst nog met verwijzingen naar 1984. En als je dan ook nog eens de vermeende quote van Benjamin Franklin uit de context haalt ben je hier vaak helemaal de held van de reacties.

Ik voorzie eerder in steeds efficiëntere uitschakeling van personen, wat juist voor een mindering in slachtoffers zorgt, dan dat er morgen ineens een doemscenario ontstaat. Defensie en defensieve technologie mag best eens uit het taboehoekje komen.

[Reactie gewijzigd door MsG op 23 juli 2024 14:57]

[nXXt]

Het ligt er maar net aan: als een algoritme gaat bepalen wat de kans op burgerslachtoffers is en dit dan aan een menselijke operator meedeelt, dan is dat nog enigszins te overzien. Je loopt wel het risico dat mensen blind het algoritme gaan vertrouwen en minder zelf nadenken, maar dat is wel een andere insteek dan dat je de daadwerkelijke beslissing overlaat aan kunstmatige intelligentie.

[Reactie gewijzigd door nXXt op 23 juli 2024 14:57]

[govie]

Ik heb toevallig gisteravond Captain America Winter Soldier gekeken, wat eigenlijk gaat over dit thema.Het plot gaat over 3 vliegende oorlogsschepen waarin algoritmes konden worden geprogrammeerd om de vijanden van Hydra in 1 moment allemaal af te schieten. Hun propaganda om dit te doen was 20 miljoen afschieten om 8 miljard in vrede te laten leven. Hail hydra! Stel nou dat iemand slimmer is dan google en hun software aanpast en zo de doelen veranderd? Bij defensie drukt iemand gewoon op de knop hoor, omdat het zo in de handleiding staat, die knakker gaat gewoon het werkvloerprotocol af. Maargoed, de soep wordt nog niet zo heet gegeten als hij wordt opgediend in mijn post, maar het scenario uit de bovenstaande film komt toch akelig dichtbij zo.

Zint eer ge begint!

[Reactie gewijzigd door govie op 23 juli 2024 14:57]

[wica]

Als je bij Google gewerkt hebt, heb je toch wel een soort baan garantie in de vorm dat andere je wel willen aannemen. Dan maakt het opstappen om ethiek, wel een stuk gemakkelijker.

[MSalters]

Sterker nog, én Google én AI-ervaring op je CV, dat is de beste baangarantie die er nu is. Maar ik krijg niet de indruk dat de opstappers direct aan Maven werkten, gezien het feit dat ze nu pas opstappen. Dat is omdat het nu breder bekend wordt - insiders moeten allang geweten hebben waar ze aan werken.

[Armin]

Als je bij Google gewerkt hebt, heb je toch wel een soort baan garantie in de vorm dat andere je wel willen aannemen. Dan maakt het opstappen om ethiek, wel een stuk gemakkelijker.

Plus een groot deel werkt in hippieland San Fransisco, dus je moet ook niet raar opkijken als er 12 mensen opstappen op een totaalperrseneelsbestand van tienduizenden.

Google heeft een vrije originele bedrijfsstructuur met veel ruimte voor personeel om in werktijd clubjes en groepje te vormen die zich bezig houden met zaken ongerelateerd aan Google. Dat is een soort secondaire arbeidsvoorwaarde, maar dat geeft ook af en toe wat realiteits-checks en dan teleurstellingen dat Google een eigen bedrijfslijn heeft die niet past bij jouw persoonlijke (radicale) opvattingen.

[NotSoSteady]

Tja, werknemers die het bedrijf besturen lijkt me persoonlijk ook niet de bedoeling. We hebben het hier bovendien over open-source software, dat zelfs kan worden gebruikt zonder hulp van Google.

[Reactie gewijzigd door NotSoSteady op 23 juli 2024 14:57]

[LOTG]

Open source software? Dat lees ik nergens. Sterker nog Google ontwikkelt het voor het Pentagon, dus de kans is vrij groot dat het ook daar blijft.

Ook acht ik de kans aanwezig dat de software eigendom word van het Pentagon, dus ze kunnen er achteraf waarschijnlijk mee doen wat ze willen.

[NotSoSteady]

Employees’ demands that Google end its Pentagon contract are also complicated by the fact that Google claims it is only providing open-source software to Project Maven, which means the military would be able to still use the technology, even if Google didn’t accept payment or offer technical assistance.

https://gizmodo.com/googl...t-pentagon-con-1825729300

[xalvo]

Het probleem gaat hier wel verder dan Project Maven. Dat is het topje van de ijsberg. Het gaat deze medewerkers juist ook om hetgeen er niet publiekelijk bekend wordt gemaakt.
Daarnaast is open source leuk...maar dat wil niet zeggen dat je open source ook zomaar even naar binnen fietst zonder fatsoenlijke ondersteuning. We kennen allemaal de voorbeelden van open office projecten die teruggedraaid worden, om maar even een willekeurig voorbeeld te noemen

[Oyxl]

Keyword 'claims', lijkt me. Even tussen de regels door lezen

Daarbij..staat iemand hier versteld van?

[Empror1]

Zeker in een militaire omgeving zal het nodig zijn om een hoop 'op maat' te maken. Hoe ver dat in dit project gaat is natuurlijk giswerk. Als je het echter omdraait zie je ik het Pentagon geen contract tekenen om open source te gebruiken, zeker niet als ze dit geld kost en prijsgeeft wat ze aan het ontwikkelen zijn.

[maartend]

"Google-topvrouw Diana Greene heeft eerder gezegd dat de technologie niet direct wordt gebruikt om drones te laten vliegen of wapens af te vuren."

Dit dus. Drogreden die vaker weordt gebruikt, al is dan enkel de context anders.

Beter zouden ze doen als de pharmaseutische fabrikanten die bijv. ook niet wil dat hun middelen worden gebruikt om mensen te executeren

[Reactie gewijzigd door maartend op 23 juli 2024 14:57]

[YopY]

Nee, Google wordt ook niet direct gebruikt om terroristische aanslagen te plegen, maar ze bieden wel de mogelijkheden om het uit te vinden.

Denk dat je je vooral moet afvragen waar je de grens legt. Ik bedoel d'r staat het pentagon niks in de weg om google's software of diensten te gebruiken voor militaire doeleinden.

[Niemand_Anders]

Het is nogal een verschil of het Pentagon gebruikt maakt van publieke Google diensten, of dat Google haar diensten actief aanbied aan het Pentagon..

Maar ik snap het gebruik van AI door het pentagon wel. De beelden welke via drones binnenkomen zijn voor het pentagon niets anders dan de mailjes welke wij in onze mailbox krijgen. Je wilt de inrelevante mailtjes (beelden) direct wegfilteren.. Bayesian (zelfrelerende) filters vormen dan nog de onderkant van AI mogelijkheden.. Ook zie ik wel toepassingen waarbij men via AI beelden over verschillende periodes met elkaar wil vergelijken. Denk hierbij aan Iraanse kern energie centrales.. Als grote delen al automatisch verwerkt kunnen worden, hoeft het personeel alleen nog maar naar de twijfel en gemarkeerde beelden te kijken..

Vergeet niet dat Google gevestigd is net onder San Francisco (Mountain View) en men is daar nogal pacifistisch..

[DigitalExorcist]

Niet "direct" waarschijnlijk nee. Er zal iemand naar die beelden kijken, bepalen of de AI-geïnterpreteerde data wel klopt, en die zal een operator opdracht geven om die drone te laten vuren. Da's niet "direct" Google hun input, maar wel zeker indirect verantwoordelijk.

Door te zeggen dat Google niet "direct" ermee te maken heeft, heeft ze juridisch gezien volledig gelijk. Soms gaat het juist om dingen die je *niet* zegt

[Verwijderd]

Handig dat ze hun Don't be evil-mantra hebben laten vallen bij Google.

[joelharkes]

Ik vind wel interessant om te zien. Lijkt precies op 1 van de vragen uit de stack overflow survey: Of de ontwikkelaar zelf ook ethische verantwoordelijkheid heeft over de code die hij schrijft. Ik denk dat dit erg heeft mee gespeeld (naast de niet transparantie van de managers) voor het ontslag van de developers.

moraal is altijd een lastige kwestie maar ik moedig de keuze die deze developers gemaakt hebben zeker aan, dat ze zelf de verantwoordelijkheid nemen en weg gaan!

[Reactie gewijzigd door joelharkes op 23 juli 2024 14:57]

[YopY]

Da's idd een moreel punt, waar ook bijv. de mensen achter technologie als TOR, BitTorrent en Bitcoin (en offshoots) mee zouden moeten zitten. Zij kunnen er natuurlijk afstand van nemen, en zij zijn legaal gezien ook niet verantwoordelijk (gelijk een wapenfabrikant niet verantwoordelijk is voor wie met hun producten vermoord worden, of autofabrikanten voor verkeersdoden), maar moreel zou je je toch achter de oren moeten krabben.

In dit geval was het waarschijnlijk geen probleem geweest als het gebruik maakte van Google's technologie (tensorflow en co) en hardware (google cloud), zolang het maar niet Google zelf die direct met het pentagon werkte, danwel die direct de software schreef.

[bertware]

TOR over dezelfde kam scheren als het ontwikkelen van een potentieel wapensysteem (de beeldherkenning wordt nog niet ingezet om automatisch targets te elimineren) gaat wel wat ver. Volgens die analogie zouden de makers van het WWW zich moreel gezien ook achter de oren moeten krabben (racisme, sexisme, filter bubbles en whatnot zijn allemaal makkelijker op het internet).

TOR wordt voor een heleboel foute zaken gebruikt, maar ook voor zaken als persvrijheid en het ontduiken van censuur. Dat heb je met alle technologie (wat als iemand zelfrijdende Tesla's weaponized, moet Elon Musk zich dan moreel verantwoordelijk voelen?)

Zelfde voor BitTorrent (elke linux distro wordt zo snel en goedkoop verspreid, als is het "legale" aandeel hier wel kleiner) en Bitcoin (wat in sommige landen stabieler is dan de lokale munt, en zo de bevolking wel een goed alternatief geeft voor een overheid die niet oplet met de waarde van de lokale munt).

Ik ben volledig akkoord dat wanneer je rechtstreeks aan een project zoals dit voor het Amerikaans leger werkt, je (deels) moreel verantwoordelijk bent, maar voor grotere projecten die voor goede doeleinden gemaakt zijn, gaat dit IMO niet op wanneer ze onrechtstreeks misbruikt worden.
Zoals je zelf zegt, zolang je het niet direct ontwikkeld voor een slecht doel, maar de slechte toepassingen gewoon "een gebruik" zijn van de technologie, is het geen probleem.

[Reactie gewijzigd door bertware op 23 juli 2024 14:57]

[Kafka]

Zelfde voor BitTorrent (elke linux distro wordt zo snel en goedkoop verspreid, als is het "legale" aandeel hier wel kleiner)

Kleiner? Die is nagenoeg 0.

[RGAT]

Meer dan genoeg software welke via torrents te verkrijgen is vanaf de developer anders, hangt volledig af van welke site je de torrents haalt (De piraten baai of een site gericht op legitieme torrents...)

[batjes]

TOR wordt voor een heleboel foute zaken gebruikt, maar ook voor zaken als persvrijheid en het ontduiken van censuur

Waar zit die grens?

Ik denk dat de verhouding legitiem en illegaal verkeer op TOR vergelijkbaar is met TPB.

Door de verhouding van 99% illegaal, 1% legaal, hebben we als maatschappij TPB verboden en is Google Search met de 99% legaal, 1% illegaal, wel toegestaan.

Ben wel benieuwd hoe lang het Tor netwerk nog getoleerd gaat worden.

[Verwijderd]

Maar tpb heeft toch vooral legale torrents. Kijk maar eens wat ze allemaal hebben staan en wat het percentage "illegale" content is .

[batjes]

Ach al zou het 100% illegaal zijn, blijf het van de zotte vinden dat het verboden is en actief gecensureerd wordt.

Het blijft een stukje principiele vrijheid. De vrijheid tot toegang tot alle informatie van de mensheid, nu hoeft dat niet direct gratis, maar TPB was meer een soort vangnet, kon je nergens anders -legitiem- terecht, was daar altijd nog TPB. TPB vervulde hierbij zijn stukje, net als TOR dat nu ook nog doet.

Maar ik vraag me af hoe lang het gaat duren totdat TOR onder dezelde noemer aangepakt gaat worden, want de verhouding zal gok ik +/- hetzelfde zijn als een TPB.

[Verwijderd]

Die verhouding is heel moeilijk te bepalen met TOR. Wat in het ene land legaal is is in het andere land verboden. Ik denk dat er een enorm gedeelte is wat ook daadwerkelijk "grijs" is.

[Verwijderd]

"en Bitcoin (wat in sommige landen stabieler is dan de lokale munt, en zo de bevolking wel een goed alternatief geeft voor een overheid die niet oplet met de waarde van de lokale munt)."

Sorry voor de zijstraat, ik ben het in grote lijnen met je eens, maar ik zie bovenstaande uitspraak keer op keer gemaakt worden en ben opnieuw naar de bron.

Het is duidelijk dat er (Afrikaanse) landen zijn met een zeer instabiele munt. Dat is al decennia lang zo, en de lokale bevolking lost dit meestal op door hun geld naar dollars danwel euros om te zetten.

Tot zover geen discussie. Ik ben echter niet bekend met landen waarbij de bevolking dit gebrek aan vertrouwen in bitcoin hebben omgezet, als soort van massa switch. Ik denk dat dat vooral wishful thinking is. Conceptueel slaat het ook nergens op, aangezien ook bij Bitcoin het weinige vermogen wat men heeft, zomaar kan verdampen. Vele zullen ook niet eens de toegang tot de technologie hebben om het uberhaupt te gebruiken.

[gepebril]

Klopt. Want in Afrika woont 99% nog in lemen hutjes zonder stromend water en electriciteit...... Wat een non argument. Crypto doe je al op een website of oude smartphone

[Verwijderd]

Ik zie graag bronnen van landen in Afrika waar de lokale bevolking op substantiele wijze bitcoin gebruikt als alternatief voor de lokale munt.

[gepebril]

Ik reageerde op:

Vele zullen ook niet eens de toegang tot de technologie hebben om het uberhaupt te gebruiken

[Basszje]

Dat is alweer een tijdje geleden.

[Verwijderd]

Ik schijf dan ook niet dat ze het onlangs hebben gedaan.

[bigbadbull]

lijkt wel dat er nog steeds mensen werken die zelf het principe wel nog hanteren.
Al blijkt de groep dus kleiner te worden.

[SuperDre]

Maarja, Don't be evil hoeft niet perse te betekenen dat je geen militaire contracten aan gaat.

[Verwijderd]

Mwah, AI drones die zelf beslissingen nemen op het slagveld klinkt vrij evil.

[SuperDre]

Het is maar wat je evil noemt, mensen maken ook zelf beslissingen op het slagveld......

[Verwijderd]

Het zijn echter geen Google-medewerkers die op het slagveld staan voor zover ik weet. Nu houdt het bedrijf zich opeens wel bezig met oorlogsvoering en potentiële beslissingen over leven en dood. Om maar te zwijgen over de ethische bezwaren of het wenselijk is dat machines dit soort beslissingen autonoom nemen.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 14:57]

[SuperDre]

tja, ethiek is in the eye of the beholder..... wat jij ethisch verantwoord vindt hoeft een ander weer niet te vinden..

[Verwijderd]

Bedankt voor deze dooddoener.

[kristofv]

De "do no wrong" mantra lijkt inderdaad wel een beetje naar de achtergrond verdwenen te zijn in de jacht naar het almachtige gouden kalf.

Maar tegelijkertijd is het enorm moeilijk om in een dergelijk bedrijf die leuze aan te houden.

Als ik Google was zou ik dat contract verbreken, de braindrain die er nu gaande is gaat op lange termijn veel meer kosten dan dit contract. En bovendien als het eigen personeel niet achter de opdracht staat is de kans dat er half werk wordt afgeleverd zeer reëel.

[Verwijderd]

Welke brain drain? Alsof Google leegloopt. Huur gewoon 12 nieuwe mensen in zonder moreel bezwaar, tonnetje of 2 salaris, en geregeld.

[kristofv]

Weet jij dan wie er precies ontslag genomen heeft? Blijkbaar wel want het is toch zo simpel om hen te vervangen.

Niet iedereen is zomaar inwisselbaar.

[Verwijderd]

Iedereen is inwisselbaar.

[kristofv]

Op die mening ga je nog terugkomen, geloof mij.

[Qinshi]

Het is duidelijk dat die google top vrouw niet wil luisteren naar haar voornamelijk mannelijk personeel.
Ik denk nu ook niet dat Google, het geld van het Pentagon 'nodig' heeft.
maar de 'leerschool' dat het brengt aan hun ingenieurs/software pakket is wel immens, als je enkele jaren met zo'n project kan bezig houden (en dan direct betaald).
Dat zal wel de redenen zijn.

[oef!]

Leuk dat je er een man-vrouw discussie in probeert te slepen maar ga maar ergens anders whistleblowen. Google heeft geld genoeg om willekeurige beelden zelf te analyseren en hun ai zelf te trainen, al zullen ze inderdaad niet afkerig zijn van het geld.

[MrMonkE]

Het is me niet helemaal duidelijk of de lijst van gebundelde vertrekredenen in het interne document alleen redenen over deze kwestie betreffen. Als ik het Gismodo artikel lees lijkt dat wel zo te zijn. Jammer.
Ik vraag me namelijk af hoeveel mensen er zijn opgestapt vanwege hoe er is omgegaan met de gender memo van James Damore. Beide ethische vraagstukken.

[SteveWoz]

Inhakend op het laatste stuk van het artikel: Google is in het verleden wel vaker fout bezig geweest door o.a. geld te geven aan ALEC. Eric Schmidt heeft hiervoor ook zijn excuus aangeboden. ALEC pusht in feite wet- en regelgeving die zeer controversieel is en een sterk Republikeins karakter heeft. Met name worden er activiteiten ondernomen die ongelijkheid bevorderen en verdeeldheid zaaien in de Amerikaanse maatschappij. Zie ook de documentaire 13th die ingaat op de gevolgen van partijen als ALEC.