Amazon levert politie een jaar lang geen gezichtsherkenningssoftware

Amazon stopt voor minstens een jaar met het leveren van gezichtsherkenningssoftware aan de politie. Het bedrijf wil dat de Amerikaanse overheid eerst met goede wetgeving rondom het gevoelige onderwerp komt. Amazon ligt al langer onder vuur vanwege het maken van de software.

In een korte blogpost schrijft het bedrijf dat het een tijdelijke halt zet op het gebruik van de technologie door de politie. Het gaat om de software Rekognition. Die is ontworpen door het bedrijf en draait op Amazons eigen servers. Amazon stelt de software wel nog beschikbaar aan andere partijen waarmee het samenwerkt. Dat zijn bijvoorbeeld organisaties die Rekognition gebruiken om kindermisbruik op te sporen, zoals Thorn, dat eigen tools ontwikkelt en het International Center for Missing and Exploited Children.

Amazon noemt als reden alleen dat het hoopt dat het Amerikaanse Congres met regelgeving rondom gezichtsherkenning komt. "Overheden zouden betere regulering moeten hebben om het ethisch gebruik van gezichtsherkenningstechnologie te verantwoorden", schrijft het bedrijf. Amazon zegt dat de regering 'in de afgelopen dagen' aangaf bereid te zijn met zulke regulering te komen.

Dat is een verwijzing naar de protesten die overal in Amerika uitbraken na de dood van George Floyd. In de VS treedt de politie hard op tegen demonstranten en relschoppers. Hoewel er weinig concrete gevallen bekend zijn waarbij gezichtsherkenning voor dat doel wordt toegepast, maken politici en mensenrechtenactivisten zich zorgen over de beschikbaarheid van de technologie.

Overigens komt het initiatief om te stoppen met gezichtsherkenning niet alleen van Amazon. Activisten en advocaten pleiten en procederen al jaren tegen het gebruik ervan door overheden en tegen de ontwikkeling door grote techbedrijven. Eerder deze week stopte IBM al met de ontwikkeling van de techniek uit angst voor massasurveillance.

Reacties (76)

[Slinke]

Kan er me iemand uitleggen hoe dat in zijn werk gaat? ik kan me er wel iets bij voorstellen. Op de "socials" liggen de profiel fotos en de namen maar voor te grapen. Als je die bij mekaar schraapt heb je een aardige database van namen en gelinkte gezichten. Als je daaar via gezichtsherkennin een onbekend gezicht op loslaat, kan die database misschien wel een naam bij het plaatje plakken. Gaat het over zoiets?

[Koetjeboe]

Ja. Wat niet in het artikel staat is dat volgens mij elke klant van AWS deze dienst kan gebruiken. Wij zijn ook klant (gewoon klein zakelijk) en ik heb er wel eens mee gespeeld. Het gaat dan om deze feature:

https://docs.aws.amazon.c...g/faces-comparefaces.html

Je kunt dan plaatjes met gezichten vergelijken en dan krijg je % matches terug. Dus als je idd een database met persoonsgegevens en foto's hebt kun je dan wel een eind komen.

[Cergorach]

Het zou me niets verbazen als ze zouden overstappen op dan maar zelf draaien op iets als een Nvidia Jetson Xavier:
https://www.nvidia.com/en...systems/jetson-xavier-nx/

[Foxtrot3309]

inderdaad, maar de overheid gebruikt waarschijnlijk niet FB als database maar dan gebruiken ze hun eigen database (van mensen met al een eerdere overtreding) of via de overheid database met de foto die je ook op je ID kaartje hebt

[Verwijderd]

Ze aggregeren gewoon alle data. Publiekelijk zoals Facebook, Twitter maar ook zelf verzamelde data zoals (protest) video data, bodycams, ga zo maar door.

Je moet je voorstellen dat binnen een commandopost live camera feeds binnen komen van veel verschillende kanten. Door deze data direct te matchen met een centraal systeem zou je letterlijk iedereen aan kunnen klikken op een live feed en alle gegevens gesommeerd kunnen zien (tot zijn tweets van enkele minuten geleden). Gooi er wat machine learning tegenaan en je zou de mensen zelfs kunnen kleur-coderen, live op de feed.

Het klinkt allemaal erg futuristisch maar ik had 5 jaar geleden al een agenda app die dit deed. Die zocht alle publieke data van afspraak genodigden uit en sommeerde voor iedere afspraak op een rij:

• Gedeelde intresses (zoals sport en locaties)
• Meeste recente posts.
• Wanneer we voor het laatst gesproken hebben.
• Namen van directe familie leden (kinderen, partner).
• Recente events (verjaardagen, festivals, etc)
• Voorgestelde gespreksonderwerpen op basis van het bovenstaande.

Ik weet de naam niet meer van de app maar hij was niet lang online. De vraag is natuurlijk hoe verantwoord zulke software is.

De politie (ook in Nederland) maakt nu al uitgebreid gebruik van Geolocated social media aggregatie software. Een voorbeeld is Geofeedia. Zeer effectief voor zowel live als historische analyses voor specifieke locaties of evenementen.

[bbob]

Er zijn toch al voorbeelden van bedrijven die de data massaal van facebook halen en op die manier misbruiken.

[Cergorach]

Die zijn er natuurlijk, de vraag is echter of de politie dat doet in staat x of gehucht y in de VS. Het zou zomaar kunnen dat sommigen dat inderdaad doen en anderen weer absoluut niet. De politie in de VS kan je niet vergelijken met de politie in NL, in de VS zijn er enorme verschillen in de verschillende staten, steden en regio's.

[Arnoud Engelfriet]

Dat is de discussie rond Clearview nieuws: Amerikaanse politie gebruikt software die met één foto naam en adres ... Die hebben alle social media geschraapt en dat aan (best wel goed werkende) gezichtsherkenning gekoppeld, waarbij law enforcement de primaire klant is. Maar het is inderdaad onduidelijk welke agencies het precies zijn.

[Twam]

Vergelijkbaar met Peter Thiel's Palantir. Die doen ook dergelijke dingen, maar dan met wat grotere databases nog.

Ik vond dit artikel heel verhelderend toen ik die naam Palantir langs zag komen als partner in aantal van die projecten voor corona-apps: https://www.bloomberg.com...018-palantir-peter-thiel/

[rechner17]

Uiteindelijk allemaal mass-surveillance usecase.
De achterstand in de EU kan hiermee ook een goeie boost krijgen:
https://www.euractiv.com/...ersial-links-to-palantir/

[RefriedNoodle]

inderdaad, maar de overheid gebruikt waarschijnlijk niet FB als database maar dan gebruiken ze hun eigen database (van mensen met al een eerdere overtreding) of via de overheid database met de foto die je ook op je ID kaartje hebt

FB heeft informatie die die paspoortfoto-database van de overheid niet heeft: met wie je allemaal vriendjes bent, zelfs met wie je allemaal WhatsApp't. Die informatie is denk ik best wel wat waard voor de autoriteiten.

[iew]

Ik heb het hier al vaker gezegd dat op een gegeven moment overheden alle verzamelde data van alle social media etc op komt halen en zij verplicht worden om dit af te staan.
Maar dan word je al snel als alu hoedje weggezet...

[Tokkes]

maar de overheid gebruikt waarschijnlijk niet FB als database

Errr, wat?!
7-8 jaar geleden heeft een zekere werknemer van een beruchte Amerikaanse intelligentiedienst documenten aan journalisten gelekt en intussentijd ook een handvol interviews gegeven, dat ook een paar Hollywood producties in het leven heeft geroepen.
In die documenten was echt wel zeer duidelijk beschreven hoe het Amerikaanse overheidsapparaat omgaat met de informatie die we al dan niet publiek(!) op social media zetten.

Moet fijn zijn, je (goedbetaalde) job, aantrekkelijke partner, familie en thuisland achterlaten en als verrader bestempeld worden om mensen te informeren over wat er gebeurd met hun prive-data en dan te moeten zien dat het echt niets heeft uitgemaakt...

[Reactie gewijzigd door Tokkes op 25 juli 2024 10:14]

[Crazy Harry]

Iedere Ring-deurbel draagt bij aan dit systeem.
Ring is van Amazon, de camera die er in zit wordt gebruikt door Rekognition, en zo is dus iedere Ring-deurbel ook een surveillance-camera...

https://en.wikipedia.org/wiki/Ring_Inc.

[Yggdrasil]

Amazon Rekognition makes it easy to add image and video analysis to your applications using proven, highly scalable, deep learning technology that requires no machine learning expertise to use. With Amazon Rekognition, you can identify objects, people, text, scenes, and activities in images and videos, as well as detect any inappropriate content. Amazon Rekognition also provides highly accurate facial analysis and facial search capabilities that you can use to detect, analyze, and compare faces for a wide variety of user verification, people counting, and public safety use cases.

With Amazon Rekognition Custom Labels, you can identify the objects and scenes in images that are specific to your business needs. For example, you can build a model to classify specific machine parts on your assembly line or to detect unhealthy plants. Amazon Rekognition Custom Labels takes care of the heavy lifting of model development for you, so no machine learning experience is required. You simply need to supply images of objects or scenes you want to identify, and the service handles the rest.

Bron: https://aws.amazon.com/rekognition/

Je moet dus zelf photo's en video's aanleveren en Rekognition kan dan getraind worden om daar objecten, text of gezichten in te herkennen en vergelijken. Bij dieren wordt bijv. ook het ras herkend en bij gezichten wordt een leeftijdsbereik geschat en welke uitdrukking iemand heeft (boos, lachend, etc.). Aan die herkenningen wordt een betrouwbaarheidsscore en evt. custom labels gehangen. Het is dus de motor achter een gezichtsherkenningssysteem.

Hier is een interessante video over de functionaliteit en de risico's die daar aan vasthangen: https://youtu.be/6SWI3DdaRpU

[RefriedNoodle]

Ja. Ik had vorig jaar een training over AWS. De docent had een Raspberry Pi bij zich, met een cameraatje erop. Niet eens een hoge resolutie. Hij richtte de camera op de klas. Amazon wist perfect te vertellen wat er geschreven stond op het whiteboard, en herkende zelfs het merk van een half weggedraaid blikje frisdrank waarvan alleen de letters '..NTA' zichtbaar waren. Wij werden niet herkend, maar een filmposter met acteurs werden wel met naam herkend.

Maar dat laatste is nog maar een kleine stap. De technologie is er, ze hebben alleen de foto's niet om jou mee te herkennen, en er staat wellicht wat wetgeving in de weg. Beiden zijn met een flinke zak geld wel op te lossen door Amazon...

Ik was tegelijk onder de indruk, en nerveus over wat er met deze technologie mogelijk is. En iedereen met een creditcard kan er gebruik van maken.

[Reactie gewijzigd door RefriedNoodle op 25 juli 2024 10:14]

[Verwijderd]

Zou me niks verbazen dat achteraf gaat blijken dat ze je legitiimatiebewijs niet alleen bij direct contact uit kunnen lezen.
Aangezien je altijd legitimatie bij je moet hebben deel je dan al snel de volgende gegevens:
de foto (in kleur);
documenttype;
land van uitgifte;
voorvoegsel(s);
naam, voornamen;
documentnummer;
nationaliteit houder;
geboortedatum;
geslacht;
datum einde geldigheid;
burgerservicenummer (BSN);
Geen idee of er al NFC beam/richt technologie bestaat of zuilen zoals bijvoorbeeld de ingang van een station/vliegveld etc. Omdat alles versleuteld is zul je het niet snel merken.

[Tinuz___]

Ben het aan de ene kant helemaal met Amazon eens, maar aan de andere kant is dit toch de omgekeerde wereld: een bedrijf dat de overheid moet vertellen dat de regelgeving eerst moet worden verbeterd voordat ze hun product willen verkopen

[bbob]

Je kan je beter de vraag stellen waarom je als bedrijf zo een product wil maken ?

[downtime]

Je kan je beter de vraag stellen waarom je als bedrijf zo een product wil maken ?

Waarom niet? Ideaal voor al die plekken waar je je nu moet identificeren. Ik moet bijvoorbeeld elke dag een pasje laten scannen voor ik ons kantoor binnen mag. Met goede gezichtsherkenning hoeft dat niet meer.
Gewoon de sportschool in zonder pasje omdat het systeem jou herkent. Geen OV chipkaart meer meenemen omdat je aan de poort herkend wordt. Een auto die pas start als ie de persoon achter het stuur herkent. Als de techniek maar goed genoeg werkt zijn er duizenden toepassingen mogelijk.

Daarom is goeie wetgeving juist nodig. Er zijn heel veel nuttige toepassingen van gezichtsherkenning te verzinnen maar ook hele dubieuze.

[binair]

En de goeie wetgeving die we momenteel hebben (gdpr) verbiedt meteen jou eerste drie voorbeelden. Daarom hebben we die wetgeving dus nodig: jou biometrische gegevens (zoals je gezicht) mogen niet zomaar opgeslagen worden als er een alternatief voorhanden is. Wat mij betreft mag dat zo blijven

Stel dat je sportschool wordt gehackt, dan heeft deze hacker dus de nodige informatie om je bedrijf te betreden (of wat dan ook). Geen goed idee dus...

[Reactie gewijzigd door binair op 25 juli 2024 10:14]

[ari]

Een verplichting is inderdaad niet mogelijk onder de huidige wetgeving, maar zo lang er een vrije keus is tussen biometrie en een alternatief zoals een pasje dan is het volgens mij niet verboden. Of je het moet willen is een volgende, maar gemakkelijk is het natuurlijk wel. Gemak dient de mens, dus ik zie genoeg mensen overstappen van het meeslepen van een pasje naar lachen naar de camera of een vinger op een scanner leggen. Ik heb zelf specifiek een laptop met vingerafdrukscanner gekocht zodat ik niet elke keer m'n wachtwoord hoef in te typen en ik vind het heerlijk. Hetzelfde voor de vingerafdrukscanner op m'n telefoon. Het is niet voor iedereen, maar toch zeker wel de meerderheid van m'n omgeving.

[ari3]

Er zijn heel veel nuttige toepassingen van gezichtsherkenning te verzinnen maar ook hele dubieuze.

Het probleem is dat de "nuttige" toepassingen per definitie ook de dubieuze toepassingen zijn. Om je eigen voorbeeld aan te halen: jij wordt gezien in je auto, in je kantoor en in je sportschool. Effectief zijn ben je dus de hele dag gevolgd en heb je geen privacy meer.

Nu zal er vast wel iemand zeggen dat deze systemen niet gekoppeld zijn, maar dat is een illusie. Je moet permanent auditeren om er zeker van de zijn dat onze gegevens niet gedeeld worden. Dat is praktisch onmogelijk. De enige manier om lekken en ongewenst delen te voorkomen is gegevens gewoon niet registreren.

[pepsiblik]

Maar dit doen we nu al. Je rijbewijs, paspoort, OV Chipkaart, beveiligingspassen van het bedrijf, etc bevatten allemaal persoonsgegevens en je foto. Het voordeel is dat je nu niet meer je pasje uit je zak hoeft te toveren en het wat moeilijker is met fraude.

[Bellamy]

Privacy opgeven voor 10sec tijdswinst en wat gebruiksgemak?

[pepsiblik]

Gezichtsherkenning in de auto kan autodiefstal voorkomen. Of discussies over wie er daadwerkelijk achter het stuur zat bij een dodelijk ongeval. Of een dure installatie van poortjes op stations en de daarbij behorende wachtrijen. Als er een vraag is naar dit soort software en systemen kan je er vanuit gaan dat er meer is dan alleen een symbolische tijdswinst.

[Tinuz___]

Sorry, ik ben nog niet overtuigd van het nut.

Gezichtsherkenning in de auto kan autodiefstal voorkomen

Er zijn zat technische oplossingen te bedenken die autodiefstal kunnen voorkomen bemoeilijken en die geen inbreuk op de privacy hoeven te maken. Dan zou je natuurlijk met het argument aan kunnen komen dat geen enkele techniek volledig waterdicht is. Klopt, gezichtsherkenning ook niet.

Of discussies over wie er daadwerkelijk achter het stuur zat bij een dodelijk ongeval

Hoe vaak komt dit voor? En hoe ga je dit implementeren, gezichtsherkenning in ELKE auto verplicht stellen? En wederom: is dit waterdicht?

Of een dure installatie van poortjes op stations en de daarbij behorende wachtrijen

Is gezichtsherkenning goedkoper? En hoe zie je dit precies voor je, herkent het systeem of je een geldig vervoersbewijs hebt? En zo niet?
En hoe koopt een toerist een kaartje?

[pepsiblik]

Gezichtsherkenning hoeft niet te leiden tot het opgeven van privacy. En zelfs als dat zo is, geef je niet perse meer privacy op dan via registratie op een andere manier.

Je hoeft ook niet overtuigd te zijn. Ben ik ook niet. Maar je moet het ook niet meteen wegwuiven met de stelling dat het minimaal voordeel oplevert in ruil voor privacy.

[ari]

Het is al een heel gewone zaak bij de douane op veel internationale luchthavens. Paspoort in een scanner, netjes in de camera kijken en je mag door. Ik kan me inbeelden dat je op een gegeven moment dat paspoort niet meer op een scanner zou hoeven leggen, maar gewoon in de camera kijkt. Men weet wie er tickets heeft, dus ook wie er verwacht wordt. Het zal nog wel even duren, maar de techniek is er al.

Het is natuurlijk niet rendabel voor elk OV-poortje, maar dat zal een kwestie van tijd zijn. Een mens aanwezig hebben voor controle is duur, dus als een apparaat het kan overnemen zie ik dat zo gebeuren. Denk aan het zwembad waar je vroeger een jaarkaart toonde aan de kassamedewerker, tegenwoordig houd je je pasje tegen een poortje en loop je door. Op een gegeven moment zal het pasje vervangen worden door een app op de telefoon of een andere techniek.

Op de luchthaven is het alternatief om gewoon bij een echt mens in een hokje langs te lopen, dat werkt nog steeds. Met het OV kun je je inbeelden dat er een kaartautomaat staat voor de controle, zodat je een kaartje kunt kopen als dat nodig is. Eventueel gelijk gekoppeld aan je gezicht (want dan kun je meteen doorlopen), of als fysiek ticket dat je scant bij de controle. Bij de controle kan het systeem checken of er aan jou als persoon een geldig vervoersbewijs gekoppeld is, en anders vragen om dat te tonen. Zo hoef je in de meeste gevallen niets te tonen, wat fijn is met oog op de opstopping die voor de poortjes ontstaat als het druk is.

Of we dit moeten willen is een ander verhaal, maar we gaan aardig in de richting.

[downtime]

Privacy opgeven voor 10sec tijdswinst en wat gebruiksgemak?

Ja. Op al die plekken waar je nu ook geen privacy hebt. Sleutels, passen en toegangskaarten zijn ook gewoon vormen van toegangscontrole waarvoor die systemen iets van jou moeten weten.
Maar jij hebt de gezichtsscanner van je telefoon ook afgeplakt om je privacy te beschermen?

[teun2408]

Je foto staat nu toch ook al op je ov chipkaart? (behalve als je een anonieme kaart hebt)

[sjaool]

Uhm... geld verdienen? Net zoals de meeste andere bedrijven. Net zoals persoonsgegevens is gezichtsherkenning natuurlijk ook goede handelswaar.

[Transferno]

Technologisch gezien is er helemaal niets mis met zo'n product. Ook de inzet bij misdaden lijkt me nog verantwoord. Het gene wat er mis mee kan gaan is dat het misbruikt wordt of niet goed werkt en men er toch op vertrouwd (false-positives).

[TijsZonderH]

Het is natuurlijk ook wel eigenbelang; Amazon ligt nu met de protesten stevig onder vuur voor deze techniek dus hiermee tonen ze ook weer goodwill aan.

[amigob2]

Ja, en wij krijgen nooit te weten dat achter de schermen Amazon gedwongen wordt de service aan te blijven bieden, zonder dat ze de mogelijkheid hebben dit naar buiten te communiceren.

[gimbal]

Nou ja... Amazon had het niet gedaan als ze niet zelf het risico liepen op naambeschadiging en vervolging. Zo op zijn kop is de wereld niet in dit geval, gewoon simpel oorzaak-schadecalculatie-gevolg.

[nehal3m]

Dit doen ze puur uit eigenbelang lijkt me. Ze willen voorkomen dat ze straks juridisch op de vingers worden getikt voor het faciliteren van wat de politie eigenlijk niet had mogen doen. Ze dekken gewoon een risico af en blijven het product ook verkopen aan andere partijen.

[this]

Het gebeurt wel vaker dat de wetgeving ingehaald wordt door technologie. En dan heb je zo'n situaties als dit. Gebeurt ook op andere vlakken. Bijvoorbeeld in de automotive sector wachten ze ook nog steeds op wetgeving omtrent autonoom rijden.

[jpsch]

Politie kan niet zonder, dus gaan we 't legaliseren.

[Zeror]

En dat is precies wat Amazon wil bereiken. Legalisering onder een goede wetgeving.

[bbob]

Tja en de vraag is dan wat is goede wetgeving. In Nederland hebben we ook de tapwet maar of dat niet goede en wenselijke wetgeving is ?

Maar eens gokken, om wetgeving er door te drukken zal voor gezichtsherkenning vast terrorisme als reden gebruikt worden, als dat niet genoeg is hup nog een paar pedofielen als reden erbij en zie daar zo overtuig je de massa. Ondertussen staat de deur open en kan men langzaam de data voor andere zaken gaan gebruiken.

[Cergorach]

Tja en de vraag is dan wat is goede wetgeving. In Nederland hebben we ook de tapwet maar of dat niet goede en wenselijke wetgeving is ?

Wellicht niet voor jou (en anderen) wenselijk, maar een wet die er is gekomen door een gekozen regering. Dat dit niet de regering is waarvoor jij heb gestemd is niet relevant. Hetzelfde geld in Amerika, daar is een een gekozen regering actief, dat deze niet is gekozen door half Amerika -1 is ook niet relevant, dit is hoe democratie werkt, de grootste groep heeft het meeste te zeggen. Ik denk dat wie nu op de troon zit in de VS een goede vertegenwoordiging is van ongeveer de helft van de Amerikanen... ;-)

Echter vind ik het totaal niet wenselijk dat een grote multinational even gaat bepalen wat wel en niet goed is en vervolgens aan bepaalde overheidsinstanties ophoud te leveren. Die wetgeving is brak en onduidelijk en je houd op met leveren aan iedereen in de VS, inc. Thorn, of je blijft leveren aan iedereen in de VS. Ik zit me verder af te vragen of Amazon geen contractbreuk pleegt...

Kan een bedrijf zomaar er voor kiezen om niet te leveren aan overheidsinstanties? Kan dat in Nederland? Kan dat in de VS?

[RJG-223]

Echter vind ik het totaal niet wenselijk dat een grote multinational even gaat bepalen wat wel en niet goed is en vervolgens aan bepaalde overheidsinstanties ophoud te leveren.

Het is niet de multinational die dat bepaalt. Het is de publieke opinie, voornamelijk in de VS zelf, die dat bepaalt. Diezelfde publieke opinie die de regering gekozen heeft... Als Amazon daarnaar niet luistert, dan levert dat mogelijk publicitaire schade op. Dat kun je goed of slecht vinden, net zoals je de regering goed of slecht kunt vinden, maar zo werkt de maatschappij, en dat is nu eenmaal zo, net zoals die gekozen regering.

Die wetgeving is brak en onduidelijk en je houd op met leveren aan iedereen in de VS, inc. Thorn, of je blijft leveren aan iedereen in de VS.

Dit is een boycot. Die wordt zo vaak toegepast op landen en/of bedrijven waar iemand het niet mee eens is. Niets belachelijks aan. Alleen minder leuk als je zelf het doelwit ervan bent.

Dat is vergelijkbaar met een beslissing om geen zaken meer te doen met bedrijven die onvoldoende doen tegen kinderarbeid. Misschien vindt jij het ene belangrijker dan het andere, maar er zijn voldoende mensen die dit belangrijk vinden, en dus reageert Amazon. net zoals ze (hopelijk) reageren voor kinderarbeid. En op deze manier wordt dus in feite de politiek teruggefloten.

Kan een bedrijf zomaar er voor kiezen om niet te leveren aan overheidsinstanties? Kan dat in Nederland? Kan dat in de VS?

Absoluut. Er zijn misschien uitzonderingen, maar in veruit de meeste gevallen kunnen bedrijven (of personen) juridisch niet gedwongen worden zaken te doen met een ander bedrijf of een instantie.

[kodak]

Over welke publieke opinie die betrekking op beleid van een multinational heeft heb je het dan? Neem bijvoorbeeld multinationals als Apple en Google. Beiden hebben te maken met publieke opinie maar bepalen wat wel of niet goed is hangt af van verschillende meningen en ook eigen meningen. Apple is veel meer gericht op privacy en beschermen van klanten terwijl Google veel meer gericht is op gebruik van hun klanten voor eigen gewin. En dus zijn multinationals niet zomaar afhankelijk van de zelfde opinie als die van alle kiezers.

[Reactie gewijzigd door kodak op 25 juli 2024 10:14]

[RJG-223]

Over welke publieke opinie die betrekking op beleid van een multinational heeft heb je het dan?

Nou, bijvoorbeeld over kinderarbeid. Er is (zover ik weet) geen wetgeving die het strafbaar stelt als een bedrijf produkten verkoopt die in een buitenland waar het legaal is mbv kinderarbeid gemaakt worden.

Of, om jouw voorbeeld aan te halen, privacy. Als de publieke opinie daar niet om gaf, dan kon het 100% zeker Apple ook geen ene zier schelen.

En in dit geval ligt dus het bestaan, en het gebruik van dit soort software onder vuur in de publieke opinie.

Neem bijvoorbeeld multinationals als Apple en Google. Beiden hebben te maken met publieke opinie maar bepalen wat wel of niet goed is hangt af van verschillende meningen en ook eigen meningen.

Inderdaad. Ze hebben er wel enige keus in. Maar dit is wel een gemakkelijke keuze: weinig consumenten die benadeeld worden, terwijl ze op deze manier makkelijk een wit voetje kunnen halen bij een deel van diezelfde consumenten. Handig om wat credits opgebouwd te hebben als ze weer eens kritiek krijgen voor de werkomstandigheden in hun warenhuizen. Of om de aandacht daarvan even af te leiden. En zeer handig om het beeld te creëren dat ze verantwoordelijkheid kunnen nemen, zowel bij de mensen die er niet echt tegen zijn, als bij een deel van de tegenstanders, die daardoor als groep verdeeld raken, en dus zwakker. En daarmee kunnen ze ook de keuze om met de ontwikkeling van deze software door te gaan (deels) rechtvaardigen. (Ik doe geen uitspraak over de vraag of ze al dan niet de software zouden moeten ontwikkelen. Maar daarvoor liggen ze in ieder geval onder vuur, dus moeten ze daar wat mee - publieke opinie is niet rationeel, objectief, of rechtvaardig.)

Apple is veel meer gericht op privacy en beschermen van klanten terwijl Google veel meer gericht is op gebruik van hun klanten voor eigen gewin.

Apple gaat echt wel voor gewin. Voordeel dat ze hebben t.o.v. google, is dat google veel meer afhankelijk is van hun klanten als 'produkt'. En dat ze inmiddels dat imago hebben. Apple heeft dat imago niet, en is daar feitelijk ook minder afhankelijk van. Dat is een luxe-positie vanuit PR-oogpunt.

En dus zijn multinationals niet zomaar afhankelijk van de zelfde opinie als die van alle kiezers.

Je bedoelt 'van dezelfde opinie als de politici' ?

De multinationals zijn wel afhankelijk van de opinie van (grotendeels) hetzelfde publiek als de politici. Behalve dat multinationals véél meer rekening moeten houden met de opinie buiten hun landsgrenzen. En wellicht dat multinationals iets gevoeliger zijn voor de effecten van relatief kleine groepen met een bepaalde doelstellingen - in ieder geval voor zover die doelstellingen op de sympathie cq. passieve steun kunnen rekenen van een groter deel van de bevolking (of althans: van de klantenkring van die multinationals).

[Reactie gewijzigd door RJG-223 op 25 juli 2024 10:14]

[Verwijderd]

Het zal ongetwijfeld wel contractbreuk zijn, maar Amazon is zo belachelijk rijk dat ze daar niet om geven

[Transferno]

Ik ken de wetgeving niet maar dat lijken me juist wel valide redenen.
Dan kun je dus stellen dat de herkenningssoftware enkel gebruikt mag worden bij een lopend onderzoek naar pedofilie of terreur.

Misschien ga je er al vanuit dat men deze dan ook misbruikt voor andere opzoekingen? Maar dan overtreedt men de wet, en gelden weer andere regels?
Ik ben het eens dat het moeilijk is om perfecte wetgeving te creëren waar geen enkel misbruik gemaakt kan worden. Maar beter beginnen met een goed bedoelde wet dan helemaal geen wet.

En laten we eerlijk zijn, als amazon het niet ontwikkeld, kopen ze het straks van het land waar dit soort tooling bij de samenleving hoort (China).

[Skit3000]

De redenen die @bbob1970 aan haalt zijn argumenten waarmee politici onder druk worden gezet om vóór een dergelijk wetsvoorstel te stemmen, terwijl de angst die @bbob1970 tegelijkertijd aan haalt is dat die redenen misschien niet expliciet in een dergelijke wet opgenomen worden en de bevoegdheid van politie in dat geval dus veel ruimer uit zou kunnen vallen.

[Transferno]

Zeker, maar dat is het enige risico. Het gebruik van dit soort software is juist goed. Alleen moet sterk afgebakend en gecontroleerd worden op misbruik door overheidsdiensten of andere organisaties.
Soms kun je de afweging maken of je iets niet moet doen. Maar dat gaat hier niet meer, dit soort tooling is en zal straks gewoon beschikbaar zijn. Dan kun je beter juist wel strikte wetten maken en opvolgen dan gewoon geen wet maken.
Het lijkt me wel mogelijk een kort lijstje te maken waarbij het toegepast mag worden (eventueel enkel met opsporingsbevel). Zo heb je inderdaad specifieke terreurdreigingen, kindermisbruik, vermiste kinderen, etc. Daarnaast kun je cases opnemen om specifiek te verbieden en toch privacy te borgen.
Stel dat je bij een vermist kind meteen real-time alle video-beelden in de buurt kunt laten scannen op basis van foto's van dat kind. Zou toch mooi zijn.
Anderzijds wil je niet dat men pro-actief namen gaat verzamelen van elke betoging en in jouw dossier plakt waar jij bij aanwezig bent geweest. Dat verbied je. Alles wat daartussen valt (grijs) gebied, zou per definitie ook verboden moeten zijn.

Maar ik ben geen wetgever. Ik denk wel dat goede regulatie beter is dan je kop in het zand steken.

[lordawesome]

Dat klinkt leuk, maar de techniek volledig verbieden is beter. Wat je voorstelt is een hellend vlak. Over een paar jaar zal men de wetgeving verruimen of men zal stiekem misbruik ervan maken of legaal als een foute partij aan de macht komt. Het is beter als de infrastructuur niet wordt aangelegd. Er zitten meer nadelen dan voordelen aan. Tenzij je vindt dat China een prettig land is om te leven.

[Transferno]

Probeer realistisch te kijken, andere landen blijven dit doorontwikkelen. Dus het moment dat een andere partij aan de macht komt, voeren ze het Chinese top-model qua software. Dan leef je inderdaad in "China". Juist omdat ik dat niet wil, lijkt het me beter dit dan maar nu al vast te pakken en de ontwikkeling te sturen met wetten.
Waarom je kop in het zand steken en dit totaal negeren?

Volledig verbieden kan je wel even volhouden. Tot de volgende grote aanslag, pandemie, ontvoering, etc. Waar de politie dan netjes aangeeft dat dit vermeden had kunnen worden met die technologie. Mensen boos, populist in oppositie dit deze kans aangrijpt en verkiezingen wint en voila, je krijgt de Chinese 100% monitoring.
Daarnaast levert zo'n technologie ook voordelen op, dus het is ook niet mogelijk om dit volledig als evil af te schilderen. Je moet juist China aangrijpen als voorbeeld wat het gevaar kan zijn, en daar keihard aan werken. Tappen mag ook al lang maar is keihard gereguleerd. Misschien iets gelijkaardigs, waarbij de politie zelf niet rechtstreeks kan zoeken, maar een ander buro op basis van een aanvraag via rechtbank wel. Of noem maar op, maar dan eerder uitzondering dan regel.

[arbraxas]

Nee, dank u. Dat de techniek er is betekent niet dat je het maar moet gaan gebruiken.
Eerst is het terrorisme, dan corona en uiteindelijk 24/7/365.

China zit al op dat laatste met hun sociale minpunten.
Voor de meest lullige dingen krijg je die en bij het bereiken van x aantal sta je sociaal volledig buitenspel.
Dan maar de kans om dood te gaan aan een terrorist.

[Tintel]

Mee eens.
Tel daarbij op dat terrorisme een symptoom is van onderdrukking / te grote culturele verschillen. Het enkel onderdrukken van symptomen is niet voldoende.
Net zoals bij het virus is de echte oplossing een anti-virus... niet 24/7/365 controle of men niet in conact is gekomen met een besmetting.

[bbob]

Ondertussen moet je toch weten geef de overheid de vinger en ze pakken je hand. Je zet de deur open naar verder gebruik van deze data.

[Rob_Dielemans]

ja en de vraag is dan wat is goede wetgeving. In Nederland hebben we ook de tapwet maar of dat niet goede en wenselijke wetgeving is ?

Dat is niet goed, noch wenselijk. We hebben ongeveer 10x zoveel taps als bijvoorbeeld Duitsland het zou pas goed en wenselijk zijn als dit betekent dat ons oplossingspercentage dan ook 10x beter is, wat niet het geval is.

[CH4OS]

De Sleepwet waar jij op doelt met 'tapwet' heeft wel een iets andere strekking dan de gezichtsherkenningssoftware van Amazon. Ook de toepassing van beiden is verschillend. Ik begrijp dus niet waarom je dat aanhaalt. Dat je het niet eens bent met de invoering van de wet, betekend niet per definitie dat de wet dan slecht is, dat is immers slechts een mening.

Zoals je zelf ook al aangeeft, is er een verschil tussen of iets een goede wet is, of wenselijk. Daarnaast zijn beiden ook nog eens open voor interpretaties; jouw mening daarin verschilt daarin in die van mij. Ik vind wel dat er een dergelijke wet moet zijn, dus het is in dat op zich "goed" dat er een dergelijke wet er is, het stelt immers kaders en (on)mogelijkheden voor zowel AIVD als MIVD. Inhoudelijk laat de wet wel te wensen over, waardoor ik het er niet mee eens ben.

[Bouddieehh]

Leveren ze dezelfde software wel aan andere landen die mogelijk veel minder goede intenties hebben??

En waarom gaat Amazon nu opeens op de bandwagon springen?? Duizenden Afro-Amerikanen en andere socio-economisch zwakkere mensen laat je wel werken in je pakhuis onder erbarmelijke omstandigheden voor een schijntje. Beter salaris of verbeterde werkomstandigheden willen ze hen niet geven maar nu BLM/Poltiegeweld helemaal hot is (terwijl dit al 70 jaar gaande is) nu opeens policor en popiejopie doen. Als je dan zo woke bent, behandel je personeel als personeel en niet als jaren ‘30 arbeider.

[arbraxas]

Nederland levert dit soort software aan de Chinezen. Voor boter op het hoofd hoef je de grens niet over.
Verslag van kamervragen daarover:
https://www.google.com/ur...Vaw368OPd038WdWtJ9EP0iO3e

[Bouddieehh]

Ik kan me daar zo druk om maken. Altijd dat opgeheven Europese / Nederlandse vingertje “Gij zult niet ....” “Jullie moeten ... respecteren” maar vervolgens werken we via een omweggetje mee met dit soort handel aan het in stand houden of het verergeren van regimes...

[StGermain]

Sterker nog, Jeff Bezos - de rijkste man ter wereld - vroeg bij het begin van de coronacrisis om geld te storten voor zijn werknemers die ziek zouden worden. De schaamte ver voorbij…

[Verwijderd]

Dat kost ze geld. Een tweetje en popie jopie doen kost bedrijven geen geld.

Idem voor hun belastingontwijking die ervoor zorgen dat de gewone bevolking (waaronder de zwarten waarvoor ze zeggen op te komen) die extra belasting moeten aanvullen en/of publieke voorzieningen in gevaar komen.

Ik zit mij dan ook gigantisch te ergeren aan het hypocriete gedrag van multinationals.

[Reactie gewijzigd door Verwijderd op 25 juli 2024 10:14]

[jpsch]

En ondertussen testen ze door in andere landen?

[Martinspire]

Ik denk dat je in de VS al niet meer uit kunt gaan dat de overheid dan een goede wetgeving maakt...

[blaatenator]

En dat is, lijkt me, precies hoe het hoort te gaan. En als het niet gewenst is moeten onze democratisch gekozen politici dit verbieden (en handhaven).

[pepsiblik]

Juist niet. Het is net omgekeerd. Er is geen wetgeving, dus mag alles en kan de politie ook met extreme gevallen wegkomen.

[ari3]

Om iedereen een idee te geven waarom gezichtherkenning en publiceren van foto's op sociale media geen goed idee is:

www.smithsonianmag.com/in...tic-conditions-180961897/

De natte droom van iedere zorgverzekeraar...

[GrooV]

Als je weet dat ouders maanden in onzekerheid zitten welk syndroom hun kind heeft is jouw voorbeeld juist een heel goed voorbeeld voor gezichtsherkenning.

De meest bekende syndromen kunnen makkelijk worden getest maar voordat je een van de onbekendere hebt achterhaald duurt dit echt maanden terwijl uiterlijke kenmerken al zichtbaar zijn

[BounceMeister]

Afgezien van de redenen waarom ze dit doen, vind ik het wel zorgelijk dat de politie beperkt kan worden in het uitvoeren van hun taken door een extern bedrijf.

[bursche]

"Eerder deze week stopte IBM al met de ontwikkeling van de techniek uit angst voor massasurveillance."

Die zin moet zijn:

Eerder deze week stopte IBM al met de ontwikkeling van de techniek die bedoeld is voor massasurveillance uit angst voor te veel weerstand van de samenleving.

[CosmoKramer]

Zo, dan is het meteen duidelijk waar de macht ligt.. Als bedrijven gaan weigeren om spullen te verkopen aan de overheid uit angst voor misbruik. Dat is de wereld op z'n kop.

[Verwijderd]

"Overheden zouden betere regulering moeten hebben om het ethisch gebruik van gezichtsherkenningstechnologie te verantwoorden", schrijft het bedrijf. Amazon zegt dat de regering 'in de afgelopen dagen' aangaf bereid te zijn met zulke regulering te komen.

We zien hoe effectief hun regelgeving voor het ethisch gebruik van de monopolie op geweld is, dus dit zal sowieso wat moois worden...

Zorg eerst maar eens dat er een structuur is die mensen (vooral binnen de overheid) motiveert zich daadwerkelijk aan de regelgeving te houden want anders kan je regels blijven uitpompen tot je een ons weegt.

[Dauthi]

Je eigen straatje schoonvegen heet zoiets.
Amazon laat de software namelijk al 3 jaar gebruiken zonder enige regelgeving.

[Bender]

Als de politie iets inkoopt, mag je er toch van uit gaan dat het legaal is.
Dat er onduidelijkheid is over de wetgeving is niet aan Amazon, maar de wetgever.

[solozakdoekje]

Ondertussen stopt Amazon voor een naar in Amerika met gezichts herkenning

NU.nl: Amazon stopt tijdelijk met leveren gezichtsherkenning aan politie VS.
https://www.nu.nl/tech/60...nning-aan-politie-vs.html

[Bender]

Amazon is al jaren geen boekenverkoper meer, maar veel meer dan dat.