Amazon roept overheden op snel gezichtsherkenning te reguleren

In een blogbericht over Amazons positie op het gebied van meerdere actuele onderwerpen, dringt het bedrijf er bij overheden op aan om technieken voor gezichtsherkenning te reguleren. Amazon volgt daarmee onder andere Microsoft.

Overheden moeten haast maken om regels op te stellen voor gezichtsherkenning, betoogt Amazon. Het bedrijf wijst erop dat zijn techniek voor gezichtsherkenning, Amazon Rekognition, al gebruikt wordt bij complexe problemen en zo bijvoorbeeld vermiste kinderen heeft helpen opsporen. De techniek heeft ook een keerzijde: "Zoals de meeste technologie heeft gezichtsherkenning twee kanten dus kan het ook misbruikt worden."

Amazon verwijst naar zijn eigen richtlijnen over het gebruik van gezichtsherkenning. Die zouden als basis kunnen dienen voor overheidsregels, is het voorstel. In die richtlijnen staat onder andere dat er altijd een menselijk oordeel ten grondslag moet liggen bij gebruik door autoriteiten om te voorkomen dat burgerrechten geschonden worden. Daarnaast zouden autoriteiten transparant moeten zijn over het gebruik.

Die richtlijnen stelde Amazon op nadat er begin dit jaar kritiek kwam, van onder andere aandeelhouders, op de levering van de Rekognition-technologie aan Amerikaanse overheidsdiensten. Daar kwam in de zomer het bericht bij dat Amazons dochterbedrijf voor slimme deurbellen, Ring, samenwerkt met honderden Amerikaanse politiekorpsen, die beeldmateriaal van de deurbellen kunnen opvragen. Daarover zegt Amazon dat alle lagen van overheden over de beste technologie moeten kunnen beschikken: "We blijven de Amerikaanse overheid en autoriteiten van toegang tot de meest geavanceerde technologie voorzien."

Onder andere Microsoft spreekt zich ook al langer uit voor het opstellen van regels door overheden omtrent de inzet van gezichtsherkenning.

Reacties (49)

[z1rconium]

Ik vrees dat dit word vechten tegen de bierkaai. Op youtube volg ik "Two minute papers" die houd me op de hoogte over AI/ML/algoritme onderzoek.

Los van de algoritmes die zelf gezichten maken, zijn er ook al algoritmes die -zelf- filmpjes maken op basis van bestaande "geleerde" beelden.

De toekomst word nog heel eng, geef het nog 20 jaar en je kunt een tekst voeden aan algoritme en je film word voor je gemaakt.

[TigerXtrm]

Het is helaas een kwestie van tijd voor iemand veroordeeld wordt voor een zware misdaad op basis van deep fake film materiaal dat niet meer van echt te onderscheiden is. Voor het rechtssysteem berekend is op dit soort nep bewijs zullen er helaas een aantal mensen al jaren in de cel zitten voor iets wat ze niet gedaan hebben.

[z1rconium]

op basis van deep fake film materiaal dat niet meer van echt te onderscheiden is.

Ook daar zijn algoritmes voor, maar idd in de toekomst word dat echt wel heel lastig.

[bbob]

Dan betekend dit als het niet meer te controleren is, dat beeld niet meer als bewijs toegelaten kan worden.

[Wraldpyk]

Mocht je meer willen verdiepen in de "zelf filmpjes maken". Dit noemen ze deepfakes, en wordt vrij breed al gebruikt net als bij recent Zondag met Lubach intro

[ultimasnake]

Ik kan het artikel van z1cronium even niet kijken maar mijn gevoel zegt dat zelf filmpjes maken iets heel anders is dan DeepFake... Deepfake is (momenteel) het vervangen van het gezicht van persoon x naar dat van persoon y... Het faken op AI niveau dus. Dat zal niet direct zorgen voor nieuwe videos uit bestaande videos.

[z1rconium]

Deepfakes is het projecteren van een gezicht op een ander gezicht.
Zie @ultimasnake - videos worden gemaakt uit andere videos, dit is echt heel andere koek.

[WillySis]

Het zelf gezichten maken is zo ongeveer het tegengestelde van waar het artikel over gaat.
Amazon en eerder ook Microsoft dringen aan om een goede regulering van het gebruik van gezichtsherkenning.
In Europa valt dit gelukkig onder de privacy wet. Men mag niet zomaar ongevraagd gezichtsherkenning gebruiken. Dit valt onder de term biologische data, waar ook vingerafdrukken en DNA profielen onder vallen. De wettelijke kaders zijn er (in Europa) dus wel, maar controle ontbreekt.

[Ynst2003]

20 jaar?
Je bent erg optimitisch.
Maximaal 5 jaar. Het gaat veel sneller dan je denkt.

[GoT.Typhoon]

Haha, net zo goed reguleren als de Spraakherkenning van Alexa? Vooral het zinnetje met het menselijk oordeel is heerlijk ironisch.

[Galan]

En daar gaan we weer.
Het probleem met dit soort technieken is dat men al lang niet meer beslist op basis van feiten maar eerder op gevoelens.
Je ziet het hier perfect terug in de comments.
Er wordt niet gekeken naar implementatie, doeleinde en dergelijken maar meteen wordt het door een bepaalde groep als kwaadwil bestempeld.
Dit is precies waarom de maatschappij de laatste jaren zo hard achteruit gaat, feiten doen er niet meer toe, gevoel is alles.

[bursche]

Regulieren? Verbieden zul je bedoelen

[Primuszoon]

Ik zou gezichtsherkenning op zich niet willen verbieden. In toepassingen dat het je iPhone, Android of PC (Windows Hello) kan unlocken, moet het doenbaar zijn op een veilige manier en geeft het een zeer prettige gebruikservaring.

Wat wel aan banden gelegd moet worden is de data erachter, of het gebruik door 3den (inclusief overheden/politie/gerecht). Geen massa surveilance toestanden, maar gericht gebruik zoals bvb een huiszoeking. En al zeker geen verkoop van gegevens aan commerciele bedrijven..

[timberleek]

gezichtsherkenning gebruiken op jouw eigen smartphone is jouw keuze.

Gebruik voor publieke doeleinden mag wat mij betreft direct verboden worden. Opslag sowieso, maar ook realtime mag het iig flink beperkt worden.

[Arator]

Ik zou het willen vergelijken met ANPR-camera's, en ook de beoogde regelgeving van ANPR, zoals het CBP in NL wou, laten toepassen op camera's met gezichtsherkenning.
Dus dan zou er enerzijds een lijst zijn met gezichten/personen die gezocht zijn (vergelijjkingsbestand). Dit kunnen criminelen, maar evengoed verloren- of weggelopen personen (ik denk dan aan kinderen, maar ook dementerende bejaarden)
In de richtsnoeren die het CBP aangeeft, moet een no-hit onmiddellijk verwijderd worden, en mag deze niet gebruikt worden voor nog niet-bestaande onderzoeken.
Om opgenomen te worden in het vergelijkingsbestand moet er dus ook een aanwijsbare reden zijn, in het geval van gezichtsherkenning, lijkt het me dan logisch dat die persoon deel uit maakt van een opsporingsonderzoek.
Mij lijkt het dat zo de privacy toch gewaarborgd kan worden. Sta je niet in de lijst, dan kan er geen hit zijn, dus moeten die gegevens onmiddellijk verwijderd worden. Dit kan volgens mij automatisch door het systeem gedaan worden. Het valt en staat natuurlijk bij het onmiddellijk verwijderen. Overheden hebben hier natuurlijk andere gedachten over.

Even een zijnootje. Iedereen hier is zeer prikkelbaar als het gaat over privacy. Maar zodra het festivalseizoen begint, Oranje moet spelen, .... dan worden de gekste dingen aangetrokken/meegenomen om die camera's maar aan te trekken. (hier staan een paar mooie voorbeelden )

[timberleek]

probleem is alleen dat de overheid ook in het verleden al meermaals (bewust of onbewust) onbetrouwbaar is gebleken.

Zo'n "wanted list" is op zich een leuk idee, maar het is te aanlokkelijk om toch de grenzen op te zoeken.
Een standalone apparaat dat "offline" de check uitvoert en alleen matches het systeem in stuurt is een mooie oplossing. Maar zo zullen ze het vast niet gaan implementeren. In de praktijk sturen we vrolijk alles naar de serverfarm en moet je de "we doen er echt niks mee, beloofd"-blauwe ogen maar geloven.

Zo zijn die snelwegcamera's doodleuk ingezet door de belastingdienst voor een totaal ander doel. Ja die moeten ook handhaven, maar hier waren ze nooit voor bedoelt. Op deze manier kun je elke dienst wel weer toelaten (onder het mom van kindermisbruik en terrorisme).

Denk dat de grootste reden van de prikkelbaarheid hier veroorzaakt wordt door de (schijnbaar) lakse houding tov privacy en (schijnbaar) domme keuzes op IT gebied die de overheid als jaren lijkt te hebben/maken.
Met je kop voor een camera gaan staan bij het WK is weer een eigen keuze, en imo niet relevant in deze discussie.

edit:
Al heb ik wel een grafhekel aan dat nieuwe "voetbal-TV". Elk voetbalveld volhangen met camera's zodat je thuis naar je favoriete amateurteam kan kijken. Als je dat zo graag wil zien, ga je maar gewoon langs. Waarom wordt hier niet tegen opgetreden? Iedereen gefilmd en op internet gedrukt voor eens en altijd. Jij, jouw vrienden, jouw kinderen. Of je het nou wil of niet.

imo: compleet doorgeslagen dat dit mag.
*mag niet, maar hoopt stiekem dat iemand al die camera's eraf knuppelt*

[Reactie gewijzigd door timberleek op 23 juli 2024 14:18]

[Z80]

Gezichtsherkenning bij de paspoortcontrole vind ik ander wel prettig.
Paspoort in scanner, in camera kijken en doorlopen.

Het hele biometrische gebeuren is een grote uitdaging. Waar wel en waar niet inzetten. Wel/niet verbieden.

[bursche]

Dat begrijp ik dus niet. Wat is er mis met de oude fouilleer methode? Het gaat net zo snel en je hoeft je niet te laten ontwaardigen of je persoongegevens prijs te geven.

Overigens weten veel mensen niet dat ook de bodyscan op Schiphol volledig vrijwillig is en je hier niet voor hoeft te kiezen. Mensen weten dat niet omdat het Schiphol beleid erg dwingend hierin is en je als reiziger hierover niet geïnformeerd wordt. (ze duwen je bijna door de scanner heen)
Persoonlijk weiger ik altijd de scan en kies ik voor de normale, persoonlijke en privacyvriendelijke controle. (even fouilleren)

[Z80]

Je haalt 2 dingen door elkaar paspoort controle EU in/uit en de veiligheidscontrole, fouillering.
Daarbij heel de wereld weet wie er van waar naar waar vliegt. Ongeacht de paspoortcontrole.

[bursche]

Nee, er is wel degelijk een verband. Zowel de paspoort controle met gezichtsherkenning als de bodyscan controle zijn vrijwillig. Je hoeft hier dus niet aan deel te nemen. Daarnaast geef je in beide gevallen persoonlijke biometrische gegevens prijs. Dat is een wezenlijk verschil met het alleen weten wie waarheen vliegt. Ik verbaas mij daarom ook waarom je hier voor vrijwillig zou kiezen.

[AmigaWolf]

En nog steeds beweren er mensen dat zulke enorme bedrijven als Amazon en Microsoft en meer, geen invloed heeft op landen en zelfs werelddelen, nee dit is niet goed nieuws, en Bursche het begint altijd eerst met vrijwillig en daarna als genoeg mensen het vrijwillig doen, gaat het zeker weten verplicht woorden, zo werkt het al eeuwig.

En Amazon moet gewoon ze mond houden en ze spullen verkopen via Amazon, zelfde met Microsoft, bemoei je met je eigen bedrijf, en je niet bemoeien met onze levens, wat ze doen als ze landen gaan pushen om dit soort dingen te doen, nee je moet je grote zorgen maken als enorme bedrijven dit soort dingen willen pushen.

[Reactie gewijzigd door AmigaWolf op 23 juli 2024 14:18]

[mjz2cool]

Amazon en Microsoft geven aan dat er gereguleerd zou moeten worden, dus dat er regels om moeten komen. Waarom is dat slecht? Ze pushen dit soort dingen niet, ze geven aan dat er regels moeten komen. Volgens mij begrijpen veel mensen hier niet wat reguleren betekent.

[AmigaWolf]

Amazon en Microsoft geven aan dat er gereguleerd zou moeten worden, dus dat er regels om moeten komen. Waarom is dat slecht? Ze pushen dit soort dingen niet, ze geven aan dat er regels moeten komen. Volgens mij begrijpen veel mensen hier niet wat reguleren betekent.

Ja en niet omdat Amazon hun eigen Amazon Rekognition wil pushen natuurlijk, nee sorry geloof er geen bal van dat zulke bedrijven als Amazon en Microsoft en al die ander ENORME bedrijven geven om de gewone mens, ze geven maar om een ding geld/macht, zit altijd een rede achter als een grote bedrijf dingen wel pushen.

[mjz2cool]

Hoe push je als bedrijf je product door regels op te laten stellen door een andere partij? Over het algemeen werken regels beperkend, en is het vrij zinloos om alleen regels op te stellen die het product toestaan.
Dus als ze dit echt zouden doen om hun technieken te pushen zouden ze dit dus gewoon niet doen.

[AmigaWolf]

Dat denk jij, dat een ENORME groot bedrijf zichzelf moedwillig in hun vingers gaan snijden, er is maar een rede dat grote bedrijven dit willen, zelf meer geld/macht krijgen, je moet veder na denken dan je neus lang is, er is altijd een rede als zo een bedrijf iets wil of doet.

[borbit]

Ik moest er laatst doorheen. Voelde me er niet fijn bij. Ik probeerde er nog wel wat van te zeggen. Maar die douanier kijk mij een beetje onbegrijpend aan. En voordat ik het wist stond ik al in de scanner.

[timberleek]

Fair enough, mijn "openbare ruimte" is misschien wat kort door de bocht.

Specifieke toepassingen zijn er zeker te bedenken. Bijvoorbeeld die paspoortcontrole. Maar hou die wel lokaal. Check of het matcht met de info uit het paspoort. Check even snel of je niet op een eventuele wanted-list staat. En klaar. Verder hoeft het niet opgeslagen te worden.

Ik doelde hoofdzakelijk op het bombarderen van de openbare weg (mn in stads-/dorpskernen) met camera's. Dit is deels verdedigbaar onder handhaving en zeker nuttig gebleken bij incidenten. Maar dit hoeft niet opgeslagen te worden voor langer dan een paar uur (evt snel terugkijken bij een incident eerder die dag). Massaal gezichtsherkenning hierop loslaten krijg ik persoonlijk de kriebels van. Helemaal als het ook allemaal weer onbeperkt wordt opgeslagen en misbruikt (wat waarschijnlijk weer gaat gebeuren)

[kozue]

Ik vind die scanners vreselijk. Ze snappen het vaak niet waardoor je meer tijd kwijt bent dan wanneer je bij een persoon in de rij was gaan staan. Zelfs als ze het vinden van je gezicht kunnen verbeteren denk ik dat een persoon nog steeds vele malen sneller zal zijn. Niet voor niks staan er altijd van die lange rijen. Ik vind die scanners een typisch voorbeeld van digitaliseren for the sake of. Niet omdat het er nou zo op verbeterd is.

[Tjark]

Of een persoon "vele malen" sneller zal zijn dan een scanner? Mwa, zal er om hangen. Maar 1 persoon tegen 10 scanners? Succes! Die 10 scanners werken dag en nacht, geen pauze, niet 10 mensen die voor een nachtvlucht langer moeten blijven, etc...

[blorf]

Een verbod op het centraal beheren zou kunnen. Een lokaal stukje software is geen probleem, maar wel als 1 of meerdere organisaties erachter gewoon over die informatie beschikken vanaf dat het een keer is gebruikt. Dat dit zonder twijfel toch gaat gebeuren is het gevolg van andere belangen icm leugenachtige politiek.

[Reactie gewijzigd door blorf op 23 juli 2024 14:18]

[Dark Angel 58]

Regulieren? Verbieden zul je bedoelen

Nee, dat doen ze niet... anders kunnen ze iemand niet meer snel opsporen.

[bursche]

Die drogreden is post Snowden wel begraven inmiddels.

[Stoney3K]

Het probleem met verbieden op overheidsniveau is dat overheden van schurkenstaten zich er weinig van aantrekken.

Als goed voorbeeld, het bekende 'Social Credit System' in China ga je niet ondermijnen door gezichtsherkenning te verbieden.

Beetje het idee van "if guns are outlawed, only outlaws will have guns".

[timberleek]

Dat probleem hou je altijd. Je kan nou eenmaal beperkt invloed uitoefenen op andere landen. Maar als EU kun je intern een hoop regelen. Als men eens wakker wordt tenminste.

Als burger kun je altijd nog kiezen om wel of niet naar een staat te gaan met andere opvattingen

[mjz2cool]

Reguleren is het opstellen van regels, dus een verbod kan in bepaalde gevallen ook.

[Jonathan-458]

Was het maar zo, helaas zien overheden alleen de voordelen. Zie bijv. nu ook de franse plannen. Ik had gehoopt dat er binnen de EU hier moeilijker om werd gedaan.

nieuws: Frankrijk begint in november met landelijk gezichtsherkenningsprogramma

[Reactie gewijzigd door Jonathan-458 op 23 juli 2024 14:18]

[veldkampj]

... al gebruikt wordt bij complexe problemen en zo bijvoorbeeld vermiste kinderen heeft helpen opsporen

Ah, de kinderen zijn er alweer bij gehaald om op de emoties in te spelen. Wanneer komen de terroristen voorbij?
Dat dit op privacy gebied weer een stap de compleet verkeerde richting in is benoemen we maar niet.

[Brubs]

Ben je bij die regel gestopt met lezen? De regel er na staat namelijk letterlijk dat het ook een keerzijde heeft en dus misbruikt kan worden.

[tja]

zoals in hongkong, china in zijn geheel en de plekken die ik niet kan opdreunen. hastag 1984 .
het onnodig volgen van burgers is heel ernstig.

[Brubs]

Ik snap je reactie niet zo goed. Ik stel alleen dat er in het artikel genoemd wordt dat het ook een keerzijde heeft, wat Amazon ook aangeeft. En dat ze daarom willen dat het gereguleerd moet worden. Wat dus aangeeft dat het op privacy gebied juist vooruit gaat, in plaats van achteruit (als het aan Amazon ligt).

En daarom denk ik ook dat Veldkampj gestopt is met lezen na de quote die hij uit het artikel heeft gehaald.

[AndreStarTrek]

Zijn of haar punt is waarschijnlijk niet dat het gereguleerd moet worden, maar dat het verboden moet worden. Als je commerciele bedrijven deze mogelijkheden gaat geven dan is er een realistisch kans dat je dingen krijg die lijken op de film 'The Circle' uit 2017.

[tja]

voor commerciële bedrijven zeker en voor overheden zullen er strenge eisen of een wetgeving moeten worden ontwikkeld. commerciële bedrijven zullen constant op zoek gaan naar mazen in de wet. misbruik door overheden is beangstigend echter zie ik ook wel dat dit soms heel goed kan zijn. echter het in kaart brengen of registreren van de gangen van burgers is zoals ik al aangaf beangstigend, 1984/china.
koppel beschikbare middelen zoals GPS tracking, gezichtsherkenning, tv kijk en internet gedrag en dan vraag ik me af of je nog van fundamentele vrijheid kunt spreken zoals dit in het EVRM en grondwet staat.

[darknessblade]

er is al een video van hoe snel je gevonden kan worden als ze dat willen:
https://www.youtube.com/watch?v=OQ5LnY21Hgc

[tja]

dat is een hele goeie video en om bang van te worden. daarom moeten we ook waken dat dit nooit de realiteit in welke gradatie dan ook in ons land kan worden.

[darknessblade]

daarom moet stem en gezichts herkenning ook zeer streng worden gereguleerd, nog strenger dan een dictatuur.

[Mathi159]

Want anders gaan ze zelf helemaal los?

[mutley69]

Wil dat woordje snel niet eerder zeggen - hier is een voorstel ram dat door het parlement en de burgers hun strot. Dat lijkt me onverstandig - en dus zou ik zeggen verbieden die handel - en dan met mondjesmaat een wettelijk kader opbouwen.