Critici: Europese regels voor gezichtsherkenning gaan niet ver genoeg

Een collectief van 170 privacyrechtengroepen, activisten en organisaties uit 55 landen waarschuwt voor het grootschalig gebruik van gezichtsherkenningssoftware en vindt dat Europese regels voor gezichtsherkenning niet ver genoeg gaan.

De groepen schrijven dat in een open brief. Zij stellen dat het gebruik van gezichtsherkenning in de openbare ruimte ingaat tegen mensenrechten en burgerrechten en zijn bang dat de Europese wet die gezichtsherkenningssoftware aan banden moet leggen, ruimte voor interpretatie biedt, waardoor deze misbruikt kan worden.

In het wetsvoorstel, dat in april gepubliceerd is, zoekt de Europese Commissie een manier om de rechten van burgers beter te beschermen terwijl intussen overheden wel gebruik kunnen maken van gezichtsherkenningssoftware in de strijd tegen misdaad en terreur. De regels verbieden het gebruik van biometrische identificatie, en in het bijzonder gezichtsherkenning, door de politie, tenzij er risico is op serieuze misdaden.

Volgens het collectief van activisten van onder meer Access Now, Amnesty International, European Digital Rights, Human Rights Watch en de Internet Freedom Foundation is dat laatste te vaag, waardoor er ruimte is voor allerlei soorten surveillance op basis van vermeende dreigingen, die niet getoetst worden. Ook staat er niets in het wetsvoorstel over bedrijven die gezichtsherkenning gebruiken in de publieke ruimte.

Behalve om het wetsvoorstel, maken de activisten zich zorgen om het grootschalige gebruik van gezichtsherkenningssoftware in andere werelddelen naast de EU. In het bijzonder Brazilië en India. Ze stellen dat de EU een voorbeeldrol heeft met strenge wetgeving op het gebied van databescherming. Elke loophole zou volgens het collectief kunnen worden meegenomen als andere landen soortgelijke wetgeving gaan maken op basis van de wetgeving in de EU.

De oproep van de ondertekenaars van de brief

Reacties (22)

[Jiskefet296]

Op zich heb ik er weinig op tegen als een systeem ongeveer dezelfde capaciteiten heeft als een politieagent. Dat betekent: scan gezicht, haal langs database, vergeet gezicht. Ben wel benieuwd naar de discussie hier.

[TheDutchChief]

Die agent doet dat alleen als daar aanleiding voor is. Het begint met de vaststelling dat ik onbespied mij overal in de openbare ruimte mag begeven. Op het moment dat iemand bewust is dat hij/zij bespied wordt zal diegene zijn gedragingen aanpassen. Dus alleen al het aanwezig zijn van gezichtsherkenning is in feite overheidsbeinvloeding van een individu. Dus inperking van vrijheid.

[gevoelig]

Toen de eerste camera werd opgehangen was er enige weerstand (zonder enige demonstratie overigens, voor zover ik weet.) Maar we weten allemaal waar we nu zijn. Op dat moment werden dit soort onderwerpen als gezichtsherkenning al besproken.
Critici werden weggezet als wappie want veiligheid etc. Nu is alleen de technische mogelijkheid hier en wordt over volgende mogelijkheden en stappen niet nagedacht. Daar gaan we het hier over 5 jaar weer over hebben.

[Reactie gewijzigd door gevoelig op 23 juli 2024 15:30]

[Byron010]

Daarom is het ook de bedoeling dat wij als burgers er niet bewust van zijn.

/soort van alu-hoedje

[dec0de]

Dat laatste is dus niet te verfieren, en je kunt er gif op innemen dat het 1 jaar later bij voorbaat alles opslaat "zodat ze mensen met KP kunnen traceren van voor dat ze gepakt of bekend zijn, en al hun afnemers ook kunnen pakken", want hoe kun je daar nou tegen zijn?

[Coolstart]

Ahja want een agent controleert om de 10min uw bewegingen op straat, vraagt uw pas en checkt of je niet gezocht wordt voor een misdaad en of er geen parkeerticket open staat.

Het is altijd hetzelfde liedje. Overheden nemen het niet zo nauw met privacy en willen het liefst zoveel mogelijk controle automatiseren. Aan dit tempo zijn we over 50jaar een politiestaat.

De omgekeerde beweging is ver te zoeken. In de democratie, controle op overheden en het verkrijgen van onvoorwaardelijke vrijheden wordt amper geïnvesteerd.

Is het geen terreur, dan is het wel een virus. Elke crisis hellen we iets dichter naar een politiestaat. De digitalisering kent geen limieten. Als de rekenkracht toeneemt, neemt de surveillance ook toe. Overheden krijgen zo meer en meer macht over hun bevolking. Het vrij betreden van een stukje aarde wordt een schaars goed.

Het erge is dat het traag en relatief onzichtbaar gebeurd. Mensen zijn niet bezig met hun fundamentele rechten. Privacy is een begrip dat steeds meer uitgehold wordt.

Gezichtsherkenning + justitie is gewoon vragen om problemen. We zouden als burgers strenger moeten toezien op de controledrang van overheden.

[Reactie gewijzigd door Coolstart op 23 juli 2024 15:30]

[monojack]

Tot je natuurlijk zo'n gezicht hebt dat constant de AI in de war brengt en je dus constant alarmen activeert.

[Splorky]

Ben eerder huiverig voor kleine vlaggetjes achter je naam. Vlaggetjes die niet zo veel zeggen, die medewerkers niet kunnen in zien of niets zeggend zijn, maar de AI gebruikt voor verscherpt toezicht om weer andere dingen te vinden voor dossier opbouw. En als "het systeem" zegt dat je een verhoogd risico heb op onbetrouwbaarheid dan kan het alleen al met de belastingdienst een hele leuke tijd worden.

Het zal natuurlijk wel mee vallen hoe erg het zal worden, maar het is een hele "mooie" infrastructuur voor als later een overheid het minder voor heeft met bepaalde groepen.

[t_captain]

En toch.

Electronische surveillance kan op veel grotere schaal dan menselijke. Ook als een individueel checkpoint vergelijkbaar is met een agent, dan biedt automatisering de mogelijkheid om 24/7 op elke straathoek een agent te zetten.

Met menselijke surveillance dwing je al dat de politie zich op de prio’s richt.

[ikt]

De regels verbieden het gebruik van biometrische identificatie, en in het bijzonder gezichtsherkenning, door de politie, tenzij er risico is op serieuze misdaden.

Er loopt op dit moment een terrorist rond in België, die plannen heeft om aanslagen te plegen.

Mogen nu alle Belgische camera's dus wél ingezet worden voor biometrische identificatie? Er loopt namelijk een terrorist rond, wellicht niet meer in België, maar issie misschien in Nederland, Duitsland, Frankrijk of wat dan ook. Mogen in al deze landen ook alle camera's in "terrorist-opzoek-modus"?

Wat is trouwens een dreiging?

er ruimte is voor allerlei soorten surveillance op basis van vermeende dreigingen, die niet getoetst worden.

Ah, daar heb je het al. In dit geval is het een bewapende terrorist met een doel, maar het mag dus ook een Tweet, Facebook-bericht, Tweakers-comment of iets dergelijks zijn. Of niet eens - er is namelijk geen controle.

Op deze manier kan elk land wel een excuus gebruiken om de data te gebruiken voor permanente opsporing. Er loopt namelijk altijd criminelen, extremisten en ander gespuis rond.

Jammer, hopelijk worden de regels inderdaad aangescherpt.

[Jonathan-458]

"tenzij er risico is op serieuze misdaden." fijn dit, is dit er niet altijd? en wie gaat dat bepalen?

Voorspelt weinig goed als ik na ga hoe het "sleepnet" door de overheid's instanties zijn misbruikt.

[Reactie gewijzigd door Jonathan-458 op 23 juli 2024 15:30]

[makkie88]

Redelijk offtopic,
Maar hoe word "sleepnet" uitgesproken, is dit een engels woord, dus uitgesproken als 'sliepnet' of op z'n nederlands, sleepnet (als in slepen)

[Sakete]

Op z'n Nederlands.

[Mr777]

Het is een analogie met de grote netten die vissersboten over de zeebodem slepen om zoveel mogelijk vis op te scheppen. Zie wikipedia.

[Munchkin]

Engelse woord voor sleepnet is dragnet, in dit geval dus een lekkere 1 op 1 vertaling.

[WORPspeed]

Op zn nederlands; het is een net dat ze slepen om al je data te vangen ipv alleen de relevante data

[Verwijderd]

Dit zijn geen nieuwe begrenzingen, maar een nieuwe vrijbrief voor overheden om te doen en laten wat ze willen zonder het belang van de burger die zij allang niet meer dienen te wegen. En we weten wat de overheid per definitie wil. Brave burgertjes die zich gedragen alsof er altijd iemand meekijkt. Er is nul ruimte voor geautomatiseerde gezichtsherkenning en ook gewoon nul noodzaak. Op zijn best is het ordinaire bezuiniging om blauw op straat te vervangen door het panopticon.

[SmartHomer1993]

Ach. Gekoppeld aan je EU digital ID tezamen met je vaccinatiepaspoort straks, what could possibly go wrong?

[JackJack]

Is die mondkapje/zonnebril combo toch nog ergens goed voor.

[AnD]

Een petitie op de website van de Europese unie.

Initiatief van het maatschappelijk middenveld voor een verbod op grootschalig biometrisch toezicht
https://europa.eu/citizen...es/details/2021/000001_nl