Privacytoezichthouders pleiten voor Europees verbod op gezichtsherkenning

Europese privacytoezichthouders willen dat er een algemeen verbod komt op camera's met gezichtsherkenning in de openbare ruimte. De European Data Protection Board schrijft ook dat er een verbod moet komen op 'AI-systemen' die onderscheid maken in etniciteit of geslacht.

De privacytoezichthouders schrijven dat in een reactie op een wetsvoorstel door de Europese Commissie. Dat voorstel voor de Wet op de artificiële intelligentie laat ruimte voor overheden om zulke technologie in te zetten om bijvoorbeeld criminaliteit te bestrijden. De EDPB pleit ervoor dat er een algeheel verbod moet komen op 'gezichtsherkenning en andere realtime biometrie in de openbare ruimte'. Volgens de privacytoezichthouders kleven er grote risico's aan zulke camera's. Naast gezichtsherkenning noemt de Board stem- en bewegingsherkenning als vormen van biometrie die per direct verboden moeten worden.

Het wetsvoorstel bevat waarborgen om zulke systemen te reguleren. Zo moeten zulke systemen onder de nieuwe wet geregistreerd worden. Ook komt er in de toekomst een certificering en worden bedrijven verplicht om te zeggen hoe de systemen werken. Dat vinden de privacytoezichthouders niet genoeg. Te veel regels zouden onduidelijk zijn. Het is bijvoorbeeld niet duidelijk wie de regels moet handhaven en hoe dat moet. Ook is niet bekend wat de regels zijn rondom data-uitwisseling met niet-Europese landen.

De voorgestelde wet voldoet ook niet aan de AVG. In het voorstel staan 'andere definities van sommige begrippen dan in de AVG' en bedrijven moeten 'andere procedures doorlopen' dan bij de Europese privacywet. In plaats van een voorstel voor verbeteringen kiezen de privacytoezichthouders er nu voor te pleiten voor een algeheel verbod.

In de European Data Protection Board zijn alle nationale toezichthouders van EU-landen vertegenwoordigd, waaronder dus ook de Nederlandse Autoriteit Persoonsgegevens en de Belgische Gegevensbeschermingsautoriteit. "Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij", zegt AP-voorzitter Aleid Wolfsen.

Naast gezichtsherkennende camera's wil de Board ook een verbod op 'AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur'. Dergelijke gegevens zijn onder de AVG al extra beschermd als bijzondere persoonsgegevens. Om wat voor soort systemen het precies gaat, schrijft de EDPB niet, wat het verbod aan interpretatie onderhevig maakt. Wolfsen verwijst voor een Nederlands voorbeeld naar de toeslagenaffaire. Burgers werden daarbij, mede op basis van een algoritme, onterecht aangemerkt als fraudeur.

De EDPB wil tot slot ook een verbod op AI 'die emoties herkent'. Het zou dan gaan om systemen op werkplekken waarbij werknemers een slechte beoordeling krijgen als ze boos kijken, al bestaan dat soort systemen in Europa nog amper en lijkt daar weinig animo voor.

Een definitief juridisch advies volgt volgens de privacytoezichthouders later nog. Het voorlopige advies is slechts een eerste stap richting de nieuwe wet. Eerst moet de Europese Commissie het wetsvoorstel herschrijven, daarna moeten de lidstaten van de Europese Unie daar nog over gaan stemmen en daarna het Europees Parlement.

Reacties (120)

[Lrrr]

Ben je voor dit verbod, vergeet dan niet je steun te betuigen aan het Europees burgerinitatief 'Reclaim Your Face'!

(Ze vragen een aantal persoonlijke gegevens, dat komt omdat het om een officieel Europees burgerinitatief gaat. De wet over Europese burgerinitatieven schrijft voor dat die gegevens nodig zijn voor een steunbetuiging.)

[rickiii]

Het gaat overigens lang niet meer alleen om gezichten, maar ook om kleding, manier van lopen en andere visuele attributen van jou als individu. Vandaar de toevoeging "....en andere realtime biometrie in de openbare ruimte". Maar ik vraag me daarbij gelijk af waar de grens ligt. Een mobiele telefoon met GPS, en GSM triangulering, nummber-bord herkenning en PIN betaling kunnen ook allemaal gebruikt worden om iemand overal te volgen.

[LukasvR]

Het klopt dat we aan data zijn verbonden en daardoor te traceren zijn, biometrische data is echter iets dat we niet van ons af kunnen leggen, je mobiel kun je thuis laten of in theorie "niet hebben", een gezicht is niet echt een keuze.

[Honytawk]

Iemand anders kan uw telefoon meenemen of met je auto rijden.
Maar een gezicht verander je niet zo makkelijk.

[Omnicron1]

gelijk gedaan, helemaal mee eens

[thomas1907]

Lees de rest van die zin dan ook, dan snap je waarom

[MSalters]

Dit lijkt me voor een deel wensdenken. De EU kan alleen regels maken voor gebieden waarop ze bevoegd zijn. De GDPR daarom heeft betrekking op bedrijven, maar overheden zijn grotendeels uitgezonderd. Dat is omdat handel een EU competentie is, en de EU dus bedijven kan reguleren.

En een verbod op AI's die emotie herkennen? Slecht idee. Ons bedrijf verkoopt al jarenlang agressie-detectie. Dat wordt vooral gebruikt door handhavers, omdat vroeg ingrijpen effectief voorkomt dat verbale agressie escaleert tot fysieke agressie. Dat is zó nuttig, dat het zelfs onder de Duitse privacyregels toegestaan is.

[TimvandenBelt]

De EU kan inderdaad enkel verordeningen en richtlijnen opstellen zo ver het EU (werkings) verdag dat toestaat. De AVG is, zoals letterlijk in de AVG staat, een uitwerking van artikel 16 VWEU. Zowel de AVG alsook 16 VWEU (of enig ander V(W)EU artikel) geeft geen algemene uitzondering voor overheden. Sterker nog, in beginsel zijn de regels enkel voor lidstaten, slechts onder bepaalde voorwaarden kan het ook tussen burgers gebruikt worden.
Handel is inderdaad een (groot) gebied waar de EU veel bevoegdheid heeft. Maar, dat geldt ook voor grondrechten, waarbij deze specifiek dus staat benoemd in artikel 16 VWEU.

Het gegeven voorbeeld van detecteren van agressie is een typisch voorbeeld van wat men belangrijker vindt. Voorkoming of privacy? In tegenstelling tot wat @arbraxas aangeeft hoeft dat niet iets slecht te zijn. Het is aan de samenleving om te bepalen of we dergelijke preventie van geweld (misdaad) willen in ruil voor privacy. Het is een grijs gebied met een vloeiende grens. De een vindt dat het wel kan, de ander (waaronder ik) vindt van niet.

Het idee an sich is niet inherent slecht. Wie zou niet willen dat niet willen dat geweld voorkomen kan worden? Iedereen. Het grote gevaar zit er meer in twee andere aspecten: false positives en misbruik/ander gebruik. Vinden we het risico op valselijk aangeven dat iemand mogelijk geweld gaat gebruiken erger dan de voorkoming van geweld? In dit geval, ook als het enkel voorkoming is en geen verdere (nadelige) gevolgen? Vinden we het risico op verder gebruik of misbruik zwaarder wegen dan voorkoming van geweld in dit geval?

Hier kan men een eigen mening over vormen wat niet meteen hoeft te stroken met de gemene deler. Gezichtsherkenning is niet inherent slecht. Maar, wat vinden we er als samenleving van? Hier is geen goed of fout in. De privacytoezichthouders hebben hier een (vanzelfsprekende) positie over ingenomen. maar, wat zal de Commissie en later het EU parlement doen? Uiteindelijk zijn die (in theorie) een afspiegeling van de samenleving.

Mijn visie is wat genuanceerder: ik ben voor een totaalverbod met uitzonderingen. Zo even wat ik mij nu kan bedenken zou ik het legitiem vinden om gezichtsherkenning te gebruiken voor de opsporing van voortvluchtige verdachten, vergaren van strafbaar bewijs tegen een specifieke verdachte en wetenschappelijk onderzoek.

[Reactie gewijzigd door TimvandenBelt op 25 juli 2024 20:28]

[XVI]

Ik ben het met je eens. Hoewel gezichtsherkenning niet inherent slecht is, is het dat in de praktijk eigenlijk wel vrijwel altijd omdat er koppelingen moeten worden gelegd met andere systemen. Dat zorgt er vervolgens voor dat er steeds meer persoonlijke informatie zal worden gedeeld en er steeds meer toepassingen mogelijk worden, die toch behoorlijk negatief zullen uitpakken voor ons.

Geweldig dat notoire winkeldieven niet meer kunnen stelen, maar vervolgens komen ze geen enkele winkel meer in omdat alle winkels van het winkelcentrum aangesloten zijn op dezelfde herkenningsdienst.
Prima toch, moeten ze maar niet de boel leegroven. Echter, wat als je onterecht op zo'n lijst komt? Dit is een enorm scheve machtsverhouding die niet mag ontstaan.

Hetzelfde inderdaad voor gepersonaliseerde reclames. Of het spelen van irritante muziek bij mensen/groepen die men voor de klandizie liever kwijt dan rijk is.
Zaken die goed zouden kunnen werken maar geautomatiseerd voor zoveel leed kunnen en zullen zorgen.

Dan inderdaad aan de andere kant de opsporingsdiensten. Zo zou het een ideaal middel kunnen zijn om terroristen op te sporen. Of wat minder extreem de detectie van geluidsoverlast of agressie. Dat zijn dan weer zaken die je liever niet met het badwater naar buiten gooit. (Echter, wat doe je met zo'n melding, welke conclusies kunnen daaraan worden verbonden. Iets zoals minority report mag niet werkelijkheid worden, de voorspellingen/conclusies van systemen mogen nooit tot veroordeling leiden.)

De vraag is, hoe giet je dat in wetgeving die dat alles in goede banen kan leiden? Ik vind dat er op safe moet worden gespeeld en er hoog moet worden ingezet op privacy en mensenrechten.
Vervolgens kunnen er zo nodig specifieke uitzonderingen komen. Dus specifiek gericht op een bepaald doel door bepaalde groepen, mogelijk alleen onder bepaalde omstandigheden (inderdaad bijvoorbeeld de opsporing, maar niet iedere agent zou met een scanner mogen rondlopen die iedereen uit Europa op honderden meters kan identificeren voorzien van alle personalia).

Gezichtsherkenning en met name de ongeautoriseerde en geautomatiseerde uitwisseling van biometrische informatie zou niet toegestaan moeten zijn voor particulieren. Aan de andere kant, diensten zoals faceid moeten wel weer mogelijk zijn dus daar zal ook iets voor moeten worden gevonden, bijvoorbeeld in de vorm van vrijwillig en optioneel gebruik.

[MSalters]

Het grote gevaar zit er meer in twee andere aspecten: false positives en misbruik/ander gebruik. Vinden we het risico op valselijk aangeven dat iemand mogelijk geweld gaat gebruiken erger dan de voorkoming van geweld? In dit geval, ook als het enkel voorkoming is en geen verdere (nadelige) gevolgen? Vinden we het risico op verder gebruik of misbruik zwaarder wegen dan voorkoming van geweld in dit geval?

False Positives zijn inderdaad een reeël iets. Het kan zijn dat de bewaking langskomt op de EHBO afdeling, en moet vragen of die rap muziek wat zachter kan. Zoals een bewaker terugkoppelde: het is niet altijd zwart-wit. Maar als het grijs is, dan is het nog niet erg als we ons gezicht laten zien. Het is veel intimiderender als de bewaking er permanent staat, ook als er niets gebeurt.

[JackJack]

Wat je nu opnoemt zijn toch juist redenen om die software per direct te verbieden? Met software controleer je of iemand de volgens het algoritme "correcte gedrag" vertoond. Zo niet dan komen er een stel "handhavers" aan te pas om te vertellen hoe je moet gedragen. Dat is toch een afgrijselijke situatie? Dat zo iets is toegestaan is gewoon bizar.

Straks kun je nergens meer jezelf zijn omdat je niet het "correcte gedrag" vertoond en loopt iedereen in het publiek maar een beetje toneel te spelen en gedragen we ons allemaal als robots. Echt te idioot voor woorden. We zijn allemaal nog altijd levende wezens met een eigen ziel en persoonlijkheid, je kunt niet altijd verwachten dat iedereen zich binnen bepaalde parameters gedraagt. Daar zijn we mens voor!

[Zoijar]

Waarom mag dat niet met software, maar als je er een suveillant neerzet, of iemand achter een monitor, dan mag het wel want dan is het een mens? Wat is op een gegeven moment nog het verschil tussen menselijk checken of met AI? Waarschijnlijk maakt de mens veel meer fouten, heeft een veel hoger risico op privacy-lekken, en heeft een veel hogere kans op bias en zijn mening in de belissing mee te nemen. Nee, geef mij maar AI dan.

[memen]

Je neemt aan dat een menselijke surveillant neerzetten wel altijd mag. Deze aanname is denk ik niet correct. Stel je voor als je al die AI versies vervangt door mensen. Dit zou betekenen dat je handhavers of kijkende/controlerende mensen neer zou zetten:
- in de supermarkt en elke andere winkel twee mensen in elk gangpad (nu al camera's)
- in binnensteden op elke straathoek (nu al camera's)
- op snelwegen elke x honderd meter eentje met een verrekijker (nu al camera's)
- op stations/bushokjes/haltes bij elke advertentieposter staat iemand te noteren waar je naar kijkt
- gebouwen van elk bedrijf staan mensen voor/achter en binnen in elk gangpad (beveiligingscamera's)
En in de toekomst in toenemende mate:
- Naast iedereens voordeur (Nest)
- twee mensen op iedere motorkap (camera's voor zelfrijdende auto's)
- naast elke persoon loopt een controleur (smartphone met camera & microfoon)

Als al die mensen met elkaar communiceren over je en continu beoordelen of je wel aan de gedragsnormen voldoet en of je niet misschien een regeltje overtreedt ergens, lijkt het me al lang niet meer niet meer vallen onder 'het is een mens, dus het mag'.

De twee belangrijkste verschillen:
- één surveillant vs miljoenen surveillanten (iedereen heeft smartphone, Nest, beveiligingscamera's etc)
- gegarandeerde menselijke maat van beoordelen vs binaire beoordeling van een AI (mensen kun je ter verantwoording roepen op het moment zelf of na afloop, vs geen verantwoording van AI)

[morrowyn]

Het is een beetje of je elke 100 meter, een politeagent met laser, een flitspaal neerzet of alle autowegen voorziet van trajectcontrole.

Er blijft dan weinig vrijheid over voor bepaalde inhaal acties of andere zaken waar je even moet afwijken van de norm. (Met spoed je partner naar ziekenhuis brengen vanwege een bevalling, waar geen ambulance voor uit hoeft te rijden oid)

Of je nu een politieagent met laser neerzet, cameras, of een camera met ai, dat doet er niet echt toe. Surveillance is surveillance.

Het is altijd de vraag in hoeverre een groep mensen (land,stad, etc.), surveillance vs privacy tegen elkaar afweegt, waarbij veiligheid in de eerste gewonnen dient te worden en vrijheid in de tweede.

[divvid]

Welkom in America waar iedereen glimlacht en in de stress schiet als je niet met “I’m fine” reageert op de vraag “how are you”

[jessesteinen]

Je laatste alinea slaat direct op 1984!

[arbraxas]

Eigenlijk beschrijf je direct waarom het wel verboden zou moeten worden.
Die software van jullie doet in feite aan ingrijpen voordat er strafbaar feit gepleegd is door er handhavers op af te sturen.
En over wat voor handhavers hebben we het? Particuliere beveiligingsbedrijven?

[MSalters]

E'en van de eerste toepassignen was voor gebruik in een Nederlandse gevangenis, dus dat was in elk geval na een strafbaar feit

Maar een andere toepassing is bijvoorbeeld op de Eerste Hulp op een vrijdagavond, waar de bewaking inderdaad typisch een particulier beveiligingsbedrijf is. Dat scheelt dus nogal in het aantal klappen wat de verpleging krijgt.

[monojack]

Ik vind het toch best wel griezelig. Ik ken jou niet en ik ken je bedrijf niet dus ik weet niet wat je motivatie is, misschien bedoel je het allemaal goed en heb je het ethisch allemaal op een rij, misschien ben je wel een voorbeeld voor de sector. Maar dat wil zeggen dat iemand die het minder ethisch op orde heeft ook het recht zou hebben zulke AI systemen te verkopen.

Ik ben het echt wel eens dat zulke systemen veel te gevaarlijk zijn om te gebruiken. Zo'n markt moet echt nog evolueren dus de detectie die jij nu gebruikt is binnen een paar jaar achterhaald, nog snellere detectie, voorspellen of iemand agressief gaat reageren is logischerwijze. En probeer dan maar eens een false positive te contesteren zonder agressief te worden als je gearresteerd wordt omdat de software voorspeld heeft dat je agressief gaat worden.

[MSalters]

Dat is natuurlijk flauwekul. Als je gearresteerd wordt zonder dat je een strafbaar feit hebt gepleegd, op basis van een "voorspelling", dan heeft de politie een probleem.

Als je gearresteerd wordt omdat je luidkeels aankondigt de verpleger op z'n bek te slaan als je niet binnen 2 minuten geholpen wordt - tja, daar zal de rechter wel moeite mee hebben. Maar ook voor de dader scheelt het in straf als het bij een bedreiging blijft.

[monojack]

Welk probleem? De software voorspelde dat je agressief ging worden en hier sta je nu te roepen dat de politie idioten zijn. De software heeft altijd gelijk.

Ik snap dat je je bedrijf probeert te beschermen maar de sector waar je in zit is gewoon een gevaarlijke sector.

[divvid]

Dus je bent ook tegen matrix borden die je waarschuwen tegen te hard rijden? Anpr camera’s in parkeergarages die doorgeven dat er een gestolen auto staat, motion detectie in zwembaden die kijken of er niemand verdrinkt?

Agressie preventie kan levens sparen. Alleen al in het centrum waar ik gewoond heb had dat twee doden kunnen besparen.

Er zit echt een verschil tussen dit soort systemen of botte face recognition met daaraan verbonden ‘computer says no’ acties

[Jeroen73]

Wij van WC-eend adviseren Minority Report

[Reactie gewijzigd door Jeroen73 op 25 juli 2024 20:28]

[Omnicron1]

Huh! kwalijke zaak, want ook de handhaver is maar een mens...
En dan hebben we hier niet over de boa, de pliesie in spee.

[Stoelpoot]

Het lijkt me dat het geen probleem is dat de EU dit enkel in gebieden waarin ze bevoegd zijn kunnen reguleren, omdat dat ook de enige locatie is waar EU-burgers er mee te maken hebben zonder dat ze zelf buiten de EU treden. De GDPR was hierin anders omdat deze ook internationale websites reguleert, maar in het geval van AI-herkenning moeten de foto's daarvoor toch echt op EU-grond genomen worden. Je kan geen camera aan de andere kant van de grens zetten en daarmee een substantieel aantal EU-burgers controleren.

[MSalters]

"Gebieden waarop de EU bevoegd is" is een vakterm; dat beschrijft beleidsgebieden, Het is geen geografisch gebied. Veiligheid is geen EU beleidsgebied, wat dus hier een probleem is.

[sympa]

De EU kan allerlei nationale wetgeving beïnvloeden. Denk maar aan het milieu.
En wat betreft regelgeving, er is best een verschil tussen een melding "er is agressie rond grensstraat 3" en bijvoorbeeld een nationale registratie per burger van het aantal agressieve en gelukkige minuten.

[MSalters]

Het milieu is vaak grensoverschrijdend, vandaar dat de EU zich daar tegenaan mag bemoeien. Maar die analyse of de EU bevoegd is moet je per geval bekijken. Je kunt dus niets over AI zeggen op basis van milieu-regels.

[Martijn033]

Het blijkt dat de AVG-wetgeving van de EU zo invloedrijk is, dat het niet alleen in het grootste deel van de wereld wordt nageleefd (ook ver buiten de EU), maar dat het ook wordt nagevolgd (verschillende niet-EU landen zijn bezig soortgelijke wetgeving te ontwerpen en te implementeren.)
Dus graag meer van dit soort wetgeving.

[Verwijderd]

Canon experimenteert in China met een systeem waar je geen toegang krijgt als je niet glimlacht ...

https://asia.nikkei.com/S...-by-surveillance-software

Last year, a Chinese subsidiary of Japanese camera maker Canon, Canon Information Technology in Beijing, unveiled a new workspace management system that only allows smiling employees to enter the office and book conference rooms. Using so-called "smile recognition" technology, Canon said the system intended to bring more cheerfulness to office in the post-pandemic era.

[Steyn_E]

WTF… Gedachtenpolitie in 3 2 1

[TigerXtrm]

In China bestaat dat al lang. Uitspreken tegen het regime is een enkeltje strafkamp.

[Wouterie]

Canon mag dus op de zwarte lijst. Ik snap niet dat er nog steeds mensen zijn die tegen dit soort maatregels zijn, maar toch de spullen van die partijen kopen.

[Splorky]

Zorg je ook dat je geen Samsung apareten heb, die heeft een tak die aparaten maakt die op basis van AI mensen kan neer schieten.

Maar lijkt me toch onmenselijk dat als je iemand die dicht bij je staat heb verloren en je moet lachen om te mogen werken. Wel goed voor lachende ja knikkers op kantoor.

[Stoelpoot]

"Op basis van AI" is vaag. Op basis van wat voor AI, en met welke parameters? Ligt de eindverantwoording bij een machine of bij een mens?

In dit geval van Canon is het een emotie-herkennende AI gemaakt door Canon, die werkt op basis van parameters van Canon, zonder menselijke eindverantwoording. Aangezien ik twijfel of Samsung zelf een lijst heeft van mensen die ze neer willen schieten, worden de parameters sowieso al door een externe partij bepaald. Omdat het om levens gaat, schat ik in dat de eindverantwoording ook door een mens wordt gedaan en de software enkel mogelijke doelen aangeeft. Dan blijft dus enkel de AI zelf over die dan wel door Samsung is gemaakt, maar welke een volledig andere scope en verantwoordelijkheid zou hebben dan de AI van Canon.

[Wouterie]

Ik ben niet zozeer tegen het inzetten van een AI om mensen/voorwerpen neer te schieten. Het lijkt mij wel een goede toepassing om in tijden van oorlog bijvoorbeeld vijandige vliegtuigen of raketten neer te halen. Het is niet dat de menselijke factor er voor zorgt dat daardoor minder burgerslachtoffers vallen. Zie Oekraïne en Iran. Een AI had nooit de MH17 neergehaald.

[Jan Onderwater]

Bewakingscameras zijn tof, als je dan je kind verliest door geweld op straat, heb je gelukkig de video nog....
Wat ik zeggen wil is, de overheid moet eens behoorlijk hun werk gaan doen en geld moet besteed worden aan agenten, en niet aan gimmicks. De pakkans moet omhoog Een jaar of tien geleden werd bekent dat het gros van de criminaliteit werd begaan door draaideurcriminelen, een realtief kleine groep die iedere keer wegkwam met een opgestoken vinger en een foei, dat mag niet. Als je voor de derde keer gepakt wordt voor winkeldiefstal moet zo iemand gewoon 10 jaar worden weggezet. Met verkeersboetes heeft de overheid ook geen moeite met hard straffen. Cameras met gezichtsherkenning zijn bv erg goed in zwartrijders in het OV te pakken, maar als daar vervolgens geen consequenties aan hangen die men voelt schiet je er nog niet veel mee op.

[Martijn033]

De gedachte dat harder straffen een goede methode tegen criminaliteit zou zijn, wordt niet ondersteund door onderzoek. Wat wel helpt: buurtprojecten, kleinschalige participatietrajecten, en educatie (vooral bijscholing op jonge leeftijd.) Uit onderzoeken blijkt dat vooral armoede, uitzichtloosheid van het bestaan, en het idee "niet mee te kunnen komen" (in de ruimste zin) sterke factoren zijn voor kleine criminaliteit.
Los hiervan, ga eens een cursus strafrecht volgen: er is een wereld van verschil tussen een hoge verkeersboete, en een gevangenisstraf van 10 jaar voor driemaal winkeldiefstal. Die twee straffen zijn totaal niet in verhouding.

[Jan Onderwater]

Zoals ik zei
De pakkans moet omhoog
Maar wat zou jij dan doen met de kleine groep onverbeterbare draaideur criminelen?

[Martijn033]

Een aantal dingen: jazeker, meer politiemensen op opsporing (hogere pakkans), ook meer politie op straat. Wijkagenten zijn belangrijk. Maar ook: wijkcentra, kleinere klassen op school (minder uitval van leerlingen), meer geld naar docenten vooral in het VMBO (daar zit meer dan de helft van het aantal pubers namelijk), en wat ik al zei: inzetten op scholing vanaf de allerjongsten.
Dit is een probleem waarvoor een hele lange adem nodig is. Er zijn geen kortetermijn oplossingen. Er is ook voor nodig dat politici niet om de paar jaar weer het beleid wijzigen.

[Jan Onderwater]

Je geeft geen antwoord op de vraag.

[Martijn033]

Jawel. Ik heb al gezegd dat ik geen voorstander ben van het "three strikes you're out"-principe. Ik ben ook geen voorstander van lange straffen voor relatief simpele overtredingen (zoals winkeldiefstal). Gevangenisstraf kan (in het geval van herhaalde overtredingen), maar alleen in combinatie met een gedwongen herintredingstraject en intensieve begeleiding. Het allerbelangrijkste is mijns inziens investeren in buurten en mensen, zodat het perspectief omhoog gaat.

[Jan Onderwater]

Je hebt nog steeds de vraag niet beantwoord, de draait er omheen
Wat zou jij dan doen met de kleine groep onverbeterbare draaideur criminelen?

[Martijn033]

Ik heb wel geantwoord, alleen is het niet het antwoord dat jij wilt horen.

[Jan Onderwater]

Nogmaals
Wat zou jij dan doen met de kleine groep onverbeterbare draaideur criminelen?

[boe.i]

Naast gezichtsherkennende camera's wil de Board ook een verbod op 'AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur'

Ik zie niet voor me hoe je dit kunt waarborgen zonder vrijwel alle machine learning algoritmes te verbieden. Feit is nu eenmaal dat met AI correlaties worden gevonden en vervolgens gemodelleerd die soms te maken hebben met een van deze kenmerken. Vaak genoeg zijn deze 'verborgen', ondanks dat je de kenmerken initieel niet meeneemt in je model. Denk bijvoorbeeld aan postcode die gelinkt is aan etniciteit, gewicht/lengte met geslacht etc. Je moet bedenken of dit 'erger' is dan de soorten bias die in de huidige maatschappij voorkomen, zoals het voortrekken van bepaalde mensen bij sollicitaties (Nederlandse achternaam, mensen die lang/knap zijn). Zolang je weet dat dit soort vooroordelen bestaan zou je hiervoor in een algoritme juist voor kunnen corrigeren.

[Reactie gewijzigd door boe.i op 23 juli 2024 12:07]

[LightofDarkness]

Het probleem is dat de AI/ML modellen getraind worden op basis van bestaande data. De data is door mensen gecategoriseerd, waardoor het model feitelijk de correlaties opgelegd krijgt van buitenaf en daarmee ook de (al dan niet foute) bias.

Daarnaast wijst een correlatie niet per sé op een causaal verband. Ook die nuance is in een model niet weer te geven, waardoor de resultaten achteraf door mensen beoordeeld moeten worden. Hier komt dan nogmaals de menselijke bias om de hoek kijken.

[bbob]

hoe je dit kan waarborgen heel eenvoudig door etniciteit niet op te nemen in de data. De belastingdienst die mensen met dubbele nationaliteit op een zwarte lijst plaatse was daar al een voorbeeld van.
Het AI systeem kun je dan laten leren zonder kenmerk etniciteit

[Sissors]

En hoe haal je etniciteit uit bijvoorbeeld foto's of camerabeelden? Om nog niet te hebben dat zoals @boe.i al schrijft, etniciteit kan ook gecorreleerd zijn aan andere zaken, bijvoorbeeld aan zoiets simpels als postcode. Moet je die dan ook niet meenemen?

[Omnicron1]

kleuren camera, om te beginnen...
Niks mis met een kleurtje hoor ik werk al vele jaren samen met die mensen.
Sommige Hollenders zouden er nog iets van kunnen leren.
Waar het opgaat dat het in een steeds groter tempo oploopt.
Straks kan niet meer ergens naar binnen bij hoge nood...
want dat zou men wel eens verkeerd kunnen intrepeteren. Het begint hier steeds meer op Ruslang en China te lijken.

[mjtdevries]

Want op een zwart/wit foto kun jij geen etniciteit herkennen ????

[bbob]

Hoe je etniciteit er uit haalt. Heel eenvoudig je ziet een mens. Etniciteit kleur stand van ogen, haar kun je als kenmerken gewoon weglaten.

[mjtdevries]

Dus door de gezichtsherkenning om zeep te helpen. Dat is dus duidelijk geen oplossing.

Wat jet moet doen is het "groeperen" op basis van kenmerken er uit halen.

[sympa]

Je mag dan dus geen mensen indelen in groepen. Lijkt me eerlijk gezegd prima, om mensen niet in te delen in groepen.

[ArranChace]

Nee je mag geen mensen in hokjes plaatsen, maar ja... we houden er wel van on zelf in een Hokje te plaatsen, kan vele vrijwillige hokjes opnoemen waar mensen zich mee identificeren en zich mee mentaal mee beschermen, en zelfs trots op zijn te behoren tot dat hokje.

Maar als een ander dan diegene in datzelfde hokje plaatst is het ineens weer taboe.
De truc is dus, om mensen zover te krijgen dat ze zich vrijwillig in dat hokje plaatsen, en dat niet te realiseren, en geloof me dat lukt vaak ook nog eens, en die mensen verdedigen dat hokje behoorlijk fel dan.

[Reactie gewijzigd door ArranChace op 25 juli 2024 20:28]

[sympa]

Eigenschappen voor mezelf bedenken, noem het hokjes, daar heb ik hoogstens zelf last van. Bovendien is de wereld te complex voor hokjes.

[Omnicron1]

Heh ! dat moet je eens tegen de spiegel oog zeggen
die doen niks anders terwijl hun eigen leven een puinhoop is.

[vanaalten]

Ik vermoed dat de europese inlichtingendiensten het tegenovergestelde willen - camera's overal, zo slim mogelijk, liefst in een europees gekoppeld netwerk en ga zo maar door.

Leuk dat de privacy-waakhonden wat anders willen, maar ik ben toch bang dat ze het gaan afleggen tegen de weg die al ingeslagen is.

[bzuidgeest]

Tja ik denk ook niet dat die systemen perse slecht zijn. Het gaat erom hoe je ze in zet. Inzet op vliegvelden en treinstations om voortvluchtigen te vinden vind ik bijvoorbeeld een prima voorbeeld van goed gebruik.
Het inzetten voor nog meer gerichte reclame vind ik een fout gebruik.

Een hamer is een hamer. Je kunt er mee spijkeren of moorden. De keuze voor wat er mee gedaan word ligt niet bij de hamer en de hamer is niet fout.

[Bozebeer38]

Tot de verkeerde overheid een keer ergens de macht krijgt.

We hebben het gezien met Wit-Rusland.

En voordat je wil snuggeren dat zoiets ondenkbaar is in, bijvoorbeeld, Nederland.
We hebben blijkbaar al jaren te maken met een regering die schijt heeft aan de burger, tienduizenden tot fraudeur heeft bestempeld zonder mogelijkheid om in beroep te gaan, door niemand op de hoogte te stellen, en natuurlijk de “Rutte doctrine”.

Nee, Nederland staat er slechter voor dan men denkt.

[84hannes]

Tot de verkeerde overheid een keer ergens de macht krijgt.

Dat is inderdaad een enge gedachte, maar de enige oplossing daarvoor is de overheid volledig vleugellam maken. In Rusland veroordeeld de rechterlijke macht alle oppositielijders vanwege diefstal of corruptie of dat soort verzinsels. Moeten we daarom de rechterlijke macht afschaffen, voor het geval Nederland ook zo'n corrupte regering krijgt? In Hong Kong zet de politie traangas in tegen vreedzame betogers, moeten we daarom de politie afschaffen? In Oostenrijk is het leger ingezet tegen eigen burgers, is het daarom maar beter het leger af te schaffen?

Nee, Nederland staat er slechter voor dan men denkt.

Er is iets vreselijks misgegaan met de toeslagaffaire en een paar andere incidentjes. Rutte en andere hoofdrolspelers zijn helaas nog niet volledig aan de kant geschoven, maar ik kan me zo een twee drie ook niet herinneren wanneer Rutte voor het laatst zo lang niet onze (missionaire) premier was; er worden fouten gemaakt en die worden niet volledig afgestraft. Beide redenen om kritische te zijn op de overheid, maar is het genoeg om te suggereren dat Nederland is afgezakt op een niveau tussen Hongarije en Wit-Rusland?

edit:
Om op het artikel in te gaan

Stel je voor dat je een geradicaliseerde gevaarlijke gek hebt die bekend is bij de politie en op de vlucht is, dan zou ik het fijn vinden als gezichtsherkenning kan helpen deze figuur op te pakken voordat er doden vallen. Als camera's ingezet worden zodat de NS de coupes met buitenlands uitziende mensen op kaartjes te kunnen controleren, dan zou ik dat verwerpelijk vinden. Ik vind het daarom een beter idee de regels en het gebruik van gezichtsherkenning- en -classificatie te verduidelijken, dan het kind zonder meer met het badwater weg te gooien.

[Reactie gewijzigd door 84hannes op 25 juli 2024 20:28]

[Immanent Ike]

Dat is inderdaad een enge gedachte, maar de enige oplossing daarvoor is de overheid volledig vleugellam maken.

Hoe kom je hierbij? De oplossing tegen een te machtige regering wordt al jaren gevonden in de rechtsstaat, scheiding van machten, een parlement, etc.

Gezichtsherkenning geeft de overheid een vergaand controlemiddel. Als we dat niet willen dan kunnen we het gebruik ervan verbieden d.m.v. een wet. Net zoals dat de politie niet zomaar huizen van mensen mag doorzoeken. Dat heeft weinig te maken met de overheid vleugellam te maken.

[sympa]

Wat dan wel weer grappig is: in Duitsland mag de politie na 21 uur geen huiszoekingen doen. Dat gaan ze nu veranderen omdat criminelen na 21:00 wachten met het ontgrendelen van de computer...

[84hannes]

De oplossing tegen een te machtige regering wordt al jaren gevonden in de rechtsstaat, scheiding van machten, een parlement, etc.

Dat ben ik volledig met je eens. Ook al is dat uitstel van executie (een regering kan op termijn al die instituten naar de hand zetten), het is het beste dat we hebben. We moeten er dan ook voor waken dat we voldoende controlemechanismes hebben. Wat we niet moeten doen is hele technieken en concepten neerzetten als "gevaarlijk" en "te misbruiken", maar kijken hoe we zo goed mogelijk de voordelen kunnen gebruiken zonder slachtoffer te worden van de nadelen.

[bzuidgeest]

(een regering kan op termijn al die instituten naar de hand zetten),

We zijn hier niet amerika, onze regering stelt geen opperrechters aan bijvoorbeeld. Dat maakt ons niet volledig imuum, maar het maakt het wel heel moeilijk. Je kunt wellicht het OM beschuldigen van politiek denken of handelen. Maar die lopen ook een moeilijke lijn en er kan niet altijd iemand zitten met genoeg ballen om nee te zeggen in elk geval.

[84hannes]

Dat maakt ons niet volledig imuum, maar het maakt het wel heel moeilijk

Maar dat is het punt, we kunnen het heel moeilijk maken maar er zijn altijd grenzen. We moeten altijd blijven vechten voor de instituten die onze democratische rechtstaat beschermen, dat gevecht is nooit echt gewonnen, maar anderzijds moet het land ook bestuurbaar blijven dus zullen politici niet volledig lam gemaakt moeten worden.

[bzuidgeest]

Gezichtsherkenning is een tool van de handhavende macht, niet van de overheid. Dus als je denkt dat een rechtstaat de bescherming is tegen een te machtige regering (zo hoort het ook te zijn). Dan moet je ook dat vertrouwen tonen in de derde poot van de trias politicas. De uitvoerende macht ofwel politie. Gezichtsherkenning word toegestaan door de politiek, maar het is een tool voor de politie, gecontroleerd door de rechters. Je kunt niet voor de ene tak argumenteren en dan de andere achterweg laten. Het hoort allemaal bij elkaar.

[Immanent Ike]

Misschien was ik wat tekort door de bocht.

De uitvoerende macht is een deel van de overheid. Rechten beschermen de burger tegen de uitvoerende macht door deze macht te beperken.

[Wouterie]

Het zou heel strak ingeregeld moeten worden, met een flinke controle erop en heldere terugkoppeling naar de samenleving. Maar ja, politiek... Mijn vertrouwen erin is de laatste maanden/jaren tot een dieptepunt gedaald.

[bbob]

Helaas binnen de EU is Hongarije ook niet het beste voorbeeld. Sta je daar straks als LBHT bekend dan kan men je overal op straat volgen. Als een land als Hongarije, deel van de EU met wetgeving komt om groepen uit te sluiten dan moet je je toch sterke vraagtekens stellen bij de EU en haar wetgeving.

Een totaalverbod als dit kun je daarom alleen maar toejuichen.

[arbraxas]

https://www.rtlnieuws.nl/...k-sancties-protesten-lgbt

Op je wenken bediend en behalve wat afkeurende blikken doet de zoals gewoonlijk helemaal niets.

[bbob]

Leuk dreigen met sancties. Maar sancties, welke en kan een land dan zelfs met sancties nog steeds lid blijven van de EU. De enige denkbare sanctie is dat er voor dit soort landen geen plek is binnen de EU. Als je er andere normen en waarden op nahoud moet je ook geen lid willen zijn van de EU.
Helaas is de EU als het daar op aankomt bijzonder slap, dus dreigen ach ja leuk en hoeveel jaar verder voordat er echt iets gebeurt.

Maar waar het om draait is dat het voor EU landen toch mogelijk lijkt wetgeving aan te nemen die niet overeenkomt met de EU normen, waarden en wetgeving.

[84hannes]

De enige denkbare sanctie is dat er voor dit soort landen geen plek is binnen de EU. Als je er andere normen en waarden op nahoud moet je ook geen lid willen zijn van de EU.

In Zweden worden de rechten van minderheden niet erkend zodat men door kan gaan met mijnwinning in het land van de Sami ('Lapland'). In Nederland wordt een traditie om mensen zwart te verven en een achterlijk accent op te zetten door politici verdedigd met het argument dat kinderen cadeautjes krijgen (er zijn nu Tweakers die dit gaan relativeren en zeggen dat ik het verkeerd interpreteer, maar dat is precies wat Orban doet dus dat bevestigt hooguit dat het allemaal niet zo zwart/wit is). Ik erger me groen en geel aan het anti-democratische gedrag van landen als Polen en Hongarije, maar ik ben bang dat landen bij de kleinste afwijking van de norm uit de EU knikkeren geen haalbare kaart is.

[Reactie gewijzigd door 84hannes op 25 juli 2024 20:28]

[sympa]

Eruit knikkeren is ook niet de oplossing. Wat wel kan helpen is om geen geld meer te sturen. En eens niet de landbouw het grondbezit te gaan subsidiëren, maar de persoonlijke ontwikkeling van de burgers.

[AmigaWolf]

Helaas binnen de EU is Hongarije ook niet het beste voorbeeld. Sta je daar straks als LBHT bekend dan kan men je overal op straat volgen. Als een land als Hongarije, deel van de EU met wetgeving komt om groepen uit te sluiten dan moet je je toch sterke vraagtekens stellen bij de EU en haar wetgeving.

Een totaalverbod als dit kun je daarom alleen maar toejuichen.

Wat is LBHT?!?!

En wat Bozebeer38 al zegt, als je een andere regering heb die wel totaal de andere kant op slaat (wat al aardig gebeurd is met een hoop dingen, de laatste 15 maanden) kunnen ze van alles met die systemen doen, je hoeft alleen maar naar China en Noord-Korea te kijken wat ze daar met die camera's met gezichtsherkenning en AI-systemen allemaal doen.

[Bas Boss]

Regimes zoals Wit-Rusland zijn toch juist een reden om deze techniek wel toe te passen.

Je kan bij alle veiligheidsmaatregelen het “wat als we er verkeerde dingen mee doen” argument gebruiken. Helaas zal de tegenpartij dan zeker winnen.

[sympa]

Er is nogal een verschil tussen registratie en observatie.
Bij het observeren van mensen (kwetsbaar persoon wordt lastig gevallen door een imposant persoon) ga je meteen over tot actie.
Terwijl een database van kwetsbare en imposante personen iets heel anders is. Wat moet je daarmee?

[Bas Boss]

Ja dat is toch juist het ding met digitale observatie, er is altijd sprake van registratie. Daarom moet je bewaartermijnen vaststellen. Wat dan weer sterk afhankelijk is van de toepassing.

[sympa]

Als je gericht observeert registreer je naar mijn mening alleen wat je zoekt. Ofwel: "De verdachte is nog 3 keer gezien daarna in diezelfde straat".
Dat is naar mijn mening heel anders dan iedereen herkennen en dat opslaan "voor als het ooit van pas komt". Of, nog erger, om profielen van te maken zoals: "gaat laat naar bed" of "gaat naar moskee".

[lordawesome]

Dat je met een hamer kunt moorden is geen argument, dat kun je ook met een vulpen en ontelbare andere voorwerpen. Massaal mensen traceren is een stuk moeilijker met een hamer.

[Reactie gewijzigd door lordawesome op 25 juli 2024 20:28]

[JT]

Een hamer is een hamer. Je kunt er mee spijkeren of moorden. De keuze voor wat er mee gedaan word ligt niet bij de hamer en de hamer is niet fout.

Ik ben benieuwd wat je vindt van de Amerikaanse vuurwapenwetgeving want dit is argument nummer 1 van de pro-vuurwapenlobby waarom alles moet blijven zoals het is.

[Bas Boss]

Slechte vergelijking. Dat gaat over het gebruik door burgers.

[JT]

Ja dus? Burgers zijn mensen die zich aan de wet moeten houden. Veel mensen bewegen zich zodanig dat ze zoveel mogelijk bij de grens van de wet blijven voor eigen gewin. Overheid bestaat ook uit mensen. Deze hebben ook een doel. Zij zullen ook zoveel mogelijk de grens opzoeken voor hun eigen gewin, al is dat gewin misschien anders vanwege de aard van de werkzaamheden. Zie toeslagenaffaire. Let wel, het is van mijn kant geen oordeel over of we wel of geen gezichtsherkenning moeten gebruiken. Ik geef alleen aan dat ik het argument om het wél te gebruiken niet voldoende vind.

Als we dan toch inhoudelijk zouden gaan dan ben ik ervoor om in ieder geval heel veel voorzichtigheid te betrachten. Als je kijkt naar alle tracking en dataverzameling van burgers door grote techbedrijven dan zie je dat de mogelijkheden en het grenzeloos inzetten daarvan ten bate van winstmaximalisatie en groei, vanwege een gebrek aan beleid en regelgeving heel hard de autoriteiten voorbij is gerend, voor zij beleid en wet/regelgeving konden bedenken. Ik vind het een uitermate goed idee om dit soort zaken in ieder geval te vertragen/pauzeren totdat we vastgesteld hebben wat wel en niet wenselijk is (wat dan uiteraard niet in steen gebeiteld staat).

[Reactie gewijzigd door JT op 25 juli 2024 20:28]

[Jeroen73]

Achja, het welbekende "guns don't kill" principe. En toch zie je daar waar schietgerei makkelijker verkrijgbaar is dat het ook makkelijker misbruikt wordt. Wanneer de beer los is, krijg je m niet meer terug in zijn hok...

[Maurits van Baerle]

Dit komt niet zomaar uit de lucht vallen. De Europese Commissie heeft vorig jaar al overwogen om gezichtsherkenning in de publieke ruimte te verbieden voor tenminste vijf jaar zodat er tijd is om te onderzoeken wat wel en niet wenselijk is.

Volgens mij zijn er ook al wat Europese steden waar zo’n verbod nu al geldt.

Ik zou in ieder geval de kans op een verbod of serieuze inperking redelijk inschatten.

Zo’n inperking zou bijvoorbeeld kunnen zijn alleen gebruiken voor risicogebieden (in een straal van X meter rondom een stadion bij een wedstrijd die als risicowedstrijd aangemerkt is), alleen op bepaalde tijdstippen (op bepaalde plekken en alleen tijdens het hoogste terrorisme dreigingsniveau) en alleen beperkt tot officiële diensten (en dus niet de buurt supermarkt of private beveiligingsdienst bij een evenement).

[Reactie gewijzigd door Maurits van Baerle op 25 juli 2024 20:28]

[Cyb]

Ik vermoed dat de europese inlichtingendiensten het tegenovergestelde willen - camera's overal,

Wat Europese inlichtingendiensten in Europa willen, brengt China in Europa in de praktijk:
https://nos.nl/artikel/22...htsherkenning-in-belgrado
https://www.trouw.nl/nieu...t-investeringen~bda9a193/
https://www.ad.nl/buitenl...fkampen-bewaakt~ac1fa164/
https://www.amnesty.org/e...ina-human-rights-abusers/

[Reactie gewijzigd door Cyb op 25 juli 2024 20:28]

[Bruin Poeper]

Ik denk ook dat het een achterhoedegevecht is.
De voordelen/mogelijkheden zijn té groot.
En hoe wil je controleren? Immers camera's hangen overal. Wat software er mee kan doen kan verborgen blijven.
Op zijn best kan je juridisch wat maatregelen nemen dat personen niet strafbaar zijn op grond van die software.
Bijvoorbeeld een flitsfoto bij een snelheidsovertreding zou dan ongeldig moeten zijn. Daar vind ik best wat voor te zeggen omdat de flitscomputer niets weet van de omstandigheden. Dat je zonder (reële) kans op verweer van zo'n computer een bon krijgt is al heel erg en superlomp. Maar dát mag wel in nL

[Martijn033]

Een flitsfoto is een interessant punt: Het mag (momenteel), maar dit voorstel maakt het zeker niet onmogelijk, zolang er maar geen kenmerken omtrent ethniciteit (bijvoorbeeld huidskleur) worden opgeslagen, of zolang de foto van de persoon achter het stuur niet primair wordt gebruikt om te matchen tegen een database met gezichten om de persoon te identificeren.
Overigens wordt in Nederland de "flitsfoto" gebruikt om te bewijzen dat de auto op een bepaalde plek (door rood / te hard / etcetera) reed. De boete gaat naar de eigenaar van het voertuig, die wordt geidentificeerd door het kenteken van dat voertuig.
Een flitsfoto wordt alleen als primair bewijs gebruikt bij het aantonen van mobiel-telefoongebruik. Moet -ie wel echt aan je oor zitten, of zichtbaar in de hand worden gehouden.
Een tweede punt - vanuit AVG-oogmerk veel interessanter - is het verbod om deze foto's te bewaren in een database. Wellicht moet ik de zaak in de herinnering roepen van enkele jaren geleden waarbij de politie de camerabeelden van wegcamera's vlak voordat de weggooi-termijn aanbrak, deelde met de belastingdienst die deze beelden vervolgens gebruikte om leaserijders te beboeten.
Misbruik kan altijd, maar het komt ook altijd uit. In dit geval dus ook. Dan helpt wetgeving: de belastingdienst moest de boetes aan leaserijders op basis van deze camerabeelden wel vernietigen. En de database ook.

[Omnicron1]

Helaas wel ja. Laten we dan hopen dat ze hoe dan ook ene dikke vinger in de pap houden.

[Verwijderd]

Criminelen, relschoppers, hooligans, e.d. lachen zich de l*l uit de broek. Die kunnen (weer) helemaal los.

[Sp3ci3s8472]

Als we USA als voorbeeld nemen kunnen ze dat toch wel, ook al heb je beveiligings camera's de DA (district attorneys) daar laten ze allemaal weer vrij zonder straf.

Los van de domme relschoppers. Je moet als relschopper wel heel dom zijn om geen masker of gezichtsbedekking op te doen als je gaat rellen. Je pakt hier voornamelijk de normale mensen mee.
Dan als tweede punt, hebben wij in NL nu zoveel last van criminelen, relschoppers en hooligans dat zo'n vergaande maatregel nodig is?

[Verwijderd]

Als je ergens naar toe gaat, heb je je telefoon bij je. Er zijn nauwelijks mensen die zonder de deur uitgaan. Jouw whereabouts zijn langs deze weg altijd te achterhalen.
En ongetwijfeld zit je op sociale media, wellicht op meerdere platforms. En je gebruikt zoekmachines in je webbrowser. En ook van bv. DuckDuckGo weet je niet zeker of die toch niet geniepig iets van je data verzamelt.
Ik trap een open deur in door te zeggen dat heel veel van je persoonlijke gegevens all over the world op de een of andere manier zijn opgeslagen. Zelfs al doe je heel goed je best om het te minimaliseren, helemaal eraan ontkomen is vrijwel uitgesloten, tenzij je onder een steen gaat leven. En heel veel mensen vinden het kennelijk geen enkel probleem, sterker, het interesseert ze niet eens. En niet zelden met de drogreden "dat ze niets te verbergen hebben", wat natuurlijk niets anders is dan jezelf voor de gek houden.
Als je in de stad wordt overvallen door een of meerdere personen zul je waarschijnlijk blij zijn indien e.e.a. door een camera wordt vastgelegd, vooral als er verder geen getuigen zijn. Veel lieden die dat doen gebruiken niet eens gezichtsbedekking, en hebben het IQ van pas bevruchte eicellen om zoiets ook nog eens zelf te filmen en online te zetten.
Je loopt in de stad waar iemand een foto maakt waar je bij toeval ook op staat, en zeer waarschijnlijk sta je per omgaande op Facebook o.i.d. Vrijwel onvermijdelijk want mensen maken van de meest onzinnige dingen foto's, het liefst van zichzelf.
Wat ik maar zeggen wil, met dit in het achterhoofd vind ik het enigszins hypocriet dat zo te hoop gelopen wordt tegen gezichtsherkenning in de openbare ruimte. Dat er duidelijke kaders moeten zijn voor wat wel en niet mag, en door wie, dat is een ander ding. Kan het tegengehouden worden? Misschien, maar uiteindelijk zullen er steeds nieuwere en geavanceerdere technieken komen. Straks loopt iedereen met brillen met camera's en HUD's, als er tegen die tijd al niet weer iets anders is. Met de gekste dingen kun je tegenwoordig blijkbaar mensen - oncontroleerbaar - bespieden, ook "gewone" burgers kunnen dat (straks). Heel veel mensen hebben drones waarvan het gebruik ook niet te controleren valt, en al helemaal niet wanneer overheden ze gebruiken.
De mens is in staat om zichzelf telkens met allerlei "innovaties" voorbij te steken waarvan de bijwerkingen (misbruik) pas later aan het licht komen of zelfs doelbewust worden genegeerd. En ik vrees dat het alleen maar sneller zal gaan en erger gaat worden. De voorbeelden waarbij de wetgever wordt overvleugeld door de (lobby van) techbedrijven zijn er te over. Bovendien hebben overheden vaak ook zelf belang bij bepaalde technische innovaties. En aangezien ze zelf elke kennis ontberen zijn zij min of meer de gevangene van de tech-industrie.

Maar goed, ik ben al een ouwe lul, en "maybe I'm getting too old for this shit"

[Omnicron1]

Hulde voor deze mens ! Bloemen, ! applaus
Ik had het zelf niet breder kunnen uitleggen.

Ik sta er zelf ook zo in, maar......
Ik zie er tegenwoordig een uitdaging in om ze te ontlopen.
Moeilijk, weet ik. EN ja dat begint hier al.... toch weer een sociaal forum. wellicht lezen ze ook hier mee de manne van de MIVD en hun consorten.
Toch als je er eens een keer goed over nadenkt en er een spelleke van gaat maken.
Kan het best interessant zijn. of worden

[Silversatin]

Dit gaat over " camera's met gezichtsherkenning" maar wat als het gewone camera's zijn waar er achter af ergens op een bureau gezichtherkenning software door de stream gaat. Dan heb je toch een loophole in dit verbod voorstel ?

Of is dat juist de bedoeling. massaal luid roepen op een verbod op " camera's met gezichtsherkenning" maar stiekel wel een serverroom met gezichtherkenning laten draaien ?

[Bender]

Ik denk dat de zin enkel een vereenvoudigde weergave is van het uiteindelijke wetvoorstel.

[Silversatin]

Ik hoop het, wetende dat politici niet bepaald ICT machtig zijn. (Voorbeeld: Senaat van de V.S. domme vragen aan Zuckerberg)

[Mars Warrior]

een verbod op 'AI-systemen die mensen indelen in groepen op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur'

Zou bovenstaande ook gevolgen hebben voor Facebook en Google die gericht adverteren op basis van deze indelingen?

[bbob]

Dat is een hele goede vraag en je zou denken dat dat dan idd niet meer mag.
Ook facebook die bij gezichten namen kan plakken en dan op andere foto's gezichten kan herkennen zou dan verboden moeten worden.
Idem met alle data die men over jou heeft.

Hoop idd dat het een vrij brede wet wordt en ze dus ook de datahonger van techgiganten zo een halt kunnen toeroepen.

[Omnicron1]

Gewoon weg blijven bij vlees hoek Heb je dat nodig dan ? Ik niet hoor

[pookie79]

Facebook/ google etc vragen gewoon geslacht en dan mag dan natuurlijk nog steeds

[wildpicture]

Laten we de tools die we hebben maar meteen weggooien en verbieden. Ons land wordt helaas meer en meer gestuurd door juristen. Verschrikkelijke mensen. Sommige zaken los je nou eenmaal niet juridisch op.

Dus toestaan en inzetten door veiligheidsdiensten voor staatveiligheid en eventueel door politie voor opsoring van misdaden waar meer dan 10 jaar celstraf op staat. Voor alle andere toepassingen (en door lokale overheden) verbieden.

[arbraxas]

De totalitaire politiestaat als oplossing.
Nee dank u, ik zit niet te wachten op een medicijn wat vele malen erger is als de kwaal.

Want wie er wel / niet gebruik van mag maken word natuurlijk steeds verder opgerekt totdat het gewoon een 24/7 controledienst is geworden. Wat dat betreft bieden resultaten uit het verleden wel garanties voor de toekomst.

Het feit dat je tools tot je beschikking hebt, is niet automatisch een argument om ze dan maar te gebruiken.

[Reactie gewijzigd door arbraxas op 25 juli 2024 20:28]

[Omnicron1]

Dan een mooi dillema !
Wie controleerd wie ? Wie ziet er op toe dat ook oom agent , de advocatuur of de rechter niet naast de pot piest ?