Franse toezichthouder: Clearview moet foto's binnen twee maanden weghalen

De Franse toezichthouder CNIL heeft Clearview AI opgedragen te stoppen met het verwerken van foto's van internet van Franse burgers en het bedrijf moet bovendien binnen twee maanden alle foto's van Fransen verwijderen. Anders volgt mogelijk een boete.

CNIL zegt dat Clearview AI door foto's van internet te halen en er gezichtsherkenning op los te laten twee artikelen van de AVG overtreedt. De eerste is het illegaal verwerken van persoonlijke data op grond van artikel 6, de tweede is geen toestemming vragen om de data te verzamelen, een overtreding van artikelen 12, 15 en 17.

CNIL draagt het Amerikaanse bedrijf daarom op om geen beeldmateriaal meer te verzamelen van mensen die op Frans grondgebied verblijven. Ook moet het bedrijf alle data van Fransen gaan verwijderen. Als Clearview AI daar niet aan voldoet, volgt een straf. Dat is bijvoorbeeld een boete. Het bedrijf heeft nog niet gereageerd op de beslissing van de Franse toezichthouder.

Frankrijk is niet het eerste land waar Clearview data moet gaan verwijderen. Australië heeft al datzelfde opgedragen aan het bedrijf. Het Verenigd Koninkrijk wil een boete opleggen.

Met Clearview AI kunnen gebruikers een foto van iemand uploaden, waarna de software uit de meer dan drie miljard personen in de database zoekt welk gezicht er het meest op lijkt en waar het die foto gevonden heeft. Zo kunnen gebruikers op relatief eenvoudige wijze personen identificeren op basis van een foto.

De technologie wordt wereldwijd verkocht aan wethandhavingsinstanties. Clearview AI is al langer controversieel en is onder meer door een Amerikaanse burgerrechtenorganisatie aangeklaagd omdat de software een privacywet van de staat Illinois zou hebben geschonden.

Clearview AI. Bron: CBS News

Reacties (72)

[Zxui]

Ik ben er zo eentje die bezwaar maakt als iemand zomaar in het wild foto's maakt waar ik ongevraagd op kom te staan. Niet omdat ik iets te verbergen heb maar omdat ik dit niet wil en hecht aan mijn privacy. Ik loop dan even naar die persoon uit, zeg dat ik gezien dat er een foto is gemaakt waar ik waarschijnlijk op sta en vraag dan of ze deze direct willen verwijderen en of ze dan even een nieuwe willen maken waar ik niet op sta. De meesten hebben hier geen enkel probleem mee maar af en toe heb je er mensen bij die dit niet snappen. Onlangs werd ik zelfs privacy wappie genoemd, ik zal wel iets te verbergen hebben zeker...

Het was natuurlijk wachten op tools zoals Clearview en het is een kwestie van tijd en men kan al je historisch verzamelde digitale sporen bijeen brengen en een profiel maken. En er zijn zoveel sporen waar je niet eens besef van hebt, bijvoorbeeld het uitlezen van je bluetooth en wifi mac adressen door allerlei apparatuur (Google wifi routers, home speakers, nest deurbellen, android smartphones, etc.).

We moeten niet de lessen uit het verleden vergeten, al zullen ze nu in een modern jasje komen. Een voorbeeld wat ik wel eens gebruik is dat rond 1900 in Nederland het geloof van iedereen in de burgerlijke stand werd geregistreerd. Met het nobele doel dat als je dood gevonden zou worden, dat ze je op de juiste plek konden begraven. Je wil als gereformeerde toch echt niet op een katholieke begraafplaats gelegd worden... En toen kwamen de Duitsers in de 2e wereldoorlog en die wisten hierdoor precies waar ze mensen met joods geloof konden vinden. Bij de introductie van de registratie konden ze niet bedenken dat dit 50 jaar later een enorm gevolg zou krijgen.

Stel nu dat er over 10-20 jaar ineens een andere machtsverhouding komt in Nederland. Welke groep zijn dan ineens de terroristen? Gays? Mensen die geloven in een andere profeet? Mensen die (te) kritisch zijn/waren over Amerika?

Maar waar ik meer moeite mee heb is wat er over een aantal jaar met alle data gedaan kan worden. We denken als mensen dat we onvoorspelbaar zijn. Maar AI zal beter en beter worden en ons gaan proberen te beinvloeden. Voor wat we willen hebben, op wie we gaan stemmen, hoe we ons gedragen. En hoe meer informatie er van ons verzameld wordt, hoe beter dit zal gaan lukken.

Ja, mijn betoog heeft een hoog aluminium hoedjes gehalte. Maar de toekomst zal ons leren wat er uit gaat komen. Ik had al jaren geleden een enorme privacy crisis verwacht maar die is nooit gekomen.

[Travelan]

Ik snap je punt, maar je hebt geen recht op het verwijderen ofzo. Je kan het hoogstens netjes vragen. Foto's maken in de openbare ruimte is toegestaan, óók als daar mensen op staan. Wat je er vervolgens mee doet kan illegaal zijn, maar het maken en hebben van die foto's an sich niet.

[Darkstriker]

Maar dan mag jij met die fotos dus ook niks doen behalve ze zelf bekijken. Zodra je ze deelt, online of offline heb je toestemming nodig van iedereen die er te zien is en dat dat niet gaat gebeuren ligt gewoon voor de hand.

[Reactie gewijzigd door Darkstriker op 23 juli 2024 08:47]

[bassekeNL]

Maar dan mag jij met die fotos dus ook niks doen behalve ze zelf bekijken. Zodra je ze deelt, online of offline heb je toestemming nodig van iedereen die er te zien is en dat dat niet gaat gebeuren ligt gewoon voor de hand.

Dat is domweg niet waar. Toestemming is maar één mogelijke grondslag. Er zijn ook andere grondslagen: https://autoriteitpersoon...ersoonsgegevens-verwerken. Met name onder de laatste, gerechtvaardigd belang, valt ook gegevensverwerking voor journalistieke doeleinden of artistieke uitingsvormen.

In het voorbeeld van een straatfotograaf heeft de fotograaf een gerechtvaardigd belang, namelijk het maken van kunst. De maker van de foto zal een afweging moeten maken, maar deze staat volledig in zijn recht als die afweging in het nadeel van de persoon op de foto uitvalt. Of dat zo is hangt van de foto en de omstandigheden af.

[MSalters]

In het voorbeeld van een straatfotograaf heeft de fotograaf een gerechtvaardigd belang, namelijk het maken van kunst.

En Cambridge Analytics had volgens dezelfde logica ook een "gerechtvaardigd belang". Ook hun core business hing af van het verwerken van persoonsgegevens.

Dat klopt natuurlijk niet. De EU is duidelijk: Dat iets je core business is, maakt het nog geen gerechtvaardig belang. Een nieuwsjournalist die het publiek informeert heeft doorgaans wel een gerechtvaardigd belang, namelijk het informeren van het publiek. Dat is dus een belang wat buiten de nieuwsorganisatie ligt; het is zelfs een publiek belang.

In het algemeen moet je dus voor een "gerechtvaardigd belang" een rechtvaardiging hebben. Die heeft doorgaans het karakter van een afweging: hoe groot is de privacyimpact, en hoeveel staat daar tegenover?

[Bartmanz]

Dat is onjuist. met die redenatie zou bijv. RTL Nieuws geen interview meer mogen doen in een winkelstraat zonder iedereen individueel om toestemming te vragen.

[Bacchus]

Zodra je ze deelt, online of offline heb je toestemming nodig van iedereen die er te zien is [...]

Niet waar: Portretrecht geldt enkel voor publicatie van beelden die in opdracht van de geportretteerde zijn genomen òf waar je herkenbaar op staat èn je een redelijk belang hebt. En een gemiddelde straatfoto hoort daar niet bij.

[fastbikkel]

Lastig he?

Dit heb ik dus ook met kinderen op de school van mn zoon.
Ik doe altijd mn stinkende best om andere kinderen niet zomaar te fotograferen, maar andere ouders hebben er totaal geen moeite mee.
Ik snap dit nooit.
En dan ook die ouders die dan vervolgens deze foto's publiek op FB ofzo zetten, ik gruwel ervan persoonlijk.

Zelf heb ik van mezelf 1 foto op internet staan, op whatsapp, een oude foto uit de jaren 90.
Voor de rest heb ik nooit andere foto's geplaatst van mezelf of anderen.
Ik ben hier ook heel voorzichtig mee, daarom heb ik ook geen profielfoto op mn linkedin, ik wil dit niet.

[PhilipsFan]

Ik ben er zo eentje die bezwaar maakt als iemand zomaar in het wild foto's maakt waar ik ongevraagd op kom te staan. Niet omdat ik iets te verbergen heb maar omdat ik dit niet wil en hecht aan mijn privacy. Ik loop dan even naar die persoon uit, zeg dat ik gezien dat er een foto is gemaakt waar ik waarschijnlijk op sta en vraag dan of ze deze direct willen verwijderen en of ze dan even een nieuwe willen maken waar ik niet op sta. De meesten hebben hier geen enkel probleem mee maar af en toe heb je er mensen bij die dit niet snappen. Onlangs werd ik zelfs privacy wappie genoemd, ik zal wel iets te verbergen hebben zeker...

Toch snap ik die reactie wel. Ik verwijder nooit foto's die ik heb gemaakt. Like, never. Elke foto heeft voor mij waarde. Zeker als ik eindelijk een goede foto heb waar het hele gezin leuk op staat, niet iemand net met z'n ogen knippert en waarbij de compositie en belichting ook goed zijn gelukt.

Als jij me dan komt lastigvallen omdat je toevallig ook op die foto staat, dan kun je van mij echt wel een dikke vinger krijgen. Hoe haal je het in je hoofd, mensen te vragen om foto's te verwijderen. Dat kun je wel doen als het echt een portret van jou alleen is (al was het dan al niet zo heel fatsoenlijk van de fotograaf om die foto überhaupt zonder toestemming te maken). Maar niet als je ergens per ongeluk op staat. Dan heb je gewoon pech gehad.

We moeten niet de lessen uit het verleden vergeten, al zullen ze nu in een modern jasje komen. Een voorbeeld wat ik wel eens gebruik is dat rond 1900 in Nederland het geloof van iedereen in de burgerlijke stand werd geregistreerd. Met het nobele doel dat als je dood gevonden zou worden, dat ze je op de juiste plek konden begraven. Je wil als gereformeerde toch echt niet op een katholieke begraafplaats gelegd worden... En toen kwamen de Duitsers in de 2e wereldoorlog en die wisten hierdoor precies waar ze mensen met joods geloof konden vinden. Bij de introductie van de registratie konden ze niet bedenken dat dit 50 jaar later een enorm gevolg zou krijgen.

Maar dat was een officiële registratie. Een foto waar jij per ongeluk op staat is dat niet. Er bestaat zelfs geen duidelijke link tussen jou en de foto. Uit de foto blijkt niet rechtstreeks je identiteit, het kan bijvoorbeeld ook iemand zijn die op je lijkt. Dus of dat in dit geval zo'n goede vergelijking is?

[Reactie gewijzigd door PhilipsFan op 23 juli 2024 08:47]

[Boy]

Maar in de foto staat wel locatie + tijd vermeld. Met AI/ML kunnen foto's op FB en zo wel gescand worden en kan je in principe getracked worden (en zal ook wel gebeuren, FB kennende).

Ik vind het te ver gaan om te vragen of ze een nieuwe foto te laten nemen en deze foto te verwijderen, maar om het zomaar weg te wuiven vind ik ook niet ok

[bassekeNL]

@PhilipsFan wuift het toch niet zomaar weg? Hij maakt een duidelijke afweging en stelt zijn eigen belang voor dat van @Zxui. En dat mag.

[Chielllie]

Jij mag die foto waar ik op sta ook wel houden. Je mag hem alleen niet publiceren.
Een ander verhaal wordt het als je een bepaald zwaarwegend belang hebt zoals wanneer een nieuwszender bij een nieuwsgebeurtenis filmt en jij daar toevallig bij aanwezig bent.
Overigens kun je de fotograaf altijd vragen die foto weg te gooien. En als je uitdrukkelijk aangeeft niet geopenbaard te willen worden zal daar gehoor aan moeten worden geven tenzij jij dus een 'groter' belang hebt. Uiteindelijk zal de rechter uit moeten maken wiens belang zwaarder weegt en bepalen of er schadevergoeding toegekend zal worden.

[smiba]

Als iemand die graag architectuur en landschappen fotografeert maak ik dit nog wel eens mee, ik wil juist niemand op mijn foto's hebben.

Toch heb je mensen die helemaal naar me toe lopen om me te komen vertellen dat ze er écht niet op willen staan hoor
Nee ik wil je er ook niet op hebben, ga uit mijn beeld

[lenwar]

Ja, mijn betoog heeft een hoog aluminium hoedjes gehalte. Maar de toekomst zal ons leren wat er uit gaat komen. Ik had al jaren geleden een enorme privacy crisis verwacht maar die is nooit gekomen.

Dat valt in de praktijk alles mee. De Nederlandse Overheid vond het ooit een goed idee om centraal in de gemeentehuizen te registreren wie 'lid van welke kerk' was. Daar was de Duitse bezetter erg blij mee, want er waren mooie lijsten van mensen die ingeschreven waren bij welke Synagoge.

Dit gezegd hebbende. Ik zou oprecht niet weten op welke grondslag die registratie toen een goed idee was. Voor hetzelfde geld was er een hele legitieme reden om het te registreren alleen dat dat achteraf dus helemaal mis is gelopen.

Het alsmaar registreren en correleren van data van individuen voor bepaalde doeleinden kan wel degelijk in de toekomst gevaarlijk zijn. Ik gebruik zelf ook altijd dit argument als mensen inderdaad roepen 'Van mij mogen ze (Google/Facebook/Apple/whatever) alles weten. Ik heb niks te verbergen', wat binnen redelijkheid natuurlijk ook klopt in het huidige politieke landschap (want dan snappen we best wat men bedoeld, en dat ze niet hun pincode gaan afgeven aan de eerste de beste persoon die ze tegenkomen, of tegen bij de bakker melden wat hun favo standje is), maar dat kan natuurlijk over 20 jaar compleet anders zijn, en dan kan al die data heel erg tegen je of je kinderen gebruikt worden.

[jonasb]

Je moet zo ver niet gaan. De Rwandese genocide was mogelijk om dat op het paspoort stond tot wel stam (ze ooit) behoorden. Ook al waren al generaties gemengde huwelijken.

[himlims_]

blijf het moreel verwerpelijk vinden, andere kant; men flikkert zelf die foto's online [..]

//edit; begrijp dat niet volgens boekje is - nu ligt commercieel bedrijf x onder vergrootglas. Maar denk men nu werkelijk dat er 'neits' met jouw profiel foto gebeurd? Wat denk je dat inlichten met die data doen? Is wel heel nuttig - maar het mag niet, dus gaan we het niet gebruiken ?!

[Reactie gewijzigd door himlims_ op 23 juli 2024 08:47]

[TD-er]

Wie zegt dat alle foto's die op Facebook staan met toestemming zijn geplaatst?
Ik heb bijvoorbeeld geen Facebook en zal mij er altijd voor hardmaken dat ik niets met dat bedrijf te maken wil hebben.
Echter dit is geen garantie dat er geen foto's van mij online verschijnen op dat platform.

Dus niet alleen Facebook verdient geld aan het profiel wat ze ongetwijfeld van mij hebben (alleen zit er geen inlog aan gekoppeld), maar ook dit soort bedrijven verdient geld aan profielen waarvoor anderen zich ongewild en ongevraagd moeten inzetten om het niet online te hebben staan.

Dit soort bedrijven (zowel Facebook als Clearview) zou onomstotelijk moeten kunnen laten zien dat de profielen in hun database met explicite toestemming opgenomen zijn.
Echter dat ondermijnt hun hele businessmodel, dus dat gaan ze nooit doen.
Dus in die zin chapeau voor deze Franse toezichthouder en laten vele toezichthouders volgen.

[Tintel]

Behalve dat er dus geen boete volgt als ze dus gehoor geven aan het 'bevel'. Maar dat klopt niet vind ik. Het is duidelijk een overtreding dus boete plus weghalen is de juiste response.

Maar ja - het werd / wordt verkocht aan wetshandhavers dus dan zijn de regels anders...handhaving is klaarblijkelijk dus ook gewoon stoppen met de illegale acties zonder verdere consequenties. Dat is op zich handhaving - maar helpt slecht tegen voorkomen.

Maar bij privacy-schending geldt heel vaak: ales het eenmal geschonden is dan is dat niet meer ongedaan te maken. Ongeveer hetzelfde als bij geweldsmisdrijven. Daar lost de straf (gevangenisstraf en eventueel boete) ook de ellende zelf niet op maar wordt wel sterk ingezet op voorkomen van herhaling (al dan niet door TBS o.i.d.)
Maar bedrijven die privacy schenden worden bijzonder mild behandeld ondanks dat het vaak een onomkeerbare actie betreft.

[Reactie gewijzigd door Tintel op 23 juli 2024 08:47]

[MSalters]

Het klopt inderdaad dat de regels voor wetshandhavers anders zijn dan die voor bedrijven. Het toezicht op bedrijven is een EU competentie, het toezien op wetshandhavers is een nationale competentie. De EU kán niet eens regels voor het laatste maken.

[SmokingSig]

men flikkert zelf die foto's online [..]

Neen. Ik kan een foto van jou ook het internet opzwieren

[T.C]

In theorie moet jij dan schriftelijke toestemming hebben om die foto überhaupt op internet te mogen zwieren, of mogelijk zelfs te bezitten.

[MSalters]

Onzin en grote onzin.

Schriftelijke toestemming is maar zelden vereist. Een voorbeeld waar het vereist is, is euthenasie. Dit is dan altijd bij wet geregeld. Voor het portretrecht is er geen wet die vereist dat de toestemming schriftelijk is.

Het bezitten van foto's is simpelweg niet wettelijk geregeld, dus toestemming is dan uberhaupt niet aan de orde.

[Alxndr]

Nee, zo werkt het natuurlijk niet.

Geen zin in eindeloze discussies of details, maar het lijkt me om te beginnen natuurlijk al een groot verschil of er een foto van jou specifiek gemaakt wordt, of dat je toevallig (op de achtergrond) op een foto van iemand anders staat.

[Darkstriker]

Dat doet er dus totaal niet toe. Je mand beelden van derden niet zonder toestemming delen. Geen maar of als komt eraan te pas. Dat we dat in de praktijk alsnog allemaal zo nu en dan doen is een tweede maar als die persoon er ooit achterkomt kunnen ze verwijdering en schadevergoeding eisen.

[Bacchus]

Onzin: Als privépersoon mag je beelden vastleggen van alles dat je legaal met je eigen ogen ziet. En enkel een geportretteerde die een redelijk belang hebt, kan publicatie tegenhouden.

[Cyb]

men flikkert zelf die foto's online

Veel foto's komen online omdat je toevallig op de achtergrond staat, of omdat je niet verwacht dat het online komt. Bijvoorbeeld een bedrijfsfeestje of een normaal feestje, waar je toevallig op staat, en de fotograaf het in een onafgeschermd deel van het Internet plaatst, of iemand een collega het op zijn/haar openbare sociale media account zet.
Of je bent als toerist ergens op een populaire locatie, dan ontkom je er haast niet aan om ergens op een foto te belanden.

Je hebt in deze huidige tijd al lang niet meer de keuze of je wel/niet online komt met je gezicht. Die keuze wordt door anderen gemaakt, en vaak ken je ze niet eens.

[Hans C]

Dat is voor een deel waar, maar voor een belangrijker deel niet. Je moet eens bedenken wat er gebeurt als ik een foto van mezelf bij de Eiffeltoren online zet. Hoeveel mensen er nog meer op mijn foto staan.

edit: typo

[Reactie gewijzigd door Hans C op 23 juli 2024 08:47]

[CamelKnight]

Het feit dat ik mijn foto's op facebook of whatever gooi om te delen met mijn vrienden betekent nog niet dat ik een bedrijf waar ik niks mee te maken heb, toestemming geef om mijn foto's te verwerken zodat mensen die ik niet ken mij kunnen herkennen en identificeren.
Het is niet alleen moreel verwerpelijk, het is ronduit illegaal en zou ook in NL strafrechtelijk vervolgd moeten worden.

[T-men]

Dat wordt anders wanneer clearview een leuk contractje met Facebook afsluit. Jij hebt Facebook toestemming gegeven dat ze foto's met anderen mogen delen.
En dat Facebook een pot geld graag ruilt voor inzicht in hun data, dat hebben ze vaak genoeg bewezen...

En dat is nou net het grote probleem van die big-data bedrijven.

[Xeon_1]

jij hebt aan facebook toestemming gegeven om alles wat jij post te hergebruiken / verkopen / verspreiden.

Dus stop met melken van mijn privacy / privacy van mijn vrienden wordt geschonden.

Jij hebt ze toestemming gegeven dus jij bent verantwoordelijk voor de gevolgen als er problemen zijn.

Zelfde bij auto's je gaat toch niet de fabrikant aanklagen als jij beslist van iemand aan te rijden of te snel te rijden.

[TheHeavySoldier]

Dus als ik op een feestje kom, en er worden fotos gemaakt (waar ik op dat moment niet op de hoogte van ben) en die komen op Facebook dan moet ik stoppen met het melken van mijn privacy?

Ga weg man.
Dan hebben zij helemaal niks met mij te maken.

[vivoergocogito]

Ik heb geen FB maar er zijn wel door anderen met FB foto's van mij op hun account gepost, iets waar ik geen toestemming voor heb gegeven. Deze mensen hebben wel na mijn verzoek die foto's van hun account verwijderd, maar als ik jou zo lees dan zou FB het recht hebben om mijn portretrecht te schenden want het is gepost geweest op FB.

[telenut]

Zo zijn er ook mensen die toestemming geven om hun kinderen te misbruiken...
Het is niet omdat je ergens toestemming hebt gegeven ( al dan niet bewust) dat wat men doet dan ook legaal is en niet zonder straf kan gebeuren. Of dat je daar zelf verantwoordelijk voor bent.

[michielRB]

Ik denk dat ik het met je eens ben, maar je post is vrijwel onleesbaar. (vandaar de 'ik denk')

[svenM]

Dat geldt inderdaad voor de mensen die effectief de toestemming hebben gegeven. Wat met bijvoorbeeld foto's met meerdere mensen waarbij er zijn die die toestemming niet hebben gegeven? Of het lezen van hele adresboeken zodat ze telefoongegevens hebben van mensen die die toestemming niet gegeven hebben?

[pim]

Als je ze met vrienden deelt kan Clearview er niet bij.
Je hebt zelf de keuze gemaakt om je foto's publiekelijk voor iedereen/vreemden toegankelijk te maken op Facebook.

[T.C]

Je hebt gelijk dat het posten op Facebook o.i.d. niet betekent dat een ander bedrijf dit zomaar zonder toestemming mag gebruiken.
Die toestemming mag alleen gegeven worden door de rechthebbende en helaas heb je bij het aangaan van de overeenkomst met Facebook de rechten op nog door jouw te publiceren content verkocht.

Echter is het zo dat de foto's naar Clearview AI worden geüpload.
Vervolgens zoekt Clearview AI in openbare bronnen naar foto's waar die persoon het meeste op lijkt.
De upload van de foto voor dat doel houdt impliciet toestemming in, deze wordt echter gegeven door iemand die deze toestemming helemaal niet mag geven.
En dat maakt het lastig.

Dat het moreel verwerpelijk is, dat ben ik met je eens en dat het waarschijnlijk illegaal is ook.
Wel moet je bedenken dat wanneer op die foto's die je op Facebook zet iemand anders dan jij staat, je daar ook schriftelijk toestemming voor moet hebben.
Heb je die niet, maakt dat het eigenlijk ook moreel verwerpelijk en illegaal.

Snap je waar ik naartoe wil?

[bigbadbull]

blijf het moreel verwerpelijk vinden, andere kant; men flikkert zelf die foto's online [..]

Tegen mijn zin staan er ook foto's van mij online.
Die heb ik er zelf niet op gezet, altijd een grote tegenstander geweest van Facebook en andere Asociale media.
Helaas zonder mezelf nog meer vrij te geven ( aan facebook & Co) kan ik daar weinig aan doen.

[LOTG]

Ja dat valt tegen ik zet niets online. Andere, inclusief mijn werkgever, doen dat wel.

Ik blijf erbij, expliciet toestemming vragen gewoon verplichten. Ik ben niet de uploader, dus ik geef geen toestemming.

[Frogmen]

Bedenk wel dat ook foto's die in de openbare ruimte zijn gemaakt en waar jij toevallig op staat worden gescraped. Vervolgens kan jij hieraan gekoppeld worden. Daarom is dit moreel en hopelijk ook snel juridisch verwerpelijk. Dit zijn hele enge bedrijven, snap best dat inlichtingen diensten dit makkelijk vinden maar dat is geen reden voor gebruik.

[downtime]

Het probleem is dat je niet altijd kunt voorzien wat er met die informatie gebeurt. Wie staat er bij stil welke systemen er allemaal aan elkaar gekoppeld kunnen worden? We zijn langzamerhand zover dat gezichtsherkenning in staat is om een gezicht op een surveillancecamera te koppelen aan een Facebook of LinkedIn profiel (en een heleboel andere profielen) zodat elke winkelier met naam en toenaam weet wie er door (en langs) zijn winkel lopen. Tenzij de wet daar een stokje voor steekt.

[kodak]

Zowel je uitgangspunt ze plaatsen het zelf online als een ander doet het ook zijn onredelijk.

Dat een ander ook maling aan de wet heeft maakt nog niet dat de wet dus maar genegeerd kan worden. En zelfs als veel anderen dat doen, dan pas je eerst de wet democratisch aan. Alleen is de wet na vele overtredinge in de afgelopen jaren aangepast: het is keer op keer besloten dat we dit soort overtredingen niet alleen niet acceptabel vinden maar zelfs strafbaar.

Je argument van zelf online zetten gaat lang niet altijd op. Veel mensen zetten ook beelden van anderen online binnen de voorwaarden dat ze niet zomaar overal voor bedoeld zijn. Zowel via voorwaarden uit die online services als de wet. Het is te makkelijk om dat te negeren om te doen alsof het aan de plaatsers of zelfs de mensen die op afbeeldingen staan zelf ligt. En dat is precies waarom die wetgeving ook strenger geworden is: dat een bedrijf iets wil is niet zomaar af te schuiven op anderen.

[lenwar]

(Disclaimer: Onderstaande staat volledig los van wat ik effectief vind van wat Clearview doet)

CNIL draagt het Amerikaanse bedrijf daarom op om geen beeldmateriaal meer te verzamelen van mensen die op Frans grondgebied verblijven. Ook moet het bedrijf alle data van Fransen gaan verwijderen.

Even een oprechte vraag:

Dat tweede stuk. Kan de Franse overheid dat effectief eisen? Althans. Ze kunnen het wel eisen (dat ik natuurlijk ook ), maar heeft het effectief een grondslag dat ze er ook echt iets mee kunnen?
Ik kan me voorstellen dat zij een eis kunnen leggen voor personen op 'Frans grondgebied', misschien zelfs 'EU grondgebied', maar ze hebben toch niets te zeggen over data van Franse staatsburgers in laten we zeggen Brazilië of Mongolië? En dan in de vorm dat zij daar een commerciële partij een boete voor kunnen geven.

[MSalters]

ze (de Franse overheid) hebben toch niets te zeggen over data van Franse staatsburgers in laten we zeggen Brazilië of Mongolië?

Jawel. Sterker nog, de Fransen mogen zelfs een bedrijf vervolgen wegens het illegaal verwerken van de data van Belgen. De EU claimt wereldwijde rechtsmacht over de data van alle EU burgers, en elke bevoegde EU handhaver mag die rechtsmacht uitoefenen.

[lenwar]

Heb je daar wat interessant leesvoer over? (uit oprechte interesse)

Ik ben me er van bewust, dat ieder bedrijf dat ergens binnen de EU handelt, of zich 'richt op de Europese markt', zich aan de EU-regels moet houden. Dus onafhankelijk van waar je je hoofdkantoor hebt staan, en onafhankelijk van of je een registratie welke aard dan ook (fysiek kantoor, website/app gericht aan een EU-land, enz.) in de EU hebt. Dat is logisch.

Maar stel ik in Argentinië een bedrijf heb, en ik registreer zaken over EU-burgers binnen Argentinië, met als doel daar binnen Argentinië iets mee te doen, daar heeft de EU toch geen zeggenschap over? En zo ja, op grond waarvan dan? Ik heb als bedrijf alleen maar te maken met de wetgever van het land waar ik actief ben en eventueel de landen waar ik me naartoe richt.

Ik denk dat Artikel 3.2 van de AVG hier van toepassing is.
https://www.privacy-regulation.eu/nl/3.htm

De richtsnoeren van de EU worden hierin uitgekauwd:
https://edpb.europa.eu/si..._territorial_scope_nl.pdf

Waar ik op doel zijn onderstaande voorbeelden van de richtsnoeren:
In voorbeeld 10 hebben ze het over een Amerikaans bedrijf, dat zich richt op Amerikanen die naar de EU gaan.
Voorbeeld 11 en 12 gaan over Canada en Taiwan, waar EU-burgers zijn, maar waar de operatie van het bedrijf en de verwerking van persoonsgegevens alleen van toepassing is op de relevante landen (niet EU-landen in dit geval).

In alle drie die gevallen is de AVG niet van toepassing aldus Europa.
[quote]
Het EDPB wil ook benadrukken dat enkel het feit dat er persoonsgegevens van een persoon in de Unie
worden verwerkt, niet voldoende is om ervoor te zorgen dat de AVG van toepassing is op de
verwerkingsactiviteiten van een niet in de Unie gevestigde verwerkingsverantwoordelijke of
verwerker. Het element van gerichtheid op personen in de EU, door goederen of diensten aan hen aan
te bieden dan wel door hun gedrag te monitoren (zoals hieronder verder wordt toegelicht), moet
daarvoor ook altijd aanwezig zijn.

Voorbeeld 10: Een burger van de VS reist tijdens zijn vakantie door Europa. In Europa downloadt en
gebruikt hij een nieuwsapp die door een Amerikaans bedrijf wordt aangeboden. De app is uitsluitend
gericht op de markt in de VS, zoals blijkt uit de gebruiksvoorwaarden van de app en het feit dat er
alleen met Amerikaanse dollars kan worden betaald. De verzameling van persoonsgegevens van
Amerikaanse toeristen door het Amerikaanse bedrijf via de app valt niet onder de AVG.

Daarnaast moet worden opgemerkt dat de verwerking van persoonsgegevens van burgers of inwoners
van de EU in een derde land er niet voor zorgt dat de AVG van toepassing is, zolang de verwerking geen
verband houdt met een specifiek aanbod dat is gericht op personen in de EU, of met de monitoring
van hun gedrag in de Unie.

Voorbeeld 11: Een bank in Taiwan heeft klanten die in Taiwan verblijven, maar de Duitse nationaliteit
hebben. De bank is uitsluitend actief in Taiwan; haar activiteiten zijn niet gericht op de EU-markt. De
verwerking van de persoonsgegevens van de Duitse klanten door deze bank valt niet onder de AVG.

Voorbeeld 12: De Canadese immigratieautoriteit verwerkt persoonsgegevens van EU-burgers die zich
op het grondgebied van Canada begeven, in verband met de beoordeling van hun visumaanvraag. Deze
verwerking valt niet onder de AVG.

[downtime]

Nee, volgens mij kunnen de Fransen daar weinig aan doen, maar ze kunnen het Clearview wel onmogelijk maken om zaken in Frankrijk te doen. En waarom zou Clearview Franse data verzamelen als ze het niet in Frankrijk kunnen verkopen? Buiten Frankrijk zal men er niet veel voor geven.

[lenwar]

Dat is natuurlijk een tweede.
Maar ik kan me voorstellen dat het een heel gedoe kan zijn, om Franse staatsburgers wonend in land xyz weg te filteren, zeker als die personen ook een tweede nationaliteit hebben.

Als de lokale data-afnemer wil weten hoeveel Fransen er in een bepaalde wijk wonen, of dat ze specifiek Franse mensen wonend in land/provincie/gewest xyz willen benaderen op basis van die data kan dat natuurlijk zinvol zijn. (ik noem maar een zijstraat natuurlijk. Los van hoe reëel dat is)

[JDVB]

En wanneer volgt Nederland het voorbeeld van Frankrijk?

De vraag is dan alleen hoeveel dit protest zal helpen. Geheime diensten zullen dit soort dingen vast wel gaan doen, of waarschijnlijk, al veel langer doen.

[Cyb]

Bedrijven als Clearview AI bevinden zich trouwens ook gewoon in Nederland. Waar Clearview AI bedoeld is voor politie- en veiligheidsdiensten, zijn er ook bedrijven die het aan iedereen aanbieden.

[Mr777]

Nederland + protesteren.... pffff, maak me wakker als dat ooit gebeurt.

[ronansoleste]

Dat gebeurt regelmatig. Kijk maar eens op nos.nl.

Edit: of lees dit https://www.trouw.nl/binn...er-de-straat-op~b397c93b/

[Reactie gewijzigd door ronansoleste op 23 juli 2024 08:47]

[Alxndr]

Nederlanders die protesteren of Nederland (als land) dat protesteert, nogal groot verschil

[kodak]

Of het gaat helpen hangt af wat je daarmee zou bedoelen en wat de wet stelt. Er is wettelijk geen harde verplichting dat anderen hoe dan ook je beelden niet zouden mogen verwerken. Het zou anders al snel heel moeilijk kunnen worden om nog fotos te kunnen maken of delen. Dus gaat het om de grenzen wanneer dat verwerken wel mag. En die is dat er vooraf duidelijk gemaakt moet zijn hoe die verwerking wel redelijk is. Wat dit dus oplost is dat andere bedrijven niet zomaar kunnen negeren dat vooral de eigen belangen voorop stellen grote gevolgen kan hebben.

[djack]

Snap niet waarom we dit dan niet Europees aanpakken. Elke lidstaat gaat nu weer solo slim optreden....

[carthorian]

waarschijnlijk omdat de de uitvoerende takken uit verschillende EU landen de technologie willen gebruiken?

[tweaknico]

Nederlandse Politie heeft Clearview AI al gebruikt (zie Bit of Freedom voor meer info).
De verantwoordelijke minister kan de Ouvre prijs dit jaar ophalen bij BoF.

[YangWenli]

Dat is Nederland hé, schande spreken over de aantasting van privacy maar aan de achterkant zijn we al behoorlijk Chinees.

[downtime]

Dat maakt helemaal niet uit. Het is prima mogelijk om de politie toe te staan om deze technologie te gebruiken en dat aan bedrijven te verbieden. Ik zit er niet mee dat de politie mij op een surveillancecamera kan identificeren.
Maar ik wil niet dat de lokale AH of Hema dat ook kan. Ik zie het al gebeuren, loop ik op m'n gemakje langs een etalage, krijg ik meteen een bericht op m'n telefoon: "He, we zien jou net langs onze winkel lopen, waarom loop je niet even binnen om ons vernieuwde assortiment te bekijken? Je bent alweer een tijdje niet geweest."

[Alxndr]

Als het idd een overtreding van AVG/GDPR is, geldt dit automatisch voor de hele EU omdat dat namelijk EU wet/regelgeving is. Hoe het dan met handhaving/boetes gaat...?

[junkchaser]

Europa zou zich beter hier in mengen en dit voor alle Europeanen verbieden!

[R4gnax]

Europa zou zich beter hier in mengen en dit voor alle Europeanen verbieden!

Daar heeft de EU zich al in gemengd. De intentie is vziw om alle toepassingen van automatische gezichtsherkenning waar er geen sprake is van expliciete toestemming of van zwaarwegende belangen zoals beveiliging van de publieke ruimte, verboden te maken.

[junkchaser]

Dan staat Frankrijk voor op de EU op dat vlak ;-)

[puresurvailance]

Die twee maanden tijd lijken mij voldoende om met de hele te verwijderen dataset de AI te trainen als dit al niet gedaan is.

Maak je vervolgens gebruik van deze dienst blijkt de hit-rate bijzonder hoog te wezen bij Franse koppen.

[familyman]

Het lijkt me grappig als ze eerst een AI model gaan trainen om de Fransen eruit te vissen. En dan om te sarren als naam van een Franse kop te zeggen 'Nous ne le savons pas' in plaats van de herkende foto/naam.

Dan weten de andere inlichtingdiensten in ieder geval wie ze moeten bellen...

[Alxndr]

Het artikel is niet helemaal duidelijk of het nu puur "Fransen" gaat of "mensen die op Frans grondgebied verblijven" (afgezien dat de AVG in de hele EU geldt).

Ben trouwens wel benieuwd hoe een AI Fransen op basis van foto's zou moeten herkennen?

[familyman]

Volgens mij beiden. Het mag niet op frans grondgebied en het mag niet met Fransen.

Dat maakt die uitspraak ook zo grappig.

Misschien krijgen we binnenkort wel een hele hoop captchas, met wijs de vier fransen aan....

Of voor die overheden, die gebruik maken hiervan, de verplichting voor fransen om bij inreizen een franse baret te dragen...

[Alxndr]

Trainen van de AI is leuk, maar om die daarna dan te gebruiken moet je er alsnog weer foto's in stoppen om te analyseren. Het verkrijgen en gebruik van die foto's valt dan alsnog weer onder dezelfde AVG...

[dollyking]

nu is het clear view, die data moet weghalen, maar er zijn vast ook wel andere bedrijven die data verzamelen. wat te denken van je stem bijvoorbeeld. je hoort het wel eens: "dit gesprek kan worden opgenomen voor trainingsdoeleinden"
deze data is voor AI ook zeer waardevol, naast woorden leren, kan AI ook patronen herkennen of iemand ziek is, de waarheid spreekt, het geslacht en de leeftijd.
wat dat betreft is het vullen van AI datasets nogal vaak dubieus en niet altijd zuiver.

[kodak]

Ik mis een eis dat het bedrijf moet aantonen hoe ze kiezen welke afbeeldingen weg moeten en welke kunnen blijven. Het lijkt me practisch onmogelijk en onredelijk om dat aan alle personen te vragen, net te doen alsof er op afbeeldingen een persoon staat omdat de foto uit een regio kon worden gedownload of omdat er in een bepaalde taal iet op of bij stond.
Aangezien het niet in het belang van het bedrijf lijkt om alles dan maar weg te doen kan verwacht worden dat ze de keuze niet zomaar redelijk maken bij de eis. Ook al niet omdat de conclussie als was dat het bedrijf te weinig heeft gedaan om met de rechten van de personen rekening te houden.