Italiaanse toezichthouder geeft Clearview AI boete van 20 miljoen euro

De Italiaanse privacytoezichthouder GPDP heeft Clearview AI woensdag een boete opgelegd van 20 miljoen euro. De GPDP heeft vastgesteld dat het Amerikaanse bedrijf 'onrechtmatig biometrische gegevens verzamelt van Italiaanse burgers'.

Met Clearview AI kunnen gebruikers een foto van iemand uploaden, waarna de software uit de meer dan drie miljard personen in de database zoekt welk gezicht er het meest op lijkt. De database wordt door het bedrijf achter de software aangevuld door onder meer websites en sociale media te scrapen.

Het onderzoek van de GPDP begon nadat het klachten en waarschuwingen had gekregen over de gezichtsherkenningssoftware. Uit het onderzoek blijkt dat Clearview AI 'biometrische gegevens van Italianen verwerkt zonder een passende wettelijke grondslag'. Daarnaast heeft het Amerikaanse bedrijf de AVG overtreden, door onder andere gebruikers onvoldoende te informeren over hoe hun persoonsgegevens worden verwerkt en gebruikt, zegt de GPDP.

Naast het betalen van de opgelegde boete van 20 miljoen euro moet Clearview AI de foto's van alle Italianen wissen. Het verdere verzamelen van gegevens en foto's door het bedrijf is tevens verboden. Tot slot moet Clearview AI een vertegenwoordiger in de Europese Unie aanstellen, die naast of in plaats van de hoofdvestiging in de VS aangesproken kan worden op de verwerking van Italiaanse persoonsgegevens.

Het is niet de eerste keer dat een Europese privacywaakhond Clearview AI op de vingers tikt. De Britse privacytoezichthouder ICO heeft Clearview AI vorig jaar ook een boete van 20 miljoen euro opgelegd. Afgelopen december droeg de Franse privacywaakhond het Amerikaanse bedrijf op om te stoppen met het verwerken van foto's van internet van Franse burgers. Bovendien moest Clearview AI binnen twee maanden alle foto's van Fransen verwijderen.

Reacties (44)

Goed dat hier tegen opgetreden wordt, Facial Recognition AI is toch echt wel een van de engste dingen die we hebben qua AI.

en dat gaat nog veel erger worden. kijk naar china en ook london als voorbeeld.

Wat is er in Londen?

Een KI die veel erger is?
Ben nu ook wel benieuwd..

Daar wordt gezichtsherkenning door de Metropolitan Police bijna overal gebruikt in camera's in de stad en het openbaar vervoer.
https://www.met.police.uk...ion/fr/facial-recognition

@RoestVrijStaal @surfin
ze kunnen gezichten volgen in de binnenstad van bv londen. In china is het helemaal erg.
als je daar aan koppelt dat ze precies in kaart kunnen brengen met wie je contact hebt tot op zelfs een like toe en je gsm kunnen volgen en relaties kunnen leggen tussen mobieltjes en locatie.


interessante video

China is natuurlijk helemaal buitencategorie wat het volgen van mensen betreft.

het is mogelijk een blik in de toekomst. immers veel zaken kunnen aan de hanger " in maatschappelijk belang" of veiligheid worden opgehangen. je moet er wel rekening mee houden dat zoals we vandaag leven anders is dan toen ik opgroeide in de jaren 80 en 90.

In China hangen de camera's voor gezichtsherkenning ook bij oversteekplaatsen. Als je door het rode licht loopt bij een oversteekplaats krijg je gewoon een boete thuisgestuurd. Ik vind dat een enge ontwikkeling.

In China hangen de camera's voor gezichtsherkenning ook bij oversteekplaatsen. Als je door het rode licht loopt bij een oversteekplaats krijg je gewoon een boete thuisgestuurd. Ik vind dat een enge ontwikkeling.

Sorry maar op het moment van schrijven is dit gewoon onjuist.

Er is 1 kruispunt in Shenzhen waar mensen die door rood lopen op een groot beeldscherm gezet worden.
Van gezichts- herkenning is hier geen sprake. wat je zegt is is ook gewoon technisch nog niet mogelijk. verdiep je in de techniek.

Van gezichts- herkenning is hier geen sprake. wat je zegt is is ook gewoon technisch nog niet mogelijk. verdiep je in de techniek.

Ik verzin het niet hoor. https://outride.rs/en/chi...tion-to-catch-jaywalkers/

Thanks to facial recognition Chinese traffic police know who the offender is and can contact him. They give them three choices: a fine of 20 yuan (2.5 euros), a half-hour traffic rules course, or assisting the police in controlling traffic for 20 minutes.

[...]

Ik verzin het niet hoor. https://outride.rs/en/chi...tion-to-catch-jaywalkers/

[...]

Nee dat doen journalisten die sensationele artikelen moeten schrijven voor clicks.
Ergo: het Fabriceren van nieuws wat heden een heel groot probleem is.

Chinese traffic police have installed cameras with 7 million pixels of resolution

Klinkt heel indrukwekkend. maar in praktijk zijn dit camera's afgekeurde 4k sensors .

The pictures are then compared with the police department database, and within 20 minutes

dat doen ze met de Han(d) ja.

the portrait’s offender and personal details such as the family name, the ID number or the address are displayed on the screen.

Ok heeft iemand hier misschien een foto van ?
lijkt me als dit zo prominent aanwezig is dat hier bergen foto's van te vinden zijn.
lijkt me ook wel leuk als toerist om met mijn gezicht op een groot scherm te staan.

Dit hele systeem is vergelijkbaar met het systeem bij de wildwaterbaan in Walibi.

Voor het echte sociaal krediet systeem moet je bij de Nederlandse Belastingdienst zijn die jaren lang structureel mensen heeft lopen profileren op basis van naam, afkomst en uiterlijk.
Honderdduizenden mensen gedupeerd levens verwoest.
Maar nog geen ambtenaar achter de tralies.

[Reactie gewijzigd door Firestormer op 10 maart 2022 14:54]

We weten wel wie uw huur betaald. Ni hao.

Wie zijn wij, als ik vragen mag?

[Reactie gewijzigd door Elefant op 10 maart 2022 10:32]

Ik kan geen bron vinden van je uitspraak over Omtzigt. Niet in de media, niet op Twitter. Wat is je bron?

En 'wakker worden' is wel het complotcliché van deze tijd.

@Elefant zijn bron is zijn chinese overheersers.

Google & Co. volgen je met alles wat je online doet. Alles wat je offline doet, zonder mobiele apparatuur in de buurt, kan niet door ze worden gevolgd. Met camera's in de stad kan juist dat worden gevolgd.

Tegen online volgen kun je jezelf nog een beetje wapenen met wat extra plugins, software of instellingen. Het volgen op straat kun je niet uitzetten.

Dan ben je blind. Ooit eens van de BAT bedrijven gehoord in China en wat die allemaal doen en verzamelen voor de Chinese overheid?

Omdat het in China gaat over een overheid die zijn burgers volgt en niet over bedrijven.

In China wordt je ook op internet gevolgd (zowel door Google als door de staat). In steden hangen overal camera's met gezichtsherkenning. Dat kan zelfs tot aan de voordeur toe gaan. Dat is allemaal van staatswege.
In een aantal steden is er ook een sociaal punten-systeem aan het systeem gekoppeld. Wie niet sociaal genoeg is kan het meemaken dat hij/zij/het geen treinkaartje meer kan kopen. Zeker in de regio's waar de Oeigoeren (of andere "minderheden") wonen is dat systeem erg actief, net als in havensteden en in regio's waar de grote fabrieken staan.
Ik weet niet of jij je lekker voelt wanneer je weet dat je continu door de staat gevolgd wordt, maar ik zie dat als een schrikbeeld. Lees 1984 van George Orwell en dan begrijp je wat een surveillance maatschappij in houdt. China zit daar niet heel veel vandaan.

Ik probeer China helemaal niet zwart te maken. Ik geef alleen aan hoe ver camerabewaking in China gaat. Dat het systeem bestaat wordt vanuit China niet ontkent, In jouw lange quote wordt dat ook bevestigd:

Het betekent ook niet dat China's bredere bewakingsapparaat een mythe is - integendeel

China zwart maken is dus puur jouw idee.

De sociale scores worden wel degelijk gebruikt. Het verschil zit in de definitie van straffen. Als je niet te sterk negatief staat verdien je extra vrijheden. Dat kan het recht zijn om kaartjes te kopen voor (verre) treinreizen, maar ook voor bioscoop en theater bezoek. Als je het zo draait zijn er inderdaad geen straffen aan een slechte sociale score verbonden.

In regio's waar de Oeigoeren wonen heeft de politie ook het recht om je op straat aan te houden en je een aantal vragen in een app te laten beantwoorden. Ben je geregistreerd als Oeigoer krijg je alvast een aantal minpunten. Heb je dan te veel minpunten, dan kan je ter plekke opgepakt worden en naar een "heropvoedingskamp" gestuurd worden. Die heropvoedingskampen bestaan volgens China niet... .

Als jij het cameratoezicht met een systeem van sociale ratings niet beangstigend vindt, dan is dat OK. Voor mij (en vele anderen) is dat een schrikbeeld.

Jij noemt mijn mening negatief. China ontkent hun surveillance maatschappij niet, zelfs niet dat men het "corrigerend" gebruikt. De Oeigoeren kunnen (deels) aan hun negatieve rating ontkomen als ze de Oeigoerse cultuur en afkomst afzweren (anders halen ze het staatsexamen niet). Jij trapt met open ogen in de mooie praatjes die China verkondigd om de vreselijkste zaken goed te praten.

Privacy bestaat in China domweg niet. In Europa denken we daar gewoon anders over en kennen we wetten om de privacy te garanderen. Dat zijn toch totaal tegenstrijdige stromingen.

Nogmaals, als jij het OK vindt, prima, maar ik (en veel anderen) vind het beangstigend.

In China is het zoal het is en dat heb ik aangegeven.

De Chinese beschaving is ouder dan de Westerse beschaving en koloniaal gedrag is de Chinezen evenmin vreemd. Baudet staat hier helemaal buiten en een geloof is een geloof omdat dat ongrijpbaar en onbewijsbaar is. Kortom, je haalt er van alles bij wat bij een discussie over het gebruik van gezichtsherkenning totaal irrelevant is.

Hier ga ik verder niet in mee.

Ondanks dat jaren geleden al is aangetoond dat camera's nagenoeg geen invloed hebben op de lokale misdaad, blijven steden ze maar planten. Buiten dat ze bijna nutteloos zijn, zijn ze gigantisch duur (en wij ervoor betalen) en doen ze enorm afbraak aan de burger zijn privacy. Maar keer op keer mag dat weer niet baten.

Dit is enkel de volgende stap, deze camera's met ai voorzien, en om het af te maken tegen de regelgeving in langdurig bewaren en delen met instanties die hier helemaal niet in horen te zitten.

Het is moeilijk om vertrouwen te hebben in de overheid wanneer ze dit zo breed dragen.

Het klinkt als doomdenken maar als je al ziet waar andere landen toe in staat zijn. Net al een artikel gelezen over biometrische gegevens van italianen die werden gebruikt, je ziet al dat de honger naar controle toeneemt. Hoe meer mogelijkheden er zijn om met data te kunnen controleren op alles wat denkbaar is, hoe strakker bedrijven of overheden er op zitten.

Ik zie het niet gebeuren dat er straks duizenden camera's worden opgehangen, wat ik wel zie gebeuren is dat we beginnen met iet simpels en dat uiteindelijk de drang groeit naar meer, meer, meer controle. Onder het mom van veiligheid/terorissme etc als excuus.

En al helemaal als het ook nog eens commerciële grondslag heeft.

Ik ben ook blij dat er een duidelijk signaal wordt afgegeven,
echter is Clearview geen bedrijf dat formeel actief is in oa Italië.

Er is ook geen sprake van een internationale rechtbank die hier uitspraak over heeft gedaan.


Ik ben dus benieuwd hoe landen hier invulling aan gaan geven en ik betwijfel of de VS hier zomaar medewerking aan gaat geven.

Het probleem is dat mensen al deze data vrijwillig online zetten en dat het tegenwoordig ge-indexeerd is...

Mag hopen dat het ook een bewustwording teweegbrengt onder gebruikers van said social media. Als jij je foto en naam ergens op internet hebt rond slingeren, wil ik niet zo ver gaan om te zeggen dat je erom vraagt, maar wel zeggen dat je je bewust moet zijn dat die informatie publiekelijk toegankelijk is.

Waarbij je er ook rekening mee moet houden dat mensen de naam en foto soms helemaal niet zelf hebben geplaatst. Denk aan de lokale sportvereniging, een oom of tante die een foto deelt etc. Soms weten mensen helemaal niet dat een foto met naam online te vinden is.

Ben benieuwd wat voor werkelijke consequenties dit zal hebben. Lijkt meer een tot verstek veroordeling. Belangrijkste is uiteindelijk wat doet onze bondgenoot de VS hiertegen aangezien er niet eens een vertegenwoordiger van het bedrijf in de EU is.

Ik mag toch hopen dat als GB, Frankrijk en Italie er al moeilijk over doen, onze AP daar ook een stokje voor steekt namens ons.

Waarom is er niet even gechecked door Tweakers of de AP al bezig is met het voorbereiden van een zaak of, indien niet, waarom niet?

Kunnen ze gelijk checken of er al een onderzoek tegen henzelf loopt: Tweakers.net houdt zich ook niet aan de AVG, zij het niet op zo'n kwalijke manier als dit bedrijf

Op welke punten houd Tweakers.net zich niet aan de AVG?

Kunnen we niet ff als Europa zorgen dat we die lui dwingen Europeanen te verwijderen? Klinkt handiger dan elk land los.

En je kan nergens checken of clearview jou al heeft? Maar als dat al kan, dan is de vraag hoe je zonder alsnog toegeoegd te worden dat zou kunnen checken. Vult u uw gegevens even aan voor ons?

Wat ik mis is een reactie van Clearview AI op deze en voorgaande zaken.
Gaan ze in beroep?
Gaan ze de boete betalen en de vordering uitvoeren?
Is er überhaupt contact geweest tussen de toezichthouders en Clearview?
Wat waren Cleaview's argumenten?
Negeert Clearview domweg alles "want we zijn een Amerikaans bedrijf in Amerika"?
etc, etc

[Reactie gewijzigd door locke960 op 9 maart 2022 23:55]

Laten we vooral nu niet met z'n allen gaan denken dat dit een ver-van-mijn-bed-show is.

Kijk bijvoorbeeld eens naar een programma als Hunted, dan zie je een tipje van de ijsberg aan mogelijkheden die de Nederlandse opsporingsdiensten tot hun beschikking hebben. In het eerste seizoen werd nog niet zoveel gedaan met data, maar vanaf seizoen 3 (als ik het goed heb) kom je gevallen tegen dat je denkt van "oh damn, ze kunnen écht veel analyseren".

Maar ook als niet-crimineel zijn er camerasystemen waar je onderdeel van uitmaakt. Iedereen kent de videodeurbel, maar ook het (eerder op Tweakers ook besproken) systeem dat fietsers identificeert om de route te kunnen volgen is absoluut een stapje op de glijdende schaal. ANPR-camera's die met grote kans registreren waar jij bent (want je auto is er) en waarvan nog steeds niet duidelijk is hoe lang de gegevens daadwerkelijk bewaard worden.

Het kan zelfs prima zo zijn dat jouw telefoon onder de tap staat, omdat je een tweedelijns verbinding hebt met iemand die mogelijk dingen doet die niet door de beugel kunnen. Volgens mij heb ik een tweedelijns verbinding met iemand die momenteel verdacht wordt van poging tot moord... Niet dat ik die hele gast ooit gezien heb, maar een ex-collega van me kent hem ergens (persoonlijk) van.

Er wordt best wat afgedekt aan privacyregels, maar diezelfde regels worden regelmatig geschonden.