Clearview AI stopt met verkoop gezichtsherkenningsdata aan Amerikaanse bedrijven

Clearview AI belooft zijn gezichtherkenningsdatabase niet meer te verkopen aan private bedrijven in de VS. Het bedrijf doet dat na een schikking met de Amerikaanse burgerrechtenorganisatie ACLU. Het bedrijf mag nog wel diensten verlenen aan de overheid.

Als onderdeel van de schikking stemt Clearview AI in met een permanent verbod op de verkoop of gratis distributie van zijn gezichtherkenningsdatabase aan individuen of private bedrijven binnen de Verenigde Staten. Die database bestaat uit foto's van gezichten, die onder meer gescrapet zijn van sociale netwerken als Facebook. Het bedrijf zei in 2020 al dat het zijn contracten met private bedrijven zou stopzetten, maar dat verbod is nu permanent vastgelegd.

Het bedrijf stopt de komende vijf jaar ook volledig met het aanbieden van zijn diensten in de staat Illinois, in overeenkomst met de Illinois Biometric Information Privacy Act. Dat geldt ook voor overheidsinstanties in die staat, die normaliter een uitzondering hebben op die BIPA-wet. Het bedrijf mag nog wel zakendoen met de federale overheid en Amerikaanse overheidsinstanties en politiebureaus buiten Illinois.

Verder mogen inwoners van Illinois een opt-outverzoek insturen, waarna Clearview AI hun foto's uit zijn database moet verwijderen. Het bedrijf zegt toe 50.000 dollar te investeren in advertenties voor die opt-outoptie. Het bedrijf gaat de komende vijf jaar ook verder met het filteren van nieuwe foto's van inwoners uit Illinois.

De American Civil Liberties Union ziet de schikking als een overwinning. "Door Clearview te verplichten zich te houden aan de baanbrekende biometriewet van Illinois, niet alleen in de staat, maar in het hele land, toont deze schikking aan dat sterke privacywetten echte bescherming kunnen bieden tegen misbruik", schrijft een deputy director van het ACLU Speech, Privacy en Technology-project.

Clearview AI is in het verleden meermaals in opspraak gekomen. Het bedrijf zet scrapingtools in om foto's van publieke bronnen als sociale media te vergaren voor zijn gezichtsherkenningsdatabase, zonder dat het daarvoor toestemming heeft van de personen die op de foto's staan. Het bedrijf stelt dat dit is toegestaan, omdat het openbare gegevens betreft. Clearview wordt bijvoorbeeld ingezet door politie-instanties en in Oekraïne.

Verschillende privacytoezichthouders hebben Clearview AI eerder beboet vanwege het verwerken van gegevens zonder daar toestemming voor te hebben. De Italiaanse privacytoezichthouder GPDP gaf het bedrijf pas nog een boete van 20 miljoen euro, omdat Clearview 'onrechtmatig biometrische gegevens van Italiaanse burgers verzamelt'. De Britse privacytoezichthouder ICO is van plan datzelfde te doen. Frankrijk en Australië droegen Clearview eerder op om alle gegevens van hun burgers te verwijderen.

Reacties (46)

[Stijnvi]

Ik zie veel mensen klagen dat dit hun privacy zou schenden
Maar het programma werkt alleen maar als/doordat jouw foto's publiekelijk toeganlijk zijn op het internet
Dat weet je van tevoren
Ben jij dan niet eigenlijk diegene die verantwoordelijk is?

En ja, als je wil dat je uit de database wordt gehaald moet dat kunnen
En het zou ook netjes zijn om foto's die verwijderd zijn van het originele platform ook automatisch te schrappen uit de database
Maar dat je in eerste instantie in de database komt lijkt me toch een logische consequentie van maar alles openbaar maken

[simonr]

Het hoeven niet je eigen foto's te zijn. Als een ander foto's deelt waar jij ook op staat zit je al in het bestand. Dan maar aan alle bezoekers van feestjes en bijeenkomsten vragen of ze foto's waar jij op staat niet online willen zetten? Of misschien toch niet het onmogelijke willen voorkomen en accepteren dat je wellicht online komt maar wel regelen dat daar geen commerciële enge business modellen op gebaseerd mogen worden zonder jouw toestemming?

[kodak]

De uitleg van de "Illinois Biometric Information Privacy Act" lijkt dat een bedrijf pas persoonlijke biometrische gegevens mag verwerken als het toestemming heeft van de betreffende persoon.
Dus gaat die vraag of de personen zelf verantwoordelijk zijn dat een ander hun rechten aan het schenden is al niet zomaar op.
Daarbij gaat in de gehele EU op dat een bedrijf al niet zomaar persoonsgegevens mag gaan verwerken omdat het kan.
Er is dus niet zomaar logica dat een bedrijf wel met andermans persoonsgegevens wil gaan handelen, maar daar geen verantwoording voor wil afleggen wat betreft het verschil tussen mogen en kunnen.

[cerror]

Mijn buurman weet dat ik hier woon, jij niet.
Dus jij mag gewoon weten waar ik woon.

[MazDaMan1970]

Wat een onzin zeg, die Opt out optie. Wettelijk gezien zou alleen maar Opt in mogelijk moeten zijn! Te gek voor woorden dat jij op deze wijze verantwoordelijk gehouden wordt voor jouw eigen privacy!

[The Zep Man]

Wat een onzin zeg, die Opt out optie. Wettelijk gezien zou alleen maar Opt in mogelijk moeten zijn!

Onder de GDPR zou dit enkel met een opt-in kunnen, en daarom nooit een succesvol bedrijfsmodel kunnen zijn. Californië heeft een eigen versie van de GDPR, en dat speelt mogelijk ook mee in de keuze om enkel de overheid te bedienen. Nu is immers de overheid verantwoordelijk in de ogen van het publiek.

[Reactie gewijzigd door The Zep Man op 27 juli 2024 21:54]

[Flying Hawkic]

En zelfs als er een opt-in is (en dus een rechtsgrond), zou je je kunnen afvragen of het allemaal wel proportioneel is.

De CCPA (de afgezwakte GDPR van Californië) werd aangepast om nog meer in lijn te liggen met de GDPR. Dat is de CPRA en die is vanaf 1 januari 2023 van toepassing.

[Praetextatus]

En toch is het een succesvol bedrijfsmodel in Europa. Italië heeft een boete gegeven en that's it. In Oekraïne wordt het gewoon gebruikt, net als onze politie diensten die er gebruik van maken. Verder is het er wettelijk behalve in e VS weinig tegen gedaan.
Wat mij betreft is dit niets anders dan een calculated risk van dat bedrijf. Ze zijn namelijk niet failliet en zijn bezig met hun business.

[SCiENTiST]

privacyregels zijn niet zo streng in de VS

[Sando]

Italië en Frankrijk hebben er dus ook werk van gemaakt. Hoe zit het met de overige EU-landen? Staan wij er nog in? Kunnen wij een opt-out doen? Heeft iemand al eens een dataverzoek geprobeerd om te zien of ze jouw foto's ergens hebben geript?

[Reactie gewijzigd door Sando op 27 juli 2024 21:54]

[PomPomPom]

Je zou ze kunnen mailen:
- [e-mail]
- [e-mail]
Je zou het ook via de DMCA kunnen proberen, in Nederland hebben we allemaal als individu portretrecht over onze eigen koppen :-)

https://www.clearview.ai/contact

Waarschijnlijk zijn ze ook te bereiken via Clearview en LinkedIn.

[MSalters]

Het probleem met portretrecht is dat het precies dekt wat de wet zegt, en "AI trainen" valt daar niet onder. DMCA is vergelijkbaar: het gaat over copyrights. Als er al iemand jouw uiterlijk gemaakt heeft, dan zou het je plastisch chirurg zijn, maar iets wat door natuurlijke processen ontstaat valt niet onder copyright.

[Dazenet]

Zo'n verzoek kan je dus alleen maar indienen als je hen een kopie van je legitimatie opstuurd (waarschijnlijk zelfs twee)...daarmee overtreed je dan de wet want je mag geen kopie maken van identiteitsbewijzen, en je voorziet een bedrijf van veel meer informatie dan ze nodig hebben.

Opt-out mag nooit een voorwaarde zijn.

Dat ClearView geen zaken mag doen met bedrijven in de VS...ach...dan doe je toch gewoon zaken met de afdeling van dat bedrijf in een ander gedeelte van de wereld. Die kunnen het dan weer delen met hun "vertouwde partners" en die kunnen het weer delen met hun "vertrouwde partners"', en binnen een mum van tijd geniet het hele internet er toch weer van.

Het beste is gewoon nog steeds om niets openbaar te plaatsen, of beter nog...helemaal niet.

[Reactie gewijzigd door Dazenet op 27 juli 2024 21:54]

[SCiENTiST]

En ervoor zorgen dat niemand die jou kent ook iets openbaar plaatst?

[Dazenet]

"The greatest threat to my privacy, is you"

Dat is mijn motto.

Mensen zouden moeten stoppen met foto's van alles en iedereen te plaatsen en ook, bijvoorbeeld, met het klakkeloos delen van hun kontaktenlijst. Als je geen toestemming hebt moet je het gewoon niet doen.

Respecteer de privacy van anderen.

[Osiummaster]

Zoals de AIVD pertinent de wet overtreed kan je met 100% zekerheid zeggen dan we gebruik maken van gezichtsherkenning software.

[Vogel666]

Omdat je andere dingen fout doet zal je hier ook wel schuldig zijn???
Ik ben blij dat jij geen rechter bent!

[Osiummaster]

Ja stel je toch eens voor dat onze overheid zich aan de wet moet houden

nieuws: Toezichthouder: AIVD en MIVD hielden niet genoeg toezicht bij kabelin...

[Vogel666]

Hoe is onvoldoende toezicht op kabeltaps bewijs voor gebruik van gezichtsherkenning?

[Osiummaster]

Een voorbeeld van hoe ze de wet overtreden.

Tevens hebben ze organisaties 9-eyes zodat andere landen onze wetten kunnen overtreden en de informatie vervolgens met ze te delen. Beetje alsof je je afvraagt of de nederlandse bedrijven uit de Panama papers hun belasting wel lief betalen.

[Vogel666]

Ik lees helaas niet sover de Nederlandse overheid mbt het verzoek om informatie over Nederlandse burgers te verwijderen uit de systemen.

De praktijken van dit soort bedrijven kunnen een einde betekenen aan de vrijheden van onze maatschappij.
Al je acties worden volautomatisch aan jou gelinkt, gerecombineerd met reeds beschikbare data en verhandeld. Als hier geen rem op komt, betekent dit dat je ziektekosten verzekering toegang heeft tot het aantal kroegbezoeken/zonnebank-uren dat je in je leven gehad hebt. Je stalkende ex kan precies nagaan waar je bent, de overheid weet precies waar je bent en of je wel binnen de lijntjes kleurt...
En dan hebben we het nog niet eens gehad over de exteme hoeveelheid false positves die gemeld zijn. Je zal maar uit iedere kroeg en bij iedere sollicicatie geweigerd worden, omdat die K*-software vindt dat je op iemand lijkt.

In mijn beleving moet dit type product in NL niet alleen verboden worden, maar moet ook het gebruik van het product (zowel aan de data-verzamel-kant als aan de data-gebruik-kant) strafbaar worden in het strafrecht op persoonlijk niveau met een celstraf en een levenslange onthouding van een VOG.

[Reactie gewijzigd door Vogel666 op 27 juli 2024 21:54]

[robertlinke]

in NL kan je onder de AVG/GPDR aanvragen je dta te verwijderen. het recht om vergeten te worden.

[Vogel666]

Maar je kunt dat uitsluitend afdwingen bij bedrijven die in de EU gevestigd zijn of voor de activiteiten die het bedrijf in de EU onderneemt.
Je foto en data kan wel weg zijn voor Europese klanten, maar is die dan ook weg voor klanten in Azie?
Je hoeft je als bedrijf immers alleen te houden aan de wetten die voor jou gelden.
Een overheid in een streng regieus land kan niet afdwingen dat Heineken de productie van alcohol in NL staakt en stopt met de verkoop van alcohol in Frankrijk. Zo kan de NL overheid ook niet afdwingen dat NL data verhandeld wordt in de VS.

[batjes]

Men heeft altijd zulke woorden over China en hun overheid. Hier zijn we ondertussen net zo erg op vele fronten. Social krediet hebben we officieel niet. Er zijn bedrijven gespecialiseerd in "risico bepaling" van mensen, soort BKR maar dan erger en geheimzinniger.

We hebben dit soort Clearview bedrijven. Facebook. Google. Die een behoorlijk deel van de samenleving beter kent dan hun eigen moeders.

We komen ongezien bijna geen stad meer in of uit. De grotere steden hebben op elke toegangsweg camera's hangen, het OV is 100% getracked, anoniem reizen is een fabeltje.

Onze overheid laat het maar gebeuren, structureel het AP te weinig geld geven, zodat het bedrijfsleven er amper tot geen hinder aan ondervindt. Wetgeving laat decennia op zich wachten. We mogen in dit opzicht ontiegelijk blij zijn dat we in een EU zitten en we meeliften op o.a. Duitsland en Frankrijk, die privacy en burgerbescherming nog wel serieus nemen.

Maar vooral lekker wijzen naar China, zodat we maar niet in de spiegel hoeven te kijken.

[Dazenet]

Je hebt niet ongelijk.

Ook in andere landen gaat het heel hard die kant op. Het wordt enorm onderschat door de meeste mensen, vooral diegene roepen dat ze "niets te verbergen hebben". Dat is een andere discussie, dus daar ga ik nu niet verder op in.

Dat in bijvoorbeeld landen als de VS en het VK je kredietwaardigheid wordt bepaald door commerciële bedrijven, daar kan ik met mijn verstand simpelweg niet bij. (Ook weer een lang en ander discussiepunt)
...en als je ze betaald dan kan je je kredietscore verhogen!

Anoniem zijn is een fabeltje in elk land...maar er zijn inderdaad landen die ver vooruit lopen, en daar zouden wij met zijn allen met angstige ogen naar moeten kijken en lering uit moeten trekken. Helaas gebeurd dat niet, want data verzamelen is zaligmakend vandaag de dag.

[SCiENTiST]

We = de VS in dit geval?

[batjes]

Niet alleen de VS hoor. Europa doet net zo hard mee.

Tweakers heb ik er niet echt over zien berichten, maar https://www.security.nl/p...chatberichten+te+screenen

We doen echt niet onder aan China.

[Bender]

Dus de prijs van het product gaat omhoog omdat er minder kopers zijn, maar veranderd niks aan het feit dat een commerciele organisatie de data heeft verzamelt.

[robertlinke]

ze halen de data van openbare bronnen, dus nee, dara kan niets aan gedaan worden, tenzij dit expliciet verboden word. daarom is het ook zaak om voorzichtig te zijn met wat je op socials plaatst

[Bender]

Dat is dus een volledig foute aanname.

Omdat iets openbaar is, wil niet zeggen dat je het recht hebt om het te verwerken, zeker niet als het om persoonsgegevens gaat.
Denk aan de rechtszaak die Funda won omdat andere website hun content kopieerde.
Je hebt te maken met een aantal rechten:
- Portretrecht
- AVG
- Auteursrecht (foto en tekst)
- Databankenrecht

Dat het openbaar is, wil niet zeggen dat het vrij te gebruiken materiaal is.

[SCiENTiST]

Die rechten hebben ze alleen mee te maken als ze actief zijn in de EU/NL. Als een VS bedrijf dat geen vestiging in EU heeft jouw gegevens misbruikt is daar weinig tegen te doen volgens mij.

[Bender]

Nee, want Facebook valt onder Europese wetgeving gezien ze Europese profielen beheren.
Dat wil zeggen dat plaats van delict ook Europa is.

[SCiENTiST]

Ik had het over Clearview AI, niet facebook.

[Bender]

Echter haalt Clearview AI zijn informatie dus van Europese bodem en is het dus aansprakelijk volgens europees recht.

[MazDaMan1970]

Ze zullen de prijzen wel moeten verhogen, gezien het feit dat ze de nodige rechtzaken hierover zullen krijgen en ze op den duur steeds minder klanten zullen krijgen, aangezien het een illegaal product zal worden, door de wereldwijde strengere privacy-wetten.

[NoahAmber]

De overheid van de VS mag het dus wel gebruiken. Begrijp ik dat goed? Komt in de buurt dan van de herkenningsoftware die China gebruikt/misbruikt. VS zou dus/doet dus dan hetzelfde.

[xelagbs84]

Privacy statements etc tegen dit soort tech ben ik het helemaal mee eens. Maar is het ook niet super gevaarlijk dat ondertussen in China alles gewoon keihard word doorontwikkeld met alle gevolgen van dien? Superioriteit van China in misschien wel de meest toekomstbepalende technologie?

[Vogel666]

Denk jij dat het land daadwerkelijk een technologisch voordeel haalt uit de absolute sociale repressie van hun onderdanen?
Ik zie namelijk vooral beperkingen in de ontwikkeling van een land waar niemand meer zijn hoofd boven het maaiveld durft te steken. Het was de ondergang van de Sovjet-Unie en het zal de ondergang van China zijn.

[batteries4ever]

Hm... niet dat ik nu zo'n fan ben van de Chinese regering, maar Rusland en China gaan wel erg anders te werk: China heeft tot dusverre echt indrukwekkende vooruitgang laten zien, terwijl Rusland maar wat aanmoddert...
https://countryeconomy.co...pare/china/russia?sc=XE34
Vanaf 1990 is Rusland verdubbeld qua GDP/persoon, maar China is verdertigvoudigd!!
Nu staan ze ongeveer gelijk ... en na de oorlog China er denkelijk een heel stuk boven ligt.
We moeten zien hoe China met Taiwan omgaat, maar zoiets gestoords als in Oekraine kan ik me niet voorstellen.

[HTPeter]

Ze staan helemaal niet gelijk.

GDP per capita dient gecorrigeerd te worden voor lokale koopkracht. Rusland zit qua GDP(PPP) per capita fors boven China.

Veel mensen snappen dit hele concept niet als het gaat om macro-economie, alleen wanneer ze met hun luie krent voor dumpprijzen in Tunesië in een resort zichzelf met cocktails laten vollopen.

[batteries4ever]

Klopt wel, maar het ging mij erom even te illustreren dat de ontwikkelingen in China heel wat sneller verlopen, zonder daar nu meteen een cursus aan te knopen...

[HTPeter]

En dat komt omdat China een ontwikkelingsland was, letterlijk 'am Arsch der Welt', zoals onze oosterburen zeggen.

De USSR was al geïndustrialiseerd en had, ondanks inefficiencies als gevolg van centrale planning, een veel hogere levensstandaard. Je kunt het nog het beste met fitness vergelijken. Voor een beginneling is het veel makkelijker om elke week 2.5 kilo extra gewicht erop te leggen met de bench press, dan voor een gevorderde om dat elke maand te doen.

[Dazenet]

China is ook gegroeid omdat ze het één-kind systeem hebben afgeschaft.
Bovendien heeft China het behoorlijk moeilijk.

De instelling van mensen in de Oosterse en/of communistische landen is in het algemeen ook iets anders. Ze zijn daar veel meer gewoon met repressie en onderdanigheid. Als je protesteerd dan wordt je opgepakt en als je te hard protesteerd word je nog harder aangepakt.

Je ziet ook in andere landen dat mensen steeds meer gewend raken aan gevolgd worden, aan het vrijelijk weggeven van (andermans) data en zelfs aan het "klikken". De lange termijnplanning van bedrijven en regeringen kan twee of drie generaties duren, maar uiteindelijk zal het totalitair worden.

Kaartje kopen? Eerst registreren en alleen met je bankpas betalen.
Online chatten? Dan gaan we wel de encryptie afzwakken of een achterdeur inbouwen.
Boodschappen doen? Hier...neem deze klantenkaart en betaal bij de zelf-service.
Auto rijden? Vooral altijd je GPS aan laten staan, want je weet vast niet waar je bent.

...de lijst wordt dagelijks langer, en enger. Zelfs in landen als Nederland mag je je mening nagenoeg niet meer uitten door middel van demonstraties. Alleen als je dat daar doet, op die tijd en het liefst als je je mond dichthoudt.

China is een voorloper, niet een achterblijver.

[xelagbs84]

Technologisch voordeel kun je halen uit onderzoek welk anderen niet doen. Stel wij verbieden AI voor gezichtsherkenning en China blijft dit door ontwikkelen... dan ontstaat er technisch voordeel. Dat is mijn punt.

[Vogel666]

Ik snapte je punt op zich wel.
Maar vanwege de toepassing ervan is het een zeer geavanceerd staaltje "schiet jezelf in de voet" geworden voor ALLE ontwikkeling, waardoor het totaal aan technologische ontwikkeling minder positief is, dan wanneer alleen naar deze specifieke technogische ontwikkeling kijkt.

[mutley69]

Het stopt maar gedeeltelijk - en dat is onvoldoende.