'Clearview-gezichtsherkenningssoftware heeft klanten in België en Nederland'

Clearview AI, een bedrijf dat software maakt om gezichten op camerabeelden te vergelijken met openbare foto's en filmpjes op internet, heeft ook klanten in Nederland en België. Dat claimt Buzzfeed op basis van de gelekte klantenlijst.

Politiekorpsen of overheidsorganisaties in Nederland en België hebben de database van Clearview AI gebruikt, schrijft Buzzfeed News. Clearview heeft ook gebruikers in andere Europese landen, waaronder het Verenigd Koninkrijk, Denemarken, Frankrijk en Spanje, maar Duitsland staat er bijvoorbeeld niet op. Onder meer Interpol heeft een trial van Clearview geprobeerd, maar heeft dat vervolgens niet omgezet in een betaald abonnement.

Het is onbekend om welke overheidsorganisaties en politiekorpsen het gaat en of ze alleen een proefperiode hebben gehad of dat ze betaalde klant zijn geworden. Het was eerder niet bekend dat in Nederland en België de omstreden software in gebruik was geweest.

In de Verenigde Staten is de software afgelopen tijd veel meer in gebruik geweest. Naast opsporingsdiensten hebben scholen, universiteiten en winkelketens ook gebruik gemaakt van de gezichtsherkenningssoftware.

De software maakt het mogelijk om een naam en adres te vinden door een foto in te voeren. De software werkt door gescrapete beelden van sociale media en videosites te combineren om zo een database met profielen van mensen met gegevens en beelden op te bouwen. Het bedrijf kwam vorige maand in het nieuws, toen bleek dat veel Amerikaanse politekorpsen de software in gebruik hebben. Sindsdien hebben diverse bedrijven, waaronder Facebook, Google en Twitter, van Clearview AI gevraagd om te stoppen met scrapen, omdat het tegen de voorwaarden van hun diensten ingaat.

Update, 08:07: Gizmodo heeft de hand weten te leggen op de app van Clearview, die onbedoeld onbeschermd online stond. Daaruit blijkt dat er integratie is of moet komen met ar-brillen van Vuzix.

Reacties (52)

[kuurtjes]

Waar kan ik mijn data laten verwijderen?

[GertMenkel]

Hierzo, je moet een foto uploaden en dan zou je uit de dataset moeten worden verwijderd.

Volgens mij is het hele idee hierachter illegaal zonder toestemming van de mensen wiens foto's er in de database staan. Als de overheid dit soort diensten wil hebben, leggen ze maar een eigen databank aan in plaats van een of andere vage Amerikaanse Ai-firma.

[WillySis]

Voor Europa is dit inderdaad illegaal, maar er zit wel een addertje onder het gras. De foto's van facebook en soortgelijke sites zijn openbaar gemaakt en die zouden gebruikt mogen worden als de sites dat via hun voorwaarden is toegestaan. Koppeling met andere persoonlijke data is via de AVG niet toegestaan zonder explicite toestemming.
Buiten Europa heb je echter geen bescherming van de AVG. Dus als de software in Amerika data verzameld en in Amerika de koppeling maakt en daar ook wordt gebruikt, dan mag dat gewoon. Binnen Amerika mag dat overigens niet eens in alle staten.
Wie de software van Clearview AI in Europa gebruikt en daarbij ook de koppeling tussen foto en andere gegevens gebruikt waarvoor geen expliciete toestemming is gegeven, is gewoon in overtreding. De Nederlandse wet is daar al duidelijk in (gebruik van biometrische data is aan strikte voorwaarden verbonden). De AVG komt daar nog eens bovenop.

Bedrijven die in het geniep dit soort software gebruiken zouden hard aangepakt moeten worden. Ook toont dit aan dat er een verscherpte controle en handhaving op het gebruik van camerabeelden noodzakelijk is.

[Verwijderd]

Neen, de GDPR is ook van toepassing voor EU-burgers buiten Eurpoa. Je mag dus niet in de US data verzamelen van EU-gebruikers zonder toestemming.

[batjes]

En voor niet EU burgers die op dat moment in de EU verblijven.

[WillySis]

Dat is een loze toevoeging aan de wet. Er is namelijk geen enkele manier waarop dit gehandhaafd kan worden. Wanneer jij je buiten de EU bevind en er wordt daar data van je ontfutseld, dan is er geen juridische binding met Europa. Je moet je geschil dan uitvechten voor rechters uit één van de landen die erbij zijn betrokken. Dan geldt ook de lokale wetgeving.
Als de data is verzameld terwijl jij in Europa verbleef, kan je het in Europa aan een rechter voorleggen en geldt de GDPR wel.
Wanneer men je BSN nummer, een Europees telefoonnummer of adres heeft verzameld is er overigens wel een duidelijke binding met Europa en kan je binnen Europa naar de rechter gaan. Wanneer je die gegevens vrijwillig buiten de EU hebt afgestaan wordt het al heel lastig om gelijk te krijgen. Als het alleen om naam, geboorte datum en woonplaats gaat ben je kansloos.

Wanneer een bedrijf weigert om een EU burger zijn gegevens te laten inzien, of om die gegevens te verwijderen is dat bedrijf via een Europese gerechtshof aan te pakken. Dan is de bescherming van de GDPR wel duidelijk. Het naleven van het vonnis van de rechter zal lastig zijn. Vanuit Europa is er geen mogelijkheid op opgelegde straffen buiten de EU af te dwingen.

[Cerberus_tm]

Wie de software van Clearview AI in Europa gebruikt...is gewoon in overtreding

En: wie de software in Europa verkoopt (dus Clearview mag dit niet in Europa verkopen, noch de dienst hier aanbieden).

[WillySis]

Als zij op de hoogte zijn waar de software gebruikt gaat worden, of dat logischerwijs kunnen vermoeden is Clearview inderdaad in overtreding. Als de koop buiten Europa heeft plaatsgevonden is dat al een heel stuk lastiger. Wanneer een internationaal bedrijf de software via een niet specifiek op Europa gerichte website koopt gaat Clearview al vrijuit.

[Cerberus_tm]

Ja, het hangt van de precieze interpretatie van de rechter af. Een website in het Nederlands kan b.v. al reden zijn om het te zien als "gericht op Nederland".

[WillySis]

Als de website in het Nederlands is, dan is dat duidelijk, maar met Engels, Spaans of Portugees of zelfs alle drie, is dat een stuk lastiger. Er zijn buiten Europa meer mensen die die talen spreken dan binnen Europa.

[R34P3R4LF3]

Hahaha, wat zijn ze slim... Een foto van jezelf uploaden zodat je verwijderd kan worden uit hun database.

Never mind, ik zet voortaan overal een petje op. Ik heb sowieso geen foto's van mijzelf online staan (doe niet mee aan dat social media gedoe) dus dat is al een zorg minder.

[Grim]

Jij zelf misschien niet. Maar mogelijk sta je wel op foto's die anderen online hebben gezet.

[Bob Popcorn]

Dan is die data toch niet verrijkt met persoonsgegevens?

[kvdveer]

Misschien niet direct met jouw persoonsgegevens, maar wel met gegevens als "was in Parijs op 2018-02-02", "is bevriend met Jan Joker", "was aanwezig op de bruiloft van Liesje en Lotje", "werkte bij The Drunken Clam op 2016-04-01". De combinatie van deze gegevens is genoeg om jou met vrijwel 100% nauwkeurigheid te identificeren.

[2green]

Het is bijna ondoenlijk je gegevens privé te houden.

Helaas zijn zulke foto's ook verrijkt met persoonsgegevens, misschien niet je naam of adres, maar wel andere identificerende gegevens.

Denk bijvoorbeeld aan een foto geplaatst door je ouders, broer of zus, je afstudeer foto, etc. Dan heb je nog fotoś met lokatie gegevens en fotoś met eenvoudig herkenbare lokaties waarop ook systemen lopen te scrapen, etc.

Helemaal omdat er nog steeds veel bedrijven zijn die zich niets aantrekken van onze op-in wetgeving. DIt bedrijf gaat uit van opt-out wetgeving, maar wij hebben opt-in. Mogelijk heeft dat weer met amerikaanse wetgeving te maken, die zich niet perse iets aantrekt van europese wetgeving. Ken hun wetgeving niet, meen mij wel te herinneren dat hun wet onderscheidt maakt tussen binnenlanders en buitenlanders.

[Cerberus_tm]

Als je op Facebook niet toestaat dat mensen je in een foto taggen, en als je je eigen foto's zet op niet niet voor iedereen zichtbaar, zou dat niet helpen?

[Reactie gewijzigd door Cerberus_tm op 23 juli 2024 19:49]

[CHBN]

Nee, het probleem bij de bron aanpakken, dat is de formule van FB zelf.

[Cerberus_tm]

Dat is zeker waar, maar aangenomen dat mensen nou eenmaal foto's op Facebook hebben.

[tweaknico]

Welkom in de wonderewereld waar iedereen maar tagged op foto's etc.

Tikkie... jij bent nu ook af.

[Reactie gewijzigd door tweaknico op 23 juli 2024 19:49]

[maevian]

Is wel sterk dat ik eerst al moet afweten van het bestaan van deze website voor dat ik mijn data kan laten verwijderen, zouden in de eerste plaats mijn data niet mogen hebben

[locke960]

Welkom in de wereld van de "opt-out".
Dit is waarom opt-out gewoon illegaal moet worden.

[maevian]

Oké ja, ik vind opt-out al grijs gebied als het een privacy feature voor een dienst is waarop ik mezelf heb ingeschreven en akkoord ben gegaan met de gebruikersvoorwaarden en waarschijnlijk ook wel iets heb aangevinkt dat ze mijn gegevens mogen gebruiken.
Maar dit is een dienst waar ik zelf nog nooit van gehoord had.

[bbob]

Je moet dus jou foto met jou gegevens uploaden zodat het uit de dataset verwijderd kan worden. Waarom denk ik dan dat jou foto dan toch in een andere dataset zal komen. Het is dus een opt-out systeem.

[kuurtjes]

Gewoon wat extra zooi op je dataset:
- IP & Browser
- Nieuwe foto
- Een notitie dat je niet gevonden wilt worden

[tweaknico]

Inderdaad. evt. zou er een beetje data uit de dataset verdwijnen, maar ze gaan niet het hele ML model opnieuw op de dataset zonder jouw gegevens draaien om het eruit te halen.

Dus het zal zijn dat die notitie er bij komt. Daarnaast als een bepaalde overheidsdelen de data toch zou willen hebben kan verwijderen gezien worden als verduisteren van aanwijzingen...

[n4m3l355]

Toch wel weer prettig dat de overheid weer hun reet afveegt aan onze privacy. Ze stellen zelf privacy regels op en vervolgens breken ze deze weer. En uiteindelijk gebeurd hier niets tegen. Schandalig.

[kozue]

Welkom in de wereld van de politiek. Ze mogen het zelf niet, want wetgeving, dus laten ze het een bedrijf doen wat los staat van de overheid. Lekt het uit? “Wir haben es nicht gewusst”, klaag het bedrijf aan, en je handen zijn weer schoon.

Dit is toch niet veel anders dan die smerige praktijken van geheime diensten die dingen die ze zelf niet mogen gewoon door buitenlandse collega’s laten doen? Sleepwet? Was eigenlijk niet nodig, want de VS had al Prism en andere sleepnetsystemen en wilden de AIVD best een handje helpen. Nu mogen ze zelf legaal de AMSIX tappen en hebben ze de NSA niet meer nodig, maar voor ons als burger maakt het toch geen verschil.

Beste wat je volgens mij kunt doen is het internet gewoon zien voor wat het is: een grote beerput die ooit begonnen is uit idealistisch oogmerk (informatie delen) en allang al kapot is gemaakt door datagraaiende bedrijven, spionerende overheden en marketingafdelingen. Wat je er niet op zet kunnen ze ook niet gebruiken. Beperk je internetgebruik tot een minimum en je beperkt je profiel in dit soort systemen tot een minimum.

* kozue is al vele jaren socialmedia-loos en mist er helemaal niks aan.

[tweaknico]

Datagraaiende bedrijven, spionerende overheden en marketing afdelingen passen perfect onder de titiel: Informatie Diensten.

Het grootste probleem is dat niet voldoende mensen inzien hoe asociaal de zgn. sociale media eigenlijk zijn.

[bbob]

Jou data wel maar staat jou foto bij iemand anders, liep je toevallig ergens in de achtergrond bij het maken van iemands foto, pech gehad.

[Centurion183]

Liep je langs een rijdende Tesla, jammer, je staat ook op de foto/film.

[bbc]

Kan ik mijn data bij hun laten en een factuur sturen voor het gebruik van mijn data voor het leveren van een dienst zonder mijn toestemming?

[tweaknico]

Dan zou je mogelijk een rechtszaak in hun jurisdictie moeten doen. Kan lastig worden.

[Scriptkid]

Valt diet niet direct on pii data binnnen de gdpr.

Oftewel ik heb geen geschreven toestemming gegeven dus zware boete.

[MijnKijk]

Toestemming is niet de enige verwerkingsgrond onder de AVG.
De praktijken van ClearView blijven echter schimmig. Als ik mij niet vergis beroepen zich op artikel 9 lid 2 sub e, 'persoonsgegevens die kennelijk door de betrokkene openbaar zijn gemaakt'. Daarmee gaan ze naar mijn idee echter voorbij aan andere aspecten van artikel 5, waaronder doelbinding.

[tweaknico]

Artikel 5 wordt eerder genoemd en heeft dus een hoger belang.

[r2504]

Sinds de invoering van de GDPR is de data honger van de Belgische overheid nog nooit zo groot geweest... en blijkbaar kan dit allemaal omdat het "de overheid" is.

[arnonymous]

Kan allemaal zijn. Maar dit is een prive bedrijf.
Zij geven de overheid/politie toegang tot hun app, en daarbij verzamelen ze info over wie de politie onderzoekt.

[kuurtjes]

Die informatie hebben ze hoogstwaarschijnlijk al lang gescraped.

[tweaknico]

Er zullen niet veel mensen zijn die bewust langs een "ring" of andere langs de openbare weg camera waar een misdrijf is/wordt gepleegd zullen lopen. En vervolgens op FB etc. melden dat ze daar geweest zijn oid.
dan wel bepaalde misdrijven begaan hebben.

Dat kan wel de reden zijn dat de politie een beeld/beelden van die camera aan Clearview voeden met de vraag of dit bekend voor komt. Als er vervolgens een naam uit komt rollen en evt. om bevestiging/afwijzing van de gegeven antwoordt wordt gevraagd het het ML-model "verbeterd" worden.

[Wim-Bart]

Ik ben benieuwd of dit onder portretrecht kan vallen wanneer je foto van een site is gehaald zonder dat jij daar toestemming hebt gegeven. Wat ik begrijp uit het portretrecht is dat dit in Nederland altijd geldt wanneer er geld wordt verdient door de gebruiker met het portret van iemand,ook al is het een foto of schilderij, schets, tekening. In theorie zou dit hier het geval zijn.

[MijnKijk]

Je doelt op verzilverbaar portretrecht. Dat gaat er volgens mij om dat jij geld had kunnen verdienen met het gebruik van jouw portret. Denk onder andere aan situaties waarin jij model bent voor een reclame campagne oid. Of je daar in deze situatie een beroep op kunt doen betwijfel ik.

Ik zou dus zeggen, dit is een gevalletje AVG (GDPR).
Voor de volledigheid. Er zijn meer verwerkingsgronden dan toestemming. Dat je geen toestemming hebt gegeven, betekent daarom niet per definitie dat er geen persoonsgegevens van je verwerkt mogen worden.

[IJzerlijm]

Iedereen is opeens een groot fan van auteursrechten, DRM en extreme boetes als het om hun eigen data gaat.

[Bob Popcorn]

Maar vervolgens wel allemaal gmail, Facebook, Instagram, LinkedIn, Xbox Live en god mag weten welke data hongerige service nog meer gebruiken.

[maevian]

Maar als ik facebook en gmail gebruik kies ik er zelf voor om deze services te gebruiken, van clearview had ik nog nooit gehoord!
Om een analogie te maken: Ik gebruik alcohol en andere genotsmiddelen ook al weet ik dat deze giftig zijn en mijn lijf kapot maken. Toch geeft dit een ander bedrijf geen recht om medicatie bij me te testen zonder mijn toestemming.

[Bob Popcorn]

Wat een waardeloze analogie.

Wat je gedaan hebt, is alcohol drinken waarbij op het etiket staat "Als je dit drinkt kunnen bepaalde derde partijen wellicht medicijnen op je testen zonder dat ze jouw expliciete toestemming daar voor nodig hebben"

[maevian]

Dan zouden ze dit nog niet mogen doen, en nee dat heb ik niet gedaan.
Bij het gebruik van Facebook of Gmail heb je nooit toestemming gegeven hiervoor, dit is gewoon clearview die deze foto's gebruikt zonder toestemming van facebook of google.
Ik vind nergens terug dat clearview deze gegevens gekocht heeft, zij hebben die gebruikt zonder toestemming.
Kan je ook gewoon lezen in het artikel:
"Sindsdien hebben diverse bedrijven, waaronder Facebook, Google en Twitter, van Clearview AI gevraagd om te stoppen met scrapen, omdat het tegen de voorwaarden van hun diensten ingaat."

[koelpasta]

Iedereen is opeens een groot fan van auteursrechten, DRM

Wat heeft het auteursrecht met dit verhaal te maken?

[BenGenaaid]

@koelpasta
Ik ben de auteur van mijn foto's, als iemand anders die wil gebruiken, moeten ze eerst een licentie van mij afnemen.

Ik denk dat men dat ermee bedoelt, en eerlijk gezegd zit daar wat in, als ik niet mag downloaden (en doorverkopen), mogen zij dit ook niet. (daar zijn dan die kleine lettertjes in de voorwaarden van Facebook en Google weer voor )

[IJzerlijm]

Iemand claimt recht op een bepaalde verzameling enen en nullen die in dit geval een plaatje van zijn of haar gezicht vormen. In een ander geval is het een spel of film, beiden zijn data die onbeperkt kunnen worden gedupliceerd en de wereld over gestuurd.

[RandomMens]

Tot zover onze privacy...

[Reactie gewijzigd door RandomMens op 23 juli 2024 19:49]

[mutley69]

Is onze eigen overheid nog te vertrouwen beste heren en dames politici??? Graag een eenduidig antwoord - niet rond de pot draaien, loop nu 's voor één keer niet te zeiken.

[Vinnie2k]

De bevolking groeit nog iedere dag, dus ze doen iets goed.. Anders waren we al lang geleden uitgestorven.

Edit: typo

[Reactie gewijzigd door Vinnie2k op 23 juli 2024 19:49]