Hackers stalen klantenlijst van gezichtsherkenningssoftware Clearview AI

De klantenlijst van Clearview AI, een bedrijf dat software maakt om gezichten op camerabeelden te vergelijken met openbare foto's en filmpjes op internet, is gestolen. Dat heeft het bedrijf zelf bekendgemaakt. De code van de software is niet gestolen, claimt het bedrijf.

De kwaadwillenden hebben de volledige lijst van klanten, waaronder veel politiekorpsen en opsporingsdiensten, in handen gekregen, schrijft The Daily Beast. Het bedrijf heeft een melding gestuurd over de digitale inbraak naar klanten en de site kreeg die in handen. Clearview AI heeft de inbraak bevestigd.

De inbrekers konden niet alleen bij de klantenlijst, maar ze konden ook zien hoeveel verschillende accounts zij hadden aangemaakt en hoeveel zoekopdrachten zij hadden ingevoerd, meldt de site. Ze konden niet bij de inhoud van die zoekopdrachten en ook konden zij niet bij de servers van Clearview AI met daarop de beelden van personen, zegt het bedrijf.

De software maakt het mogelijk om een naam en adres te vinden door een foto in te voeren. De software werkt door gescrapete beelden van sociale media en videosites te combineren om zo een database met profielen van mensen met gegevens en beelden op te bouwen. Het bedrijf kwam vorige maand in het nieuws, toen bleek dat veel Amerikaanse politekorpsen de software in gebruik hebben. Sindsdien hebben diverse bedrijven, waaronder Facebook, Google en Twitter, van Clearview AI gevraagd om te stoppen met scrapen, omdat het tegen de voorwaarden van hun diensten ingaat.

Reacties (32)

[WillySis]

Zo zie je maar weer hoe gevaarlijk allerhande software kan zijn die misbruik maakt van privacy gevoelige data die op internet gezet wordt. Dit soort bedrijven werken op hackers als een rode lap op een stier.
Dit keer zijn het alleen de gegevens van de gebruikers die gelekt is, de volgende keer zijn het de foto's, compleet met adres, geboortedatum, bsn nummer enz.

[NLWildcard]

Of erger het algoritme zelf.....

[steveman]

Mja nou, iedereen kan Tensorflow of zo wel aan de praat krijgen. De data is vooral de goudmijn.

[Jerie]

Het probleem is dat de data gebaseerd is op publieke informatie, die mensen vrijwillig delen met de gehele wereld. Dit is dus eigenlijk een vorm van OSINT plus ML. Dat opsporingsinstanties dit gebruiken vind ik nog niet eens zo eng. Ligt nogal voor de hand (hoewel ik betwijfel dat die opsporingsinstanties allen capabel genoeg zouden zijn dit zelf te implementeren). Ik ben meer benieuwd naar welke bedrijven dit zoal gebruiken, en voor welke doeleinden.

Bovendien betwijfel ik of dit GDPR compliant is. Volgens mij is data gebaseerd op persoonlijke data nog steeds persoonlijke data als het te herleiden valt naar de persoon (dus geen one way hash). Nou, dat lijkt me in dit geval duidelijk. De vraag is dan of opsporingsinstanties zoals de politie dit soort materiaal, dat minstens civielrechtelijk niet door de beugel kan, wel moeten kunnen gebruiken. Is dat ethisch verantwoord?

[Reactie gewijzigd door Jerie op 22 juli 2024 19:23]

[Verwijderd]

De vraag is dan of opsporingsinstanties zoals de politie dit soort materiaal, dat minstens civielrechtelijk niet door de beugel kan, wel moeten kunnen gebruiken. Is dat ethisch verantwoord?

Dit is een heel tricky standpunt, want dat kan nadelig uitvallen ook. Voorbeeld: Het plaatsen van een verborgen camera is in veel gevallen illegaal. Wat als die camera een moord filmt waarop de dader duidelijk te zien is? Mag dit dan gebruikt worden als bewijs tegen de dader? Moet die persoon dan vrijgesproken worden terwijl er 100% bewijs is dat hij de dader is?

[Jerie]

Tegenwoordig kun je camerabeelden niet altijd meer vertrouwen.

Het kan in ieder geval gebruikt worden voor parallel construction.

[4x4]

Gelukkig hebben de meeste mensen toch niets te verbergen. Althans, in die veronderstelling leven ze.

[pizzafried]

Het is misschien wel zo, ze hebben niks te verbergen, als in, ze doen niks crimineels, maar toch is het niet fijn om platgebeld te worden door marketingbedrijven of lastig gevallen worden door stalkers o.i.d.

Die veronderstelling is dus waarschijnlijk wel waar, maar eigenlijk te kortzichtig wat privacy betreft.

[4x4]

https://decorrespondent.n...erbergen/6428004-ab2d5fc2

Ik zou dit stuk even lezen.

[GF187um]

Ik begrijp wat de bedoeling van het artikel is, maar ik vind het artikel slecht. De verborgen boodschap die ik eruit haal is dat de auteurs allebei niet vies zijn van een affaire. Dit wordt op een 'slimme' manier gekoppeld aan gedachtes en gevoelens van je sociale 'ik', zoals zij dat beschrijven.

[Michiel36]

Omg dan heb je het niet begrepen. Gelezen van die nederlander die joodse adres boeken verstopt had op zijn zolder, zodat de nazi's ze niet zo eenvoudig konden vinden?

Een betere vergelijking met dit artikel ga je niet krijgen.

Het gaat erom dat je nu niet weet wat straks ineens niet meer mag, maar je nu wel alles uit handen geeft. Dat is gewoon super dom.

[GF187um]

De auteur heeft het voornamelijk over privacy in de vorm van gedachtes, gevoelens, sociale relaties, etc. Later komen er pas feitelijke dingen aan te pas. Als je denkt dat de wetgeving qua gedachtes alleen maar strakker gaan worden dan heb je het mis. Over de hele wereld zie je dat mensen steeds meer vrijheden krijgen. Dat zal in de toekomst met de groeiende kennis alleen maar meer worden. Er zijn genoeg tweakers die denken dat er een nieuwe Hitler aankomt, maar in deze tijd is dat niet meer dan een fobie.

Ook zal je niet met terugwerkende kracht voor iets gestraft worden. Een wet gaat altijd in werking vanaf de datum dat deze aangekondigd worden.

[tweaknico]

Totdat iemand de (juridische) zaak verbouwt en op de puinhopen iets anders gaat doen.

[Michiel36]

Kijken:

https://m.youtube.com/watch?v=4MnRC8_ux3Q

Is gewoon nu aan de hand.

Verder zou ik eens adviseren om de volgende boeken te lezen:

- Confessions of an economic hitman
- Revolutie door schuld

De tactiek van de macht in het westen is heel sneaky, eerst alles langzaam pakken, dan als er geen weg terug is pas hun echte gezicht laten zien, terwijl die van ons overal en nergens vast ligt.

[Reactie gewijzigd door Michiel36 op 22 juli 2024 19:23]

[pizzafried]

is in lijn met wat ik zeg. Crimineel gezien heb je misschien niks te verbergen....

[4x4]

Het probleem is dat wat nu niet crimineel is dat over 5 jaar wel kan zijn.
En als alles wat je doet en zegt tegen die tijd terug te halen is (een tegen die tijd foute uitspraak hier op Tweakers bijvoorbeeld) je met terugwerkende kracht 50 stokslagen kunt krijgen.

[Jerie]

Het probleem is dat wat nu niet crimineel is dat over 5 jaar wel kan zijn.

Je kunt niet met terugwerkende kracht veroordeeld worden voor iets dat in het verleden legaal was. Dat is een rechtsbeginsel: Nulla poena sine lege / legaliteitsbeginsel. Zie ook artikel 15 van het Internationaal Verdrag inzake Burgerrechten en Politieke Rechten en artikel 7 van het Europees Verdrag voor de Rechten van de Mens.

[Reactie gewijzigd door Jerie op 22 juli 2024 19:23]

[tweaknico]

Er zijn landen waar een ANDER rechts systeem toegepast wordt. Waarin die regels & beginselen helemaal niet van toepassing zijn.
Ook in het verleden zijn er voorbeelden te vinden waar het een en ander anders ingericht was.
Er zijn voldoende landen te vinden waar sommigen een soort 2e rangs burger zijn en waar andere rechten op toegepast worden... (oigoeren in china, "apartheid" in zuid afrika, "moslims" in india, hindoes in pakistan, ...).

[pizzafried]

Wat Tweaknico zegt, en een overname door een dictator, daar gaat een rechtsbeginsel en/of een grondwet niet tegen beschermen hoor. Die komt aan de macht en die heeft in no-time andere regels en die wet is niks meer waard. En dat europees verdrag voor de rechten van de mens: Schattig, maar die kunnen we alleen toepassen in de rechtsgang tegen die dictator, mochten ze hem ten val weten te brengen...

[internjet]

Die veronderstelling is absoluut niet waar. Alle mensen hebben wel degelijk veel te verbergen. Daar kom je snel achter wanneer je bv. het slachtoffer wordt van identiteitsfraude.
Maar "ik heb niets te verbergen" is vaak een reactie op een privacy schendende maatregel. Men gaat er vanuit dat vooral de privacy van criminelen geschonden wordt.
Angst is hier de slechte raadgever. Op verzoek talloze quotes beschikbaar

[locke960]

Gewoon publiceren die lijst. Mensen die een dienst als Clearview AI gebruiken zullen daar vast geen bezwaar tegen hebben.

[Reactie gewijzigd door locke960 op 22 juli 2024 19:23]

[beerse]

Deze bedrijven zullen allemaal een goede reden hebben. Ze kunnen het zelf ook doen maar ze kunnen het ook laten doen. En dat zullen ze ook allemaal in hun voorwaarden hebben staan. Dus ze maken het zelf al bekend.

[chargeren aan]
Maar ze hebben toch niets te verbergen? Uiteindelijk gebruiken deze bedrijven allemaal gegevens die al lang op internet staan. Ze combineren het, net zoals google en facebook dat ook doen. En wees eerlijk, wie heeft er nog nooit zelf een klein onderzoekje gedaan tussen vrienden van vrienden op facebook om te zien hoe die gast op die foto van dat feest ook al weer heet?
[charcheren uit]

[webdevotion]

Deze podcast episode (EN) van The Daily (NYT) vond ik zeer interessant rond Clearview AI. Klinkt als een two-man show die gedaan hebben wat anderen niet durfden om overduidelijke redenen.

Bovendien is de manier waarop federale en lokale (politie)diensten in de US lukraak software op eigen houtje testen verbijsterend. De maker van de software weet per account welke foto’s geanalyseerd worden. Deze feature hebben ze ook al gebruikt om onderzoek te hinderen.

De lokroep om zaken op te lossen is veel te groot. Als persoon huiveren de agenten maar als detective juichen ze. Begrijpelijk. Een belangrijk vraagstuk voor onze maatschappij.

https://www.nytimes.com/2...gnition-surveillance.html

[GoT.Typhoon]

Weet iemand waar ik de volledige lijst kan vinden? Kan ik deze bedrijven meteen op mijn eigen gepersonaliseerde zwarte lijst zetten.

[Remmilou]

Ik heb heel veel te verbergen
Maar ze weten alles al

[FreshMaker]

Ik heb heel veel te verbergen
Maar ze weten alles al

Het is maar de vraag wie jij onder "ze" verstaat, en in hoeverre dit 'vrijwillig' is afgestaan

[satya]

Pas een artikel gelezen rondom deze software. Opgezet met publiekelijk beschikbare algoritmes, facebook, twitter, linkedin en wat al niet meer geïndexeerd en volgens het algoritme opgeslagen en een een enorme score op vindbaarheid van personen. Met een test van een journalist was de score >90% het aantal foto's in de DB is enorm, en het 1000 voudige van overheden zelf die er gebruik van maken.

Het zou zelfs niet uitmaken of je met of zonder baard bent, een zonnebril draagt etc. Het aantal foto's in hun database is 3 miljard geïndexeerde en gecategoriseerde bestanden!

Bron:
https://www.nytimes.com/2...y-facial-recognition.html

[Deido]

Interessant! Uiteindelijk, of het nu clear view ai of een andere is, scrapen en gezichtsherkening zijn dingen die nou eenmaal bestaan, dus het valt niet te ontkomen.

[Reactie gewijzigd door Deido op 22 juli 2024 19:23]

[FreshMaker]

https://www.dailydot.com/...view-ai-lawsuit-illinois/

Heel toevallig, nu ze al een tijdje onder vuurliggen.
Google heeft al Cease & desist gestuurd, FB is al in verweer gegaan, en het bedrijf schermt met 'first amendment' rechten op openbare informatie ( wat onzin is, want het eerste amenement gaat over regering die geen beperkingen toepast, lijkt me niet dat Clearview een overheidsinstantie is

[Michiel36]

Iedereen die niet zo van geschiedenis houdt, maar toch heilig geloofd in het "ik heb niks te verbergen" dogma, bekijk eens hoe dit hedendaags ingezet wordt. Lubach heeft er net een stukje over gemaakt:

https://m.youtube.com/watch?v=4MnRC8_ux3Q


Toch best wel balen als je leider opeens bepaald dat je bij een clubje hoort waar ze vanaf moeten. Gewoon nu anno 2020.

[a3aanm]

Toch grappig. Dat de bedrijven die gevraagd of ongevraagd inbreuk maken op jouw privacy zelf met hetzelfde te maken krijgen.