Een algoritme voor gezichtsherkenning dat door FBI wordt gebruikt in een database met foto's van ongeveer de helft van alle Amerikanen, blijkt in 15 procent van de gevallen een verkeerde match te geven. De database wordt gebruikt voor het opsporen van verdachten.
Het gebruikte algoritme geeft bij mensen met een donkere huidskleur vaker een verkeerde match dan bij mensen met een blanke huidskleur. Dat blijkt uit een zitting van een toezichtscommissie van het Amerikaanse Huis van Afgevaardigden.
In de biometrische database die vanaf 2010 in gebruik is, zitten volgens een rapport van de Universiteit van Georgetown foto's van 117 miljoen Amerikanen. Dit zijn vooral foto's afkomstig van mugshots, rijbewijzen, paspoorten en creditcards. De FBI heeft met achttien staten afspraken gemaakt om uit hun regionale databases bijvoorbeeld foto's van rijbewijzen te bemachtigen. Al deze foto's zijn in de database van de FBI opgeslagen zonder dat de mensen op de foto's daarvoor toestemming hebben gegeven of ervan wisten. De FBI heeft ook jarenlang nagelaten om een bij wet verplicht privacybeoordelingsrapport op te stellen over de database.
Alvaro Bedoya, directeur van het centrum voor privacy en technologie van de rechtenfaculteit van de Universiteit van Georgetown, stelt dat er geen federale wet is die deze technologie reguleert. Volgens hem is er ook geen rechterlijke uitspraak die nadere voorwaarden of beperkingen aan het gebruik van de database heeft opgelegd. Er is volgens Bedoya geen controle op hoe de FBI gebruikmaakt van de database en wat er allemaal in de database wordt opgenomen.
Vorig jaar heeft het Government Accountability Office, het Amerikaanse equivalent van de Algemene Rekenkamer, al een onderzoek ingesteld naar de database. Hun bevindingen waren dat het schortte aan goed toezicht en verantwoording. Ook vond het bureau de accuraatheid van de database ondermaats. Ook zou de FBI niet bijhouden hoeveel valse positieve matches de database signaleert en wordt er niet gelet op raciale vooroordelen. Mede hierdoor bestaat volgens het Government Accountability Office de kans dat onschuldige mensen vals worden beschuldigd.
In Nederland is de politie eind 2016 begonnen met het inzetten van gezichtsherkenning bij het opsporen van verdachten. Daarbij worden databases ingezet met afbeeldingen van 800.000 gezichten van veroordeelde misdadigers, maar ook verdachten die nog niet zijn veroordeeld. Foto's van verdachten die onschuldig blijken, worden verwijderd uit de database, maar het is niet duidelijk hoe snel dat gebeurt. Afhankelijk van het soort misdrijf blijven de foto's van veroordeelden twintig tot tachtig jaar in de database staan.