PimEyes, een zoekmachine waarmee gebruikers met gezichtsherkenning mensen op foto's kunnen identificeren, gaat zoekopdrachten naar minderjarigen blokkeren. Het bedrijf doet dat na een artikel van The New York Times over hoe zulke diensten kinderen in gevaar kunnen brengen.
PimEyes gaat een detectiesysteem inzetten om zoekopdrachten naar kindergezichten te herkennen en blokkeren, schrijft The New York Times. Ceo Giorgi Gobronidze vertelt aan het dagblad dat de dienst 'technische maatregelen' heeft genomen om dergelijke opdrachten te blokkeren als onderdeel van een 'no harm'-beleid. PimEyes laat mensenrechtenorganisaties nog wel naar de gezichten van minderjarigen zoeken als die zich bezighouden met kinderrechten, zegt de topman.
De dienst gebruikt 'kunstmatige intelligentie' om de kinderzoekopdrachten te blokkeren. Een algoritme schat de leeftijd van de persoon in de zoekopdracht om zo minderjarigen te identificeren. Volgens de PimEyes-ceo werkt dat goed voor kinderen die jonger dan veertien jaar zijn, maar heeft het nog 'nauwkeurigheidsproblemen' met tieners. Het systeem zou ook identificatieproblemen hebben als het kind niet vanuit een bepaalde hoek is gefotografeerd. De dienst zegt het detectiesysteem momenteel nog te perfectioneren.
The New York Times testte het systeem door te zoeken naar een foto van kindsterren Mary-Kate en Ashley Olsen. Het blokkeerde de zoekopdracht naar de tweeling die recht in de camera keek. De zoekopdracht naar de andere tweeling, die vanaf de zijkant op de foto stond, werd wel succesvol uitgevoerd. Daarop werden tientallen andere foto's van de kindster getoond, inclusief links naar de websites waar die zijn gepubliceerd.
Het blokkeren van kindergezichten stond volgens Gobronidze 'op de roadmap sinds 2021', maar werd pas onlangs, kort na een artikel van The New York Times over de gevaren van AI voor kinderen, daadwerkelijk geïmplementeerd. PimEyes is officieel bedoeld om het gezicht van de gebruiker zelf op te zoeken en zo onbekende foto's op internet te vinden. Er waren tot voor kort echter geen technische maatregelen om ervoor te zorgen dat gebruikers alleen hun eigen gezicht opzoeken.
PimEyes is volgens de NYT gebruikt door ouders om onbekende foto's van hun eigen kinderen op internet te vinden. De dienst kan echter ook gebruikt worden door onbekenden. De dienst heeft eerder 'meer dan 200 accounts' verwijderd wegens ongepaste zoekopdrachten naar de gezichten van kinderen, vertelt Gobronidze aan de Amerikaanse krant. "Afbeeldingen van kinderen kunnen gebruikt worden door individuen met een verwrongen moreel kompas en waarden, zoals pedofielen en kinderlokkers", erkent de topman.
PimEyes is een betaalde zoekmachine waarmee mensen in foto's geïdentificeerd kunnen worden door middel van gezichtsherkenning. Gebruikers kunnen een persoon in een foto scannen en krijgen vervolgens andere foto's met die persoon erop te zien, als die op internet staan.