Een bedrijf in Kenia, dat Meta helpt met het verbeteren van AI, krijgt beelden van gebruikers van Meta's Ray-Ban-brillen. Die medewerkers zien gebruikers naar de wc gaan, zich omkleden of porno bekijken en hebben zicht op creditcards en bankpassen.
Het gaat om privémateriaal dat de bril zonder expliciete toestemming van gebruikers doorstuurt, zo blijkt uit een inventarisatie van Svenska Dagbladet. Die toestemming is onderdeel van de voorwaarden die verplicht zijn om te accepteren bij gebruik van de bril. Daarin staat: "In sommige gevallen zal Meta uw interacties met AI's beoordelen, inclusief de inhoud van uw gesprekken met of berichten aan AI's. Deze beoordeling kan geautomatiseerd of handmatig (door een mens) plaatsvinden." Het is niet mogelijk om deze toestemming te weigeren.
Het onderzoek is van de kranten Göteborgs-Posten en Svenska Dagbladet, samen met freelancejournalist Naipanoi Lepapa in Kenia. Voor het onderzoek spraken de media met dertig medewerkers van Sama, een bedrijf in de Keniaanse hoofdstad Nairobi dat werkt voor Meta, over hun ervaringen. De medewerkers krijgen de fragmenten om te beoordelen of de AI vragen van gebruikers op de juiste manier heeft verstaan en beantwoord. De fragmenten bevatten ook beeld. Hoe lang de fragmenten zijn, is onbekend.
De medewerkers in Kenia kunnen de beelden niet zelf opnemen en verspreiden, want het gebruik van camera's en telefoons op de werkvloer is verboden. Behalve beelden van ontkleden, naar de wc gaan en porno bekijken stuurde Meta ook beelden van vrijpartijen door, die gebruikers zelf hadden gefilmd.
Het is niet te achterhalen hoeveel en welke data naar medewerkers van Sama gaat. Het is niet voor het eerst dat duidelijk wordt dat mensen interacties met AI beoordelen. Dat gebeurde jaren geleden ook bij slimme speakers. Daarna kwamen er opties om het sturen van fragmenten uit te schakelen. Tweakers schreef enkele maanden geleden uitgebreid over leven met die bril.