Meta doet bewust te weinig aan AI-gegenereerde content op Facebook, zegt het Oversight Board van het bedrijf. Het sociale netwerk is bang om legitieme content met beroemdheden te verwijderen, maar slaat daarin te veel door en laat zo veel deepfakes en oplichtingspraktijken toe.
De Meta Oversight Board, een adviesorgaan dat adviseert over inhoudelijke moderatiebeslissingen op Facebook en Instagram, heeft Meta tot de orde geroepen over deepfakes. In september 2024 besloten Facebook-moderatoren een deepfake van oud-voetballer Ronaldo op het platform te laten staan. In de spampost prijst een AI-gegenereerde Ronaldo een gameapp aan. De post werd 600.000 keer bekeken. Nadat gebruikers de post als 'fraude' aanmerkten, bleef de post staan. Ook nadat de gebruiker die de melding deed in beroep was gegaan tegen die beslissing, liet Facebook de post online staan.
Facebook moet de post nu alsnog verwijderen, zegt de Oversight Board. Achter die beslissing gaat belangrijkere kritiek schuil over Meta's beleid rondom AI- en deepfakecontent op zijn platformen. Dat gebeurt veel te veel en bewust, zegt de adviesraad.
De contentmoderatoren zijn niet in staat om deepfakes van beroemdheden te verwijderen, zelfs niet als die ingezet worden voor oplichting en fraude. Specifiek de 'op-schaalmoderatoren' mogen dat niet, zegt de adviesraad. Dat zijn de doorgaans laagbetaalde krachten in arme landen of die in externe centra werken om op grote schaal gerapporteerde posts af te werken. Zij hebben geen rechten om content rondom beroemdheden te verwijderen. Dat mogen alleen 'gespecialiseerde teams bij Meta', zegt de Oversight Board.
Dat heeft volgens de Board te maken met Meta's beleid en verdienmodel rondom beroemdheden. "Meta laat waarschijnlijk significante hoeveelheden spamcontent op zijn platformen toe om mogelijke overmatige moderatie van een kleine groep van oprechte aanbevelingen van beroemdheden te voorkomen", zegt de Board. Met andere woorden: er is een klein groepje beroemdheden dat wél legitieme aanprijzingen doet op Facebook, maar het bedrijf is bang dat het met strengere moderatieregels dergelijke uitingen mogelijk per ongeluk te veel verwijdert.
Volgens de Oversight Board zou Meta de moderatoren meer de mogelijkheid moeten geven om zijn standaardprocedures rondom fraude en oplichting toe te passen, specifiek bij beroemdheden. Dat zou kunnen door reviewers toegang te geven tot meer mogelijkheden om oplichting te herkennen, zoals het spotten van watermerken en metadata in content.