Meta's moderatie van AI-gegenereerde content is 'incoherent en onverdedigbaar'. Dat stelt zijn interne Oversight Board, dat moderatiebeslissingen op Facebook, Instagram en Threads beoordeelt. Volgens het adviesorgaan wordt er te weinig AI-content als zodanig gelabeld.
Het Oversight Board uit in een blogpost kritiek op het 'onvermogen' van Meta om automatisch alle AI-gegenereerde media op zijn platformen te herkennen en te voorzien van een AI-label. Een jaar geleden begon het bedrijf met het labelen van AI-gegenereerde media op Facebook, Instagram en Threads, naar aanleiding van eerdere feedback van het adviesorgaan. Gebruikers kunnen aangeven dat een post (deels) door AI is gemaakt, maar Meta beloofde ook zelf een detectiesysteem te gebruiken om AI-content proactief te kunnen opmerken.
Dat laatste gebeurt echter onvoldoende, oordeelt het Oversight Board nu. "Ondanks de toenemende hoeveelheid digitaal gemanipuleerde content is Meta's naleving van zijn beleid rondom gemanipuleerde content inconsequent." De toezichtsraad haalt voorbeelden aan van gemanipuleerde audiofragmenten die, zelfs na meerdere meldingen, niet in alle gevallen van een label werden voorzien. Ook als exact hetzelfde audiofragment later door een andere gebruiker wordt gepost, wordt dat niet meteen door Meta gelabeld.
Meta laat aan zijn Oversight Board weten dat het bedrijf enkel in staat is om statische afbeeldingen automatisch te herkennen en van een label te voorzien, maar dat dit niet mogelijk is bij video's en audio. Volgens het adviesorgaan spreekt dit een eerdere belofte van het bedrijf tegen. Meta liet vorig jaar namelijk weten dat het 'alle identieke gevallen' van gemanipuleerde media van een label ging voorzien. Dat dit nu toch niet blijkt te lukken, noemt het Oversight Board 'incoherent en onverdedigbaar'.
Het adviesorgaan raadt Meta aan om snel te investeren in technologie waarmee het bedrijf naast afbeeldingen ook video's en audio op grote schaal kan identificeren en labelen. Meta moet binnen 60 dagen reageren op de aanbevelingen van de toezichtsraad, maar is niet verplicht die over te nemen.
/i/2007741162.webp?f=fpa)
:strip_exif()/i/2005940134.jpeg?f=fpa)
:strip_exif()/i/2007292382.jpeg?f=fpa)
/i/2004609018.png?f=fpa)
:strip_exif()/i/2004743102.jpeg?f=fpa)
:strip_icc():strip_exif()/u/542/crop5bc8ccfca2eb4.jpeg?f=community){kind=small}
/u/900065/crop65b3839879b1c_cropped.png?f=community){kind=small}
:strip_icc():strip_exif()/u/84609/crop5eb854071bb7f.jpeg?f=community){kind=small}