China gaat online platforms verplichten om AI-gegenereerde content als zodanig te labelen. Volgens het land moet dat desinformatie tegengaan. Alle AI-content die online wordt gedeeld, moet vanaf september van een zichtbaar en onzichtbaar watermerk zijn voorzien.
De eisen zijn vrijdag aangekondigd door de Cyberspace Administration of China. Volgens de nieuwe regels moet alle content die wordt gegenereerd door AI, waaronder teksten, afbeeldingen, video's en audio, van zowel een expliciet als impliciet label worden voorzien. Expliciete labels moeten voor gebruikers direct zichtbaar zijn, terwijl impliciete labels in de metadata van bestanden aanwezig moeten zijn. China geeft geen specifieke eisen voor hoe deze labels eruit moeten zien.
Onder deze regels zijn online gebruikers verplicht om aan te geven dat de content die ze posten, gemaakt is met AI. Online platforms worden geacht om te controleren of synthetische content van de juiste labels is voorzien. Ook eigenaren van appwinkels moeten controleren of de applicaties die ze aanbieden voldoen aan deze regels.
Volgens de Chinese internetwaakhond worden generatieve-AI-tools steeds vaker misbruikt voor onder meer het verspreiden van desinformatie. De nieuwe maatregelen die vanaf 1 september ingaan, moeten de schade door misbruik beperken en zorgen voor de 'gezonde en ordelijke ontwikkeling van kunstmatige intelligentie'.
In Europa is een dergelijke verplichting onderdeel van de AI Act. De voormalige Amerikaanse president Joe Biden ondertekende in 2023 een decreet waarmee opdracht werd gegeven voor de ontwikkeling van effectieve manieren om achter de oorsprong van content te komen, maar deze is in januari door Donald Trump ingetrokken.