WeChat en Chinese versie TikTok implementeren wet die labels AI verplicht

Apps zoals WeChat van Tencent en Douyin van ByteDance, de Chinese versie van TikTok, zijn begonnen met tekst, afbeeldingen en video's die door AI zijn gemaakt te labelen als AI-gegenereerd. Dat moet volgens een nieuwe Chinese wet.

Accounthouders moeten bij het uploaden aangeven of hun content AI-gegenereerd materiaal bevat, meldt de South China Morning Post. Vervolgens verschijnen er labels in beeld voor gebruikers en in de metadata, die duidelijk maken dat het om materiaal gaat dat AI heeft gemaakt.

Het gaat om een nieuwe wet die maandag inging. De bedoeling is om de verspreiding van desinformatie met behulp van kunstmatige intelligentie tegen te gaan. TikTok is al enkele jaren bezig met het voorzien van AI-content van labels.

Reacties (18)

[wildhagen]

Dat moet volgens een nieuwe Chinese wet.

Kijk en dit vind ik nu een goede actie. Het is soms volstrekt onduidelijk of iets nu écht is of dat AI-gegeneerde zooi is. Kan toch knap lastig zijn te herkennen soms.

Niet handig als het stuk dan desinformatie verspreid, omdat mensen kunnen denken dat het échte informatie is, terwijl het onzin en fake is.

Dit is nu imho een stukje wetgeving dat ze hier ook zouden mogen overnemen. Niet op één specifiek platform oid, maar gewoon in zijn algemeenheid.

[nzall]

Het plaatst wel nog altijd de verantwoordelijkheid bij de gebruiker. Kan me goed voorstellen dat het voor bad actors triviaal is om dit label weg te laten als ze effectief desinformatie willen verspreiden... Met andere woorden gaat dit volgens mij niet veel zoden aan de dijk brengen.

Sterker nog: zo'n label kan een vals gevoel van veiligheid geven, of juist waardeloos lijken, afhankelijk van hoe eerlijk mensen zijn. Als zeer weinig mensen het AI label weglaten op AI content, dan gaan mensen op dat label vertrouwen en zijn de momenten dat het WEL weggelaten wordt momenten van vals vertrouwen. Maar als mensen dat label massaal weglaten omdat het hun inkomsten bedreigt, dan gaan mensen zich daar niets van aantrekken.

[watercoolertje]

Kan me goed voorstellen dat het voor bad actors triviaal is om dit label weg te laten als ze effectief desinformatie willen verspreiden.

Maar dan zijn ze wel verantwoordelijk te houden! Het is daarmee (lang niet) niet perfect maar wel beter dan nu.

[magician2000]

Tenzij het de overheid zelf is die hier tactisch gebruik van maakt. De wetgeving is twijfelachtig te noemen in een land met een dergelijk regime. Met andere woorden, vals gevoel van "veiligheid".

[JackJack]

Zie het vooral als een eerste stap in de goede richting.
"Don't let perfection stand in the way of progress"

Dit zet vast de toon voor vervolg stappen.

[HenkEisDS]

Dit gaat totaal niets uithalen. Je krijgt dan hetzelfde als nu in Californië gebeurt: overal komt een waarschuwing/label op om maar te voorkomen dat de items waar het wel nodig is niet per ongeluk vergeten worden.

[Sandor_Clegane]

Beter dan niets doen. Er is nu al zoveel "slop", kunnen we misschien Ublock gebruiken om niet alleen reclames te blocken maar ook alle AI "slop".

[Sandor_Clegane]

Er zit wel wat nuance tussen een filter of Crab Jesus in mijn optiek.

[AppAvenue]

Heel goed. Dit zou overal verplicht moeten worden. Nu is er voor het ongetrainde oog al lastig. Zelfs met een getraind oog is het soms al moeilijk en dat zal alleen meer erger worden met elke nieuwe iteratie.

[Dreamsonic]

Helemaal mee eens, maar een AI-tag kan ook averechts werken. Als zoiets niet goed werkt of omzeild wordt, verliezen mensen mogelijk nog meer vertrouwen en kan dat zelfs complottheorieën in de hand werken.

[AppAvenue]

Mjaaaa, dat zal je blijven houden. Wordt nu al gedaan, zonder dat er iets tegen gedaan wordt. Dit lijkt me een mooie eerste stap, om van daaruit verder te kijken. Niks doen, zoals de meeste landen, is kwalijker naar mijn mening.

[Tabenda]

Interessant dat China nu zowel zichtbare labels als onzichtbare watermerken/metadata verplicht stelt voor AI-content op WeChat, Douyin, Weibo e.a. Dat gaat verder dan “creators moeten zelf aangeven”: platforms moeten ook technisch markeren en detecteren. In theorie vergroot dit transparantie; in de praktijk werkt het alleen binnen de Chinese platform-tuinen en zolang het hele ecosysteem dezelfde standaarden draagt. Content zonder C2PA/credentiëlen of met gestript metadata (re-encode, screenshot) glipt er makkelijk tussendoor, terwijl false positives makers kunnen raken.

De timing is ook politiek: de regels zijn in maart gepubliceerd en per 1 september 2025 ingegaan, waarop grote platforms nu versneld labelen. Buiten China experimenteert TikTok al met automatische labeling via C2PA, maar dat blijft vrijwillig; in China is het afdwingbaar en kan labeling ook de distributie en moderatie sturen (denk: throttle, takedown, sancties). Dat kan desinformatie tegengaan, maar ook de creatieve ruimte verkleinen en toezicht normaliseren. Handig instrument, machtig precedent.

[12_0_13]

In plaats van AI te labelen, zou andersom (veel) beter zijn, (en komt wellicht ook); dat authentieke content wordt gesigned via PKI, net zoals websites etc. Werkt ook voor niet AI (maar wel photoshopped) foto's etc.

De kans dat er gesjoemeld wordt is veel kleiner, want het lijkt me onmogelijk om alle AI content correct zo te labellen.

[- peter -]

Maar wat weerhoud je ervan om een AI afbeelding te signen?

[12_0_13]

Niks! Maar dat is ook niet het punt ;)

Maar jij kan dat niet met mijn private key. Ik publiceer mijn public key zodat iedereen kan zien welke images ik zelf heb gesigned.

Zo kan een journalist zijn public key beschikbaar maken en kan je verifieren dat een foto van die journalist komt en niet de aangepaste die uit een desinformatiefabriek komt.

[Reactie gewijzigd door 12_0_13 op 4 september 2025 09:34]

[GoT]

Sinds wanneer kunnen WeChat en TikTok wetten implementeren, denk eerder dat het regels zijn.

[12_0_13]

Een wet beschrijft wat (de spec waar je aan moet voldoen), degene de hem uitvoert, implementeert hem?