TikTok verbiedt deepfakes van privépersonen en wil labels bij andere deepfakes

TikTok heeft aanvullende regels geïntroduceerd voor 'synthetische en gemanipuleerde media', waaronder bijvoorbeeld deepfakes vallen. Bepaalde gemanipuleerde content moet bijvoorbeeld een sticker of bijschrift krijgen en deepfakes van privépersonen mogen niet meer.

Kunstmatige intelligentie kan het volgens TikTok moeilijker maken om onderscheid te maken tussen feit en fictie, wat 'zowel maatschappelijke als individuele risico's' met zich meebrengt. Daarom moeten TikTok-posts die realistische scènes tonen met synthetische of gemanipuleerde content, dit duidelijk vermelden. Deze vermelding kan bijvoorbeeld met een sticker of bijschrift, waarin de woorden kunstmatig, nep, niet echt of bewerkt staan.

Op het platform wordt het daarnaast verboden om synthetische content te maken met de gelijkenis van 'echte privéfiguren'. Deepfakes met bijvoorbeeld vrienden of familieleden mogen dus niet meer. TikTok geeft wel ruimte aan deepfakes op basis van publieke figuren, zoals beroemdheden en politici.

Het platform zegt alleen niet te willen dat dergelijke publieke figuren 'het onderwerp worden van misbruik of dat mensen worden misleid over politieke of financiële kwesties'. Gebruikers mogen dan ook geen deepfakes maken van publieke figuren, als die content wordt gebruikt voor steunbetuigingen 'of in strijd is met ander beleid'. Met dat laatste doelt TikTok op onder meer haatzaaien, seksuele uitbuiting of ernstige vormen van intimidatie.

Het misleiden van gebruikers met content zoals deepfakes was al verboden, maar TikTok heeft deze regels nu uitgebreid en verduidelijkt. De laatste tijd zijn op sociale media steeds vaker deepfakes verschenen waarbij de stem met kunstmatige intelligentie wordt aangepast, zodat de deepfake realistischer overkomt. TikToks nieuwe beleid gaat op 21 april in.

Reacties (44)

[MrRobot]

Waar ligt de scheidslijn tussen privé- en niet privépersonen?

• Huisvader zonder social media verdienmodel: privé?
• Huisvader die 1 keer op Lingo heeft gewonnen: privé?
• CEO van Shell: niet privé?
• Mark Zuckerberg: niet privé?
• Xi Jinping: niet privé?

[Reactie gewijzigd door MrRobot op 23 juli 2024 20:12]

[xoniq]

Staat toch in het artikel?

Op het platform wordt het daarnaast verboden om synthetische content te maken met de gelijkenis van 'echte privéfiguren'. Deepfakes met bijvoorbeeld vrienden of familieleden mogen dus niet meer. TikTok geeft wel ruimte aan deepfakes op basis van publieke figuren, zoals beroemdheden en politici.

[L00_Cyph3r]

Dus als de meme die je maakt maar populair genoeg is dan worden die mensen vanzelf beroemd
Het is en blijft nog steeds een onduidelijke lijn.

[xoniq]

Naja de lijn wordt (naar mijn idee) getrokken naar mensen die bewust de publiciteit in gaan, en mensen die dat niet doen. Politici zetten zich bewust in de kijker, en dus ook acteurs en actrices, or mensen als Elon Musk.

[pmeter]

Ik blijf twijfelen over:
* Een rechter.
* Een timmerman met 100 volgers op YouTube.
* Een hoogleraar die eenmaal is uitgenodigd als gast bij Nieuwsuur.
* Een verdachte in een moordzaak met veel aandacht in de landelijke media die uiteindelijk onschuldig bleek.
* Een zwakbegaafde man die onderwerp was van een meerdelige documentaire.
* Een filosoof die na zijn dood beroemd werd, waarbij zijn nabestaanden deep fakes willen tegengaan.

[Reactie gewijzigd door pmeter op 23 juli 2024 20:12]

[xoniq]

Ik blijf twijfelen over:
* Een rechter.

Een rechtszaal is niet persé een publieke plek, of een plek waar deze persoon de publiciteit op zoekt, maar doet enkel zijn/haar werk. Lastige.

* Een timmerman met 100 volgers op YouTube.

Deze is simpel, een timmerman die zijn eigen gezicht op YouTube zet, zoekt de publiciteit op, en verliest het recht als privé persoon IMHO.

* Een hoogleraar die eenmaal is uitgenodigd als gast bij Nieuwsuur.

Ik vind persoonlijk dat als je je op TV laat zien, dan zoek je bewust de publiciteit op, en ben je op dat moment geen privé persoon.

* Een verdachte in een moordzaak met veel aandacht in de landelijke media die uiteindelijk onschuldig bleek.

Deze is niet lastig, de verdachte zoekt de aandacht voor zijn zaak, en is wellicht de enige oplossing. Dit vind ik dan niet bewust de publiciteit op zoeken puur om bekend te zijn. Maar een noodzaak. Helemaal als ie achteraf onschuldig blijkt.

* Een zwakbegaafde man die onderwerp was van een meerdelige documentaire.

Lastig inderdaad.

[Nico de Vries]

Deze is simpel, een timmerman die zijn eigen gezicht op YouTube zet, zoekt de publiciteit op, en verliest het recht als privé persoon IMHO.

Volgens die redenatie is iedereen die zichzelf op Facebook, LinkedIn, Instagram of Twitter zet dus ook vogelvrij.

Dat je plaatjes van jezelf op Internet zet is wat mij betreft niet hetzelfde als Tik Tokkers toestemming geven diepfakes van je te gaan maken.

[The Zep Man]

Deze is niet lastig, de verdachte zoekt de aandacht voor zijn zaak,

Dit haal ik niet uit de geschetste situatie.

[xoniq]

Als het ongevraagde aandacht is, dan is het toch überhaupt niet bewust in de publiciteit treden? Dan gaat het al helemaal niet op.

[n0mn0m]

Volgens mij begrijp jij het privepersonen en deepfakes niet echt...

[n0mn0m]

Dus als een kind ergens wordt geinterviewd of in het publiek zit bij een kinderprogamma mag er in de toekomst altijd deepfakes van die persoon gemaakt worden aangezien deze persoon het publiek op heeft gezocht?

[Christoxz]

Exact, zie hun beleid rondom intimidatie/pesten:

We staan sommige kritische opmerkingen over publieke figuren toe, in de wetenschap dat zij zich in een positie van publieke aandacht bevinden en manieren hebben om negatieve uitingen tegen te gaan, en dat de kritiek in het algemeen belang kan zijn om te bekijken

[The Zep Man]

Er zit best wel wat ruimte tussen kritische opmerkingen en intimidatie/pesten.

[HADES2001]

Nog steeds "bewust de publiciteit in gaan" is geen duidelijk iets. Mensen hebben een publieke pagina op facebook telt dat al? Veel mensen willen zelfs de publiciteit in maar nooit door gebroken tellen die mensen ook? Ik heb twee keer in de krant gestaan met een foto val ik dan al onder publiek persoon?

Ik snap je punt hoor er is een duidelijk zwart/wit stuk maar ook een heel groot grijs gebied

[feuniks]

Natuurlijk zetten die personen zich bewust in de kijker. Dat wil echter nog niet zeggen dat je daarom maar een deepfake mag maken (en plaatsen) van Rutte die Kaag eens goed van achter neemt.

[xoniq]

Ik reageer puur om die richtlijnen, omdat die als vaag worden gezien, terwijl die richtlijnen best recht toe, recht aan zijn in de context. Wat wij ervan vinden doet er verder niet toe.

[WillySis]

Als jij een goede, sluitende definitie van een "beroemdheid" hebt, dan kan je de wereld heel blij maken. Nu is die term zo vaag als het maar wezen kan.
De huisvader die Lingo wint is (tijdelijk) een beroemdheid. Een dorpsgek als "Jan met de grote voeten" was in ons dorp een beroemdheid, maar twee dorpen verderop kende niemand hem.
Als ik Expeditie Robinson of De Mol zie met bekende Nederlanders, dan mag ik blij zijn als ik een kwart van de "beroemdheden" ken.
Mocht ik een leuke memme maken met een deepfake van mijn buurman, dan zal (bijna) niemand zien dat het mijn buurman is. Mocht de memme een hype worden, dan is mijn buurman ineens beroemd.

[blorf]

Ze willen kunnen bepalen wat waar is omdat daar dik mee valt te verdienen.
Hoog tijd voor een hardware-revolutie. Dit soort bedrijven bestaan door structureel gebrek aan controle en afwezigheid van alternatieven binnen de (hardwarematig afgedwongen) software-omgevingen waar het in draait.

[Tintel]

Idd - is niet elk persoon z'n beeld privé? Als de imitatie slechts delen overneemt zodat men kan zien dat het nep is (bijv. een karikatuur), dan is het okay en dat is precies dus geen 'deep fake'.

[avlt]

Ik snap dit onderscheid niet; ik zou eerder omgekeerd verwachten. Wat maakt het voor mij nu uit of een mij onbekende persoon nu een deep-fake is of niet?

Als ik daarentegen een bekende persoon iets zie beweren, wil ik wel graag weten of het echt of nep is.

Maar ja, ik denk dat het toch een zinloze maatregel is; we moeten de makers maar op hun blauwe ogen geloven. En, denkt iemand nou werkelijk dat Tik-Tok erachter aan zou gaan als ergens deepfakes gepost worden, zo ze al als deepfake gedetecteerd zouden worden?

[Daoka]

"Hoi ik avlt en ik haat homo's".
Zou je dit kunnen waarderen als dit een deepfake was?

Ik denk dus dat onbekende ook bescherming moeten hebben. Bijvoorbeeld bij relaties die op een verkeerde manier stuk gaan en dat je nog even wraak wil nemen.

Ik ben het wel met je eens dat bekende mensen ook wel bescherming nodig hebben.

[Mathijs Kok]

Wat maakt het voor mij nu uit of een mij onbekende persoon nu een deep-fake is of niet?

Dus jij begrijpt echt niet dat een deep-fake betreffende Rutte over een atoomaanval is wat meer impact heeft dan een deep-fake van avlt (waar het ook over gaat)?

Is er dan geen tweaker meer met een stel hersenen?

[Fugitive2008]

Benieuwd of de deep fake van Xi en winnie de pooh zou blijven staan dan, beide publieke figuren.

[Victorppp]

Ikzelf: privé?

Er staat niks in het artikel over jezelf

[Reactie gewijzigd door Victorppp op 23 juli 2024 20:12]

[WillySis]

Het hele systeem deugd niet.
Een deepfake van een onbekend persoon mag niet, maar wie herkent die persoon en vooral, hoe wil TikTok dat controleren? Als ik een realistisch gezicht laat maken (e-dali is daar best goed in), dan is er een grote kans dat het gezicht op iemand lijkt.
Met andere woorden, gewoon altijd een melding eronder is veel handiger.

[RogerWilco2]

Helemaal mee eens.

[Daoka]

Ik denk dat het vooral bedoelt is als er dus ook namen gebruikt worden. Stel dat ik jou uiterlijk en naam als deepfake gebruik en je verkeerde dingen laat zeggen. Je gaat ergens solliciteren en dat bedrijf zoekt op jouw naam en vind dat. Voor 99.99% van de mensen zal je onbekend zijn maar dus voor die ene 0.01% kan het dus wel problemen geven.

[WillySis]

Ook voor beroemde en publieke personen is het in dat geval juist belangrijk dat er aangegeven wordt dat het om digitaal gecreëerde content gaat die niet op waarheid hoeft te berusten.

[Victorppp]

Deepfakes met bijvoorbeeld vrienden of familieleden mogen dus niet meer

Mag je wel een deepfake maken van je vrienden en familie als je er toestemming voor hebt?
Of betekend dit helemaal geen deepfakes meer van mensen mag maken die je niet in 1 google search kan vinden, ook niet vanjezelf.

[Reactie gewijzigd door Victorppp op 23 juli 2024 20:12]

[veltnet]

wat is de vraag? Of het in Nederland mag? Of het in China mag? Of het van tiktok mag? Of dat het van de familie mag? En van wie heb je die toestemming?

[Reactie gewijzigd door veltnet op 23 juli 2024 20:12]

[Victorppp]

Ik zal de vraag wat duidelijker maken. Mag je wel deepfakes op tiktok zetten van jezelf of is dit ook verboden? En hoe zit het met privépersonen die je toestemming geeft om deepfakes te publiceren op tiktok, mag dit dan ook niet?

[Aaargh!]

Bepaalde gemanipuleerde content moet bijvoorbeeld een sticker of bijschrift krijgen en deepfakes van privépersonen mogen niet meer.

Dit doet me een beetje denken aan RFC 3514, de 'evil bit'.

Iemand die kwaad in de zin heeft met zo'n deep fake gaat natuurlijk nooit dit bijschrift toevoegen, dus wat voegt dit toe ?

[FrostyPeet]

Moet je voor de aardigheid eens kijken wat voor scripts AliE draait als je er de laatste gadgets wilt kopen, een adblocker als ublock origin slaat bijna op tilt. Daar hoor je weinig over.

Ik prijs mij gelukkig dat ik bij de laatste(?) generatie hoor waarbij sociale media niet tot de primaire dagbesteding hoort, het weinig relevant is wat voor pasjes een random persoon uit een random land danst. Ik prijs mij gelukkig dat ik geen afkickverschijnselen heb als ik mijn smartphone een halve dag niet gebruik..

Verder ben ik van mening dat een _werk_telefoon voor werk is. Tenzij je in de PR, klantencontact o.i.d. werkt hoor je geen sociale media geïnstalleerd te hebben. Er zijn genoeg schandalen geweest om er ver van te blijven als zichzelf respecterend bedrijf. Als ik een medewerker zie met sociale media op zijn smartphone in een vertrouwelijke positie zie dat een prima reden om een ander bedrijf te zoeken. Het is wachten op een datalek of een ander "data ongeluk".

[Roel1966]

Even voorop gesteld dat het hele TikTok mij totaal niets interesseert en er eerlijk gezegd ook nog nooit naar gekeken heb. Maar wat deepfakes betreft vraag ik mij vaak ook af wat dat voor nut heeft en het vaak schertsend bedoeld is. En tja helaas is het wel vaker zo dat het al snel te ver kan gaan en alleen maar tot ruzie kan leiden. Ergens moet je dus een grens trekken en zeker al op social media kan het al snel wat uit de hand gaan lopen.

[Mathijs Kok]

Even voorop gesteld dat het hele TikTok mij totaal niets interesseert en er eerlijk gezegd ook nog nooit naar gekeken heb.

En meer 1.000.000.000 mensen doen dat dus wel. En daarom is jouw mening dus van niet groot belang. En dat zegt ik werkelijk met respect. TikTok is mij ook geheel vreemd maar ik begrijp wel dat het als medium gewoon erg belangrijk is. Zeker omdat het volledig onder controle staat van de overheid.

[Roel1966]

En meer 1.000.000.000 mensen doen dat dus wel. En daarom is jouw mening dus van niet groot belang.

Ik denk dat je een tikfoutje gemaakt hebt en het geen miljarden zijn 'maar' 3.000.000 waarvan 1.600.000 actieve gebruikers. Dus dat betekent dat er ook heel wat niet-TikTok gebruikers zijn, grootste deel zelfs als je het alleen zou betrekken op NL.

TikTok is mij ook geheel vreemd maar ik begrijp wel dat het als medium gewoon erg belangrijk is.

Tja, TikTok is maar gewoon een vorm van social media en in hoeverre dat dit belangrijk is. Voor mensen als jij en ik duidelijk niet dus en zo zijn er echt wel meer mensen. Zo gebruik ik wel b.v. Whatsapp maar dat ik nou echt zeg van ik kan niet zonder Whatsapp, nee hoor. Ergens pak ik nog veel liever gewoon de telefoon en spreek live met iemand.

[geerttttt]

Neemt niet weg dat vrijwel elke tiener in Nederland momenteel tiktok op zijn telefoon heeft. En een groot deel gebruikt het ook dagelijks. Ik zou dat wel een substantieel deel noemen.

[crazyboy01]

Gemiddelde leeftijd is zelfs 18 tot 24 geloof ik, tegenwoordig heeft in ieder geval zelfs vrijwel iedere twintiger het ook wel in ons land. En ook bij mensen in de 30 zie je het nog wel heel vaak, maar daarna neemt het wel flink af.

[Roel1966]

Mijn nicht en neven zijn ongeveer in die leeftijd maar die hebben er echt helemaal niets mee, maar die hebben het ook te druk met werk en kinderen etc...

[crazyboy01]

Er zijn uiteraard altijd uitzonderingen, zo doet ook echt niet iedereen aan Facebook of Instagram. De enige app waarbij ik me echt niet kan voorstellen dat je het niet (bijna gedwongen) gebruikt in deze tijd, is WhatsApp. Op wat techies na die veel bezig zijn met privacy uiteraard, maar die laten vrijwel alle apps links liggen.

Ik ben zelf in die leeftijd, en ik ken bijna niemand die niet praat over TikTok virals etc. Ik zit er zelf misschien nog wel het minste op van alle leeftijdsgenoten die ik ken, krijg constant die dingen doorgestuurd etc. De meeste van mijn vrienden zijn wel nog niet zo ver dat ze al kinderen hebben, op één na. Die doet inderdaad ook geen TikTok, maar krijgt genoeg mee via ons en jawel, haar kinderen. En ook dat is, indirect, invloed.

[Roel1966]

waarbij ik me echt niet kan voorstellen dat je het niet (bijna gedwongen) gebruikt in deze tijd, is WhatsApp.

Klopt, ik ken zelfs mensen binnen mijn familie en vriendenkring die je soms alleen via Whatsapp kan bereiken en de telefoon geeneens meer oppakken. Dus ja ik doe helaas ook mee aan die hele Whatsapp hype, althans dan wel meer uit noodzaak.

Ik ben zelf in die leeftijd, en ik ken bijna niemand die niet praat over TikTok virals etc.

Ik ben zelf dan niet in die leeftijd maar volg wel altijd alles voor zover, maar actief mee doen is er bij mij niet meer bij. Niet omdat ik het niet kan volgen of niet weet hoe het werkt maar veel meer omdat ik eerder wat teveel heb gechat en bezig was met social media.

Maar zoals ik al eerder schreef merk ik dat hier in mijn kring de jongeren er niet echt mee bezig zijn, althans niet actief.

[Roel1966]

De tieners die ik ken zijn dan misschien wel een uitzondering want die hebben niets met TikTok, of hebben er eens naar gekeken maar boeit het niet zozeer. Denk ook dat het meer een hype is geworden en toch weer na verloop van tijd af gaat nemen.

[geerttttt]

Tenzij je docent bent ofzo zegt je anekdotische bewijs niet zoveel. Tiktok is toch by far wel het meest gebruikte platform voor jongeren ..

[SBAB]

Het kan een n00b vraag zijn, maar ik volg de shorts op Facebook nu al een paar weken, sommige van die filmpjes zijn gewoon gescript (ook van Tik Tok). Is het dat wat ze bedoelen met deep fake toestanden? Ik volg het allemaal niet zomaar meer. Ik ben dan ook al bijna 60, maar zoals vroeger krijg ik soms een waterval aan vragen van leeftijdgenoten. Daarom heb ik me hier ook een profiel aangemaakt
In elk geval, Twitch, Tik Tok, ik blijf er ver van weg. Niks voor mij. Fijne dag nog allen.

G