Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

China verbiedt nepnieuws dat gemaakt is met virtual reality en deepfakes

In China is het per 2020 verboden om nepnieuws te publiceren dat gemaakt is met virtual reality of deepfakes. Het is dan verplicht om duidelijk aan te geven dat het gaat om gefabriceerde beelden. Deepfakes zijn een groeiend probleem.

Volgens de Cyberspace Administration of China kunnen dergelijke publicaties "de nationale veiligheid in gevaar brengen, de samenleving ontwrichten en de rechten van anderen schenden". Reuters schrijft dat China eerder dit jaar nog stelde dat het overwoog om deepfakes in hun geheel illegaal te maken, maar zover is het nu nog niet gekomen.

Deepfakes zijn videobeelden waarbij iemands gezicht op een ander lichaam geplaatst is. Met behulp van kunstmatige intelligentie wordt het gezicht niet alleen geplaatst op het lijf in de video, maar de gezichtsuitdrukkingen worden ook overgenomen. De technologie is inmiddels zodanig volwassen dat het aardig moeilijk kan zijn om in te schatten of een video een deepfake is of niet. Het YouTube-kanaal Ctrl Shift Face publiceert veel deepfakes met als doel om te vermaken.

Ook het Nederlandse Openbaar Ministerie en Nederlandse Defensie Cyber Commando hebben hun zorgen over deepfakes. Het OM stelt echter dat het huidige wettelijk kader, te weten inzake smaad en laster, wel toereikend is.

Tegelijkertijd werken verschillende organisaties aan tools om deepfakes te herkennen en individuele platformen als Twitter werken ook aan beleid om goed met het fenomeen om te gaan.

Het gezicht van Star Wars-actrice Daisy Ridley gebruikt in een video

Door Mark Hendrikman

Nieuwsposter

30-11-2019 • 13:20

144 Linkedin Google+

Reacties (144)

Wijzig sortering
Veel "journalisten" gebruiken Facebook en vooral Twitter ook als bron voor wat er brekend is. Deepfakes op die platformen kunnen en zijn al door media opgepikt geworden - helaas willen journos wel eens lui zijn (fenomeentje churnalism, gewoon herkouwen wat je leest, beetje aanpassen en schrijven maar). Zoek voor de gein maar eens op een pakkende headline, je zult tig sites vinden die exact die kop gebruiken.

China wil niet dat mensen het vertrouwen in de staatsmedia en de toegestane social media platforms verliezen. Het is een van de manieren waarop ze de controle over informatiestromen behouden.
Het punt is niet dat je iets kan signen of watermerken, maar waarom je die zou vertrouwen. Leuk dat je een watermerk gebruikt, maar als ieder toestel dat kan toepassen waarom zou je de ene dan wel accepteren en de ander niet? En wat doe je als een sleutel die iemand er voor gebruikt een keer fout heeft toegepast? Moet je dan alles van die sleutel maar niet meer als betrouwbaar accepteren?

Watermerken signatures zijn zo veel waard als het vertrouwen in de gebruiker en de sleutel.
Computers zijn prima in staat om Deepfakes te herkennen.

https://m.youtube.com/watch?v=51uHNgmnLWI

Het is nu niet strafbaar om fake news de wereld in te helpen. En het als het bij wet vast ligt dat het verboden is, kunnen burgers net zo goed iemand aanklagen voor fake news dmv deekfake. Het is niet zo dat Deepfakes verboden moeten worden.
De meeste van die deepfake technieken worden juist getraind door middel van Generative Adversarial Networks, heel kort samengevat zijn dat neurale netwerken die getraind worden als een duo van neurale netwerken: één netwerk moet het vervalste materiaal maken (het generative netwerk), het andere moet proberen echt materiaal van vals materiaal te onderscheiden (het discriminative network). Dus bij het maken van deepfake, wordt inherent gebruik gemaakt van dat kat-en-muisspelletje. Het zal echter wel zo zijn dat het discriminative network niet krachtig genoeg meer is om echt en vals te onderscheiden, maar niets houdt iemand anders tegen om daar een krachtiger netwerk voor te proberen maken (maar dat kan dan op zijn beurt ook weer gebruikt worden om een sterker generative network te maken, en ga zo maar door).

In eerste instantie zie ik dus geen mogelijkheid om die wapenwedloop definitief te winnen. Misschien dat technieken zoals video watermerken wel garanties zouden kunnen bieden om authenticiteit van videomateriaal na te kijken (al is de vraag natuurlijk of dergelijke technieken ook niet te omzeilen zullen zijn door een neuraal netwerk).
Ik denk dat je iets te simpel denkt over wat er mogelijk is met deepfakes.

Leuk dat je het ok vindt, maar blijft dat zo wanneer je een maand in de cel hebt gezeten in afwachting van onderzoek of die video waarin je overduidelijk die moord hebt gepleegd een deepfake is?

En dat is nog maar een simpel voorbeeld. Vorige week werden 3 mannen na 36 jaar cel vrijgelaten omdat het bewijs destijds was vervalst. Stel je voor wat er met deepfakes mogelijk gaat worden om het leven van mensen diep te ruïneren...

Het gaat niet om mensen die jou kennen, maar mensen die jou níet kennen.

Edit: Ik heb het hier trouwens alleen over de mogelijke gevolgen, of het wel of niet verboden moet worden laat ik in het midden.

[Reactie gewijzigd door ChromeBallz op 1 december 2019 03:56]

Totdat de politie bij je aanbelt om je te arresteren voor die overval/sex met een minderjarige of ander onheil; dan is het opeens wel degelijk jouw probleem. Om over het via deepfakes beinvloeden van verkiezingen nog maar te zwijgen......

De makers daarvan zullen zich inderdaad niet storen aan een verbod, dus zullen we op andere manieren de vinger heel erg aan de pols moeten houden en maatregelen verzinnen die dit wel allemaal voorkomen.

[Reactie gewijzigd door Philpend op 1 december 2019 11:19]


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone 11 Nintendo Switch Lite LG OLED C9 Google Pixel 4 FIFA 20 Samsung Galaxy S10 Sony PlayStation 5 Apple

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True