Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

China verbiedt nepnieuws dat gemaakt is met virtual reality en deepfakes

In China is het per 2020 verboden om nepnieuws te publiceren dat gemaakt is met virtual reality of deepfakes. Het is dan verplicht om duidelijk aan te geven dat het gaat om gefabriceerde beelden. Deepfakes zijn een groeiend probleem.

Volgens de Cyberspace Administration of China kunnen dergelijke publicaties "de nationale veiligheid in gevaar brengen, de samenleving ontwrichten en de rechten van anderen schenden". Reuters schrijft dat China eerder dit jaar nog stelde dat het overwoog om deepfakes in hun geheel illegaal te maken, maar zover is het nu nog niet gekomen.

Deepfakes zijn videobeelden waarbij iemands gezicht op een ander lichaam geplaatst is. Met behulp van kunstmatige intelligentie wordt het gezicht niet alleen geplaatst op het lijf in de video, maar de gezichtsuitdrukkingen worden ook overgenomen. De technologie is inmiddels zodanig volwassen dat het aardig moeilijk kan zijn om in te schatten of een video een deepfake is of niet. Het YouTube-kanaal Ctrl Shift Face publiceert veel deepfakes met als doel om te vermaken.

Ook het Nederlandse Openbaar Ministerie en Nederlandse Defensie Cyber Commando hebben hun zorgen over deepfakes. Het OM stelt echter dat het huidige wettelijk kader, te weten inzake smaad en laster, wel toereikend is.

Tegelijkertijd werken verschillende organisaties aan tools om deepfakes te herkennen en individuele platformen als Twitter werken ook aan beleid om goed met het fenomeen om te gaan.

Het gezicht van Star Wars-actrice Daisy Ridley gebruikt in een video

Door Mark Hendrikman

Nieuwsposter

30-11-2019 • 13:20

144 Linkedin Google+

Reacties (144)

Wijzig sortering
Ik vind dat deep fake wel interessant. Ik snap alleen niet zo goed dat mensen dingen van bijvoorbeeld Facebook zo serieus nemen. Dat gedoe met die BNers en die reclame, of Russen die via Twitter de presidentsverkiezingen beïnvloeden... Dat zou in Nederland ook een bedreiging zijn (zegt men). Ik snap dat als je ergens in de rimboe zit en alleen Facebook als nieuwbron hebt dat het dan wat lastig kan zijn, maar hier?

In China snap ik het ook wel. Als al het nieuws door de overheid wordt bepaald is het interessant om op zoek te gaan naar alternatieve bronnen. Daar zit ook veel nep troep tussen, dus dan wordt het wel lastig om een goed beeld te krijgen van wat er om je heen gebeurd.
Veel "journalisten" gebruiken Facebook en vooral Twitter ook als bron voor wat er brekend is. Deepfakes op die platformen kunnen en zijn al door media opgepikt geworden - helaas willen journos wel eens lui zijn (fenomeentje churnalism, gewoon herkouwen wat je leest, beetje aanpassen en schrijven maar). Zoek voor de gein maar eens op een pakkende headline, je zult tig sites vinden die exact die kop gebruiken.

China wil niet dat mensen het vertrouwen in de staatsmedia en de toegestane social media platforms verliezen. Het is een van de manieren waarop ze de controle over informatiestromen behouden.
Nepnieuws -is- in Nederland al een bedreiging. Parlementariërs van PVV en FvD slingeren met enige regelmaat hoaxes op twitter. Bijvoorbeeld het onwaar gebleken verhaal dat de messteker in Groningen een moslim zou zijn. Of foto's van zogenaamd angstwekkende moslim migranten die dan Ethiopische Kopten blijken te zijn. Of foto's van schandalige bootvluchtelingen wat dan van scene's uit een film blijkt te zijn. Enz. enz., volg Peter Burger op twitter en je schrikt ervan.

Dat ophitsen met nepnieuws door PVV en FvD in combinatie met de CDA/VVD politiek die voor knap veel ontevreden mensen uit het sociale laag en midden zorgt, is een giftige cocktail. De migranten, moslims en (zeker ook in Duitsland) joden krijgen (weer) eens de schuld. Daar hoef je maar een paar weken twitter voor te volgen en je ziet het voor je ogen gebeuren.

"Wir haben es nicht gewusst" is dankzij het internet geen optie meer.

Zou me niets verbazen als een PVV-er of FvD-er de eerste politicus is in Nederland die deepfakes gebruikt voor kwaadaardige hitserij, het past in hun gedragspatroon. Of de VVD maar dan in een knullig hahaha grappig filmpje.
Oh, gelukkig ontgaat mij de meeste politiek buiten de nieuwsberichten en Tweakers. Facebook heb ik voor mijn buitenlandse vrienden en de rest doe ik niet aan. Misschien leef ik al een beetje onder de generatiekloofsteen.
misschien is het een beter idee om camera's te maken die de content direct encrypten en/of te watermerken, zodat er iig een manier is om er zeker van te zijn dat sommige videos 100% echt zijn. Software te maken die voorkomt dat als zo'n video teveel ge-edit wordt dat hij nog steeds als authentiek geldt.
Lijkt met niet zo moeilijk om er ook een watermerk in te faken.
nou... ik kan m'n email ook merken zodat je kunt zien dat het origineel is. Als dat met de inhoud van een mail kan, kan dat ook met de inhoud van een filmpje.
Het punt is niet dat je iets kan signen of watermerken, maar waarom je die zou vertrouwen. Leuk dat je een watermerk gebruikt, maar als ieder toestel dat kan toepassen waarom zou je de ene dan wel accepteren en de ander niet? En wat doe je als een sleutel die iemand er voor gebruikt een keer fout heeft toegepast? Moet je dan alles van die sleutel maar niet meer als betrouwbaar accepteren?

Watermerken signatures zijn zo veel waard als het vertrouwen in de gebruiker en de sleutel.
Dit klinkt wel als de juiste route, verbieden dit te doen zonder aan te geven dat het gedaan is. Als vermaak kijken we dagelijks fictie op TV, dus hier kan fictie ook, zolang maar duidelijk is dat het fictie is, en niet alsof het echt is. Duidelijke regels die ruimte/vrijheid laten aan content makers zich uit te leven.
Voor ons is fictie vaak duidelijk. Er zijn echter genoeg acteurs die door mensen op straat kwaad aangesproken worden omdat ze op tv zien dat hun rol iets slechts deed. "Jij bedroog x toch? Vuile leugenaar", dat soort zaken. Genoeg mensen die een soap als waarheid beschouwen.
Dat gebeurde al in de tijd van de televisieserie Dallas - waar los van het waardeloze acteertalent bepaalde hoofpersonages werden bedreigd. Maar trek het eens door (geweldadige) games, of muziek (lyrics) iedereen reageert daar anders op.

Deepfake zal niet tegen te houden zijn, en je zal het als mens met enig analytisch vermogen ook helemaal niet willen want het zal voor een excuus zorgen om bepaalde politieke maatregelen te nemen die ongetwijfeld een verdere beperking van vrije nieuwsgaring en mogelijk ook privacy in de hand zullen gaan werken.
"Deepfake zal niet tegen te houden zijn, en je zal het als mens met enig analytisch vermogen ook helemaal niet willen want het zal voor een excuus zorgen om bepaalde politieke maatregelen te nemen die ongetwijfeld een verdere beperking van vrije nieuwsgaring en mogelijk ook privacy in de hand zullen gaan werken."

Is dan het analytisch vermogen van sommigen het probleem, of is de dwaze politiek het probleem?
Deepfakes die dan uitkomen zonder de duidelijkheid zijn dus gewoon direct fout. Een soort van disclaimer erbij en je mag wel gewoon je grapje maken (voorzover dat kan, in China). Duidelijk, mag hier ook wel, vooral omdat we hier zo vrij denken en de wat minder slimme massa toch erg gemakkelijk om de tuin te leiden is. Hier is de potentie van deepfakes voor kwaadwillenden enorm.
en zelfs dat gaat niet helpen want zo'n filmpje is natuurlijk ook direct als deepfake aan te merken
Een van de weinige wetgevingen in China waar ik wel achter kan staan.
Deepfakes zijn soms zo goed dat je als leek niet kan zien dat het nep is

Deze bijvoorbeeld;
https://m.youtube.com/watch?v=puBQ_r7ox8M

Is hier in Europa al wetgeving voor?
Liever niet zeg, ik omarm deepfakes lijkt me geweldig en mensen mogen van mij deepfakes van mij maken zodra het mainstream gaat. Zeker z'n text to speech op basis van mijn stem zoals notjordanpeterson.

Waarom zeg ik dit?
Omdat ze niet van echt te onderscheiden zijn. Dat betekend dat je het niet kunt reguleren net als dat nu niet lukt met nep citaten.

Ga je dit proberen te bestrijden geef je de rechterlijke macht volledig vrijspel tot censuur. Klokken luider neemt gesprek op waar politicus niet blij mee is? Deepfake dus weg.

Andersom is dit wel weer een zegen, als alles te faken valt en iedereen het kan plaatsen zijn mensen verplicht bewijs te geven voor de bron. Wat weer helpt met de privacy want stiekem opgenomen is dan net zo geloofwaardig als een gefotoshopt whatsapp bericht.

We gaan naar een tijd toe waar je moet denken in potentie in plaats van ruw materiaal. Hoe waarschijnlijk is X echt of nep? Dat is de vraag die je nu al zelf moet stellen want er gaat continu ook in de media misleidende informatie rond. Klopt het bijvoorbeeld als amerika naar de russen of kaspersky wijst. Of zit er meer achter?

Dus nee niet reguleren maar burgers kritisch laten denken. Hoe waarschijnlijk is het dat het echt of nep is. Nu worden mensen ook verkeerd geciteerd of wordt er creatief geknipt. Dus laten we a.u.b. de verantwoordelijkheid bij het volk houden en niet bij een staat gezien de staat belang heeft om kritische informatie buiten de deur te houden.
Computers zijn prima in staat om Deepfakes te herkennen.

https://m.youtube.com/watch?v=51uHNgmnLWI

Het is nu niet strafbaar om fake news de wereld in te helpen. En het als het bij wet vast ligt dat het verboden is, kunnen burgers net zo goed iemand aanklagen voor fake news dmv deekfake. Het is niet zo dat Deepfakes verboden moeten worden.
Gaat dit niet gewoon in een kat en muis spelletje resulteren, waarbij de computer het uiteindelijk ook slecht kan herkennen? De techniek is nog relatief jong, het verbaast me niet dat de huidige algoritmes nog niet daarmee in het achterhoofd zijn ontwikkeld
De meeste van die deepfake technieken worden juist getraind door middel van Generative Adversarial Networks, heel kort samengevat zijn dat neurale netwerken die getraind worden als een duo van neurale netwerken: één netwerk moet het vervalste materiaal maken (het generative netwerk), het andere moet proberen echt materiaal van vals materiaal te onderscheiden (het discriminative network). Dus bij het maken van deepfake, wordt inherent gebruik gemaakt van dat kat-en-muisspelletje. Het zal echter wel zo zijn dat het discriminative network niet krachtig genoeg meer is om echt en vals te onderscheiden, maar niets houdt iemand anders tegen om daar een krachtiger netwerk voor te proberen maken (maar dat kan dan op zijn beurt ook weer gebruikt worden om een sterker generative network te maken, en ga zo maar door).

In eerste instantie zie ik dus geen mogelijkheid om die wapenwedloop definitief te winnen. Misschien dat technieken zoals video watermerken wel garanties zouden kunnen bieden om authenticiteit van videomateriaal na te kijken (al is de vraag natuurlijk of dergelijke technieken ook niet te omzeilen zullen zijn door een neuraal netwerk).
Het zou mij verbazen als er niet ergens een computer staat te rekenen om met machine learning deep fakes te verbeteren, juist met behulp van de "herken software.
Voordat een computer dit herkent kan het al door miljoenen mensen bekeken/beluisterd zijn. Hoe bereik je al deze mensen dan weer om vervolgens uit te leggen dat het nep was?
Dus jij omarmt deepfake, dus jij omarmt dat ze jou mogen gebruiken voor deepfake, dus jij omarmt dat ze jouw gezicht op een porno video zetten en misschien doorsturen naar familie en vrienden, dus jij omarmt dat ze jouw hoofd op camera beelden zetten van een overval. Het is misschien vergezocht hé, en met onbekende is de kans dat dat gebeurt kleiner, maar er zijn zo mensen die dit doen. Idd deepfake kan ook tof zijn, als het NIET IN DE VERKEERDE HANDEN valt.
Ik denk dat je iets te simpel denkt over wat er mogelijk is met deepfakes.

Leuk dat je het ok vindt, maar blijft dat zo wanneer je een maand in de cel hebt gezeten in afwachting van onderzoek of die video waarin je overduidelijk die moord hebt gepleegd een deepfake is?

En dat is nog maar een simpel voorbeeld. Vorige week werden 3 mannen na 36 jaar cel vrijgelaten omdat het bewijs destijds was vervalst. Stel je voor wat er met deepfakes mogelijk gaat worden om het leven van mensen diep te ruïneren...

Het gaat niet om mensen die jou kennen, maar mensen die jou níet kennen.

Edit: Ik heb het hier trouwens alleen over de mogelijke gevolgen, of het wel of niet verboden moet worden laat ik in het midden.

[Reactie gewijzigd door ChromeBallz op 1 december 2019 03:56]

Totdat de politie bij je aanbelt om je te arresteren voor die overval/sex met een minderjarige of ander onheil; dan is het opeens wel degelijk jouw probleem. Om over het via deepfakes beinvloeden van verkiezingen nog maar te zwijgen......

De makers daarvan zullen zich inderdaad niet storen aan een verbod, dus zullen we op andere manieren de vinger heel erg aan de pols moeten houden en maatregelen verzinnen die dit wel allemaal voorkomen.

[Reactie gewijzigd door Philpend op 1 december 2019 11:19]

Sorry maar zeg je nou serieus dat als je een VOG hebt je geen overval zou kunnen hebben plegen :')
En natuurlijk is het opvragen van de originele beelden direct bewijs dat de andere video deepfake is (al kunnen algortitmes dat momenteel ook prima zien), maar daar gaat het niet om want dan is het kwaad al geschied, er zullen dan mensen zijn die alleen de eerste video zien en nooit zullen zien of horen dat het een fake was en dus altijd de eerste video geloven. Voor de gemiddelde persoon is dat niet zo'n enorme ramp want dat waait wel over, maar als je een publiek figuur bent is dat dodelijk voor je cariere
Het probleem is nu dat het gros iets leest op Facebook, dat vervolgens als waarheid beschouwt en in oneindigheid gedeeld gaat worden. Mensen zijn tegenwoordig te gemakkelijk, ze geloven te snel iets en gaan nieuws te snel zien als waarheid zonder zelf nog na te denken of dieper uit te zoeken waar het nou werkelijk om zou gaan.

Nepnieuws is iets van alle tijden en zal altijd zo blijven, alleen veranderen de technieken er achter. Men moet scherp blijven en blijven nadenken. Je ziet het bijvoorbeeld aan de anti-vax groepering en dat hele druppel medicijn gedoe. Een iemand schreeuwt het op Facebook en een flink aantal mensen neemt het meteen aan als waarheid.

Verbieden heeft ook geen zin. Wie reguleert het? Zoals je inderdaad al zegt kan een politicus nieuws wat hem niet aanstaat dan als nepnieuws beschouwen en vervolgens iemand die wel de waarheid spreekt de mond snoeren? Slechte zaak.
Een politieker kan vandaag ook al zeggen dat hij dingen niet gezegd/gedaan heeft. Trump (en vele anderen) doen het elke dag :)

Verbieden hoeft dus niet. Het feit dat mensen weten dat het nep kan zijn, is voldoende voor een gezaghebbend persoon om iets in twijfel te trekken.

Het verbieden maakt het echter strafbaar om fake news te verspreiden en dát kan dan weer wel interessant zijn. Je hoopt dan natuurlijk wel dat dit een onafhankelijke organisatie is die onderzoek doet.
Met de juiste deepfake / fake news kan je mensen hun leven ruïneren. Het lijkt mij niet slecht om dat te kunnen verbieden.
Zie bv naaktfoto's die uitlekken van jongeren nadat een sexting is rond gegaan. Als straks de software zo goed is dat het nauwelijks van echt te onderscheiden is, heb je enkel maar wat gewone foto's nodig en fabriceer je de naaktfoto zelf van de persoon die je wil kwetsen.
Dat men de wet wat scherper wil stellen snap ik dus wel. Perfect zal het echter niet zijn nee.
En hoe bepaal jij dan of iets nep nieuws is of niet? Anti vax is een mooi voorbeeld want daar zitten ook gradaties in. Zo zijn er genoeg mensen die overtuigd zijn van de werking van vaccinaties maar zijn meer bezorgd over de bijwerkingen en eventuele gevaren. En daar zijn genoeg vraagtekens bij te plaatsen. Dat doet niks af aan het feit dat vaccinaties wel/niet werken.

Het werkt namelijk ook de andere kant op. Namelijk klakkeloos iets voor waarheid aannemen. Een goed voorbeeld is wat je leert op school. En dan doel ik voornamelijk wat je er niet leert. Want je leert alleen wat ze willen dat je leert.
Dat iets op dit moment misschien nog niet goed te handhaven is, is geen reden om het niet illegaal te bestempelen.
Ergens moet een eerste stap gezet worden. Als deepfakes verboden verklaart wordt, wat mij een hele verstandige actie lijkt, dan zal technologie om deepfakes te detecteren, vanzelf volgen.
Propaganda verspreiden is illegaal toch? En smaad/laster/eerroof ook.
Yes je moet het alleen bewijzen.
Een hele slechte vergelijking. Het verspreiden van een bepaalde gedachten goed doen onze eigen politici dagelijks, op staats gesponsorde televisie zelfs.
Het verspreiden van propaganda is in essentie helemaal niet illegaal. Liegen op televisie is ook niet illegaal, wederom, dat doen onze eigen politici dagelijks, de waarheid wordt constant maar voor de helft uitgelicht en op zo'n manier geframed dat het in hun eigen politieke gedachtengoed valt. Dat is de definitie van propaganda.

Er zal niemand opgepakt worden zolang zijn of haar 'propaganda' niet over rassenhaat of andere overduidelijk strafbare zaken gaan.

Deepfakes hebben de potentie om een enorme ontwrichtende werking op onze samenleving te hebben. Zodra het wordt gebruikt om leugens mee te verspreiden in naam van iemand anders kan de tegenpartij wel roepen "FAKE", maar dan blijft het een civiele zaak waarbij men ook nog eens het publiek daarvan moet overtuigen.
Als je wilt weten waarom dat een gevaarlijk uitgangspunt is hoef je alleen maar naar het hedendaagse Amerika te kijken. Trump wordt links en rechts beticht van leugens, maar er zijn er nog steeds hele volksstammen welke niet geloven dat het leugens zijn.

Het wordt een hele andere zaak als het betichten van het gebruik van DeepFakes strafrechtelijke implicaties heeft. Het is een veel krachtiger signaal naar het publiek als een bepaalde boodschap aantoonbaar DeepFake 'was' en de partij in kwestie daar ook voor vervolgt wordt in een strafrechtelijk onderzoek. Op zo'n moment zullen mensen wel 2x nadenken voordat ze deepfakes gebruiken voor politieke of andere advertentie doeleinden.
Omdat ze niet van echt te onderscheiden zijn. Dat betekend dat je het niet kunt reguleren net als dat nu niet lukt met nep citaten.
Deepfake is misschien niet van echt te onderscheiden met het blote oog, maar als er eenmaal wat gezegt word door een hoog staand figuur en het is deepfake, hebben ze dat zo achterhaald hoor

Gaat natuurlijk meer om dat mensen denken dat het echt is en het nieuws verspreiden, daar is China erg op tegen

Dus ik snap jouw punt wel, echter breng jij het wel erg extreem, er is geen mogelijkheid dat je je zelf kan beschermen door te zeggen dit is deepfake ipv van echt, genoeg methodes om er achter te komen of het echt of nep is
Je kunt de vooruitgang niet tegenhouden. In plaats van de luddiet uit te hangen en technologie te verbieden, laat de mensheid zien hoe eenvoudig het is om beelden te vervalsen.

Nu ja, het kan de aanhangers van Trump en dergelijke geen biet schelen of hij de waarheid vertelt. Wat telt is dat zijn boodschap bij de kiezer resoneert, en dat hij hen een thuis biedt in een snel veranderende wereld die hen in het stof laat bijten.

Je moet echt geen geavanceerde beeldanalyse doen om hem op leugens te betrappen; het is voldoende om zijn tweets te bookmarken en te wachten tot hij zichzelf tegenspreekt. Desondanks heeft hij wel het presidentschap gewonnen en zal hij wellicht nog eens vier jaar aanblijven. Dit omdat zijn kernboodschap "fuck the liberals" is en er veel mensen zijn die hun achteruitgang op economisch en sociaal vlak aan de liberals te danken hebben.

Waarom brexit? Omdat een politicus leugens op een bus plakte, of omdat het grootste deel van het land economisch in de steek gelaten is en dus de leugens op de bus maar al te graag hoort? Waarom anti-vax? Omdat een of andere kwakzalver essentiële oliën wil verkopen, of omdat men heel goede redenen heeft om big pharma te wantrouwen en dus de leugens van deze kwakzalver maar al te graag voor waar aangenomen worden?

Je kunt beelden van politici vervalsen, maar je kunt niet vervalsen waar een partij voor staat. Als men op een "ongewenste" partij stemt, kijk dan even in eigen boezem waarom.
Het probleem is dat om beelden te vervalsen, of om die vervalsingen te vinden, je over het algemeen hetzelfde nodig hebt. Verbieden is de enige optie om er vanaf te komen. En persoonlijk zie ik er geen probleem in. Het tolereren van bedrog is nooit nodig. Ook al is een vervalsing eenvoudig aanwijsbaar, de intentie verandert er niet door, en die kan alleen maar negatief zijn.

[Reactie gewijzigd door blorf op 30 november 2019 18:11]

Hoewel je verwoording misschien een beetje hard is ben ik het wel met je eens. Dit is niet echt een goede "deepfake". Hij is zelfs zo slecht dat hij duidelijk in de uncanny valley val, het gezicht is bijvoorbeeld net niet echt. Hij is net slecht op Nixon's hoofd geplakt.

Daarnaast, nog storender, spraak en mondbeweging kloppen net niet waardoor het lijkt alsof het een dub is van een ongerelateerd filmpje. Het is vooral erg als het hoofd beweegt, "when they take any public figure on" terwijl hij draait. Het lijkt echt helemaal nergens op...

[Reactie gewijzigd door Thekilldevilhil op 30 november 2019 14:57]


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone 11 Nintendo Switch Lite LG OLED C9 Google Pixel 4 FIFA 20 Samsung Galaxy S10 Sony PlayStation 5 Politiek en recht

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True