Deepfakes verbieden? Daarvoor heeft Nederland nu al genoeg wetten

deepfakes

Met generatieve AI is het maken van deepfakes eenvoudiger dan ooit, maar pas sinds deze maand is het probleem op grote schaal onder de aandacht gekomen. Daar kunnen we chatbot Grok voor bedanken, die X overspoelde met bewerkte foto's van echte mensen, vaak door ze virtueel uit te kleden tot in hun bikini. Onder meer de Europese Commissie, het Verenigd Koninkrijk en Japan doen momenteel onderzoek naar de legaliteit daarvan. Dat was reden voor X om het genereren van openbare afbeeldingen tijdelijk te blokkeren. Ook heeft het platform inmiddels een geoblokkade opgelegd om het digitaal uitkleden van personen op te schorten in landen waar dat verboden is, waaronder Nederland en België.

Uit een eerdere test van Tweakers blijkt dat Grok niet de enige chatbot is die bikinideepfakes van echte mensen kan maken. De vraag is dus of AI-bedrijven aansprakelijk gesteld kunnen worden voor het faciliteren van AI-gegenereerde deepfakes. In Nederland bestaat er nog geen wetgeving die het (laten) maken en verspreiden van deepfakes expliciet verbiedt, maar wel lag er vorig jaar van 30 oktober tot en met 31 december een voorstel in consultatie om een wetsartikel over deepfakes toe te voegen aan de Wet op de naburige rechten. Deze wet geeft uitvoerenden en producenten het recht om te beslissen wat er met door hen geproduceerd materiaal gebeurt, bijvoorbeeld in hoeverre het vermenigvuldigd en uitgezonden mag worden. Ook voorziet de wet erin dat ze hier een redelijke vergoeding voor kunnen vragen.

Dit nieuwe deepfakeartikel lijkt dus een beetje een vreemde eend in de bijt, omdat het zich niet specifiek richt op uitvoerenden en producenten. Volgens dit voorstel krijgt iedere persoon in Nederland een deepfakerecht, waarmee hij zich kan verzetten tegen een deepfakeversie van zichzelf. Kortgeleden stelde het CDA al Kamervragen over of deze wetswijziging kan helpen om tegen AI-gegenereerde deepfakes op te treden. Juristen die Tweakers sprak, twijfelen echter of zo'n wetsartikel echt nodig is om deepfakemisbruik aan te pakken. Volgens hen is het maken van deepfakes, vooral op de manier waarop Grok dat tot voor kort deed, ook onder de bestaande wetgeving al in veel gevallen strafbaar.

Er zijn al tal van regels voor het verspreiden van deepfakes

Volgens de juristen die Tweakers sprak, zijn er in Nederland al verschillende civiele rechten waar slachtoffers van deepfakes zich momenteel op kunnen beroepen. Als een deepfake bijvoorbeeld seksueel van aard is, is dat strafbaar volgens het Wetboek van Strafrecht, stelt jurist Lisette Meij. "Eerder heeft de rechter al geoordeeld dat materiaal dat digitaal wordt vervaardigd (dus iemands hoofd op een naakt lichaam plakken) daaronder valt. Het hoeft dus geen 'echt' beeld te zijn. AI-gegenereerde beelden zouden hier ook onder kunnen vallen."

Ook kunnen slachtoffers van deepfakes zich vaak beroepen op het portretrecht. "Het staat vast dat een deepfake van een persoon, waarin je die persoon kan herkennen, een inbreuk op het portretrecht is", zegt jurist Bernt Hugenholtz. Volgens hem is een deepfake onder het portretrecht bijna altijd schadelijk. "Het kan een aantasting zijn van je persoonlijke integriteit, omdat je bijvoorbeeld wordt uitgekleed, maar als je een BN'er bent heb je ook een financieel belang." Overigens geldt er (ook in het nieuwe wetsvoorstel) een uitzondering voor deepfakes die worden gemaakt voor satire, mits er duidelijk wordt gemaakt dat er gebruik wordt gemaakt van een deepfake.

Tot slot zou de AVG-wetgeving mogelijk nog behulpzaam kunnen zijn, al verschillen de juristen die Tweakers sprak hierover van mening. Hugenholtz: "De AVG beschermt tegen de verwerking van persoonsgegevens. Het maken van een deepfake is in de meeste gevallen een verwerking van een persoonsgegeven. Op grond van de AVG kun je dus ook optreden, mits je door de deepfake schade hebt geleden." Volgens jurist Charlotte Meindersma is dit echter lastiger, omdat de AVG een bestuursrechtelijke regeling is die de Autoriteit Persoonsgegevens moet handhaven. De AVG is voor burgers dus moeilijker om als uitgangspunt voor een rechtszaak te gebruiken dan het portretrecht.

De maker van een pornografische deepfake van presentatrice Welmoed Sijtsma is in 2023 veroordeeld tot een voorwaardelijke taakstraf. Bron: BSR Agency/Getty Images)

Lastig om platform aansprakelijk te houden

Vervolgens is het nog de vraag of ook de makers van de tools die gebruikt worden voor het genereren van deepfakes, aansprakelijk gehouden kunnen worden. In het geval van Grok is die vraag mogelijk het makkelijkst te beantwoorden. X maakte tot voor kort de bewerkte foto's namelijk automatisch openbaar op zijn platform, terwijl grote online platforms onder de Europese DSA-wetgeving verplicht zijn om illegale content te verwijderen en om streng te modereren om te voorkomen dat er seksuele content op komt. De EU onderzoekt momenteel of X deze verplichtingen heeft verzaakt door de Grok-bot zelf illegale beelden te laten verspreiden op het sociale medium.

Het is echter lastiger om de andere AI-tools, waarmee het met een omweg mogelijk is om bikinifoto's te genereren, verantwoordelijk te houden. Meindersma: "In het geval van Grok is het heel makkelijk om bikinifoto's te maken, met een eenvoudige prompt, maar als je het hebt over de andere tools die dat ook kunnen, maar waarbij je meer moeite moet doen om het voor elkaar te krijgen, wordt het ook lastiger om ze erop aan te spreken. Want ze doen al hun best om het moeilijker te maken."

Volgens haar is het ook moeilijk om tegen platforms te zeggen dat ze het deepfaken van bestaande foto's helemaal tegen moeten houden. "Als iemand dat bij een foto van zichzelf wil doen, of als parodie, dan zou dat ook niet kunnen. Daar beperk je iemand misschien weer te veel mee. Eigenlijk beland je dan in een politieke discussie: wat is belangrijker, privacy of de vrijheid om zulke beelden van jezelf of als parodie te maken?"

Overigens heb je ook nog de Europese AI Act, die regels oplegt aan bedrijven achter AI-modellen. Het is nog onduidelijk of deze wet de mogelijkheid om schadelijke deepfakes te genereren, gaat reguleren. Volgens deze wet moeten AI-bedrijven vanaf 2 augustus 2026 voldoen aan diverse transparantieverplichtingen en dus aangeven dat content door AI gegenereerd wordt, maar dat is volgens Hugenholtz geen zeer harde norm. Daarnaast bevat de wet regels voor aanbieders van AI-tools om 'systemische risico's' te voorkomen, maar wat deze risico's zijn, is volgens de jurist nog niet goed uitgewerkt. Het is dus niet duidelijk in hoeverre het genereren van deepfakes hieronder zou kunnen vallen.

Nieuwe deepfakewet dient een ander doel

Voor het voorkomen van schadelijke deepfakes biedt de voorgestelde Wet naburig recht deepfakes van personen dus weinig nieuws onder de zon. Dat wil echter niet zeggen dat dit wetsvoorstel geen gevolgen zal hebben, want eigenlijk dient het een ander doel. De Wet op de naburige rechten, waaraan de bepalingen uit het wetsvoorstel moeten worden toegevoegd, is immers bedoeld om mensen in creatieve beroepen, zoals acteurs, te beschermen, niet om persoonskenmerken te beschermen. Bepaalde regels in de deepfakewet maken dan ook duidelijk dat deze wet vooral bedoeld is voor de creatieve sector.

Zo maakt het wetsvoorstel het mogelijk om een deepfake van jezelf te licentiëren of over te dragen tegen een vergoeding. "Als de deepfake specifiek voor een film wordt gemaakt, gaat het deepfakerecht vanzelf over aan de filmproducent", zegt Hugenholtz. "Het is eigenlijk een manier om het uiterlijk van personen verhandelbaar te maken. Dat is nu nog niet mogelijk onder een andere wet."

Het voorstel heeft ook gevolgen voor AI-stemklonen. Voor stemmanipulaties zijn momenteel nog niet echt regels in Nederland. Een stem valt bijvoorbeeld niet onder het portretrecht. Onder dit voorstel worden ze echter net zo beschermd als visuele deepfakes. Stemacteurs pleiten al langer voor wetgeving op dit gebied, waardoor niet iedereen zomaar hun stemgeluid mag klonen. AI-stemtool ElevenLabs wordt er bijvoorbeeld van beschuldigd zonder toestemming stemmen in zijn database te zetten. Tweakers schreef hier onlangs al een achtergrondverhaal over.

Tot slot staat in het wetsvoorstel dat het deepfakerecht geldt tot zeventig jaar na het overlijden van de persoon. Dat terwijl het portretrecht en andere privacyrechten veel korter duren. "Maar dan krijg je een hele gekke situatie", zegt Meindersma. "We mogen dan geen schadelijke deepfakes maken, maar we mogen wel kort na het overlijden andere nare onwaarheden over iemand verspreiden, want daar zijn geen regels voor."

Hoewel het wetsvoorstel dus wel degelijk een doel heeft, is Hugenholtz kritisch op het voorstel. Hij vraagt zich af of het verstandig is om in een wet te bepalen dat acteurs toestemming kunnen geven voor het maken van deepfakes. "In Amerika heeft Hollywood een half jaar plat gelegen omdat filmacteurs zich massaal verzetten tegen het gebruik van deepfakeversies van henzelf. Uiteindelijk hebben de studio's afgesproken dat dat enkel onder heel strikte voorwaarden mag gebeuren. Die discussie is in Nederland echter helemaal niet gevoerd, dus ik vraag me af of de acteurs dit echt willen."

Protesten tegen AI. Bron: Mario Tama/Getty Images

_{Redactie: Kevin Krikhaar • Eindredactie: Monique van den Boomen}

Reacties (67)

[The Zep Man]

"Als iemand dat bij een foto van zichzelf wil doen, of als parodie, dan zou dat ook niet kunnen. Daar beperk je iemand misschien weer te veel mee. Eigenlijk beland je dan in een politieke discussie: wat is belangrijker, privacy of de vrijheid om zulke beelden van jezelf of als parodie te maken?"

Dit is een valse vergelijking. Men zou organisaties verantwoordelijk kunnen stellen voor het genereren van deepfakes van anderen. Niets stopt je dan van het zelf (laten) draaien van een model om deepfakes te maken van jezelf of als parodie.

De werkelijke vergelijking is dus privacy versus commerciële belangen.

[Reactie gewijzigd door The Zep Man op 24 januari 2026 06:51]

[Sissors]

Niets stopt je dan van het zelf (laten) draaien van een model om deepfakes te maken van jezelf of als parodie.

Een hoop stopt je om zelf een goed model te draaien. Veel van de beste modellen zijn niet open source als eerste natuurlijk. Daarnaast de beste open source modellen zijn niet dingen die je even op je laptop draait. De kennis die je nodig hebt om een high-end AI opensource model in AWS op te spinnen is ook niet verwaarloosbaar. Dat weet ik, en dat weet jij ook.

[tw_gotcha]

dat is maar technisch, je hebt overal toegang tot deepfake AI die niet of nauwelijks aan banden gelegd is. Dat weet jij ook.

[The Zep Man]

Een hoop stopt je om zelf een goed model te draaien.

Het onderwerp is vrijheid, niet kundigheid. Wat nu nog niet te doen is voor het gemiddelde individu zal over zoveel jaar anders zijn. Enkel een nieuwe techniek eerder kunnen gebruiken om er maar aan te kunnen verdienen (in de hoop op een dominante marktpositie) is geen goede reden om zaken als privacy op te offeren.

[emperor3s]

Als een deepfake bijvoorbeeld seksueel van aard is, is dat strafbaar volgens het Wetboek van Strafrecht, stelt jurist Lisette Meij. "Eerder heeft de rechter al geoordeeld dat materiaal dat digitaal wordt vervaardigd (dus iemands hoofd op een naakt lichaam plakken) daaronder valt. Het hoeft dus geen 'echt' beeld te zijn. AI-gegenereerde beelden zouden hier ook onder kunnen vallen."

Mensen die veroordeeld zijn voor het maken en verspreiden van seksuele deepfakes waren volgens de rechter strafbaar onder artikel 139h: "Met gevangenisstraf van ten hoogste een jaar of geldboete van de vierde categorie wordt gestraft, hij die opzettelijk en wederrechtelijk van een persoon een afbeelding van seksuele aard vervaardigt."

Qua bewoording lijkt dat heel helder (ook) te gaan om deepfakes. Echter, het doel van die wet was eigenlijk om wraakporno strafbaar te stellen. Dus: het maken van schermopnames van iemand die zich uitkleedt, of het stiekem filmen van seksuele handelingen. Het maken (en ook het verspreiden) van die beelden is dus expliciet strafbaar sinds deze wet is aangenomen. Dat is de geest van dit artikel in het Wetboek van strafrecht.

Deze wettekst is dus min of meer 'ge-hijackt' om ook het maken en verspreiden van deepfakes strafbaar te stellen. De rechter had daar bij de veroordeling moeite mee, omdat het 'grammaticaal' misschien heel ondubbelzinnig is, maar qua 'bedoeling' niet. Immers: als je de tekst strikt grammaticaal bekijkt, kun je ook een flinke gevangenisstraf(!) krijgen als je 'vieze' tekeningetjes of spotprenten van iemand hebt gemaakt.

De rechter zegt daarom:

Naar het oordeel van de rechtbank kan ook seksueel beeldmateriaal in de vorm van een deepfake-afbeeldingen onder dit te beschermen belang vallen, mits het beeldmateriaal in kwestie zodanig echt lijkt dat het op het eerste gezicht niet duidelijk is dat het gaat om beelden die gemanipuleerd zijn. Het gaat er in dat geval om dat bij de gemiddelde, redelijk denkende mens die onbevangen (en dus zonder vooraf aanwezige wetenschap van het feit dat het gaat om een deepfake) naar het beeldmateriaal kijkt, op het eerste gezicht redelijkerwijs de overtuiging kan bestaan dat de daarop afgebeelde persoon daadwerkelijk ook die persoon is.

Kortom: deepfakes maken en verspreiden is strafbaar, maar alleen als ze 'goed' zijn - dus voor buitenstaanders niet van echt te onderscheiden.

Een goede video over het 'oprekken' van de wet om deepfakes strafbaar te stellen is de meest recente aflevering van De Snijtafel.

[ioor]

Regels zijn leuk...maar als je t niet handhaafd dan krijg je vanzelf oeverloze discussies hierover...dan zijn regels alleen maar symbool politiek

[Aldy]

Dit vind ik een dooddoener, omdat dit voor elke wet/regel geldt. In dit geval is de wet een handvat om op te treden als particulier en daarmee van iemand een schadevergoeding te eisen. Daarnaast kan de benadeelde persoon ook aangifte doen aan de hand van de wetten in het WvS. Dus zeker geen symboolpolitiek.

[Yaksa]

Het grootste 'probleem' is volgens mij niet dat er nu opeens deepfakes gemaakt kunnen worden.
Dat was al zo toen de fotografie werd uitgevonden, ook toen werden er deepfakes gemaakt.
Echter, met de snelle digitale revolutie worden de deepfakes veel sneller verspreidt dan toen. Immers, een afgedrukte 'deepfake' foto dupliceren en via snail mail rondsturen gaat véél langzamer.
De technologische vernieuwing die we nu meemaken gaat verder dan alleen vorm of gemak.
Elke innovatie beïnvloedt hoe we kijken, vastleggen en uiteindelijk interpreteren.
Het is als dynamiet, bedoeld om delfstoffen makkelijker te kunnen winnen, maar het kan ook als wapen ingezet worden. Maar dat wil nog niet zeggen dat je springstoffen in het algemeen moet gaan verbieden.

[Loft]

Tegen een verbod op deepfakes.. Het probleem is niet als iemand voor/van zichzelf of een ander een deepfake maakt...
Het probleem is de distributie, het online plaatsen en aan anderen tonen.

Idem met een mes, dat verbied je niet, maar met messen op straat lopen, mensen bedreigen en/of doden is niet toegestaan. Het object niet verbieden, maar de daad die je ermee doet.

Ja, dat is lastig met online en deepfakes. Misschien dat je het in technische middelen moet zoeken zodat te tracen is waar een deepfake vandaan komt, of welke anderen oplossing ook.

Het simpelweg verbieden is niet de juiste weg

[Reactie gewijzigd door Loft op 24 januari 2026 15:33]

[PtrO]

Ja, dat is lastig met online en deepfakes. Misschien dat je het in technische middelen moet zoeken zodat te tracen is waar een deepfake vandaan komt, of welke anderen oplossing ook.

Een bijdrage tot oplossing kan zijn dat elke (re)productie een herleidbaar kenmerk moet hebben van gebruikt gereedschap, maker en verspreider zodat iemand die een claim heeft zich daar kan beroepen.
Iemand die dan een "valse" uitgifte doet (of tot doel in bezit houdt), kan dan aansprakelijk worden gesteld.

[Botmeister]

Hopelijk maakt iemand een heel schuine pornofilm met Elon in de hoofdrol. En dat die dan viraal mag gaan. De schandpaal werkt denk ik beter (of, in ieder geval sneller) dan proberen samen de grenzen te bespreken. En natuurlijk ~made with Grok.

[Reactie gewijzigd door Botmeister op 24 januari 2026 07:33]

[PtrO]

Ik vermoed dat schaamteloze Elon met zijn denkbeelden daar niet wakker van zal liggen en het zelfs zal gebruiken ter promotie van vrijheden.

[iqcgubon]

Werkt niet bij Elon. Hij retweette zelf bikini foto's van zichzelf. Dat is gewoon reclame voor zijn product.

[RobbertBink]

Filosofische insteek: het is vooral een cultureel ding en niet zozeer een technisch probleem. Laten we een stam in Afrika nemen waar vrouwen sowieso ontbloot rondlopen, daar zal niemand een probleem hebben met een 'undress app'. Misschien moeten we gewoon leren dat we niet zoveel waarde moeten hechten aan bewegende pixels op een beeldscherm. Terug naar het idee: als je het met je eigen ogen ziet dan is het echt en anders, misschien wel, misschien niet, laten we er ons vooral niet zo druk over maken.

Ik weet het, allemaal makkelijker gezegd dan gedaan, maar als we dit met zijn allen konden afspreken dan hadden we heel wat minder problemen. Maar we stellen ons digitale leven steeds meer gelijk aan het echte leven met alle gevolgen van dien.

[The Zep Man]

Filosofische insteek: het is vooral een cultureel ding en niet zozeer een technisch probleem. Laten we een stam in Afrika nemen waar vrouwen sowieso ontbloot rondlopen, daar zal niemand een probleem hebben met een 'undress app'.

Elke cultuur heeft zaken die sociaal niet door de beugel kunnen. Misschien is in die cultuur impersonatie of duplicatie (vervalsing van de zelf door een ander) taboe, of het nu naakt is of anders.

Het is een feit dat deepfakes schade kunnen doen in onze cultuur.

Ik weet het, allemaal makkelijker gezegd dan gedaan, maar als we dit met zijn allen konden afspreken dan hadden we heel wat minder problemen.

Wij hebben afspraken met elkaar over hoe hiermee om te gaan. Dat heet in dit geval wet- en regelgeving. Het probleem is handhaving.

Verder kunnen deepfakes ook gebruikt worden om iemand naakt (of niet) voor te doen in andere compromitterende situaties. Een maatschappijbrede culturele verandering teweeg brengen (wat kunstmatig zeer lastig is) lost niet het onderliggende probleem op.

[Reactie gewijzigd door The Zep Man op 24 januari 2026 11:52]

[tw_gotcha]

Tja, social media haalt echt het slechtste in de mens naar bovven omdat het anoniem is. Enorme aggressie, of het nou om sex gaat of niet. Er is totaal geen rem en verantwoordelijkheidsgevoel. Dus het gaat niet om pixels, het gaat om de diepere psychologie.

Alsof je op alle wegen binnen en buiten de bebouwde kom alle verkeersregels weghaalt en dan zegt: laten we er ons niet druk over maken. We moeten er maar maar mee leren omgaan.

Dus laten we ons er ons vooral druk over maken want er is geen enkele sociale controle op wat iemand maakt of post, en al helemaal geen zelfcontrole. We hebben geen ingebouwde remmen, alleen wat we aangeleerd krijgen. De meeste mensen zijn helemaal niet in staat zichzelf in te houden als rreactie op prikkels, als er geen consequenties zijn.

[Eyeli]

In die culturen zijn borsten simpelweg niet gesexualiseerd. In het westen is het ook een vrij recent fenomeen dat borsten sexueel waren, vroeger waren het gewoon aanhangsels aan het vrouwelijk lichaam waar moeders hun kinderen mee voeden. Dat veranderde zo'n 600 jaar geleden.

Zie het als hoe we in het westen vrouwenenkels ook als sexueel zaggen een paar eeuwen gelende, maar bijna niemand er nog van opgewonden raakt vandaag de dag.

Oftewel, je bent een vergelijking aan het maken tussen een cultuur waar borsten sexueel zijn en een cultuur waar ze dat niet zijn. In een kan je vrouwen schaamte opleggen en mogelijk in de problemen brengen door zulke foto's te verspreiden, in de andere totaal niet

[Stroper]

Zelfs indien we zouden meegaan. elk land, cultuur, volk heeft eigen taboes, dus ook jouw voorbeeldstam in Afrika. Best mogelijk dat het daar not done is om bv. kippen op te eten en een "eat chicken"-deepfake daar wel voor commotie zou zorgen.
De enige conclusie is dus dat fake beelden van derden fout zijn, ongeacht of het onderwerp al dan niet controversieel is binnen een bepaalde groep.

[lenwar]

Deze 'filosofische insteek' passeert precies hetgeen dat je stelt . Bloot (in bepaalde vormen) is moreel niet geaccepteerd, en in sommige gevallen zelfs wettelijk. Maar bekijk het zo.

Je stelt 'maak je er vooral niet druk om'. Zou je op dezelfde manier redeneren als er foto's van je moeder/meerderjarige dochter/vrouw op die manier de wereld in worden in geslingerd. Ik zou daar denk ik wel moeite mee hebben. Het is wezenlijk een vorm van pesten. Het doel is het seksualiseren van (bekende) personen. Het is niet het dat geparodieerd wordt. Dus dat Gerard Joling met z'n hengel van een boot af wordt getrokken door een fictief grote vis. - Ik noem maar wat stoms. Dit is dan 'grappig/lollig bedoelt'.

Het probleem is er 'juist' omdat het cultureel niet geaccepteerd is, dat het een probleem maakt. Kijk naar Amerikaanse televisie. Daar worden scheldwoorden gecensureerd met piepjes. Dat is een cultureel iets. In Nederland gebeurd dit (in de regel) niet. We kunnen dan wel tegen die Amerikanen zeggen "Hey, dat moet je niet zo erg vinden." Maar zo werkt dat in de praktijk niet.

[BadRespawn]

Misschien moeten we gewoon leren dat we niet zoveel waarde moeten hechten aan bewegende pixels op een beeldscherm.

Praktische insteek: Hoe lang gaat het duren voordat we dat gewoon hebben geleerd, en hoe gaan we tot dat toe om met deepfakes?

[RobbertBink]

Dat is inderdaad het punt. Het is best mogelijk dat mensen over 50 jaar dubbel liggen om het feit dat wij ons druk maakten om neppe deepfake beelden. Maar tijdens deze overgangsfase waar we in zitten, kan het wel heel veel impact hebben op de slachtoffers die nog lang niet zover zijn.

Die docu over Welmoed Sijtsma was toen nog groot nieuws, maar ik ben bang dat er deepfakes van elke beroemdheid zijn op dit moment, dus de eerstvolgende die hiermee komt zal wellicht geen eigen docu meer krijgen. Het zal nog jaren duren, maar ik denk we er aan gaan wennen. Ook nog lang niet iedereen is er van op de hoogte dat je goede AI niet meer kunt onderscheiden van echt. Het is onmogelijk om deze techniek nog terug te draaien, hooguit maak je het iets moeilijker voor de mensen om te doen.

[CompFrans]

Je opmerking "Misschien moeten we gewoon leren dat we niet zoveel waarde moeten hechten aan bewegende pixels op een beeldscherm." triggert bij mij deze gedachte: je kan het niet zo erg vinden als je met bikini of geheel zonder kleding rondgestuurd wordt, maar voor hetzelfde geld kan het een foto zijn waarop jij afgebeeld wordt terwijl je geweld gebruikt: antisemitisch, racistisch, tegen vrouwen, kinderen of tegen (lieve pluizige) dieren(diertjes)... Of in een pornofilm gemonteerd wordt (en als je dat niet erg vindt, dan met dieren of kinderen...). "Gewoon" bewegende pixels op het beeldscherm, toch? Ik dacht het niet!

Ik denk dat iedereen voor zichzelf mag uitmaken wat hij of zij en of hen wel of niet erg vindt en wat wel of niet mag. Het moet wat mij betreft dan ook breder getrokken worden dan alleen naaktheid of zelfs seks (we zijn met zijn allen wel overdreven preuts aan het worden en daar lijkt de focus helemaal op te liggen) maar meer naar het recht hebben om zelf te bepalen of jouw beeltenis, naam, gegevens, door anderen gebruikt mogen worden.

[kiang]

Maar moeten we er niet gewoon aan wennen:

Keihard: nee. En alle vergelijking met "als iemand een foto van mij maakt en mijn hoofd op een ezel zet" zijn ook gewoon absurd en niet te vergelijken.

Het maken van deepfake porno wordt niet gebruik om "even te lachen" zoals een slechte fotoshop waarbij iemand als ezel wordt afgebeeld, het is om vrouwen te vernederen en objectiveren.

Het zou nog 1 iets zijn als iemand het doet puur en alleen voor eigen gebruik, dan is het erg vergelijkbaar met iemand die zelf fantaseert (voor "eigen gebruik"). Daar zie ik niet zo'n probleem in (er zijn wel meer vreemde dingen die mensen privé doen).

Echter, wat we zien is dat deepfake porno gedeeld wordt, met als effect dat vrouwen en meisjes publiek geseksualiseerd worden, voor een hele groep. En dat de toon waarop dat gebeurt niet bepaald vrouwvriendelijk is, maar die zelfgemaakte filmpjes, zelfs door de mensen die weten dat het fake is, gebruikt worden om de vrouw of het meisje in kwestie als minderwaardig te bestempelen: ze worden voor hoer en slet uitgescholden, ook al weten de mannen dat het fake is. In het beste geval is dat dan een of andere gesloten online community van creeps, maar in het ergste geval zijn dit fotos en filmpjes van tieners die op school worden rondgestuurd naar iedereen.

Ik weiger daaraan "te wennen" en tegen meisjes te zeggen dat dat nu eenmaal gebeurt, dat ze zich niet zo moeten aanstellen en eraan moeten wennen wanneer iemand de hele klas een naar expliciet filmpje stuurt.

[honey]

Je noemt hele belangrijke problemen in de maatschappij, maar daar helpen het verbieden van fake-plaatjes niet tegen. Je moet iets doen aan de cultuur en dat begint al op school en seksuele vorming

[kiang]

daar helpen het verbieden van fake-plaatjes niet tegen.

Hoezo niet? Het maken van pornografisch materiaal zonder toestemming is verboden, het maken van kinderporno is verboden. Dat lijken me prima regels, waarom stel jij dat er die dingen legaal moeten maken als het met deepfake technologie is gemaakt?

dat begint al op school en seksuele vorming

Eens. Helaas leven we in een tijdperk waarin seksuele voorlichting op school wordt gedemoniseerd door conservatieve groepen, en die aanval is helaas uiterst effectief: steeds minder scholen doen mee aan initiatieven zoals de lentekriebels.

We hebben beiden nodig, ik snap niet waarom je doet alsof het verbod niets helpt: zou het helpen om alcohol onder de 18 gewoon toe te staan, en enkel in te zetten op sensibilisering? Natuurlijk niet, dat zou een walgelijk slecht idee zijn.

[Reactie gewijzigd door kiang op 24 januari 2026 12:59]

[honey]

Verbod heeft nog nooit goed geholpen. Als je gemakkelijk fake-plaatjes kunt maken, of alcohol kunt drinken onder de 18 jaar, dan kun je beter investeren in voorlichting en veranderen van cultuur dat hier onder ligt.

Maar, ik snap bestuurders wel. Zij doen wel vaker dingen puur voor de bühne, terwijl de problemen blijven bestaan.

[kiang]

Als je gemakkelijk (...) alcohol kunt drinken onder de 18 jaar

En het verbod maakt dat dus net moeilijker. Daarnaast: als iemand alsnog getikt is en deepfake porno van een vrouw of meisje maakt wil jij dus zeggen "Tsja, niet vervolgen, we hadden maar moeten voorlichten"? Dat vind ik onzinnige slappe hap, die duidelijk komt van een man die denkt zelf nooit slachtoffer hiervan te worden en dus beslist dat de slachtoffers zich niet zo moeten aanstellen en hun bek houden. Leuk voor je.

Als verbieden nooit helpt, wil je dan ook dronken rijden niet meer strafbaar maken? Lekker 180 rijden met 4 promille moet gewoon kunnen vind jij dus?

[Reactie gewijzigd door kiang op 24 januari 2026 15:02]

[honey]

Vertel me eens, hoe wil je voorkomen dat 16-jarigen zich thuis indrinken of dat iemand op zijn kamer fake-plaatjes aan het renderen is? Je kunt wel wetgeving maken en af en toe eens iemand aanklagen, maar het doet helemaal niks als je kijkt naar de echte wereld.

Ik hoorde op mijn werk wel een oplossing, namelijk dat iedereen spy-ware op de computer verplicht moet draaien, wat alle activiteiten logt. Maar, dat is wel een beetje drastisch.

[kiang]

het doet helemaal niks als je kijkt naar de echte wereld.

Wederom: dus jij wilt dat als iemand met 4 promille achter het stuur kruipt er geen vuiltje aan de lucht is, en die persoon gewoon de snelweg op mag? En dat de politie pas kan ingrijpen wanneer hij echt iemand dood rijdt?

Dat is namelijk het gevolg als je zegt "we moeten het niet strafbaar maken".

De dreiging van een straf is wel degelijk een factor in preventie.

[Orangelights23]

Maar als iemand een deepfake maakt van jou waarop je een zeer kleine piemelt hebt en deze foto verstuurd naar je contacten, vind je dat ook een creatieve uiting?

[Azenomei]

Gewoon meteen iedereen een echte foto van de toch best grote piemelt sturen. Dan weten ze dat het nep is!!1!

[honey]

Totdat ze een foto maken met een nazivlag, dan is het allemaal minder grappig, zeker als je werkgever het ook krijgt.

[NielsFL]

Voorkom je dit niet gewoon het beste door de boel te verzadigen met nep content? Je ziet op social media nu al dozijnen comments “is this AI?” onder menig foto/video.

Het is misschien een beetje jammer dat echte content daar ook onder lijd, maar deze scepsis lijkt me gezonder dan wetgeving die het creeeren van nep content in feite beperkt tot buitenlandse partijen die we dan minder sceptisch bekijken.

[honey]

Het is zeker een strategie en plausibel deniability heeft ook zo zijn voordelen. 😉

Ik denk dat je dit toch niet gaat tegenhouden en er zijn wel belangrijkere onderwerpen om 'offended' over te zijn.

[Azenomei]

Ach, dan soliciteren we wel in Argentinië. Altijd in oplossingen denken!

[tw_gotcha]

Ik kan wat informatie verspreiden waarop het duidelijk wordt dat je een werknemer bent die problemen veroorzaakt, enorme zuipfestijnen en compromiterende foto's dat je zit te kotsen in de prullebak op kantoor, handtastelijkheden in de bus, kleine meisjes op schoot etc etc. kijken hoe het gaat met je volgende solicitatie. Maar goed, je moet er maar aan wennen, het is maar een grapje.

[KlaasjeNL]

Maar als het op grote schaal gebeurt bij iedereen heeft het geen waarde meer. Uiteindelijk zou het juist een reset kunnen zijn waarin sollicitaties weer normaal verlopen o.b.v. een brief, CV en een goed gesprek in plaats van op voorhand al te worden afgewezen omdat een werkgever het internet/social media afstruint op zoek naar informatie over een medewerker, ongeacht of deze informatie klopt. Dat afstruinen heeft geen waarde meer als alles in potentie nep is.

[tw_gotcha]

De praktijk spreekt dat toch tegen. En niet iedereen denkt na zoals jij of ik. Trump liegt al jaren en hij krijgt er veel bijval mee. We denken dat waar is waarvan we willen dat waar is (confirmation bias). Dus mensen die jou niet aardig geloven het gewoon, want het bevestigd een beeld dat ze van je hebben. Of "vrouwen willen stiekem echt wel bla bla bla".

En verder wil ik helemaal niet nog meer wennen aan rotzooi.

[Framoes]

Als je het een beetje hebt gevolgd weet je dat het niet om grapjes gaat. Vrouwen worden tegen hun zin openlijk gesexualiseerd en als een vrouw zich uitsprak, werd ze nog harder aangepakt. Men vroeg Grok om blauwe plekken, bloed, "witte vloeistof" en of het de vrouwen angstig konden laten kijken.

Dat er ook mannen in bikini werden gepost is dan vooral afleiding of een poging te beargumenteren dat het gewoon grappig is.

Het is makkelijk te accepteren als jij als man in een bikini er gewoon belachelijk uit ziet. Iedereen snapt dat het onzin is. Maar wanneer er als vrouw een deepfake wordt gemaakt waar de boodschap verkrachting is, is het echt een stuk minder makkelijk weg te lachen. Vooral als je de reacties er bij ziet.

[Vexxon]

wel apart dat je kiest voor een foto van jezelf met een hoofd van een ezel en dat vrouwen er maar aan moeten wennen dat ze ongevraagd naakt worden afgebeeld.

Nu ik er zo over nadenk snap ik die keuze wel

[KlaasjeNL]

Ik ben het hier wel mee eens. Uiteindelijk is het "toch niet tegen te houden". Ik kan mij overigens voorstellen dat het verspreiden van deepfakes wel strafbaar gesteld kan worden, maar het vervaardigen voor eigen "gebruik" is sowieso onbegonnen werk en "niemand heeft er last van". Ik bedoel: als iemand een foto van mij in zwembroek maakt en het thuis gezellig heeft met die foto, heb ik daar verder geen last van. Ik kan mij druk maken om het idee dat iemand dat zou doen, maar dat is precies wat er mis is met de wereld vandaag de dag. We maken ons veel te druk over wat anderen doen, zeggen of denken.

En @Piet Zaman zegt: het heeft geen waarde meer als het nep is of echt en nep niet meer te onderscheiden is. Dat zou het in beginsel ook eenvoudiger maken om gelekte filmpjes van jezelf in ongemakkelijke situaties af te doen als nep. En niemand kan hard maken dat het wel echt is.

Dat zulke filmpjes worden verspreid om iemand moedwillig te beschadigen kan dan weer wel worden veroordeeld, maar is nogmaals heel wat anders dan deepfakes voor eigen gebruik te vervaardigen.

Lang verhaal kort: vervaardigen zou wat mij betreft niet strafbaar gesteld moeten worden, verspreiden (afhankelijk van de content) wel.

[tw_gotcha]

edit:
Niet goed gelezen

[Reactie gewijzigd door tw_gotcha op 24 januari 2026 14:07]

[djwice]

Je kunt niet alleen DeepFakes maken maar ook bestaande filmpjes omzetten naar bijvoorbeeld de tekenstijl van Paw Patrol of Tom & Jerry, gewoon lokaal op je PC met 16GB videokaart.

Dit is een van de nieuwste modellen:
https://huggingface.co/HiDream-ai/ReCo

Leuk om je eigen filmpjes mee te bewerken om te delen met vrienden of familie. Of om een tekenfilm kanaal te beginnen zonder dat je zelf kunt tekenen, gewoon jezelf en je huisdier filmen en bewerken is genoeg.

[Reactie gewijzigd door djwice op 24 januari 2026 11:15]

[djwice]

Zeer duidelijk en niet mis te interpreteren statement van de woordvoerder van de EU - Thomas Regnier - met betrekking tot de beelden die Grok genereerd en verantwoordelijkheden van X YouTube: EU reaction to illegal content on Grok

[Reactie gewijzigd door djwice op 24 januari 2026 09:18]

[catfish]

Leuk voor Nederland dat er al genoeg wetten zijn, maar dit is uiteraard die Europees geregeld moet worden.
Nederland heeft niets te betekenen op internet, misschien dat de EU wel nog wat zaken kan afdwingen, bv functies laten verwijderen in platformen als ze in de EU willen opereren.

Uiteraard is dit niet waterdicht, maar het is al een groot verschil als iedereen het kan met een klik of dat enkel de nerd in de straat het kan.