Deepfakeporno maken en verspreiden kan in VK celstraf gaan opleveren

De Britse overheid stelt het maken en verspreiden van deepfakeporno strafbaar. Het maken ervan kan leiden tot een boete met onbeperkte hoogte. Bij het verspreiden ervan gaat het om een mogelijke celstraf onder het nieuwe voorstel.

Het gaat om een aanpassing van de Criminal Justice Bill en bouwt voort op het strafbaar stellen van upskirting jaren geleden, meldt het Britse kabinet. "De nieuwe wet houdt in dat als iemand een seksueel expliciete deepfake maakt, zelfs als die persoon niet de intentie heeft om deze te delen, maar alleen paniek, vernedering of leed bij het slachtoffer wil veroorzaken, diegene een strafbaar feit pleegt."

De wijziging is volgens het kabinet nodig, omdat sprake is van een nieuwe manier van mishandeling van vooral vrouwen en meisjes, en het kabinet ziet dat als speerpunt in zijn beleid. "De regering heeft ook geweld tegen vrouwen en meisjes opnieuw geclassificeerd als een nationale dreiging. Dat betekent dat de politie prioriteit moet geven aan haar reactie hierop, net zoals ze doet met dreigingen als terrorisme, evenals aan de lopende werkzaamheden om beeldgerelateerd misbruik aan te pakken."

Daarbij zijn het maken van deepfakeporno en het delen ervan onder de wet twee aparte strafbare feiten, waardoor de straf op het overtreden van beide regels hoger is. In Nederland is het maken van deepfakeporno nu al strafbaar en er is al een dader veroordeeld.

Reacties (139)

[adje123]

En terecht! Goede ontwikkeling.
Hiermee kan je mensen ontzettend kapot maken.

[Prince]

Volledig eens, maar spijtig dat het zo krap gedefinieerd is. Enkel "porno".
Wat als je via deepfake misdaden of sociaal onaanvaardbaar gedrag nabootst.
Ik zou het definiëren als alles wat mentale, fysieke of maatschappelijk/sociale schade kan aanbrengen. (of zo iets - er zijn mensen die dit veel beter -zouden moeten- kunnen definiëren).

Als ik dus nu een oudje omver duw en een fietsend kleutertje op de straat omver trap en er iemand anders zijn gezicht op kleef, dan is het momenteel nog perfect legaal. (niet de actie natuurlijk, wel het deepfaken)

[RoyD]

Waarom zou het maken van deepfakes gestraft moeten worden als deze voor eigen vermaak is? Net zoals je gedachten: Als het voor jezelf is dan ondervindt niemand schade.

[mat.hi.as]

Het bezitten van kinderporno, drugs, wapens etc is ook gewoon verboden. Ook al heb je het voor 'eigen vermaak'.

[MadDogMcCree]

Maar dat is natuurlijk geen argument, want zeker bij kinderporno en drugs, maar ook wapens is er een traject waar anderen worden misbruikt, gebruikt, in gevaar gebracht of negatief betrokken.

Dat is natuurlijk niet het geval wanneer je deepfake 100% voor jezelf zou gebruiken, of het nu pornografisch materiaal is of heel wat anders. Het is eerder te vergelijken met een kunstenaar die voor zichzelf een beroemd persoon schildert en dat schilderij privé houdt. Als ik de verhouding van Donald Trump en Stormy Daniels zou schilderen en voor mezelf zou houden is er niets aan de hand, als ik er een deepfake van maak en 100% niet deel met een ander dan zou dat ineens strafbaar zijn. Ik zie daar eerlijk gezegd geen verschil in, behalve dat het één een statisch beeld is en het ander een video.

[wiezalditzijn]

Zelfde argument is toch ook voor wapens? Als ik het 100% voor mijzelf houd is het geen probleem.

[biteMark]

Een wapen koop je niet voor vermaak, die koop je om gekkigheid mee uit te halen. Koop je het wél voor vermaak (schietsport) dan moet dat ding voor de goede orde even op papier worden gezet zodat het traceerbaar is als het wél voor gekkigheid wordt gebruikt.

inb4 “politiestaat bla bla bla”, kom daar alsjeblieft niet mee aanzetten, dan neemt niemand je meer serieus. Wapens zijn potentieel gevaarlijk en bezit maakt misbruik makkelijker. Het is volledig terecht dat die dingen op naam geregistreerd worden en komt alleen maar ten goede van de veiligheid van iedereen.

[killerfreak]

Wapens zijn potentieel gevaarlijk en bezit maakt misbruik makkelijker.

Ditzelfde kan je zeggen over porno deepfakes. Een foutje en jouw gemaakte filmpjes zorgen voor heel wat leed bij mensen die op dat filmpje staan. Bewust of niet, als zoiets eenmaal online staat gaat het nooit meer weg.

Dan ga je maar lekker fantaseren of naar echte pornoactrices/acteurs kijken die er bewust voor gekozen hebben.

[FicoF]

Waarom zou je het delen? Als je met je vriendin een filmpje maakt kan dat toch gewoon leuk zijn? Wat is het probleem?

Stellen genoeg die samen ook fotos maken en die bewerken.

[firest0rm]

Omdat er met dit soort beeld materiaal ook gewoon geld verdient kan worden?
Of omdat beeld materiaal steeds beter word en het dus net echt lijkt en zo ook voor echt gezien kan worden?

Er zijn genoeg redenen waarbij dit soort content wel degelijk schade kan richten aan het slachtoffer.
En de boos doener er iets voor terug kan krijgen.

[Reactie gewijzigd door firest0rm op 22 juli 2024 22:30]

[firest0rm]

Een wapen koop je niet voor vermaak, die koop je om gekkigheid mee uit te halen.

Ik snap serieus niet waarom men deze reactie zo hoog beoordeeld want het is pertinent onwaar. Wapens worden wel degelijk voor vermaak gekocht en verkocht. Net zoals men dure autos of andere dingen koopt. Jij bepaald toch niet wat andere leuk vinden?

Wat jij gekkigheid vind hoeft een ander niet gek te vinden.
Dat jij het daar niet mee eens bent is een heel ander vraagstuk.

Dit zelfde geld overigens ook voor veel andere zaken.
Het is cultureel wellicht niet acceptabel voor ons maar er zijn genoeg landen waarbij dat wel zo is.

[Reactie gewijzigd door firest0rm op 22 juli 2024 22:30]

[dwwolf]

Niet zo scherp

Niet individuen doch overheden zijn de grote moordenaars van de laatste 150 jaar gebleken.
Toch menen velen dat slechts een overheid een monopolie op geweld zou moeten hebben.

[biteMark]

Moet je toch even kijken wat voor overheden je het dan over hebt. Regimes á la Nazi-Duitsland, Rusland onder Stalin/Putin, communistisch China etc. staan in geen enkele verhouding met Nederland onder welke premier dan ook, zelfs alt-rechts enemy of the state #1 Mark Rutte.

[Dekar]

Vietnam-, Irak-, iranoorlog vergeten? Afghanistan? Israël/Palestina? Het is niet een invalide argument.

[Aldy]

Geweldsmonopolie van een overheid gaat over de politie en niet over een leger. Dus wel een invalide argument.

[Aldy]

Toch menen velen dat slechts een overheid een monopolie op geweld zou moeten hebben.

Nee, we zullen het aan jou geven. Als er één instantie is, die een monopolie op geweld zou moeten kunnen hebben, dan is dit wel een overheid en zeker één die gecontroleerd wordt door een democratisch gekozen parlement.

[Remzi1993]

Het bezitten of kopen van wapens is verboden in NL en je moet een vergunning hebben om wapens te kunnen bezitten en gebruiken. Dat is wel anders dan deepfakes maken.

[The Zep Man]

Maar dat is natuurlijk geen argument, want zeker bij kinderporno en drugs, maar ook wapens is er een traject waar anderen worden misbruikt, gebruikt, in gevaar gebracht of negatief betrokken.

Kinderporno is niet altijd gebaseerd op child sexual abuse material (CSAM).

[Amanoo]

Dat hoeft allemaal totaal niet. Het is niet alsof drugs produceren onmogelijk is als je niet iemand overhoop schiet of in ieder geval bedreigt. Je kan best ergens een wietplant neerzetten en als je een beetje goed bent op chemisch gebied kan je nog wel veel meer. En die drugs werken niet minder goed als je geen slachtoffers maakt. Is bij de Britten desalniettemin hardstikke verboden.

Wapens is wat lastiger. Binnen de EU is dat over het algemeen niet zo heel moeilijk als je het echt wil. En kan volledig slachtofferloos. Maar ja, de Britten zitten niet meer in de EU. Die kunnen niet zo makkelijk naar een land waar het minder nauw loopt.

Onder kinderporno is vallen soms ook tekeningen enzo. Kan ook slachtofferloos.

Maar ook al doe je het slachtofferloos, is het nog steeds keihard tegen de wet. En veel van bovenstaande mag dat wat mij betreft ook blijven.

[Reactie gewijzigd door Amanoo op 22 juli 2024 22:30]

[Jerie]

Het is eerder te vergelijken met een kunstenaar die voor zichzelf een beroemd persoon schildert en dat schilderij privé houdt.

Een schilderij is eenvoudig van echt te onderscheiden en wekt bovendien niet de suggestie dat persoon X seksuele handelingen verricht. De suggestie dat persoon X die handelingen verricht is ernstig genoeg.

[Remzi1993]

Maar daarom heb je dus wetten zoals smaad en laster. Wetten genoeg om mensen aan te klagen als ze gekken dingen over je verspreiden op het internet. (Helaas moet je dan uitvogelen wie het doet om diegene aan te klagen).

[Jerie]

Smaad en laster zijn vziw moeilijk te bewijzen, de lat ligt hoog.

Ik zeg niet dat deze wetgeving geen addendum had kunnen zijn op die huidige wetgeving. Dat weet ik niet, ik ben dan ook geen jurist.

[cariolive23]

Het ene is verboden en het andere niet. Dat is met zoveel dingen zo.

Waarom zou je een autogordel dragen? Dat doe je alleen maar voor jezelf. Waarom zou je in huis verplicht een rookmelder moeten hebben? Doe je alleen voor jezelf.

En jij kan dan nog zo'n goede schilder zijn, iedereen zal kunnen zien (en/of voelen!) dat het een schilderij is en géén foto (of video).

[MKoot]

Als ik de verhouding van Donald Trump en Stormy Daniels zou schilderen en voor mezelf zou houden is er niets aan de hand

Nee hoor. Valt nog steeds onder het opzettelijk vervaardigen van seksueel materiaal zonder toestemming (zie art. 139h van het wetboek van strafrecht en de strafvorderingsrichtlin).

Seksuele ‘fanart’ schilderen en deepfaken zijn allebei illegaal als er geen toestemming is gegeven. Ook als je het voor jezelf houdt. De strafeis wordt wel hoger als je het ook verspreid hebt.

[Reactie gewijzigd door MKoot op 22 juli 2024 22:30]

[pixeled]

Ik besef me dat we een ver geindividualiseerde maatschappij zijn en dat we allemaal veel waarde hechten aan onze individuele vrijheden, maar besef je je oprecht niet wat het gevaar is van een individu dat deepfake kinderporno kijkt? Dat zo'n persoon perverse behoeften hiermee vervult, in stand houdt en mogelijk versterkt, met alle mogelijke gevolgen van dien voor echte kinderen?

[Aldy]

In het artikel staat:

"De nieuwe wet houdt in dat als iemand een seksueel expliciete deepfake maakt, zelfs als die persoon niet de intentie heeft om deze te delen, maar alleen paniek, vernedering of leed bij het slachtoffer wil veroorzaken, diegene een strafbaar feit pleegt."

Wil je paniek bij een persoon veroorzaken, of vernedering of leed, dan hou je deze deepfake dus duidelijk niet voor jezelf. En juist in dat laatste deel van de zin zit hem de crux.

[kiang]

En nog even specifieker over KP: ook als het zogezegd 'slachtofferloos' is (zoals tekeningen, 3D modellen, of nu dus ook AI) is het strafbaar.

[k995]

Omdat dit aangetoond is dat dit aanleiding geeft om verder te gaan.

[Waswat]

Oh? Ik dacht dat daar geen sluitende data over was? Werkt dit ook zo voor geweld? (Videogames, geweldadige films)

[Reactie gewijzigd door Waswat op 22 juli 2024 22:30]

[k995]

Voor zover ik weet niet nee, gamen en sexueele voorkeur zijn dan ook andere zaken.

[Tweeks]

Het zijn beiden vrij actief door dopamine aangedreven systemen, waarin sneller een bepaalde vorm van verslaving kan optreden.

Het verschil in neveneffecten lijkt me daarom mogelijk niet per se heel groot onder de motorkap. Ik kan zo snel enkel geen onderzoek vinden dat dit vergelijkt.

[AfroJarl]

Voor gewelddadige media zijn er zijn zeker (wat) aanwijzingen voor
https://doi.org/10.1016/j.jadohealth.2007.09.005
Soclale wetenschap is echter vrijwel nooit sluitend.
Het probleem met slachtofferloos 'KP' is niet alleen het verhoogde risico op acteren maar ook het (significant groter) risico op overgaan naar problematischer materiaal.

[downtime]

Is dat hoe het werkt? In de VS werd wiet ook jaren betiteld als "gateway drug" naar meer verslavende middelen maar zover ik weet merken we daar in Nederland, waar die "gateway drugs" min of meer vrij verkrijgbaar zijn, weinig van. Het percentage verslaafden is in Nederland niet hoger dan in de VS.

Ik kan me voorstellen dat zoiets ook zo werkt met "slachtofferloze" KP. Als je je niet in de illegaliteit hoeft te bewegen om eraan te komen, blijft de overgang naar "problematischer materiaal" (wat wel verboden is) een hele grote, terwijl die overgang maar een kleine stap is als je alles illegaal maakt.

[AfroJarl]

De drijfveer achter het nemen van drugs is niet persé om steeds extremere ervaringen te doorstaan, maar zelfs voor wiet als zijnde gateway drug zijn er van wat ik me herinner (geringe) aanwijzingen voor.
Erotisch materiaal en de verslaving daarop zijn echter kenmerkend voor de escalatie in het niveau van 'taboe', de twee (drugs en (k)p) zijn in de verslavingszin daardoor niet goed te vergelijken.

[Kevinp]

En hoe heeft dat het aangetoond?

Dat wanneer je iets zo in een taboe sfeer drukt dat niemand er over durft te praten dat je dan steeds verder gaat omdat het toch illegaal is?

Hoe momenteel met pedofilie wordt omgegaan is echt ronduit schandalig en zorgt voor veel meer slachtoffers dan nodig.

En nee daarmee zeg ik vooral NIET dat alles maar mag. Maar wel dat open praten over iets en open kunnen zijn over iets veel meer oplost dan iets als compleet gestoord te beschouwen. Waarbij je biologisch eigenlijk eens goed moet nadenken of het niet soms gezonder is om kinderen te krijgen met iemand van 14-16 dan iemand van 40. En daarmee kan je zeggen dat we als mens eigenlijk vreemd bezig zijn.

[k995]

Waarbij je biologisch eigenlijk eens goed moet nadenken of het niet soms gezonder is om kinderen te krijgen met iemand van 14-16 dan iemand van 40.

wtf?

[BlaDeKke]

Ik denk dat die doelt op dat bij ouder worden, de kans op complicaties bij zwangerschap en afwijkingen van de vrucht groter worden.

Alleen zie ik niet in hoe een vrouw van 14 a 16 met onvolgroeid lichaam beter kinderen zou kunnen maken dan iemand van 21 die fysiek gezien net volgroeid is.

[k995]

Ik dacht net hetzelfde , als je nu spreekt van 21-22 jaar ok maar 14 jaar ?
Dat is dus gewoon een heel vreemde opmerking te maken gezien het onderwerp.

[honey]

Ik dacht net hetzelfde , als je nu spreekt van 21-22 jaar ok maar 14 jaar ?
Dat is dus gewoon een heel vreemde opmerking te maken gezien het onderwerp.

Het zijn gevoelige opmerkingen en mensen zullen er altijd op reageren. Biologisch is het wel juist, maar in onze cultuur is het ongepast. In andere culturen gaan ze er wel vrijer mee om. Wij vinden natuurlijk dat onze cultuur beter is.

[k995]

Biologisch is het niet juist, een 14 jarige heeft extra complicaties omdat die zo jong is.

[Tweeks]

Ik vind het ook een gekke gedachte, maar dit schijnt in het verleden wel vrij normaal te zijn geweest.

Biologisch gezien kan het en heeft het blijkbaar genoeg evolutionair voordeel gehad dat we nu op z'n minst hier zijn.

[k995]

Dat men het deed en dat het biologisch kan betekend verre van dat het optimaal is.
Van vroeggeboorte tot te smalle heupen en verplichte keizersnee zijn allemaal risoco factoren die dan beginnen mee te spelen als je zo jong zwanger bent.

Biologisch gezien is het ergens vanaf 17 tot begin jaren 30, mentaal (wat net zo belangrijk is) is natuurlijk iets heel anders.

[Remzi1993]

Wat is optimaal? Als onze voorouders dat 10.000 jaar deden dan is het dus voor de mens als zoogdier optimaal, maar dat wil niet zeggen dat het goed is moreel en ethisch nu, omdat we mensen onder de 18 jaar in NL als kinderen zien. Maar vaak van Boomers verhalen gehoord dat hun ouders rond de 14 al volwassen waren net na de oorlog en dat ze op hun 18 al een zaak hadden enzovoorts.

Nu zijn mensen pas rond hun 30 een beetje volwassen en leven we ook stukken langer gemiddeld. 200 jaar gelden was dat voor de helft minder en dan snap ik wel dat het leven sneller gaat en dat men sneller volwassen is enz...

Je.akn dingen niet van vroeger en nu vergelijken, dat zijn twee verschillende werelden.

[k995]

DIt is gewoon klinklare onzin, het is niet omdat men vroeger iets deed dat dit beter was laat staan optimaal.
Dit ging puur over biologie en dan is 14 te jong om zwanger te vallen voor veel vrouwen, buiten morele/mentale bezwaren zijn er gewoon lichaamelijk bepaalde issues die net als bij 35+ opspelen.

[Remzi1993]

Ik had het dus over biologie en volgens biologie ben je klaar voor kinderen wanneer je puberteit in gaat. Dat is biologie. Lichamelijk ben je er dus klaar voor maar dat is dus onwenselijk nu omdat het nu niet meer zo gaat.

Dit ging puur over biologie en dan is 14 te jong om zwanger te vallen

Volgens biologie heb jij er geen enkel verstand van stop dan met het maken van vreemde uitspraken.

[k995]

Het is duidelijk dat je hier weinig van kent, neen iemand die de eerste menstruatie heeft (wat vanaf 7-8 jaar al kan en momenteel voor de emeste tussen 10 en 18) is misschien wel biologisch in staat om kinderen te hebben maar sit is allesbehalve "optimaal".

Dit is geen "vreemde uitspraak" maar gewoon biologie en wetenschap. Dat sommige hier blijkbaar graag willen doen alsof dat "optimaal" zonder enige kennis ter zake is redelijk bizar en zorgwekkend.

[Jerie]

Vroeger had je ook kinderarbeid. In sommige landen nog steeds. Daarnaast werd je gemiddeld veel minder oud. Plus men kreeg liefst heel veel kindjes. Want er gingen er ook waarschijnlijk veel dood.

Laten we niet teveel kijken hoe andere culturen het deden of doen. Het zal mij jeuken dat in Rusland een meisje van 16 volwassen is en alle zin en onzin van prostitutie en porno en wat nog meer mag ondergaan. Dat is een cultuur waar de vrouw gewoon weinig rechten heeft. Dat moeten zij weten; ik leef in een andere, m.i. meer geciviliseerde cultuur.

[TWeaKLeGeND]

Je bent niet bekend menselijke biologie? 16 is zeker gezonder dan 40 fysiek gezien.

[Reactie gewijzigd door TWeaKLeGeND op 22 juli 2024 22:30]

[k995]

Het ging over vanaf 14 en ja, integenstelling tot velen hier ben ik daarmee bekend.

[joker1977]

Kun je eens uitleggen hoe "omgaan met pedofilie" schandalig is in Nederland? Ik ben enigszins het pad kwijt hoe "we ermee omgaan" - behalve dan dat we het (terecht) strafbaar stellen.

[biomechanical]

Pedofiel zijn is niet strafbaar! Pedoseksueel zijn dat is strafbaar!

Het verschil is dat een pedofiel alleen denkt en denken is niet strafbaar.
Een pedoseksueel heeft seks met kinderen en dat is wel strafbaar.
En omdat de meeste mensen dit verschil niet maken/weten, willen/kunnen pedofielen (man en vrouw) niet makkelijk hulp vragen/krijgen. (stel dat het bekent word dat je pedofiel bent?)

Ik zeg niet dat een pedofiel geen pedoseksueel kan worden (vooral omdat hulp zoeken zo moeilijk en potentieel gevaarlijk is), maar als we iedereen die een (foute) gedachte heeft gaan opsluiten, dan kan wel iedereen opgesloten worden.
Wie heeft nog nooit een gedachte gehad welke "fout" was?

[joker1977]

Ah dat is een terecht punt - en inderdaad een onderscheid wat ik niet direct maakte!

Bedankt voor de les - ik had me nog niet gerealiseerd dat daar onderscheid tussen zit, wat er uiteraard wel is.

[Blinkin]

Denk dat hoe je het zelf omschrijft o.a. is waar Kevinp op doelt. Ik ben zeker geen expert maar pedofilie is dacht ik niet strafbaar, kindermisbruik is denk ik het woord wat je bedoelt. Je aangetrokken voelen tot minderjarige (pedofilie) is geen strafbaar feit. Wanneer je echter je door je gevoelens laten leiden en tot seksueel misbruik over gaat (wat elke seksuele handeling met een minderjarige per definitie is volgens de wet) dan ben je wel strafbaar.

In de hedendaagse discussies hierover is steeds meer groei wat dat betreft. Niet iedereen wordt meer over een kwam geschoren. Veel mensen met pedofilie worstelen met hun gevoelens maar weigeren tot kindermisbruik over te gaan (gelukkig).
Ik vermoed dat Kevinp hier nog veel meer nuance en groei in wilt zien.

[TWeaKLeGeND]

In een hoekje drukken heeft wel vaker nare gevolgen zou eerlijk gezegd zelf niet durven hulp te zoeken zou ik pedofiel zijn ivm het stigma dat het met zich meedraagt terwijl die mensen er toch echt helemaal niks aan kunnen doen en hulp veel goeds zou kunnen doen.

[downtime]

Waarbij je biologisch eigenlijk eens goed moet nadenken of het niet soms gezonder is om kinderen te krijgen met iemand van 14-16 dan iemand van 40. En daarmee kan je zeggen dat we als mens eigenlijk vreemd bezig zijn.

Rare tegenstelling schets je daar tussen 14-16 en iemand van 40. Alsof daar niets tussen zit.

Daarnaast is er meer dan de vraag wanneer iemand biologisch gezien klaar voor kinderen is. Om een kind op te voeden moet je juist wat ouder zijn en mentaal steviger in je schoenen staan dan een 14-16 jarige. Ideale leeftijd om ouder te worden ligt eerder rond de 30, een mooi compromis tussen de ideale fysieke leeftijd en de ideale mentale leeftijd.

[Remzi1993]

Nu ja, maar net na de tweede wereldoorlog of 200 jaar gelden was dat anders.

Mensen zijn mentaal pas een beetje volwassen rond hun 30 nu.

[Reactie gewijzigd door Remzi1993 op 22 juli 2024 22:30]

[Terriongaming]

Iemand moet even jouw SSD-schijf controleren. Een kind krijgen met iemand van 14, gaat het goed met je? Weet je hoeveel complicaties een uitdrijving bij een tiener veroorzaakt, voor zowel de moeder als het kind?

[honey]

Ik denk dat de situatie niet zo zwart-wit is. Neem bijvoorbeeld de enorme hoeveelheden manga en anime die door velen worden gekocht, verzameld, maar ook verkocht in stripwinkels en op beurzen. Het lijkt me niet eenvoudig om dit alles strikt te reguleren. Bovendien zien we een toename in het gebruik van AI om afbeeldingen te genereren van 18+ modellen die er zeer jong uitzien, wat de handhaving verder compliceert.

Dit doet me denken aan een rechtszaak waarbij een man onterecht werd aangeklaagd voor bezit van KP en een pornoster besloot (gelukkig) hem te helpen en speciaal naar de rechtbank is afgereist.

Het voelt alsof de huidige wetgeving doorschiet en dat mensen onnodig het slachtoffer (gestraft) worden van deze nieuwe regels. Uiteindelijk zullen we toch moeten accepteren dat het produceren van AI-gegenereerde troep content deel uitmaakt van onze realiteit en dat dit bijzonder eenvoudig te maken zal zijn.

[Anoniem: 91634]

Drugs wordt grotendeels gedoogd in Nederland, messen mag je gewoon in huis hebben, en een hoop wapens (zwaarden, luchtbuks, kruisbogen) mag je ook gewoon hebben zolang je er maar niet mee over straat loop.

[Grrrrrene]

Ik ga ervan uit dat je "en" in "maken en verspreiden" moet zien als "je maakt het én je verspreidt het, dan ben je strafbaar".

Als je het alleen voor jezelf maakt (wie doet zoveel moeite?), zal het ongetwijfeld OK zijn. Je kunt ook voor jezelf Photoshoppen of als je goed kunt tekenen of schilderen kun je ook van alles maken wat niet zo netjes is, maar je schaadt er niemand mee.

Sowieso: hoe ontdekken ze dat je het hebt gemaakt als jij het opslaat op een lokale NAS of USB-stick?

[Reactie gewijzigd door Grrrrrene op 22 juli 2024 22:30]

[phray]

Het gaat hier volgens mij ook gewoon om alleen maken. Maar ben wel ben je eens dat het niet te controleren valt, tenzij je huis wordt binnengevallen door politie bijvoorbeeld.

[kodak]

The new law will mean that if someone creates a sexually explicit deepfake, even if they have no intent to share it but purely want to cause alarm, humiliation or distress to the victim, they will be committing a criminal offence.

Hier valt dan ook onder dat het niet nodig is om te verspreiden, zolang de handhaving maar gelegenheid heeft om aan te tonen dat iemand het gemaakt heeft en slechte bedoelingen zou hebben gehad.

De vraag hoe ze het ontdekken is niet zomaar relevant voor de bedoeling van de wet. De wet lijkt namelijk geen grenzen te stellen aan de omstandigheden hoe handhavers deze proberen toe te passen. Het kan zo bijvoorbeeld al genoeg zijn dat er gelegenheid is het proberen toe te passen. Bijvoorbeeld omdat men een tablet heeft mogen doorzoeken of omdat een rancuneuze partner bij een aangifte over een ander strafbaar feit genoeg vermoedens levert om ook hier onderzoek naar te doen.

[Sylph-DS]

Die quote klopt helaas niet met wat er op gov.uk staat.
Van https://www.gov.uk/govern...own-on-deepfakes-creation :

These changes in the Criminal Justice Bill will build on the existing ‘upskirting’ offence, making it a criminal offence to
* intentionally take or record an intimate image or film without consent or a reasonable belief in consent
* take or record an intimate image or film without consent and
* with intent to cause alarm, distress or humiliation; or
* for the purpose of sexual gratification

Dus ook als het niet gaat om het 'alarm, distress, or humiliation' toebrengen, is/wordt het strafbaar. Dan zou er nog aangetoond moeten worden dat het gaat om 'sexual gratification', wat an sich misschien niet heel makkelijk is, maar het wordt dan voor de verachte toch wel lastig om een goede andere reden te verzinnen.

[Reactie gewijzigd door Sylph-DS op 22 juli 2024 22:30]

[BlaDeKke]

Dmv OneDrive integratie

[Wimmie13]

Je gaat dan ook pas naar de gevangenis als je hem deelt. Zie de link in het artikel.

Under the new offence, those who create these horrific images without consent face a criminal record and an unlimited fine. If the image is then shared more widely offenders could be sent to jail.

Maar zelfs het creëren ervan is strafbaar, omdat dit wordt gezien als een poging om iemand schade toe te brengen met de deepfake.

The new law will mean that if someone creates a sexually explicit deepfake, even if they have no intent to share it but purely want to cause alarm, humiliation or distress to the victim, they will be committing a criminal offence.

Ergens anders in het artikel staat ook dat ze hierdoor twee straffen kunnen opleggen om de straf zwaarder te maken. Hoe dit gaat uitpakken ben ik wel benieuwd naar.

[Finraziel]

Ja maar erg duidelijk is het niet... Want wat nou als je het maakt, niet deelt en niet maakt om wat dan ook voor effect bij het slachtoffer te maken, je enige doel is bijvoorbeeld om er zelf van te 'genieten'.

Ik zeg overigens niet dat dat maar goed moet zijn hoor, want zoiets kan ook altijd uitlekken en dan is het 'oeps, sorry' maar het leed is geschied. Het is alleen niet erg duidelijk verwoord. Dat het strafbaar is als jij een deepfake maakt en die aan je slachtoffer laat zien dat lijkt me vrij duidelijk dat zoiets bestraft mag worden.

[Blinkin]

Ik lees het inderdaad ook als grijs gebied. Het doet er helemaal geen uitspraken over. Suggererend dat dat niet door de wet behandeld wordt... maar dat betekent inderdaad nog niet dat het dus mag.

Vreemd dat de wet hier niet naar kijkt. Ik ken de cijfers van deep fake (porno) beelden niet, wat ook lastig is te meten aangaande t deel wat niet verspreid wordt. Maar t lijkt mij dat een aanzienlijk deel idd voor eigen 'vermaak' is.

[Jerie]

Omdat het je eigen gedachten niet (meer) zijn. Je eigen gedachten zijn als jij je masturbeert op de gedachte dat je een deepfake hebt gemaakt met persoon X en Y. Dat mag. Als je dat ook daadwerkelijk maakt dan betreft het een creatief werk (prompt engineering?). Dat je dat niet deelt, houdt nog niet in dat het mag. Het kan trouwens uitlekken. Bijvoorbeeld vanwege een hacker. Of misschien dat een van je vrienden (met wie je het kijkt?) het stiekem tegenkomt en/of opneemt.

Zaken die je niet mag bezitten, kun je beter gewoonweg niet bezitten. Als je ze wel bezit, ben je bovendien ook nog eens chantabel. Dat is het pad naar Mordor, moet je niet willen.

De documentaire Welmoed en de seksfakes is overigens gratis te bekijken bij NPO Start. Deze documentaire laat goed zien hoe ver de techniek tegenwoordig is, hoe kinderlijk eenvoudig het is, en wat zoiets met het slachtoffer doet. De maatschappelijke gevolgen van onderwerp zijn in een deepfake zijn behoorlijk. Enkel smeken 'doe het alsjeblieft niet' is niet genoeg; dus strafbaar stellen.

[BlaDeKke]

Dit klinkt vrij 1984. Vervang dagboek door deepfake.

[Jerie]

Als jij in een dagboek schrijft dat je Pim Fortuyn wilt vermoorden dan is dat nogal wat, maar zolang niemand het leest kom je niet in de problemen. Het kan achteraf als bewijs voor voorbedachten rade functioneren. Als je het met niemand deelt, zal het je waarschijnlijk niet achtervolgen. Althans, je weet maar nooit. Ook meneer Tonino zette z'n oude computer bij het grofvuil. De oplossing is simpel: hou je aan de wet bij je uitingen.

[Tonne2016]

Waarom zou het maken van deepfakes gestraft moeten worden als deze voor eigen vermaak is? Net zoals je gedachten: Als het voor jezelf is dan ondervindt niemand schade. (Quote van RoyD)


Dat staat er toch ook niet? Tenminste, zo lees ik het niet.

Klein citaat uit het artikel: "zelfs als die persoon niet de intentie heeft om deze te delen, maar alleen paniek, vernedering of leed bij het slachtoffer wil veroorzaken, diegene een strafbaar feit pleegt."

Dus feitelijk wel de intentie heeft om schade te berokkenen.
Als jij een deepfake voor jezelf maakt en daar alleen zelf naar kijkt, puur om mee te experimenteren dan lijkt mij dat niet strafbaar als ik het zo lees. Er is dan immers geen intentie om schade toe te brengen aan iemand.

[Reactie gewijzigd door Tonne2016 op 22 juli 2024 22:30]

[Blinkin]

Ja ik vraag mij af of dit wel duidelijk is omschreven. Het zegt namelijk niet dat eigen gebruik zonder die intentie wel mag.

Sterker nog, die zin is een beetje een contradictie. Ik begrijp niet hoe je schade bij het slachtoffer wilt bereiken zonder de beelden te delen
Als je ze naar t slachtoffer stuurt voor afpersing en voor de rest niemand valt dat mijnsinziens nog steeds onder delen. Vreemde formulering voor een wet (mogelijk fout vertaald?).

[adje123]

Waarom zou je een deepfake van iemand maken(qua pron) voor eigen vermaak? Dan gaat het naar mijn mening niet goed in iemands bovenkamer.
Daarnaast, heel veel dingen voor "eigen vermaak" zijn verboden en dat is maar goed ook, daar mag deepfake zeker onder vallen naar mijn mening.

[kodak]

Als we je redenering volgen dan mag een kunstenaar ook niet meer in het eigen atelier experimenteren met creëren zolang jij de persoon niet goed in de bovenkamer kan noemen. Dat lijkt me geen grens waarvoor wetgeving ontstaat.

Het gaat er eerder om dat er onacceptabele bedoelingen en gevolgen voor de betrokken persoon in de samenleving aangenomen worden door het verspreiden, waar ook nog voldoende valt te handhaven. Wat in veel landen al aangepakt kan worden via bijvoorbeeld verbod op smaad en laster.

De politie kan niet zomaar een atelier of huis binnenvallen en iemand die content maakt en heeft voor eigen gebruik kan niet zomaar beschuldigd worden van onredelijke handelen. Dan zal de politie of betrokken persoon toch meer moeten hebben dan een mening over een ander. Omgekeerd kan content die mensen met andermans beeltenis niet zomaar als smaad of laster worden gezien omdat we een mening hebben over bedoelingen of de makers zelf. Deze wet lijkt de makers en verspreiders dan duidelijkheid te geven wanneer de content over andere wettelijke niet zomaar goede bedoelingen heeft tot ze het tegendeel bewijzen.

[adje123]

Ik heb het over pron en niet over een kunstenaar.

[kodak]

Dat hangt er dus maar net vanaf hoe je bepaalde content en personen wil beschouwen. Jou grens van wat kunst of porno is, of wie kunstenaar is of niet goed in de bovenkamer kan heel anders zijn dan van een wetgever, agent, aanklager of rechtbank in het VK.

[Tweakert2020]

Er zou hypothetisch gezien een actrice kunnen zijn welke je ontzettend aantrekkelijk vindt en bepaalde gedachtes over hebt en geen prooi is geweest van de fappening. Dan zou je daar je gedachtes mee kunnen visualiseren.

[Schway]

Waarom dingen verboden worden is omdat dingen als dit niet voor eigen vermaak blijven.
Als het maken van deepfakes alleen voor eigen vermaak was, was het geen probleem.
Maar dat is het niet. Vrouwen, meisjes, minderjarigen zijn er de dupe van zodra er deepfakes uit de "eigen vermaak" omgeving de wereld in komen.
Daarom is het maken en verspreiden strafbaar.
Als je het voor jezelf doet komt niemand er achter en kan je ook niet veroordeeld worden.

[kabelmannetje]

Wat begijp je niet aan het woord "verspreiden"?

[mediocre]

Vaak wordt er gebruik gemaakt van online AI tools voor het creëren van zulke foto's/video's. Het zou mij niet verbazen als dit online wordt opgeslagen om de AI tool verder te ontwikkelen. Je hebt de touwtjes niet meer in handen als het eenmaal online staat. In mijn mening gaat het "voor jezelf" aspect daardoor weg.

[Roko]

En alle andere deepfakes is dus geen probleem? Verbied dan deepfakes

[Tc99m]

Daarmee zou je dus ook deepfakes verbieden die de maker satirisch of maatschappijkritisch bedoelt, en daarmee kun je dus de vrijheid van meningsuiting en persvrijheid inperken. Als dan bijvoorbeeld een satirische talkshow een (als zodanig herkenbare) deepfake van een politicus maakt om kritiek te uiten, kan die daar opeens voor worden vervolgd.

Ik snap overigens je reactie hoor, maar je komt juridisch al snel in een heel twijfelachtig gebied als je álle deepfakes verbiedt (los van dat dit niet te handhaven is), want feitelijk is het gewoon een hele geavanceerde imitatie van iemand. Tenzij je dan de grondwet aanpast, zal een rechter je op basis van de vrijheid van meningsuiting waarschijnlijk vrijspreken, dus effectief is die wet dan ook niet.

Het is effectiever om wetgeving op specifieke omstandigheden te richten, bijv. wanneer er sprake is van smaad, aantasting van de eerbaarheid, bedreiging, oplichting of desinformatie.

[Reactie gewijzigd door Tc99m op 22 juli 2024 22:30]

[LOTG]

Ik ben van mening dat het enorm problematisch is op het moment dat het niet meer duidelijk is dat het niet echt is buiten de context van het programma.

Je maakt dat, en vervolgens word een stuk waarin niet duidelijk is dat het een satirisch programma is er uit gehaald en elders online gezet met een andere titel.

Na een halve dag staat dat dus overal en word dit voor waar aangenomen, en ga dan maar proberen duidelijk te maken dat het fake is. Vooral bij mensen die toch al heel graag wilde dat dit echt was.

Satire vind ik prima, maar ik zie niet waarom een deepfake daar onderdeel van moet zijn. Er zijn zat satirische programma's waarin het duidelijk is (zoals een acteur die iemand imiteert) dat het niet de persoon zelf is. Ik vind dat aspect wel erg belangrijk.

Iemand letterlijk de woorden in de mond leggen vind ik zelf geen vrijheid van meningsuiting meer.

Achteraf is het allemaal niet de bedoeling geweest en is het niet jou schuld als iemand ten gronde gericht word door een leuk of kritisch bedoelde deepfake die de wereld over gaat en iemand zich tegen moet verdedigen, maar dan is de schade al gedaan. En er zijn ook genoeg mensen die moedwillig op zo een manier twijfel willen zaaien en achteraf schuilen achter vrijheid van meningsuiting.

Er mogen best grenzen zijn aan wat nog imitatie is. Laten we dat gewoon lekker in het gebied houden waar er geen twijfel is.

[OruBLMsFrl]

Volgens mij kun je deepfakes prima verbieden door een verbod in te stellen op alle methoden voor beeldgeneratie waar niet herleidbaar is waar de beelden uit gegenereerd zijn. Elke ouderwetse photoshop tool is een algoritme, en dat werkt op beeldlagen die je voor je hebt. Dat is allemaal nog herleidbaar.

Moet je misschien met ruisgeneratoren op gaan passen, maar je zou ook daarbij een heel algemene uitzondering kunnen maken, dat processen die enkel tot doel hebben het genereren van willekeurige data, en die data ook verifieerbaar willekeurig is, wel als bron zijn toegestaan.

Generatieve AI is niet willekeurig, want die is getrained voor een specifiek doel, en de output is ook niet herleidbaar. Dus in dit stramien is die verboden, hoewel nergens expliciet iets genoemd staat. Met privacy was het eerder ook altijd 'onmogelijk' om iets aan bepaalde zaken te doen, tot de AVG/GDPR. En de macht van mega tech bedrijven uit Amerika was ook hoegenaamd 'onmogelijk' aan te pakken zolang we deel zouden blijven van het kapitalistische systeem.

Er blijkt uiteindelijk best veel mogelijk als we het met zijn allen maar willen. Als het meer kwaad doet dan goed zoiets als generatieve AI, en verder kijkend naar AGI, dan kun je zoiets net als menselijk klonen ook verbieden, of zeer sterk aan banden leggen. Als het maar duidelijk is, dan kan het. Je noemde tot slot de grondwet, maar volgens mij is er niets in de grondwet dat generatieve AI expliciet toestaat?

[Reactie gewijzigd door OruBLMsFrl op 22 juli 2024 22:30]

[downtime]

Daarmee zou je dus ook deepfakes verbieden die de maker satirisch of maatschappijkritisch bedoelt, en daarmee kun je dus de vrijheid van meningsuiting en persvrijheid inperken. Als dan bijvoorbeeld een satirische talkshow een (als zodanig herkenbare) deepfake van een politicus maakt om kritiek te uiten, kan die daar opeens voor worden vervolgd.

Als het herkenbaar is als deepfake dan is het toch geen deepfake? De mate van realisme bepaalt of het een deepfake is.

[cariolive23]

Daarmee zou je dus ook deepfakes verbieden die de maker satirisch of maatschappijkritisch bedoelt, en daarmee kun je dus de vrijheid van meningsuiting en persvrijheid inperken. Als dan bijvoorbeeld een satirische talkshow een (als zodanig herkenbare) deepfake van een politicus maakt om kritiek te uiten, kan die daar opeens voor worden vervolgd.

Bij satire is het over- overduidelijk dat het niet de persoon zelf is die iets zegt, maar een acteur. Dat is het tegenovergestelde van wat een deepfake probeert te bereiken, daarbij wordt juist gepoogd om de echte persoon tot in perfectie na te maken/doen. Totaal ander doel en totaal andere middelen. Zie het als het verschil tussen een spotprent en een foto van dezelfde persoon.

[mOrPhie]

Hoe het in het VK is durf ik niet te zeggen, maar in Europa hebben we "Code of Practice on Disinformation" (https://digital-strategy....e-practice-disinformation), waarin het gebruik van deep fakes voor het verspreiden van desinformatie expliciet wordt genoemd. Onder de participerende partijen zitten bijvoorbeeld Microsoft, Google en Meta. Hoewel dit geen strafbaarstelling betekent per se (hoewel het verspreiden van desinformatie dat wel _kan_ zijn), is het duidelijk dat deep fakes niet zomaar gebruikt kunnen worden voor alles en nog wat.

[cariolive23]

Ik ben geen jurist, maar valt het verspreiden van een deepfake video van een onbekend persoon (denk bijvoorbeeld aan jou of mij) wel onder desinformatie? Daar heb ik ernstige twijfels over. Dan kun je al snel een 80% van de reacties hier op Tweakers in deze categorie scharen, een groot deel van de reactie is klinklare onzin en zou je van kunnen zeggen dat het desinformatie betreft. Alleen worden de reacties maar gelezen door een kleine groep.

Wanneer je een deepfake maakt van bijvoorbeeld een politicus en dat publiceert, dat lijkt me duidelijk desinformatie. Een account op Instagram met een miljoen volgers die onzin uitkraamt, is imho ook desinformatie maar is wel toegestaan/geaccepteerd.

Dat die code er is, dat is mooi, maar hoe effectief het is en of het wel van toepassing is, geen idee.

[mOrPhie]

Ik ben ook geen jurist. En hoe effectief het is weet ik ook niet. Ik heb ook nooit geclaimd dat te weten.

[Anoniem: 710428]

of nog beter, verbied AI

[FlaffTweakr]

Computers? Goddeloos

[phray]

Dune vibes

[kiang]

You want thinking machines? Heretic!

[phray]

Gaat het dan specifiek over deepfakes? Weet als jonge jongen dat als je actrice X naakt intypte op google je allemaal al (slecht) gephotoshopde fotos kreeg te zien. Vraag me af of dit nu hier ook onder valt of dat er specifiek onderscheid wordt gemaakt voor deepfakes. Uiteindelijk is dit natuurlijk een geavanceerdere manier van Photoshop.

[Reactie gewijzigd door phray op 22 juli 2024 22:30]

[Tweakert2020]

Is een deepfake niet per definitie een video en geen foto?

[phray]

Je hebt ook gewoon machine learning tools die werken op basis van foto niet video en die zijn vaak realistischer omdat nou eenmaal makkelijker is.

[wildhagen]

Er zijn meerdere vormen van deepfakes. Video's zijn inderdaad de bekendste, maar je hebt ook foto deepfakes, en zelfs audio deepfakes.

Of combinaties van meerdere bovenstaande uiteraard.

Die laatste was recent hier op deze site nog een artikel over: nieuws: McAfee introduceert technologie om deepfakes te detecteren

[litebyte]

Bij deep fake is het de bedoeling dat het zo getrouw mogelijk lijkt...of je nu een auto deep faked, of een (naakt) persoon...stem of wie weet in de toekomst een bepaalde geur.

Los van de copyright issues die mogelijk ook nog van toepassing kunnen zijn, lijkt me verspreiding ervan - als aannemelijk blijkt tot schade aan de werkelijke persoon of merk kunnen leiden. Denk aan naakt beelden of iets dat helemaal niet gezegd is strafbaar.

Het is een vorm van laster ook

[kervel123]

Goed punt. Een deep fake filmpje is immers een reeks fotootjes. Als fotoshop 'mag', dan deep fake wat mij betreft ook.

[KittySeraphim]

Ik hoor vele zeggen "als het voor eigen gebruik is en 100% niet verdeeld wordt" dan moet ik toch denken.
Kun je 200% garanderen dat je pc of ander apparaat niet gehacked wordt? en die persoon met de deepfake aan de haal gaat.
Wat als de fake op het scherm staat en iemand kijkt toevallig even door het deurgat op zoek naar jou? die heeft het dan gezien en de schade is aangericht.
De schade die door deepfakes kan aangericht worden is dermate groot dat het te gevaarlijk is om ze toe te laten naar mijn mening.

[RoyD]

Het verbod op deepfakes heeft ook een keerzijde: De mensen zullen eerder geneigd zijn om te denken dat het echt is. Maar deepfakes zijn sowieso een ernstige schending van het portretrecht.

[MSalters]

Niet alle deepfakes zien een schending van het protretrecht. Sterker nog, de meesten zijn volledig random en niet representatief voor één bepaald persoon. Dan valt het dus niet onder het protretrecht.

Dit is juridisch best wel een probleem, want hoe toon je aan de hand van de pixels aan wat de bron was? Het is best wel een subjectief orodeel of een AI plaatje een echt bestaand persoon representeert, tenzij de dader natuurlijk zo stom is om dat zelf duidelijk te maken.

[ari3]

Inderdaad en zelfs als het een bestaande persoon is, is het nog steeds twijfelachtig. Voor iedere persoon is er ergens op aarde iemand die zoveel lijkt op die persoon dat hij/zij voor een dubbelganger kan doorgaan. Hoe bepaal je dat je een deepfake gemaakt is met de materiaal van de echte Elvis en niet van een Elvis-imitator?

[Blinkin]

Er zijn meer zaken waarvan het bezit legaal is maar t verspreiden niet. Denk aan wapens (onder vergunning) en bepaalde (soft) drugs. Ook daar kan ingebroken worden en het verspreid worden. Ik zie daarom bij deep fakes geen logica waarom we daar het maken wel strafbaar zouden moeten maken.

Los van of ik t eens ben of niet met degene die het maken voor eigen gebruik prima vinden kan ik mij wel in de redenatie vinden die men gebruikt. Het is raar om te stellen dat omdat diefstal mogelijk is dat de maker dan strafbaar is. Tenzij die het overduidelijk makkelijk gemaakt heeft het te stelen (er onverstandig mee omgaat), dan zou ik strafbaarheid wel weer logisch vinden.

Wanneer iemand een wapen steelt en er een strafbaar feit mee pleegt gaan we de fabrikant en verkoper van t wapen niet aansprakelijk stellen. Terwijl de impact op t slachtoffer mogelijk gigantisch is. Ik zie hier heen verschil.

[Wimmie13]

Is er in Nederland en Europa eigenlijk ook al een wet hiervoor?

[wildhagen]

In Nederland is het al strafbaar in theorie, maar dat is helaas niet te handhaven:

Deepfakes, soms zijn ze grappig en onschuldig, bijvoorbeeld in de WhatsApp-groep met je familie. Maar in vrijwel alle gevallen zijn zulke filmpjes helemaal niet meer zo leuk. Sterker nog, het maken van deepfakes zonder toestemming is strafbaar

[...]

Hoewel het maken van zulke pornografische beelden strafbaar is, is de handhaving ervan lastig. Dat zegt advocaat en hoogleraar Dirk Visser van de Universiteit Leiden in gesprek met het ANP. "Wie is er verantwoordelijk voor de video en wanneer moet er actie ondernomen worden: op voorhand of als er een klacht is ingediend?", geeft de hoogleraar het probleem weer.

Op voorhand deepfakes tegenhouden is lastig. "Zo'n beetje de enige manier om dat te doen is door alle pornovideo's te verbieden. Dat zullen veel mensen te ver vinden gaan", zegt Visser. Een andere optie is om video's te filteren, zoals dat gebeurt bij kinderporno. Maar ook daar is volgens Visser discussie over, want waar ligt de grens? "Mogen individuele clouds dan ook bekeken worden, en al het e-mailverkeer?"

Zie https://www.rtvdrenthe.nl...aar-moeilijk-te-handhaven

[Llopigat]

In Nederland is het al strafbaar in theorie, maar dat is helaas niet te handhaven:

Ik vind dat geen 'helaas' want de extreme inbreuk op het priveleven om zoiets succesvol te handhaven slaat gewoon als een tang op een varken. Dan moet er continu toezicht gehouden worden op ieder zijn computer. Dat is gewoon onder geen enkele voorwaarde acceptabel.

Het enige dat echt te handhaven is, is het verspreiden en dat is dan ook het enige waar echt slachtoffers bij gemaakt worden.

Het is ook echt maar een klein fenomeen voor zulke ingrijpende maatregelen. Hoeveel mensen maken nou echt deepfakes? Dat verantwoordt geen Stasi achtige surveillance staat.

[Reactie gewijzigd door Llopigat op 22 juli 2024 22:30]

[okkies]

Voelt dit wetsvoorstel niet goed? Maar ik kan niet precies aanwijzen wat. Wat zeggen de privacywaakhonden hierover?

[IamGrimm]

Omdat het een ondoordachte "kneejerk" wet is tegen een fenomeen dat niet te handhaven is zonder privacy enorm te schenden.

Het verspreiden strafbaar maken zit nog een logica bij waarbij handhaving mogelijk is. Dat is prima, al kan je eveneens je vraagtekens zetten bij de opsporingsmethode, maar hier zie ik niet per se een probleem.

Het maken met de intentie om "alleen paniek, vernedering of leed bij het slachtoffer wil veroorzaken" is volledig interpreteerbaar door een rechter. Daarbij is dit natuurlijk letterlijk onmogelijk te handhaven tenzij de privacy wordt geschonden van de maker.

[Reactie gewijzigd door IamGrimm op 22 juli 2024 22:30]

[adje123]

Nee hoor. Als een slachtoffer aantoont dat het "paniek, vernedering of leed" geeft veroorzaakt dan ben je er al.
Mensen die van andere mensen deep fake pron maken mogen wat mij betreft tot het einde van hun leven opgelosten worden.

[IamGrimm]

Vrij lastig om paniek, vernedering, of leed te voelen als je niet eens weet dat het bestaat.

En prima hoor, maar stel dat zoiets op een eigen computer staat gemaakt met een lokale installatie van Stable Diffusion ofzo, hoe wil je dat ze dit vinden en handhaven? Om vervolgens te moeten bewijzen dat het paniek, vernedering, of leed heeft veroorzaakt natuurlijk, hoe zie je dat dan voor ogen?

[Reactie gewijzigd door IamGrimm op 22 juli 2024 22:30]

[adje123]

Meeste mensen die dit soort dingen maken houden het niet lang voor zichzelf. Op een gegeven moment voelen ze de urge om het ergens te posten zoals bijvoorbeeld reddit. Dan ben je vindbaar.
Of ze brengen hun PC weg voor reparatie, of ze sturen het naar vrienden door die ze vertrouwen en dan lekt het uit.

Wat niet weet, wat niet deert, maar daar doelt de wet ook niet op.
Als iemand iets maakt om een slachtoffer te vernederen, dan is de kans groot dat het om "wraak" gaat. Wraakpron hebben we ook in het verleden genoeg gehad in het nieuws, nu wordt het alleen stuk makkelijker.

[IamGrimm]

We hebben het in de afgelopen paar comments dan ook duidelijk over het volgende:

zelfs als die persoon niet de intentie heeft om deze te delen

Dus ik weet niet of de vlieger "wat niet weet, wat niet deert" hier helemaal op gaat. Het kan dat we dit moeten nemen als een soort van aanvulling op cyberbullying, maar het is mij niet helemaal duidelijk, dan is het namelijk ook gedeeld (toch?).
"Niet de intentie om deze te delen" impliceert wel dat ook het simpelweg maken en hebben van deepfakes illegaal is. Dat is een best problematische stap. Niet omdat het goed is dat mensen deepfake porno maken, maar omdat het iets wil verbieden wat niet gehandhaafd kan worden zonder grove privacy overtredingen.

[Dark Angel 58]

Mooi nu Amerika en andere landen nog.

[litebyte]

In de VS is het al strafbaar - dan de verspreiding van naakt deepfakes zonder toestemming - kan als laster worden gezien.

Als zijdelingse opmerking, met ai gegenereerde naaktbeelden kunnen natuurlijk ook leiden tot een probleem bij verspreiding als het onbewust op een werkelijk persoon lijkt.

[Zwaai Haai]

je zijdelingse opmerking over per ongeluk.. in de zaak rondom Welmoed Sijtsma is artikel 139h gehanteerd, en wat ik daar lees wat niet mag is

• opzettelijk en wederrechtelijk van een persoon een afbeelding van seksuele aard vervaardigen
• van een persoon een afbeelding van seksuele aard openbaar maken, terwijl je weet dat die openbaarmaking nadelig voor die persoon kan zijn.

Ik (ben geen rechter of jurist maar) zou zeggen ;
- expres porno AI maken met (Arnoud.Wokke:1.4) in de prompt wel strafbaar dus. Het per ongeluk vervaardigen is niet strafbaar,
- Het per ongeluk gemaakte beeld; als je weet dat het resultaat zoveel op een werkelijk persoon lijkt dat dit nadelig voor die persoon kan zijn. Dan mag je die niet verspreiden. Kan je in het beeld niemand specifiek herkennen, dan is verspreiden niet onder dit artikel strafbaar. (kan uiteraard wel een andere reden zijn nog waarom je gemaakte beeld strafbaar is om te verspreiden)

Maar ik sta open voor reacties als ik ernaast zit :-)

[World Citizen]

Ik ben toch bang dat we het moeten gaan accepteren en er les over moeten geven op school. We gaan deze strijd nooit winnen.

Mensen blijven dit maken en verspreiden. Dit is zo ontzettend eenvoudig te doen dat dit nooit te handhaven is. Tevens krijg je het ook niet meer van internet af. Je kunt de dader wel opsporen maar dat veranderd niks als mensen niet standaard dit soort foto's als fake beschouwen. Dan is de schade er nog steeds.

Dus als we een open internet willen blijven houden doen we er beter aan om iedereen te leren dat dit soort foto's over het algemeen nep zijn. Algeheel accepteren en onderwijzen.
Als we het verbieden gebeurt het toch maar dan zouden meer mensen denken dat het echt is. Als we allemaal collectief dit soort foto's als fake gaan beschouwen is het probleem ook minder erg.

Maar goed, laten we kijken hoe het uitpakt. Ik denk dat we er nooit omheen kunnen.

[litebyte]

We gaan de strijd (zeker in een land als Nederland) tegen drugs ook nooit winnen. Maar dat wil nog niet zeggen dat je het dan maar moet gedogen - door een mix van (politieke) incompetentie en/of gebrek aan handhaving.

Het verspreiden van persoonlijk te herleiden deep fakes kun je zien als laster, dat is strafbaar in Nederland. Per 'incident' zou je dan moeten kijken of verspreiding ervan kan worden vervolgd.

[NotWise]

De geest is uit de fles en die stop je niet meer terug. De politie kan onmogelijk iedereen vervolgen.

[wildhagen]

Goede zaak. Dit kan mensen behoorlijk psychisch en sociaal beschadigen als dit zonder hun medeweten wordt verspreid, en zij erop aangekeken worden door mensen die niet door hebben dat het deepfakes zijn.

Dit moet je als maatschappij imho écht niet willen. Goed dat het expliciet strafbaar gesteld wordt, mogen ze hier in Nederland ook wel doen.

Zie ook niet zo wat hier nou de lol van moet zijn, ik vind het een beetje treurig als iemand zich met dit soort prakijken bezig houdt. Zoek dan hulp zou ik zeggen, ipv zoiets te gaan doen. Hulpverleners zijn er niet voor niets.

[freaky]

Dat klopt zeker.

Maar ms gaan we beter naar een maatschappij waar mensen std in twijfel trekken of wat ze als waarheid zien wel de waarheid is i.p.v. iedereen maar de illusie te geven dat het wel de waarheid zal zijn omdat de maker anders ws wel vervolgd was.

[iew]

Social media kan ook mensen behoorlijk psychisch en sociaal beschadigen, zullen we dat maar gewoon volledig gaan verbieden ?

Ik denk zelfs dat wanneer we de stekker uit het volledige www trekken de wereld binnen 5 jaar weer redelijk stabiliseert.

Terug naar weer gewoon een gsm, sinds internet en ‘social media’ vind ik de wereld er echt niet beter op geworden.