EU komt met wet die maken en verspreiden van deepfakeporno expliciet verbiedt

De Europese Raad en het Parlement hebben overeenstemming bereikt over een wetsvoorstel waarmee het maken en delen van deepfakeporno van bestaande personen wordt verboden. Er komt ook een wet die het maken van AI-gegenereerde kindermisbruikbeelden verbiedt.

Het eerste wetsvoorstel dient om verschillende vormen van 'cybergeweld' voor alle lidstaten strafbaar te maken, legt de Europese Commissie uit. Daaronder valt het zonder toestemming delen van intieme foto's, waaronder deepfakes. Ook cyberstalken, online intimidatie en cyberflashing worden hierdoor expliciet gezien als strafbare feiten in Europa. In Nederland is dat voor die laatste al het geval. Daarnaast moet de wet lidstaten verplichten om maatregelen te ontwikkelen waarmee gebruikers cybergeweld makkelijker kunnen herkennen en aan de bel kunnen trekken.

Politico schrijft dat slachtoffers van expliciete deepfakes zich momenteel enkel kunnen beroepen op een allegaartje van wetten, zoals de AVG en landelijke smaadwetten. Door het maken en verspreiden van dergelijke deepfakes expliciet te verbieden in een nieuwe wetgeving, moet het voor slachtoffers makkelijker worden om een aanklacht in te dienen, aldus de Commissie. De Europese lidstaten moeten de wet wel nog goedkeuren. Volgens Politico is het de bedoeling dat de wet in 2027 van kracht wordt.

Verder heeft de Commissie een herziening van de strafrechtelijke regels inzake seksueel misbruik en seksuele uitbuiting van kinderen voorgesteld. De definitie van strafbare feiten wordt hierbij geactualiseerd, waarbij ook het maken van AI-gegenereerd materiaal of deepfakes expliciet wordt genoemd. Ook het livestreamen van kindermisbruik is nu een afzonderlijk strafbaar feit. Dit voorstel moet nog door de Europese Raad en het Parlement worden goedgekeurd.

Reacties (195)

[LeonM]

Het wetsvoorstel van AI generated CSAM is eigenlijk wel een interessante.

Het is namelijk wel toegestaan om moord, ernstig geweld, verkrachting, marteling, etc. uit te beelden in films en games. Sexuele handelingen met minderjarigen in films word altijd vermeden, met name omdat de acteur in zo'n geval minderjarig is.

Echter, met AI-generated CSAM is er natuurlijk geen slachtoffer. Je zou natuurlijk kunnen discusseren dat AI generated CSAM mensen kan aanzetten tot pedofilie, maar dan komen we weer terug op de ellelange discussie of gewelddadige films en games ook mensen aanzet tot het plegen van geweld.

Zijn we met wetten tegen AI-generated CSAM nu weer op dezelfde discussie uitgekomen als Carmageddon in de jaren 2000? Is een producent van fictieve CSAM (AI, getekend, geschreven etc.) schuldig van een misdrijf ondanks dat er geen slachtoffer is? Voelt een beetje als minority report.

[Dicebar]

Ik denk dat de vergelijking tussen Carmageddon en fictieve CSAM niet een eerlijke is. Ja, voor beiden zijn er geen slachtoffers, maar CSAM is iets wat echt gebeurd terwijl mensen niet als malloten rondrijden zoals in Carmageddon.

Daarom is de vraag niet: "Zal dit mensen aanzetten tot", maar "hoeveel mensen zal dit aanzetten tot?" En het antwoord is elke is er één teveel.

CSAM is simpelweg niet iets wat je wil normaliseren.

[MGsubbie]

Daarom is de vraag niet: "Zal dit mensen aanzetten tot", maar "hoeveel mensen zal dit aanzetten tot?" En het antwoord is elke is er één teveel.

Nee, die vraag kan enkel gesteld worden wanneer er weldegelijk bewijs is dat dit mensen aanzet. Die is er nog niet.

[Da-WiZZy0n]

Er is weldegelijk onderzoek gedaan naar hoe extreme zaken in het brein steeds verder genormaliseerd kunnen worden als men naar (extreme) porno kijkt. Er is aan de ene kant steeds meer nodig om het brein te stimuleren en daarnaast is het zo dat nieuwe voorkeuren zich kunnen ontwikkelen door het zien van prikkelende beelden. Net als dat je als kind niet direct bier of koffie lust, maar dit gaandeweg leert drinken (wellicht niet hetzelfde mechanisme, maar wel een aardige analogie).

[ArchMechasis]

Even zoeken toont al snel dat "tolerantie opbouwen" voor porno een oude theorie is die helemaal niet vaststaat en zowel voor als tegenstanders heeft. Een recente studie toonde juist het tegenovergestelde. Langdurige blootstelling aan porno door de jaren heen leek daarin te correleren met lagere voorkeur voor extreme porno. Zelfs de grootgebruikers in de studie kwamen enkel tot identieke voorkeur als aan het begin van de studie.

Zie: Testing the content progression thesis (2019, Kroatie). Letterlijk gevonden in een paar minuten.

Als zo'n recent langdurig onderzoek juist het tegenovergestelde aantoont dan kun je toch wel stellen dat er meer onderzoek gedaan moet worden voordat we een aanname als waarheid gaan verspreiden.

Eenzelfde "tolerantie opbouwen" aanname (wat zou leiden tot agressie in de werkelijkheid) werd nog geen 15 jaar geleden ook als "feit" verspreid over geweld in games. Na duizenden studies is daar niets van over gebleven.

[Evanesco]

Eenzelfde "tolerantie opbouwen" aanname (wat zou leiden tot agressie in de werkelijkheid) werd nog geen 15 jaar geleden ook als "feit" verspreid over geweld in games. Na duizenden studies is daar niets van over gebleven.

Dit. Ik ben in 2008 als psycholoog afgestudeerd op dit onderwerp (geweld in games leidt tot geweld in real life) en toen werd er al geen spaan heel gelaten van het onderzoek dat dit verband zou aantonen. Gammele methodes, correlaties die verward werden met causaliteit, etc.

Normalisatie, desensitisatie, allemaal niet aangetoond. Sterker nog: het zou juist een uitlaatklep kunnen zijn waardoor geweld juist minder wordt door een goed potje Call of duty (catharsis). Ik zie eigenlijk geen reden waarom dit voor porno anders zou zijn...

[Da-WiZZy0n]

Nou is normalisatie kennelijk niet aangetoond, maar desensitisatie treedt toch aantoonbaar op bij pornoverslaafden, tot erectiestoornissen aan toe?

[Jerie]

Pornoverslaafden en liefhebbers van extreme porno zijn twee verschillende excessen. Die kun je niet zomaar op een hoop gooien. Het is trouwens de vraag of deze mensen al verslaafd waren aan seks voordat ze porno keken. Je moet denken aan causaal aantoonbaar verband.

[Da-WiZZy0n]

Uiteraard zijn dat 2 heel verschillende zaken, maar hebben beiden wel een mogelijk verband met desensitisatie. Ofwel het extreme, ofwel kwantiteit.

Of er causaal verband is zou ik wel denken, aangezien er positief effect wordt geboekt in de zin van verminderen pornogebruik <--> verbeteren erectie. Of dat in grootschalig onderzoek al is aangetoond heb ik niet kunnen vinden, maar er is dusdanig veel anekdotisch bewijs dat dit een gangbare behandeling is van veel psychologen/klinieken.

Voorzichtig uitgedrukt, vermoed ik dat in bepaalde zin desensitisatie bij pornogebruik toch best een ding zou kunnen zijn. Ik sluit echter niet uit dat een ander mechanisme zou kunnen spelen.

[Reactie gewijzigd door Da-WiZZy0n op 22 juli 2024 13:59]

[Da-WiZZy0n]

Point taken, ik was te stellig. Wist vrij zeker dat ik hier artikelen over gelezen had waarbij e.e.a. werd aangetoond.

Dat gezegd hebbende vind ik dit aangehaalde onderzoek ook niet erg sterk ogen; 1 vrij smalle cohort (male high school students) en n=248, niet echt grootschalig dus. Tijdsduur ook niet bepaald lang. Daarnaast vraag ik me af hoe betrouwbaar de interviews waren. Resultaten heel makkelijk te beïnvloeden door vraagstelling.
Daarnaast nog dit: https://doi.org/10.1007/s10508-021-01931-y

[Reactie gewijzigd door Da-WiZZy0n op 22 juli 2024 13:59]

[Jerie]

Er is weldegelijk onderzoek gedaan [...]

Klopt, er is onderzoek naar gedaan ...

Net als dat je als kind niet direct bier of koffie lust, maar dit gaandeweg leert drinken (wellicht niet hetzelfde mechanisme, maar wel een aardige analogie).

De vuistregel is 10 keer proberen en dan lust het kind het. Ik ben bij mijn kinderen de tel al aardig kwijtgeraakt

De smaakpapillen zijn bij kleine kinderen nog klein, zitten dicht op elkaar. Daardoor ervaren ze de smaken intenser. Daarnaast hebben kinderen een voorkeur voor zoet (ze hebben ook relatief veel koolhydraten nodig), en een afkeer voor bitter. De theorie is dat van oudsher bitter in de natuur over het algemeen ongezond is voor kleine kinderen dus deze preferentie zou een positief effect hebben op de overlevingskansen. Zout moeten ze ook mee oppassen (nieren kunnen nog niet veel aan), en zuur is slecht voor de tandjes die ze waarschijnlijk niet al te best poetsen (dat doet papa/mama hopelijk wel grondig, en niet direct na de zure hap).

Overigens leerde ik koffie drinken omdat ik al cola lustte (maar ik gebitsprobleempjes had en moest minderen/stoppen), en ik dronk koffie al vrij jong met melk en suiker. Of dat verstandig is? Tja, denk dat het wel beter is dan die energiedrankjes.

[Da-WiZZy0n]

Uiteraard is bitter iets wat een kind vaak in eerste instantie tegenstaat en dat heeft zoals je zegt een biologische functie. Daarom ook dat ik zei dat dit niet (volledig) berust op hetzelfde mechanisme.

(Voor zout geldt het overigens een stuk minder, maar bittere goedjes kunnen vaker al in kleine hoeveelheden giftig zijn. Ik denk dat het evolutionair gezien daarom vooral voor bitter opgaat.)

Die vuistregel is denk ik een beetje onzin + er kan ook zomaar weer regressie optreden. Meestal loont het als je het kind al in heel vroeg stadium gevarieerd te eten geeft. Dat legt de basis om later goed te kunnen eten, ook al zijn er dan fases waarin ineens alle gezonde dingen weer vies zijn.

[Reactie gewijzigd door Da-WiZZy0n op 22 juli 2024 13:59]

[Z___Z]

Aan de andere kant van de medaille, als iemand pedofiel geaard is, en die persoon komt aan z’n trekken door AI gegenereerde kinderporno te bekijken, voorkom je wellicht wel potentiële slachtoffers.
We vinden gender wijziging en alle niet hetero geaardheden (LHBTI+) normaal, omdat die iemand kunnen vinden die dezelfde geaardheid heeft en toestemming kan geven. Als we geaardheid aannemen als nature en niet als nurture zou je pedofilie ook als aangeboren geaardheid kunnen beschouwen. Als dat zo is, zou je die mensen kunnen helpen door met AI aan hun trekken te komen.

[TTMJ!]

Helemaal eens - pragmatisch gezien zou dat de beste oplossing zijn. Maar zou jij de politicus durven te zijn die dit introduceert?

[Z___Z]

Nee ik niet, zou denk ik politieke zelfmoord zijn. Zulke dingen kunnen mensen alleen in kleine stapjes aan wennen.

[Wouterie]

Ja, dit is ook een beetje mijn gedachtegang. We wijzen pedofilie af omdat het kinderen beschadigd. Er is geen enkel argument te bedenken waarom je dit kinderen aan zou doen. Maar net als dat in cartoons, manga, hentai, en menig 'normale' film zaken voorbij komen die in het echte leven zeer verwerpelijk zouden zijn, zou het op dit gebied ook best moeten kunnen. Zolang het maar verre blijft van echte personen. Het probleem met deepfake is dat het echte personen vaak raakt.
Als we dan vinden dat elke geaardheid in principe geaccepteerd moet worden, maar niet perse beleeft mag worden, dan is dit misschien wel een oplossing. Maar misschien is het nog te vroeg.

[Jerie]

Leuk dat je hentai noemt. Het is de reden geweest dat de Fediverse van Mastodon is opgesplitst tussen West-nonJapan en West-Japan.

Het verschil tussen hentai en AI / deepfake is dat AI / deepfake akelig in de buurt komt van echt, terwijl hentai duidelijk een tekeningenserie betreft.

Daar komt nog bij: ik denk niet dat we rechtszaken moeten willen waarbij een advocaat met succes verkondigd: ja meneer de rechter, Jan heeft inderdaad 10.000 CSAM plaatjes op de computer staan maar die zijn toch allemaal AI generated. Waarbij de politie vervolgens moet uitpluizen welke echt zijn. Dat uitpluizen is emotioneel zwaar. True, je hebt tooling zoals hashes maar niet waterdicht en moet altijd geverifieerd worden.

Sterker nog, op het moment dat de CSAM non-deepfake is gegenereerd is het kwaad al geschied. Dan nog staan we het bezit van niet toe. Terwijl, verspreiding tegengaan is bij materiaal met zero marginal cost (pak 'm beet al het spul waar auteursrechten op zitten) zeer, zeer lastig. Kijk maar naar mensen die proberen wraakporno van het internet af te krijgen. Het is dweilen met de kraan open en het sloopt kinderen op school. De HBO serie Euphoria gaat hier ook deels over, aanrader. S1 is uit 2019. Het probleem speelt dus al even. Ik hoop dat het is opgelost als mijn kinderen naar het middelbaar gaan (volgende decennium), heb er een hard hoofd in.

[Wouterie]

Deepfake kennen we nu vooral van het misbruik daarvan en daarom willen we 'het kind met het badwater weggooien' terwijl er legio toepassingen zijn waarbij het wel kan helpen. Deepfake is niet echt en zolang dat maar duidelijk is. Met daarbij 'onschuldig tot het tegendeel bewezen is' moet je een heel eind komen.
We willen in ons strafrecht strafbare feiten, gedrag, aanpakken, niet de gedachte. Ik mag een strafbaar feit bedenken, er aan denken, erover fantaseren, maar de daad of het voorbereiden daarvan, dat is strafbaar.
Als ook de fantasie strafbaar wordt... Ik vind dat principieel gezien lastig. Waarom zou een deepfake over moord anders worden behandeld dan een deepfake over (kinder)porno?
Ik blijf hameren op de peilers van ons recht: onschuldig tot het tegendeel bewezen is en gedrag bestraffen.

[Jerie]

Stel ik loop over straat met mijn kind van 5 en ga naast iemand zitten in een bushokje. Een meneer naast me gaat ineens doodleuk porno kijken. Het geluid staat aan, de fantasie draait op volle toeren. Stel nu dat dit deepfakeporno is tussen volwassenen en kinderen. Hoe ga ik dit uitleggen?

Mijn punt is: je wilt dit niet normaliseren in de maatschappij. Dat het met alcohol en geweld/schieten is mislukt houdt nog niet in dat we dat met alles maar moeten accepteren.

[Wouterie]

Je trekt het nu in de publieke ruimte. Daar is heel veel wat toegestaan of gedoogd wordt in de privé sfeer niet geaccepteerd. Ik heb het wat over in de privé sfeer plaatsvind. Gedrag wat je niet hoeft uit te leggen, waar een stigma op rust of wat dan ook. Mijn punt is: we wijzen kindermisbruik af. Maar de strijd tegen online kinderporno zijn we keihard aan het verliezen. Wat als we de 'gebruikers' die lang niet allemaal uit zijn op het daadwerkelijk misbruiken van kinderen, een alternatief kunnen bieden wat niemand kwaad doet?

Dat kan een enorme slag zijn in het tegengaan van die echte misbruikgevallen. Waar enorm veel geld mee wordt verdient, waar enorm veel leed achter zit. Je kunt pedofilie niet uitbannen door het te verbieden. Dat is met homofilie geprobeerd, dat gaat met pedofilie ook niet lukken.

[Jerie]

Homofilie komt veel meer voor dan pedofilie. Bij homofilie gaan we uit van mutual consent. Pedofilie is net als seks met dieren of necrofilie asymmetrische machtsverhouding en dus asymmetrische seksuele relatie. Deze is daardoor voor een partij (zeer) schadelijk. Terwijl doktertje spelen tussen leeftijdsgenootjes, of seksueel onderzoek tussen pubers onderling bij consent prima is.

Zoals ik al stelde: hentai is overduidelijk nep.

Ik ben overigens wel voor wetenschappelijk onderzoek naar het fenomeen dat je schetst. Maar ben niet voor het toestaan omwille van een sociaal-wetenschappelijk experiment.

[Wouterie]

Laten we voorop zetten dat het daadwerkelijk uitoefenen van pedofilie zeer verwerpelijk is. Net als elke relatie met een scheve machtsverhouding. Directeur met secretaresse is ook verwerpelijk. Of coach met zangtalent. Noem maar op. Echter als het blijft bij fantasie dan maakt het mij persoonlijk geen biet uit. Of ze kijken naar de professor met een student, een siefmoeder die klem zit, een fietsenmaker en een grietje zonder geld... zolang het niet echt is raakt er niemand beschadigd, worden er geen wetten overtreden en vind ik het onredelijk om het strafbaar te stellen.
Ik heb nog geen één keer een argument gehoord waarom het kijken naar computer gegenereerde beelden strafbaar zouden moeten zijn.

[Aldy]

Deepfake is met echte personen, maar wat als je zelf de persoon construeert. Als dit het misbruik van kinderen tegengaat, ben ik ook wel voor deze maas. Misschien zijn deze uitzonderingen wel de reden dat het zolang duurt voordat deze wet wordt aangenomen.

[Wouterie]

Niet uitsluitend. De Fully AI-Generated Influencers vallen ook onder deze categorie. Het is echter inderdaad nog steeds gangbaar dat voornamelijk de gezichten worden aangepast. Maar met de rekencapaciteiten van tegenwoordig is volledig AI gegenereerd behoorlijk in opmars.
Ik ben een beetje bang dat de wetgeving is/wordt gebaseerd op angst, waardoor ook de positieve mogelijkheden belemmerd worden. Net als met de auto's vroeger... die mochten een tijdje niet harder rijden dan een paard kan rennen. Feest.

[Aldy]

Ik kijk wanneer de wet eindelijk in elkaar geflanst is, dan zijn er nog meer mogelijkheden. Dan is een volledig AI-gezicht mogelijk, zolang het maar niet op bestaande personen lijkt. En dat laatste is zeker mogelijk. Dan vond ik altijd het leuke aan Jan, Jans en de kinderen: het waren mensen, maar zoals zij eruit zagen, kom je ze nooit tegen. Als je zoiets maakt, hoef je ook nooit te bewijzen dat iets fake is, het straalt er vanaf.

Net als met de auto's vroeger... die mochten een tijdje niet harder rijden dan een paard kan rennen.

Enerzijds, wat de boer niet kent..., maar anderzijds weet ik niet hoe goed die remmen in die tijd werkten. En, waarom zal de nieuwe wetgeving ook niet door AI in elkaar gezet kunnen worden. Kun je gelijk kijken hoeveel vertrouwen AI in zichzelf heeft.

[Wouterie]

Oeh! Dat laatste is wel een heel leuk idee!

[BeosBeing]

Sterker nog, ... Terwijl, verspreiding tegengaan is bij materiaal met zero marginal cost (pak 'm beet al het spul waar auteursrechten op zitten) zeer, zeer lastig.

Daartegenover staat, dat als het te genereren is via deepfake en praktisch zonder kosten, er ook geen fianciële reden meer is om het echte spul te maken. Uiteraard zullen er individuen zijn die om hun eigen lusten te bevredigen door zullen gaan, maar ze zullen er niet meer mee kunnen verdienen. Dat zel het echte misbruik doen verminderen.

[Reactie gewijzigd door BeosBeing op 22 juli 2024 13:59]

[Aldy]

Ja hoor, als het verdienmodel weg is, zal het echte spul langzamerhand verdwijnen. Daar ben ik van overtuigd. Maar dan moet de wet wel die mogelijkheid scheppen, anders heb je nog steeds een illegaal circuit en daar wordt altijd flink geld verdiend.

[JurGor]

Nee, dat kan je beter niet doen want daarmee normaliseer je gedrag dat wij als samenleving niet genormaliseerd willen maken.

[Wouterie]

Wat wij als samenleving normaal vinden is nogal onderhevig aan veranderingen. Kijk maar naar de lhbtqia+ geschiedenis. Wat wij als samenleving verwerpen is gedrag wat anderen beschadigd en daarom is elke vorm van kinderporno met echte kinderen verwerpelijk en strafbaar.
Echter als wij geaardheid strafbaar maken en niet gedrag, wat zijn we dan opgeschoten? Wat is het nut van een pedofiel vervolgen die aan z'n trekken komt met computergegenereerd spul?

[JurGor]

We hebben als samenleving besloten om kinderporno en kindermisbruik strafbaar te vinden. Dat schept verplichtingen. Een daarvan is dat we verantwoord omgaan met het deel van onze bevolking dat de geaardheid of neiging heeft om seks met kinderen te willen. "De kat op het virtuele spek binden" lijkt me niet bepaald een helder signaal voor deze mensen. Seks met kinderen is nooit goed, zeker niet in het echie, maar ook niet virtueel. Ongewenst seksueel gedrag is al lastig genoeg te sturen zonder normalisatie. Niet normaal maken wat niet normaal is.

[Wouterie]

Ik ben wel benieuwd wat voor jou het verschil is tussen de ene en de andere virtuele misdaad. Jij stelt dat normalisatie verwerpelijk is bij strafbare feiten, maar maakt daarin onderscheid tussen iets als moord of porno. Is de potentiële moordenaar anders dan de potentiële misbruiker in dit geval?
Het doel lijkt mij om onze echte kinderen te beschermen, niet om mensen met een afwijkende geaardheid aan te pakken. We willen toch gedrag strafbaar maken en niet fantasie?

[JurGor]

Ik vind dat een potje GTA of Carmageddon spelen niet te vergelijken is met virtueel een kind misbruiken.

Voor een gewelddadig fantasiespel lijkt me de grens tussen fantasie en werkelijkheid een stuk scherper dan voor virtuele kinderporno. Neem een gewelddadig schietspel, alleen al het simpele gegeven dat wij geen bazooka's, AK47 en ARs in huis hebben maakt de grens tussen fantasie en werkelijkheid al evident. Virtuele kinderporno daarentegen: je wapen hangt gewoon tussen je benen en dikke kans dat het na zo'n potje paraat staat. Het zit 'm deels ook in het publiek dat het spel aantrekt. Jan en alleman is niet vies van effe wat stevig virtueel knok- en sloopwerk, terwijl virtuele kinderporno echt alleen maar die groep aantrekt die deze maatschappelijk onaanvaardbare geaardheid hebben of ernaar neigen. De rest gaat ervan over zijn nek en/of wordt er pislink van. Het spelen van virtuele kinderporno is wat mij betreft onderdeel van het walgelijke gedrag dat wij als samenleving niet wenselijk vinden.

Het uitlaatklep argument vind ik een drogredenering. Er zijn ook andere manieren om een uitlaatklep te vinden. En als die niet goed genoeg voor je werken waardoor je een potentieel gevaar bent voor kinderen, ga je maar aan de libidoverlagende medicatie.

[Wouterie]

Je stelling dat het kijken naar porno (er is echt een hoop gekkigheid wat dat betreft) leidt tot dat gedrag in het echte leven. Daar is een zeer wankele basis voor. Net als dat het kijken naar geweld zou leiden tot het toepassen van geweld. Daar is onderzoek naar gedaan, maar ook dat is niet hard aangetoond.
Wat wel is aangetoond is dat mensen die een neiging hebben tot het toepassen van geweld ook aangetrokken worden door geweld. Maar andersom is dus niet aangetoond. Met porno is het eigenlijk net zo.
Er zijn pedofielen die nooit een kind kwaad zullen doen. Het hebben van een seksuele gerichtheid is iets anders dan het ook willen toepassen. Net als dat niet elke hetro man een potentieel gevaar is voor elke vrouw, is niet elke pedofiel een potentieel gevaar voor kinderen. Iemand kan de keuze maken om er al dan niet iets mee te doen. Ik vind jouw redenering erg gevaarlijk op dit gebied. We hebben toch inmiddels geaccepteerd dat geaardheid of seksuele gerichtheid geen keuze is, maar wat je daarmee doet?
Alles wat je zegt wordt op andere werelddelen over homoseksuelen gezegd en is eeuwenlang ook hier verkondigd. Ik blijf voorstander voor het bestraffen van gedrag, niet geaardheid of gedachten.

[Vincedf]

Pedofilie is een ziekte en heeft totaal niks met geaardheid te maken. Persoonlijk vind ik bovenstaande suggestie om dit te beschouwen als een geaardheid ook te walgelijk voor woorden. Daarnaast een pedofiel voorzien in zijn wensen door AI generated content is te ziek voor woorden. Het is ook een totaal verkeerde aanname dat dit zogenaamd slachtoffers zou voorkomen. Sterker nog, het voeden van van deze geesteszieken door AI generated content wekt de suggestie tot acceptatie van hun afwijking en zou alleen maar meer aanwakkeren tot actie.

[honey]

Oef, hier zitten nogal wat eigen meningen tussen. Even als arts reagerend met behoorlijk wat ervaring ook op dit gebied. Pedofilie is een geaardheid en geen ziekte, zoals homoseksualiteit ook geen ziekte (meer) is. Gelukkig zie je ook in de medische wereld dat men slimmer gaat worden. Het is ook goed te realiseren dat kindermisbruik over het algemeen niet door pedofielen wordt gedaan, maar eerder door bekenden die in de positie zitten (macht) om dat te doen. Juist door deze groep (pedofielen) neer te zetten als ziek, stigmatiseer je onnodig en maatschappelijke uitsluiting verhoogt juist te kans op ongewenst gedrag. Wat je hier dus doet, draagt dus bij aan extra kindermisbruik. Goed om daar even over na te denken.

[Vincedf]

Ik weet niet wat voor soort arts je bent, en wat dat voor toegevoegde waarde heeft. Daar kan ik nu niet over oordelen. Wellicht ben ik daarom ook geen arts. Echter, wanneer homofilie en pedofilie onder dezelfde hokje genoemt worden, krijg ik toch de rillingen. Wanneer je geaardheid bestaat uit het sexueel aangetrokken voelen tot individuen die zich niet kunnen weren of toestemming kunnen geven, ben je wat mij betreft ziek in je hoofd. Of je nou tot actie over gaat of niet. Het klopt niet, klaar. Dit vergelijken met homofilie vind ik dan ook een zware belediging voor deze groep.

[Stoney3K]

Pedofilie is een ziekte en heeft totaal niks met geaardheid te maken.

Als het een ziekte is dan heeft het een duidelijke oorzaak. En dan moet er dus wat aan die oorzaak gedaan worden (en nee, die oorzaak is niet plotseling geconfronteerd worden met CSAM), of een zieke moet worden geholpen om te kunnen gaan met zijn ziekte.

Wat we niet moeten doen is iedereen die er niets aan kan doen, verwijten dat ze een monster zijn, en opsluiten en de sleutel weg willen gooien. Mensen die daadwerkelijk hun handen niet van kinderen af kunnen houden? Daar heb ik een andere mening over, maar mensen die dat niet doen, die moeten IMO juist worden geholpen om een normaal leven te kunnen hebben.

[Dicebar]

Als het wetenschappelijk bewezen werkt, en onder begeleiding van een psycholoog wordt aangeboden, dan heb ik er persoonlijk geen problemen mee. Dan zou het in plaats van normalisering een gecontroleerde vrijgave van een behandeling zijn, en dat moet kunnen.

Voor pedofielen is echter uit een studie gebleken dat het kijken naar CSAM de kans op kindermisbruik verhoogd, dus ik acht de kans niet groot dat het zou werken. Maar als wordt bewezen dat AI toch wel werkt dan zouden we dat niet in de weg moeten staan.

[Stoney3K]

Als het wetenschappelijk bewezen werkt, en onder begeleiding van een psycholoog wordt aangeboden, dan heb ik er persoonlijk geen problemen mee.

Het probleem is dat je zoiets niet 'wetenschappelijk' kan bewijzen. Want voor een onderzoek op de wetenschappelijke methode, heb je een controlegroep nodig. En dat maakt zo'n onderzoek dus onethisch.

Daarnaast zullen veel pedofielen niet vrijwillig toegeven dat ze pedofiel zijn, want ze zijn bang dat ze niet alleen worden gestigmatiseerd, maar ook worden vervolgd.

[Martin.Air]

AI gegenereerd gebruikt een database aan bestaande data. Dus er worden echte mensen gebruikt om in een andere context iets te genereren.

Dus AI gegenereerde KP is nogal wat. Je buurman heeft het gegenereerd met afbeeldingen van jouw kinderen? "Nee hoor, geen probleem het is tenslotte gegenereerd"...

[SpiceWorm]

80% van de pedofielen is zelf als kind misbruikt, is een gangbare statistiek als ik het mij goed herinner.

Dat het nature zou zijn is dus onwaarschijnlijk, het is eerder nurture.

Lijkt mij niet terecht om dat op de grote hoop van lgbtqi+ te gooien.

Let op: het overgrote deel van de misbruikte kinderen wordt later geen pedofiel.

[Stoney3K]

Daarom is de vraag niet: "Zal dit mensen aanzetten tot", maar "hoeveel mensen zal dit aanzetten tot?" En het antwoord is elke is er één teveel.

Maar dat kun je op alles toepassen, van reguliere porno tot gewelddadige games.

Een causaal verband tussen (fictieve) CSAM en daadwerkelijke kindermisbruik is nog nooit aangetoond en dat is ook niet op een ethische manier te onderzoeken. Maar als je puur fictieve media verbiedt, dan moet je heel kritisch zijn over waar je precies de grens wil leggen. AI-gegenereerde CSAM? Geanimeerd? Iemand die doet alsof ie minderjarig is? Geschreven media?

Dat komt heel dicht bij de gedachte aan kindermisbruik willen uitbannen en daarmee toekomstige slachtoffers willen beschermen. Terwijl het meeste kindermisbruik niet gebeurt omdat iemand zich tot wildvreemde kinderen aangetrokken voelt, maar juist door mensen in de persoonlijke sfeer van die kinderen die vooral macht willen uitoefenen.

[ErikT738]

Ik ben vooral benieuwd wat er met randgevallen gaat gebeuren. AI-gegenereerde mensen hebben geen leeftijd, dus wie gaat er bepalen of de afgebeelde persoon 16 of 18 is? Zeker bij het gebruik van anime-modellen is het niet moeilijk om per ongeluk schaars geklede jong ogende vrouwen te genereren...

[gamefreakin]

Daar is ooit een uitspraak over geweest wat betreft schilderen/tekenen: https://uitspraken.rechts...ECLI:NL:GHAMS:2013:BY8414

Het gaat er in deze uitspraak vooral om dat het erg realistisch is (waardoor anime e.d. hier vaak niet onder valt).

Qua leeftijd lijken ze te kijken naar de “ogenschijnlijke” leeftijd, dus het zal met randgevallen op de rechter/OM aankomen. Al verwacht ik niet dat het OM tijd wilt verdoen met randgevallen in het geval van volledig fictieve personages.

Ik verwacht dat het hetzelfde zal gaan bij AI enzo.

[Wouterie]

Wel een beetje gek dat het strafbaar is om naar computergegenereerde beelden te kijken die geen enkel mens kwaad doen. Alsof het ook maar op enige manier te vergelijken is met echte kinderporno.

[rjberg]

Geweld tegen minderjarigen is meestal niet te vinden in mainstream games. In Skyrim zijn kinderen expres onkwetsbaar gemaakt, om aan bepaalde regels en ratingsystemen te kunnen voldoen.

Maar je hebt een punt dat "gewoon" geweld dat in sommige gevallen net zoveel pijn doet en net zo'n afbraak aan menselijke waardigheid kan zijn toch anders wordt behandeld dan sexuele handelingen.

Ook zie ik je punt over een gebrek aan slachtoffers. De indirecte maatschappelijke impact is misschien relevant, maar volgens mij nooit onderzocht. Wel vindt ik dat het portretteren van echte, levende personen tegej hun wil anders is dan een volledig kunstmatig beeld, en dat dat wel degelijk bestraft moet worden.

[laser50]

Carmageddon! Leuk die naam weer eens tegen te komen, krijg gelijk zin om dat weer eens op te starten.

[Me_Giant]

met AI-generated CSAM is er natuurlijk geen slachtoffer

Volgens mij is elke kijker dan slachtoffer. En de hele samenleving.

Maar even pragmatisch gedacht. Ik denk niet dat deze wet in het leven is geroepen om ‘mainstream’ AI CSAM te voorkomen. Daar zitten mensen niet op te wachten en wie dat probeert krijgt de wind van voren. Dit gaat om niches in duistere hoeken die je niet wil faciliteren. En nu heb je een instrument om die op te sporen en te verbieden.

[Reactie gewijzigd door Me_Giant op 22 juli 2024 13:59]

[DJ Henk]

Het is namelijk wel toegestaan om moord, ernstig geweld, verkrachting, marteling, etc. uit te beelden in films en games.
...
Zijn we met wetten tegen AI-generated CSAM nu weer op dezelfde discussie uitgekomen als Carmageddon in de jaren 2000? Is een producent van fictieve CSAM (AI, getekend, geschreven etc.) schuldig van een misdrijf ondanks dat er geen slachtoffer is? Voelt een beetje als minority report.

Het verschil is dat het wel allemaal zware misdrijven zijn, maar dat CSAM meer een taboe is in onze samenleving. Een van de weinigen die er nog zijn. Dus 'we' willen dat niet zien in films of lezen in boeken. Eraan denken of erover praten is bij voorbaat al zeer verdacht en staat zo ongeveer gelijk aan het plegen ervan in de algemene perceptie.

[meowmofo]

Ik zou het een stapje verder doen en gewoon deepfakes zonder toestemming van de persoon in kwestie gewoon geheel verbieden. Deepfakes gaan een ongelooflijke hoeveelheid ellende opleveren, dat kunnen we ons nu nog amper voorstellen.

[IllOgical]

Het verbieden van alle deepfakes heeft ook weer zijn weerslag op andere (juridische) domeinen. En net als elke techniek (voorbeeld: radioactiviteit) ligt het aan de intentie van de gebruiker hoe de techniek gebruikt wordt. Helemaal verbieden is in mijn ogen net zo nuttig als de "war against drugs". Je wint een paar slagen, maar uiteindelijk weet je dat je de oorlog verliest.

Auteursrecht is daar een van de domeinen waar ik het over hen. Voor satire en parodie zijn nu expliciete uitzonderingen gemaakt, want dat zijn zaken die we al eeuwen kennen en gebruiken, onderdeel van de vrijheidsvan meningsuiting in het westen. Het verschil tussen een satirische spotprent en een satirische deepfake is enkel de gebruikte techniek om eea te maken. En net als bij de discussie of een spotprent satirisch is, beslist de rechter uiteindelijk als twee partijen het niet eens worden.

Daarnaast zou de politie een compositie foto kunnen maken op basis van deepfakes, of kan het OM hun casus in de rechtszaal onderbouwen met een reconstructie van gebeurtenissen o basisvan deepfakes.. Denk je dat je toestemming van de criminelen in kwestie krijgt? Of documantaires, die dmv deep fakes een gebeurtenis reconstrueren.

Dit zijn slechts 2 gevallen waarin ik me kan voorstellen dat deepfakes nuttig kunnen zijn. In al deze gevallen moet de kijker wel weten dat het om een deepfake gaat. Aangezien verbieden niet gaat werken, moeten er andere oplossingen komen. Een voorbeeld zou zijn om alle deepfakes te watermerken of van bijschrift te voorzien. Ik weet dat dit ook niet waterdicht is, maar het is wel transparanter naar de kijker/lezer.

[Reactie gewijzigd door IllOgical op 22 juli 2024 13:59]

[lenwar]

Het verbieden van alle deepfakes heeft ook weer zijn weerslag op andere (juridische) domeinen. En net als elke techniek (voorbeeld: atoombommen) ligt het aan de intentie van de gebruiker hoe de techniek gebruikt wordt. Helemaal verbieden is in mijn ogen net zo nuttig als de "war against drugs". Je wint een paar slagen, maar uiteindelijk weet je dat je de oorlog verliest.

Ik snap je bedoeling, maar de vergelijking is een beetje scheef.

Als ik aan mijn buurmeisje van 12 vraag of zij binnen 3 maanden een deepfakefilmpje van zichzelf of een BN'er wil maken, dan krijgt ze dat redelijkerwijs voor elkaar.
Als ik aan haar vraag in 3 jaar een atoombom te maken, gaat haar dat redelijkerwijs niet lukken. (althans. Ik zou het bijzonder knap vinden )

Het probleem met de deepfakes, is natuurlijk dat iedere knuppel met een computer, wilskracht en wat geduld het uiteindelijk voor elkaar kan krijgen. Uiteraard kun je er fantastische dingen mee doen. Parodieën of artistiek kun je er natuurlijk ook gigantisch veel mee.

Jouw voorbeelden zitten zeker een paar goede tussen. Een compositiefoto. Perfect! Voor casus in de rechtzaal zijn willekeurige acteurs voldoende. Als je dan deepfakes gaat gebruiken ga je hooguit het artistieke benadrukken.
Ook documentaires maken we al jaren zonder deepfakes. Dus ook hier zou het puur om het artistieke gaan. Leuk. Mooi. Niet 'noodzakelijk'.

Met je laatste allinea ben ik het zeker eens. Niet zo zeer omdat verbieden geen nut heeft. (want dat maakt het in elk geval wel handhaafbaar.) Maar juist omdat ik denk dat er zoveel mooie dingen mee gemaakt kunnen worden. Zoals inderdaad die documentaires of satires.
Het zou inderdaad gewoon moeten mogen, maar dan inderdaad wel duidelijk laten weten dat het deepfaketechnieken zijn.
Ik mag tenslotte ook een schilderij in de stijl van Vincent van Gogh maken. Ik mag alleen niet z'n handtekening eronder zetten en/of doen alsof het echt van hem was.

[IllOgical]

[...]

Ik snap je bedoeling, maar de vergelijking is een beetje scheef.

Als ik aan mijn buurmeisje van 12 vraag of zij binnen 3 maanden een deepfakefilmpje van zichzelf of een BN'er wil maken, dan krijgt ze dat redelijkerwijs voor elkaar.
Als ik aan haar vraag in 3 jaar een atoombom te maken, gaat haar dat redelijkerwijs niet lukken. (althans. Ik zou het bijzonder knap vinden )

Hoezo is de vergelijking scheef? Je gooit de intentie en het gemak waarmee een feepfake gemaakt wordt op een hoop. Als je de vergelijking goed wilt maken, geef je je buurmeisje niet de nuclear football en lanceercodes,

[danielvn]

Niet specifiek watermerken maar de hash van een digitaal bestand koppelen aan een digitale identiteit ( kan anoniem). Om hier regie op uit te voeren is een centraal orgaan niet meer noodzakelijk gezien de uitvinding van de blockchain. Reputatie is hierbij een key element. Berichten kunnen hierop gewaardeerd en gefilterd worden. Centrale regulering met wetgeving die multi-interpretabel is maakt meer stuk dan je lief is.

[IllOgical]

Hou aub ook rekening met de mens die de deepfake ziet. Deze zal geen hash kunnen afleiden, dus niet tot de conclusie komen dat het om een deepfake gaat.

Verder is na de kleinste verandering van de file (met een meme editor of photoshop, of alleen maar een crop) de hash weer anders, dus je zult ook beeldherkenning moeten gaan inzetten om hashcodes aan elkaar te koppelen. Ik voorzie dat je een kuil gaat graven die alleen maar dieper en dieper wordt

[danielvn]

Eens,
Ik denk dat we meer naar een wereld gaan dat we meer op een bron gaan vertrouwen vanwaaruit informatie gepubliceerd wordt en niet zo zeer het informatieobject zelf. Aangezien vertrouwen te voet komt en te paard gaat, kan aan een opgebouwde reputatie veel afgeleid worden.

Het wachten is op de ontwikkeling hiervan en dat social media platformen dit integreren.

[IllOgical]

Dit gaat een interessant en moeilijk proces worden met vallen en opstaan. Veel fact checkers hebben zich de afgelopen jaren van hun slechtste kant laten zien. Want wie controleert de controleurs?

Ik verwacht weinig van journalisten en media, omdat ik daar steeds meer knip en plakwerk zie, en weinig onderzoek naar inhoudelijke achtergrond. Te duur, te moeilijk, geen tijd of hun mening is belangrijker dan de inhoud. Daarbij zijn veel media overgestap van het vorige eeuwse "objectieve verslaglegging met een politiek kleurtje" naar "verhalen vertellen". Daar gaan we het niet mee redden, want dan is is het verhaal belangrijker dan de objectiviteit.
https://ziedaar.nl/editie...uws-waarom-gaat-het-fout/

Ik geef mijn mening over de media enkel en alleen om om te laten zien dat niet iedereen als heilige dragers van de Waarheid ziet. Ben je het met me eens, dan is dat prima. Als jij dat anders ziet is dat goed. Ik wil hiermee alleen tonen dat de huidige media op dit moment niet de vertrouwensrol, waar danielv het over heeft, op zich kan nemen. Wie wel? Dat is een hele goede vraag

[108rogar]

Zo scheer je wel alle media over 1 kam. Dat is als zeggen dat je weinig verwacht van de kookkunsten van restaurants omdat er veel fastfoodrestaurants zijn die je niet bevallen. Er zijn ook nog goede restaurants, je moet ze alleen even zoeken.

Inhoudelijke kritiek is prima hoor, maar we moeten met zijn allen wel oppassen om de gehele media af te schrijven, dat is 1 van de stappen naar het fascisme.

[Frame164]

Het is vrij simpel:

- geen toestemming gegeven voor deep fake afbeeldingen: verboden
- toestemming gegeven voor deep fake afbeeldingen: niet verboden

[IllOgical]

Zo zwart-wit is het alleen op papier. De werkelijkheid en jurisprudentie kent veel meer tinten grijs.

[Skit3000]

En net als elke techniek (voorbeeld: atoombommen) ligt het aan de intentie van de gebruiker hoe de techniek gebruikt wordt.

Ik kan weinig intenties bedenken waarbij atoombommen tot goed gebruik leiden, al zijn er in het verleden wel studies geweest hoe ze ingezet kunnen worden om snel landschappen te veranderen of ondergrondse ruimtes te maken en/of verschillende grondstoffen makkelijker te winnen.

[IllOgical]

Op dit punt hebt je gelijk. Ik had niet atoombommen maar radioactiviteit als voorbeeld moeten noemen. Die kennis wordt gebruikt om in de zorg gebruikt om radiologisch onderzoek te doen en , kanker te bestralen, en in de industrie om lasnaden te controleren.

Atoombommen zijn de andere kant van de medaille.

// Update: gefixt

[Reactie gewijzigd door IllOgical op 22 juli 2024 13:59]

[Skit3000]

Dank je, radioactiviteit is een prima voorbeeld!

[komododraak]

Atoombommen niet, maar de techniek er achter wel. Dat zijn nl kernsplitsing en kernfusie, haast onmisbare methodes om groene energie op te wekken

[Stoney3K]

Het verbieden van alle deepfakes heeft ook weer zijn weerslag op andere (juridische) domeinen.

Vandaar ook het verbieden van deepfakes zonder toestemming van de gedeepfake-te persoon. In het geval van bijvoorbeeld een digitale nabootsing van Carrie Fisher in de laatste Star Wars-films, kunnen de nabestaanden die toestemming alsnog geven.

Maar in principe is dat verbod al afgedekt door portretrecht. Een deepfake is immers niets anders dan een door de computer verzonnen portret.

[Llopigat]

Het kan ook voor goede dingen gebruikt worden. Zoals bijvoorbeeld historische figuren (die dood zijn dus toestemming niet kan) realistisch afbeelden in een documentaire, reconstructies in opsporing verzocht enz.

En de geest is inmiddels toch al uit de fles, dus verbieden gaat het fenomeen niet doen verdwijnen natuurlijk. Het maakt het wat makkelijker aan te pakken mits de dader achterhaald kan worden. Vooral zodra ze echt moeilijk te herkennen gaan worden.

[Reactie gewijzigd door Llopigat op 22 juli 2024 13:59]

[Frame164]

Het kan ook voor goede dingen gebruikt worden. Zoals bijvoorbeeld historische figuren (die dood zijn dus toestemming niet kan) realistisch afbeelden in een documentaire, reconstructies in opsporing verzocht enz.

Voor historische zaken kan het ook gewoon. Iedereen zal snappen dat het niet Julius Caesar zelf is die in een documentatie te zien is. En voor opsproring verzocht kan je nooit deep fake gebruiken. Daarvoor moet je immers beeldmateriaal van de persoon in kwestie als bron hebben. En als je dat hebt weet je al wie je op moet halen.

[Stroper]

Dat is inderdaad het geval voor mensen die overleden zijn voor de uitvinding van de videorecorder, zoals Julius Caesar.
Maar met deepfake kan je wel filmpjes over Hitler, Stalin, Kennedy,... maken die de waarheid compleet verdraaien.

[masauri]

Daar heb je geen AI voor nodig.
Command & Conquer tussenfilmpjes ooit gezien?

[xzaz]

Iedereen zal snappen dat het niet Julius Caesar zelf is die in een documentatie te zien is.

Dat betwijfel ik al maar goed, waar ligt dan de grens? Jezus, rond het jaar 0 of Nero? Of Martin Luther of Einstein?

[eborn]

Bij dat laatste wringt de schoen. Vergelijk het een beetje met de UBO: alle welwillende bedrijven in Nederland doen veel moeite om bij allerlei partijen een UBO-formulier aan te leveren. De partijen die de boel nu al belazeren, gaan daar door een papierwinkel echt niet mee stoppen.

Of wie kent de 'niet kopiëren' intro nog van de video DVD's? De enige die geen last hadden van de intro's waren de mensen die de DVD kopieerden en dat stukje er uit haalden.

[Oon]

Toestemming van een dood persoon heb je ook niet nodig, want een dood persoon heeft geen rechten meer. Meest relevante recht daarvan is het recht op privacy.

[IllOgical]

En de rechten van de partner, kinderen of familie? Een advocaat zou smaad kunnen claimen als "de goede naam van de familie" wordt aangetast. Waar leg je de grens?

[Oon]

Het blijft wel een lastige kwestie. Wat jij schetst is geen directe juridische basis voor, 'de familie' heeft geen recht op privacy, de mensen in die familie wel, en hetzelfde geldt voor evt. financiele schade die ze leiden door zoiets.
Maar dan zouden ze al moeten kunnen bewijzen dat ze schade hebben geleden als direct gevolg, en dat is lastig. Dan ga je een groot grijs gebied in en moet uiteindelijk een rechter bepalen of dat zo is.

[Passkes]

Roosevelt does Dallas J/K

Maar helemaal eens, denk ook aan je dierbaren die zijn overleden. Op basis van foto`s ze terug tot leven brengen. (beetje harrypotter idee qua foto`s e.d. ) Historische figuren weer tot leven laten komen. Echter waakt hier wel het gevaar dat die personen ondanks dat ze niet meer bestaan het totaal niet eens zouden kunnen zijn met hetgeen waar ze voor ingezet zouden worden.

[Dark Angel 58]

Nee hij heeft wel gelijk... stel je eens voor vanuit Witte Huis is werkkamer van President volledig afgesloten, dus niemand kan erin en dan verschijnt een persoon op tv... Het is Biden... hij verklaart Rusland en China tot nucleaire oolog... en geeft per direct een bevel voor massale kernlanceringen.

Op hetzelfde moment, in een vakantie adres, zit echte Biden op een luie stoel... en zijn familie kijkt massaal naar hem, na zijn aankondiging op tv.... "Whaaaat theeee Fuuuuck" zei Biden...

Pardon... je zei wat?

[Llopigat]

Nee hij heeft wel gelijk... stel je eens voor vanuit Witte Huis is werkkamer van President volledig afgesloten, dus niemand kan erin en dan verschijnt een persoon op tv... Het is Biden... hij verklaart Rusland en China tot nucleaire oolog... en geeft per direct een bevel voor massale kernlanceringen.

Je weet dat dat soort orders niet via TV gaan he?

Daarom zijn dat soort dingen nog niet gebeurd. Het is nu al prima mogelijk maar zo dom zijn mensen ook niet.

En een verbod gaat dit soort dingen niet oplossen. Criminelen en andere staten hebben namelijk lak aan wetten.

[Reactie gewijzigd door Llopigat op 22 juli 2024 13:59]

[Stoney3K]

[...]
Je weet dat dat soort orders niet via TV gaan he?

You're throwing everything you've got at us, Alex! We're supposed to be allies, you maniac! I'm the one who put you into office!

[downtime]

Ik zou het een stapje verder doen en gewoon deepfakes zonder toestemming van de persoon in kwestie gewoon geheel verbieden.

Dat is eigenlijk al zo. Er is altijd nog het portretrecht om je op te beroepen maar dan moet het slachtoffer dus zelf naar de rechter stappen in een civiele zaak. Het lijkt hier te gaan om wetgeving waarmee het automatisch een politiezaak wordt als het om porno gaat. Blijkbaar neemt de politiek deepfakeporno wat serieuzer dan andere vormen van deepfakes.

[IllOgical]

Dat is eigenlijk al zo

Dat is eigenlijk niet zo. Er is veel jurisprudentie die jou ongelijk geeft: Bijvoorbeeld wanneer portretrecht niet van toepassing is (in de openbare ruimte bijvoorbeeld). Daarnaast zijn er nog uitzonderingen binnen het portretrecht zoals satire en parodie.

[downtime]

Er zijn best situaties waar portretrecht niet van toepassing is. Een politicus die op straat wordt gefotografeerd door een fotograaf kan zich niet op het portretrecht beroepen als die foto morgen op de voorpagina van de Telegraaf verschijnt. Maar als diezelfde foto in een reclamecampagne van Unilever wordt gebruikt om anti-roosshampoo aan te prijzen verandert dat verhaal. Ik ga ervan uit dat het gebruik van een beeltenis in deepfakeporno toch wat anders wordt behandeld dan het gebruik voor een legitieme persfoto.

[IllOgical]

Wederom ligt dat aan de intentie waarmee de deepfake gebruikt wordt.
Commercieel, crimineel of als wraak is per definitie niet oke

[Frame164]

Ik denk dat je deepfake niet kunt vergelijken met het portretrecht voor echte personen. Als je op straat wordt gefotografeerd is dat gewoon een weergave van een situatie. Als je een deepfake van iemand maakt van iemand in een verzonnen situatie is dat heel wat anders.

[IllOgical]

Probeer het nog eens. Je gebruikt een verkeerd voorbeeld met fotograferen op straat: Als je op straat gefotografeerd wordt, valt dat niet onder portretrecht. Tenzij er een redelijk belang is. En dat "redelijk belang" is een zeer groot grijs gebied

https://artiestenbelangen...r%20worden%20gepubliceerd.

[Brummetje]

Dat is precies het eerste wat ik ook dacht. Snap niet dat het specifiek voor 1 ding zou zijn. Deepfake zou in zijn geheel gewoon verboden moeten zijn om te verspreiden.

[Frame164]

Tenzij er een legitieme reden voor is. Maar die kan ik niet bedenken. Ja, misschien als je zelf een deepfake van jezelf maakt of goedkeuring geeft aan iemand om dat te doen. Maar waarom dan niet gewoon even zelf voor de camera gaan staan. Veel makkelijker en sneller.

[satya]

Hoe kijk je dan naar acteurs die digitaal zowel visueel als qua stem volledig geretoucheerd worden, of op film komen terwijl ze al overleden zijn?

[Schway]

Ik zou zelfs verder gaan en het valsheid in 'geschrifte' willen noemen.
Je doet je voor als een ander, of laat denken dat de ander toestemming heeft gegeven.
Nu zijn het beelden, maar hetzelfde speelt al millennia met geschreven tekst.

[ArawnofAnnwn]

Dat is nu al zo. Er zijn al door AI aangepaste filmpjes en foto's gebruikt in rechtzakens in de VS, onder andere door de DA zelf, om daarmee mensen te proberen te veroordelen. Dat is echt heel fout.

[divvid]

in dat geval zou een goede advocaat dat dus ook omgekeerd kunnen gebruiken: het 'bewijsmateriaal' is een deepfake en dus gaat de cliënt vrijuit.

[ArawnofAnnwn]

In deze situatie ook gebeurd, maar als de DA het gebruikt om te proberen om verdachten achter de tralie te krijgen, terwijl de rechter niet weet hoe een computer aan moet, heb je wel een probleem.

[divvid]

dan is het aan de advocaat om die rechter 'op te voeden'. Wellicht met een deepfake filmpje van diezelfde rechter, al wordt dat waarschijnlijk niet gewaardeerd.
Overigens wordt de discussie over rechters en ICT kennis weldegelijk gevoerd

[Reactie gewijzigd door divvid op 22 juli 2024 13:59]

[ArawnofAnnwn]

Ik zou liever zien dat het hele AI gedoe van het internet verdwijnt. Het levert tot nu toe alleen maar problemen op. Er zijn nieuws sites die het al gebruiken om nieuws te genereren, ik heb al onder nieuws berichten nep foto's gezien, nep foto's worden gebruikt in politieke campagnes, rechtzaken, etc. Foto's gemaakt met nieuwe iPhones en Samsungs kun je niet meer gebruiken in rechtzaken, omdat de telefoon AI gebruikt om de afbeeldingen voor je aan te passen, dan nog deze deepfake porn, muziek, etc etc etc.

[divvid]

Ik gebruik AI o.a. in mijn werk voor het genereren van 3d modellen op basis van input data. Het gaat een beetje ver om exact uit te leggen, maar in principe werkt dat niet anders dan een willekeurig generatief model, gevoed met alleen domein specifieke kennis.

Verbieden hebben ze ook ooit geprobeerd met treinen, auto's (mannetje met vlag er voor) en computers. Allemaal mislukt. AI verbieden heeft geen enkele zin, omarm het, leer het te gebruiken, net als elke andere nieuwe tool.

[-Vasa-]

geplaatst onder verkeerde reactie

[Reactie gewijzigd door -Vasa- op 22 juli 2024 13:59]

[hamsteg]

Beetje onzinnig, het gaat meer om de intentie.

Bijvoorbeeld je staat model voor een bekende supermarkt reclame en ze gaan jou ook gebruiken als assistent bij het doen van je online boodschappen. Deze assistent geeft tips als jij een pak pannenkoekenmix pakt - "vergeet je de melk en de eieren niet? Zal ik deze in je winkelwagentje leggen?" Is ook deep fake, maar voelt wel vertrouwt? Toch fijn als Frank dat aan je vraag in een perfecte deep-fake?

[asing]

Hier ben ik het volledig mee eens. Deepfakes als een soort schending van het auteursrecht (of portretrecht) op jezelf. Het doel van een Deepfake is iemand anders laten geloven dat het een echt persoon is die ze zien, maar in feite is het nep. En net als met een koksmes in de keuken (uitje pellen of iemand vermoorden) heeft Deepfake ongetwijfeld een goede kant, maar zeker ook een kwade. André Hazes die ineens op het podium staat was een goede, of ABBA die via een hologram aan het optreden waren. "Je eigen kind" wat opeens om geld bedelt en een ander mobiel nummer heeft is duidelijk oplichting.

In mijn optiek is het "laten herleven" een geval van slechte smaak dus dat hoeft niet. Blijft over het misbruiken van een Deepfake als Soclal Engineering tool. Want dat is het dan.

Er blijft dus weinig over dan software om Deepfakes te maken te verbieden.

[Reactie gewijzigd door asing op 22 juli 2024 13:59]

[GarBaGe]

Waarom moet er aparte wetgeving komen voor de "cyber" versie van deze misdaden?
De reguliere versie is toch ook al strafbaar?
Zijn de bestaande wetten daarvoor niet toereikend?
Ik kan met juist goed voorstellen dat je techniek onafhankelijke wetgeving wilt maken, zodat je makkelijker kan meegaan met de bewegende wereld van de techniek.

[CH4OS]

De reguliere versie... Dat is dus porno zonder dat het deepfake is of zo? Als je dat bedoelt, dan is dat nu inderdaad niet verboden. Het gaat dus om een beeltenis van iemand, zonder dat er toestemming voor is.
Deepfake is daarnaast ook een principe, en geen techniek?

[GarBaGe]

De "deepfake" is niet het probleem.
Ook de "porno" niet.
Het gaat om andere mensen lastig vallen / treiteren / benadelen.
Of dat nu gaat via deepfake (porno of anders) of klassieke papieren posten ophangen...
Dat moet toch geen verschil uitmaken?
De gebruikte techniek in de verspreidingsvorm?

Sterker nog, de AI-gegenereerde kinderporno is wellicht zelf wel een pluspunt, omdat hiervoor dan geen sprake is geweest van seksueel misbruik en seksuele uitbuiting van kinderen in het genereren van het materiaal.

[Reactie gewijzigd door GarBaGe op 22 juli 2024 13:59]

[bzzzt]

Sterker nog, de AI-gegenereerde kinderporno is wellicht zelf wel een pluspunt, omdat hiervoor dan geen sprake is geweest van seksueel misbruik

Het aanwakkeren van enthousiasme hiervoor en de kans op normalisatie lijkt me anders al voldoende reden om het gewoon compleet verboden te houden, echt of AI gegenereerd.

[Flyerken]

[...]

Het aanwakkeren van enthousiasme hiervoor en de kans op normalisatie lijkt me anders al voldoende reden om het gewoon compleet verboden te houden, echt of AI gegenereerd.

Terwijl het aanwakkeren van andere destructieve dingen zoals stelen, ontrouw, te snel rijden, etc etc wel ok is? De hele entertainment industrie verheerlijkt geweld, diefstal, objectivering van vrouwen, vreemdgaan. Persoonlijk kan ik geen reden bedenken waarom het ene perfect ok is en het andere zo een taboe. Zolang er bij het maken van de media geen mensen benadeeld worden vind ik dat het niet zou mogen uitmaken welk maatschappelijk destructief gedrag verfilmd wordt.

[bzzzt]

[...]
Terwijl het aanwakkeren van andere destructieve dingen zoals stelen, ontrouw, te snel rijden, etc etc wel ok is?

Nee, sterker nog, uitlokken van het plegen van strafbare feiten is ook illegaal. Waar heb ik gezegd dat dat ok is?

De hele entertainment industrie verheerlijkt geweld, diefstal, objectivering van vrouwen, vreemdgaan.

Dat zegt dat mogelijk meer over jouw smaak dan over wat representatief is voor de hele entertainment industrie.

Persoonlijk kan ik geen reden bedenken waarom het ene perfect ok is en het andere zo een taboe. Zolang er bij het maken van de media geen mensen benadeeld worden vind ik dat het niet zou mogen uitmaken welk maatschappelijk destructief gedrag verfilmd wordt.

Omdat veruit de meeste mensen een probleem hebben met misbruik van kinderen en er niet mee geconfronteerd willen worden (echt of nep).

[Thekilldevilhil]

Dat zegt dat mogelijk meer over jouw smaak dan over wat representatief is voor de hele entertainment industrie.

Wat is dit voor een rare, op de man gespeeld argument. Hollywood en de game industrie verheerlijkt en normaliseert geweld absoluut. Er is een hele "man on a ledge" achtige genre film waarbij scene 1 een slecht excuus bedacht wordt waarom het ok is dat de hoofdpersoon de rest van film moordend door het "verhaal" gaat. John Wick hetzelfde verhaal, "hij heeft mijn hond vermoord dus nu moet iedereen dood". Games exact hetzelfde. Van COD tot Battlefield en wolfenstein, lekker mensen schieten. Telkens met een andere reden, terrorist of nazi, maar het is absoluut verheerlijking van geweld. Dat heeft niet met smaak te maken, want je kunt dit ook concluderen zonder de media te consumeren.

Omdat veruit de meeste mensen een probleem hebben met misbruik van kinderen en er niet mee geconfronteerd willen worden (echt of nep).

Nogal terecht toch, kindermisbruik is een walgelijke misdaad. Het is dus niet voor de gemiddelde mens bedoelt nee.

Het wordt wel eens geopperd om AI gegenereerde kinderporno beschikbaar te stellen voor pedofielen om de dwang onder controle te houden. Wat het effect zou zijn en of het ethisch is om dit te doen, geen idee. En ik heb te weinig kennis om hier iets nuttigs over te zeggen, dat wil ik ook zo houden. Dus inhoudelijk heeft een discussie over dit onderwerp met mij weinig zin. Ik gok alleen dat @Flyerken en @GarBaGe op die toepassing doelden... En niet om kinderporno te normaliseren... Althans dat hoop ik.

[Reactie gewijzigd door Thekilldevilhil op 22 juli 2024 13:59]

[GarBaGe]

Pedofielen zijn mensen met een geestelijke ziekte.
Heel eerlijk gezegd, kunnen ze er weinig aan doen dat ze dit soort drang hebben.
Heel erg vergelijkbaar met tabaksverslaving of drugsverslaving.
Stel de AI generatie deze doelgroep kan helpen om hun drang te onderdrukken dan is dat toch een pluspunt?
Vergelijkbaar met methadon voor drugsverslaafden...

Ik vind het kindermisbruik uit de kinderporno veel erger dan het uiteindelijk materiaal (de media), omdat hier mensen (vanaf een kinderleeftijd) mogelijk voor hun hele leven getraumatiseerd worden en daardoor mogelijk moeilijk of niet meer in de normale maatschappij kunnen leven.

[bzzzt]

Stel de AI generatie deze doelgroep kan helpen om hun drang te onderdrukken dan is dat toch een pluspunt?
Vergelijkbaar met methadon voor drugsverslaafden...

Als dat onomstotelijk vastgesteld kan worden zou het positief kunnen zijn, maar het is net zo goed mogelijk dat iemand die continu 'nep' filmpjes kijkt er alleen maar meer mee bezig is en het daardoor juist normaler gaat vinden waardoor de kans dat deze persoon over de schreef gaat toeneemt.

[bzzzt]

[...]
Wat is dit voor een rare, op de man gespeeld argument. Hollywood en de game industrie verheerlijkt en normaliseert geweld absoluut

Je noemt nu John Wick, COD, Battlefield en Wolfenstein representatief voor (jouw woorden): "De hele entertainment industrie"
Kijk je bij een random bioscoop naar het filmaanbod zie je dat er zoveel meer is, nog geen 10% van de recente films hebben excessief geweld.
Bij games zie ik Mario, Hogwarts, Minecraft, Spiderman en Animal crossing in de top 10 (naast 1x Call of Duty). Onze maatschappij is echt niet zo verrot als je doet voorkomen

[Peoplen]

"Het aanwakkeren van enthousiasme hiervoor en de kans op normalisatie lijkt me anders al voldoende reden om het gewoon compleet verboden te houden, echt of AI gegenereerd."

Dit was de reactie waarop werd gereageerd. Je geeft nu aan 'het is nog geen 10%', maar volgens jouw opmerking moet die 10% dus verboden worden.

Je noemt een aantal games met geweld, maar het argument ging verder dan dat. Need for Speed zou bijvoorbeeld dan ook verboden moeten worden als je illegale activiteiten niet wilt aanwakkeren.

[bzzzt]

Je haalt 2 dingen door elkaar: ik reageerde in eerste instantie op misbruik en het normaliseren daarvan.

Tegenargument dat de "hele entertainmentindustrie" dan maar dicht moet omdat die alleen maar illegaal gedrag promoot lijkt me redelijk overtrokken. Er zijn geen 90% 'goede' kinder misbruik films.

[supersnathan94]

Mario smash? Normale mario? Allerlei vage wezentjes om het leven helpen en een dude verslaan omdat ie een princes heeft ontvoerd?
Hogwarts legacy waarin het hele punt van wizard school eigenlijk gewoon “the army” is voor tovenaars?
Minecraft, waar het hele punt is dat je aangevallen wordt door duistere creatures en uiteindelijk met een dikke setup aan wapens een draak moet verslaan?
Spiderman, de man die als vigilante het heft zelf maar in handen neemt, nadat zijn oom is vermoord?

Houden we animal crossing nog over, maar de rest van je lijstje heeft allemaal geweld als main theme. Niet per se excessief direct, maar wel vele malen meer dan ik in mijn dagelijks leven tegenkom.

[Flyerken]

[...]

Nee, sterker nog, uitlokken van het plegen van strafbare feiten is ook illegaal. Waar heb ik gezegd dat dat ok is?
[...]

Je had het niet over uitlokken, de term die je gebruikte was aanwakkeren en normalisatie. En dat is waarop ik reageer. Uitlokken is een graad erger en niet wat ik dacht dat je bedoelde en ook niet waar GarBaGe het over had.

[...]

[...]
Dat zegt dat mogelijk meer over jouw smaak dan over wat representatief is voor de hele entertainment industrie.
[...]

Ik denk dat ik een vrij normale smaak heb ik had het persoonlijk over films zoals de fast and the furious (roekeloos rijgedrag) de notebook (ontrouw) oceans 11 (diefstal) en de gemiddelde pornofilm (objectivering van vrouwen).
[...]

Omdat veruit de meeste mensen een probleem hebben met misbruik van kinderen en er niet mee geconfronteerd willen worden (echt of nep).

Tja de meeste mensen hebben ook een probleem met de eerder genoemde dingen (diefstal, etc) en hebben geen probleem om fictieve werken die onderdelen hiervan bevatten te bekijken.

Er zijn nu eenmaal mensen zijn die interresse hebben in dat soort materiaal en ik denk dat het beter is dat die mensen dat op een normale site vinden met daar eventueel een disclaimer bij van kijk dit is een fictief werk en als je zelf dit soort neigingen zou hebben en hebt problemen met deze te onderdrukken, bel aub naar xxxxxxxx voor gratis anonieme hulp.
In tegenstelling dat ze dit gaan opzoeken op een of andere obscure site op het darkweb waarbij ze een boodschap krijgen van hey als je interresse hebt in dit soort dingen, we bieden hiervoor ook wel opties aan om het echt te doen.

[bzzzt]

Tja de meeste mensen hebben ook een probleem met de eerder genoemde dingen (diefstal, etc) en hebben geen probleem om fictieve werken die onderdelen hiervan bevatten te bekijken.

Ik ken genoeg mensen die niet willen kijken naar gesimuleerde marteling, misbruik etc. Lijkt me eerlijk gezegd ook niet zo'n goed teken als je daar bijzonder veel mee bezig bent.

Er zijn nu eenmaal mensen zijn die interresse hebben in dat soort materiaal en ik denk dat het beter is dat die mensen dat op een normale site vinden met daar eventueel een disclaimer

Hoe ga je dat vinden dan? Mag er dan reclame voor worden gemaakt? Hoe voorkom je dat mensen juist door het normaliseren hiermee in aanraking komen en denken dat het allemaal ok is?

[Kevinp]

Misschien moet je eerste de oorzaak van deze aantrekking vinden.

Als dat is zoals je bent dan is het namelijk wel een oplossing.

Is het iets wat aangeleerd is is het geen oplossing.

[DrBrakbek]

de vraag is dan wat is de kans op normalisatie vs eventuele voordelen om dit toe te laten en misschien daardoor effectief reel misbruik te verminderen door een alternatief aan te bieden aan pedofielen.

Er is zoveel van zoveel andere niet wenselijke zaken beschikbaar die toch ook niet worden genormaliseerd. Je kan zo bvb videomateriaal opzoeken van onthoofdingen etc en dit wordt toch ook niet genormaliseed.

In elk geval is geillustreerde/geanimeerde/geschilderde etc kinderporno al een tijdje verboden lees ik online dus een aparte wetgeving is eigenlijk niet eens nodig.

[kodak]

Op zich heb je gelijk dat deepfake hier niet zomaar het probleem hoeft te zijn. Maar het punt is wel dat het inmiddels volgens de wetgever in specifieke vormem een te groot probleem is (of zou gaan worden) dat niet zonder wetgeving genoeg valt te verminderen of voorkomen. Recht hebben is niet zomaar een kwestie dat slachtoffers vooral maar achteraf hun recht moeten proberen te halen. Het gaat er ook om dat de wetgever genoeg middelen geeft om te voorkomen dat rechten geschonden worden. En die zijn in dit geval niet zomaar efgectief genoeg van toepassing.

[Tommie12]

Ik begrijp je reactie niet goed.
Met AI kan iemand een filmpje maken alsof jij acteert. Iedereen begrijpt dat dat schade aan jouw reputatie kan aanbrengen, zeker als je een bekend persoon bent.
MAar papieren porno verspreiden... is toch niet schadelijk, tenzij je weer het hoofd gaan omwisselen, wat het waarschijnlijk weer verboden maakt onder eerroof of persmisdrijf. Het is natuurlijk veel makkelijker om 1mio beelden van popster X online te verspreken tov op papier.

Wat kinderporno betreft ben ik het niet eens, ook als het 100% AI gegenereerd wordt ga je kinderporno normaliseren, en wek je bij foute mensen de zin op om toch maar eens voor het 'echte' te gaan. Daarenboven, je maakt het producers makkelijk door het echte spul als AI te labelen om te ontsnappen aan vervolging...

[Byron010]

Het valt in principe onder smaad/laster

[CH4OS]

Smaad lijkt me niet (zie ook het juridisch loket hierover) eventueel laster zou kunnen, maar wellicht valt het onder portretrecht. Het is momenteel vooral niet helemaal duidelijk wat het wel is. Daarom dus een aparte Wet.

[Reactie gewijzigd door CH4OS op 22 juli 2024 13:59]

[IllOgical]

Elk land heeft zijn eigen regels, en niet elk land is daar even ver in. Daarnaast kan de maker van een schadelijke deepfake in een ander land leven als het slachtoffer. Of de deep fake is op een server in nog een ander land gezet met andere regels....

[GarBaGe]

Dan praat je meer over Europese / internationale wetgeving, zodat dit niet per land hoeft te gebeuren.
Maar dit geldt toch ook voor klassieke misdaden, zoals inbraken, autodiefstal of moord?

[IllOgical]

Daarom dat de EU zich daarover wil buigen. Alleen heeft de EU ook grenzen, Vlak over de grens is de EU wetgeving en jurisprudentie exact van nul en generlei waarde.

[Frame164]

Maar dat is nog geen reden om dan zelf maar niets te doen.

[IllOgical]

De geest is al uit de fles zei iemand hier al terecht. Dus je kunt wel alles gaan verbieden, want dat werkt ook zo goed met andere verboden, zoals drugs of the hard rijden...

[-Vasa-]

Omdat wetten net gemaakt zijn om heel duidelijk af te bakenen wat we willen toestaan of niet in de maatschappij. Iets dat niet verboden is, is per definitie toegestaan. En deze vorm van technologie is iets dat niet beschreven zal zijn in de huidige wetten, behalve misschien vage zaken zoals dingen met portretrecht, defamatie of pesten oid.

[downtime]

Ik kan met juist goed voorstellen dat je techniek onafhankelijke wetgeving wilt maken, zodat je makkelijker kan meegaan met de bewegende wereld van de techniek.

Lijkt me lastig. Dan moet je cartoons en schilderijen dus hetzelfde behandelen als gemanipuleerde foto's en deepfakes. Terwijl er best een groot verschil is. Denk aan een politieke cartoon vs een gemanipuleerde foto van een politicus. Mensen die de cartoon zien snappen meteen dat het niet echt is, omdat een cartoon simpelweg niet zo realistisch oogt, maar dat ligt heel anders voor een deepfake.

[mphilipp]

Is er nu een wet die verbiedt dat ik een nep pornofilmpje verspreid zogenaamd met jou erin? Blijkbaar niet.
Iets juridisch sluitend vastleggen is best moeilijk en misschien is het in de huidige wetgeving te gemakkelijk voor een sluwe advocaat om zijn klant eruit te lullen.

[Frame164]

Nee, dat is nu niet zomaar mogelijk. En een wet gaat het natuurlijk ook niet voorkomen, maar het geeft in ieder geval de mogelijkheid om iemand die het doet aan te pakken.

[DrBrakbek]

denk je? je mag voor zover ik weet niet eens een afbeelding laats staan een video van iemand zonder toestemming verspreiden. Zo'n nep filmpje bevat dit dus op dat vlak alleen al is het strafbaar. Al staan hierover misschien enkel vrij lichte straffen.

[Tintel]

Juist. Het idee dat een allegaartje van wetten moet worden hervormd of omgezet in een nieuwe wet is gewoon vreemd. Want juist in de rechtspraak is het nooit echt simpel. En wat geeft dit vervolgens? Nog meer wetten....

En het belangrijkste blijft: als iets wat gedaan om een ander te kwetsen of van een ander te ontvreemden dan is het verboden. De rest is eigenlijk daarvan afgeleid.

[ari3]

Het is vreemd dat deepfake porno verboden zou worden. Hoe verschilt een deepfake productie van een productie gemaakt met iemand die gewoon veel lijkt (dubbelganger) op een bekend persoon? Beroemd voorbeeld: Who's Nailin' Paylin? (SFW). In dit voorbeeld is het overduidelijk dat de Amerikaanse politica Sarah Palin niet meedoet in de film. Zou deze productie opeens verboden worden als deepfakes in plaats van actrices gebruikt zouden worden?

[Frame164]

Als het overduidelijk is dat het iemand anders is, is er niets aan de hand. Het hele idee van deep fake is nu juist dat je niet (direct) door hebt dat het nep is. En natuurlijk gelooft niemand het als het "echte" pornofilm is dat het de bekende persoon is die er in te zien is. Maar als het er uit ziet als iets wat in een prive-omgeving is gemaakt wordt dat al een stuk lastiger te herkennen.

[Greymane]

En als ik nou een deepfake van mezelf wil maken en verspreiden? volledig theoretisch uiteraard.
Heb ik dan een loophole of gooi ik mezelf in de bak? Want "bestaand persoon" maar ik heb dan wel toestemming van mezelf.

[SuPaToLL]

Op dat moment ben je niet meer dan een gemiddelde digitale maker van content

[mphilipp]

Er zal vast wel iets in de uiteindelijk wet komen over toestemming en medeweten. Dit is slechts een artikel over die wet, het bespreekt niet de volledige wettekst en alle implicaties

[Llopigat]

Er staat dat het alleen zonder toestemming niet mag, dus dat mag gewoon.

[sfc1971]

"Daaronder valt het zonder toestemming delen van intieme foto's, waaronder deepfakes"

Staat duidelijk in de tekst.

[Zoijar]

Voor het IG profiel van een vriend zeker?

[Tintel]

deepfake van jezelf = wat deel van de politici standaard doet toch?

Deepfake is liegen met beelden. Liegen was al nooit zo netjes maar op de een of andere manier gebeurt het toch vrij vaak denk ik - zelfs ongestraft....

[Anoniem: 91634]

Deepfake kan juist een oplossing zijn. Je hebt geen porno acteurs meer nodig. En mocht er eens een raar filmpje van je uitlekken dan kan je gewoon zeggen dat het een Deepfake is.

[Bor]

Dat lijkt mij geen oplossing. Een goede deepfake is erg moeilijk van echt te onderscheiden. Niet iedereen weet wat een deepfake is en je kan de deepfake dingen laten doen waar je zelf niet achter staat; nog los van normale porno, wat als er zeer onwenselijke zaken gebeuren in de deepfake rond kinderen en dieren om maar eens iets zeer extreems te noemen?

[nzall]

Dit is waarschijnlijk een zeer controversiëel standpunt, maar naar mijn mening is het belangrijk om onderscheid te maken tussen beelden waarvoor wel degelijk iets of iemand is misbruikt en beelden waarbij het volledig gaat over fictieve situaties waarbij er in het echte leven geen slachtoffers zijn. En ik heb die mening ongeacht of het gaat over verkrachtingsporno, kinderporno of beestenporno.

Voor alle duidelijkheid: ik heb zelf geen interesse in beelden van seksueel misbruik, maar ik besef wel dat er mensen zijn die hierrond een zekere problematiek hebben en hiermee in de knoop zitten. Voor deze mensen zou het bestaan van fictieve beelden waarvoor geen slachtoffers in het echte leven nodig zijn een mogelijkheid kunnen bieden tot een legale uitweg.

[Bor]

en beelden waarbij het volledig gaat over fictieve situaties waarbij er in het echte leven geen slachtoffers zijn.

Als iemand wordt weergegeven in een deepfake tegen zijn / haar zin in en daar nadelige effecten van ondervindt is dat in feite al een slachtoffer.

[nzall]

Ja, ik heb het dan zelf inderdaad over een iets andere situatie, namelijk één waarbij het niet klassieke "deepfakes" zijn die een bestaande persoon of dier weergeven maar eerder beelden van volledig fictieve personen en dieren. Ik heb het hierbij ook niet alleen over levensechte weergaves maar ook over erotische tekeningen, renders, animaties, verhalen en zelfs games, zolang het effectief over fictieve situaties gaat waar geen individuen uit het echte leven bij betrokken zijn.

[Polydeukes]

Alleen al de suggestie dat er een filmpje van jou in omloop is waarin je naakt in beeld bent, of seksuele handelingen uitvoert, kan ingrijpende consequenties hebben. Of het het nou echt is, deepfake is, of slechts een hardnekkig gerucht.

[mg794613]

Het verbieden van deepfakes maken klinkt mij een beetje teveel van het goede.
Maar het verbieden van verspreiden is wel broodnodig!

[downtime]

Het verbieden van deepfakes maken klinkt mij een beetje teveel van het goede.
Maar het verbieden van verspreiden is wel broodnodig!

Ik denk dat je beter bij de bron kunt beginnen. De bron is (nu nog, geen idee hoe lang dat zo blijft) een groot bedrijf met het geld om in die technologie te investeren. Die kun je aanpakken. Als de afbeeldingen er eenmaal zijn ben je te laat, want die worden via social media verspreid en dat is vechten tegen de bierkaai.

[naffffffffff]

Nee iedereen met een degelijke videokaart kan nu al makelijk deepfakes maken. Zoek bijv op a1111 of comfyUI, icm roop of controlnet en InstantID/FaceId. Als je iets betere resultaten wilt gebruik je kohya_ss om obv +/- 15 afbeeldingen in 3 uurtjes je eigen model te trainen. Op civitai.com zijn duizenden voorgetrainde modellen te vinden. Je kan dit volledig offline zonder internet doen.

[Reactie gewijzigd door naffffffffff op 22 juli 2024 13:59]

[downtime]

Ook dan kun je beter bij de bron beginnen. Namelijk bij de mensen die die software ontwikkelen. Dat is een veel kleiner groepje dan de miljoenen met social media die die plaatjes verspreiden. Dat is echt dweilen met de kraan wijd open.

[naffffffffff]

Dit is opensource, je krijgt het nooit meer in de fles. Bovendien zijn er ook legitieme toepassingen voor de afzonderlijke stukken software. De combinatie van tools en plugins stelt je in staat dit te doen. Wat je nu zegt staat gelijk aan het willen verbieden van photoshop; omdat je daar ook fotorealistische natuurfoto's van bekendheden mee kan maken.

[pepsiblik]

Goed idee. Nu kijken hoe de uitvoering zal zijn.

[Waterbeesje]

Zoals met veel van dit soort dingen: dweilen met de kraan open. Net als het opsporen van dus, wapens, 'echte' kinderporno en terrorisme.

Zolang we als mensen de mentaliteit niet veranderen zal het ook niet snel beter worden denk ik.

[david-v]

Dat is ook wel zo, maar bij de rechtbank is het een stuk makkelijker om iemand te veroordelen aan de hand van een duidelijke wet die precies dit probleem aanpakte.

[DeMolT.]

Misschien ook een keer kijken naar het probleem achter het probleem?
Waarom doen mensen dit en is daar dan niet iets aan te doen?
Volgens mij komt veel van de ellende vanuit psychische klachten en is daar te veel op bezuinigd, in plaats van heel veel geld in het dweilen-met-de-open-kraan stoppen, pak het probleem bij de bron aan.

[david-v]

Ik denk dat er maar weinig mensen zijn die dit doen en het voorkomen had kunnen worden als ze hulp hadden gekregen. De eerste stap om geholpen te worden is toegeven dat je een probleem hebt, en dat is bij de meeste mensen al een probleem.

Bovendien gaat dit vaak richting de sexuele "fantasieën" van mensen en ik vraag me dan af of je dat onder "psychische klachten" kan scharen, want dan zijn er niet genoeg therapeuten op de wereld voor ons allemaal (zei ik ons? )

[DeMolT.]

Haha, dat is zeker waar, maar het begint al in de jeugdzorg. Je hebt gelijk dat je eerst zelf een stap moet nemen, maar als je nu ziet dat de wachtlijsten minstens 6 maanden zijn, dan is die eerste stap ook moeilijker te nemen.

Goede voorlichting wat betreft sex, zou ook zeker geen overbodige luxe zijn. Helemaal in de huidige tijd, waarbij alles voor het oprapen ligt qua porno, zou het niet verkeerd zijn om de verslaving eraan wat meer onder de aandacht te brengen.

[Waterbeesje]

Voorlichting is al erg lang een delicaat punt. "Ja, maar maar... daar is mijn kind van 15 ècht nog niet mee bezig hoor! Laat dat maar even weg tot kindje er aan toe is!" hoor ik een naïeve ouder zeggen. Of we gooien het over de religieuze kant, waar beduidend meer taboes heersen en enkel het minimaal verplichte lesuurtje wordt gegeven. Kan wat mij betreft in groep 8 al uitgebreid aan bod komen. Inclusief de sociaal-emotionele gevaren en verslavende werking.

[david-v]

Mijn ervaring is dat je voornamelijk bezig moet zijn met het respecteren van de andere als gelijke. Niet als sex object, slaaf of minderwaardige. Je hoeft dan niet in details te gaan over wat wel en niet kan want dat is nogal lastig om te bepalen.

Zolang je respect hebt voor elkaar en gelijkwaardig behandeld dan heb je denk ik al een stap in de goeie richting gezet.

[EnigmaNL]

Tja, wat is het alternatief dan? Niets doen?

[Waterbeesje]

Oh ik sta er volledig achter dat er regelgeving is/komt/meebeweegt. Het feit dat we regelgeving hebben voor zaken maakt dat het nog niet volledig maatschappijontwrichtend is gesteld. Wat ik wil zeggen is dat het gewoonweg niet volledig te handhaven is, net als met die andere zaken. Er zijn altijd 'bedroevende figuren' die dingen doen waarvan we als maatschappij vinden dat het niet door de beugel kan. En dat kan hiermee zeker gedeeltelijk worden bestreden. Mogelijk in veel gevallen voorkomen (want regelgeing werkt, naast dat het een handvat is voor een rechter, ook preventief).

[EnigmaNL]

Je kunt nooit alle boeven pakken, het enige dat je kunt doen is je best. Niets doen is in ieder geval geen optie. Dit is dus een goed begin.

[MindBender]

En het omgekeerde, DignifAI, dat elegante kleding op schaarsgeklede dames aanbrengt en tatoeages verwijdert: mag dat nog wel?

[Bor]

Die site schermt al met "We’re putting clothes on degenerate women for fun, come join" waarbij de vrouw in kwestie (als die al echt bestaat) wordt gedegradeerd en beschimpt. Alleen dat moet je al niet willen volgens mij.

[ArawnofAnnwn]

Heb daar de afgelopen dagen echt veel afbeeldingen van langs zien komen, echt hilarisch, vooral de boze reacties van de dames dat er afbeeldingen zijn waarin ze netjes gekleed zijn.

Ik ben zelf geen fan van het hele AI gebeuren, maar DignifAI vind ik wel hilarisch.

[Alxndr]

Wat een moralistisch paniek voetbal weer. Als er nou een 'victimless crime' is, is dit het wel. Als iemand een filmje van de acht uur nieuwslezeres, de koning, of de paus of je buurmeisje online gooit, weet iedereen met meer dan 3 hersencellen toch dat het nep is? Afgezien dat bijna alle dfporno watermerken er in heeft staan, of het gewoon in de titel staat.

Sterker nog, als er een keer een echt sexfilmpje lekt kun je nu makkelijk zeggen dat het gewoon nep is. En als het daadwerkelijk gebruikt wordt om iemand te belasten, kan je volgens mij met smaad/laster wet- en regelgeving gewoon al meer dan genoeg.

En qua KP is het toch net als metadon voor heroine verslaafden? Sommige mensen kun je gewoon niet 'genezen' en kan je dus beter van een door een mens of machine verzonnen surrogaat voorzien.

Maargoed, dat mag je niet zeggen want alle pedo's zijn verkrachters/kindermisbruikers die gelynct moeten worden (net zoals homo's eeuwenlang behandeld werden). Het is natuurlijk ook veel makkelijker om symboolwetgeving op te tuigen dan die honderden/duizenden priesters wereldwijd op te pakken en te straffen voor de werkelijke misdaden die ze hebben begaan.

[Finger]

Dat is het helemaal niet, ja misschien minder hard bij een bekend iemand. Maar je kan hier mee iemand goed kapot maken, helemaal op scholen. Als er zulke filmpjes van jou dochter verschijnen piep je wel anders. Die wordt dan op school stuk gemaakt.

[Alxndr]

Je hoeft mij (helaas) niets over pesten te vertellen, ik kan je verzekeren dat je om iemand helemaal kapot te maken,op een manier waar ze de rest van hun leven last van houden, helemaal geen filmpjes of computers voor nodig hebt.

Het is niet het wapen maar degene die het wapen gebruikt die de dader is.

[zap8]

Ik weet het niet. Wordt dit iets met een hellend vlak. Nu porno, maar straks misschien collages en memes van bekende personen die niet meer gebruikt mogen worden zonder toestemming van de degene waar het om draait.

[DominAbbus]

als je willens en wetens mis-informatie maakt, dan wel verspreidt, dan mag dat bestraft worden. Propaganda, manipulatie en misleiding zullen anders steeds sterker toenemen.

[Teun!]

Is dit zo? Ik had toch gehoopt dat wij in een land leven waar propaganda gewoon mag. En gelukkig is dat ook grotendeels zo. Elk land doet aan propaganda!

[PCG2020]

'Negatieve propaganda' over een persoon zou je kunnen scharen onder smaad en laster; die twee dingen zijn strafbaar.

Stel dat iemand jou herhaaldelijk noemt als degene die anderen seksueel lastigvalt terwijl dat niet waar is, welke ongewenste gevolgen heeft dat dan voor jou?

[downtime]

Dat is al zo. Daar heb je het portretrecht voor. Maar de wet biedt nu ook specifieke situaties waarin dat wel mag. Een cartoonist of kunstenaar mag bijvoorbeeld best de beeltenis van een bekende persoon gebruiken. Maar deepfake waarbij je het verschil tussen echt en nep niet meer ziet is een heel ander verhaal dan bijvoorbeeld een bekende politicus in een cartoon afbeelden.