Nederlandse stichtingen eisen bij rechter dat Grok stopt met uitkleedfuncties

De Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp hebben een kort geding aangespannen tegen X en Grok. De stichtingen willen dat Grok stopt met het uitkleden van mensen op verzoek van gebruikers. Zolang Grok zich hier niet aan houdt, willen de stichtingen dat er een dwangsom van 100.000 euro per dag wordt opgelegd.

De stichtingen stappen naar de rechter omdat via Grok 'op grote schaal illegaal beeldmateriaal kan worden gegenereerd en verspreid'. "Met deze zogeheten 'uitkleedapps' kunnen met behulp van AI realistische beelden worden gemaakt waarin mensen, ook minderjarigen, zonder toestemming deels of geheel worden uitgekleed."

In het kort geding vorderen de stichtingen Grok en X per direct te stoppen met functies om personen zonder toestemming uit te kleden of bloter te maken, en functies waarmee 'materiaal kan worden gegenereerd dat kwalificeert als seksueel misbruikmateriaal van minderjarigen'.

EU-toezichthouders onderzoeken Grok vanwege de seksuele AI-afbeeldingen, maar hier willen de stichtingen niet op wachten. "Snelle actie is nodig om nieuwe slachtoffers te voorkomen", terwijl 'wetgeving en toezicht tijd kosten'.

Advocaat Otto Volgenant, die via Boekx Advocaten het kort geding aanspant met de twee organisaties, zegt dat de functies in overtreding zijn met onder meer de AVG, de DSA, het portretrecht en het Wetboek van Strafrecht. "Ook Europese jurisprudentie stelt strenge eisen aan het verspreiden van seksueel beeldmateriaal zonder aantoonbare toestemming", zegt Volgenant.

De zaak dient donderdag 12 maart om 10.00 uur bij de rechtbank Amsterdam. Offlimits is een expertisecentrum voor online misbruik. Fonds Slachtofferhulp – niet te verwarren met Slachtofferhulp Nederland – is een onafhankelijke organisatie die zich inzet voor slachtoffers van onder meer seksueel misbruik.

Een door Offlimits en Fonds Slachtofferhulp gegenereerde afbeelding. Beide afbeeldingen zijn door AI gemaakt.

Reacties (141)

[Freeaqingme]

Kan dit uberhaupt nog met Grok dan? Ik krijg al meldingen dat 't moderated is als er een foto met een bikini getoond zou worden.

[RRRobert]

Kan dit uberhaupt nog met Grok dan? Ik krijg al meldingen dat 't moderated is als er een foto met een bikini getoond zou worden.

Er gaat nog wel veel meer niet goed bij Grok, moderated of niet. Zoals wat ik vanochtend weer las over de release van versie 4.2: AI-app van Elon Musk laat Tweede Kamer binnen 10 seconden de Hitlergroet brengen

[Reactie gewijzigd door RRRobert op 26 februari 2026 13:37]

[Crazy Harry]

Hoezo is dat een voorbeeld van dat het niet goed gaat bij Grok? Dat is toch precies wat Musk wil?

[wildhagen]

leuk, er zijn nog 101 andere diensten die dit ook mogelijk maken.

Dat is een beetje een non-argument. Dat een ander iets fout doet geeft jou (als Grok in dit voorbeeld) niet automatisch het recht om ook iets fout te gaan doen.

Als je buurman in de sloot springt, doe jij dat dan ook, "want hij doet het ook!"?

Daarnaast gaat Grok met hun AI veel verder dan anderen. Grok laat bijvoorbeeld toe dat er nazispreuken, symbolen (hakenkruisvlaggen etc) gegenereerd worden. Zie vandaag nog dit bericht bijvoorbeeld: AI-app van Elon Musk laat Nederlandse Tweede Kamer binnen 10 seconden Hitlergroet brengen: “Gevaarlijke voedingsbodem voor haatzaaien”

Dus dat Grok specifiek aangepakt wordt lijkt me niet meer dan terecht en normaal.

[lenwar]

Het enige dat ervoor te zeggen is, is dat je niet alleen Grok moet aanpakken maar al die andere publieke AI-modellen ook. Dus niet om het van Grok 'recht te praten', maar als Grok het niet mag, mag de rest het ook niet.

En iedereen hier snapt dat je ook lokale modellen kunt draaien, die dit ook gewoon doen, maar publieke diensten als Grok, maken het natuurlijk wel heel erg toegankelijk/makkelijk. En dit maakt bijvoorbeeld ook het verschil met een fotobewerkingsprogramma. Als je daar het, in het artikel weergegeven voorbeeld wilt repoduceren, vereist dat (enige vorm van) expertise met dat programma. Met AI-functies hoef je alleen maar een prompt te copy-pasten.

[IlIlIllII]

Dus niet om het van Grok 'recht te praten', maar als Grok het niet mag, mag de rest het ook niet.

Nu is Grok wel een dienst waar de moderatie van de inhoud (mijn mening, N=1) erg laks is vergeleken met de concurrentie, dus vandaar alle (imo, terechte) kritiek de laatste tijd. Grok heeft bijvoorbeeld geen moeite met het schrijven van vunzige erotische teksten. Heeft geen moeite met het objectiveren van mensen in foto's die je in de chat gooit. ChatGPT daarentegen is enorm PG-13 en weigert zulke dingen vrijwel direct of houd het extreem netjes. Uitzonderingen zullen er altijd zijn, maar over het algemeen vind ik andere diensten een stuk ''veiliger'' qua moderatie. Meestal té veilig, maar da's een andere discussie.

Wist je bijvoorbeeld dat je tegenwoordig naaktbeelden kan uploaden naar Grok? Ik schrok hier zelf enorm van, want voorheen kon dit niet. Afbeeldingen van geslachtsdelen, porno, noem maar op. Grok beschrijft die afbeeldingen met alle liefde voor je en kan erover fantaseren. En dit ga ik uiteraard never nooit testen testen, maar je kunt je voorstellen dat Grok lang niet altijd herkent wanneer een (fictief) naakt persoon minderjarig is. Nog net niet zo erg als het uitkleden van kinderen, maar nog steeds een enorm kwalijke zaak die tot dusver niet eens onder de aandacht is volgens mij.

Nogmaals, N=1, maar om bovenstaande redenen vind ik Grok enorm gevaarlijk en de focus van alle kritiek is wat mij dan betreft ook terecht. Niet echt te vergelijken met de concurrentie op het gebied van moderatie, alhoewel andere diensten natuurlijk óók moeten verbeteren.

[lenwar]

de focus van alle kritiek is wat mij dan betreft ook terecht.

Dat snap ik ook wel voor de discussie. Maar dan moet er niet alleen maar een regel voor Grok komen, maar voor LLMs. En dat Grok de trigger was, is prima.

Aan begin van het draadje wordt benoemd dat je Grok wel kunt aanpakken, en dat er nog 100 zijn die ook dergelijke dingen doen.

Ik zou het persoonlijk raar vinden als Grok de enige is die wordt aangepakt, als anderen het ook doen. Als blijkt dat Grok wel de enige is, dan is het impliciet wel zo natuurlijk.

[MeNTaL_TO]

Grok heeft bijvoorbeeld geen moeite met het schrijven van vunzige erotische teksten.

Nu zie ik hier persoonlijk geen problemen mee, maar blijkbaar verschillen daar de meningen over, zeker niet als iemand een betaald account is (en dus 18+)
Het verbaast me meer dat jij blijkbaar erg geschrokken bent dat je naaktbeelden kan uploaden, blijkbaar is het downloaden ervan geen issue, maar het laten beschrijven ervan wel?

[IlIlIllII]

Ik heb er in principe ook geen problemen mee, maar als je dit toelaat is de sprong naar ander onwenselijke inhoud (zoals het seksualiserend beschrijven van beeldmateriaal) snel gemaakt.

Het verbaast me meer dat jij blijkbaar erg geschrokken bent dat je naaktbeelden kan uploaden, blijkbaar is het downloaden ervan geen issue, maar het laten beschrijven ervan wel?

Waarom ik geschrokken was? Omdat 9 van de 10 grote diensten dit soort materiaal direct blokkeren. Omdat de gevolgen nogal groot kunnen zijn als je dit wél toelaat (zie o.a. mijn voorbeeld).

Ik snap de relevantie van downloaden niet helemaal. Er is nog altijd onderscheid tussen legale en illegale beelden. Het probleem is dat Grok dat onderscheid niet (of moeilijk) kan zien. Een zieke geest kan allerlei walgelijke illegale beelden uploaden en Grok instrueren om lekker mee te fantaseren. Ik hoef denk ik niet uit te leggen waarom voortborduren op illegale inhoud onwenselijk is, zowel voor gebruiker als bedrijf. Bedrijven worden nu al aan de tand gevoeld als een chatbot bijvoorbeeld zelfmoord aanmoedigt.

[Reactie gewijzigd door IlIlIllII op 26 februari 2026 15:57]

[Sluuut]

Ik vind wel dat je dit reëel van twee kanten moet bekijken. Jij bekijkt het enkel vanuit de kant: “Alles wat iedereen met AI creëert en wat pornogerelateerd is, resulteert in extra gevaar.”

In de realiteit is dat onbewezen en zeer waarschijnlijk geldt dat slechts een heel klein deel van de bevolking die AI-porno gebruikt, daardoor in de daadwerkelijke wereld verder gaat met dit gedrag. Voor het overgrote deel biedt het voldoende om het bij een fantasie te laten en daar verder niets mee te doen. Je kunt je afvragen of het aantal gevaarlijke situaties in de echte wereld niet juist zou toenemen als er géén AI-porno beschikbaar zou zijn.

Er zijn geen feitelijke cijfers beschikbaar, maar het is wel duidelijk dat slechts een klein deel van de mensheid na fantaseren daadwerkelijk overgaat tot handelen, waar de echte risico’s liggen. Of die risico's afnemen of toenemen bij het (niet) toestaan van AI porno gebruik is dus helaas nog onbekend.

[Reactie gewijzigd door Sluuut op 26 februari 2026 16:37]

[tvtech]

Misschien zouden we als Europeanen massaal plaatjes van Trump die de Hitlergroet brengt aan Musk, of andersom, moeten genereren. Flood the zone. Kijken wat er dan gebeurt.

[familyman]

Ik denk dat dit een hele goede zou zijn, net als plaatjes met de caption 'Trump on Epstein's island, what they didn't want you to see'

[Honytawk]

Dat is waar ze naartoe willen, dus zowel Trump als Musk gaan dit geweldig vinden en het nogmaals doen in het echt "om te lachen".

[datajuggler]

Meer zelfs, ik ben van de veronderstelling dat dit exact is wat Amerika onder Trump wilt. Elke plausable deniability helpt. "Heb ik niet gezegd", "Was ik niet op Epstein island", "Dat is niet mijn stem dat grab her by the pussy zegt". Ondertussen raken ze weg met de vunstigste en ranzigste opmerkingen en alles kan weggewuifd worden met "Dat ben ik niet dat is fake. Meer zelfs, het zijn de Democraten of [insert x] die ons wilt benadelen". Dystopisch en schokkend op zoveel vlakken.

[tvtech]

ja, ik vrees dat je gelijk hebt. Ik zag bij Lubach een item over de VS ambassadeur in Belgie die zich bemoeit met de landelijke politiek. "Nee, ik zou dat nooit gezegd hebben".

En hup.

[Hemingr]

Dat gebeurt al, en er gebeurt niets mee.

[RoyD]

Het enige wat moet gebeuren is de verplichting dat dergelijke AI afbeeldingen gewatermerkt moeten worden zodat het voor iedereen duidelijk is dat het AI is. Ik snap niet dat er zo krampachtig over gedaan wordt. Een kunstenaar kan nu toch ook al een dergelijke afbeelding maken. Met AI is een grotere groep hiertoe in staat. De verantwoording ligt bij de opdrachtgever en de evt. verspreider. Die zouden evt. aangepakt moeten worden.

[jumbos7]

Dat is een beetje een non-argument. Dat een ander iets fout doet geeft jou (als Grok in dit voorbeeld) niet automatisch het recht om ook iets fout te gaan doen.

Ik denk niet dat @himlims_ het als argument bedoeld heeft dat Grok gewoon moet kunnen doorgaan met deze praktijken. Het lijkt er eerder op dat hij van mening is dat het stoppen van de uitkleedfunctie van Grok (in Nederland) er niet voor gaat zorgen dat het grotere probleem verdwijnt. Wel ben ik het met je eens dat het voor het voor de rechter slepen van Grok niets uit zou maken, al is het maar om duidelijk te krijgen hoe ver AI op dit moment mag gaan.

[himlims_]

Precies dat / beter verwoord, maar zelfde punt

[Frappuccino]

Tuurlijk is dat wel een goed argument.

Huilie huilie doen omdat Grok van Musk is, dat is een non-argument, en pure rancune.

[VOODOO_WILLIE]

Grok laat bijvoorbeeld toe dat er nazispreuken, symbolen (hakenkruisvlaggen etc) gegenereerd worden.

En waarom zou dat niet moeten mogen? Het is een onderdeel van de geschiedenis. En sowieso ... als je symbolen van alle misselijke regimes wilt censureren dan kan je wel aan de gang blijven ...

[Honytawk]

Hakenkruizen zijn illegaal in Duitsland.
Alle games zoals Wolfenstein moeten die weg laten of ze zijn illegaal daar.
Dus Grok zal zich daar ook aan moeten houden of die is ook illegaal.

Beter om dat ineens in heel Europa illegaal te maken eigenlijk.
Fascisten zijn de laagste vorm van bewustzijn, en moeten we nooit tolereren.
Mijn grootvader heeft er genoeg door hun bol moeten schieten om ons land vrij te houden.

[kozue]

Als iets alleen illegaal is in Duitsland, hoeft dat daarbuiten dus niet geblokkeerd te worden. Alleen in Duitsland. Het zou wat zijn als alles wat ergens in de wereld verboden is gelijk wereldwijd verboden moet worden. Dan mogen we hier letterlijk niks meer. Alle wetten van bv Iran zijn dan ook ineens onze vrijheid aan het beperken.

[mcmd]

Maar goed, als het dan wel op grote schaal al gebeurt, en het ook niet zo onschuldig is, want individuele personen hebben er last van, dan is dat op zich toch al een glijdende/hellende vlak waarmee je iets moet doen? Dus iets als jurisich tegen houden.

[JWL92]

Persoonlijk heb ik nog nooit aan Grok (of een andere AI) gevraagd om zulke symbolen of 'uitkleedfoto' te genereren. Daarom interesseert het me ook niks of het effectief kan

totdat iemand anders dat met jouw foto, of die van je kids doet.

[Prince]

Volledig eens; want waarom mag een AI iets niet, wat een mens wel mag?
Of moeten de grafische artiesten van het spel Wolfenstein achter de tralies?
Ditto mensen die materiaal maken voor geschiedenisboeken, theateroptredes, cinema, cartoons, etc...

Het is nu eenmaal iets wat gebeurd is; daar kom je niet onderuit.

[familyman]

Bepaalde symbolen en uitlatingen zijn gewoon offlimits, en maar goed ook.

[familyman]

Beetje je geschiedenis vergeten?

En een vergelijking maken, omdat je leert van geschiedenis, is iets anders dan neonazistisch gedachtengoed uitdragen.

[Reactie gewijzigd door familyman op 26 februari 2026 16:08]

[Thijs_Rallye]

In de Soviet unie waren ze daar ook goed in. Die hadden al photoshop 0.1 voor als later onwelvallige lieden uit de geschiedenis gewist moeten worden.1984 zou verplicht leesvoer moeten zijn, net zoals animal farm.

Allemaal dat geroep om censuur, ik kan er met mijn verstand niet bij.

[PCG2020]

Het gaat om de context waarbinnen de symboliek wordt gebruikt. Geschiedenisboeken, musea en historische naslagwerken, bijvoorbeeld, dienen ter informatie. Daarom mag in Duitsland het hakenkruis wel afgebeeld worden in geschiedenisboeken en op tentoongestelde vliegtuigen uit de Tweede Wereldoorlog. Een 'Ministry of Truth' had ze ook in die contexten volledig weg gecensureerd, maar dat is zélfs in Duitsland, waar die geschiedenis uiterst gevoelig ligt, niet het geval.

Ook in Nederland zijn nazisymbolen onderhevig aan wetgeving, al is die wat minder streng dan in Duitsland. In Nederland mogen nazisymbolen bijvoorbeeld wel in games worden gebruikt (al ligt het een beetje aan de ontwikkelaar en uitgever of dat ook gebeurt). Gebruik je hakenkruizen en andere nazisymbolen om politieke redenen, zoals bij een demonstratie, dan is dat wél bij wet verboden.

Het genereren van plaatjes waarbij de Tweede Kamer de Hitlergroet brengt en er een grote hakenkruisvlag te zien is, zou in een politieke context ook onder het verbod kunnen vallen. Het feit dat het mogelijk is om Grok (en wellicht ook andere generatieve AI) ervoor te gebruiken, zoals het AD recentelijk aantoonde, is wellicht een aanleiding om de rechter daar een oordeel over te laten vellen.

[jumbos7]

Je mag op zich in Nederland nog wel nazisymbolen gebruiken bij demonstraties mits je dat niet doet om een groep of ras in als geheel in een kwaad daglicht te plaatsen, want dat wordt al snel gezien als groepsbelediging. Dus het is niet zo zeer de symbolen zelf maar de context die relevant is, Maar je hebt al snel de schijn tegen bij een demonstratie wanneer je zulke symbolen gebruikt en het ligt begrijpelijkerwijs nogal gevoelig om het te gebruiken. Maar in games, in geschiedenisboeken, op verzamelbeurzen is de context vaak meteen duidelijk en is er in principe dan ook geen probleem.

[PCG2020]

waarom zou dat niet mogen?
- kan satire zijn
- kan vrije meningsuiting zijn

Daarom zeg ik daarna ook:

(...) Het feit dat het mogelijk is om Grok (en wellicht ook andere generatieve AI) ervoor te gebruiken, zoals het AD recentelijk aantoonde, is wellicht een aanleiding om de rechter daar een oordeel over te laten vellen.

[iqcgubon]

Artikel staat nog maar pas online en de "JA MAAR ANDERE DIENSTEN" comments zijn er ook al.

Elke keer opnieuw. Terwijl dit ondertussen al duizend keer uitgelegd is.

[Loller1]

Dat is natuurlijk niet hoe dit werkt. Je gaat niet een hele industrie aanklagen. Zorg eerst dat je een precedent hebt geschept, en stap daar vervolgens mee naar de rechter voor andere. En laten we nu ook even niet doen alsof Grok niet het meest prominente en problematische geval van dit is.

[Annihilism]

En jij denkt dat overheden, stichtingen etc. onbeperkt resources hebben om links en rechts iedereen te gaan aanklagen? Je moet ergens beginnen en X/Grok komt verreweg het meeste negatief in het nieuws en lapt ook de meeste regels aan zijn laars.

[tw_gotcha]

precies en omdat je ergens moet beginnen begin je bij GROK, als die rechtzaak lukt dan ga je verder. Natuurlijk is het streven om alles aan te pakken.

[JWL92]

Je bedoeld de andere grote jonges, die t wel ff iets lastiger maken?

[SSSQ]

analoog hieraan mag je dus geen mobiele camera´s naast de snelweg zetten want op andere wegen wordt er ook te hard gereden?????

[heerhaan]

Het is heel oneerlijk dat ik beboet wordt voor te hard rijden, je kan toch zien dat dit al veel gedaan wordt door andere mensen. Waarom pakken ze die niet aan?

[iqcgubon]

En welke andere diensten lieten het precies op grote schaal, out of the box, geadverteerd door de CEO, en op een publiek forum toe?

[Honbrifcl]

Ik snap niet dat je -1 krijgt, je hebt namelijk gewoon gelijk: er zal altijd wel een dienst beschikbaar zijn om dit te kunnen doen, al zitten die dan in Rusland of zo. Of ouderwets met photoshop. Als inderdaad genoeg mensen weten dat dit mogelijk is, zal de impact minder zijn. Het is immers ook niet zo dat je de werkelijkheid ziet, het is gewoon gegenereerd/gefantaseerd.

Sterker nog, ik ben eerder bang voor het omgekeerde: ik maak soms mooie foto's en iedereen denkt dat het AI is. Het gevaar is eerder dat je van niets meer gelooft dat het echt is. Als ik een naaktfoto zie van een bekend persoon, ga ik er al vanuit dat het nep is.

Sommige dingen zijn gewoon niet te stoppen. Robots die mensen kwaad doen, waren vroeger uit den boze (Wikipedia: Three Laws of Robotics), nu zijn er bedrijven die zich er op specialiseren. Een wapenwedloop wil ook niemand en toch gebeurt het. Ik zie de toekomst niet rooskleurig in.

[watercoolertje]

er zal altijd wel een dienst beschikbaar zijn om dit te kunnen doen, al zitten die dan in Rusland of zo

Dat ie daarin mogelijk gelijk heeft is geen argument voor het 'dan maar niks doen'.

En omdat er 1 ding klopt uit een verhaaltje betekent het nog niet dat het hele verhaal niet ongewenst is of offtopic...

Of ouderwets met photoshop.

Dat mag ook niet, maar dat ligt toch wel heel anders. Dan doe je dat helemaal zelf, bij een AI doet een (AI van een) commercieel bedrijf dat voor jou en kan dat bedrijf daar dus prima een rol in het voorkomen spelen.

Ik zie de toekomst niet rooskleurig in.

Wat wil je daar mee zeggen dan? Ook dat is geen 'dan maar niks doen'-argument...

[Reactie gewijzigd door watercoolertje op 26 februari 2026 13:47]

[Marve79]

Ja maar Grok is wel heel toegankelijk. Las overigens nog een bericht dat er niet echt een filter zit op Grok.

https://www.hln.be/nieuws/ai-app-van-elon-musk-laat-nederlandse-tweede-kamer-binnen-10-seconden-hitlergroet-brengen-gevaarlijke-voedingsbodem-voor-haatzaaien~a113cb54/

[tw_gotcha]

voorlichting is gewoon niet genoeg, en legt dan de verantwoordelijkheid van de misdaad bij de voorlichters, die hadden immers maar beter hun werk moeten doen.

[downtime]

belangrijk dat er meer op voorlichting en onderwijs gedaan wordt hierover.

Leg eens uit. Hoe is het slachtoffer geholpen met voorlichting? Het slachtoffer heeft hier geen enkele invloed meer op.

[ChillerBG]

Nee, maar in bredere zin heeft slachtoffer geen invloed op vele zaken in de wereld.

Door mensen (in brede zin) weerbestendiger te maken tegen allerlei tegenwoordige onzin, ontneem je de kracht van de dader - ten slotte, als de dader geen gewenste effect kan bereiken, zal dader eerder geneigd zijn om te stoppen (of nog extremer worden, dat kan ook maar brengt meer risico voor zowel dader als slachtoffer en dan komen wij in een hele andere domein dan digitale wereld).

Er wordt in het algemene zin te veel hand boven de hoofd gehouden door de overheden/stichtingen etc - zij bepalen steeds meer wat wel of niet goed is voor mensen. En daar gaat het naar mijn mening fout.

Als er bewijs van spreken, morgen mijn dochter geconfronteerd zou worden door een AI gegenereerde photo, dan zou ik als ouder trots zijn indien zij zegt "fake, boeiend - ik ga gewoon met mijn leven verder" en dat ze nooit meer daarover nadenkt. Dan is zij sterk, zelfverzekerd en kan dader weinig bereiken. Dat is de taak van ouders, maar ook vrienden, familie etc - om dit voor elkaar te bereiken. De ene zal wat sterker zijn, andere wat zwakker.

Indien wij als mensen onze kinderen van alles en nog wat - en dan nog meer dan dat - willen beschermen, dan ontnemen wij zij de kans om (begeleid) sterker te worden. Simpel zat.

Het probleem ligt hem echter, dat overheid (in het algemene zin) zwakke en gehoorzame burgers wilt, die netjes alles opvolgen. En voila, hier staan wij dan vandaag.

Just my $0.02

[familyman]

Heb het gevoel dat een verplichting ook op internet een traceerbare identiteit te hebben, al ontzettend veel zou helpen.

Meer dan ai aanbieders aanspreken iig.

[watercoolertje]

En waarom moeten we volgens jou uberhaubt ruimte geven aan iets wat niet mag? Als er verder helemaal geen negatieve gevolgen zijn om die zaken al bij de kern te blokkeren?

[Reactie gewijzigd door watercoolertje op 26 februari 2026 13:39]

[loki504]

Dus een harddrug dealer moeten we ook laten gaan? Want je moet de gebruiker hebben? Het is immers ook verboden om zonder toestemming sexuele afbeeldingen te maken van een persoon. En dat doe je met deze functie.

[Tim AtSharp]

Klopt grotendeels wat je zegt ivm drugbeleid. Als de gebruiker niet koopm is er geen markt. Dus, deels is dat waar ja.

De beelden blijven gegenereerd, dus ze zijn niet _echt_ een afbeelding van die persoon. Dat mag je natuurlijk ook niet uit het oog verliezen...

[loki504]

Klopt grotendeels wat je zegt ivm drugbeleid. Als de gebruiker niet koopm is er geen markt. Dus, deels is dat waar ja.

De beelden blijven gegenereerd, dus ze zijn niet _echt_ een afbeelding van die persoon. Dat mag je natuurlijk ook niet uit het oog verliezen...

Maar zijn lastig van echt te onderscheiden en het gebeurt zonder toestemming van die persoon. Dus Zonder toestemming seksueel beeldmateriaal van iemand anders maken is strafbaar max 2 jaar... misschien moet Musk dan maar even 2 jaartjes bij ons zitten:D

[Reactie gewijzigd door loki504 op 26 februari 2026 14:20]

[JWL92]

misschien moet Musk dan maar even 2 jaartjes bij ons zitten:D

per incident , hoop ik dan

[loki504]

Helaas werkt dat 9/10 keer niet zo in NL. Maar we kunnen het vast wel per land doen. en er vanuit gaan dat het in alle EU landen verboden is zitten we toch al op 54 jaar. gezien hij al 54 is is de kans dat hij er levend uit komt niet heel groot:P en dan is er vast nog wel een paar andere landen die het ook willen:D

[Reactie gewijzigd door loki504 op 26 februari 2026 15:40]

[Z80]

Het gaat om een uitkleed functie. Dus een bestaande foto, van een bestaand iemand, fotoshoppen door AI.

Maar jij het er geen bezwaar tegen als een foto van jou of familie door AI gefotoshopt wordt in een positie die JIJ absolute niet wil en ook nooit toestemming voor gegeven hebt. Het zijn maar pixels.

[Tim AtSharp]

Dat zeg ik niet. Het blijft de verantwoordelijkheid van diegene die de prompt typt...

[Z80]

Quote<Het blijft hier gaan om pixel generatie, en niet om een foto... .>Quote

Wat zeg je hier dan wel?

[JWL92]

- dat het geen echt beeld is
- dat het iemand is die gevraagd heeft om dat te genereren

- dat E.Musk deze mogelijkheid bewust aanbied, tegen betaling nog wel.

[loki504]

Een foto van iemand is ook een pixel generatie....

Wraakporno/onrechtmatig seksueel beeldmateriaal verkrijgen is gewoon strafbaar hoor. Daar hoef je niet meer voor in de bosjes te liggen.

https://www.rijksoverheid.nl/onderwerpen/seksuele-misdrijven/wraakporno

review: Deepfakes verbieden? Daarvoor heeft Nederland nu al genoeg wetten.

https://www.rechtspraak.nl/organisatie-en-contact/organisatie/rechtbanken/rechtbank-amsterdam/nieuws/voorwaardelijke-taakstraf-van-180-uur-voor-maken-en-publiceren-deepfake-pornovideo


Tuurlijk is de gebruiker die de prompt typt net zo slecht al niet slechter. maar laten we ons niet focussen op 1 kamp.. als ik een foto van je familie gezin etc op aanvraag seksueel bewerk . zag je dan ook tegen de politie en rechter ga maar achter de opdrachtgevers aan en laat Loki maar gaan. of wil je dan ook dat ik gestraft wordt omdat ik ze bewerkt en verspreid heb?

[Scriptkid]

Je moet dit om gaan draaien , Je kunt niet per land gaan beslissen wat alle wereld weide AI wel en niet mogen doen en aan welke ethical regels ze zich moeten gaan houden per AI.

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Alleen ook dan wat als het gegenereerd wordt op een exotische eiland dat zich niks aantrekt van EU.


en met AI vind je zo een AI die het wel voor je genereerd.

The monkey is out of the cage , you cant put it back.

[anandus]

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Dit is volgens mij al verplicht in de EU middels de AI Act uit 2024 (50.4), maar ik weet niet wanneer dat ingaat:

quote: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng

Deployers of an AI system that generates or manipulates image, audio or video content constituting a deep fake, shall disclose that the content has been artificially generated or manipulated

Er is een uitzondering op "evidently creative or artistic work", maar het lijkt me dat naakte deepfakes daar niet onder vallen

[Reactie gewijzigd door anandus op 26 februari 2026 13:36]

[Ed Vertijsment]

Je kunt niet per land gaan beslissen wat alle wereld weide AI wel en niet mogen doen

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Dat is toch gewoon dat? Overigens kan dat prima, sommige disagree verschillen per land door lokale wetgeving.

[Sebbo]

Tuurlijk kan je dat wereldwijd proberen vast te leggen. Gaat alleen niet gebeuren. Kijk alleen maar naar Anthropic die ethiek laat varen om AI voor oorlogvoering mogelijk te maken. Je kan het ook via de EU gaan regelen. Dat proces is alleen eentje met een lange adem en wordt aan alle kanten door lobby van de grote AI-partijen beïnvloed.

Of je doet het nationaal. En waarom niet? Of iets ook elders wordt aangeboden, of dat het elders wordt gehost is niet relevant. Het wordt in Nederland aangeboden en dan moet het voldoen aan onze wet- en regelgeving. En ja, controle op naleving door de Nederlandse overheid is een dingetje, maar als je de boetes maar hoog genoeg maakt, kan dat ook prima achteraf.

En hoewel ik een AI-logo bij gegenereerde content überhaupt een prima idee vind, is dat hier echt geen oplossing. AI wordt gebruikt om nep-naakt te creëren van echte mensen. Dat is een flinke inbreuk op de persoonlijke levenssfeer. Dat is te classificeren als (online) seksueel geweld en kan een enorme impact hebben op het slachtoffer. En even los hiervan hoop ik toch dat we als maatschappij dit ontzettend onwenselijk vinden. Ook als er een labeltje bij staat.

[Scriptkid]

Het wordt in Nederland aangeboden en dan moet het voldoen aan onze wet- en regelgeving

Mee eens als het een winkel was of een site die transacties doet in NL, Maar dat is bij deze niet het geval dus dan is het niet mogelijk. Enige wat je af kunt dwingen is een IP verbod bij de ISP`s maar ja niks wat een VPN even tegen houd.

Dat is een flinke inbreuk op de persoonlijke levenssfeer.

Dat is iets wat we er zelf van gemaakt hebben, legio aan stammen die nog in de blote kont rond lopen in de jungle die dat totaal geen issue vinden, we zijn allemaal het zelfde en hebben maar 2 smaken.

[Honytawk]

Je kan wel degelijk per land gaan beslissen wat AI wel of niet mag doen in dat land.
Het is dan aan de providers om zich aan die regels te houden of zich terug te trekken uit de markt.
We doen hetzelfde met social media.

[Scriptkid]

Hoe lost dat het probleem op ,? school jeugd logged gewoon in op duitse variant en bewerkt de foto,
Of ze downloaden photoshop en bewerken de foto met IA smearing tools etc.

[JustFogMaxi]

Owjee laat ze offline ComfyUI maar niet zien... Ban all models!

[S95Sedan]

Dit heeft niets maar dan ook niets met Grok te maken. Of gaan we photoshop ook verbieden, daar kan je immers hetzelfde mee doen.

[eurob]

Beetje off-topic, maar met alles wat tegenwoordig mogelijk is met AI is het goed om te beseffen hoe kwetsbaar je privacy kan zijn als je foto’s uploadt. Tools zoals Grok kunnen beelden bewerken of manipuleren op manieren waar de afgebeelde persoon geen controle over heeft.

Ik kende ooit iemand die nooit persoonlijke info of foto’s online zette, vond dat toen wat overdreven, maar gezien wat er met AI mogelijk is, begrijp ik zijn standpunt nu wel.

[CP1977]

Nu willen grok aanpakken, tuurlijk kan dat en is ook niet handig van X/Grok om te doen maar

Het is gewoon een AI, we hebben nog niet thuis systemen die het makkelijk kunnen doen maar over een paar jaar doe je dit op je telefoon of PCtje.

Hoe ga je er dan mee om, ga je dan telefoons en computers verbieden?

[rko4u]

Wat zou het mooi zijn als we gewoon naakt over straat zouden kunnen lopen en niemand daar van op zou kijken. Dan zou ook niemand interesse in dit soort tools krijgen.

[janpiet]

Oh die deugmensen toch. Altijd hun mening doordrijven.

[World Citizen]

Ik snap dit niet. Heel internet staat vol met tools om iedereen naakt te maken die je wilt. Er zijn zelfs tools die er gelijk een gifje of filmpje van maken. Al die sites zijn "gratis" en enkel afgedekt met een disclaimer.
Wil je iets meer prive, doe het dan via Telegram oid.
Ik snap dat we niet willen dat dit kan, maar heeft het nou echt zin om Grok hier specifiek in te gaan benoemen en bestraffen? Wat bereik je daar nou precies mee.
Ondertussen is het ook doodsimpel om lokaal een tool te draaien waar je dit allemaal mee kan. Ik denk dat als je een uurtje over Github heen zoekt dat je zo 4 tools vind die het ook kunnen op je GTX1070 oid.
Het klinkt me meer als een hetze tegen Grok dan daadwerkelijk een oplossing voor een probleem.

[Reactie gewijzigd door World Citizen op 26 februari 2026 12:59]

[SgtElPotato]

Dat het illegaal gebeurt betekend niet dat je het maar toe moet staan lijkt me? Diefstal is ook illegaal en strafbaar, maar het gebeurt ook gewoon, moeten we het dan maar toestaan?

[World Citizen]

Dan zullen we alle AI tools die dit kunnen moeten gaan blokken in Nederland. Gecontroleerd internet.
Je hebt namelijk geen invloed op de andere 999 van de 1000 tools zoals Grok die dit kunnen. Het enigste wat je daar kunt doen is de website blokkeren.

We gaan dan dezelfde stappen door als met thepiratebay. Dat verhaal heeft hoogstens wat ongemak en een kleine afname aan torrent download opgeleverd.

[SgtElPotato]

Het lijkt me vrij normaal dat er gewoon regels opgesteld worden. Dat je vervolgens via een omweg alsnog bereikt wat je wilt, dat gebeurt al jaren inderdaad. Maar openbare publieke tools zoals Grok (wie dat uberhaupt gebruikt geen idee) zullen zich aan regels moeten houden, niet meer dan normaal.

[Ed Vertijsment]

Er zijn ook auto’s waarmee je > 130 kan, maar dat mag niet op de openbare weg.

voorwaarden aan dienstverleners stellen is niet raar en ook niet uniek.

[World Citizen]

In het geval van die auto stellen we voorwaarden aan de gebruiker. Dat willen we nu bij Grok niet doen, daar willen we voorwaarden aan de verlener stellen.
Je kunt ook met elke computer iets hacken, maar we verbieden gebruikers dat te doen.

Nu ligt naakt erg gevoelig om allerlei redenen, maar voorkomen dat we naakt foto's krijgen door Grok aan te klagen is kansloos. We zullen echt de gebruiker aan moeten pakken.

[Vexxon]

Ik neem dat je wel snapt dat je niet alle auto's kan verbieden maar wel enigszins snelheidsovertredingen kan controleren en bestraffen.
Het is veel lastiger om te controleren wie met Grok thuis die beelden maakt en verspreidt.
Dit is vele malen makkelijker uit de tool te halen dan iedereen die dit soort content maakt te vinden en te bestraffen.
Daarbij hebben dit bewust ingebouwd in Grok de motivatie vast wel te raden, aangezien Musk erachter zit.

Naakt ligt niet gevoelig, ik kan een Playboy in de winkel kopen waar naakt in staat, maar die modellen hebben er bewust voor gekozen en hebben ervoor betaald gekregen.
Het gaat om het feit dat je ongevraagd mensen naakt kan afbeelden zonder dat zich er bewust van zijn.

Maar goed, ik kan me niet voorstellen dat je dit allemaal niet zou snappen, ik krijg eerder het gevoel dat je het gedrag van Grok en Musk vooral wil goedpraten.

[World Citizen]

Ik heb over alle AI. Het is zo ontzettend makkelijk om iets te doen wat niet mag dat ik gewoon niet inzie waarom we zo over Grok vallen. Als het een andere was geweest had ik hetzelfde geschreven.

Wat je gaat bereiken is dat mensen het niet meer in Grok maken. Meer niet. Dit is hetzelfde als thepiratebay blokkeren. De mensen die torrents downloaden hadden daar niet zo veel last van.

[Vexxon]

Ik heb over alle AI. Het is zo ontzettend makkelijk om iets te doen wat niet mag dat ik gewoon niet inzie waarom we zo over Grok vallen.

Welke andere mainstream AI tool kan ik dit soort afbeeldingen laten maken dan? Niet met die van Meta, Google, Microsoft of OpenAI. Dus zo makkelijk is het niet. Grok staat dit bewust wel toe.
Als ik werkelijk naaktfoto's wil genereren met een AI tool (zonder Grok) dan moet ik daar echt iets meer voor doen dan even een mainstream AI tool gebruiken.
Grok biedt dit nu ineens voor alles en iedereen heel laagdrempelig aan, alsof je iedereen ineens voor niks een vuurwapen geeft.

[JWL92]

Of gewoon beide?
in t geval vd auto, stellen we ook daar eisen, als bijv een gordel.

[Ed Vertijsment]

Wat @JWL92 voorstelt dus, je kunt iets verbieden maar voorkomen door de leverancier te reguleren kan vaak effectiever zijn om misbruik terug te brengen.

[World Citizen]

Niet echt, want het besluit het wel of niet te doen ligt nog steeds bij de gebruiker. Je auto start en rijd gewoon als de bestuurder geen gordel aan heeft. Die paar piepjes zie ik als de waarschuwing op AI sites dat je geen foto's mag uploaden zonder toestemming.

Iemand kan dronken, zonder gordel, zonder richtingaanwijzers met 250 door het verkeer heen rijden.

[JWL92]

Iemand kan dronken, zonder gordel, zonder richtingaanwijzers met 250 door het verkeer heen rijden.

en daarom leveren we deze auto nu zonder remmen!

toch te gek voor woorden?

[heerhaan]

Ik snap deze reactie niet, omdat een LLM het kan doen moeten we het maar goed vinden? Jij begint nu over dat andere kleine sites het ook doen, had je dan liever gewild dat die eerst of gelijktijdig aangepakt werden in plaats van degene die het gepopulariseerd heeft op een grote sociale media platform? Dat je dit een hetze noemt tegen Grok en zo even negeert dat het juist Grok was die dit massaal deed op Twitter vind ik nogal veelzeggend,

Of moeten we zeggen dat omdat het kan het nu ook prima is? Iedereen kan het doen dus het maakt toch niet uit, of het nou vrouwen of kinderen betreft? Want het lijkt me nog steeds niet dat we dit moeten willen. Er wordt al veel gedaan om LLMs te beperken in het antwoorden met bepaalde soorten informatie, het kan dus gewoon zodoende is het toch logisch dat we er werk van maken om dit breder toe te passen.

[tw_gotcha]

maar wat wil je nou zeggen? dat je organisaties die iets tegen de wet doen niet hoeft aan te pakken omdat anderen dat ook doen? Een beetje vreemd dat je dat niet snapt.

[separhim]

Het is duidelijk niet in de wet toegestaan om dat te doen bij mensen die hier geen toestemming voor geven. Die bepaalde voorwaarden waar jij het over hebt gelden in deze zaak compleet niet.

[Vexxon]

Je had AI kunnen gebruiken om die wet op te zoeken in plaats van ongevraagd naaktfoto's te genereren van mensen.
Artikel 139h Wetboek van Strafrecht:
Dit artikel stelt strafbaar:

• het zonder toestemming vervaardigen van seksueel beeldmateriaal van een persoon,
• het openbaar maken,
• en het voorhanden hebben van dergelijk materiaal.

Volgens een Kamerbrief (beantwoord door de minister van Justitie en Veiligheid) valt deepfake‑pornografie expliciet onder dit artikel. Zo werd in 2021 al een maker van een seksuele deepfake veroordeeld op basis van art. 139h Sr.