Nederlandse stichtingen eisen bij rechter dat Grok stopt met uitkleedfuncties

De Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp hebben een kort geding aangespannen tegen X en Grok. De stichtingen willen dat Grok stopt met het uitkleden van mensen op verzoek van gebruikers. Zolang Grok zich hier niet aan houdt, willen de stichtingen dat er een dwangsom van 100.000 euro per dag wordt opgelegd.

De stichtingen stappen naar de rechter omdat via Grok 'op grote schaal illegaal beeldmateriaal kan worden gegenereerd en verspreid'. "Met deze zogeheten 'uitkleedapps' kunnen met behulp van AI realistische beelden worden gemaakt waarin mensen, ook minderjarigen, zonder toestemming deels of geheel worden uitgekleed."

In het kort geding vorderen de stichtingen Grok en X per direct te stoppen met functies om personen zonder toestemming uit te kleden of bloter te maken, en functies waarmee 'materiaal kan worden gegenereerd dat kwalificeert als seksueel misbruikmateriaal van minderjarigen'.

EU-toezichthouders onderzoeken Grok vanwege de seksuele AI-afbeeldingen, maar hier willen de stichtingen niet op wachten. "Snelle actie is nodig om nieuwe slachtoffers te voorkomen", terwijl 'wetgeving en toezicht tijd kosten'.

Advocaat Otto Volgenant, die via Boekx Advocaten het kort geding aanspant met de twee organisaties, zegt dat de functies in overtreding zijn met onder meer de AVG, de DSA, het portretrecht en het Wetboek van Strafrecht. "Ook Europese jurisprudentie stelt strenge eisen aan het verspreiden van seksueel beeldmateriaal zonder aantoonbare toestemming", zegt Volgenant.

De zaak dient donderdag 12 maart om 10.00 uur bij de rechtbank Amsterdam. Offlimits is een expertisecentrum voor online misbruik. Fonds Slachtofferhulp – niet te verwarren met Slachtofferhulp Nederland – is een onafhankelijke organisatie die zich inzet voor slachtoffers van onder meer seksueel misbruik.

Een door Offlimits en Fonds Slachtofferhulp gegenereerde afbeelding. Beide afbeeldingen zijn door AI gemaakt.

Reacties (97)

[DarkSunshine]

Ja en dan??? Als ''Grok'' zou stoppen.. zal het ook stoppen? ik ben bang van niet.

[gimbal]

Verbieden dient niet om het te stoppen, maar om het te kunnen bestraffen. Het mag aan de hand van dit soort geneuzel toch wel duidelijk zijn dat de mens nog lang niet volwassen genoeg is om zonder berechting en boetedoening te kunnen leven.

[laminar]

Wat wil je nou hiermee beweren? Dat het geen zin heeft om iets te verbieden? Een massa zaken zijn gestopt door het verbieden en zeker niet met als doel om straffen uit te delen... (DDT, snus, roken in horeca, kinderarbeid, asbest, slavernij etc.)

[Raymond Deen]

Lezen is een vak 😉

Hij beweert juist precies dat het wél zin heeft om te verbieden zodat je je juist kan bestraffen.

Als het niet verboden is kun je het ook niet bestraffen…

[laminar]

Ja, lezen is een vak haha. Wat staat hier nou? Citaat: 'Verbieden dient niet om het te stoppen, maar om het te kunnen bestraffen.'
Straf moet niet het (ultieme) doel zijn. Stoppen wel.

[Reactie gewijzigd door laminar op 26 februari 2026 14:12]

[BRAINLESS01]

Nee, straffen is het doel. Moorden mag niet, maar je kunt het niet stoppen. Door er een heftige straf aan te koppelen voorkom je een hoop moorden, maar niet alle. Hetzelfde geldt hier, je kunt niet voorkomen dat mensen zonder toestemming naaktafbeeldingen van anderen maken, maar je kunt er wel voor zorgen dat het verspreiden daarvan zo pijnlijk is dat mensen het wel uit hun hoofd laten. Dat stopt niet 100%, maar misschien wel 99%. Het helpt ook al als de tools waarmee je die afbeeldingen kunt maken minder beschikbaar zijn, je kunt wel verbieden dat Grok deze afbeeldingen überhaupt kan maken (in ieder geval vanuit Europa).

[etimm]

Straffen is natuurlijk geen doel op zich. Straffen doe je om bepaald gedrag te stoppen / voorkomen. Als er geen ongewenst gedrag aangepast hoeft te worden dan zal er ook niet gestraft worden…

[NoTechSupport]

Als we diefstal verbieden, zal er dan ook geen diefstal meer plaatsvinden? Als we verkrachting verbieden?

[Botmeister]

Het gaat er om dat internetdiensten direct toe te passen zijn en een groot bereik hebben. Voor diefstal moet je vooronderzoek doen of er wat te halen valt - moet je risico lopen door een gebouw binnen te treden zonder dat iemand je ziet - moet je het moment afwachten ('s nachts / tijdens vakanties). De Grok undress api kan door 2mavo kids tijdens de les gebruikt worden. En 5 minuten later is het resultaat doorgestuurd naar meerdere communicatiekanalen.

Vat dit aub niet verkeerd op. Maar voor diefstal en verkrachting moet je op zn minst nog moeite doen. Als diefstal en verkrachting met hetzelfde gemak als Grok uitgevoerd konden worden, hadden we allemaal voor de zekerheid thuisgewerkt, nooit meer op vakantie gegaan en waren vrouwen niet meer op straat te vinden anders dan tussen 08:00 - 17:00 uur.

[NoTechSupport]

Voor het bouwen en hosten van een Grok moet je ook moeite doen.

Voor het doorsturen ook. Maar ik zou de facilitator prioritair aanpakken en dan pas de student die dacht interessant te zijn. Zo voorkomen we slachtoffers en verkwisting van politiekracht.

[Oon]

Heel wat anders. Deze situatie is als we koevoeen verbieden, dan stopt het gebruik van ander gereedschap om in te breken ook niet.

[Honytawk]

Het verschil is dat er maar een gelimiteerd aantal providers zijn voor image generation.
We kunnen bij ze allemaal aankloppen en eisen dat ze stoppen.

Tegen de lokaal draaiende image generators kan je misschien weinig doen, maar het legt alweer een drempel.

[Madshark]

En de lokaal draaiende AI kan ook weer gedeeld worden in besloten kring. Imagegenerators via Tor netwerk, betaling in crypto, etc. Een geheime sex AI in de onderwereld.

Tot voor kort had ik dat enkel als slechte sci-fi beschouwd.

[imqqmi]

Nee, er zijn zat open source modellen die hetzelfde kunnen doen. Zelfs met video. Kost alleen wat meer moeite en je hebt een GPU nodig met voldoende VRAM. Ook al zouden de originele makers van die modellen censuur plegen, deze kunnen ongedaan gemaakt worden (ablitteration), gefine-tuned worden, voorzien worden van lora's, distills met andere modellen etc.

Enige manier om het enigszins te voorkomen is om je afbeelding niet online te zetten. Maar ja, een foto is zo gemaakt en gedeeld helaas, ook door anderen. Social media op slot zetten voor 't publiek is ook wel een must denk ik. Beter helemaal geen social media gebruiken. Geen foto galleries online zetten van evenementen, club activiteiten, school fotos etc.

[litebyte]

Ik heb dat hier al aangegeven. AI gegenereerde personen die (al dan niet bewust) een sterke gelijkenis tonen met werkelijke personen kunnen hele interessante juridische conflicten opleveren. Waarbij slachtoffers het lastig zullen krijgen om hun gelijk te krijgen.

Een wettelijke maatregel om elk AI gegenereerd beeld herkenbaar te moeten maken, EXIF/verplicht zichtbaar uniform beeldmerk in de afbeelding zuu een oplossing kunnen zijn....maar daar zijn we mogelijk al te laat mee.

[Raymond Deen]

Denk dat er binnen no time wel tooltjes beschikbaar komen die dan die exif informatie of welke gebruikte techniek dan ook er weer uit slopen.

Oneerlijke mensen houden zich nou eenmaal niet graag aan de regels en worden bovendien niet graag betrapt.

edit:
stomme typos

[Reactie gewijzigd door Raymond Deen op 26 februari 2026 14:10]

[imqqmi]

Als 't op grote schaal gebeurd zoals bij Grok, dan is het gewoon niet te handhaven. Dat is inherent aan AI, de schaal waarop dingen gebeuren is nog niet eerder zo voorgekomen. AI slop op youtube, spotify, pull requests bij open source projecten, fraude en hack pogingen dmv agent swarms.

Embedding van beeldmerk of exif info is geen oplossing, en vrij makkelijk eruit te strippen door AI zelf. Als heel nederland gaat relschoppen, dan gaat echt niet heel nederland de bak in. Tenzij je AI wil gaan gebruiken voor surveillance en controleren van burgers en direct boetes (% van inkomen) opleggen die automatisch worden geïncasseerd oid.

Daar gaat 't wel een beetje naartoe naarmate AI mensen steeds meer individuele slagkracht geven en mensen niet volwassen genoeg zijn om hun neigingen een beetje in te tomen.

[tw_gotcha]

laten we niks meer verbieden wat we tioch niet kunnen handhaven... wat een slappe houding

[Hmmm]

De geest is uit de fles. Die gaat er helaas niet meer in.

[Overheid]

Daarvoor bestond het ook.... eind jaren 90 ging men al aan de haal met Photoshop om mensen naakt te photoshoppen. En dat is nog steeds een ding en dat zal ook niet verdwijnen.

[drdelta]

Diefstal is ook verboden. Moeten we dat dan ook maar weer toestaan?

[Q]

Ik krijg sterk het gevoel dat er nogal wat Tweakers in de comments zijn die deze tools daadwerkelijk gebruiken. Nog even los van de vraag of ze ook CSAM genereren, maar dat sluit ik niet uit.

Als je deze tools gebruikt ben je in mijn ogen niet veilig rond vrouwen en kinderen.

[Auw]

Pardon, zeg je nou echt, als je image generators gebruikt ben je niet veilig rond vrouwen en kinderen?? Misschien iets meer duidelijkheid in je stelling, want dit is hoop ik niet wat je bedoeld.

[wildhagen]

leuk, er zijn nog 101 andere diensten die dit ook mogelijk maken.

Dat is een beetje een non-argument. Dat een ander iets fout doet geeft jou (als Grok in dit voorbeeld) niet automatisch het recht om ook iets fout te gaan doen.

Als je buurman in de sloot springt, doe jij dat dan ook, "want hij doet het ook!"?

Daarnaast gaat Grok met hun AI veel verder dan anderen. Grok laat bijvoorbeeld toe dat er nazispreuken, symbolen (hakenkruisvlaggen etc) gegenereerd worden. Zie vandaag nog dit bericht bijvoorbeeld: AI-app van Elon Musk laat Nederlandse Tweede Kamer binnen 10 seconden Hitlergroet brengen: “Gevaarlijke voedingsbodem voor haatzaaien”

Dus dat Grok specifiek aangepakt wordt lijkt me niet meer dan terecht en normaal.

[lenwar]

Het enige dat ervoor te zeggen is, is dat je niet alleen Grok moet aanpakken maar al die andere publieke AI-modellen ook. Dus niet om het van Grok 'recht te praten', maar als Grok het niet mag, mag de rest het ook niet.

En iedereen hier snapt dat je ook lokale modellen kunt draaien, die dit ook gewoon doen, maar publieke diensten als Grok, maken het natuurlijk wel heel erg toegankelijk/makkelijk. En dit maakt bijvoorbeeld ook het verschil met een fotobewerkingsprogramma. Als je daar het, in het artikel weergegeven voorbeeld wilt repoduceren, vereist dat (enige vorm van) expertise met dat programma. Met AI-functies hoef je alleen maar een prompt te copy-pasten.

[IlIlIllII]

Dus niet om het van Grok 'recht te praten', maar als Grok het niet mag, mag de rest het ook niet.

Nu is Grok wel een dienst waar de moderatie van de inhoud (mijn mening, N=1) erg laks is vergeleken met de concurrentie, dus vandaar alle (imo, terechte) kritiek de laatste tijd. Grok heeft bijvoorbeeld geen moeite met het schrijven van vunzige erotische teksten. Heeft geen moeite met het objectiveren van mensen in foto's die je in de chat gooit. ChatGPT daarentegen is enorm PG-13 en weigert zulke dingen vrijwel direct of houd het extreem netjes. Uitzonderingen zullen er altijd zijn, maar over het algemeen vind ik andere diensten een stuk ''veiliger'' qua moderatie. Meestal té veilig, maar da's een andere discussie.

Wist je bijvoorbeeld dat je tegenwoordig naaktbeelden kan uploaden naar Grok? Ik schrok hier zelf enorm van, want voorheen kon dit niet. Afbeeldingen van geslachtsdelen, porno, noem maar op. Grok beschrijft die afbeeldingen met alle liefde voor je en kan erover fantaseren. En dit ga ik uiteraard never nooit testen testen, maar je kunt je voorstellen dat Grok lang niet altijd herkent wanneer een (fictief) naakt persoon minderjarig is. Nog net niet zo erg als het uitkleden van kinderen, maar nog steeds een enorm kwalijke zaak die tot dusver niet eens onder de aandacht is volgens mij.

Nogmaals, N=1, maar om bovenstaande redenen vind ik Grok enorm gevaarlijk en de focus van alle kritiek is wat mij dan betreft ook terecht. Niet echt te vergelijken met de concurrentie op het gebied van moderatie, alhoewel andere diensten natuurlijk óók moeten verbeteren.

[tvtech]

Misschien zouden we als Europeanen massaal plaatjes van Trump die de Hitlergroet brengt aan Musk, of andersom, moeten genereren. Flood the zone. Kijken wat er dan gebeurt.

[familyman]

Ik denk dat dit een hele goede zou zijn, net als plaatjes met de caption 'Trump on Epstein's island, what they didn't want you to see'

[Hemingr]

Dat gebeurt al, en er gebeurt niets mee.

[Honytawk]

Dat is waar ze naartoe willen, dus zowel Trump als Musk gaan dit geweldig vinden en het nogmaals doen in het echt "om te lachen".

[datajuggler]

Meer zelfs, ik ben van de veronderstelling dat dit exact is wat Amerika onder Trump wilt. Elke plausable deniability helpt. "Heb ik niet gezegd", "Was ik niet op Epstein island", "Dat is niet mijn stem dat grab her by the pussy zegt". Ondertussen raken ze weg met de vunstigste en ranzigste opmerkingen en alles kan weggewuifd worden met "Dat ben ik niet dat is fake. Meer zelfs, het zijn de Democraten of [insert x] die ons wilt benadelen". Dystopisch en schokkend op zoveel vlakken.

[jumbos7]

Dat is een beetje een non-argument. Dat een ander iets fout doet geeft jou (als Grok in dit voorbeeld) niet automatisch het recht om ook iets fout te gaan doen.

Ik denk niet dat @himlims_ het als argument bedoeld heeft dat Grok gewoon moet kunnen doorgaan met deze praktijken. Het lijkt er eerder op dat hij van mening is dat het stoppen van de uitkleedfunctie van Grok (in Nederland) er niet voor gaat zorgen dat het grotere probleem verdwijnt. Wel ben ik het met je eens dat het voor het voor de rechter slepen van Grok niets uit zou maken, al is het maar om duidelijk te krijgen hoe ver AI op dit moment mag gaan.

[mcmd]

Maar goed, als het dan wel op grote schaal al gebeurt, en het ook niet zo onschuldig is, want individuele personen hebben er last van, dan is dat op zich toch al een glijdende/hellende vlak waarmee je iets moet doen? Dus iets als jurisich tegen houden.

[JWL92]

Persoonlijk heb ik nog nooit aan Grok (of een andere AI) gevraagd om zulke symbolen of 'uitkleedfoto' te genereren. Daarom interesseert het me ook niks of het effectief kan

totdat iemand anders dat met jouw foto, of die van je kids doet.

[Honytawk]

Hakenkruizen zijn illegaal in Duitsland.
Alle games zoals Wolfenstein moeten die weg laten of ze zijn illegaal daar.
Dus Grok zal zich daar ook aan moeten houden of die is ook illegaal.

Beter om dat ineens in heel Europa illegaal te maken eigenlijk.
Fascisten zijn de laagste vorm van bewustzijn, en moeten we nooit tolereren.
Mijn grootvader heeft er genoeg door hun bol moeten schieten om ons land vrij te houden.

[Prince]

Volledig eens; want waarom mag een AI iets niet, wat een mens wel mag?
Of moeten de grafische artiesten van het spel Wolfenstein achter de tralies?
Ditto mensen die materiaal maken voor geschiedenisboeken, theateroptredes, cinema, cartoons, etc...

Het is nu eenmaal iets wat gebeurd is; daar kom je niet onderuit.

[familyman]

Bepaalde symbolen en uitlatingen zijn gewoon offlimits, en maar goed ook.

[PCG2020]

Het gaat om de context waarbinnen de symboliek wordt gebruikt. Geschiedenisboeken, musea en historische naslagwerken, bijvoorbeeld, dienen ter informatie. Daarom mag in Duitsland het hakenkruis wel afgebeeld worden in geschiedenisboeken en op tentoongestelde vliegtuigen uit de Tweede Wereldoorlog. Een 'Ministry of Truth' had ze ook in die contexten volledig weg gecensureerd, maar dat is zélfs in Duitsland, waar die geschiedenis uiterst gevoelig ligt, niet het geval.

Ook in Nederland zijn nazisymbolen onderhevig aan wetgeving, al is die wat minder streng dan in Duitsland. In Nederland mogen nazisymbolen bijvoorbeeld wel in games worden gebruikt (al ligt het een beetje aan de ontwikkelaar en uitgever of dat ook gebeurt). Gebruik je hakenkruizen en andere nazisymbolen om politieke redenen, zoals bij een demonstratie, dan is dat wél bij wet verboden.

Het genereren van plaatjes waarbij de Tweede Kamer de Hitlergroet brengt en er een grote hakenkruisvlag te zien is, zou in een politieke context ook onder het verbod kunnen vallen. Het feit dat het mogelijk is om Grok (en wellicht ook andere generatieve AI) ervoor te gebruiken, zoals het AD recentelijk aantoonde, is wellicht een aanleiding om de rechter daar een oordeel over te laten vellen.

[Tim AtSharp]

mooi gezegd, maar dat maakt het niet minder onzin natuurlijk.
"Het genereren van plaatjes waarbij de Tweede Kamer de Hitlergroet brengt en er een grote hakenkruisvlag te zien is, zou in een politieke context ook onder het verbod kunnen vallen."

waarom zou dat niet mogen?
- kan satire zijn
- kan vrije meningsuiting zijn

oja, en context: Vergeet even niet dat de winnaar de geschiedenis vertelt natuurlijk... En je betrekt dit alles nu op WO II, maar er zijn talloze conflicten in de wereldm zowel in het heden als in het verleden, waar wij (EU) als buitenstaander toch een genuanceerder beeld over hebben. Welke vlag ga je verbieden? De Palestijnse of de Israelische?

in België is er momenteel veel te doen rond de voorzitter van de socialisten die Trump vergelijkt met Hitler. En daarvoor krijgt hij applaus. De vraag is natuurlijk _wie_ zich bedient van symboliek, om te bepalen of we het toelaten of niet. En dat is in gronde fout. Daarover de 'moral highground' claimen en dan jezelf het recht maar toeëigenen om die triage te doen is zo arrogant als dat het fout is...

[Reactie gewijzigd door Tim AtSharp op 26 februari 2026 14:48]

[PCG2020]

waarom zou dat niet mogen?
- kan satire zijn
- kan vrije meningsuiting zijn

Daarom zeg ik daarna ook:

(...) Het feit dat het mogelijk is om Grok (en wellicht ook andere generatieve AI) ervoor te gebruiken, zoals het AD recentelijk aantoonde, is wellicht een aanleiding om de rechter daar een oordeel over te laten vellen.

[Marve79]

Ja maar Grok is wel heel toegankelijk. Las overigens nog een bericht dat er niet echt een filter zit op Grok.

https://www.hln.be/nieuws/ai-app-van-elon-musk-laat-nederlandse-tweede-kamer-binnen-10-seconden-hitlergroet-brengen-gevaarlijke-voedingsbodem-voor-haatzaaien~a113cb54/

[tw_gotcha]

voorlichting is gewoon niet genoeg, en legt dan de verantwoordelijkheid van de misdaad bij de voorlichters, die hadden immers maar beter hun werk moeten doen.

[Honbrifcl]

Ik snap niet dat je -1 krijgt, je hebt namelijk gewoon gelijk: er zal altijd wel een dienst beschikbaar zijn om dit te kunnen doen, al zitten die dan in Rusland of zo. Of ouderwets met photoshop. Als inderdaad genoeg mensen weten dat dit mogelijk is, zal de impact minder zijn. Het is immers ook niet zo dat je de werkelijkheid ziet, het is gewoon gegenereerd/gefantaseerd.

Sterker nog, ik ben eerder bang voor het omgekeerde: ik maak soms mooie foto's en iedereen denkt dat het AI is. Het gevaar is eerder dat je van niets meer gelooft dat het echt is. Als ik een naaktfoto zie van een bekend persoon, ga ik er al vanuit dat het nep is.

Sommige dingen zijn gewoon niet te stoppen. Robots die mensen kwaad doen, waren vroeger uit den boze (Wikipedia: Three Laws of Robotics), nu zijn er bedrijven die zich er op specialiseren. Een wapenwedloop wil ook niemand en toch gebeurt het. Ik zie de toekomst niet rooskleurig in.

[watercoolertje]

er zal altijd wel een dienst beschikbaar zijn om dit te kunnen doen, al zitten die dan in Rusland of zo

Dat ie daarin mogelijk gelijk heeft is geen argument voor het 'dan maar niks doen'.

En omdat er 1 ding klopt uit een verhaaltje betekent het nog niet dat het hele verhaal niet ongewenst is of offtopic...

Of ouderwets met photoshop.

Dat mag ook niet, maar dat ligt toch wel heel anders. Dan doe je dat helemaal zelf, bij een AI doet een (AI van een) commercieel bedrijf dat voor jou en kan dat bedrijf daar dus prima een rol in het voorkomen spelen.

Ik zie de toekomst niet rooskleurig in.

Wat wil je daar mee zeggen dan? Ook dat is geen 'dan maar niks doen'-argument...

[Reactie gewijzigd door watercoolertje op 26 februari 2026 13:47]

[downtime]

belangrijk dat er meer op voorlichting en onderwijs gedaan wordt hierover.

Leg eens uit. Hoe is het slachtoffer geholpen met voorlichting? Het slachtoffer heeft hier geen enkele invloed meer op.

[WigaDan]

Dussssss meer regels en (digitale) controle op onze levens als oplossing zie ik alweer aankomen op korte termijn. Zo gaat het met alle 'crissisen' en 'problemen' tegenwoordig. Zal wel toeval zijn.....

[iqcgubon]

Artikel staat nog maar pas online en de "JA MAAR ANDERE DIENSTEN" comments zijn er ook al.

Elke keer opnieuw. Terwijl dit ondertussen al duizend keer uitgelegd is.

[Loller1]

Dat is natuurlijk niet hoe dit werkt. Je gaat niet een hele industrie aanklagen. Zorg eerst dat je een precedent hebt geschept, en stap daar vervolgens mee naar de rechter voor andere. En laten we nu ook even niet doen alsof Grok niet het meest prominente en problematische geval van dit is.

[Annihilism]

En jij denkt dat overheden, stichtingen etc. onbeperkt resources hebben om links en rechts iedereen te gaan aanklagen? Je moet ergens beginnen en X/Grok komt verreweg het meeste negatief in het nieuws en lapt ook de meeste regels aan zijn laars.

[JWL92]

Je bedoeld de andere grote jonges, die t wel ff iets lastiger maken?

[SSSQ]

analoog hieraan mag je dus geen mobiele camera´s naast de snelweg zetten want op andere wegen wordt er ook te hard gereden?????

[tw_gotcha]

precies en omdat je ergens moet beginnen begin je bij GROK, als die rechtzaak lukt dan ga je verder. Natuurlijk is het streven om alles aan te pakken.

[heerhaan]

Het is heel oneerlijk dat ik beboet wordt voor te hard rijden, je kan toch zien dat dit al veel gedaan wordt door andere mensen. Waarom pakken ze die niet aan?

[iqcgubon]

En welke andere diensten lieten het precies op grote schaal, out of the box, geadverteerd door de CEO, en op een publiek forum toe?

[watercoolertje]

En waarom moeten we volgens jou uberhaubt ruimte geven aan iets wat niet mag? Als er verder helemaal geen negatieve gevolgen zijn om die zaken al bij de kern te blokkeren?

[Reactie gewijzigd door watercoolertje op 26 februari 2026 13:39]

[familyman]

Heb het gevoel dat een verplichting ook op internet een traceerbare identiteit te hebben, al ontzettend veel zou helpen.

Meer dan ai aanbieders aanspreken iig.

[loki504]

Dus een harddrug dealer moeten we ook laten gaan? Want je moet de gebruiker hebben? Het is immers ook verboden om zonder toestemming sexuele afbeeldingen te maken van een persoon. En dat doe je met deze functie.

[Tim AtSharp]

Klopt grotendeels wat je zegt ivm drugbeleid. Als de gebruiker niet koopm is er geen markt. Dus, deels is dat waar ja.

De beelden blijven gegenereerd, dus ze zijn niet _echt_ een afbeelding van die persoon. Dat mag je natuurlijk ook niet uit het oog verliezen...

[loki504]

Klopt grotendeels wat je zegt ivm drugbeleid. Als de gebruiker niet koopm is er geen markt. Dus, deels is dat waar ja.

De beelden blijven gegenereerd, dus ze zijn niet _echt_ een afbeelding van die persoon. Dat mag je natuurlijk ook niet uit het oog verliezen...

Maar zijn lastig van echt te onderscheiden en het gebeurt zonder toestemming van die persoon. Dus Zonder toestemming seksueel beeldmateriaal van iemand anders maken is strafbaar max 2 jaar... misschien moet Musk dan maar even 2 jaartjes bij ons zitten:D

[Reactie gewijzigd door loki504 op 26 februari 2026 14:20]

[Tim AtSharp]

Kan je even waterdicht definiëren hoe groot het verschil moet zijn zodat het 'lastig te onderscheiden wordt'?

Zie je de slippery slope?

"Dus Zonder toestemming seksueel beeldmateriaal van iemand anders maken is strafbaar max 2 jaar..." Dat is het punt net. dat _is_ geen beeldmateriaal van iemand. Als je met een camera in de bosjes ligt en een zonnenbadend iemand fotografeert, en dat verspreid zonder toestemming, _dan_ is dit van toepassing.

Het blijft hier gaan om pixel generatie, en niet om een foto... .

[World Citizen]

Ik snap dit niet. Heel internet staat vol met tools om iedereen naakt te maken die je wilt. Er zijn zelfs tools die er gelijk een gifje of filmpje van maken. Al die sites zijn "gratis" en enkel afgedekt met een disclaimer.
Wil je iets meer prive, doe het dan via Telegram oid.
Ik snap dat we niet willen dat dit kan, maar heeft het nou echt zin om Grok hier specifiek in te gaan benoemen en bestraffen? Wat bereik je daar nou precies mee.
Ondertussen is het ook doodsimpel om lokaal een tool te draaien waar je dit allemaal mee kan. Ik denk dat als je een uurtje over Github heen zoekt dat je zo 4 tools vind die het ook kunnen op je GTX1070 oid.
Het klinkt me meer als een hetze tegen Grok dan daadwerkelijk een oplossing voor een probleem.

[Reactie gewijzigd door World Citizen op 26 februari 2026 12:59]

[SgtElPotato]

Dat het illegaal gebeurt betekend niet dat je het maar toe moet staan lijkt me? Diefstal is ook illegaal en strafbaar, maar het gebeurt ook gewoon, moeten we het dan maar toestaan?

[World Citizen]

Dan zullen we alle AI tools die dit kunnen moeten gaan blokken in Nederland. Gecontroleerd internet.
Je hebt namelijk geen invloed op de andere 999 van de 1000 tools zoals Grok die dit kunnen. Het enigste wat je daar kunt doen is de website blokkeren.

We gaan dan dezelfde stappen door als met thepiratebay. Dat verhaal heeft hoogstens wat ongemak en een kleine afname aan torrent download opgeleverd.

[SgtElPotato]

Het lijkt me vrij normaal dat er gewoon regels opgesteld worden. Dat je vervolgens via een omweg alsnog bereikt wat je wilt, dat gebeurt al jaren inderdaad. Maar openbare publieke tools zoals Grok (wie dat uberhaupt gebruikt geen idee) zullen zich aan regels moeten houden, niet meer dan normaal.

[Ed Vertijsment]

Er zijn ook auto’s waarmee je > 130 kan, maar dat mag niet op de openbare weg.

voorwaarden aan dienstverleners stellen is niet raar en ook niet uniek.

[World Citizen]

In het geval van die auto stellen we voorwaarden aan de gebruiker. Dat willen we nu bij Grok niet doen, daar willen we voorwaarden aan de verlener stellen.
Je kunt ook met elke computer iets hacken, maar we verbieden gebruikers dat te doen.

Nu ligt naakt erg gevoelig om allerlei redenen, maar voorkomen dat we naakt foto's krijgen door Grok aan te klagen is kansloos. We zullen echt de gebruiker aan moeten pakken.

[JWL92]

Of gewoon beide?
in t geval vd auto, stellen we ook daar eisen, als bijv een gordel.

[Ed Vertijsment]

Wat @JWL92 voorstelt dus, je kunt iets verbieden maar voorkomen door de leverancier te reguleren kan vaak effectiever zijn om misbruik terug te brengen.

[World Citizen]

Niet echt, want het besluit het wel of niet te doen ligt nog steeds bij de gebruiker. Je auto start en rijd gewoon als de bestuurder geen gordel aan heeft. Die paar piepjes zie ik als de waarschuwing op AI sites dat je geen foto's mag uploaden zonder toestemming.

Iemand kan dronken, zonder gordel, zonder richtingaanwijzers met 250 door het verkeer heen rijden.

[Vexxon]

Ik neem dat je wel snapt dat je niet alle auto's kan verbieden maar wel enigszins snelheidsovertredingen kan controleren en bestraffen.
Het is veel lastiger om te controleren wie met Grok thuis die beelden maakt en verspreidt.
Dit is vele malen makkelijker uit de tool te halen dan iedereen die dit soort content maakt te vinden en te bestraffen.
Daarbij hebben dit bewust ingebouwd in Grok de motivatie vast wel te raden, aangezien Musk erachter zit.

Naakt ligt niet gevoelig, ik kan een Playboy in de winkel kopen waar naakt in staat, maar die modellen hebben er bewust voor gekozen en hebben ervoor betaald gekregen.
Het gaat om het feit dat je ongevraagd mensen naakt kan afbeelden zonder dat zich er bewust van zijn.

Maar goed, ik kan me niet voorstellen dat je dit allemaal niet zou snappen, ik krijg eerder het gevoel dat je het gedrag van Grok en Musk vooral wil goedpraten.

[World Citizen]

Ik heb over alle AI. Het is zo ontzettend makkelijk om iets te doen wat niet mag dat ik gewoon niet inzie waarom we zo over Grok vallen. Als het een andere was geweest had ik hetzelfde geschreven.

Wat je gaat bereiken is dat mensen het niet meer in Grok maken. Meer niet. Dit is hetzelfde als thepiratebay blokkeren. De mensen die torrents downloaden hadden daar niet zo veel last van.

[Vexxon]

Ik heb over alle AI. Het is zo ontzettend makkelijk om iets te doen wat niet mag dat ik gewoon niet inzie waarom we zo over Grok vallen.

Welke andere mainstream AI tool kan ik dit soort afbeeldingen laten maken dan? Niet met die van Meta, Google, Microsoft of OpenAI. Dus zo makkelijk is het niet. Grok staat dit bewust wel toe.
Als ik werkelijk naaktfoto's wil genereren met een AI tool (zonder Grok) dan moet ik daar echt iets meer voor doen dan even een mainstream AI tool gebruiken.
Grok biedt dit nu ineens voor alles en iedereen heel laagdrempelig aan, alsof je iedereen ineens voor niks een vuurwapen geeft.

[heerhaan]

Ik snap deze reactie niet, omdat een LLM het kan doen moeten we het maar goed vinden? Jij begint nu over dat andere kleine sites het ook doen, had je dan liever gewild dat die eerst of gelijktijdig aangepakt werden in plaats van degene die het gepopulariseerd heeft op een grote sociale media platform? Dat je dit een hetze noemt tegen Grok en zo even negeert dat het juist Grok was die dit massaal deed op Twitter vind ik nogal veelzeggend,

Of moeten we zeggen dat omdat het kan het nu ook prima is? Iedereen kan het doen dus het maakt toch niet uit, of het nou vrouwen of kinderen betreft? Want het lijkt me nog steeds niet dat we dit moeten willen. Er wordt al veel gedaan om LLMs te beperken in het antwoorden met bepaalde soorten informatie, het kan dus gewoon zodoende is het toch logisch dat we er werk van maken om dit breder toe te passen.

[telenut]

Je zit nog niet lang genoeg op tweakers om door te hebben waarom ze dit specifiek bij Grok doen :-)

[tw_gotcha]

maar wat wil je nou zeggen? dat je organisaties die iets tegen de wet doen niet hoeft aan te pakken omdat anderen dat ook doen? Een beetje vreemd dat je dat niet snapt.

[separhim]

Het is duidelijk niet in de wet toegestaan om dat te doen bij mensen die hier geen toestemming voor geven. Die bepaalde voorwaarden waar jij het over hebt gelden in deze zaak compleet niet.

[Vexxon]

Je had AI kunnen gebruiken om die wet op te zoeken in plaats van ongevraagd naaktfoto's te genereren van mensen.
Artikel 139h Wetboek van Strafrecht:
Dit artikel stelt strafbaar:

• het zonder toestemming vervaardigen van seksueel beeldmateriaal van een persoon,
• het openbaar maken,
• en het voorhanden hebben van dergelijk materiaal.

Volgens een Kamerbrief (beantwoord door de minister van Justitie en Veiligheid) valt deepfake‑pornografie expliciet onder dit artikel. Zo werd in 2021 al een maker van een seksuele deepfake veroordeeld op basis van art. 139h Sr.

[Freeaqingme]

Kan dit uberhaupt nog met Grok dan? Ik krijg al meldingen dat 't moderated is als er een foto met een bikini getoond zou worden.

[RRRobert]

Kan dit uberhaupt nog met Grok dan? Ik krijg al meldingen dat 't moderated is als er een foto met een bikini getoond zou worden.

Er gaat nog wel veel meer niet goed bij Grok, moderated of niet. Zoals wat ik vanochtend weer las over de release van versie 4.2: AI-app van Elon Musk laat Tweede Kamer binnen 10 seconden de Hitlergroet brengen

[Reactie gewijzigd door RRRobert op 26 februari 2026 13:37]

[JustFogMaxi]

Owjee laat ze offline ComfyUI maar niet zien... Ban all models!

[S95Sedan]

Dit heeft niets maar dan ook niets met Grok te maken. Of gaan we photoshop ook verbieden, daar kan je immers hetzelfde mee doen.

[Scriptkid]

Je moet dit om gaan draaien , Je kunt niet per land gaan beslissen wat alle wereld weide AI wel en niet mogen doen en aan welke ethical regels ze zich moeten gaan houden per AI.

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Alleen ook dan wat als het gegenereerd wordt op een exotische eiland dat zich niks aantrekt van EU.


en met AI vind je zo een AI die het wel voor je genereerd.

The monkey is out of the cage , you cant put it back.

[Ed Vertijsment]

Je kunt niet per land gaan beslissen wat alle wereld weide AI wel en niet mogen doen

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Dat is toch gewoon dat? Overigens kan dat prima, sommige disagree verschillen per land door lokale wetgeving.

[Sebbo]

Tuurlijk kan je dat wereldwijd proberen vast te leggen. Gaat alleen niet gebeuren. Kijk alleen maar naar Anthropic die ethiek laat varen om AI voor oorlogvoering mogelijk te maken. Je kan het ook via de EU gaan regelen. Dat proces is alleen eentje met een lange adem en wordt aan alle kanten door lobby van de grote AI-partijen beïnvloed.

Of je doet het nationaal. En waarom niet? Of iets ook elders wordt aangeboden, of dat het elders wordt gehost is niet relevant. Het wordt in Nederland aangeboden en dan moet het voldoen aan onze wet- en regelgeving. En ja, controle op naleving door de Nederlandse overheid is een dingetje, maar als je de boetes maar hoog genoeg maakt, kan dat ook prima achteraf.

En hoewel ik een AI-logo bij gegenereerde content überhaupt een prima idee vind, is dat hier echt geen oplossing. AI wordt gebruikt om nep-naakt te creëren van echte mensen. Dat is een flinke inbreuk op de persoonlijke levenssfeer. Dat is te classificeren als (online) seksueel geweld en kan een enorme impact hebben op het slachtoffer. En even los hiervan hoop ik toch dat we als maatschappij dit ontzettend onwenselijk vinden. Ook als er een labeltje bij staat.

[Honytawk]

Je kan wel degelijk per land gaan beslissen wat AI wel of niet mag doen in dat land.
Het is dan aan de providers om zich aan die regels te houden of zich terug te trekken uit de markt.
We doen hetzelfde met social media.

[anandus]

Wat je wel kunt doen maar ook daar wordt het lastig is eisen dat er bijvoorbeeld een AI logo van de generator in de image moet staan in een hoek of zo.

Dit is volgens mij al verplicht in de EU middels de AI Act uit 2024 (50.4), maar ik weet niet wanneer dat ingaat:

quote: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng

Deployers of an AI system that generates or manipulates image, audio or video content constituting a deep fake, shall disclose that the content has been artificially generated or manipulated

Er is een uitzondering op "evidently creative or artistic work", maar het lijkt me dat naakte deepfakes daar niet onder vallen

[Reactie gewijzigd door anandus op 26 februari 2026 13:36]