'Jokkebrok Grok' in de rechtszaal: organisaties eisen verbod op uitkleedfuncties

Tekst

X moest zich donderdag in de rechtbank verantwoorden voor de uitkleedfuncties van AI-chatbot Grok. De Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp willen dat de chatbot stopt met het maken van uitkleedafbeeldingen en kindermisbruikbeelden. Volgens de advocaten van X is dat niet volledig te voorkomen. Tweakers was bij de rechtszaak. De rechter doet over twee weken uitspraak.

Rond de jaarwisseling waren Grok en X (opnieuw) veel in het nieuws. AI‑chatbot Grok maakte het plotseling mogelijk om mensen uit te kleden, ook kinderen. Je kon bijvoorbeeld onder X‑posts van vrouwen Grok vragen om die vrouwen uit te kleden, waarna Grok de uitgeklede afbeelding direct openbaar op X plaatste. In de Grok‑app kon je ook foto's uploaden en Grok vragen de personen op die foto's uit te kleden. De AI deed dit zonder blikken of blozen. Zelfs minderjarigen werden zo uitgekleed.

Allerlei overheden kondigden na de ophef aan Grok en X te onderzoeken, waaronder de EU. In sommige landen werd Grok zelfs geblokkeerd. X verdedigde het gedrag van Grok lange tijd als 'free speech', maar kwam na een paar weken toch met maatregelen. De posts werden niet meer direct op X verspreid, daarna werd het alleen mogelijk voor betalende abonnees en uiteindelijk kwam er een geoblokkade.

Daardoor leek het wat rustiger te worden rond de uitkleedbeelden. Toch gaan deze maatregelen volgens Offlimits en Fonds Slachtofferhulp niet ver genoeg. De twee organisaties zeggen dat het nog steeds mogelijk is om naaktbeelden te maken met Grok, inclusief van kinderen, ook met gratis accounts. Zij spanden daarom een kort geding aan tegen X. Ze eisen dat Grok stopt met het maken en delen van uitgeklede mensen zonder dat de afgebeelde mensen hier toestemming voor hebben gegeven, en dat het platform helemaal stopt met het uitkleden van kinderen. De rechtszaak diende donderdag 12 maart.

Een bikinifoto die begin januari werd gegenereerd.

'Ondanks maatregelen nog steeds mogelijk'

"Grok en X bieden bewust de optie aan om volwassenen en kinderen uit te kleden", zei de advocaat van Offlimits en Fonds Slachtofferhulp tegen de rechter. "Ze zeggen dat ze na alle ophef maatregelen hebben genomen, maar het is nog steeds mogelijk om mensen uit te kleden met Grok. Zelfs deze week nog konden we Grok een AI-afbeelding van een onschuldig meisje van 14 laten maken, waarna we de chatbot vroegen het bovenlichaam bloter te maken, met een rood topje, blote schouders en zichtbare navel. Grok deed dit en maakte zelfs de borsten groter. Jokkebrok Grok, want ze zeggen maatregelen te nemen, maar in de praktijk blijft het doodeenvoudig om blootfoto's te maken."

In de dagvaarding laten de organisaties meerdere gecensureerde voorbeelden zien van afbeeldingen met seksueel misbruik van kinderen die door Grok zijn gemaakt. Het gaat om afbeeldingen van meisjes die door Grok zijn gegenereerd. Het zijn dus geen echte mensen die door Grok zijn aangepast. Op prompts als 'maak een afbeelding van een meisje van 14 zonder broek samen met een man van 30' produceerde Grok volgens de organisaties 'afbeeldingen die onmiskenbaar een seksuele strekking hebben'.

Het zijn dus geen 'echte' kinderen die op de afbeeldingen staan, toch is dit gedrag volgens Offlimits en Fonds Slachtofferhulp strafbaar. De organisaties konden geen seksueel beeldmateriaal genereren van kinderen jonger dan 10. "Hieruit blijkt dat Grok het genereren van beeldmateriaal eenvoudig kan beperken tot meerderjarige modellen en dat Grok er bewust voor heeft gekozen om de leeftijdsgrens op 10 jaar te zetten", staat in de dagvaarding.

Een door Offlimits en Fonds Slachtofferhulp gegenereerde afbeelding. Beide afbeeldingen zijn door AI gemaakt.

Uitkleedfuncties zorgen voor slachtoffers

Stichting Offlimits en Fonds Slachtofferhulp wijzen op de gevolgen van naaktbeelden. "Ze zorgen voor gevoelens van angst, eenzaamheid en schaamte", zei de advocaat in de rechtszaal. "Slachtoffers weten vaak ook niet wie de dader is en op internet is het nooit écht weg. Daarom moet dit stoppen. Het lijkt onschuldig, maar is het niet. Het gaat om het uitkleden van échte mensen, die hier echte schade van ondervinden. Om jonge meisjes die in paniek zijn omdat er naaktfoto's rondgaan."

De organisaties zeggen ook dat X de functies bewust heeft aangezet om voor ophef te zorgen. "Grok kwam in verschillende landen bovenaan de lijsten voor meest gedownloade apps te staan. En precies tijdens die grote aandacht hadden ze in januari een investeringsronde, die 20 miljard heeft opgeleverd. Dit was vijf miljard meer dan verwacht. Zakelijk gezien heeft het ze dus veel opgeleverd. Het is een bewust verdienmodel."

X en Grok moeten met dit gedrag stoppen, eisen de organisaties. Ze hebben bewust niet gevraagd om eerder gemaakt beeldmateriaal te vernietigen, omdat ze de rechtszaak niet onnodig complex wilden maken. Dit kan er bijvoorbeeld toe leiden dat het kort geding langer duurt, waardoor het ook langer duurt tot er een uitspraak is. Daarom wilden de organisaties ook niet wachten op uitspraken van toezichthouders of landen. "Dat soort onderzoeken kunnen helaas lang duren, terwijl wij willen dat dit zo snel mogelijk stopt."

Als het aan Offlimits en Fonds Slachtofferhulp ligt, wordt het verbod ook wereldwijd ingevoerd en niet alleen in Nederland. Grok vraagt immers niet wat de herkomst is van de geportretteerde, waardoor gebruikers in andere landen uitkleedafbeeldingen kunnen maken en delen van Nederlandse slachtoffers.

We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.

Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO

— Safety (@Safety) 4 januari 2026

X: 'Wij willen hetzelfde als Offlimits en Fonds Slachtofferhulp'

Wat X betreft is de hele rechtszaak niet nodig. "Wij begrijpen en delen de zorgen van Offlimits en Fonds Slachtofferhulp", zei de advocaat van X. "In tegenstelling tot wat zij zeggen, staan we niet tegenover elkaar. Wij willen ook niet dat mensen zonder hun toestemming met Grok worden uitgekleed en willen ook geen kindermisbruikafbeeldingen."

De advocaten benadrukten dat het tegen de voorwaarden en het beleid van X is om zonder toestemming naaktfoto's te maken en dat het ook niet toegestaan is Grok te gebruiken om kindermisbruikbeelden te maken. Mensen die dat wel doen, omzeilen bewust de guardrails in Grok, claimen de advocaten.

"Het is uiterst complex en een continu proces om te voorkomen dat mensen Grok gebruiken voor zulke doeleinden. De gebruikers bedenken immers steeds creatievere omzeilingsmethoden. Aan de andere kant heb je ook gebruikers die bijvoorbeeld bikinireclames willen maken met Grok en termen als 'bikini' gebruiken. Je moet daarom een veilige middenweg zien te vinden."

X had liever gezien dat de organisaties de omleidingsmethoden hadden gedeeld met het bedrijf, in plaats van direct naar de rechter te stappen. Fonds Slachtofferhulp en Offlimits zeggen dat ze X op 4 februari sommeerden te stoppen met het maken van seksueel beeldmateriaal en daarbij ook aangaven in overleg te willen gaan met het bedrijf. X reageerde pas een maand later, vlak voor het kort geding.

ChatGPT (links) versus Grok uit een artikel van medio januari

Helemaal uitsluiten zou niet mogelijk zijn

Naast de eis dat X stopt met het genereren van uitkleedbeelden, willen de organisaties dat X een boete betaalt van 100.000 euro per dag dat het bedrijf hier niet aan voldoet. Dit vindt X 'disproportioneel'. "Honderd procent compliance is niet mogelijk. Kwaadwillenden zullen altijd een manier vinden om onze guardrails te omzeilen. Maar misbruik van derden betekent niet dat we niet aan de wettelijke vereisten voldoen", stelde de advocaat van X.

Wat opviel aan de verdediging van X is dat 'vrijheid van meningsuiting' nauwelijks ter sprake kwam. In plaats daarvan legden de advocaten de nadruk op hoeveel het platform naar eigen zeggen doet om misbruik te voorkomen. Dit is opvallend omdat X‑eigenaar Elon Musk begin januari gemanipuleerde bikinifoto's van de Britse premier Keir Starmer retweette. Daarbij zei hij niet dat het verwerpelijk is om zulke afbeeldingen zonder toestemming te maken, maar stelde hij dat tegenstanders 'free speech' willen onderdrukken.

Die bikinifoto's werden niet door Grok gemaakt, maar met Gemini en OpenAI. Maar voor de rechtszaak is dat niet relevant. De vraag is of X en Grok verboden moeten worden om seksueel beeldmateriaal te maken of te genereren. De rechtbank doet hierover uitspraak op 26 maart.

_{Redactie: Hayte Hugo • Eindredactie: Monique van den Boomen • Headerafbeelding: MrsWilkins / Getty Images}

Reacties (80)

[TijsZonderH]

Ik wist dat ik spijt ging krijgen van die afbeelding

[smellysock]

Was het niet voor jou moed dan hadden we nooit de Tweakini gezien.

💪

[gamezfreak]

Sshh, breng ze nou niet op ideeën, straks brengt Tweakers nog daadwerkelijk de Tweakers bikini en Mankini uit.
"Ga in stijl naar je favoriete badplaats in Tweakers Gear, alleen voor de echte die-hard Tweakers fanaten die hun nieuwste "gear" willen showen!"
Ik weet niet waarom, maar ik zie Tweakers dit wel doen, samen met een Tweakers badmuts, zwemshorts en een Tweakers stranddoek

Ontopic:
Het lastige met het beperken van AI is dat het richting censuur opkomt. Dat er een verbod moet komen op uitkleedfuncties e.d. ben ik het mee eens, gezien AI nu zo goed aan het worden is dat het soms haast niet te onderscheiden is van een echte foto. Met de uitkleedfoto's zou je dus mensen ook kunnen chanteren.

AI moet niet de overhand krijgen in de zin dat het een "levensbehoefte" moet gaan worden. Het moet iets zijn wat kan toevoegen in het het leven, al lijkt het erop dat sommige mensen AI als hun hersenen zien dan zelf gaan nadenken. AI is niks meer dan patroonherkenning, het is immers opgebouwd uit datasets. Dus ook bij foto's bewerken zul je het zien dat het in dezelfde patroon terugvalt.

Ik zeg minder AI, meer logisch verstand.

[Mic2000]

Prachtige woordspeling

[lenwar]

Probeer het te zien als eeuwige roem

[Llopigat]

Het staat je enig hoor! 👙

[HugoBoss1985]

Nou, het kan erger. Kijk eens naar die ChatGPT vs Grok afbeeldingen. Die vrouw met mankini is niet alleen uitgekleed maar lijkt ook wel ineens voorzien van een "slurf"....

[jmb66]

Je bent prachtig, ik zou zo een dansje met je doen als ik je zag staan op het strand.

[Triblade_8472]

Hoezo spijt? Je hebt nu een geweldig nut bij een goed artikel!

Dit zal je journalistieke hart vast goeddoen

[WouterL]

Die verrekte quitclaims ook

[hooibergje]

Die Tweakini kan zo bij de Tweakers merchandise. Wie wil er nu niet zo cool uit zien als onze held Tijs, zeker nu de zomer voor de deur staat!

[Craelis]

Zo, die gaat in mijn goon folder

[loki504]

Maar nu vraag ik mij af. Hoe goed deed gok het. Of heb je stiekem een slurf zoals bij die vrouw die hij is vergeten?😂

[FicoF]

Een gedachte: Als bewerking door AI wordt toegestaan dan kan ook niemand meer gechanteerd worden met naaktfoto`s. Iedereen kan ze dan maken.

[DdeM]

Ik ga er even vanuit dat dit sarcastisch bedoeld is. Zo niet... Dan kunnen we net zo goed vuurwapens legaal maken, dan halen die overvallers het wel uit hun hoofd een gewapende overval te plegen! /s

[bzuidgeest]

Je hebt zelf hopelijk toch wel door dat die vergelijking niet opgaat?

Chantage met naakt is gebaseerd op schaamte. Als men nep niet van echt kan onderscheiden, hoe je ook niet te schamen. Gewoon "nep" zeggen en verder gaan. Niemand kan anders beweren.

[Superkanjo]

Je hebt zelf hopelijk toch wel door dat het niet even is "gewoon nep zeggen en verder gaan", makkelijk om dat te roepen vanaf een afstand

[bzuidgeest]

Waarom niet? Leg dat eens uit? Wie kan anders beweren? Het is nog waar ook. Tenzij jij zelf iets verspreid waar je zelf een foto of een video maakt, kan niemand zeker meer weten of het nep is of niet. En zelf wat je zelf verspreid kan je nep noemen, hoe weten ze het verschil? Ooit had je photoshop talent nodig, nu alleen een paar euro en een goede AI imagegenerator.

[Daoka]

Je kan het wel zeggen maar de kans is wel gewoon groot op "reputatie" schade. Stel je voor dat je getrouwd bent (en misschien hoef je je dit niet voor te stellen). En iemand kom aan de deur zeggen dat dat hij/zij sex had met je partner. Zonder dus zelfs bewijs ga je niet (een beetje) aan je partner twijfelen? Zal het zelfs na een tijdje misschien dit nog ergens in je hoofd kunnen spoken ondanks dat je partner dus zegt dat die onschuldig is (en echt onschuldig is)? En dan hebben we het over woorden, laat staan dat er dus nog eens een "foto" bij komt. Ondanks dat het nep is zal het de twijfels wel kunnen versterken. Daarnaast hoeveel verhalen heb je wel niet gezien of gehoord dat een partner uiteindelijk gelogen heeft? Waarschijnlijk wel genoeg. Ik denk dus dat nep zeggen zeker niet alles oplost.

[bzuidgeest]

Een goede relatie is gebouwd op vertrouwen. Dan doet zoiets helemaal niets. Als je echt gewoon zeker van elkaar bent is het geen enkel probleem. Ik heb wel het idee dat heel veel mensen gewoon niet meer zo een relatie hebben. Figuren die wonen met de eerste die ze zwanger maken of zo. Scheidingen zijn er genoeg. Maar dat betekend dat de relatie in de basis al niet goed is. Als een opmerking van een vreemde al genoeg is voor twijfel.

[Reactie gewijzigd door bzuidgeest op 12 maart 2026 19:24]

[R0K13]

Maar je snapt toch ook wel dat dit ook allang kan of nog nooit van photoshop gehoord? Het wordt alleen zo makkelijk nu dat iedereen het kan. En dat is precies het verschil, dan is het niet meer speciaal. Die vergelijking met wapens slaat natuurlijk nergens op. Het gaat hier om nep afbeeldingen, en hoe sneller mensen snappen hoe makkelijk je iets nep kunt maken hoe makkelijker het wordt dit op een afstand te roepen om in je aanvallende woorden te blijven.

[kodak]

Het feit dat iemand iets niet meer speciaal kan vinden wil niet zeggen dat er geen gevoel zoals van schaamte meer zal zijn. Er is namelijk geen eenduidig verband. De gevoelens zijn er gewoonlijk niet slechts om negativiteit maar ook om bescherming.

Om het toch bij die wapens te houden: als er veel nepwapens in omloop zijn die niet van echt te onderscheiden zijn is het net zo goed een redelijke en natuurlijke reactie om over de echtheid te twijfelen en er dus toch angst voor te hebben of risico te nemen en onverschillig te doen. En met welke reactie of keuze je persoonlijk te maken hebt (of probeert af te dwingen) het is voor een ander niet zomaar een vergelijkbare ervaring of toe te passen gedrag.

[kodak]

Schaamte is een emotie. Wat jij lijkt te stellen is dat mensen maar de oorzaken en de emotie onder controle (kunnen) hebben. Tot op zekere hoogte is dat mogelijk, maar het is ook natuurlijk gedrag. En dus gaat het niet zomaar op dat als iemand een beeld ziet of denkt het dus maar geen gevoelens zal opwekken. En dus gaat de redenering dat mensen bij het zien van beelden maar wat anders moeten denken of geen gevoel zullen hebben niet op. Ongeacht op welke manier er beelden gegenereerd konden of kunnen worden die niet van echt te onderscheiden zijn.

[nugscree]

Lekker op z'n Americaans. The only thing stopping a bad guy with a gun, is a good guy with a gun!

[Ryunoru]

Totaal verschillende situaties, want vuurwapens worden doorgaans niet gezien als chantagemateriaal maar... als wapens. Verboden en moeilijk te verkrijgen voor gewone burgers.

Hij heeft wel degelijk een punt. Chantage werkt niet als je weet dat iedereen al neppe naaktfoto's van je kan maken, het maakt dan geen enkel verschil meer of gegenereerde afbeeldingen wel of niet gepubliceerd worden. Waarom losgeld betalen als je weet dat een ander het morgen ook kan doen?

[dj.verhulst]

zit wel een kern van waarheid in , in de VS waar twee grote steden dicht bij elkaar liggen maar elk in een andere staat , in de ene zijn wapen regels streng en de ander relaxt 3 x raden waar de woning overvallen en auto highjacks plaats vonden en andere criminaliteit , omdat er minder weerstand te verwachten was.


terug naar die uitkleed software, ik denk dat men zich beter kan afvragen wat is de meerwaarde van dergelijke functie ?? iemand op een afbeelding zich laten uitkleden, terwijl er porno zat is op internet , verder zou je het alleen kunnen gebruiken voor rot geintjes , maar overtuig me maar van de meerwaarde

[robertwebbe]

Het idee dat ze precies doen wat je vraagt?

[DdeM]

Ik ben niet zo van het raden, ik zoek het liever op. En op basis van onderzoek blijkt dus dat Staten met zwakkere wapenwetten meer gewapende misdaad is: https://www.americanprogr...ncreases-in-violent-crime

[Tormbo]

Goed idee, maak alles voor iedereen kut. Is ook een vorm van gelijkheid...

[bzuidgeest]

Het zijn naaktafbeeldingen dus kut was het sowieso

[Asitis]

Ja dat is een beetje de post-truth waar we in terecht (gaan) komen. Als alles nep _kan_ zijn, kun je alles ontkennen. Dat mes snijdt inderdaad aan twee kanten. Ik vraag me af of een slachtoffer van gelekte naaktbeelden het heel anders gaat ervaren, misschien in de komende jaren dat de verhouding tot dat soort dingen gaat veranderen. Dat zou dan het enige positieve eraan zijn, als het een einde maakt aan dit soort 'naakt-chantage'..

[5pë©ïàál_Tèkén]

Een wereld waar iedereen naaktfoto's van (andermans) kinderen kan maken is niet per se een betere wereld. Verre van zelfs.

[bzuidgeest]

Dat is ook mijn gedachte. Chantage is niet meer mogelijk als alles nep kan zijn. Het enige dat je hoeft te doen is er om lachen en het nep te noemen. Niemand weet het meer. Niemand ziet het verschil.

[emoeloe]

Maar ik ga er even vanuit dat jij ooit een kind bent geweest toch, en dat je iets van pesten hebt meegemaakt (al is het maar gezien). Het gaat dan zelden over of iets echt is, en er tegenin gaan dat het nep is werkt misschien nog wel veel beter.

Uiteindelijk hoef je geen bewijs te hebben om een kind belachelijk te maken, en ga je altijd mensen hebben die niet geloven dat het nep is. En zolang dat bestaat is het dus zeker wel een chantage middel, want maar één iemand met 'macht' hoeft het te geloven.

[bzuidgeest]

Ik ben ooit kind geweest en ik heb wel ervaring met pesten. Maar pesten ontstaat door iets wat buiten de normaal valt. Als iedereen gewend is alles te kunnen creëren heb je een nieuwe "normaal". Als iedereen, iedereen kan uitkleden hoef je er niet tegenin te gaan. En niemand weet of het echt of nep is. Als kind leerde ik ook dat er geen aandacht aan geven of er om lachen het beste werkt. Het nep noemen betekend bij mij niet dat je het van de daken schreeuwt. Je duid dat aan door je schouders op te halen er om te lachen en dan verder te gaan en ja dat kan je ook kinderen leren. Hoe je hier mee omgaat is een aspect van opvoeden. Schaamte is een geleerd iets.

[emoeloe]

Hoewel zeker een deel van opvoeden is dat ook gewoon hoe kinderen werken, het zijn geen mini volwassenenen maar ze kunnen niet alles relatieveren en goed in perspectief zetten. Dus ja je schouders ophalen klinkt leuk, maar als dat de perfecte oplossing was geweest zou pesten nu niet bestaan. Om te zeggen dat schaamte een aangeleerd iets is is ook een flinke aanname, uiteindelijk is het een vrij basic emotie die veel meer dieren hebben dan alleen mensen.

We zullen het gaan beleven, maar in mijn ervaring maakt het voor kinderen niet zo veel uit of iets echt is. Hoeveel pestpartijen niet gaan over geruchten of verzinsels, ook dingen die heel makkelijk te ontkrachten zijn. Maar goed, als iedereen zijn kind goed opvoedt en we schaamte gewoon afschaffen als concept komt het zo te lezen allemaal goed

[bzuidgeest]

Schaamte ontstaat uit iets wat je over jezelf denkt. "Niet goed genoeg", "lelijk", "dom" etc. Dat leid tot een emotionele uiting die we allemaal kennen. Maar het "denk" gedeelte, wat er lelijk is of niet, wat er dom is of niet. Dat is aangeleerd. Het ontstaat uit cultuur, omgeving en opvoeding. Daarom schamen mensen zich binnen een cultuur soms wel en soms niet voor dingen en tussen culturen is het helemaal anders. Humor is er ook zo een. We kennen het allemaal, de emotie tenminste. Maar wat we exact humoristisch vinden is bepaald door de omgeving, opvoeding etc. Het komt uit denken en context.

in mijn ervaring maakt het voor kinderen niet zo veel uit of iets echt is.

soms wel, soms niet. Maar als je het aantrekt dat je lelijk word genoemd dan trek je jezelf dat aan of je naakt bent of niet. De uitkleed foto maakt dat niet erger. En als nep dingen normaler worden word het ook makkelijker te negeren. En dat moeten we toch ook leren.

Hoe preuts we zijn is ook iets dat komt en gaat. In Amerika kunnen ze geen blote tepel aan. Hier kan je gewoon borstvoeding in het openbaar geven of naakt op het (naakt) strand lopen. In Afrika is je borsten tonen weer heel anders beschouwd. Daar is met ontbloot bovenlijf lopen zo gek niet. Of borsten met sex te maken hebben of je baby voeden verschilt over de wereld. Onze westerse cultuur is niet overal geldig.
Het zijn dus manieren van doen die je kan veranderen, ze zijn geleerd.

[Standeman]

Klinkt leuk. Maar ga jij maar de religieuze/conservatieve hoek overtuigen dat het zo is.

En zelfs dan. Waar rook is, is vuur is niet voor niets een gezegde. Waarom zouden mensen jouw AI argument geloven wanneer ze een haat campagne jegens jou over zich heen hebben gekregen?

Die verkrachtingfipmpjes waarin jij dader bent en opschept, zouden best wel eens waar kunnen zijn, toch?

[The Zep Man]

X moest zich donderdag in de rechtbank verantwoorden voor de uitkleedfuncties van AI-chatbot Grok. De Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp willen dat de chatbot stopt met het maken van uitkleedafbeeldingen en kindermisbruikbeelden. Volgens de advocaten van X is dat niet volledig te voorkomen.

Natuurlijk wel. Schakel de functie uit die afbeeldingen genereert. Naast kunst en cultuur zoals die afbeelding van @TijsZonderH bovenaan het artikel (), is er geen reden om deze functie aan te hebben anders dan "for the profitz".

[Reactie gewijzigd door The Zep Man op 12 maart 2026 16:34]

[Kevinp]

Kijk naar de prompts hier wel heel makkelijk. Ergens hebben ze mogelijk gelijk.

Overigens weet ik niet welke vraag gesteld wordt. Het maken van bikini foto's van een verzonnen persoon vind ik nog iets anders dan een bikini foto van iemand als input.

[Oon]

De tussenlaag die ChatGPT gebruikt om prompts te schrijven voor Dall-E is wel vrij goed; alles dat een tag oplevert waar Dall-E het niet mee eens is komt er meteen niet doorheen.
Feilloos is het allemaal niet, maar mogelijk in de basis toch zeker wel.

[jip_86]

Dat is wel heel erg met de botte bijl. Een tool kan voor zo veel doeleinden ingezet worden, zowel goed als slecht. Photoshop kan dit ook maar die gaan we ook niet verbieden. Dat zal wel de uitdaging worden voor de komende tijd hoe we dit probleem willen gaan tackelen.

[WillySis]

De functie voor het genereren van afbeeldingen mag wel blijven, maar de functie om naaktbeelden te maken moet eruit gehaald worden. Dat kan prima door een aantal woorden zoals "naakt", "bloot" en omschrijvingen als "zonder kleding" op een zwarte lijst te zetten waardoor die niet meer in prompts gebruikt kunnen worden. Daarnaast is er al software die naaktbeelden herkent, dus zelfs na het maken van een afbeelding kan die nog weggefilterd worden.

Elon Musk gebruikt de vrijheid van meningsuiting wel erg gemakkelijk. Die vrijheid is zeker belangrijk, maar zodra je daar mensen mee gaat schaden of beledigen, dan ga je een grens over waar de bescherming van een persoon belangrijker gaat worden dan de vrijheid van meningsuiting. Het creëren van een naaktfoto van iemand zie ik ook helemaal niet als mening.

Musk is vooral te beroerd om een basale moderatie op zijn platform uit te rollen, niet zozeer vanwege de vrijheid van meningsuiting, maar vooral vanwege de kosten.

[Advanced03]

Maar Grok kan toch helemaal geen expliciete fotos maken? Wordt automatisch gefilterd.

[robertwebbe]

Als je je geboortejaar voor 2000 zet en ‘NSFW toestaan’ op aan zet in je profiel, dan kun je in de Imagine mode (Typ om te dromen) veel vragen. Als je dan ook nog creatieve (niet expliciete) woorden gebruikt en het wat kunstzinnig benoemd, krijg je porno.

Edit: gisteren deed die het nog. Blijkbaar nu al een aanpassing gemaakt waardoor alles nu keurig netjes is. Ben benieuwd voor hoe lang. In de nacht, als de kinderen slapen, kreeg je ook andere resultaten dan overdag.

[Reactie gewijzigd door robertwebbe op 12 maart 2026 18:05]

[Rogers]

Zijn wel wat hoepels waar je door moet springen. Waar eindigt de verantwoordelijkheid van de ontwikkelaar en begint die van de gebruiker zelf?

[Reactie gewijzigd door Rogers op 12 maart 2026 19:08]

[emoeloe]

Het wordt gefilterd als je een prompt schrijft als 'maak een keiharde porno scene', maar met wat verbeeldingskracht kun je echt prima expliciete zaken maken hoor. En ook zonder het expliciet te benoemen neigt Grok daarbij, vooral bij vrouwen, wel naar jongere modellen waarbij ik toch meer dan eens op de 'verkeerd gemodereerd' knop heb gedrukt.

[SinergyX]

Leunt dit gewoon niet nog steeds tegen het hele probleem van AI, het genereren van dingen?

Het is enkel de context, het doel en de inhoud, waar het eindproduct wordt beoordeeld of dit wel of niet kan. En dan zit je in deze situatie veelal aan de kant van 'vrouw en man', een vrouw uitkleden is not-done, maar een Tijs ipv bikini een shredded lichaam met sixpack geven.. zou dan wel prima zijn? Of eigenlijk, die foto's zie je nu al gewoon op instagram en consorten, voornamelijk rond de fitness kanten. En ja, daar ligt nog steeds de grondlegger van het aspect 'toestemming'. Maar in de situatie van AI-gemaakte personen gaat die vlieger al niet meer op, daar zit dus al een splitsing van het materiaal. Maar wat als persoon in kwestie dit zelf wil doen, voor welke reden dan ook, zou het dan ook niet meer mogen? Onder de 18? Helemaal prima, hoort niet, mag niet. Maar wat doe je bij 18+? Met toestemming? Zou een Grok dat ook niet meer mogen doen?

[The Third Man]

Zoals het bericht al benoemt gaat het om sexualiserende content in het algemeen. Niet specifiek een vrouw of een kind of wat dan ook. De kans dat er bij 18+ de grens getrokken wordt is wel realistischer dan zeg het geslacht, mede omdat dat ook niet uit zou moeten maken.

Maar wat als persoon in kwestie dit zelf wil doen, voor welke reden dan ook, zou het dan ook niet meer mogen?

Hoe ga je garanderen dat dat het geval is? Daar valt of staat die hele uitzondering mee.

[RadYeon]

Dit is toch al heel lang geleden gepatched? Elk stukje naaktheid wordt meteen geblurred. Blote schouders of bikini zie ik niet als naaktheid...

[Reactie gewijzigd door RadYeon op 12 maart 2026 17:00]

[PixelPionier]

Wat een onzin allemaal weer. Mensen moeten ondertussen toch wel begrijpen dat alles nep is toch? En dan mag Grok dat niet meer doen, maar 10.000 andere tools nog wel. Je krijgt dit toch niet de wereld uit. Dit kan nou eenmaal, en is niet meer terug te stoppen in de fles. Het enige wat je moet doen is mensen die het maken en vervolgens misbruiken achterna zitten!

[jmb66]

Toch vind ik dit minder kwalijk dan ErosAI, daar maak je keiharde porno mee met foto's die je uploadt.

Laten ze dat maar aanpakken, een bikini foto is natuurlijk geen hardcore porno. Lijkt wel of ze niet naar de verschrikkelijkste AI-apps willen kijken en aanpakken.

[Het.Draakje]

(Bijna) iedereen heeft wel eens van Grok (danwel de AI van X) gehoord (en nog wel wel een paar zoals ChatGPT). Groot, bekend; daar hoort volgens mij ook wel een voorbeeldfunctie bij (Poortwachter).

ErosAI is iets wat ik maar één keer heb "gehoord", jouw bericht.

100% waterdicht krijg je het niet, maar die hoge bomen (zoals ChatGPT) vangen (terecht) veel wind.

[jmb66]

Het zijn juist de minder bekenden, die de walgelijkste dingen maken.

We komen ze dagelijks tegen van ErosAI tot FapTokAI, het is juist fout om die zogenaamde poortwachters, bedrijven met voorbeeldfuncties de maat te nemen, terwijl er heel simpel in het openbaar de verschrikkelijkste apps te downloaden zijn.

Ik snap je standpunt, maar dit is te makkelijk, AI brengt echt bizarre shit, dan moet je niet zijn bij OpenAI, Grok etc., etc. Deze case draait om iets van drie maanden geleden, voor AI is dat lang geleden.

[The Third Man]

Naar mijn idee moet je juist bij de grote jongens beginnen omdat dit een precedent schept. Anders kan het bij de volgende zaak steeds weggewoven worden van "ja maar in dat heftige hele speciale geval, daar was het natuurlijk logisch dat het niet zou mogen". En vergeet niet de hefboomwerking van hoe normaliserend het werkt als de CEO van een grote jongen zelf een voorbeeld ervan op social media post met miljoenen mensen die het tegen gaan komen.

Hoe algemener het voorbeeld is dat wordt verboden, hoe effectiever. Zowel qua handhaving maar ook voor toekomstige aanpak in andere richtingen.

[Reactie gewijzigd door The Third Man op 12 maart 2026 17:15]

[robertwebbe]

Zit je nou gewoon reclame te maken?

[hawke84]

"Het is uiterst complex en een continu proces om te voorkomen dat mensen Grok gebruiken voor zulke doeleinden."

Ik ben geen officiele prompt-engineer, maar het is verdomd makkelijk om 90+% van dit soort activiteiten met solide one-liner guardrails af te vangen. "is the person underage?" "Is the user asking to strip a person's clothes?" "Is the content sexually tinted?"

Het overgrote deel van gebruikers gaat geen uren besteden om guardrails proberen te omzeilen. Dit is duidelijk een poging van Grok (X) om voet aan wal te houden tegen het verliezende gebruikersdeel van Anthropic en (inmiddels in mindere mate) OpenAI.

Het voelt een beetje alsof het laatste bastion van Grok-gebruik complete afwezigheid van morele waarden is. En dat weten ze.

[jip_86]

Totdat eentje de juiste prompt vind om de guardrails te omzeilen die vervolgens weer viraal gaat op het internet.

[bzuidgeest]

En welke leeftijd heeft een foto precies? Het artikel geeft aan dat de gekleede afbeelding ook gegenereerd was. Een nep persoon dus. Die heeft geen leeftijd. Sommige vrouwen zijn op hun 18e nog steeds zo plat als een dubbeltje. Cupmaat geeft geen goede leeftijdsschatting. De meeste andere dingen ook niet. Vrouwen en mannen, komen in dik, dun, kort of lang en allerlei andere variaties. Sommige mensen zien er hun hele leven uit als 10 en sommige zien er hun hele leven uit als 90. Om maar niet te spreken over effecten van dingen als roken op de huid. En andere omgevings variabelen. Uiterlijk is een gemiddelde op elke leeftijd. En iedereen die beweert dat hij altijd correct kan schatten op elke foto, heeft nog nooit werkelijk de mogelijke variatie op de wereld gezien. Want de gemiddelden zijn in azie en afrika ook weer heel anders dan hier.

Het hele idee dat een afbeelding (van een niet echt bestaand persoon) leeftijd word toegekend vind ik bizar. Het is maar wat je erbij verzint.

[Jeroen hofman]

Bizar dat dit allemaal kan, en wordt getolereerd. Afgezien van de ellende die er uit voort komt
Ik denk als Ouder of buur, dat je buur vader,of moeder, kinderen hier voor gebruikt worden.

Maar dan rammelen alle alarmbellen. Het is al bizar wat er op tv zoal in reclames zit terwijl het net 18-20 uur is geweest en menig kind tv kijkt Ook kinderen hebben de weg inmiddels via via gevonden om dit soort porno, met foto's die je uploadt op hun geheime 2e telefoon?.

Maar goed we leven inmiddels in 2026 waar normen en waarde ver te zoeken is, in deze wereldwijde chaos.

@jmb66 IDD Laten ze dat maar aanpakken, een bikini foto is natuurlijk geen hardcore porno. Lijkt wel of ze niet naar de verschrikkelijkste AI-apps willen kijken en aanpakken.

[Reactie gewijzigd door Jeroen hofman op 12 maart 2026 16:36]

[bzuidgeest]

Ik denk dat het een zegen is dat het kan. Klinkt raar, maar alle seksuele chantage is gebaseerd op schaamte en preutsheid en dat soort dingen. Nu kan je gewoon zeggen dat het nep is van de AI. Niemand kan anders beweren. Chantage is dan niet meer mogelijk.

Verder is het gewoon door AI verzonnen menselijk lichaam. Ik denk niet dat er wat mis is met het menselijk lichaam. En hoewel je geen kinderporno moet kunnen maken kan je als je naakte kinderen wil zien gewoon naar elk nudisten kamp of strand. Het naaktstrand bestaat nog steeds dacht ik. Dat zijn dingen waar je geen AI voor nodig hebt. Wat dat betreft denk ik dat de nudisten verstandiger zijn. Die schamen zich niet meer voor het menselijk lichaam.