EU-toezichthouder onderzoekt X om seksuele AI-afbeeldingen

De Ierse Data Protection Commission heeft een onderzoek ingesteld naar X vanwege de door Grok gegenereerde seksuele afbeeldingen. De toezichthouder wil onderzoeken of X zich wel heeft gehouden aan de AVG.

Het onderzoek gaat over 'intieme en/of geseksualiseerde beelden' op X die zonder toestemming zijn gemaakt met behulp van chatbot Grok, meldt de DPC. Volgens de organisatie worden daardoor mogelijk ook kinderen getroffen. X is maandag ingelicht over het besluit om een onderzoek in te stellen, meldt de DPC.

Adjunct-commissaris Graham Doyle zegt dat de toezichthouder sinds enkele weken in gesprek is met X. Dit gebeurde nadat de media berichtten over de mogelijkheid om met Grok seksuele deepfakes te maken, ook van minderjarigen. De DPC heeft daarom een 'grootschalig onderzoek ingesteld' naar de naleving van 'een aantal fundamentele verplichtingen onder de AVG', zegt Doyle.

Grok kwam vorige maand onder vuur te liggen, omdat de chatbot probleemloos naaktfoto's genereert. X legde dit eerst aan banden en blokkeerde het maken van seksuele deepfakes daarna in sommige landen volledig. Door de seksuele deepfakes wordt X ook al onderzocht door de Europese Commissie en Groot-Brittannië.

Reacties (36)

[genc007]

bijzonder weer dat X het niet voor elkaar krijgt om deze prompts te blokkeren, terwijl Gemini / OpenAI er geen enkel probleem mee hebben lijkt het.

lijkt bijna op een bewuste keuze van meneer Musk

[RayMort]

Het "per ongeluk" de grenzen van het behoorlijke overschrijden om gratis publiciteit te genereren lijkt een beetje een strategie te zijn met Grok. Ik denk bijvoorbeeld ook aan de "mecha Hitler" episode van een tijdje terug. Dat er af en toe iets misgaat en de AI onzinnige dingen zegt is te begrijpen. De huidige vorm van generatieve AI blijft in zekere mate onvoorspelbaar en onbetrouwbaar, maar dat het juist Grok is waar het elke keer op zulke extreme manieren misloopt is wel opvallend.

[xorpd]

AI is pas echt scary en berekenend als de filters eraf zijn (die kosten ongeveer de helft van de energie naar het schijnt) en Musk weet dat, en experimenteert er mee. Ook rijke mensen hebben een hobby nodig.

[m3gA]

Het was ook een bewuste keuze. Volgens hem valt het onder vrijheid van meningsuiting. Deze is alleen in Europa niet zo absoluut als ik de VS.

[Stijnvi]

Deze is alleen in Europa niet zo absoluut als ik de VS.

Die is in de VS ook niet absoluut. Sterker nog, die is er in de VS niet (meer). Je mag alleen nog maar doen en zeggen wat het Trump regime bevalt.
nieuws: 'VS vraagt big tech om persoonsgegevens van accounts die ICE bekritis...

[devilkin]

Er is geen vrije meningsuiting volgens Musk. Enkel de meningen die volgens hem correct zijn mogen geuit worden.

[iew]

X legde dit eerst aan banden en blokkeerde het maken van seksuele deepfakes daarna in sommige landen volledig.

Is dit voor de EU dan niet aan banden gelegd ? nog steeds wel mogelijk ?
Daarnaast zijn er al open source AI mogelijkheden die je lokaal zelf kunt draaien en dit ook mee kunt doen, en nee dat praat niets goed, ik geef alleen aan dat wanneer je dit echt tegen wilt houden je daar dan ook eens naar moet gaan kijken, buiten het feit dat het ook met andere AI diensten nog steeds wel mogelijk is, ondanks dat velen dit proberen tegen te gaan.

De gebruikers die dit soort rotzooi maken is natuurlijk ook wel een 'dingetje' om het maar even zachtjes uit te drukken.

[cheetahrunout]

De beste oplossing is niet om de prompt te blokkeren. Maar om het resultaat terug te voeren aan de AI, die te laten kijken wat hij zelf heeft gemaakt en op basis daarvan de output te blokkeren. Daarmee kan je voorkomen dat iemand met een creatieve prompt toch een afbeelding genereerd die geblokeerd zou moeten worden. De AI zal bijvoorbeeld een bekende persoon of eventueel een kind kunnen herkennen in zijn eigen afbeelding, op basis daarvan kan die dan bepalen of die afbeelding wel of niet moet worden doorgezet.

[lenwar]

en met andere platformen waar exact hetzelfde gebeurt, geen moeite mee blijkt te hebben.

Dit vind ik inderdaad ook bijzonder. Er zijn zat (lokale) modellen die ook blootfoto's kunnen genereren. Kijk op https://civitai.com/ en je kunt je lol op. (n.b. standaard laat het geen blootfoto's zien. Je moet het aanzetten).

Het voelt voor mij ook een beetje gek dat Grok hier nu hard op wordt aangepakt, en al die anderen niet. Er zit hooguit een verschil in, dat Grok een heel erg groot platform is, en die anderen voornamelijk lokaal draaien. (die in m'n voorbeelden)

[MrRobot]

Het blijft natuurlijk de verantwoordelijkheid van de 'prompt-typer' waarvoor een tool ingezet wordt

Met deze redenering kunnen we alle wetten wel afschaffen.

Laten we vuurwapens dan ook maar gewoon bij de AH verkopen. Dan is het daarna aan de koper om er verantwoordelijk mee om te gaan.

[MrRobot]

De AH verkoopt ook messen. En toch heeft de wetgever besloten dat sommige messen wél aan banden gelegd moeten worden. Dus werkt die redenering precies andersom.

[lenwar]

Waar je nu op doelt is "de wapenwet."

Wikipedia: Wet wapens en munitie

Een keukenmes, of een ander type mes dat je in een supermarkt/kookwinkel/kampeerwinkel kunt vinden valt onder categorie-4 wapens, waar ook een honkbalknuppel, een end hout, een dikke kabel en ieder ander voorwerp waarmee je iemand kunt verwonden onder valt. Die mag je inderdaad in bezit hebben, en bij je hebben mits er een redelijk doel voor is. (je kunt moeilijk zeggen dat je een redelijk doel hebt om een koksmes mee te nemen naar een voetbalwedstrijd. Als je echter onderweg bent naar de camping of een vriend waar je gaat koken, is dat prima te onderbouwen.)

[VOODOO_WILLIE]

En wat nou als je bij die wedstrijd een appeltje te schillen hebt?

[Tim AtSharp]

dat voorkomt natuurlijk niet dat met er met een niet gereguleerd mes een misdrijf gepleegd wordt. Dat blijft de verantwoordelijkheid van de gebruiker. Het is ook zo dat die gebruiker veroordeeld wordt voor desgevallend misdrijf, en niet de AH, noch de producent van de messen...

[MrRobot]

Het punt is dat verantwoordelijkheid niet nul-sum is — meerdere partijen kunnen tegelijk aansprakelijk zijn. De vraag is niet of de gebruiker verantwoordelijk is, maar of dat de enige verantwoordelijkheid is die telt.

Regulering van tools/platforms gaat niet over schuldvraag achteraf, maar over het voorkomen van schade vooraf. De AH mag ook geen alcohol verkopen aan minderjarigen, ook al is de minderjarige zelf verantwoordelijk voor wat ie ermee doet.

[Tim AtSharp]

Klopt. Maar het is natuurlijk niet zo dat grok op eigen initiatief zulke plaatjes genereert. Dat is steeds op vraag van de gebruiker, dus in deze is het wel degelijk zo dat als je de prompt niet typt, er geen resultaat uitkomt. We hebben het hier over een tool die onbeperkt (?) aan mogelijkheden is.

[RoyD]

Dat klopt niet. De wetgever beschouwt minderjarigen als niet volledig handelingsbekwaam en daarom mogen deze geen alcohol of sigaretten kopen. Net zoals bij veel zaken dat ze geen messen mogen kopen.

[lenwar]

Een belangrijke nuance hierin is, is het gemak waarmee het kan.

Als je met een enkel zinnetje een plaatje kunt genereren, waarin een persoon slachtoffer is van een groepsverkrachting, en dat die persoon het heel leuk lijkt te vinden, dan is dat compleet wat anders dan iemand fysiek neersteken. Die drempel ligt veel hoger.

Met die AI-modellen kun je dus plaatjes maken waarmee je mensen emotioneel met de grond gelijk kunt maken, of de meest verwerpelijke plaatjes genereren. Andere grotere modellen die vrij toegankelijk zijn, doen hun best dit zoveel mogelijk tegen te gaan. De mensen achter Grok lijkt het niet zo veel te boeien.

Je kunt inderdaad iemand doodsteken met een nagelvijl of doodslaan met een hakbijl die gewoon bij de Gamma kunt kopen. Zolang dit niet op grote schaal gebeurd, blijven die objecten gewoon onder de huidige categorie-4 wapens vallen. Stel dat het een trend wordt, dan zal de wetgever hierop de regels gaan aanpassen.
Een mooi voorbeeld hieromheen zijn lachgascylinders. Die kon je tot een tijdje terug gewoon bij de supermarkt kopen, om slagroom mee te maken. Toen men er achter kwam, dat je het als een goedkope drug kon gebruiken, en dat op grote schaal is gaan gebruiken (met alle overlast er omheen), heeft de wetgever de regels aangepast. Nu kun je alleen nog maar lachgascylinders kopen via speciaalzaken.

De wetgever ziet dat er via Grok 'relatief veel' foute plaatjes worden gemaakt. 'Dus' moet Grok worden aangepakt. En waarom al die anderen die het ook doen, niet heb ik dan geen antwoord op, maar het is in elk geval wel in lijn met overige beleid.

[Tim AtSharp]

okay, maar dan dient dit ook op te gaan voor tekst genereren. Daar kan je ook iemand 'met de grond gelijk' maken... En voor photoshop, en voor... alles eingelijk. Het probleem is natuurlijk dat hier zeer selectief omgegaan wordt met achter wie men aangaat, en wie men ongemoeid laat.


'relatief veel foute plaatjes'...
- hoe heeft met vastgesteld om welk percentage het gaat? Passeren alle gegenereerde plaatjes langs een (overheids) dient die dan kijk of het al dan niet 'fout' is?
- hoe bepaalt met wat 'fout' is? Kan jij het verschil zien tussen een prompt 'genereer me een 18 jarige die...' en 'genereer me een 17,5 jarige die...'? Uiteraard is het zwart en het wit makkelijk te onderscheiden - dat is het punt niet. Het spctrum grijs is natuurlijk hetegne waar het om gaat.

[lenwar]

En voor photoshop, en voor... alles eingelijk

Ik snap dit sentiment, en het is ook lastig om hier een hard onderscheid in te maken.

Maar😊

Om het met Photoshop te doen, heb je echte vaardigheden nodig. Bij een AI-model kan iedere knuppel die weet hoe een zoekmachine werkt, het.

Bekijk het zo. Je kunt in PhotoShop geen bankbiljetten bewerken. Dit is afgeschermd. (Net zoals printers/kopieerapparaten geen vals geld uitprinten).

Wikipedia: EURion constellation

Het spctrum grijs is natuurlijk hetegne waar het om gaat.

Klopt. Het grijze spectrum of vaker ‘slachtoffer’ van het zwarte.

[Tim AtSharp]

"Om het met Photoshop te doen, heb je echte vaardigheden nodig."

Heb je recent nog naar de AI mogelijkheden van photoshop gekeken...? We spreken al lang niet enkel meer over wat "blemish removal" hoor...

En verder: wat zijn dan 'echte vaardigheden'?

[Reactie gewijzigd door Tim AtSharp op 17 februari 2026 21:19]

[Remzi1993]

dat voorkomt natuurlijk niet dat met er met een niet gereguleerd mes een misdrijf gepleegd wordt. Dat blijft de verantwoordelijkheid van de gebruiker. Het is ook zo dat die gebruiker veroordeeld wordt voor desgevallend misdrijf, en niet de AH, noch de producent van de messen...

Er is een groot probleem met je vergelijking met vuurwapens. Vuurwapens worden gebruikt om te doden, dat is de primaire functionaliteit van een vuurwapen. Daarom heeft de wetgever gezegd, we verbeiden het en alleen in bepaalde gevallen mag men een vuurwapen hebben, zoals bijvoorbeeld leger, politie, jager of iemand die het alleen in een schietsportvereniging gebruikt.

[3raser]

Het verschil is dat de doe het zelf zaak de hamer niet zo kan aanpassen dat deze niet meer gebruikt kan worden om hoofden in te slaan. Dat in tegenstelling tot een AI die prima geleerd kan worden dat het maken van bepaalde beelden niet is toegestaan.

[Tim AtSharp]

jawel hoor. Enkel rubber hamers mogen verkocht worden.


Bijkomend probleem in jouw redenering is dat het heel erg arbitrair is wat dan wel verboden moet worden dat een AI mag maken en wat niet. Wie zit er aan die knoppen?

[3raser]

jawel hoor. Enkel rubber hamers mogen verkocht worden.

Welke spijkers ga jij in het hout slaan met een rubber hamer?

Bijkomend probleem in jouw redenering is dat het heel erg arbitrair is wat dan wel verboden moet worden dat een AI mag maken en wat niet. Wie zit er aan die knoppen?

De rechterlijke macht.

[Reactie gewijzigd door 3raser op 17 februari 2026 16:57]

[Tim AtSharp]

"Welke spijkers ga jij in het hout slaan met een rubber hamer? "


My point exactly... :-) Blij dat je het eens bent met me.


"De rechterlijke macht." Heu nee, zo werkt het niet. Rechterlijke macht zorgt voor toepassing van de wetten, het is de regering die de wetten opstelt. Maw: een moraal bepaald door politieke partijen en hun ideologiën...

[Ruben26]

Hoe wil je een slagersmes veilig maken? Ook door ze van rubber te maken?

[Honytawk]

Zelfs als jij rondrijd met een rubberen hamer in je auto zonder goede reden kan je daarvoor ook opgepakt worden.

Dus waarom zouden we geen AI mogen reguleren?

[Tim AtSharp]

Ik zeg nergens dat het niet mag. Ik klaag de ogenschijnlijke willekeur aan (waarachter de vete tussen EU en Musk de drijver is)

[Tegengeluidjes]

quote: Verder: Het blijft natuurlijk de verantwoordelijkheid van de 'prompt-typer' waarvoor een tool ingezet wordt...

• Tools voor generatieve AI bieden actieve functionaliteit om beelden te genereren. Dat betekent dat ontwerpen, safeguards en beperkingen technisch mogelijk zijn, wat de EU-onderzoeken juist toetsen.
• In Europese wetgeving (AVG + Digital Services Act) wordt juist gekeken naar wat een platform ontwerpt, toelaat en voorkomt. Het is niet zo dat het enkel aan de gebruiker is. Blokkades, filters en restricties zijn juridisch relevant.

Vergelijking: een platform kan technisch voorkomen dat onveilige bestanden worden geüpload, als het dat niet doet, kan het aansprakelijk worden gesteld. Hetzelfde geldt voor AI-gegenereerde content.

[Dannydekr]

Lijkt me dat degene die de prompt schrijft en de opdracht geeft verantwoordelijk is en niet de AI. Of ga je Photoshop ook aanklagen als iemand een onsmakelijke (of smakelijke, ieder z’n fetish zullen we maar zeggen) foto bewerkt en publiceert?

[WoutervOorschot]

Ligt eraan, als adobe vervolgens het op hun platform zou publiceren en daar niks aan doen zouden ze denk ik verantwoordelijk kunnen zijn. Het gaat bovenal om de publieke plaatjes in tweets door AI volgens mij.

Privegebruik van de chatbot zou onder de AI-act of andere wetgeving nog illegaal kunnen zijn misschien.