Britse toezichthouder onderzoekt X en Grok na genereren seksuele deepfakes

De Britse waakhond Ofcom start een officieel onderzoek naar Grok en platform X. Onlangs kwam de AI-dienst van xAI in opspraak, nadat er geseksualiseerde beelden van bestaande mensen mee gegenereerd werden, waaronder van kinderen. Dit zou in strijd zijn met de Online Safety Act.

Ofcom stelt dat er zorgen zijn over door Grok gegenereerde beelden van mensen, waarbij kleding verwijderd wordt om zonder toestemming een pornografisch of geseksualiseerd beeld van iemand te creëren. Mogelijk wordt deze functie ook gebruikt om kindermisbruikmateriaal te genereren. De Europese Unie houdt om dezelfde reden een onderzoek.

De Britse toezichthouder gaat onderzoeken of er een gevaar is voor de bevolking van het Verenigd Koninkrijk, of X illegale beelden tijdig offline haalt en of er een goede leeftijdscontrole is om te voorkomen dat kinderen pornografisch materiaal zien. Er is ook al informatie opgevraagd bij het sociale medium van Elon Musk. In deze fase van het onderzoek wordt bewijsmateriaal geanalyseerd om uiteindelijk tot een beslissing te komen, waarna X de kans heeft om op hierop te reageren.

Mocht Ofcom concluderen dat X, dat Grok integreerde in zijn sociale medium, in strijd is met de Online Safety Act, dan kan de toezichthouder maatregelen nemen. De organisatie heeft de bevoegdheid om een boete ter waarde van 18 miljoen pond of 10 procent van de wereldwijde omzet van een bedrijf te vorderen. In het 'ernstigste geval' kan Ofcom via de rechter een blokkade van de dienst afdwingen.

Begin 2026 gingen er beelden rond op X van mensen die door middel van Grok 'uitgekleed' werden, meestal zonder toestemming van de afgebeelde persoon. In reactie hierop werd een melding gedaan bij Franse autoriteiten. Niet lang daarna beperkte X het genereren van bikinifoto's tot betalende gebruikers of in privéchats. In Indonesië en Maleisië is de dienst vanwege de deepfakecontroverse geblokkeerd.

IT-banen

Reacties (65)

TheGreatAtuin 12 januari 2026 16:38

On topic: Los van het feit dat die Engelse wet zodanig ouderwets is dat die lijkt gemaakt te zijn voor het internet van 1995 en bij veel Britten een Big Brother gevoel oproept, is het tragisch dat de eerste reactie van Grok was "dit beperken we tot betalende klanten". Dat betekent óf dat ze precies weten hoe ze het moeten tegenhouden, of dat ze er aan willen verdienen. Een derde mogelijkheid: het laten bestaan omdat het model anders dommer wordt. En tsja, een dommer model, dan kom je niet mee met de concurrentie.

Laat internationale en nationale toezichthouders ze maar hard aanpakken. Het probleem minder zichtbaar maken door er een paywall voor te zetten is idioot en is op zichzelf al voldoende reden voor een klacht.

Ik zou stellen dat een goed model ná generatie een nieuwe instantie - zonder bestaande context - laat checken wat gegenereerd is. Komt dan evident iets NSFW naar boven, dan wordt de originele instantie per direct afgesloten. Probleem is, dat is bijna niet te doen want dat kost nog meer seconden tot minuten aan rekenkracht.

Het volgende is deels ook een reactie op @Ruben26 :

Mee eens, de grenzen zoeken van wat een LLM/model kan en wil doen is interessant als eindgebruiker, maar ook een enorm belangrijk werkveld van de ontwikkelteams. Maar informatie hierover vinden is moeilijk, want het is een trade secret. Weet trouwens dat de meeste LLM's zich helemaal niet bewust zijn van hun eigen functies en/of de kracht en limitaties van andere modellen. Je zal uit bijna geen enkel model te horen krijgen dat Claude het beste is betreft programmeren.

Ik vind dit zelf met name interessant voor lokaal draaiende modellen - die bijna allemaal overgehaald kunnen worden tot genereren van zaken die buiten hun filter vallen, mits je de juiste context creëert. Zij het 'ongewenste kennis delen, het 'imiteren' van een extreem persoon, pornografisch, etc.

Kort gezegd, heb jij een pc met een GPU met 8GB VRAM of meer? Dan heb je op dit moment een ongebreidelde content generator in je bezit, die alles kan maken wat je wil. Heb je geen online Grok voor nodig.

Maar erover praten betekent automatisch dat je als een viezerik wordt afgeschilderd. Zo ben ik niet, maar mijn nieuwsgierigheid is groot, en dit is voor mij de meest fascinerende stof van de laatste paar jaar. Zodra die modellen meer zelfbesef en dus normen en waarden krijgen, dan ben ik de eerste die vrolijk wordt.

Ik weet dat de beveiliging van Grok om dit soort materiaal te maken werd omzeild door de video in een "kader" te plaatsen. Blijkbaar had Grok er geen enkel probleem mee om porno te genereren zolang het maar binnen een schilderij/tv/omringend kader van madeliefjes gebeurde. Ook "weet" zo'n model niet dat 'ritmisch op en neer bewegen terwijl je buiten beeld hout zaagt' heel anders kan gaan uit zien. Als die context eenmaal is gemaakt, dan ziet Grok (of een ander model!) echt geen verschil meer tussen fictieve persoon, kind, of een BN'er.

Zoals altijd volgt nu een soort strijd: onzedige mensen die beter als Prompt Engineer hadden kunnen werken gezien hun skills, die Grok zo ver krijgen om NSFW content te maken, versus de ontwikkelaars van Grok die dezelfde plekken op het internet (je weet welke plekken ik bedoel) in de gaten houden en even hard moeten updaten om ze tegen te houden. Dat is niet nieuw, dat is precies de wapenwedloop die je bij pirated software ziet.

[Reactie gewijzigd door TheGreatAtuin op 12 januari 2026 16:52]

Lees meer

Deepfakes verbieden? Daarvoor heeft Nederland nu al genoeg wetten

IT-banen

Reacties (65)

Sorteer op:

Weergave: