XAI blokkeert maken van seksuele deepfakes met Grok na ophef - update

XAI, het AI-bedrijf van miljardair Elon Musk, blokkeert in sommige landen de mogelijkheid van AI-bot Grok om seksuele deepfakes van bestaande mensen te maken. Ophef hierover leidde al tot onderzoeken door autoriteiten. Musk claimde eerder geen ongepast beeld te hebben gezien.

Het AI-bedrijf van Musk, die een vroege investeerder in OpenAI was, zegt dat Grok niet langer de mogelijkheid heeft om beeldmateriaal te genereren waarbij mensen digitaal worden 'uitgekleed' en in bijvoorbeeld bikini's worden getoond. De blokkade geldt voor landen waar dergelijk beeld illegaal is, meldt het veiligheidsteam van Musks sociale netwerk X.

De aankondiging van deze blokkade volgt volgens The Guardian slechts enkele uren na een post op X van Musk waarin die claimt geen weet te hebben van ongepast, door Grok gegenereerd beeld. De miljardair schrijft specifiek over beeld van naakte minderjarigen. Hij schuift verantwoordelijkheid ook af op gebruikers. De omstreden eigenaar van xAI, X, Tesla, SpaceX en Starlink stelt dat Grok niet uit zichzelf beeldmateriaal genereert. "Het doet dat op verzoek van gebruikers."

'Kwaadwillend hacken'

Musk beweert in zijn post ook dat Grok weigert om beeldmateriaal te maken als dat illegaal materiaal zou opleveren. Ten slotte stelt hij dat het kwaadwillend hacken van Grok kan leiden tot 'iets onverwachts'. "Als dat gebeurt, fixen we de bug onmiddellijk."

De lopende controverse over Grok gaat niet alleen over het genereren van kindermisbruikmateriaal, maar ook over het transformeren van mensen in foto's zodat die onthullende kleding zoals bikini's dragen. AI-bot Grok kan zulke afbeeldingen op verzoek maken en maakt deze via Musks sociale netwerk X ook openbaar. De afgelopen weken zijn duizenden van zulke afbeeldingen aangemaakt en gepubliceerd op X, schrijft The Guardian.

Update, 09.13 uur – De aanpassing van xAI aan Groks beeldgenererende mogelijkheden betreft een geoblokkade.

Reacties (154)

[jerisson]

Nu is het te hopen dat de autoriteiten alsnog hun onderzoek verder zetten en er gevolgen voor laten zijn indien ze vaststellen dat het illegaal was. Dit soort bedrijven hoort te beseffen dat ze hun verantwoordelijkheid dienen te nemen, en niet pas als er controverse ontstaat.

En dan de schuld uitsluitend bij de gebruikers leggen...

Schade veroorzaakt door een dronkaard kan verhaald worden op de barman als blijkt dat die nog een pint verkocht heeft aan iemand die reeds duidelijk dronken was. Waarom zou dit anders zijn bij Grok (X, of xAI) of eender welke generatieve AI?

[GrooV]

Dit is dus het probleem, zo komen pas in actie zodra hun omzet in het geding komt. Meerdere landen wilden het gaan verbieden, dat willen ze voorkomen, dat er compleet ontoelaatbare bagger uit hun dienst komt vinden ze zelf juist een pluspunt want dat trekt kennelijk gebruikers, zie ook de reactie van Musk. Die vind dit geweldig en "grappig"

[lenwar]

zo komen pas in actie zodra hun omzet in het geding komt

Dat is toch standaard? Dat is tenslotte het doel van het bedrijf. Zeker wanneer het een beursgenoteerd bedrijf is. Dan wordt er echt alleen maar naar kwartaalcijfers gekeken, want dat is wat de aandeelhouders verwachten.

Idealiter vermijdt iedereen beursgenoteerde bedrijven, vanwege de perverse prikkels die die bedrijven dicteren, maar dat is in de praktijk niet realistisch.

[bilgy_no1]

Precies. Omdat bedrijven in de meeste gevallen het private (winst)belang boven het algemeen belang stellen is het noodzakelijk dat we als samenleving (via de overheid) regels opstellen om het algemeen belang te beschermen (incl kwetsbare gebruikers, grondrechten, milieu, een goed functionerende markt, etc.).

Maar dat is precies wat types zoals Musk niet willen. Die willen geen enkele beperking aan wat ze mogen doen en daarom ondergraven ze de democratie.

Overigens zijn niet alle beursgenoteerde bedrijven per se slecht. Juist dankzij regels over eerlijke informatievoorziening naar investeerders, anti-corruptiewetten, accountingregels, good governance regels, anti-money laundering etc gaat het in veel gevallen ook wel goed. Maar bij Twitter is er maar 1 iemand de baas en die kijkt alleen vanuit zijn eigen belang en extremistische politieke visie. Is overigens ook niet beursgenoteerd, want dan zouden ze aan meer regels moeten voldoen...

[Ricco02]

Dat is toch standaard?

Met deze reactie ben je het gedrag van xAI aan het goedpraten. Zoiets van “Maar iedereen doet het”. Zo bedoelde je het waarschijnlijk niet.

Maar goed. Ik wilde daar toch even een klein beetje kritiek op geven.

[lenwar]

Nee, ik geef alleen aan dat het eigenlijk niet benoemd hoeft te worden, omdat het standaardgedrag is.

De rest van m’n betoog zou dat toch duidelijk moeten maken? (Een los zinnetje kan een verhaal uit context halen.)

[Bedge85]

Nee, ik geef alleen aan dat het eigenlijk niet benoemd hoeft te worden, omdat het standaardgedrag is.

Ik zie dit hier vaker voorbijkomen. Iemand heeft commentaar op het gedrag van een bedrijf, en vervolgens reageert iemand anders met: "Ja, dat is nou eenmaal hoe het werkt in commerciële bedrijven". Daarbij is de redenering dat het gedrag daarom niet meer benoemd hoeft te worden. Ik kan die gevolgtrekking niet volgen.

[Zoop]

Een reactie die ik veel hoor op kriitiek op Trump bijvoorbeeld "ja, maar voorlopig is hij wel aan de macht" ..? Alsof hij het daarmee goed voor elkaar heeft? Alsof dat alles goed praat?

Musk is wat betreft een doorsnee zakenman en reageert dus vrij voorspelbaar op dit soort zaken (niet, totdat het dreigt geld te gaan kosten). Ja, zo zijn er nog miljoenen anderen die precies hetzelfde doen, maar ik snap ook niet wat het nut daarvan is om dat te vermelden? Dat maakt de man niet minder verwerpelijk.

"Er is iemand vermoord" -> "och, dat gebeurd dagelijks" - alsof het daarom ineens niet meer boeit?

Idealiter vermijdt iedereen beursgenoteerde bedrijven, vanwege de perverse prikkels die die bedrijven dicteren, maar dat is in de praktijk niet realistisch.

@lenwar Idealiter kunnen er nog wel heel erg veel meer dingen heel veel beter, maar we leven niet in een fantasiewereld. Dus zo'n houding van "laat ze maar doen, men zou ze moeten negeren" gaat gewoon niet op en is gewoon kortzichtig.

[Morress]

Ik zie het niet als standaard gedrag.

Ik denk zeld dat het standaard gedrag lijkt omdat men dit soort nieuws te zien krijgt, maar het is niet nieiwswaardig wanneer een bedrijf kiest voor het juiste en dus missen we perapectief.


Wat wél helder is, is dat xai er -zoals standaard - weer op gegokt heeft en nu de keutel intrekt.

[Ricco02]

Ligt eraan. Als mensen het niet meer benoemen, dan ben je het in de doofpot aan het stoppen.

Lijkt mij ook niet erg handig. Er moet juist meer gesproken worden over dit standaard gedrag van bedrijven.

[GrooV]

Is dat zo? Op facebook zijn er anders nog steeds vrij stricte richtlijnen over wat je mag posten. En bij YouTube krijg je gelijk een strike als het ze niet bevalt. Het is juist specifiek X en Musk die overal schijt aan hebben want dat is lollig

[lenwar]

Klopt. Maar het mes snijdt aan vele kanten: Facebook is op andere vlakken weer fout bezig. Facebook heeft maling aan iedereen z'n privacy. Pas als dat gedrag ze in de buidel gaan raken, zullen ze hun gedrag aanpassen. Pas als hun beperkingen van wat je mag posten, hun in de buidel gaat raken, zullen ze hun gedrag aanpassen.

[Horla]

Jouw reactie laat uitschijnen dat X en Musk geen maling heeft aan de mensen hun privacy...

[Zoop]

Het is juist specifiek X en Musk die schijt heeft aan je privacy en rechten want dat is lollig

Fixed that for you.

[R_Zwart]

Als het standaard is: doen jullie dat op het werk ook zo?

[Blokker_1999]

Een bedrijf moet niet beursgenoteerd zijn om zich schuldig te maken aan dit soort van acties. Het is net ons kapitalistisch systeem dat aanzet tot dit soort gedrag. En zelfs wij. als individu, zijn sneller gemotiveerd om iets (niet) te doen als we er financieel voordeel uit halen.

[lenwar]

Dat schrijf ik ook niet. Ik zeg 'zeker wanneer'. Het is niet uniek voor beursgenoteerde bedrijven, maar beursgenoteerde bedrijven zijn echt alleen maar bezig met kwartaalcijfers. B.V. en dergelijke uiteraard ook, maar veelal in mindere mate. Daar is een langetermijnversie meer van belang. Zeker wanneer de B.V. binnen een familie is/blijft.

[curkey]

Heeft niks met kapitalisme te maken maar meer de menselijke psyche. Mensen zijn eerder geneigd dingen te doen die hunzelf voordeel oplevert, want dat verbetert je kansen om te overleven. De afweging of het groepsvoordeel gaat boven individueel belang, dat is iets wat per persoon verschilt.

[Dalyxia]

En die menselijke psyche zonder regulering is wat kapitalisme aandrijft?

Het heeft dus vooral ook met kapitalisme te maken. Alles voor het geld, zonder zelfregulering door normen en waarde, moraal, respect etc

[demianmonteverd]

Google, was helemaal niet blij toen hun bert model verkeerde dingen deed. Meta zelfde. Als je microsofts eigen trainingen volgt, die ze voor azure maken, dan kun je het aantal maal dat het over het voorkomen van misbruik van ai gaat niet eens tellen.

De reactie van grok is wel echt anders.

[PatrickH89]

Ben ik het niet mee eens. Het is een keuze om zo onethisch te handelen als Musk doet. Er zijn heel veel bedrijven die dit beter doen.

[Martinez-]

Zie je niet hoe bizar je reactie is? Ik vind het bijzonder dat we het van beursgenoteerde bedrijven klaarblijkelijke accepteren dat ze ethische en morele kwesties volledig aan de zijkant kunnen schuiven t.b.v. hun omzet.

Een gezond bedrijf zorgt voor een goede evenwicht in deze aspecten en gaat niet eenvoudigweg blind voor omzet. Dat gaat ze hopelijk veel omzet en klandizie kosten.

[lenwar]

Klopt absoluut. Het is te bizar voor woorden. Maar ook dit kunnen we breder trekken. De maatschappelijke acceptatie van het gebruik van harddrugs in de vorm van nicotine en alcohol. Beiden zijn pure vergif en verslavend. Er is een idiote wereldmarkt voor deze twee producten. En dat terwijl er gigantisch veel mensen verslaafd zijn (je zou kunnen stellen dat als je niet meer weet wanneer je voor het laatst 7-8 dagen achter elkaar geen alcohol/nicotine hebt genuttigd, dat je wel een verslavingsprobleem hebt), en daarmee hun lichaam verzieken.

Maar ja. Dit is hetgeen dat beursgenoteerde bedrijven voedt. De aandeelhouders hebben aandelen om geld mee te verdienen. Niet omdat ze per se in het bedrijf geloven. Als een ander bedrijf meer geld opgeleverd had in dat kwartaal, hadden ze daar hun centen op gezet.
Bij BVs is dit grotendeels anders. Daar zit men vaker (!!) voor de lange termijn. Uiteraard moet er winst gemaakt worden. Maar niet ten koste van alles.

[Hertog_Martin]

De ophef is vooral een boel reclame voor ze

[FerrisRyner]

Inderdaad wat een ophef, bikini deepfakes, geïnteresseerden allemaal naar Grok.
Grok kan er ook filmpjes van maken, maar daar lijkt de niemand over te praten.

[The Zep Man]

Dit is dus het probleem, zo komen pas in actie zodra hun omzet in het geding komt.

Daar zit dus ook de oplossing. Met marktregulering kan het dus gestuurd worden. Maar dan moet men wel legale omkoping lobbyen aan banden leggen en bij nalatigheid ook persoonlijke straffen uitdelen aan uitvoerders en (eind)verantwoordelijken.

[Reactie gewijzigd door The Zep Man op 15 januari 2026 08:47]

[phoenix2149]

"Vrijheid van meningsuiting" en/of een "vrij ongemodereerd internet" is ontzettend belangrijk voor Muski totdat het hem geld gaat kosten of het hem niet bevalt.

Wanneer leren we nou dat we bedrijven (uitzonderingen daargelaten) niet kunnen vertrouwen want ze denken enkel aan een paar dingen. Winst en aandeelhouders zijn de top 2 de rest is ondergeschikt.

[Oudecomputer]

Heeft u een auto? Hoe hard kan deze auto? Meeste fabrikanten fabriceren auto's die hard gaan ver voorbij veilige snelheden. Worden deze fabrikanten gevraagd hun auto te limiteren op snelheid? Nee . Wie krijgen boetes bij fout gebruik van de auto? Bestuurders en eigenaar van de auto. Hoeveel landen hebben autos verbannen of snelheid gelimiteerd. 0! Wat hebben ze wel gedaan regelgeving gemaakt, handhaving en misbruik bestraft.

[wimjongil]

Wat probeer je met deze vergelijking te zeggen? Dat een bestuurder volledig verantwoordelijk is voor het gebruik van de auto en niet de fabrikant? Dan heb ik een nieuwtje voor je: een auto moet oldoen aan bepaalde veiligheidsregels, emmissienormen etcetera.

[Horla]

En leg nu eens uit hoe de overheid zonder totale controle over je digitale toestellen, kan weten dat jij illegale beelden aan het genereren bent? Of is dit in jouw ogen toegestaan, net zoals dat racen op een privé autotrack toegestaan is?

[watercoolertje]

Musk claimde eerder geen enkel ongepast beeld te hebben gezien.

Dan heeft ie andere normen en waarden dan de meeste mensen en/of zijn ogen dicht gehouden...

Feit dat ie het eerst nog achter een betaalmuur ging plaatsen spreekt helaas voor het gebrek aan normen/waarden, wilde er ook nog een zakcentje aan verdienen ook!

[Reactie gewijzigd door watercoolertje op 15 januari 2026 07:45]

[lenwar]

Of hij heeft ze daadwerkelijk niet gezien, door gebrek aan interesse. Ik heb er zelf ook niets van gezien. Ook niet naar gezocht.

En wat ongepast is, kan inderdaad per persoon verschillen. Ik denk dat het seksualiseren van beelden van kinderen een duidelijke is, maar een BN’er in z’n onderbroek ‘shoppen’. Is dat ongepast, of slechts ‘kinderlijk/stom’?

[S-1-5-7]

Sommige proberen ook echt alleen recht te praten wat krom is he...

Elon Musk has hit back at Keir Starmer saying the UK “just want to suppress free speech” and reposting a fake AI image of the prime minister wearing a bikini [1]

Dat het kinderlijk/stom is zal wel kunnen, maar moet je het dan ook maar faciliteren?

[lenwar]

Dat het kinderlijk/stom is zal wel kunnen, maar moet je het dan ook maar faciliteren?

Valide punt. Hier geldt dan wel weer. Vanaf en tot waar moet je het tegengaan. Dat is denk ik een grijs gebied. Een BN'er in z'n ondergoed zou je inderdaad misschien willen tegengaan. Een BN'er in zwemkleding misschien ook? Een BN'er in een gek pakje (verkleed als tovenaar/konijn) misschien niet? Een BN'er die bekend staat als supporter van Ajax bij De Kuip moet denk ik wel kunnen? Op een gegeven moment is het misschien 'satire' of 'lollig doen'?

Het is lastig. Het primaire gedoe met die ondergoed foto's is denk ik, dat het in bepaalde landen (voornamelijk de VS), principieel gevoelig ligt, en dat de media het daar graag aandikt. Sterker nog. Misschien heeft de Amerikaanse media er meer moeite mee, dan het merendeel van de bevolking? (ik zou het niet weten.)

[pegagus]

Volgens mij bestaat er zoiets als portretrecht. https://www.auteursrecht.nl/auteursrecht/portretrecht

Het heeft helemaal niets van doen met "moet wel kunnen" of "lollig doen". En het heeft alles van doen met iemand anders portreren dan dat diegene zichzelf voordoet. Pesten is voor de pester ook heel lollig. Voor degene die gepest wordt niet.

[LooneyTunes]

Nou, dan kunnen (politieke) cartoonisten ook wel inpakken.
Ik geloof niet dat er ooit één politicus iets geclaimd heeft naar aanleiding van een cartoon i.v.m. 'portretrecht'.
Het gereedschap is veranderd en niet meer afhankelijk van de skills van de maker.

[pegagus]

Dat spotprenten mogen worden gemaakt, doet toch niets af van het portretrecht? Er is gewoon een wettelijk kader. Bij spotprenten gaat het nooit om de persoon en altijd om de functie van de politicus.

[LooneyTunes]

Ik denk dat Lubbers en Van Agt daar toch heel anders over dachten.
Die zijn persoonlijk toch heel wat door de mangel gehaald en niet alleen voor hun functie.

Spotprenten zijn van alle tijden.
Alleen was dat vroeger een ets, daarna een (bewerkte) foto van negatieven, daarna "paint" en later fotoshop.
Het gereedschap is anders geworden.
Een AI afbeelding van Starmer in een bikini is domweg een spotprent gemaakt met modern gereedschap in plaats van photoshop-skills.

Tenzij Starmer natuurlijk een geheime bikini-fetisch heeft die hij niet aan de grote klok wil hangen /s.

[Stoney3K]

Fotorealistische afbeeldingen zijn nooit behandeld als 'spotprent'. Ook niet als ze als een lollige meme bedoeld zijn, want spotprenten zijn duidelijk bedoeld als satire, en cartoonisten maken niet voor niets van iemand een karikatuur en geen foto.

Een spotprent is namelijk niet alleen komisch maar ook maatschappijkritisch, en daarom heeft een spotprent ook een journalistieke functie. De smoel van Dilan Yezilgoz op een bikini-model photoshoppen heeft dat niet, ook niet als je dat met één of andere AI doet.

[pietvelleman]

Hier op Tweakers werd een paar dagen geleden een oproep gedaan om massaal naaktbeelden van Trump en zijn entourage te maken en te verspreiden via X. (link).

In plaats van ophef, en afkeur leidde dat tot een +1.

En Tweakers faciliteert dit soort oproepen. De post werd niet verwijderd.
Of is dat 'heeeeeeel anders' en 'toootaaaaal niet vergelijkbaar'?

Ik vind alle ophef hier op Tweakers zo ongelofelijk hypocriet.
Op zichzelf worden er valide punten ingebracht en terechte zorgen geuit, maar door de eenzijdigheid gaat elke vorm van geloofwaardigheid verloren.

Exact hoe Wilders en de PVV zich alleen druk maken om vrouwenrechten, om daarna de Islam te bashen.
Pure armoe...

[Caelorum]

Ah, en even voor jou de vraag: Zijn de mensen die die +1 geven ook de mensen die er ophef van maken? Ik verwacht dat er wel enige overlap is en dat die mensen dus hypocriet zijn, maar om nou te gaan generaliseren en de hele community als hypocriet af te schilderen is wel ook echt een mentale noodgreep.

[pietvelleman]

Het gaat mij niet om die ene +1.
Het gaat mij ook niet om die ene reactie die positief was.

Het gaat er vooral om dat niemand even de moeite nam om te zeggen: gast, waar ben je mee bezig! Ik lees vele 100en reacties de afgelopen weken hoe erg het is wat Musk doet en hoe erg het is om naaktbeelden te verspreiden. En vervolgens doet iemand een oproep om naaktbeelden te maken en te verspreiden en iedereen zwijgt...

Dus ja, al die 100en mensen die hier regelmatig posten en die deepfakes erg vinden, maar zwegen bij die oproep, zijn extreem hypocriet.

En dat is zeker niet de hele community. Maar wel een groot deel. Hoe groot? Geen idee.

Maar wat is jouw mening? Moet Tweakers dit soort oproepen wel faciliteren? Moet degene die dit poste verwijderd worden? Moet de post verwijderd worden? Of vind je dit toch echt heeeel anders....

[Caelorum]

Nee, maar ik vraag me ook af of het een groot deel is. Ik lees hier bijv. het artikel, lees dan de comments, plaats eventueel een andere comments en open daarna het artikel nooit meer, tenzij iemand rechtstreeks op mijn comment reageert.

Als iemand dan nadat ik het artikel heb gelezen zo'n bericht plaatst heb ik er weinig mee te maken. Dat geldt voor anderen natuurlijk net zo.

[R_Zwart]

Er zijn natuurlijk wel grote verschillen per land. In Nederland kan je gewoon gepubliceerde foto's vinden van al dan niet bekende mensen (met hun consent) die in de VS 18+ (of op z'n minst 16+) zouden zijn.

Ik weet niet wat de Zuid-Afrikaanse cultuur is op dit gebied.

[GrooV]

Als het niet meer duidelijk is dat het de foto van de BN'er nep is (bijv. door een slechte photoshop) dan wordt het al snel smaad, niet alleen ongepast dus maar ook strafbaar

[arjankoole]

Ja, dat is ongepast. En ze doen 't niet alleen met BN'ers.

[demolition_man]

Wat Musk had gepost was "not aware of any naked underage images generated by Grok. Literally zero."

Dat tweakers er dan ongepaste afbeeldingen van maakt en de lezers dan denken dat het om bikini fotos gaat ligt dan meer aan hoe de media het wil framen.

[DesertFoxNL]

Exact dit. Tweakers is een mooi voorbeeld voor de eigen lijn van 'ongepast' . Vroeger lag iedereen topless op het strand. Tegenwoordig niet echt meer. Cultuur, social media en toegang tot makkelijke camera etc. Een combi. Maar 'seksuele deepfakes' dat eigenlijk alleen gaat over bikini-gate. Meningen verschillen over het strand van Nederland. Ik weet dat stranden wellicht niet de favoriete plekken zijn om te hangen als 'Tweaker'. Maar dan kom je een hoop Seksuele beelden tegen met mensen in bikini.

[kaas-schaaf]

Het grote verschil is dat de mensen op het strand er voor kiezen daar heen te gaan en zich zo te kleden. De generaties van eXtwitter zijn echter niet door de persoon zelf gemaakt. Het hele verhaal word verdraaid tot "wat is nu ongepast" terwijl het eigenlijk over toestemming moet gaan. Iets dat, in ieder geval in mijn ogen, enkel onder de bevoegdheid van de persoon zelf valt en niet derden.

[DesertFoxNL]

Dat laatste heb je volkomen gelijk in. Toch praat het het eerste niet recht in mijn ogen. Iets als 'Seksuele Deepfakes' neerzetten in een titel nota bene is al sturen naar een 'narrative'.

[Scriptkid]

maar dan moet je wel grok buiten de discussie laten en de discussie voeren op AI en internet.

Het is niet fair om 1 AI er uit te halen tewel er legio aan AI zijn die dit kunnen en aanbieden al dan niet zelfs gratis,

Maar ook tools voor foto bewerking kunnen dit heel makkelijk, gewoon hoofd verplaatsen op een ander lichaam etc.

[arjankoole]

Exact dit. Tweakers is een mooi voorbeeld voor de eigen lijn van 'ongepast' . Vroeger lag iedereen topless op het strand. Tegenwoordig niet echt meer.

weer iemand die nooit geleerd heeft wat 'consent' betekend.

[DesertFoxNL]

Als je begrijpend kan lezen...

Ik leg uit hierboven dat hij over het laatste gelijk heeft. Dit is doelende op de zin: 'terwijl het eigenlijk over toestemming moet gaan. Iets dat, in ieder geval in mijn ogen, enkel onder de bevoegdheid van de persoon zelf valt en niet derden.' .

Dus ik neem aan dat kaas-schaaf het over hetzelfde heeft, namelijk 'consent'.


Fijne dag Arjan

[Horla]

Ik zou het ongepast vinden als mijn 12-jarige dochter opeens in bikini op het internet staat terwijl ze dit nooit heeft gedragen (zelfs nu ze 15 is, draagt ze nog steeds - uit eigen keuze - een badpak). Met een beetje gezond verstand kan je toch bedenken dat er een enorm verschil is tussen een foto nemen van iemand die een bikini draagt en een persoon digitaal uitkleden? Dat dit bij minderjarigen ook kon maakt dit gewoon nog veel erger.

Als je dat verschil niet kan zien, dan ligt je persoonlijke moraliteit gewoon al in de goot.

[DesertFoxNL]

Wederom, ik noem het plaatsen van een minderjarige niet als gepast. Daar is ook op ingegrepen, en volkomen goed gehandeld. Echter bikini foto's van meerderjarigen met consent bewerken met AI. Moet geen issue zijn.

Andere onderwerp is 'seksuele deepfakes'. Naar die kern teruggaan geeft blijkbaar een shitload aan verschillende inzichten. Zoals ik merk aan Horla en Arjan, die dat frame vinden passen. Anderen vinden bikini foto's van volwassenen blijkbaar minder aanstootgevend en niet boeiend.

[Martinez-]

En het ergste is nog: met elk slap excuus wordt het steeds meer afgedaan als 'foutje, bedankt' en we gaan verder na een minimale boete. Het is een tactiek die steeds meer door dit soort bedrijven wordt gehanteerd en waarmee de morele grenzen steeds meer verplaatst worden.

Wanneer gaan we dergelijke tactieken eens goed afstraffen in de plaats van de gebruikelijke foei? Ik hoop echt dat de diverse landen nu doorpakken tegen X/Grok/XAI en laten zien wie hier de baas is: en dat zijn niet de zogenoemde Techbro's.

[Afloatcoin]

Makker staat op de Epstein lijst, hij heeft geen normen en waarden.

[pretraket]

“Ten slotte stelt hij dat het kwaadwillend hacken van Grok kan leiden tot 'iets onverwachts'. "Als dat gebeurt, fixen we de bug onmiddellijk."”


Deze man kan toch niet serieus genomen worden? Gebruikers kunnen de bot gemakkelijk gebruiken om mensen uit te kleden. En nu zou dat komen omdat ze via tweets grok moeten kunnen hacken?

[iqcgubon]

Musk claimde eerder geen enkel ongepast beeld te hebben gezien

Fucking hell, hij heeft ze zelf nog liggen retweeten. Elon Musk hits out at Keir Starmer after reposting AI image of PM wearing a bikini | The Standard

Ze waren lange tijd gewoon publiek zichtbaar door simpelweg grok te taggen in een Tweet.

De miljardair schrijft specifiek over beeld van naakte minderjarigen.

En zo blijven de goalposts maar verplaats worden. "Naaktbeelden van minderjarigen?! Nooit gezien!" Daar ging het niet over, het ging over bikini-foto's van (al dan niet) volwassen vrouwen.

Wordt het niet eens stillaan tijd voor een nieuwe Franse Revolutie? Geschiedenis is een cirkel, en we zijn weer aanbeland bij de situatie waarbij een handvol rijke klootzakken denken de wereld te kunnen beheersen.

[Martinez-]

De update die doorgevoerd is om 9.13u is geen kleintje. Meneer Musk acteert alsof hij van niets weet, maar voert tegelijkertijd een geoblokkade in, in de plaats van een algehele blokkade.

Dat versterkt het idee dat hij het nog steeds niet moreel verwerpelijk vind, behalve als die ergens straf kan krijgen.

[Janusi]

Sorry, maar als je iedereen een pistool geeft kan je niet meer zeggen dat alleen het publiek verantwoordelijk is voor wat zij met die pistolen doen.

Jij hebt ze allemaal een pistool gegeven, wetende dat een percentage van de ontvangers het zullen misbruiken. Want alleen een ongelooflijke stommerd zou dat niet inzien.

[SuperDre]

Tuurlijk kan je dat wel zeggen, de hele wapenindustrie draait daar juist op. De eindgebruiker is de culprit hier, die publiceert/deelt de betreffende foto's, en is in mijn ogen niets anders dan dat iemand photoshop gebruikt om het hoofd van persoon A op het lichaam van persoon B te plakken, alleen is Grok dan meer photoshop, en photoshop dan meet MS paint1.0

[multikoe]

Dat argument werkt alleen als je er van uit gaat dat iedereen voldoende toerekeningsvatbaar is en ook voldoende volwassen om de gevolgen van zijn/haar acties te overzien.

In de praktijk gaan we daar nooit van uit. Alleen al het feit dat we personen onder de 18 jaar geen stemrecht geven, personen onder de 16 jaar geen rijbewijs en het feit dat we ouders financieel verantwoordelijk laten zijn voor alle kinderen jonger dan 21 jaar.

De aanname is bij wapens en in dit geval bij Grok: hoe toegankelijker je een gereedschap maakt, hoe vaker het gebruikt gaat worden. Als je vooraf weet dat het gebruik schadelijk kan zijn, accepteer je dus het toegenomen risico voor de maatschappij. En daarmee ben je in ieder geval deels verantwoordelijk.

Wij laten TBS'ers op verlof gaan. Als het dan fout gaat is het in de publieke opinie altijd de schuld van de overheid. Is dat niet hetzelfde?

[Janusi]

Ik gebruikte de analogie van een vuurwapen om een reden.

Dit gen AI tool maakt het heel makkelijk om seksueel getint materiaal te maken van zowel vrouwen als kinderen. Dit veroorzaakt grote schade aan de personen die niet de opdracht aan de AI geven.

Ook een vuurwapen maakt de daad van doden heel gemakkelijk, en het zijn de mensen die niet de trekker overhalen die de grootste schade ondervinden.

Daarom hebben we voorwaarden gesteld als maatschappij, moet je een vergunning hebben voordat je een vuurwapen mag bezitten. Of training krijgen als je een vuurwapen ontvangt als onderdeel van je baan.

Als iemand iedereen een pistool gaf, ongeacht wie zij zijn of hoe oud zij zijn, of wat zij met dat pistool gaan doen. Dan zal de politie heel snel op de stoep staan.

Waarom zou dan het wel okay zijn dat Musk dit gereedschap zo maar mag distribueren ongeach alle schade die het aanricht?

[freespeech_nl]

Allemaal leuk en aardig, maar de techniek bestaat inmiddels. Je kunt dit ook lokaal doen met allerhande image generators. Het verschil is dat we het nu gaan verbieden omdat het heel gemakkelijk op X gedeeld kon worden. De volgende minder bekende AI dienst zal dit gat gewoon gaan opvullen.

Het enige wat dit kan tegenhouden zijn de normen en waarden van mensen zelf. En dan dus niet de "ik wil niet dat jij dit kunt" normen en waarden maar de intrinsieke "ik wil dit niet want ik vind het ongepast" normen en waarden.

Ik snap de ophef, maar ik vind het echt een storm in een glas water.

[ErikT738]

Het verschil is dat Elon het te makkelijk maakte en actief promootte. Hij droeg actief bij aan de erosie van de normen en waarden die je noemt.

[iew]

Ik zie op Youtube al instructie video's voorbij komen waarmee naar bepaalde AI open source software word gehint die je op een redelijke PC al kunt gebruiken om dit te doen met video's, p0rn video's dus waar ze zo iemands gezicht en zelfs de stem van de persoon er zo in maken.

Gewoon lokaal op je eigen PC, er word haarfijn in uitgelegd wat je er voor nodig hebt en hoe dat te doen.

En dan denk ik bij mezelf: 'Je gaat mij niet vertellen dat de politiek en waakhonden dit niet van te voren hebben zien aankomen i.v.m. AI'

Hier in de Nederlandse politiek zijn ze vooral weer aan het praten, praten, praten, maar er gebeurt niets, alsof ze weer op de EU zitten te wachten of ze er daar iets aan gaan doen. (dat denk ik dan)

ook v.w.b. 'social media platforms' vind ik dat ze er ook achter de wagen aan lopen, vanaf het begin al, het moet eerst uit de klauwen lopen terwijl je het eigenlijk ruim van te voren al hebt kunnen zien aankomen. Of weten de 'deskundigen en experts' alleen achteraf alles zo goed te vertellen...?! Achteraf is het makkelijk kletsen.

Net als het achteraf geschokt zijn, verschrikkelijk vinden en afkeuren etc. maar vervolgens niet snel en hard in grijpen, direct de kop in drukken. Alsof er eerst weer geld verdiend moet worden met boetes geven en het weer eeuwen gaat duren voordat het eens echt keihard aangepakt word, als dat al gebeurt.

Een extra gevolg is dat nu al die tech reuzen vulgair rijk hebben kunnen worden en nu enorm machtig zijn geworden met al hun lobby's.

En nu ? Ik weet het niet, wat ik wel weet is dat het moet stoppen !

[ErikT738]

Gewoon lokaal op je eigen PC, er word haarfijn in uitgelegd wat je er voor nodig hebt en hoe dat te doen.

Een tutorial volgen is voor veel mensen al veel te moeilijk.

[Metian]

Voor de gemiddelde huis-tuin-en-keuken gebruiker is lokaal regelen geen optie, het vergt simpelweg te veel moeite of kennis.

Het echte probleem ligt bij platform X. Ze maken het zo eenvoudig dat de drempel om iets voor elkaar te krijgen volledig is verdwenen. Een simpele reactie waarin je Grok benoemde, was al voldoende om iets voor elkaar te krijgen.

De huidige tegenwerking is niets anders dan een politiek machtsspel. Sommige landen uiten twijfels of zorgen, en als gevolg daarvan wordt de dienst daar geblokkeerd. Tegelijkertijd blijft toegang via andere landen wel gewoon mogelijk.. Ofwel de een kan het niet, de ander kan het nog wel gewoon doen.

Zie ook de reactie van Jerisson voor meer context.

[CH4OS]

Totdat het jouw kind is dat met deepfakes op internet staat, omdat iemand anders dat "leuk" vond...

[Reactie gewijzigd door CH4OS op 16 januari 2026 00:34]

[freespeech_nl]

Mijn kind staat niet met foto's op internet, dus dat wordt lastig. En dan nog zijn ze dus niet echt.

Daarbij stoor ik me er mateloos aan dat andere mensen hun gebrek aan principes op mij projecteren. Dat is ook vaak met met gesprekken over vrijheid van meningsuiting, (groeps)belediging, etc.: ja, totdat jij het slachtoffer bent.

Neen, ik kies er voor consequenties te accepteren voor wat ik als voorwaarden acht om vrij te kunnen zijn. En dan zijn neppe kinderfoto's eigenlijk wel een goed voorbeeld. Want de meest bizarre regels volgen vaak uit "pedofilie of terrorisme". Die beperken mijn vrijheden, maar lossen het probleem niet op.

Het niet meer kunnen genereren van foto's op Aai lost geen enkel probleem op. Er zijn tientallen andere tools die dit al doen.

Zoek ook maar eens op "chatcontrole". Ik ben benieuwd hoeveel pedo's zich aan de wet gaan houden en hun pedo communicatie laten ontsleutelen door de instanties...

[CH4OS]

Ik sprak dan ook vooral hypothetisch, wanneer het wel gebeurd zou je denk ik ook wel roodgloeiend zijn. Dat heeft dus niets met mijn principes te maken, maar ik deed dat gewoon om een voorbeeld te geven wanneer je absoluut niet blij zou zijn.

Ik zal heus niet van anderen (ongeacht leeftijd) deepfakes maken in wat voor context dan ook, maar er zijn anderen die dat wel doen, want humor, of andere gedachten erbij.

Hoe jij omgaat met de voorwaarden en principes is aan jou, voor anderen is dat dus weer anders (anders staat jouw kind bijvoorbeeld niet met een deepfake op een social / het internet).

Het internet is groter dan jouw eigen bubbel en iedereen doet erop wat diegene wil, zoals dus foto’s van jouw kind door AI halen en dan ineens dingen laat doen die niet wenselijk/legaal zijn.

[Reactie gewijzigd door CH4OS op 16 januari 2026 10:26]

[JAHRASTAFARI]

Positief gezien, kan iedereen nu zeggen dat uitgelekte of gehackte sexbeelden slechts AI is.

[Standeman]

De vraag is of je toekomstige werkgever dat ook gaat geloven.

[iqcgubon]

Even los van de hele discussie: Een toekomstige werkgever heeft er toch absoluut geen zaken mee of iemand al dan niet na de uren pornografisch materiaal publiceert?

[thedicemaster]

in geval van iets als een kantoorbaan, kassamedewerker, bouwvakker, etc. maakt het niet uit.

maar voor bijvoorbeeld leraar/lerares of acteur/actrice in een kindershow kan het bestaan van publiek beschikbaar pikante fotos problematisch zijn.

[iqcgubon]

Ook dan zou wat jij in je privé doet geen fluit mogen uitmaken.

[Horla]

Dat klopt niet en er zijn absoluut juridische uitspraken over te vinden. Je kan perfect ontslaan worden omdat je niet loyaal bent aan je werkgever op sociale media. Ook als je bv "het gezicht" van het bedrijf of dergelijk bent, is zeggen dat het een privé is geen absolute bescherming.

[Seal64]

Als we die stelling even gaan chargeren zou een politieagent in zijn vrije tijd cocaïne mogen snuiven, het wetboek van strafrecht mogen verbranden en gaan paraderen met de vlag van Palestinië?

[iqcgubon]

Is porno produceren illegaal dan?

[whiner]

Zou niets mogen uitmaken nee, maar dat gebeurd toch.
Genoeg andere redenen die je kan verzinnen om iemand toch niet aan te nemen.

[TV_NERD]

Drie minuten geleden even geprobeerd n.a.v. dit nieuwsbericht, met foto's van mezelf en mijn verloofde.

• Ik kan nog steeds mensen uitkleden via "edit image"
• Ik kan nog steeds mensen andere sensuele posen laten aannemen via "edit image"
• Ik kan ons elkaar nog steeds laten uitkleden via "imagine" met bewegende beelden van 6 seconden.
• Ik kan ons elkaar nog steeds laten zoenen en laten uitkleden tegelijk via "imagine" met bewegende beelden van 6 seconden.

Ik weet niet over welke Grok Elon Musk het heeft, maar het is niet de versie op mijn telefoon

edit:
@jerisson grappig, ik woon in de EU maar niet in NL/BE/DE. Bedankt voor de toevoeging!

[Reactie gewijzigd door TV_NERD op 15 januari 2026 09:17]

[jerisson]

De blokkade hangt af van de regio waarin je je bevindt. Is het illegaal in dat land/regio, dan wordt het geblokkeerd. Ik weet niet hoe dit in België of Nederland is.

Bron: https://x.com/Safety/status/2011573102485127562 (zie puntje "Geoblock Update")

Misschien nuttig om toe te voegen in het artikel, @JaspB ?

[JaspB]

Ah, zeker nuttige toevoeging! Dank voor het melden.

Mvg,

Jasper

[Vexxon]

En daar is totaal niets mis mee. Wat jij met die plaatjes gaat doen dat bepaalt of je strafbaar feit gaat begaan of niet.

Het maken van die afbeeldingen is op veel plekken een strafbaar feit. Als je als groot bedrijf daarop gewezen moet worden en je er dan ook niets aan wilt doen dan is dat schandelijk?

[Oudecomputer]

Afbeeldingen maken is niet strafbaar. Het publiceren van deze afbeeldingen kan strafbaar zijn onder bepaalde omstandigheden. Zelfde geld als eigenaarschap van een auto , autorijden is niet strafbaar zolang jij je binnen de wetten doet houden.

[Vexxon]

Afbeeldingen maken is niet strafbaar.

Het is wel degelijk strafbaar in Nederland om zonder toestemming van de persoon in kwestie via AI (deepfake) of anderszins te laten genereen ook al publiceer je deze foto niet:

1. Strafrecht: seksuele deepfakes

• Het maken van AI-gegenereerde naaktbeelden van iemand zonder hun toestemming is in Nederland strafbaar. Je kunt hier zelfs tot twee jaar gevangenisstraf voor krijgen – ook al publiceer je de afbeeldingen niet.
• Daarnaast is bezit van deze beelden eveneens strafbaar, ongeacht of ze gedeeld worden.

[Oudecomputer]

Heb je ook een link/ bron? Want na mijn weten is het gebruik van gezicht en stem in een deepfake, is met het strafrecht alleen aan te pakken als er andere delicten mee gepleegd worden, zoals afpersing, belediging, onvrijwillige sexting, stalking, etc.