Grok gemeld bij Franse autoriteiten voor maken deepfakes en kindermisbruikbeeld

Franse ministers hebben bij justitie en de mediatoezichthouder Arcom melding gemaakt van illegale content die door xAI's Grok gegenereerd zou zijn. Het gaat om deepfakes zonder toestemming van de afgebeelde persoon en kindermisbruikmateriaal. XAI reageert niet op vragen.

Volgens Reuters is de melding door de Franse ministers een reactie op een recente trend waarbij afbeeldingen van mensen, waaronder van kinderen, via het platform X aangepast worden. Het gaat veelal om het verwijderen of veranderen van kleding met als doel om de afgebeelde persoon te seksualiseren.

Het medium vond binnen tien minuten ruim honderd pogingen van gebruikers om met Grok afbeeldingen aan te passen zodat de afgebeelde mensen een bikini leken te dragen. In een vijfde van de gevallen zou het AI-model het verzoek volledig hebben uitgevoerd. In nog eens zeven gevallen zou Grok de opdracht gedeeltelijk hebben uitgevoerd, door bijvoorbeeld kleding tot aan het ondergoed te verwijderen.

Volgens de Franse ministers is deze content illegaal onder de Digital Services Act. Ook het Indiase ministerie van Elektronica en informatie technologie heeft X aangesproken op de vermeende illegale inhoud. Grok-maker xAI reageert niet inhoudelijk op vragen van journalisten en antwoordt standaard 'Legacy Media Lies'. Ook ceo Elon Musk heeft niet inhoudelijk op de kritiek gereageerd.

Grok komt vaker in het nieuws vanwege het ogenschijnlijke gebrek aan goede filters en begrenzingen. Zo bleek het taalmodel nauwkeurige adresgegevens te kunnen genereren en gaf het eerder dit jaar controversiële antwoorden op onschuldige vragen. Ook andere chatdiensten blijken uit onderzoek van Tweakers bij onderwerpen zoals zelfdoding ongewenste antwoorden te geven.

Reacties (214)

[supersnathan94]

Ik wilde toch even reageren op de hoofdthread omdat ik zie dat er veel verwarring ontstaat over de legaliteit van dingen. Ik zie dat veel mensen zeggen dat het materiaal illegaal is, maar dat is helemaal niet zo hoor.

Deepfakes

Deepfake wetgeving is in de maak in NL, maar DeepFakes zijn niet per definitie strafbaar. In Nederland geldt namelijk strikt het legaliteitsbeginsel: iets is alleen strafbaar als het expliciet en voldoende duidelijk in de wet is opgenomen. Morele afkeuring, maatschappelijke onwenselijkheid of het gevoel dat iets “niet zou mogen”, zijn daarvoor simpelweg onvoldoende. Je begeeft je met zo'n stelling echt op glad ijs:

Het maken of verspreiden van een deepfake is niet automatisch strafbaar in Nederland. De wetgeving vereist dat een handeling duidelijk in de wet staat omschreven voordat deze strafbaar is. Dit heet het legaliteitsbeginsel. Of een deepfake strafbaar is, hangt af van hoe je deze gebruikt.

Gebruik je een nepvideo om iemand op te lichten of diens reputatie te schaden? Dan kan dit onder bestaande strafbepalingen vallen. De rechtspraak heeft nog maar weinig veroordelingen voor deepfakes gepubliceerd. Dit maakt het lastig om precies te voorspellen hoe rechters met deze gevallen omgaan.

Toepassing van smaad, laster en oplichting

Oplichting is vaak de meest voor de hand liggende strafbaarstelling bij frauduleuze deepfakes. Je pleegt oplichting als je iemand door listige kunstgrepen of het aannemen van een valse hoedanigheid beweegt tot het afgeven van geld of gegevens.

Een deepfake waarin premier Dick Schoof een investeringsplatform promoot, kan bijvoorbeeld als oplichting worden gezien.

Het aannemen van de identiteit van een bekende persoon via een nepvideo valt onder “het aannemen van een valse hoedanigheid.”

Smaad en laster komen in beeld wanneer een deepfake iemands goede naam schaadt.

Bij smaad beschuldig je iemand opzettelijk van iets waardoor zijn eer wordt aangetast. Laster gaat verder: je weet dat de beschuldiging niet waar is. De Welmoed Sijtsma-deepfake is een bekend voorbeeld waarbij de maker strafrechtelijk werd veroordeeld. Relevante artikelen in het Wetboek van Strafrecht. De belangrijkste wetsartikelen die je tegen deepfake-misbruik kunt gebruiken zijn:

Artikel 326 Sr: Oplichting, Gebruik van nepvideo’s om mensen te bewegen tot betaling of gegevensverstrekking

Artikel 261 Sr: Smaad, Deepfakes die iemands eer of goede naam aantasten

Artikel 262 Sr: Laster, Nepvideo’s met bewust valse beschuldigingen

Artikel 266 Sr: Belediging, Deepfakes die iemand beledigen zonder concrete beschuldiging

Deze artikelen bestonden al lang voordat deepfakes ontstonden. Rechters moeten daarom beoordelen of moderne nepvideo’s binnen deze oudere wetgeving passen. Het lex certa-beginsel vereist dat wetten duidelijk zijn, wat bij nieuwe technologie niet altijd eenvoudig is.

Kinderporno/CSAM

Wat betreft Digitale werken van kinderporno, dat is in heel veel landen niet illegaal. Ook in Nederland is dit een grijs gebied omdat het hier gaat om een digitale tekening. In Frankrijk is het wel illegaal en daar kun je ook voor een cartoon/tekening veroordeelt worden. Vandaar dat het daar nu een ding is. Wikipedia: Legality of child pornography Check vooral even goed wat er in de wet is opgenomen bij verschillende landen. Sta dan vooral even stil bij het feit dat Chat Control hier een gigantische invloed op gaat hebben qua legaliteit. Cartoons of gegenereerde afbeeldingen zijn daarmee ook strafbaar, maar tot die tijd zie je dan dus dingen zoals dit:

Albanië:
The production and distribution of child pornography is illegal in Albania, and is punishable by a prison sentence of three to 10 years.^[92] While the possession of "real" child pornography is illegal, there are no provisions for fictional forms.^[93]

Belarus:
Producing and distributing pornographic materials depicting a minor is illegal in Belarus, and punishable by up to 13 years in prison.^[100]The law does not criminalize simple possession or virtual forms of "child pornography".^[101]All forms of adult pornography are prohibited.

Bulgarije:
Child pornography and possession is illegal in Bulgaria. Penalty will be 1 year in prison or a fine of up to 2,000 leva^[106][107] Fictional forms such as "realistic images" or "virtual" representations are not included nor criminalized.^[106][108]

Denemarken:
Possession, distribution, and production of child pornography is illegal under Danish law. Penalties for the distribution of child pornography include up to a six-year prison sentence.^[112][113] Fictional forms are legal as there are no laws in Denmark which prohibit "pornographic" drawings of children.^[114]

Luxemburg:
Child pornography (including possession) is illegal in Luxembourg. An ongoing issue is that there is no clear definition for "child pornography" as highly sexualised pictures of children are sometimes considered perfectly legal.^[137][138] The law does not mention fictional forms leaving no data available.

En voor Nederland:

Child pornography and possession is illegal in the Netherlands per Article 240b of the criminal code. Penalty will be 6 years in prison or a fine of €82,000.^[146] The law also includes "realistic" images which are in a legal grey area, as judgements are made that vary from image to image.^[147]

In Nederland wordt er expliciet gesteld dat er een minderjarige "persoon" betrokken is bij de vervaardiging en een "persoon" is altijd een daadwerkelijk tastbaar iemand. Daar lijkt vooral het stuk misbruik dus leidend te zijn, wat ook wel terecht is, want dat is dus waar het om draait. In dat geval kunnen bestaande strafbepalingen alsnog van toepassing zijn, niet alleen op grond van kinderbeschermingswetgeving, maar ook via smaad, identiteitsmisbruik of andere delicten. Ook de context van verspreiding speelt een grote rol. Gebruik in een grooming-context, commerciële exploitatie of chantage zal vrijwel altijd tot strafbaarheid leiden, maar dan wel onder andere wetgeving.

Daarmee ontstaat inderdaad een grijs gebied bij volledig fictieve, digitale of getekende beelden waarbij geen enkel echt kind betrokken is geweest. Dat voelt voor veel mensen ongemakkelijk, maar juridisch is het logisch binnen een systeem dat misbruik wil bestrijden en niet gedachten of fantasieën criminaliseert. Zolang er geen sprake is van een herkenbare minderjarige, geen bestaand slachtoffer, en geen concrete schade, ontbreekt in Nederland de strafrechtelijke basis. Dat is een bewust gekozen afbakening.

De verwarring in discussies over Grok (of andere AI-modellen, want er zijn echt duizend apps die ook op platformen zoals Youtube worden gepromoot die dit doen) ontstaat vooral doordat mensen buitenlandse normen en morele intuïties projecteren op het Nederlandse recht.

AI maakt zichtbaar wat altijd al bestond: fictie, verbeelding en grensgevallen tussen realiteit en fantasie. Het Nederlandse strafrecht kiest er bewust voor om niet de technologie of het medium te verbieden, maar de schade, het misbruik en het slachtoffer centraal te stellen. Dat maakt het minder zwart-wit, maar juridisch wel consistent.

quote: https://tweakers.net/nieu...ction=21739078#r_21739078

De zin "een foto van een kind dat verkracht wordt" is niet illegaal. De foto die je ermee beschrijft wel.

quote: https://tweakers.net/nieu...ction=21739160#r_21739160

Grok Genereert CSAM, reken maar van yes dat ik daar de schuld voor bij hen neerleg.

@kiang, @Weiman, Onder Nederlandse wetgeving (en die van heel veel andere landen) is dat dus niet per se waar.

quote: https://tweakers.net/nieu...ction=21739798#r_21739798

Maar het produceren van virtuele kindermisbruik of breder, het seksualiseren van beelden met kinderen, is toch wel heel wat anders dan 'minder woke' en 'meer vrijheid', toch?

@lenwar absoluut waar, maar in veel landen (ook Europese) niet illegaal.

En om dan maar even terug te verwijzen naar deze post: https://tweakers.net/poll/868/virtuele-porno-strafbaar.html?showReaction=2488831#r_2488831

In vrijwel geen enkel Europees land is volledig fictief seksueel beeldmateriaal, dus zonder betrokkenheid van een echte minderjarige, universeel strafbaar. Alleen landen met een expliciet object-gericht totaalverbod (zoals Frankrijk) maken geen onderscheid tussen echt en fictief. In landen zoals Nederland is dat onderscheid juist essentieel. Daar is het strafrecht doelbewust ingericht rond misbruik, exploitatie en schade, niet rond het bestaan van een afbeelding op zichzelf. Dat betekent dat fictief materiaal juridisch in een grijs gebied kan vallen, hoe ongemakkelijk dat moreel ook voelt. Er zijn oprecht wel discussies en onderzoeken die aangeven dat fictief materiaal eigenlijk zo gek nog niet is, omdat het dus wel een bepaalde "kink" verzadigt, maar er geen misbruik is van daadwerkelijke minderjarigen.

https://tweakers.net/poll/868/virtuele-porno-strafbaar.html?showReaction=2490074#r_2490074

Deze reactie onderstreept dat ook nog een keer.

Chat control zet overigens die afweging feitelijk buitenspel. Door grootschalige, geautomatiseerde detectie van “CSAM-achtige” content wordt fictie functioneel gelijkgesteld aan echt misbruikmateriaal, terwijl de wet dat onderscheid nu juist wél maakt. Chat contro negeert die nuance grotendeels. Het uitgangspunt verschuift van “is dit materiaal strafbaar?” naar “kan dit materiaal mogelijk ongewenst zijn?”. Dat lijkt een subtiel verschil, maar juridisch is het enorm. Het betekent dat communicatie kan worden gescand, geclassificeerd en gerapporteerd zonder dat vaststaat dat er überhaupt een delict bestaat volgens het nationale recht van de betrokken gebruiker. Heel veel Rule34 spul gaat dan ineens vallen in een categorie waar men voorheen niet eens over na zou denken.

[Arnoud Engelfriet]

Help me even, hoe is artikel 254ba Strafrecht niet relevant hier?

Degene die

a.opzettelijk en wederrechtelijk van een persoon een visuele weergave van seksuele aard vervaardigt;

b.de beschikking heeft over een visuele weergave als bedoeld onder a terwijl diegene weet of redelijkerwijs moet vermoeden dat deze door of als gevolg van een onder a strafbaar gestelde handeling is verkregen,

wordt gestraft met gevangenisstraf van ten hoogste een jaar of geldboete van de vierde categorie.

Een deepfake van het soort "hey Grok take off her pants" op basis van een foto van iemand lijkt mij evident hier onder te vallen?

Ik snap wat je zegt over de deepfake in het algemeen, maar in deze context lijkt het me vrij duidelijk dat we het hebben over seksualiserende deepfakes en niet een grappig plaatje van Dick Schoof die Gangnam Style danst.

[Veyrah]

Je antwoord op iemand die wat extra context probeert te geven. Hoe kijk jij bijvoorbeeld naar volledig gegenereerde afbeeldingen, waar dus geen anderen bij betrokken zijn?

[Arnoud Engelfriet]

In 2013 oordeelde de Hoge Raad (HR 12-03-2013, ECLI:NL:HR:2013:BY9719) dat ook virtuele CSAM-afbeeldingen strafbaar zijn onder het oude artikel 240bis Strafrecht, als het "een realistische afbeelding van een niet-bestaand kind" is. Het argument daarbij is dat het bijdraagt aan normaliseren van aanranding van kinderen, of zelfs voor grooming geschikt.

Artikel 240bis is nu vervangen door artikel 252, dat dezelfde formulering ("een persoon die kennelijk de leeftijd van achttien jaren nog niet heeft bereikt") gebruikt. Deze HR-interpretatie is dus nog steeds geldend recht.

Een volledig virtuele afbeelding met een volwassene is niet strafbaar, aangenomen dat de volwassene niet daadwerkelijk bestaat. Het criterium van 254ba is immers dat de weergave "van de persoon" is. Dus een gerenderde gelijkenis is genoeg om onder het artikel te vallen, mogelijk is verdedigbaar dat toevallige gelijkenis niet genoeg is omdat de wet "opzettelijk" genereren eist. Dus opzet op het laten lijken. Bij de "hey Grok take her pants off" prompts is daar evident sprake van.

[supersnathan94]

Dat is in de bredere zin absoluut relevant denk ik, maar Ik ging nu vooral even in over de algehele "DeepFake", wat dus niet per se illegaal is en de fictieve kinderporno dingen, die in heel weinig landen daadwerkelijk illegaal zijn.

Het probleem met 254ba is dat er door serieus grote platformen actief op gepushed wordt zonder dat hier daadwerkelijk handhaving op plaatsvind. Zoals ik in een andere post ook al aangaf, onder andere Youtube promoot hier allerlei apps actief voor.

Dit soort wetten kun je echter alleen op handhaven door de aanbiedende kant aan te pakken zoals Frankrijk dat nu doet. In privé situatie kan men een heel archief aanleggen zonder dat iemand daar ooit wat van doorheeft natuurlijk. Dus dan zou je actief moeten gaan scannen en dat is echt wel een ding. Het ding is echter weer wel zo dat het natuurlijk wel kompleet is toegestaan om deze dingen met je eigen foto's te doen, dus de tool verbieden kan ook niet zomaar.

Komt ook het probleem bij dat je hier vaak pas daadwerkelijk voor veroordeelt wordt na openbaarmaking. En dan is het openbaarmaken weer veelal een probleem waarbij je dan op 326 Sr en 261 Sr uitkomt.

Wat ik er vooral over kan vinden is dat deze wetgeving bedoeld is om een handvat te hebben voor onder andere wraakporno. Het gaat daarbij dus voornamelijk om misbruik van materiaal en niet zozeer het hebben van materiaal.

quote: Kamerstukken I 2022-2023, 36 222, nr. 3(MvT), onder meer op p. 16, 19 en 33.

In de tweede plaats verzoekt het College de strafbaarstelling van het misbruik maken van seksueel beeldmaterial (waaronder raakporno) dat wordt verplaatst van artikel 139h Sr naar artikel 254ba Sr op te nemen in artikel 2van het Besluit onderzoek in een geautomatiseerd werk. Artikel 139h Sr trad in werking op 1 januari 2020 en was daarmee nog niet in werking getreden toen het Besluit onderzoek in een geautomatiseerd werk van kracht werd op 1 maart 2019. Artikel 139h Sr werd mogelijk daarom niet in het Besluit onderzoek in een geautomatiseerd werk opgenomen. De strafbaarstelling voor het misbruik maken van seksueel beeldmaterial voldoet volgens het College echter wel aan de criteria die zijn genoemd in de nota van toelichting over het opnemen van bepalingen in artikel 2 van het Besluit onderzoek in een geautomatiseerd werk. In artikel 2 zijn misdrijven opgenomen 'die met of met behulp van een geautomatiseerd werk worden gepleegd waarop een wettelijke strafbedreiging van minder dan acht jaren gevangenisstraf staat, maar die niettemin dermate ernstig zijn dat er een duidelijk maatschappelijk belang is bij de beeindiging van de strafbare situatie en de vervolging van de daders. Het delict misbruik maken van seksueel beeldmateriaal kan bijvoorbeeld worden vergeleken met belaging (artikel 285b Sr), zowel wat betreft het strafmaximum als wat betreft het beschermde belang. De maximale gevangenisstraf is respectievelijk drie jaren gevangenisstraf voor belaging en twee jaren voor het openbaar maken van een afbeelding van seksuele aard. Het beschermde belang is voor beide bepalingen - in de woorden van de toelichting bij het Besluit onderzoek in een geautomatiseerd werk - dat online 'een inbreuk wordt gemaakt op de seksuele dan wel persoonlijke levenssfeer van een ander'.

Het is lastig te quoten, want een PDF download van een kamerstuk, maar dat is wel een beetje de strekking van dat artikel voor zover ik dat kan vinden. Veel meer kapstok om misbruik van pornografisch materiaal van welke aard dan ook de te kunnen bestraffen.

Dat zien we ook wel terug in jurisprudentie, oa:

quote: https://uitspraken.rechts...d=ECLI:NL:RBNHO:2024:9306

Verdachte heeft zich naar het oordeel van de politierechter schuldig heeft gemaakt aan overtreding van artikel 139h aanhef lid 2 onder b Wetboek van Strafrecht (oud). Deze strafbepaling staat vanaf 1 juli 2024 niet meer bij de delicten tegen de openbare orde maar bij de delicten van seksuele aard omdat het een misdrijf betreft die inbreuk maakt op iemands seksuele en geestelijke integriteit (artikel 254 ba lid 2 sub b Wetboek van Strafrecht).

Het stelt strafbaar het openbaar maken van een seksueel getinte afbeelding, ook al is deze vrijwillig tot stand gekomen, van iemand terwijl men weet dat dit nadelig kan zijn voor die persoon.

Niet betwist is dat het onderhavige beeldmateriaal van seksuele aard is, dus een zodanig intiem seksueel karakter heeft dat het voor ieder redelijk denkend mens als privé kan worden beschouwd.

Uit de wetsgeschiedenis blijkt dat onder het openbaar maken ook valt het bekend maken aan zowel één persoon als aan meer personen. De wil van de dader om dat te doen is daarbij relevant.

Het moet voor de verdachte duidelijk zijn geweest dat “zijn actie” nadelige gevolgen kon hebben voor aangeefster, zowel ten aan zien van haar relatie als haar psychische gesteldheid. Wat er ook zij over de moraal aangaande trouw en ontrouw, door hiervoor intiem seksueel beeldmateriaal, dat nimmer was bedoeld voor een dergelijk doel, te gebruiken is hij een grens overgegaan die naar de huidige maatstaven niet meer wordt getolereerd. Door de verdediging is aangevoerd dat de verdachte geen oogmerk van benadeling heeft gehad en dat de privacy van de aangeefster niet geschonden zou zijn. Dit acht de politierechter niet aannemelijk. Het oogmerk van benadeling is bij de invoering van deze bepaling door de wetgever juist als vereiste weggelaten. Wetenschap is al voldoende. De inbreuk op de privacy van aangeefster is ook evident. Zij heeft deze niet zelf opgegeven door enige instemming en gelet op het intieme seksuele karakter van de foto’s is deze in elk geval ten opzichte van haar partner geschonden. Een eventuele ontrouw maakt dit niet anders.

Alles overziend ligt het voor de hand dat de verdachte uit boosheid dan wel frustratie, gelet op de afwijzing van hem door aangeefster, de foto’s aan haar partner heeft gestuurd en wraak mede dan wel een leidende een rol heeft gespeeld bij zijn optreden. In die zin acht de politierechter dat er sprake is van kwaadaardig handelen. Met de invoering van de strafbepaling waar het hier om gaat heeft de wetgever dit soort handelen met seksueel getint beeldmateriaal, ook wel aangeduid als “wraakporno” strafbaar willen stellen.

Hoe zie jij dat in deze context?

[Heedless]

Dat “Legacy Media Lies” antwoord is ook zo achterlijk en een excuus om nergens verantwoording over af te leggen.

Zet dan de complete mailwisseling met de media op je eigen site of zo, zodat gebruikers kunnen zien of de antwoorden van xAi door de media verdraaid worden of niet.

[Zoijar]

Zet dan de complete mailwisseling met de media op je eigen site of zo, zodat gebruikers kunnen zien of de antwoorden van xAi door de media verdraaid worden of niet.

Ja, want mensen zoeken nu ook al zo goed bronnen op en lezen dan pagina's achtergrond informatie om te bepalen of die 45 seconden reel de werkelijkheid is

[Heedless]

Maar ze kunnen hun bullshit claim dan wel aantonen, in plaats van deze kinderachtige onzin.

[Bertje3000]

Dat het hierom zou gaan is helaas gebaseerd op een verkeerde aanname. Het gaat er hier niet om of er iemand iets verdraait of niet, het gaat er hier om dat het zo onnavolgbaar mogelijk wordt wat "waarheid" nog is, laat staan waard is. Dat is de nummer #1 basis om met een trukendoos aan methoden uit het fascisme-draaiboek en late-stage kapitalisme een eigen realiteit te creëren. Waarom, en wie daarbij gebaat is? Nou, precies de personen die met het verdraaien van de waarheid een enorme machtspositie vergaren - en daar is Musk een sterspeler in.


Uit Rosan Smits' boek "Dit is Fascisme" (p. 157-8):
"Fascisme begint met taal, schreef ik. Er is één beroepsgroep die zich deze waarschuwing in het bijzonder moet aantrekken: journalisten. Dat zijn de mensen die van kritisch denken hun beroep hebben gemaakt, van het publieke debat hun werkveld en van taal hun gereedschap. Zij staan in de vuurlinie van de slag om de waarheid die het fascisme kenmerkt.

Dat is een slag die journalisten kunnen winnen, maar dat vraagt wel om een zorgvuldige weging van de journalistieke methoden. Dat doen redacties natuurlijk al doorlopend: Wie laat je wanneer aan het woord? Wat verdient journalistieke aandacht? Brengt een publicatie mensen in gevaar? Enzovoorts.

Het fascisme plaatst journalisten voor een uitdaging. Gangbare methoden en principes – zoals een focus op nieuws, hoor en wederhoor, factchecking of live verslaggeving – werken vooral als de democratie functioneert en iedereen de regels van het democratische spel volgt. Fascisten spelen op een ander speelveld dan gewone politici. Op dat speelveld gebruikt een fascist de pers niet om verantwoording af te leggen, maar om haat en propaganda te verspreiden.

In 2019 deed voormalig Trump-strateeg en propagandist Steve Bannon uit de doeken hoe: ‘Flood the zone with shit.’ Een manier om de aandacht te kapen met een stortvloed van ophef en leugens, terwijl ondertussen de democratie wordt afgebroken."

(Edit: ik zei eerder dat dit gebaseerd was op een denkfout maar dat is niet zo, het is alleen een verkeerde aanname)

[Reactie gewijzigd door Bertje3000 op 3 januari 2026 14:09]

[ikbenroy1]

Volgens mij leven we al langere tijd in een informatieoorlog, gekenmerkt door een voortdurende stroom aan incidenten en crises. Er is gewoon geen ruimte om nog zorgvuldig te kijken naar wat er werkelijk gebeurt.
Laat staan dat er een mogelijkheid is om zaken goed te duiden.

Door Musk als “sterspeler” te benoemen, wordt het probleem naar mijn gevoel te veel gepersonaliseerd. Er bestaan verschillende vormen van mis- en desinformatie, en die zijn niet voorbehouden aan één persoon of politieke stroming (volgens mij doet iedereen er aan mee).

Zowel rechts als links maken zich hieraan schuldig: waar de één inzet op provocatie en framing, laat de ander bewust bepaalde feiten of perspectieven weg. Dat selectief informeren is wat mij betreft onderdeel van hetzelfde probleem.

[cnieuweboer]

Bewust feiten of perspectieven achterwege laten is niet specifiek links of rechts. Door te zeggen dat "de ander" dat doet, impliceer je dat rechtse media dat niet of veel minder doet.

En er is wel degelijk één politieke stroming die uitblinkt in des en misinformatie. Dat beide kanten problemen hebben, betekend niet dat die problemen even groot zijn. En dat zijn ze dan ook niet. En hoeft dus ook niet als een "both sides" probleem uitgedragen te worden.

[MGsubbie]

"Door te zeggen dat "de ander" dat doet, impliceer je dat rechtse media dat niet of veel minder doet."

Volledig incorrect.

Als beide kanten het doen, dan doen beide kanten het. Het idee dat omdat één kant het vaker doet dan de andere het niet een "both sides" probleem maakt, is een uiterst absurd argument.

[mphilipp]

Zowel rechts als links maken zich hieraan schuldig: waar de één inzet op provocatie en framing, laat de ander bewust bepaalde feiten of perspectieven weg. Dat selectief informeren is wat mij betreft onderdeel van hetzelfde probleem.

Klopt, alleen gebruiken ze beiden welke methode dan ook goed uitkomt of passend is (of wordt geacht).

Wat dat betreft lijken ze op elkaar. Misschien zijn ze wat dat betreft ook hetzelfde, want uiteindelijk gaat het om macht. Ik denk dat we ons wat dat betreft geen illusies moeten maken, maar zowel links als rechts zijn alleen maar uit op macht. De wereld verbeteren is al lang geen doel. Ze doen alsof om stemmen te winnen, maar als de verkiezingen geweest zijn, verdwijnen de idealen weer in de la...tot over 4 jaar.
Er zijn talloze problemen die al decennia geleden opgelost hadden kunnen worden vòòrdat het problemen werden, maar niemand stak de vinger op. Simpelweg omdat vooruit regeren geen stemmen oplevert. Niemand ziet het nut, op een enkeling na. En vooral als de maatregelen pijn doen (geld kosten), doe je het liever niet als het probleem nog niet accuut is.

[Sandor_Clegane]

Voor anderen die dit interessant vinden kan ik Umberto Eco's Ur Fascism aanraden: https://theanarchistlibrary.org/library/umberto-eco-ur-fascism

Is maar een kort essay dat je zo even kunt lezen, het is weer actueel vandaag de dag. Vooral:

Thus, by a continuous shifting of rhetorical focus, the enemies are at the same time too strong and too weak. Fascist governments are condemned to lose wars because they are constitutionally incapable of objectively evaluating the force of the enemy.

Dit is zo'n waarheid als een koe.

Thus pacifism is trafficking with the enemy. It is bad because life is permanent warfare.

[eamelink]

Ja, vind je het moeilijk als mensen die ergens verstand van hebben dat melden?

[Vexxon]

Downvotes zonder tegenargument, typisch wanneer mensen geen effectief antwoord hebben.

Never Argue With Stupid People. They Will Drag You Down To Their Level and Then Beat You With Experience -- Mark Twain

Net zo nutteloos als het argument dat iemand een ongefundeerde bewering doet en wanneer je herhaaldelijk naar een bron vraagt het antwoord krijgt: zoek het zelf op.

[MGsubbie]

Ongefundeerd? Gebaseerd op wat? De linkse media? En er heeft nog niemand achter een bron gevraagd. Voor Kyle Rittenhouse is de bron heel duidelijk : Heel de rechtzaak werd online gestreamd, ook met commentaar van advocaten. Alsook de video die de situatie liet zien, die maar een paar dagen na de situatie online stond. Hier is één stuk van de rechtzaak :

YouTube: Rittenhouse shooting victim confronted with video showing him pointing gun at defendant

En hier een titel van MS Now (vroeger MSNBC) : "Kyle Rittenhouse trial was designed to protect white conservatives who kill"

https://www.ms.now/the-reidout/reidout-blog/kyle-rittenhouse-acquitted-homicide-rcna5748

Voor Nick Sandmann was het ook de video die je online kon vinden : YouTube: Nick Sandmann vs. Nathan Phillips and the Black Israelites (FULL VIDEO MIRROR)

Eén van de videos die helpt de leugens verspreiden : YouTube: Outrage over viral video of encounter between teens and Native Americans

Voor "City Bike Karen" was het het "bewijsmateriaal" van de zus van één van de zogenaamde slachtoffers die aantoont dat de "Karen" in het gelijk was, aangezien de jongens de fiets niet langer aan het huren waren : https://x.com/TizzyEnt/status/1661395687215439873

Moet ik verder gaan?

[Reactie gewijzigd door MGsubbie op 5 januari 2026 21:02]

[IStealYourGun]

Het is een feit dat reguliere media links of rechts kan zijn, maar dat wil niet zeggen dat ze daarom leugens verspreiden, dat is anders dan sommige "alternatieve" media die expres foutief nieuws verspreiden of weigeren de code van journalistiek te volgen.

De "nazi"-groet is een mooi voorbeeld: https://www.vrt.be/vrtnws/nl/2025/01/21/nazigroet-of-niet-elon-musk-reageert/

Imo beperkt zich dit tot de feiten en publiceren ze ook de mening van Elon.

Het enige wat je de reguliere media kan verwijten is dat er minder aandacht gegeven wordt aan positief nieuws zoals de goedkopere medicatie door de Trump administratie.

[tipderedactie00]

Het is een feit dat reguliere media links of rechts kan zijn

Dat is juist helemaal geen feit maar een mening. Links en rechts zijn subjectieve termen en hebben dus niets met feiten te maken, tenzij je het over iemand zijn linker- of rechter hand hebt. Zo was het homohuwelijk en vrouwenemancipatie traditioneel een opvatting van partijen die links genoemd werden, terwijl nu ook partijen die rechts genoemd worden voor beide zijn. Je kunt ook prima het argument maken dat partijen (of journalisten) die voor acceptatie van homo's zijn, conservatief zijn, omdat ze de status quo willen behouden. Toch worden die partijen eerder progressief genoemd. Met harde feiten heeft het in ieder geval niets te maken.

[IStealYourGun]

Kan je een voorbeeld geven? Over Israël weet ik dat er vaak wel grote aantallen werden vernoemd, maar dat er ook werd vernoemd dat die cijfers afkomstig zijn van de Palestijnse autoriteiten en die niet onafhankelijk kunnen worden geverifieerd.

[Bertje3000]

Klopt, is een gedeelde eigenschap van dergelijke totalitaire ideologieën. Weet wel vrij zeker dat we het in deze casus niet over communisme hebben though

[Heedless]

Ga toch weg met je ongefundeerde onzin

ontopic: ga toch weg met je ongefundeerde onzin

[phoenix2149]

Wie weerhoud X van een eigen 45 seconden reel te plaatsen met links naar de daadwerkelijke informatie.

Het is TE BIZAR dat dit online geroeptoeter van leugens nu door leiders in real life gedaan wordt door leiders en machtige/rijke persoonlijkheden zonder enige repercussie.

Nep media hier en daar als ze een kritische vraag stellen.

[jip_86]

Ja hadden ze nu maar een site waar iedereen een account mag openen en hun eigen nieuws mag maken.

[Cilph]

Als ze dat zouden doen vallen ze compleet door de mand, want ze hebben geen goede antwoorden en zo kunnen ze niet boos maar de media wijzen als het ook op hun eigen feed staat.

De verklaring is als je zegt. Kinderachtig gedoe om geen verantwoording af te leggen.

[Henk1827]

Het begint zo triest te worden. Het is jammer dat het door het netwerkeffect in stand wordt gehouden. Als iedereen nou eens zou stoppen met Twitter dan is deze onzin een keer afgelopen.

[latka]

Het is de nieuwe "daar heb ik geen actieve herinnering aan" verdediging. Het neemt in ieder geval meer stelling in dan de dooddoener "ik herken mij niet in dat beeld".

[ShadLink]

Ik denk dat dit nieuws artikel meer dan een klein beetje aan context mist waarom er ineens afbeeldingen aangepast worden naar mensen in bikinis.

[jip_86]

Iemand heeft blijkbaar een keer gevraagd om een bikini te editten in een plaatje en dat is breed opgepakt. Van fotos van Kom Jong Un tot broodroosters toe.
https://x.com/search?q=grok%20bikini&src=typed_query

[ShadLink]

En Elon Musk zelf ook:
https://x.com/elonmusk/status/2006868990287810750
(waarschuwing; foto van Elon Musk in een bikini)

[Frappuccino]

Ja, en degene die vraagt of ook de bikini uit kan wordt door Grok netjes verteld dat Grok geen explicit content mag produceren.

Let wel, ik heb dit enkel gezien bij meerderjarige dames. Dus over kindermisbruik kan ik niks zeggen.

[Reactie gewijzigd door Frappuccino op 3 januari 2026 13:02]

[Zoijar]

Borat fans denk ik. Ontgaat mij ook een beetje

[mbb]

om met Grok afbeeldingen aan te passen zodat de afgebeelde mensen een bikini leken te dragen.

Die ene die ik zag ging geloof ik over een groep Iraanse Ayatollas. Naar ik begreep gedaan door een vrouwengroep die kwaad was omdat er meisjes worden opgehangen omdat ze geen hoofddoek afdoen.

Een eerdere kledingverwijdering die minder ver ging was van een vrouwenrechtenactiviste die door media nog steeds op foto met hoofddoek werd weergegeven ondanks dat ze die al jaren niet zou dragen. AI werd gebruikt om die hoofddoek te verwijderen. ( en vervolgens in reacties door moslim activisten door een hoofddoek juist op foto's van die X user te zetten )

Als dit representatief is voor de groepen zijn die de EU wil beschermen resp. bestraffen maak ik me ernstig zorgen. Maar ook als het bijvangst/ collateral damage is blijft het m.i. problematisch omdat het dus leid tot onwenselijke censuur

[Reactie gewijzigd door mbb op 4 januari 2026 13:36]

[Botmeister]

Goh dat dat zomaar gebeurt joh. Maar het zal hierna vast niet meer voorkomen nu er melding is gemaakt. /s

[supersnathan94]

Het gaat veelal om het verwijderen of veranderen van kleding met als doel om de afgebeelde persoon te seksualiseren.

Ik krijg letterlijk reclame voor dit soort apps op youtube. Kunnen jullie ook eens wat verder kijken in onderzoek naar dit soort dingen? Dat vorige artikel over adressen met grok was ook al zo eenzijdig.

Er zijn hier al een jaar verschillende apps voor in omloop, dus om daar nu over te vallen met grok, terwijl andere modellen dit al jaren commercieel doen, is een beetje hypocriet. Zeker gezien het in Frankrijk in zijn geheel verboden is om afbeeldingen te maken van minderjarigen die seksuele handelingen uitvoeren ook al bestaan ze niet.

Since a reform of the French penal code, introduced in 2013, producing or distributing drawings that represent a minor aged less than 15 years old is considered the same as producing real child pornography and is punishable by up to five years' imprisonment and a €75,000 fine, even if the drawings are not meant to be distributed.^{[25][26][unreliable source?]}French cartoonist Bastien Vivès faced controversy over works like Petit Paul and La Décharge mentale, which depict sexual acts involving minors, leading to a 2023 prosecution for “creating and distributing pornographic images of minors.” Under Article 227-23 of the French Penal Code, even fictional images depicting sexual conduct of children under 15 are illegal. Although the 2025 court halted proceedings citing lack of jurisdiction and no substantive trial occurred, the case has become a significant example in France of the legal boundaries between artistic freedom and child protection.

Ik snap dat Frankrijk er dus tegen op treed (in Nederland is het namelijk niet per se illegaal), maar dit is we rijkelijk laat nu er al een hele industrie voor is opgezet inclusief het “down-agen” van celebs enzo.

[Siaon]

Shonen manga en anime in bezit hebben, betekent volgens jouw quote in Frankrijk dus strafrechterlijk veroordeeld worden voor kinderporno.

Op een bepaalt moment wordt het wel echt absurd... Vanaf hoeveel pixels telt het?

[supersnathan94]

supersnathan94 in 'Grok gemeld bij Franse autoriteiten voor maken deepfakes en kindermisbruikbeeld'

Misschien geeft dit wat meer beeld van het juridische deel. Frankrijk heeft een veel strictere implementatie dan Nederland en andere landen. Frankrijk hanteert een object-gericht verbod, dus er hoeft niet aangetoond te worden dat er misbruik is geweest in de echte wereld. Het is gewoon allemaal verboden.

Of Shonen manga daar onder valt weet ik niet. Lolicon manga bijvoorbeeld wel: Wikipedia: Legal status of fictional pornography depicting minors

Er zijn overigens maar 15 landen waar dit echt illegaal is en Frankrijk is er daar 1 van. De verontwaardiging die velen hier hebben is misschien terecht, maar juridisch gesproken is er echt heel weinig aan te doen op dat vlak aangezien de meeste landen dus geen expliciet verbod hebben (en daarmee is het toegestaan vanwege het legaliteitsbeginsel).

[Weiman]

Walgelijk, geen andere woorden voor. Ja, de technologie bestaat al langer en wordt al gebruikt maar als techbedrijf dit zo laagdrempelig beschikbaar te maken op een manier dat degene wiens afbeelding misbruikt wordt er ook gelijk mee geconfronteerd wordt en er vervolgens geen enkele verantwoordelijkheid voor nemen is niks anders dan walgelijk.

[porky-nl]

Geen woord over de gene die die opdracht gaf voor het maken van die onzin!

[amigob2]

Als je het niet probeert weet je niet dat het mogelijk is. Dus wat jij zegt moeten we het niet proberen, en in dan ook niet bij de medias inbrengen als het kan, en de ongure types in de wereld gewoon zijn gaan laten gaan ?

De ongure types die dit doen zullen nooit dit openbaar maken, en dan krijg je ook nog +2

[Reactie gewijzigd door amigob2 op 3 januari 2026 10:02]

[porky-nl]

Nee dat. Zeg ik niet en dat bedoel ik ook niet. Als ik met mijn keuken mes jouw neer steek moeten dan alle keuken messen verboden worden?

[xvisuals]

Kromme vergelijking, de drempel ligt natuurlijk veel lager om een systeem als grok te misbruiken dan iemand pijn te doen met een mes. Je hoeft niet eens fysiek aanwezig te zijn en wordt niet geconfronteerd met de gevolgen.

Een trollenleger gaat ook niet op een dag voor jouw deur staan om wat keukenmessen naar je te gooien.

[specs2021]

Ik vind de vergelijking eerlijkgezegd wel goed. Het toont de zwakte van het argument:

• Als ik met een groot keukenmes thuis rondloop ben ik niet strafbaar.
• Als ik in de stad wandel met datzelfde mes ben ik wel strafbaar.
• Als ik een grok bouw die ontzettend rascistisch is ben ik (in principe) niet strafbaar.
• Als ik diezelfde grok aan het internet hang zodat iedereen deze kan gebruiken ben ik volgens mij wel aansprakelijk, etc. etc.

Vrijheid van meningsuiting duidt op rechtsbescherming als je je mening verkondigt in landen waar dit tot wet verheven is, maar deze bescherming is niet absoluut! Dat laatste vergeten veel populisten erbij te zeggen.

[Reactie gewijzigd door specs2021 op 3 januari 2026 13:12]

[lenwar]

Als ik in de stad wandel met datzelfde mes ben ik wel strafbaar.

Nou, dat is iets te simpel gesteld (los van lokale verordeningen, want die kunnen afwijkingen geven.)

Hiervoor kunnen we de wapenwet met categorie-4 wapens erbij pakken. Hier wordt onder andere over geschreven:

Voorwerpen waarvan, gelet op hun aard of de omstandigheden waaronder zij worden aangetroffen, redelijkerwijs kan worden aangenomen dat zij zijn bestemd om letsel aan personen toe te brengen of te dreigen en die niet onder een van de andere categorieën vallen.

Een keukenmes valt niet onder categorie-1 wapens (die per definitie verboden zijn.) en mag je dus gewoon bij je hebben, mits je daar een doel voor hebt. (je gaat koken bij een vriend of zo, en je hebt dat mes in een boodschappentas.) Je komt er dus niet mee weg als je gezellig gaat stappen met datzelfde mes aan je broekriem.

http://www.allesovermessen.nl/vaste-en-zakmessen/wetgeving-messen/

Mijn dochter zit op scouting. Zij heeft een zakmes. Wanneer zij naar scouting gaat heeft zij (dus?) soms een zakmes bij zich. Zij heeft dat echter in haar rugzak/binnenzak van haar jas, wanneer zij van en naar scouting gaat. Zij kan prima aantonen dat zij daar naartoe gaat (uniform aan.), en het is bij scouting algemeen gebruikelijk dat er met messen gewerkt wordt. (In onze gemeente is er geen lokale verordening die het dragen van messen verbied)

[Caelorum]

Nee, maar jij mag nu ook al niet met dat keukenmes op straat lopen tenzij het dusdanig is verpakt dat je een aantal handelingen nodig hebt om het te gebruiken.

Hier is de drempel gewoon veel te laag geworden waardoor iedereen in een vlaag van verstandsverbijstering even illegale content kan maken.

[porky-nl]

Je mist mijn punt je kunt alles als wapen gebruiken ik zou eerst kijken naar de gene die het wapen gebruikt en pas later kijken naar evt. Aanpassingen in wetgeving!

[Caelorum]

Jij mist het punt. Beide is nu al verboden. Waarom moet het dan voor AI-diensten ineens anders zijn?

[porky-nl]

Zeg ik dat dan? Ik zeg alleen kijk eerst waar de schuld zou moeten liggen daar ging mijn eerste bericht over?

[Caelorum]

Faciliteren van overtredingen is ook strafbaar. Je hoeft niet eerst naar de een en dan naar de ander te kijken. Je kan beide doen.

Daarnaast is hier de facilitator er ook nog één die actief niet wil meewerken aan onderzoek. Tja... Dan mag die facilitator echt wel harder worden aangepakt.

[lenwar]

Faciliteren van overtredingen is ook strafbaar.

En hier ligt net de crux. Vanaf/tot waar is het (bewust?) faciliteren?

Met een videocamera kun je allerlei content creëren. Ik denk dat we het met elkaar eens zijn dat Canon en Sony hiermee niet bewust de productie van kinderporno faciliteren. Hetzelfde geldt voor Kamera Express die de betreffende camera's heeft verkocht. Je kunt iemand verwonden (of erger) met een hakbijl. We stellen niet dat de Gamma die verwondingen heeft gefaciliteerd. Enzovoorts.

Als we het op het digitale vlak houden, kun je met Photoshop ook foto's manipuleren zodat een willekeurige bekendheid in d'r ondergoed staat. We gaat niet Adobe hiervoor verantwoordelijk houden. Enzovoorts.

Waarom zou Grok het dan wel 'bewust verkeerd' doen?

Daarnaast is hier de facilitator er ook nog één die actief niet wil meewerken aan onderzoek

Verwachten we van de Gamma/Kamera Express, Sony, Canon of Adobe dat zij hier actief aan meewerken?

Ik snap uiteraard dat m'n vergelijkingen hierboven niet volledig kloppend zijn, omdat het hier over het maken van 'nieuwe content' gaat, en niet het fysiek mishandelen van personen, en in het geval van Adobe-software vereist het een echte 'kunde' om het goed te doen. (als in dat niet iedere knuppel die weet hoe een toetsenbord en computermuis werkt het voor elkaar krijgt.)

Maar goed. De vraag blijft dus. Vanaf/tot wanneer is het (bewust) faciliteren van dit soort zaken. Vanaf wanneer is het 'redelijk' dat een bedrijf/organisatie zich inzet dat hun product niet wordt gebruikt voor misdrijven. Er zijn zelfs producten waarmee er (bijna) wordt geadverteerd over het misdrijf. (Denk aan de maximumsnelheid van auto's. Er is in Nederland geen reden dat een auto harder moet kunnen dan 130km/u. Toch wordt er met menig auto geadverteerd dat ze sneller kunnen dan 180km/u (en daar is het een misdrijf))

[Caelorum]

Grok is specifiek getraind om minder "woke" te zijn en meer "freedom" te hebben: een chatbot waar bewust de randen van de wet worden opgezocht. Het is een manier om zichzelf te differentiëren in een rap verzadigde markt van chatbots. En dit soort zaken is daar een direct gevolg van.

[lenwar]

Grok is specifiek getraind om minder "woke" te zijn en meer "freedom" te hebben: een chatbot waar bewust de randen van de wet worden opgezocht.

Die deep fakes in de vorm van beroemdheden seksualiseren en in badkleding shoppen, zou je daar misschien nog wel onder kunnen scharen, denk ik? Dat is eerder 'onsmakelijk', denk ik? Dus daar wil ik nog wel in meegaan, dat dit een direct gevolg is van de 'missie' van xAI.

Maar het produceren van virtuele kindermisbruik of breder, het seksualiseren van beelden met kinderen, is toch wel heel wat anders dan 'minder woke' en 'meer vrijheid', toch?

[Caelorum]

[...]

Maar het produceren van virtuele kindermisbruik of breder, het seksualiseren van beelden met kinderen, is toch wel heel wat anders dan 'minder woke' en 'meer vrijheid', toch?

Klopt, maar als je Elon een beetje volgt dat betekend het vaak vooral dat hij dingen wol kunnen bouwen zonder te worden beperkt door zoiets banaal als regelgeving.

[RoyD]

Ik denk juist andersom: AI's worden getraind om bepaalde zaken niet te doen. En Grok wordt minder strikt getraind om allerlei zaken te beperken. Helaas is het dan ook makkelijker om bij afbeeldingen over een grens te gaan.

[C64Boy]

ja, en ik ben er happy mee. Want soms wil ik grok, omdat ik alle kanten van een verhaal wil weten en ook de leugens en halve waarheden. De meeste chatbots zijn wel heel erg braaf. Ik wil ook wel af en toe peilen waar de randen ergens zijn, waar het grijze gebied is. Niet om zelf de rand of het grijs gebied op te zoeken, maar om te leren waar het fout kan gaan.

[Honytawk]

Als iemand messen verkoopt die gemarket worden als voor mensen neer te steken, dan is dat ook illegaal.

[lenwar]

Is dat illegaal, of laat de reclamecodecommissie dat niet toe? (dat zijn twee verschillende dingen natuurlijk.) Automerken mogen adverteren met een maximumsnelheid van boven de 180km/u (wat in Nederland een misdrijf is op de snelweg.)

Ik zou het oprecht niet weten. Het is in ieder geval onwenselijk/onsmakelijk

[Caelorum]

Je mag niet aanzetten tot geweld. Het is wellicht lastig aantonen, but maar legaal zal het niet zijn.

[amigob2]

Zo staat het er wel

[kodak]

Wettelijk mag niet alles maar geprobeert worden. En het feit dat iemand iets probeert wil niet zeggen dat de persoon goede bedoelingen heeft. Het nieuws gaat er niet op in wat de gebruikers gedaan hebben om tot hun resultaat te komen om verbolgens over de dienstverlening te zijn.

Er is een groot verschil tussen moedwillig uitlokken en onbedoeld ongewenst resultaat krijgen. Daarom hebben we in de IT-wereld al jaren responsible disclosure. Om te voorkomen dat iemand met foute bedoelingen net doet alsof het publiek aan de schandpaal nagelen behoorlijk is zonder enige vorm van uitsluiten van onbedoelde fouten. Waarbij je als gebruikers ook verantwoording hebt af te leggen. Dat verantwoorden ontbreekt.

[_eLMo_]

Deze diensten lijken te vergeten dat je dit soort modellen ook “gewoon” lokaal op je PC kan draaien? Het trainen van deze modellen kost enorme resources, maar het gebruik ervan een stuk minder.

[kiang]

De zin "een foto van een kind dat verkracht wordt" is niet illegaal. De foto die je ermee beschrijft wel.

Zeker mag je de aanstichter aanpakken, maar doen alsof het model dat die kinderporno genereert helemaal onschuldig is, dat is echt een absurde stelling.

[kodak]

Het lijkt me niet de bedoeling om een mede-tweaker van negatieve beweringen te beschuldigen die nergens uit blijken.

Als er meerdere partijen betrokken zijn bij crimineel handelen dan is één partij niet zomaar uit te sluiten of exiciet aan te wijzen als verantwoordelijk. Dat hangt af van de rol van de partij. En die lijkt in het nieuws onbesproken wat betreft de gebruikers.

Het is prima om te stellen dat gebruikers zinnen mogen schrijven, maar je toont niet aan dat daarmee opdrachten geven zomaar is toegestaan. Zo zijn handelingen met als doel om illegale content te genereren in veel landen wettelijk niet toegestaan. En daar valt een deel van de genoemde content onder. Het is dus wel degelijk belangrijk om ook de rol van de gebruikers te weten die klagen dat een ander illegale content levert. Niet om te doen alsof de gebruikers hoe dan ook schuldig zijn maar om duidelijkheid te hebben wie welke rol heeft in het ontstaan van het probleem dat er illegale content gegenereerd blijkt.

[Weiman]

Lijkt me nogal wiedes dat die ook fout zitten toch? Dat het internet vol zit met vieze mannen die deze kansen zonder consequenties pakken leek me vrij obvious. Rare whataboutism dit.

[Weiman]

Grok Genereert CSAM, reken maar van yes dat ik daar de schuld voor bij hen neerleg.

https://www.cnbc.com/2026/01/02/musk-grok-ai-bot-safeguard-sexualized-images-children.html

[C64Boy]

Tja, een boel geblaat- maar kennelijk heeft Xai al actie ondernomen??

[Reactie gewijzigd door C64Boy op 4 januari 2026 06:56]

[Mortov Molotov]

Zullen we anders eens naar beide vinger wijzen?

[Webgnome]

De schuld ligt dan ook voor een deel bij bedrijven. Waarom denk je dat

• We zoiets hebben ingevoerd als een autogordel
• Auto's aan heel veel verschillende veiligheidseisen moeten voldoen
• We niet allerlei chemicalien gewoon ongereguleerd in onze producten stoppen
• Er wetten en regels zijn omtrent veiligheid op het werk etc

Dat is omdat 'de markt' of 'de fabrikant' er over het algemeen een broertje dood aan heeft. Die wil gewoon winst winst winst.

En wat is de definitie van ' normale mensen '.

[Webgnome]

en net zeg je dat we de schuld te snel bij bedrijven leggen. Wat is het nou?

[Framoes]

Misschien eerst kijken naar waarom iemand een wapen gebruikt? Het is namelijk heel makkelijk iemand direct weg te zetten als crimineel. Zaak gesloten, niet meer over nadenken.

Maar sociaaleconomische en sociaamaatschappelijke factoren zijn van gigantische invloed. Als je mij een wapen geeft, zal ik niet zomaar allemaal mensen neerschieten. Maar ik ben goed opgeleid, heb een goed leven en heb veel om voor te leven.

Ik kan zo even een paar factoren bedenken die leiden tot vuurwapengeweld, in met name de VS:

• Armoede en ongelijkheid
• Geen toegang tot psychische hulpverlening
• Een cultuur van winnaars en verliezers
• Extreemrechtse influencers die jongeren vooral boos willen maken

Mensen groeien op in armoede en ellende met eigenlijk geen sociale mobiliteit. Dus weinig mogelijkheden om beter terecht te komen.

Andere mensen zijn eenzaam en worden misschien gepest of niet begrepen. Dat zijn ook makkelijke slachtoffers voor de genoemde influencers.

Beide gevallen kunnen leiden tot situaties waar men een vuurwapen gebruikt op anderen. Is het in een land waar de overheid vrij weinig doet aan de situaties waarin mensen terechtkomen verstandig om wapens zo makkelijk beschikbaar te maken? Er zijn staten waar je op een no fly list kan staan en toch gewoon wapens kan kopen.

Kortom: bedrijven willen vooral winst maken en hebben schijt aan veiligheid en maatschappelijke schade. Er zullen altijd mensen zijn die ellende kunnen veroorzaken als ze niet worden afgeremd. Of dat nou is door hun situatie of door een seksuele stoornis.

Het is aan overheden en bedrijven om hier in te voorzien. Die personen zijn vaak niet in staat om zichzelf tegen te houden.

[JWL92]

logisch ja voor normale mensen wel maar je Legt de schuld neer bij bedrijven...

Wie faciliteert die GrokAI?

of vind je Epstein ook n toffe vent?

[Reactie gewijzigd door JWL92 op 3 januari 2026 10:12]

[JWL92]

Ja sorry dat ik je blijkbaar op he tenen getrapt hebt omdat je als eerste wijst naar het bedrijf ipv naar een persoon!

want een bedrijf bestaat natuurlijk niet uit personen....

[Mathijs Kok]

Je lijkt verbaasd dat Grok dat doet en er geen groot probleem mee heeft.

[JRvP]

Tsja ik wil niet de advocaat van de duivel spelen maar niets nieuws te zien hier.. iedereen die in de jaren 90 op het usenet zat kent dit soort beelden al... en dat is 25 a 30 jaar geleden ik klop me zelf maar ff op de schouder omdat ik menig website die dit soort en nog heel erg ander zieke shit aanbood de kop heb gekost.

maar goed die verontwaardiging... niets nieuws onder zon, dit kan op zoveel manieren... pak de gebruikers aan zou ik zeggen, want er zijn zoveel methode's om dit te creeren... achter een programma een platform aangaan nutteloos, een beetje een goede artiest kan dit ook... het zal een eeuwig durende strijd zijn

[Bor]

een beetje een goede artiest kan dit ook.

Dat klopt. Je geeft het verschil zelf eigenlijk al goed aan; een persoon / individu die daarvoor blijkbaar "skills" moet hebben (en individueel makkelijker kan worden aangepakt) vs breed beschikbaar voor de massa zonder zonder enige vereiste om iets (goe) te kunnen. Zie je het probleem?

[Retrospect]

Het verschil is minimaal en pedofielen blijken vrij vindingrijk en volhoudend om hun misdadige perversiteit onderling te delen. Als we alles gaan verbieden waarvan zij misbruik maken dan blijft er weinig over. Pak de creators en gebruikers dus keihard aan, dat is de basis.

[Bor]

Als we alles gaan verbieden waarvan zij misbruik maken dan blijft er weinig over.

Je verbied hier doorgaans niet de tool (zoals Ai) maar het maken van dit soort afbeeldingen. Daar hoort een Ai gewoon niet aan mee te werken. Er is geen denkbare reden om kindermisbruik beelden te laten genereren door Ai. Dat kan je dus prima aan banden leggen.

[Retrospect]

Zeker, maar ze zullen omwegen vinden om techniek te blijven misbruiken. De creators en gebruikers dus opsporen en keihard bestraffen.

[Horla]

Volgens die redenering is het nutteloos vuurwapens te verbieden en moet je gewoon maar achter de mensen aan gaan die ze gebruiken om mensen te verwonden/vermoorden? Een beetje de VS gedachte? Ik zou denken dat het ondertussen duidelijk is dat die aanpak volledig mislukt is in de VS.

[Retrospect]

Ik wil beide aanpakken. Maar dat schijnt hier een no go te zijn.

[supersnathan94]

De creators en gebruikers dus opsporen en keihard bestraffen.

Waarom? Dit soort dingen zijn in het leeuwendeel va de wereld gewoon legaal. Er zijn maar 15 landen ter wereld waar dit expliciet illegaal is en een aantal daarvan hebben een totaalverbod op alle pornografie waar het dan impliciet onder valt.

Fictieve kinderporno is meestal niet illegaal. In NL is het dat in ieder geval niet. Ook Deepfakes zijn niet per se illegaal, het verspreiden kán dat wel zijn. Daarom is MrDeepfake ook gestopt (druk van VK en NL).

[biomechanical]

Pedofielen doen niets illegaal. Je bedoelt pedoseksuelen.

pedoseksuelen misbruiken Kinderen en/of maken / kijken kinderporno, pedofielen hebben alleen een aantrekking tot minderjarige.

[Retrospect]

Thx, dat bedoel ik idd.

[downtime]

Er is maar een handvol bedrijven met de technologie om dit te maken en miljoenen potentiele gebruikers. Het vervolgen van dat handjevol bedrijven is gewoon veel minder ingrijpend dan het opsporen en vervolgen van miljoenen burgers.

[JRvP]

dus photoshop ook maar verbieden ?? het darkweb ai en noem het maar op... nee pak de daders dat is echt de enige manier anders moeten alle mensen weer lijden onder een paar rotte appels, ik zou zeggen neem ze te grazen dat doe ik al decennia, als iedereen z'n steentje bijdraagt komen we er wel

[downtime]

Integendeel. Als je de gebruikers wil aanpakken dan pleit je voor massasurveillance. Want die gebruikers zitten gewoon thuis achter de PC en de enige manier om ze te pakken is door iedereen te monitoren. Je criminaliseert op die manier iedereen.

De bedrijven verkopen deze meuk met het doel er geld mee te verdienen. Het is letterlijk hun product wat ze geschikt hebben gemaakt om dit ermee te doen. Pak ze aan door zware boetes op te leggen. Dan is het probleem letterlijk in een week opgelost. Als het grof geld kost, en de aandeelhouders aan de bel trekken, zul je zien hoe creatief ze opeens worden.

[wiseger]

Dan worden ze inderdaad zeer creatief. Zo creatief dat ze automatische detectie van afbeelding met teveel naakte huid erin gaan detecteren. Waarna ze automatisch de accounts gaan sluiten en blokkeren.

Waarna gebruikers hun account verliezen omdat de vakantie foto's van de kinderen geflagt werden, of die foto van dat verdachte plekje dat op verzoek van de huisarts werd gemaakt.

Wat dan weer tot gevolg heeft dat de wereld te klein is en er maatregelen tegen de big tech genomen worden omdat ze onterecht accounts afsluiten.

Probeer het maar eens altijd goed te doen, is bijna onmogelijk tegenwoordig.

[mutley69]

Het wordt tijd om Mr. Musk duidelijk te maken dat de EU wetgeving ten volle van kracht is, en dat hij anders de keuze heeft om hier niet langer actief te zijn!

[jellebaris]

Het zou zijn keuze niet meer moeten zijn. Het zou Grok onmogelijk moeten worden gemaakt hier te functioneren tot ze hebben aangetoond zich aan de Europese wetgeving te houden. Hetzelfde geldt voor andere AI en sociaal media platformen. Een waarschuwing bij overtreding. De tweede keer een boete, de derde keer afsluiten. Meerdere platformen hebben nl aantoonbaar lak aan de Europese regels.

[Reactie gewijzigd door jellebaris op 3 januari 2026 18:15]

[supersnathan94]

Ook @mutley69

Er is helemaal geen Europese wetgeving die dit verbied. De EU heeft een bak lokale wetgeving die hier, al dan niet, wat van vind, maar in de meeste Europese landen zijn beiden legaal. Alleen in Frankrijk is er een object-gericht totaalverbod.

supersnathan94 in 'Grok gemeld bij Franse autoriteiten voor maken deepfakes en kindermisbruikbeeld'

[Retrospect]

Dit zou dichtgezet moeten worden door Grok, maar wat mij betreft kunnen ze ook degenen gaan vervolgen die Grok de opdracht hebben gegeven om het te genereren.

[supersnathan94]

Ok en onder welke wetgeving zou je dat dan willen doen?

[lennartvv]

Los van kindermisbruik (het artikel zelf lijkt het aanpassen van mensen te beschrijven), waarom vind ik dit zo'n vreemd artikel? Er zou bijna net zo goed kunnen staan: Google meldt 100 zoekpogingen naar naakte mensen of fake celeb nudes. Alle hens aan dek! Mis ik iets?

Ook al zijn de acties bedenkelijk, de plotse commotie lijkt niet in verhouding met die acties? (Nogmaals, ik spreek hier niet over kindermisbruik, dat is een hele andere zaak).