SpaceXAI klaagt Amerikaanse staat aan die uitkleedapps wil verbieden

SpaceXAI heeft de staat Minnesota aangeklaagd vanwege een wet die het gebruik van uitkleedapps verbiedt. Grok, de AI-tool van SpaceXAI, laat gebruikers anderen uitkleden. Het bedrijf stelt dat de wet te ver reikt en daarom niet actief mag worden.

Dit nieuws in het kort

• SpaceXAI vecht een wet in Minnesota aan die het gebruik van uitkleedapps verbiedt.
• De wet moet op 1 augustus ingaan.
• De uitkleedfunctie van Grok leidt al langer wereldwijd tot kritiek.

Rond de jaarwisseling werd het mogelijk om met Grok andere mensen uit te kleden. De bot vroeg niet of de gebruiker toestemming had en kleedde ook minderjarigen uit. Dit zorgde voor ophef en rechtszaken over de hele wereld en in Nederland werd het uiteindelijk verboden. De staat Minnesota nam daarop in mei een wet aan die dergelijke uitkleedapps verbiedt.

Hoewel de wet al maanden geleden werd aangenomen, stapt SpaceXAI nu pas naar de rechter. In de aanklacht stelt het bedrijf dat de wet – die op 1 augustus van kracht wordt – te ver reikt en in strijd is met de Amerikaanse grondwet.

'Wet bevat niet genoeg uitzonderingen'

De wet is volgens SpaceXAI te streng en houdt niet genoeg rekening met gebruikers die de maatregelen van bedrijven omzeilen. De wet bevat ook geen uitzonderingen voor gebruikers die uitkleedbeelden met toestemming maken of ze niet delen. Er zijn ook geen uitzonderingen voor 'artistieke, wetenschappelijke, politieke, satirische, educatieve, medische of religieuze waarde'.

De bewoordingen in de wet zijn ook te breed, stelt het bedrijf. De wet spreekt alleen over 'intieme delen', waardoor het volgens SpaceXAI ook niet meer mogelijk is om afbeeldingen van mannen zonder shirt of mensen in zwemkleding te maken. Dat 'gaat verder dan wat een normaal persoon onder nudification verstaat'.

Boetes van 500.000 dollar

"Ondanks deze tekortkomingen wil de staat flinke boetes tot 500.000 dollar opleggen voor iedere keer dat een gebruiker een tool gebruikt om illegaal beeldmateriaal te maken. De wet maakt het ook mogelijk voor individuen om rechtszaken aan te spannen."

Door deze 'tekortkomingen' gaat de wet ook te ver en is hij in strijd met de grondwet. Daarnaast zijn er volgens SpaceXAI al voldoende andere wetten om deepfakes tegen te gaan. Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.

Twee AI-afbeeldingen, waarvan de rechter door Grok is uitgekleed. De afbeeldingen zijn gegenereerd door Offlimits en Fonds Slachtofferhulp in een eerdere rechtszaak tegen het toenmalige xAI.

Reacties (88)

[HansRemmerswaal]

Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.

Dat is toch het hele doel van deze wet. Zorgen dat zulke AI tools niet meer zulke afbeeldingen kunnen maken.

[detheavn]

Waarom is het expliciet de functie die verboden moet worden? Het lijkt mij toch echt meer te draaien om wat je wettelijk mag, dus het verbod zou idd eerder zijn m.b.t. het gebruik zonder instemming van de 'uitgekleedde' partij, of het voorkomen dit te doen bij zaken die expliciet wettelijk verboden zijn, zoals bijv. minderjarigen. Dit soort zaken zijn over het algemeen wettelijk al benoemd (mag ik voor de moderne wereld hopen althans).

Dat dat ze dit nu expliciet willen invoeren voor AI lijkt me juist onwenselijlk, want als je elke tech die zoiets kan expliciet bij naam moet benoemen, dan ben je bij elke nieuwe tech/app/functie weer een nieuwe wet aan het verzinnen. (edit:) Dit moet dus los van de app of functie verboden zijn, zodat toekomstige zaken hier ook meteen onder vallen.

[Reactie gewijzigd door detheavn op 30 juli 2026 15:52]

[LOTG]

Ik denk dat het een enorm slecht idee is om "instemming" een factor te maken die een uitzonding zou zijn. Kijk naar social media bedrijven nu, iemand upload zonder jou toestemming een foto. En nu?

Meta zegt, ja maar er staat dat je toestemming moet vragen aan die persoon. Wij nemen aan dat dit gebeurt is en nu is de foto van ons.

Dus straks voegt Elon een checkbox toe, en dan mag je naar hartenlust foto's uploaden. Zo lang de persoon in kwestie er niet achter komt dat hij of zei op X staan word er dus aangenomen dat er consent is.

Waarschijnlijk staat in de voorwaarden ook nog dat X (en alles wat er aan hangt) die foto ook nog mag gebruiken voor van allerlei doeleindes.

Misschien krijgt Elon automatisch een kopie voor zijn collectie.

[oef!]

Ik snap je punt maar een praktische insteek lijkt me de gevolgen voor het juridische apparaat. Als de tool het wel kan zal het op de lange termijn leiden tot veel rechtzaken en (maatschappelijke) kosten omdat de een na de andere smeerpijp de fout ingaat.

Als de functie er niet is dan vang je daar al een groot gedeelte mee af.

[musiman]

PARDON?!?

Enig idee wat voor impact het heeft voor bijvoorbeeld een tiener wanneer er nep naaktfoto's van die persoon worden verspreid als waren ze echt? Enig idee hoeveel kinderen al met de gedachte hebben gelopen om hierom een eind aan hun leven te maken of dit zelfs al hebben gedaan?

Door die uitkleedapps is het SUPER eenvoudig geworden om dit soort naaktfoto's te maken. En ze zien er ook nog eens zeer geloofwaardig uit, geloofwaardiger dan "met een potlood of later photoshop of een schaar en wat magazines".

[Reactie gewijzigd door musiman op 30 juli 2026 15:51]

[Blokker_1999]

Wanneer je het zelf doet draag je zelf ook een verantwoordelijkheid. En ja, dat kan een inschattingsfout van de tieners zijn.

Maar met AI is dat niet langer het geval. Je maakt gewoon de plaatjes van mensen die je leuk vindt, of net van mensen die je wenst te pesten.

En die persoon die je virtueel uitkleed, die heeft er niets over te zeggen. Ook niet over wat er met die afbeelding gebeurt.

Hoe zou jij het vinden als ik even wat foto's van je opzocht, door een AI liet uitkleden en dan hier even de link begin te delen met een bijschrift dat ik deze toch echt persoonlijk van je genomen heb? Ga jij dat aan je voorbij laten gaan? Ga je misschien dan toch vragen aan de site om ze te verwijderen? Of ga je dan misschien toch naar de politie stappen om een klacht in te dienen?

En wat als het je 14-jarige dochter was?

[Firecrash]

Hoe ver wil je van de realiteit staan zeg....Alles wat je aanneemt is gewoon onjuist en al tig keren onderzocht

[Reactie gewijzigd door Firecrash op 30 juli 2026 15:59]

[limaad2]

Het punt is, dat je niet kan bewijzen dat de foto's echt of nep zijn, zonder jezelf uit te kleden. Daardoor is het compleet irrelevant of het echt of nep is.

Daarnaast is het whataboutism, wanneer je het hebt over foto's die tieners zelf delen.

Tot slot vind ik het simpelweg moreel verwerpelijk om zulke tools te ontwikkelen/aan te bieden. Tools kunnen voor goede en slechte dingen gebruikt worden, en hier weet je vooraf al dat het gebruik 99%* van de keren eerder negatieve gevolgen heeft.

[Richh]

Vooropgesteld; ik vind het ook zeer, zeer moreel verwerpelijk. Ik denk ook niet dat dat ter discussie staat. En ik denk dat het zeer terecht is dat AI tooling guardrails heeft om dit soort afbeeldingen niet te genereren, laat staan pontificaal open op X te posten.

Desalniettemin is een foto digitaal bewerken tot zoiets verwerpelijks, iets wat al heel lang kan. Wie handig is met Photoshop, kan dit al heel lang, zij het dat het allemaal 'moeilijker' was, oftewel: meer tijd kost. Maar is dat dan het grote verschil?
Als je Grok gaat verbieden, dan kan het ook nog steeds - een beetje IT'er kan zelf een AI model lokaal runnen en daarmee nog steeds hetzelfde truukje klaarspelen.

Dus, los van dat we vanzelfsprekend moeten verwachten van grote AI spelers dat ze fatsoenlijke guardrails opstellen, moeten we qua samenleving er wel degelijk rekening mee gaan houden dat het ook niet helemaal tegen te houden is. Kwaadwillenden (en dat kan ook een klasgenootpuber zijn die een beetje 'handig met computers' is) kunnen heel veel klaarspelen, met of zonder wetgeving.

[D13DS3L]

Dit is echt heel erg oppervlakkig. Theoretisch gezien zijn ze inderdaad gewoon "nep", maar niet iedereen gelooft dat. Hoe ga jij tegen je oma uitleggen dat die foto van dr kleindochter die ze toegestuurd is nep is? Of aan een werkgever die je even online opzoekt bij een solicitatie proces en dan een paar "nep" fotos van je tegenkomt? Dat kan je niet meer rechtpraten en in veel gevallen krijg je daar niet eens de kans tot... Alleen al de kleinste kans dat het echt zou kunnen zijn geeft al genoeg schade.

Zelfs alleen al de impact van het idee dat zon foto uitlekt kan al dramatisch zijn. Er worden genoeg mensen afgeperst zonder foto binnen het kader van: "we hebben een naaktfoto van je, als je niet betaald delen we deze met al je vrienden".

[Reactie gewijzigd door D13DS3L op 30 juli 2026 16:05]

[MornixRS]

"Moraal agentjes", "mensen die alleen uit emotie reageren". Misschien moet jij wat beter nadenken over je argumenten voordat je anderen die het niet met je eens zijn een label opplakt. Het is ook niet aan jou om te bepalen of en hoe een ander moet omgaan met echte of AI naaktfoto's van zichzelf.

[thomas1907]

Ik zou je echt aanraden om hulp te zoeken, blijkbaar is naaktfoto's genereren zonder toestemming iets waar je echt niet zonder kan want je lijkt het wel heel ver te nemen in de opmerkingen hier.
Ik hoop oprecht dat je geen kinderen hebt. "Och och kind, een neppe naaktfoto. De hele school lacht je uit omdat je niet kan bewijzen dat jij het niet bent, maar dat is maar mentaal! Het komt door de AI en is nep, trek je er niks van aan"

[Keypunchie]

Alhoewel ik snap dat dit voor veel mensen onwennig is. Is dit ook niets nieuws. Het word al eeuwen gedaan door iedereen met een potlood of later photoshop of een schaar en wat magazines.

• "De auto is niks nieuws, al eeuwen reizen we met paard en wagen van A naar B"
• "Een kernwapen is niks nieuws, al eeuwen maken mensen elkaar dood met knuppels."
• "De lopende band is niks nieuws, al eeuwen maken mensen spullen met hamer en spijkers"

De schaal en het gemak waarop is wel degelijk iets nieuws. En dat heeft gevolgen.

Uiteraard is de primair verantwoordelijke degene die de aktie onderneemt, maar zo'n aktie faciliteren is ook niet fris, zeker niet als het als primair verdienmodel van de functie is verworden.

[Reactie gewijzigd door Keypunchie op 30 juli 2026 16:15]

[bzuidgeest]

Ja de schaal vergroot maat dat is niet meer tegen te houden. Je kan beter er doorheen dan er maar tegenaan blijven hikken. Beter normaliseren dat het angstvallig in een hoekje duwen terwijl je de mensen niet stopt.

Ik zal een ander voorbeeld pakken. Heeft DRM ooit een piraat tegengehouden. Hebben kinderen ooit een probleem gehad om iemand helemaal kapot te pesten?

De AI NEP voegt niets toe, niets dat niet al kon. Het verbieden is zinloos. Iedereen kan dit nu. Hier of in China.

Verbieden is gewoon zinloos geworden. Zelfs een vergunning zoals bij wapens gaat hier niet werken.

[LOTG]

We leven in een dystopia dus we kunnen er maar beter blij mee zijn in plaats van er iets aan te doen?

Kinderarbeid bestaat dus we moeten ons er niet druk om maken maar gewoon toelaten dat bedrijven dat doen?

Vrouwen worden nog steeds op straat verkracht, dus dat verbieden heeft geen zin?

Je kunt nooit 100% winnen, maar dat betekend niet dat je dan maar niets moet doen in plaats van voor 99% te gaan.

[Reactie gewijzigd door LOTG op 30 juli 2026 16:33]

[bzuidgeest]

Je moet een probleem oplossen op de juiste plaats. Als je chantage op basis van schaamte wil voorkomen dan moet je de reden voor schaamte aanpakken. De tool verbieden heeft geen nut, want een crimineel volgt bij definitie geen wetten.

We hebben al weten tegen sextorion e.d. Meer is niet nodig. Een half gedefinieerde wet met vage bewoordingen die zelfs op photoshop kunnen slaan doet niets. En zo word een cosmetisch chirurg die een voor en na maakt ook strafbaar.

[Keypunchie]

Je retorische vragen laat ik even liggen (volgens mij wel, maar dat voert allemaal te ver).

Maar defaitisme heeft ook nog nooit een strijd gewonnen. Ik denk dat het absoluut een steun is in de rug voor kinderen om te weten dat, in principe, de rechtsstaat voor ze opkomt. Dan is niet meteen die stomme foto weg, maar je hebt wel het moreel en juridisch gelijk aan je zijde, en, samen met andere wetgeving, betekent dat ook dat je iets tegen verspreiders kunt terugdoen.

Is op zijn minst de norm gesteld en hebben slachtoffers weer enige controle. Dat laatste heb ik begrepen van mensen die het is overkomen is het meest pijnlijke: het gevoel van machteloosheid. Je bent object geworden, zonder eigen input.

(Overigens is dat generiek een beetje de machtsverhouding tussen pesters en gepesten. De slachtoffers voelen zich geisoleerd, eenzaam. Het voornaamste wapen is dat doorbreken.)

[johnbetonschaar]

Niks mis met een contrair standpunt willen innemen, maar dit is wel echt een van de meest kortzichtige meningen die ik in lange tijd ben tegengekomen

De manier waarop dit soort apps worden gebruikt door jongeren is dat er als geintje neppe naaktfoto's van klasgenootjes etc worden gemaakt die vervolgens achter hun rug om in groeps apps worden gedeeld, en vervolgens door iemand worden doorgestuurd en in andere cirkels terecht komen die het slachtoffer misschien niet eens kennen. En vanaf dat punt gaan die foto's een compleet eigen leven leiden, tot het punt dat bekenden van het slachtoffer ze ergens tegen zouden kunnen komen, ze in zoekresultaten op het internet terug komen etc.

Als jouw verweer is 'uhh boeien dan zeg je toch gewoon dat het nep is' of 'omdat je dit in theorie ook op een andere manier kan doen dan klik klik in Grok dus prima niks aan doen' dan is er echt iets serieus mis met je wereldbeeld volgens mij.

[Reactie gewijzigd door johnbetonschaar op 30 juli 2026 16:22]

[ThaMe90]

Probleem is: het beeldmateriaal wat er mee gemaakt wordt kan heel makkelijk misbruikt worden. En dat moet je niet willen. En aangezien dat niet preventief te handhaven is, is het wmb een prima oplossing om de tools te verbieden. Dit is een gevalletje beter voorkomen dan genezen.

En ja, ik zie zelf ook de gelijkenis met wapens e.d.; waarom die wel toestaan. Gebruik daarvan is ook zwaar gereguleerd.

[bzuidgeest]

En hoe ga je een open source versie verbieden? The cat is out of the bag.

Dat dit mogelijk is, maakt chantage ook onmogelijk. Alles is AI.

[ThaMe90]

Betekend niet dat de wetgeving niet aangepast kan worden. Je kunt niet zomaar van alles zeggen dat je het gaat dereguleren. Dan loopt de hele wereld nog meer spaak dan dat die nu al doet.

[bzuidgeest]

Een van de weinige personen die met een serieus tegenargument komt.

En voor een heleboel dingen zou ik het met je eens zijn. Maar ik denk niet dat het te stoppen is. Ik denk ook dat het normaliseren het grootste deel van de kracht van schaamte en dus chantage wegneemt. Dat is bewezen met de beelden van honger in Afrika. Mensen raken afgestompt.

[LOTG]

Ik denk dat de ver gelijkenis met wapens een hele goede is, kijk naar de VS daar is het argument nu ook dat je zelf een wapen moet hebben omdat andere wapens hebben. Dus wapens zijn niet verboden.

In Nederland is wapenbezit dus wel verboden tenzij (vergunning etc.).

Dus, wat is netto het effect? In de VS zijn de vuurwapen gerelateerde doden significant hoger dan in Nederland, in alle situaties.

Geen wet, geen handhaving.

Als dit verboden is, dan betekend het dus ook dat het verboden is om zelf een opensource oplossing te gebruiken of maken en zijn er dus ook handvaten om op te treden als iemand deze afbeeldingen wel maakt en eventueel verspreid.

Dat het altijd mogelijk is via via betekend niet dat het dan maar toegestaan moet zijn zo dat alles en iedereen naakt op X mag komen te staan.

[Dirkxke]

"Gewoon" zeggen dat die online foto van jou, je dochter, je vrouw, je zoon, je moeder, je vader, je tante of weet ik veel wie nep is, is vijgen na Pasen.

In de sociale media maatschappij waarin we nu leven vertrekt dit gelijk de bosbranden in Frankrijk en is niet meer te stoppen. Sommige mensen zullen zien dat dit nep is en er hun gedacht over hebben. Anderen zullen het niet door hebben en er hun gedacht over hebben.

Ongeacht de tussenkomst van gerecht of eender wat, is het kwaad al lang geschied en zijn de psychische littekens gemaakt.

Hoe ga jij bewijzen dat de neppe foto van jou, die online circuleert niet echt is? Dit kan je alleen door jezelf bloot te geven. Laat dat net zijn dat in de eerste plaats al niet had hoeven te gebeuren.

Ik vrees dat je onderschat wat het uitlekken van naakt doet met een persoon(lijkheid). Nep of niet.

[Tijger]

En hoe weet jij dat het nep is? Van jezelf, ja, van een ander? Nee.

[codeeraapje]

Het kan dan wel fantasie zijn maar alsnog gevaarlijk

- Leuk dat het nep/fantasie is, tot je kind op een seksuele manier wordt afgebeeld en hiermee wordt geconfronteerd op school.

- Kinderen of zelfs volwassenen kunnen worden gechanteerd met gegenereerd beeldmateriaal

- Er kan reputatieschade ontstaan

Waarom zou er een app moeten bestaan die iedereen in staat stelt om willekeurige mensen naakt te maken? Het heeft geen meerwaarde.

[Br3wmaster]

Tuurlijk. Leer ze nep roepen. Ik kan mijn kinderen zo hard nep laten roepen als ze willen maar als er van mijn dochter een foto verschijnt die door AI gemaakt is kan het nog zo nep zijn de gevolgen zijn net zo groot als dat het een echte foto zou zijn.

Maar goed gezien al je reacties hoop ik maar dat je aan het provoceren bent en uit bent op mensen die op je reageren en als dat niet het geval is maak ik me grote zorgen

[morphje]

Beide kanten van het argument zijn waar, maar als je je kinderen leert om te gaan met nep en die als dusdanig te accepteren en vooral ze leert kritisch na te denken en niks voor zoete koek te slikken dan is dat zo veel meer waardevol.

Ik kan talloze voorbeelden noemen waarbij kritisch denken een zeer machtig middel is:
- Klakkeloos accepteren van de corona avondklok
- Short van politici waarin een opmerking volledig uit verband wordt getrokken
- "Et hep op facebook gestaan"

AI foto's zijn nu eenmaal een feit en hoe sneller je dochter daar mee leert om te gaan (of beter gezegd ELK kind), hoe beter. Pesten is al zo oud als de weg naar Rome. AI is gewoon een nieuwe vorm en niet perse eens een kwalijkere vorm van pesten. Jennen, duwen, scheldnamen, geruchten, buitensluiten, etc etc. Alle vormen van pesten zijn uiteindelijk zo effectief als de ontvanger ze toelaat.

[Bo Diddley]

Ik geloof dat u toch enigszins het punt mist. het gaat niet alleen om naaktbeelden, maar er is natuurlijk nog veel meer te manipuleren. Zo is het niet moeilijk om iemand over te laten komen als pedofiel of wat dan ook. Ook al is iets nep, er zijn mensen die daar heftig op kunnen reageren. Niet iedereen weet zich daar goed tegen te verdedigen. En lang niet iedereen begrijpt of doorziet wat nep is en wat niet.

Een een beeld in het hoofd hebben, is iets totaal anders dan circulerende naaktbeelden.
Het een is iemands fantasie, waar niemand anders kennis van kan nemen, nep afbeeldingen zijn zichtbaar net als echte afbeeldingen, dat is een belangrijk objectief verschil.

[thomas1907]

Je geeft geen frisse blik, je geeft je eigen vieze blik op de zaak

[uiltje]

Het gebruik van een LLM maakt het zowel kwalitatief geloofwaardiger - mensen geloven filmpjes bijvoorbeeld ook beter dan een statisch plaatje - als makkelijker te maken. Je moet in je betoog wel meenemen dat de wet uiteindelijk op praktische waarde wordt beoordeeld. Het idee is - zoals door SpaceX is opgemerkt - niet zozeer over de ethische reden van de wet: het gebruik van beelden van mensen zonder toestemming is al verboden.

Het probleem is dat het erg makkelijk is om deze tech toe te passen, en het is dus veel logischer om de aanbieder van de LLM (centrale servers) te verbieden om dit te doen dan om de individuen van de tech aan te pakken. Sterker nog, da's bijna onmogelijk omdat het zo makkelijk is om dit te misbruiken. Als Jantje een foto van Grietje laat uitkleden en je pakt Jantje aan doet Pietje snel hetzelfde.

Het is ook enorm makkelijk om van je af te laten glijden, het is nep nep nep.

En Hier ga je helemaal mis, er zijn meerdere documentaires geweest die aantonen dat dit een enorm probleem is met hartverscheurende verhalen van tieners die helemaal vast hebben gezeten met dit probleem.

[uiltje]

HEt probleem is niet de filmpjes het is hoe de maatschappij er mee omgaat. Die kinderen zijn niet goed opgevoed. Hebben niet van hun ouders het juiste meegekregen in steun en begeleiding.

Dat is niet het beeld wat ik krijg van die documentaires, en ik zou zeggen dat je hier weer aannames maakt die niet kloppen of in ieder geval niet zijn aangetoond.

De tools zijn er, grok, maar ook open source. Word het hier verboden, leg je toch een vpn naar rusland of china.

Vast, maar ik gaf ook aan dat het gaat om het gemak. Een tooltje dat standaard op je telefoon wordt meegeleverd is wel wat anders dan dat jij beschrijft. Het gaat ook om het mentale beeld: op het moment dat je expliciet een wet probeert te omzeilen dan geeft dat een andere dimensie dan als een direct beschikbare LLM dit even snel voor je kan doen. Iedereen kan ook over de meeste hekjes rondom tuinen klimmen, toch doe je dat niet zo snel.

Net als de zielige kindertje in afrika niemand meer wat doen, want we zijn er ons hele leven al mee doodgegooid.

Hier projecteer je je eigen gemoedstoestand op anderen. Wat mij minder geneigd maakt om er voor te geven is vanwege de effectiviteit van de steun op de lange duur. Daarom irriteer ik me ook aan dit soort reclames; je voelt je toch verantwoordelijk.

Ik doneer bijvoorbeeld dan wel weer aan het Aids-fonds en het Rode Kruis omdat ik denk dat dat meer effectief is. Nederland is nog steeds een land wat veel geld uitgeeft aan goede doelen, dus heel veel mensen zijn het hier niet over met je eens.

[thomas1907]

Ik denk (en hoop) dat je wel anders praat als dit je eigen dochter zou gebeuren. Je opmerkingen over het normaliseren van dit soort dingen (het uitkleden van willekeurige mensen, oa kinderen) zijn echt ziek. Zeg je hetzelfde over andere vieze dingen?

[Weence]

Je snapt dat dit op kinderen toegepast kan worden?!

[thomas1907]

Chat control is heel wat anders, dat is gewoon gesprekken mee lezen zonder toestemming. Het verbieden van tools om, zonder toestemming, naaktbeelden van iemand te genereren (hoe nep ze ook zijn, ze doen alsnog mentaal wat met je) is maatschappelijk gewoon acceptabel, maar sommige.. creeps.. vinden van niet!

[Reactie gewijzigd door thomas1907 op 30 juli 2026 16:31]

[bzuidgeest]

hoe nep ze ook zijn, ze doen alsnog mentaal wat met je

Waarom? laat ze maar genereren. HET IS NEP. Je kan er maar beter om lachen. Het gaat voor goed of slecht heel gewoon worden dat sommige mensen dit doen.

[thomas1907]

Ik denk dat je niet snapt dat kinderen nog niet de emotionele controle hebben die volwassenen hebben. Waar wij makkelijk roepen "dat is nep" is dat voor kinderen niet zo makkelijk.
Dat heeft niks met opvoeding te maken. Waarom verdedig je uberhaupt het genereren van naaktfoto's van anderen, o.a. kinderen?

[blk]

Het probleem dat jij 'eerlijk gezegd niet ziet' is dat die 'fantasie' wel degelijks gebruikt kan worden (en wordt gebruikt) om mensen te pesten of chanteren. Het feit dat het niet echt is neemt niet weg dat dergelijke beelden alsnog misbruikt kunnen worden.

[FreezeXJ]

Dat is al zo sinds de uitvinding van Photoshop, en nog steeds werkt dat soort chantage blijkbaar uitstekend. Daarnaast hebben tabloids, roddelbladen etc nog steeds bakken met fotos, en vindt dat gretig aftrek, en trekt het rechtszaken aan.
Dus ofwel de wereld werkt niet zoals jij denkt, of jij denkt niet...

[ndonkersloot]

Een tienerbrein werkt niet hetzelfde als een volwassene. Ik denk dat je erg naïef bent om te stellen dat het maar onzin is.

[Loller1]

Zelfs voor een volwassene kan dit voor serieuze problemen zorgen. Dit is belangen na niet alleen een probleem voor kinderen.

[musiman]

Een tienerbrein is wezenlijk anders. Dat is namelijk nog niet volgroeid. Sommige delen kunnen al "klaar" zijn, maar anderen nog onderontwikkeld.

Zo heb je het limbisch systeem en het beloningssysteem dat al volgroeid is. Deze onderdelen kun je zien als het "gaspedaal"; deze zijn tijdens de puberteit al sterk ontwikkeld en vaak zelfs extra gevoelig voor beloningen, nieuwe ervaringen en sociale prikkels.

De prefrontale cortex kun je ook wel zien als het "rempedaal". Dit is nog in ontwikkeling en zal pas rond je 23ste tot 25ste volgroeid zijn.

Hierdoor is er een scheve verhouding wat ervoor kan zorgen dat jongeren dingen doen die als onbedachtzaam kunnen worden aangemerkt. Bijvoorbeeld het aanvallen van een website door een DDoS uit te voeren. Dat het bedrijf achter die website vervolgens duizenden Euro's (zo niet meer) schade oploopt, tja...

Zo ook het verhaal met het maken van nep-naaktfoto's van klasgenootjes. Het is spannend, leuk en "net goed dat dat stille meisje of het brillen dragende jochie eens flink te grazen wordt genomen".

Heb je zelf kinderen? Wat zou jij ervan vinden wanneer van jouw kinderen (nep)naaktfoto's op school circuleren en ze daardoor door IEDEREEN aangekeken worden en gepest? En dat heel hard roepen dat de foto's "nep" zijn niet helpt en iedereen je kinderen dan uitlacht?

[Reactie gewijzigd door musiman op 30 juli 2026 16:21]

[musiman]

Heb je weleens van sextortion gehoord? Ja, dat kan met echte naaktfoto's, maar ook met nep foto's. Ik maak mij serieus ernstig zorgen om jou en vooral jouw kinderen.

[bzuidgeest]

Waar is sextortion op gebaseerd?

Het is gebaseerd op schaamte, op dat er iets "geheims" word getoond. Hoe kan dat ontstaan of bestaan in een omgeving waar iedereen alles kan genereren?

Ik maak mij meer zorgen over ouder die hun kinderen niet goed voorbereiden. Ik denk wel dat de nudisten hier een punt hebben. Je word er mee geboren en dat is geen reden voor schaamte, je kan er niets aan doen.

[diejeremo]

Toch zal het van je vreten dat mensen zulke dingen met jou foto's doen. Het is gewoon fokked op

[keesdewit]

Het ontbreekt jou aan een moreel kompas

[keesdewit]

Je bent tevens niet vatbaar voor een andere mening

[Ruw ER]

Hoorde laatst een gozer in een podcast zeggen dat dit onder jongeren wel gebruikt wordt. Van ja joh ken je Marietje? Ja die heb ik in bed gehad. Ja geloof je niet? Kijk maar heb gefilmd. Behoorlijk ziek als je het mij vraagt, maar je weet gewoon dat dit gebeurt onder hitsige pubers die stoer willen doen.

[SnoefDoef]

Dat lijkt mij juist het doel van deze wet....

[kozue]

Afgezien van de argumenten van SpaceX, is zo'n wet ook nog eens heel nutteloos. Tis niet alsof buitenlandse AI aanbieders zich er wat van aan gaan trekken. Het is tegenwoordig zo makkelijk om een lokale AI te draaien dat een website als remote schilletje erom heen gauw is opgezet. Er zullen ondertussen genoeg uitkleedapps zijn die zich niks aantrekken van de wetjes van een of andere Amerikaanse staat.

[16K]

Met Photoshop kan het ook, als je een beetje handig bent daarin.

Ook maar verbieden dan?

[Loller1]

Wel... ja... dat is al illegaal.

[Skit3000]

Ondertussen:

Hugging Face is being used to easily undress women and children / ‘No safeguards at all are being implemented at a platform level.’

[Reactie gewijzigd door Skit3000 op 30 juli 2026 15:50]

[Teejoow]

"You could choose to cure cancer by having a bunch of research, or you could choose to offer free education to everybody on Earth... But we'll use it to undress minors instead."

Sam Altman, probably

Goed, ander bedrijf, maar is dit nou echt waar SpaceXAI zich hard voor maakt?? (pun IN-ten-DED)

[uiltje]

Ik vind dit een erg slechte redenatie van SpaceX:

Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.

conflicteert met:

De wet bevat ook geen uitzonderingen voor gebruikers die uitkleedbeelden met toestemming maken of ze niet delen. Er zijn ook geen uitzonderingen voor 'artistieke, wetenschappelijke, politieke, satirische, educatieve, medische of religieuze waarde'.

Iedereen die een LLM gebruikt weet dat een LLM minder goed is in het beperken van de uitvoer aan de hand van complexe regels met vele uitzonderingen. Nu zou de LLM niet alleen moeten kijken of een vraag: "maak bloot" goed is of fout, nu zou de LLM ook moeten controleren of iets satire of medisch is of niet? Dat is niet een punt waar de LLM-tech zich momenteel bevind.

Natuurlijk is SpaceX / Elon enorm bang om zo'n brede wet door te laten, maar praktisch is het de enige optie momenteel. Als we dit echter doortrekken qua terrorisme, medische ingrepen enzovoort, dan wordt het gebruik van AI ernstig beperkt. Dat hier een conflict is is wel duidelijk, maar de redenatie van SpaceX dat we de LLM dan complexere regels moeten geven is momenteel praktisch - zacht gezegt - problematisch.

Laat ze eerst maar eens een model maken wat aan die complexere regelgeving kan voldoen. Ik heb zelf verschillende GPT's gemaakt en die schenden zelfs "regels" die expliciet zijn ingegeven, bijvoorbeeld een direct verbod op het maken van markdown titels voor een specifieke use-case. Nou is dat geen Grok, maar ik geloof er niets van dat die beter presteert op dat gebied. Uiteindelijk moeten wetten op de praktijk aansluiten.

[CelisC]

Grok (chatbot). Besturings­systeem: Android, iOS. - Wikipedia

Oftewel, je zou in theorie even gauw een foto met je smartphone kunnen maken van wie dan ook op straat, foto inladen in grok, kort verzoekje er bij en hoppa: een geëxtrapoleerd resultaat van diezelfde persoon, maar dan naakt. Om nog maar te zwijgen over anderen die in dat beeld opgenomen zijn en waar hetzelfde verzoek misschien ook op toegepast wordt.

Het kost een stap of twee extra, maar dat komt wel gruwelijk dichtbij het concept van een bril die automatisch iedereen uit kan kleden. En dan willen ze een staat aanklagen die dit gaat verbieden?

Zijn ze nou helemaal van de pot gerukt bij spacexai?

[Reactie gewijzigd door CelisC op 30 juli 2026 16:11]