Indonesië en Maleisië blokkeren Grok vanwege genereren van seksuele deepfakes

Grok is tijdelijk niet beschikbaar in Indonesië en Maleisië. Beide landen hebben de chatbot van xAI geblokkeerd omdat deze zonder toestemming seksuele deepfakes van onder meer vrouwen en kinderen genereert. Ze willen dat xAI maatregelen neemt om dit te voorkomen.

Indonesië en Maleisië laten in soortgelijke verklaringen weten dat ze Grok tijdelijk hebben geblokkeerd omdat de chatbot veel wordt gebruikt om zonder toestemming seksueel getinte deepfakes te maken van vooral vrouwen en kinderen. Dat melden Antara en Bernama, respectievelijk de staatspersbureaus van Indonesië en Maleisië.

De chatbot kan afbeeldingen bijvoorbeeld zo manipuleren dat het lijkt alsof vrouwen een bikini dragen. De Indonesische regering noemt dit 'een ernstige schending van mensenrechten, menselijke waardigheid en de digitale veiligheid van burgers'. Indonesië en Maleisië hebben strenge wetten die het verspreiden van 'obsceen' materiaal verbieden.

Beide landen eisen dat xAI effectieve maatregelen neemt om te voorkomen dat Grok dergelijk materiaal kan genereren. Pas dan wordt de blokkade opgeheven. Eerder gaf X al aan dat iedereen die illegale beelden genereert, waaronder kindermisbruikmateriaal, permanent wordt geschorst van het platform. Ook heeft het bedrijf de openbare afbeeldingsgeneratiefunctie beperkt tot betalende Premium-abonnees. Maleisië zegt in zijn verklaring specifiek dat dergelijke maatregelen 'de inherente risico's die zijn ontstaan door het ontwerp en de werking van de AI-tool' niet tegengaan.

In andere landen ligt de chatbot om dezelfde reden onder vuur. Zo hebben Franse ministers melding gedaan bij justitie en de mediatoezichthouder Arcom van de illegale content die Grok zou genereren. Ook doen het Verenigd Koninkrijk en de Europese Commissie momenteel onderzoek naar de meldingen.

Reacties (201)

[PredCaliber2]

Denk inderdaad dat ze dan alle AI moeten blokkeren, en dan met name Nano Banana Pro. Die tovert (via API dan) zon beetje elke celeb en outfit zo uit de mouw.

Blijf het wel altijd vreemd gevonden hebben dat Grok die spicy mode heeft/had. Dat is natuurlijk voor kwaadwillende zo wel heel makkelijk.

[r2504]

Zelfs met ChatGPT heb ik het afgelopen ski verlof van onze groepsfoto een versie gemaakt waarbij iedereen een zwembroek/bikini aanhad. Op zich gewoon een fun foto waar iedereen mee kon lachen al begrijp ik dat er misschien een context is waarbij dit not-done is ?

[separhim]

De context is voor veel vrouwen dat dit zonder hun toestemming werd gedaan en op een publieke plek werd geplaatst, terwijl de eigenaar van het platform erom zat te lachen. Dat is gewoonweg vernederend. Dat is veruit het grootste probleem hier, dat het een vernederende actie is die door iedereen gedaan kon worden en publiek geplaatst werd.

[icecreamfarmer]

De doos van Pandora is geopend.

Iedereen met een telefoon kan dit nu.

[Honytawk]

Die services worden nu aangeboden door een handjevol bedrijven die zeker en vast aangepakt kunnen worden.
En zelf een lokaal model opzetten is een drempel dat de meeste zou tegenhouden.

Dus de doos is misschien open, maar we kunnen en moeten er wel wat aan doen.

[supersnathan94]

En zelf een lokaal model opzetten is een drempel dat de meeste zou tegenhouden.

Daar zijn gewoon apps voor. Ik heb er ook eentje die dat echt met twee klikken doet.

Overigens zijn dit dingen die dus door partijen zoals Yt en Meta actief worden gepromoot.

gisteren kreeg mijn buurman reclame voor app die van een willekeurige foto een titdrop video maakt. Inclusief voorbeeld.

wilde er nog een foto/filmpje van maken voor hier om te laten zien hoe en wat.


Ik snap dat Grok er nu op afgerekend wordt, maar we moeten ook zeker niet verbaasd gaan zitten zijn hierover. Dit wordt actief gepromoot door de grootste advertentieplatformen ter wereld en als je het rapporteert vanwege illegale praktijken, wordt dat afgewezen.

[Mathijs Kok]

[...]

Daar zijn gewoon apps voor. Ik heb er ook eentje die dat echt met twee klikken doet.

Waarom zou iemand in hemelsnaam een app hebben die dat kan? Klinkt een beetje triest.

[separhim]

Je wil niet weten hoeveel mensen dit doen. Ik zag laatste een video van een vrouw die hierover sprak, en dat zij jarenlang berichten kreeg van een stalker die steeds schreef over hoe hij en anderen haar fotos en videos gebruikte om deepfakes te maken (en vaak ook beschreven hoe het eruit zag), waarbij hij ook nadrukkelijk zei dat hij en die andere figuren het geweldig vonden datdat ze het niet wilde en er niks tegen kon doen.

[supersnathan94]

Lees even nog een keer mijn bericht en wat ik quote en denk dan nog even een keer heeeeeel erg goed na of je de juist aanname hebt gedaan.

[Honytawk]

Draaien die apps wel degelijk een lokaal model, of verbinden ze weer met dat handjevol services?

Want image generation is een zwaar proces dat volgens mij enkel in datacenters of minstens op een zware werk computer moeten draaien.

[bilgy_no1]

Die advertentieplatformen hebben een zeer twijfelachtig track record als het gaat om het toestaan van misleidende en niet-toegestane reclames.

Dat betekent dat zij ook veel meer aan banden moeten worden gelegd.

De meldingen voor deze reclames worden niet opgevolgd, want de kassa moet rinkelen. Wat mij betreft leggen we die reclameplatforms op dat ze in Nederland gewoon aan de Reclame code moeten voldoen. Bij geconstateerde overtreding gaat het hele platform op zwart + boete.

[Scriptkid]

iedereen met een telefoon kan ook pesten en haat zaaien en dat is ook not done,

We hebben een moreel compas te volgen naast onze techniek en als je over die lijn heen gaat dienen er gewoon consequenties aan te hangen,

Een zwem kleding foto maken van collegas gaat ver over deze grens van normen en waarde heen binnen de bedrijfs cultuur ik hoop dat je dat toch wel inziet. In sommige culturen kun je er zelfs voor gestraft worden om in zwemkleding publiek te verschijnen.

[Dlsruptor]

We hebben een moreel compas

Juist. En ik vind dus dat je dan ook gestraft moet worden als je zo een tool gaat misbruiken. Dat het nieuw is en dat je dingen kan die voorheen dagen duurde (photoshop) wil niet zeggen dat het ook goed is om het te gebruiken.

Mensen moeten gewoon eens meer hun gezonde verstand gebruiken.

[SkyStreaker]

Over de schreef gaan is helaas net zo subjectief als een moreel kompas. Als men dit wil doen, moeten de regels scherp gemaakt worden.

[Mathijs Kok]

Als men dit wil doen, moeten de regels scherp gemaakt worden.

De wetten die over dit soort dingen gaan zijn al bijzonder scherp in die twee landen. Ook bij ons (Nederland) zijn de huidige wetten zeer wel in staat om hiermee om te gaan.

[Scriptkid]

ik mag toch echt wel hopen dat het aanpassen of uitkleden van collega`s op fotos vraagtekens op roept bij je, als dat niet zo is zou ik je zeker adviseren om eens wat cursussen en of zelfs hulp te zoeken.

Daarnaast is het wel goed als het bedrijf deze cursussen zelf ook aanbied digitaal. Bij ons gebeurd dit bijvoorbeeld ook, wij hebben ongeveer 1 uur per maand aan integriteits cursussen waar dit soort dingen ook wel voorbij komen.

[SkyStreaker]

Ik hoop toch echt dat je algemeen praat, want ik vindt dat dus over de schreef gaan. Ook als "grapje". Dat bedoel ik dus met subjectief.

[Patriot]

Daarnaast is het wel goed als het bedrijf deze cursussen zelf ook aanbied digitaal. Bij ons gebeurd dit bijvoorbeeld ook, wij hebben ongeveer 1 uur per maand aan integriteits cursussen waar dit soort dingen ook wel voorbij komen.

Ik mag toch hopen dat daar wel subtielere problematiek langskomt dan "je mag van je collega's geen seksuele deepfakes maken." Dat mag al niet van de wet en lijkt me niet subtiel over de schreef te zijn, of krijg je daar ook uitgelegd dat je je collega niet met een nietmachine te lijf mag gaan?

[Scriptkid]

wij hebben bijna 4-8 uur per maand aan verplichte security trainings.

Ethische omgang en verkoop is daar gewoon onderdeel van, je staat versteld hoeveel mensen niet snappen waar de grens ligt over omgang en respect op de werkvloer, lees de thread hier maar eens hoeveel mensen het normaal lijken te vinden om dit wel te doen.

[Martinspire]

Ver over de grens? Bij wat voor bedrijven werk jij in hemelsnaam?

[Zoijar]

Ik lees ook een beetje met verbazing hoe preuts men hier is. Niet dat ik het goedpraat ofzo hoor, en zeker niet het openbaar publiceren ervan, maar toch, begint een beetje op amerikaanse normen te lijken... Vroegah zat je gewoon topless bij elkaar haha

[Reactie gewijzigd door Zoijar op 12 januari 2026 11:23]

[Patriot]

Vroegah zat je gewoon topless bij elkaar haha

.. bij wat voor bedrijven werk jij in hemelsnaam? 😂

Misschien begrijp ik dit verkeerd, maar ik heb nog nooit met (half)naakte collega's gewerkt

[Zoijar]

Als je een weekend weg gaat als bedrijfsuitje dan gebeuren dat soort dingen al snel, zeker als er strand of water is. Om nog maar te zwijgen over later in de bars en clubs... (betekent niet dat elke creep op het internet maar je fotos moet editen btw, voor de duidelijkheid)

[Reactie gewijzigd door Zoijar op 12 januari 2026 12:27]

[Scriptkid]

Dat is totaal anders dan kiest de persoon er zelf voor om minder kleding aan te doen,

dat is wat anders dan door iemand anders uitgekleed te worden.

[Patriot]

Oh zo, ik dacht iets teveel in de gewone werksetting In het kader van (dat soort) bedrijfsuitjes kan ik me voorstellen dat het zo gaat idd.

[Zoijar]

Oh gewoon op kantoor, dat juffrouw jannie zonder shirt zit haha

[Dlsruptor]

+1

Vroegah zat je gewoon topless bij elkaar

Alhoewel ik moet zeggen dat we vroeger ook geen telefoontjes hadden met x50 zoom om in te zoomen op de kadetjes van je buurvrouw op het strand.

[r2504]

De reacties verbazen me ook wel... eerst en vooral ging het hier niet over collega's of een bedrijfscontext maar een privé vriendengroepje. Aan de foto was trouwens ook niets obsceens aan, geen ongewoon naakt (ja, zo zie je mensen ook gewoon als ze aan het zwembad rondlopen) of compromiterende handelingen en meer dan duidelijk "fake" maar blijkbaar is humor echt niet meer in.

Ik heb de indruk dat we hier richting de Zwarte Pieten of Kerststallen discussies gaan... waar mensen die er totaal niet door zijn aangesproken er eigenlijk nog het grootste probleem van maken. De vraag is maar hoe ziekelijk je bent als je overal racisme bewust gaat achter zoeken en de discussie erdoor aanstookt.

[Lothlórien]

Niet ziekelijk... Jezelf achtergesteld voelen en dat bevestigd zien in een feest met een witte chef en louter zwarte hulpjes.

Wilt natuurlijk niet zeggen dat er van beide kanten nogal ongenuanceerd met het onderwerp is omgegaan, maar dat hoort thuis in een andere discussie.

[r2504]

Niet ziekelijk... Jezelf achtergesteld voelen en dat bevestigd zien in een feest met een witte chef en louter zwarte hulpjes.

Het grappige hieraan is dat het meestal blanke mensen zijn - die totaal niet betrokken zijn - die hier een probleem van maken... niet de effectieve etnische groep (en daar ken ik wel wat mensen die zich er ook totaal niet aan storen of het zelfs nooit in een racistische context hebben gezien).

Ze zien zich trouwens niet als hulpjes maar als fiere kindervrienden die snoep en cadeautjes uitdelen en een oude man helpen. Nu ja, je kan natuurlijk alles in een negatief daglicht plaatsen maar dan moet je zelf die ziekelijke geest hebben.

[Lothlórien]

Als je bij sinterklaas meteen denkt aan werkgever - knecht relatie doe je hetzelfde als de ouders die het Sinterklaasjournaal niet snappen en de hoofdpiet bedreigen. Je past het feest op je eigen belevingswereld toe en vergeet de rest. Als je dat met ziekelijk bedoelt ben ik het er zeker mee eens.

Dit soort feesten moeten we wel aantrekkelijk blijven houden, ook voor de volwassene die wel ongepaste referenties ziet. Ik ben daarom ook niet ontevreden met de uitkomst van de discussie.

[kaas-schaaf]

Iedereen met een telefoon kan dit nu.

En wellicht moeten we dat als maatschappij niet willen.
Het creëren en publiceren van smaad (deepfakes zijn smaad) zou in mijn ogen gelijk gesteld moeten worden aan de opdracht er toe geven. In het geval van eXtwitter is het beide de maker en publicist in mijn ogen en kunnen ze niet schuilen achter "ja maar gebruiker" aangezien ze meerdere mogelijkheden hadden om dit te detecteren en voorkomen. Het zou hetzelfde zijn in mijn ogen als een schilder gewild een dubieus schilderij in opdracht maakt en die dan naar het rijksmuseum stuurt om die op de voorkant van het gebouw te hangen. Beide partijen hadden nee moeten zeggen.

[Martinspire]

Maar moet het strafrechtelijk vervolgd worden, of maatschappelijk? Want als je zegt dat het vervolgd moet worden, dan ga je daarmee ook veel andere zaken treffen die niks met smaad te maken hebben en alles met censuur. Die balans is veel lastiger te vinden dan menig hier denkt.

[Patriot]

En wellicht moeten we dat als maatschappij niet willen.

Die tandpasta krijg je niet terug in de tube. Software verbieden is compleet onuitvoerbaar zonder ernstige maatschappelijke verstoringen.

Ik kan je opmerking ook in bredere zin opvatten maar dan wordt het nogal een holle uitspraak want dat is in feite al zo. We hebben als maatschappij al duidelijk aangegeven dat we niet willen dat zulke beelden worden gemaakt, want het is al wettelijk verboden.

[CAPSLOCK2000]

Net zoals iedereen met een keukenmes of een baksteen een moord kan plegen. Dat betekent nog niet dat we het tolereren of accepteren. Bij messen kun je de verkoop aan kinderen misschien nog reguleren, maar een volwassene die een moord wil plegen kun je haast niet tegen houden zonder extreme maatregelen.

[Tjidde]

Ik ben tegen ongevraagd foto's maken en uploaden van mensen. Al helemaal als je dan een AI gebruikt, met de prompt kleed deze persoon uit.

Maar het kan ook een voordeel hebben.

Als er zoveel foto's online staan van mensen die naakt zijn doordat een of andere persoon constant foto's aanpast en upload. Kan je bij een echte foto als die per ongeluk lekt, het als een AI foto claimen. Zodat mensen er minder omgeven.

Dit kan misschien op langer termijn voor slachtoffers van chantage een bijkomend voordeel zijn. Dat een naakt foto van iemand minder erg is. Want alles word toch "uitgekleed" door AI.

[Scriptkid]

helaas werkt het zo niet want zij worden toch telkens er weer mee geconfronteerd , zij weten ook dat het echt is ,

je kunt emotioneele schade niet goed poetsen door te zeggen oe kijk andere hebben er ook last van en het is niet echt, sterker nog je doet zoon persoon dan alleemaar harder onderuit halen.

[grrfield]

Die stelling is correct, maar daarom is het niet de fout van Grok.

Ik kan met mijn wagen iemand doodrijden, maar dat is niet de verantwoordelijkheid van de autofabrikant. Ik kan iemand neerschieten met een wapen, maar dat is ook niet de verantwoordelijkheid van de wapenfabrikant. .... etc ...

[separhim]

Als je naar de autofabrikant gaat en zegt dat je wil dat je een auto krijgt om iemand mee dood te rijden dan is de autofabrikant wel (deels) verantwoordelijk als je dat doet. Grok krijgt expliciet de opdracht om dit te doen, dus die vergelijking is nogal mank. Grok kan ook gewoon zeggen bij dit soort opdrachten, dat doe ik niet.

[jprommen]

Je begrijpt dat er ook gewoon een context is waarin de vraag gewoon valide is?

Ik wil graag een nieuwe zwembroek kopen en graag zien hoe deze eruit ziet als ik hem aan heb.

Bovendien kan je vervolgens wel de llm leren de expliciete vraag niet te beantwoorden om met badkleding te genereren, maar dan komt daarna het ondergoed, de korte zomerjurk, de hoog of laag uitgesneden kleding… en uiteindelijk een compleet onbruikbare ai als we alles op gegeven onmogelijk hebben gemaakt. Misschien wil ik wel als professional een mooi filmpje maken met een mooie jurk en heb ik volledig consent.

AI is een tool, ga gewoon handhaven. Er is trouwens al een zeelading kinderporno te vinden op internet. Je weet wel, de variant waar wel echt kinderen voor misbruikt worden. Ga de instanties alstublieft daarop richten in plaats van deze bliksemafleider.

[Bor]

AI is een tool, ga gewoon handhaven.

No offence maar hoe zie je dat voor je? Wie moet dat gaan doen en hoeveel capaciteit hebben we daarvoor nodig wanneer iedereen met een simpel verzoek beelden en video's kan genereren? We hebben nu al niet genoeg slagkracht om te handhaven en dat geldt niet alleen rond seksuele deepfakes.

[supersnathan94]

Artikel 254ba

• 1. Degene die
  • a. opzettelijk en wederrechtelijk van een persoon een visuele weergave van seksuele aard vervaardigt;
  • b. de beschikking heeft over een visuele weergave als bedoeld onder a terwijl diegene weet of redelijkerwijs moet vermoeden dat deze door of als gevolg van een onder a strafbaar gestelde handeling is verkregen, wordt gestraft met gevangenisstraf van ten hoogste een jaar of geldboete van de vierde categorie.

We hebben nu al niet genoeg slagkracht om te handhaven

helemaal eens hoor, maar om het even te relativeren, moeten we die wet dan wel hebben? Want dat is natuurlijk totaal niet handhaafbaar als je wél de middelen hebt, laat staan als je die al niet hebt. Ik ben het wel met @jprommen eens dat we beter op het misbruik aspect moeten focussen en van die neppe zooi lekker moeten negeren. Het stopt vanzelf. Deze dingen kunnen immers al jaren met Stable diffusion en andere tools voor praktisch gratis. Grok is daar niet de eerste en niet de enige in. Ook niet als het om vercommercialisering gaat.

[grrfield]

Waarom zou ik dat zeggen tegen de autofabrikant? Dat zou pas dom zijn, niet?

[ZinloosGeweldig]

In deze hypothetische situatie zou je dat zeggen omdat je een analogie met Grok probeert te schetsen die anders helemaal niet analoog aan de Grok situatie is.

[Reactie gewijzigd door ZinloosGeweldig op 12 januari 2026 14:00]

[Wouterie]

Daarom kun je hier niet zomaar een wapen kopen. Ondanks dat het niet het wapen is of de wapenfabrikant zijn ze toch aan banden gelegd.

[grrfield]

Andere wapens: een mes, een hamer, een koevoet, ....

[Wouterie]

Die koop je niet als wapen. Zou men een mes, hamer of koevoet verkopen als wapen dan hebben ze wel degelijk een probleem.

Zie je het verschil niet? Stel dat je een mes koopt en op de achterkant staat beschreven hoe je daarmee iemands keel kan doorsnijden, dan is dat mes vrij snel uit de handel. Maar wat er in het geval van Grok gebeurd is dat er geen enkele limiet is gesteld aan wat het gereedschap kan met content van (minderjarige) anderen.

Ik ben groot voorstander van vrijheid, maar ook er van overtuigd dat de mensheid verdorven is en dus moet de boel toch gereguleerd worden. Een zelfrijdende auto moet je niet de opdracht kunnen geven om over de stoep te gaan en zoveel mogelijk slachtoffers te maken. Een domme auto heeft hier geen enkele invloed op. Maar we hebben het hier niet over een domme bewerkingstool.

[curkey]

Waar leg je de grens dan? Wie moet er dan bepalen wat er wel en niet acceptabel is?

Stel dat ik als gebbetje een groepsfoto van ons gezin wil bewerken en iedereen in badkleding op een tropisch eiland zet, om op een bijzondere manier te vertellen waar we op vakantie naartoe gaan, dan ziet het plaatje er nauwelijks anders uit dan wat politici in een bikini.

En domme auto's? Tegenwoordig zit er voetgangersbeveiliging op. Daar kwam de politie ooit ook achter toen ze probeerden een vluchtende crimineel klem te rijden. Botsen mag niet, zei de auto.

Het probleem met dit soort automatische tooling is dat het hoogstens voor 80% goed werkt, omdat het niet in staat is de juiste context af te leiden. Aan wie is het dan om op de stoel van de scheidsrechter te gaan zitten?

[grrfield]

Waar leg je de grens dan? Wie moet er dan bepalen wat er wel en niet acceptabel is?

Precies dit. Er zijn effectief mensen waarvan ik denk dat ze geen verantwoordelijkheid aankunnen, of erger nog, geen enkele verantwoordelijkheidszin hebben. Dat mag echter geen reden zijn om de vrijheid van anderen te beperken. De lat moet niet lager gelegd worden.

Ik hou van maximale vrijheid, alhoewel daar ondertussen ook al zeer sterk paal en perk aangesteld is, door een overheid die meent te moeten denken in mijn plaats.

[Wouterie]

Daar hebben we de wetgever voor.

Daarnaast kunnen er algemene voorwaarden opgesteld, zeg spelregels, waarin wordt uitgelegd wat de bedoeling is. Dat een grap zoals jij het beschrijft prima zou kunnen, maar hetzelfde met de klassenfoto van je dochter misschien niet.

[grrfield]

Ik ben groot voorstander van vrijheid, maar ook er van overtuigd dat de mensheid verdorven is en dus moet de boel toch gereguleerd worden.

Dus ben je eigenlijk een tegenstander van vrijheid.

[Wouterie]

De wereld is niet zwart of wit. Anarchie of totalitair. De individuele vrijheid mag niet boven het maatschappelijk belang staan. Het is in het maatschappelijk belang dat kinderen en andere kwetsbaren worden beschermd en dus geldt niet per definitie het recht van de sterkste waarbij vrijheid misbruikt wordt om anderen van vrijheid te beroven.

Net als in het verkeer. Je hebt de vrijheid om in Nederland de auto te pakken en ergens naartoe te rijden. Echter ben je gebonden aan een aantal regels, zoals de verkeersregels, maar ook de voorwaarde dat je beschikt over een rijbewijs. Juist door die regels en voorwaarden kan de algemene vrijheid gewaarborgd blijven.

Gooi de dat overboord, dan is die vrijheid alleen van toepassing op die paar rijken die een tank kunnen kopen en zo kunnen doen en laten wat ze maar willen.

[curkey]

Maar: jij hebt de vrijheid die beslissing te maken. Niet je auto. Nog niet althans.

[wjn]

Allemaal zaken die je niet zomaar zonder gegronde reden bij je mag hebben (in Nederland tenminste). Dat is al decennia zo.

[AMDLegion]

Hamer mag toch wel?

[GromuhlDjun]

Als jij s'nachts om 2 uur met een hamer over straat loopt, is dat reden voor bijv. politie om te checken of dat wel in de haak is.

Als jij overdag aan het klussen bent met een hamer, dan is er minder aan de hand. Zelfde met honkbalknuppels, messen etc.

[OruBLMsFrl]

Het algemeen nut en de onvermijdelijkheid van die gereedschappen om een bepaald doel te bereiken overstijgt toch ver die van AI platformen om willekeurige mensen in weinig verhullende outfits om te toveren, nog naast het verwachte gebruik procentueel voor constructieve zaken vs destructieve?

Sociale media staat steeds meer onder druk voor kinderen door de grote maatschappelijke kostenpost zeker bij tieners met negatief zelfbeeld en sociale isolatie. Laat staan wat voor maatschappelijke kostenpost de slechte doeleinden van AI opleveren. Hoe makkelijker het gemaakt wordt, hoe meer slecht gebruik er zal zijn alleen al doordat het nu kan in een opwelling.

[supersnathan94]

Ik heb gewerkt bij een bouwzaak, als iemand gereedschap kwam kopen en daarbij de schijn wekte dat dit gebruikt ging worden voor een inbraak (dus denk inderdaad aan koevoet), dan was ik verplicht dit te melden bij leidinggevende, maar ook om dan bij de kassa te weigeren. Je kwam dan echt de winkel niet uit, want ja, als winkel ben je daadwerkelijk medeplichtig als je het had kunnen weten.

https://www.gld.nl/nieuws/2075286/koopt-u-een-koevoet-dan-bekijkt-de-politie-beelden-van-u

Wie koevoeten, beitels, mokers, handschoenen of grote schroevendraaiers koopt bij een bouwmarkt in Ede, Wageningen en Veenendaal wordt voortaan extra in de gaten gehouden.

De politie en de bouwmarkten werken samen tegen inbrekers. De politie mag van de bouwmarkten regelmatig de camerabeelden en de aankopen van bepaalde inbrekersgereedschappen bekijken. Als op de camerabeelden mensen staan die bij de politie bekend zijn in verband met inbraken, onderneemt zij actie.

De politie in Ede hoopt landelijk navolging te krijgen. Het College Bescherming Persoonsgegevens CBP moet de afspraken nog bestuderen.

Dat is wel een artikel uit 2014 dus mogelijk is dat al weer van tafel. maar er zijn zeker wel regels en preventieve maatregelen voor het verkopen van zaken die voor misdrijven kunnen worden gebruikt.

[JWL92]

Als je auto zonder werkende remmen geleverd word, lijkt me dat wel degelijk schuld vd fabrikant...

[grrfield]

De remmen werkten wel degelijk, ik gebruikte ze gewoon niet.

[hcd320]

Moet je es op elke hoek van de straat een kioskje zetten waar een aantal pistolen en geweren gratis voor het grijpen liggen .. es zien hoe lang het zou duren ...

[P_Tingen]

Behalve als er op het dashboard een knopje zit met als label "Pak voetganger", dat is een iets betere vergelijking

[Wolfos]

Grok zit in Twitter X geïntegreerd, en mensen reageerden gewoon op posts met “Grok, maak hier een bikinifoto van”.

Zie Reuters voor meer context.

[Maurits van Baerle]

Hier heb je nog meer context. Gruwelijke shit.

The Guardian: ‘Add blood, forced smile’: how Grok’s nudification tool went viral

[BitWeasel]

gewoon een fun foto waar iedereen mee kon lachen

Weet je zeker dat iedereen het daadwerkelijk grappig vond, of zaten er mensen tussen die het eigenlijk niet leuk vonden maar niet "die zeur / deugneus" willen zijn die zeggen dat het niet leuk is. En maar gewoon meelachen vanwegen peer pressure. Of bang zijn dat als ze wel iets zeggen, ze hun vriendengroep kwijt raken.

Meelachen en niets zeggen komt heel veel voor. Just sayin'

Oh, en dit is mischien nog een relevant stukje om te lezen: https://blog.iusmentis.com/2026/01/08/grok-gemeld-bij-franse-autoriteiten-voor-maken-deepfakes-en-kindermisbruikbeeld/ omdat ik het "maar photoshop!" argument hieronder ergens tegen kwam.

[Reactie gewijzigd door BitWeasel op 12 januari 2026 15:28]

[Sinester]

Klinkt niet als een leuke vriendengroep als mensen zulke gedachtes er op na houden, zou zelf zeggen dat zijn geen vrienden zijn maar kennissen, overig is het dan echt not done om het te doen, maar in een hechte vrienden groep zie ik het probleem niet zo.

Bij echte vrienden heb je zulke gedachten ook niet imo

[Reactie gewijzigd door Sinester op 12 januari 2026 10:52]

[curumir]

Dus als iemand die gedachte wel heeft is het geen 'echte' vriend? Leuke definitie van vriendengroep heb jij.

[Sinester]

Nee is mijn mening, in mijn vriendengroep hebben mensen die gedachte niet over elkaar, waarom? omdat we goede vrienden zijn

nu je het zegt, idd best een leuke definitie van een echte vriendengroep

[Reactie gewijzigd door Sinester op 12 januari 2026 15:31]

[supersnathan94]

in mijn vriendengroep hebben mensen die gedachte niet over elkaar, waarom? omdat we goede vrienden zijn

ik snap je niet helemaal. wat bedoel je hier precies mee? Want volgens mij bedoel jij iets anders als @BitWeasel en lopen er echt wat andere dingen door elkaar.

[Sinester]

Waar ik op reageerde is de statement dat in een vriendengroep misschien iemand ze mond niet durft open te trekken omdat hij bang is voor de gevolgen. Mijn mening daarop is dat als je dat bij je eigen vrienden niet durft, het geen goeie vrienden zijn, verre van zelfs

[supersnathan94]

Er zit een groot verschil tussen "vrienden" en "vrienden". De ene groep is de andere niet.

Mijn vrienden zouden dit eerst vragen ... je weet wel. met consent. Dat zit daar nog een stapje voor.

[BitWeasel]

"in mijn vriendengroep hebben mensen die gedachte niet over elkaar, waarom? omdat we goede vrienden zijn"

De gedachte waar ik op doelde is "ik vind het eigenlijk niet heel grappig om door middel van AI in mn zwemkleding gezet te worden. Maar ik zal er maar niet te zwaar aan tillen want niemand anders zegt er iets van. Het zal wel zo horen en grappig en normaal zijn."

Dit, En dan specifiek "het zal wel grappig bedoeld zijn, en normaal zijn" samen met "eigenlijk vind ik het niet heel leuk" is iets wat veel vaker voorkomt dat je waarschijnlijk denkt. En "omdat we goede vrienden zijn" is daar geen tegenargument bij. De drang om bij een groep te horen is heel erg groot, groot genoeg om bepaalde dingen binnen die groep dan maar te accepteren of te bagatalliseren. Grappen ten kosten van een ander zijn daar een uitstekend voorbeeld van.

Dit voelt voor mij een beetje als het niveau grap van op iemands gezicht tekenen als hij slaapt, of een vrijgezellefeestje waarbij de vrijgezel "iets met een penis of borsten" bij zich moet dragen. Respect voor je vrienden hebben en niet ten kosten van de ander grappig willen zijn. Als ik om mij heen kijk op straat in wat mensen "grappig" vinden, gaat het heel vaak ten kosten van de ander.

Het kan zijn dat in jouw vriendengroep iedereen het hier helemaal mee eens is hoor. Zelf zou ik er niet om kunnen lachen. (En dat zegt iets over ons allebei en onze vriendengroepen )

[LOTG]

Die context is heel duidelijk en makkelijk, toestemming. Het lijkt mij niet zo moeilijk om te zien waarom het onwenselijk is dat dit zo maar kan met elke willekeurige afbeelding van iemand. Niet iedereen vind het grappig als er een afbeelding van hen (half) naakt op internet gezet word, en bij zo een AI afbeelding ben jij het eigenlijk ook nog niet eens.

Vooral als je het dan ook nog eens meteen op social media kan plaatsen (of automatisch word geplaats). En met een beetje pech gaat het een eigen leven leiden, en word die verspreid onder jou collega's, vrienden of andere kennissen. Of in het geval van een docent, onder je leerlingen (als die al niet zelf die afbeeldingen van jou maken).

[Mit-46]

Het verschilt natuurlijk per bedrijf (groot/klein) en hoe goed je bent met collega's én wat voor soort collega's (jong/oud, verzin het maar)

Ik denk dat je bij mijn werkgever ontslagen zou zijn. Ik weet het eigenlijk wel zeker.

Mits Tenzij iedereen van te voren akkoord heeft gegeven natuurlijk!

@P_Tingen

[Reactie gewijzigd door Mit-46 op 12 januari 2026 11:55]

[P_Tingen]

** tenzij

[JeanB42]

Fun foto? Als zoiets van mij ergens opduikt, dan ga ik daar wel een klacht over indienen.

En zoals al door iemand anders hier aan jou gevraagd: hoe zeker weet je dat iedereen dat "fun" vindt?

[Tsurany]

Er is zeker een context waarbij dit not-done is, namelijk altijd. Zonder vooraf expliciete toestemming van anderen een foto manipuleren zodat ze in ondergoed/zwemkleding staan is gewoon altijd not-done. Jij bent hiermee een grens over gegaan en je denkt dat iedereen er mee kon lachen maar dat heb je niet vooraf geverifieerd, je ging er gewoon vanuit. Het kan prima dat collega's hier moeite mee hebben maar niet hun hand opsteken omdat ze niet te veel willen opvallen of als zeur weggezet willen worden.

[Fourtrain]

Op zich gewoon een fun foto waar iedereen mee kon lachen al begrijp ik dat er misschien een context is waarbij dit not-done is ?

Grok is op dit moment erg populair onder mensen die dit bij fotos van kinderen doen, daarnaast maakt grok niet alleen bikini fotos maar het lukt mensen ook om deze (gewelddadige) naakt beelden van kinderen te laten creëren. 1 2

Dat is een context die veel mensen not-done vinden. Musk heeft aangegeven dat kinderporno maken onder de vrijheid van meningsuiting valt en dit tegenhouden censuur zou zijn dus sommige landen gaan nu Grok/X blokkeren. 1

[Reactie gewijzigd door Fourtrain op 12 januari 2026 11:45]

[Vexxon]

En er was daarbij niets aan hun gezichten veranderd?
Ik heb laatst een foto van een vriendin laten bewerken door ChatGPT om alleen een tekst te veranderen. In eerste instantie blurde hij het gezicht en toen ik hem expliciet vroeg dat niet te doen, veranderde hij alsnog het gezicht enigszins.

Maar het voorbeeld wat jij noemt is zwembroek/bikini, het artikel gaat over sexuele deepfakes, dat is toch wel totaal iets anders.

[r2504]

Nee, de gezichten waren correct (trouwens toen ik iedereen een grappige kerst trui aandeed waren sommige gezichten wel niet correct en kreeg ik ze ook totaal niet correct).

En het ging hier inderdaad niet over naakt of sexuele deepfakes maar gewoon iets leuks onder vrienden welke het allemaal best grappig vonden (en ook niet in een bedrijfscontext, geen idee waarom iedereen hier dus meteen over ontslag spreekt).

Humor moet dus blijven kunnen binnen bepaalde grenzen en iemand een badpak aandoen valt daar hopelijk nog onder of is de woke cultuur hier helemaal doorgeslagen ?

[Vexxon]

Jammer dat je meteen over woke-cultuur begint, dat haalt je hele punt onderuit.

Je kunt op zijn minst rekening houden met het feit dat sommige mensen er nu eenmaal niet van gediend zijn dat ze ongevraagd in bikini worden afgebeeld. Dat is niet zo gek toch? Heeft niets met woke te maken maar met fatsoen. Ik heb een dochter en als iemand een foto van haar gebruikt om haar in bikini af te beelden en deze met iedereen deelt dan ga ik die persoon toch even toespreken.
Probleem is namelijk dat er altijd mensen zijn die de grens langzaam opschuiven. Oh bikini's zijn ok, kijken wat er gebeurt als we een stapje verder gaan.
Dat kun jij 'woke' vinden, ik vind het asociaal als je daar geen rekening mee kunt/wilt houden en dan druk ik mij heel beleefd uit.

[Reactie gewijzigd door Vexxon op 13 januari 2026 10:39]

[r2504]

Jammer dat je meteen over woke-cultuur begint, dat haalt je hele punt onderuit.

Net niet... het is zelfs de essentie van het verhaal dat we in een angst maatschappij leven waar iedereen bang is om nog iets te zeggen of te doen en alles extreem wordt uitvergroot (vooral door mensen die er zelfs in eerst instantie totaal niet bij betrokken zijn maar zich de taak van moraalridder hebben aangemeten).

Van Zwarte Piet maakt men racisten, van een foto in bikini maakt men sexueel grensoverschrijdend gedrag, ... en ga zomaar verder. Misschien vind jij dat de maatschappij er op die manier beter op wordt maar dan hebben we daar toch een totaal andere mening over.

Verder denk ik dat we dit best afsluiten met agree to disagree... we hebben hier duidelijk een andere mening.

[Vexxon]

Sorry maar wat een gelul. Je probeert de persoon die een probleem heeft met het feit dat ie ongevraagd in een bikini wordt afgebeeld af te schilderen als schuldige en de persoon die de afbeelding maakt als slachtoffer.

Dus ik zie graag een foto van je dochter/vrouw/moeder zodat we ermee aan de slag kunnen. Of ben je woke?

[r2504]

Nee, ik schilder niemand af als schuldige... jij als buitenstaander hebt hier een mening over mensen die je zelf nog niet eens kent en tracht hen een schuldgevoel aan te praten (dat ze absoluut niet hebben) en aan hen je woke ideeën op te dringen.

Je kan m'n vrouw iedere zondag tussen 10 en 12 in bikini in het zwembad bewonderen... volgens mij ben jij hier meer ziek (want blijkbaar wil je met iets aan de slag) dan de mensen waarover je een oordeel aan het vellen bent !

[supersnathan94]

al begrijp ik dat er misschien een context is waarbij dit not-done is

Kennelijk niet helemaal.

Dit wat je nu schetst is namelijk exact de context waarin dit precies not done is.


Wij zijn een AI first bedrijf, maar "HR would be having a field day" als dit bi9j onze ski trip zou gebeuren.

Met toestemming was dit grappig geweest ja. Zonder ... ontslag op staande voet in veel gevallen.

[n4m3l355]

Wanneer gaan we een CEO verantwoordelijk houden voor functies die hij zelf aanmoedigt? Een CEO die zelf de grootste onzin verkoopt aan zijn tientallen miljoenen volgers?

Musk is al meermaals door de SEC op de vingers getikt en blijkbaar leert hij daar niets van. Waarom laten wij een platform zoals Twitter online wat nul toegevoegde waarde heeft voor onze maatschappij? RT werd recentelijk geblokkeerd omdat het een propaganda kanaal is, daar valt Twitter ook zo onder.

[Wouterie]

Het gaat vooral over de context en het gemak waarmee het gegenereerd en verspreidt kan worden. Dat er meer tools zijn die dat kunnen staat als een paal boven water. Wat je echter hier ziet is dat het is geïntegreerd in het platform waardoor het supersimpel is om op deze manier te misbruiken.

[curkey]

't Is niet zozeer dat er een spicy mode in zit, maar eerder dat er geen blokkades in zitten om het al dan niet te kunnen gebruiken.

Ik zie hier meer een Amerikaans perspectief in. Daar kun je wapens kopen om jezelf te verdedigen, of om kwaad te kunnen. Zij laten die beslissing in principe over aan de gebruiker. Doe je er vervolgens illegale dingen mee, dan zijn de daaropvolgende consequenties ook voor jou. FAFO.

Tot een bepaald niveau kan ik hier wel in meegaan met mijn gedachten. Want waar leg je de grens en wie bepaalt wie wat mag doen of zien? Hebben we een gedachtenpolitie nodig die tevoren moet accorderen welke dingen ik wel of niet zou mogen doen?

[Patriot]

Ik zie hier meer een Amerikaans perspectief in. Daar kun je wapens kopen om jezelf te verdedigen, of om kwaad te kunnen. Zij laten die beslissing in principe over aan de gebruiker. Doe je er vervolgens illegale dingen mee, dan zijn de daaropvolgende consequenties ook voor jou. FAFO.

Het nadeel daarvan is dat het "als het kalf verdronken is, dempen men de put"-gehalte heeft. Ik weet daarom ook niet of dat echt een juiste aanvliegroute is.

Dat gezegd hebbende, in deze krijgen we de geest niet meer in de fles. Het gaat om software en dat verbieden is eigenlijk in elke zin onmogelijk.

Daarbij komt dat (de meeste) van de gegenereerde foto's al illegaal zijn in Nederland. Dus het is vooral een kwestie van handhaven, of anders gezegd: Als iemand voor zou stellen dat er ingrijpen nodig is van de wetgever, dan zou ik als tegenvoorstel doen dat er eerst een poging gedaan wordt om de huidige wetgeving daadwerkelijk zijn werk te laten doen voordat we nog meer wetten gaan introduceren.

[CelisC]

Zo simpel kan het zijn: gewoon blokkeren.

Waarom doen we dat niet in de EU? Eerst een onderzoek, en ondertussen alle schade maar toelaten? Als het nu nog niet duidelijk is wat de ongure intenties zijn van de bedrijven achter deze tech, dan leven we met z'n allen toch echt met gesloten ogen.

[1234567y]

Sorry, maar de schade waar je over spreekt is niet zo onomstotelijk bewezen. gelukkig dat we in de EU niet zomaar alles blokkeren.

[Vexxon]

Niet? Jij ziet er geen kwaad in dat er foto's van jouw vrouw/dochter/moeder worden gebruikt om dit soort content te genereren?

Ik ben het op zich met je eens dat we niet zomaar alles moeten blokkeren, maar er is een middenweg tussen alles blokkeren en een partij als X hiermee weg laten komen. Dit soort partijen (big tech) lappen de regels als jaren aan hun laars.
Een bedrijf wat het minimale doet om misinformatie, racisme, haat en dit soort mogelijkheden te beperken is wat mij betreft af.

[CelisC]

Om te beginnen lijk je niet eens een account nodig te hebben om van Grok gebruik te maken. Iedereen kan er dus zo gebruik van maken.

Wat zou er gebeuren als pubers op de middelbare school (of zelfs de basis school) leren wat Grok kan - betaalmuur of niet - als ze net in aanraking komen met libido? Een foto van een meisje uit de klas - of zelfs een docent - vinden is niet zo moeilijk met alle social media. Plop dat even in Grok, zet er wat ondeugende tekst bij en hop. Deel de plaatjes met de vriendjes, en klaar. Wat zou dat doen met de meisjes in zo'n klas als ze leren dat dit gebeurt? Wat doet het met jongens als ze dit zonder (directe) consequenties kunnen doen?

Dit is een gedachtenexperiment. Misschien is het al gebeurt - kleinschalig of niet - maar het kan absoluut exploderen zodra het bekend wordt dat dit zou kunnen. Als ik het verhaal goed begrijp, dan is dit niet vergezocht. In hoeverre is Grok in staat om minderjarigen te onderscheiden? Al helemaal met make-up en opdossing van jonge meiden? Wat voor veiligheidsmaatregelen heeft Grok - en soortgelijke platforms - om dit tegen te gaan? Als een betaalmuur de reactie/'oplossing' is van Grok, wat zegt dat dan?

Ik houd mijn hart vast.

gelukkig dat we in de EU niet zomaar alles blokkeren.

[Reactie gewijzigd door CelisC op 12 januari 2026 13:19]

[Stijnvi]

Je kan toch echt met je eigen ogen zien dat Grok – zonder toestemming van de persoon op de foto – seksuele beelden creëert, zelfs van minderjarigen. Het lijkt me overduidelijk dat dit ongewenst, schadelijk, en illegaal is.

[ZinloosGeweldig]

De hoeveelheid schade is niet gekwantificeerd, dat vind ik net wat anders.

[DavidZnay]

Het probleem met censuur en regulering is altijd overreach. De wetgeving die hiervoor gebruikt wordt kan wellicht nu of in de toekomst óók ingezet worden om dingen te censureren die vrijheden en openheid beperken. Het zou niet de eerste keer zijn. Neem bijvoorbeeld de drang die de EU voelt om met WhatsApp berichten mee te lezen onder het mom veiligheid. Neemt niet weg dat Grok wel redelijkerwijs moet meewerken om illegale content aan te pakken.

[CelisC]

Zeker een belangrijk aspect. We gebieden snelheidslimieten op onze wegen. We hebben een minimum leeftijd voor producten met alcohol, pornografie, tabak, etc. We verbieden inbreken bij anderen. Je mag niet zomaar zonder toestemming iemand's foto nemen.

Als een online platform dan de mogelijkheid biedt om iemand's foto (zonder toestemming) zomaar te uploaden / er naar te verwijzen om daar vervolgens deepfakes van te maken, dan overschrijdt dat meerdere grenzen en verboden. Als die mogelijkheid onderdeel is van een basispakket - of zelfs een betaald pakket - van een online platform, is het dan overreach en/of censuur om dat te verbieden, al helemaal als zo'n platfom geen maatregelen neemt om het tegen te gaan?

Waar ligt de grens tussen noodzakelijke verboden en ongewenste censuur? Bieden deze platforms uberhaupt zoveel toegevoegde waarde dat we dit dan maar door de vingers gaan zien?

Die discussie mag voor mij best gevoerd worden. Aangezien we de schadelijke effecten nog niet volledig in kaart hebben - voor het publiek, de bedrijven weten exact wat ze doen - vindt ik het niet overdreven om het zekere voor het onzekere nemen. Al helemaal als een betaalmuur de 'oplossing' van een Grok is.

[vanstra]

ChatGPT en Google Gemini kunnen dit ook. Ook maar gewoon blokkeren?

[CelisC]

Ik moet denken aan alcohol en naaktheid bladen in de supermarkt. Voor die eerste heb je een ID nodig, die tweede liggen buiten bereik van kinderen en van volwassenen wordt enige discretie verwacht.

Maar er zijn kritische verschillen tussen een supermarkt die volwassen producten discreet verkopen en een online tool waar leeftijd controleren juridisch en praktisch bijna niet te doen is en waarmee zonder toestemming beelden van anderen gemaakt kunnen worden die niet door de bocht kunnen.

Als online platforms niet meewerken aan oplossingen en/of schadelijke praktijken niet aanpakken, dan is een blokkade mijns inziens de enige taal die dergelijke platforms nog spreken.

Met schadelijke praktijken bedoel ik overigens niet alleen deepfakes, maar ook de output die gewoon niet te vertrouwen is zonder bronvermelding en eigen onderzoek. Het brengt gemak, en dat is de valkuil.

[Bulls]

Ik ben voor mandatory watermerk zowel digitaal als visueel in AI gegenereerde content.

Het loopt echt de spuigaten uit met die video’s en plaatjes. Nog even en heel internet staat vol met ai troep.

[911GT2]

Ja maar die knip je er toch zo af? Of je moet het watermerk dwars door heel de afbeelding heen zetten, maar dat gaat dan weer tegen het idee van de afbeelding in.

[Neruo]

Goed punt! Onder Artikel 50 van de AI-act moet AI-gegenereerde content ('machine readable') gemerkt worden, dat artikel gaat augustus 2026 in. Hoe dit technisch moet is nog onduidelijk, maar fingerprinting (machine leesbaar watermerk door hele afbeelding heen) zou mogelijk een onderdeel kunnen zijn.


Het blijft lastig inderdaad hoor, afbeelding croppen/re-sizen, en alle watermerk/fingerprint valt weg. Misschien moeten we toe naar de situatie dat een afbeelding van een mens die aangepast/gegenereerd door AI waarbij niet duidelijk is dat het AI is, wettelijk en maatschappelijk niet geaccepteerd wordt.

[Bulls]

Het is wellicht tegenstrijdig maar dan zou er een ai tool moeten komen die ai kan detecteren. grote sites en apps zouden dat kunnen toepassen en dat daarmee content een ai tag krijgt om gebruikers op de hoogte te stellen.

Beetje zoals social media alles kon flaggen tijdens de corona periode.

[Coolstart]

Het is wellicht tegenstrijdig maar dan zou er een ai tool moeten komen die ai kan detecteren.

Dat is het net, AI valt niet te detecteren als er geen marker is. Het enige wat werkt is een soort digitale handtekening die bewijst dat het van een sensor kwam en elke edit of upload of compressie het programma de handtekening bijwerkt zodat je alles naar de source kan traceren = de sensor.

Alle grote spelers ondersteunen C2PA . Dus dan kan je in theorie van een filmpje online zien welk pad het doorlopen heeft. Datum opname, type telefoon, locatie, welke upload, welke edits etc.

[Honytawk]

De AI kan het wel verwerken ergens in de achtergrond of zo.

[furiax83]

Er zijn al talloze AI applicaties die een watermerk perfect verwijderen, dus veel gaat dat niet doen.

Men moet gewoon eens beginnen met de gebruikers die misbruik plegen aan te pakken ipv de tools.

Hamers, bijlen, messen, flessen, enz. worden toch ook niet gebanned omdat er enkelingen moorden mee plegen...

[Bulls]

Het moet gewoon aangeduid worden, bijvoorbeeld op YouTube, meeste ai filmpjes pik je er zo uit maar ik wens dat niet te zien, en het click bait gehalte is erg hoog. Ik vermijd al het liefst de shorts en reels want de kwaliteit is ver te zoeken, samengevoegde chat gpt verhaaltjes met steeds die zelfde ai text to speech stem. Internet wordt overspoeld met die rommel.

[vlaaing peerd]

Hamers, bijlen, messen, flessen, enz. worden toch ook niet gebanned omdat er enkelingen moorden mee plegen...

Ik vind het wel een verschil dat een hamer een niet een misdrijf/overtreding faciliteert danwel uitvoert, terwijl Grok dat wel doet.

[Russel88]

Dit is een regulering. En op dit moment is het Westen tegen markt regulering. De gevolgen zien we al een tijdje, bedrijven zijn machtiger dan landen. Bedrijven bepalen zelf waar en hoeveel belasting ze betalen.

Als ik de afgelopen verkiezing uitslagen bekijk, zal dit voorlopig ook niet veranderen.

[supersnathan94]

En op dit moment is het Westen tegen markt regulering

Dan heb jij een hoop zaken gemist denk ik.

DMA, DSA, GDPR, AI verordening.

en dat zijn nog maar de grote bekende.

[L2GX]

Nee, het westen is gewoon voor racisme (en seksisme,...).
Dat extreem-rechts daarnaast ook gewoon de deuren openzet voor multinationals en miljonairs om te dereguleren maakt de meeste kiezers niet uit en ze snappen vaak ook de gevolgen ervan niet.
Ooit was er een mainstream media die dat kon uitleggen aan de mensen, maar nu zijn er enkel algorithmische bubbels.
Als kiezer vrees ik dat er tussen het beteugelen van het algoritme en strengere migratie ik in de minderheid zit die voor het eerste kiest...

[vanstra]

"Nee, het westen is gewoon voor racisme (en seksisme,...)."

Nogal een uitspraak. Waar baseer je dit op?

[pietvelleman]

Er bestaan nagenoeg geen afbeeldingen meer die niet-AI bewerkt zijn...

Alle filters die tegenwoordig gebruikt worden... zijn verweven met allerlei AI tools.
Hoe denk je dat een achtergrond van een afbeelding in Adobe wordt verwijderd?
En denk je dat je Samsung mobiel geen ai toepast op je foto's?

Maar.... wie weet wordt het allemaal wel beter als je heel hard schreeuwt dat alles verboden moet worden of van watermerken moet worden voorzien, en cookie notificaties worden verplicht... </sarcasme>

[LordMike]

Waarom is er zelf geen onderzoek naar de andere ai?

Voor zover ik kan zien kan elke ai een bikini plaatsen over een foto?!

[iqcgubon]

Er is maar 1 AI boer waarvan de CEO de "feature" zelf openlijk adverteert.

[ErikT738]

De meeste doen zelfs hun best om het te voorkomen. Uiteraard kan alles met lokaal draaiende modellen, maar dat kan je niet voorkomen zonder enorme privacy schendingen.

[curumir]

En er - om het te 'verhelpen' - een verdienmodel aan heeft gekoppeld.

[Floort]

Ik zie een aantal relevante verschillen waarvan @iqcgubon de belangrijkste al noemt. Het is niet gek dat handhaving begint bij de meest zichtbare of bij degene die openlijk weigert om zelf maatregelen te nemen. Maar er zijn ook andere redenen om X eerst aandacht te geven. Volume: voor zover zichtbaar is komt het op X wel erg veel voor. Rol: in tegenstelling tot veel andere tools waarmee de beelden in een meer private setting gegenereerd worden maakt de Grok account de beelden stelselmatig zelf openbaar en host ze publiekelijk.

[pietvelleman]

Je zegt: "Het is niet gek dat handhaving begint bij de meest zichbare..."

En datzelfde argument gebruikt Wilders als hij het elke keer over de islam heeft.
We weten natuurlijk allemaal dat Musk een rode lap vormt voor heel veel mensen. En de kans is natuurlijk best groot dat om politieke redenen daar wordt begonnen. Journalisten geven een stuk meer aandacht aan Musk dan aan de Reddits van deze wereld. En vergeet niet: er zijn vele landen waar X wordt geblokkeerd, Iran, China en Rusland om er maar eens 3 te noemen. En dat is niet vanwege 'deepfakes'...

Er zijn vele 10tallen platformen waar dit kan. Benoem dit op zijn minst.... En wat mij: bedenk een goed plan en pak ze allemaal aan! Eveneens belangrijk: pak de mensen die deze shit posten.

En bij een goed plan hoort ook een goede technische uitwerking. Het gros van de deepfakes wordt niet via Twitter gemaakt en verspreid (zijn er vergelijkingen gemaakt tussen platforms als tiktok/reddit/x?).
Jongeren zitten bijv. ook niet op Twitter. Die hebben hun eigen kanalen om dit soort dingen te maken en te verspreiden. En je kunt bijv. ook een kinderporno-filter inbouwen in Whatsapp. Maar de keerzijde is wel dat je de end2end encryptie moet verwijderen (link).

Alleen X verbieden zal m.i. geen effect hebben op het aantal deepfakes. En het echt goed aanpakken heeft veel negatieve bijeffecten. En alles ertussenin is symptoombestreiding in combinatie met 'dwijlen met de kraan open'.

p.s. 1.
Hiermee zeg ik niet dat je daarom maar niets moet doen! Wat ik wel zeg is dat het allemaal niet zo eenvoudig is als veel Tweakers beweren...

p.s. 2. Tsja Indonesie en Maleisie...
Indonesie heeft o.a. gay emoji's verbannen. "Indonesia’s instant messaging providers must remove gay emoji and stickers from their apps, the government has ordered" (link).
De overheid van Maleisie heeft een app laten ontwikkelen "An app produced by the Malaysian government that promised to help the LGBTI community “return to nature”". (link)

Niet dat daarmee alles van X automatisch toegestaan moet worden... Maar ik zou die twee landen niet als 'lichtend voorbeeld' willen beschouwen.

[MeltedForest]

Omdat je Grok op X publiekelijk een bikini foto kan laten maken als reactie op een andere tweet (of hoe heten berichten op X eigenlijk )

[Randleman]

Daar moet je een journalist voor zijn.

[flaskk]

Moet je voorstellen hoeveel schade dit kan aanrichten bij pubers die onderling AI naaktbeelden van andere klasgenootjes maakt. Dit soort dingen zijn echt super zorgelijk. Ik denk dat de zelfdoding cijfers onder jongeren alleen maar weer gaat stijgen door dit soort zooi.

[Pasteis]

Moet je voorstellen hoeveel schade dit kan aanrichten bij pubers die onderling AI naaktbeelden van andere klasgenootjes maakt. Dit soort dingen zijn echt super zorgelijk. Ik denk dat de zelfdoding cijfers onder jongeren alleen maar weer gaat stijgen door dit soort zooi.

Als ik al via mijn vriendin hoor hoe kinderen van collega's worden gepest online maak ik me hier ook zorgen over. We mogen daar als maatschappij echt wel veel en veel strenger op ingrijpen. Volgens mij neemt ongelijkheid alleen maar meer toe in klassen.

[curkey]

Qua impact kun je denk ik de discussie wel breder trekken naar social media in het algemeen. Er zitten daar sowieso best wat zaken in die discutabel zijn.

[Skywalker27]

Dit is echt onzin van de bovenste plank

[NoTechSupport]

Geen idee waarom je 0 krijgt. Die uitleg slaat echt nergens op. De jongere weet dat het waar is of niet. Als fake naaktbeelden circuleren of je echte, dat kwetst anders. Al kwetst het allebei.

Empathie 404, niet gevonden.

[Skywalker27]

Precies het gaat er niet om of jij weet dat de beelden nep zijn maar dat de rest van de wereld dat niet weet of dat in twijfel kan trekken, dat gaat echt diepe sporen achterlaten. Ook al gebeurd dit massaal bij iedereen.

[supersnathan94]

maar dat de rest van de wereld dat niet weet of dat in twijfel kan trekken

Ik denk dat we dat stadium dan al voorbij zijn aangezien ze op dat moment van praktisch iedereen dan al rondgaan.

[lucatoni]

Er zijn veel betere argumenten te bedenken waarom je deze technologie moet verbieden. Dat is wat ik zeg :)

[bamboe]

Volgens mij heb jij echt geen benul van hoe het pesten gaat en hoe kinderen daar op reageren.

[separhim]

Ik zeg alleen maar wat het effect doet op kinderen wanneer iets binnen handbereid is, dan is de impact gewoon een stuk minder.

Ik denk dat mensen vallen, waaronder ik, dat je dit beweert zonder enig onderbouwing. De echte naaktbeelden bestaan niet als die nooit gemaakt zijn, terwijl AI vernederende beelden (en ook realistisch lijkende naaktbeelden) kan maken zonder dat de persoon er weet van heeft, hierdoor kan letterlijk ieder kind (en ook volwassenen) slachtoffer worden. Daarnaast is het probleem met het pesten dan niet de beelden alleen, maar ook hoe de slachtoffers er constant vernederd worden vanwege die beelden, ongeacht of ze nep zijn of niet.

[lucatoni]

Mijn punt is dat wanneer je met 2 klikken een AI naakt beeld kan maken, het effect en impact verminderd. Dat is niet zonder onderbouwing hoor, Google maar eens naar Desensitisatie. Ons brein went en normaliseert het. Ik heb niks benoemd over pesten. Lijkt mij ook offtopic, in deze discussie.

[separhim]

Omdat de impact niet alleen bepaald wordt door het zien van de beelden. Het is juist het pesten, in de context van pubers en kinderen, die bepaalt voor een grote mate hoe ernstig de impact van dit soort beelden zijn. Ook is het verlies van controle over dit soort dingen is een groot probleem voor veel mensen, net als schaamte, vernedering, reacties van anderen. Ze kunnen misschien desensitief worden voor de beelden zelf, maar dat op zichzelf zal het pesten niet stoppen.

[multikoe]

Met twee jonge kinderen zou je het probleem niet moeten bagatelliseren. Als jouw kinderen op school gepest worden ga je toch ook niet tegen ze zeggen: "Je moet het je niet zo aantrekken, zo erg is het allemaal niet". Je legt de oorzaak van het probleem daarmee bij de interpretatie door de slachtoffers en de oplossing ligt dus ook bij de slachtoffers. Dat is de omgekeerde wereld.

Dit is een probleem dat op geen enkele manier veroorzaakt wordt door de personen in de afbeeldingen.

[supersnathan94]

Dat is helemaal niet wat ie zegt. Wat ie zegt is dat de sensitiviteit afneemt naarmate het gemeengoed is en dingen vaak gebeuren.

En dat is absoluut niet onwaar. Kijk bijvoorbeeld naar school shootings in de VS. Dat soort dingen zouden groot nieuws moeten zijn, maar het gebeurt nu zo vaak (bijna dagelijks) dat het alleen in hoge uitzondering het nieuws haalt. Het gebeurt ook zovaak dat iedere school er maatregelen tegen treft op symptomen, maar het probleem niet aanpakt.

Desensibilisatie/desensitisatie. Gaat ontzettend snel.

[multikoe]

Dat is helemaal niet wat ie zegt. Wat ie zegt is dat de sensitiviteit afneemt naarmate het gemeengoed is en dingen vaak gebeuren.

Yep, maar hij koppelt daar het advies aan om je niet zo druk te maken om die AI beelden en dat je de impact (straks) kunt verminderen door te roepen dat het "toch maar AI" is.

En dat is absoluut niet onwaar. Kijk bijvoorbeeld naar school shootings in de VS. Dat soort dingen zouden groot nieuws moeten zijn, maar het gebeurt nu zo vaak (bijna dagelijks) dat het alleen in hoge uitzondering het nieuws haalt. Het gebeurt ook zovaak dat iedere school er maatregelen tegen treft op symptomen, maar het probleem niet aanpakt

Klopt ook, maar in mijn boek is dat een ongelooflijk vreselijke ontwikkeling. Terwijl het nu voorgesteld wordt als oplossing voor de impact van naaktbeelden: zorg voor een overvloed aan die beelden en het effect wordt minder. Hoe is dat goed te praten? En je laatste zin is exact wat ik bedoel, de oorzaak aanpakken wordt minder urgent als je eerst de impact weet te verminderen.

[lucatoni]

Ik heb niet het idee dat jij beseft hoeveel impact sextortion met jonge meiden doet. Waar per ongeluk beelden zijn uitgelekt die versprijd worden. Dat vergelijk je nu in een paar zinnen met Deepfakes.

[multikoe]

Ik heb het zelf niet meegemaakt, nee. Als man van mijn leeftijd speelde dat in mijn jeugd zowiezo nog niet en het risico dat ik er nu slachtoffer van wordt is zeer gering. Dat neemt niet weg dat als veel mensen mij vertellen dat de impact enorm is (en soms leidt tot zelfmoord) dat ik dat meteen voor waar aanneem.

Ik kan de bal ook terugkaatsen: ik denk dat jij niet beseft hoe groot de impact is van deepfakes die verspreid worden. Nog steeds heb ik het idee dat jij beweert dat deepfakes minder erg zijn omdat ze niet echt zijn en omdat het er heel veel zijn. Dit is wat jij zegt:

Maar dat mensen slachtoffer worden van fake AI beelden en daardoor zichzelf wat aandoen, vind ik vergezocht.

Hier zit ons verschil. Ja: ik vind sextortion (het dreigen met of het verspreiden van compromitterende privé-foto's) vergelijkbaar met het verspreiden van compromitterende AI-beelden van jonge meisjes. Het effect van het verspreiden van door AI gemanipuleerde beelden van echte personen verschilt uiteindelijk niet zoveel van het verspreiden van echte foto's. In beide gevallen is de emotionele impact vaak enorm, zeker als het gaat om kwetsbare jongeren die zich in een fase bevinden waarin ze erg bezig zijn om hun "zelf" te ontwikkelen. We weten ondertussen heel goed hoe kwetsbaar jonge meiden en jonge jongens in deze fase zijn.

Beide activiteiten zijn een extreme vorm van pesten en je kunt daar natuurlijk met enige moeite wel gradaties in aanbrengen, maar er is voor geen van beide gevallen een gradatie "iedereen doet het, dus is het niet zo erg".

[lucatoni]

Misschien verwoord ik het niet zo treffend, maar dat is wat ik bedoel. En nogmaalt, ik ben helemaal geen voorstander van deze technologie. Maar ik zie veel grotere problemen waarom men dit moet blokkeren:
- Propaganda door gebruik van Fake beelden, je weet straks niet meer of je naar echt of neppe beelden kijkt
- Jonge kinderen kunnen met kindertaal pornografisch materiaal genereren en bekijken

Maar dat mensen slachtoffer worden van fake AI beelden en daardoor zichzelf wat aandoen, vind ik vergezocht.

[lucatoni]

Maar dat zeg ik niet. Dus ik weet niet met wie je een discussie voert. Pesten is nog altijd 1 van de grotere problemen op basisscholen. Laten we het vooral ontopic houden.

[multikoe]

Ik voer een discussie met jou, gebaseerd op (o.a.) deze opmerking:

Ik zeg alleen maar wat het effect doet op kinderen wanneer iets binnen handbereid is, dan is de impact gewoon een stuk minder.

Misschien interpreteer ik dat verkeerd, maar daar staat volgens mij toch echt dat de impact op kinderen minder wordt naarmate de techniek meer beschikbaar is. @supersnathan94 zegt bijvoorbeeld: "Desensibilisatie/desensitisatie. Gaat ontzettend snel." Hij heeft gelijk, maar dat is een secundair probleem dat mede de oorzaak is van het primaire probleem dat er blijkbaar een grote groep mensen is die dusdanig onthecht zijn van elke vorm van empathie dat ze er geen bezwaar in zien dit soort beelden te genereren en te verspreiden. Desensibilisatie is dus geen ontwikkeling die helpt, het is de oorzaak.

[dikkechaap]

Per individueel geval zal de impact wel degelijk kleiner zijn. Bijvoorbeeld: je hebt iemand die handig is met photoshop in de klas, en die maakt alleen van Marietje een nepnaaktfoto. Of: iemand gebruikt een AI tool en maakt (en verspreidt) naaktfoto's van iedereen in de klas. In welk geval zal er denk je eerder sprake zijn van pesten, en welk geval zal meer impact hebben op Marietje?

Dat betekent niet dat dit overall als positieve ontwikkeling gezien moet worden, en dat zegt ook niemand volgens mij. Tegelijkertijd kun je je afvragen of er misschien twee mogelijke optima zijn, qua maatschappelijke impact: ofwel het moet zo moeilijk zijn om dit te maken dat het (bijna) nooit voorkomt, of het moet zo makkelijk zijn dat iedereen wel ergens in zijn (nep)adamskostuum te zien is waardoor men zich minder snel persoonlijk gekrenkt voelt. Ik denk dat we hard op weg zijn naar het tweede scenario, en dat daar weinig meer aan te doen is. En voor de zekerheid nogmaals: dat is geen moreel oordeel, noch goedkeuring voor de mensen die dit soort beelden maken en/of verspreiden.

[multikoe]

Dat betekent niet dat dit overall als positieve ontwikkeling gezien moet worden, en dat zegt ook niemand volgens mij. Tegelijkertijd kun je je afvragen of er misschien twee mogelijke optima zijn, qua maatschappelijke impact: ofwel het moet zo moeilijk zijn om dit te maken dat het (bijna) nooit voorkomt, of het moet zo makkelijk zijn dat iedereen wel ergens in zijn (nep)adamskostuum te zien is waardoor men zich minder snel persoonlijk gekrenkt voelt. Ik denk dat we hard op weg zijn naar het tweede scenario, en dat daar weinig meer aan te doen is. En voor de zekerheid nogmaals: dat is geen moreel oordeel, noch goedkeuring voor de mensen die dit soort beelden maken en/of verspreiden.

Nee, we zijn niet op weg naar het tweede scenario. Simpelweg omdat (zoals ik ergens anders al betoogde) de gevolgen van bepaalde soorten AI gegenereerde afbeeldingen voor kwetsbare jongeren enorm kunnen zijn en we gelukkig organisaties hebben in Nederland die zich daar erg druk om maken. Er gebeurt al van alles, de vraag is alleen hoe effectief dat allemaal zal zijn. Jij bent pessimistisch, ik ook een beetje, maar we moeten dit niet willen.

Je kunt je overigens voor de grap afvragen: hoeveel van de deelnemers in deze discussie zijn vrouw?

[P_Tingen]

Wat je denk ik bedoelt is "elk nadeel hep ze voordeel". Mochten er nou echte naaktbeelden van je uitgelekt zijn, dan is AI hét perfecte verweer omdat je dan alsnog kan zeggen dat het gegenereerde foto's zijn. Je zou daar mee weg kunnen komen omdat er in de regel niet zoveel mensen zijn die jouw lichaam echt kennen

[multikoe]

Hoe stel je je dat voor? Een meisje van 13, eerste klas voortgezet onderwijs, lichaam en brein zijn aan flinke veranderingen onderhevig (of nog niet) maar haar lichaam en haar image is op dit moment haar grootste bron van zorg en elk signaal dat ze van haar vriendinnen, van de jongens in haar klas krijgt komt kneiterhard binnen.

Dan worden er opeens foto's van haar gedeeld, naakt of schaars gekleed, in compromitterende houdingen. Foto's waarin ze klappen lijkt te krijgen, blauwe plekken op haar gezicht. Foto's waarbij ze duidelijk onverwacht ongesteld is geworden. Foto's waar ze met jongens bezig is. Foto's in omstandigheden die echt hadden kunnen zijn, maar die niet gebeurt zijn. Wat verwacht je van haar? Dat ze aan haar ouders, aan haar klasgenoten, aan haar vriendinnen allemaal gaat uitleggen dat de foto's nep zijn? Haar ouders geloven haar misschien, maar hoe denk je dat haar klasgenoten op dat verweer reageren? Hoe denk je dat een eventueel of potentieel vriendje op die foto's gaat reageren? In elke klas zitten altijd wel een paar losgeslagen idioten die nog weken- of maandenlang opmerkingen zullen blijven maken over die foto's. Hoe sterk moet je zijn (als 13 jarige....) om dat van je af te laten glijden?

[P_Tingen]

Ik stel me dat precies zo voor als ik het zeg. En zeg ik dan dat het goed is of geen kwaad kan? Nee, natuurlijk niet. En als je als dertienjarige een overvloed aan ranzige gegenereerde foto's over je heen krijgt dan helpt het inderdaad niks.

Maar je hebt ook situaties waarin iemand niet gelijk tot zelfmoord wordt gedreven, zoals bij een nichtje van mij, een paar jaar geleden, toen ong 16 jaar. Van haar hadden ze ook een naaktfoto gefabriceerd. Niet met AI want dat was toen nog niet zo geavanceerd, maar met wat gewonere skills. Ik heb de foto gezien en het had echt kúnnen zijn. Was het niet. Zij heeft er toen voor gekozen om het te negeren met als verweer: "doe normaal gast, dit is overduidelijk nep". Zij kwam er mee weg en in vergelijkbare situaties zou dat nu ook kunnen werken

[multikoe]

Het gaat niet om personen als jouw nichtje, die kennelijk redelijk stevig in haar schoenen staat. Het gaat om die jongeren die om welke reden dan ook toch al niet zo zeker zijn over hun lijf, over zichzelf. Plus, je verteld niet over de omgeving waarin je nichtje zich begeeft. Als zij liefhebbende en ondersteunende ouders heeft, als ze een hechte vriendenclub om zich heen heeft en toevallig ook nog op school zit waar actief wordt gewerkt met anti-pest protocollen, dan geloof ik het wel. Maar dat is voor veel jongeren helemaal niet van toepassing.

Het gros van de jongeren pleegt inderdaad geen zelfmoord, maar het aantal zelfmoorden onder jongeren neemt wel toe, mede dankzij social media. En social media is de drijvende factor achter deepfakes en sextortion.

[P_Tingen]

Nee, mijn opmerking ging juist wél over personen zoals mijn nichtje. Die kunnen zich nu tenminste verweren met de opmerking dat het "toch maar AI-gegenereerd is". Dat is niet voor iedereen weggelegd, want als je stelselmatig gepest wordt, gaat dat je niet helpen. Dat snap ik, maar als je je wel in die situatie bevindt kan het je helpen. Sterker nog, ook als er échte naaktfoto's van je uit zouden lekken, zou je je hier achter kunnen verschuilen. Maar ook dat zal niet voor iedereen gelden

[steeben009]

Ik zat in een vwo brugklas. En letterlijk niemand werd gepest. Hangt denk ik van situatie tot situatie af, tijden zijn ook verandert. Mijn brugklas periode was in het jaar 2000, dus het valt eigenlijk niet te vergelijken.

Maar op de school waar ik op zat hanteren ze echt een zeer streng beleid op "pesten en pestgedrag". Voor zover ik het weet kwam het echt totaal niet voor op de middelbare school waar ik op zat. Want als het wel voorkwam dan werden er zeer buitensporige strenge maatregelen genomen.

Dus ja, de middelbare school waar jouw kind op zit, is wel degelijk belangrijk. Verder, gewoon bespreekbaar maken met de school, ongeacht het beleid op pesten, en pesters aanpakken natuurlijk. Dan piepen ze wel anders hoor.

[Martinspire]

Je hebt gewoon gelijk. Hoe makkelijker het is om iets te maken, hoe minder effect het heeft. Ja het is even confronterend en bij de eerste paar keer dat het gebeurt is het heftiger, maar uiteindelijk zullen kinderen gepest worden en dit is gewoon weer 1 manier om dat te doen. Daarnaast zijn we de afgelopen jaren heel preuts geworden, dat het ineens heel erg is als er van iemand een tepel te zien is. Terwijl je vroeger geen Nederlandse film op kon zetten zonder een stel tieten te zien. Niet dat dat is waar we weer naartoe moeten, maar het geeft wel aan dat we de preutsheid van de Amerikanen/Christenen wel weer over hebben genomen.

Dit staat of valt met hoe weerbaar we onze jongeren maken en er met gestrekt been inschieten, gaat averechts werken. Dan willen ze het nog meer. En dan verplaats je het genereren van de afbeeldingen door een online chatbot, naar een lokale chatbot waar je al helemaal geen controle over hebt. Daarnaast zitten er grote gevolgen aan het opleggen van allerlei regels aan AI waarbij dit enorme bijeffecten zal hebben. Want reken maar dat die regels niet alleen maar zullen dekken dat je dit soort foto's kunt genereren. Weerbaar maak je jongeren niet door hier boos over te worden. Weerbaar maak je ze door zich er niet zo zwaar aan te trekken. Zet het in dezelfde categorie als het fantaseren van mensen en dat het vanuit jaloersheid komt, niet afgunst. Leer ze dat ze zelf tevreden moeten zijn over hun eigen lichaam en minder moeten aantrekken van de buitenwereld. En leer ze dat ze beseffen wat dit soort beelden kunnen doen, want als er iets is waar jongeren geen besef van hebben, dan is het wel de gevolgen van hun acties.

[Floort]

Ik denk dat het niet zo eenvoudig is. Als de drempel verlaagd wordt om dergelijke afbeeldingen te maken zullen de afbeeldingen gemaakt worden van mensen waar dat eerder niet gebeurde. Vanuit die gedachte is het effect op die personen dus groter geworden. Dat zie je ook terug in de schaal van het probleem. Zelfs al ben je het eens over de impact per geval die lager is, door de toename in volume kan de totale impact alsnog groeien.

Het is bovendien ook lastig te voorspellen wat voor negatieve secundaire effecten dit zal hebben. Een veelgehoord "advies" is dat vrouwen dan maar minder foto's van zichzelf online moeten zetten. Dat is een negatieve impact voor iedereen, zelfs degenen waar dergelijke afbeeldingen nooit van gemaakt zijn, omdat het iedereen beperkt in hoe ze zich veilig kunnen uiten.

[supersnathan94]

Een veelgehoord "advies" is dat vrouwen dan maar minder foto's van zichzelf online moeten zetten. Dat is een negatieve impact voor iedereen, zelfs degenen waar dergelijke afbeeldingen nooit van gemaakt zijn, omdat het iedereen beperkt in hoe ze zich veilig kunnen uiten.

Man/vrouw boeit niet, dit is hoe dan ook een goed advies aangezien de gebruikers die er wat mee doen niet het grootste issue zijn.

jouw insta (bikini) foto’s worden door meta ook gebruikt om nieuwe modellen (ai) te trainen.

Sws is het al tien jaar een goed idee om online foto’s te minderen.

[Floort]

Het is niet zomaar goed advies. Ik heb alle respect voor mensen die voor zichzelf kiezen om hun eigen vrijheid te beperken om risico's te minimaliseren. Maar het heeft best stevige negatieve gevolgen als mensen (voornamelijk vrouwen in dit geval) zich minder vrij kunnen uiten omdat structureel onrechtmatig of zelfs strafbaar misbruik niet of onvoldoede wordt aangepakt.

[supersnathan94]

Het is niet zomaar goed advies.

Het is zeker wel goed advies. Ik probeer zoveel mogelijk om niet meer op foto’s of film te komen wat publiek wordt gedeeld. Voor werk doe ik het zeker, omdat ik het leuk vind, maar ik ben bijvoorbeeld ook gestopt met streamen omdat het daarmee zo eenvoudig is om video’s te faken dat ik dergelijke data niet meer beschikbaar wil hebben.

Stable diffusion is echt vee verder aan het gaan dan je denkt hoor. Social media is echt gedoemd te mislukken in de huidige vorm. Wordt allemaal AI slop. Wat @steeben009 ook al aangeeft, het grootste deel is nu al nep. Dat heeft niks met expressie te maken, maar veelal met een pervers aandachtsprobleem.

Ik snap ook niet zo goed waarom je het op “vrij kunnen uiten” wil gooien, want daar heeft het weinig meer mee te maken. Er is genoeg onderzoek dat aantoont dat “zelf objectificatie” een ding is op social media en dat dit erg gevaarlijk is voor iedereen eromheen. Dus dat het ook anderen “dwingt” om daar steeds verder in te gaan.

https://pubmed.ncbi.nlm.nih.gov/30005293/

[steeben009]

Verwijdert

[Reactie gewijzigd door steeben009 op 13 januari 2026 18:49]

[Floort]

Als vrouwen zich met echte of (deels) neppe afbeeldingen van zichzelf willen uiten is dat helemaal geen probleem. Dat is echter niet hetzelfde als, of een rechtvaardiing voor, zonder toestemming seksueel getinte afbeeldingen maken van anderen (echt of niet) en deze verspreiden.

[steeben009]

Verwijdert

[Reactie gewijzigd door steeben009 op 13 januari 2026 18:47]

[steeben009]

Verwijdert

[Reactie gewijzigd door steeben009 op 13 januari 2026 18:47]

[Floort]

Niemand zegt dat het moet of dat iedereen het maar moet willen. Wat ik zeg is dat het ieders eigen keuze zou moeten zijn die iedereen veilig zou moeten kunnen maken. Of het meerwaarde voor jou heeft zou compleet irrelevant moeten zijn.

Edit vanwege verwijderde tekst: Het punt dat ik maakte is dat mensen (voornamelijk vrouwen in deze context) de vrijheid moeten hebben om zich al dan niet seksueel te uiten op sociale media zonder lastig gevallen te worden met ongevraagde deepfake porno van hunzelf. De mening van willekeurige derden (inclusief mijzelf) over hoe ze zichzelf uiten zou niet van invloed moeten zijn op het feit dat dat veilig zou moeten kunnen.

[Reactie gewijzigd door Floort op 14 januari 2026 09:00]

[steeben009]

Tuurlijk. Mijn mening telt niet. Zodemieter toch op met je nare "alleen mijn ding wat ik zeg klopt".

Je staat totaal niet open voor anderen. Valt niet te communiceren met jou. Waarschijnlijk ben je een vrouw. Logisch

[furiax83]

Gaan ze dan ook photoshop en elk ander beeldbewerkingsprogramma blokkeren ?

[NoTechSupport]

Nee, want dat vraagt significant meer moeite en kennis (en is dure software).

[separhim]

De ontwikkelaars van photoshop en dergelijke hebben geen directe feedback en controle over wat er met de producten gedaan wordt. Grok, en ook andere GenAi, ontvangen de prompt en de bewerking wordt gedaan op servers van XAI, dus er is een stuk meer controle over waar de producten gebruikt voor worden.

[DavidZnay]

Maar dan heb je nog steeds offline modellen die met een redelijke consumenten-GPU gewoon thuis te runnen zijn. En die doen nog maar weinig onder voor commerciële platforms.

[Webgnome]

Want Photoshop is gratis beschikbaar voor iedereen ( ja ok, Grok ook niet meer, at was wel zo)

[supersnathan94]

🏴‍☠️ ja

[curkey]

In principe kan eenieder over die tool en diens (gratis) broertjes beschikken ja.
et gaat om het basisprincipe dat de meeste dingen ook te misbruiken zijn. Hoe ver ga je daarin om eventueel misbruik tegen te gaan.

[P_Tingen]

Als daar in het menu een optie bijkomt á la "Laat deze persoon in bikini zien" en als die optie dat dan ook automatisch doet, dan: ja, waarschijnlijk wel

[Hemingr]

Hebben ze dan ook chatgpt en gemini geblokkeerd aangezien die met de juiste prompts exact hetzelfde doen.

[Argantonis]

Geef de prompts dan eens? Want ChatGPT maakt soms al niet eens een image van mijn hoofd als ik geen shirt aan hebt (als ik check of m’n baard symmetrisch is bijv.) Dit soort geroep met ‘ja maar die andere AI’s’ heeft niet zo’n waarde wmb zonder enig bewijs.

[r2504]

Ik heb tijdens m'n laatste ski verlof gewoon via ChatGPT van de groepsfoto iedereen een zwembroek/bikini aangedaan via de prompt "Vervang het skipak van iedereen door een bikini behalve de twee rechtse personen door een zwembroek"... niets speciaals dus en het resultaat was best grappig (voor iedereen, niemand heeft er een trauma aan overgehouden dus).

[Manderlay1]

Ja is nog iets anders dan ongevraagde seksuele foto's te maken. Ook soms van tieners.

[Ruuuuuubje]

En (zoals velen hierboven ook al reageerden op je eerdere bericht) betekent dit niet dat dit een slimme zet was. Heel veel mitsen en maren, maar zonder toestemming van alle mensen in die foto is het not done. Want je weet niet wat dit met mensen doet of zal doen. En bijvoorbeeld groepsdruk kan mensen bewegen om a te zeggen terwijl ze b vinden.

Zoals gesteld: Bij meerdere organisaties is dit reden tot ontslag.

[fenrirs]

Want ChatGPT maakt soms al niet eens een image van mijn hoofd als ik geen shirt aan hebt

/s Oplossing: spiegel, een uitvinding van slecht 8000 jaar oud. Gebruikt geen bakken energie en lekt ook geen data

[Reactie gewijzigd door fenrirs op 12 januari 2026 08:45]

[duvekot]

Tenzij je een sprookjes spiegel gebruikt. Die kunnen zo nu en dan best wel irritant zijn. Die kunnen je de waarheid vertellen, dingen laten zien, of je zelfs proberen te verleiden tot vreemde beslissingen.

Ik hou het daarom maar meestal bij een simpele spiegel van de bouwmarkt. Nog nooit problemen mee gehad.

[jpsch]

Ook niet meer te vertrouwen.

Schaere - Slimme Spiegel Met Indirecte Verlichting - Android - Touch Screen en Instelbare Lichtkleur 80 cm

[Catrinus]

AI gebruiken om je baard op symmetrie te checken, die kende ik nog niet.

[curkey]

Mooi man, 2 GWh trekken om AI je baard te laten checken. En dan heb je mensen die wat roepen over klimaat en zo.

[Argantonis]

Tja die opmerkingen had ik kunnen verwachten, maar ik wilde toch even zeggen waarom ik zonder shirt foto's van mezelf naar ChatGPT opstuurde.

Persoonlijk maak ik me wat meer zorgen over de hoeveelheid mensen die niet elektrisch autorijden, vlees eten en verder geen ene donder geven dat hun producten van de andere kant van de wereld worden verscheept. Ja LLM's zijn ook niet goed, maar er zijn nogal wat grotere winsten te maken dan af en toe een query naar een LLM.

[curkey]

Interessante whataboutism. Dus zolang anderen 'ergere dingen' doen is het OK om zelf af te wijken van de morele standaarden waaraan je de rest van de bevolking probeert te houden...

De zaken waaraan jij refereert zijn essentiële zaken: auto's zijn nodig om op je werk te komen, eten is nodig om te kunnen overleven, etc. In de huidige constellatie zijn die ook niet erg eenvodig te vervangen met iets anders .Dat is een andere orde dan je 5 o'clock shadow bewonderen, terwijl er gewoon een 0 kWh oplossing is in de vorm van een spiegel.

Als wat minder mensen zich zouden bezighouden met onzin-AI dan scheelt dat toch al snel weer een data centertje of twee, denk je niet, en daarmee een paar hectare kostbare landbouwgrond en hectoliters bruikbaar drinkwater.

[Argantonis]

Eten is nodig, vlees niet. Vervoer is nodig, maar zeker niet per se een auto met verbrandingsmotor. Allemaal in dezelfde trant van ‘waarom kijk je niet in een spiegel?’ maar dan met aanzienlijk meer klimaatimpact. Waarbij het voor mij serieus wel moeilijk te zien is of iets volledig symmetrisch is. Ik kom met de andere zaken omdat je mij al bekritiseert met uit je duim gezogen energiehoeveelheden, terwijl je overduidelijk zelf slechter bezig bent als ik kijk naar je reactie over vlees en autogebruik. Je kan het over whatabouttisms hebben maar ik heb het dan over ‘zij die zonder zonde zijn werpen de eerste steen’. Waarbij de zonde ook niet eens in verhouding staat hier.

[curkey]

Alles is relatief. Ons gebit laat al zien dat we wel degelijk van oudsher vlees in ons dieet hebben zitten, temeer omdat het via plantaardige weg best veel moeite kost om aan de eiwitten te komen.

Niet alle auto's zullen vooralsnog elektrisch kunnen in de wereld. In ons land kom je een redelijk eind. In buitengebieden een stuk moeilijker. Zeker ook bij vrachtvervoer, hulpdiensten en militairen. Ik zie ze in Oekraïne al rijden met een elektrische tank, in eens een mooie extremiteit aan te halen.

En wat moraliteit betreft, ik heb al een discussie achter gehad met een nogal uitgesproken veganistische collega over uitstoot tbv vlees. Maar zij ging wel 3x per jaar met het vliegtuig op reis buiten Europa, skydiven. Etc. Ik ben de afgelopen 20 jaar alleen met de auto op pad geweest met mijn complete gezin. Zij zette op kantoor steevast de thermostaat op 21°C omdat madam het koud had. Maar daar mocht niemand wat van zeggen.

Dus nee, ik zit niet te wachten op mensen die mij activistisch de les komen lezen.

Ook duurzame energie gaat ten koste van iets anders. Dat gaat tzt ook duidelijk worden wanneer ineens onvoorziene langetermijn effecten naar boven komen. Gewoon minder resources gebruiken in zijn algemeenheid is mijn devies. Dingen lokaal gebruiken of maken. Etcetera.

[Argantonis]

Maar jij bent degene die MIJ de les kwam lezen. Vergeet dat niet. Verder geen zin meer in deze discussie.

[Honytawk]

Waar haal jij die 2 GWh vandaan?

[Loller1]

Kijk, je stipt het hele probleem eigenlijk al aan: "met de juiste prompts". Ja, je kan andere AIs manipuleren om hetzelfde te doen, maar dat is het hem juist; Grok doet het gewoon als je het vraagt, bij andere AIs moet je al om verschillende beveiligingen heen werken voordat ze het doen, als ze het überhaubt al doen.

[SCIxX]

Ik denk dat het probleem is dat het gevoel van accountability verschuift. Als je dit in Photoshop doet dan weet je dat dit een actie van jezelf is. Gemini/GPT gebruiken zit in het midden, je doet het niet meer zelf maar het is wel via je eigen account. Op X ben je niet persoonlijk gelinkt aan Grok, daardoor zul je eerder acties zien die over de schreef gaan.

[Paut]

Het zou goed zijn als er zo snel mogelijk van iedereen blote AI-plaatjes en -clipjes verschijnen, zodat niemand nog de moeite doet om de schouders erover op te halen.

[P_Tingen]

Haha, gewoon verplicht een selfie laten nemen bij registratie en dan een naaktfoto als profielfoto laten genereren

[DavidZnay]

Dit soort discussies zijn altijd lastig vind ik. Aan de ene kant wil je voorkomen dat mensen hun rechten worden geschonden bij het maken van 'deepfakes'. Zeker bij kinderen is dit uit den boze. Dit alles is ook gewoon verboden. Aan de andere kant, als jij een andere outfit op jezelf wil prompten dan hoeft de staat daar niks over te zeggen.

Een bijkomend probleem is dat men die platforms helemaal niet nodig heeft. Veel mensen denken dat alleen hyper scalers dit kunnen, maar iedereen die een beetje handig is met ComfyUI kan modellen gebruiken die nog maar weinig onderdoen voor de commerciële modellen. En dat verschil wordt alleen maar kleiner lijkt het. Iedereen met een Nvidia uit de 30 series en hoger, met redelijk wat VRAM, kan dit gewoon offline runnen. Natuurlijk ligt de lat hier vooralsnog hoger dan een platform als Grok, maar dat is wellicht ook een kwestie van tijd. Je hebt in elk geval weinig artistieke skills nodig zodat wel veel meer mensen realistische fakes kunnen maken dan bij Photoshoppen het geval was.

[418O2]

Wat is hier lastig aan? Als het makkelijk is om bij elke willekeurige foto van een persoon te roepen "verander de kleding in badkleding" waardoor een ieder ineens in bikini of zwembroek te zien is, dan is de lat wel heel laag

[DavidZnay]

Wat ik lastig vind is de mogelijke overreach van regulering. Je kan een simpel voorbeeld noemen waarbij alarmbellen gaan rinkelen zoals badkleding, maar er zijn talloze prompts waarbij je je kan afvragen of het nou wel of niet door de beugel kan. Bovendien is het probleem niet zozeer de badkleding, maar dat het zonder toestemming gebeurt.