Eigen toezichthouder: Instagram moet seksuele AI-deepfakes verbieden

Instagram zou seksueel getinte AI-deepfakes moeten verbieden. Dat vindt het Meta Oversight Board, de toezichthouder van Instagram-moederbedrijf Meta. Ook zouden familie en vrienden van een slachtoffer AI-deepfakes moeten kunnen melden.

Omdat AI-deepfakes vaak meisjes en vrouwen treffen en de gevolgen voor het slachtoffer vaak groot zijn, zou Meta sneller moeten concluderen dat het om videomateriaal gaat dat zonder toestemming is gemaakt. "AI-gegenereerde identiteitsvervalsing vindt per definitie zonder toestemming plaats", aldus het Oversight Board.

Daarnaast ligt er een grote taak bij slachtoffers om zich te melden, terwijl familie en vrienden dat ook zouden moeten kunnen doen. In de zaak die bij het Oversight Board kwam, trokken familie en vrienden aan de bel, omdat het slachtoffer het account had opgeheven. "Het zou de last voor slachtoffers verlichten om het misbruik niet zelf te hoeven melden."

De zaak ging om een AI-deepfake van een vrouw die bijna naakt werd afgebeeld. Instagram weigerde de beelden te verwijderen, omdat het voor het bedrijf niet duidelijk zou zijn dat het een echt persoon was en dat de beelden zonder toestemming waren gedeeld.

Huh, heeft Instagram een eigen toezichthouder?

Ja, het Meta Oversight Board is een op papier zo onafhankelijk mogelijk orgaan dat beslissingen van Meta-platforms als Instagram om content juist wel of niet te verwijderen nog eens beoordeelt. In die raad zitten deskundigen op allerlei gebieden. De gedachte is dat gebruikers in beroep moeten kunnen als zij denken dat Meta het fout heeft. Meta Oversight Board zou daardoor moeten voorkomen dat mensen in eigen land naar een rechter moeten stappen. Meta zou wel overwegen te stoppen met de eigen toezichthouder na 2028.

Reacties (31)

[jellevanderpal]

Onlangs las ik dat de gehele Meta Oversight Board een farce is. In het boek dat ik momenteel lees, De Tech Coup, wordt duidelijk dat het een hoog 'wij van WC-eend'-gehalte heeft: als het erop aankomt, doet Meta er niets mee. Het klinkt officieel en er zijn grote namen aan verbonden, maar in the end is er geen enkele sprake van macht of invloed op de bedrijfsvoering van Meta.

[Reactie gewijzigd door jellevanderpal op 23 juni 2026 18:11]

[Llopigat]

Ik kan het boek "Careless People" ook aanraden als je in meta geinteresseerd bent. Gaat niet over de oversight committee maar over de top daar.

Ik zal dit boek ook eens lezen. Bedankt voor de tip! Ik dacht dat het een Nederlandse schrijfster was gezien haar naam maar ze zit blijkbaar in Amerika trouwens.

[Reactie gewijzigd door Llopigat op 23 juni 2026 23:10]

[nzall]

"bijna naakt" op Instagram? Is dat niet sowieso tegen de richtlijnen van dat platform?

[SinergyX]

Iemand in een bikini, of enkel strak shirt/kort rokje, is 'bijna naakt', en dat is meer dan prima op Instagram.

[TV_NERD]

¤¤¤¤¤

[Reactie gewijzigd door TV_NERD op 23 juni 2026 20:37]

[Oon]

Als dat onder 'bijna naakt' valt dan zijn mensen of wel héél preuts of laat dit artikel het véél spannender klinken.
Ik ben het er 100% volledig mee eens dat als iemand anders een foto van jou op Instagram plaatst, al dan niet een neppe, dat jij het recht hebt om die te laten verwijderen. Wat dat betreft is dit een goede ontwikkeling.
Maar het artikel laat het klinken als de dansende bikinifilmpjes of echt suggestieve beelden, en dat vind ik bij jouw voorbeeld totaal niet van toepassing. Dat is gewoon een onzekere dame die haar eigen lichaam probeert te verkopen op het internet, daar is op zich niks mis mee, en in dit geval zou ik haar echt niet 'bijna naakt' noemen.
Je ziet genoeg foto's van festivals of van het strand waar mensen véél minder aan hebben.

[kwakzalver]

Kwetsende beelden zijn en blijven kwetsende beelden. ongeacht jou of mijn mening over naakt en preuts.

Daar mag van mij scherper op gefilterd worden, juist ter bescherming van de slachtoffers.

[Llopigat]

Het is gewoon dat het hele 'bijna naakt' gebeuren er niet zoveel mee te maken heeft. Kwetsende beelden kunnen prima volledig gekleed zijn. En naaktbeelden hoeven niet kwetsend te zijn.

Maar Instagram is wel heel erg preuts soms. Ik ken diverse mensen die geband zijn voor niks en die er nu allerlei 'backup accounts' op na houden.

Ik zou het liever zien als reddit. Gewoon alles onder een NSFW vlaggetje en dan kunnen mensen zelf kiezen of ze dat willen zien of niet in hun instellingen.

[Reactie gewijzigd door Llopigat op 23 juni 2026 23:13]

[Oon]

Ze hoeven niet eens kwetsend te zijn, als iemand zonder toestemming jouw foto plaatst mag je daar iets op tegen hebben.
Maar het is lastig bij voorbaat te filteren op wat degene die op een foto staat van die foto vindt, want dan moet diegene dat eerst melden

[RA7]

Kwetsende beelden zijn subjectief, dus geen feiten.....

[moredruid]

Kwetsende beelden zijn subjectief, dus geen feiten.....

Ja en nee. Onder een bepaalde leeftijdsgrens is er een duidelijke definitie.

Wat jij doet is victim blaming: degene van wie de beelden gepubliceerd worden "voelt zich gekwetst" dus het ligt aan die persoon. Terwijl de oorzaak bij de plaatser ligt.

[RA7]

Ik vind van niet, je hebt een keuze om je gekwetst te voelen.

[Llopigat]

Ik vind dat nou niet bepaald schokkend of 'bijna naakt'. Ga naar de gemiddelde disco en je komt dit gewoon tegen.

Het zijn misschien wat suggestieve poses, maar daar houdt het wel mee op.

[Reactie gewijzigd door Llopigat op 23 juni 2026 18:49]

[Oon]

Die nieuwe link kan ik niet kijken, want dat is een privéprofiel dat je eerst moet volgen

[Llopigat]

@Llopigat deze dan? 20 seconden zoeken.

Geen idee. Haar posts zijn alleen beschikbaar als je haar volgt. Wat je blijkbaar doet? Ze moet dat nog bevestigen ook dus dat kan je niet even indrukken om haar foto's te zien.

Aan haar profielfoto te zien draagt ze latex wat ik ook niet als bijna naakt inschat.

[Reactie gewijzigd door Llopigat op 23 juni 2026 20:11]

[Nardon]

Eigenlijk is al het naakt toegestaan behalve zichtbare geslachtsdelen.

[kodak]

Ik neem aan dat het artikel dit bericht van de toezichthouder als bron heeft. Nergens lees ik dat de toezichthouder stelt dat Meta de content moet verbieden.

Ze stellen dat hun eigen mening is dat ai-gegenereerde content, die op een specifiek persoon probeert te lijken, zonder instemming is van die persoon. Ze willen daarop dat de regels wijzen dat gebrek aan instemming een onderdeel van uitgangspunten is om een besluit te nemen.

Geen van de wijziging die ze willen stelt dat er perse maar een verbod moet zijn. Ze willen hooguit dat er niet zomaar door de 'experts' excuus gezocht kan worden dat het slechts aan enkele criteria die niet de bedoelding zijn voldoet.

Zelfs als alle criteria die niet de bedoeling zijn behaald worden stelt de toezichthouder alleen dat de eerdere beslissing alsof het maar gedeeltelijk was daarop niet volgehouden kan worden. Ze stellen niet dat de enige beslissing dan moet zijn dat het verboden content is.

Dat lijkt ook meteen waarom ze willen dat personen melding doen: om bevestiging te geven dat het ai-content over een specifiek persoon gaat. Iedereen kan dat namelijk wel beweren. Net als iedereen wel kan doen alsof de persoon het niet wil.

Deze voorgestelde veranderingen in de regels gaan niet zomaar zorgen dat Meta claims kan controleren dat het werkelijk om een specifieke bestaande persoon gaat. En geeft ook niet zomaar plicht of recht om contact met personen op te nemen als een ander een bewering doet dat het om hun gaat. En dan blijft al snel het probleem over dat een automatische controle en een 'expert' kunnen doen alsof er dus maar geen instemming nodig is, tot een vermeend slachtoffer zelf komt klagen.

[Ruben26]

Van mij mogen alle deepfakes verboden worden tenzij de site duidelijk aangeeft dat het deepfakes zijn (ik denk dan aan n site als De Speld). En ik denk dat zodra dat niet meer gehandhaafd kan worden het invoeren van privacy-gevoelig beleid politiek ter sprake gaat komen. Hoe dat het beste ingevoerd kan worden zodat altijd duidelijk is wat de bron is van content met waarborging van de privacy van de plaatser (bijvoorbeeld centrale authenticatie met certificaat).

Ik ben in ieder geval volledig van alle socials zoals Instagram, X, Facebook af (wil graag WhatsApp vervangen voor Signal).

[herpiederpienow]

Ik vraag mij serieus af of het tegengaan van inzet van dergelijke technologie voor deze doeleinde nu daadwerkelijk een verstandige zet is. Ik begrijp dat het voor veel mensen niet prettig is gedeepfaked te worden, maar ten eerste, het is niet echt. Het is nep. Waarom zoveel waarde hechten aan iets dat nep is? Ten tweede, nog los van de nadelen om gebruik van dergelijke technologie tegen te gaan, zorgt deze weerstand voor dat deepfakes relatief zeldzaam en spannend blijven. We gaan hoogstwaarschijnlijk naar een tijd waarin echt en nep binnenkort geenszins meer te onderscheiden is. Doordat deepfakes relatief zeldzaam zijn, maakt ze geloofwaardiger dan ze hoeven te zijn. Zelf denk ik dat als men inzet van dergelijke technologie vrij laat, dat adoptie sneller plaats vind en de ontstane deepfakes rap minder spannend worden. Als iedereen binnen een aantal tellen een deepfake van iedereen kan laten genereren, dan zijn ze toch ook helemaal niet bijzonder meer? Het gebrek aan geloofwaardigheid van deepfakes is juist dat gene wat slachtoffers van deepfakes kan beschermen en als jij het nodig vindt om anderen met privebeelden of deepfakes lastig te vallen, dan ben je gewoon een loser als je het aan mij vraagt. Is dat wellicht niet een betere benadering?

[AnonymousGerbil]

Waarom zoveel waarde hechten aan iets dat nep is?

Omdat er wel heel echte gevolgen aan vast zitten. Mensen om iemand heen gaan toch anders kijken naar een slachtoffer van deepfakes, hoe hard die zelf de beelden ook negeert.

Dat kan relatief onschuldig zijn, met een kennis die het lachen in moet houden (ook problematisch, als dat iedereen in de omgeving wordt) maar ook wat minder met mensen de iemand uit het niets komen lynchen om "wat hij uitvreet".

[Reactie gewijzigd door AnonymousGerbil op 25 juni 2026 00:28]

[herpiederpienow]

Ik heb het niet per se over het perspectief van de gene die gedeepfaked is, maar juist ook over het perspectief van de gene die een deepfake van een ander heeft gezien. Waarom zou je anders gaan kijken naar iemand die gedeepfaked is? In negatieve zin dan. Ten eerste, wie ben jij om een oordeel te vellen over wat iemand eventueel privé doet in zijn of haar vrije tijd er vanuit gaande dat je in die deepfake trapt en het voor waarheid aan neemt. Ten tweede, wie denk jij wel niet dat jij bent om dan vervolgens iemand daarmee lastig te vallen? Serieus. Waar haal je het lef vandaan? Ten derde, als je wat je ziet herkent als deepfake en dan alsnog iemand de gedeepfaked is daar negatief op gaat veroordelen of aanspreken, dan is er overduidelijk iets mis in je bovenkamer en dan begrijp je het concept van verantwoordelijkheid niet tenzij iemand zichzelf heeft lopen deepfaken, iets wat overigens ook ontzettend veel gedaan wordt, wat overigens ook helemaal prima is.

Mijn oplossing zou zijn om die kinderachtige giechelaars gewoon ter plekke te deepfaken en op hun plaats te zetten. Doe dit een aantal keer en dat domme kinderachtige gegiechel is er snel vanaf. Volgens mij is dat een veel verstandige manier om hier mee om te gaan, omdat dit het culturele perspectief veranderd. Die overdreven selectieve preutsheid kent volgens mij enkel meer slachtoffers. Stress levels rondom zaken waar men zich zogenaamd voor moet schamen zijn mijns inziens veelte hoog en bovendien veel te vaak gericht op de verkeerde personen die helemaal niet verantwoordelijk zijn, zoals het slachtoffer als je dit zo wilt noemen.

[herpiederpienow]

Blijkbaar in jou ogen wel, maar gezien jou reactie hieronder geloof ik niet dat inhoudelijk reageren ook maar enige zin heeft. Wat mij wel duidelijk is, is dat je mij volkomen verkeerd begrijpt. Ik raad je aan om voortaan voordat je zo reageert, eerst nog een keer goed te lezen wat een ander zegt, niet direct uit gaan van verkeerde intenties en kritisch nadenkt in plaats van direct uit je gevoel die mogelijk helemaal niet klopt te reageren.

[Het.Draakje]

Waarom zoveel waarde hechten aan iets dat nep is?

Omdat het voor de ontvanger van de belediging / vernedering niets uitmaakt? Heb je toevallig een kilo of wat meer gewicht, vanwege een schildklier afwijking, dan het ideale gewicht. Denk je dan echt dat "He, vetzak" geen enkele invloed heeft? En als je toevallig ondergewicht heb, denk je dat dezelfde "He, vetzak" opeens geen enkele invloed heeft? Soms denk ik, een beetje meer medemenslijkheid zou best wel leuk zijn. Mensen die niet denken in "ach, ik vind het niet erg" maar in "wellicht zou een ander dergelijke actie/opmerking niet leuk vinden".

Doordat deepfakes relatief zeldzaam zijn, maakt ze geloofwaardiger dan ze hoeven te zijn. Zelf denk ik dat als men inzet van dergelijke technologie vrij laat, dat adoptie sneller plaats vind

Hoera, snellere adoptie van vernederingen en beledigingen.

Het gebrek aan geloofwaardigheid van deepfakes is juist dat gene wat slachtoffers van deepfakes kan beschermen

Ach, het is wellicht niet echt. Perfecte bescherming. Ik zou me eens inlezen in de reactie van die (IIRC) televisie medewerkster die haar deepfake zag. En wat voor negatieve invloeden het had terwijl ze kon bewijzen dat het nep was. En dan nog had ze voldoende reacties in de trant van "waar rook is, is vuur".

Deepfakes zijn levensgevaarlijk voor de emotionele gezondheid van het slachtoffer.

Maar ach, zo'n verspreider is een loser en we moeten er gewoon maar aan wennen. Nogmaals: de enige reactie op zo'n stelling is gewoon een virtuele trap tussen de benen:

ER IS GEEN EXCUUS VOOR VERNEDERING, NOCH VOOR HET BAGATALISEREN DAARVAN.

[herpiederpienow]

Waarom houd jij jezelf dan niet aan deze standaard die je zo vurig loopt te verdedigen? Sorry hoor, maar je bent mijns inziens veelte emotioneel om ook maar enigszins een inhoudelijk gesprek mee te voeren.

[Het.Draakje]

ER IS GEEN EXCUUS VOOR VOOR HET BAGATALISEREN VAN VENEDERING

Als je door dergelijke stelling jezelf vernederd voelt dan zou ik toch maar eens nadenken over je eigen normen en waarden.

Maar goed, als je dat zo graag wilt: jij je zin. Einde discussie.

[herpiederpienow]

Ik voel me niet vernederd, maar het lijkt er toch heel erg sterk op dat jij de intentie hebt mij te vernederen. Iets wat in jouw ogen onverdedigbaar lijkt te zijn. Maar inderdaad einde discussie. Compleet nutteloos dit.

[Het.Draakje]

Ben zelf ruim 60 jaar kreupel (en nog langer halfblind, vandaar die kreupel, ik zag die auto niet). 9 maanden Intensive Care en een aantal littekens (waar ik nooit meer vanaf kom) die op de vingers van mijn handen niet te tellen zijn. 14 jaar totaal in het ziekenhuis.

Je wilt niet weten wat voor shit je over je heen krijgt als 'grap' of zelfs doelbewuste vernedering. Zelfs de vraag (na een gebroken pols: ach wou je zelfmoord plegen?) Dat soort gedrag moet toch kunnen, want het is mogelijk. De huidige tijd en zo. Tegenwoordig zien de meeste mensen wel in dat het totaal onacceptabel is.

En nu hebben we deepfakes. Uiteraard geen toestemming en het slachtoffer mag het vooral niet als vernederend of beschamend zien. Ze moeten dat gewoon maar accepteren. Want huidige tijd en zo. Moet toch kunnen. Neen, het slachtoffer bepaald zelf wel of het vernederend is en wij moeten daarbij nooit aan de kant van de dader staan.

Ja, ik had het wat liever kunnen zeggen, maar iemand die vernedering goedkeurt (zelfs als hij gewoon niet nadenkt over wat hij nu eigenlijk zegt) verdient wat mij betreft gewoon een virtuele trap tussen de benen.

Maar uiteraard kunnen we het ook met medicijnen oplossen. Wat voor medicijnen wil jij hiervoor aanraden?

[w4v3g0d]

off topic;

Ik wil bij deze mijn excuses aanbieden.
Mijn reactie was erg grof/lomp en sloeg helemaal nergens op, en dat had niemand verdient nu ik er aan terug denk.

Daar koopt u niks voor, dat klopt, maar ik wil het bij deze duidelijk maken.
Het spijt me oprecht.

[Het.Draakje]

Excuses van jou zijn niet nodig. Ik heb jouw opmerking niet als beledigend / vernederend opgevat. Desondanks kan ik jouw excuses wel waarderen.