'Microsoft betaalt mensen om seksuele plaatjes van Copilot te verbeteren'

Microsoft heeft honderden mensen in dienst om afbeeldingen die Copilot genereert te beoordelen, inclusief de bijbehorende prompts. Sommige van die afbeeldingen zijn seksueel getint. Het doel is niet om content op te sporen die in strijd is met regels of wetten, maar om de output van Copilot te verbeteren, zo meldt 404 Media.

De menselijke moderators kunnen prompts en output niet eens markeren als ongepast, meldt 404 Media op basis van documenten, chats en gesprekken met medewerkers. Ze kunnen en moeten alleen de prompt en afbeeldingen bekijken die gebruikers uploaden om te beoordelen welke van de twee door Copilot gemaakte afbeeldingen de beste is. Dat moet de kwaliteit van Copilots afbeeldingen verbeteren.

Daaronder vallen veel seksueel getinte afbeeldingen, die lang niet altijd met toestemming van de persoon in kwestie gemaakt lijken te zijn. Zo noemt 404 Media upskirtafbeeldingen, waarbij mensen foto's maken onder de jurken en rokken van vrouwen. Ook zijn er veel verzoeken om kleding korter en borsten groter te maken en om mensen op foto's in seksueel suggestieve posities te zetten. Daarnaast zijn er veel proanorexiaprompts, zoals een verzoek om zangeres Taylor Swift af te beelden met anorexia.

Microsoft heeft nog niet gereageerd op het verhaal. De informatie volgt op een eerder verhaal van 404 Media, waarin het claimt dat medewerkers van OpenAI met ChatGPT-prompts hetzelfde doen.

Wacht, lezen mensen mee met mijn prompts?

Ja, het kan zijn dat er mensen, vooral achteraf, meekijken met gesprekken die gebruikers voeren met AI-chatbots. Hoewel AI software is, leunt het sterk op menselijke beoordeling om ervoor te zorgen dat de AI-chatbots voldoen aan regels of om te checken of de output wel voldoet aan de wensen van gebruikers. Bij zakelijk gebruik geldt dat in veel gevallen niet en lezen geen mensen mee met prompts en uploads.

Dat gebeurt ook bij interacties met AI via beeld en geluid, zoals die met Meta Ray-Ban-brillen, waarbij Keniaanse medewerkers kunnen meekijken met het wc-bezoek van gebruikers. Enkele jaren geleden bleek dat het ook al gebeurde met slimme speakers.

Reacties (52)

[well0549]

Die AI rommel zou gewoon alles wat sexueel getint is moeten beantwoorden met :

Daar ben ik niet voor gemaakt, beetje zonde van de energie. Zoek je heil maar ergens anders.

[redslow]

“Zoek je heil maar ergens anders”

tja het grote gevaar hiermee Is wat doet het met de gedachten van de persoon die het leest? Als hij/zij niet aan zijn/haar trekken komt. In het ergste geval verkrachting want hij/zij zocht zijn/haar heil ergens ander.

Je ziet dit ook bij bepaalde gemeentes die sekswerkers betalen om plezier te geven aan gehandicapten. Dit om deze groep psychologisch te helpen. Het klinkt heel raar.

dus nee, ik denk dat AI hierin een rol kan spelen. Want sex sells en het kan ook helpen in monitoren.

voorbeeld ooit was er een hele vieze site genaamd Martijn.org in mijn ogen iets walgelijks en de mensen die dat bezochten waren ook letterlijk ziek in hun hoofd. (Medisch vastgesteld bij pedo”s, het is een afwijking)

echter had deze website wel een maatschappelijke rol. Het gaf de politie een plek waar ze konden monitoren en hoe ziek het ook klinkt het voorkwam gedeeltelijk dat deze bezoekers niet verder de illegaliteit in gingen.

AI zou ook zo”n monitorings functie kunnen krijgen

[Zwatelaar]

Just another opinion.

Je vergeet dat het interweb-verkeer driekwart uit sex bestaat?

And by the way, jij wilt het internet uitkleden. Wat op zichzelf best naughty is, maar ja, ieder zijn fetish.

[Xbeek]

Je vergeet dat het interweb-verkeer driekwart uit sex bestaat?

Dat is dus een broodje aap verhaal. Als je naar gerenommeerde bronnen gaat zoeken die dit feitenlijk onderzocht hebben dan kom je bij "Market Share Analysis, Industry Trends & Statistics".

Volgens hun analyze is pornografische content wereldwijd naar schatting tussen de 2% en 5% uit van het totale internetverkeer (downstream data). De grootste hoeveelheid verkeer wordt gegenereerd door bots en qua file format is 2/3 van het verkeer video.

[Wouterie]

Sjonge... bots dus. Dat is dus nog zinlozer.

[Zwatelaar]

Mijn woordkeuze is niet bedoeld om letterlijk te nemen en is op geen enkele wijze wetenschappelijk te onderbouwen. Ik zal voortaan bij elke post een gigantische disclaimer zetten voor de mensen die het verschil niet kennen tussen bij wijze van spreken, uitdrukking, cynisme, humor, etc.

Ik wil jou best op je woord geloven dat het niet overeenkomt met onderzoek en statistiek.

MAAAAARRRRR: jij hebt het over pornografisch materiaal. Sex is niet hetzelfde als porno.

Als de helft van jouw kippen wit zijn, wat zegt dat over het totaal aantal witte vogels van alle soorten? Volgens mij kun niet zomaar een onderzoek/statistiek extrapoleren naar een ander onderwerp.

DUSSSS: als je er wetenschap/statistiek erbij wilt halen, moet je dat wel goed doen.

[Raymond Deen]

Als ik de gemiddelde webpagina die ik bekijk er even bij haal dan is zo’n beetje 15 tot wel 50% van de scherm real estate in bezit genomen door advertenties. Het zal natuurlijk niet 1-op-1 vertaalbaar zijn naar dataverkeer, maar ik denk dat het wel richting een derde gaat.

Die hoeveelheid reclame staat overigens ook gewoon op porno websites 😛

[willieverhoef]

De vraag is alleen of we daar 4 kerncentrales voor willen laten draaien. Maar je hebt gelijk dat doen we al met al de content die bekeken wordt.

[GigaHenk]

Moet je bouwen wat de mensen willen, of juist heel erg limiteren.

Denk als je voor optie twee kiest er een schimmige markt bijkomt waarop ook weer gehandhaafd dient te worden. Of dat er niet echt op gehandhaafd wordt, als bij downloaden....

[Dooxed]

Je beperkt dan vaak wel de schaal door beschikbaarheid te beperken, plus strafbaarstelling zorgt deels voor afschrikking

[magnifor]

Jaja hoeveel afschrikking heeft kinderporno om het even extreem te nemen, of de eeuwige war on drugs, zoveel afschrikking heeft het niet gezien die business steeds booming is.

[bilgy_no1]

Het is wel iets meer dan 4 kerncentrales. Het gaat om 150-200GW aan datacenter capaciteit wat er tot 2030 bij zou moeten komen volgens alle bekende plannen en aankondigingen.

Context: dat is grofweg 10x het totale stroomverbruik van heel Nederland, inclusief al z'n 18 miljoen inwoners, kantoren, fabrieken, elektrische auto's, etc etc.

[magnifor]

De vraag is er dus als je het gaat verbieden dan zoekt men naar een alternatief. Je gaat het niet stoppen dus kun je het beter reguleren.

[Cergorach]

Ik denk dat je wellicht meer uithaalt met alle personenauto's verbieden, dat scheelt 15,4 megaton aan CO2 uitstoot. Gewoon iedereen op z'n fietsje naar het werk! Kunnen we ook meteen van een heleboel asfalt af... Kunnen we eindelijk wat doen aan de staat van de Nederlandse bruggen...

[watercoolertje]

Buiten dat het als onzin klinkt (weet vrij zeker dat alleen al 'gewone' videostreams het winnen van pornovideostreams), maakt dat helemaal niet uit.

Niks mis met porno, dat betekend niet dat je zomaar mensen hun (normale) beelden om moet kunnen zetten in pornografisch materiaal. Dat is gewoon pervers gedrag en daar mag je best op tegen zijn zonder dat je tegen porno/internet in het algemeen/algeheel bent...

Dus misschien moet AI niet overal (mbt porno) nee op zeggen maar wel een paar stappen extra zetten om de mensen waarvan hun gezicht/lichaam zonder toestemming gebruikt wordt...

[Reactie gewijzigd door watercoolertje op 29 september 2026 15:49]

[Zwatelaar]

Waarom begin je over porno in een “discussie” over sexueel getint?

Volgens mij zeg ik ook helemaal niets over omzetten van beelden en/of dat normaal gevonden moet worden.

[TrafalgarLaw]

Gemiddeld genomen bestaat de helft uit kattenvideos en een kwart porno met het laatste kwart uit bots.

[imqqmi]

Je vergeet spam/ads.

[WillySis]

Ik geef je gelijk, maar in het verleden is meermalen gebleken dat sex verkoopt. De VHS band is pas een succes geworden toen er sex-videos verhuurd werden. Zelfs het internet zoals we dat nu kennen denkt zijn succes bij de "gewone man" voor een niet onbelangrijk deel aan de sex industrie.

AI heeft al genoeg potentie om zonder die schunnige rommel een succes te worden. Wat mij betreft worden seksueel getinte plaatjes en video hier nu eens geweerd.

[bilgy_no1]

Ik geef je gelijk, maar in het verleden is meermalen gebleken dat sex verkoopt. De VHS band is pas een succes geworden toen er sex-videos verhuurd werden. Zelfs het internet zoals we dat nu kennen denkt zijn succes bij de "gewone man" voor een niet onbelangrijk deel aan de sex industrie.

AI heeft al genoeg potentie om zonder die schunnige rommel een succes te worden. Wat mij betreft worden seksueel getinte plaatjes en video hier nu eens geweerd.

Dat van VHS vs Betamax en de porno-industrie is echt een broodje aap gebleken. En ik vermoed dat dit net zo goed geldt voor het internetporno verhaal.

VHS was een standaard die breder werd omarmd (licenties waren gratis/goedkoper dan de Sony Betamax licenties) en waar sneller goedkopere videospelers werden aangeboden. En doordat er meer spelers van in omloop waren werden er bij videotheken meer titels aangehouden voor VHS. En dat versterkte elkaar totdat Betamax eruit was.

[Zonder]

Dat sex verkoopt vind ik niet zozeer een probleem. Niets zo menselijk als seksualiteit en pornografie.

Dat mensen anderen "uitkleden" en op andere manieren zonder hun medeweten en/of instemming seksualiseren is in de basis gewoon seksueel grensoverschrijdend gedrag.

Of dat wel of niet op het internet gebeurd veranderd daar weinig aan.

Ben eerlijk gezegd ook wel licht teleurgesteld in de reageerders die daaraan voorbij lijken te gaan en zegge het allemaal wel prima te vinden want "het is het internet, dat hoort erbij".

Vraag me af of ze daar nog hetzelfde in zouden staan als men een - in hun optiek - walgelijke wraakporno deepfake van hen zouden maken en verspreiden...

[willieverhoef]

Deep fake, tja een hele handige jongen dan dat ook met foto en ontwikkelen of gewoon op pc offline. De oorzaak is niet internet.

Internet zorgt voor veel informatie, dus de kennis om dit te doen en de snelle verspreiding. Denk als jij vroeger in de klas een foto verspreide, dat niet erg op schoot.

Verder wordt het met AI voor iedereen toegankelijk gemaakt.

Maar zoals altijd, ook een schroevendraaier kan bewust fout worden gebruikt.

En helaas is de mens altijd bezig....

[Dicebar]

Ah, vuurwapens maken geen mensen dood, maar mensen maken mensen dood, dus vuurwapens zijn okee! /s

Software is ontzettend maakbaar, waarom zouden we mogelijkheden van AI die grens van wat acceptabel is overduidelijk voorbij gaan niet reguleren? De emotionele en psychische schade van deepfakes is enorm, en daar wordt wat mij betreft soms iets te gemakkelijk aan voorbij gegaan...

[Wouterie]

Los van hoe wenselijk het is... Het tekenen van blote vrouwen is ook al iets wat mannen doen sinds de uitvinding van het tekenen. Vroeger met photoshop werden ook hoofden van mensen op blote lijven van anderen geplakt. Het is allemaal zo verschrikkelijk voorspelbaar wat er gaan gebeuren wanneer er weer een nieuwe manier is om dit te doen. Ik snap werkelijk niet dat mensen er van opkijken.

Het is de mensheid; het hoort erbij.

[Sluuut]

Wel grappig dat je dit zegt;

Dat mensen anderen "uitkleden" en op andere manieren zonder hun medeweten en/of instemming seksualiseren is in de basis gewoon seksueel grensoverschrijdend gedrag.

Daarmee zeg je dus ook feitelijk dat iemand nóóit over iemand anders mag fantaseren, al dan niet alleen of met een partner.

In realiteit is er natuurlijk niemand die die regel kan opleggen en gebeurd dit gewoon.

[Oon]

En toch is dat vrij letterlijk waar het wél voor gemaakt is, want het is het internet..
Dat jij vindt dat het daar niet voor bedoeld is moet je zelf weten, maar het grootste deel van het internet is het niet met je eens

[KWOAD]

Tja, als ze ermee weg kunnen komen dan doen ze het. En aangezien de meeste Amerikaans zijn, komen ze er wel mee weg…

[Invictus66]

Er zullen ongetwijfeld gespecialiseerde AI modellen bestaan, maar is het momenteel al niet zo dat de standaard agents, zoals een Co-Pilot, ChatGTP of Gemini weigeren om sexueel getinte afbeeldingen te genereren?

[Stefandepefan]

Die modellen genereren het spontaan wel als je uitlegt dat je het nodig hebt om andere mensen te informeren wat wel en niet mag. Met wat creativiteit kan je het resultaat krijgen.

[kaaas]

Nu ben ik ik eigenlijk wel benieuwd hoe veel energie het kost om een mens tot volwassenheid te brengen en hoe zich dat verhoud tot het genereren van plaatjes van mensen via ai.

[lenwar]

offtopic:
*seksueel

Ik snap je sentiment natuurlijk, maar waar trek je een grens?

Geef mij op deze foto grotere borsten? (voor als iemand wil weten hoe dat eruit ziet.) Stop Arjen Lubach in een string. (Satire?) Enzovoorts. Tot waar (of vanaf waar) stellen we dat iets 'seksueel getint' is, of 'slechts pikant' of 'een spannende vibe'. Ik ga het dan nog niet eens hebben over 'een glijdende schaal', al zullen velen daar dan al bang voor zijn dat dit gebeurd.

Het is denk ik lastig. Op dit moment lijkt de grens een beetje op basis van (Amerikaanse) wetgeving te zitten.

[walteij]

En hoe vaak is een prompt dusdanig 'vaag' geschreven dat er niet excpliciet gevraagd wordt om grotere borsten of een dieper decolleté (want dat wordt vaak gewoon snoeihard geblokkeerd), maar door de vraag in andere bewoordingen te geven toch het gewenste resultaat te krijgen.

[lenwar]

Dat is weer een andere discussie natuurlijk. (en toont wat mij betreft prima aan dat de I in AI zeker niet voor Intelligent staat, anders zou het daar toch niet in moeten trappen als het dat eigenlijk niet 'wil' doen.)

De persoon op wie ik reageerde gaf aan dat de AI-modellen überhaupt geen seksueel getinte zaken zou moeten kunnen verwerken. Vanaf waar vinden hen het 'seksueel', en vanaf waar is het 'satire/informatie/spannend'. Ik denk dat daar een heel breed spectrum is, waar lang niet iedereen het met elkaar eens zal zijn.

[downtime]

Nog een ander punt. Stel dat ik een vrouw ben die zich afvraagt hoe ze er met een borstcorrectie o.i.d. uit zou zien. Waarom zou ik m'n eigen foto niet mogen uploaden met de vraag om die wat grotere/kleinere borsten te geven, zodat ik weet of het de moeite is om een afspraak met een plastisch chirurg te maken? Moeten we alles maar blokkeren wat iets met bloot te maken heeft?

[sjoerdadlp]

Het defineren van wat sexueel getint is, dat is wel vrij onmogelijk, tenzij je elke blote schouder, elke vorm van dans, alles wat met outfit (wisselingen) te maken heeft, meteen blokkeert.

[player-x]

Misschien van voor jouw tijd, maar VHS heeft het gewonnen van het 1 jaar oudere en behoorlijk betere Sony's Betamax en Philips zijn Video 2000 formaat, omdat JVC het lef had om VHS-videocamera's aan de pornindustrie te geven.

En zo was VHS het dominante formaat geworden. ^_^

[Nark0tiX]

Zonder sexueel getinte content hadden we geen internet gehad:)

[SinergyX]

Tja, sex sells, sim-pel.
Al met die face-filters en photoshop opties, een aanzienlijk deel ervan was om profielfoto's of 'teasers' wat mooier te maken dan in werkelijkheid, iets wat al sinds de eerste dagen van model-fotografie een principe was. Dat andere mensen dat ook gebruiken om niet hunzelf maar iemand anders te willen aanpassen.. Grok is volgens mij de groot-meester in dat soort verzoeken als ik X beetje bekijk.

[MAD_Sofia]

"Oeh, waar meer te lezen over dat baantje? Vragend voor een vriendin.. "

Alle gekheid op een stokje: ik vind CoPilot fijn voor mijn werk, en betaal ervoor, maar het is dan ook echt werk context. De enkele keren als ik om een afbeelding vraag, zoals een mindmap ben ik nog nooit niet teleurgsteld.. ..dan vraag je: het moet passen op een A4.. dan maakt hij een gigantische horizontale rij, piepklein en dan blijft 80% van het veld leeg, de rest onleesbaar..

..dan denk ik.. wat nu als je een gewoon beeld wil maken, maar dit lezende bestaat er kennelijk een CoPilot Markt van voldoende volume waarin het blijkt dat MSft het nodig vind extra kracht in te huren.. ..jeetje.. het is bijna iets waar je X voor aanziet...

Als laatste, ik snap het niet: ik heb wel eens AI ingezet om te kijken wat het zegt over mijn lichaam ivm gezondheidsanalyse, maar heel snel zegt 't system 'nope'.. .dan ook weer verbaas ik me dat het bij mensen die expliciet zijn niet zo is?

[4tro]

Je vraagt een Amerikaans getrainde AI om iets op een a4 te passen, dan kan je inderdaad alleen maar teleurgesteld worden...

Zelfde als een ai vragen om een kolom met rommelige datums te normaliseren 🫣

[Schway]

Wacht. Denken mensen echt dat er niemand mee kijkt en dit alles prive is?

[AnonymousGerbil]

. Denken mensen echt ...

Nee, de meeste mensen denken helemaal niet, en diegenen die dat wel doen in ieder geval niet over of de data op hun pc prive is.

< stop hier uw grap over het moment waarop ze daarover zouden moeten nadenken>

[Reactie gewijzigd door AnonymousGerbil op 29 september 2026 15:16]

[Dooxed]

Er zijn inderdaad nog heel veel mensen met (vaak onterecht, zoals in dit geval) vertrouwen in de mens incl door de mens gebouwde applicaties/systemen.

En eerlijk: zo zou het ook moeten zijn, trustworthy.

[Reactie gewijzigd door Dooxed op 29 september 2026 15:50]

[duncte123]

Dat is zeker een van de keuzes van altijd die Microsoft hier maakt

[npourq]

Hmm, misschien komt het dan toch wel goed met de AI. Toch maar een co-pilot abonnement nemen.

[DarkCrow]

The duality of Tweakers

[Zwatelaar]

Microsoft wordt langzaamaan Microhard

[BaszCore]

En als je zo'n afbeelding dan opslaat in je OneDrive, dan ben je zeker niet lang daarna de toegang tot je data kwijt? De ironie van MS...

[segil]

'Microsoft betaalt mensen om seksuele plaatjes van Copilot te verbeteren'

Suggestieve, clickbait achtige kop. Medewerkers controleren de output van co-pilot, ze passen de plaatjes niet aan.

[watercoolertje]

Suggestieve, clickbait achtige kop.

Eens, want het gaat niet specifiek om seksuele plaatjes.

Medewerkers controleren de output van co-pilot, ze passen de plaatjes niet aan.

Ze passen de plaatjes niet aan maar dat staat er ook niet!

Ze verbeteren het algoritme door de beste te selecteren (soort rating, goed of fout), daarmee wordt het plaatjes genereren verbeterd want dat is feedback naar het model.

[Reactie gewijzigd door watercoolertje op 29 september 2026 16:24]