Meta mag bekende mensen niet langer voortrekken van eigen toezichtraad

Meta is op de vingers getikt door zijn eigen toezichtraad voor het niet snel genoeg modereren van content van bekende mensen. Meta zou een lijst hebben van vip-profielen waarvan berichten alleen handmatig worden gecontroleerd als ze gerapporteerd worden.

De toezichtraad schrijft dat het onderzoek heeft gedaan naar het cross-checks-programma van Meta. Het bestaan van dit programma werd vorig jaar bekend. Cross-checks zorgen ervoor dat bepaalde bekende mensen uitgezonderd zijn van automatische moderatie. In plaats daarvan moet een Meta-medewerker de content handmatig controleren als deze wordt gerapporteerd of op een andere manier wordt aangemerkt als een bericht dat in strijd is met de voorwaarden van het platform. Meta beweerde eerst nog stellig dat het geen onderscheid maakte tussen gebruikers.

Met het programma wil Meta voorkomen dat content van bekende mensen onterecht wordt verwijderd, wat vaak voor ophef zorgt. Daarom wil Meta de berichten van een onbekend aantal vips handmatig controleren op schadelijke content. Het gaat om beroemdheden, maar ook politici en journalisten.

De toezichtraad oordeelt dat schadelijke berichten van mensen op deze lijst veel te lang online blijven staan, in sommige gevallen dagen of zelfs maanden nadat de berichten waren aangemerkt als schadelijk. Ook is het onduidelijk wie precies op de lijst staan en hoe ze daar op komen. De toezichtraad adviseert Meta om dit beleid opnieuw te bekijken. De raad wil dat het bedrijf dit systeem transparanter maakt en sneller controleert op schadelijke inhoud.

Meta heeft nog niet inhoudelijk gereageerd op het rapport van de toezichtraad. Meta-topman Nick Clegg schrijft op Twitter dat Meta binnen negentig dagen zal reageren op de conclusies en aanbevelingen van de toezichtraad.

Reacties (34)

[sjoerdadlp]

De toezichtraad is kritisch op iets waar volgens mij niemand over klaagde. Privacy en andere problemen lijken me net zo goed in strijd met hun eigen voorwaarde. Het is in ieder geval interessant dat ze door zichzelf op de vingers getikt worden, zeker nu ze wereldwijd steeds strenger worden bekeken. Mijn inschatting is dat dit voorbeeld gebruikt gaat worden om te laten zien hoe hun eigen organen kritisch kijken naar de processen, ookal is dit niet dermate baanbrekend of kritisch dat het echt iets gaat veranderen in termen van winsten, omzet, groei, of een andere punt wat Meta als bedrijf als doel heeft. Het gaat niet in tegen een bedrijfsdoel in ieder geval, dus het hoofdkantoor zal er niet wakker van liggen en ze hoeven niet voor hun baan te vrezen, als ze dat al doen.

[HakanX]

Genoeg mensen die klagen over de automatische doorgedraaide moderatie. Zo kreeg ik een maand ban omdat ik schreef "Wij Turken zijn xx" (volgens mij gek of iets in die trant). Volgens de Facebook AI ben ik nu een racist ook bezwaar op de beslissing wordt automatisch door dezelfde systeem genomen. Lekker geprogrammeerd, gewoon een loop waar de uitkomst nooit anders kan zijn.

Bekende mensen vinden ze wel belangrijk genoeg (voor hun eigen hachje) om door mensen te laten controleren. Ik ben van mening dat ze (en andere socialmedia bedrijven) iig bij bezwaar door mensen moeten laten modereren, bij voorkeur door medewerkers die de taal begrijpen. Het is niet alsof ze te weinig geld ervoor hebben. Creëren we ook wat banen, nu hebben ze alleen de lusten, maar niet de lasten.
Dat het teveel content is vind ik overigens een slechte smoes, omdat ze bij meer gebruikers en content ook meer verdienen aan reclame en big data.

[sjoerdadlp]

Ja het automatische sensuur systeem kan en moet veel beter, eens. Maar dit artikel is daar niet kritisch op. Het is kritisch op "het niet snel genoeg modereren van content van bekende mensen", wat met de hand gedaan wordt. Het is dus vooral kritisch dat bekende mensen niet door dat automatische systeem gaan en is daarmee eerder 'pro'-systematische sensuur. De sensuur op fb en andere platformen is naar mijn mening ook te bespottelijk voor woorden, maar dat is weer een volgende discussie.

[WoutervOorschot]

Volgens mij is het punt dat ze wouden maken dat bekende mensen worden voortgetrokken. Daar zijn ze op tegen. Je kan dan als oplossing bieden, behandel ze als de rest (automatisch), of behandel iedereen als VIP. Ik denk dat het oversight board te dicht op FB zit om te noemen dat ze alles handmatig moeten doen, wetende dat FB dat toch niet zou doen (gezien de kosten).

[jmsaow]

Het is uitzonderlijk om te lezen dat het gaat om bekende mensen want daar geloof ik totaal niets van. Waar het uiteindelijk om gaat is het vinden van een methode om belangrijke mensen die hun mening gelijk stellen aan de elitaire leiding van dit bedrijf alles te laten spuien en anderen te weren. Niets anders dan een vorm van het kweken van het gewenste stemvee wereldwijd.

[84hannes]

Het is niet alsof ze te weinig geld ervoor hebben

Dat is wel heel populistisch gesteld. $120.000.000.000 omzet per jaar klinkt wel als veel, maar als je daarvoor 2.000.000.000 actieve gebruikers moet bedienen dan valt het budget per gebruiker best tegen. Ik snap wel dat ze niet voor iedere melding een mannetje aan het werk zetten. Of ik het daarmee eens ben is een ander verhaal, ik zou helemaal niet verdrietig worden als sociale media financieel niet rendabel zijn en daarom verdwijnen. Maar de suggestie dat ze genoeg geld hebben om aan van alles en nog wat uit te geven mag je iets beter onderbouwen.

[Daoka]

Er mogen misschien wel veel gebruikers zijn maar dat betekent niet dat iedereen maar constant maar aan het overtreden is. Genoeg gebruikers die zich wel netjes gedragen. Er zijn dus genoeg gebruikers waarbij er nooit (of sporadisch) een melding gemaakt is. Dus het is niet alsof iedereen een eigen controleur nodig heeft. Ik heb bijvoorbeeld een "actieve" account omdat bepaalde mobiele spellen (ieder geval vroeger) alleen kon synchroniseren/opslaan via Facebook (en waar het nu wel anders kan heb ik het nooit veranderd). Mijn account zal dus geen melding krijgen omdat ik er dus nooit mee post.

[Ivolve]

Nee $120.000.000.000 omzet per jaar IS heel veel. Daarvan was geloof ik ook ongeveer 40 miljard winst. Een content moderator zal max $ 40.000 per jaar verdienen. Kunnen er dus nog een miljoen bij :-)

Overigens vind ik het niet terecht dat je een -1 krijgt. Typisch geval van "not my opinion"...

[LOTG]

Het gaat anders niet echt super bij Mets. Op een paar maanden tijd is hun aandeel gigantisch aan waarde verloren.

Niet heel raar want er worden bijzonder slechte keuzes gemaakt daar. Hun hele business model staat op losse schroeven aangezien er aan de targeted ads gezaagd word door de EU, en aan de andere kant is een hele generatie naar tiktok.

Dan wordt er niets aan user experience gedaan, alles is op add gericht.

En Mark gooit alle geld weg aan zijn hobby project, de metaverse, wat er te ook uit ziet als een hobby project.
En om dat zo onaantrekkelijk mogelijk te maken is uiteraard alles opgezet met een visie om maar zo veel mogelijk advertentie mogelijk heden te hebben. In plaats van wat willen mensen. Heeft maar 9 miljard gekost alleen dit jaar tot nu toe.

Meta is van 350 vorig jaarnaar minder dan 100 dollar per aandeel gegaan begin vorige maand. Het is nu iets hoger, met 114, maar het ziet er niet uit dat die omzet zich in veel winst gaat vertalen dit jaar. De winst per aandeel is in elk geval al bijna gehalveerd het laatste kwartaal.

[Marzman]

Mijn vrouw is geblokkeerd voor het leven door Facebook omdat ze denken dat ze een of andere scammer is, de sms en email werkte niet bij het aanmaken van het account en dat is veranderd om te kijken of het op een ander adres of nummer wel aan kwam en ze heeft haar achternaam aangepast (naar mijn achternaam, we zijn ook getrouwd). Dat was allemaal heel verdacht. Moest ze bewijs doorsturen en werd het nog afgekeurd met de mededeling dat je er niet tegen in beroep kunt gaan.

[Reactie gewijzigd door Marzman op 23 juli 2024 14:11]

[WillySis]

Er waren wel degelijk klachten dat sommige mensen veel meer op FaceBook en Instagram konden plaatsen dan anderen. Ook dat aanstootgevende berichten soms een paar maanden bleven staan terwijl die duidelijk tegen de regels van Meta waren.
Persoonlijk vind ik het niet erg dat bekende mensen op een andere manier gemodereerd worden en een iets soepeler hanteren van de regels kan ik ook nog wel begrijpen, maar het verschil met "gewone" mensen moet klein blijven. Van bewust voortrekken hoort inderdaad geen sprake te zijn.

[B64]

De megafoon van een bekend persoon is een stuk luider dan die van een 'normaal' iemand. Om die reden zie ik niet in waarom er voor bekende personen soepeler gemodereerd zou moeten worden, integendeel zelfs.

Daar staat tegenover dat ik best snap dat Meta de algoritmes niet volledig hun werk laten doen, want dan zouden die bekende personen dus ook volautomatisch een ban van een maand of langer kunnen krijgen. En dit zijn juist de gebruikers die ze niet kwijt willen raken, want dan trekken de volgers ook weg.

[WillySis]

Van een bekend persoon weet iedereen ook de context. Dat maakt dat die wat mij betreft best iets meer tegen de randjes van Meta's eigen regels mag schuren, maar ook niet meer dan dat.
Takedowns of bans op basis van meldingen door anderen zou men bij bekende personen niet automatisch moeten doen. Naast een schare fans hebben veel bekende personen ook een schare haters. Die haters moet je niet te veel macht geven.

[Iblies]

Het gaat om dit stuk,

Meta is op de vingers getikt door zijn eigen toezichtraad voor het niet snel genoeg modereren van content van bekende mensen.
…
Het bestaan van dit programma werd vorig jaar bekend. Cross-checks zorgen ervoor dat bepaalde bekende mensen uitgezonderd zijn van automatische moderatie.
…
De toezichtraad oordeelt dat schadelijke berichten van mensen op deze lijst veel te lang online blijven staan, in sommige gevallen dagen of zelfs maanden nadat de berichten waren aangemerkt als schadelijk. Ook is het onduidelijk wie precies op de lijst staan en hoe ze daar op komen.

Even een beetje samengevat 😄

En hoe het geïnterpreteerd moet worden is ook raadsel. Zo heb je veel politici in de VS die te pas en te onpas iedereen racist, facist, etc noemen,


daarnaast is er een grotere groep mensen in de VS waar anti-semitisme een probleem is uit compleet andere hoek,
Kanye West/Ye afgelopen week die helemaal doordraaide,
maar blijkbaar ook iemand als Lebron James houd er soortgelijke vage theorieën op na,
https://www.bbc.com/news/world-us-canada-46671819


Wereldwijd zal het weinig uitmaken, maar in de VS zal het vermoedelijk wel kopzorgen veroorzaken. (Gratis) media als facebook/instagram wordt hoofdzakelijk geconsumeerd door mensen met lager inkomen en die zijn daar bevattelijker voor.

[david-v]

Meta-topman Nick Clegg schrijft op Twitter

Best ironisch dat een topman van een social media bedrijf een ander sociaal media platform gebruikt om iets te verkondigen.

On topic: meta is al vaker geconfronteerd met verkeerde moderaties, het verbaasd me dus niks dat ze bepaalde accounts handmatig modereren ipv automatisch. Dat het niet transparant is of onbekend is hoe je daar op/af komt is terechte kritiek. Wie bepaald of je een vip bent of niet op Facebook?

edit:typo

[Reactie gewijzigd door david-v op 23 juli 2024 14:11]

[WillySis]

Wie bepaald of je een vip bent of niet op Facebook?

Dat vroeg de commissie zich ook af.

[Verwijderd]

En laat me raden, je kan betalen voor een plek op die lijst ( achter gesloten deuren natuurlijk ).

[appel00]

Beetje vergezocht, niet alles is een complot. Dus je zou Meta kunnen betalen zodat je schadelijke berichten langer online blijven staan? Zouden wel significante bedragen moeten zijn om het de mogelijke reputatieschade van Meta waar moeten maken.

[Verwijderd]

Niks hoeft een directe transactie te zijn, kan ook vriendjespolitiek zijn waardoor er elders gunsten worden verkregen, indirect.

[Josk79]

Het kan natuurlijk ook gewoon onzin zijn wat je zegt.

[Yzord]

Het kan ook natuurlijk oogkleppenpolitiek zijn waarin jij je bevindt.

[_Pussycat_]

@Verwijderd beweert gewoon maar wat uit het niets. Dat kan erg goed onzin zijn, en zelfs mocht het kloppen, dan is het puur toeval. Niet echt mooi zulke beweringen/beschuldigingen uit het niets te plaatsen.

[Josk79]

Het kan natuurlijk ook zijn dat ik wat meer over zaken nadenk en geen ongefundeerde claims rondslinger over zaken waar ik de ins en outs niet van weet. Maar ja, wie ben ik.

[Verwijderd]

Ik maak simpelweg een suggestie, ik zeg niet dat het gebeurd of gebeurd is.

[_Pussycat_]

"laat me raden, je hebt gisteren weer eens met je vingers aan kleine meisjes gezeten".
-->
Ik maak maar een suggestie, ik zeg niet dat het gebeurt of gebeurd is.

Zie je werkelijk niet wat er mis is met je methode? Zie je werkelijk niet dat dit trollen is?

[k995]

Zo werken de meeste online trollen natuurlijk.

[k995]

1 die liefst zonder mogelijke trollen is.

[Nimja]

Nah, ik denk eerder dat Meta goed beseft dat populaire mensen (influencers, kuch kuch), meer naar gekeken wordt dan de gemiddelde persoon dus ook voorzichtiger behandeld wordt.

Net zoals dat op YouTube, hoe groter je kanaal is, hoe makkelijker je Copyright Claims lijkt te kunnen bevechten als er iets niet klopt.

[mutley69]

Meta is binnen een paar jaar irrelevant - gewoon alleen al door de houding van het opperhoofd.

[Roel1966]

Tja ik vraag mij wel af of dit soort media bedrijven echt transparant kunnen zijn wanneer alles in eigen huis word beoordeeld. Eigenlijk zou het veel beter zijn wanneer een onafhankelijke instantie dit in handen zou nemen. Een instantie die op geen enkele wijze dan financiële voordelen heeft of verbonden is met het betreffende mediaplatform.

[jpfx]

Of je bekend bent of niet zou geen enkel effect mogen hebben op de wijze van moderatie. Ieder mens is gelijk. Of je blank, gekleurd, man, vrouw, hetero, lhbti, bekend of jan alleman bent.

[Noitisnt]

Meta beweerde eerst nog stellig dat het geen onderscheid maakte tussen gebruikers.

Meta liegt bijna net zoveel als Donald Trump