Oversight Board: Meta moet regels voor gemanipuleerde content snel heroverwegen

Het Meta Oversight Board, dat moderatiebeslissingen door Facebook en Instagram beoordeelt, uit zorgen over het huidige beleid omtrent gemanipuleerde content. De huidige vorm zou 'onsamenhangend' en 'zonder overtuigende rechtvaardiging' zijn.

Bron: AP

Het onafhankelijke moderatieorgaan, opgericht door Meta, zegt overigens wel achter het besluit te staan van de techgigant om een video online te laten die zo gemonteerd is dat het lijkt alsof de Amerikaanse president Joe Biden de borst van zijn volwassen kleindochter aanraakt.

De Facebook-post zou niet in strijd zijn met Meta's beleid, omdat de beelden en audio niet zijn gemaakt met behulp van AI. Het Board stelt verder dat het onwaarschijnlijk is dat de gemiddelde gebruiker door de video misleid zal worden, omdat de wijziging van de videoclip 'voor de hand ligt'.

Eerder vroeg het Meta Oversight Board al naar de meningen van gebruikers over deze kwestie. Hoewel het Board het eens is met Meta's beslissing om de Biden-video toe te staan, vindt het ook dat Meta het beleid 'snel moet overwegen', vooral vanwege de aankomende verkiezingen in 2024.

Reacties (24)

[DdeM]

Als ik de bron zo lees vind het Board eigenlijk dat het beleid gewijzigd zou moeten worden zodat deze video ook binnen dit beleid zou vallen, maar omdat dit momenteel niet zo is, is deze video dus toegestaan.

"The policy’s application to only video content, content altered or generated by AI, and content that makes people appear to say words they did not say is too narrow. Meta should extend the policy to cover audio as well as to content that shows people doing things they did not do. The Board is also unconvinced of the logic of making these rules dependent on the technical measures used to create content. Experts the Board consulted, and public comments, broadly agreed on the fact that non-AI-altered content is prevalent and not necessarily any less misleading; for example, most phones have features to edit content. Therefore, the policy should not treat “deep fakes” differently to content altered in other ways (for example, “cheap fakes”)."

[Luminair]

Het Board stelt verder dat het onwaarschijnlijk is dat de gemiddelde gebruiker door de video misleid zal worden, omdat de wijziging van de videoclip 'voor de hand ligt'.

Ik vind het moeilijk te beoordelen wat de gemiddeld gebruiker daarvan zou denken, maar ik zie toch veel mensen die er in trappen. Ook met van die ".75x" vertraagde videos, waarin ze het zo editten dat politica seniel lijken.

Zou de drempel niet moeten zijn dat veel mensen het verschil niet zien, in tegenstelling tot meeste mensen?

[Gwaihir]

Een goede grap (o.a. 1 april) begint ook vaak met op het verkeerde been zetten. Tal van oprecht onbedoelde zaken kunnen mensen op het verkeerde been zetten. En kijk hoe vaak men simpelweg elkaar niet begrijpt..

Zet je de lat erg hoog, dan wordt het erg lastig om nog iets te mogen posten, als 'amateur'. En tja.. daar draait social media toch om.

[Heb hier op de forum ook al meerdere rare moderaties over me heen gehad, dan wel tevergeefs om mod hulp gevraagd. Beide omdat zo'n mod iets (uitsluitend) op één specifieke manier blijkt te zien..]

[Luminair]

Als je posts ambigu zijn qua ironie, en je post heeft (daardoor) een misleidend karakter, dan is het niet raar als mensen het op een verkeerde manier opvatten.

Maar deze zaak gaat niet om een grijs gebied. Dit zijn gevallen waarin het duidelijk is dat iets op een misleidende manier is gemanipuleerd, en of dat moet worden toegestaan. En hoewel regels van te voren worden opgesteld, wordt content niet op voorhand getoetst, maar achteraf; daarbij kun je ook context zien (of het 1-april was, of het een satire site betreft, een running-gag, etc).

Er wordt altijd geschreeuwd dat, "je straks helemaal niks meer mag zeggen!1!" maar ik zie nog steeds de meest racistische troep op social media, dus denk dat het eerder andersom is.

[Gwaihir]

'Ambigu qua ironie'. Goh.. is dat ironisch bedoeld? (Ironie is nl. per definitie ambigu.) Ik kan het niet inschatten. Moet je post nu weg?

Misleidend is hij nl. ook. Want je argument lijkt opgeklopt. Het lijkt me nl. niet dat je de genoemde video als 'meest racistische troep' ziet. Kennelijk gaat het daarbij om zaken die - terecht - ook nu niet door de beugel kunnen. En verder heeft het board het duidelijk over een grijs gebied, m.b.t. het percentage gebruikers dat het niet door heeft. Ook daar probeer je ons op het verkeerde been te zetten..

Ik neem aan dat je goed bedoelend wat doorschiet in niet helemaal zuivere argumenten, maar onder je eigen regels is voor die reactie van je dus ook een -1 of -2 prima verdedigbaar..

[Luminair]

Ironie is nl. per definitie ambigu

Incorrect. Gewoonweg fout. Weet niet hoe je daar zo bij bent gekomen, maar sarcasme (en andere vormen van ironie) hebben alleen het bedoelde effect als de ontvanger weet dat wat gezegd wordt niet is wat er wordt bedoelt.

Ik neem aan dat je goed bedoelend wat doorschiet in niet helemaal zuivere argumenten, maar onder je eigen regels is voor die reactie van je dus ook een -1 of -2 prima verdedigbaar..

Joh, waar heb je het over? Welk deel van mijn reactie kon je nu mogelijk aanstoot aannemen? Om dan een stroman als reactie op te maken, en zelfs daarin zeg je niet eens echt iets. Je haalt express dingen door elkaar die ik overduidelijk niet zo bedoelde (het grijze gebied gaat om de materie niet de gebruikers, bijvoorbeeld). Als je het wil hebben over zuiveren argumenten, dan is wat jij allemaal uitkauwt verre van. Ik snap zo denk ik wel dat je op het forum dan zoveel 'rare' moderaties krijgt (zie je die quotes? dat is om aan te geven dat het ironisch bedoelt is).

[kodak]

Het probleem is eerder dat het de oversight board niet om een aantal lijkt te gaan maar om zelf suggestief de term 'average user' te gebruiken alsof dat op zich waarde heeft.

Ik lees tenminste niet terug wat ze onder een average user verstaan. En dus ook niet hoe blijkt dat die aan de kenmerken voldoen die de oversight board suggereert. En dat lijkt me toch het minste wat ze horen aan te tonen. Daarbij slaat een gemiddelde gebruiker hoe dan ook niet zomaar op het uitsluiten van een te groot aantal gebruikers die er niet intrapt. Gebruikers die twijfelen vallen namelijk niet zomaar te rekenen onder gebruikers die er niet in trappen. Terwijl die twijfel wel voor onacceptabele problemen kan zorgen als die gebruikers samen met de goed gelovige dit soort content vooral naar twijfelaars en goed gelovigen stuurt. Dus des te belangrijker dat de oversight board eerst heel duidelijk maakt wat ze allemaal onder een avarage user verstaan, gevolgd door wat er acceptabel aan de restgroep is.

[Loller1]

Het Board stelt verder dat het onwaarschijnlijk is dat de gemiddelde gebruiker door de video misleid zal worden, omdat de wijziging van de videoclip 'voor de hand ligt'.

Het Board houd blijkbaar een hoge verwachting van mensen hun wil om het niet als feit aan te nemen ook al zijn er duidelijke problemen met het beeldmateriaal (of artikel, post, etc.).

[CH4OS]

Ik zie serieus (nog) niet echt het probleem ervan in, maar misschien mis ik iets. Wat boeit het wat mensen online ervan denken? Ze waren er niet bij, ze kennen de context niet. Er zijn geen aanklachten ingediend en ik mag hopen dat de (volwassen) kleindochter van Joe Biden zelf wel weet wanneer iets ongewenst of strafbaar is. Daarnaast zal POTUS ook wel uitkijken wat hij wel of niet doet.

Lijkt me vooral een storm in een glas water dit, uit angst omdat mensen online nog wel eens dingen kunnen gaan roepen die onterecht kunnen zijn. Laat ze lekker het hunne ervan denken, iedereen die er wel bij was, weet toch hoe de context wel in elkaar stak?

Of denk ik nu te simpel?

[Reactie gewijzigd door CH4OS op 23 juli 2024 12:59]

[bartje]

Of denk ik nu te simpel?

Ja,
dit is in princiepe disinformatie en verkiezingsmanipulatie.

als jan met de pet(FB gebruiker) denkt dat biden zijn handen niet thuis kan houden vanwegen een gemanipuleerde foto, zullen ze misschien anders stemmen.

[CH4OS]

Als jan met de pet(FB gebruiker) denkt dat biden zijn handen niet thuis kan houden vanwegen een gemanipuleerde foto, zullen ze misschien anders stemmen.

Er gebeurd iets totaal onschuldigs, er hoeft niets achter gezocht te worden. Degenen die dat toch doen, doen dat dan toch zichzelf aan? En als vervolgens het stemgedrag wijzigt van die persoon, is dat toch diens probleem, niet die van de president(skandidaten)? Dat is wellicht wat naïef van mij, maar kom op...

Zo kun je op geen enkele wijze een video of foto waar dan ook plaatsen, want stel je voor dat Jan met de Pet de video of foto ziet en denkt dat er meer achter schuil gaat. Dat is echt de omgekeerde wereld. Als je al door zoiets je stem laat beïnvloeden en anders gaat stemmen...

Ik vind het vooral kleinzerig overkomen, maar goed, what else is new vanuit de States.

[Reactie gewijzigd door CH4OS op 23 juli 2024 12:59]

[DdeM]

Die video was moedwillig gemanipuleerd om het totaal niet onschuldig te laten lijken:

```
In the original footage, he exchanged “I Voted” stickers with his adult granddaughter, a first-time voter, placing the sticker above her chest, according to her instruction, and then kissing her on the cheek. In the video clip, posted just over six months later, the footage has been altered so that it loops, repeating the moment when the president’s hand made contact with his granddaughter’s chest to make it look like he is inappropriately touching her. The soundtrack to the altered video includes the lyric “Girls rub on your titties” from the song “Simon Says” by Pharoahe Monch, while the post’s caption states that President Biden is a “sick pedophile” and describes the people who voted for him as “mentally unwell.”
```

Het is niet alsof het gewoon een video is van een gebruiker die zich afvroeg of Biden iets deed wat minder onschuldig was, maar een moedwillige poging om mensen te misleiden.

[DdeM]

Gaat om de gemanipuleerde versie, en die is dus als toegestaand beoordeeld omdat het beleid te "smal" is, zie mijn andere comment

[nst6ldr]

[...]

En als vervolgens het stemgedrag wijzigt van die persoon, is dat toch diens probleem, niet die van de president(skandidaten)?

Ik kan me vergissen, maar volgens mij is het resultaat van een verkiezing niet louter het probleem van diegene die zich laat misleiden.

[locke960]

In het echte filmpje plakt hij een "ik heb gestemd sticker" op zijn kleindochter.
In het gemanipuleerde filmpje lijkt het alsof Biden haar meermaals 'ongepast' aanraakt.

Dat filmpje is gemanipuleerd om:
1. Biden in een kwaad daglicht te stellen. ("Zie je wel, die viezerik doet het weer!")*
2. Daardoor de verkiezingen te beïnvloeden. ("Ik stem niet op viezeriken!")

Dat zijn 2 redenen om dit niet te willen.

*Dit staat niet op zichzelf, er is al jaren een reeks van dergelijke insinuaties gaande.

[bzuidgeest]

Op zichzelf lijk je gelijk te hebben met "waar maak je je druk over". Maar jij leeft denk ik niet in Amerika (ik ook gelukkig niet). De Amerikaanse media is niet als die van ons. Het debat of gebrek daaraan is ook niet als hier. Het zijn enorme bubbels, elk kanaal hoort in essentie bij een partij. Dit soort manipulaties kunnen behoorlijk schade aanrichten. Fake news zoals we dat noemen is een echt probleem en vele laten zich er door leiden. Een groep mensen weet precies wat ze stemmen, maar een grote groep weet het niet en volgt de waan van de dag. Die groep is groot genoeg om de verkiezingsuitslag drastisch te veranderen. En als dat is op basis van een leugen.... dan denk ik dat het een issue is. Het gaat hier niet om een verschil van interpretatie of zo, maar rechtstreekse manipulatie door beeldmateriaal.

En ja, er reageren nog steeds mensen op mailtjes waar een erfenis van een verloren oom of prins word beloofd. In dat geval schaden ze alleen zichzelf. Met verkiezingen ligt het gevolg wel op een ander niveau.

[Reactie gewijzigd door bzuidgeest op 23 juli 2024 12:59]

[herpiederpienow]

Ik denk dat dit, zeker met de opkomst van AI een kansloos gevecht is die nooit gewonnen kan worden. Het gemak waarmee mensen eventueel met behulp van AI op het verkeerde been gezet kunnen worden wordt op termijn zo goedkoop, snel en gemakkelijk dat we er denk ik beter aan doen om mensen aan te leren dat alles wat ze zien op dergelijke kanalen als Facebook en Instagram nep kan zijn. Laten we wel wezen, een aanzienlijk percentage is dat al.

Dergelijke kanalen zijn gewoon niet betrouwbaar genoeg om je beeldvorming vanaf te laten hangen. Als mensen bewust zijn van wat mogelijk is, dan zullen ze minder snel nep content (noem het even zo voor het gemak) voor echt aanzien, dus start een grootschalige informatiecampagne, introduceer desnoods een toets voordat men het internet op mag. Ik noem maar wat, maar laat het niet over aan een oversight board die gefinancierd wordt door een commercieel bedrijf met commerciële belangen.

[bzuidgeest]

Mensen zijn en worden zich nauwelijks bewust van wat mogelijk is. Dergelijke kanalen vormen voor veel mensen hun mening.
Grootschalige informatie campagnes zijn er gewoon. Een internetrijbewijs is helaas geen haalbare kaart.
En hoeveel aandacht is er niet aan erfenis scams gegeven en whatapp gedoe? En nog steeds gebeurd het.

[herpiederpienow]

Ik kan maar één conclusie trekken en dat is blijkbaar niet genoeg. Zelf zou ik het op een andere manier oplossen. Ik zou voor invoering van een toetsing zijn alvorens men mag stemmen. We hebben een leeftijdsgrens, maar wat mij betreft mag er ook een IQ grens worden ingevoerd en dus een toetsing om te zien of iemand wel goed genoeg geïnformeerd is.

[bzuidgeest]

maar wat mij betreft mag er ook een IQ grens worden ingevoerd en dus een toetsing om te zien of iemand wel goed genoeg geïnformeerd is.

Dat is vaker besproken, maar het heeft zo veel problemen dat het niet te doen is. Het zou in principe een "upper" class maken. IQ is te vaag voor woorden. En mensen scoren verschillend op verschillende IQ testen. Het is een maatgeving van niets. Toetsing op geinformeerdheid? Volgens wie zijn standaard. Als de regering dat mag bepalen dan betekend geïnformeerd zijn, weten wat de regering wil dat je weet. Als wetenschappers dat bepalen is een doctoraat nodig voor stemmen.
Persoonlijk zie ik meer in alleen mensen laten stemmen die bijdragen aan de maatschappij. Dat kan door vrijwilliger zijn of door werken en belasting betalen. Maar ook dat heeft zijn issues.