Twitter begint in maart met aanmerken en eventueel schrappen van deepfakes

Twitter begint op 5 maart met zijn nieuwe beleid rondom deepfakes. Vanaf die datum kunnen 'synthetische en gemanipuleerde media' worden voorzien van een label en eventueel verwijderd.

Twitter zegt dat het berichten met 'bedrieglijk of misleidend aangepaste of gefabriceerde content' gaat markeren. Het label 'manipulated media' met een uitroepteken wordt bijvoorbeeld toegevoegd aan een aangepaste video in iemands tijdlijn. Er kan dan ook worden doorgeklikt om meer contextinformatie over de video te raadplegen, waarbij via externe bronnen wordt getracht aan te tonen dat de video niet echt is. Ook kan er een waarschuwing in beeld komen als een gebruiker een dergelijke video wil delen en kan de zichtbaarheid van de bewuste video verlaagd worden op het platform. In de meeste gevallen worden al deze handelingen toegepast bij de Twitter-berichten die van een label worden voorzien.

Om vast te stellen of een video of foto is gemanipuleerd, wordt niet alleen gekeken naar audiovisuele aanwijzingen, maar ook naar de manier waarop de media worden gedeeld. Daarbij gaat het onder meer om een eventuele bijbehorende tekstuele uitleg, bijvoorbeeld als de uploader stelt dat het zou gaan om een afbeelding die de realiteit weergeeft. Verder wordt er op metadata, informatie op het profiel van de Twitter-gebruiker en eventuele links in het bericht gelet.

Als er een gerede kans bestaat dat bepaalde content een negatieve impact heeft op de publieke veiligheid of ernstige schade kan veroorzaken, worden de media waarschijnlijk verwijderd. Het gaat dan om bedreigingen voor de publieke veiligheid of aan het adres van een specifieke groepering of persoon. Daarnaast is het risico op massaal geweld of onrust in de samenleving een factor, net als pogingen om iemands vrijheid van meningsuiting onder druk te zetten, bijvoorbeeld pogingen om stemmers tijdens verkiezingen te onderdrukken of intimidatie in het algemeen.

Reacties (17)

Artikel begint met aanmerken deepfakes en eventueel verwijderen. Laatste stuk gaat over eventueel verwijderen van content omdat dit ongewenst is op basis van opinie. Bijzonder. In politiek heeft dit een naam.

Who watches the watchers.

Wie bepaald met welke criteria wat "fake" is of "echt". Dit opent inderaad de deur naar censuur. Een slechte zaak in mijn opinie.

En ja, in het artikel staan een aantal criteria. Maar in hoeverre wij er vanuit kunnen gaan dat hier echt objectief naar gekeken wordt. Ik geloof er niet zo in.

[Reactie gewijzigd door cuylfrits op 5 februari 2020 12:02]

Plus het is faalbaar; een goeie deepfake of fake news is immers niet te ontwaren van het echte. Dit gaat vooral om de overduidelijke gevallen.

En natuurlijk zijn hier ook limieten aan; als er per dag miljoenen deepfakes op Twitter gegooid worden kunnen ze het nooit bijhouden.

Maar geeft wel een precedent voor diegene die zich fungeren als de uitvoerende partij: als zij of hun politieke vrienden zich in zwaar water bevinden met videobewijs kunnen zij simpelweg beroepen op dat het een deepfake is. Dit gebeurt al in o.a. China. De uitgevende partij krijgt steeds meer macht over het bepalen welke content echt of nep is en dat geeft deze partijen een machtspositie, dat maakt het ook zeer aantrekkelijk om hier niet geheel eerlijk mee om te gaan.

Maar geeft wel een precedent voor diegene die zich fungeren als de uitvoerende partij: als zij of hun politieke vrienden zich in zwaar water bevinden met videobewijs kunnen zij simpelweg beroepen op dat het een deepfake is. Dit gebeurt al in o.a. China. De uitgevende partij krijgt steeds meer macht over het bepalen welke content echt of nep is en dat geeft deze partijen een machtspositie, dat maakt het ook zeer aantrekkelijk om hier niet geheel eerlijk mee om te gaan.

Precies en dat is nou de grote probleem, daarom vind ik ook dat ALL die bedrijven zich hadden moeten houden aan de First Amendment to the United States Constitution, er is geen betere free speech wet als die, en ook omdat het allemaal Amerikaanse bedrijven zijn, maar nee zal niet gebeuren want dan verliezen ze veel van hun macht.

Censuur is een vanuit overheid opgelegde beperking.
Een commercieel bedrijf mag zelf bepalen wat het plaatst en wat niet.

Aan de ene kant zitten er de nodige ethische bezwaren aan censuur.

Aan de andere kant worden er willens en wetens leugens in de social media geslingerd met het doel het aanzetten tot haat voor bepaalde groepen of het misleiden van kiezers. En dat vind ik nou heel gevaarlijk.

De vrijheid van meningsuiting is een grondrecht. Maar er zijn ook andere grondrechten. En om ervoor te zorgen dat het ene recht het andere niet ongewenst aantast, zijn er dus grenzen aan de vrijheid van meningsuiting.

Onder Nederlands recht zijn de volgende meningsuitingen strafbaar:

• openbare beledigende uitlatingen ­– mondeling of schriftelijk – over groepen mensen vanwege hun ras, godsdienst of levensovertuiging, seksuele gerichtheid of handicap (artikel 137c Sr)
• openbare uitingen die aanzetten tot haat, discriminatie of geweld tegen mensen vanwege hun ras, godsdienst of levensovertuiging, geslacht, seksuele gerichtheid of handicap (artikel 137d Sr),
• het opruien tot geweld (artikel 131 Sr)
• het plegen van strafbare feiten (artikel 132 Sr)
• smaad (artikel 261 Sr)
• laster (artikel 262 Sr) en belediging van een individu (artikel 266 Sr)
• het opzettelijk beledigen van de Koning of verwanten* (artikel 111-113 Sr)

In Nederland is het echter de rechter die hierover beslist. Dat is voor een internationaal opererend internetbedrijf wellicht wat gecompliceerd. Maar een beroepsmogelijkheid bij een onafhankelijke rechter lijkt me wel op zijn plaats als vangnet tegen een te grote inperking op de vrijheid van meningsuiting.

Censuur is een zeer zwaar machtsmiddel dat niet lichtvaardig gebruikt zou moeten worden. Maar naarmate mensen op internet verder polariseren en radicaliseren in hun opvattingen, met name tegen minderheden, wordt censuur steeds onvermijdelijker. Twitter is wat racisme en haatzaaien betreft echt een afvoerputje geworden, waar iedere fatsoensnorm overboord mag.

Neem op vrijdagavond een stevige borrel en een flinke snuif, en knal er een keihard gelogen tweet uit over Marokkanen in de trein. Zo kan het zomaar gaan op twitter. En dat is nog een verdienmodel ook - voor Twitter en de twitteraar.

Maar ook desinformatiecampagnes rond verkiezingen en referenda zijn ondertussen gemeengoed. En de gevolgen zijn ook zichtbaar. Bijzonder kwalijk. Wij willen toch stemmen op basis van feitelijkheden, en niet op basis van leugens en gepor in de onderbuik?

Sociale media zijn aan de ene kant een verrijking en versterking van onze democratie. Nog nooit waren mensen over de hele wereld laagdrempeliger met elkaar in contact. Nog nooit hebben regimes het zo moeilijk gehad om schanddaden buiten beeld te houden.

Aan de andere kant vormt het misbruik van sociale media een bedreiging voor onze samenleving. De uitdaging is om het goede te behouden (en dat zouden die regimes nou juist met censuur willen stoppen) en het kwade te beheersen (en dan heb je toch censuur nodig). En hoe bepalen we dan, nationaal en internationaal, wat 'goed' en 'kwaad' is? Hoe gaan we dan om met liegende politici?

https://nl.wikipedia.org/wiki/Censuur_(informatie)

Het is geen censuur maar een bedrijfsbesluit, een heel andere orde dus.

Gaat dit werken? Valt me juist op dat Twitter op dit moment dezelfde bagger aan 't verspreiden is als Facebook rondom Bitcoins. Jort Kelder komt 4x per dag langs.

De bedoeling is waarschijnlijk dat die valse berichten dusdanig worden aangemerkt zodat mensen ook zien dat het vals is. In plaats van dat ze het bericht zien en daarna niet meer als het verwijderd is, waarbij toch de indruk wordt gewekt dat het eventueel waar was.

Ze moeten gewoon een manuele verificatie gaan invoeren. waarbij ze medewerkers in landen voor de ads inhuren om al die ads te bekijken of ze wel kloppen.

Hierdoor krijg je nooit meer ads die mensen willen oplichten of infecteren met virussus.

Omdat er een manuele verificatie tussen zit, niet achteraf.

{Alleen van geverifieerde pagina's en bedrijven mogen de ads dit omzeilen}

Hierdoor voorkom je al die ads van "bitcoin fraude, dropshippers die alleen uit zijn op oplichting, en overige malefiede advertenties"

Als het puur gaat over het "flaggen" is het een mooie ontwikkeling, maar het eventueel verwijderen is natuurlijk een enorm lastige kwestie. Uiteindelijk ligt de verantwoordelijkheid nog altijd bij de mensen om te verifiëren of iets klopt of niet.

Ik geloof dat YouTube en Twitter het nu heel moeilijk heeft. Je weet nu niet wat echt is en nep. Nieuws media geven hun eigen interpretatie van cijvers die van zichzelf al twijfelachtig zijn. Ook geven sommige media informatie die niet juist is (bijvoorbeeld CNN dat er geen binnenlandse besmetting zijn) is het dan fake nieuws. Ook kan mogelijk fake nieuws wel waar zijn en belangrijke informatie zijn(zoals het mogelijk lekken van de echte getallen), wat handig is als dit kundig ontkracht wordt voordat het verwijdert wordt. Aan dit alles gaat het deepfake algoritme niet helpen denk ik.

Een goede nieuws zender ( anno 2020 uniek) kan nooit nep-nieuws verspreiden.
Vroeger gingen ze erop uit om dingen echt te onderzoeken, tegenwoordig doen ze er weinig moeite voor en of plukken ze het klakkeloos van internet af.

[Reactie gewijzigd door AMDhardware op 5 februari 2020 12:00]

Als het nieuws is uit een onvolledige bron, dan is het natuurlijk geen 'nep-nieuws', maar gewoon nieuws wat onvolledig of gekleurd is.

Nepnieuws zijn nieuwsberichten die duidelijk leugens zijn.

Er wordt gesproken over audiovisuele aanwijzingen. Zou dit betekenen dat bij video's per frame de beelden en audio worden geanalyseerd door een computer? Dit lijkt me een behoorlijke kostenpost.

Dus ik heb jarenlang niet naar de echte kerstspeech van onze koning en koningin zitten kijken?