Facebook verbiedt bepaalde soorten deepfakevideo's op netwerk

Facebook bant deepfakes van het sociale netwerk. Computergegenereerde video's mogen straks niet meer verspreid worden. Wat er precies onder deepfakes wordt verstaan kan echter breed worden opgevat.

Facebook bevestigt de ban in een blogpost, nadat de Washington Post daar eerder over berichtte. In de blogpost schrijft Facebook hoe de ban eruit komt te zien en welke soorten video's daaronder vallen. Er zijn twee specifieke eisen waardoor een video als 'deepfake' wordt aangemerkt. Dat gebeurt als de video 'is bewerkt - buiten aanpassingen voor verduidelijking of kwaliteit - op een manier die niet direct duidelijk is voor de gemiddelde persoon, en die een persoon kan misleiden om te denken dat iemand op een video iets zegt dat niet daadwerkelijk gezegd is'. Een andere eis is dat een video 'gemaakt is door kunstmatige intelligentie of machine learning die content in een video samenvoegt, vervangt of toevoegt zodat het authentiek lijkt'. Facebook zegt dat parodieën en satire niet onder de regels vallen. Ook video's waarvan alleen de volgorde van woorden is veranderd is volgens het bedrijf geen deepfake die moet worden verwijderd.

Video's die zijn bewerkt mogen dus nog wel voorkomen op het platform. Op die manier valt de controversiële video over de Amerikaanse Congres-voorzitter Nancy Pelosi niet onder de regels. Vorig jaar ging een bewerkte video veelvuldig rond, waarin de politicus dronken of verward leek te zijn. Later bleek dat het om een video ging waarin het geluid bewust was vertraagd. Facebook kreeg veel kritiek omdat het de video liet staan. Facebook ligt ook al langer onder vuur omdat het geen bewust beleid had voor deepfakevideo's, terwijl die mogelijk worden ingezet in aanloop naar de Amerikaanse presidentsverkiezingen later dit jaar. Ook ging vorige week een video rond waarin een speech van presidentskandidaat Joe Biden was bewerkt waardoor hij racistische dingen leek te zeggen. Ook zulke video's vallen niet onder het nieuwe beleid van Facebook.

Facebook zegt dat het voor het nieuwe beleid veel wil samenwerken met onder andere experts. Het bedrijf zou met meer dan vijftig experts hebben gesproken op het gebied van beleid, media en de wet. Ook is het bedrijf een samenwerking gestart met persbureau Reuters waarbij journalisten wereldwijd trainingen kunnen volgen om deepfakes en gemanipuleerde media te herkennen. Die samenwerking staat volgens Facebook los van het huidige beleid.

Reacties (78)

Weer zo’n actie van Facebook waarbij je denkt: we doen iets zodat het lijkt alsof we onze verantwoordelijkheid nemen terwijl we eigenlijk vrijwel niets doen en zeker niet genoeg om smerige praktijken zoals die Pelosi video tegen te gaan. Waardeloze club.

En wat is de volgende stap? Clips waarbij de context is weggelaten zodat een uitspraak een hele andere lading krijgt? Censuur; Hellend vlak.. altijd fout

Censuur is het tegenhouden van informatie. Blijkbaar is censuur toch nodig want we kunnen niet niet omgaan met een censuur vrije wereld. Kijk maar naar alle leugens en hoeveel impact dat heeft.

Gebeurde ook in de 2e wereld oorlog, waarbij bepaalde bevolkingsgroepen werden opgejut tegen anderen, ook gebaseerd op leugens. Of in India/Pakistan, waar mensen worden gelyncht wegens verkeerde informatie/leugens verspreidt via FB/WhatsApp. Of wat denk je van IS die leugens de wereld in slingert en mensen (verkeerd) beïnvloedt en ronselt via het wereld wijde web. Dus zodra wij als mensheid op een gelijke manier om kunnen gaan met informatie, dan kan censuur de deur uit. En dat zal nooit kunnen en censuur zal altijd blijven.

[Reactie gewijzigd door Praetextatus op 7 januari 2020 11:02]

En wie bepaald wat wel en geen leugens zijn?

Los van het feit dat dat een andere discussie is, er was een tijd journalisten geacht waren om neutraal te zijn en niet te beïnvloeden. Wat mij betreft hebben ze deze verantwoordelijk nog steeds, maar ik weet dat dit een druppel op een gloeiende plaat is.

Ik vertrouw journalisten. Niet de individuen maar wel het collectief. Het is voor ons als Europeaan eenvoudig te zien dat als je alleen maar Fox kijkt je nooit achter de waarheid zal komen. Maar als je in Nederland alleen maar de correspondent leest krijg je ook nooit een goed beeld. Dus consumeert een verstandig mens nieuws uit meerdere bronnen. Daarom ben ik zo blij met het door velen verguisde Nederlandse Publieke Omroepbestel. Een nieuwe pro-Baudetomroep? Kom maar door: zolang er genoeg alternatieven zijn kan dat alleen maar tot een beter wereldbeeld leiden.

Al je nieuws via Facebook vernemen? Wat Facebook ook doet, wat onze overheid ook verplicht: je zult nooit een goed geïnformeerd mens worden. Dat medium is bedoeld voor foto’s van je eten en katteplaatjes. Als je verwacht de waarheid daartussen te vinden heb je hulp nodig.

Maar ligt dit aan de journalisten als individu, of de bewegingsvrijheid / budgetten die ze nog ter beschikking hebben tegenwoordig?

Alleen al hier op Tweakers zie je de spagaat waar redacteuren in zitten met regelmaat. Voor journalisten is dat niet anders, zeker niet wanneer ze een beetje zekerheid in hun broodwinning willen hebben.

Het is jammer dat er personen zijn die veel baat hebben bij het verspreiden van "misinformatie". Voor fiancieeel gewin, status of macht, het maakt niet uit. Zolang er mensen zijn die er (blind) intrappen blijft dit een probleem.

Overigens van alle tijden, niet enkel nu. Maar nu krijgen we vele malen meer informatie te verwerken dan 10-tallen en zeker 100-en jaren geleden.

En wie bepaald wat wel en geen leugens zijn?

Precies, niemand is onpartijdig, iedereen leunt naar een kant toe, nee het hoort gewoon te wezen als de U.S. First Constitutional Amendment, en laat de U.S. Constitutional Amendments nou een ding wezen wat Amerika wel het beste heeft van alle landen.

Congress shall make no law respecting an establishment of religion, or prohibiting the free exercise thereof; or abridging the freedom of speech, or of the press; or the right of the people peaceably to assemble, and to petition the Government for a redress of grievances.

Alleen als je mensen bedrijgt met geweld of moord of andere daar op aan dringt is het pas strafbaar, censuur is NOOIT goed.

Er is momenteel iemand aan de macht die weliswaar geen wet maakt die de pers tegenwerkt, maar vanuit zijn functie het de pers zo lastig maakt dat je zou kunnen zeggen dat hij de persvrijheid aan banden legt. een van zijn favoriete kanalen is net..... social media, waar hij vrijuit en ongebreideld leugens, halve waarheden en alternatieve feiten richting zijn miljoenen fans kan sturen, die het klakkeloos geloven, overnemen en er naar handelen...

Ik vind dat je 100% gelijk hebt, en ik vind het recht op vrije mening en andere vrijheden een van de belangrijkste zaken die er zijn. Wat heel wat mensen echter (bewust) lijken te vergeten is dat vrijheden ook verantwoordelijkheden meebrengt.

Ik heb geen oplossing, dat besef ik, die bestaat misschien zelfs helemaal niet, maar ik vind wel dat geweld meer is dan fysiek geweld alleen. Een deep fake video die schade toebrengt aan iemand anders is wat mij betreft ook geweld, en daar mag best wat aan gedaan worden, bij voorkeur preventief...

Jij bent kritisch, ik ben dat ook. Wij hebben geleerd kritisch te denken, maar heel veel mensen slikken alles wat er gezegd wordt zeker als het binnen hun bubbel continue herhaald wordt. Zo wordt de leugen waarvan jij zegt "En nou en als de video niet waar is" opeens de waarheid naar waar heel wat mensen gaan handelen... In die context vraag ik me af als je alles zomaar kan zeggen, opnieuw wat zijn de gevolgen van de woorden.

Bij wijze van voorbeeld: Als ik zeg "Brussel is een hellhole" dan:
Heb ik als social media niemendalletje geen enkele impact op gelijk wie, en dan zal er hoogstens 1 iemand reageren, dan nog kan ik argumenteren; ik was er deze morgen nog en het was er vuil, en ik had een onveilig gevoel en bla bla bla
Als trump dat zegt (die er op het moment van zijn uitspraak jaren niet geweest was) dan heeft dat een keiharde impact op + 1 miljoen mensen die daar wonen, op veel van zijn miljoenen volgers die de uitspaak klakkeloos overnemen en dus Brussel links laten liggen...

Impact, gevolgen....

Wat betreft de media in de VS die "links" zou zijn. Ik denk dat het wel meevalt, als ik een Amerikaanse krant lees (NYT, of Washington Post) dan valt het me op dat waneer ik door mijn Europese bril kijk er behoorlijk kritisch gedacht wordt. Het is helemaal niet zo dat trump continue afgebroken wordt. Over TV kan ik niets zeggen, ik kijk geen Amerikaanse zenders.

Feiten zijn onpartijdig. Wetenschappelijke consensus is onpartijdig. De rechterlijke macht is onpartijdig. Wetenschappers en rechters oefenen hun vak uit vanuit een beroepsethiek waarbij het eigen belang terzijde wordt gelegd. Dat is de basis van hun vak.

Valse informatie is strikt genomen ook informatie, alleen dan wel van maatschappelijk onwenselijke aard. Als valse informatie gebruikt wordt om mensen voor te liegen, te bedriegen, oneigenlijk macht en/of rijkdom te vergaren, of andere mensen, organisaties, groeperingen of landen nadelig te behandelen, dan is dat onrechtmatig. En moet die valse informatie dus worden verwijderd.

De feiten bepalen daarbij wat wel en geen leugens zijn. Een filmpje dat gemanipuleerd is waardoor de persoon erop onder de invloed van drank lijkt te zijn is bewijsbaar een leugen.

Nepnieuws heet nepnieuws omdat de feiten aantonen dat het niet waar is. Dus nepnieuws moet worden verwijderd. Dat is geen censuur, dat is rechtzetten wat aantoonbaar fout is.

Of in India/Pakistan, waar mensen worden gelyncht wegens verkeerde informatie/leugens verspreidt via FB/WhatsApp.

Als we nou gewoon lynchpartijen verbieden...

Net zo effectief als leugens verbieden...

En daar heb je helemaal gelijk in helaas. Heel veel mensen hebben eigen motieven of belangen bij allerlei zaken. Zoals de klimaathoax zoals je aangeeft of oliemaatschappijen, Facebook, wapen fabrikanten, de lijst is eindeloos.

En het is ook een uphill battle om deze reden. Mensen zullen altijd liegen voor eigen gewin. Trump heeft 't wat makkelijker en acceptabel gemaakt om dit te doen helaas.
Maar gelukkig zullen mensen dit altijd blijven bestrijden.

Je roept iets over het klimaat en de wetenschappers die zich daarmee bezig houden, zonder dat je jezelf daadwerkelijk in verdiept hebt. Of je baseert je daarbij op uiterst twijfelachtige bronnen.

De wetenschappelijke concensus over het klimaat is bijzonder groot. Dat er dan ook serieuze wetenschappers zijn die onderdelen van de huidig geaccepteerde theorieën (en dat zijn er veel want klimaat op wereldschaal is bijzonder complex) trachten te weerleggen is niet het bewijs dat er een klimaathoax is, maar dat de wetenschap als geheel werkt: iedere theorie wordt bestreden om de kennis voort te laten schrijden (zie ook: falsificatie).

De werkelijke klimaathoax zijn de door olieindustrie of alt-recht/neocon gestuurde zogenaamde 'experts' (vaak ooit wetenschapper maar niet in klimaat gespecialiseerd) die krampachtig tegen de wetenschappelijke consensus in blijven gaan en mensen doen geloven dat de mens geen klimaatverandering veroorzaakt.

In het geval van de klimaatverandering is dat volkomen terecht. Een team van klimaatwetenschappers heeft het onderzocht en vastgesteld dat het al bezig is en wordt veroorzaakt door uitstoot van broeikasgassen. De "specialisten" die iets anders beweren, zijn doorgaans niet eens klimaatspecialisten.

Als al je behandelend artsen zeggen dat je moet stoppen met roken, luister je dan liever naar je kapper die zegt dat het niet nodig is?

Nieuwsmedia die de grofste leugens gewoon drukken en nergens verantwoordelijkheid voor nemen is wel een goed idee?

Doe mij dan maar wat jij censuur noemt.

Het is helemaal geen kwestie van het blokkeren van meningen of informatie (censuur), maar van feitelijke onwaarheden (ook wel bekend als leugens) die kwaadwillenden verspreiden om mensen tegen elkaar op te zetten.

Je kan wel bij alles censuur gaan roepen maar daarmee sla je wat mij betreft de plank compleet mis.

Nieuwsmedia die de grofste leugens gewoon drukken en nergens verantwoordelijkheid voor nemen is wel een goed idee?

Dat is inderdaad een veel groter probleem. Maar hoe ga je dat aanpakken? Misschien een soort controleerbare criteria, waarmee de leugenachtigheid van grote nieuwsorganisaties (NPO, CNN, BBC, Reuters, WaPo, NRC etc) structureel gebenchmarked kan worden. Maar wie gaat die benchmarks publiceren? Zij zelf niet waarschijnlijk..

En de valkuil is propaganda/indoctrinatie.

Veel partijen claimen naar een bepaalde mate van vrijheid te streven,
maar vaak is het zo dat er andere onderliggende motivaties zijn. In geval van Facebook is dat kapitaal, te veel beperking is een gevaar voor hun verdienmodel.


Vrijheid komt met verantwoordelijkheid, de praktijk heeft allang uitgewezen dat velen dat niet kunnen dragen.

Dat doet men heel vaak in de TV entertainment business.
Zoals de teleurgestelde blikken van Xfactor juryleden bij een auditie. Dan lijkt het net alsof ze al teleurgesteld zijn bij het opkomen van de kandidaat.
Daar plakken ze regelmatig dingen aan elkaar om een reactie uit te lokken van de kijker.
ALs je in de zaal zelf zit, dan zie je dat het heel anders is.

Jammer, maar er gebeurt niet heel veel tegen en het is zo reeel als maar kan, al jaren.

De volgende stap zou kunnen zijn dat apparaten die video kunnen opnemen automatisch een stopwatch in de video moeten hardcoden (zichtbaar in de video of onzichtbaar in de stream) zodat het lastiger wordt om deepfakes te maken.

Ze proberen zich te blijven profileren als medium, als tussenpartij, netwerk, onafhankelijk doorgeefluik, maar dat zijn ze al jaren niet meer: ze zijn zelf een partij, met doelen, acties en keuzes. Ze zeggen ook hier weer te willen samenwerken met experts, wat zoveel betekend als: "wij volgen ook alleen maar op wat anderen vinden". Maar ook de keuze van experts en de manier waarop ze die benaderen en behandelen is relevant. Zo stopte NU.nl met factchecken voor Facebook omdat ze zich te beperkt voelden door Facebook

https://www.nu.nl/blog/60...tchecken-op-facebook.html

Inderdaad waardeloze club.

'Ze'? Was het maar 'ze' facebook=Zuckerberg, niet meer niet minder en dat is een feit.
Daarnaast is de narcistisch megalomane Zuckerberg (onder de naam facebook) ervan overtuigd dat hij het internet is. Het is veel meer dan een doorgeefluik, het is een uiterst geavanceerde tool om allerlei (digitale) processen waaronder de publieke opinie te sturen, of dat nu in India, Burundi of Nederland is - de mate waarin verschilt de doelstellingen niet. In veel derde wereld landen is facebook al de enige manier voor een groot deel van de bevolking om op 'internet' te komen, waar het alleen een beperkte keus heeft in de door Zuckerberg gestuurde informatie.

Facebook is overigens allang niet meer het probleem. Het probleem is dat facebook bewust door westerse overheden niet wordt aangepakt (muv symbolische boetes) en dat het niet massaal wordt geboycot door media bedrijven, of dat nu Tweakers (Persgroep) is of de NY Times.

Speaking of NY times: een leeswaardig kritisch interview, en niet van een of andere journalist, maar van facebook's mede-oprichter Chris Hughes
https://www.nytimes.com/2...-facebook-zuckerberg.html

Goed stuk! Bedankt voor het delen.

Ik vraag mij af hoeveel mensen op tweakers Facebook of Instagram gebruiken?

Inmiddels weten alle tweakers wel wat voor een gedrocht het is.

Het is Facebook, Instagram en als je Whatsapp meerekent dat onderdeel van het framework is zal het hoogstwaarschijnlijk om de meerderheid van de Tweakers gaan.

WhatsApp is moeilijker om van af te komen merk ik in mijn persoonlijke omgeving.

Ik gebruik telegram of gewoon SMS met een aantal familieleden en vrienden, maar 90% is toch WhatsApp.

Ik snap het helemaal. Toen ik 2 jaar geleden Whatsapp er af gooide werd ik bijna beschuldigd van asociaal gedrag en dat ik niet meer bereikbaar wilde zijn. Ik heb vele malen het verhaal moeten uitleggen dat ik helemaal geen Zuckerberg spyware meer gebruik en dat ik via Telegram en Signal prima te bereiken ben naast, bellen, sms'en en mailen. Een aantal collega's van mij hebben Signal geinstalleerd, de meesten bellen of SMS'en me nu.

Enige nuance: ze mochten geen politici meer factchecken en verschilden daarin sterk van mening met FB. De vrijheid van meningsuiting betekent niet dat je de vrijheid hebt om onwaarheden te verspreiden aldus nu.nl. Daarnaast werkte nu.nl samen met de universiteit Leiden en die hebben geen factchecker meer en er is geen vervanging voor gekomen.

Dat zegt dus verder niks over het verdere beleid van Facebook of de mening van nu.nl over Facebook.

Ironisch dat uitgerekend nu.nl zoiets zegt.

Maar als ze juist heel streng optreden dan wordt er weer 'censuur!' geroepen.
Hoe wil je bepalen waar de grens ligt?

Als ik een filmpje maak waarin Trump zegt dat hij een atoombom op Teheran gaat gooien is dat dan toelaatbaar omdat het satire is of juist ontoelaatbaar omdat het niet echt is?

Waar zit de satire dan wel? Zodra het filmpje in jou voorbeeld zonder context viraal gaat wordt onnoemlijk veel schade aangericht in de vorm van angst, agressie en haat die er door opgeroepen wordt. Hoe zou jij reageren op een filmpje waarin gezegd wordt door iemand die de beschikking heeft over nukes dat ze jou stad gaan platgooien? Voor ons in Europa die al bijna 75 jaar geen oorlog meer gekend hebben is het misschien nog mogelijk om het weg te redeneren maar in het Midden-Oosten?

De satire is het overdrijven van Trump's vermeende oorlogszuchtigheid, zo dat je denkt 'dat kan toch niet waar zijn' maar toch twijfelt.

En je hebt gelijk, als de deepfake diep genoeg is dan is de kans groot dat het niet meer als satire wordt gezien maar als echt materiaal.

Maar als je dit dan gaat verbieden dan moet je grenzen gaan afbakenen tussen wat toelaatbaar is en wat niet.
Dat moet je dan ofwel aan het begin doen door exacte criteria op te stellen of door het latere rechters individuele gevallen aan een vagere norm te laten toetsen.

Aan de andere kant kun je ook zeggen dat mensen wel zelf het onderscheid kunnen maken maar dat ze dit nog moeten leren. En dat dat sneller gaat als deepfakes meer gebruikt worden.

Ik ben een beetje out of the loop, wat was er aan de hand met de Pelosi video?

Wie heeft er eigenlijk van Facebook politie gemaakt?

Iedereen die klaagt dat Facebook verantwoordelijk is voor wat er op hun platform gebeurt?

dezelfde die van mij politie heeft gemaakt wat er op mijn site gebeurt?

Zij worden geen politie gemaakt, maar omdat nieuws via facebook een ding is, komen daar ook verantwoordelijkheden bij kijken.

Zo is het van belang dat zij filteren wanneer iemand jouw gezicht gebruikt om, bijvoorbeeld in dit geval, een bericht te geven met politieke lading. Gezien veel mensen alles geloven wat er op internet staat (mijn ouders helaas ook) moet er toch een filter op, wat wij vroeger noemde, 'bullshit'.

Mensen zijn te lui om te zoeken om een bericht waar is en/of gezond boeren verstand gebruiken om na te denken of het die persoon het echt zou zeggen/delen.

Facebook zelf. Zeg maar ongeveer hetzelfde als dat ik mijn huis mijn regels bepaal.

Elke site die het mogelijk maakt dat derden iets via de site openbaar maakt heeft de verantwoordelijkheid om ervoor te zorgen dat de posts ook binnen de wettelijke kaders en de "gangbare ethische normen" vallen. Net als de heler bij diefstal (mede)schuldig is aan de misdaad is een site medeverantwoordelijk voor de posts die via de site openbaar gemaakt worden.

Wat Facebook hier voor regel stelt is niet meer den de "gangbare ethische norm". Met andere woorden, lekker vaag.

"Dat gebeurt als de video 'is bewerkt - buiten aanpassingen voor verduidelijking of kwaliteit - op een manier die niet direct duidelijk is voor de gemiddelde persoon, en die een persoon kan misleiden om te denken dat iemand op een video iets zegt dat niet daadwerkelijk gezegd is'."

Ik vraag me echt af wat ze hier bedoelen met gemiddelde persoon. Wie bepaald wat een gemiddelde persoon is? En hoe wordt dit bepaald? En waarom kan deze persoon dit niet zien?

Dat bepalen 'The Cleaners' vrees ik. Kijk de documentaire maar, verschrikkelijk.

Net even de trailer bekeken en ik ga de documentaire zeker bekijken. Misschien dat dit inderdaad een goede beeld geeft wie het bepaald en hoe etc.

Thanks voor de tip.

Dat is het probleem, er moet een zekere vaagheid ingebouwd worden om toekomistge technologien voor te zijn.

Het probleem, een geloofwaardige SF film valt nu ook opeens onder de definitie. Daar zit heel veel CGI in, en dat valt dus onder de definitie, dus bij de volgende WAR OF THE WORLDS hoorspel, zal men deze regel rustig van stal kunnen halen.

Hoewel ik dit aan de ene kant een goede actie vind, namelijk het beperken van misleidende informatie, voelt het ook als symptoombestrijding. Daarnaast is het ook weer een stukje censuur, iets wat goed en kwaad gebruikt kan worden.

Ik denk dat de oplossing meer ligt in mensen zelfstandiger maken op het internet. Daarmee bedoel ik vooral mensen bewust maken van alle (mogelijke) onwaarheden die er zijn te vinden. Als een website zegt dat mijn computer geïnfecteerd is en de site mij een instant 'oplossing' aanbiedt, namelijk: download dit handig programmatje 'echt-geen-virus-hoor.exe', dan weten de meeste mensen dat dit niet helemaal klopt.

Hoewel ik snap dat het een meer jaren project zal zijn, denk ik dat het uiteindelijk meer zoden aan de dijk gaat zetten dan het internet censureren tot crèche waar alleen kindervriendelijke content op staat.

[Reactie gewijzigd door T!mothy op 7 januari 2020 10:40]

"Ik denk dat de oplossing meer ligt in mensen zelfstandiger maken op het internet."

Ik denk dat dit nooit zal werken, omdat dit inherent lijkt aan het algemene verhaal van mensen die geen goede scheiding kunnen maken tussen feiten en onwaarheden, of dit simpelweg niet willen
De mensheid in zn geheel is een vreemd wezen wat dit betreft.
En als er ook nog eens sociale druk bij komt kijken is het al helemaal snel verkeerd.

Hoezo zou aansturen op mensen zelfstandiger maken op het internet niet werken? Er wordt in de praktijk al gewaardschuwd voor bijvoorbeeld phishing, mensen bewust maken van hoe zoiets eruit ziet, dat ze niet alles zo moeten doorklikken, maar kritisch moeten kijken naar een aantal punten. Dat is een stukje zelfstandigheid creeëren. Ik zie niet in hoe dit wezenlijk verschilt met een campagne die zich richt op kritisch nagaan of een video klopt of niet.

Natuurlijk pak je hier niet 100% van de mensen mee, maar dat is ook niet mogelijk. Het lijkt mij wat dat betreft een betere oplossing mensen voor te lichten over het internet dan helemaal niks of censureren.

Ik ben het met je eens dat we het in elk geval moeten proberen om mensen te begeleiden en juist te informeren.

Ik kan je geen plusje geven maar bij deze +

:-)

De mensheid in zn geheel is een vreemd wezen wat dit betreft.

Een deepfake heeft juist ook tot doel om misleidend te zijn. Nogal wiedes dat er dan ook mensen in trappen. Dat maakt de mens nog geen vreemd wezen

Excuses, ik had moeten zeggen "ik vind de mens een vreemd wezen".

En je hebt gelijk over dat deepfakes misleidend moeten zijn.
Maar als je kijkt naar feiten en onwaarheden die wel duidelijk zijn, dan zijn er nog steeds mensen die dat niet duidelijk vinden of het bewust negeren.

Ik denk dat sociale mediaplatforms teveel grip en controle willen hebben op content. Soms zijn de intenties goed, maar het is niet te beheersen vrees ik. Facebook zou meer moeten doen aan voorlichting naar diens gebruikers (hoe herken je Fakenews, besef dat je in een bubble zit, etc) in plaats van alles ondoorzichtig beperken en beïnvloeden met algoritmes of goedbedoelde beslissingen van content-moderators.

"(hoe herken je Fakenews, besef dat je in een bubble zit, etc)"
Dan zijn er nog steeds mensen die voorlichting als nep of misleidend zien.

Zie de vele christenen in de VS die op Trump stemmen. De bijbel is heel duidelijk over mensen als Trump, toch verkiezen ze ervoor om dit voor zichzelf recht te praten.
Trump liegt en bedriegt aan de lopende band.
En zo zijn er natuurlijk heel veel mensen die liegen en bedriegen en er blijven altijd mensen die dat prima vinden.

Voorlichting is nooit waterdicht. Maar het kan wel mitigeren. In minder ontwikkelde landen heeft de Facebook-bubble ontzettend veel narigheid uitgehaald. Als Facebook daar zou zorgen voor enige nuance, of het scholen van zijn leden over hoe het werkt (dat snappen ze daar minder goed dan wij dat doen), had dat vele doden gescheeld. Ik ben daar van overtuigd.

Nee in ons ontwikkeld Nederland zou zo'n massa hysterie van een groep mensen door social media noooooit kunnen gebeuren...

Project X vergeten?

Je superioriteitsgevoel ten opzichte van 'minder ontwikkelde' landen is totaal misplaatst. Hetzelfde gebeurt bij ons ook, de dominante factor voor de verschillen tussen hoe precies is daarbij de welvaart. Die bij ons voor betere wetshandhaving en onderwijs heeft gezorgd. En waarvan overigens - hoe ironisch - een belangrijk deel betaald is door het leegroven van die 'minder ontwikkelde' landen. En de dominante factor voor de overeenkomsten in die narigheid is dat we allemaal mensen zijn.

Dat denk ik ook.
Ik zeg dit ook weleens tegen mensen :
Als morgen de politie wegvalt, dan gaan hele groepen mensen roven en moorden.
En dan hoor ik meer dan eens "nee hier niet, het is hier geen amerika of afrika".
Nou, ik denk dat men bedrogen uitkomt. Er wonen hier zat anarchisten die zich nu gedeist houden, maar snel naar voren kunnen komen als de situatie zich ervoor leent.

Maar...

Als morgen de politie wegvalt, dan gaan hele grote groepen mensen ook niet roven en moorden maar samenwerken en een maatschappij vormen.

Waarom ik dat denk? Nou, simpel, kijk hoe we er nu bij zitten. Dat is ook een resultaat van onze menselijke natuur. Er was ooit geen politie, toch? En die is er wel gekomen. Hoe dan?

Anarchisme is niet de grondtoestand van de menselijke samenleving. Dat is het nergens op deze wereld. En ik denk ook niet dat anarchisme de drijfveer is van mensen die in dystopische situaties aan het plunderen gaan, maar primaire overlevingsdrang.

Er zullen inderdaad groepen zijn die elkaar helpen, maar dat staat los van de groepen die gaan roven en moorden.
Als mensheid hebben we onszelf moeten ontwikkelen tegen anarchisme en geweld e.d.

" Er was ooit geen politie, toch? En die is er wel gekomen. Hoe dan?"
DIe is er gekomen omdat er mensen waren die wilden opstaan tegen de drama's in de wereld.
Deze drama's kunnen snel terugkomen als de politie wegvalt.

Nou... nee. De politie komt voort uit een belang bij ordehandhaving. Dat belang was niet de 'strijders tegen drama's in de wereld'. Maar het belang van gevestigde belangen, machtshebbers, economisch belanghebbenden.

De eerste politieorganisatie ontstond in Egypte, 3000 jaar voor Christus. Die hielden zich bezig met handhaving en belasting innen.

In het oude Griekenland hield de politie zich bezig met gemeentelijk onderhoud en hygiëne in Athene en de haven van Pireau, ordehandhaving op de markt, eerlijke handelsmaten. Er werden slaven ingezet als ordehandhavers. De romeinen gingen daar mee verder.

In de Middeleeuwen werden ambtenaren aangesteld door de edelen, die werden schouten en baljuws genoemd, voor ordehandhaving en opsporing van wetsovertreders. Niet uit opstand tegen drama's in de wereld maar gewoon om hun economische en machtspositie te beschermen. Die is immers niet gebaat bij ordeverstoringen, rellen of godbetert revoluties.

Dus nee. De politie is er niet gekomen omdat er mensen waren die wilden opstaan tegen de drama's in de wereld.

Zelfs de moderne politie vindt zijn oorsprong in kooplieden die de diefstallen in de Londense haven zat waren. Niet in reactie op een dystopische ontworteling van de maatschappij.

[Reactie gewijzigd door JurGor op 9 januari 2020 14:50]

Voor ik t vergeet. Tijdens WW2 hadden we dit ook.
Er waren ineens veel mensen die hun kans roken om vijandig te worden tegen de bevolking, omdat de machthebbers toen hun de kans boden.
De politie mocht niet meer optreden tegen dit soort lieden.

Ik zit daar dan mischien wat anders in.
Refereer je naar o.a. die mob justice in India? Waarbij groepen mensen iemand doodsloegen omdat ze iets gelezen hadden op facebook?
In die gevallen ben ik namelijk overtuigd dat, iemand doodslaan, in alle gevallen fout is en dat daar gewoon een dierlijke lust om bloed aan het werk is.
Dat zie ik in Afrika ook gebeuren, dat zijn vaak gewoon beesten die elke reden aan lijken te grijpen om zoiets te flikken.

Ik heb het mischien mis hoor, maar volgens mij is het vrij logisch dat je het recht niet in eigen handen neemt, ook als er amper politie aanwezig is of dat de arm der wet niet ver genoeg reikt.
Net als stelen van iemand fout is, dat weet je als mens gewoon. Dat mensen daar vervolgens wel aan toegeven is volgens mij gewoon bewust, tenzij je zwakbegaafd bent o.i.d.

Ik geloof niet zo in dat mensen niet weten wat goed of fout is. Als mens dien je gewoon na te denken over je acties, dat vind ik.
Zelfde met mensen die onder invloed van alcohol agressief worden en dan de alcohol de schuld geven. Het zit in iemand, met alcohol kan dit er wellicht uitkomen, maar de persoon zelf is nog steeds agressief.

Onder andere ja. Ik denk dat het een combinatie is van nature en nurture. Maar als groepen mensen constant zichzelf (onbewust) via een bubble voeden met haat denk ik dat dat niet helpt.

Helaas een halfslachtige oplossing van Facebook... Deepfakes zouden of wél, of niet toegestaan moeten zijn.

Nu heeft Facebook weer meer macht in handen. Ze mogen immers beslissen wat satire is en wat niet.

Voor satire is een DEEPfake helemaal niet nodig. Juist dan mag je zien dat een gezicht enigszins klungelig is geplakt. (á-la Jaap Aap in de aninmal crackers van André van Duin, voor wie zich dat nog kan herinneren)
Maar ja 'klungeling' is natuurlijk óók weer een vage grens...

Daarom gewoon een compleet verbod. Dat is duidelijk. Wil je dat niet, sta dan ook álles toe. Dan weet je ten minste zéker dat je Facebook niet kan vertrouwen (voor zover je dat al niet wist)

Daarom gewoon een compleet verbod.

Dan mag Facebook gaan beslissen wat wel en niet fake is en dan ben je net zo ver.
Vooral als fakes echt goed worden.

Fake is fake. Dat is zwart-wit.
Ja, een fake onderscheiden is soms moeilijk, maar dat doet niets af aan de regel.

Wat satire is, dat is voor een groot deel een subjectieve beoordeling. En dat maakt het een grijs gebied waar dus altijd discussie over zal blijven.

Deepfakes zijn waanzinnig goed geworden, kijk dit maar eens https://youtu.be/9NkKj0aNB0s

Facebook is toch geen nieuwsplatform?
Als je iemand vraagt hoe die aan dat 'nieuwtje' komt en diegene antwoord met: facebook,
dan neem je die persoon (ofwel het nieuwtje) toch niet serieus¿

En dan gaat Mark bepalen wat wel en niet mag, neigt meer naar censuur.

En dan hebben ze het over de "gemiddelde persoon" , ofwel wie valt er lager uit dan iq-tje 80 en heeft daardoor niet in de gaten dat tie voor de gek gehouden ?
Zowieso zie ik iedereen die gebruik maakt van fb een beetje simpel danwel naief, wetende dat het verdienmodel is om jouw privacy/data door te verkopen en daarmee vrede te hebben.

"Zowieso zie ik iedereen die gebruik maakt van fb een beetje simpel danwel naief, "
Dat lijkt me te kort door de bocht.
Er zijn er genoeg die fb alleen gebruiken voor enkele dingen en daarbij prima bewust zijn van de situatie met gegevensdeling.
Dus niet naief, maar bewust.

Ik blijf mij af en toe verbazen over hoe vlug mensen overtuigd kunnen zijn van stellingen die duidelijk teveel onzin bevatten.

Ik heb zelf geen facebook en ook nooit behoefte aan gehad, maar van wat ik hoor lijkt het mij voornamelijk een advertentie blaadje waar je ingetrokken word door allerlei likes en spelletjes.

Toen ik een jaar of 13-14 was ik bij mijn oma logeren en nam ik mijn gamecube mee.
ik zat voor/onder de televisie fifa te spelen en nadat de wedstrijd ten einde kwam hoorde ik mijn oma achter me opstaan en zeggen '' ik wist niet dat nederland vandaag al zo vroeg zouden spelen '' en ze pakte de tv gids.

Wat ik hiermee wil zeggen is dat voornamelijk al het ''facebook volk'' ''mensen'' ook al zonder de deepfake video's moeilijk onderscheid kunnen maken tussen echt en onzin laat staan de deepfake video's.

Ik blijf mij af en toe verbazen over hoe vlug mensen overtuigd kunnen zijn van stellingen die duidelijk teveel onzin bevatten. Ik heb zelf geen facebook en ook nooit behoefte aan gehad, maar van wat ik hoor lijkt het mij voornamelijk een advertentie blaadje waar je ingetrokken word door allerlei likes en spelletjes.

Ik blijf me verbazen hoe enorm naief sommigen kunnen zijn (in relatie tot facebook.)
Of het moet sarcasme zijn wat ik niet herken (daar hoop ik dan ook voor u een beetje op.)

Er is geen bedrijf dat met zoveel hoorzittingen, schandalen en boetes (wegkomt) als facebook, dat moet toch wel wat signalen geven mag ik hopen?

Wat ik hiermee wil zeggen is dat voornamelijk al het ''facebook volk'' ''mensen'' ook al zonder de deepfake video's moeilijk onderscheid kunnen maken tussen echt en onzin laat staan de deepfake video's.

Er zijn vele duizenden 'waarheidsgetrouwe' media organisaties die gebruik maken van facebook, kijk alleen al maar naar de Persgroep.

Belangrijk is om een onderscheid te kunnen maken wat er op facebook staat (idd een helehoop onzin, al dan niet deepfake) en wat facebook is. En facebook is om uw woorden even te gebruiken vele malen meer dan een onschuldig digitaal advertentieblaadje. Het is een sturingsmiddel, op allerlei gebieden en niveaus. Als u de media de afgelopen 4 jaar enigszins hebt gevolgd moet dat allang duidelijk zijn.

Tja het word ook af en toe erg onduidelijk of iets een deepfake is of niet.

Corridor Digital heeft een aantal video's gemaakt waarin ze bepaalde acteurs faken, met behulp van mensen die erg goed zijn in iemand na doen en een deepfake van hun gezicht.

Dan word het natuurlijk wel even een vraagstuk of dat zo maar moet kunnen, identiteitsdiefstal krijgt zo wel een compleet nieuwe betekenis. Sure ze zeggen wel dat het een fake is maar niet alle video's beginnen daar mee of maken dat duidelijk in de titel of thumbnail (het tegenovergestelde is waar), waardoor ze dus iemand anders gebruiken om mensen naar hun videos te trekken.

Nu is de kwaliteit van een deepfake nog afhankelijk van de tijd en resources die je hebt, maar met een weekendje trainen kom je een heel eind.

Als computer gegenereerde video's niet meer mogen, hoe zit het dan met de tegenwoordige tekenfilm? Zoals de films die met Blender worden gemaakt? https://www.blender.org/download/demo-files/

"Als computer gegenereerde video's niet meer mogen".

Dat staat nergens. Het is voor de kwaliteit van de reacties misschien prettig om het bericht eerst te lezen, want je slaat echt een compleet verkeerde richting in