'Europese Commissie sommeert techbedrijven harder op te treden tegen deepfakes'

De Europese Commissie gaat een gedragscode voor grote techbedrijven aanscherpen om te zorgen dat deze maatregelen nemen om deepfakebeelden en nep-accounts aan te pakken. Na ondertekening krijgen de bedrijven zes maanden de tijd om maatregelen te nemen.

De Europese Commissie publiceert de bijgewerkte gedragscode om desinformatie te bestrijden donderdag, meldt Reuters, dat inzage kreeg in documenten hierover. De gedragscode is in 2018 van kracht geworden, maar na de aanscherping van de Europese Commissie zou het om zogenoemde co-regulering gaan, waarbij autoriteiten en ondertekenaars meer verantwoordelijkheden nemen voor de naleving.

De gewijzigde tekst stelt onder andere dat ondertekenaars van de gedragscode 'duidelijk beleid aannemen, versterken en implementeren' om manipulatief gedrag van 'kwaadaardige actoren' op hun diensten tegen te gaan. Na ondertekening hebben de bedrijven zoals Twitter, Google en Meta zes maanden de tijd om het beleid en de maatregelen in te voeren. Voldoen ze niet aan de regels dan riskeren ze op basis van de Digital Services Act een boete die kan oplopen tot 6 procent van hun jaarlijkse omzet. De Europese Commissie bereikte in april een akkoord over de Digital Services Act, die onder andere grote techbedrijven verplicht om desinformatie harder aan te pakken.

Reacties (100)

[Destroyer998]

Waarom gaan we niet werken met het signen van videos? Net als emails, websites, VPN verbindingen. Je kunt van alles bewijzen dat het van de bron komt, door het signeren met een certificaat.

[litebyte]

Wie geeft je het recht om die certificaten te mogen gebruiken? Is dat een selecte groep media organisaties (bijv. DPG?) Anders zegt een certificaat niets als iedereen het maar mag gebruiken.

Overigens vind ik persoonlijk een certificaat om media als 'fake' of niet 'fake' aan te duiden een gevaarlijke ontwikkeling, net zo gevaarlijk als deep fake dat om allerlei politieke/criminele redenen misbruikt wordt.

[Destroyer998]

Je hebt nu al oplossingen zoals: https://keybase.io/. In plaats van dat je certificaat door een certificate authority wordt uitgegeven, maak je je eigen 'sleutel'. Het publieke gedeeldte daarvan deel je met de wereld en die kan dan controleren of foto's, videos en bericht met jouw sleutel zijn gesingeerd.

Stel je voor, dat dit systeem automatisch in telefoons en op social media platformen zou werken. Dan kunnen je ouders een foto maken met hun telefoon, waarop ze zijn ingelogd met hun instagram account, om dat vervolgens op alle media er slotje met herkomst te zien te krijgen.

E.e.a hangt natuurlijk af van implementatie, maar dit is m.i. de toekomst. Je kunt dan natuurlijk ook kiezen dit niet te signen, maar dan krijg je ook een bijvoorbeeld een waarschuwing zoals je die nu krijgt bij websites met slechte certificaten.

[reneflo]

Je hebt nog wel een plek nodig waar je die public keys kan vinden, daar zijn certificate authorities vooral voor. Als jij een filmpje krijgt die gesigneerd is door iemand die claimt CNN te zijn moet je op een betrouwbare wijze aan de publieke sleutel van CNN kunnen komen.

[Destroyer998]

We zouden een open standaard kunnen verzinnen waarbij je met een account op een IDP (Zoals: Google, Facebook, Twitter, maar ook open source zoals: Keycloak of dex) die (PGP achtige) key kan koppelen ofzo.

Dan kun je aan het signature zien dat account X van IDP Y de video heeft gesigned.

Maar dan denk ik hard op.

PGP key exchanges zijn natuurlijk al lang een ding, bijv: https://pgp.surfnet.nl/

[Reactie gewijzigd door Destroyer998 op 23 juli 2024 09:37]

[Skit3000]

Die certificaten hoeven niet centraal uitgegeven te worden. Het gaat er niet om dat een certificaat aan geeft wat de waarheid is, maar dat een certificaat aan geeft wat de track record van de maker van een video is. Mediaorganisaties kunnen er voor kiezen hun naam te koppelen aan het certificaat, maar dat hoeft niet.

Kom je bijvoorbeeld een speech van een president tegen en is het ondertekend door CNN, BBC, NOS, etc, dan weet je dat je hen eerder kunt vertrouwen dan wanneer je dezelfde video zien maar dan gedeeld door AnonMan23443. Behalve wanneer AnonMan23443 ook andere videos heeft gedeeld die jij waarheidsgetrouw acht.

Het houdt wel in dat als de NOS een video van CNN deelt, ze een link naar de originele video bij moeten voegen zodat je zélf wederom kunt controleren of je deze bron vertrouwd of niet.

[litebyte]

Kom je bijvoorbeeld een speech van een president tegen en is het ondertekend door CNN, BBC, NOS, etc, dan weet je dat je hen eerder kunt vertrouwen dan wanneer je dezelfde video zien maar dan gedeeld door AnonMan23443. Behalve wanneer AnonMan23443 ook andere videos heeft gedeeld die jij waarheidsgetrouw acht.

Het grote gevaar is nu juist dat ook CNN en BBC grove fouten (feit!) kunnen maken bij hun berichtgevingen, ook bij deepfake. Vaak krijgt CNN de videos viavia van Anonman23443 en is snelheid tegenwoordig alles. Er zijn technieken om te kunnen bepalen dat een video/still 'deepfake' is, maar die kosten ook tijd.

Nu noem je CNN en BBC, maar wat over FoxNews? Of even kijkend naar ons eigen media-wappieland - Ongehoord Nederland? Ga je die dan niet scharen onder de zogenaamde 'waarheidsmedia'?
Snap je de moelijkheid?

[Skit3000]

Als jij Fox of ON vertrouwd dan gaat precies hetzelfde op.

Vaak krijgt CNN de videos viavia van Anonman23443 en is snelheid tegenwoordig alles.

Dit is juist de kern van alles; als CNN vertrouwen wil behouden dan plaatsen ze dus een link naar de originele video met daarbij een bericht dat ze het wel/niet via een onafhankelijke bron hebben geverifieerd. Blijkt het later een nepvideo, dan straalt dat slecht af op CNN en de volgende keer zullen ze dus grondiger onderzoek doen voordat ze weer een video uit onbekende bron gebruiken. Het is een zichzelf versterkend principe.

Als een mediaorganisatie aan de andere hand expres niks factcheckt voordat ze het publiceren, dan kan je ook je vraagtekens zetten bij hun overige berichten.

[Caelestis]

En wat ga je doen als de media zelf het deinformatie maakt?
Zoals CNN dat heeft gedaan mbt Joe Rogan en het paarden ontworming middel?
Hoe gaan we ervoor zorgen dat ze 'bestraft' worden? CNN van de buis gooien?

[Skit3000]

Ik weet niet wat CNN verzonnen moet hebben, maar Joe Rogan zegt zelf dat hij vrijwel zijn hele schoonmaakkastje leeg heeft geroofd en zich daarna beter voelde (als je er op vertrouwd dat niemand Instagram heeft gehackt om zijn post aan te passen).

Maar goed, als je Joe Rogan meer gelooft dan CNN dan nog wil je toch weten dat een video echt van hem af komt en niet gefabriceerd is door CNN?

[Caelestis]

Het gaat niet om geloven. Het was een officieel goedgekeurde medicijn voor mensen, voorgeschreven door een dokter. Het medicijn heeft ook in 2015 een Nobelprijs gewonnen voor het effectiviteit in mensen. Het was toen al meer als een paar miljoen keer wereld wijd toegediend.

CNN heeft dat feit compleet verdraaid om Joe Rogan als wappie te bestempelen. Het medicijn werkt ook op bepaalde dieren waaronder paarden. En juist omdat de dosis voor een paard zo groot is kan het dodelijk zijn voor mensen.
Hiermee hebben zij zelfstandig besloten dat ze het algemene publiek bang moeten maken dat als je de Nobelprijs medicijn in neemt je dood kan gaan.

Er is geen enkel ander bron van dit verhaal geweest dan het immense blunder van CNN. Zelfs de medische specialist dat CNN inhuurt heeft toegegeven op de Joe Rogan podcast dat het een compleet misleidend verhaal was en hij er nooit goedkeuring voor had geven.

Het is tot daar aan toe dat je iemand zwart probeert te maken maar dan ga je ook nog even geheel zelfstandig medisch advies fabriceren??? Rechtstreeks uit de kelder van CNN vandaan.

Het gaat erom dat je het nu hebt over een situatie waarbij je de mainstream media benoemt als doorgeef luik en het reputatie daar aan vast zit.
Je mist echter 1 heel belangrijk bron van desinformatie en dat is de doorgeefluik zelf. Een TV uitzending is heel wat moeilijker te corrigeren met 'desinformatie' blacklists als ze die zelf beheren.

[Skit3000]

Als Joe Rogan heeft gezegd dat hij een (letterlijk) paardenmiddel (ivermectine) heeft genomen dat aantoonbaar niet werkzaam is en kan zijn tegen corona, en dat ook nog eens heeft gemixt met andere dingen die hij in zijn gootsteenkastje had liggen, dan lijkt mij er weinig te corrigeren. Normaal gesproken neem je als je ziek bent een middel dat door een dokter is voorgeschreven en dat specifiek werkzaam is tegen de kwaal waar je last van hebt. Ga je zelf hobbyën en koop je dat middel bij de dierenarts in een verpakking van 120 mg en neem je dat allemaal terwijl een normale dosis van een tablet voor mensen maar 3 mg betreft, dan kan er best gewaarschuwd worden voor de symptomen van overdosering.

Maar goed, dan nog; als CNN direct naar de video van Joe Rogan heeft gelinkt dan kunnen mensen die Joe geloven, zijn kant van het verhaal verder volgen en mensen die CNN geloven, CNN.

[Caelestis]

https://www.nobelprize.or...icine/2015/press-release/

Hier is wat de officieel slimste mensen op aarde vinden van je paardenmiddel.

[Skit3000]

Aaaah, het middel werkt niet tegen corona. Corona is een virus. Ivermectine werkt tegen parasieten, levende organismen, niet tegen virussen.

Er zijn nobelprijzen uitgereikt voor chemische stoffen, natuurkundige ontdekkingen en voor boeken. Helpt het opeten van zo'n boek of het doorgronden van een of andere natuurkundige wet dan ook tegen corona?

Daarnaast; het gebruik van elk geneesmiddel brengt risico's met zich mee. Als je een middel neemt dat je niet nodig hebt kan je er dus per definitie niet beter van worden, maar mogelijk wel slechter. Zeker wanneer je een overdosis neemt.

[Skit3000]

Er staat letterlijk nergens dat het niet tegen virussen kan werken.

Er staat nergens dat een stoeptegel eten niet tegen virussen werkt.

Veel succes met proberen.

[Skit3000]

Nee, ik lees gewoon wat de eigenschappen van ivermectine zijn:

Ivermectine bindt zich bij invertebraten selectief aan de door glutamaat gereguleerde chloride-ionkanalen die zich in de zenuw- en spiercellen bevinden, hierdoor wordt de permeabiliteit van het celmembraan vergroot met als gevolg verlamming en dood van de parasiet.

Bron

De invertebraten is de groep dieren die geen ruggengraat hebben.

Bron

Een virus is geen levend organisme, bestaat niet uit cellen en heeft zeker geen zenuwen of spieren.

[litebyte]

Het 'sources say' gehalte is heel hoog bij zowel CNN als Fox dus dat is mischien niet zo'n goed voorbeeld. Het feit is dat velen ervan uitgaan dat als het bij grote institutionele media org. wordt gebracht het wel de waarheid zou zijn. Maar dit hoeft helemaal niet en ook die passen vaak geen rectificaties toe.

[rbr320]

ook CNN en BBC grove fouten (feit!) kunnen maken bij hun berichtgevingen

Je hebt gelijk dat ook gerenommeerde nieuwskanalen fouten maken, maar hopelijk heb je door dat zoiets beweren en er keihard "feit!" achteraan roepen niets toe voegt. In plaats daarvan zouden enkele bronnen of voorbeelden niet misstaan.

[Quintiemero]

Ik zie menigeen, thats ‘facts’ achter hun zin roepen. Nu wetende dat het zinloos is.

Edit: sorry, flauw.

[Tjidde]

Geen een nieuwsgever maakt geen fouten. Bewust en onbewust. Hier kan je niets aan doen buiten, de organisatie aanspreken en dan kijken of hun reactie overeenkomt met hun acties. Komen ze hun eigen beloftes niet naar? Kan je als persoon beslissen om te zeggen ik vertrouw ze niet meer.

Dan heb ik het nog niet over sublieme mening vorming in extreem veel artikelen. Dit omdat de schrijver hoe neutraal hij/zij ook probeert te zijn 100% lukt dat nooit. Hierbij komt het voor als iemand het er mee eens is iets positievere woorden gebruikt en tegenovergestelde voor negatief. Wat ook kan beslissen of je iemand betrouwd.

Ik zie voor dit probleem maar een oplossing dat is een verplicht watermerk die uniek is per video. (Dit kan een cert zijn). Waarbij in dit watermerk te zien is of deze gekopieerd is van NOS.nl (waarbij dan ook de link naar de NOS video staat) of niet. Het kan ook dat dit watermerk zegt het van whitehouse.gov te zijn.

Met een systeem als SSL certs. Maar dan misschien nog breder. Dat een cert door meerdere bedrijven erkent kan worden. Iets wat met SSL niet kan.

[Reactie gewijzigd door Tjidde op 23 juli 2024 09:37]

[STV]

CCN is toch nauwelijks betrouwbaarder dan FoxNews. Beiden dienen in de eerste plaats een politieke partij, oftewel de helft van het gekleurde spectrum, en niet de waarheid als zodanig.

[Destroyer998]

De bron moet foto's en video's singneren. Niet de distributeurs.

In het geval van een speech van de president, zou het witte huis dus de video moeten signeren. In het geval van een vakantie video van je ouders, je ouders.

[Reactie gewijzigd door Destroyer998 op 23 juli 2024 09:37]

[Skit3000]

Nee, want dan krijg je geen journalistiek maar persberichten. De bron is de persoon/organisatie die verantwoordelijk is voor het originele materiaal. Distributeurs kunnen verwijzen naar deze bron en het is dan aan de consument van de video om te bepalen of deze de bron vertrouwt. Of, de consument vertrouwt deze distributeur genoeg om aan te nemen dat ze dezelfde belangen hebben.

[Destroyer998]

Ik denk dat we hetzelfde proberen te zeggen.

[Skit3000]

Ah, ik ging er van uit dat een speech voor camera's van landelijke nieuwsmedia wordt gegeven, maar jij bedoelde dan waarschijnlijk dat het Witte Huis zelf de video op heeft genomen en daarna verspreid.

Jep, hetzelfde dan inderdaad.

[ariekanari]

Het houdt wel in dat als de NOS een video van CNN deelt, ze een link naar de originele video bij moeten voegen zodat je zélf wederom kunt controleren of je deze bron vertrouwd of niet.

Verwijzen van bron naar bron naar bron. Dat gaat zeker niet gebeuren.
De meeste beelden worden overgenomen van/zijn afkomstig van een buitenlandse newsfeed, deze worden ingekort tot enkele fragmenten en door de buitenlandcorrespondent van dienst voorzien van een korte toelichtende stand-up. Zodat het voor de Nederlandse nieuwsconsument duidelijk is waarover het gaat of hoe een en ander in elkaar steekt.
Er valt weinig te controleren: een newsfeed is per definitie betrouwbaar ook als achteraf blijkty dat er pure onzin of propaganda is verkondigd. Een Nederlandse redactie kan alleen een afweging maken iets wel of niet te gebruiken.

[Reactie gewijzigd door ariekanari op 23 juli 2024 09:37]

[blorf]

Dat is volgens mij ook waar het om draait. "Deepfake" is een buzz-woordje. Ze willen geen individuele vrijheid maar een centrale autoriteit die bepaalt wat waar is.

[litebyte]

Definieer 'Ze'? Er zullen ongetwijfeld 'grapperhaus' achtige types zijn die (online)informatie veel strenger gereguleerd en gestuurd willen zien worden dat hebben ze zelf ook aangegeven.
Werkzaam in de media (voor een org. buiten de EU) heb ik niet het idee dat 'ze' al zoveel invloed hebben dat 'ze' media bepalend zijn. Dat media/politiek (in Nederland) steeds dichter tegen elkaar schuren is wat anders.

[blorf]

De autoriteiten?

[litebyte]

Ik denk dat de meeste autoriteiten begrijpen dat je deze ontwikkeling (puur kijkend naar deepfake) niet kan tegenhouden. Dat alleen strenge regulering (lees mediasturing/mediabepaling en mediabeperking) er in ieder geval tot op zeker hoogte vat op kan krijgen. Dan moet je echt niet willen. Dan gaat het niet alleen om 'deep fake' video's.

[blorf]

Jammer dat ik nooit iemand over computerhardware hoor. Onze dichtgetimmerde besturingsystemen veroorzaken een commercieel gekleurd aanbod van media waarbij niet wordt gekeken naar wat waar is of niet, maar naar wat het meeste publiek trekt.

[litebyte]

Met mijn dichtgetimmerde hardware kan ik alles maken (in mijn geval fotograferen of keuzes maken) wat ik wil. Ik kan het contrast bijvoorbeeld zwaar verhogen, of de kleuren desatureren om het beeld dramatischer te maken, ik kan de foto zo bijsnijden dat je de stenengooiers niet ziet, maar wel de demonstrant die door een agent in elkaar wordt getimmerd. Ik kan een huilend kind tonen tijdens een demonstratie of een relschopper die een raam in trapt t.b.v. beinvloeding. En dit wordt niet alleen toegepast bij de media org. waar ik voor werk, maar bij alle zogenaamde 'waarheidsmedia' naar gelang het beeld dat zij willen geven

Media beinvloeding - dan met name beeld bestaat al zo lang als er beeld bestaat.

[blorf]

Het selecteren en controleren van kanalen maakt dat mogelijk. Dat beinvloeden wordt oneerlijk als het kanaal wat je gebruikt content die je werk tegenspreekt gaat weren omdat jouw foto dan meer opbrengt.

[litebyte]

Het gaat erom dat media manipulatie al op grote schaal wordt toegepast door alle media org. Dat begint al met de foto/video keuze. Nu is het wel zo dat deep fake videos een ander niveau is, maar wie weet kijken we er niet meer van op dat een bekende persoonlijkheid binnen een jaar of 10 een interview geeft terwijl ze dat eigenlijk fysiek helemaal niet heeft gegeven op ee bepaalde locatie of tijd - natuurlijk met zijn/haar toestemming.

[Anoniem: 306567]

Dat is volgens mij ook waar het om draait. "Deepfake" is een buzz-woordje. Ze willen geen individuele vrijheid maar een centrale autoriteit die bepaalt wat waar is.

Echter zorgt fake nieuws voor verdeeldheid in de wereld. Het is belangrijk dat het echte nieuws wordt gedeeld en dan lijkt mij dat zeker een taak voor de overheid om hier iets voor te faciliteren.

[blorf]

Niet zozeer fake nieuws maar de massa mensen die hun mening baseert op iets wat ze zelf niet geontroleerd hebben. In westers gebied is wat bestempeld wordt als fake news voor 99% bron-loos. En de 1% die overblijft vermeldt een valse bron en begaat daarmee een misdrijf.

Hoog tijd dat ze dit in het basisonderwijs gaan opnemen. Voor wie serieus genomen wil worden is het belangrijk om je "bevindingen" ergens op te baseren.Is een Facebook-filmpje jouw nieuws? Vertel maar eens wie de cameraman was... Afgezien van tijdstip en locatie, want dat is er ook nooit.

[Reactie gewijzigd door blorf op 23 juli 2024 09:37]

[Anoniem: 306567]

Je verwacht echter dat nieuws websites en journaal etc. meerdere bronnen controleren. Iets wat een ongehoord Nederland blijkbaar niet doet.

Het is lastig voor een individu om al het nieuws te controleren, daarom mag je er vanuit gaan dat gerenommeerde nieuws websites dit wel doen. Als dit niet zo is dan moet hier een wetgeving voor komen.

Daarnaast baseren veel mensen zich op "nieuws" wat ze op sociaal media hebben gezien en inderdaad zelf niet controleren.

[blorf]

In de invloed van dergelijke clubs geloof ik niet zo. Het heeft een moedwillig karakter. Gewoon blijven hameren op dezelfde leugens en verzinsels, en alles wat op het tegendeel wijst negeren. Ze willen nu onze tijd van "onderdrukking" tijdens de pandemie wreken en politici ter dood veroordelen in een inquisitie-achtig systeem.

[DigitalExorcist]

Maar wees eerlijk: je kunt er niet omheen dat deepfakes wel degelijk het wereldbeeld kunnen verstoren. Het is een instrument waar je, mits goed genoeg gemaakt en uitgevoerd, oorlogen mee kunt beginnen en eindigen. Moet je dát dan willen?

[Reactie gewijzigd door DigitalExorcist op 23 juli 2024 09:37]

[Yoshi]

Zoals de daadwerkelijke deep fake porno videos van mensen om maar iets te zeggen, of die deepfake reclame van BV s en politici. Die gaan best veel rond en daar een framework rond bouwen om dat tegen te gaan lijkt me niet geheel verkeerd.

[Destroyer998]

Wie bedoel je met 'ze' in je reactie?

[bzuidgeest]

Niet zozeer fake of niet fake. Maar echt van obama of niet echt van obama, te onderscheiden omdat zijn certificaat er wel of niet aanhangt.

[litebyte]

Je houdt de creatie van deepfakes er niet mee tegen. Die groep die altijd al een zwakte heeft om ondanks feitelijk bewijs bepaalde zaken niet te geloven zullen dat altijd blijven doen. die zullen het altijd blijven verspreiden.

Dat kun je natuurlijk stoppen door het te gaan verbieden/strafbaar maken of media compleet te reguleren. Maar dat moet je niet willen

[bzuidgeest]

De bedoeling is ook niet tegenhouden, de bedoeling is onderscheid kunnen maken en bron informatie.

De groep die niet aan feitelijk bewijs doet, bestaat geen middel tegen. (anders dan bepaalde oplossingen die voortplanting verhinderen die om allerlei redenen sociaal problematisch zijn om begrijpelijke redenen, maar waar ik soms niet rouwig om zou zijn )

[litebyte]

Nee, dat snap ik. Maar dat is wel de enige mogelijkheid. Ook 'waarheidsmedia' maakt fouten of maakt misbruik door media manipulatie, laat we even in het midden of het 'for a good cause' is. Dat gebeurt nu alleen nog op grote schaal door foto- en video manipulatie van vooral bestaand beeld (dat kan al het bijsnijden zijn of door selectief te knippen etc)

Dat gaan we absoluut ook zien bij 'deepfakes'

[bzuidgeest]

Tuurlijk, maar nietemin weet je wie ergens voor getekend heeft. Worden er dan fakes of creatief edit werk ontdekt in een voorheen vertrouwde bron, dan heeft die bron wat uit te leggen. De claim van wij waren het niet, gaat dan in ieder geval niet meer op.

Ik zeg niet dat het de perfecte oplossing is, maar het is wel iets dat daar aan bij kan dragen.

[Reactie gewijzigd door bzuidgeest op 23 juli 2024 09:37]

[avlt]

Hoe stel je je dat voor? Ik maak een video-opname van een politicus tijdens een bijeenkomst of downloadt die van internet. Wie signeert die dan? Denk je dat een politicus een hem beetje verkeerd gevallen video gaat signeren?

[The Zep Man]

Hoe stel je je dat voor? Ik maak een video-opname van een politicus tijdens een bijeenkomst of downloadt die van internet. Wie signeert die dan?

Jij. Met jouw (bedrijfs)naam. Al onderteken je niet, belandt jouw video (bijvoorbeeld) onderaan de zoekresultaten of weigeren andere sites om jouw video (monetized) te hosten.

Je bent in een dergelijke situatie nog steeds vrij om zelf een site op te zetten om jouw video op te hosten.

[Reactie gewijzigd door The Zep Man op 23 juli 2024 09:37]

[Groningerkoek]

En wie garandeert dat ik geen bewerkte video onderteken? Als we uiteindelijk in de situatie komen dat het verschil tussen echt en nep niet meer door experts te duiden is en ik weet dat de persoon op de video de onjuistheid niet kan aantonen dan kan ik dat rustig doen want wie doet me wat?

[Destroyer998]

Dat garandeerd niemand, je mag ook prima bewerkte video's signeren en posten. Als je die signeert bewijst het enkel dat die bewerkte bij jou vandaan komt. Het gaat er om dat instantie en bedrijven e.d. kunnen aantonen dat de video die op het internet rondgaat echt van hun is.

De controle kan daarna bijv in de browser. Je krijgt dan, net als nu op websites, een groot rood kruis in je gezicht als blijkt dat de video niet controleerbaar is.

[kodak]

En dan de praktijk: Een gesigneerde reportage is net even te lang. Iemand knipt er een kennelijk onbelangrijk stuk af en de ondertekening is stuk. Wat wil je daar dan mee? Dat kijkers constant maar meldingen krijgen dat er iets is aangepast, zonder duidelijkheid wat en hoe dat relevant is? Moet dan iedereen die stukjes van een origineel wil gebruiken samen met de rechthebbende eerst moeite doen om dat nieuwe werk allemaal te controleren en ondertekenen dat het nog genoeg origineel is? Het lijkt niet praktisch.

[bzuidgeest]

Als jij een video van bijvoorbeeld obama ondertekend als van "jou" dan kan deze minder gewicht krijgen dan een met het certificaat van obama zelf eronder. Er komt dan dus een automatische bron controle waarbij een rechtstreekse bron meer waarde krijgt. Mensen kunnen nog steeds jou video zien, maar aan de certificaten lijst en de keten daarachter kan met zien dan "obama" en zijn contentcreators er geen vinger in gehad hebben. Als er dan verschillende versies van dezelfde video zijn, word traceren een stuk makkelijker.

[Destroyer998]

Je moet het helemaal automatiseren. Video's vanaf jouw telefoon worden, als je dit wilt, geresigneerd met jouw persoonlijke public key. De distributie automatiseer je bijvoorbeeld door je google account (of facebook, of apple w/e). Vervolgens post je die video op het internet en kunnen we (browsers, websites, social media) zien dat hij gegarandeerd door jou is gemaakt/gepost. De politicus hoeft het derhalve niet te signeren.

Instanties hebben een eigen sleutel en signeren hun video daarmee. Ik zag eerder een voorbeeld van een Amerikaanse president die een speech geeft. In dat geval zou het witte huis de video signeren.

[lukjah]

Slecht nieuws zal dan nooit worden ondertekend en dan is het wel heel makkelijk om te schreeuwen deepfake! Alleen goede berichten zullen dan ondertekend worden maar daar zul je weinig fakenews vinden.

[Destroyer998]

Niet helemaal juist. Als de NOS een interview afneemt met een politicus, en dat interview mislukt, is het wel degelijk in hun interesse omdat de signen. En daarnaast, als je het groot aanpakt, kun je op deze manier ook bewijzen dat een filmpje van je ouders ook echt van je ouders is. Als je dit bijvoorbeeld automatiseert met hun facebook account of en andere basis van vertrouwen.

[litebyte]

facebook is geen basis van vertrouwen, facebook is een basis voor regulatie - het profileert zich als digitale overheid. Daarom bestaat facebook nog, omdat het die rol heeft (toegeeigend), anders was het na alle schandalen en leugens allang verboden.

[Destroyer998]

Het account dat je ouders daar gebruiken is dat wel. Ik heb het hier niet over de inhoud van facebook, maar enkel het authenticatie middel dat ze hebben. Vergelijk het met de 'log in met facebook' knop.

[litebyte]

Ik snap wat je bedoeld, maar ik ken (gelukkig!) nog maar zeer weinig mensen die facebook actief gebruiken (ken wel heel velen die nog een account hebben), en gelukkig geen directe familieleden, collega's of vrienden.

Facebook zal hoe dan ook die rol willen zien te behouden dus ze zullen met nieuwe 'producten' komen.

[litebyte]

Losstaande van deepfake, dat gebeurd nu natuurlijk al. Informatie wordt nu al op basis van afkomst door zoekmachines/browsers wel/niet getoond.

[GertMenkel]

Zo'n beetje de helft van die video's die ik wijdverspreid zie worden zijn schermopnames van telefoons omdat inhoud vaak niet te downloaden is op veel video-apps (zie maar eens een aflevering van het journaal jaar MP4 te exporteren op je telefoon).

Zo'n certificaat zegt erg weinig zolang niemand checkt of de handtekening klopt.

[Destroyer998]

Dat checken moet je automatiseren. Net zoals je nu een website bezoekt. Als het certificaat niet klopt komt dat in je gezicht naar voren. Zo zou dat met deze signatures ook moeten werken, op schaal.

[bzuidgeest]

Zo'n certificaat zegt erg weinig zolang niemand checkt of de handtekening klopt.

Een pincode helpt weinig als je hem op je bankpas schrijft. Dat mensen iets niet doen, of te laks zijn is geen goede reden om het niet te doen.

[Chrotenise]

Omdat het gros van de videos van een random particulier ergens ter wereld komen en je op geen enkele manier ervoor kan zorgen dat die certificaten niet simpel te rippen zijn, net als wachtwoorden.

[The Zep Man]

Je weet niet hoe web certificaten werken. Ondertekende videos zouden hetzelfde principe kunnen gebruiken. Er valt dan niets te 'rippen'.

[wow7]

Blijkbaar ben je dan al weer De hack bij DigiNotar vergeten die een uitgave van valse SSL-certificaten voor websites wereldwijd misbruikte, veroorzaakt door een man-in-the-middle-aanval bij het Nederlandse ...

Dus leuk als je certificaat gehacked word bij een instantie die jouw data heeft om een videootje te signen.

[The Zep Man]

Blijkbaar ben je dan al weer De hack bij DigiNotar vergeten die een uitgave van valse SSL-certificaten voor websites wereldwijd misbruikte, veroorzaakt door een man-in-the-middle-aanval bij het Nederlandse ...

Dat ben ik niet vergeten. Dat verhaal is irrelevant als je gebruik maakt van certificate pinning en DNS-based Authentication of Named Entities. Je hoeft andere certificaatproviders niet te vertrouwen als aanbieder, mits je je zaken maar goed op orde hebt. Verder verdwijnen dat soort CA's bijzonder snel, zo ook genoemd door de anderen.

[Reactie gewijzigd door The Zep Man op 23 juli 2024 09:37]

[SPee]

Alleen bij Diginotar is er pas na vrij lange tijd achter gekomen dat ze gehackt waren. Als ze geen site van Google hadden ge-mitm'ed of er geen Chrome werd gebruikt (die aan pinning deed), dan waren ze er nog niet achter gekomen. Kortom, een beetje meer voorzichtiger zijn geweest. Wat hackers nu veel beter doen.

En ik zie ook niet hoe je nu certificate pinning kan doen op een video die op het web rondgaat.

[Ed Vertijsment]

Bij Diginotar weden de certificaten ingetrokken waardoor alles dat daarmee was ondertekent niet meer vertrouwd werd, dit werkt dus correct. Om even met video te vergelijken.

Stel een instantie signeert een certificaat van video X, video Y en video Z. Videospeler A,B en C controleren het certificaat, en de gemeenschappelijk gedeelde autoriteit (de instantie die het ondertekende).

Als nu blijkt dat die instantie is gehackt en onterecht een video heeft ondertekend, en dat resulteert in het opzeggen van vertrouwen in die instantie. Dan kunnen de certificaten van X, Y en Z niet meer worden gecontroleerd en kan er automatisch een foutmelding komen in de video spelers.

Inderdaad, in de periode tussen een inbraak en het opzeggen kan er een nep video gepubliceerd worden, maar deze kan daarna vrij snel als onbetrouwbaar worden bestempelt.

[watercoolertje]

Wie gebruikt of vertrouwt certificaten van diginotar nu nog? Niemand...

En ja er is een klein moment geweest dat de boel wel belazerd had kunnen worden, het alternatief is dat je altijd belazerd kan worden

Je argument is tegen maar toont juist aan dat het heel goed werkt met certificaten!

[Reactie gewijzigd door watercoolertje op 23 juli 2024 09:37]

[Chrotenise]

Je vergeet een stukje in de keten.

Iemand maakt video.
<groot gapend gat als de gebruiker video niet zelf ondertekend>
Video wordt ondertekend door derde partij waardoor je weet dat het 'origineel' is.

In dat gat kan van alles met video gedaan worden.

[Reactie gewijzigd door Chrotenise op 23 juli 2024 09:37]

[The Zep Man]

Waarom gaan we niet werken met het signen van videos?

Technisch gezien gebeurt dat al met bijna alle web content. Videos vanaf een eigen (TLS) site kunnen al als 'ondertekend van de bron (zelf)' beschouwd worden.

[Destroyer998]

Dat klopt, maar dat bedoel ik niet. Ik wil een stap verder gaan.

Als je nu een video lokaal opslaat, zit er geen TLS meer tussen. Het zou mooi zijn als er een signature meekomt die bewijst dat iets of iemand die video heeft gesigned. Dat signature kan ik daarna in een 1 of meer publieke databases terugvinden en zo de herkomst vaststellen.

Of, de tool die je gebruikt om die video mee te kijken, kan dat automagisch voor je doen.

[Overheid]

Dit zou in principe al kunnen in een video container als MKV. Naast ondertiteling, box art, de video zelf, audio, en metadata zou je prima een publieke key bij kunnen sluiten in zo'n bestand.
Nu alleen nog videospelers dit laten implementeren.

[Iblies]

voor grote techbedrijven

Dit soort bedrijven vercommercialiseren dergelijke deepfakes en verdienen grof geld aan het hele gedoe er om heen. Zij worden verantwoordelijk voor de rommel op hun platformen en worden daarvoor aansprakelijk gesteld.

[holoduke51]

Hoe ga je dat doen wanneer je video op een streaming server staat die on the fly naar honderden verschillende compressie, formaten, bitrates converteert.
Dat je een origineel signed (per frame) kan ik nog begrijpen. Maar niet voor de normale toepassingen. Is gewoon niet werkbaar.

[Anoniem: 85014]

E-Mails hebben standaard zo geen certificaat en zijn eenvoudig te spoofen. Maar los daarvan wil je dat wetgeving toelaat de rechter een beoordeling te maken op basis van louter intenties i.p.v. technische zaken of middelen. M.a.w. het wapen dat je gebruikt doet er niet toe. Wat je doet doet er toe. En waarom je het deed doet er toe.

Stel bv. dat je intentie is om mensen te belazeren (= wat je doet) met een deep-fake (= welk wapen je gebruikte), maar je voegt een certificaat toe (= je geeft informatie over je wapen). Dus kan je nu tegen de rechter zeggen: ja maar, ik heb een certificaat toegevoegd (= ik vertelde mijn slachtoffer dat ik een kogel zou gebruiken!). Dus ik heb niets illegaal gedaan volgens jouw wetgeving. Toch?M.a.w. mensen hadden maar dat certificaat moeten nakijken (=ze hadden maar moeten weten dat mijn kogel door hun hersenen zou vliegen). Hoewel je goed genoeg weet dat ze dat niet zullen doen want dit is te technisch.

In plaats daarvan wil je wetgeving maken die de intentie om te belazeren op zich al illegaal maakt. Dat er technische middelen zijn, bv. d.m.v. een certificaat, die het belazeren minder waarschijnlijk maken, hoort los te staan van de te maken wetgeving: het belazeren zelf is illegaal. Altijd. Want de intentie om dat te doen is strafbaar.

Dit is beter omdat de wet ook mensen hoort te beschermen die technisch minder bekwaam zijn als wij, wij hier op Tweakers. Wetten horen (in een ideale wereld) alle mensen die intentioneel andere mensen belazeren, allemaal, te straffen. Dat geeft de rechter de mogelijkheid om te straffen. Anders zal de advocaat van de verdediging wel één of ander belachelijk onzin argument vinden (we hebben onze slachtoffers toch verteld dat kogels dodelijk zijn? Waarom gingen ze dan voor ons wapen staan toen we het afvuurden?!).

Dus ook de journalisten die deep-fakes gebruiken om mensen te belazeren. Want ook de doelstelling waarin men mensen belazert hoort niet, op zich, iemand uit te sluiten van een straf te krijgen (van een rechter): doe je dat belazeren voor geldgewin of voor propaganda/ideologie? De straf komt naar U. Je hoort namelijk mensen niet te belazeren. Voor geen enkele reden. De intentie is zelfs een verzwarende (of verlichtende) factor. Want waarom je iets crimineel doet, bepaalt mede de strafmaat.

En wat bepaalt wat er strafbaar is? Wel. De kamer bepaalt dat. De politici. De wetgever. Onze samenleving stemt op die mensen om wetgeving te maken die bepaalde zaken strafbaar maakt. Zoals bijvoorbeeld mensen belazeren strafbaar is.

[Reactie gewijzigd door Anoniem: 85014 op 23 juli 2024 09:37]

[SuperDre]

Alsof signeren uberhaupt iets garandeerd. Een gesigneerde video kan alsnog gewoon pure deepfake zijn.

[T-men]

En welke gebruiker gaat al die certificaten controleren ? Dat zal een enkeling zijn.
Mensen gaan op het internet voor gemak. Anders zouden er veel minder cookiewalls en EULA's ongelezen weggeklikt worden.

Automatiseren is ook onbegonnen werk.

Een heel aanzienlijk deel van de video's worden geschoten door de man in de straat en pas later door grote media verder verspreid. Die kun je niet allemaal als 'onbetrouwbaar' classificeren. De default instelling zal dus zijn dat iedereen betrouwbaar is, tenzij....
Als ik dan kwaadwillend ben en een echte deepfake wil verspreiden, dan is er altijd wel iemand te vinden die niet op de zwarte lijst staat. Die video vindt zijn weg dus wel. mét 'groen vinkje'.

Nee... certificaten zullen in de praktijk een schijnoplossing zijn !

[jdevries189]

Dit kan nog eens leuk worden zodra serieuze deepfakes ingezet gaan worden bij sollicitaties op remote jobs. Dan kan bij wijze van 1 en dezelfde persoon zichzelf meerdere keren laten aannemen en meerdere salarissen opstrijken. Op een gegeven moment word je natuurlijk ontslagen omdat je te weinig oplevert voor het aantal gespeelde personen maar dan ga je simpelweg door naar de volgende werkgever.

Momenteel uiteraard nog redelijk theoretisch gezien het feit dat er behoorlijk wat (fraude) werk bij komt kijken maar tegenwoordig kijk ik nergens meer van op.

[Reactie gewijzigd door jdevries189 op 23 juli 2024 09:37]

[Groningerkoek]

Klinkt leuk, maar het heeft nogal wat voeten in aarde om een volledig vals persoon inclusief Sofi-nr en ID te kunnen creëren.

[LongTimeAgo]

10 VOG aanvragen verder hahaha.

[GertMenkel]

Op zich is het toch juist goed als je anoniem kan solliciteren? Veel banen krijg je als Jan wel en als Mohammed niet, dat is diverse keren onderzocht en telkens blijkt dat er op bepaalde segmenten in de arbeidsmarkt keihard wordt gediscrimineerd. Je kunt anoniem je CV opsturen maar dan wordt je gewoon weggewuifd als de enige die geen naam op een CV zet, en zodra je eenmaal op gesprek mag komen is je anonimiteit meteen weg.

Ik zou het helemaal prima vinden als bedrijven pas nadat ze iemand hebben aangenomen zouden ontdekken hoe die persoon er uitziet en/of heet.

In Nederland moet je een kopie van je ID opsturen om aan de slag te gaan, dat is al een aardige fraudepreventie. Ook is het aannemen van buitenlands personeel niet zo makkelijk dus hier in Nederland (en in grote delen van de EU) verwacht ik niet dat dit zo'n probleem zal zijn.

Ik ben veel banger voor scammers die gaan videobellen namens kennissen van slachtoffers dan dat er op de arbeidsmarkt wordt gefraudeerd.

[SuperDre]

Maar het probleem is wel dat vaak genoeg men ook wil weten of je wel in het team past, en daarvoor heb je weinig aan een CV maar moet je dus echt een goed gesprek op locatie hebben. Ik heb al genoeg mensen gezien die een perfecte CV hadden maar niet aangenomen zijn omdat ze duidelijk niet binnen het team passen.

[Praetextatus]

Het zou mij niet verbazen als tech bedrijven gewoon lobby groepen inzetten om dit actief tegen te blijven werken. En tot nu toe komen ze meestal wel weg met "Oops het was een foutje van het systeem"
Hoop dat ze hier daadwerkelijk wat mee gaan doen

Uiteindelijk willen ze zoveel mogelijk "mensen" op hun platforms hebben en wat controversie door bijvoorbeeld goede deepfakes, trekt zo weer publiciteit en dus ruimte om advertenties te verkopen.

[Reactie gewijzigd door Praetextatus op 23 juli 2024 09:37]

[litebyte]

Er zijn ook positieve toepassingen van 'deep fake' Het kan worden gebruikt om allerlei trauma's te verwerken, kan worden gebruikt bij onderzoek/behandeling van dementie.

[Praetextatus]

Begrijp mij niet verkeerd, je hebt ook helemaal gelijk. Alleen bedrijven zullen altijd de positieve zaken naar voren brengen, want ze moeten hun producten verkopen. De negatieve impact of risico's worden zonder uitzondering dan wel buiten beschouwing gelaten en daar schuilt juist het gevaar.

[litebyte]

Het gevaar schuilter juist in dat onder het excuus 'van' er regulering plaatsvind. Regulering dat grotendeels wordt uitgevoerd door grote commerciele niet-EU bedrijven die hierdoor steeds meer als een soort overheidsdienst gaan optreden, eigenlijk hiertoe worden gedwongen.

[Praetextatus]

Heb je daar voorbeelden van? Als ik een paar voorbeelden mag geven van hoe het nu werkt: Facebook, die eerst graag iedereen wilde verbinden en nu er alles aan doet om mensen op het platform te houden door oa actief systemen hiervoor te bedenken ook al hebben deze een negatieve impact. Zelfde met Instragram.

Kijk hier eens voor meer info als er geen regulering is.
https://www.youtube.com/watch?v=jXf04bhcjbg

[litebyte]

Bepaalde Russische media org. worden niet meer getoond in Google. Google indexeerd geen sites meer die torrents aanbieden of plaatst ze bewust veel lager in de zoekresultaten, Mozilla die sites blokkeerd, losstaande van nat./int. wetgeving.

[oef!]

Normale techbedrijven zullen deepfakes eerder als probleem dan een zegen zien, al was het alleen maar vanwege regelgeving en/of ethische bezwaren (in die bedrijven werken ook normale mensen). Naar verhouding zullen er ook oneindig minder deepfake videos gekeken worden, afgezet tegen niet-deepfake videos.

[LongTimeAgo]

Prima om op te treden tegen deepfakes, nu het maken er van steeds toegankelijker wordt via programma's op meerdere systemen zullen er ook steeds meer verschijnen. Het is bizar makkelijk. Om het perfect er te laten uitzien is daarentegen nog wel een stuk lastiger.

... Maar, zet dit niet een deur open voor heel gelieg en gedraai van (voornamelijk) Politici die dan achteraf gaan claimen "ja dat heb ik nooit gezegd, dat is een deepfake van mij dat circuleert, dus Facebook MOET dit en dit verwijderen."?
Zodoende kunnen ook in de rechtbank dezelfde claims gaan plaatsvinden onder verdachten "ik ben daar nooit geweest, dat is een deepfake van mij van iemand die mij er in wilt luizen."

Hoe juridisch kan je het wel/niet dichttimmeren? Ook wanneer de video wél echt blijkt te zijn en vervolgens alsnog van de Nieuws en (Social) media websites verwijdert worden onder het mom van "mogelijke deepfake"?

Zitten nog heel wat haken en ogen achter dit soort EU sommaties gok ik.

[Groningerkoek]

Op dit moment kunnen experts nog redelijk gemakkelijk het onderscheid vaststellen, als we op een punt komen dat experts dat niet meer kunnen dan zullen videobeelden dienen te komen vervallen als bewijsmiddel tenzij er ondersteunende bewijslast is die de echtheid vaststelt.

[LongTimeAgo]

Er zal dan waarschijnlijk een systeem moeten komen met dat 'door particulieren' opgenomen beelden inderdaad in een andere 'klasse' aan bewijsmateriaal zal worden geplaatst maar dat bijv camerabeelden van publieke camera's en journalisten een soort van certificering in de video format zouden moeten krijgen om echtheid van te kunnen vaststellen gok ik zo. Anders zou ik het alternatief ook niet weten.

[Tjeerd]

Worden nog interessante tijden, want om dit waterdicht te krijgen zul je toch meer en beter de bron van beeldmateriaal moeten kunnen bepalen.

De techniek is nu nog omslachtig voor de meesten om het zomaar even zelf te soen en goed te onderscheiden van nep of echt. Er komt natuurlijk een moment dat iedereen zonder moeite filmpjes kan plaatsen die zo nep als wat zijn, maar moeilijk te onderscheiden van echt.

Dacht dat men er tot nog toe wel in slaagt te onderscheiden mbv slimme algoritmes. Maar als ook dat niet waterdicht meer is; wordt dan bij twijfel bepaald beeldmateriaal niet meer doorgelaten? Wat als dat onterecht is? Ik ben vaak een doemdenker en krijg dan het idee dat het tot steeds meer controle leidt. Aan de ene kant wil je nepmateriaal tot op zekere hoogte niet hebben, aan de andere kant wil je ook weer vrijheid hebben wat er aan nepmateriaal mag worden gemaakt, zolang er geen kwade bedoelingen achter zitten. Heel benieuwd hoe het in de praktijk gaat uitpakken.

[Reactie gewijzigd door Tjeerd op 23 juli 2024 09:37]

[WhatsappHack]

Knettergekke eis zoveel vanuit de EU. Onvoorstelbaar.

[GertMenkel]

De inhoud heeft natuurlijk niet zoveel met deepfakes te maken maar dit is inderdaad wel een lastig punt voor deze wet. Hoe bepaal je onafhankelijk of iemand een klokkenluider, coronawappie, protestvoerder of A-anon-mafketel is?

Dat hele "vaccins zijn giftige microchips voor de 5g-vleermuizen van het elitaire pedofielennetwerk"-gezeik moet natuurlijk ophouden want het brengt kwetsbare mensen van niet al te veel intellect (of geestelijke gezondheidsstoornissen, of mensen die bepaalde dingen gewoon willen geloven) makkelijk in een oneindige cyclus van leugens die levens verpesten, maar de staat die bepaald wat wel of niet waar is klinkt wel erg Russisch.

[Reactie gewijzigd door GertMenkel op 23 juli 2024 09:37]