'Tweede Kamerleden hadden videogesprek met deepfake stafchef Navalny' - update

Nederlandse Tweede Kamerleden hebben van de week een videovergadering gehad via Zoom met de stafchef van de Russische oppositieleider Aleksej Navalny, maar later bleek dat het ging om een deepfake. Dat meldt de Volkskrant.

Het gesprek werd op woensdag gevoerd door de Nederlandse vaste Kamercommissie voor buitenlandse zaken. Wat deze deepfake de Kamercommissie heeft verteld, is niet bekend. Op vrijdagavond kwam de bevestiging dat er met een 'iemand die zich voordeed als Volkov' gesproken is, nadat de Volkskrant eerder die dag de kwestie naar buiten bracht. Wie erachter zit, is niet bekend. De Kamercommissie biedt aan om alsnog een gesprek te voeren met de echte stafchef van Navalny.

De Volkskrant schrijft verder dat Nederland niet als enige slachtoffer is geworden van deze deepfake van stafchef Leonid Volkov. Ook de overheden van Letland, Oekraïne, Estland, Litouwen en het Verenigd Koninkrijk zouden gesprekken hebben gehad op deze manier.

De deepfake vond live plaats. Dat wil zeggen, een persoon die zich voordeed als Volkov zat voor de webcam en in real time werd met behulp van kunstmatige intelligentie het gezicht van de persoon vervangen door het gezicht van de stafchef van Navalny. Met de steeds beter wordende technologie wordt het risico op dit soort decepties steeds groter. Het YouTube-kanaal Ctrl Shift Face heeft veel voorbeelden van deepfakes, maar dan alleen ter vermaak.

Update, Zondag 11:08: De Volkskrant heeft na publicatie van hierboven de gelinkte stukken nog een follow-up gepubliceerd. De strekking daarvan is dat er niet met zekerheid gezegd kan worden of het om een deepfake gaat of een dubbelganger zonder bewegende beelden te zien. De Kamercommissie gebruikt dan ook niet het woord deepfake en doet ook geen zinspeling daartoe. Echter is het wel zo dat Leonid Volkov zelf, de Kamercommissie van de Baltische Staten en de Letse tv-zender LTV tot de conclusie 'deepfake' komen, voegt de krant toe. In ieder geval die laatste twee partijen hebben gesproken met de imitatie-Volkov. De titel van het stuk is hierop aangepast.

Links de echte Volkov, rechts de deepfake - beeld via de Volkskrant 'via Facebook'

Reacties (246)

[TimBC]

Hoe zouden ze hier tegen kunnen optreden? Ik weet dat nvidia bepaalde technologie ontwikkeld om deepfakes te herkennen, maar dat is natuurlijk ook maar een race tussen de deepfake makers en herkenners. Misschien iets van biometrische authenticatie voordat zo'n call tussen politici begint?

[Reactie gewijzigd door TimBC op 22 juli 2024 14:15]

[jobvr]

Voor communicatie met andere mensen is Deepfake niet het probleem. Vroeger was een brief van iemand anders met wax en een zegelring ook geen waterdichte communicatie. Het gaat er om of je het Medium vertrouwd. Geloof jij dat degene die die brief komt brengen echt bij dat andere persoon is geweest, of dat dat telegram echt door die andere verzonden is. Is het mogelijk dat iemand anders dat gedaan heeft.
Bij het opzetten van dit gesprek had iemand ergens moeten checken of dit echt was met het persoon dat ze dachten dat het was er dat de verbinding dus te vertrouwen was. Nu is Deepfake hot, maar als het een chat gesprek was geweest, was niemand verbaasd geweest. We zijn er een tijdje vanuit gegaan dat als we iemand anders zien aan de andere kant dat dat een conformatie was. Dat hadden we bij chatten en bellen al een tijdje achter ns gelaten en moeten we nu ook doen met beeldbellen.

Wat betreft filmpjes die gepost worden is het een ander verhaal. Daarbij is deepfake echt een probleem, want je bent zelf niet in staat het medium te checken en je je weet dus steeds minder zeker, of wat je ziet echt waar is.

[Reactie gewijzigd door jobvr op 22 juli 2024 14:15]

[laptopleon]

Prima dat je het relativeert, maar dat het vroeger niet beter was is een schrale troost.

Wat er nodig is, is een betere manier van identificatie. Dat was altijd al een probleem, zeker op afstand maar nu qua communicatie internet de norm wordt, wordt dat probleem wel een stuk groter.

Want het is nou eenmaal veel lastiger om fysiek 1.000 pinpassen aan te vragen / te vervalsen dan 1.000 pinpassen aan te vragen via internet.

[RoelZ]

Laat dit nou precies een serieus initiatief zijn waar de grote bazen mee bezig zijn

https://contentauthenticity.org/

[Reactie gewijzigd door RoelZ op 22 juli 2024 14:15]

[laptopleon]

cc @Tadsz
Een verbinding of document beveiligen is één ding, maar daar heb je weinig aan als er gewoon iemand anders achter jouw computer gaat zitten, de versleuteling kan breken, of het web of trust kan misleiden. Dat is uiteindelijk ook niet waterdicht.

Ik heb het over identificatie, niet authentificatie. Hoewel er wel raakvlakken zijn is dit iets heel anders.

edit: typo

[Reactie gewijzigd door laptopleon op 22 juli 2024 14:15]

[Raymond Deen]

[sarcasm]
Wat bedoel je met "authentificatie"?
[/sarcasm]

[guapper]

Zitten daar ook achterdeurtjes in?

[rayx]

Natuurlijk, die worden er standaard ingebouwd.

[Dr C]

heb je hier toevallig een bron van, of is dit een aanname?

[rayx]

Er is wereldwijde paniek omdat Huawei dit zou doen:
duckduckgo maar eens op KPN Huawei.
Het Edward Snowden verhaal: PRISM en de NSA,
"Onze" minister Grapperhaus heeft voorgesteld om backdoors in te bouwen om zo criminelen te vangen.

Hackers maken al jaren gebruik van achterdeurtjes en zwakheden in software. Die zijn er per ongeluk in gemaakt of express om zo toegang te hebben.
En ja dat gebeurd ook met opzet. Helaas geeft de AIVD en MIVD hier weinig openheid over.

[Tincahunter]

Klopt en corona is ook verzonnen.

[rayx]

en wat is de samenhang?
off topic.

[Tadsz]

Ook voor dit probleem is al decennia de web of trust system middels PGP

[hrichard]

Live video was juist nog een betrouwbaar medium. Nu ga je iemand in RL moeten ontmoeten wil je zeker zijn. Dus ja, lijkt mij een behoorlijk groot probleem. Bij video was het altijd al mogelijk om zaken te veranderen, het probleem is dat het nu zo ontzettend makkelijk is en dat gaat nog makkelijker en beter worden, dus niet meer van echt te onderscheiden.

Juist een enorm probleem. Snap niet zo goed waarom zo'n opmerking zoveel bijval krijgt, maar zal wel aan mij liggen.

[badflower]

Erg goede punten! Maar is het bij filmpjes die gepost worden echt een probleem? Iets dat van tevoren opgenomen is is nooit echt geweest, het is altijd gemanipuleerd. Foto’s werden vanaf dag 1 in donkere kamers ontwikkeld, waarbij de foto nooit de werkelijkheid was. Hetzelfde geld voor video, met post processing worden we werelden ingezogen in de bios die we ook niet geloven maar er wel echt uit zien..

Het probleem is eerder dat we ineens video en fotos voor waar zijn gaan nemen. We zijn te goedgelovig worden. Wanneer dat gebeurd is is een goede vraag, maar mensen zouden opgeleid moeten worden dat foto en video nooit de werkelijkheid verbeeld maar altijd subjectiviteit in zich heeft en gemanipuleerd is, Bij commercials zijn we erg goed in filteren, en de boodschap sceptisch ontvangen, dus we kunnen het zeker wel.

Eigenlijk zou er bij elke foto op elke media een disclaimer moeten komen: let op deze video representeert niet de werkelijkheid.

[jobvr]

Ik ben bang dat we op deze manier in een erg filosofische discussie terecht gaan komen met de vraag "Wat is de werkelijkheid en wat is er in het verleden gebeurt" Napoleon zei eens "History is the version of past events that people have decided to agree upon." (hoewel hij het waarschijnlijk in het Frans heeft gezegd). Maar dit is wel waar. (ik denk dat hij het gezegd heeft, want ik was er niet bij, dus ik kan het niet controleren :-) )

Maar om het ergen over eens te zijn, moet je de informatie wel delen door tekst/spraak/beeld.
Wat jij zegt is dat het vreemd is dat we foto's en video's voor waar zijn gaan aannemen. Maar natuurlijk geldt hetzelfde voor spraak en geschreven tekst. Maar als dat je uitgangspunt is, is het onmogelijk om informatie over te brengen.

Die disclamer van jou moet bij alles alleen moeten we er bij video nog even aan wennen. ( Ik ben het dus eigenlijk met je eens, en kwam er achter toen ik dit aan het schrijven was)

[Verwijderd]

In dat opzicht kun je zelfs lastig met zekerheid stellen dat de beelden die jij binnenkrijgt/verwerkt authentiek zijn. Hoe weet je dat je ogen daadwerkelijk de wereld oppikken zoals hij is. En hoe weet je zeker dat jij de feed van je eigen ogen ziet.

[DirtyBird]

De essentie van Descartes' werk.

[stefanhendriks]

we weten dat wat het oog op zijn netvlies krijgt (en je retina) *niet* is wat je ziet.

De 'werkelijkheid' is geconstrueerd door de hersenen. En alles is sowiso een paar miliseconden verouderd (latency).

Sterker, er zijn mechanismes in werking wat ervoor zorgt dat jouw ervaring 'in sync' is. M.a.w je "ziet" dat je iets aanraakt en "voelt" dit gelijktijdig. Dit is miliseconden werk maar je hersenen zijn in staat dit als 1 ervaring te construeren.

[Crazy JoJo]

Welcome to the Matrix

[Crazy JoJo]

Interessant, ga ik lezen. Bedankt.

Wat natuurlijk ook nog kan zijn, is het volgende (dit is een hypothese, ik zeg niet dat het waar is):

Stel het lukt ons als mensheid een AI te ontwikkelen, zou je de mens als God kunnen zien van die AI? Als dat zo is, zouden mensen misschien ook 'onwikkeld' zijn door een entiteit? Wordt die (deze) entiteit(en) door (een deel van) de mensheid god genoemd? (ook al zien ze god niet als AI).

En wat als de door ons gecreëerde AI nou ook weer een AI creëert? (enzovoorts). Zijn wij als mensheid gewoon een onderdeel van een herhalend proces?

Is het daarnaast toeval dat er in de Bijbel / Koran / Thora staat god de mens heeft gecreëerd van zand (stof der aarde) en dat wij computerchips maken van zand?

Zoveel vragen..

[Bob de Slager]

Is het daarnaast toeval dat er in de Bijbel / Koran / Thora staat god de mens heeft gecreëerd van zand (stof der aarde) en dat wij computerchips maken van zand?

Is het dan opeens niet meer erg dat mensen eerder uit water zijn gemaakt, dan zand? Of is anderhalf* uit 3 dan goed genoeg?

*: computerchips maak je van silicium.

[Crazy JoJo]

Het is helemaal niet erg dat de mens voornamelijk uit water bestaat, maar daar heb ik ook verder niks over gezegd? Ik benoemde alleen wat er in de bijbel / Koran / Thora staat, ik zeg niet dat dat klopt ofzo

*zand bestaat (deels) uit silicium:

In many parts of the world, silica is the major constituent of sand.

Bron: https://en.wikipedia.org/wiki/Silicon_dioxide

[Bob de Slager]

Ja, zand of stof is een beetje als lucht, er zit van alles in als je het nader bekijkt. Er zijn soorten zand zonder silicium, net zoals er lucht kan zijn zonder zuurstof.

Precies waarom je er geen chips van kan gaan maken. Daar heb je silicium voor nodig, niet zand.

De handel in sillica gaat ruim 5000 jaar terug, een beetje goddelijk geinspireerde schrijver had de mogelijkheid om nauwkeuriger te zijn.

[Verwijderd]

Ik zal heel de onderbouwing en het boek niet verklappen.
Maar blijkbaar is er een deel van de moslim geleerden die deze lezing ondersteunen.
Jij zit in het universum van God, hierdoor kunnen ook opeens alle rare dingen in de oude geschriften.
Mensen die 900 jaar oud worden in het oude testament etc.
Jij bent hier met niemand maar alleen met God, om je te bewijzen aan god. Daar komt het eigenlijk op neer.

[stefanhendriks]

sorry, maar na het lezen van de 1e pagina haa ik al af. Evolutie (door natuurlijke selectie) is lang en breed bewezen. Het hele pseudowetenschappelijke gefilosofeer dat 'de wortels rot zijn' ... klinkt mooi maar ik zou zeggen: breng de bewijzen naar voren, "wetenschap" is juist geinteresseerd in deze gevallen.

[MrFancyPantss]

De schoolboeken zijn gebaseerd op 160 jaar onderzoek en experimenten. Ik vermoed dat jij geen studies evolutionaire biologie hebt gedaan en er bijgevolg dus niet zo veel van afweet. Ga dat eerst doen en probeer daarna de gevestigde wetenschap onderuit te halen. Als je dat kan, wordt jouw visie de gevestigde wetenschap. Maar ja, dan moet je moeite doen en studeren enzo, het is natuurlijk makkelijker om gewoon te denken dat jij gelijk hebt en alle andere duizenden evolutionaire biologen, die écht onderzoek hebben gedaan ipv wat op internet te lezen, ongelijk te geven.

[Verwijderd]

Want biologen en wetenschappers zijn het hier unaniem over eens?
De manier waarop DNA / lichtsnelheid / tijd etc zijn opgebouwd doet meer in de richting van de simulatietheorie bewegen dan het ontstaan via de oerknal en evolutie vanaf bacterieel leven in het water.
Maar je hebt ongetwijfeld gelijk, geen enkele studie weet je verder te vinden, je enige argument is dat je twijfelt aan mijn parate kennis over dit onderwerp.

[MrFancyPantss]

Ik denk dat je te veel naar youtube filmpjes hebt gekeken ipv duizenden papers, zoals échte wetenschappers. het zou je sieren als je gewoon toegaf dat je er zelf nóg minder van weet.

Er is zeker wel een solide basis waar iedereen het over eens is. Dat staat oa in de schoolboeken. Daarnaast is er inderdaad een deel van het vakgebied waar men het nog niet over eens is, de frontier zeg maar. Alleen ligt die al ver voorbij de evolutieleer. Daar is men het écht wel unaniem over eens.

De manier waarop DNA / lichtsnelheid / tijd etc zijn opgebouwd doet meer in de richting van de simulatietheorie bewegen dan het ontstaan via de oerknal en evolutie vanaf bacterieel leven in het water.

Wat je hier zegt is pas BS en heb je vast en zeker uit het een of ander schimmig youtube kanaal met videos van een uur lang en de hele tijd mysterieuze muziek op de achtergrond. Er is totaal geen wetenschappelijke consensus over simulatie theorie, dat is dan weer de frontier, je draait de dingen om.

Oh, en hoe zijn DNA / lichtsnelheid / tijd "opgebouwd"? Wat is dat voor een zin zonder wetenschappelijke basis. Maar jij weet dat zeker, hoe die zijn "opgebouwd"?

[Verwijderd]

Ik kan hier wel op reageren maar je hoort over enkele jaren wel dat de informatie uit je schoolboeken verouderd was en totaal niet aansluit bij de huidige wetenschappelijke kennis en vooruitgang.

[MrFancyPantss]

Je hoort het, maar heb je het ook zelf onderzocht? En hoor je het van gerespecteerde wetenschappers of weeral in die youtube filmpjes waar ik je van verdenk?

[tunnelforce1]

Er zijn letterlijk honderden voorbeelden van missing link fossielen.

Je hebt gewoon je huiswerk niet gedaan, dat is de enige mogelijke conclusie.

[Verwijderd]

Echt waar? Waar zijn die dan? En welke link leggen ze vast? Ik ben zeer benieuwd je hoeft niks uit te leggen stuur gewoon een onder zoek aan enige uni welke dit bewezen acht.

[tunnelforce1]

Het zijn er teveel om op te noemen en er is GIGANTISCH veel onderzoek naar gedaan.

Scroll anders zelf even hier
https://en.wikipedia.org/wiki/List_of_transitional_fossils

[mphilipp]

Het mechanisme van evolutie is zelfs in een labo aangetoond. Organismen passen zich aan aan (nieuwe) situaties en zo ontstaan andere vormen van het organisme in kwestie. De oude kan blijven bestaan, tenzij er concurrentie is met de gemuteerde soort en de niet-gemuteerde soort uitsterft.
Ik ga niet 'jouw werk' doen een bewijzen voor de evolutieleer verzamelen. Voor mij is het afdoende bewezen. Ik vind zelf het 'bewijs' voor een zogenaamde kracht die alles geschapen heeft flinterdun of zelfs niet-bestaand. Het bestaan van een God-figuur zoals in de bijbel/torah/koran genoemd wordt, vind ik hoogst twijfelachtig en tot op de dag van vandaag proberen de zogenaamde schriftgeleerden zich te verzetten tegen de wetenschap en blijven volhouden dat wij allemaal met een vingerknip van een of andere god geschapen zijn.
Ik weiger dergelijke larie te geloven. Eigenlijk is het heel simpel: er zijn iets van 5000 religies op de wereld en allemaal claimen ze de enige echte god(en) te hebben, hoewel sommigen ook elkaar overlappen (christenen/katholieken/joden/moslims en nog een paar 'delen' God) maar uiteindelijk zijn er honderden of misschien wel goden....wil de échte god dan opstaan? Of iets aan zijn mislukte creatie doen? Want als dít de creatie van een opperwezen moet voorstellen, heeft ie een héle slechte dag gehad toen ie dat deed. Hij kan beter opnieuw beginnen, want dat hele idee van vrije wil werkt niet echt goed. En dat had ie kunnen weten, want hij zou alwetend en almachtig moeten zijn. Zolang die gigantische discrepantie in welke religie dan ook niet is opgelost, weiger ik ook alleen maar te beginnen aan iets dat die fantasieverhalen ondersteund en de wetenschap probeert te ontkrachten.
Wetenschap is juist iets dat zich steeds aanpast. Nieuw onderzoek, nieuwe ontdekkingen en nieuwe methoden geven steeds meer inzicht in hoe onze voorouders zich ontwikkeld hebben. Er zal best relevant onderzoek zijn, maar de religieuze fanatici doen net alsof er niets is omdat zij weten dat Jan met de Pet niet zomaar dat soort wetenschappelijk onderzoek kan opzoeken. Je moet de weg een beetje kennen. Ook al bestaat er iets als Google, wil dat niet zeggen dat iedereen dat ook goed kan gebruiken.

Maar goed, we zijn nu voldoende afgedwaald van de topic. Ik laat het hierbij...

[Verwijderd]

Welk onderzoek heeft dat gedaan? Heb je dan gewoon de naam van het onderzoek waarbij ze mutaties hebben gecreëerd die voordeel opleverde in volgende generaties en niet al aanwezig waren in het DNA van bestaande generaties. Zo ver ik weet is dit nog nooit gedaan. Ik ben erg benieuwd naar jou onderzoek waar dit dus wel het geval is.

[Bob de Slager]

Wat een rare eis, dat mutaties compleet nieuw en nuttig moeten zijn voordat jij het als bewijs van evolutie kan zien. Als dat de norm was dan zou dat juist voor goddelijke interventie spreken, niet evolutie via natuurlijke selectie.

[Verwijderd]

Dus je bent er mee eens dat leven gecreëerd is met alle mogelijke opties al aanwezig?
Ik ben zelf überhaupt niet gelovig maar de hele gedachte gang van evolutie zoals nu in de studie boeken staat is ontzettend slecht te combineren met het steeds verdere begrip van DNA en het ontstaan van nieuw leven. Maar blijkbaar is er überhaupt geen ruimte dat te bespreken.
Alle mutaties die we kunnen nabootsen naast het combineren van bestaande elementen in DNA geven problemen zoals misvormingen, en genetische afwijkingen.
De huidige stand van de wetenschap zou nog eerder de simulatie theorie onderschrijven dan evolutie zoals beschreven door Darwin.

[Bob de Slager]

Nog meer claims, zieligdoenerij over bespreekbaarheid (doen homeopaten ook), religie erbij halen, doen alsof Darwin de meetlat is (tip: Darwin is al een tijdje heel erg dood, niemand wist van DNA in zijn tijd en er komen duizenden onderzoeken per jaar uit die raken aan evolutionaire mechanismen).

Enfin, intelligent design is al 2 decennia dood, dus waarom probeer je dat te pushen?

[Verwijderd]

Bedankt voor je inhoudelijke reactie welke bewijst dat ik compleet ongelijk had. Wanneer je mij een onderzoek kunt laten zien welke een progressieve vooruitgang toont welke niet in bestaand dna aanwezig is/was dan ben ik zeer geïnteresseerd. Maar het lijkt me stug want daar bestaat geen peer reviewd study van.

[Bob de Slager]

Een beetje dwaallichten van een religieuze denktank napraten is niet echt reden om meteen maar hun gelijk of ongelijk te gaan bewijzen. Dat is al genoeg gedaan in het verleden, dadelijk denk je nog dat je een respectabel standpunt hebt ingenomen dat een nieuwe discussie waard is.

[mphilipp]

Geen naam, maar ooit een keer gelezen. Bacterieën laten 'wennen' aan een heel andere leefomgeving, waar ze uit ik meen zuur hun voedsel moesten halen, terwijl dat normaal ergens anders vandaan kwam. Ik verwoord het even heel erg simplistisch omdat dat zo'n beetje het enige is dat is blijven hangen. Dus ga niet vanuit deze info verklaren dat het onzin is, want het is mijn verwoording.
Deze bacterie (en de nakomelingen) konden dus voortaan gedijen in een zure omgeving. En ik begreep dat het niet het enige onderzoek is.

Trouwens, heel even koekelen levert in ieder geval een wikipedia artikel op. En laten we dit verder afsluiten, want het gaat hier helemaal niet over evolutie. Dus ik ben er klaar mee. Wie dit verder wil uitzoeken, opent maar een topic op het forum of gaat naar de Universiteit.

[Reactie gewijzigd door mphilipp op 22 juli 2024 14:15]

[Verwijderd]

Ja alleen het probleem is dat al die onder zoeken andersom zijn. Iets dat al bestaat blijft bestaan en de rest niet. Dat is wat anders als het evolutionisme vertelt door bijvoorbeeld Darwin. Het al aanwezig zijn van bepaalde eigenschappen en dna is wat anders dan een één celig organise in de zee dat uit groeit tot een olifant.

[mphilipp]

Goed, aan mij wordt gevraagd om met namen te komen. Kom dan ook met de info waarin die onderzoeken debunked zijn.

[ateazzie]

ik snap dat je die vraag stelt hoor, maar moet ik nu echt met links komen van info die ik lange tijd geleden gelezen/bijgewoond heb? Dat gaat natuurlijk nergens over het is voor mij normale kennis.
Dus omdat het voor mij kennis is die gesupport wordt door vele evolutionaire biologen maar nog niet als algemeen beschouwd wordt (komt wel) is dit -1, lijkt meer op een mening dan wat anders

[Reactie gewijzigd door ateazzie op 22 juli 2024 14:15]

[mphilipp]

Ach...dit is twiekers, ze vragen het aan mij ook...

[Bob de Slager]

hoe die mutaties ontstaan laat ik even in het midden

JEAYSUS mensen, hij dribbelt zo die cel in, knipt met z'n vingers*, en tadaa een spiksplinternieuwe mutatie, niet voorkomend uit bestaand DNA (want zo is hij beperkt door MMX) is daar.

vele evolutionaire biologen

Maar welke dan. En hoeveel daarvan werken voor een politiek actieve denktank betaald uit kerk donaties?

*: Veel moderne theologen van de populaire Christelijke sektes, vermoeden een soberder proces dat na verloop van tijd wellicht zelfs vergaand geautomatiseerd is met AI.

[Jeroen]

De identiteit van een beller kan toch 'gewoon' cryptografisch worden vastgesteld, net zoals bij online inloggen? Wat als bijvoorbeeld tijdens de videocall de beller zou moeten authenticaten met een wachtwoord en een yubikey of ander token dat eerder in persoon (ie vertrouwd) is uitgewisseld?

[kodak]

Dat werkt niet zolang er geen vaste relatie is tussen dat vaststellen wie iemand is en wat iemand doet.
Dus als je niet weet of iemand anders die unieke gegevens heeft, of kan gebruiken, blijf je het probleem hebben dat je weinig tot geen zekerheid hebt.
In dit geval lees ik niet waarom de deep fake werd ingezet, dat kan dus zelfs opzettelijk zijn gedaan met medeweten van de persoon die zich dan had moeten identificeren. Dan is er dus geen zekerheid die extra controle zin had.

Het lijkt dus belangrijk om vanaf het begin dat je een afspraak maakt in iedergeval genoeg vertrouwen te hebben dat met de juiste persoon te doen. Ik lees niet dat dat wel gebeurt is.

[Reactie gewijzigd door kodak op 22 juli 2024 14:15]

[Jeroen]

Maar dan is videobellen op z'n minst weer op het vertrouwensniveau van bijvoorbeeld een cryptografisch ondertekende email of brief. Ik denk dat het een groot verschil kan maken in de bruikbaarheid van videobellen in enigzins gevoelige situaties. Uiteindelijk is iemand in het echt ontmoeten beter, maar dat zal altijd veel langzamer en moeizamer blijven.

[kodak]

Aangezien dat ondertekenen waarschijnlijk nauwelijks waarde heeft tenzij mensen het snappen en willen gebruiken als controle denk ik dat het eerder gaat gebreuren dat mensen op hun eigen manier opletten of ze wel met de juiste personen afspraken maken.

[Jeroen]

Dat is niet het punt. Bij zoiets als de Tweede Kamer heb je hier mensen voor.

[kodak]

Het hele punt is juist dat je stelt dat er meer vertrouwen nodig is. Dan kan je niet zomaar stellen dat er dus maar iets goed geregeld zou zijn door maar wat te beweren. Een online afspraak met een deep-fake als deelnemer komt niet zomaar tot stand. Dan weet je of niet met wie je werkelijk een afspraak hebt gemaakt, of de echte gesprekspartner zijn afspraak is gekaapt of de gesprekspartner doet het bewust. Ik weet niet welke waar is, maar wel dat je niet zomaar iets moet gaan uitsluiten alsof je daardoor spontaan meer vertrouwen hebt. Zomaar stellen dat iemand ergens mensen voor heeft op afspraken te maken wil niet zeggen dat het daarbij hoe dan ook goed gaat.

[smiba]

De identiteit van een beller kan toch 'gewoon' cryptografisch worden vastgesteld

Maar hoe dan ??? Als je in persoon een key exchange hebt gedaan ja, maar zelfs daarna is er geen garantie dat de sleutel niet gestolen word (persoon word gevangen genomen en telefoon word unlocked etc.)

Het geeft de garantie dat je tegen iemand spreekt die de juiste sleutel heeft, maar het garandeert niet dat je spreekt met wie je denkt dat je spreekt. (Al is dit meestal wel aannemelijk)

[_Pussycat_]

Als Rusland jou in elkaar laat meppen en de Yubikey pakt heb je daar weinig aan. Een geheime afspraak over bepaalde woorden die je zegt om de echtheid te bevestigen lijkt me dan iets beter, maar ja, die zal de NL overheid niet hebben.

[Jeroen]

Dat klinkt als de definitie van een wachtwoord.

[_Pussycat_]

Inderdaad Alleen moeilijker geformuleerd.

[amx]

https://www.sciencedaily..../2021/02/210208161927.htm

Voor zover ik weet zijn computers beter in staat om deepfakes te herkennen dan mensen
En ja, wat misbruik van deepfakes betreft wordt dan net als andere cybersecurity dreigingen een kwestie van strijd om nieuwste technologie

[Reactie gewijzigd door amx op 22 juli 2024 14:15]

[JanJaapK]

Het herkennen van deep fakes kan dan toch worden toegepast op de ontwikkeling van nog betere deepfakes tot deze niet meer van echt te onderscheiden zijn?

[amx]

Het beter worden van deepfakes kan dan toch worden toegepast om deze beter te herkennen omdat ze bepaalde eigenschappen erbij hebben gekregen?

De onderliggende angst is dat het buiten onze controle is

Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks. - Stephen Hawking

[HEY_DUDE]

smoke en mirrors. Deepfakes hebben niets met intelligentie te maken zoals Hawking het hier bedoeld. De "intelligentie" zit nog steeds in de persoon die achter de webcam zat om het gesprek überhaupt te kunnen voeren. Het is meer een doorontwikkeling van foto trucage naar photoshop en nu video en audio realtime. Een illusie wat weinig met intelligentie te maken heeft. Het is slechts een middel in de handen van onze eigen (evil) intelligentie.

[amx]

https://en.wikipedia.org/wiki/Turing_test
The Turing test, originally called the imitation game by Alan Turing in 1950,[2] is a test of a machine's ability to exhibit intelligent behaviour equivalent to, or indistinguishable from, that of a human. Turing proposed that a human evaluator would judge natural language conversations between a human and a machine designed to generate human-like responses. The evaluator would be aware that one of the two partners in conversation is a machine, and all participants would be separated from one another. The conversation would be limited to a text-only channel such as a computer keyboard and screen so the result would not depend on the machine's ability to render words as speech.[3] If the evaluator cannot reliably tell the machine from the human, the machine is said to have passed the test

Volgens de Turing test is het een perfect voorbeeld, al snap ik je punt. Mensen creeeren computers naar hun evenbeeld, en verwachten dan ook dat een AI een zelfdenkend evenbeeld is.

[Reactie gewijzigd door amx op 22 juli 2024 14:15]

[Groningerkoek]

Wat hier gebeurd is heeft niets, maar dan ook echt helemaal niets met een Turing test te maken. Het enige wat hier is gebeurd is een filter over het hoofd van iemand anders leggen.

[HEY_DUDE]

De Turing test test intelligentie die niet van mensen te onderscheiden is. De Turing test test niet of een video niet van echt te onderscheiden is. De Turing test is hier volstrekt niet van toepassing. De intelligentie wordt nog steeds door de mens verzorgd.

[amx]

https://fsi.stanford.edu/...pfakes-and-disinformation

https://link.springer.com/article/10.1007/s11023-020-09553-4


Denk je niet dat het je eigen interpretatie is? Als je tijdens een interactie met een computer gelooft dat degene aan de andere kant karakteristieken vertoont die jij als mens herkent als zijnde een andere mens, is het doel toch behaald?

[Groningerkoek]

Je maakt een hele grote denkfout.

Er was hier geen interactie met een computer. Er was hier interactie met een mens. De turingtest zou van toepassing zijn geweest als het een computer was geweest die het gesprek zelfstandig had gevoerd, en dat was dus niet het geval.

[Groningerkoek]

Misschien moeten we je eerst nog even uitleggen wat een Turing Test is, want je begrijpt er tot op heden nog steeds helemaal niets van.

Turing test:

Conversatie tussen een mens en een computer waarbij een ander mens het verschil tussen die twee moet zien te duiden. Lukt dat dan heeft de computer gefaald, lukt dat niet dan is de computer geslaagd.

Of de computer daarvoor intelligentie dient te bezitten kun je inderdaad een discussie over voeren, maar dat is voor onze discussie totaal niet relevant omdat de situatie om te beginnen al niet voldoet aan wat een Turing test is, er is namelijk een conversatie gevoerd tussen mensen.

[tweazer]

De volgende stap is AI, bel je niet meer met iemand, maar met een 'commodore 64' voor E0.01 per uur ipv je advocaat/psychotherapeut/whatever ...

[litebyte]

In veel gevallen bel je/chat je al niet meer met 'levende' personen, maar met bots, waar overigens tal van NL overheidsorg. ook al gebruik van maken. Maar kijk ook eens bijv. naar de ai (verzekerings)rechtspraak die men nu al wil invoeren.

Terugkomend. Geen idee waarom je in hemelsnaam bij een toch wel (geo-)politiek belangrijke/gevoelige persoonlijkheid als Navalri geen uitvoerige check doet m.b.t. gesprek en er bijv. geen communicatie is opgezet met end-to-end encryptie of iig een goede (background)check.

[Reactie gewijzigd door litebyte op 22 juli 2024 14:15]

[tweazer]

Terugkomend. Geen idee waarom je in hemelsnaam bij een toch wel (geo-)politiek belangrijke/gevoelige persoonlijkheid als Navalri geen uitvoerige check doet m.b.t. gesprek en er bijv. geen communicatie is opgezet met end-to-end encryptie of iig een goede (background)check.

Je weet niet wat voor gesprek het is geweest, of het 'e2-e4' is geweest a la koude oorlog, een koekjesrecept uitwisseling, sociaal gesprek, of wargames (overname regering etc). Bij wargames zou een geverifieerde verbinding wel wijsheid zijn ...

[litebyte]

Uitgaande dat het een gesprek is geweest met een afvaardiging vanuit de vaste kamercommissie BuZ lijkt me het eerder een gesprek te zijn geweest over de situatie m.b.t. Navalri zelf (zijn gezondheid/conditie)

[lilmonkey]

Juist. Het idee dat we dit kunnen bevechten is onzin, het is — net als het Coronavirus bijvoorbeeld — iets waar we mee moeten leren leven. Dat betekent dus manieren vinden om de problemen die het met zich meebrengt te mitigeren. Voor het grote publiek betekent dat bewustwording dat beelden die je te zien krijgt niet per se echt hoeven te zijn, hoe echt ze ook lijken. Voor zaken zoals in dit artikel (diplomatie etc.) betekent dat, @TimBC gaf al een voorbeeld, standaard gebruik maken van een vorm van authenticatie die op dat moment betrouwbaar wordt geacht — iets dat bij andere vormen van diplomatieke communicatie natuurlijk ook gewoon standaard is.

[K-aroq]

Ja, net zoals de beste encryptie ook altijd maar tijdelijk de beste encryptie is. Is ook helemaal niets nieuws. Dat principe is er al zolang als dat er mensen zijn. Eerst had je geen sloten, toen had je simpele sloten die even beveiliging boden totdat ze gekraakt konden worden, waardoor de sloten weer verbeterd moesten worden. En dat principe is als duizenden jaren aan de gang.

[SuperDre]

Er zal zeker een punt zijn dat het echt niet meer van echt tevonderscheiden is, puur alleen al vanwege het feit dat het om een video-)audiostream gaat waarbij artifacts in de stream zelf ook nog de detectie beperken. Hoe vaak is een videofeed bij zoom/teams/whatever al niet alsof je naar een zeer lage bitrate stream zit te kijken.

[WillySis]

De meest simpele methode is gewoon een ouderwetse fysieke ontmoeting.
Vroeger besprak men ook geen belangrijke zaken over de telefoon. Er zijn nu een hoop communicatiemiddelen bij gekomen, maar die hebben allemaal het probleem dat je niet 100% zeker kunt zijn van wie er aan de andere kant van de lijn zit(ten) en of er ongenode gasten meeluisteren.

Er zijn wel technisch mogelijkheden die het moeilijker maken om dit soort grappen uit te halen, maar techniek is een voortschrijdend iets en uiteindelijk kan elke methode om fraude te herkennen weer omzeild worden, wat later ook weer ontdekt kan worden enz.

[K-aroq]

Ook met een fysieke ontmoeting kan je dingen faken. Wij kennen elkaar niet maar als ik zeg dat ik X ben en jij wilt X spreken dan hebben we een fysieke ontmoeting en doe ik gewoon alsof ik X ben, terwijl ik eigenlijk Y ben. Afhankelijk van mijn acteerkwaliteiten kan ik jou dan best wel lang om de tuin leiden.

[WillySis]

Het ligt er maar net aan hoe bekend je bent en wat het doel ven de ontmoeting is. Hoe bekender iemand is, des te meer er van het acteertalent gevraagd wordt. Naarmate een ontmoeting belangrijker is (zakelijk of politiek) doet men in het algemeen toch wat meer moeite om een persoon vooraf een beetje te leren kennen. Niet alleen om fraude te voorkomen, maar het praat ook gemakkelijker als je iemand al een beetje kent. Als de ander dan aan het toneelspelen is en met heel andere bedoelingen de ontmoeting ingaat is er toch een vrij grote kans dat er een ongemakkelijk gevoel ontstaat en de ontmoeting niets zal opleveren.

Bij een digitale ontmoeting is er veel gemakkelijk te verdoezelen, zeker als beeld en geluid niet van optimale kwaliteit zijn,

[PV85]

Kunnen we niet elke camera een unieke hardwarematige sleutel geven en die een watermerk laten aanbrengen per frame, wat een combinatie is van die sleutel en een hash van dat frame. De camera sleutels staan in een blockchain en kun je vervolgens koppelen aan jouw account, en wellicht ook op naam laten registreren voor bijvoorbeeld de pers.

Er zullen vast allemaal halen en ogen zitten aan dit idee, maar we moeten met de huidige techniek toch iets kunnen verzinnen.

[Reactie gewijzigd door PV85 op 22 juli 2024 14:15]

[TimBC]

Interessant idee, stopt natuurlijk niet iemand om een laptop te stelen. En dan moet dat wel geverifieerd worden door de andere partij, plus dan moet er wel 1 blockchain zijn die als betrouwbaar gezien wordt. Anders kan ik een account voor iemand maken op de chain die zich voordoet als iemand anders.

[JCD2020]

Er zijn zat simpele dingen om een deepfake te laten falen, een hand langs gezicht halen en druk bewegen. Je kan de vermeende deepfake videocall ook laten floppen door hem even laten wegdraaien van de camera, om zijn as (zittend rondje draaien op bureaustoel) de deepfake kan realtime niet zo goed zijn dat hij direkt strak aangemeten wordt.

[Alex3]

Klopt ja, met een mondkapje voor werkt het al niet meer.

[TimBC]

Op dit moment natuurlijk wel, maar 1. Die protocollen worden (nog) niet gevolgd door politici en 2. Er komt vast een moment dat deepfakes daar geen last meer van hebben.

[Verwijderd]

Of gewoon niet via niet betrouwbare lijnen communiceren.
De oplossing hoeft niet altijd aan de technische kant te zitten.

[dasiro]

inderdaad, vroeger waren er vertrouwde boodschappers, dedicated telefoonlijnen of encrypted phones, nu gaan ze zich plots verlagen tot een simpele zoom-call die door iedereen over heel de wereld kan opgezet worden zonder verificatie

[SuperDre]

Ook die 'analoge' manieren waren verre van veilig.

[K-aroq]

Maar als je alleen via betrouwbare lijnen kunt communiceren sluit je per definitie heel veel mensen buiten. Dan kunnen nooit mensen van buiten de bestuurlijke elite betrouwbaar contact opnemen met bestuurders. Rutte kan dan met Poetin via een beveiligde lijn communiceren maar dan had je, in het geval van Rusland waar ze het niet zo hebben op de oppositie, nooit met iemand van de oppositie kunnen spreken (via een veilige lijn).

[Verwijderd]

Waarom zou je niet met de oppositie in Rusland kunnen communiceren via een veilige lijn?
Het is geen Noord Korea dat je vermoord wordt om elk wissewasje.
De vraag is misschien meer, waarom zou je met de oppositie willen kletsen?
Wanneer de VS dit doet op hun eigen ambassade in Nederland is het een schade.
Maar deze man was notabene in een Europees land, waar hij zo naar de ambassade had kunnen gaan.

[_Pussycat_]

Het is geen Noord Korea dat je vermoord wordt om elk wissewasje.

Navalny heeft net een moordaanslag overleefd.

[alt-92]

Ze schijnen nogal gammele raamkozijnen te hebben daaro. Valt regelmatig iemand naar beneden, gek genoeg.

[Verwijderd]

Omdat het simpelweg onjuist is dat je stelselmatig wordt uitgemoord door je politieke mening.
Rusland kent procentueel ongeveer net zo veel politieke moorden over de laatste 20 jaar als Nederland.

[Armada651]

Gewoon gezond verstand, bevestig de afspraak met de persoon via een vertrouwd kanaal. Het maakt niet uit hoe overtuigend de deep fake als je überhaupt geen afspraak kan maken met de kamerleden.

[K-aroq]

En hoe verifieer je op afstand dat je überhaupt al met de juiste persoon contact hebt en niet met iemand die doet alsof. Als je iemand goed kent kan dat allemaal worden voorkomen. Maar er zijn altijd momenten dat je nieuwe contacten moet gaan opzetten.

[Armada651]

Door contact op te nemen met de organisatie die de persoon vertegenwoordigd. Als je benadert wordt door iemand die zegt partij A te vertegenwoordigen, check dat dan. Stuur een e-mail naar partij A of neem contact op met iemand anders van die partij.

[Campo di Casa]

nou, niet.
De enige methode is om echt face to face met iemand te communiceren zonder tussen komst van digitale communicatie.

Alles wat digitaal is valt te hacken.

Maar het is wel verontrustend deze ontwikkeling. Hoe ver gaat dit en gaat of heeft dit al invloed op nieuwsvoorziening etc. Het is altijd al verstandig om feiten te controleren, maar was als je grote pers bureaus niet meer kan vertrouwen. Ik zie mij zelf toch niet ff in een vliegtuig stappen om een bepaald nieuws item in Japan te fact checken.

[K-aroq]

Face to face is ook te hacken als je elkaar nog nooit eerder ontmoet hebt. Als ik mij aan iemand die jou nog niet kent voorstel als Campo di Casa, dan ben ik Campo di Casa voor die persoon. Als onderdeel van het geheel hebben we natuurlijk vooraf alle andere communicatie gehackt zodat jij er geen weet van hebt dat dit er een afspraak is gepland. Het zal in de geschiedenis ongetwijfeld al veel eerder gebeurd zijn dat iemand deed of hij iemand anders was.

[Campo di Casa]

Het voorbeeld zoals je aan geeft heeft face to face ook beperkte veiligheid of je wel met de juiste persoon communiceert.

In dat geval zou ik niemand meer vertrouwen

[ChAiNsAwII]

Net goed wat praten ze uberhaupt met die vent, gaat is een dikke neonazi en racist:
https://www.google.com/am...world-europe-56181084.amp
Prima dat je iets tegen Putin hebt maar om Dan maar schorriemorrie te gaan Steunen lijkt me dom..

[monojack]

Als je een deep fake kan maken verwacht ik dat je binnenkort toch ook gewoon biofakes gaat kunnen verwachten.

[WillySis]

Een deepfake kan je in een paar seconden maken. Een biofake gaat vele jaren langer duren en de vraag is of je daar dan ook de volledige controle over hebt.
Eigenlijk is een biofake al veel langer mogelijk met technieken al klonen, ivf, stamcel transplantaties, plastisch chirurgie enz.

[monojack]

Ja maar een deepfake had je vroeger het bedrijf ILM voor nodig, vandaag kan dat in een paar seconden. Ik verwacht dus dat dat bij biofakes ook wel zo zal evolueren. Een gel die je instructies kan geven om biometrische beveiliging te omzeilen bvb. Er zijn duizenden manieren waarop ze het in sci-fi films doen en deepfakes komen ook rechtstreeks uit sci-fi literatuur. Als we het kunnen bedenken zullen we het wel maken.

[WillySis]

Digitaal ben je niet aan natuurwetten gebonden, met biofakes wel.
Een gel kan je misschien nog laten bewegen, maar zodra het formaat wat groter wordt heb je een steviger structuur nodig om de vorm ook zwaartekracht proof te maken. Een natuurlijke "look and feel" creeren is verduveld moeilijk. Met mechanische technieken (androgene robots) is men wat de looks al een aardig eindje, maar hoewel het uiterlijk (hoofd) verbluffend goed kan lijken, heeft men hooguit een paar seconden nodig om te ontdekken dat het niet om een echt persoon gaat. Sta je fysiek naast zo'n android, dan zal je in een fractie van een seconde al een "niet pluis" gevoel hebben.

Biofakes of androids zullen misschien ooit vlot gemaakt kunnen worden, maar die digitale variant zal altijd vele male sneller en vele malen natuurgetrouwer te creëren zijn. Voorlopig is het leuk voor verhalen en films.

Deepfakes bestaan overigens al vele decenia, in de vorm van green screens. Al is dat vooral voor achtergronden.

[SuperDre]

Natuurwetten, wetten die door de mens bedacht zijn om zaken te verklaren. Maar voor zo'n verificatiezit altijd iets digitaals tussen, en dat zal altijd te faken zijn.

[WillySis]

Aan een simpele handdruk is weinig digitaals, toch vormt dat in de echte wereld al een stuk van de herkenning, net als lichaamstaal en geur. Dat is met biofakes toch lastig te faken.

[SuperDre]

En hoe ga je dat digitaal doen dan? We hebben het hier over verificatie voir oa zo'n videoconference. En zelfs in her echie is lichaamstaal en geur makkelijk te faken.

[WillySis]

Digitaal is niet altijd de oplossing. Belangrijke zaken besprak men vroeger niet door de telefoon en moet je nu ook niet digitaal doen. Lichaamstaal, geur en intonatie is wel te imiteren, maar vooral als het gescript is. Zeker lichaamsgeur is iets wat nauwelijks te imiteren is. Mensen proberen dat wel te verdoezelen met toegevoegde geuren, maar toch zijn we nog steeds behoorlijk gevoelig voor de subtiele lichaamsgeuren, al ruiken we die niet bewust.
Voor iemand die je nog niet eerder hebt ontmoet is het natuurlijk gemakkelijk om je als een ander voor te doen.

[Poekie McPurrr]

ILM of gewoon een goede visagist die met wat makeup geklieder iemand er als iemand anders uit kan laten zien..

[Jeroen]

Dat klopt, maar deze vorm van authenticatie vinden we voor heel veel andere gevoelige toepassingen prima; internetbankieren, digid, etc. Wat verschilt is de eisen aan de auth factoren.

Het is een groot verschil met hoe nu videobellen wordt gedaan (kennelijk). Dan vertrouwen we nu alleen nog op een beoordeling van wie we denken te herkennen in het beeld, en dan blijkt onvoldoende.

Misschien hebben degene met wie gebeld is deze methode wel gekozen omdat die het makkelijkst te 'kraken' was, en een echt lijkende (signed) email of verzegelde brief was moeilijker geweest. Als dat zo is, dan zou extra authenticatie bij de call waarschijnlijk dat gat dichten.

Het is in ieder geval niet zo dat het herkennen van deepfakes de enige manier is om zekerder te weten of je de juiste persoon tegenover je hebt. Methodes die we voor andere communicatiemiddelen toepassen kunnen hier ook aan bijdragen.

[Reactie gewijzigd door Jeroen op 22 juli 2024 14:15]

[TimBC]

Voor een 'biofake' heb je wel biologisch materiaal van iemand nodig toch? Waarbij je bij een deepfake 'gewoon' plaatjes/video's van het internet kan plukken voor je deepfake.

[monojack]

Maar het gaat dus over deze zaak waar we bijna met zekerheid weten dat ze dit materiaal ook hebben. We gaan er vanuit dat Rusland achter deze hack zit en al die oppasanten zijn al een keer opgepakt zijn. Het ging er ook over hoe we ons in de toekomst beveiligen. Biometrisch is te omzeilen dat weten we. Daar is niet perse biologisch materiaal voor nodig. Vingerafdrukscanners kunnen omzeild worden, het hangt er gewoon vanaf hoe sterk de beveiliging is van die scanner. Samsung had ooit gezichtsherkenning die je met een foto kon omzeilen. Als ik denk aan biofakes dan denk ik in de eerste plaats niet aan biologisch materiaal maar een manier om een computer te doen denken dat het over biologisch materiaal gaat.

[Cergorach]

In theorie is biometrische informatie ook te 'faken'. Tijdens een normale dag laat iedereen bv. overal vingerafdrukken achter, huidcellen voor DNA en als iemand maar een hoog genoege resolutie foto maakt (van de ogen) is een retina scan ook te vervalsen.

Nee, politici moeten gewoon realiseren dat met 1 iemand praten niet direct betekend dat je weet wat er aan de hand is, daar moet je meerdere kanalen voor gebruiken. Daar is natuurlijk ook mee te knoeien, zeker als hier een grote organisatie achter zit.

[Maurits van Baerle]

Nee, politici moeten gewoon realiseren dat met 1 iemand praten niet direct betekend dat je weet wat er aan de hand is, daar moet je meerdere kanalen voor gebruiken.

Als je feiten en gebeurtenissen wil leren kennen dat is het inderdaad logisch dat je meerdere bronnen gebruikt.

Maar als je de mening van Leonid Volkov wil weten dan is Leonid Volkov zelf wel de beste bron ervoor. En daar gaat het hier wel mis.

[Cergorach]

dan is Leonid Volkov zelf wel de beste bron ervoor.

Mee eens, maar wat iemand zegt dat ie doet en wat iemand daad werkelijk doet zijn twee heel verschillende dingen. Er werd trouwens gesproken met de stafchef van Leonid Volkov.

Daarnaast gaat het hier om wereld politiek en specifiek Rusland, hoe moeilijk is het om dit op te zetten met een body dubbel? Hebben de Nederlandse politici enig idee hoe die man eruit ziet, hoe deze klinkt, etc.

[FilipSP]

Nee, de meesten hebben geen enkel idee. Die hebben enkele minuten van tevoren een briefing gekregen van hun vaste medewerker en een persmap met een wazige krantenfoto. Qua inzet van technologie is deze misleiding dus heel eenvoudig.

Ik begrijp dat de technologische en ethische kant interessant is voor Tweakers, maar de politieke vragen zouden veel meer gericht moeten zijn op wie deze afspraak op touw zette, wat de agenda was en wat er is besproken. Dat is natuurlijk ook de first layer of defense.

Overigens is dit niet nieuws in real life lopen tal van figuren op diplomatieke feestjes, congressen, hoorzittingen, etc. rond die niet zijn wie ze zeggen.

[Sannr2]

Leonid Volkov ís de stafchef, van Aleksej Navalny

[K-aroq]

Maar hoe weet je of je dat aan de echte Leonid Volkov vraagt?

[RJG-223]

In theorie is biometrische informatie ook te 'faken'. Tijdens een normale dag laat iedereen bv. overal vingerafdrukken achter, huidcellen voor DNA en als iemand maar een hoog genoege resolutie foto maakt (van de ogen) is een retina scan ook te vervalsen.

Nog afgezien van het feit dat alle biometrische informatie uiteindelijk een reeks bitjes wordt, of een electrisch signaal. Biometrische informatie is alléén mogelijk als de partij die de authenticatie wenst (die de authenticiteit van iemand anders wenst vast te stellen) ook de meetapparatuur van de biometrische gegevens onder volledige controle heeft, alsmede het comminicatiekanaal van de apparatuur naar hemzelf.

En dat staat dus los van het feit dat je ook nog moet vaststellen of de biometrische scan zelf geen fake is (foto, fake vingerafdruk, afgehakt vingerkootje, etc.).

[telskamp]

Irl overleggen

[maurits1]

Voortaan eerst even normaal bellen voordat je een video gesprek begin om te checken of je ook daadwerkelijk met de persoon praat, natuurlijk is dit alleen mogelijk als je het telefoonnummer wel kan vertrouwen.

[caipirinha]

Dit soort gesprekken wordt geïnitieerd door iemand bij een afdeling van een overheid of door een ambassade met een fysiek telefoon nummer of overheids email adres. En op dit niveau doe je altijd meerdere checks en je gaat zeker niet meet een tooltje als zoom of skype zitten bellen.
Hier hebben meerdere mensen ontzettend zitten zwijnen en de oplossing is geen technische maar gewoon je gezond verstand.

Ik krijg ook wel eens zoom uitnodigingen vanuit gmail adressen, ik vraag dan altijd om een telefoonummer voor controle en een email via een officieel werk email adres. Ik geef bij twijfel ook aan dat vergaderen alleen via de eigen company tool mag. De weinige scammers die ik ben tegengekomen nemen dan meestal wel de benen.

[Stoelpoot]

Cryptografische controle met asymmetrische sleutels. Net zoals PGP, HTTPS en Whatspp / Signal dat doen. We doen echt veel te weinig met het signen van digitale communicatie. Het zou een hoop problemen oplossen, niet alleen deze.

[Franckey]

Misschien is een ouderwetse controle nog het meest effectief. Vraag de gesprekspartner zich te legitimeren of stel een paar controle vragen die alleen de echte persoon weet.

Vanaf nu weten we dat je niet alleen kan afgaan op een videobeeld waarop je iemand denkt te herkennen.

[iFre4ked]

of stel een paar controle vragen die alleen de echte persoon weet.

Als alleen de echte persoon de vragen weet... Hoe kan je dan zelf controleren of ze juist zijn?

[Franckey]

Ok, als je dat letterlijk neemt klinkt het wat vreemd, maar ik bedoel natuurlijk dat je wat vragen stelt om te checken of de persoon degene is die je denkt dat het is. Bijv. een vraag als: "wanneer en waar hebben wij elkaar voor het laatst ontmoet?" Een vraag die de echte persoon makkelijk kan beantwoorden en waarmee iemand anders snel door de mand valt.

[K-aroq]

En als je elkaar nog nooit hebt ontmoet? Of nog nooit eerder hebt gesproken. Hoe verifieer je dan of je gesprekspartner is wie hij claimt te zijn?

[grote_oever]

De oplossing is best simpel. Vooral bij gevoelige gesprekken moet er een soort 2-staps verificatie zijn.

[Bensimpel]

Best simpel? Je hebt altijd nog de andere partij, als die gewoon "voldoet" aan de 2FA door bijvoorbeeld iemand onder dwang dit af te staan zit je alsnog met de gebakken peren. De oplossing is helaas niet zo simpel.

Je zou met de echte persoon in het echt kunnen afspreken om een soort code te gebruiken, die alleen dus bij jou en die andere persoon bekend is. Maar als die code uitlekt..

Hier zit trouwens echt wel een goede voorbereiding achter, dit live doen en ook nog eens geloofwaardig is echt knap. (nu nog wel)..

[grote_oever]

Ik heb niks gezegd over de uitvoering daarvan. Maar waarom zou je geen verificatie kunnen hebben dat degene die jij via een meeting spreekt ook is wie hij zegt dat hij is?

[Bensimpel]

Omdat dat ook te omzeilen is door gewoon die persoon forceren codes door te geven? Het is zelfs mogelijk om compleet iemands identiteit over te nemen. Enige veilige manier is zulke gesprekken echt fysiek te voeren. Tja kost wat maar is wel feilloos.

[Verwijderd]

Gevoelige informatie/standpunten bespreken in een Zoommeeting is sowieso vrij absurd.
Of we moeten helemaal geen eigen beveiliging hebben in Europa voor e-mail/video/bellen etc.
Maar dat lijkt me toch niet?
Voor dit soort zaken heb je van die gebouwen in andere landen, ambassades heten ze volgens mij.

[FilipSP]

Klopt, maar ambassades zijn bedoeld voor de uitvoering van het regeringsbeleid en dat is niet hetzelfde als de TK.

De ambassade in Moskou heeft echt wat uit te leggen als de assistent van een controversieel oppositiefiguur, die bovendien formeel veroordeeld is, een vergadering met kamerleden bezoekt op diezelfde ambassade. Zo'n bezoek kan de werkzaamheden van onze ambassadeur ernstig bemoeilijken. In tal van situaties ondersteunt de ambassade dit heus wel, in Berlijn, Washington, Tokio zal het allemaal geen probleem zijn, maar Moskou ?

[Verwijderd]

Is Leonid Volkov veroordeelt?
Daarnaast is hij niet in Rusland maar in Litouwen.
De Kamerleden kunnen overigens gewoon in Nederland blijven, weet je in ieder geval dat je lijn enig zins okay is.

[FilipSP]

Nee, natuurlijk is Volkov niet veroordeelt, (met een -d natuurlijk, stommerd), maar zijn baas wel.

In Litouwen had ik even gemist, maar dat doet aan het argument niets af. De Ned. regering kan ook dan besluiten dat het ontvangen van zo'n iemand op de ambassade voor een ontmoeting met de TK niet in het landsbelang is, omdat er bijv. tegelijkertijd andere diplomatieke kanalen open zijn. Voor de Russen is dit namelijk een intern probleem.

Aan de wens van de TK om deze man te spreken kan de regering niets doen, maar dan zal de TK dat wel zelf moeten regelen, zonder ondersteuning.

Nogmaals in verreweg de meeste gevallen zal ook het ontmoeten van oppositie helemaal geen probleem zijn, maar in dit geval wellicht wel.

[Reactie gewijzigd door FilipSP op 22 juli 2024 14:15]

[Sissors]

Kijk, dat is mooi. Een simpele oplossing. "Een soort 2-staps verificatie" is echter meer een vage oplossing, dan een simpele oplossing.

Iets van PKI (Public Key Infrastructure) lijkt mij een logischere oplossing. Echter dat is iets wat van theorie naar praktijk van redelijk simpel naar enorm complex gaat wanneer je het globaal wil uitrollen.

[Dancing_Animal]

Nee, “iets van PKI” is niet vaag.

[Sissors]

Daarom schreef ik ook dat het enorm complex zal zijn, en stel ik niet dat het een best simpele oplossing is.

[RoelDozer]

Iedereen een NFT. Dan is het probleem opgelost.

[Sissors]

Dat is nou typisch iets waar NFTs totaal niet op aansluiten. Cryptos zijn uiteindelijk ook gebaseerd op asymetrische encryptie met public-private keys. Daar bovenop hebben ze een consensus algorithme voor het versturen van (bijvoorbeeld) tokens, zoals NFTs. Wil je je "identiteits NFT" versturen? Nee toch, dus waarom een NFT ervoor gebruiken in de eerste plaats?

Daarnaast, leuk een NFT, wie geeft ze uit?

[Sefa]

Maar wat is de tweede stap?

[SuperDre]

Grapjas, de oplossing is verre van simpel. Hoe weet je nou of die 2 traps verificatie ook daadwerkelijk bij die persoon hoort? Zeker als het om een publieke livestream gaat. Dit is een probleem die zeker niet simpel op te lossen is.

[Cergorach]

De oplossing is best simpel.

De oplossing is best simpel te omzeilen.

[Rabb]

Dat werkt alleen als je óf al een achtergrond hebt met die persoon en je dus feiten aan kunt halen die alleen jij en die persoon weet,

óf als je 100% zeker weet dat het contact om de afspraak te maken ook daadwerkelijk met de juiste persoon is.

Ik neem aan dat deze afspraak van begin af aan met de bedrieger is opgezet. Dan zou je enkel de 2 factor verificatie kunnen gebruiken om te bevestigen dat deze persoon daadwerkelijk de persoon is waarmee je de afspraak hebt gemaakt. Dit zegt niets over of het een bedrieger is of niet.

Een betrouwbare tussenpersoon is denk ik de enige oplossing, maar of dat haalbaar is is iets anders.

[4x4]

Ik stuur jou per mail, signal, postduif een foto of wachtwoord en die moet je in die live eerst tonen voor het gesprek begint.

[chnickiz]

Ik denk hierbij dus meteen aan dit:
https://www.419eater.com/html/trophy_room.htm

[Andros]

Dit is dan weer een gevaar van vergaderingen op afstand. Jarenlang wordt hiervoor geijverd om nutteloze verplaatsingen te ontmoedigen tot op het hoogste niveau. En dan krijgen we techniek als dit die de boel wantrouwend maakt. Zo jammer.

[robertwebbe]

Ik vermoed dat er in de toekomst dan bij belangrijke vergaderingen van hooggeplaatste personen een vertrouwd ‘iemand’ wordt gestuurd en bij blijft die met eigen ogen vaststelt dat het de betreffende persoon is. Om te voorkomen dat de trusted person ook gedeepfaked wordt, zal die aan het begin van de meeting een meervoudige authenticatie doen, zowel op biometrisch als een afgesproken code zodat men zeker weet dat de trust echt is.

Dus eigenlijk weer een nieuw beroep voor in 2025: local trustee.

[Reactie gewijzigd door robertwebbe op 22 juli 2024 14:15]

[NielsFL]

Is dat niet nodeloos ingewikkeld? Kun je de stream niet gewoon ondertekenen met jouw geheime sleutel? (Bijvoorbeeld PGP.)

Lijkt me dat de betere video conferencing platforms dit technisch prima kunnen oplossen.

[The Zep Man]

Is dat niet nodeloos ingewikkeld? Kun je de stream niet gewoon ondertekenen met jouw geheime sleutel? (Bijvoorbeeld PGP.)

Enkel als je de andere partij vertrouwt. Er kunnen redenen zijn waarom iemand zichzelf laat deepfaken (plausibele deniability, bijvoorbeeld).

[Reactie gewijzigd door The Zep Man op 22 juli 2024 14:15]

[Arloid]

Het simpelste is nog om een ambtenaar van de ambassade te sturen met een vooraf voorbereide verificatie code. Tussen bekende partijen zou dat nog kunnen met uitgewisselde codes.

Dit brengt natuurlijk weer andere moeilijkheden met zich mee in de aflevering van de codes. Je wilt dit natuurlijk niet met de reguliere post doen of met een onbeveiligde verbinding. Dan is er nog de overdracht op de locatie zelf, daar wil je ook op de één of andere manier verifiëren dat deze ook echt door de juiste partij is geverifieerd.

[K-aroq]

Dan moet je meerdere ambtenaren op pad sturen met de code en ook nog eens op andere tijdstippen. En dan moeten alle ontvangen codes hetzelfde zijn voordat het geaccepteerd is. En iedere keer moet je andere ambtenaren sturen. Niet heel praktisch dus.

[Arloid]

Lijkt mij dat je een ambtenaar op pad stuurt met een verzegelde code waarna de ambtenaar zijn eigen eenmalige code mondeling doorgeeft. 395 bijvoorbeeld of KFQ, daarna zou je de beginfase van het gesprek kunnen starten tot de ambtenaar weer op de ambassade is.

[dyrc]

hier zit toch wel een ruime bak voorbereiding in, zowel in het krijgen van een (geverifieerde) afspraak en het om de tuin leiden van de deelnemers (gemiddelde kwaliteit deepfake heeft al moeite met het vervangen van een gezicht in een film, laat staan real time?)

[b12e]

Een van de verschillen met "de film" is natuurlijk wel dat zo'n videogesprek niet noodzakelijk in 4K HDR moet gebeuren. Iedereen heeft al wel eens "haperend" beeld meegemaakt bij een Zoom call, of kwaliteit van 480p omdat de computer die je gebruikt gewoon niks beter aan boord heeft.

Het wordt significant makkelijker om de imperfecties weg te werken onder het mom van technische "artifacts".

Verder is er bij film meestal veel meer beweging, terwijl je bij een videogesprek toch echt gewoon recht voor de camera zit en amper of niet beweegt. Dat maakt het ook makkelijker om de "deepfake" te mappen aan de bewegingen en minder zichtbare "artifact" te creëren.

Al bij al ben ik het met je eens dat hier een berg voorbereiding in moet zitten, maar het is wel makkelijker om een videogesprek te vervangen t.o.v. een personage in de film.

[jdh009]

Nederlandse Tweede Kamerleden zijn vrij gemakkelijk te benaderen als buitenstaander. Voor mijn stage vele jaren geleden heb ik met meerder van hen contact gehad over hun standpunten betreffende het gebruik van chemische bestrijdingsmiddelen door gemeente in de openbare ruimte.

Via de website van de Tweede Kamer kun je iedereen benaderen. Daarbij hoede je alleen maar een mail te sturen naar hun algemene Tweede Kamer mailadres. Die wordt volgens mij niet altijd door hun zelf beheert maar kreeg destijds van bijna iedereen die ik contacten een antwoorden terug na een x periode.

Als jij je dus geloofwaardig voordoet als iemand, kun je via deze ingang gewoon contacten. Daarnaast zijn er nog legio andere manieren te bedenken om ze directer te contacten (bijv. als je hun zakelijke nummer weet te bemachtigen).
https://www.tweedekamer.n...leden_van_de_tweede_kamer

[Reactie gewijzigd door jdh009 op 22 juli 2024 14:15]

[Maurits van Baerle]

Uiteraard zijn Tweede Kamerleden makkelijk te benaderen, daar zijn ze voor, het is de kern van volksvertegenwoordiger zijn.

Alleen in dit geval zal het niet gegaan zijn om iemand die zich Leonid Volkov noemt die een mailtje stuurt naar een kamerlid en er is een gesprek opgezet. Dit was een gesprek met de vaste kamercommissie dus zal opgezet zijn door een secretariaat, misschien zelfs wel via het Ministerie van Buitenlandse Zaken.

[Benjamin-]

Maar net zo goed dat zij makkelijk te benaderen zijn, is dat andersom ook, tenminste voor hen.

Zij zullen ook gewoon andere kanalen moeten kunnen gebruiken om zo contact op te nemen met andere overheden, alleen wanneer zij niet deze kanalen gebruiken, loop je het risico dat het fout gaat.

Tevens is dit probleem erg groot.

Ik merk dit op 2 manieren.
1. Zijn er veel partijen die jou geld proberen te ontfrutselen, partijen die zich anders voordoen, incl met echt lijkende nummers, wat jou vraagt om extra controles te doen. Toen de GGD mij belde na een positieve covid test, deden ze ook erg raar toen ik vroeg dat ik bevestiging wilde per email van wie mij belde enz voordat ik info gaf.
2. Professioneel loop ik hier al lang tegenaan. Is hulpverlener mag ik geen informatie geven over iemand, tegelijkertijd krijgen wij regelmatig telefoontjes zoals: "Ik bel voor mevr X, ik krijg haar niet te pakken, is zij aanwezig" enz. Ik mag hier officieel niet op reageren. Natuurlijk zijn er instanties die deze info wel mogen, maar ik kan niet al die 06 nummers bevestigen, en daarmee dus geen informatie geven.

2 jaar geleden had ik zo'n probleem nog met een vrouw die bij ons in de opvang waar ik werkte verbleef, haar adres moest geheim blijven voor haar ex. We hebben overal doorgegeven dat niets mocht worden gedeeld. Echter wist hij ook mijn voornaam. Tja wat rondbellen bij de organisatie en hij wist waar ik werkte, en dus waar zij zat. (voor de duidelijkheid, het was geen geheim adres oid)

Het is dus zeer moeilijk om zeker te zijn dat je informatie deelt met de juiste persoon, en dit vraagt zeker ontwikkelingen waardoor wij onszelf makkelijker kunnen identificeren.

[Get!em]

Real-time is gewoon op je huis tuin keuken pc te doen met een Nvidia kaart >1050ti

Zoek maar eens op avatarify. Leuk om met je collega’s te doen. Al mijn manager en CEO er in gezet. Leuke confrontatie was dat.

Niet dat avatarify hoge kwaliteit biedt, maar het laat zien dat met iets meer dan standaard internet hardware dit al te bereiken is. In combinatie met OBS cam, virtual greenscreen kun je zelfs je achtergrond een video laten zijn, voor een dynamische locatie ipv een portret foto.

[TigerHunt]

Nou heb ik het Volkskrant artikel niet gelezen, dus mogelijk staat het daar in. Maar ik mis in ieder geval in het Tweakers artikel een korte uitweiding waarom dit zo gedaan is (als dat bekend is). Het maakt het extra bijzonder omdat ze alsnog een gesprek met de echte stafchef kunnen krijgen.
En zeker omdat het altijd het grote kwade Rusland betreft, zou die uitweiding de juiste nuance aan het artikel kunnen geven.

[Verwijderd]

Om bijvoorbeeld met met de voorzitter Letse buitenland commissie te praten over de annexatie van de Krim. En over Russische politieke gevangenen.

[Rabb]

Waarschijnlijk is het opgezet door Rusland ipv het team van Navalny. Rusland zal graag willen weten wat er allemaal besproken word.

Edit: Typo

[Reactie gewijzigd door Rabb op 22 juli 2024 14:15]

[itsme]

Dit klinkt als heel veel moeite om iets dat met grimeren ook aardig moet lukken.

Waarop is de deep-fake claim gebaseerd?
Het artikel van de volkskrant doet die claim ook maar mist elke onderbouwing.

[HooksForFeet]

Exact dit, als iemand bewust probeerde politici te misleiden dan was het met een lookalike en wat grime veel makkelijker, goedkoper en overtuigender te realiseren. De deepfake-claim komt uit het niets, er wordt niet verteld hoe ze er later dan achter kwamen dat het een deepfake was, en er wordt volledig voorbijgegaan aan het feit dat overtuigende deepfakes tot nu toe nog niet realtime te genereren waren - dus waar komt die enorme performance-sprong dan ineens vandaan? Dit hele verhaal stinkt.

[GeoBeo]

Deepfake is net als "fake news".

De kranten doen net of al onze problemen door moderne nieuwe technologie komen (dezelfde internet technologie die toevallig het bestaansrecht van kranten aantast).

Er worden allemaal nieuwe termen bedacht voor oude begrippen. Politieke propaganda heet nu "fake nieuws" (en komt uiteraard "nooit" van de kranten zelf) en grimeren heet nu "deep fake". Door "dat nare internet" is dat allemaal maar mogelijk. Koop snel kranten en krijg "het echte" nieuws te horen! Negeer het internet!

Dat is wat al die artikelen schreeuwen IMO.

Nog even los van het feit dat kranten tegenwoordig weglezen als een roddelblad en met journalisme vrij weinig te maken hebben. Dit Deep Fake artikel is daar een voorbeeld van.

[Reactie gewijzigd door GeoBeo op 22 juli 2024 14:15]

[itsme]

Artikel van NOS is al iets duidelijker:

https://nos.nl/artikel/23...t-medewerker-navalny.html

Volkov zelf zegt dat twee Russische 'grappenmakers' zich voor hem uitgeven en daarbij deepfake-technologie gebruiken. Die technologie maakt het mogelijk een gezicht in een video(verbinding) te vervangen door een ander gezicht. Op die manier kun je iemand van alles laten zeggen. Maar of deze technologie hier daadwerkelijk gebruikt is, is moeilijk te zeggen. De Tweede Kamer zelf bevestigt dit niet.

[Rabb]

In princiepe is het digitale make-up.

[itsme]

Je mist t punt, er is geen onderbouwing dat dit "digitale make-up" is.

[K-aroq]

Klopt. Analoge fake is uiteindelijk veel makkelijker. Zeker iemand die je niet dagelijks spreekt hoeft geeneens heel goed te lijken.

[Sefa]

Ik mis best wel veel achtergrond in dit artikel. Wie zit er achter? Hoe zijn ze er achter gekomen dat het nep was? Op wiens initiatief was dit gesprek?

[imaxus]

RTL zegt:
"Volgens Volkov zelf (de echte) zitten 'door het Kremlin ondersteunde grappenmakers' achter de actie."

https://www.rtlnieuws.nl/...r-navalny-deepfake-volkov

[Dutchredgaming]

Het is echt best wel eng dat de technologie zo goed is met deepfake.

Ook bij "niet "bestaande mensen zoals de website This Person Does Not Exist (refresh voor een andere 'persoon':

https://thispersondoesnotexist.com/

[sjongenelen]

Nou, ik vermoed meer dat de personen in kwestie niet echt op zaten te letten en waarschijnlijk nog steeds behoorlijk digibeet zijn

[Dutchredgaming]

Aangezien in laptop meestal 720p of slechtere webcams hebben denk men misschien "Oh het slechte beeld kan door de webcam komen".

[K-aroq]

Hoeft nog geeneens door de camera te komen. Wij hebben op het werk allemaal dezelfde laptop en bij ene is het beeld veel beter dan bij de andere. Als je in een slecht verlichte ruimte zit is het allemaal slecht.

[renecl]

AI wordt de ondergang van alles, hoe meer je je erin verdiept des te vervelender het wordt.
Waar gaat dit heen? Fakenews is nu al lastig te onderscheiden.

[Rabb]

Tja, dat hebben we nu al met photoshop. Ik heb daar geen ervaring mee (met het programma), en net als de meeste andere mensen ga ik een goeie photoshop echt niet herkennen. Ik zie het al amper wanneer iemand naar de kapper is geweest 😅

[Atmosfeer]

Klopt, maar het is vooral het realtime gedeelte dat anders is dan simpele photoshops voorheen. Plus dat overtuigende CGI heel veel tijd en kennis verreist. Door AI kan zelfs een digibeet een gezicht vervangen.

[HakanX]

AI faked een persoon en praat namens iemand anders. Andere AI maakt een nieuwsbericht. Andere AI's liken en reageren op het nieuwsbericht. Binnenkort zijn we niet meer nodig.

[wica]

Dus we hebben met en soort PGP nodig voor video's en streams.

[litebyte]

end-to-end encryptie en een goede check m.b.t. waar je als BuZ kamercommissie mee spreekt (zeker in relatie tot Rusland) lijkt me toch een pre...