Minister: enkel afbeeldingen client-side scannen ondermijnt e2e-encryptie niet

Client-side scanning van apparaten en chats op kindermisbruikmateriaal ondermijnt end-to-endencryptie niet, maar is alleen proportioneel als het gaat om afbeeldingen en niet om tekst. Dat zegt de Nederlandse demissionaire minister Yeşilgöz-Zegerius van Justitie en Veiligheid.

Demissionair minister Dilan Yeşilgöz-Zegerius van Justitie en Veiligheid zegt in een antwoord op Kamervragen dat Nederland 'geen voorstellen steunt die end-to-endencryptie onmogelijk maken'. Daarmee herhaalt ze eerdere uitspraken van zichzelf en haar voorgangers en bevestigt ze wat eerder ook al in een motie is vastgelegd. De minister reageert op vragen die het CDA stelde. Die gingen over een mogelijk vertrek van Signal en WhatsApp uit het Verenigd Koninkrijk als dat land encryptie zou afzwakken.

Ook in de Europese Unie worden plannen gemaakt om encryptie af te zwakken om het bestrijden van kindermisbruikmateriaal mogelijk te maken, al proberen beleidsmakers te benadrukken dat encryptie niet wordt afgezwakt. Ook Yeşilgöz zoekt naar die balans en pleit daarom voor zogenaamd client-side scanning.

"Met client-side scanning kunnen berichten die zijn verstuurd binnen de desbetreffende interpersoonlijke communicatiediensten op het apparaat van de verzender worden geanalyseerd op materiaal van seksueel kindermisbruik vóórdat dit materiaal wordt versleuteld en verzonden", schrijft de minister. "De end-to-endversleuteling van het bericht tijdens het transport naar de ontvanger blijft dan ongemoeid, waardoor het bericht niet kan worden onderschept door derden." Op die manier blijft het uitgangspunt dat er 'respect blijft voor fundamentele rechten, dataprotectiewetgeving en behoud van security'.

Volgens de minister moet het kabinet bij zo'n maatregelen wel kijken naar de proportionaliteit. "Zo acht het kabinet het niet proportioneel wanneer dit middel wordt ingezet om tekstberichten te scannen, maar wel indien enkel wordt gescand op bestaand beeldmateriaal." De minister benadrukt vooral dat laatste aspect. De meestgebruikte methodes om kindermisbruikmateriaal op te sporen is door inbeslaggenomen afbeeldingen te hashen en die hashes te delen met makers van tools om afbeeldingen op grote schaal te scannen. Microsoft heeft bijvoorbeeld een grote database met zulke hashes, die het in de tool PhotoDNA verwerkt. Andere bedrijven zoals Reddit en Facebook kunnen PhotoDNA dan gebruiken om bekend en geflagd kindermisbruikmateriaal op te sporen. Tweakers schreef vorig jaar een achtergrondartikel over hoe die tools werken. Overigens meldde de minister juist vorige maand nog dat ook tekstberichten onder voorwaarden beschikbaar zouden moeten komen voor opsporingsdiensten, maar die discussie ging niet over kindermisbruik maar over algemene opsporing.

Minister Yeşilgöz gaat in haar brief niet in op de technische aspecten van deze manier van client-side scanning. Ze noemt het als mogelijke optie, maar laat het aan bedrijven en diensten om daar invulling aan te geven. Wel zegt ze: "Client-side scanning lijkt de enige manier waarop de maatregelen in de verordening ten aanzien van interpersoonlijke communicatiediensten kunnen worden uitgevoerd zonder end-to-endencryptie onmogelijk te maken."

Reacties (345)

[honey]

Eeew, wat een enge ontwikkelingen allemaal. De vanzelfsprekendheid waarmee ze praten over massasurveillance. Ook hier weer wordt gesproken over kindermisbruikmateriaal, alsof dat een groot probleem is.

Ik vergelijk het met pijnbestrijding binnen de geneeskunde. Meestal kun je met weinig medicatie en bijwerkingen iemand voldoende pijnstilling geven zodat het dragelijk is. Ja, er is nog steeds pijn, maar voor de patiënt is het goed te doen. Als je iemand volledig pijnvrij wilt maken, dan moet je vaak een disproportionele hoeveelheid pijnstilling toedienen, waardoor de bijwerkingen echt vervelend worden. Ik denk dat het soms beter is om een beetje pijn te accepteren.

Kindermisbruik en het produceren van dergelijk beeldmateriaal zal altijd bestaan, zolang er kinderen zijn. Het is verschrikkelijk, maar het volledig uitbannen is onmogelijk. We moeten accepteren dat dit een realiteit is, net zoals een volledig pijnvrij bestaan niet altijd haalbaar is.

[MKoot]

Edit: Voor de duidelijkheid, ik ben tegen client-side scanning en geloof ook dat dit beleid niet effectief is. Maar dat betekent niet dat het probleem niet ernstig is en dat we niet naar andere oplossingen moeten zoeken, zoals ik hieronder aangeef.

Kindermisbruik en het produceren van dergelijk beeldmateriaal zal altijd bestaan, zolang er kinderen zijn. Het is verschrikkelijk, maar het volledig uitbannen is onmogelijk. We moeten accepteren dat dit een realiteit is, net zoals een volledig pijnvrij bestaan niet altijd haalbaar is.

Sorry, dit schiet echt even in mijn verkeerde keelgat. Natuurlijk is een volledig misbruikvrije samenleving onmogelijk, net als dat een volledig criminaliteitsvrije samenleving onmogelijk is. Moeten we de politie dan ook maar afschaffen en accepteren dat een beroving van tijd tot tijd nou eenmaal bij het leven hoort?

Kijk, als kindermisbruik nou een klein fenomeen in de marge zou zijn dat toch al afneemt, dan zou je je zo'n laconieke houding wellicht kunnen permitteren. Maar dat is niet zo. De afgelopen twee jaar is de hoeveelheid online aangetroffen ernstig kindermisbruikmateriaal verdubbeld. En Nederlandse servers zijn verantwoordelijk voor het hosten van 1/3 van al het bekende kindermisbruikmateriaal. 1/3 van de wéreld! Dat is simpelweg niet acceptabel en betekent dat Nederland beleidsmatig iets verkeerd doet. (Lees dit rapport of dit samenvattend nieuwsartikel.) Voor het overzicht: In 2022 bevatte ruim een kwart miljoen sites kindermisbruikmateriaal, waarvan ruim 50.000 sites de ernstigste soort (waarbij er dus minstens sprake was van penetratie). En dat is dus alleen wat we hebben gevonden, niet wat nog onbekend is of ergens op het darkweb huist.

We moeten er écht iets aan doen en ook serieuze maatregelen nemen om kinderen te beschermen. Ik ben zelf ook niet ervan overtuigd dan client-side scanning een goede (of überhaupt effectieve) oplossing is. Maar we het aanpakken van webhosters veel serieuzer gaan nemen in Nederland. En mogelijk ook wat doen aan semi-privé-sociale-media platforms zoals Telegram (die overigens meestal zonder e2e werkt, maar toch een groot verspreidingsplatform is).

Ik ben ook pro-privacy, maar je moet niet wegkijken voor de realiteit dat online kindermisbruik een zeer ernstig probleem is.

[Reactie gewijzigd door MKoot op 22 juli 2024 16:39]

[honey]

Een korte vraag: hoe vaak kom jij kinderporno tegen op het internet?

Ik kom het nooit tegen. Ik denk dat verreweg de meeste mensen het ook nooit tegenkomen. Toch worden al deze mensen straks geconfronteerd met de consequenties van massasurveillance voor een probleem waarvan ze niets van zien, merken of ooit zullen tegenkomen. Het gaat om een kleine groep zieken die waarschijnlijk wel tegenmaatregelen treffen om dit systeem te omzeilen. Dan worden alleen onschuldige mensen het slachtoffer, of die enkele persoon die uit nieuwsgierigheid eens iets opzoekt. Ook deze laatste groep is zie ik als onschuldig.

[robertlinke]

ik kom uit de jeugdzorg, heb daar praktisch 15 jaar gewoond. ik ben het wel tegen gekomen. niet in de vorm van foto's, maar in de vorm van de verhalen van de kinderen die het is overkomen. die verhalen zijn schrijnend en het is altijd duidelijk dat die mensen die pijn en angst hun hele leven zullen meedragen. het is traumatiserend.

en weet je wat het ergste is. in alle gevallen die ik heb gehoord kwam het van de ouders. de eigen ouders die hun kinderen misbruiken. ik ken/heb mensen gekend waarvan de familie niet mocht weten waar ze woonde, omdat ze anders ontvoerd zouden worden en nog meer misbruikt zouden worden.

dat jij het niet ziet, betekent niet dat het niet bestaat. alleen dat het zich ergens achter gesloten deuren plaatsvind, waar jij het niet kan zien. of waar de maatschappij gemeenschappelijk zijn ogen voor sluit. jeugdzorg is praktisch onzichtbaar voor de gene die er niet mee te maken hebben.

[honey]

En toch is kindermisbruik en het vervaardigen van plaatjes niet de norm. Bij de meeste gezinnen gaat het gewoon goed en de meeste kinderen zullen nooit misbruik meemaken. Ik werk in de gezondheidszorg en heb ook gewerkt met Veilig Thuis en vergelijkbare organisaties. Ik weet welke ellende er kan plaatsvinden. Toch is massasurveillance niet het antwoord. Het probleem ligt toch elders, zoals je zelf ook weet. Een lage SES, intelligentie, armoede, ziekte, cultuur, onvoldoende beschikbare hulpverlening, wachttijden, ...

De overheid kan beter investeren in het aanpakken van de risicofactoren van kindermisbruik. Dit soort oplossingen, zoals massasurveillance, zal weinig effectief zijn omdat de onderliggende problemen blijven bestaan.

[robertlinke]

daar ben ik het zeker mee eens, het zal niet helpen.

en zeker de lange wacht tijden, en onvoldoende beschikbare plekken, zorgt ervoor dat veel kinderen die veiligheid en stabiliteit nodig hebben in crisisopvang plekken komen, die hun niet kunnen helpen. neem daarbij de financiële problemen die ervoor zorgt dat veel locaties dicht zijn gegaan, bijv, zonnehuizen/intermetzo, de hoenderloo groep, gedeeltes van abrona, plurijn en nog een paar waar ik de naam van ben vergeten.
maar zeggen dat er geen problemen zijn omdat je het niet of moeilijk kan zien is geen oplossing, dat is je ogen sluiten, en dat gebeurt al te vaak

[Verwijderd]

Helaas maken (door de overheid betaalde) hulpverleners zich daar ook schuldig aan.
https://www.vpro.nl/argos...htoffer-van-misbruik.html

[robertlinke]

ik ga niet zeggen dat er niks gebeurt, want plaats veel kwetsbare kinderen onder direct toezicht, en er gaan dingen fout. maar ik kan wel zeggen dat ik in mijn leven binnen jeugdzorg, geen enkel probleem hiermee heb gezien en op alle locaties waar ik heb gewoond er goede professionele begeleiders werkten. natuurlijk zijn er ook een hoop plekken waar ik niet heb gewoond en waar ik niemand van ken, dus ik ga niet niet zeggen dat het nergens fout gaat maar ik heb dit persoonlijk nooit ervaren

[Aldy]

Geweldig dat jij het nooit tegen komt. Ik ook niet. Hoe vaak heb jij een dodelijk ongeluk zien gebeuren. Ik in mijn hele leven nog nooit en toch gebeuren ze dagelijks. En als de overheid er alles aan doet om zoveel mogelijk deze ongelukken te voorkomen, waarom zullen we dan niet proberen om het de mensen die kinderporno delen het zo moeilijk mogelijk te maken.

[bzzzt]

Ik wens je heel veel succes als je straks door een algoritme wat continu met je communicatie mee 'luistert' wordt bestempeld als zedendelinquent en de enorme impact die dat op je gaat hebben.
En dan - jaren later - zoals met de toeslagenaffaire blijkt dat veel mensen ten onrechte beschuldigd en kapot gemaakt zijn en krijg je hooguit een flauw excuus. Wanneer leren we daar nou verdorie eens van?

[Aldy]

Het gaat niet over meeluisteren. Teksten worden niet gelezen, het gaat alleen over opnamen die meegestuurd worden.
En de vergelijking met de toeslagenaffaire gaat volledig mank. De mensen die gedupeerd zijn door de belastingdienst vond zijn oorzaak niet door het bespioneren van deze mensen. Was dat maar waar, dan hadden ze kunnen zien hoe erg ze ernaast zaten.

[curkey]

Het gaat "alleen maar" over... Zijn opnamen soms niet privaat zoals teksten?

Zolang er geen verdenkingen op mij rusten, wat gaat het wie dan ook maar iets aan wat ik bespreek of verstuur (op de ontvanger(s) na)?

[Aldy]

Ten eerste wat jij bespreekt wil niemand hiermee weten. Dus je teksten zijn veilig, want die worden niet gescand.
Ten tweede is er niemand geïnteresseerd in wat voor plaatjes jij verstuurt, behalve als volgens de scan gedacht wordt dat het kinderporno betreft.
Ten derde blijven jouw plaatjes privé, net alsof er geen scan heeft plaatsgevonden. Er wordt nergens iets bewaard, behalve op jouw telefoon en op de telefoon van de ontvanger. Zolang de ontvanger het niet meer verder deelt, natuurlijk.

[bzzzt]

Jij gebruikt een computer, gekoppeld aan een persoonlijk identificeerbaar account die een 'zender' bevat die om redenen (mogelijk goede, maar voor de meeste mensen totaal ongrijpbaar) een 'ping, hier is iets niet in de haak' via-via naar de politie kan versturen.
Wat gaan we nog meer verzinnen? Smart messen die mensenbloed detecteren en automatisch aangifte doen? Telefoons die aangifte doen als je teveel bij de verkeerde mensen in de buurt komt?
Het is vooral de totale ongrijpbaarheid in combinatie met kans op false positives waardoor ik hier totaal niet achter kan staan. (vandaar ook mijn vergelijking met de toeslagenaffaire)

[Aldy]

Ik begrijp je bezorgheid, maar de 'boeven' verzinnen steeds iets nieuws en daar zullen de opsporingsinstanties op moeten anticiperen. Dat geldt ook al in je niet-digitale leven. En zoals je al aangaf over je smart-messen. Sommige dingen zullen er nooit komen en andere dingen weer wel. Het is altijd een wedloop en de gewone burger zit er tussenin.
Het probleem is dat als je slachtoffer bent van een misdaad of één van je naasten, dat je wil dat het met alle mogelijkheden wordt opgelost en daar zit de discrepantie. Het is altijd een afweging, wat wel en niet door de beugel kan. Als ik zo'n discussie voer moet ik altijd aan Dirty Harry denken. Een heleboel mensen zullen dit geweld terecht vinden, terwijl elk normaal denkend mens deze vorm van eigen rechter natuurlijk afwijst. Deze besluiten zoals client-side scanning zullen altijd een afweging moeten zijn tussen onze privacy en het bestrijden van steeds slimmere misdadigers.

[bzzzt]

Je stelt hier dat boeven 'steeds slimmer' worden, dat durf ik wel te betwijfelen. Ze zoeken hooguit paden die minder opvallen, maar die gaan we altijd houden. Zelfs als je een paardenmiddel inzet als het verbieden van alle vormen van encryptie waar we feitelijk allemaal de dupe van worden houd je nog mogelijkheden als bv steganografie om onopgemerkt te blijven. In mijn optiek zijn dit soort maatregelen slechts voor de bühne (want we moeten "iets" doen, ongeacht of het werkt) en een lose-lose voor zowel de opsporing als voor onze veiligheid (encryptie beschermt ons ook tegen 'boeven'!)

Mijn cynische conclusie is dat als het niet helpt, maar er toch hard aan getrokken wordt er andere belangen in het spel zijn. Dan kom je meer in politieke machtsspelletjes terecht (iedereen wil graag meer invloed op het internet en als/bij big tech). Denk je echt dat op dat nivo ook maar iemand zich druk maakt over 'eenvoudige' misbruikzaken?

[Aldy]

Misschien worden de boeven niet slimmer, maar ze huren steeds vaker mensen in die heel slim zijn en een stap voorliggen op de opsporingsinstanties. Boeven hebben heel veel geld te besteden, vaak meer dan de betreffende overheid. Onze overheid heeft zich op het standpunt gesteld dat end-to-end encryptie gehandhaafd blijft, vandaar ook die client-side scan voordat het verstuurd wordt.

Dat je cynisch en waarschijnlijk ook sceptisch bent, vind ik begrijpelijk. Dat de politiek met deze zaken te maken heeft, s logisch omdat iemand de verantwoording daarvoor moet nemen. Tenminste als de bewindslieden het zich kunnen herinneren, dan.
Op het niveau van de grote jongens op big tech gebied denken ze maar aan één ding en dat is geld. En dan is het cirkeltje rond, want dan zijn we weer bij de (witte borden) boeven.

[bzzzt]

Onze overheid heeft zich op het standpunt gesteld dat end-to-end encryptie gehandhaafd blijft, vandaar ook die client-side scan voordat het verstuurd wordt.

Sprekend over valse tegenstellingen, ze zouden prima voor geen van beide kunnen kiezen. Er zijn andere manieren om te rechercheren.

Hoe verhoudt client side monitoring zich dat tot het recht op privacy waarvan onze overheid heeft gezegd dat het een fundamenteel mensenrecht is?
En hoe gaat dit niet leiden tot een compleet dichtgetimmerd soft- en hardware ecosysteem? Want als je client side scans wil verplichten zal je ook iets moeten doen tegen het hacken van de client om de scan uit te zetten (aka remote attestation). Zeg maar dag tegen open source, rootkits, adblockers en right to repair. (en eigenlijk tegen zelfgebouwde computers in het algemeen of in ieder geval de vrijheid ze met het internet te mogen verbinden)

[Reactie gewijzigd door bzzzt op 22 juli 2024 16:39]

[Aldy]

Hoe verhoudt client side monitoring zich dat tot het recht op privacy waarvan onze overheid heeft gezegd dat het een fundamenteel mensenrecht is?

Volgens mij wordt ons recht op privacy hiermee niet geschonden, aangezien er alleen gescand wordt en niets bewaard. Behalve als er verdachte opnamen tussen zitten. Tot het moment van verdachte opnamen komt er geen mens aan te pas en wordt je recht niet geschonden.

[bzzzt]

Dus je privacy is alleen belangrijk als er iets bewaard wordt?
Mag ik dan nu even al je bankgegevens doorzoeken? Ik beloof je dat ik ze alleen bekijk, tenzij je twijfelachtige aankopen doet...

[Aldy]

Nee, want jij slaat wel op. Dat is het verschil met een algoritme.

[curkey]

Ten eerste wat jij bespreekt wil niemand hiermee weten. Dus je teksten zijn veilig, want die worden niet gescand.

Oneens, er zullen best prima gesprekken zijn waar derden in geinsteresseerd zouden zijn. Dat het vooralsnog niet gebeurt wil niet zeggen dat het eerste gedeelte niet waar is.

Daarnaast, met de scanner software op zijn plek, is het precedent geschapen: het is maar een kleine stop om dan ook teksten te gaan scannen. Want wie weet geef je wel goede hints over de "veboden bestanden".

Ten tweede is er niemand geïnteresseerd in wat voor plaatjes jij verstuurt, behalve als volgens de scan gedacht wordt dat het kinderporno betreft.

Oneens. Het grootste deel is wellicht oninteressant, maar niet 100%.

Ten derde blijven jouw plaatjes privé, net alsof er geen scan heeft plaatsgevonden. Er wordt nergens iets bewaard, behalve op jouw telefoon en op de telefoon van de ontvanger. Zolang de ontvanger het niet meer verder deelt, natuurlijk.

Zie de posts van Erik, met name de link naar security.nl. Je zou je eens moeten verdiepen in hoe big data veel informatie geeft over een hele populatie, dus ook over dingen die een bepaalde client niet verstuurt.

Daarnaast wederom een verwijzing naar de kosten die het de gebruiker oplevert aan CPU performance, storage, dataverbruik, electriciteit, wachttijd en wat dies nog meer zij, alleen maar om een whopping 0.01% false positives op te leveren en potentieel tot anderhalve arrestatie te leiden van een knurft die geen fatsoenlijke encryptietools heeft gebruikt.

[Aldy]

Oneens, er zullen best prima gesprekken zijn waar derden in geinsteresseerd zouden zijn.

Wel even goed lezen. Er staat niet dat niemand geïnteresseerd is in jouw gesprekken, er staat dat hiermee niemand wil weten. Want er worden geen teksten gelezen.

Oneens. Het grootste deel is wellicht oninteressant, maar niet 100%.

Ik weet niet wat voor plaatjes jij verstuurt, maar ik kan je verzekeren dat mijn opnamen voor 100% oninteressant zijn, ook die van mijn kleinkinderen.

Zie de posts van Erik, met name de link naar security.nl. Je zou je eens moeten verdiepen in hoe big data veel informatie geeft over een hele populatie, dus ook over dingen die een bepaalde client niet verstuurt.

je zou je eens moeten inlezen in dit onderwerp, dus client-side scan. Daar wordt niets van bewaard, dus geen data, laat staan big data.

anderhalve arrestatie te leiden van een knurft die geen fatsoenlijke encryptietools heeft gebruikt.

Ik begrijp dat jij wel fatsoenlijke encryptietools gebruikt?

[Crazy Harry]

Nou nou, @bzzzt noemt toevallig de verkeerde affaire, al zie ik de relevantie wel.
Het UWV heeft wel een hoop ellende veroorzaakt door te bespioneren. En het UWV ging gewoon door terwijl van binnen de organisatie aangegeven werd dat het niet kan wat ze deden.

Dit nadat verschillende overheidsdiensten, waaronder het uwv, jaren eerder al eens op de vingers waren getikt voor het gebruik van SyRi.
Daar heb ik overigens nog niets over gehoord, dat er iets gedaan wordt voor de gedupeerden...

Maar je snapt het punt toch hopelijk wel dat gemaakt wordt? De schade aan onschuldigen is door overheidsspionage, systemen met algoritmes, etc., vaak (veel) groter dan de positieve invloed die het zou moeten hebben.
Dus ik steun zijn vraag: Wanneer leren we daar nou verdorie eens van?
Want dit klinkt inderdaad weer als een opmaat naar een dergelijke affaire.

[Aldy]

Ik dacht eerst dat jij als @Crazy Harry op Dirty Harry reageerde, maar het tegendeel is waar. Het UWV is zeker een heel goed voorbeeld hoe het niet zou moeten. Schaamteloos.

Daar heb ik overigens nog niets over gehoord, dat er iets gedaan wordt voor de gedupeerden...

Integendeel, gedupeerden die gesnapt zijn met de verboden software zijn "terecht" gekort. Bij de rechter zou zoiets niet eens kunnen. Als de rechter constateert dat er illegale dingen gebeurde bij de opsporing, dan is dat ontoelaatbaar. De rechtstaat is in deze ver te zoeken

Want dit klinkt inderdaad weer als een opmaat naar een dergelijke affaire.

In dit geval lijkt mij dit geen opmaat. Neemt niet weg dat er het nodige illegaal gebeurt (zoals het UWV) en daar maak ik mij meer zorgen over. Dit gebeurt in het geniep.

[Fiander]

Heb je zelf kinderen ?
Die vinden in de zomer het fijn in een zwembadje te spelen.
leuk toch? Nou maak je wat foto's daarvan en die stuur je naar je man/vrouw....

En opeens is het account op je telefoon of je googledrive / onedrive account geblokkeerd...
mocht je denken dat gebeurt niet... ha, veels te vaak, is zelfs een Tweakers moderator gebeurt dacht ik,

PostNL kijkt toch ook niet in elke brief of pakketje wat je verstuurt? Waarom is dit anders?

[Aldy]

PostNL kijkt toch ook niet in elke brief of pakketje wat je verstuurt?

Brief niet, maar pakketje soms wel. Briefgeheim geldt niet voor pakketjes.

En opeens is het account op je telefoon of je googledrive / onedrive account geblokkeerd...

Daarom moet er bij een verdenking een persoon aan te pas komen. Maar net zomin dat elke naaktfoto porno is, is niet elke naaktfoto van een kind kinderporno.

[mikedhanpat]

Soms is hier het sleutelwoord. dat is namelijk niet gelijk aan alle afbeeldingen van iedereen scannen op vermeend KP.

Daarbij, zoals al vaker aangehaald, lost dit het probleem niet op, maar is het een reactieve maatregel. Ze moeten het bij de bron aanpakken. Laat Interpol een taskforce opzetten en infiltreer het darkweb en focus je op daar waar het materiaal ontstaat.

[curkey]

Precies, en recentelijk zijn er best wat successen geboekt met het kraken van dingen, gezien de grote drugsvangsten en dergelijke.

De foute servers en services moeten gesloopt worden, niet de samenleving.

[Aldy]

De drugsvangsten zijn niet dankzij het darkweb gedaan, maar via het kraken van versleutelde telefoons. Dus wel even bijblijven en niet zomaar iets schrijven.

[curkey]

Meerdere acties hebben ze gedaan, dus zowel servers als clients. Een eerste voorbeeld:
nieuws: Politie keek mee met chatberichten van criminelen door toegang tot se...

[Aldy]

Duhhuh. Die servers waren toch gekoppeld aan die telefoons.

[Aldy]

Interpol en Europol hebben daar al taskforces voor, dus waarom niet op meer plekken dit zien te voorkomen.

[White Feather]

Onzin.

Deze scan is het vergelijken van de foto die je verstuurt met een database met bewezen kinderporno-foto's.

De foto van jouw kind geeft dus echt geen hit op die database of wordt 'gelezen door AI".

Het is alleen de vraag waar het nut zit.

Als dit komt op Whatsapp, dan gaan de mensen die dit delen naar Signal. Als dit op Signal komt, dan is er weer wat anders waar ze gebruik van maken.

[Fiander]

Bewezen kp foto's
https://www.rtlnieuws.nl/...rige-vriendin-kinderporno

Of deze :
https://www.rtlnieuws.nl/...rno-aangifte-geen-excuses
foto speciaal gemaakt voor een dokter KAN niet in een kp-database zitten.

Bewezen kp, ja hoor klopt helemaal. Ik geloof het niet.

Wat porno is, ligt helaas helemaal bij degene die de foto bekijkt. En het gaat hier om Amerikaanse bedrijven. Dus hun definities.
Waar wij ( Nederlanders ) geen moeite hebben met een topless 14 jarige op een strand, ( als in: boeie ) steigeren Amerikanen al bij een half ontblootte tepel tbv voeren van een baby.

[White Feather]

2x Verenigde Staten

Dit is eigen AI van de firma’s zelf en dat heeft dus helemaal niets met het systeem te maken waar de minister het over heeft.

Dat is gewoon aan de hand van een database met bewezen beelden, zoals ik al zei.

Dan moet je niet met iets totaal anders aankomen om je gelijk te willen krijgen.

[Fiander]

Goed dat je het gelezen hebt.

Nou, omdat je de moeite niet neemt. hier een paar hoogte punten.
=============
Opeens kan Mark niet meer in zijn Microsoft-account. Zijn Hotmail is ontoegankelijk, net als de tienduizenden foto's in opslagdienst OneDrive. Microsoft vertelt hem niet waarom het bedrijf zijn account heeft gesloten. Tot tijdens een rechtszaak het antwoord komt: een foto van zijn 19-jarige ex-vriendin is aangemerkt als kinderporno.

Mark is één van de zeker honderden Nederlanders waarvan Microsoft de afgelopen jaren het account sloot, zonder te vertellen waarom.

Omdat alle deuren dicht blijven, ziet Mark geen andere optie: in oktober stapt hij naar de rechter. Begin december, een paar dagen voor de rechtszaak in Utrecht, komt de aap uit de mouw. "Mijn advocaat belde: 'Microsoft zegt dat je een kinderpornografische foto op je OneDrive hebt staan'.

Hoe Microsoft kinderporno detecteert
Microsoft detecteert beelden van kindermisbruik met software die PhotoDNA heet. Deze software herkent beelden die eerder al zijn gemarkeerd als kinderpornografisch.

De achterliggende databases zijn in beheer van de Internet Watch Foundation en NCMEC, twee organisaties uit Engeland en de Verenigde Staten die de verspreiding van beelden van kindermisbruik proberen te stoppen.

PhotoDNA scant alleen afbeeldingen die Microsoft-klanten actief versturen (bijvoorbeeld via e-maildienst Outlook.com) of die mensen in een gedeelde map van opslagdienst OneDrive opslaan. Dat laatste is ook het geval bij een automatische back-up vanaf een smartphone.


Zijn ex-vriendin deelt een kopie van haar paspoort en intieme foto's die voldoen aan Microsofts omschrijving met de rechtbank. "Ik herinner mij goed dat ik zulke foto's naar hem gestuurd heb", verklaart ze. "Ik weet 100 procent zeker dat ik op dat moment al volwassen was."
===========================


Dus samengevat: Mark word op basis van een foto in een database beschuldigd. Kan alleen via een rechtszaak überhaupt achterhalen wat er aan de hand is, en zijn ex, die op de foto stond, was op moment dat de foto gemaakt is meerderjarig. MS gebruikt helemaal geen AI om deze foto's te herkennen, maar een foto-hash ( resolutie naar vaste resolutie brengen ( zeg 80x80) en daarna zowel een horizontale als een verticale fast fourier transformatie. dat levert een waarde op welke voor elke foto bijna uniek is. en met deze hash word in een database gezocht welke buiten MS beheerd wordt.

Wat denk je dat Whatsapp moet gaan doen? zelf een db aanleggen, of aanhaken op iets bestaands, wat vanuit ons oogpunt bewezen fout zit, maar vanuit de overheid bewezen goed is?


p.s. ben het wel eens hoor met je punt dat mensen (de daders) verhuizen naar een platform welke zich wel aan de privacy houd. Zoals met alle technologie en regels tegen boeven, je hebt er alleen onschuldige mensen mee.

[curkey]

Dus als de overheid nu elke autorit iemand naast je in de auto zet en die bijhoudt hoe hard je rijdt en waar je heen gaat en met wie je spreekt en of je adem naar alcohol ruikt?

[Aldy]

Overdrijven is ook een vak, maar wel een heel speciaal vak.

[curkey]

Een vergelijking begrijpen in plaats van letterlijk nemen is ook een vak.

Wat is het principiële verschil tussen een soort halfbakken Net Nanny die ieder en elk bericht dat je post langs de meetlat legt, of iemand die tijdens het rijden jou continu in de gaten houdt?

En maak van die fictieve persoon dan eens -in je gedachten- een black box, oftewel een kastje in je wagen. Zover zitten we er niet vandaan. Eerst eentje om te oefenen, door wat korting op je verzekering te ritselen. Straks eentje voor het rekening rijden, en zo voorts.

[Aldy]

Even bijblijven: de meeste nieuwe auto's zijn al voorzien van een soort black box. Vrachtwagens zijn er zelfs al tientallen jaren mee uitgerust.
Daarom is iemand die naast je zit in je auto om te noteren wat je doet gewoon een domme vergelijking.

[curkey]

Je moét gewoon gelijk krijgen he, en daarom neem je mijn vergelijkingen letterlijk

[Aldy]

Als je ze niet letterlijk bedoelt moet je dat erbij schrijven. Daarom schreef ik ook dat je overdrijft.

[delphium]

En als de overheid er alles aan doet om zoveel mogelijk deze ongelukken te voorkomen, waarom zullen we dan niet proberen om het de mensen die kinderporno delen het zo moeilijk mogelijk te maken.

Nou, bijvoorbeeld omdat de overheid daarmee de privacy van letterlijk alle andere mensen schendt. En omdat de focus zou moeten liggen op het voorkomen van de productie in plaats van het delen. Net zoals de focus ligt op het voorkomen van ongelukken en niet op het scannen van de veroorzakers.

Zie je in dat je logica niet klopt? Dit is precies waarom ik me ernstig zorgen maak.
Er zijn mensen die de simpele regels van deductie, reductie en abductie, niet kunnen toepassen, maar wel een ministerspost bekleden.

[Aldy]

De overheid schendt jouw privacy helemaal niet. Zij eisen alleen van de bedrijven dat zij een scan van foto's doen (en niet eens van tekst) en als de foto's geen kinderpornografische afbeeldingen vertonen, dan wordt het encrypted verzonden.

[Crazy Harry]

Het gaat om communicatie die personen uitvoeren zoals @delphium, natuurlijk wordt zijn privacy dan geschonden. Net zo goed als de jouwe, en de mijne.

Een plaatje zegt meer dan 1000 woorden, dus waarom is het dan niet erg wanneer een plaatje wel gescand wordt en een tekst niet?

[Aldy]

dus waarom is het dan niet erg wanneer een plaatje wel gescand wordt en een tekst niet?

Ik begrijp wat je bedoelt, maar de opname wordt alleen gescand op kinderporno en het wordt 'vergeten' zodra het in orde is bevonden.

[Fiander]

https://www.rtlnieuws.nl/...rno-aangifte-geen-excuses

Een foto mag dan meer zeggen dan 1000 woorden, het bevat absoluut geen context. En zolang acound zonder hoor en wederhoor geblokkeerd worden, en je dan niet eens te horen krijgt wat er aan de hand is.

[Aldy]

Het probleem zit hierbij niet in de software (werkt goed), de medewerker (die herkende de uitslag niet), de politie (die zag er geen strafbaar feit in), maar bij de halsstarrige houding van Google.

[MKoot]

Ik kom het nooit tegen. Ik denk dat verreweg de meeste mensen het ook nooit tegenkomen.

Wat je niet ziet bestaat niet?

Ik heb een onderzoek voorgelegd waaruit blijkt hoeveel misbruik voorkomt en dat Nederland er een grote rol in speelt. Dat lijkt me relevanter dan je eigen anekdotische data.

Zoals ik al benadrukt heb denk ik ook niet dat client-side scanning de oplossing is. Maar ik vind jouw opmerkingen onnodig het probleem van kindermisbruik bagatelliseren. Je doet alsof het slechts een probleem op microniveau is, maar dat klopt niet — zoals onderzoek dus ook uitwijst.

Overigens is de kans dat je een keer per ongeluk wraakporno of non-consensual porno hebt gezien als je op normale pornosites als PornHub zit niet onaanzienlijk. Gelukkig doen sites iets nu meer om dat te voorkomen, maar in 2020 was er een groot onderzoek waaruit bleek dat er allemaal misbruikmateriaal op die sites stond (lees dit artikel).

[curkey]

De vraag is of de voorgestelde maatregelen ook maar iets verschil gaan maken. Ik denk van niet namelijk, om redenen die al genoemd zijn (bv. criminelen die een eigen platform ontwikkelen zonder deze "ballast").

De gewone/onschuldige gebruikers worden dan uiteindelijk disproportioneel opgezadeld met maatregelen die veel impact hebben op privacy, performance, storage, gebruiksgemak, etcetera, zonder dat daar een signifcant voordeel aan vastzit. Kort gezegd: het middel lijkt erger dan de kwaal.

Als kers op de taart kunnen deze maatregelen vervolgens ook nog een stap verder gaan, en ingezet gaan worden voor andere onwelgevallige zaken die voor de overheid in kwestie op dat moment relevant zijn.

Vroeger had ik zoiets wat makkelijker weggelachen, want een fatsoenlijke democratie doet zoiets toch immers niet? De ontwikkelingen van de afgelopen jaren doen echter vrezen voor het tegendeel. Het gaat langzaam genoeg dat mensen er geen erg in hebben.

[nst6ldr]

Dat is allemaal wel mooi, maar je raakt daarmee niet de kern van @MKoot z'n reactie: wat is dan wél de oplossing? Je kan niet verwachten van een beleidsmaker dat ze er voldoende inhoudelijk verstand van hebben om zelf met een oplossing te komen, daar komt bij dat niemand zit te wachten op het maken van aanpassingen in zijn of haar product want dat kost geld/FTE dus van de markt hoeven we ook geen oplossing te verwachten.

[alwuzomondo]

- Preventie: Weten wat kinderporno is, dat het bestaat en sommige mensen dit willen hebben, en daarover voorlichten.
- Veer misbruik komt voor in gezinssituaties met 'multi-systeem problematiek', dus fix de jeugdzorg en herstel maatschappelijk werk
- In welke situaties en hoe te voorkomen, voorbeeldje: als ergens professioneel met kinderen wordt gewerkt, beleid opstellen dat een volwassenen zich niet met een kind kan terug trekken
-Eenvoudig KP kunnen melden,
-Tips ook echt natrekken en voldoende capaciteit en prioriteit bij opsporing door zedenrecherche en OM.

Klinkt er saai allemaal en kost geld. Maar client-side scanning is het zoeken naar een technologische oplossing voor een maatschappelijk probleem. In dit geval ééntje met zeer grote maatschappelijk gevolgen:

1) Namelijk het afschaffen van effectieve end-to-end encryptie. De minister mag dan anders beweren, maar alle plaatjes die jij stuurt gaan gescanned en eventueel gerapporeerd worden door software van een 3e partij waar jij niets over te zeggen hebt. Hiermee is 2e2-encryptie dus stuk. Ook gaat hier een zeer sterke precedent werking van uit naar allerlei repressieve regimes, die ook CSC zullen invoeren, maar dan meteen voor een hele reeks doelen naast KP.

2) Omkering bewijslast (werd hierboven ook al genoemd), zie na een false-positive maar eens je onschuld te bewijzen.

3) KP is niet eenduidig, het is veelal context afhankelijk. Sexting tussen pubers onderling is geen KP en is ook geen probleem. Sexting van een puber naar een volwassen die het beeldmateriaal door verkoopt is een heel groot probleem, maar kan precies hetzelfde plaatje zijn. Een CSS algoritme snapt dit soort contexten niet, terwijl deze juridisch zeer relevant zijn

4) Glijdende schaal: Na KP volgt terrorisme, dan voetbalhooligans, dan klimaat activisten en dan ieder ander met kritiek op de regering.

5) Het eigendomsrecht wordt aangetast, jou apparaten zijn opeens verplicht om scanning software te draaien waar je zelf niets over te zeggen hebt. Je zou zelfs kunnen argumenteren dat het strijdig is met het nemo tenetur-beginsel, dat je niet verplicht kunt worden aan je eigen opsporing mee te werken. (art. 6 EVRM)

6) Bedreiging voor opensourcesoftware, jou devices zullen niet meer de software van jouw keuze kunnen draaien. CSS software bestaat om jou te controleren en zal closed source zijn, als het opensource zou zijn is het makkelijk te omzeilen. Daarmee draait CSS uit op een verbod op opensource devices.

7) Focus ligt op opsporing van beeldmateriaal, niet op het terug dringen van kindermisbruik. Wat mij betreft compleet de verkeerde prioriteit. Ook loop je straks het risico dat de CSS-algoritmen en opsporingscapaciteit worden overspoeld met door AI gegenereerde KP, waar geen kinderen voor misbruikt zijn.

[NotWise]

Ben het op alle punten met je eens. Zoals gewoonlijk doet de overheid weer aan symptoombestrijding. We kampen met allerlei problemen in dit land en komen vaak niet verder dan praten op TV (hoe het allemaal zou moeten) het ophangen van camera's en het scannen van alle burgers. Dde goeden moeten onder de kwaden lijden.

[Jrz]

Gewoon alle ministers massaal van die troep sturen. Dan worden zij gemarkeerd, zien ze van zelf wel hoe vervelend het allemaal is.

Het jaagt de misbruikers gewoon naar andere methoden, en wij zullen de dupe blijven. Sterker nog, het begint met hashes, en vervolgens ai/beeld herkenning. Nou dank je

Laat de overheid eerst maar zelf openheid van bestuur geven, een fatsoenlijk berichten activeren zodat ze kunnen worden bekeken

[Super_Fred]

wat is dan wél de oplossing?

Alle denkbare oplossingen zijn 'eng'. Je zou dit al in de camera zelf kunnen detecteren (digitale camera's, ook die in smartphones welteverstaan). Of ingebakken in het bestandssysteem (die foto's worden immers uiteindelijk op een medium opgeslagen) , of via virusscanners (al dan niet met behulp van PhotoDNA). Op die manier pak je dit al bij het bronapparaat aan. Deze detectie zou je dan voor alle nieuwe apparaten verplicht moeten stellen. Moet je dit willen? Nee. Zijn het mogelijke oplossingen? Misschien. Immers, ik denk dat de mensen die dit soort foto's interessant vinden, helemaal geen gebruikmaken van bijvoorbeeld WhatsApp.

[dmjdebruin]

Wat is dan wél de oplossing?

Wat de oplossing is staat totaal los van of deze voorgestelde oplossing wenselijk is of niet.

Wat al jaren wordt geroepen, als de huidige mensen meer informatie hadden gehad, dan hadden ze niet meer criminaliteit en terrorisme tegen kunnen houden. Vaak was de informatie er al wel, maar werd het niet herkent. De hele redenatie achter de sleepwetten is meerdere keren als drogredenen verklaard.

Terwijl we tegenwoordig al door Google standaard uit onze accounts worden gegooid als je een naaktfoto van je neefje hebt in het zwembadje bij je zus.

Vroeger probeerde de regering en het opsporingsapparaat gewoon toegang tot deze gegevens te krijgen, toen ze merkten dat mensen er terecht niet gevoelig voor waren gingen ze het over een andere boeg gooien. Vroeger: Terrorisme is eng toch? Nu mensen er niet meer bang voor zijn: Kinderporno is toch erg? Dat moet toch stoppen?
Geef ons dan de dingen die jullie nu niet willen geven als we niet over Kinderporno praten.

Het is zo doorzichtig en eng dat mensen dat niet doorhebben.

Wil je echt verder die kant op en mij en velen overtuigen:
Geef eerst maar eens een overzicht welke maatregelen er genomen zijn de afgelopen 10-20 jaar in het kader van opsporing van o.a. terrorisme, zware criminaliteit en kinderporno en hoe deze middelen uiteindelijk ingezet zijn waarbij maatregel gerelateerd wordt met de winsten op dit terrein.

[Reactie gewijzigd door dmjdebruin op 22 juli 2024 16:39]

[Aldy]

Ik denk dat de beleidsmaker die wel voldoende inhoudelijk verstand van zaken heeft inmiddels in het bedrijfsleven werkzaam is. En zoals je al schreef hoef je van de markt niets te verwachten.
Een echte oplossing is er op korte termijn niet en aangezien kinderporno vaker voor komt dan men denkt (vandaag weer in het nieuws / kinderoppas) lijkt mij client-side scanning op dit moment een goed idee.

[curkey]

Ik heb daar ook geen pasklare optie voor, maar wat is het nut van een maatregel invoeren waarvan je al weet dat het niks doet aan het probleem dat je wil oplossen, en zeer ongewenste bijeffecten heeft bij de andere partij?

We kunnen bijvoorbeeld alle auto's verbieden, dan heb je ook geen auto-ongelukken meer.

[robertlinke]

Je kan niet verwachten van een beleidsmaker dat ze er voldoende inhoudelijk verstand van hebben om zelf met een oplossing te komen

dan moeten ze naar de adviezen van experts luisteren, en werkelijke oplossingen implementeren na advies van deze experts. niet gewoon maar een beleid gaan uitvoeren dat leuk klinkt maar niets doet. natuurlijk kan een bewindspersoon niet alles weten. maar waar zij verantwoordelijk voor zijn is het toch wel belangrijk dat ze zich laten informeren door mensen die de benodigde kennis wel hebben

[MKoot]

De vraag is of de voorgestelde maatregelen ook maar iets verschil gaan maken

Daar ben ik het mee eens. Zoals ik ook al benadruk in mijn reactie. Maar dat betekent niet dat het probleem daarom “niet groot” is en er nou eenmaal gewoon bijhoort. Nederlandse infrastructuur speelt een zeer grote rol in het faciliteren van kindermisbruikmateriaal en we moeten dus serieus naar onszelf kijken en naar praktischere oplossingen zoeken.

[HuisRocker]

Het onderwerp is echter niet "Nederlandse infrastructuur" (lees: Nederlandse servers) maar 'de persoonlijke apparatuur van Nederlanders' (lees: smartphones/PC's/etc.)...

En ja, als die servers aangepakt worden heeft dat gegarandeerd heel veel meer effect, maar nogmaals; daar gaat het hier dus duidelijk niet om.

Zoals in het artikel gequote:
"Client-side scanning lijkt de enige manier waarop de maatregelen in de verordening ten aanzien van interpersoonlijke communicatiediensten kunnen worden uitgevoerd zonder end-to-endencryptie onmogelijk te maken."

[MKoot]

Ik reageerde specifiek op de reactie van Honey. Die ging over het probleem van kindermisbruikmateriaal in het algemeen.

(Ik citeer: “Ook hier weer wordt gesproken over kindermisbruikmateriaal, alsof dat een groot probleem is.” En: “Kindermisbruik en het produceren van dergelijk beeldmateriaal zal altijd bestaan, zolang er kinderen zijn. Het is verschrikkelijk, maar het volledig uitbannen is onmogelijk. We moeten accepteren dat dit een realiteit is, net zoals een volledig pijnvrij bestaan niet altijd haalbaar is.”)

En daar viel ik over. Je kunt prima beredeneren dat client-side scanning niet effectief is en andere nadelen heeft, zonder daarbij het daadwerkelijke probleem van kindermisbruik te minimaliseren.

[HuisRocker]

Dat is een semantische discussie, het tegenovergestelde is immers ook waar; als je (om wat voor reden dan ook) aan cliënt-side scanning wil gaan doen moet je wel met een zwaarwegend doel komen dat het label 'genoeg impact gegarandeerd' draagt, en dan blijven alleen de welbekende 2 opties over...

On topic is het vraagstuk of het standpunt van deze minister/dit kabinet überhaupt nog enige relevantie heeft in de toekomst.

[runaround]

Als kers op de taart kunnen deze maatregelen vervolgens ook nog een stap verder gaan, en ingezet gaan worden voor andere onwelgevallige zaken die voor de overheid in kwestie op dat moment relevant zijn.

Vroeger had ik zoiets wat makkelijker weggelachen, want een fatsoenlijke democratie doet zoiets toch immers niet? De ontwikkelingen van de afgelopen jaren doen echter vrezen voor het tegendeel. Het gaat langzaam genoeg dat mensen er geen erg in hebben.

Precies. Er zijn zo veel mensen die (bijvoorbeeld) nieteens controleren welke permissies apps zoals TikTok vragen, gewoon omdat ze de mogelijke gevolgen ervan niet inzien. Hetzelfde geldt in dit geval. Mensen vinden het een goed idee, maar bedenken zich niet dat dit de deur opent voor andere toepassingen.

[n4m3l355]

Kinder misbruik komt in 70% binnen de familie voor. Laat dat even inzinken en vraag je dan af of dit soort maatregelen niet volledig verkeerd gericht zijn.

Vervolgens dat men meer content vindt, wilt nog niet zeggen dat er meer gemaakt wordt. Het is goed mogelijk dat we dankzij nieuwe technieken gewoon meer kunnen vinden. Sterker nog als ik Google moet geloven is de sterke toename eerder het gevolg van kinderen die hun eigen foto's delen. Dat is dus niet het gevolg van misbruik.

Vervolgens (wederom even Google, ik ben geen specialist) ziet men een sterke afname in kinder misbruik over de afgelopen 20 jaar en zijn kinderen op dit moment veiliger dan ooit.

De realiteit is dat kindermisbruik er altijd zal zijn, maar dat heiligt niet alle middelen. En zoals ik ook al eerder aangaf, misschien dat men meer middelen en aandacht kan geven an prevalente gevallen die gewoon in ons midden gebeuren. Niet op het griezilige internet.

Drogredenen als ik me niet kan vinden in dit soort extreme middelen is geen aanzet dat we de politie moeten opheffen, het zou juist zo moeten zijn dat de politie gewoon beter zijn best moet doen. Zij hebben afdoende middelen (toon mij maar aan dat dit niet zo is). En maatregelen treffen betekend nog niet dat dit maatregelen tegen iedereen inclusief iedereen die onschuldig is. Of kun jij je ook vinden in een camera'tje thuis bij jou in je slaapkamer, lekker veilig nietwaar? Dit soort maatregelen slaan plan nog boord en net zoals camera's in onze steden, is het nog maar de vraag of dit uberhaubt tot een beter aanpak leid (camera's in onze steden overigens niet, kosten honderden miljarden met niet minder criminaliteit).

[comecme]

Kinder misbruik komt in 70% binnen de familie voor. Laat dat even inzinken en vraag je dan af of dit soort maatregelen niet volledig verkeerd gericht zijn.

Kindermisbruik binnen de familie zal meestal geen kinderporno opleveren. Client side scanning gaat om het opsporen van kinderporno, het gaat inderdaad niet helpen tegen andere soorten van kindermisbruik.

[DJ Henk]

Ik ben ook pro-privacy, maar je moet niet wegkijken voor de realiteit dat online kindermisbruik een zeer ernstig probleem is.

Het probleem is dat het argument van kinderporno (en terrorisme) zo ongelovelijk vaak misbruikt is, dat je bijna niet anders meer kan dan er cynisch op reageren. Vooral als een "law and order"-minister ermee voor de dag komt.

Als zo'n maatregel nou eens onderdeel was van een veelomvattend plan, gedragen en gepresenteerd door de echte experts, waarbij het hele probleem van voor tot achter geanalyseerd is, er voor elk onderdeel van het proces de juiste tegenmaatregelen in samenhang in stelling worden gebracht, ja dan zou ik de moeite nemen om niet cynisch te zijn als een van de laatste stappen bestaat uit het ondermijnen van de vrijheid op versleuteling.

Alleen een losse flodder die de graag meekijkende instanties toevallig goed uitkomt? Sorry, ik ben zonder verder onderzoek tegen.

[NoTechSupport]

De analogie met pijnbestrijding is interessant, maar beperkt.

• Technologie maakt het veel gemakkelijker om elkaar te vinden en te stimuleren om materiaal van kindermisbruik te maken, terroristische acties op te zetten, ...
• Als we deze houding aannemen zijn het niet alleen wij die moeten accepteren dat die realiteit er is, maar ook de slachtoffers natuurlijk.
• Er is veel nuance tussen een staat die totale controle heeft over zijn inwoners en waar alles wat je zegt gemonitord en geanalyseerd wordt en een staat waar we de ergste uitwassen opzoeken en een halt toeroepen. Kan het ene evolueren naar het andere? Ja, maar dat is eerder een argument om onze democratische instellingen en de controle op politie en geheime diensten te verstevigen, dan een argument tegen het bestrijden van extreem geweld.

[Reactie gewijzigd door NoTechSupport op 22 juli 2024 16:39]

[OruBLMsFrl]

Valse tegenstelling want niet iedereen volgt braaf de regeltjes van de staat. Keiharde criminaliteit is dit met jarenlange gevangenisstraffen. Je eindigt met massa surveillance op onschuldigen terwijl de schuldigen op hun eigen platforms zitten als private chat forums, tor sites, vpn, etc... je moet die als politie toch altijd al infiltreren, al het andere is op zijn best preventie en op zijn slechtst symboolpolitiek

[Aldy]

Natuurlijk zitten de die hards op hun eigen platform, maar ik denk dat er ook mensen zijn die net komen kijken. En die kun je misschien stoppen.

[OruBLMsFrl]

Die winst is haast geheel eenmalig, want eenmaal dat zulke scan technieken actief zijn, zul je zelfs in legitieme use cases als opsporing en zo meer, die platformen niet meer kunnen gebruiken. En als niemand het meer kan versturen zonder geblokkeerd of opgepakt te worden, dan kan al snel niemand het ook meer ontvangen. Ofwel: die gaan desnoods als alles heel goed werkt een keer de bak in voor bezit van materiaal een paar maanden, leren daar van alles, en al heel snel heb je in forums algemene berichtjes staan dat als je van wat jonger houdt, je echt platform X eens moet checken. Heel triest en jammer natuurlijk, en verwerpelijk . Maar zo werkt de wereld helaas wel en dit soort politiek moet toch ook de echte en pijnlijke problemen oplossen, ipv security theater te spelen en daarvoor dan ook nog bergen onschuldigen te tracken

[Reactie gewijzigd door OruBLMsFrl op 22 juli 2024 16:39]

[Aldy]

Ik ben het in grote lijnen met je eens. Overigens hebben zedendelinquenten en met name als het kinderen betreft het niet erg naar hun zin in de gevangenis.
Maar wat het tracken van onschuldigen betreft: geen kinderporno, niets aan de hand. Er wordt niets getrackt.

[OruBLMsFrl]

Volgens mij zijn we het ook in grote mate eens ja. En het is heel complexe morele materie.
Ik ben heel benieuwd hoe transparant zoiets zou worden en na een paar jaar nog zou blijven. DRM modules die zijn vaak ook vrij chatty over wat ze aantreffen op je systeem, confidence levels van hoe veilig je computer is. Want dat wordt natuurlijk het volgende, geroot toestel geeft mogelijk geen eerlijk antwoord -> bestempelen we maar eens als verdacht.
Heel mooie dingen worden bedacht als toezichtsraden, controle mechanismes en zo meer. Kijk je 10 jaar later bij driekwart van die instanties dan is het ons-kent-ons, herhaling op herhaling, en regelmatig belangenverstrengeling omdat mensen wederzijds zijn overgestapt en zo meer. Integriteit is een vak apart, je ziet de politie daar ook al intern mee worstelen. Niet om de boel op slot te zetten, maar zoals die CoronaMelder toen volledig open source en transparant gestart is, daar mogen ze dan hiervoor graag ook een voorbeeld aan nemen, tegelijk zijn heel veel zaken op je smartphone nu totaal niet open en transparant.

[Aldy]

Geen reactie, want ik kan mij in elke zin die je schreef vinden.

[Stoney3K]

Natuurlijk zitten de die hards op hun eigen platform, maar ik denk dat er ook mensen zijn die net komen kijken. En die kun je misschien stoppen.

Dat is een illusie, net zoals je geen heroïne-dealers gaat stoppen doordat je mensen verbiedt om te blowen op straat. Het ene is geen 'gateway drug' naar het andere, net zoals mensen die per ongeluk CSAM afbeeldingen vinden niet ineens de drang krijgen om kinderen te gaan misbruiken.

Mensen die er bewust, specifiek naar zoeken weten ook wel hun sporen uit te wissen.

[Aldy]

Dat is een illusie, net zoals je geen heroïne-dealers gaat stoppen doordat je mensen verbiedt om te blowen op straat.

Een vergelijking van niets. Om on-topic te blijven: mensen mogen niet meer naar porno kijken omdat ze anders van kinderporno kunnen gaan houden.

Mensen die er bewust, specifiek naar zoeken weten ook wel hun sporen uit te wissen.

Als dat zo zou zijn zou er geen misdadiger meer gepakt worden.

[curkey]

Dan wederom de vraag: zijn die voorgestelde maatregelen proportioneel tegenover het nadeel een de schade die je berokkent aan de onschuldigen?

Miljarden bestanden invasief scannen om één gek te vangen?

[Aldy]

Vertel eens welke schade mij berokkend wordt. Alleen opnamen worden gescand en er wordt niet eens door een persoon naar die opnamen gekeken (totdat er iets niet klopt).
En wie heeft het over miljarden en wie heeft het over één gek?

[curkey]

Vind je dat veel, miljarden? Whatsapp alleen al verstuurt zo'n 6.9 mrd plaatjes per dag. Bron https://photutorial.com/photos-statistics/.

Wat scant die tool precies? Hoeveel roze pixels er zijn? Nee, er is een database met hashes en die moet of lokaal staan, wat storage kost, of online, wat je MB kost. Verder vreet het cpu, en dus performance en stroom. Doe dat 10 miljard keer en je hebt een hoop CO2 geproduceerd voor de kat zijn viool. Lees: schade.

En wat als het ding een false positive geeft, en jij door de politie van je bed gelicht wordt terwijl de hele buurt meekijkt. Is dat geen schade?

Tenslotte de andere kant: hoe effectief gaat dat filter überhaupt kunnen zijn als het op de client moet draaien met weinig resources?

[Aldy]

Als jij door de politie van je bed wordt gelicht, dan is er al veel meer aan de hand dan onschuldige plaatjes versturen. En als jij denkt dat er wordt gescand op roze pixels, dan ben je wel heel simpel bezig. Sterker nog, meer dan de helft van de wereldbevolking is niet eens roze. Nee, de algoritme is iets inventiever.

[curkey]

Ik zeg juist dat het niet scannen op pixels is. Die methodes heb ik letterlijk voorbij zien komen in het begin van internet, toen bedrijven "filter" installeerden die pagina's blokkeerden met vooral Engelse begrippen. Het bekende verhaal dat meneer Dick de Cock geen mails meer kon versturen zeg maar.

Je noemt de algoritmes inventiever, maar ze zijn er nog lang niet. De false negatives zijn een dingetje, maar vooral de false positives kunnen nare consequenties hebben.

Jij bagatelliseert dat, maar in de andere comments kom je al real-life cases tegen van de ongewenste bij-effecten. Zoals mensen die uit hun OneDrive account gezet worden en hun familie-foto's nooit meer terugkrijgen.

Heb je de comments van Erik van Straten gelezen? De 0.01% false positives klinkt weinig, maar op 10 miljard plaatjes is dat 1 miljoen onterecht gevlagde items. Dat betekent dus, dat je van de 17 miljoen Nederlanders, er 1700 verdacht zou maken. Dat is onacceptabel veel.

[Aldy]

Die OneDrive problemen zijn allang weer recht gebreid. Dus oud en onjuist nieuws.
En die 1700 verdachten gaan eerst nog langs een mens, zodat alleen de werkelijk verdachten overblijven. En van die verdachten zijn er ook nog mensen die een verklaring voor bepaalde foto's kunnen overleggen.

[zenlord]

Kindermisbruik was er al lang voor het internet er was, net zoals terrorisme. Hoe wenselijk ook, je zal geen van beide ooit kunnen uitroeien, zelfs niet met massa-surveillance. En als je daarvoor de rechten en vrijheden van de onschuldige massa moet inperken, dan volg je Machiavelli met z'n "het doel heiligt de middelen".
Niet dus.

On topic: hoe organiseer je zo'n Client-Side scanning? Het lijkt me dat je daar maar twee opties voor hebt:
- ofwel verplicht je de platformbeheerders om hun clients aan te passen zodat deze kunnen scannen
- ofwel plaats je op de een of andere manier een scanner in de apparaten waarop de cliënt applicaties worden geïnstalleerd?

Ik kan het aanvaarden als dit tweede het gevolg zou zijn van een beslissing van een onderzoeksrechter in het kader van een lopend onderzoek naar 1 bepaalde persoon of groep personen. Maar niet met een 'blanket approach' waarbij alle toestellen of clients worden opengesteld tot dergelijke scanning.

[Stoney3K]

Kindermisbruik was er al lang voor het internet er was, net zoals terrorisme. Hoe wenselijk ook, je zal geen van beide ooit kunnen uitroeien, zelfs niet met massa-surveillance. En als je daarvoor de rechten en vrijheden van de onschuldige massa moet inperken, dan volg je Machiavelli met z'n "het doel heiligt de middelen".
Niet dus.

On topic: hoe organiseer je zo'n Client-Side scanning? Het lijkt me dat je daar maar twee opties voor hebt:
- ofwel verplicht je de platformbeheerders om hun clients aan te passen zodat deze kunnen scannen
- ofwel plaats je op de een of andere manier een scanner in de apparaten waarop de cliënt applicaties worden geïnstalleerd?

En wat ga je precies doen wanneer die client-side scanning ófwel door een storing onmogelijk is, of door technische maatregelen doelbewust wordt gedwarsboomd? Ga je dan iedereen die je niet kan scannen direct criminaliseren? Of ga je dan het sturen van plaatjes/filmpjes onmogelijk maken tot er weer gescand kan worden?

Beiden lijken me enorm onwenselijk.

[n4m3l355]

Je mag je ten eerste afvragen ga je hier inderdaad succes boeken, als ik lees dat de Boston bombers met SMS met elkaar in gesprek waren en de FBI heeft ze volledig gemist, maak ik me sterk dat enerzijds de overheid in staat is met betere tools deze geavanceerde manieren van communicatie te volgen en anderzijds überhaupt nu succesvol is.

Ook mag het misschien zo zijn dat deze vormen van techniek worden misbruikt, maar mijn afzien van power naar de overheid betekend niet dat ik misbruik goed vindt maar net zo min dat ik surveillance ergens dan ook maar acceptabel vindt.

Dat de overheid maar even iedereen client side gaat monitoren is uiteindelijk toch wel iets waar de Gestapo trots op zou zijn. Dit is letterlijk net, zo erg als wat hier in China gebeurd.

Ik ben onschuldig. Daar dient de overheid eerst vanuit te gaan. En iedere vorm van inbraak op mijn privacy is een stap te ver. Ze hebben helemaal niets te zoeken wat ik doe al mag ik de meest vieze dingen doen die je maar bedenkt. De overheid dient eerst maar bewijs te vinden dat dit zo is en via de rechter dan verder toegang te verkrijgen.

Maar wat mevrouw hier toch presenteert waar iedereen ambtenaar een natte doos van krijgt in Den Haag geeft mij toch totaal nul vertrouwen in de overheid noch in haar eigen kunnen. Of zij is gewoon dom, of zij heeft het niet op mijn privacy, links of rechtsom totaal ongeschikt in een positie met zoveel macht.

[honey]

De analogie met pijnbestrijding is interessant, maar beperkt.
• Technologie maakt het veel gemakkelijker om elkaar te vinden en te stimuleren om materiaal van kindermisbruik te maken, terroristische acties op te zetten, ...

Ook andersom. Dat technologie het gemakkelijker maakt, wil nog niet zeggen dat je het op deze manier moet inzetten. Je begeeft je op een glijdend vlak en voor je het weet bevind je je in een situatie waar je als mens niet wilt zijn.

Een voorbeeld uit de geneeskunde is de medicalisering van het normale leven. We zien nu al dat mensen het steeds lastiger vinden om normale veroudering en risico's te accepteren. Het gevolg is dat we massaal medicijnen slikken en proberen door middel van duur onderzoek en overbodige ingrepen het normale te beïnvloeden. Of dit uiteindelijk zal leiden tot een gelukkiger bestaan? Ik betwijfel het.

• Als we deze houding aannemen zijn het niet alleen wij die moeten accepteren dat die realiteit er is, maar ook de slachtoffers natuurlijk.

Ja, dat klopt. We leven helaas in een wereld waar ellende ook onderdeel is van ons bestaan. Acceptatie wil niet zeggen dat je het maar passief moet ondergaan. Je kunt wel de kansen op ellende zo veel mogelijk proberen te voorkomen, zolang het proportioneel is. Dat is ook een ethische afweging.

• Er is veel nuance tussen een staat die totale controle heeft over zijn inwoners en waar alles wat je zegt gemonitord en geanalyseerd wordt en een staat waar we de ergste uitwassen opzoeken en een halt toeroepen. Kan het ene evolueren naar het andere? Ja, maar dat is eerder een argument om onze democratische instellingen en de controle op politie en geheime diensten te verstevigen, dan een argument tegen het bestrijden van extreem geweld.

Het blijkt dat overheden niet altijd het juiste doen. Als burger heb je ook een verantwoordelijkheid om je democratische vrijheid te verdedigen. Dat het snel kan gaan van acceptabel naar totale onderwerping, zie je in verschillende landen. Als voorbeeld uit de geneeskunde: een snelle verslechtering van je gezondheid zal iedereen opmerken en je zult je snel bij een arts melden. Een geleidelijke verandering merk je vaak pas te laat op en dan kan het soms al te laat zijn om het terug te draaien. Zo is het ook met dit soort surveillancemaatregelen. Je moet er vroeg bij zijn om je rechten te verdedigen. Doe je het te laat, dan is het wellicht onmogelijk om het nog terug te draaien. Willen we deze weg op als mensheid?

[Reactie gewijzigd door honey op 22 juli 2024 16:39]

[Verdant]

Ook hier weer wordt gesproken over kindermisbruikmateriaal, alsof dat een groot probleem is.

Kleine opmerking: De gequote zin doet het lijken alsof je vindt dat het maken en verspreiden van kindermisbruikmateriaal geen groot probleem is. Dat is het natuurlijk wel, want elk kind dat misbruikt wordt en dan ook nog op beeld vastgelegd wordt is er een teveel. De rest van je reactie brengt nuance aan, maar ik denk dat het wellicht beter is om daar iets van te maken in de trant van "Ook hier wordt kindermisbruik weer ten onrechte gebruikt als reden om massasurveillance te verantwoorden"

[honey]

Op microniveau, wanneer we focussen op het individu, is kindermisbruik absoluut verschrikkelijk. Elk slachtoffer van kindermisbruik is er één te veel. Wanneer we echter het bredere perspectief in ogenschouw nemen en naar de omvang van het probleem kijken, gaat het om een relatief kleine groep mensen met een zieke geest die zich met zulke misdaden inlaat. Het is naar mijn inzicht disproportioneel om vanwege deze kleine groep de hele bevolking onder massasurveillance te plaatsen.

[Uchy]

In NL misschien, maar op zeg maar de fillipijnen is dit echt aan de orde van de dag voor veel teveel kids. En dat betekent niet per sé dat de afnemers alleen maar daar zitten, meestal zijn dat westerlingen helaas. Toegegeven, hopelijk een klein %, maar begrijpelijk dat overheden daar invloed willen uitoefenen.
Deze weg vind ik een bijzonder slechte keus om dat doel te bereiken

[Stoney3K]

[...]
Kleine opmerking: De gequote zin doet het lijken alsof je vindt dat het maken en verspreiden van kindermisbruikmateriaal geen groot probleem is. Dat is het natuurlijk wel, want elk kind dat misbruikt wordt en dan ook nog op beeld vastgelegd wordt is er een teveel.

Je moet alleen opletten dat je niet de consumenten van kinderporno gaat gebruiken om de vraag-kant van die 'markt' (dus de makers ervan) aan te pakken -- we weten vanuit de criminalisatie van drugs dat dat niet werkt. En ook de kijkers van plaatjes en filmpjes doen dat vanuit een behoefte die ze al hebben, niet ééntje die gecreëerd is.

Omwille van het beschermen van de slachtoffers schiet je dus met het uitbannen van kinderporno niets op. Er wordt daardoor geen kind minder misbruikt. Je kan hooguit argumenteren dat kijkers van kinderporno daardoor niet de behoefte krijgen om het in het echt te willen doen, maar dat is nog altijd een wankel argument en wetenschappelijk niet te onderzoeken. Dat wordt straks nog ingewikkelder als er een opkomst is van AI-gegenereerde kinderporno -- iets waarvan ik vermoed dat het al bestaat.

[Verwijderd]

Daarnaast gaat het veel bytes opleveren lijkt me: miljoenen/ miljarden varianten. Kost je een extra hardeschijf aan hashes.

[Verwijderd]

raxon schreef:

Daarnaast gaat het veel bytes opleveren lijkt me: miljoenen/ miljarden varianten. Kost je een extra hardeschijf aan hashes.

Nee, want er worden geen cryptografische hashes gebruikt (met een absoluut verwaarloosbaar aantal valspositieven), maar perceptional hashes (ook bekend als o.a. PhotoDNA en neurale hashes).

Hoe die werken legde ik eerder hier uit.

CSS (Client Side Scanning) is overigens ernstig disproportioneel, want het gaat averechts werken als we opsporingscapaciteit en FTE's van het OM en de rechterlijke macht meer gaan inzetten op kijkers en herverspreiders van CSAM (Child Sexual Abuse Material) dan op het opsporen van misbruikers van kinderen en degenen die aanzetten tot (en daar mogelijk enorme dwang bij uitoefenen) het (zelf) maken en verzenden van CSAM.

Dat naast de zeer vele nadelige aspecten van CSS.

Edit 12:14 "verspreiders" —> "herverspreiders"

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:39]

[Verwijderd]

Maar volgens mij blijven de miljoenen/ miljarden varianten staan welk type identifier je gebruikt daargelaten. De hashes zullen groot zijn want we zitten al op 200 Mega pixel en daarboven. Of je zult veel hashes van gebieden van de foto hebben wat uiteindelijk die upload filter moet weten, wat voor grootte zit jij aan te denken dan ?

[Stoney3K]

Maar volgens mij blijven de miljoenen/ miljarden varianten staan welk type identifier je gebruikt daargelaten. De hashes zullen groot zijn want we zitten al op 200 Mega pixel en daarboven. Of je zult veel hashes van gebieden van de foto hebben wat uiteindelijk die upload filter moet weten, wat voor grootte zit jij aan te denken dan ?

Je hasht die bestanden om te zorgen dat je minder data hoeft op te slaan en je bestanden kan vinden die er op 'lijken'.

Probleem is dat dat een dilemma oplevert wat je niet op kan lossen. Als je je algoritme om te hashen en dus een score bepalen hoeveel 2 foto's op elkaar lijken te los maakt, dan levert je dat een groot aandeel aan valspositieven op. Dat betekent dat je óf een hoop onschuldige mensen onterecht verdacht maakt, óf je een filter hebt gemaakt wat dusdanig onspecifiek is dat je er niets aan hebt, want het triggert op nagenoeg alles. Beide zijn situaties die je niet wil.

De andere kant van het dilemma is dat je het filter té specifiek maakt en je te veel valsnegatieven krijgt, dus CSAM afbeeldingen die niet als dusdanig worden aangemerkt. Wanneer kwaadwillende personen achter die criteria komen, gaan ze die criteria ook gebruiken om het filter om de tuin te leiden, waardoor je weer heel weinig aan je filter hebt.

[Verwijderd]

raxon schreef:

Maar volgens mij blijven de miljoenen/ miljarden varianten staan welk type identifier je gebruikt daargelaten. De hashes zullen groot zijn want we zitten al op 200 Mega pixel en daarboven.

Bij de definitie van een hash-functie is het gebruikelijk dat de output een vaste lengte heeft, ongeacht de lengte van de input.

Bijvoorbeeld de functie mod 10 is een prima hashfunctie (de modulusfunctie geeft als antwoord "de rest na deling"; bijv. 37 mod 10 is 7; bij "mod 10" is de uitkomst altijd 1 decimaal cijfer "lang"). Het is natuurlijk een waardeloze cryptografische hash, want de uitkomst is voorspelbaar en bij random input heb je 10% valspositieven.

raxon schreef:

Of je zult veel hashes van gebieden van de foto hebben wat uiteindelijk die upload filter moet weten, wat voor grootte zit jij aan te denken dan ?

Heb je de reactie waar ik naar verwees überhaupt gelezen?

[Kronossan]

met een absoluut verwaarloosbaar aantal valspositieven

En dan bedoel je het getal nul, uiteraard, gezien de ernst en consequenties?

[Verwijderd]

Kronossan schreef:

En dan bedoel je het getal nul, uiteraard, gezien de ernst en consequenties?

Het aantal valspositieven zou bijna 0 zijn bij een cryptografische hash zoals SHA-256.

Die "256" betekent dat de hash 2^256 mogelijke verschillende waardes kan hebben. Dat betekent niet dat je zonder valspositieven 2^256 beelden zou kunnen herkennen: hoe meer beelden, hoe minder klein de kans op valspositieven.

Echter, 2^256 is met meer dan 10^77 een astronomisch groot getal (er zouden minder dan 10^19 zandkorrels op aarde zijn).

Dat is echter allemaal irrelevant omdat er geen cryptografische hashes worden gebruikt, maar (ik herhaal) perceptual hashes - die bovendien korter kunnen zijn dan de 32 bytes van SHA-256.

Een m.i. goed voorbeeld van een exacte collision van een perceptional hash zie je hier (geen porno of zo).

Nb. een collission betekent in dit kader dat twee beelden exact dezelfde hash opleveren, en dus dat een non-CSAM-plaatje dezelfde hash kan opleveren als een CSAM-plaatje (waarvan de hash in de database met "known CSAM" staat).

Overigens worden MD5 en SHA1 als gekraakt beschouwd sinds het gelukt is om twee inputs te genereren die dezelfde hashwaarde opleverden; bij perceptional hashes worden collisions (die leiden tot valspositieven) als "helaas pindakaas" beschouwd.

Als de details je interesseren (zoals de door de minister genoemde -optimistische- 0,01% valspositieven), lees dan de reactie waar ik nu voor de 3e keer naar verwijs.

[bytemaster460]

Vals positieven in de context van kinderporno zijn absoluut onwenselijk. Iemands leven is gewoon kapot als er ook maar de geringste verdenking in de richting van kinderporno ontstaat. Ook al is die onterecht.

[Kronossan]

Precies waar ik op doelde, en hoewel zijn reactie wordt gewaardeerd had ik gehoopt dat @Verwijderd voorbij de cijfertjes had weten te kijken

[Reactie gewijzigd door Kronossan op 22 juli 2024 16:39]

[Verwijderd]

In antwoord op @bytemaster460 schreef Kronossan:

Precies waar ik op doelde, en hoewel zijn reactie wordt gewaardeerd had ik gehoopt dat @Verwijderd voorbij de cijfertjes had weten te kijken

Iemands leven kan ook verwoest zijn als je als kind te maken hebt (gehad) met omstandigheden die de meeste mensen abnormaal en/of onacceptabel vinden, waaronder (maar zeker niet beperkt tot) seksuele handelingen door mensen die ouder zijn dan het slachtoffer en die daarom geacht worden beter te moeten weten.

Juist omdat ik vind dat misbruik van (niet alleen) kinderen bestreden moet worden, ben ik tegen CSS (Client Side Scanning).

Het hoge percentage valspositieven is daarbij slechts één van de zeer vele en gevarieerde argumenten.

Met andere woorden: bij het discussiëren over CSS ligt de focus vaak op één argument, en dat doet "de zaak" (het voorkómen van de invoering ervan) géén goed.

Met name emoties zoals "onterechte verdenking" en "privacy-inbreuk" worden door de voorstanders van CSS ogenblikkelijk gepareerd (bijv. met het leed dat slachtoffers wordt aangedaan).

Wishful thinking, met name elke "oplossing" gebaseerd op techsolutionisme, blijkt in de praktijk extreem lastig te bestrijden.

Als techneut heb ik ook een zeer sterke neiging om "in technische oplossingen te denken", maar ik ben me steeds meer gaan realiseren dat je daarmee heel gemakkelijk allerlei andere aspecten uit het oog verliest.

[curkey]

Interessante discussie op die security.nl link, ik kan daar weinig aan toevoegen. Ik vond het commentaar er direct onder ook wel een nabrandertje voor de langere termijngedachtes.

Op het moment dat je iedereen scant, geeft dat ook veel informatie vrij over de personen/devices bij wie geen hits optreden, dan wel bij wie dezelfde hits optreden. Van dat laatste kun je historie bijhouden en geeft je zodoende een tijdlijn voor verspreiding van bepaalde hashes.

Dat geeft je nog een extra recherchemiddel, door een file te craften met een specifieke hash, en dan te volgen waar dit ding opduikt. De correlatie daarvan met de defenestratie van mensen of acute poloniumvergiftigingen zou dan ineens vrij sterk kunnen worden. /aluhoedje

[arjanvdwal1992]

Reactie van de dag! Dank!

[Weicool]

Je hoeft blijkbaar alleen wat “adversarial noise” toe te voegen en je kindermisbruik foto wordt door de computer ML-algoritmes herkent als een saaie 🖥️ stock photo, en andersom kan het ook!

[w0rkw0rk]

Het grote probleem is dat politici niet meer bang zijn voor hun bevolking en waarom zouden ze ook, ze komen overal mee weg tegenwoordig. Vroeger was het toch beter, met guillotines en ophangingen enzo.

Van mij mogen ze "client" side scanning toepassen, maar dan wil ook dat politici complete inzage geven in al hun communicatie, zowel electronisch als op papier.

[Juggernaut1987]

Ik geef je helemaal gelijk. Het voelt voor mij als een excuus zoeken om beleid door te duwen. Maak je het excuus groot genoeg, in dit geval het mega serieuze kindermisbruik onderwerp, dan is ieder middel relatief gezien ineens niet zo heel erg meer. Dat de overheid weer meer macht vergaard, waar het toch voor velen om lijkt te draaien, is dan bijzaak.

Ook als ik lees "het kabinet moet kijken naar proportionaliteit" gaat mijn haar overeind staan. Kijk je in het verleden dan zijn er dingen "proportioneel" geweest waar men met schaamte later op terugkijkt. Wat voor de overheid proportioneel is is dat voor de burger vaak niet. En tekstberichten beschikbaar maken voor opsporingsdiensten? No thanks. De massasurveillance groeit dan wel heel makkelijk.

[eitjeappeltje]

Even een kleine waarschuwing. Kijk uit op tweakers met de uitspraak dat je de realiteit moet accepteren want voor je het weet framen mensen het alsof je in dit geval kindermisbruik probeert goed te praten. Ik spreek helaas uit recente ervaring met een ander onderwerp maar in de kern dezelfde strekking. Er wordt hier door een minderheid snel vanuit de emotie gereageerd.

Wat dit onderwerp betreft ben ik het volledig met je eens. Je kunt elk type misdrijf wel aangrijpen als excuus voor massasueveillance maar dat maakt laatstgenoemde nog geen correct middel. Er is geen enkel goed excuus voor het massaal afluisteren van burgers. Er zijn voldoende bestaande middelen voor de opsporingsdiensten. Waar die diensten vooral behoefte aan hebben is meer geld en capaciteit. Kernvrijheden van burgers blijf je van af.

Er zijn wel meer punten van Yesilguz waarop ik erg kritisch ben. De hardline anti drugs retoriek van haar is al decennia enorm achterhaald. Sinds de jaren 80 bewijst bijv de VS al aan de lopende band dat hard aanpakken gewoon niet werkt. Voor elke drugscrimineel die je pakt staan er 10 nieuwe klaar. Het is een simpel verhaal van vraag en aanbod. Het begint bij de vraag en de sleutel tot succes ligt hem simpelweg in het accepteren van het bestaan van de vraag. Dezelfde VS hebben ooit geprobeerd om alcohol uit de maatschappij te krijgen en mensen met enig historisch besef weten hoe dat is afgelopen en wie daar de grootste profiteurs van waren.

[Neocortex-re]

Als een kind of een volwassene zorg nodig heeft, zijn we dan ook in staat om daarin te voorzien als samenleving? Jeugdzorg, voldoende ruimte bij uithuisplaatsingen, therapie etc? Kunnen we niet vele malen beter ons geld besteden om daar meters te maken?

Client side scanning op je device, waar je geen invloed op hebt. Als het algoritme te zorgvuldig is dan is het gemakkelijk te omzeilen. Als het staat ingesteld om veel te kunnen vangen zijn er ook veel vals positieven.

Positieven worden doorgestuurd naar een centrale autoriteit, zonder dat dit aan je gemeld wordt. Dat gebeurt niet alleen hier, maar is ook de praktijk met als verdacht aangemerkte financiële transacties. Daarvoor zijn 12000 mensen in dienst van Nederlandse banken, die zonder terugmelding aan de rekeninghouder alles wat zij verdacht vinden doorsturen aan een autoriteit binnen Justitie.

Andere gegevens over je leven worden ook vastgelegd en zijn gemakkelijk toe te voegen. Bijvoorbeeld internetgedrag, pin transacties en locatiegegevens van je mobiel.

Het zijn, mogen we hopen, losse bestanden die niet zomaar worden gekoppeld. Maar hoeveel aanleiding er moet zijn om dat wel te doen is niet bekend.

Het gevaar van massa surveillance en zelfcensuur komt snel op ons af.

[freespeech_nl]

Ik schets even een situatie. Eentje die ook daadwerkelijk voor is gekomen:

Ouders hebben foto's van hun kinderen op hun telefoon staan. De telefoon wordt gestolen en de foto's misbruikt door pedo's. De foto's staan ook op de cloud van papa en mama. Gevolg: Microsoft account wordt afgesloten wegens kinderporno. ALLE familiefoto's verloren, het account is (voor zover ik weet) nooit weer enabled door MS en alle familie foto's van jaren zijn dus ook weg.

Buiten dat: misschien is het een indicatie van een zieke maatschappij als we daadwerkelijk zoveel problemen hebben met kinderporno. Misschien moeten we dan eens kijken naar de oorzaak van die degeneratie (van normen en waarden) en daar wat aan doen.

Een goed begin is denk ik: meer controle op en van de overheid en minder van de burgers. Die machtsverhouding ligt momenteel compleet scheef. Verder zou ik investeren in hechtere gemeenschappen en gezinsstructuren.

Er zijn meer en veel betere manieren dan massasurveillance om allerhande criminaliteit aan te pakken. Dit is alsof ik in mijn huis verplicht microfoons moet hebben die luisteren naar bepaalde woorden en, indien gedetecteerd, de hits doorstuurt naar de politie. Ze sturen niet alles door, maar als je wat verkeerds zegt ben je de sjaak, ook achteraf... De grens van wat verkeerd is én de grens van wat de autoriteiten mogen om (ons? wie?) x te beschermen tegen allerlei onheil schuift heel snel op naar 1984 niveaus.

[comecme]

Ouders hebben foto's van hun kinderen op hun telefoon staan. De telefoon wordt gestolen en de foto's misbruikt door pedo's.

Dat snap ik niet. Die foto's worden toch niet ineens pornografisch doordat een pedo er opgewonden van wordt?

[curkey]

In andere landen gelden andere normen. Verder zijn partijen als MS als de dood voor claims en nieuwe wetten, waardoor ze al dingen blacklisten die de schijn hebben van.
Alle goede bedoelingen ten spijt, werken ze eigenlijk hierdoor mee aan versterking van het probleem.

[eitjeappeltje]

Als dergelijke foto's opduiken in bepaalde netwerken dan worden ze als kinderporno gelabeld door de autoriteiten. Vervolgens kan ik mij zo voorstellen dat er een sleepnet over veelgebruikte cloud opslagen gaat en dat je dan als originele houder van de foto's ook de sjaak kunt zijn. Daar lijken cloud providers dan doorgaans niet over te willen onderhandelen. De account wordt gesloten en daarmee is het klaar.

[freespeech_nl]

Dit is het inderdaad.
Als de foto's van jou kids die zitten te spelen in bad plots opduiken op pc's bij huiszoekingen in pedo netwerken dan ben je de Sjaak.

Je wilt ook eigenlijk wel graag dat die foto's niet verder verspreidt worden. Maar door de massale centralisatie en gebrek aan menselijke maat ben je vervolgens zelf ook slachtoffer van de maatregelen.

[Stoney3K]

Dat zal een algoritme natuurlijk weinig interesseren, op dezelfde manier als een foto van een vrouw die borstvoeding geeft (en dus een blote tepel heeft) door het algoritme van Facebook als 'pornografisch' wordt gevlagd ook al is het totaal niet zo bedoeld.

[Cyb]

Ik ben uiteraard tegen kindermisbruik, maar dit soort maatregelen (uitschakelen van e2e of clientside-scanning) zijn compleet disproportioneel t.o.v. privacy en security. Wat is de volgende stap, verplichting om in elke kamer van een gebouw een camera te plaatsen omdat daar kindermisbruik zou kunnen plaatsvinden?

De echte reden heeft gok ik weinig met kindermisbruik te maken, maar met zware criminaliteit. Kindermisbruik wordt als argument gebruikt om mensen gemakkelijker achter het voorstel te krijgen onder het mom van: "als je tegen bent, dan ben je misschien wel een pedofiel".

Ook lijkt een platform als Signal nou niet echt de gemakkelijkste manier voor dit soort groepen om met elkaar in contact te komen. Er is geen zoekfunctionaliteit op het onderwerp (of welk onderwerp dan ook), dus je moet eerst telefoonnummers uitwisselen, je moet dus al eerder eenzijdig met elkaar in contact gekomen zijn. (Op chatclients waar wel zoekfunctionaliteit aanwezig is, komt misbruik/criminaliteit in het algemeen, wel vaak voor.)
Zodra je Signal verbiedt, stapt men gewoon over op een ander platform, wat moeilijker te verbieden is. Het netto resultaat is dat je de privacy van burgers de nek om hebt gedraaid, en de echte targets gewoon elders doorgaan.

[morpheus-nl]

De echte reden heeft helaas ook niet met zware criminaliteit te maken maar puur met macht en controle en daar worden allerlei 'argumenten' voor gebruikt om steeds meer privacy weg te snoepen bij burgers.

[bytemaster460]

Onzin. De huidige regeringen in Nederland zijn helemaal niet uit op macht en controle. Wat hebben ze daarmee te winnen? De redenen om dit soort dingen in te voeren zijn goedbedoeld, maar de methodes wel disproportioneel.

[Stoney3K]

Onzin. De huidige regeringen in Nederland zijn helemaal nog niet uit op macht en controle.

De toevoeging van dit ene woordje is de kern van waarom we dit niet willen. Niet vanwege de overheid van vandaag, maar vanwege de overheid van morgen die andere dingen kan doen met de tools van vandaag.

[morpheus-nl]

De doorgevoerde wet- en regelgeving van de afgelopen tientallen jaren spreekt jou tegen.

Je raakt steeds meer (grond) rechten kwijt onder het mom van 'veiligheid'.

Maar ik zal je niet verder proberen te overtuigen, je komt er op een bepaald moment zelf wel achter (als het te laat is)

[bytemaster460]

Het ging erom of de overheid hun positie misbruikt vanwege macht en controle. Dat is gewoon niet zo.

[Reactie gewijzigd door bytemaster460 op 22 juli 2024 16:39]

[morpheus-nl]

Aan de lopende band gebeurd dat de afgelopen jaren...

[bytemaster460]

Geef eens enkele voorbeelden waarbij de overheid de positie misbruikt vanwege macht?

[curkey]

Ik zou eens wat krantenartikelen lezen van de afgelopen jaren. Zoek bijvoorbeeld op 'toeslagenaffaire', 'corona', en 'ombudsman' als inkomertje.

[bytemaster460]

Dat is geen antwoord op de vraag. Dat is zoiets als: zoek het zelf maar op.

[curkey]

Als je een beetje het nieuws volgt zijn de kernwoorden die ik noemde geen onbekende. Zeker bij de toeslagen is het duidelijk, er ligt nota bene een gerechtelijke uitspraak over talrijke gedupeerde gezinnen die zijn vermorzeld door overheidsoptreden.

[bytemaster460]

Dat is gewoon ontwijkend. Ik ben benieuwd naar concrete voorbeelden waarbij de overheid enkel uit machtsoverweging mensen heeft benadeeld. Je antwoorden blijven in de trant van: zoek het zelf maar op.

[curkey]

Ik weet niet wat er ontwijkend is aan het specifiek noemen van zoiets als Toeslagenaffaire?
Maar goed, ik zal je wat op weg helpen met de woorden van dhr. Omtzigt himself: https://socialechristende...e-onbetrouwbare-overheid/

Hier een VK artikel met een onderwerp dat iets dichter bij Tweakers ligt, van Evelyn Austin, directeur Bits of Feedom.
https://www.volkskrant.nl...k-door-overheid~b64fc9d0/

[bytemaster460]

De toeslagenaffaire heeft niets te maken met het bewust uitoefen van macht op burgers. Het is een uit de hand gelopen controlesysteem op fraude. Er was bij helemaal niemand opzet om macht uit te oefenen op een ander.
Machtsmisbruik heb je in allerlei vormen. In het geval van de toeslagenaffaire heeft men de eigen wetten overtreden om burgers in de gaten te houden en zelfs kapot te maken. Het doel ervan was niet macht uitoefenen maar fraudebestrijding. Niemand heeft dat gedaan omdat die kickte op het te gronde richten van burgers.

[curkey]

Dit is wel degelijk machtsmisbruik, aangezien de slachtoffers zich geheel niet konden verdedigen, noch waren ze op de hoogte van wat er gebeurde.

Je doet aannames dat men slechts uit was op het bestrijden van fraude. Het feit dat er nogal veel op nogal wat manieren uit de klauwen liep, vertelt mij wat anders. Zeker als je andere gebeurtenissen en affaires meeneemt in je overweging, want dan ontstaat er een patroon.

[bytemaster460]

Er is helemaal nergens uit de parlementaire enquête gebleken dat iemand dit met opzet deed om voor de kick macht uit te oefenen op een burger. Daar ging het om.

[curkey]

Nee daar gaat het niet om. Machtsmisbruik hoeft niet per sé voor de kick te zijn.

[bytemaster460]

Klopt, maat dat beweerde ik ook niet. Lees de hele subthread nog eens terug. je schreef:

De echte reden heeft helaas ook niet met zware criminaliteit te maken maar puur met macht

Als de reden om macht gaat is het dus het beuwst uitoefenen van macht terwijl het bij de toeslagenfraude ging om overijverige controles tegen fraude.

[Verdant]

Oprechte vraag: Kan een overheid zo'n app überhaupt verbieden? Er zullen ongetwijfeld wetten zijn om zoiets juridisch te regelen, maar in technische en praktische zin? Toegang tot bijvoorbeeld The Pirate Bay is in Nederland bijvoorbeeld ook geblokkeerd als gevolg van die rechtszaak van Stichting Brein van een tijdje geleden. Echter hoef je maar een VPN of TOR browser aan zwengelen en voilà, The Pirate Bay doet het weer. Een app als Threads from Instagram is niet beschikbaar in de EU omdat die app niet aan de privacywetgeving voldoet. Download de app via een alternatieve appwinkel/website als APK Mirror en ook daar kun je gewoon gebruik van maken binnen de EU. Dus zou een blokkade van Signal überhaupt wel zin hebben?

[Stoney3K]

Ik ben uiteraard tegen kindermisbruik, maar dit soort maatregelen (uitschakelen van e2e of clientside-scanning) zijn compleet disproportioneel t.o.v. privacy en security. Wat is de volgende stap, verplichting om in elke kamer van een gebouw een camera te plaatsen omdat daar kindermisbruik zou kunnen plaatsvinden?

Wat ook helemaal niets bereikt, want de beelden die als bewijsmateriaal gebruikt worden voor kindermisbruik zijn óók kinderporno. Dan zijn alle videotapes van de beveiligingscamera's ineens verboden bezit, en dan ontstaat daar weer een louche handeltje in.

[SunnieNL]

Meer er wordt vanuit nederland dan ook totaal niet gesproken over uitschakelen of afzwakken van E2E.
Wat ze willen is het volgende:
- Jij wilt een foto versturen via een encrypt kanaal
- opent het menu om een foto te selecteren en selecteert de foto.
- die foto is op dit moment unencrypt (want open en moet verwerkt worden voor versturen)
- tijdens het verwerken om te versturen wordt er een hash van de foto gemaakt en vergeleken met hashes in een database met kinderporno-foto-hashes waarvan bewezen is dat het kinderporno is.
- match? Dan aktie ondernemen (bv. blokkeren van verzenden)
- geen match? Foto verwerken en E2E versturen.

Vertel mij eens waar hier:
a) er privé gevoelige gegevens worden doorgestuurd (behalve de foto die je toch al zelf verstuurd)
b) er hier sprake is van een verzwakking van encryptie?

Ik vind dit juist een van de meest beste voorstellen die nu gedaan wordt. In alle andere gevallen wordt inderdaad gedacht aan het verzwakken van encryptie, wat ik ook niet OK vind.
Dit voorstel is wel vrij netjes in mijn ogen. Geen encryptie verzwakking, geen privacy gevoelige data die wordt ingezien.

Uiteraard is het afwachten hoe het voorstel precies verwoord wordt. Als dat te breed is kan het alsnog afgeschoten worden. Maar zoals ik het hierboven beschrijf en afleid uit wat nu gezegd wordt, zou ik daar absoluut geen probleem mee hebben.

[Jago2]

Blokkeren van verzenden lijkt me niet het plan.
Dan is het delen een kwestie van straffeloos uitproberen, en anders alleen nieuw materiaal/misbruik produceren waarvan de hash nog niet herkent wordt.

Het lijkt mij dat pogingen om dit materiaal te delen ook bij de overheid bekend worden. Dan is het systeem pas effectief (en gaat er een soort "angst" uit van delen, tenzij het nieuw is en dus niet door db herkent wordt)

Ik vind het een heel onrealistisch en chinees scenario om materiaal op eindapparaten te laten scannen door de overheid.
Het is ook niet te doen om dit goed te implementeren, je zou controle moeten hebben over elk apparaat met een internetverbinding om je scansoftware op te installeren.

Het enige verschil met afzwakken van encryptie is dat dit bij de overheid terecht komt, en verzwakte encryptie bij wijze van spreken door iedereen op het lijntje bekeken kan worden.

[Reactie gewijzigd door Jago2 op 22 juli 2024 16:39]

[Cowbeef]

"- tijdens het verwerken om te versturen wordt er een hash van de foto gemaakt en vergeleken met hashes in een database met kinderporno-foto-hashes waarvan bewezen is dat het kinderporno is."

Niet voor het een of het ander, maar dan bewerk je de foto toch een beetje zodat de hash niet meer kloppend is? Ik zou op elke foto gewoon een paar pixels misplaatsen.

[SunnieNL]

Een kleine verandering zorgt niet voor een verschil in hash bij PhotoDNA. Daarvoor moet de verandering een stuk groter zijn. Zelfs een klein deel croppen zal de hash niet zomaar veranderen.

[Cowbeef]

Ik heb er zelf geen ervaring mee (gelukkig?), dus daar ging ik wel een beetje van uit. Ik ga even in PhotoDNA duiken want het klinkt technisch erg interessant.

[curkey]

De voorstanders roepen dat er 'maar' een false positives ratio van 0,01% is. Op 10 miljard foto's is dat 1 miljoen.

[Cyb]

Ik ben het er mee eens dat hash checks minder qua privacy minder ingrijpend zijn dan E2E afzwakken, afhankelijk van de implementatie van hash checks. Het is in ieder geval ongewenst als clients direct verbinding maken met een overheidsserver, dus dan zou dat indirect via een Signal server moeten verlopen.

Maar waar het uit eindelijk om gaat is het netto resultaat. Blokkeren zorgt er simpelweg voor dat mensen andere methoden gaan gebruiken, bijv. encrypted images. (Geen idee of daar implementaties of papers van zijn, maar de methode op zich, zou niet zo moeilijk te bedenken moeten zijn.) Wat is dan de volgende stap? Het verbieden van encrypted images en encrypted files? Het netto resultaat is dat je targets gewoon andere methoden gaan gebruiken, en privacy of security van de burger steeds verder wordt afgezwakt.

[curkey]

Ik denk dat je hier een punt mist. Juist door de protesten om E2E encryptie in stand te houden, presenteert men nu een alternatief. Deze laat de encryptie as such in tact, maar grijpt weer in op andere punten die minstens zo onwenselijk zijn. De evt. effectiviteit nog daar gelaten.

[TRS-3]

En wie legt er dan verantwoording af over die database? Het is niet zo heel moeilijk voor te stellen dat er na de kinderporno waar ieder weldenkend mens natuurlijk tegen is, ook andere thema's aan bod komen.

Dit soort dingen kent altijd "scope creep" (wat je kunt controleren, moet je ook controleren). Stel dat Trump aan de macht komt en iedereen opgepakt wil hebben die memes met zijn gezicht verstuurt? De recente geschiedenis kent nog heel wat andere voorbeelden van kunstuitingen die "ontaard" werden verklaard.

En als het al niet een overheid is die de mogelijkheden ziet, zijn het de techreuzen zelf wel. Zo is immers in een paar jaar de vrouwentepel door Meta/Facebook/Instagram verboden/pornografisch verklaard. En een volgende stap zou kunnen zijn om te matchen met auteursrechtelijk werk. Nog te rechtvaardigen ook: ten slotte is het schenden van copyrights ook een misdrijf.

[Sysosmaster]

Ik zie 2 soorten problemen die de type scan die de minister voorstelt onmogelijk maken:

• legitiem gebruik: dat materiaal als CSAM (https://en.m.wikipedia.org/wiki/Child_sexual_abuse_material) is aangemerkt, betekend niet dat er in zeer kleine groep geen logistiek gebruik gemaakt kan worden van dat materiaal. (Denk bijvoorbeeld aan het slachtoffer en diens trauma verwerking, of aan advocaten, of aan opsporingsdienst beambte.) automatische scan tools betekend dat ook zij geraakt worden hierdoor.
• Valse positieven, het is al wel eens gebeurd dat een foto (of deel hiervan) onterecht is aangemerkt als CSAM. Een automatische tool geeft geen enkele manier om hier iets tegen te doen of om er bezwaar tegen te maken.

Verder vind ik dat er nogal makkelijk word gedacht dat scanning op devices gaat helpen bij preventie.

Terwijl er een gigantisch verschil is tussen detectie op servers, en detectie op mensen hun eigen devices.

Ook is het niet zo alsof de politie nu problemen heeft met het opsporen van mensen die CSAM maken, ze hebben het eerder te druk hiermee bij de zeden afdeling dan iets anders.

Al met al is het een maatregel die in mijn optiek te veel controle macht geeft aan de overheid en derhalve maatschappelijk ontwrichtend zal werken. En nagenoeg niets zal doen om het beschreven doel te behalen.

[johnbetonschaar]

Verder vind ik dat er nogal makkelijk word gedacht dat scanning op devices gaat helpen bij preventie.

Dit is eigenlijk het enige waar het over zou moeten gaan, en het feit dat er nooit maar dan ook nooit in (de communicatie over) dit soort plannen wordt gesproken over doelmatigheid zegt al genoeg. Als er duidelijke data of zelfs maar aanwijzingen zouden zijn dat er op deze manier wezenlijk verschil gemaaklt zou worden in de verspreiding van CSAM, dan zouden ze je er mee om de oren slaan en zouden een hoop mensen de maatregelen misschien nog steunen ook. Blijkbaar is effectiviteit van de maatregel niet direct een belangrijke factor voor invoering... Het is ronduit absurt dat een overheid zo te werk kan gaan, verregaande surveillance maatregelen invoeren, zonder enige onderbouwing dat ze doelmatig zijn.

Zou iemand in Den Haag nu daadwerkelijk oprecht geloven dat mensen die kinderporno bezitten en verspreiden, dit soort materiaal onversleuteld op hun mobieltje of bij een commerciele cloud aanbieder gaan zetten??

[Sysosmaster]

Zou iemand in Den Haag nu daadwerkelijk oprecht geloven dat mensen die kinderporno bezitten en verspreiden, dit soort materiaal onversleuteld op hun mobieltje of bij een commerciele cloud aanbieder gaan zetten??

Aangezien dit gebeurt, ja.
hoewel er wel steeds meer Crypto gebruiken tegenwoordig.

maar dat dat gebeurt los je niet op door eindgebruikers te gaan controleren.

Ook moet het doel zijn om slachtoffers te voorkomen en helpen. niet om mensen te "pakken".

door misbruik te voorkomen kun je al de misbruikers pakken. en met meer dan alleen maar "bezit" (wat de lichtste overtreding is binnen CSAM).

Doel, Middel en proporties lijken niet uitgesproken te worden... zodat ze nooit goed afgewogen kunnen worden. (imho).

[Juggernaut1987]

Blijkbaar is effectiviteit van de maatregel niet direct een belangrijke factor voor invoering...

Dat klopt naar mijn mening ook. De massa surveillance staat blijft voor veel politici en overheden een natte droom. Het is zoeken naar een excuus om beleid te kunnen invoeren. Of het werkt is niet belangrijk, dat hoef je vooraf ook niet aan te tonen. Het gaat erom dat je een groot probleem zoekt en daar een ingrijpende wijziging voor voorsteld waar de overheid meer macht door vergaard. Sommige mensen vinden dat een pessimistische blik maar kijk historisch terug naar ingrepen waardoor de burger rechten in moest leveren en je ziet toch echt een patroon.

Daar komt dan nog bij dat het voorgestelde beleid vaak voor de burger geldt, maar dan niet voor de politici. Bij ons in Nederland niet (Rutte SMS), maar ook in Europa niet (Von Der Leyen SMS). Als de overheid inzage in de devices van burgers wilt lijkt me dat prima als de burger ook totale inzage krijgt in de devices van onze volksvertegenwoordigers. Tot die tijd lijkt het me verstandig om ons uit te blijven spreken en misstanden te blijven benoemen. Zoals velen hier gelukkig doen.

[batjes]

Gaat niet eens om E2E, gaat om privacy en vertrouwen.

We moeten de overheid dan maar op hun blauwe ogen vertrouwen terwijl ze door onze data heen spitten en ons behandelen alsof we zware criminelen zijn?

Ik had in eerste instantie een positieve indruk van Dilan Yesilgöz-Zegerius, maar dit soort uitspraken zijn van het niveau: Grapperhaus.

[L-VIS]

Idd, lees dit draadje bijvoorbeeld eens: https://twitter.com/locuta/status/1694052477866320301.

Iemand wordt ervan verdacht betrokken te zijn bij een XR demonstratie op Schiphol, terwijl diegene er niet eens was. Dus hoe komen ze aan haar naam? Blijkt dus gewoon iemand handmatig foto's te checken. En bij een een 'match' iemand aan te merken. Dus encryptie of niet, ik denk dat Dilan eens aandacht moet geven aan het op een juiste manier functioneren van de opsporingsdiensten!

[Blokker_1999]

En wat is daar vreemd aan? Men kan niet iedereen arresteren die aanwezig is bij zo een actie. Daar heeft men de mankracht niet voor. Men gaat achteraf dus foto en videomateriaal analyseren om te zien of men mensen kan identificeren, maar daarbij heb je nooit 100% zekerheid over de identiteit.

Wat moet men dan doen?

Als je 100% zekerheid moet hebben voordat je iemand als verdachte aanmerkt, is het zelfs geen verdachte meer. En ja, spijtig genoeg worden onschuldige mensen hierdoor getroffen. Daarom ook dat we uitgaan van onschuld tot het tegendeel bewezen is. Men had het ook anders kunnen doen, iedere verdachte gewoon in de gevangenis tot dat men ze voor de rechtbank kan brengen. Zou dat de betere oplossing zijn?

[L-VIS]

Het gekke daaraan is dat ze bewijst dat ze er niet was, en het OM en de KMAR stug blijven vol houden dat ze het wel is...

Heb je het draadje verder wel gelezen? Foto lijkt niet op eens op haar! Kirsten is een redelijk bekend persoon en schuift regelmatig aan bij talkshow tafels, dan is het toch eenvoudig om een mea culpa te doen als je er naast zit? Daarnaast blijft ze wel betrokken (niet verdachte) en weet niet wat de gevolgen zijn. Staat ze nu op een no-fly list? En die actie lijkt niet meer ongedaan gemaakt te kunnen worden. Als je belt en bewijst ik was daar niet dan moet de kous dus af zijn. Dat lijkt hier totaal niet het geval.

En misschien een gek idee. Maar anders moet men maar een fuik opzetten en iedereen noteren, maar dit soort hagel schieten lijkt niet te helpen in het vertrouwen van de opsporingsdiensten.

[hottestbrain]

Deze verhalen zijn niet op zichzelf staand en doen me denken aan de toeslagenaffaire. Hoewel ik je sentiment snap ben ik het dan ook niet echt eens dat 'daarmee de kous af moet zijn', er moeten wat mij betreft serieuze consequenties aan de kant van de overheid zijn. Er is momenteel namelijk geen enkele incentive om de zaken beter op orde te hebben.

[Pieter_621]

Maar ze gaan daar níet uit van onschuld tot het tegendeel bewezen is. Het OM stuurt een brief waarin staat dat er vastgesteld is dat de ontvanger een misdrijf heeft gepleegd. Terwijl dit allerminst zeker is door de zeer slecht uitgevoerde identificatie. En vervolgens nodigen ze mensen uit voor een gesprek, met de opmerking dat ze bewijs moeten meenemen dat ze niet aanwezig zijn. En verdenkingen van een misdrijf die behandeld worden door het OM betekenen in principe een strafblad.

Dit soort client-side scanning levert false positives op. Vervolgens krijg je net zoveel ellende om dat op te lossen - en reken maar dat je je account van die dienst kwijt bent. Dat is al een aantal keer gebeurd bij mensen die gewoon familiefoto's op Google Photos hadden gezet. En dit is zonder rechter en zonder bezwaarmogelijkheid. Dit soort technieken zijn echt een heel slecht idee.

[biomechanical]

Jammer genoeg is het in onze huidige maatschappij zo dat, wanneer men verdacht wordt door justitie mbt kinderporno, veerkrachtig of aanranding, de verdachte al door verschillende mensen schuldig wordt gezien.
Dus "spijtig genoeg dat onschuldige mensen hierdoor getroffen worden" is een compleet verkeerde instelling.
Mensen verliezen hun baan, hun familie en vrienden door als "verdachte" aangemerkt te worden en men moet dus alles op alles zetten dat dit niet gebeurt.
Het is/was zo dat men liever 10 schuldige laat lopen dan 1 onschuldige in de cel. Maar het lijkt erop dat men nu denkt "liever 1 onschuldige in de cel dan 10 schuldige vrij".
En zolang men zelf niet de onschuldige is die in de cel zit kan je dit goed vinden maar ik vind dit niet goed.
En idd iemand identiteit moet 100% zeker zijn voordat je zijn of haar leven overhoop haalt.
En je bent een verdachte zolang de rechter je niet veroordeeld want een rechter krijgt alle beschikbare informatie en dus kan de rechter de verdachte als dader aanwijzen en een straf opleggen (niet de maatschappij en de "sociale" media, wat in de huidige maatschappij dus wel gebeurt!) .

[Bjorn89]

Je vergeet even hoe veel mannen levens worden verwoest door valse beschuldigingen. Ik geloof een vrouw b.v ook niet zo 123 meer als ze zegt dat ze aangerand of verkracht is b.v, puur om alle Ellende wat de #metoo movement heeft veroorzaakt. Hoeveel mannen hun carriers kwijt zijn door Stigma of al schuldig zijn bevonden in the court of public opinion.
Andrew Tate, Johnny Depp zijn goede voorbeelden hiervan.

[Reactie gewijzigd door Bjorn89 op 22 juli 2024 16:39]

[Macron]

Johnny Depp: Ja, Andrew Tate: nee

[Verwijderd]

Bart De Pauw als je het dichter bij huis zoekt. Dat was zelfs geen verkrachting. Gewoon wat flirterige SMSjes privé sturen.

We hebben in België ook een geval van zelfmoord hierdoor. Van een bekende politicus. Namelijk Steve Stevaert.

Medio 2011 diende Stevaert een klacht in tegen een Marokkaanse prostituee met wie hij een relatie had, deze zou hem afgeperst hebben met een seksvideo die opgenomen werd in het Conrad Hotel in Brussel. Stevaert zou haar herhaaldelijk zwijggeld hebben betaald. De zaak werd geseponeerd.[19] Op 2 april 2015 raakte bekend dat Stevaert zich moest verantwoorden omtrent een verkrachtingszaak die zich vierenhalf jaar eerder zou hebben afgespeeld; de betrokken vrouw had begin 2013 een klacht tegen hem ingediend. Hij zou nog voor de zomer voor de rechtbank moeten verschijnen. Stevaert bleek later die dag vermist te zijn. Zijn jas en fiets werden aan het Albertkanaal aangetroffen.[20] Enkele uren later werd hij met behulp van sonar in datzelfde kanaal dood teruggevonden. Aangenomen wordt dat hij zelf een einde aan zijn leven maakte.

Als ik het verhaal van Bart De Pauw een beetje er op nalees is het ook kantje boort geweest of Bart had ook zelfmoord gepleegd. En momenteel is het niet zeker of hij dat niet ooit zal doen. Ik zie het vals beschuldigen van (bekende) mannen daarom dan ook niet meer als iets onschuldig. Eerder als iets dat onze samenleving zeer zwaar moet bestraffen. Met duidelijke, langdurige, gevangenisstraffen.

Het loopt namelijk extreem de spuigaten uit met de ideologische kant van die MeeToo beweging.

[D11]

want een rechter krijgt alle beschikbare informatie

Dat is maar te hopen. Er zijn wel een aantal gerechtelijke dwalingen waar dit niet het geval was.

[Stoney3K]

Gerechtelijke dwalingen is één ding, maar het tweede is dat een verdachte van kindermisbruik/porno nooit meer de kans krijgt om zijn naam te zuiveren als ie is vrijgesproken (zelfs niet als er helemaal geen bewijs is). Je blijft een oordeel van de gemeenschap boven je houden en buurtbewoners die je huis bekladden of met eieren bekogelen.

Dat gebeurt tegenwoordig zelfs als iemand maar "verdacht" gemaakt wordt maar het niet eens tot een aanklacht komt. De gemeenschap denkt "waar rook is, is vuur" samen met "eens een pedo, altijd een pedo", waardoor je sociaal gezien vogelvrij wordt.

[Tintel]

Nou, allereerst is er de vraag "was de demonstratie dan echt crimineel gedrag?" of hebben we het hier over een tussenvorm? Want om iets als crimineel gedrag aan te merken en dus verdachten op te gaan sporen moet er dus wel een misdaad zijn gepleegd. En niet een overtreding...

Maar goed:
Ze gebruiken dus beeldmateriaal....precies waar dit voorstel over gaat. En het proportioneel moeten zijn, is het meest bijzondere....dus hele discussie daarover is al buiten properties. Natuurlijk de troefkaart pedofielie weer, maar altijd om burgers meer en beter te kunnen volgen/onderzoeken/afluisteren....
Een client-side filter installeren dat z'n data van een centrale (overheids-) server krijgt....briljant plan....

[Tokidoki]

Wat daar vreemd aan is?
Deze persoon was daar helemaal niet. En in plaats van dat ze je uit het systeem verwijderen word je aangemerkt als 'betrokkene'. Lees voor de volledige details hier: https://www.nrc.nl/nieuws...abase-van-het-om-a4172634

[Kevinp]

Leuk onschuldig tot schuld bewezen is.

Maar haar schuld wordt bewezen door de beelden. Anders was ze niet opgepakt ;-).

[koelpasta]

Blijkt dus gewoon iemand handmatig foto's te checken.

Ik geloof er niks van. Het is veel aannemelijker dat dit soort scanwerk geautomatiseerd verloopt. Een mens maakt zulke domme fouten namelijk niet.

[redslow]

“Ik had in eerste instantie een positieve indruk van Dilan Yesilgöz-Zegerius, maar dit soort uitspraken zijn van het niveau: Grapperhaus.” een minister is maar de spreekbuis van het ministerie.

De top ambtenaren op de ministries bepalen het beleid voor 95%. Dit om te voorkomen dat je na de verkiezingen een 180 graden draai krijgt. Aangezien ministeries zo lomp zijn als grote vrachtschepen gaan ze maar na de verkiezingen een tikkie naar links of naar rechts. Voor de rest blijft het schip (zie beleidt) op dezelfde koers varen.

Wil je dus echt wat veranderen dan zul je de ministerie moeten aanpakken.

[haam]

Voor welk probleem is dit een oplossing.

Misbruik is verwoestend, maar ik heb altijd het gevoel dat het gebruikt wordt als vehikel. Zodra ze iets kunnen om A op te sporen, dan zijn er plenty voorbeelden waarbij het uiteindelijk ook voor B, C en D wordt gebruikt.

Hoe groot is het probleem daadwerkelijk? Gaan we 100.000 mensen scannen om er 2 te vangen?

Ik zou willen dat ze zoveel tijd en geld steken om (door preventie?) misbruik te voorkomen.

[Schway]

Heb je een recent westers voorbeeld van A B C en D? Ik hoor wel altijd het argument voor glijdende schaal, maar nog niet echt recente voorbeelden gezien.

[haam]

Trajectcontrole A2 die door belastingdienst gebruikt wordt?

[Monochrome]

En waarbij de politie vervolgens die data opvraagt bij de belastingdienst omdat die lange bewaartermijnen (mogen) hanteren..

[Sysosmaster]

als jij denkt dat dat alleen bij de camera's van de belastingdiest gebeurd... heb ik slecht nieuws voor je.

ook is het zo dat niet alleen de politie (en belastingdients) ANPR camera's gebruikt en heeft hangen.

ook de Douane, RDW en andere partijen hebben deze (data).

[haam]

Probleem is dat de belastingsdienst zelf geen vaste camera's heeft en dat gemeld wordt dat de camera's gebruikt worden voor snelheidsovertredingen.

Eerst wordt een wettelijke basis gecreeerd voor snelheidscontrole. Als dat er eenmaal is, dan wordt ander gebruikt mogelijk gemaakt (das natuurlijk eenvoudiger dan alle gebruik initieel kenbaar maken).

Daarnaast zijn er trajecten die zo 'kort' zijn dat de vraag is of snelheidscontrole daadwerkelijk het primaire doel is.

[Sysosmaster]

dat is niet helemaal juist.

ja, er worden camera's geplaats foor anderen gebruikt door de belastingdienst.
maar deze verzameling word wel in opdracht van de belastingdienst gedaan en beheerd door de belastingdients.

for all intents and purposes, zijn het gewoon belastingdienst camera's.

[freespeech_nl]

Antiterrorisme wetgeving in het VK die wordt gebruikt in het kader van copyright schendingen.
Er zijn echt voorbeelden te over van die glijdende schaal.

Maar nog belangrijker: de wetten zélf zijn een glijdende schaal. Kan best zijn dat het over 10 jaar volledig wettig is om mij in het gevang te gooien omdat ik een niet toegestaan woord heb uitgesproken of opgeschreven: de wet is er dan gewoon.

Maar daarover moet je dus wel de maatschappelijke discussie hebben (vanuit de maatschappij, niet vanuit een almachtige overheid): willen wij dit. Die discussie is er nu niet echt. Het gaat gewoon top down door en daar heb je het mee te doen. We geven niet meer onze eigen maatschappij vorm: dat doet een kleine elite op belangrijke posities binnen de EU en diverse overheden. Dat is niet hoe (onze) democratie bedoeld is.

[Kevinp]

Iets met sleepwet ;-).

[supersnathan94]

Dit dus.

Ee zijn twee zaken in de wereld die er voor zorgen dat we steeds meer in een surveillantie staat komen te wonen: kinderporno en terrorisme.

Die tweede heeft er voor gezorgd dat vliegen een vele malen ingewikkelder proces is geworden (en dus voor iedereen duurder) en die eerste zorgt er voor dat er steeds verdergaande wetgeving komt mbt internetverkeer.

We gaan met dit soort wetgeving direct iedereen als potentiële crimineel behandelen en alles scannen zonder enige vorm van context en met een beetje pech laten we big tech bepalen wat dan wel of niet onder kinderporno valt.

En dat voor wat? Duizend idioten in heel europa?

[Stoney3K]

We gaan met dit soort wetgeving direct iedereen als potentiële crimineel behandelen en alles scannen zonder enige vorm van context en met een beetje pech laten we big tech bepalen wat dan wel of niet onder kinderporno valt.

Hier ben ik dus ook bang voor dat er straks geheime lijsten zijn van wat er wel en niet 'kinderporno' is, die heel makkelijk kunnen worden misbruikt om de doelpalen zonder enige vorm van democratische controle op te schuiven. En omdat de lijsten geheim zijn, is het een kleine moeite om andere zaken daar ook op te zetten die we graag 'preventief' willen aanpakken, zoals terrorisme, auteursrechtenschending, of 'ondermijning van de staat'.

Dit is geen fantasie, in Australië is het al gebeurd, die hadden een filterlijst voor kinderporno, en uiteindelijk is een overheidskritische site daar ook op beland, en is zelfs de site met verboden sites zélf op de kinderpornolijst beland. Dus alle elektronische maatregelen tegen 'kinderporno' krijg ik een beetje jeuk van omdat het altijd als een toverwoord gebruikt wordt en ik de indruk krijg dat er een andere agenda achter zit.

Het geeft mij altijd een "Het doel heiligt de middelen" gevoel.

[Reactie gewijzigd door Stoney3K op 22 juli 2024 16:39]

[bvdli]

Lijsten lijkt me erg onpraktisch, hoe zie je dit precies voor je?

Het zal eerder een soort hash aanpak zoals bij CSAM worden. Dus "perceptual hashing" met een schaal van misschien tot heel erg.

[Stoney3K]

Dat is ook een "lijst", misschien alleen niet leesbaar door een mens maar een databank is net zo goed een lijst. In Australië was het overigens wel een blacklist met URL's.

Waar het om gaat is dat die databank compleet buiten democratische controle staat.

[supersnathan94]

Een database met hashes is anders ook gewoon een “lijst”.

Probleem met CSAM is dan ook nog eens dat je eerst de daadwerkelijke foto moeten hebben en die moet vlaggen.

Het issue is dat vrijwel iedereen (minus de paar misbruikers) tegen KP is. Dit is geen politiek standpunt waar je voor of tegen kunt zijn. Het is wereldwijd gewoon verboden en het is moreel altijd verwerpelijk. Het is dus een gigantisch makkelijk argument om dingen voor elkaar te krijgen.

Onder het mom van terrorisme bestempelen we nu al iedere reiziger die met het vliegtuig ergens heen wil als terrorist totdat onschuld wordt aangetoond door een bodyscan.

[redslow]

Ik wil alleen uitleg geven van hoe het komt dat Batjes het gevoel had dat deze minister net zo klinkt als de vorige minister.

Of het middel het doel heiligt is een anderen discussie. Staat los van mijn uitleg met betrekking tot onze staat.

Dat is hetzelfde dat je de discussie kunt voeren of deze ministeries (lees topambtenaren) niet teveel macht hebben. Ook dat is een discussie die gevoerd kan worden maar staat los van dit onderwerp.

[Stoney3K]

Dit om te voorkomen dat je na de verkiezingen een 180 graden draai krijgt.

Is dat niet ondermijnen van het democratisch proces? De wetgevende macht (parlement) hoort juist het beleid te bepalen, ook als dat een 180 graden draai betekent, want dat is precies wat de kiezer wil.

Ministeries zijn de uitvoerende macht en die moeten gewoon doen wat ze opgedragen wordt door de wetgevende macht. Wanneer ze dan gaan zeggen 'ja nee maar zus te kort en dat te lang' dan gaan ze op de stoel van de wetgever zitten, en dat is een probleem omdat er geen democratisch proces is wat zeggenschap heeft over die ministeries.

[redslow]

“Is dat niet ondermijnen van het democratisch proces? ”

Het is met name bedoelt om stabiliteit behouden in het land. Even kort door de bocht.

Er zijn allemaal historische redenen waarom Nederland op deze manier is ingedeeld.

Daarnaast zitten ministers er maar voor een beperkte tijd. Beleidt van een paar jaar terwijl top ambtenaren meer naar de langere tijd kijken.

Daarnaast wil je ook niet dat de ministeries alles maar klakkeloos uitvoeren want een tweede Holocaust wil je ook niet. (Even extreem voorbeeld om te laten zien waar wij (Nederland) vandaan komt en hoe bepaalde processen zijn ingedeeld ter voorkoming of leering van)

[Reactie gewijzigd door redslow op 22 juli 2024 16:39]

[Stoney3K]

Het is met name bedoelt om stabiliteit behouden in het land. Even kort door de bocht.

Er zijn allemaal historische redenen waarom Nederland op deze manier is ingedeeld.

Dat heeft natuurlijk ook een keerzijde, en misschien is dat ook wel de oorzaak van het gebrek aan vertrouwen in de politiek in Nederland. Wanneer een groot deel van de kiezers A zegt en een ministerie doet B "omdat redenen", dan voelen die kiezers zich ook niet gehoord. Immers een politicus (minister) die hun partijbelangen vertegenwoordigt, kan blijkbaar niet voldoen aan hetgene wat die politicus tijdens de verkiezingen heeft beloofd in het partijprogramma. Zelfs als dit een goede reden heeft, bijvoorbeeld een ministerie wat beleid vanuit de EU moet implementeren.

Daardoor krijg je zo'n onverschillige houding als "We kunnen stemmen wat we willen maar er gebeurt toch niets", en de opkomst van populistische partijen.

Je hoeft niet de situatie te hebben dat een ministerie gehoor moet geven aan een 'revolutie' maar de kiezer moet wel de mogelijkheid hebben om tegen grote lijnen ja of nee te kunnen zeggen. Anders heeft de hele democratie weinig zin.

[Reactie gewijzigd door Stoney3K op 22 juli 2024 16:39]

[redslow]

Daar ben ik ook zeker mee eens. Je kan inderdaad de discussie voeren of de ministeries niet teveel macht hebben verkregen de afgelopen 25 jaar.

[DeerDitch]

Nee, dat komt doordat het politieke landschap zo versplinterd is.
Een groot deel van de kiezers zegt A door op partij A te stemmen. Maar partij A is niet groot genoeg om alleen te regeren. Dus zullen er compromissen gemaakt moeten worden met partij B en partij C (en partij D).
De Nederlandse politiek is een perfect voorbeeld van de Nederlandse samenleving:
- Mensen met een grote bek die vinden dat ze alles tegen iemand moeten kunnen zeggen
- Mensen met een hoog inkomen/eigen bedrijf die vinden dat ze net zoveel belasting moeten betalen als Jan modaal
- Mensen die vinden dat de overheid voor hun moet zorgen als ze geen inkomen hebben
- Mensen die vinden dat de overheid zich nergens mee moet bemoeien en gewoon alles moet kunnen
- Mensen die overal over klagen omdat ze hun zin niet krijgen of omdat andere niet inzien wat zijzelf wel zien
- nou ja lijstje kan nog veeeeeel langer

Ik hoop toch niet dat we zo naief zijn dat we daadwerkelijk verwachten dat al onze wensen in vervulling gaan als je je stem hebt uitgebracht

[devices]

Populisme neemt ook toe in landen met minder versplintering, zoals Duitsland en de VS. Compromissen zijn van alle tijden en landen.

[DeerDitch]

Ik denk dat populisme alleen maar ontstaat als het ergens veel te goed gaat. Als je niet hoeft te vrezen voor je familie, je inkomen, je leven, je volgende maaltijd dan is het makkelijk zeiken op iets wat je niet aanstaat.
Misschien tijd voor WW3, om iedereen weer te laten meemaken wat echt belangrijk is?

[L-VIS]

Er was al iets bedacht door het WEF om alles te resetten, Corona. Maar de versplintering is alleen maar erger geworden.


(dat van het WEF was sarcasme, ik zet het er maar bij...)

[108rogar]

Populisme ontstaat juist als het slechter gaat. Populisten gaan dan roepen dat het komt door een zondebok naar keuze, want dat is lekker makkelijk.

[Infor40]

Een democratie is ook weer niet 'precies wat de kiezer wil'. Dat lijkt wat de misvatting van de huidige tijd. Je stemt op iemand die jou vertegenwoordigt, maar lang niet alle zaken waarover een beslissing gemaakt dient te worden staan in de partij-programma's. Sterker nog, het lijkt er soms op dat de partij-programma's steeds minimaler worden om maar vrijheid te behouden.

Daarbij kan je niet iedere 4 jaar een nieuw wetboek maken. De samenleving evolueert normaalgesproken en revoluties zijn uitzonderingen. En dat is maar goed ook, want anders zou er een weinig constructief klimaat zijn.

Oftewel je moet historische context en begrip van de historische context hebben om veranderingen te kunnen bewerkstelligen. Gewoon 'doen wat opgedragen wordt' kan ook gelukkig niet altijd, want veelal is er een weging nodig om belangen van de een snijden met belangen van de ander. 'Doen wat opgedragen wordt,' past eerder in een dictatuur dan in een democratie.

Neemt niet weg dat je natuurlijk soms wel echt mist dat maatschappelijke wensen die in meerderheid aanwezig zijn, slecht vertolkt worden. Die zeggenschap en ook ingrijpen waar het niet goed gaat, dat moet wel georganiseerd worden. Maar dat gaat niet door 'opdragen' en het roer om kan wel eens maar niet zonder meer en bij iedere verkiezing. Dat doet geen recht aan wat we historisch met elkaar hebben opgebouwd.

[DropjesLover]

Daar was zo'n mooie serie over begin jaren '80. Yes Minister.
En zo veel van die punten zijn 40 jaar later nog steeds spot-on actueel.

Want zo vaart een supertanker zoals de overheid.

En niet onbelangrijk detail, het is verdomd moeilijk om (hoge) ambtenaren verantwoordelijk te houden, laat staan om mensen te ontslaan of over te plaatsen.

[Guus...]

Het ministerie van Justitie wordt 25 jaar door de VVD en het CDA geleidt met de afgelopen 10 jaar vooral VVD en altijd in een VVD kabinet. Alle topambtenaren hebben dus hun promoties gemaakt onder een van deze 2 partijen. Doen alsof het beleid van de topambtenaren afwijkt van de lijn van deze partijen is naïef.

Misschien dat er wat kleine verschillen zijn maar deze minister is gewoon uit hetzelfde hout gesneden als de vorige.

[Tc99m]

Als een minister (of eigenlijk: regering) niet wil dat dit soort maatregelen er komen, dan komen ze er niet.

Natuurlijk hebben ambtenaren ideeën en standpunten (net zoals ieder mens), en een minister kan zich natuurlijk niet met alles wat op een ministerie gebeurt bezig houden, maar de meningen van ambtenaren is niet het enige waarop een minister beleid baseert (die heeft bijv. ook politiek assistenten, toegang tot het wetenschappelijk bureau van de partij en allerlei denktanks/lobbyclubs of andere contacten met mensen buiten het ministerie).

Dat ministerieel beleid na verkiezingen (meestal) niet 180 graden draait (wat overigens een goede zaak is in mijn ogen), heeft er meer mee te maken dat in Nederland altijd coalitites aan de macht zijn, en je dus meestal politiek gezien niet opeens een radicaal andere richting uit gaat. In landen waar een partij de meerderheid heeft (VK, VS bijvoorbeeld) en er een grote politieke tegenstelling tussen beide partijen is komt dit wel voor. Ik denk persoonlijk niet dat het beleid daar beter van wordt.

[Reactie gewijzigd door Tc99m op 22 juli 2024 16:39]

[Pinkys Brain]

Dit is tenminste een concrete suggestie ipv. van het standaard gewauwel.

Dit word via de EU erdoorgedrukt, ze kan weinig behalve identificeren hoe het geimplementeerd zou moeten worden.

[D.oomah]

Er bestaat niet zoiets als door de EU doorgedrukt. Het Europees parlement kiezen wij zelf, en de Europese raad zijn onze eigen ministers met vetorecht.

Dus alle regels die uit Brussel ons worden "opgelegd", is onze regering gewoon mee eens en heeft jou verkozen vertegenwoordiger over kunnen praten.

[Pinkys Brain]

Het EU parlement heeft een zeer beperkt amendementsrecht. Ze hebben hetzelfde probleem als een minister, ze kunnen 10 jaar werk vernietigen met een veto of slikken.
Zeker voor een minister is dat niet makkelijk, zit je meteen in rijdje van Polen en Hongarije als dwarsligger, slecht voor je vriendschappen in Brussel en toekomstige baantjes. Zelfs voor parlementariers is het geen makkelijke beslissing.

[Verwijderd]

Top. Hoe stop je ze?

[Sysosmaster]

Euroa Parliament - Burger initiaief

Ook doet de EU regelmatig aan Burger raadpleging en zelfs aan participatie.

[mbovenka]

Zoiets als: "Wereldkampioenschap voetbal: een hoop geren achter een bal en uiteindelijk winnen de Duitsers"? Tenzij je, zoals de Visegrad-landen, gewoon ballen hebt, heb je niets te vertellen als je geen Duitsland of Frankrijk bent.

[jmsaow]

Is het daarom ook dat we nog steeds geregeerd worden door religieuze sprookjes waarvan wetenschappelijk niet kan worden aangetoond dat er enige vorm van waarheid in zit.

[MrMonkE]

Ja, er moeten gekozen mensen op plekken komen.
Zo werkt het in de VS geloof ik op lokaal en staat nivo.

[Marve79]

Maar doen Apple/Google dit ook niet al? Persoonlijk neem ik geen foto's van bijv mijn kinderen in bad omdat ik weleens gehoord heb dat Google of Microsoft accounts afsluit voor kinderporno en je ineens al je data kwijt bent.

[JakkoFourEyes]

Ja dat doen ze tot op zekere hoogte al (in elk geval op hun cloud services). Dat is ook niet okay, maar dan verlies je 'alleen maar' je Google, MS of Apple account. Een false positive bij een overheid lijkt me toch wat erger.

[RefriedNoodle]

Dat is ook niet okay, maar dan verlies je 'alleen maar' je Google, MS of Apple account.

Nou, dat betekent ook meteen dat je geen toegang meer hebt tot je complete iCloud fotoarchief, je hele OneDrive-inhoud, je email op Outlook.com of Gmail, en je aangeschafte Xbox-games. We hebben met z'n allen best wel wat afhankelijkheid van de grote cloudproviders.

[JakkoFourEyes]

Ja, dat is zeker ingrijpend hoor, vandaar dat 'alleen maar' tussen quotes stond, maar het niet zo ingrijpend als een mogelijke arrestatie en een rechtzaak vanwege een false positive.

[kodak]

Een false positive bij een overheid lijkt me toch wat erger

Dat valt te betwijfelen. Want overheden lijken zich zwaar afhankelijk te maken van wat bedrijven ze aanbieden om te kunnen controleren en uitwisselen aan gegevens. Het scannen zal eerder dus door bedrijven gedaan worden die resultaten waarschijnlijk commercieel (of als marketing) aan anderen, zoals politie of 'controle'-diensten, 'hulp'-stichtingen en bedrijven, aanbieden. Dan kun je verwachten dat die bedrijven dus invloed hebben op wanneer een situatie verdacht is, en dus hoe ze de betrokken personen verdacht (helpen) maken (of juist onverdacht maken). Ook bepalend die bedrijven dan hoe ze met fouten om gaan, zoals bijvoorbeeld hoe en wanneer ze fouten nog laten meetellen als anderen ze allang gewezen hebben dat ze foute gegevens (blijven) gebruiken.

Natuurlijk doet dat niets af aan hoe groot de gevolgen kunnen zijn met hoe bijvoorbeeld de politie of openbaar ministerie resultaten (blijven) gebruiken. Maar de invloed van een bedrijf is niet zomaar slechts beperkt tot dat bedrijf zelf. Eerder juist ver daar buiten. En zonder duidelijke grenzen zal dat eerder toenemen dan zich beperken tot alleen een account bij een bedrijf.

[HADES2001]

Dat kan soms gebeuren ja. Iemand die ik ken had op facebook een foto geplaatst van zijn dochter die was 3 ofzo met alleen een zwembroekje geen topje hoe ze in het bad aan het spelen was en die werd al verwijdert en kreeg een tijdelijke ban. Het is jammer hoe streng alles is wat voor de meeste mensen oogt als een normaal en onschuldig iets omdat er enkele mensen zijn die het anders zien

[freespeech_nl]

Het komt weldegelijk voor, zie mijn post hierboven.

Maar wat erger is: deze massasurveillance in combinatie met big-tech (centralisatie) beïnvloedt nu dus ook op deze manier ons dagelijks leven en onze cultuur. Wij laten actief dingen na omdat we bang zijn veroordeeld of beoordeeld te worden, op iets wat helemaal niet illegaal is.

En dit zie je op meer vlakken. Online discussies bijvoorbeeld: veel onderwerpen worden compleet vermeden of worden maar van 1 kant belicht omdat tegenspraak daarop niet alleen als ongewenst wordt gezien, maar soms ook gewoon gecensureerd wordt (hetzij letterlijk, hetzij zelfcensuur door big-tech). Discussies nemen dus af, polarisatie neemt toe.

Dit zijn zorgelijke maatschappelijke ontwikkelingen. Orwell heeft er gelukkig geen slapeloze nachten meer van.

[arjanvdwal1992]

Oh dat is wel heel bizar. Ik neem foto's van mijn kinderen in bad of in hun zwembroek op vakantie.. Nog geen problemen mee ondervonden haha.. Moet niet gekker worden zeg

[Kevinp]

En dat is ook een cultuur dingetje. Er zijn voldoende foto's van naakte kinderen zeker offline. En ik denk ook digitaal. KP nee gewoon vakantie kiekjes.

Maar nu is het ineens wel KP.

De wereld is ziek geworden met politiek correcte gedragingen.

[Marve79]

Helemaal mee eens maar al je data zit tegenwoordig bij MS/Apple/Alfabet dus je kunt je niks meer permiteren. Als je je account kwijtraakt is je leven zo'n beetje uitgewist

[Sluuut]

Eigenlijk is het bizar dat je om deze reden geen unieke leuke herinnering kunt maken voor jezelf en voor je kind, in de vorm van een video of foto in bad, zoals je dat vroeger nog wel kon doen met een ouderwetse camera of fototoestel. Destijds moest je toch ook niet voor het ontwikkelen van je foto's ze eerst allemaal laten controleren door overheidsinstanties?

[SunnieNL]

Jij denkt serieus dat de bedrijven waar jij dat fotorolletje liet ontwikkelen niet opletten of er geen kinderporno voorbij kwam? Think twice. Dat deden ze wel.
Op het moment dat jij daar een heel rolletje zou hebben ingeleverd met naakte kinderen in bepaalde poses, attributen of handelingen en ze zien dat met het ontwikkelen voorbij komen, werden bepaalde instanties echt wel ingelicht.

[Reactie gewijzigd door SunnieNL op 22 juli 2024 16:39]

[Stoney3K]

Jij denkt serieus dat de bedrijven waar jij dat fotorolletje liet ontwikkelen niet opletten of er geen kinderporno voorbij kwam? Think twice. Dat deden ze wel.
Op het moment dat jij daar een heel rolletje zou hebben ingeleverd met naakte kinderen in bepaalde poses, attributen of handelingen en ze zien dat met het ontwikkelen voorbij komen, werden bepaalde instanties echt wel ingelicht.

Net zoals rolletjes al geweigerd of zelfs vernietigd werden als er naaktfoto's op stonden van volwassenen.

Eén van de redenen waardoor Polaroid-camera's in de jaren 70 een enorme vlucht namen.

[Marve79]

Misschien moet ik voor dat soort gelegenheden inderdaad gewoon weer een compact cameratje aanschaffen.

[Verwijderd]

Je gaat met die bedrijven een overeenkomst (TOS en privacy policies) aan waarmee je expliciet akkoord gaat met het verzamelen van gegevens door deze bedrijven. Dit betekent niet automatisch dat de overheid recht heeft op deze gegevens. Waarschijnlijk staat er wel in de TOS dat bedrijven zullen samenwerken met overheidsinstanties wanneer hierom gevraagd wordt. Maar het lijkt dat de wens van de overheid is om iedereens smartphone te scannen zonder reden van opgaaf. Zonder eerst de bedrijven te benaderen voor toestemming tot deze gegevens.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 16:39]

[Terrestrial]

Je kunt het er prima opzetten alleen je moet het wel versleuteld doen maar dat zou ik altijd al aanraden want waarom zou je die grote bedrijven vertrouwen? Ik heb liever een eigen NAS/Storagebak maar als je perse cloud diensten wilt gebruiken is eigen versleuteling onmisbaar.

[MrMonkE]

'de goeden lijden onder de kwaden' Misschien moeten de goeden maar eens op een andere partij gaan stemmen die de kwaden aanpakt zonder de goeden te zieken.

[Sando]

'Tussen twee kwaden kiezen' er is geen partij die consequent de kwaden aanpakt want dat kost veel moeite en dat concurreert niet lekker met symboolpolitiek.

[Skywalker27]

Ze heeft al meer van dit soort uitspraken gehad hoor geen fan van haar.

[litebyte]

Exact en je weet van een overheid mbt maatregelen dat als 'ze succesvol zijn' altijd worden uitgebreid. Nu is het kinderporno, morgen is het terrorisme...en overmorgen zijn het (politieke) denkbeelden die afwijken van wat anderen wenselijk achten

Dit komt natuurlijk niet van Dilan Yesilgöz-Zegerius zelf, net als haar voorgangers worden zij en haar departement belobbied en als je zelf weinig kennis van zaken hebt m.b.t. wat het inhoud of wat voor concequenties het heeft (of het kan politiek op een andere manier gebruikt worden) dat krijg je dus idd een 'Grapperhausje'

[raro007]

precies gewoon al die flitspalen weg halen!! privacy als auto rijder is ook belangrijk!!
En vertrouwen?? wat ze gaan toch niet denken dat mensen te hard rijden of door rood rijden waar is de vertrouwen gebleven!!!
ze moeten mij op mijn blauwe ogen geloven en mijn laatste boeten terug vorderen...
Jah vertrouwen klinkt leuk maar je hebt er niks aan.

[Robkazoe]

Voor flitspalen heb je jouw privacy nog in eigen hand. Rij je niet door rood of rij je niet te hard, dan zal er ook geen foto vastgelegd worden. Met dit systeem wordt hoe dan ook jouw hele fotoarchief doorzocht van je chat apps. Of je nu wel of geen foute foto’s op je telefoon hebt staan.

[raro007]

Maar dat kan ook met met dat soort diensten! Gewoon niet gebruiken.
Het is geen einde van de wereld als je die niet gebruikt.
Edit: trouwens er zijn ook flitspalen die binnen je auto foto's maken en dat doen ze bij elk auto die er langs rijd.

[Reactie gewijzigd door raro007 op 22 juli 2024 16:39]

[dez11de]

Totdat ze besluiten om wel van iedere auto een foto te maken. Met flitspalen zijn we al op een hellend vlak gekomen en is het wachten tot het een keer fout gaat. Weg met flispalen voor het te laat is!

[vali]

precies gewoon al die flitspalen weg halen!! privacy als auto rijder is ook belangrijk!!

Behoorlijke dooddoener en bijna een uitspraak die een politicus ook zou maken... Mocht er je te hard rijden kan je de boeten tenminste nog aanvechten (en je krijgt altijd bewijsmateriaal). De kant waar de EU op wilt gaan, is dat er volledig automatisch een "beveiliging" komt om bepaalde materiaal op te sporen. De nadelen van dat soort systemen hebben we al gezien bij de belastingfraude affaire en ook bij Microsoft. Bij Microsoft wordt er gezocht naar foto's waar men bv bloot is en zonder enige melding werden accounts dicht gezet. Dit gebeurde bij mensen die al hun apparaten gekoppeld hadden aan 1 account en het gevolg is dat ze alles kwijt zijn. Toegang tot je mails en je data is hierna niet meer mogelijk.

Ironisch genoeg zit het westen zo erg af te geven op China maar ze volgen exact dezelfde route die CCP heeft afgelegd. Maarja, dit is weer een artikel van tweakers die hier helemaal niet thuis hoort...

[Reactie gewijzigd door vali op 22 juli 2024 16:39]

[JakkoFourEyes]

precies gewoon al die flitspalen weg halen!! privacy als auto rijder is ook belangrijk!!

Beetje scheve vergelijking. Als je geflitst wordt, is er niks wat je privacy aantast, naast misschien je locatie op dat moment. Vrijwel alles wat in die afbeelding van de flitser staat, is informatie wat bij de overheid bekend is.

[NuEffeNiet]

Maar de bedrijven/applicaties die we gebruiken hiervoor vertrouwen we wel?

Oftewel geloof jij eerder een commercieel bedrijf als Facebook dan de door onszelf gekozen overheid?

[Tintel]

Het gaat niet eens om geloof of evrtrouwen - het gaat erom dat het verschillende entiteiten zijn. Zodra 1 entiteit alle macht heeft (alle systemen beheerst) dan zijn we zuur.
FB is ook een rat maar met andere doeleinden dan de overheid. En zo zijn er meer instanties die communicatie verzorgen. Zodra de overheid alle communicatie kan nagaan dan gaan ze dit dus ook doen.... sleepnetten zijn altijd heel effectief gezien vanuit de uitvoerder daarvan.

Dat zelf gekozen aspect geldt ook voor FB, je kan ook een ander sociaal medium kiezen....

Dus bottomline: allebei zijn ze niet te vertrouwen ook al kiezen we 'onze' overheid. Alsof die gekozen functionarissen ook niet worden bedonderd door de onderliggende diensten omdat er ook mensen in de overheid zitten die we niet kiezen.... Maar ook hier weer: meerdere instanties/personen met macht die elkaar ook niet helemaal vertrouwen.

[m3gA]

Bij een bedrijf weet ik dat ze afgestraft worden door slechte media of de overheid als ze zich niet aan de afspraken houden. Dus ik heb inderdaad meer vertrouwen in bedrijven dan de overheid. Dan hebben we het niet eens over deskundigheid.

[Thekilldevilhil]

Want na alles wat Meta gedaan, en wat de media over dit bedrijf heeft ontdekt, hebben we dat bedrijf in stukken op gebroken en gezorgd dat ze dat nooit meer konden doen... Niet dus.

En wat dacht je van Dupont of Nestlé, die hebben een aardige verzameling "controversies" op hun wiki pagina staan. Chemours, spin off van Dupont, heeft ons willens en wetens te vergiftigen door het dumpen van PFAS en PFOA. Ik neem aan dat je dit ook wel meegekregen hebt.

Bedrijven zijn geen haar beter dan overheden, ze worden gepakt maar er zijn zelden consequenties. Sterker nog, de EU heeft meer voor onze privacy gedaan dan alle bedrijven samen. Vergelijk de EU regels met de VS en je zult zien wat een gebrek aan regelgeving en bescherming vanuit de overheid doet.

Nee ik ben het echt compleet met je oneens. Beiden moeten met een gezonde dosis argwaan en scepticisme bekeken worden, de een niet meer of minder dan de ander.

[Reactie gewijzigd door Thekilldevilhil op 22 juli 2024 16:39]

[hawke84]

Bij een bedrijf weet ik dat ze afgestraft worden door slechte media of de overheid als ze zich niet aan de afspraken houden.

Na alles wat naar buiten is gekomen met enorme social media-bedrijven als Meta, ben ik niet meer bereid bij voorbaat kapitalistisch / wettelijk vertrouwen te geven aan 3rd party bedrijven.

[bytemaster460]

Bij deze methode spit de overheid juist niet door jouw data. Dat doet jouw smartphone en als die iets onrechtmatigs vindt, trekt die aan de bel. Dat is natuurlijk wel een wezenlijk verschil (hoewel wat mij betreft ook onacceptabe).

[batjes]

Ze spitten dan wel degelijk door je data, de nuance is: ze laten dit door jezelf doen. Wel zo makkelijk en goedkoop die zelfcontrole.

[bytemaster460]

Nee, dat is een groot verschil. Als de overheid door je data spit ziet de overheid ook alles van onschuldigen. Als je smartphone lokaal door de data spit ziet niemand iets, behalve bij een positieve match.

[batjes]

Wie bepaald de flags? Bewijs maar eens dat ze zich aan hun afspraken houden. Je kan niet meer makkelijk alles even wiresharken en je kan zo smerig veel data in een paar kb stoppen, wat is een paar mb aan data verkeer nog vandaag de dag? Helemaal als dit op OS niveau geregeld wordt en ook op OS niveau dus lekker in het generieke verkeer kan zitten. De database moet bijgehouden en aangevuld blijven worden. Even wat extra flags toevoegen, hetzij targetted.

Maakt geen fluit uit of ze live meekijken of er offline rustig doorheen spitten. De overheid scant onze data. We doen het dan alleen voor ze en melden ons netjes zelf bij de overheid dat we fout zijn. Ik zie echt geen andere nuance. NSB maar dan voor jezelf

[bytemaster460]

Je blijft roepen dat ze er doorheen spitten. Dat doen ze niet. De database met hashes staat ook gewoon op je telefoon. Je verzint er nu allemaal spookscenario's omheen om je gelijk te halen. Bekijk eerst even hoe het systeem werkt voer de discussie dan op basis van die info. niet op basis van wat er allemaal technisch zou kunnen.

[Verwijderd]

Ik denk niet dat ze weet wat ze zegt, ze kwaakt haar ambtenaren na....

[ashemedai]

Een volgende regering vind dat je afbeelding type X or Y niet mag hebben en dat wordt strafbaar en ga zo maar verder.

We hebben het al zo vaak gezien, het gaat niet om de intenties nu, het gaat over een regering X die over Y jaar aan de macht is die een bestaand systeem anders gaat inzetten.

[batjes]

Ach we zijn al lang voorbij dat point of no return.

Ik vind het een uiterst verontrustende gedachte welke mogelijkheden onze overheid nu al tot haar beschikking heeft.

Met alle camera's, deurbelcamera's, autocamera's, wifitrackers, bluetooth trackers, smartphones, sleepnetten en andere mogelijkheden die we in ons land hebben.

Ga er eens op letten en je kan je kont niet keren zonder ergens digitaal geregistreerd te worden.

[Frogmen]

Je ziet hier duidelijk een probleem waarvoor geen oplossing is. Want ben je tegen scannen dan zal je wel kindermisbruiker zijn of dat in ieder geval wel willen faciliteren, ben je voor dan geef je alle privacy maar op etc. Kortom het probleem is dat er politiek kampen zijn die geen enkel compromis willen accepteren. Maar zo simpel is het allemaal niet. Tevens kan je je afvragen of het doel goed genoeg het middel heiligt.

[gsmolders]

Ik ben het eens met je stelling dat het probleem onoplosbaar is. Het probleem van kindermisbruik en het middel van encryptie worden hier door elkaar gebruikt en dat is lastig discussiëren.

Wel zie ik hier juist een compromis in. Het clientside scannen spaart kool en geit; een typisch Nederlandse oplossing dus.

Overigens moeten we wmb niet te kinderachtig doen over de bevoegdheid van de overheid. De macht om af te luisteren is er al in die zin dat geheime diensten en heimelijke opsporing al het mogelijke inzetten. Zie encrochat, pgp-telefoons etc. Het is niet altijd een slechte zaak om eea in het daglicht te slepen en dan maar door de kamer controleerbaar te maken.

[DataGhost]

Het is helemaal geen oplossing en ook geen compromis. Er is een verwaarloosbaar aandeel van de bevolking wat zich met kindermisbruik/kinderporno bezighoudt. Van dat verwaarloosbare aandeel zal je pak 'm beet maximaal 1% hiermee kunnen vangen. Het gaat dan om de absolute top, de crème de la crème op het gebied van achterlijkheid en onwetendheid, zegmaar die één of twee personen die de afgelopen en komende jaren volledig afgesloten van het nieuws hebben geleefd en door "hun community" niet op de hoogte zijn gesteld van het moeten vermijden van de bekende programma's die aan client-side scanning doen. Ondertussen zit de rest lekker op een andere app/service die niet aan scanning doet waardoor ze buiten schot blijven, en wordt voor de resterende bevolking alle inkomende/uitgaande plaatjes gescand met alsnog risico op false positives en alle daarbij komende serieuze mogelijke gevolgen. Als de politie een keer bij een gezin aan de deur staat met een verdenking van kinderporno dan kan het nog zo'n ontzettend duidelijk false positive zijn (wat je aan alleen een hash niet kan zien dus er zal onderzoek gedaan moeten worden met inbeslagname enz.), maar de verdenking alleen al kan een enorme impact hebben op het vertrouwen binnen en de relatie tussen de gezinsleden. Ik denk dat deze oplossing alleen maar verliezers gaat kennen, terwijl het echte misbruik onverminderd doorgaat.

[Reactie gewijzigd door DataGhost op 22 juli 2024 16:39]

[Cobalt]

Dit is dus wel een hele gevaarlijke ontwikkeling. Gaat de minister straks Microsoft en Google opleggen dit in de browser in te bouwen? In de web pagina kunnen die lui het gewoon tegen houden door de bepaalde bestanden tegen te houden of te deleten in dev mode.

Het is gevaarlijk om het bij Microsoft neer te leggen. Microsoft zegt dan dat je je niet houdt aan de licentie en blokkeert je account. En dan is het maar de vraag of je via de rechter je data en account terug krijgt. In het verleden zijn er ook al fouten gemaakt https://www.rtlnieuws.nl/...zonder-uitleg-uit-account Er blijven in Nederland al duizenden rechtzaken op de plank liggen door capaciteitsgebrek. Straks zijn mensen te laat. Zaak gewonnnen, data weg.

[Aeternum]

Goed je fotografeert je kinderen als 1 a 2 zijn en ze spelen kledingloos in een beekje ergens in the middle of nowhere in zweden/noorwegen. Wordt gescanned en et voila alle alarmbellen gaan af. Het scannen werkt niet en is een enorme pricvacy inbreuk het doel heiligt de middelen niet.

[hscheper]

Maar zoals ik begrijp uit het artikel zou het dan bijvoorbeeld gaan om het volgende: "De meestgebruikte methodes om kindermisbruikmateriaal op te sporen is door inbeslaggenomen afbeeldingen te hashen en die hashes te delen met makers van tools om afbeeldingen op grote schaal te scannen."

Dus in de situatie die jij schetst zouden de alarmbellen dan volgens mij niet af gaan.

[Hemingr]

Stap 1 is dmv hash "ook maakt niet zoveel uit, zet maar in de wet dat scannen mag"

Stap 5 is afbeelding analyse dmv AI modellen, en de wet hoeft niet te worden aangepast.

Stap 10 is elke afbeelding die onwelgevallig is voor het regime dat op dat moment de baas is.

Er zijn al voorbeelden van gebruikers die een foto van hun naakte kind legitiem naar hun arts stuurde omdat je niet op bezoek mocht tijdens covid. Google ging helemaal op hol tot politie aan toe.

https://www.theguardian.c...ogle-csam-account-blocked

[Reactie gewijzigd door Hemingr op 22 juli 2024 16:39]

[SunnieNL]

Het verschil is dan ook in de tekst van het voorstel. Google gebruikt geen hashes maar AI en scant alles wat jij in de cloud plaatst. Het voorstel hier is hashes via lokaal device. Daar zit echt een wereld van verschi in.

De stappen die jij maakt gooi je zo uit verband. Dat kan ik echt met alle wetgevingen doen, maar dan gebeurd er helemaal niets meer aan opsporing en preventie. En een wet aanpassen is ook niet zo 1-2-3 gedaan dus de kans dat 'hash fotos lokaal en vergelijk of voorkomt in database met bekende foto hashes' zomaar veranderd in de wet naar 'scan dmv van AI en veroordeel de persoon die het verstuurd direct dmv de AI data' is eigenlijk zo goed als 0.

[Aeternum]

Dat is min of meer mijn punt, zei het niet al te handig verwoord. Het is een glijdende schaal. Elk deel van de vrijheid die je opgeeft krijg je niet meer terug. En hoe vreselijk ik de misdrijven ook vind, dat weegt nergens op tegen de privacy die een complete bevolking opgeeft.

Daarnaast zal je met die methode best wel wat minder tech begaafde personen opsporen, maar de mensen die je zoekt ga je niet vinden.

[Reactie gewijzigd door Aeternum op 22 juli 2024 16:39]

[Cobalt]

De mogelijkheden van AI zijn op dit moment een heel stuk verder. Het zal niet een hash van een afbeelding zijn maar van een feature. Anders hoe je alleen een paar bytes te wijzigen om een andere hash te krijgen

[Frogmen]

Klopt helemaal, maar in de discussie die vaak omwille van het gelijk zwart wit wordt getrokken zal jij dus wel kinderporno zijn (wat je absoluut niet bent). Daarom kom je hier dus niet uit.
Ik heb dit dus ook al meegemaakt in een discussie over een afgesloten (wachtwoord) foto archief van een jeugdvereniging of foto's van kinderen in bad kleding wel of niet mocht. Werd ook de kinderporno troefkaart getrokken. Daarmee stopt iedere discussie, heel erg nare ontwikkeling. Het leven is namelijk niet zwart of wit gelukkig zijn we heel divers en dat is mooi.
Deze ontwikkeling zou dus bijna van naturisten criminelen maken zodra ze een foto nemen.

[SunnieNL]

Zo werkt het niet.. Als jij een nieuwe foto maakt van jouw kinderen is de kans heel klein dat ze al in de database met hashes staan, want de kans op een identieke hash op 2 verschillende foto's is heel erg klein.
Die alarmbellen gaan alleen af op het moment dat een hash identiek is met een foto die al eerder is beoordeeld op kindermisbruik.

Het scannen is ook geen privacy inbreuk als dit gebeurd op het device op het moment dat je de foto selecteert om door te sturen. Op dat moment wordt een hash berekend van de foto en wordt de hash vegeleken met de hashes in de database. Er wordt totaal geen data doorgestuurd dat ook maar enigszins privacy gevoelig is voor jouw. De grootste inbreuk op je privacy maak je eigenlijk zelf door die privé foto aan iemand door te gaan sturen en je geen idee hebt wat die persoon er mee gaat doen en hoe goed die zijn device heeft beveiligd.

[bytemaster460]

Maar zo werkt het niet. De hash van de foto wordt vergeleken met hashes in een database met foto's die bestempeld zijn als kinderporno. Nieuwe foto's die jij maakt staan daar niet in.

[tweaker29789]

Dus E2E vinden ze geen probleem zolang ze over je schouder mee kunnen kijken,

[JackJack]

Of zolang zij kunnen bepalen waar "End" in E2E begint en eindigt en ze de rest maar in kunnen zien vinden ze het prima.

Misschien tijd voor een tooltje die afbeeldingen dan ook weer encrypt zodat deze zogenaamde scanning tools niks meer zien dan een klompje rommel code. En vervolgens begint het kat en muis spelletje weer van voor af aan

[DropjesLover]

Zij die kwaad in de zin hebben zullen dat doen, maar de overige 17.423.000 inwoners van Nederland worden er wel mee lastig gevallen. Waardoor het gewoon z'n doel voorbij schiet, miljoenen kost en gewoon niet effectief zal zijn.

[kid1988]

Tijd voor een tooltje? File encryptie bestaat al decennia. Gezien je altijd het te versturen bestand zelf kunt versleutelen bepaal je altijd zelf waar de encryptie eindigd. Te veel gedoe voor de gewone burger die geen kwade intenties heeft, kleinigheidje voor iemand die weet datie verkeerd bezig is.

Het enige tooltje wat uit deze regelgeving ontstaat is een nieuwe messaging dienst. Gezien het overheidsapparaat te traag is om dat soort ontwikkeling bij te houden gaat dit hetzelfde effect hebben als bijvoorbeeld softwarepiraterij dmv proxies of vpn, of designer drugs die net even een andere chemische samenstelling hebben dan het verboden middel

[Reactie gewijzigd door kid1988 op 22 juli 2024 16:39]

[Stoney3K]

Dus E2E vinden ze geen probleem zolang ze over je schouder mee kunnen kijken,

Maar o wee als je over 'hun' schouder mee kijkt en er iemand lucht krijgt van een 'functie elders'. We moeten natuurlijk wel zorgen dat de goeierikken encryptie hebben, maar de slechterikken niet omdat die met encryptie foute dingen doen. Dat doen de goeierikken natuurlijk nooit, want ze dragen witte hoeden en ze hebben prachtige blauwe ogen waarop je ze kan vertrouwen.

Als de overheid maar zelf wel encryptie kan gebruiken omwille van de 'staatsveiligheid' maar de burger mag natuurlijk niets te verbergen hebben. Voorbeeldfunctie? Nooit van gehoord.

[Reactie gewijzigd door Stoney3K op 22 juli 2024 16:39]

[Aalard99]

De minister heeft volledig gelijk, e2e encryptie heeft een ander doel namelijk het verkeer in transport beschermen. De aanvullende vraag is of het wenselijk is dat bestanden worden gecontroleerd die op het device staan, wie krijgt deze informatie en wat wordt hiermee gedaan?

Stel de hash van een bestand komt overeen met een illegaal bestand in een database, wordt ik dan opgepakt of moet ik mijn telefoon overhandigen? Dat lijkt me namelijk helemaal niet wenselijk.

Begrijp dat er enigszins controle uitgevoerd moet worden maar scannen van bestanden op mijn device lijkt me helemaal niet wenselijk.

[CH4OS]

Als het alléén om verkeer in transport zou gaan, is een HTTPS-verbinding meer dan voldoende. Doel van e2e is dus wel degelijk óók het versleuteld opslaan van de data, bijvoorbeeld bij een tussenpartij zolang de ontvanger het bericht niet op een van diens apparatuur heeft staan. Anders zou de overheid wel opteren om serverside scanning te doen.

[Reactie gewijzigd door CH4OS op 22 juli 2024 16:39]

[Tintel]

zachtjes uitgedrukt.... het scannen an-sich is maar een opstapje inderdaad...wat is de vervolgstap? Het is eigenlijk heel slim; is de data ergens niet encrypted? Dan wil ik daar mijn 'snuffelaar' installeren... het kleine detail dat het jouw device (en data) is waar niemand behalve jijzelf volledig toegang toe zou mogen hebben vergeten we dan even....

[litebyte]

Wie ga je ermee pakken, wat gaat het significant bijdragen om de professionele verspreiding van kinderporno - want daar ligt het probleem - aan te pakken? De vader/moeder die een normale foto van hun kind in bad of op het strand op hun...device hebben staan en de Thijs Romer-achtige sukkels. Je denkt toch niet dat notoire kinderpornoverzamelaars/handelaars hun bestanden herkenbaar als image laten staan op hun opslagmedium of sowieso bij zich dragen/hebben?

Maar in de kern - Het gaat ook helemaal niet om kinderporno, het gaat om het afzwakken van encryptie in het algemeen..,.want daar wordt sinds Grapperhaus al hard voor gelobbied, frappant overigens dat Telegram niet genoemt wordt.

[Reactie gewijzigd door litebyte op 22 juli 2024 16:39]

[chrisboers]

Dit soort maatregelen wordt altijd geïntroduceerd voor iets waar niemand echt tegen kan zijn. 'Nazisme bestrijding', 'kinderporno' zijn hierbij geliefde onderwerpen.
Eenmaal ingevoerd wordt het doel gaandeweg uitgebreid (glijdende schaal) totdat het echte doel bereikt is. In dit geval het breeduit kunnen scannen en analyseren van devices.
Dus nee, geen goed idee.

[Kaasrol]

Tails zal vast graag meewerken aan zo'n client-side scanning initiatief. Er zal vast geen enkel softwaremedium zijn om hiermee de maatregelen te ontduiken. Maatregelen waardoor sowieso hooguit 1%/de onderlaag van de criminelen zal worden gepakt die niet 5 minuten hebben gegoogled op OPSEC.

[Reactie gewijzigd door Kaasrol op 22 juli 2024 16:39]

[kipppertje]

Het zit 'm in de uitvoering. De check is client side, dus dat is in essentie goed. Maar wat checken we? Een hash? Of de inhoud van de foto? En als het dat laatste is, wat gebeurd er dan? Gaat het dan naar een ambtenaar die checkt of die naaktfoto inderdaad kinderporno is?

[Aalard99]

Eens ja, klopt. Technisch haalbaar lijkt me iets van een hash en dan is er een match met een database. Wat dan? Kunnen 'ze' het bestand dan inzien of wordt het ergens neergezet?

Wat als iemand mij ineens een illigaal bestand stuurt via Whatsapp, wie is er dan fout?

Heel veel vragen en ben bang dat de problemen alleen maar groter worden dan voor het probleem waar ze een oplossing voor zoeken. Privacy vind ik een recht, net zoals briefpost dat is. Pas als er een duidelijke verdenking is van iemand dan pas mag na akkoord van een rechter ingegrepen worden.

[bytemaster460]

Nee E2E heeft juist ook tot doel dat aan de eindpunten geen onbevoegden kunnen meekijken. Voor het versleutelen van het transport is HTTPS voldoende.

[The Zep Man]

Client-side scanning van apparaten en chats op kindermisbruikmateriaal ondermijnt end-to-endencryptie niet

Het weten van cleartext helpt in het breken van ciphertext als de cleartext onderdeel is van de ciphertext, dus client-side scanning kan de veiligheid van E2EE ondermijnen. Wat de minister hier stelt is incorrect.

Ook Yesilgöz zoekt naar die balans en pleit daarom voor zogenaamd client-side scanning.

Je gaat ook niet zonder gerechtelijk bevel een huis door om te kijken of er kindermisbruikmateriaal aanwezig is, dus dit lijkt mij ietwat ambitieus.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 16:39]

[vanaalten]

Hmm, dit klinkt als een theoretisch statement dat hier wellicht niet van toepassing is.

Zoals ik het lees gaat het over scannen van bijvoorbeeld afbeeldingen op bijvoorbeeld je telefoon. Dan is dus een afbeelding jouw 'clear text' en die is encrypted naar een of andere cloud opslag verstuurd.

Zo lang die 'clear text' afbeelding enkel op je telefoon blijft kan het iemand buiten de telefoon toch niet helpen met breken van de versleutelde data?

(zoals ik het interpreteer komt het er op neer dat er een scanner-systeem op je telefoon geinstalleerd wordt en er een lijst van hashes van foute bestanden van een ministerie of zo naar je telefoon gestuurd wordt - niet dat ik zo'n systeem goedkeur, maar ik zie nog niet hoe dit E2EE breekt)

[The Zep Man]

Afbeelding is een deel cleartext van een E2EE-sessie.

E2EE-sessie bevat ciphertext gebaseerd op cleartext, waaronder de afbeelding.

Door een deel van de cleartext (de afbeelding) en de gehele ciphertext te hebben, verzwakt het deel cleartext de beveiliging van de ciphertext en daarmee de gehele cleartext.

Zo lang die 'clear text' afbeelding enkel op je telefoon blijft kan het iemand buiten de telefoon toch niet helpen met breken van de versleutelde data?

Daarom schreef ik:

Het weten van cleartext helpt in het breken van ciphertext als de cleartext onderdeel is van de ciphertext, dus client-side scanning ondermijnt zeker de veiligheid van E2EE.

Wat de minister stelt is incorrect. Er kan niet absoluut gesteld worden dat client-side scanning geen negatief effect heeft op E2EE.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 16:39]

[Patriot]

E2EE-sessie bevat ciphertext gebaseerd op cleartext, waaronder de afbeelding.

Deze opmerking snap ik niet helemaal. Wat bedoel je daar precies mee?

Voor zover ik de term client-side scanning goed begrijp is het gewoon een kwestie van de client zelf die verantwoordelijk is voor het scannen van de afbeelding. Dezelfde client die uiteindelijk verantwoordelijk is voor de E2EE, en dus per definitie toegang heeft tot de volledige cleartext. Elke derde partij heeft volgens mij nog steeds uitsluitend toegang tot de ciphertext, precies zoals nu het geval is.

Als dat niet is hoe het werkt dan draaien ze met de term client-side scanning in ieder geval iedereen een goede loer

[The Zep Man]

Deze opmerking snap ik niet helemaal. Wat bedoel je daar precies mee?

Met een beperkte client-side scan die aantoont dat een bepaalde afbeelding op de client staat en mogelijk hoe deze op de client is gekomen (d.m.v. bijvoorbeeld WhatsApp), verkrijgt de overheid informatie die helpt om E2EE-versleuteld verkeer (ciphertext, verkregen via een andere weg) te ontsleutelen. Op die manier blijft de aanwezigheid op de client beperkt, maar lekt er toch informatie over wat er (verder) via E2EE wordt verstuurd en ontvangen.

[Patriot]

Ik zie dat ik de opmerking die ik heb gequote sowieso in eerste instantie niet helemaal goed gelezen heb ofzo, want die is eigenlijk heel duidelijk

De vraag is wel hoeveel bruikbare informatie je uiteindelijk lekt. Sowieso is me niet duidelijk wat er nou precies wel inzichtelijk gaat zijn voor de overheid en op welke basis. Dat maakt wel het verschil tussen "dit is een wezenlijke afzwakking van de E2EE" en "dit komt aardig in de buurt van spijkers op laag water zoeken".

De overheid kennende zal het toch wel neerkomen op dat eerste

[Tarquin]

Ik vraag me af of Whatsapp/snap niet verplicht kunnen worden om een merkertje mee toe te voegen aan een afbeelding.

Dan kun je bijvoorbeeld bij chantage-foto's die verspreid worden helemaal teruggaan naar iedereen die het heeft doorgestuurd.

Of zou dat mensen alleen maar naar Telegram jagen die dat natuurlijk niet doet?

[Reactie gewijzigd door Tarquin op 22 juli 2024 16:39]

[Tintel]

Het punt is en blijft: die markeer zit dan aan alle afbeeldingen vast....en dan kun je dus meer traceren dan 'fout' beeldmateriaal. Ook ongewenst beeldmateriaal ... ongewenst voor wie?

En anderen dan de overheid kunnen het dan ook. En als het markertje ook wordt toegevoegd als het wordt doorgestuurd?
En dan nog de proportionaliteit: hoeveel materiaal is dan kinderporno cq. chantage-foto's t.o.v. al die reguliere zooi?

Laten we eens andersom zetten: een overheid die zich zo bekommerd om kinderporno zou beter die mensen die het moeten/kunnen opsporen erg goed betalen plus er meer van aannemen en zich meer bezig houden met de (psychische) behandeling van pedofielen i.p.v. zich altijd maar weer 'zorgen' te maken over het feit dat haar burgers met elkaar kunnen communiceren zonder dat ze mee kan luisteren....
Dat is pas verontrustend....

[3raser]

Is het ambitieus als (bijvoorbeeld) WhatsApp vrijwillig zou meewerken aan client-side scanning? Er komen dan wel veel vragen naar voren zoals de rechtsgeldigheid en wat er precies gebeurt als er een hit is. Wordt dan de lokale (of in ieder geval nationale) politie ingeschakeld?

Ik vind het een enge gedachte als online diensten als WhatsApp voor eigen rechter zouden kunnen gaan spelen. Iets wat Microsoft en Google nu wel eens doen.

[The Zep Man]

Is het ambitieus als (bijvoorbeeld) WhatsApp vrijwillig zou meewerken aan client-side scanning?
(...)
Ik vind het een enge gedachte als online diensten als WhatsApp voor eigen rechter zouden kunnen gaan spelen.

Zolang het vrijwillig is, heeft het tweede niets te maken met het eerste. Een WhatsApp kan nog steeds voor eigen rechter spelen door simpelweg een verzoek te beantwoorden met 'nee'.

[3raser]

Het tweede is het alternatief voor het eerste. Maar ik ga er vanuit dat de minister toch wel degelijk op het eerste doelt. Het lijkt mij ook beter als onze eigen justitie het onderzoek verder uit zou voeren.

Maar client-side scannen is natuurlijk gedoemd te mislukken. Ieder stukje software wat daar aan zou meewerken kan worden vervangen door een (illegaal) alternatief die niets scant.

[Tarquin]

En al die scanning is geautomatiseerd en de customer service afdeling bestaat niet.
Dus je accounts (Whatsapp, facebook, Insta) kun je kwijt zijn als de AI concludeert dat een afbeelding niet mag.
Dat gebeurt nu al met google en dan zit alles voor je op slot. En antwoord krijg je niet.

[Master FX]

Maar is men dan zo naief om te denken dat dit type gebruikers niet ook data versleuteld op zijn/haar computer heeft staan.

[JackJack]

Dat is precies wat er gaat gebeuren natuurlijk.
En vervolgens komen criminelen er gewoon mee weg en levert de normale burger weer een stukje privacy in voor een stukje schijnveiligheid dankzij de zoveelste flut oplossing.

[SunnieNL]

Voor het met whatsapp etc. verstuurd kan worden zal het toch eerst gedecrypt moeten worden. Bij het kiezen van welke foto je wilt sturen is de foto decrypt, tenzij je het als encrypte file doorstuurd ipv foto. Maar dan moet je allerlei extra handelingen gaan uitvoeren.

[Master FX]

Zeker waar, maar als ze niet de communicatie zelf kunnen scannen, maar alleen de bron, moeten ze wel toegang hebben tot die bron. Voor zo ver ik weet hoef je nog steeds niet mee te werken aan je eigen veroordeling toch? Dus als ze geen toegang hebben tot jouw device, want dat is encrypted, kan de bronfoto ook niet worden benaderd.

[kid1988]

Precies, evenals DRM zijn de gebruikers die niet verkeerd doen vaker de dupe dan de mensen die weten dat ze verkeerd bezig zijn.
Daarnaast is het natuurlijk zo dat je altijd zelf kunt bepalen waar de encryptie stopt. De encryptie van de transporteur eindigd wellicht op het apparaat waar je een bestand ontvangt. Maar niets weerhoudt een gebruiker er van om dat bestand nogmaals te versleutelen (ver) voor transport

[Kaasrol]

Breng haar niet op ideeën, straks wil ze ook constant geheugen scannen.