Nederland onthoudt zich van stem over omstreden EU-wet voor chatcontrole

Het Nederlandse kabinet zal zich onthouden van stemming over het omstreden EU-voorstel dat berichtendiensten zou verplichten berichten te scannen op kindermisbruikmateriaal. Dat schrijft justitieminister David van Weel in een brief aan de Tweede Kamer.

Het Hongaarse compromisvoorstel, dat volgende week door EU-ministers van Justitie wordt besproken, zou diensten als WhatsApp en Signal dwingen software te implementeren die bekende afbeeldingen van kindermisbruik detecteert. Dat zou gebeuren door alle foto’s die gebruikers versturen te scannen. Hoewel Nederland de urgentie van de bestrijding van kindermisbruikmateriaal zegt te erkennen, uit het kabinet zorgen over de impact op privacy en het telecommunicatiegeheim. Het kabinet stemt niet expliciet tegen de wet, maar onthoudt zich van stemming.

Privacyexperts en techbedrijven noemen het zogenoemde ‘chatcontrol’-voorstel een schending van de privacy van burgers en een bedreiging voor de versleuteling van online communicatie. Daarnaast bestaan er zorgen over de technologie achter het scansysteem, met name vanwege het risico op een hoog aantal valspositieve resultaten. Ook Van Weel stelt dat er onvoldoende duidelijkheid is over de gevolgen van de voorgestelde maatregelen.

Het huidige voorstel is een compromis na eerdere vertragingen. In juni werd een geplande stemming op het voorstel uitgesteld omdat verschillende EU-lidstaten meer tijd wilden voor overleg. Het originele wetsvoorstel, dat in 2022 door de Europese Commissie werd geïntroduceerd, kon vanaf het begin rekenen op felle kritiek.

Reacties (151)

[Knightwolf]

Hoe erg kindermisbruik is, ik ben felle tegenstander van het implementeren van dit soort tech. De privacyrisico's zijn niet te overzien, en kindermisbruik zelf zal er niet door stoppen. Als heel internet plat gelegd wordt, zal kindermisbruik nog steeds plaatsvinden. Daar is helaas niets tegen te doen op technologiegebied.

Verder ben ik bang dat dit weer een backdoor is om iedereen gewoon maar in de gaten te houden. Kindermisbruik ligt maatschappelijk gevoelig en wordt wat mij betreft erg snel aangehaald om privacyschending goed te praten.

Ik vind dat Nederland hier gewoon fel tegen moet durven te stemmen.

[Reactie gewijzigd door Knightwolf op 1 oktober 2024 16:26]

[MallePietje]

Hoe erg kindermisbruik is, ik ben felle tegenstander van het implementeren van dit soort tech. De privacyrisico's zijn niet te overzien, en kindermisbruik zelf zal er niet door stoppen. Als heel internet plat gelegd wordt, zal kindermisbruik nog steeds plaatsvinden. Daar is helaas niets tegen te doen op technologiegebied.

Verder ben ik bang dat dit weer een backdoor is om iedereen gewoon maar in de gaten te houden. Kindermisbruik ligt maatschappelijk gevoelig en wordt wat mij betreft erg snel aangehaald om privacyschending goed te praten.

Ik vind dat Nederland hier gewoon fel tegen moet durven te stemmen.

Volledig mee eens. Nu wordt er gescand op misbruik foto's, maar what's next? Het is een extreem steil hellend vlak waar we ons op begeven.

Het blijft ook onduidelijk of/welke alternatieven met minder impact op privacy zijn onderzocht. En waarom deze niet voldoen.

[Tintel]

erg snel aangehaald om privacyschending goed te praten.

Juist dit maakt dat ik eerder uitga van heel andere motieven. Omdat als je dit kindermisbruik werkelijk wilt bestrijden er echt heel veel andere (en effectievere) mogelijkheden zijn.

Zelfs als het wel echt bedoeld is om kindermisbruik tegen te gaan is het ook nog eens heel matig effectief.

De wereld op z'n kop denk ik dan want:

• Het idee is politiek beladen en de mate van de dreiging is slecht quantificeerbaar. (Terrorisme is nog zo'n voorbeeld).
• De doelmatigheid van het idee is matig.
• De neveneffecten zijn mogelijk bijzonder schadelijk voor de maatschappij in het algemeen (privacy schending ligt niet op de loer maar staat al achter de voordeur).
• De uitvoering is bijzonder kostbaar (want er gaat tenslotte heel veel data heen en weer).

[Icefellow]

"Omdat als je dit kindermisbruik werkelijk wilt bestrijden er echt heel veel andere (en effectievere) mogelijkheden zijn."

Ik begrijp dat je er onderzoek na hebt gedaan, op de hoogte bent van de juridische belemmeringen, en al ervaring hebt op het gebied van succesvolle implementatie trajecten?

De beste stuurlui staan aan wal. Daarom worden dit soort voorstellen gedaan omdat er natuurlijk al laaang betere preventie methoden op de plank liggen.

[Tintel]

Ik begrijp dat je er onderzoek na hebt gedaan,

Nee, helaas aan den lijve ondervonden.

De beste stuurlui staan aan wal.

tja, of je ziet het idee wat hier geopperd wordt voor wat het werkelijk is....

al laaang betere preventie methoden op de plank liggen.

Waar stel ik dat die oplossingen al klaar liggen? En sinds wanneer is dit voorstel een preventieve maatregel??? Het verspreiden van dergelijke materiaal tegengaan, betekent dat het misbruik dus al is gebeurd.....niet echt preventief dus.

[Qin]

Probleem is niet het opsporen van kp, maar dat deze methode ook voor andere doeleinden misbruikt kan worden.

Als het voor opsporing van 1 ding gebruikt kan worden, kan het voor alles worden gebruikt.

Je moet toekomstige regeringen niet het gereedschap geven dat ze kunnen gebruiken om jouw te onderdrukken.

[2TheMaks]

We hebben wetten om strafbare en niet strafbare feiten te beschrijven, zo lang jij geen strafbare feiten begaat waarom ben je dan zo bezorgd om je privacy?

Hoe meer informatie bekend is over een persoon, des te nauwkeuriger kun je een profiel schetsen van die persoon. Op het moment dat dit profiel nauwkeurig genoeg is dan is het kinderspel om die persoon te manipuleren (dus niet noodzakelijkerwijs chanteren). Vandaar dat mensen bepaalde zaken alleen delen met mensen die ze vertrouwen.

Het is niet alsof de overheid/politie/rechters tijd en of interesse hebben in welke artikelen je nu weer hebt besteld op easytoys.nl

Het schetsen van een profiel is al decennia lang geen handwerk meer. Dat is tot in de puntjes geautomatiseerd. Het is dus niet zo dat er andere mensen in je data gaan zitten snuffelen op zoek naar gênante zaken.

De automatisch geschetste profielen op basis van toegang tot privezaken is daarentegen wel weer handel waar een ruime belangstelling voor is.....

[vrow]

Wow.
Je gaat hier aan een heel groot probleem voorbij.
De kans op false positives is 100%.
Dat komt omdat er relatief weinig kp wordt verspreid.
Om die 1% kp op te sporen, worden er heel veel foto’s onterecht aangewezen als kp.
En die gaan dan uiteindelijk naar mensen die dat moeten beoordelen.
Denk daar maar even over na.
Het gaat echt om honderdduizenden foto’s per dag. Niet vier ofzo.
Daar zitten dan dus allemaal politieagenten naar te kijken en dat zijn dus jouw privéfoto’s.
En voor je het weet sta je op allerlei lijstjes met een kruisje achter je naam. Of krijg je opeens geen bankrekening meer of geen visum. Of staat opeens de politie voor de deur. Of bedenk maar wat.
Nee, hoe verwerpelijk kp ook is, dit moeten we echt niet willen.

[ChielScape]

zo lang jij geen strafbare feiten begaat waarom ben je dan zo bezorgd om je privacy?

Bruh...

[supersnathan94]

Ik vind het heel gemakkelijk hoeveel het "ja maar mijn pricacy" kaart wordt getrokken:

Ik vind het heel makkelijk hoe men de “ja maar als je niks hebt te verbergen” kaart trekt

Op het internet mag iedereen achter een VPN roeptoeteren dat die en die maar een kopje kleiner moet worden,

Daar heb je geen VPN voor nodig hoor. Sterker nog, zolang je er geen oproep tot geweld of bedreiging dat je het zelf komt doen van maakt is het ook nog eens beschermd onder vrije meningsuiting.

drugs verkopen alsof het smarties zijn (telegram)

Nou, misschien daar dan wat aan doen? Want als een willekeurige Jan er zo makkelijk aan kan komen dan kan de politie dat toch ook?

bangalijsten verspreiden, het zal je dochter maar zijn.

Niet om het een of ander, maar je weet wat een bangalijst is toch? Als je dochter daar op staat, dan heb jij gefaald. Niet diegene die de lijst bijhoud en al helemaal niet de overheid. Kom op hee. Erg makkelijk om daar de overheid verantwoordelijk voor te stellen.

Als je je normaal (dus niet zoals boven) gedraagt waarom is die privacy dan zó belangrijk? Wat boeit wetgevers al die andere kattenfilmpjes?

Die kattenfilmpjes? Helemaal niks, maar die memes van politici misschien wel. Ik heb genoeg whatsapp stickers die heerlijk de draak steken met mensen als Thierry Baudet, Mark Rutte en Geert Wilders. Allemaal volledig binnen vrijheid van meningsuiting, satirisch materiaal. Wat als ze daar nou ineens hashes voor toe gaan voegen? Kan ik straks de VVD niet eens meer op de hak nemen.

Deze methode (photDNA) is ontzettend onveilig (je kunt van de hash het origineel weer reconstrueren) en zet de deuren wereldwijd open voor censuur.

Want wie gaat de DB bijhouden? Het bedrijf er achter? Dé overheid? Decentraal? Vertel maar. Als iemand een hash toevoegt van een afbeelding van winnie the pooh gaat iedereen die daar iets mee doet nat. En ga nou niet doen alsof dat nooit zou gaan gebeuren.

[BytePhantomX]

De AIVD heeft ook een advies gegeven en dat is misschien wat anders dan sommigen zouden verwachten:

De AIVD waarschuwt dat ‘het introduceren van een scan applicatie op elke mobiele telefoon met een daarbij horende infrastructuur van beheersystemen een uiterst omvangrijk en complex systeem oplevert. Dit complexe systeem heeft daarbij toegang tot een grote hoeveelheid mobiele devices en de persoonlijke gegevens daarop. Dit resulteert uiteindelijk in een situatie waarvan de AIVD de risico's voor de digitale weerbaarheid te groot acht.’

Bron: https://www.tweedekamer.n...2024D35954&did=2024D35954 (bijlage)

[3raser]

Bijzonder advies inderdaad. Aangezien een sleepwet geen probleem was voor de AIVD en je daarmee een nog veel groter gedrocht creëert met persoonlijke gegevens.

[phoenix2149]

De vraag is natuurlijk hoe worden de foto's gescand.

Als alles "on premise" gebeurd, dus op de telefoon, voordat de foto (met encryptie) wordt verstuurd en daar een soort "hash" uitkomt. Deze hash (dus geen image data) kan dan met een database van KP hashes gecheckt worden. Komt er zeg 95%+ overeenkomst uit dan kan dit dus gemeld worden dat device met nummer x mogelijk KP heeft verspreid.

Als de foto daadwerkelijk "de cloud" ingaat om geanalyseerd te worden alvorens te sturen dat is natuurlijk ongewenst en ongepast. Of het nu encrypted is of niet doet er niet toe, ik heb geen controle over de decryption key etc. dus mijn foto's zijn dan mogelijk vrij toegankelijk voor iedereen met een decryption key van zeg whatsapp servers die de foto's screenen.

En dan?
Want geen enkel systeem (AI of niet) is 100% correct. Komen ze dan met een storm ram naar binnen walsen als ik een foto deel met net iets te veel "naakt" van een kind/baby? De kans dat een hash van een foto als deze (don't worry geen viezigheid) per abuis overeenkomt met iets wat zij in hun database hebben van bekende KP is heel klein, maar niet 0.

[Reactie gewijzigd door phoenix2149 op 1 oktober 2024 15:58]

[BugBoy]

Een hash voor 95% matchen gaat niet echt. Een hash matcht of die matcht niet.

[phoenix2149]

Ik bedoel met de hash bijvoorbeeld de PhotoDNA principe: YouTube: PhotoDNA™: How it works

[Terrestrial]

En daar komt die AI technologie die nu in Windows komt te zitten van pas. Waarom denk je dat ze daar zo op in zetten, niet om ons een paar onzinnige features te geven want dat boeit niemand wat. Pas als die beoordeeld het is interessant om verder te checken wordt het verstuurd naar de cloud. AI is de perfect client side scanning tool.

[jopiek]

AI werkt nooit 100% foutloos. Je hebt dus altijd false flags. Die false flags zul je door mensen moeten laten beoordelen. Dat blijft op meerdere vlakken een probleem.

Je hebt ook nooit de garantie dat de database met ongewenste content niet corrupt raakt (dat er misbruik van gemaakt wordt door derden), immers wie beheert die database, wil je niet openbaar hebben staan etc. Je kunt hashes faken, daar zijn tools voor. En de hashes zijn niet uniek.

Ander probleem is: in sommige contexten wil je dus foto's die in andere contexten onwenselijk zijn kunnen gebruiken. Bij verpleegkunde/geneeskunde opleidingen en/of ziekenhuizen is het heel normaal en zelfs wenselijk om allerlei foto's en filmpjes te gebruiken die in vrijwel alle andere contexten niet normaal en/of onwenselijk zijn, hoe gaat AI dat onderscheid maken?

Ik werk veel met manikins van baby's voor mijn onderzoek, ik kan me ook voorstellen dat AI daar slecht op gaat. Als ik met studenten er aan werk stuur ik regelmatig ook foto's van manikins of delen van manikins. Toch wel ingewikkeld als om zoiets je hele IT infrastructuur geblokkeerd wordt zeg maar, als je veel false positives krijgt is de kans dat het uit de hand loopt natuurlijk aanwezig. Moeten we dan maar stoppen met medisch onderwijs en onderzoek naar kinderreanimeren?!

Oftewel, hoewel het doel heel nobel is zal er uiteindelijk ook veel ellende door veroorzaakt gaan worden omdat het systeem nooit waterdicht is. Dus nee: "AI is" NIET "de perfect client side scanning tool."

[Terrestrial]

Ik heb ook nooit gezegd dat AI 100% werkt, sterker nog het is rommel en ik ben zwaar tegen. Alleen voor het doeleinden van spionage werkt het een stuk beter dan alle data naar de cloud proberen te sturen, er wordt gelet op patronen en een grove voorselectie gedaan. Je geeft hele goede voorbeelden echter heb geen illusies, al dit soort data beland straks toch in de VS en wordt in geval van twijfel bekeken en beoordeeld door mensen ogen. Besef even hoeveel privacy en bedrijfsgevoelige informatie daar tussen zal zitten.

De Amerikanen en Amerikaanse bedrijven maken misbruik van hun macht om nog meer macht te verkrijgen. De oplossing gaat zijn dat er een alternatief opensource (europees?) besturingssysteem ontwikkeld gaat worden. Ik denk dat we er niet meer aan ontkomen.

[jopiek]

Je zegt anders "AI is de perfect client side scanning tool." nou dat valt nogal tegen, het is niet perfect.

"De Amerikanen en Amerikaanse bedrijven maken misbruik van hun macht om nog meer macht te verkrijgen. De oplossing gaat zijn dat er een alternatief opensource (europees?) besturingssysteem ontwikkeld gaat worden. Ik denk dat we er niet meer aan ontkomen.'

Dit is anders in de VS de nek om gedraaid. Apple heeft een proefballon opgelaten. Daarop kwam enorm veel weerstand (was dat misschien juist hun bedoeling?!) en toen heeft men zich bewust tegen client side scanning uitgesproken.

[Terrestrial]

Als je het beestje client-side scanning noemt wordt iedereen boos, maar als je het onder het mom van lokale AI doet en uiteindelijk doet die hetzelfde maar dan op een intelligentere manier dan is het ineens niet erg want men beseft niet wat men krijgt.. De marketing afdeling maakt de mensen wijs dat we dit echt allemaal nodig hebben, oh wat een verbetering in ons leven (not). Maar ondertussen staat straks iedereen onder massa-surveillance. En natuurlijk wordt er geroepen bij mensen die skeptisch zijn, ja maar we hebben wel criminelen en kiddyporn makers kunnen pakken op deze manier. En dan mag je er natuurlijk niet op tegen zijn. Ondertussen gaat de VS met al onze data slepen en is er geen concurrentie meer mogelijk.

Kortom de - perfecte client side scanning tool - dus, het is ideaal voor het doeleinde waarvoor zij het willen gebruiken, is de context zo duidelijker?

[jopiek]

Je hebt zeker goede punten, vrijwel niemand begrijpt het en dat is een flink (en m.i. steeds groter wordend) probleem.

[al__in__gebruik]

Er moet iets meer achter zitten anders zou je kunnen heel het systeem omzeilen door in je afbeelding 1 pixel te veranderen.

[Stoney3K]

Dat blijft een onoplosbaar vraagstuk.

Als je 'fuzzy' matches toe gaat passen dan komen er vroeg of laat valspositieven uit. Als je 100% specifiek wil hebben, dan moet je accepteren dat er altijd afbeeldingen doorheen gaan vallen die wél kinderporno zijn maar niet door het algoritme worden gedetecteerd.

En false positives zijn niet direct een probleem, zolang er maar wel een duidelijke procedure is om dat weer recht te zetten. Het moet meer zijn dan "Ons Algoritme(TM) heeft U gevlagd, ga niet door naar Start, U ontvangt geen €20.000, over de uitslag kan niet worden gecorrespondeerd."

[Skit3000]

Het is nog erger, als je een hash gebruikt kunnen er collisions zijn (meerdere bestanden die dezelfde hashsignature opleveren). Wat als iemand jou een doodgewone foto stuurt, maar waarbij expres pixels zijn veranderd totdat er zo een collision plaats vond? Het staat dan op jouw apparaat en wellicht stuur jij de foto ook weer naar iemand door. WhatsApp ziet dat jij een foto stuurt waarvan de hash overeen komt met een afbeelding op de lijst en (zonder dat ze de foto zien) geven aan de autoriteiten door dat jij (zogenaamd) verboden bestanden bezit en verspreidt.

[supersnathan94]

Het is nog erger, als je een hash gebruikt kunnen er collisions zijn

Nouja. Ik neem aan dat men wel een hashing algo pakt wat niet MD5 of SHA-1 is en een fatsoenlijk entropy geeft om dat te voorkomen. SHA-256 heeft een “generic birthday attack” van 2¹²⁸ pogingen.

Het bitcoin netwerk, wat hash berekeningen doet als ontbijt heeft een gigantische hoeveelheid rekenkracht, maar zelfs met die hoeveelheid rekenkracht duurt het zo gigantisch lang om een collision te kunnen berekenen dat de zon de aarde al heeft opgeslokt voor ze em hebben gevonden.

Dat gezegd hebbende. Dat zijn cryptografische hashes en dat is niet wat photoDNA gebruikt.

Sterker nog. Als je van photoDNA de hash database hebt, kun je in de praktijk de fotos weer terughalen: https://anishathalye.com/inverting-photodna/

Laten we dit dus vooral lekker even in de ijskast zetten.

[Reactie gewijzigd door supersnathan94 op 2 oktober 2024 00:35]

[barefoot]

Kan in theorie, maar om dat te vermijden maken ze de hashes lang genoeg dat de kans op 1 collision in een miljoenmiljard jaar praktisch 0 is.

[MSalters]

Je denkt aan cryptografische hashes. Daar hoop je dat ~50% van de output bits veranderen als je ook maar 1 input bit verandert. Expliciet volgt dar dus uit dat je bij verschillende hashes niet weer hoeveel input bits er verschillen.

Dit is géén cryptografische hash.

[Skender]

De EU heeft 5 proefprojecten gefinancierd, waaronder projecten die met AI detecteren of het om naaktbeelden gaat met minderjarigen. Niet enkel hashes van al gekende beelden dus.
Ik dacht dat bij een positief resultaat, de beelden doorgestuurd werden naar een "trusted entity", waar iemand de beelden moet bekijken en beslissen of het om legale of illegale content gaat... (tenzij dit in dit gewijzigd voorstel geschrapt zou zijn?)

[phoenix2149]

Tja en DAAR gaat het dan echt helemaal mis! Want wat is (te) naakt? Ik heb wel vaker leuke filmpjes en foto's naar mijn vrouw gestuurd toen kids in hete zomerdag lekker in hun blootje aan het badderen waren.

Die foto's wil ik helemaal niet naar een "trusted entity" hebben. En wie is die "trusted entity"? wie controleert die "trusted entity"? Hoe is de beveiliging van die "trusted entity? Hoe is de screening van de beoordelaars van deze "trusted entity"

Als je al een begin wil maken met zo iets, dan zul je moeten beginnen met een control sample (dus bekend materiaal) waartegen onherkenbaar (met AI/PhotoDNA of wat ook) eerst een assessment gedaan kan worden hoe waarschijnlijk het is dat dit al bekend materiaal is die bij een kindermisbruiker is aangetroffen in circuleert.

Op moment dat dit een success verhaal is (hoeveel meer mollesteerders pak je relatief op?) kun je nadenken over een tool die onbekende foto's laat beoordelen of het mogelijk om kindermisbruik gaat, dan nog steeds is er geen directe foto nodig.
Dan zou een instantie (lees politie/justitie) ingeschakeld moeten worden om het tot een volgende stap te laten gaan. Dit allemaal zonder nog de foto gezien te hebben. Dan komt de volgende stap om via de juridische procedure toegang te krijgen tot de device(s) van de verdachte om vervolgens te kunnen beoordelen of dit om kindermisbruik gaat.

En dan blijkt het om een foto tussen pa en ma te zijn over hoe leuk ons kind in het zwembadje spettert? Nou fijne dag gehad schat?

[Reactie gewijzigd door phoenix2149 op 1 oktober 2024 19:39]

[Skender]

Mee eens hoor. Een scan die lokaal op je telefoon draait, en bij een (mogelijk vals) positief resultaat weigert om je foto te versturen, is vervelend, maar geen privacy schending. Het zonder jouw toestemming doorsturen naar een derde partij (de "trusted entity") is uiteraard wel een privacy schending. Een zware privacy schending gezien de potentiële gevoeligheid van het soort beelden dat de filter moet tegenhouden

[watabstract]

Dergelijke foto's krijg ik soms zelfs van vrienden of collega's. Want ja een kind dat bloot buiten in het zwembadje speelt, boeie.. En daar schuilt inderdaad groot gevaar met dit soort diensten. Een instantie die kinderporno aanpakt snapt wel dat het onschuldige kiekjes zijn maar je wilt natuurlijk niet dat je zomaar je chat account verliest omdat die Amerikanen vinden dat het grensoverschrijdend is.

Als deze wet er echt doorkomt dan stap ik over naar self hosted matrix. Familie en vrienden zijn welkom om een account te openen. De rest van de wereld kan federated contact leggen. En dan doei grote chat apps. Simpel zat

[Melones]

dat moet iedereen sowieso al doen? waarom wachten tot het hier op aan komt?

[Tintel]

Juist - een subjectief onderwerp (waarbij context ook meetelt!) proberen automatisch te laten controleren is totaal absurd.
En bij materiaal wat wel als storend wordt ervaren door 'normale' mensen worden deze mensen dus echt zwaar (over)belast.
Wie is nu de 'winnaar' in dit absurde scenario?

De molesters wordt niet gevonden.... het kind is al gemolesteerd.... de mensen die de controles doen hebben psychische problemen en de vrije wereld raakt haar vrijheid kwijt.....

Dommer kunnen we het niet maken.

[phoenix2149]

Ik snap wel waarom men een dergelijke tool wil. Kinderen misbruik willen we allemaal voorkomen.

1 op de 5 kinderen wordt misbruikt. Het zij psychisch of het zij lichamelijk.
4% wordt daadwerkelijk seksueel misbruikt.(1) Dat is dan nog zonder mogelijk beeldmateriaal.

Bron 1
Of zonder Paywall: https://www.nji.nl/cijfers/kindermishandeling

Dus voor 4% van de kinderen die sexueel misbruikt worden is maar een beperkt deel met beeldmateriaal. Ik kan daar geen cijfers over vinden maar zeg 2% is met beeldmateriaal (denk veel lager maar goed).

Voor dergelijke hoeveelheden wil je dus iedere foto die gestuurd wordt beoordelen op mogelijk kindermisbruik en dan hopen meer misbruik te onderscheppen.

Dat is een behoorlijk groot middel om een kleine groep te identificeren.

Nogmaals, het is shocking hoeveel kinderen worden misbruikt! Dit is zeker iets wat aangepakt moet worden. Moeten we dan de overige 80% maar ook door veilig thuis beoordeeld laten worden om te voorkomen? Fijne wedstrijd.

[Tintel]

Natuurlijk is het verschrikkelijk dat het gebeurt maar een groot deel van die cijfers betreft verwaarlozing. Daar worden natuurlijk geen beelden van gemaakt. Daar helpen deze maatregelen dan ook helemaal niets.
En vervolgens is een deel van dit soort mishandeling (beetje foute term in deze context - want men handelt juist niet...), een gevolg van slechte omstandigheden bij de het gezin als geheel.

Dat is een behoorlijk absurd groot middel om een hele kleine groep te identificeren.

[OruBLMsFrl]

Het probleem is dat hiervoor geen trusted entities kunnen bestaan. Politiek niet, welwillende stichtingen niet, is allemaal geprobeerd en allemaal mislukt. Privacy blijft alleen bestaan met end to end encryptie. En met client side scannen heeft de AIVD gelijk, dan heb je effectief de one ring to rule them all gemaakt. Stel je CrowdStrike incident voor, maar dan honderd keer erger.

[Dennisdn]

Je eerste alinea is precies zoals Apple het wilde gaan doen. Maar kreeg daar zoveel gezeik over dat ze ervan af hebben gezien.

[willieverhoef]

de sleepweg blijft wel weg van de devices en gaat over het afluisteren van communicatie bij de telecom provider. Wat dus naar mijn mening ook maar gedeeltelijk lukt.

[Rob Coops]

Er is een enorm verschil tussen de lijntjes tussen de devices en de devices zelf afluisteren.

Wat de AIVD wil is iedereen en alles afluisteren ten alle tijden zodat er geen mogelijkheid is om bijvoorbeeld een andere tool te gebruiken om de spionnen te ontwijken. Iets dat bij een verplichte controle software op de telefoon gegarandeerd zal volgen. Waarom iemand een alternatief systeem zou willen gebruiken, denk je eens in hoeveel extra batterij er nodig is om elke foto die je ontvangt te scannen en dan als de signature dicht genoeg bij een verdachte foto zit deze ook nog eens door te sturen naar de blote kinder billen gluurders van de EU.
Het is een beetje als de antivirus scanners van weleer, de systemen hadden simpel weg de rekenkracht niet om en de antivirus software en de gewenste applicaties allemaal te draaien en dus werd alles al snel langzaam van de virus scanner en deden veel mensen deze verwijderen omdat het systeem anders te langzaam werd. Dat zelfde staat te gebeuren met de EU onzin. Denk je maar eens in als je 3 of 4 verschillende chat applicaties op je telefoon hebt en ze allemaal alle foto's die ze ontvangen onafhankelijk van elkaar pogen te scannen. Natuurlijk alleen hun eigen foto's maar toch.
Een oplossing waar iedere chat applicatie de zelfde code deelt is ondoenlijk want wie onderhoud dat dan? De EU, dan kun je er van uitgaan dat er binnen de kortste keren meer functionaliteit zal worden toegevoegd. En een "onafhankelijke" groep die dit voor de EU ontwikkeld is natuurlijk niet onafhankelijk omdat ze door de EU betaald worden en dus in essentie gewoon een EU club zijn.

[Tintel]

Dus of gebruikt de AIVD ook intern dit soort applicaties.... of hebben ze al toegang en willen ze niet dat ook anderen die toegang krijgen.

Of iets minder beschuldigend naar de AIVD: als de foute lui weten dat ze worden gemonitord dan zullen ze naar elders uitwijken.

[Boxman]

En dan nemen ze misbruik maken van dat systeem nog niet mee.

Dit wordt het nieuwe SWATten. Stuur iemand die je niet mag een paar foute plaatjes en hoppa, die wordt direct opgenomen in alle foute lijstjes waar je voor de rest van je leven niet meer uitkomt, met als bonus grondslag voor justitie om je al je devices in te nemen en door te spitten. Toch een stevige hak die je iemand dan even kan zetten.

[Reactie gewijzigd door Boxman op 1 oktober 2024 17:31]

[Verwijderd]

Dit wordt het nieuwe SWATten. Stuur iemand die je niet mag een paar foute plaatjes en hoppa, die wordt direct opgenomen in alle foute lijstjes waar je voor de rest van je leven niet meer uitkomt, met als bonus grondslag voor justitie om je al je devices in te nemen en door te spitten. Toch een stevige hak die je iemand dan even kan zetten.

Dat kan niet... Hoe jij het nu schetst wordt het slachtoffer veroordeeld en opgesloten maar gaat de dader vrijuit. Plots zit de gevangenis dan vol met slachtoffers van stalking. Zo werkt het rechtssysteem op een handjevol missers godzijdank niet.

Hoeveel downloaders van copyright materiaal zijn er gearresteerd/veroordeeld t.o.v. van het aantal uploaders? En dat is waar het om gaat, de verzender wordt getraceerd en gepakt niet de niets vermoedende ontvanger. Dat zou wat anders zijn als de ontvanger van dergelijk materiaal zich er structureel schuldig aan maakt.

[Boxman]

Wie heeft het over gevangenis of schuldig verklaard worden? Enig idee wat swatting is? Er is nog geen geswatte streamer daadwerkelijk in de gevangenis beland. Maar vervelend is het wel. Ik weet niet waar je op denkt te reageren eerlijk gezegd, maar ik heb het vermoeden dat je me verkeerd begrepen hebt.

[Reactie gewijzigd door Boxman op 1 oktober 2024 19:11]

[supersnathan94]

Eh. Als die fotos worden gescanned, wordt dat gedaan voor het versturen.

Als die fotos op de lijst staan dan 1. Hoe kom jij daar aan? En 2. Die gaan nooit verstuurd worden naar je doelwit, want wordt eruit gepikt boor verzenden.

Ergo, jij bent de sjaak, jij hebt die beelden, jij gaat t gevang in.

Je kunt dit niet gebruiken om mee te “SWATten”. Wat denk je dat er gebeurt op het moment dag jij dat materiaal op je toestel hebt?

[Stoney3K]

De plek waar vanuit de foto's verzonden worden hoeft natuurlijk geen client-side scanning te doen, want dat wordt niet wereldwijd afgedwongen.

[supersnathan94]

Die client side scanning wordt gedaan bij verzenden. Als ontvanger druk je op delete en ben je klaar.

Als verzendende troll zul je echt veel meer moeite moeten doen om hier daadwerkelijk iets mee te kunnen bereiken zonder dat je zelf de sjaak bent.

Want we kunnen dit theoretisch wel bekijken vanuit de ontvanger, maar ga eens kijken vanuit de verzender: hoe ga je in vredesnaam aan materiaal komen wat je dan ook nog eens daar moet zien te krijgen zonder dat je zelf sporen achterlaat.

[Boxman]

Ik dacht dat dit tweakers was, je kunt je geen enkele manier bedenken hoe je een zogheten payload op het toestel van een slachtoffer kan krijgen? Emails met virussen verstopt in zipfiles alweer vergeten? De detectie gaat client-sided, dus na uitpakken ben je de sjaak. En dat is 1 voorbeeld van een leek, ga er maar vanuit dat er genoeg ideeen te vinden zijn door mensen met iets meer ervaring daarin.

Je kunt nooit met zoveel stelligheid zeggen dat 'het nooit kan' op basis van 1 random gedachte.

[supersnathan94]

Tuurlijk kan ik dat bedenken, maar swatting wordt over het algemeen gedaan door trolls en niet per se tech savvy personen.

Daarnaast moet je hier echt wel heel goed weten wat je doet, want waar swatting praktisch anoniem kan, heb je hier echt wel een zware kluif aan om dat ff zonder sporen te doen.

Iemand moet die zip prepareren met materiaal wat overal ter wereld zwaar illegaal is. Succes daarmee.

[BadRespawn]

Stuur iemand die je niet mag een paar foute plaatjes en hoppa, die wordt direct opgenomen in alle foute lijstjes waar je voor de rest van je leven niet meer uitkomt,

Waarom zou degene die de plaatjes verstuurd niet worden gedetecteerd?

[uiltje]

Zo vreemd is het niet. Dit wordt bijna anoniem door cryptografen onderschreven. Bij de AIVD werken ook gewoon mensen uit het veld.

[Kermit123]

En wie was door ook al weer een tijdje het opperhoofd?

[WillySis]

In dit geval toeval, want die was tijdens het totstandkoming van dit rapport al een tijdje vertrokken.
Ik denk wel dat hij zich in de conclusie kan vinden. Aanleiding tot zijn vertrek was de sleepwet (vond hij te ruim voor de burger).

[Pendora]

Wat ik vind dat hier mist is dat de eerder de ministeries van Economische Zaken en Buitenlandse Zaken en die stemde actief tegen, maar omdat die nu niet beschikbaar waren is het ministerie van Justitie degene die ging stemmen. Als de bewuste ministeries "gewoon" beschikbaar waren was er waarschijnlijk weer actief tegen gestemd. Dan was de wet nog steeds niet doorgegaan maar door niet te stemmen is er dus geen "weerstand" vanuit Nederland.

https://www.nu.nl/tech/63...k-op-losse-schroeven.html

[ArmEagle]

Bits of Freedom benoemt dit ook en geeft toelichting over het "onthouden met actief uitdragen": https://www.bitsoffreedom...dat-encryptie-ondermijnt/

[Rob Coops]

Politiek... Nederland onthoud zich van stemmen omdat ze de Hongaren niet in de weg willen zitten want die moeten voor de een of andere Nederlandse plannen stemmen of in ieder geval niet tegen stemmen, of hebben dat eens gedaan en dat moet nu terug betaald worden. En natuurlijk is voorstemmen geen optie als je in Nederland als politiek nog een heel klein beetje geloofwaardigheid over wil houden. Dus dan maar niet stemmen want dan leg je het lot van de privacy van je burgers in de handen van andere landen en dat is natuurlijk altijd een heel goed idee en zeker ook iets dat helemaal niet tot ongewenste resultaten kan leiden.

Als je als land aan alle kanten (in eigen land( kritiek zegt te hebben op een bepaald voorstel dan moet je ook gewoon tegen stemmen natuurlijk. Of anders stoppen met liegen tegen de mensen in eigenland want wat je claimt is gewoon niet waar anders had je echt wel tegen gestemd.

[PdeBie]

Nederland <> Hongarije. Iets met Rutte als NATO leider waar Hongarije eerst op tegen was?

#complottheorie #nietserieus

[emeralda]

Wilders is fan van Orban.

Als je echt kindermisbruik wil tegen gaan dan doe je dat met ontwikkelingshulp voor de landen waar het gemaakt wordt maar ik krijg de indruk dat mensen zich drukker maken om de pedos dan de kinderen in het buitenland.

[CH4OS]

Het vervelende is ook wel, dat wanneer men zich onthoudt van stemmen, hoe dan ook moet meedoen of de Wet er nu doorheen komt of niet. Dus echt een statement maken is het ook niet echt door te onthouden van stemming (en dat lijkt me dan ook het doel niet).

[Reactie gewijzigd door CH4OS op 1 oktober 2024 15:05]

[Ixus74]

Is het niet zo dat bij EU wetten alle landen voor moeten stemmen? Een onthouding kan dan dus worden gezien als tegenstem. Ik kan het mis hebben hoor.

[field33P]

Hangt af van het onderwerp. In de regel stemmen ze met gekwalificeerde meerderheid, behalve wanneer het onderwerp op de lijst van 'gevoelige' onderwerpen staat. Deze maatregel valt dan ook onder de noemer "een aantal regelingen op het gebied van justitie en binnenlandse zaken (de Europees openbaar aanklager, familierecht, operationele politiesamenwerking, enz.)". Wat dus betekent dat wanneer Nederland expliciet tegen stemt het gelijk een showstopper is voor het voorstel. Vandaar dus de onthouding, want "Een stemonthouding vormt geen beletsel voor het aannemen van een besluit waarvoor eenparigheid van stemmen is vereist."

De reden waarom Nederland nu kiest voor onthouden is vrij simpel: er is wijdverspreide steun binnen de Raad voor het (onzalige) voorstel, en we willen niet dat lidstaten voortdurend hun veto gaan inzetten tegen voorstellen die gunstig voor ons zijn. Er zal ongetwijfeld een uitruil plaatsgevonden hebben.

De Spanjaarden hadden in Brussel bijvoorbeeld nog wel eens de neiging om hun veto's in te zetten tegen ogenschijnlijk ongerelateerde zaken.

[wooha]

In de beslisnota bij de kamerbrief staat:

Het kabinet heeft daarom besloten om zich te onthouden van het innemen van
een positie en dit actief kenbaar te maken. Nederland zal daarmee worden
gerekend tot de landen die de algemene oriëntatie niet steunen.

Daaruit dacht ik af te kunnen leiden dat het om een stemming met kwalitatieve meerderheid ging, omdat de suggestie wordt gewekt dat het van belang is dat er meer landen zijn die tegen stemmen. Ook een eerder artikel op nu.nl leek erop te wijzen dat de wijziging in stemgedrag niet persé een verschil zou maken.

Maar ik kon nergens expliciet vinden dat die aanname klopt. Heb jij er een bron van dat dit een "gevoelig onderwerp" is?

Ook is het me nog niet duidelijk welke lidstaten er nou precies voor gaan stemmen en of ze daarmee de 65% bevolkingsgrens halen die voor een gekwalificeerde meerderheid nodig is.

De omslag van tegen stemmen naar stemonthouding door Nederland zou bij minder dan 65% voorstemmers bovendien alleen uitmaken als het aantal tegenstemmende lidstaten dan ook nog onder de 4 zou komen.

[Maurits van Baerle]

Het verschilt per onderwerp of een voorstel met 'Eenparigheid' aangenomen moet worden of met een 'Gekwalificeerde meerderheid'.

[snoopdoge90]

https://www.eumonitor.nl/...vik7m1c3gyxp/vhaw1awal3u2

Eenparigheid van stemmen wil zeggen dat een voorstel alleen aangenomen kan worden wanneer geen enkele lidstaat tegen het voorstel stemt, én alle lidstaten een stem uitbrengen. Bij afwezigheid van een lidstaat kan een voorstel niet worden aangenomen.

Onthouden van stemming: ongeschreven regel
Een lidstaat kan zich onthouden van stemming. Daarmee blokkeert die lidstaat de besluitvorming niet. Er zijn geen regels over wat te doen bij onthouding van stemmen door een aanzienlijk aantal lidstaten. In de praktijk is dat niet nodig. Er wordt naar gestreefd dat alle lidstaten vóór een voorstel zijn, en geprobeerd bezwaren zo veel mogelijk weg te nemen.

https://eur-lex.europa.eu.../TXT/?uri=CELEX:12016E238

Een lid van de Raad dat niet vóór wil stemmen, maar ook niet tegen en ook niet de besluitvorming wil blokkeren, kan zich onthouden van stemmen. Een stemonthouding vormt geen beletsel voor het aannemen van een besluit waarvoor eenparigheid van stemmen is vereist

[Reactie gewijzigd door snoopdoge90 op 1 oktober 2024 15:50]

[lamme23]

Je hebt het inderdaad een beetje mis. Er moeten tenminste 15 van de 27 lidtstaten instemmen en die moeten samen meer dan 65% van de EU burgers vertegenwoordigen.

https://op.europa.eu/webp...HOW_DOES_THE_EU_WORK.html (Opgave 6)

[wooha]

En ook dat lijkt weer iets subtieler. Uit het onderstaande begrijp ik dat het ook doorgaat als minstens 55% van de lidstaten (en 15 in aantal) voorstemt en minder dan 4 lidstaten tegenstemmen of zich actief onthouden van stemming, zelfs als de voorstemmers minder dan 65% van de bevolking vertegenwoordigen.

Overigens blijkt hieruit geen verschil tussen tegen stemmen en actief onthouden van de stem. Daar is hier en daar wat discussie over.

https://eur-lex.europa.eu...F/?uri=OJ:C:2016:202:FULL

Artikel 16
[...]
4. Met ingang van 1 november 2014 wordt onder gekwalificeerde meerderheid van stemmen
verstaan ten minste 55% van de leden van de Raad die ten minste vijftien in aantal zijn en lidstaten
vertegenwoordigen waarvan de bevolking ten minste 65% uitmaakt van de bevolking van de Unie.
Een blokkerende minderheid moet ten minste uit vier leden van de Raad bestaan; in het andere geval
wordt de gekwalificeerde meerderheid van stemmen geacht te zijn verkregen.
De overige bepalingen inzake de besluitvorming met gekwalificeerde meerderheid worden vastgesteld
in artikel 238, lid 2 van het Verdrag betreffende de werking van de Europese Unie.

[dmantione]

Het is een middel om naar eigen publiek te kunnen zeggen dat je het niet steunde, maar tegelijk weten dat jouw onthouding zorgt dat het voorstel wordt aangenomen.

[D.nukem]

Volksvlakkerij dus.
Als deze wet volgens de regering zo slecht is, moeten ze tegenstemmen.

En ja, deze wet is een veto waard, want alleen fascisten (en hele naïeve mensen) worden hier nat van en de "doelgroep" was al zo slim om andere wegen te bewandelen.

[Danny]

dat inderdaad. 'we willen wel dat het erdoorheen komt, maar dat kunnen we niet verkopen aan de burger en dus kunnen we nu zeggen dat we niet vóór hebben gestemd'.
Effectief komt het op hetzelfde neer.

[Kevinp]

waarbij ze weten dat ze in een blokerende minderheid zaten. op deze manier wordt deze opgegeven. Deze verandering is dus impliciet gewoon een stem voor.

[gevoelig]

Waarom vinden we het zo moeilijk om resoluut tegen zo'n gedrocht te stemmen? Vanwege de belangrijke rol die nl heeft? Vergelijkbaar met het stemmen voor de digitale euro ondanks de meerderheid die tegen is omdat we anders later geen zeggenschap hebben.

[Reactie gewijzigd door gevoelig op 1 oktober 2024 16:00]

[GurbieV]

Gelukkig moet dit voorstel nog langs het Europees parlement, waar er geen meerderheid voor is.

Ik heb het gevoel dat het geen toeval is dat dit voorstel van Hongarije komt.

[johnbetonschaar]

Ik heb het gevoel dat het geen toeval is dat dit voorstel van Hongarije komt.

Dit voorstel is al in verschillende vormen ingediend door EU comissarisen uit verschillende landen. De comissaris die er (volgens mij) oorspronkelijk achter zat en zich er het hardst voor heeft ingezet is Ylva Johansson uit Zweden. Op haar Wikipedia pagina [1] is ook de link met de (hierboven al genoemde) orginisatie van Ashton Kutcher terug te vinden, en de vermeende connecties die ze met onder andere dat bedrijf had waardoor ze persoonlijk zou profiteren van het invoeren van haar chat control voorstel.

De reden dat Hongarije er nu weer mee aankomt is waarschijnlijk vooral omdat ze momenteel voorzitter van de Raad van de Europese Unie zijn en wat diplomatieke punten kunnen scoren door dit onderwerp (dat dus al veel langer rondgaat binnen de EU) weer een duwtje te geven.

[1] Wikipedia: Ylva Johansson

[Reactie gewijzigd door johnbetonschaar op 1 oktober 2024 16:28]

[CH4OS]

Aan de andere kant is juist Hongarije een louche genoeg land, die dit soort zaken weer wel host (en er dus wat meer prioriteit bij heeft hier wel wat mee te doen). Er is een paar maanden geleden immers ook een Hongaarse website opgerold (met een Nederlander aangehouden!) dat juist kinderporno/misbruik bevatte. Zie bijvoorbeeld nieuws: Politie haalt kindermisbruikcontentsite uit de lucht, 44-jarige man a....

[Reactie gewijzigd door CH4OS op 1 oktober 2024 15:19]

[HKS-Skyline]

Met andere woorden, zonder deze absurde wetgeving worden pedofielen ook opgepakt. Zodra deze wetgeving er zou komen verwacht ik minimaal een 500% verhoging van het aantal veroordeelde pedofielen. Maarja, dat zal niet gaan gebeuren, want er is geen budget bij justitie om hierop te acteren. Het is dus slechts een excuus om meer controlle te krijgen over chatdiensten en onnodig het volk te monitoren.

[CH4OS]

Ik verwacht het niet. Die wereld zit allang onder de radar (helaas) en wat er wel voor opgepakt en veroordeeld wordt, zorgt alleen maar voor verdere versplintering.

[Havelock]

Ze gebruiken gewoon “kinderporno” om deze wet er door heen te krijgen!
Zeg nou zelf wie is nou tegen “kinderporno” juist niemand behalve mensen die zich hier mee bezig houden.

Dit moet haast wel fout gaan omdat makkelijk te om zeilen is je kan namelijk gewoon je bestanden zippen en versturen!

[Tarquin]

Precies Hongarije.

Als die technologie er een keer is, kan een land makkelijk tegen Whatsapp zeggen: Voeg deze politieke spotprent of meme even aan de scanlijst toe, want Victor Orban of Voorzitter Ping vindt het niet grappig.

Whatsapp: Maar het is geen KP, dus nee hoor.

Hongarije/China: Nou... wij vinden het haatzaaierij en dat is net zo erg. Wil je een verbod in ons land?

Whatsapp: Tsja, hate-speech is natuurlijk ook best wel erg. Wij volgens binnen de wetten van elk land, mensen!

[Stoney3K]

Of zoals in Australië is gebeurd, dat de gepubliceerde 'zwarte lijst' van kinderporno-websites zelf op de kinderporno-lijst is gezet zodat je niet kon zien welke sites er geblokkeerd waren.

[Wouterie]

Ik vind massasurveillance gewoon een heel slecht idee. Daarbij wordt hiermee slechts een klein deel potentieel aangepakt. Dark web blijft volledig buiten schot.

[Tintel]

Het is het allerslechte idee wat er bestaat - zeker in relatie tot het beoogde doel maar ook onafhankelijk daarvan. Daarnaast is het juist de 'massa' die het minst te maken heeft met dat kindermisbruik en zoals jij al zegt, blijft de echt verdachte massa buiten schot.

Stom genoeg zouden we hier veel minder moeite hebben als ze zouden zeggen dat een sleepnet willen maken dat door het darknet veegt maar zelfs dat is niet goed.

We hadden toch een briefgeheim? Om te zorgen dat communicatie tussen burgers alleen in hele uitzonderlijke gevallen mocht worden ingezien. Maar dat lijkt steeds minder relevant lijkt het.

[Dick Ravestein]

Ja, massasurveillance is een slecht idee.
De digitale id is een slecht idee.
De CBDC is een slecht idee.
Afschaffen contant geld is een slecht idee.
Enz. enz.
Maar het komt er toch vroeg of laat.

[Wouterie]

Yep, helaas is het slechts een minderheid die van mening is dat het allemaal slechte ideeën zijn. We hebben immers niets te verbergen en voor het aanpakken van criminaliteit moet alles wijken. Het mooie is dat het in theorie prima plannen zijn en dat de mensen erachter echt geen hekel hebben aan normale mensen. Echter gaat de dag komen dat het wel misbruikt gaat worden.

[Pwain]

Wie zit er nu exact achter deze absurde EU wetgeving? Praktisch niemand met gezond verstand wenst een dergelijke regeling.Spelen op de gevoelens van het is voor de bestrijding van kinderporno is bijzonder simplistisch. Want iedere brave burger gaat last hebben van deze chatcontrol maar degene die dergelijke plaatjes willen delen vinden wel hun andere weg.

Dus welke ‘idiote’ partij blijft maar doorgaan op de invoer van deze wetgeving??

[Janusch]

Controlfreaks binnen de politiek. De drank om alles te willen beheersen, controle over te hebben. Kunnen sturen.

Het verleden heeft al meermaals aangetoond dat dat niet goed is voor de maatschappij.

Kinderporno is iets slechts. Maar om nu alles gestuurde foto's te gaan scannen is overdreven.
Ik geloof ook niet dat het echt iets uit gaat maken. Mensen vinden wel een andere weg.

[Stoney3K]

Kinderporno is iets slechts. Maar om nu alles gestuurde foto's te gaan scannen is overdreven.
Ik geloof ook niet dat het echt iets uit gaat maken. Mensen vinden wel een andere weg.

Niet alleen overdreven, in termen van resources technisch gezien ook eigenlijk niet te doen. Kijk maar eens hoeveel spam er op een dag over het internet wordt verstuurd. Dat moet je dan óf allemaal gaan scannen, óf de criteria om iets als 'spam' aan te merken worden misbruikt om kinderporno er in te verstoppen.

[Tintel]

De drankg om alles te willen beheersen, controle over te hebben

Dat is ook het enige motief wat voor de politiek zinvol is. Politiek heeft eigenlijk geen last van kindermisbruik en daarom is het motief "goed voor het volk" wat massaal "nee" roept, natuurlijk meteen onhoudbaar.
Eventueel is er nog de lobby van degenen die een verdienmodel voorzien.
Kortom, de echte motieven zijn:

• controledrang
• financieel belang

[adje123]

Ik denk dat je drang i.p.v drank bedoelt. Tegelijkertijd ontloopt het elkaar niet veel in deze kwestie.

[T-men]

Hoewel ik het met je eens ben dat politici niet te vertrouwen zijn wanneer het om censuur en moderatie gaat valt het volgens mij ook niet te ontkennen dat datzelfde geldt voor de burger. (ik noem x.com als treurig voorbeeld)

Enige controle/moderatie is ook wenselijk. Het probleem is wie ? (en nee, ik heb geen perfecte oplossing)

Maar ik zit ook nog even te denken over de oplossing die ze gekozen hebben door alle plaatjes te scannen....

Ik stel me een systeem op je telefoon voor met hashes waartegen een plaatje gecontroleerd wordt zodra het verstuurd of ontvangen wordt. Bij een match zal er wel een berichtje naar oom agent gestuurd worden o.i.d. Dat is lokaal en -relatief- privacy-vriendelijk.

Die hashes op je telefoon zijn dan ook meteen het zwakke punt. Een kwaadwillende scant even zij KP-foto langs de hashes. Is er geen match, dan kan 'ie 'm veilig versturen. Oom agent krijgt geen melding. Maar diezelfde oom agent krijgt alleen wel alle false positives van de gewone nietvermoedende burger die toevallig een zalmkleurige foto van zijn behang verstuurd.

Andersom zijn deze keurig door de overheid samengestelde hashes voor de KP-liefhebber ook nog eens een mooie check om het net af te struinen en geautomatiseerd het kaf van het koren te scheiden. Alles wat geen match heeft is waarschijnlijk geen KP en wat wel een match geeft is interessant om eens nader te bekijken.

[Reactie gewijzigd door T-men op 1 oktober 2024 15:40]

[sebati]

Commerciele belangen van Amerikaanse bedrijven die de software hiervoor leveren....

[Maurits van Baerle]

Ashton Kutcher bijvoorbeeld. How Ashton Kutcher’s ‘non-profit start-up’ makes millions from the EU’s fight against child abuse on the net. Hoewel hij een stap terug heeft moeten doen toen hij zelf in opspraak raakte. Ashton Kutcher resigns from anti-child sex abuse organisation after backlash over Danny Masterson letter.

[sebati]

Precies, alles onder het mom van een betere wereld... is gewoon een verdienmodel
Alleen al het feit dat "we" het niet zelf hebben gemaakt, er dus ook geen (volledige) controle over hebben, maakt het een ontzettend slecht plan.

[Reactie gewijzigd door sebati op 1 oktober 2024 15:48]

[Juggernaut1987]

Het is een controle en machtsmiddel. Er is altijd een excuus nodig in de categorie veiligheid waar de burger iets voor inlevert in de categorie vrijheid.

Het probleem is nu kinderporno, de oplossing is massasurveillance op berichtendiensten. Dat is zo krom als een hoepel maar er zijn Europarlementariers die graag je berichten kunnen inzien en daar een middel voor zoeken, meer niet.

[Mfpower]

Wat ik me afvraag is of er een mogelijkheid is - mocht dit voorstel worden aangenomen - dat het Europees Hof voor de Rechten van de mens dit nog zou kunnen stoppen. Het voorstel lijkt immers niet proportioneel en er zullen aardig wat bij-effecten zijn voor gebruikers zoals vals positieven.

Verder is er een diepgaand gesprek hierover op de nieuwe wereld waarin wordt ingegaan op de technische implicaties van dit voorstel.

Voor geïnteresseerden: YouTube: Nieuwe EU-wetgeving op komst: leest de EU straks mee op jouw telefoo...

[sebati]

Tja, je mag inderdaad hopen dat iemand hier een rechtzaak van wil maken. Echter gaat dat jaren duren en is het kwaad al geschied.

[GurbieV]

Het moet nog langs het Europees Parlement, daar is er geen meerderheid voor gelukkig.

[sebati]

Zeker, maar de hoeveeldheid groeperingen die deze vorm van controle een goed idee vinden is zorgwekkend, net als het innemen van een standpunt dat je je onthoud van stemmen. Imo is dat gewoon een zwaktebod. Je bent voor of tegen.

[Tintel]

Idd - in dit soort zaken lijkt niets doen een trend bij overheden. Want besluiten nemen is politiek risico lopen, dus nemen ze geen besluiten meer (en dus ook minder standpunten).
Ik herinner me ook dat nog al wat politici die de kamer uitliepen net voor het stemmen omtrent de situatie (en eventuele extra beloning) van zorgmedewerkers tijdens de pandemie....

Het op z'n beloop laten en daarna roepen:

• "ja, ik was ook nooit voor" als het fout gaat
• als er een kindermisbruiker wordt opgepakt "U ziet, hoe goed wij voor de burgers zorgen"
• en als het vele miljoenen kost en nooit wat oplevert "U kunt toch niet voor kindermisbruik zijn?" en daarna "ik was ook nooit echt voor"

Ideaal toch?

En als superbonus: meer controle over die vervelende burgertjes.

[wildhagen]

Nog niet, inderdaad. Maar er wordt stevig gelobbied en aan de wetstekst geschaafd, waardoor de kans bestaat dat het in de (al dan niet nabije) toekomst alsnog door het Parlement zou kunnen komen.

Dat zie je ook op een ander nivesu, namelijk de Raad van de EU, waar ze ook steeds meer landen mee krijgen. Nog niet genoeg voor een meerderheid, maar het scheelt verrekte weinig:

Tijdens de vorige stemming in de Raad van de Europese Unie in juni wisten tegenstanders van de wet een krappe blokkerende minderheid te vormen. Voorstanders van chatcontrole behaalden toen 63,7% van de vereiste 65% van de stemmen die nodig waren om een gekwalificeerde meerderheid te vormen. Sindsdien hebben regeringen die voorheen tegen waren, aangegeven in te zullen stemmen bij een volgende stemming. Volgens rapportage van Euractive zou ook Frankrijk om zijn en voor het voorstel in huidige vorm stemmen.

Zie bijvoorbeeld https://privacy-web.nl/ni...p-agenda-raad-van-europa/

Ik ben er nog niet helemaal gerust op dat men niet precies ditzelfde gaat bereiken in het Parlement, zodat het ook daar alsnog zal worden aangenomen.

[runaround]

Ik geloof dat Patrick Breyer (van de Piratenpartij (Duitsland vgm)) zit nu al in een rechtzaak tegen Meta over hun vrijwillige gebruik van een dergelijke methode in hun non-encrypted messengers. Ook heeft hij gezegd dat hij een rechtzaak aan gaat spannen mocht dit erdoorheen komen.

Edit: bron

[Reactie gewijzigd door runaround op 2 oktober 2024 00:16]

[Maurits van Baerle]

De eerste stap zou het Europees Hof van Justitie moeten zijn als er vermoedens zijn dat deze stap de rechten van EU Burgers (zoals die zijn vastgelegd in het Handvest van de grondrechten van de Europese Unie) schendt.

Dat heeft uiteindelijk ook het Safe Harbour verdrag met de Amerikanen de das om gedaan. Er was dan wel door Raad en Parlement ingestemd met dit verdrag maar het Europees Hof van Justitie oordeelde dat de rechten van EU Burgers in het Handvest boven gemaakte afspraken in een verdrag gaan. En toen moest er in grote haast een aangepast verdrag worden onderhandeld.

[GarBaGe]

Dus... stel... ik doe mijn zoon naar bed. Zie een puist op z'n reet. Maak een foto en stuur die door naar mijn vrouw, omdat... ze is niet thuis en moeten we hiermee naar de huisarts?
Dan wordt blote kont gevlagd als kindermisbruik en staat de politie mijn voordeur in te trappen?

[ouweklimgeit]

Heb je überhaupt het item gelezen? "die bekende afbeeldingen van kindermisbruik detecteert"

[Skender]

Volgens dit artikel is dat nog niet uitgeklaard welke filtertechnologie precies gebruikt zal worden: https://www.hln.be/tech/b...-de-technologie~a8983ccc/
“Er werd geld gegeven aan vijf projecten van de industrie. Zij bouwden een concept, dus geen afgewerkt product dat je morgen meteen kan gebruiken.”
“Alles gebeurt met goede bedoelingen”, zegt Peersman. “Iedereen in het veld wil kinderen beschermen en vermijden dat ze zoiets verschrikkelijks moeten meemaken. En er is heel veel goede wil”, klinkt het. “Maar sommige van die tools detecteren bijvoorbeeld naakt en combineren dat met een filter die zoekt naar personen met een jonge leeftijd. Je krijgt dan automatisch een ‘match’ dat het mogelijk om kindermisbruik gaat. Maar wat als het gaat om een filmpje van je kind in bad dat je doorstuurt naar je ouders of schoonouders?”

[edit]
Blijkbaar gaat het in het nieuwe voorstel "tijdelijk" enkel om hashes van gekende beelden, "tot de technologie toelaat" om ook nieuwe illegale content op te sporen... https://datanews.knack.be...-technologie-het-toelaat/

[Reactie gewijzigd door Skender op 1 oktober 2024 17:15]

[GarBaGe]

Dat zal vast niet zo geimplementeerd zijn.
Dan zou een kleine bewerking op een foto (zoals een filter) al snel ervoor zorgen dat deze niet meer herkend wordt.
Het ligt veel meer voor de hand dat ze heuristieken gebruiken met machine learning of AI.
Anyway, het probleem is dat "misbruik" niet per se direct duidelijk is in een statische foto.
Vaak wordt "bloot" dan automatisch hetzelfde als misbruik / porno en dan krijg je heel snel heel veel valse meldingen.
En dat is niet handig in een geautomatiseerd systeem.

[Tintel]

Maar dat betekent dat mensen deze eerst moeten 'herkennen' - wat echt heel naar is voor de meeste mensen. En vervolgens moeten ze dat blijven doen natuurlijk omdat er telkens nieuwe afbeeldingen bij komen omdat dit onzinnige plan natuurlijk nauwelijks effectief is....

Maar nee, daar hebben we dan een technische oplossing voor, die meteen de deur wagenwijd openzet om alles te weren wat ongewenst is......

[Pinkys Brain]

"New CSAM and grooming would be outside the scope of detection orders but should remain in the scope of the risk assessment and risk mitigation obligations."

[SinergyX]

Visnetmethode, ooh als we toch alles scannen, wie houd ze tegen om het dus ook voor andere doeleinden te gebruiken? Pornografisch, drugs, wapens, racisme (meme's), als we toch alles gaan scannen, kunnen we dat toch ook meteen meenemen?

Maar vind het toch wat gebrek aan ballen, als je twijfel hebt, risico's en zorgen, zeg dan gewoon Nee. Nu laat je de stem over aan de rest, maar je zal wel straks de uitvoer (en consequenties) moeten dragen.

[wica]

Niets, eerst scannen we het plaatjes.
Dan gaan we tekst berichten scannen.
Dan laten we AI er oplos, om context te bepalen.
Enzo gaan we verder.

Hoe erg zaken als kindermisbruik en terrorisme ook zijn. Vind ik het niet gerechtvaardigd om de meerderheid van de burgers, die hier niets mee te maken hebben. Als verdachten te zien.
Ik zeg bewust burger(s), omdat de politicus en andere "belangrijke" mensen zich willen uitsluiten van deze scans.

[MulMonkey]

Ik zeg bewust burger(s), omdat de politicus en andere "belangrijke" mensen zich willen uitsluiten van deze scans.

Dit inderdaad. Dezelfde mensen die dit voorstel doen, vragen zelf om uitgesloten te worden. Ridicuul.

Ik merk gelukkig wel veel weerstand bij de gemiddelde reageerders op bijv. Nu.nl