WhatsApp en Signal protesteren tegen Britse wet over scannen naar kinderporno

Chatapps WhatsApp en Signal en topmensen van diverse andere berichtendiensten hebben een open brief gestuurd naar de Britse regering over een aankomende wet. Die zou berichtendiensten verplichten om berichten te scannen op zoek naar content van kindermisbruik.

De bedrijven roepen in de brief op om de wet aan te passen, omdat hij in de huidige vorm de beveiliging van chatapps zou breken. "Kortom, het wetsontwerp vormt een ongekende bedreiging voor de privacy, veiligheid en beveiliging van elke burger van het Verenigd Koninkrijk en de mensen met wie zij communiceren. Het moedigt andere, vijandige regeringen aan die wellicht zullen proberen ook zulke wetten te maken." De brief is ondertekend door topmensen van WhatsApp, Session, Signal, Element, Threema, Viber en Wire.

Een woordvoerder van de Britse regering zegt tegen de BBC dat die veronderstelling niet klopt. "Het wetsvoorstel houdt geen verbod in op end-to-endencryptie, en het zal diensten niet verplichten om encryptie te verzwakken." Het wetsvoorstel verplicht de diensten wel om berichten automatisch te scannen op materiaal van kindermisbruik. Apple wilde dat systeem in iOS 15 zetten met een scan op de telefoon zelf, maar heeft dat plan teruggetrokken nadat er veel interne en externe kritiek kwam op het plan. Veel chatplatforms maken gebruik van end-to-endencryptie om chats te beveiligen, zodat mensen veilig onderling kunnen communiceren.

De basis van Apple Private Set Intersection, de techniek die het bedrijf wil gebruiken om afbeeldingen te scannen

Reacties (154)

Overheden gebruiken altijd kinderporno als argument om inbreuk te kunnen maken op privacy en mensenrechten. Hierbij wordt altijd het uitgangspunt gebruikt dat de overheid alleen maar het beste wil voor zijn burgers.
Dat laatste is bediscussieerbaar, of een overheid alleen het beste wil voor zijn burgers. Feit is, dat de overheid zeker niet altijd goed om gaat met zijn al overheersende macht over burgers. Of het nou bedoeld of onbedoeld is, laten zaken als het toeslagen schandaal zien dat de overheid ontzettend schadelijk naar zijn burgers kan zijn. Duizenden gezinnen de vernieling in geholpen door "fouten" door de overheid.

Daarom dient een burger wat mij betreft niet elke stukje vrijheid en privacy op te geven aan de overheid. De overheid is niet altijd goed voor zijn burgers.

Kinderporno en terrorisme. Dat zijn de kapstokken.
Dan is het: We kunnen het niet bestrijden, want we kunnen niet in de communicatie kijken.
Daarna: We missen de communicatie vanuit het verleden. We moeten alles gaan bewaren zodat we het later kunnen nazoeken.

Als we dan toch alles weten, kunnen we dan ook gelijk even kijken naar de volgende dingen:

• Kan het ook zwart
• Coke
• Bankoverval
• Auto stelen

Als we dan toch alles weten, kunnen we dan ook gelijk even kijken naar de volgende dingen:

Natuurlijk is dat ook 100% de bedoeling. Hier wordt vanaf het begin al ingezet op de glijdende schaal / overton window.

Vraag me af hoeveel pedo's en terroristen daadwerkelijk plaatjes en filmpjes zo via Whatsapp en Signal/Telegram sturen. Kan me toch voorstellen dat als je zwaar criminele dingen verstuurd dat niet via deze apps gaat doen en als ze dat al doen, er zelf nog wel een versleuteling overheen gooien.

Ik heb ooit een keer op een congres een presentatie gezien van iemand bij de politie en die gaf ook aan "99% van KP wordt verspreid door andere kinderen". Moet je die dan keihard gaan aanpakken met je sleepnet?

Tsja logisch. Was op de middelbare school al voor de opkomst van smartphones. Van die filmpjes en fotos die dan via IR en BT werden rondgestuurd met de kwaliteit van een 12x12 opgenomen met een aardappel.

Maarja. Toen was men zelf ook minderjarig dus wat ga je er aan doen dan?

Dat is materiaal dat voor de wet in principe kinderporno is maar door pubers zelf wordt gemaakt en gedeeld. Dat is de internetvariant van wat vroeger in de bosjes gebeurde. Waar het juist om gaat is die andere procent waarbij kinderen door volwassenen worden gebruikt en misbruikt om vervolgens te delen.

Ergens denk ik dat 1% succes en 99% collateral damage niet echt een gunstige score is, maar goed, wie ben ik in dit geval.

Zou kunnen. het hangt natuurlijk af hoe groot het leed van die 1% is. ik zou niet willen kijken naar percentages.

Dat moet je wel op die manier bekijken: We gaan ook geen 99 onschuldige mensen in de cel stoppen om 1 moordenaar te vangen. Het doel heiligt niet de middelen.

Helemaal mee eens, maar het gaat niet om 99% in de cel te stoppen. Wil je 99% onterecht monitoren om het grote leed van die 1% te stoppen.

Helemaal mee eens, maar het gaat niet om 99% in de cel te stoppen. Wil je 99% onterecht monitoren om het grote leed van die 1% te stoppen.

In dit geval ging het dus om 99% valspositieven die nietsvermoedend 'betrapt' waren terwijl je de 1% wil pakken die veel meer moeite doet om niet betrapt te worden.

Want ook pubers die naaktfoto's aan andere pubers sturen is strikt genomen CSAM, maar het schiet het doel natuurlijk grandioos voorbij als je dat gaat bestraffen, wat met automatische filters gebeurt. Je voorkomt er echt nul leed mee.

Je hebt helemaal gelijk maar wat ik bedoelde is dat droge percentages geen maat voor het leed zijn. Het kan zijn dat 1% tegen 99% veel meer leed bevat dan 40% tegen 60%. Wat ik bedoel is dat die percentages niet leidend mogen zijn.

Het leed maakt daarin niet uit. Het gaat er om dat er geen enkele onschuldige persoon slachtoffer wordt van onterechte verdachtmakingen of veroordelingen.

Ook daar ben ik het 100% mee eens maar dit is een bijzonder geval. Volgens de wet is het een zeer zwaar vergrijp maar als kinderen het onderling maken is het onderdeel van hun opgroeiproces. Dat maakt het nogal lastig, Als je 99% in de gaten ging houden terwijl voor die groep volgens de wet niets strafbaars gebeurt is dat natuurlijk niet acceptabel maar in dit geval is die overige 99% wel strafbaar volgens de wet maar in een bepaalde context dan toch weer niet. Dat is heel lastig in te bedden in het strafrecht dat behoorlijk zwart/wit is.

Versleuteling en dat dan ook nog via publieke wifi hotspots, McDonalds, Restaurants gewoon door de straten heenrijden... zijn er zat die onbeveiligd zijn of nog gebruik maken van verouderde WEP-Encryptie.

Merendeel is vast wel zo slim om geen gebruik te maken van (alleen) hun eigen vaste verbinding die daardoor ook direct naar hen te herleiden is. Ik vrees dat het grootste deel op dat vlak ook echt wel ver vooruit loopt op politie en justitie.

Hoe was het vroeger ook alweer, je liet je foto’s bij de fotospeciaalzaak ontwikkelen en afdrukken…. Daar werd toch ook meegekeken “goh wat een leuke vakantie foto’s zeg”.. qua privacy bescherming is het nu een stuk beter te regelen (gegeven dat men dat dan ook goed implementeert).

Het zal meta te ingewikkeld of nee… duur zijn om dit in te bouwen. Kost ze klanten (mischien wil je daar dan überhaupt van af zijn) en extra werk/capaciteit. Ik snap dus dat ze er tegen zijn.

Of je de viespeuken er dwars mee zit? Hooguit even onhandig, men vind zelf wel een (ander) platform om stiekem alles uit te wisselen of een on top encryptie tooltje… maar goed, je moet ze het zeker niet te makkelijk maken.

[Reactie gewijzigd door mjl op 18 april 2023 13:21]

Het lijkt mij onwaarschijnlijk dat de grote verspreiders en makers van kinderporno hier Whatsapp groepjes voor gebruiken om te delen.
Van wat ik op Tweakers nieuwpagina erover gelezen heb zijn het vnl mensen die vakantiekiekjes of gwn foto's van hun kinderen in bad ofzo hebben genomen, die dan op hun OneDrive, of google photos backup komen die dan hun account geblokkeerd zien met zo goed als geen manier om terug toegang te krijgen.

Mogelijks dat je die ene domme crimineel pakt. Maar dan ben je met een shotgun aan het jagen op muggen.
Je schiet er vaak naast en heel je huis is aan gort.

Ik kan me zo voorstellen dat je alleen de mensen zal zien waarvan het account onterecht is geblokkeerd en dat je dit soort reacties niet zal zien hier:

Ik had laatst met me maat wat kp uitgewisseld via whatsapp en nou is me account ineens geblokkeert, wat nu? hoe kan ik me fotos terugkrijge

De verzamelaar van CSAM heeft waarschijnlijk een goede offline backup. Degenen die ten onrechte geflagged worden waarschijnlijk niet (want je data is veilig in de cloud, en wordt automatisch gebackupt, toch?) Los van de kans op false positives geldt dat als het je overkomt je goed de Sjaak bent juist omdat je het niet ziet aankomen.

Inderdaad, mensen die gewoon de regels en de wet volgen gaan ermee geraakt worden. Op een gegeven moment gaan mensen zulke dingen dan dus niet meer op de cloud gooien en worden ouders geforceerd om zulke foto's offline te houden en als ze het toch per ongeluk in de cloud gooien door automatische backups en dergelijke worden ze gelijk overal verbannen en kunnen ze nergens in beroep.

De makers verspreiden dat niet via Whatsapp echter in ontwikkelingslanden, Midden-Oosten, India, Azië, Zuid-Amerika wordt die rommel wel veelvuldig via gewone chatdiensten gedeeld. Vele mensen weten gewoon technisch niet beter en de lokale opsporingsdiensten hebben andere dingen aan hun hoofd.

Het effect zal vooral zijn dat dergelijke groepen/lui met hun illegale content versplinteren, hetzelfde zie je ook bij Torrent en Usenet trackers. Het daadwerkelijke probleem wordt er in elk geval niet mee opgelost.

op facebook wordt al gecontroleerd op kinderporno, foto's of filmpjes van een normaal kinderfeestje kunnen al leiden tot een complete ban waar je niets tegen kunt doen.. heb het dichtbij meegemaakt..
Ook dat is een naar bij verschijnsel.. die dame was mooi haar account kwijt met vele volgers..
Vervelndste daarbij is dat je niet kunt communiceren met die club..

Hoe was het vroeger ook alweer, je liet je foto’s bij de fotospeciaalzaak ontwikkelen en afdrukken…. Daar werd toch ook meegekeken “goh wat een leuke vakantie foto’s zeg”.. qua privacy bescherming is het nu een stuk beter te regelen (gegeven dat men dat dan ook goed implementeert).

Dat zijn fotospeciaalzaken zelfs een hele tijd verplicht geweest, wanneer ze op je foto's naaktfoto's tegen kwamen (ook van volwassenen) moesten ze die vernietigen en aangifte doen.

Daarom waren de Polaroid-camera's ook in de jaren 80 heel populair geworden, hetzelfde zag je daarna met camcorders.

Ik heb bij Nederlandse instanties gewerkt en kinderporno is een echt groot probleem. En dan heb ik het niet over die paar viespeuken die een paar plaatjes op hun PC hebben staan, maar over de echte kl**tz*kk*n die aantoonbaar (mede)plichtig zijn ssn productie en distributie. Daar zijn er meer van in NL dan men denkt. Al sinds (eind) vorige eeuw speelt men een kat en muisspel, wat meestal gewonnen wordt door pedofielen die hun data sterk versleutelen. Ik ben persoonlijk tegen een "achterdeur" in encryptie, maar dit is zeker geen argument van de overheid om onze privacy en mensenrechten af te nemen. Kinderen hebben ook mensenrechten en ook zij verdienen bescherming van de staat.

Maar goed, een achterdeur in end-to-end encryption bouwen kan natuurlijk niet zonder de hele encryptie nutteloos te maken. Daarbij zijn pedofielen slimmer dan dit, die vinden wel een andere manier om hun zieke shit te verspreiden. Dit is simpelweg geen oplossing van het probleem an sich.

Het ene praat het andere niet goed. De overheid gebruikt kinderporno en terrorisme ook vaak als excuus om bruut meer macht naar zich toe te trekken, terwijl vaak bewezen is dat dat niet werkt.

Achterdeurtje in encryptie maken gaat niet helpen, want in principe kan iedereen een encryptie bedenken en kan men zelf een chat app programmeren. Het is helaas een kat en muisspel. Dat moet men accepteren i.p.v. onschuldige burgers nog meer rechten te in te trekken waar dit gehaaid verkeerd gaat uitpakken omdat ouders misschien een foto met een huisarts willen delen omdat kindlief ergens een plekje of iets heeft (voorbeeld) en meteen wordt geblokkeerd en verbannen van alle platforms.

[Reactie gewijzigd door Remzi1993 op 19 april 2023 07:40]

Dit is toch precies wat ik zeg? Ik geef alleen maar aan dat kinderporno een reëel probleem is en niet alleen maar een excuus van de overheid, maar verderop in mijn reactie geef ik aan dat een achterdeur niet eens echt kan en juist averechts zal werken.

[Reactie gewijzigd door Steenvoorde op 18 april 2023 19:02]

Jij beweert zaken die we dan maar blijkbaar op je mooie ogen moeten geloven: dat zijn zaken die iedereen kan beweren. Ik kan bijvoorbeeld beweren
"Ik heb bij de gemeente gewerkt en weet van praktijken dat daar van alles gebeurt" (Zie https://www.omroepwest.nl...r-complotdenker-micha-kat ) voor een voorbeeld. Dat maakt die bewering nog niet waar: je hebt bewijs nodig. Een bewering van een willekeurig iemand die evengoed een volger van Qanon of de Kat kan zijn is geen bewijs.

Gast, natuurlijk ga je nooit "bewijs" vinden tussen de Tweakers reacties. Het is een discussie, geen rechtszaak. Maar goed, "geloof" jij maar dat kindermisbruik niet bestaat in Nederland en niet bestreden wordt door politie en justitie. Dan klink je net als de wappies die je zelf aanhaalt.

Het is duidelijk dat je geen begrip hebt over hoe je argumenten ook daadwerkelijk onderbouwt. Ik geef netjes in mijn reacties als ik beweringen doe die onderbouwing nodig hebben een link en een citaat. Dat laat jij na, nogmaals we moeten je maar op je mooie ogen vertrouwen, en dan kan iedereen beweren dat als je maar genoeg je best doet de zwaartekracht niet bestaat en je kan vliegen, of dat de aarde plat is of dat een satanistische cabal is en ga zo maar door. Precies datgene wat wappies doen.

Een willekeurig iemand op het internet doet een boude uitspraak zonder verifieerbaar bewijs en komt gelijk in de Kat terrein uit. Dit lijkt me precies de reden waarom (Law & Order) politici zo'n ambivalente houding hebben ten opzichte van lieden als de Kat (en Trump en Carlson en Baudet en ga zo maar door): het past prima in hun agenda. Zie ook https://www.capitaldaily....-lawrence-pazder-victoria

It was known as the Satanic Panic; a conspiracy theory that convinced millions of well meaning and rational people that a secret cabal of Satanists had infiltrated the highest echelons of society in order to sexually molest children. The Satanists were accused of sacrificing animals and using women as "breeders" to create an endless supply of dead babies for use in their gory, bloody-fuelled rituals and orgies.

It destroyed lives and ripped apart families. Reports of ritualistic child abuse were reported across the English speaking-world. Almost all of them were eventually found to have been partially, or wholly fabricated, but not before dozens of innocent people were falsely accused, and sentenced to years and even decades in prison.

Wat is je punt precies? Ik kan je niet helemaal volgen.

In het westen willen ze het liefst het Chinese systeem...
Maar ze doen het hier in kleine stappen waardoor de meeste mensen het niet merken tot ze over 30 jaar terug kijken.

Kijk nu al eens 30 jaar terug...

Toen waren de privacywetten veel minder streng. Een telefoonboek was opt-out. Iets verder terug hield de dorpsagent er gewoon eigen wetten en regels op na. Als een notabele uit het dorp ergens over klaagde ging de agent maatregelen nemen, ook al deed niemand iets dat tegen de wet was.

We hebben het over 1990 hè, niet over 1790.

Die strenge privacywetgeving is er gekomen voor een reden. En nee dat komt niet door de telemarketer die het telefoonboek afliep.

Ja, 1990. Toen waren er nog gewoon telefoonboeken. Stalkers zochten gewoon alles op en ook na vechtscheidingen konden ex-partners gewoon het woonadres opzoeken als je niet tijdig had aangegeven dat je niet in het telefoonboek wilde staan.
Wat betreft die agent, schreef ik niet voor niets "iets verder terug". Dan heb je het over pakweg 1975.

Kan wel zijn, maar als je iemand uit 1990 zou vertellen hoe de wereld er vandaag uitziet en hoe duur alles nu is, zou je worden uitgelachen.

Nou, hoe duur alles nu is was al duidelijk in 1990 hoor. Want sinds de jaren 60 naar de jaren 90 is het ook allemaal fameus duurder geworden dus dat is geen verrassing dat zich dat zo allemaal verder trekt. Wacht nog eens dertig jaar, hoe duur alles dan is.

Nee hoor. Inflatie bestaat al eeuwen en is een doorlopend proces. Alleen mensen die de afgelopen 15 jaar in het arbeidsproces terecht zijn gekomen krijgen er voor het eerst mee te maken dat de inflatie hoger is dan een paar procent en denken dat dat niet normaal is. Over de langere termijn gemeten verloopt het vrij lineair. Tussen 1990 en nu is de stijging niet groter dan tussen 1957 en 1990.

Niet alleen kinderporno wordt gebruikt. In het algemeen in een discussie wordt er vaak naar "En onze kinderen dan.." verwezen. Ook een walgelijke vorm van kindermisbruik? Of is het gebruik?

De SnotWin

Nou, dan vind ik dus ook dat een burger geen vrijheid hoeft op te geven met wat die zegt ongeacht hoe kwetsend of opruiend iets is. Waarom het een wel en het ander niet?

Er is een verschil in het uiten van je commentaar in het openbaar of in het communiceren binnen een besloten groep.

Op zich moet dit toch redelijk privacy vriendelijk in te richten zijn zonder dat er MitM nodig is?

• Op 1 van de (of beide) endpoint een hash maken van de foto
• Pak de eerst X karakters van de hash
• Haal uit de database alle hashes die beginnen met die X karakters
• Vergelijk de hash op de endpoint met de hashes die de database terug geeft

"Have I Been Powned" werkt op dezelfde manier. Enig zorg is natuurlijk wat er gebeurd na een detectie en wie de database beheert.

Pure hashes gaan bij 1 bit verschil kapot, visuele hashes hebben security by obscurity nodig om niet triviaal kwetsbaar te zijn voor opzettelijke valse positieven/negatieven. Zelfs als je met een beetje hoge snelheid de visuele hash kan testen zal het al fout gaan.

Apple kan de visuele hash in de secure enclave draaien, maar dat is op Android en PCs geen optie.

Apple wilde het zo inrichten dat de foto on-device gehasht werd met twee methodes die beiden langs een hashlijst gehaald werden. Indien beiden positief, dan werd een low-res kopie versleuteld en geanonimiseerd opgestuurd naar een moderator van Apple. (Als er één negatief was dus niet.) Als die moderator bevestigd dat het idd om kp gaat, dan werd het zaakje mét gebruikersdata opgestuurd naar NECMEC voor verdere beoordeling en eventuele afhandeling met justitie. Dan heb je dus 2 volledig privacy vriendelijke checks, 1 met een kleine privacy impact (low-res, geanonimiseerd) en dan nog een van een instantie (die dan wel je NAW heeft, maar ook stelt alles te verwijderen als het toch een fout betreft.). Dus je moet 2 digitale en 1 menselijke foute beoordeling hebben voor er iets mee gedaan wordt en dan is er nog de eindcontrole voor het naar justitie gaat (die er dan ook nog iets van moet vinden). Dat was best redelijk en een zeer lage kans op false-positives, valse beschuldigingen en een erg laag risico op enige privacy impact. Dat was best een redelijke compromis imho.

[Reactie gewijzigd door WhatsappHack op 18 april 2023 13:18]

Het gaat er om dat je gecontreleerd kan worden. nu voor foto's wat is de volgende stap ? en die stap er na.
als of er 100 duizende dit soort foto's naar elkaar rondsturen in Nederland alleen. Het is echt een non issue en helpt geen enkel kind. Bovendien zijn er zat andere mogelijkheden. die dan weer gebruikt worden.

Het is echt een non issue en helpt geen enkel kind.

Toch hoor je vaak (ouders van) slachtoffers over het feit dat misbruik matriaal nog steeds gedeeld wordt en dat dit impact blijft hebben.

Dat is vaak 'wraakporno' of wat ook wat op zich legaal is om te hebben, maar waarvan degene in beeld geen toestemming heeft gegeven voor het delen. Nu is er een argument om ook dat te willen tegenhouden, maar ik vind het toch wel erg ver gaan als een instantie/bedrijf oid mijn foto's kan scannen. Voor welk doel dan ook.

En het is ook volkomen zinloos, want de criminelen waar we het over hebben bij kinderporno, zullen hier wel iets op verzinnen. Het is makkelijk om een foto gewoon in een rarbestand te stoppen en te beveiligen met een password. Niet te kraken (op dit moment) en de instanties kunnen scannen wat ze willen.

Echt, als je dit een goede oplossing vindt, dan verdien je het niet om ooit nog internet te gebruiken. Als we achterdeurtjes in versleuteling gaan verplichten, dan kunnen we straks niet meer veilig communiceren, bankieren, informatie van de overheid krijgen, noem maar op. Terwijl de mensen die je wilt pakken gewoon een workaround kunnen gebruiken.

Dit is dus juist geen achterdeurtje in de versleuteling, berichten blijven end-to-end versleuteld.

Dat kan niet. Als de berichten end-to-end versleuteld blijven, kan een dienst als Whatsapp ze nooit scannen.

Misschien moet je dan mijn eerste bericht wat beter lezen.

Je denkt vanuit het perspectief van een ontwikkelaar. Je schetst een 'goed' scenario en hoopt vervolgens dat er geen dingen mee misgaan.

In de praktijk zullen er, met de miljarden foto's die wereldwijd worden verstuurd, dagelijks vele false positives optreden. Hoe goed je ook probeert om dat te voorkomen met techniek, de gebruikers achterhalen de techniek altijd. Die 'hashes' waar jij het over hebt, zijn geen echte hashes, maar fuzzy hashes, omdat je anders de foto simpelweg wat lichter of donkerder kan maken om detectie te voorkomen. Dus daar GAAN false positives uit komen.

Foto gemaakt van je kind, volkomen legaal, maar per ongeluk herkend door jouw algoritme. Volautomatisch de politie ingeseind, accounts geblokkeerd, kinderen afgepakt. Daar zit je dan in een politiecel en niemand die je gelooft of je accounts teruggeeft. Baan kwijt, huis kwijt, en tegen de tijd dat alles is rechtgetrokken door een rechter ben je ook al je vrienden kwijt, want 'waar rook is, zal ook wel vuur zijn'.

Maar je hebt wel een kind beschermd tegen misbruik. O nee, toch niet

Overheden, bedrijven en instanties hebben NIKS te zoeken in bestanden of communicatie van mensen die niet al ergens van verdacht worden. Dat kan alleen maar ellende opleveren.

[Reactie gewijzigd door PhilipsFan op 19 april 2023 00:24]

Ik zeg niet dat het een goed idee is, maar geef aan dat er wel mogelijkheden zijn waarbij de end-to-end encrytie in stand kan blijven en waarbij je dus geen data hoeft te delen met een dienst zodat die het kan scannen.

Jouw Tweakers e-mailadres-wachtwoordcombinatie wordt bijvoorbeeld ook gevalideerd tegen een database van de politie, maar dat wil niet zeggen dat deze informatie ook wordt gedeeld met de politie.

ja dat klopt maar je berichten worden gescand door een bedrijf.op je telefoon nadat het binnenkomt. Maar wat wordt er hierna gescanned en daarna. dit moet je niet willen hebben. ze hebben meer dan genoeg mogeijk heden om het tegen te gaan. whatsapp is niet de enige manier om iets te delen.

Natuurlijk is dat vervelend dat er beeldmateriaal van jou op het internet staat.

Ik denk dat trisje bedoeld dat de digitale beelden opruimen niets veranderd aan het feit dat het al gebeurd is.

ja maar dat matriaal kan men ook op velen andere veilige manieren delen. Bovendien is het voor de verstuurder best wel een link om zoiets te sturen via whatsapp. al helemaal in een whatsapp groep zitten die dit soort plaatjes rondstuuren. Je bent dan een makkelijk doelwit voor de politie. natuurlijk zou je groepen makkelijk offline kunnen halen. Ik denk dus niet dat het echt iets toevoegd en daarnaast is het een opmaak voor alles wat je doet wordt onder een vergrootglas gelegd. en dat lijkt me een erg slechte ontwikkeling.

Zie reactie van WhatsappHack hieronder, het lijkt er op dat mijn onderstaande bericht onjuist is, en dat de genoemde `mediaanalysisd` alleen gebruikt wordt voor OCR, niet voor CSAM.

Ik ben bang dat de implementatie die Apple in werkelijkheid gekozen heeft een stuk minder florisant is, in elk geval op MacOS (op iOS weet ik het niet).

Als je in MacOS Finder een preview van een JPG bestand bekijkt, dan zal het achtergrondproces `mediaanalysisd` de foto analyseren en het resultaat naar een server bij Apple sturen. Voor details, zie o.a. https://sneak.berlin/2023...ans-your-local-files-now/, maar ik heb het zelf ook kunnen verifiëren met Little Snitch (en met dezelfde tool de verbinding geblokkeerd).

Voor de duidelijkheid, dit gebeurt bij elke foto die je in MacOS bekijkt, dus ook foto's die je alleen lokaal hebt staan (en niet in de Apple iCloud).

Ik weet niet wat het doel van deze tool is, maar het bevalt me niets. Ik heb weinig te verbergen, dus zie ik geen reden dat Apple mij op deze manier wenst te controleren.

[Reactie gewijzigd door MacFreek op 19 april 2023 23:00]

Afgaan op de informatie uit één willekeurige blog van iemand die puur op basis van een Little Snitch pop-up opeens allerlei conclusies trekt zonder verdere onderbouwing is niet zo'n goed idee; waarvan akte:
https://eclecticlight.co/...es-we-view-in-the-finder/
(En nog een follow-up: https://eclecticlight.co/...-tell-apple-about-images/)
https://twitter.com/mysk_co/status/1617291107456454656
https://pawisoon.medium.c...tos-on-macos-a42215e713d1
https://appleinsider.com/...scanning-for-csam-images/

Hoe dan ook kan je dit dus niet gebruiken om te zeggen dat de door Apple destijds voorgestelde CSAM-detectie niet zou zijn gaan werken zoals Apple claimt of dat ze het nu op een andere manier doen. Dat zou ook nogal raar zijn. Apple verzint een manier om zo veilig en privacy vriendelijk mogelijk CSAM-checks te doen, volledig open en transparant en heeft er echt veel moeite en tijd ingestoken om het goed te regelen. Dat krijgt, imho grotendeels onterecht, enorme backlash. En dan gaan ze vervolgens op geheimzinnige wijze en op een manier die al die veiligheidschecks overboord gooit opeens wel checks uitvoeren? Raar verhaal. En incorrect.

[Reactie gewijzigd door WhatsappHack op 19 april 2023 09:59]

@WhatsappHack, zeer veel dank, en het lijkt er inderdaad op dat ik FUD heb verspreid. Dat zou goed nieuws zijn (dat het oorspronkelijke bericht incorrect is, niet dat ik FUD heb verspreid ). Destijds heb ik wel de blog van Jeffrey Paul gevonden (zie link in mijn post), en wat hij schreef leek geloofwaardig, en de feiten kon ik zelf controleren met Little Snitch. Bij Apple destijds ook gezocht naar meer informatie, en toen kwam ik niet verder dan forum berichten met klachten dat `mediaanalysisd` soms hoog CPU gebruik geeft, en dat de functie van `mediaanalysisd` was: "It analyzes any media on your computer such as photos, videos, etc.", hetgeen niet erg geruststellend was. De link naar OCR is nieuw, en lijkt aannemelijk na lezen van je referenties. Dank. Ik zal een opmerking bij mijn post plaatsen.

[Reactie gewijzigd door MacFreek op 19 april 2023 23:04]

Het begint tijd te worden om Signal te vervangen door een decentrale oplossing.

Signal was leuk als beter-dan-WhatsApp maar heeft nog steeds (tenminste) één kritieke tekortkoming, namelijk dat je afhankelijk bent van een klein aantal centrale systemen. Ten eerste de systemen die telefoonnumers uitgeven (waardoor je niet anoniemer kan zijn dan je telefoonnummer) en ten tweede door de servers van Signal, die ook nog eens beheerd worden door (ongeveer) dezelfde mensen die de app maken. Niet dat ik die mensen niet vertrouw (want dan gebruikte ik de software niet) maar die mensen zijn nu eenmaal onderhevig aan de wet en alle landen van de wereld vinden dat hún wet (ook) van toepassing is. Dat is terecht want dat is de taak van de overheid om de belangen van het land wereldwijd te verdedigen, maar het botst wel gigantisch met het internationale karakter van internet.

Ik ben niet tegen lokale regels die de overheid oplegt (er is altijd iemand de regels maakt, als de overheid het niet is dan zijn het al snel bedrijven of criminelen die de regels maken. Doe dan de overheid maar) maar op internet werkt dat gewoon niet.

Met e-mail werkt dat een stuk beter. Iedereen die dat wil kan zelf een e-mail-server opzetten om mail te ontvangen en heeft dan praktisch gezien alleen te maken met de wetten van de eigen regering. Als je gaat zenden heb je misschien nog te maken met de wetten van het land van de ontvanger en misschien de tussenliggende landen waar de kabels doorheen lopen maar in ieder geval niet met de héle wereld. Met de juiste encryptie kun je ook uitsluiten dat de tussenliggende landen de inhoud van je mails kunnen lezen.
Niet dat e-mail geen nadelen heeft, maar het is in ieder geval decentraal. Zolang de mailservers van Google en Microsoft dat nog accepteren (het wordt steeds moeilijker om door hun anti-spam te komen als je e-mail niet bij een van grote jongens gehost is).

Het probleem is dat je op mobiel geen servers kan draaien, het kan niet P2P. Federated is nog steeds gecentraliseerd.

Ik vermoed dat zodirekt alle consumenten internet toegang NAT zal hebben (zonder STUN mogelijkheid). De oude email protocollen zullen ook wel verboden gaan worden voor normale mensen. Alleen email cliënten met backdoor zullen op email servers kunnen komen.

[Reactie gewijzigd door Pinkys Brain op 18 april 2023 13:33]

Het probleem is dat je op mobiel geen servers kan draaien, het kan niet P2P. Federated is nog steeds gecentraliseerd.

Dat klopt. In mijn voorbeeld (e-mail) gooide ik federatief en (echt) decentraal een beetje op één hoop. Het ging me vooral om de tegenstelling met (volledig) gecentraliseerd.

Wat mij betreft is de grens tussen decentraal en federatief ook vrij dun als het systeem zo "toegankelijk" is dat iedereen zelf een federatieve server op kan zetten en dan meedoen met de rest van de wereld.
E-mail hoort daar bij. Ik heb een eigen mailserver hier in het hok staan en dat werkt op zich* prima.

* Ik moet er eerlijk bij zeggen dat je steeds moeilijker wordt door de toenemende complexiteit van anti-spam-maatregelen. Wat dat betreft hebben centrale systemen het makkelijker omdat die volledige controle hebben over (de clients van) de zender en de ontvanger. Maar dat zijn technische problemen die oplosbaar zijn voor iedereen die bereid is de moeite te doen en waarvoor er talloze experts in te huren zijn. Daarbij worden de regels decentraal bepaald door iedereen die zelf een mailserver draait. Er is geen centrale partij die de regels voor iedereen maakt. (Al proberen de techreuzen dat af en toe)

Decentraal draaien maakt niet uit als de overheid wil dat de scan op kinderporno in de clients wordt ingebouwd en plaatsvind voor transport of na transport (voordat de foto wordt getoond op een client).

Dat klopt, het is geen oplossing voor alle problemen.
Zo'n scan op de client uitvoeren is echter een stuk lastiger als er meerdere clients zijn in plaats van één centraal bedrijf.

Het helpt ook niet dat we zo weinig (grote) besturingssystemen hebt waardoor je grooste deel van de bevolking een OS gebruikt van Microsoft, Apple of Google. Die bedrijven verzorgen ook een groot deel van de e-mail van deze wereld en ze horen bij de belangrijkste concurrenten voor WhatsApp. Dat is misschien een beetje een stokpaardje van mij maar dat is omdat het zo ontzettend grote gevolgen heeft dat dezelfde paar bedrijven op alle markten dominant zijn.

Wat dat betreft heeft WhatsApp dan nog een streepje voor, namelijk dat de eigenaar, Facebook, niet bij de 3 grote leveranciers van OS'en hoort.

Voor de duidelijkheid, ik ben niet tegen iedere vorm van controle door de overheid. Ik ben tegen centrale controle omdat dit problemen oplevert omdat internationale diensten niet echt compatible kunnen zijn met nationale wetgeving. Om nog internationaal te kunnen communiceren moet iedereen zich dan aanpassen aan de strengste regels, als de regels al niet keihard met elkaar botsen. Om de baas te blijven over onze eigen IT moeten we die zelf in handen hebben maar niet door een muur te bouwen (a la China) waarachter we ons eigen centrale systeem bouwen.

Daarnaast zijn er in het algemeen grote nadelen aan monopolie-situaties, zoals afname van kwaliteit, geen noodzaak tot verbeteren, centraal te hacken, stijgende prijzen, onredelijke voorwaarden, waar op andere plekken al genoeg over geschreven is.

Een divers landschap met een groot aantal verschillende aanbieders die onderling compatible zijn is beter voor de consument dan een klein aantal mega-bedrijven op hun eigen eilandje.

Kijk dan eens naar Matrix (https://matrix.org) zou ik zeggen, van de makers van Element die ook deze brief hebben ondertekent. Een gedecentraliseerde oplossing met trekken van e-mail: persoon 1 op server A kan communiceren met persoon 2 op server B, eventueel via server C als dat moet i.v.m. censuur of iets dergelijks. Bevalt server A niet meer voor persoon 1 of gaat die server neer, dan verplaatst die persoon zich naar server B, C of zelfs D en praat die lekker verder.

Wordt vooral interessant als Matrix qua server switchet naar de Go implementatie. Dan wordt het selfhosten een stuk makkelijker en de hardware vereisten een stuk lager.

Die draai ik intussen al een jaar of 2, werkt prima. Maar het gaat nooit Synapse vervangen aangezien de doelen ervan anders zijn. En Matrix als geheel zal nooit één en dezelfde server implementatie gebruiken, wat een goed iets is naar mijn mening.

Je kunt ook eens kijken naar Conduit trouwens, geschreven in Rust.

Ik ben vroeger als kind misbruikt en daar zijn beelden van gemaakt. Voor mij is deze wet erg wrang.

Scannen van computers om kindermisbruik tegen te gaan is een hele rare, ingrijpende methode die ook zeer ineffectief is.

Je voorkomt zo niet dat kinderen misbruikt worden. De daders gaan zo vrijuit.

Er kan beter veel meer geld gestopt worden in opsporing van de mensen die het maken.

Extra zuur is daarbij, dat als ik aangifte doe van wat mij +/- 30 jaar geleden is gebeurd, daar geen onderzoek naar gedaan mag worden (de LEBZ keurt mijn aangifte af).

Heftig man. Sterke. Ik dacht dat zulke misdrijven niet verjaren trouwens? Volgens mij is de wet veranderd

Bedankt. Het gaat niet om verjaring maar het is vanwege andere redenen (is wat complex om hier uiteen te zetten).

We leven in een donkere tijd en periode. Helaas leven daardoor ook vaak in een omgekeerde wereld. Wat jij is aangedaan is niet alleen mensonterend, maar ook extreem. Dat ze daarbij jouw aangifte afwijzen is daarbij extra zuur. Je zou denken dat op zulke misdrijven geen verjaring op zit.

"Het wetsvoorstel houdt geen verbod in op end-to-endencryptie, en het zal diensten verplichten om encryptie te verzwakken."

Je mag gerust een slot op je voordeur plaatsen maar wel alleen eentje dat makkelijk open te breken is

Of een controle na descriptie, dus in de app.

Dat is verkeerd vertaald. Moet zijn:

Het wetsvoorstel houdt geen verbod in op end-to-endencryptie, en het zal diensten niet verplichten om encryptie te verzwakken."

Maar het blijft natuurlijk nog steeds de uitspraak van iemand die zich moedwillig dom houd, je kunt dit niet doen zonder de beveiliging te verzwakken.

De scan voer je uit voor encryptie / na decryptie, dat is het idee natuurlijk. Op papier kun je dan zeggen dat je geen encryptie hoeft te verzwakken, wat technisch waar is.

Echter, je moet toch alleen wel een berichtje naar een externe server sturen met informatie over de file die je hebt (al is het maar een hash). Het is vervolgens niet moeilijk om de blacklist van hashes uit te breiden met andere onwelgevallige bestanden.

Daarnaast maakt zo'n opzettelijk lek het mogelijk bij te kunnen gaan houden naar wie een bepaalde file is verzonden dan wel doorgestuurd. Zo zou je een netwerk in kaart kunnen brengen en wat dies nog meer zij.

Kort gezegd (ook door anderen): dit is een verschrikkelijk slecht plan op allerlei manieren.

[Reactie gewijzigd door curkey op 19 april 2023 10:15]

Verder, het nadeel van een hash is dat hij meer kan voorkomen, ook als is de kans kleine maar met 1 Miljard plaatjes per dag tocht best groot is. Verder wie onderhoudt deze hash database, en is er controle dat deze hash ook werkelijk een niet juist plaatje bevat en niet een plaatje van een boek verbranding of spotplaatje van een leider van een volk.
Er zijn gewoon te veel haken en ogen naar mijn mening. En voor verspreiding van de vuiligheid is het denk ik belangrijker dat er goed onderzoek kan worden gedaan naar de oorsprong van het plaatje om zo bij de producent/ gebruiker te komen.

Dat is inderdaad een deel van mijn betoog: wie bepaalt welke file op de zwarte lijst komt, en wie voorkomt dat er uitbreidingen op de lijst worden gedaan die niet afgesproken waren.

De dooddoeners van kinderporono en terrorisme kennen we nu wel, maar het is nogal vaag wat er allemaal onder valt, nietwaar? Wanneer is iets "staatsondermijnend" bijvoorbeeld. Het zal niet lang duren vooraleer men "wappie-onderwerpen" ook daaronder laat vallen.

Alle mogelijke criminele activiteiten ten spijt, ik denk niet dat dit soort maatregelen opwegen tegen de voordelen. Die laatste zijn speculatief op hun best, om het netjes te zeggen.

Ik was eigenlijk tegen, maar als we hier wappies en wappie berichten mee kunnen onderscheppen dan stel ik mijn mening bij. ;-)

Tuurlijk kan dat wel, je kunt de scan in principe lokaal uitvoeren op de image die ontvangen is. Dit soort zaken gaat vaak toch al via fingerprinting.

Eerder je mag thuis gesloten post ontvangen, als de postbode maar even mee kan kijken al je de post thuis open maakt.

Ja, maar de postbode zou dan alleen onthouden "ja, kinderporno" of "nee, geen kinderporno"

Vraag is wel welke definitie van "kinderporno" er gehanteerd wordt. Is dat vergelijking met een bestaande lijst of wordt elk stukje zichtbare huid beoordeeld? Maatregelen met als doel dergelijk materiaal te onderscheppen worden veel te vaak misbruikt voor andere zaken, het gedeelte "kinderporno" is een excuus dat niemand tegen zal werken toch? Want dan ben je meteen een viezerik...

Precies dit. Ik heb ook wel eens een foto van onze kleine naar oma gestuurd dat ie lekker in bad zit/ligt, of andersom tijdens oppassen. Zonder geslachtsdeel, maar toch. Gaan er dan straks ineens alarmbellen rinkelen? Krijg ik een vlaggetje achter mijn naam? Komt de Gestapo politie verhaal halen?

Dit gebeurt helaas min of meer al.

Resultaat, een bewezen onschuldige man is toch permanent de toegang kwijt zijn Google accounts/e-mail adressen. Doodeng vind ik het gemak en de willekeur waarmee techbedrijven iemands leven zo overhoop kunnen gooien zonder enige verantwoording af te hoeven leggen.

[Reactie gewijzigd door Torpedohoofd op 18 april 2023 12:57]

Beter artikel (geen paywall).

Tweakers.net artikel dat ook relevant is: Techbedrijven negeren je na blokkeren account

Inderdaad, en je kan nergens in beroep gaan.

Of wordt je hele account ineens zonder wederhoor en permanent gedeactiveerd? Dat zijn geintjes die we nu ook al zien...

Nog erger, er was een voorbeeld van een ouder die voor de huisarts een foto moest doorsturen omdat kindlief ergens een plekje of iets dergelijks had en die werd door Microsoft verbannen enz.. Het kunnen dus legitieme redenen zijn waarom je toch zulke dingen moet opsturen.

Meestal gaat dit op basis van een "foto hash" database. Dit zou dus prima op de telefoon van de gebruiker zelf kunnen (zoals Apple al eerder wou):
1. Foto hash maken
2. De hash opsturen ter controle
3. Indien gevonden in de database, dan het plaatje blokkeren en eventueel opsturen met gegevens verzender voor een handmatige controle en melding naar autoriteiten.

Ik vraag me af of als deze foto’s bij de beoogde doelgroep verwijderd is of ze dan stoppen. Ik begrijp de wens om reeds bestaand materiaal overal te verwijderen maar dat is een utopie. Zouden ze daarna niet gewoon weer snel opzoek gaan, maar dan geen whatsapp maar iets anders gebruiken.

Dus als je iemand wil frame stuur je een berichtje met een foto van een telephone die niet aan iemad gelinkt kan worden. fijn allemaal.daarbuiten wil ik helemaal geen politie bureau op mijn telefoon hebben. die alles loopt te controleren wat ik wel en niet doe. ook al zijn het aleen maar hashes. over een paar jaar zijn het alleen maar tekstjes.

Totdat de postbode opdracht krijgt om "iets meer" gegevens te verzamelen: de wettelijke en technische basis is immers al gelegd... Informatie over extremisme bijvoorbeeld, maar wanneer is iets extremisme? Is een kritische houding t.o.v. de staat en/of haar handelen extremistisch?

Vroeger was er vanuit de staat nog respect voor de burger als mens en vanuit de burger respect voor de staat. Dat wordt van beide zijden steeds minder, we worden met steeds minder respect behandeld en actie is reactie.

Dat de postbode meekijkt tijdens het openmaken vind ik niet zo'n ramp (maar ook niet geheel prettig); meelezen met wat er ín de envelop zit vind ik wél echt onprettig.

[Reactie gewijzigd door TheVivaldi op 18 april 2023 14:46]

Het openmaken heeft niet zomaar de betekenis dat de postbode de inhoud niet kan zien of lezen. Eerder juist wel. Meekijken gaat om mogelijkheden tijdens en na openen, niet om het openen op zich.

postbode heeft geen ene moer met mijn post te maken dus nee hij mag niet mee kijken.zelfs al ik van te voren weet dat er nooit iets in de post zit wat niet zou mogen of beschamend zou kunnen zijn.

Is dat wel zo, die eerste zin? Stel je voor: die gast staat bij je in de huiskamer terwijl je de envelop openmaakt en op de brief prijkt het logo van de instantie die onlangs een SOA test bij je heeft afgenomen.

Je mag een heel mooi slot op je deur zetten, maar de sleutel is een standaard kruiskop schroevendraaier.

Wacht even.... je hebt "niet" verwijderd...

"Het wetsvoorstel houdt geen verbod in op end-to-endencryptie, en het zal diensten niet verplichten om encryptie te verzwakken."

Ik vraag me af of die privacy er nu wel is. Criminelen kiezen voor 'geavanceerde' telefoons om te veilig te kunnen communiceren met elkaar, maar dat wordt gekraakt. Waarom zouden Whatsapp, Signal, Telegram etc. dan wel veilig zijn en waarom kiezen criminelen daar dan niet voor, een stuk goedkoper ook.

Waarom ze niet voor een veilig opensource systeem als Signal kozen is inderdaad een raadsel. Een technische verklaring is er niet voor. Dus waarschijnlijk zijn er een aantal iets wijsgemaakt dat dus volslagen BS was. Een enkele sleutel… Leden van het team HighTech Crime moeten zich rotgelachen hebben toen ze dat ontdekten, beetje als de jackpot winnen met een lot dat gedoneerd werd door de criminelen zelf. Ik kan het me zo moeilijk voorstellen dat dit op geen enkel moment dubbel gecheckt is of dat iemand zich binnen die organisaties afvroeg “is dit wel echt veilig?”, maar misschien zitten er weinig IT-ers in het criminele circuit.

[Reactie gewijzigd door WhatsappHack op 18 april 2023 12:23]

Criminelen vinden altijd hun weg wel, de normale gebruiker is hier vooral de sjaak van.

Doet mij denken aan DRMs in games, de normale gebruiker levert dan in, terwijl de “piraat” alsnog zijn weg vindt naar de gekrakte “gratis” variant.

Hoezo is de normale gebruiker hier vooral de sjaak van?

Als je DRM bedoelt: Sommige DRM systemen hebben een significante impact op performance (in extreme gevallen heb ik gezien dat het framerates halveert), anderen vereisen dat je altijd online moet zijn of blokkeren het spel wanneer hun eigen servers niet beschikbaar zijn. Dit terwijl de "alternatieve" versie die nadelen niet heeft en gratis wordt aangeboden.

Zelf had ik extreem nare ervaringen met een DRM genaamd Securom: het vereiste dat ik de DVD van de game waar het op stond in de drive had om het te kunnen spelen, beetje irritant maar oké. Het probleem; het programma spreidde ook naar andere spellen. Games die ik daarvoor gewoon zonder DVD kon starten kregen ineens ook een Securom popup die meldde dat ik de disk mocht gaan inserten en dat ik anders kon fluiten. Bij een paar spellen zorgde dit voor conflict waardoor die in een check-loop terecht kwam en niet meer konden starten. Daarbij maakte de DVD drive zelf ook vreemde geluiden en heeft het een keer zo snel gedraaid dat een DVD is geknapt. Daarna gepoogd om images te maken van de DVD's en die te mounten; hielp ook niks.

Bij het verwijderen van de game waar deze DRM op stond bleef het programma vrolijk staan, met hun eigen removal tool kreeg ik het er niet af en ook verwijderen van de bestanden hielp niks. Uiteindelijk heb ik Windows opnieuw moeten installeren om er van af te komen.

Het gebruikelijke verhaal. De misdadigers vinden wel een andere manier om te communiceren want die zijn ook niet gek, er worden er een paar gepakt en de rest vertrekt naar wat anders.

De gewone gebruiker blijft voor de rest van zijn leven met extra glurende ogen zitten.

De gewone gebruiker ondervindt alle nadelen van de privacyschendingen en andere suboptimale maatregelen, terwijl degegen die het doel zijn van deze maatregelen, vrij simpel er omheen kunnen werken.

Bij DRM was en is dat zeker ook een issue. Neem maar eens een paar jaar geleden met de CD kopieerbeveiliging, waardoor (met name) Sony albums produceerde die technisch niet voldeden aan de CD Audio standaard en zodoende voor problemen zorgden in afspeelapparatuur. Ik had ook zo een aantal van die CD's, waarvoor ik vervolgens een Torrent nodig had om een versie te branden die wel werkte. En zo zijn er nog legio voorbeelden.

Omdat ik niet weet wat voor overheid we in 10 of 20 jaar hebben, en hoe minder data zij van mij in handen hebben, hoe minder kans ik heb om gedeporteerd te worden naar een soort Stalinistisch werkkamp.

[Reactie gewijzigd door TheMaurice op 18 april 2023 19:18]

Omdat het niets waard kan zijn als het gratis is toch? Also, een fors deel van die specifieke populatie heeft minder onderwijs genoten gok ik, wat niet helpt met de juiste keuzes maken.

De topmensen zijn vaak behoorlijk intelligent. En anderzijds zijn ze daarnaast vaak wel in hogere mate paranoïde en hebben ze flink wat poen, waardoor je zou denken dat er toch iemand moet denken “Trust, but verify - smijt er wat geld voor een expert tegenaan”

[Reactie gewijzigd door WhatsappHack op 18 april 2023 12:32]

Echte criminelen hebben hun eigen geschreven app en servers die wereldwijd rouleren en geschred worden om de maand. Die gebruiken geen commerciele apps.

Het wetsvoorstel houdt geen verbod in op end-to-endencryptie, en het zal diensten niet verplichten om encryptie te verzwakken.

Het wetsvoorstel verplicht de diensten wel om berichten automatisch te scannen op materiaal van kindermisbruik.

Geen kenner op dit gebied maar dit staat toch volledig haaks op elkaar? Iets dat versleuteld is kan je niet op inhoud scannen zonder eerst te ontsleutelen. Ook al gebeurt het scannen op het toestel lokaal dan nog moet er een signaal over de inhoud van de "verdachte foto" naar de autoriteiten toch? Daarnaast, wie garandeert mij dat mijn kinderfoto's niet onterecht geflagged worden?

Ik weet wel wat dit soort gedram bij mij oproept en dat is meer wantrouwen richting overheden. Als iets vergelijkbaars hier geïntroduceerd wordt zal ik gewoonweg geen foto's meer maken met een telefoon en daardoor ook geen high end toestel meer kopen want die koop ik vanwege de camera.

[Reactie gewijzigd door Typecast-L op 18 april 2023 14:02]

[...]

[...]
Geen kenner op dit gebied maar dit staat toch volledig haaks op elkaar? Iets dat versleuteld is kan je niet op inhoud scannen zonder eerst te ontsleutelen.

De controle zou op zich client-side kunnen. Dan hoeft de berichendienst inderdaad niet de berichten de decrypten om ze te kunnen scannen. De vraag is of dit erg handig is; je zou een custom client kunnen bouwen of met https proxy tooltje bepaalde API calls kunnen blocken.

wie garandeert mij dat mijn kinderfoto's niet onterecht geflagged worden?

Ik meen me een nieuwsbericht te herinneren dat iemand z'n Google account was geblocked omdat hij naaktfoto's van zijn jonge dochter had verstuurd... NAAR DE DOKTER! Ik durf het alleen niet te googlen dus geen referentie, sorry.

Ik weet wel wat dit soort gedram bij mij oproept en dat is meer wantrouwen richting overheden.

Terecht. De middelen die ze inzetten tegen criminelen, zetten ze in tegen iedereen. Want: vangnet. Grote kans dat je op de één of andere manier in allerlei datasets terechtkomt waar je niet in wil zitten, puur gebaseerd op bepaald onschuldig gedrag dat hun AI niet kan onderscheiden van crimineel gedrag omdat het geen/foute context heeft.

[Reactie gewijzigd door biteMark op 18 april 2023 14:24]

Hier in Nederland gaat het net zo eng worden als in Engeland, mogelijk enger.
En de EU wil dit ook gaan invoeren, liefst ook zo snel mogelijk.

Oh ja?
"End-to-end encryptie mag niet onmogelijk worden gemaakt en het scanplan van de Europese Commissie moet duidelijke waarborgen bevatten om mogelijke inbreuken op fundamentele rechten zoals privacy te voorkomen, zo stelt het kabinet in de Staat van de Unie 2023."

Oh ja: https://www.security.nl/p...elijke+wet+cyberoperaties

En de ander: https://www.security.nl/p...tberichten+te+controleren

"Yesilgoz voegt toe dat sommige landen vinden dat end-to-end encryptie niet in de weg mag staan van de plannen van de Europese Commissie, terwijl andere landen vinden dat end-to-end encryptie niet mag worden verzwakt. De Europese Commissie is zelf van mening dat het scanplan end-to-end encryptie niet onmogelijk maakt. "Dit wordt momenteel grondig bestudeerd", merkt de minister op."

Gelukkig zegt een motie ook zo verschrikkelijk veel tegenwoordig. Ow nee, dat doet het niet...

Het is in Nederland ook eng, maar niet zo eng of enger dan in Engeland.

Apple wilde dat systeem in iOS15 zetten met een scan op de telefoon zelf, maar heeft dat plan teruggetrokken nadat er veel interne en externe kritiek kwam op het plan.

Ik ben benieuwd wanneer Apple hier op terugkomt, om welke reden dan ook zie ik ze dat alsnog doen.

_{hopelijk heb ik ongelijk}

En ze zullen niet de enige zijn.

[Reactie gewijzigd door Mizgala28 op 18 april 2023 12:16]

Als ze verplicht worden waarschijnlijk. Het was ook een best goed doordacht systeem eigenlijk met een enorm hoge waarborg voor de privacy en een driedubbele check op false-positives.

Of het goed doordacht is terzijde, ik heb er weinig vertrouwen in aangezien als er iets mis gaat, je net als met andere bedrijven gewoon pech hebt.

Je kan niet alles in de wereld voorkomen (betekend niet dat men niks moet doen, maar doorslaan zoals met dit soort systemen is ook absoluut geen oplossing), je creëert een sleepnet met alle gevolgen en nadelen van dien.

Volgens mij doen ze dat toch al in de icloud? Microsoft doet het in one drive wel, de verhalen die je dan hoort om je account terug te krijgen waar je voor betaalt is gewoon absurd..

Even los van deze wet, maar wel betreft de discussie over dit type verzoeken:
De veiligheid wordt niet verzwakt als je het scannen op het toestel uitvoert.

Het roept wel enkele vragen op:
- De scan is nooit 100% accuraat en niet in staat de juiste beslissing te nemen.
'Vader stuurt foto geslachtsdeel kind naar huisarts' verhaal van laatst.
- als er iets gevonden wordt: hoe moet dit verstuurd worden?
Tijdelijke blokkade van de app, waarbij je zelf iets moet doorsturen met een druk op de knop als bewijs lijkt me het veiligste, maar roept natuurlijk allerlei vragen op en het is ook daarbij de vraag of de app makkelijk / snel gedeblokkeerd gaat worden als er niks aan de hand is...
- zoals ook in dit artikel vermeld: waar eindigt het...
Dat is volgens mij de essentie.

Juist, wat detecteert die dan? Is het alleen fingerprinting obv bekende foto's of is het een analyse van de foto, maar hoe detecteert die dan dat het een kind is en niet een jong (18+) klein persoon?

Geen idee, maar in ieder geval altijd lokaal

Inderdaad en zo zijn er nog vele scenario's te bedenken. Ouders die bijv onderling een foto van hun kind sturen etc etc. Het is allemaal niet zo zwart wit vast te leggen in een algoritme als dat de politiek het graag zou willen zien.