Europa toont interesse in inzet van Nederlandse kindermisbruikdetectiealgoritmes

De Europese Commissie wil onderzoeken of de Nederlandse dienst HashCheckService ook in andere landen kan worden ingezet om afbeeldingen van kindermisbruik op te sporen. Demissionair minister Grapperhaus is daarover in gesprek met de EC.

Demissionair minister Ferd Grapperhaus van Justitie & Veiligheid schrijft in een brief aan de Tweede Kamer over de voortgang van zijn aanpak van online seksueel geweld. Daaronder valt ook de aanpak van 'csam', of child sexual abuse images. Grapperhaus zegt dat de Europese Commissie mogelijk interesse heeft de dienst HashCheckService te gebruiken. Dat is een dienst die is gebouwd op basis van een api van het Expertisecentrum Online Kindermisbruik.

HashCheckService maakt hashes van afbeeldingen van kindermisbruik. Die zijn afkomstig uit een database van het Expertisecentrum Online Kindermisbruik en worden onder andere aangeleverd door de politie. Providers en hostingaanbieders kunnen gratis gebruikmaken van de dienst om dergelijke afbeeldingen op te sporen en te verwijderen.

Grapperhaus zegt in zijn voortgangsbrief dat hij aan de Europese Commissie heeft voorgesteld dat HashCheckService ook in andere EU-lidstaten kan worden gebruikt. "De Commissie heeft gereageerd graag gezamenlijk verder te willen onderzoeken hoe succesvolle initiatieven van Nederland een toevoeging kunnen zijn in de Europese aanpak van online seksueel kindermisbruik", schrijft de minister. Daarnaast is er ook overleg geweest over het gebruik van Scart, een systeem om automatisch meldingen te ontvangen van csam-afbeeldingen en daar direct een abuse report over op te stellen.

Het gebruik van HashCheckService is niet onomstreden. TransIP pauzeerde deze zomer de dienst toen bleek dat normale afbeeldingen op WordPress-sites werden aangemerkt als kindermisbruikafbeeldingen. Apple had deze zomer een soortgelijk plan om hashchecks lokaal uit te voeren op iPhones, al ging dat op basis van een eigen algoritme genaamd NeuralHash en niet om HashCheckService.

Grapperhaus wil op zijn beurt al jaren harder optreden tegen afbeeldingen van kindermisbruik. Hij spreekt daar hostingproviders op aan en publiceert namen van providers die volgens hem te traag zijn met het aanpakken van zulke afbeeldingen.

Reacties (86)

[buzzin]

Zoals gewoonlijk: wie bewaakt het systeem?
Niemand is tegen het opsporen en bestrijden van kinderporno, maar wie garandeerd dat dit systeem in de toekomst niet voor andere doeleinden word gebruikt?
Grapperhaus is al een eng iemand, wie zegt dat hij niet ook politieke tegenstanders wil dwars zitten?
(Ik ga er niet van uit dat dit nu al gebeurd, maar wie controleerd dat?)

We zijn de laatste decenia heel erg bezig met het fixen van het hier en nu, zonder over de lange termijn gevolgen na te denken. Als we alle privacy en vrijheden laten bepalen door de overheid, moeten we niet raar staan te kijken als we die privacy en vrijheden ineens kwijt zijn als de overheid dat wil. Dat kan dus ook de vrijheid zijn om een andere overheid te kiezen....want dat mag dan misschien niet meer.

[gaskabouter]

Ik hoor dit argument keer op keer maar voor iedere opsporingsinstantie en -methode geldt dat er een surveillance systeem of `-element in zit.

Ook de politie auto die bij jou door de staat rijdt, de camera langs de snelweg ga zo maar door.

Onderdeel van eventuele vervolging is altijd de toets of de informatie rechtmatig verkregen is. Daarvoor zijn toezichthouders en wetshandhaving door rechters en openbaar ministerie.

Dat dingen digitaal zijn doet hier niets aan af. De controle blijft hetzelfde. Als je bang bent dat dit soort systemen burgers gaat bespioneren zonder dat wij daarvan af weten en zonder dat dat getoetst snap ik dat maar hebben we toch een lange historie dat dat ontdekt wordt een bestraft.

Als de toeslagenaffaire iets aantoont is het wel dat de roep om betere controle tegen fraude leidt tot betere controle die weer tot excessen kan leiden waarna weer een correctiemechanisme in werking gaat. wat hier zo illustratief aan is is dat dezelfde mijnheer die het schandalig vond dat de controlemechanismes niet streng genoeg waren, dezelfde mijnheer was die later vond dat de controlemechanismes onterend waren.

En er is altijd de afweging tussen de roep om bescherming en de roep om meer privacy. Dat blijft altijd een afweging

[Reactie gewijzigd door gaskabouter op 22 juli 2024 20:07]

[LurkZ]

Onderdeel van eventuele vervolging is altijd de toets of de informatie rechtmatig verkregen is.

Heel vaak moet je zelf aantonen dat het onregelmatig. Zelfs als je de rechter daarvan in 5 minuten overtuigt ben je toch heel lang bezig met die zaak.

Buiten dat ben ik niet zo naief om te denken dat onrechtmatig verkregen bewijs niet gebruikt zal worden.
Fictief voorbeeld.
De politie tapt onrechtmatig een gesprek af.
Tijdens dat geprek bespreken 2 personen over een wapendeal. Een of beide personen werden niet verdacht van enig crimineel feit. De rechter laat de tap niet toe in de rechtzaak. Is hiermee de zaak gesloten?
Nee want de politie gaat ander bewijs zoeken. Misschien vinden een overvloed aan toelaatbaar bewijs.
Maar zonder die illegale tap was het onderzoek naar een of beide personen nooit gestart. Dus waren die toelaatbare bewijzen nooit gevonden. Dus is tap indirect toegelaten in de rechtbank.

[gaskabouter]

Iedereen moet zijn eigen verdediging aanvoeren natuurlijk.

Je voorbeeld is fictief en daardoor lastig juridisch te duiden, als een politieagent per ongeluk een verkeerd telefoonnummer intoetst en daarmee tapt en een strafbaar feit op het spoor komt heeft hij "ambtshalve bij toeval" iets ontdekt en is het niet onrechtmatig verkregen, want daarvoor moet opzet "moedwillig" in het spel zijn.

Als ze gewoon lukraak aan het tappen zijn omdat de buurman er schimmig uitziet zullen ze gewoon disciplinair vervolgd worden.

Een rechter toetst of bewijs rechtmatig verkregen is maar het is echt niet zo dat als dat niet zo is daarmee de kous af is er kan dan nog steeds gekeken worden of de schuldvraag beantwoord kan worden. En als er redenen zijn ontstaan om tot nader onderzoek te besluiten mag dat gewoon, alleen zal de rechter de ingezette middelen wel weer toetsen.

Dus misbruik van systemen ontslaat je niet van rechtsvervolging als er gerede twijfel is maar kan wel leiden tot vervolging of maatregelen tegen degene die de systemen misbruikt heeft

[BRAINLESS01]

Zover ik weet moet je in Nederland ook aantonen hoe iemand in beeld van de politie is gekomen, je kunt niet zomaar uit het niets roepen dat Piet uit Utrecht crimineel is en dat je daar na hard zoeken bewijs voor gevonden hebt. Er moet een aanleiding zijn om dat onderzoek te mogen doen.

[WORPspeed]

Doet me denken aan Se7en.
Toevallig hadden ze een tip ontvangen die zei dat we Piet in de gaten moesten houden omdat ze als buurvrouw door de muren van haar gebouw Piet hoorde praten over wapens

[RazorMaron]

Klopt, de verklaring van de buurvrouw mag als bewijs aangeleverd worden. Een verklaring van ‘horen zeggen’ is volgens het oordeel van de Hoge Raad in het De Auditu-arrest geldig. Ik snap alleen de link niet helemaal.

[WORPspeed]

Spoilers voor de film Se7en:

In die film verkrijgen ze ook informatie waar de dader woont op een ongeldige manier. Brad Pit gaat daarnaartoe en koopt een buurvrouw om om te zeggen dat zij de politie gebeld heeft en blablabla moest zeggen zodat de politie aanleiding heeft en dus een geldige manier heeft om de woning te betreden.

Net zoals dus ook kan gebeuren nu, waar de Politie illegaal telefoons aftapt en dan een andere legale reden eromheen bedenkt om de informatie uit de tap te kunnen gebruiken

[dehardstyler]

Ook de politie auto die bij jou door de staat rijdt, de camera langs de snelweg ga zo maar door.

Onderdeel van eventuele vervolging is altijd de toets of de informatie rechtmatig verkregen is. Daarvoor zijn toezichthouders en wetshandhaving door rechters en openbaar ministerie.

Ja en dat is dus precies het probleem. Het OM doet nu al schikkingsvoorstellen zonder tussenkomst van een rechter. Het grootste gedeelte gaat daar natuurlijk gewoon in mee en op deze manier verzand de rechtsstaat meer en meer.

Dat dingen digitaal zijn doet hier niets aan af. De controle blijft hetzelfde. Als je bang bent dat dit soort systemen burgers gaat bespioneren zonder dat wij daarvan af weten en zonder dat dat getoetst snap ik dat maar hebben we toch een lange historie dat dat ontdekt wordt een bestraft.

Pffff, wordt bestraft? Toeslagenaffaire? De lange historie onbestrafte missers van AIVD/MIVD? De NCTV die iedereen zomaar volgt tegen de regels in? Dit bericht van gisteren: nieuws: NRC: politie overtrad privacywet door telefoons van asielzoekers te d... ?

Welke bestraffing heb je het hier over, mag ik een voorbeeld? Nou niet de boete van de Belastingdienst aanhalen he, dat is meer een schouderklopje om vooral te blijven doorgaan met exact dezelfde methodes.

[gaskabouter]

Overheid bashen is blijkbaar in, maar wat wil je voor straffen dan? Het overtreden van dit soort wetten is heel vaak een grijs gebied waarbij echt niet willens en wetens iets illegaals gedaan wordt maar achteraf geconstateerd wordt dat er geen wettelijke basis is, of controle ontbreekt.

En tegelijk met zijn allen roepen dat de pakkans zo laag is terwijl we de methodes in twijfel trekken, het is voortdurend wikken en wegen wat redelijk is, wat proportioneel is, en soms slaat de balans te ver door naar de verkeerde kans en worden mensen teruggefloten.

En als je bewust de wet overtreedt krijg je ontslag of wordt je vervolgd, genoeg voorbeelden van agenten en dergelijke die ontslagen zijn of gevangenisstraf. Maar je kan niet eisen dat de belastingdienst de gevangenis ingaat omdat er Bulgaren frauderen bij gebrekkig toezicht en vervolgens weer bij te streng toezicht, zo werkt het niet

[dehardstyler]

In het geval van de Belastingdienst zou ik graag persoonlijke straffen voor knevelarij zien. Die gewoon geven kunnen én moeten worden. Er is allang aangetoond dat dit bewust is doorgegaan, dus een straf is gewoon op zijn plaats. Jij gaf aan dat er bestraft wordt, maar waar dan? Daar zie ik dus niks van. Knevelarij is zogenaamd niet gevonden, net als de discriminatie niet: https://www.om.nl/actueel...zoek-naar-belastingdienst

Geen beroepsmatige discriminatie

Het OM heeft geconstateerd dat de Belastingdienst in het kader van de bestrijding van misbruik en fraude zoekslagen heeft gemaakt op basis van nationaliteit. Na zo’n eerste zoekslag volgde een individuele beoordeling om vast te stellen of iemand wel of geen recht had op kinderopvangtoeslag. Bij die beoordeling speelde nationaliteit geen rol meer. De beoordeling was voor iedereen gelijk en conform de toen geldende regels en daarom is er geen sprake van strafbare beroepsmatige discriminatie.

Dat was in januari, case closed. En wat denk je in december 2021? nieuws: Belastingdienst krijgt 2,75 miljoen euro AVG-boete voor rol in toesla...

Een boete voor discriminatie. Het is gewoon zo ontzettend schaamteloos, zo onwijs doortrapt, dat ik de toeslagenaffaire ouders zou aanmoedigen als ze het recht in eigen hand zouden nemen. Deze mensen verdienen dat. (en ja ik weet dat dat niet goed is, niet mag etc.)

Maar dit is toch ziek of niet dan? Zoveel onrecht. Tot aan de Raad van State is teruggevloten, maar er is nergens een ambtenaar om te straffen? Kom nou. Nu betalen de toeslagenouders letterlijk mee aan de boete van de Belastingdienst.

[gaskabouter]

Tsja. Ik ga je niet overtuigen maar voor het ene, knevelarij, is moedwil en kwade opzet nodig.

Voor het andere, de boete, geldt dat je afwegingen maakt die achteraf als discriminerend zijn bestempeld omdat ze te algemeen zijn en niet proportioneel.

Als er aanwijzingen zouden zijn, en die casus is er ook, dat er specifiek in een bepaalde regio in Roemenië op een bepaalde wijze gefraudeerd wordt een je filtert daarop is het oordeel anders, sterker nog. Dan zal de Belastingdienst nalatigheid verweten worden als ze het niet doen.

En aanmoedigen tot geweld is dan weer wel strafbaar

[cariolive23]

Als je bang bent dat dit soort systemen burgers gaat bespioneren zonder dat wij daarvan af weten en zonder dat dat getoetst snap ik dat maar hebben we toch een lange historie dat dat ontdekt wordt een bestraft.

En dan daar direct achteraan:

Als de toeslagenaffaire iets aantoont is het wel dat de roep om betere controle tegen fraude leidt tot betere controle die weer tot excessen kan leiden waarna weer een correctiemechanisme in werking gaat.

Voor zover mij bekend, is er voor de toeslagen affaire nog geen enkele ambtenaar veroordeelt cq gestraft.

Dus tot nu toe bewijst de toeslagen affaire dat ambtenaren ongestraft hun gang kunnen gaan. En dat is ook juist de stelling van mening reactie in dit topic.

Voor mij overigens het bewijs dat je al die toeslagen moet afschaffen om het hele probleem van fraude te voorkomen. Inkomstenpolitiek kun je ook doen met de inkomstenbelasting en BTW, maakt het vele malen simpeler en goedkoper.

[gaskabouter]

Voor zover mij bekend is er zelfs een kabinet om afgetreden en komt er een parlementair onderzoek. En ambtenaren kunnen juridisch eigenlijk niet vervolgd worden voor het uitvoeren van beleid, daar is de politieke verantwoordelijkheid voor en kunnen sancties opgelegd worden.

Je wekt de suggestie dat er allerlei ambtenaren rondlopen die voortdurend proberen de grenzen op te zoeken of eroverheen gaan om de burger te pesten en dat is gewoon niet zo. Er is altijd iets te klagen over de overheid, ze doen te weinig, te veel, of niet goed. Maar feit is dat we een structuur hebben in Nederland die misbruikt voorkomt en als dat niet lukt uiteindelijk openbaart en corrigeert.

[cariolive23]

[quote]Voor zover mij bekend is er zelfs een kabinet om afgetreden en komt er een parlementair onderzoek.Kortom, er is niemand gestraft. Niemand die persoonlijk een boete heeft gekregen, in de cel zit, of wat dan ook. Geen enkele straf.

En ambtenaren kunnen juridisch eigenlijk niet vervolgd worden voor het uitvoeren van beleid, daar is de politieke verantwoordelijkheid voor en kunnen sancties opgelegd worden.

Er is helemaal geen beleid dat er moet worden gediscrimineerd, dat hebben de ambtenaren zelf verzonnen maar ze zijn niet/nauwelijks verantwoordelijk te houden voor hun eigen acties. Een minister is dan eindverantwoordelijk, maar die zal nooit tot in detail kunnen uitzoeken of een algoritme discriminerend werkt of niet. De ambtenaren die het algoritme verzinnen en implementeren, die weten dat wel, die kennen de data. Zoeken naar dubbele nationaliteit en daar dan labels aan hangen, dat valt niet uit te leggen. Helemaal niet omdat menig geboren Nederlander helemaal geen keuze heeft om maar één nationaliteit te hebben. Vergelijkbaar met je huidskleur of je ouders, ook die kun je niet kiezen.

Je wekt de suggestie dat er allerlei ambtenaren rondlopen die voortdurend proberen de grenzen op te zoeken of eroverheen gaan om de burger te pesten en dat is gewoon niet zo.

Voor 99% van de ambtenaren zal dit zeker het geval zijn, het is die resterende 1% waar het risico zit. En ook die zijn onschendbaar. Dat is imho een probleem. Niemand zou onschendbaar mogen zijn omdat hij/zij een bepaalde positie heeft. Discriminatie is strafbaar en het maakt geen moer uit wie dat doet. Of ik het nou doe of een ambtenaar, de straf moet hetzelfde zijn. Alleen is er voor gekozen om een ambtenaar onschendbaar te maken. Dat een minister eindverantwoordelijk is, verandert niks aan de zaak.

Een ambtenaar is gewoon een werknemer en zou gewoon verantwoordelijk moeten worden gehouden voor z'n werk. Werk uitvoeren wat tegen de wet is, kan en moet hij/zij dan ook gewoon weigeren. En wanneer hij/zij het dan toch uitvoert, is hij/zij voor die uitvoering verantwoordelijk en mag dan ook op de blaren zitten. Zo werkt het met andere werknemers tenslotte ook.

[gaskabouter]

Je hebt het over discrimineren maar laten we wel wezen; een algoritme is gebaseerd op discriminanten. Welke kenmerken hebben fraude gevallen ge.een en hoe kan je daarop filteren?

Ik probeer niets goed te praten maar als je fraude met toeslagen wilt opsporen moet je zoeken bij mensen die überhaupt toeslagen krijgen die mensen hebben vaker geen baan en een andere achtergrond.

Dat is geen racistisch motief, waarvoor je van mij iemand in de bak mag gooien, maar simpele deductie.

De politie zet ook camera's neer waar van hard gereden wordt, niet om mensen op de A4 te discrimineren. Het blijft gemeenschapsgeld wat nuttig en efficiënt besteed moet worden

[Kenmerkend]

Ik hoor dit argument keer op keer maar voor iedere opsporingsinstantie en -methode geldt dat er een surveillance systeem of `-element in zit.

Ook de politie auto die bij jou door de staat rijdt, de camera langs de snelweg ga zo maar door.

Onderdeel van eventuele vervolging is altijd de toets of de informatie rechtmatig verkregen is. Daarvoor zijn toezichthouders en wetshandhaving door rechters en openbaar ministerie.

Dat dingen digitaal zijn doet hier niets aan af. De controle blijft hetzelfde. Als je bang bent dat dit soort systemen burgers gaat bespioneren zonder dat wij daarvan af weten en zonder dat dat getoetst snap ik dat maar hebben we toch een lange historie dat dat ontdekt wordt een bestraft.

Als de toeslagenaffaire iets aantoont is het wel dat de roep om betere controle tegen fraude leidt tot betere controle die weer tot excessen kan leiden waarna weer een correctiemechanisme in werking gaat. wat hier zo illustratief aan is is dat dezelfde mijnheer die het schandalig vond dat de controlemechanismes niet streng genoeg waren, dezelfde mijnheer was die later vond dat de controlemechanismes onterend waren.

En er is altijd de afweging tussen de roep om bescherming en de roep om meer privacy. Dat blijft altijd een afweging

Als de opkomst van Donald Trump in de VS iets wel aantoont is dat je nimmer een overheid zo veel macht moet geven dat je die niet meer kunt ontwijken wanneer het in verkeerde handen valt. En dat kan sneller gaan dan je verwacht.

[Cergorach]

maar wie garandeerd dat dit systeem in de toekomst niet voor andere doeleinden word gebruikt?

Niemand, want dat kan men gewoon niet garanderen.

Echter hetzelfde kan worden gesteld voor het hele internet, wie garandeert dat dit systeem in de toekomst niet voor andere doeleinden word gebruikt? Ook weer niemand en het is al voor heel veel andere doeleinden misbruikt dan waar het voor gemaakt is. Ook maar de stekker uit het internet volgens jou beredenering?

Moet iets er maar niet komen omdat niemand kan garanderen dat het misschien in de toekomst misbruikt kan worden?

[buzzin]

Het internet is niet van 1 iemand, en kan als dusdanig niet heel goed als onderdrukking tool worden ingezet. Het afsluiten van internet dan weer wel (zie China e.d.)

Ik ben niet tegen het scannen, maar we moeten de gevolgen hiervan wel 1. inzien en 2. controleren.
1 dienst die mag bepalen wanneer er dingen gaan verdwijnen of wanneer ze iemand verdacht maken, is erg gevaarlijk en zet de deur open voor misbruik.

Je kunt niet alles garanderen, maar om maar meteen niets meer te regelen omdat je niet alles kunt voorkomen is ook niet goed. Je kunt best veiligheden inbouwen die voorkomen dat het misbruikt kan worden, naar beste inzicht van nu.
Misschien zijn die er ook, maar die worden niet benoemd.

[Cergorach]

Het internet is niet van 1 iemand, en kan als dusdanig niet heel goed als onderdrukking tool worden ingezet.

1.) Het internet is niet van 1 iemand, maar een staat heeft wel volledige controle over dat internet op zijn grondgebied. Dat deze volledige controle momenteel in veel landen niet wordt uitgeoefend is geen garantie dat dit niet gebeurd in de toekomst.

2.) Het internet is niet van 1 iemand, maar het kan wel door 1 staat, organisatie of persoon misbruikt worden. Ik mag wettelijk geen informatie verzamelen over de bevolking, maar als ik dat echt zou willen zou ik dat prima kunnen (zonder dat er ooit iemand achterkomt), mits ik daar de resources aan zou willen besteden. We hebben wel eens vaker de spelletjes gespeeld op Tweakers over hoeveel informatie 'privacy bewuste' Tweakers al achterlaten op Tweakers.net en de rest van het internet. En dat is dan handwerk, als je dat automatiseert kan je enorme databases aanleggen met mensen en hun visie op de wereld. Als dat vervolgens gebruikt wordt door iemand met enge 'politieke' of religieuze ideeën, dan kan zoiets heel erg gevaarlijk worden.

1 dienst bestaat uit een groep mensen die zich ook aan de wet moeten houden en ik verwacht dat als dit juist ook in andere Europese landen zal worden gebruikt, dat er juist meer diensten mee gaan werken, waardoor corruptie moeilijker wordt, maar misbruik makkelijker (meer mensen). Of iemand schuldig is of niet, dat ligt aan de rest van het proces => politie, justitie, rechters, wetgeving. Het is niet alsof er nu een geautomatiseerde executie plaatsvind.

Het is nu ook echt niet zo moeilijk om een computer, smartphone of tablet binnen te dringen en daar zaken achter te laten die niet door de beugel heen kunnen. Met een anonieme tip kan daar nog steeds het rechtssysteem op worden gegooid. Hoe hard dat 'bewijs' is ligt er geheel aan hoe competent de betreffende 'misbruiker' is en hoe gemotiveerd deze is. Misbruik is dus imho altijd al een mogelijkheid geweest, voor dit systeem überhaupt bestond en zelfs voordat computers zo een enorme adoptie hadden.

[Snowfall]

Niemand, want dat kan men gewoon niet garanderen.

Dat ligt er net aan hoe je dit wettelijk vastlegt. Als je wettelijk vastlegt dat dit voor niets anders gebruikt mag worden en dat het gebruik voor andere doeleinden 20-30 jaar cel betekent (inclusief Politici) dan is er niemand die dit aan durft.

[Reactie gewijzigd door Snowfall op 22 juli 2024 20:07]

[Cergorach]

Als je wettelijk vastlegt dat dit voor niets anders gebruikt mag worden en dat het gebruik voor andere doeleinden 20-30 jaar cel betekent (inclusief Politici) dan is er niemand die dit aan durft.

Tja, totdat het overal is geïmplementeerd en de wet wordt aangepast door een toekomstige lading politici. Dat bedoel ik onder andere dat niemand iets kan garanderen.

Het enige wat verder 20-30 jaar cel betekend is dat als iemand het toch doet, dat deze direct alle getuigen omlegt omdat een paar dozijn moorden dan toch niets meer uitmaakt...

[FrankHe]

In de wet zijn de nodige waarborgen vastgelegd die willekeur voorkomen. Een veroordeling kan alleen plaatsvinden wanneer het bewijs rechtmatig verkregen is en wettig en overtuigend is. Rechters in Nederland gaan hier niet lichtzinnig mee om en zullen indien nodig het Openbaar Ministerie niet ontvankelijk verklaren en een zaak seponeren. Dat is een flinke stok achter de deur voor Politie en Justitie om hun werk secuur te doen en als ze dat niet voldoende doen dan gaat een verdachte gewoon vrijuit, zo werkt dat!

[kodak]

Het is redelijk om vooraf te eisen dat duidelijk is dat het niet om het algoritme gaat maar hoe het eerlijk en transparant ingezet zal worden voor wat wettelijk handhaving nodig heeft. Het probleem is dat dit in de uitleg weer niet lijkt te gebeuren. Ook nu ligt de nadruk weer op het bestaan en benadrukken van mogelijk succes. Mogelijke risico's en belemmeringen worden niet eens genoemd.

[arbraxas]

Je hebt het over Grapperhaus en justitie.
Keer op keer rekken die de regels of breken ze gewoon. Om daarna met wetgeving te komen om het "lek" te legaliseren.

Heb geen illusie, dit zal gebruikt worden voor veel meer als alleen KP. Want die data is toch voorhanden, waarom dan niet gebruiken?

Ethiek is Grapperhaus volledig vreemd.

[AntiSpam]

Het is misschien beter om kinderporno te voorkomen en afschrikwekkend te straffen.

Als we levenslang geven voor kindermisbruik dan hadden vele kinderen nooit misbruikt geweest.

Dit geldt ook voor moordenaars en gewelddadige daders.

Het is allemaal symbool politiek.

[Fiander]

Een klein beetje mee eens.
Het probleem wat ik hierbij zie is dat mensen die kinderen misbruiken, wat meer moeite gaan doen om het bewijs weg te werken, en andere rare dingen gaan doen om uit handen van justitie te blijven.

Als de doodstraf er op zou staan, heeft men niks te verliezen, en gaat men op agenten schieten. ( extreem voorbeeld )

[buzzin]

Ik ben bang dat het bij sommige niets zal uithalen.
Moorden vonden immers ook nog steeds plaats toen de doodstraf nog bestond.

Ik ben niet tegen het opsporen van kinderporno, en het bestraffen van diegene die het hebben, maar bij elke tool die de privacy opzij zet, dienen heel veel veiligheden ingebouwd te worden....

[cariolive23]

Het is misschien beter om kinderporno te voorkomen en afschrikwekkend te straffen.

Voorkomen is uiteraard het beste, maar helaas ook ijdele hoop.

Afschrikwekkend straffen kan ik me niks bij voorstellen, want wat had je dan in gedachten? Zelfs de doodstraf houdt mensen niet tegen om domme dingen te doen, zie bijvoorbeeld het smokkelen van drugs in Singapore of Indonesië.

Als we levenslang geven voor kindermisbruik dan hadden vele kinderen nooit misbruikt geweest.

Heb je cijfers van recidive?

Dit geldt ook voor moordenaars en gewelddadige daders.

Met zo weinig moorden in Nederland, is de kans op recidive wel heel erg klein. En dat ligt dan niet aan de straffen, maar gewoon aan het feit dat er nauwelijks moorden zijn. Of een moordenaar nu 10 jaar, 20 jaar of levenslang celstraf krijgt, voor de recidive maakt het niet uit. De kans dat hij/zij het nog een keer doet, blijft nihil.

[robvanwijk]

Als we levenslang geven

Want alle misdaden waar levenslang op staat (correcter: op kan staan) worden niet meer gepleegd? Er worden in Nederland bijvoorbeeld nooit mensen vermoord? En als levenslang inderdaad het perfecte middel is om criminelen af te schrikken dan is de lijst van mensen die tot levenslang veroordeeld zijn helemaal leeg?

Zelfs het risico op de doodstraf (die in sommige andere landen tot op de dag van vandaag bestaat) schrikt niet iedereen af. De reden is ontzettend stompzinnig en knullig: "ach, dat maakt alleen uit als ik gepakt wordt en ik wordt niet gepakt". Als je criminaliteit wil verlagen dan moet je niet harder straffen, maar er vaker in slagen om de dader te straffen: de pakkans moet omhoog.
Ergens levenslang (of de doodstraf) op zetten, maar daders zelden veroordelen, dat schrikt nauwelijks af. Tien of twintig jaar cel en (nagenoeg) iedereen die die misdaad pleegt ook echt achter de tralies krijgen, dát schrikt af. Het is nog steeds niet perfect (mensen in blinde woede kunnen nog steeds iemand doodslaan), maar bijna niemand die nog een greintje zelfbeheersing over heeft zal de trekker overhalen als ie weet dat het hem gegarandeerd op een lange celstraf komt te staan.
TL;DR: het idee "ik kom er toch wel mee weg" moet verslagen worden.

[bzuidgeest]

Ik weet niet of Grapperhaus zo een eng persoon is. Wat ik wel weet dat hij waarschijnlijk nauwelijks de kennis heeft om goede beslissingen te maken op ICT/Internet gebied.

Mijn stelling is dat je geen criminaliteit moet zoeken waar stommiteit en onkunde als reden net zo makkelijk voldoet.

[RoestVrijStaal]

Grapperhaus wil op zijn beurt al jaren harder optreden tegen afbeeldingen van kindermisbruik. Hij spreekt daar hostingproviders op aan en die volgens hem te traag zijn met het aanpakken van zulke afbeeldingen.

Ik begrijp nog steeds niet dat hij niet voor smaad of laster vervolgd wordt. Hij stond gewoon hostingproviders aan de schandpaal te nagelen. Ook de hostingproviders die wel na 24 uur de klacht behandeld hadden.

[Reactie gewijzigd door RoestVrijStaal op 22 juli 2024 20:07]

[pagani]

Maar moet een hostingprovider wachten tot iemand klaagt dat er ergens kinderporno op hun systemen staat of hebben ze een zorgplicht om kinderporno überhaupt te voorkomen/verwijderen?

[MegaBobsel]

Hoe weet een hostingprovider anders dat er zulke content op hun systemen staat? Ook dit systeem is namelijk niet waterdicht.

[pagani]

Misschien het artikel lezen? Het hele artikel gaat over een algoritme dat op basis van een hash deze check uitvoert.

[joost00719]

Je bestanden encrypten of opsplitsen en je hosting provider ziet het al niet meer met deze "scan". Je kunt dan alsnog zulke content verspreiden door het op je webserver (of zelfs client-side) te decrypten...

[MegaBobsel]

Misschien zelf het artikel lezen? Daar staat namelijk dat het alleen vergeleken kan worden met content dat bekend is, niet nieuwe content die nog niet bekend is, ergo is het niet waterdicht en dus kan er nog steeds content op systemen van providers belanden. Verwachten dat providers kinderporno moeten voorkomen is dus niet redelijk en simpelweg een utopie.

Natuurlijk zou er prima tegen deze database gecheckt kunnen worden en op basis daarvan de content verwijderen maar je kan ook niet verwachten dat bedrijven dit allemaal maar 1-2-3 even implementeren.

[ikt]

Tot hoever moet zelfcontrole gaan? Moet elk bestand dat geupload wordt gescand worden? Mooi dan, als je 90% van je server-capaciteit moet besteden aan het scannen van geuploade bestanden.

Wat is er mis met het (redelijk snel) opvolgen van meldingen?

[TheekAzzaBreek]

Wat die capaciteit betreft maak je je teveel zorgen. Het berekenen van een hash van een plaatje is niet zo'n zware berekening.

Wat er mis is met alleen reageren op meldingen is dat je de bestrijding dan afhankelijk maakt van het publiek van een site. Als die alleen bezocht wordt door liefhebbers van dat soort materiaal zal je geen meldingen krijgen.

[Fiander]

Klopt,
Gelukkig zijn er erg veel nono's welke kp downloaden, in hun porno collectie zetten, welke vervolgens per
ongeluk via een torrentsite of iets anders verspreid worden

[Harleyknd1]

ikt heeft een punt,

Een plaatje is niet per-se een hoop werk.
Maar als we praten over honderden afbeeldingen die door een netwerk gaan van verschillende grote en de hash tijd kan al snel oplopen.

Het is niet zo dat een server 90% idle staat en "af een toe" een afbeelding moet scannen.
Een redelijke site heeft al gauw 40 a 50 duizend bezoekers per dag, die allen content ophalen, posten, etc.
Dat is toch behoorlijk wat informatie wat een server moet verwerken. Als je dan vervolgens voor elke post ook nog een scan moet doen om te kijken of dit in een database zit kost gewoon veel tijd op schaal.

En als je die tijd wilt verminderen kost het veel resources om dit te doen. Je kan niet zeggen "maar youtube doet het wel", omdat youtube biljoenen heeft voor dit soort infrastructuur. Iets wat een gemiddelde hosting provider (als hun al hun eigen servers hebben, vaak is dit wholesale) niet 1,2,3 kan doen.

[TheekAzzaBreek]

Heb je daar concrete cijfers voor of reageer je - net als ik - op gevoel?

Mijn gevoel zegt dat alleen van binnenkomend materiaal een hash uitrekenen stukken lichter is dan ieder plaatje dat opgevraagd wordt real-time schalen bij voorbeeld, wat hel veel sites doen.

[Harleyknd1]

Ik ging een heel lap tekst schrijven over privacy, scaling, etc.
Maar toen realiseerde ik me dat ik niet een gevecht probeer aan te gaan.

De tl.dr;
Het punt ging hem niet zo om hashing tijdens het opvragen maar het posten.
Je hebt te maken met schaal, en alhoewel een afbeelding vrijwel nihil is qua tijd
Moet je realiseren dat hoe groter een afbeelding is, hoe meer tijd het kost.

Ik beheer de servers van een vrij grote website, en we hebben al gemiddeld 70 a 80% van de cpu gebruikt door de dag heen.
Ook al hebben we een CDN en Cloudflare er tussen staan. Is het gewoon een zee met posts en afbeeldingen die binnen komt.
Nu zal het in de realiteit wel mee vallen met de slowdown die we hebben. Zal het toch voor een aanzienlijke vertraging veroorzaken tussen het posten van het bericht, en wanneer de server eindelijk klaar is met het verwerken.

En in het ergste geval kan dit ook een doel zijn voor misbruik,
Stuur gewoon een hoop zooi naar de server met grote afbeeldingen in grote volume en hoop dat de server plat gaat.

En zoals @ikt al had benoemt, is het de verantwoordelijkheid van de host/provider om dit te doen?
Want het is niet alleen een hash genereren voor nieuwe content, je moet ook oude content hashen.
En dan hebben we het ook over een stukje opslag. Want die hash moeten we ergens opslaan als de csam database nieuwe content ontvangt, die we vervolgens weer moeten checken tegenover de hashes die we al hadden gemaakt.

je hebt dan gewoon met een n^ probleem te maken, want je zult oneindig veel content moeten checken tegenover een database en elke keer als die database wordt geupdate de oude content weer controleren tegenover de nieuwe database.

[TheekAzzaBreek]

Ok, op het gebied van de performance impact heb je duidelijk meer zicht dan ik, I yield.

Ik denk dat het zeker de verantwoordelijkheid van een website (-beheerder) is om ten minste te proberen criminele activiteiten te voorkomen. De hostingprovider zal natuurlijk de middelen moeten leveren maar is niet primair verantwoordelijk, nee.

[Anoniem: 734539]

Het nadeel van dit soort systemen, zoals ook in het artikel te lezen valt is dat er false-positives kunnen voorkomen, waardoor legitieme data ook niet geaccepteerd wordt. Daarnaast helpt dit enkel tegen afbeeldingen die rechtstreeks geüpload worden, afbeeldingen die in een gecomprimeerd bestand staan die met een AES-256 wachtwoord beveiligd zijn moeten alsnog handmatig aangemeld worden.

[pagani]

Dat klopt uiteraard, maar een "open en bloot" naar het internet staande pagina met beeldmateriaal zou toch wel gefilterd moeten kunnen worden. Daar zit hem, naast de illegaliteit van het beeldmateriaal, ook een verantwoordelijkheid in dat iemand niet zomaar op kinderporno stuit. De false positives zou je moeten voorkomen door niet gelijk alles te blokkeren wat het algoritme vindt maar er dan ook daadwerkelijk een (menselijke) controle op uitvoeren. Ik mag toch hopen dat een provider niet een dagtaak heeft aan kinderporno verwijderen op zijn servers.

[Anoniem: 734539]

Dat klopt uiteraard, maar een "open en bloot" naar het internet staande pagina met beeldmateriaal zou toch wel gefilterd moeten kunnen worden. Daar zit hem, naast de illegaliteit van het beeldmateriaal, ook een verantwoordelijkheid in dat iemand niet zomaar op kinderporno stuit.

Het gros van dit materiaal zal naar mijn idee self-hosted zijn, dus niet bij de algemene providers op het netwerk staan of gehost in een land dat buiten de greep van de EU valt.

De false positives zou je moeten voorkomen door niet gelijk alles te blokkeren wat het algoritme vindt maar er dan ook daadwerkelijk een (menselijke) controle op uitvoeren. Ik mag toch hopen dat een provider niet een dagtaak heeft aan kinderporno verwijderen op zijn servers.

Dan zou je dus een automatisch meldingssysteem moeten hebben, maar dan heb je personeel nodig die dit dan vervolgens gaat doorspitten, daarbij komt dan ook nog geestelijke hulp voor dit soort personeel, want het is niet fijn om dagelijks met dit soort materiaal in aanraking te komen.

Dat zijn toch een hoop extra kosten die bij de providers neergelegd wordt, wat afhankelijk van de grootte van de host misschien wel over honderdduizenden bestanden gaat of meer, gaat de regering hieraan ook bijdragen?

[Hobbit13]

Het gros van dit materiaal zal naar mijn idee self-hosted zijn, dus niet bij de algemene providers op het netwerk staan of gehost in een land dat buiten de greep van de EU valt.

Hele tijd terug stond er een stuk op NOS enzo dat juist Nederland de grootste hoster van kinderprono was, omdat hosting ruimte hier veel aanwezig, betrouwbaar en goedkoop is.

Denk niet dat veel van dit soort content thuis gehost wordt, neem aan dat het op virtuele server staat, die met gestolen creditcart of botcoin betaald worden. Als de server dan gevonden wordt, weten ze nog niets over de gene die er achter zit.

[Fiander]

Het controleren van bestaande kp is gemakkelijk, en te doen zonder tussenkomst lijkt mij.
iemand upload foto, hash van foto staat in database. volledige foto wordt doorgestuurd voor een totale controle, zijn alle bitjes gelijk, is het dezelfde foto.
Bij fotos welke nieuw zijn, zal iemand de foto moeten controleren voordat deze de database ingaat. En die mensen hebben het inderdaad zwaar.....

In het echt zijn de hashes van deze fotos ook ongevoelig voor kleur veranderingen, en voor formaat veranderingen en worden de fotos niet bitwise vergeleken, maar met speciale software welke ook deze kleur veranderingen en zelfs flippen van een foto kan detecteren.

[TheekAzzaBreek]

De kans op false positives is inderdaad aanwezig, op twee manieren.

Er wordt van MD5 hashes gebruik gemaakt, die hebben een een zekere kans op hash collisions, die is verwaarloosbaar klein.

De andere manier is dat er ten onrechte hashes aan de database worden toegevoegd. De oorspronkelijke opzet was dat er alleen hashes van door de politie als kinderporno aangemerkte bestanden opgenomen worden. Wat daar voor garanties zijn ingebouwd weet ik niet, we weten wel dat dat in het verleden weleens mis is gegaan (met standaard Wordpress plaatjes).

[Laar19]

Ik denk het niet. Laten we eerst even terug gaan naar de situatie dat je het zelf host. Dan heb je inderdaad de verantwoordelijkheid om illegale dingen te voorkomen en bij melding te verwijderen. Maar dat voorkomen gaat volgens mij niet verder dan een goede beveiliging, en dat verwijderen is op een redelijke termijn (lekker vaag).

Bij het hosten door een hoster (of colo) verwacht ik dat dezelfde eisen gelden. Echter heb je daarbij een deel van het werk uit handen gegeven. Aangezien ik nergens hoor dat het actief scannen nodig is bij het zelf hosten, betekend dat naar mijn idee dat het ook niet nodig zou moeten zijn als ik de hosting uit heb gegeven.

Zorgplicht van de hoster is dan naar mijn idee ook slechts om mij te helpen bij de taken die ik anders zelf zou moeten doen. Taken waar ik als afnemer niet de kennis/tijd/capaciteit voor heb om te doen. Het offline halen van een website als deze illegale dingen verspreid kan ik in deze context zien. Immers heb ik als kleine afnemer waarschijnlijk niet de kennis, ervaring om bij een melding snel genoeg te handelen. Dat vereist namelijk dat ik hem snel genoeg zie (mogelijk op vakantie), hem kan beoordelen en weet wat ik vervolgens moet doen.

[watercoolertje]

Ik begrijp nog steeds niet dat ie voor smaad of laster vervolgd wordt.

Je bedoeld dat je niet begrijpt dat ie niet vervolgd wordt?

[Reactie gewijzigd door watercoolertje op 22 juli 2024 20:07]

[RoestVrijStaal]

Klopt, ik heb het aangepast. Dank

[Caayn]

Even de juridische haalbaarheid ter zijde.

Mogelijk is het geen goede reclame om de minister van Justitie & Veiligheid aan te klagen. Hoe grote kwal die man ook is.

[Zyppora]

Even de juridische haalbaarheid ter zijde.

Mogelijk is het geen goede reclame om de minister van Justitie & Veiligheid aan te klagen. Hoe grote kwal die man ook is.

Vrij vertaald zeg je hier dus dat de man boven de wet staat? Zeer enge gedachte als je het mij vraagt. Het lijkt me juist dat hij in een voorbeeldpositie zit en daar ook op afgerekend mag/moet kunnen worden.

[Gast Gebruiker]

Rechtenstudie les 1: In je Recht staan, staat niet gelijk aan je Recht krijgen.

[Zer0]

Les 0: Denken in je recht te staan staat niet gelijk aan werkelijk in je recht staan.

[arbraxas]

Open dag rechtenstudie:
Les dag 0: Zoals het zou moeten werken.
Les dag 1: De dagelijkse gang van zaken.

Want ook in Nederland is recht afhankelijk van geld / invloed / status.

[MegaBobsel]

Redelijk offtopic wat ik nu ga zeggen maar letterlijk alles wat je hier zegt is in de zomer van 2020 reeds bevestigt.

[robvanwijk]

Mogelijk is het geen goede reclame om de minister van Justitie & Veiligheid aan te klagen.

Het is juist zeer goede reclame (voor de rechtsstaat, inderdaad niet bepaald voor de regering) als je de minister van Justitie net zo goed aan kunt klagen als elke andere persoon die de wet (mogelijk) overtreedt. Het alternatief (een minister niet aan kunnen klagen) komt erop neer dat die minister in feite boven de wet staat. Als er iets is wat we niet moeten willen, dan is dat het wel.

[ShellGhost]

Grapperhaus wil op zijn beurt al jaren harder optreden tegen afbeeldingen van kindermisbruik. Hij spreekt daar hostingproviders op aan en publiceert namen van providers die volgens hem te traag zijn met het aanpakken van zulke afbeeldingen.

Het is goed dat hij wil dat het goed aangepakt wordt, maar om providers meteen aan de digitale schandpaal te nagelen vind ik veel te ver gaan. Zeker omdat het systeem alles behalve waterdicht is....

[The Zep Man]

Ik begrijp nog steeds niet dat ie voor smaad of laster vervolgd wordt. Hij stond gewoon hostingproviders aan de schandpaal te nagelen. Ook de hostingproviders die wel na 24 uur de klacht behandeld hadden.

Belofte maakt schuld. Die belofte was gedaan om dwingende wetgeving te voorkomen. Ze houden zich niet aan hun eigen belofte. Wat gedaan is, is daarom mogelijk terecht.

Verder is het onduidelijk of de betreffende providers hierdoor minder omzet hebben behaald.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 20:07]

[]D)izzy][\/][an]

Dus, providers pesten zodat ze censuur systemen implementeren waarvan we beloven dat we ze alleen voor kinderporno zullen gebruiken, ook al is al bewezen dat deze beloftes nogal mager zijn. Klinkt inderdaad als Grapperhaus.

[Nas T]

Dus, providers pesten zodat ze censuur systemen implementeren ...

Soms is het niet een kwestie van censuur. Het is namelijk strafbaar om haat te zaaien of op te ruien.
Als een opruiend bericht verwijderd wordt, onder het mom van censuur, zullen zaken toch in de juiste context geplaatst moeten worden.

Op zich ben ik voorstander van dat csam op deze manier opgespoord kan worden, maar het systeem moet wel waterdicht zijn. Stel dat een afbeelding onterecht gevlagd wordt als zijnde csam, kan de onschuldige daar jaren of levenslang door gedupeerd worden. Kijkend naar de toeslagenaffaire en SyRI, dan vertrouw ik onze overheid mijn gegevens niet toe.

En ik gok dat ik een leek ben op het gebied, maar zijn dit soort systemen niet relatief makkelijk te omzeilen, door een aanpassing te doen op de media voordat het online gaat?

[]D)izzy][\/][an]

Mijn punt gaat hier een beetje aan voorbij, al is dat niet helemaal duidelijk in mijn reactie.
Kinderporno en terrorisme zij de defacto onderwerpen die sinds jaar en dag worden aangevoerd voor de invoering van verscheidene filters, waaebij altijd beloofd wordt dat ze enkel daarvoor worden gebruikt. In de praktijk wordt, nadat men de filters geimplementeerd hebben, gepusht om ook andere dingen te blokkeren, ook daar zijn meerdere voorbeelden van voorbij gekomen.

Er is in principe niet veel mis met zulke filters (al geeft het artikel al een probleem aan), maar jij moet er nu maar op vertrouwen dat dit in de toekomst niet ook voor andere doeleinden wordt ingezet.

[arbraxas]

Hij doet het ook fout. Corona is veel effectiever als reden.
Gooi het in de groep als opsporing van "wappie" berichten en afbeeldingen en gisteren was die wetgeving erdoor. Uiteraard "tijdelijk".

[Drexz]

Het nadeel van hele strakke handhaving is dat bedrijven daardoor ook te voorzichtig worden. Er is een voorbeeld van iemand (was te gast bij de technoloog podcast) die via whatsapp een foto kreeg van blote kinderen op het strand. Als ik het me goed herinner ging de hele foto niet eens om die kinderen, maar die waren nu eenmaal gewoon op het strand aanwezig. Deze kwam in een automatische back-up bij Microsoft en werd door een automatisch systeem aangewezen als kinderporno. Resultaat, de man was zijn complete back-up met foto's van de afgelopen 14 jaar kwijt en is weken of maanden bezig geweest om uit te zoeken wat er überhaupt nu mis is gegaan.

Het probleem is dat we normaal onschuldig zijn tot het tegendeel wordt bewezen. Maar dit soort systemen scannen iedereen, waardoor je dus eigenlijk schuldig bent tot het systeem zegt dat het niet zo is.

Nog even een toevoeging, je kunt zeggen een hash van bekende foto's is een heel ander systeem. Maar zoals ook uit dit artikel blijkt kunnen er ook fouten zitten in de lijst met hashes. Dit soort systemen hebben vaak wel een soort vingerafdruk, zodat een foto 1 pixel kleiner maken of knippen niet meteen een andere hash geeft (of 1 pixel van kleur veranderen). Waardoor het dan dus meestal ook niet zo is, dat een "hit" 100% klopt.

[Reactie gewijzigd door Drexz op 22 juli 2024 20:07]

[josttie]

Je kunt ook bedenken dat je vroegah wel meer moeite moest doen om aan de kinderporno te komen. Je moest immers echt een kind vinden, want er waren geen digitale mogelijkheden. Dat is een heel stuk makkelijker aan te pakken dan nu: mensen die hun deur niet eens uit hoeven te gaan om illegale dingen te doen, Het hele privacy perspectief komt bij velen vanuit een historisch oogpunt, waar we niet zomaar mensen fysiek mochten volgen of hun brieven openen. Met dat perspectief is het arrogant om te denken dat er genoeg mankracht is om dit ook online te doen: De instap is veel lager om online dingen op te zoeken die je niet moet hebben. En dan moet je het niet eens hebben over automatisering: Je kunt automatisch duizenden emails verzenden, ga je die handmatig checken?

Gelukkig hebben we tegenwoordig spam filters en firewalls! Ik denk dat velen niet meer zonder kunnen (willen). Dus digitaal moeten we zeker anders aanpakken dan fysiek: Automatische systemen die anoniem gegevens kunnen scannen zijn daarbij noodzakelijk.

Het is aan de regering om de systemen te waarborgen die dit doen. Wij vertrouwen nu al de spam filtering toe aan bedrijven, waarom niet aan overheden? We kunnen geen vuist maken tegen online criminaliteit zonder automatische systemen, het gaat te snel en het is te veel. Wel moet de privacy gewaarborgd worden en dat is de hele uitdaging, maar niet de reden om het maar niet te doen.
Anderson kunnen we niet zomaar alles scannen en idexeren onder het mom van kinderporno, dus ondanks dat de discussie vaak zwartwit is, lig het heel genuanceerd en mogen alle partijen in deze discussie zich wat mij betreft ook wat genuanceerder opstellen. Dat het een keer fout gaat maakt niets uit, zolang het maar op te lossen is. Een automatisch system maakt waarschijnlijk sowieso minder fouten dan een mens in veel situaties.

[Drexz]

Het ligt er natuurlijk aan hoe ver je terug gaat, maar foto's, VHS banden enz. worden al heel lang gebruikt.

De vergelijking met spam gaat, denk ik ook niet helemaal op, want zo'n spamfilter zou me moeten beschermen, net als een firewall of antivirussoftware.

Deze systemen zijn er om me te "vlaggen", niet om me te beschermen. Als de systemen er niet zijn zou ik als gebruiker precies dezelfde dienst hebben. Een betere vergelijking zou dan zijn dat dit een systeem is als een snelheidscamera. Bij die systemen en processen ter bescherming zijn er ook genoeg eisen, zoals dat ze geijkt moeten zijn en dat je de foto van de flitser op kunt vragen.

Bij een snelheidscamera is het vrij duidelijk of je te hard rijdt of niet. Bij een roodlicht camera al minder, omdat je misschien door rood reed om de ambulance door te laten gaan. Bij een systeem wat een foto moet herkennen natuurlijk nog minder. Dus even los van of je deze systemen moet willen, als ze er zijn moet het proces rond "false positives" zeer goed worden uitgewerkt. Dit is wel even wat erger dan onterecht een boete krijgen.

[Reactie gewijzigd door Drexz op 22 juli 2024 20:07]

[buzzin]

Dat het een keer fout gaat is wel erg.
Als het algoritme een false-positive geeft, dat is niet erg, maar er word tegenwoordig meteen van uit gegaan dat iemand dan schuldig is.

Als iemand alleen al verdacht word van kinderporno kan zijn hele leven kapot worden gemaakt.
Er moet dus wel eerst iemand aan te pas komen om het algoritme te controleren (m.a.w. even kijken of het resultaat klopt en wat de context is) vóór dat de persoon verder onderzocht word.

Geen idee of dat nu ook al zo is, al heb ik een vermoeden...

[robvanwijk]

Resultaat, de man was zijn complete back-up met foto's van de afgelopen 14 jaar kwijt en is weken of maanden bezig geweest om uit te zoeken wat er überhaupt nu mis is gegaan.

Mijns inziens is in dat geval niet het scannen zelf het probleem, maar de keuze om op basis van één detectie de "nuke it from orbit" routine aan te roepen. Wat je verder ook vindt van Apple's voorstel, in elk geval hadden ze er daar voor gekozen om pas actie te ondernemen na meerdere detecties (wat de kans op vals alarm gigantisch verlaagd). Als je dan ook nog de mogelijkheid geeft om in beroep te gaan, liefst bij justitie in plaats van bij het bedrijf zelf (en tot die tijd de data alleen onbereikbaar maakt, maar nog niet daadwerkelijk vernietigd), dan hebben we het opeens over een heel ander systeem, ook al blijft de initiële detectie precies hetzelfde werken.

[Andros]

Beetje offtopic maar het woord "kindermisbruikdetectiealgoritmes" gaan we wel meenemen in het volgende potje scrabble

[Old Swartly]

Veel succes (een scrabblebord is 15 tekens lang)

[SpiceWorm]

Ze willen wel algoritmes om computers te scannen, maar de kamer heeft afgelopen dinsdag een onafhankelijk onderzoek naar ritueel misbruik in Nederland geblokkeerd.

Dus wel surveillance, maar geen acties op daadwerkelijke misbruikers. Groepen die ritueel misbruik bezigen zijn de grootste kinderporno producenten.

Terwijl de slachtoffers van ritueel misbruik aangeven dat er daders rondlopen bij het ministerie van justitie en aangeven niet te willen getuigen voor een commissie die opgesteld is door de minster van justitie met leden van het ministerie van justitie.

Het gros van de 2e kamer vind het dus prima om een organisatie waarvan sommige leden beschuldigd worden van ritueel misbruik, het onderzoek te laten doen naar ritueel misbruik.

Als slachtoffers niet met deze commissie willen spreken, dan is het onderzoek gedoemd te mislukken en gaat het onderwerp de doofpot in.

Filmpje waar Gideon van Meijeren het scherp uitlegt: https://youtu.be/JXJQ-Zl9DdA

[Reactie gewijzigd door SpiceWorm op 22 juli 2024 20:07]

[SannrHerr]

Grapperhaus wil kindermisbruik aanpakken, maar dwarsboomt tegelijkertijd bepaalde onderzoeken... 🤔

[Craftynl]

maar dwarsboomt tegelijkertijd bepaalde onderzoeken... 🤔

vertel

[Gast Gebruiker]

Hij hint hier waarschijnlijk naar Joris Demmink

[SpiceWorm]

De kamer en grapperhaus willen geen onderzoek naar ritueel misbruik wat onafhankelijk is van het ministerie van justitie.

Terwijl de slachtoffers van ritueel misbruik regelmatig ambtenaren bij het ministerie van justitie beschuldigen (ik ken iemand die dit mee heeft gemaakt en ook een hoge ambtenaar daar beschuldigd).

Een beetje alsof je iemand die beschuldigd wordt van een moord, zelf die moord laat onderzoeken.

https://youtu.be/JXJQ-Zl9DdA

[Craftynl]

Heeft diegene ook een zaak aangespannen tegen die persoon?

[SpiceWorm]

Nee er is geen aangifte gedaan. Het journalistieke programma argos van de VPRO heeft boven water gekregen dat afgelopen 10 jaar alle aangiften met rituele kenmerken door de LEBZ (Landelijke eenheid bijzondere zedenzaken, een politiecommissie) worden afgekeurd. Dat wil zeggen dat de recherche geen onderzoek mag doen. Dus geen bewijzen verzamelen, geen verhoor, ze mogen geen mensen in de gaten houden.

Dus zo'n aangifte is zinloos, en is ook onveilig aangezien ze weten dat er daders rondlopen bij het ministerie van justitie. Dus mogelijk zijn er gevolgen van aangifte doen, "lekt het uit" en komen leden van zo'n netwerk nog even bij je thuis langs om je duidelijk te maken dat je je mond moet houden. Bedreigingen van leden van zo'n netwerk is helaas wel de realiteit voor nogal wat slachtoffers.

[ben2513]

Er zit wel nog een degelijk verschil tussen Europa en de Europese Unie. Europa aan zich kan geen interesse tonen, tenzij het werkelijk gaat om alle landen. Echter zijn er ook best veel Europese landen die geen lidstaat zijn van de Europese Unie, dus van Europa te spreken kan in dit geval niet. Het best even aanpassen naar EU

[robvanwijk]

Van de ene kant ben ik het helemaal met je eens, maar ik ben bang dat we dat niet meer gaan winnen. Net zoals "Amerika" wordt gebruikt als synoniem voor één land (terwijl het eigenlijk twee continenten zijn), is "Europa" synoniem geworden voor "de EU". En, in alle eerlijkheid, dat is lang niet zo raar als jij het laat klinken. Het aantal Europese landen ^*) dat niet bij de EU hoort ^**) en groot genoeg is om relevant te zijn ^***) is erg beperkt: Wit-Rusland, Oekraïne, een groot deel van ex-Joegoslavië en Albanië... oh enne, dat rare eiland in de Noordzee.

*) Het is afhankelijk van welke definitie je precies gebruikt: tellen Rusland, Kazachstan, de landen op de Kaukasus en Turkije wel of niet mee als "Europees"?
**) Gebruik je de strikte definitie van "lidmaatschap" of tel je de EER (landen zoals Noorwegen en Zwitserland) ook mee als bijna-lidstaten, omdat ze er dusdanig dicht tegenaan zitten dat ze in veel situaties ontzettend op echte lidstaten lijken?
***) Met excuses aan Andorra, Liechtenstein, Monaco, San Marino en Vaticaan Stad voor de ietwat botte woordkeuze.
****) Zoals CGPGrey ooit zei over de EU: "it's asterisks all the way down"

[Sircuri]

Begrijp ik nu goed dat een private organisatie toegang krijgt tot een databank aan kindermisbruik plaatjes om daar zelf hashes van te kunnen maken?