Rekenkamer: 6 van 9 onderzochte overheidsalgoritmen voldoen niet aan basiseisen

De Algemene Rekenkamer zegt dat zes van negen onderzochte overheidsalgoritmen niet voldoen aan de basiseisen en middelgrote tot grote risico's bevatten. De Rekenkamer is vooral kritisch over algoritmen van de politie, en algoritmen die ID-bewijzen en vreemdelingen controleren.

De Algemene Rekenkamer heeft een toetsingskader opgesteld met twaalf punten, waarmee de instantie oordeelde of overheden genoeg maatregelen hebben getroffen om risico's bij algoritmen te beperken. Het gaat onder meer om hoe er naar verantwoordelijkheid is gekeken, hoe het algoritme wordt gemonitord en wat het privacybeleid is rondom het algoritme.

Van de negen onderzochte algoritmen voldoen alleen die van het Centraal Bureau Rijvaardigheidsbewijzen, het Centraal Justitieel Incassobureau en het Inlichtingenbureau aan het toetsingskader. Deze algoritmen bevatten daarom alleen kleine risico's.

Over het algoritme van de politie dat voorspelt waar en wanneer het risico op incidenten groot is, is de Algemene Rekenkamer het meest kritisch. Dit voldoet aan geen van de gestelde eisen. Een algoritme van de Rijksdienst voor Identiteitsgegevens dat de kwaliteit van identiteitsbewijsfoto's beoordeelt, wordt op slechts twee punten goed genoeg bevonden, net als een algoritme van het directoraat-generaal Migratie dat in persoonsgegevens van vreemdelingen zoekt of iemand al eerder in Nederland is geregistreerd.

Onduidelijk wie aanspreekbaar is

De Rekenkamer zegt over deze laatste twee algoritmen dat de ontwikkeling en het beheer zijn uitbesteed, maar dat niet is afgesproken wie waarvoor aanspreekbaar is. De Rijksdienst van Identiteitsgevens kan bijvoorbeeld niet zelf nagaan of het algoritme de kwaliteit van pasfoto's juist controleert, stelt de Rekenkamer. Dit zou discriminatie in de hand kunnen werken. Deze Rijksdienst voert daarnaast geen gegevensbeschermingseffectbeoordeling uit. Bij het algoritme van de politie is er weer geen controle op mogelijke vooringenomenheid, schrijft de Rekenkamer.

Bij alle zes de algoritmen die niet aan de basiseisen voldoen, ontbreekt inzicht in welke medewerkers toegang hebben tot data en het algoritme. Dit speelt volgens de Rekenkamer vooral een rol bij de algoritmen die beoordelen wie aow- en huurtoeslag- en tvl-aanvragen beoordeelt. Tvl is de tegemoetkoming vaste lasten en was bedoeld voor ondernemers die door de coronamaatregelen met omzetverlies te maken kregen.

Reacties staatssecretaris en politie

Staatssecretaris Digitalisering Alexandra van Huffelen zegt met de departementen van de zes algoritmen 'aan het werk' te gaan 'om de tekortkomingen aan te passen'. Van Huffelen erkent dat dit tijd gaat kosten. Ze heeft experts van de departementen gevraagd of het verantwoord is om de zes algoritmen te blijven gebruiken. Functionarissen van deze overheidsonderdelen zeggen van wel, 'door genomen maatregelen'.

Tegelijkertijd zegt de politie in een reactie het niet eens te zijn met het door de Rekenkamer gehanteerde toetsingskader. De politie zegt dat haar algoritme niet wordt gebruikt tegen individuele burgers, maar voor de verwachtingen van criminaliteit in bijvoorbeeld woonwijken. Daarom valt het algoritme van de politie niet onder de regels van de AVG, maar onder de regels van de Wet politiegegevens, stelt ze. Volgens de politie zijn er daarom alleen kleine risico's verbonden aan haar algoritme en geen middelgrote tot grote, zoals de Algemene Rekenkamer meldt. De Rekenkamer noemt deze reactie 'zorgelijk'.

Algemene Rekenkamer over overheidsalgoritmes

Door Hayte Hugo

Redacteur

18-05-2022 • 15:11

72

Reacties (72)

Sorteer op:

Weergave:

Tegelijkertijd zegt de politie in een reactie het niet eens te zijn met het door de Rekenkamer gehanteerde toetsingskader. De politie zegt dat haar algoritme niet wordt gebruikt tegen individuele burgers, maar voor de verwachtingen van criminaliteit in bijvoorbeeld woonwijken.
Gezien mensen in Nederland niet op willekeurige locaties wonen, zet dit alsnog de deur open voor vooringenomenheid en discriminatie. Dat ze niet op individueel niveau werken doet daar niets aan af. Dit excuus van de politie is een beetje een zwaktebod, en toont aan dat zij de situatie niet begrijpen of bagatelliseren (waarbij ik niet weet wat erger is).

[Reactie gewijzigd door The Zep Man op 22 juli 2024 18:22]

Wat is je alternatief?

Ik woon in een gat waar praktisch nooit wat gebeurd. Achterdeuren die niet op slot gaan. Moet de capaciteit van de politie hier dan net zo hoog ingezet worden als een Holtenbroek in Zwolle?

Of 'offereren' wij hier wat capaciteit op door het elders meer in te kunnen zetten? Zodat de mensen in de wat ... criminelere wijken... ook meer kans hebben om te mogen genieten van een veilige omgeving?

Dat gezeur om de aanpak van de politie met het profileren, benadeeld vooral de mensen waar het voor wordt opgenomen.
Wat is je alternatief?
Goed je algoritmes laten toetsen en beter ontwikkelen, en alternatieven op algoritmes verzinnen.

Voor de politie heiligt het doel niet de middelen. Dat het niet goed gaat houdt niet in dat je maar op foute voet door moet gaan. De overheid heeft een voorbeeldfunctie, en dat geldt dus ook voor de politie.

Verder zet je enkele stellingen over jouw 'gat' als feiten neer, maar zonder gedegen onderzoek kan je daar niets over zeggen. Hoe veilig zich men waant hoeft niets te maken te hebben met hoe veilig men is.

Vooringenomenheid en discriminatie zorgen ook voor criminaliteit. Als men behandeld wordt als crimineel, dan gaat men zich daar uiteindelijk ook naar gedragen.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 18:22]

Je hebt gelijk dat je veilig wanen en echt veilig zijn 2 verschillende dingen zijn. Ik benoemde om meerdere redenen Holtenbroek in Zwolle, ik ben er goed bekend en de Zwolse politie heeft enkele jaren geleden nog vrolijk laten weten dat ze door gaan met b.v. statistisch (etnisch bij velen) profileren.

In verhouding met het gat waar ik woon, zit er een enorm verschil in namelijk. Zowel veilig wanen als wel daadwerkelijk veilig zijn.

Ik ken best wat mensen die de dupe zijn geworden van hun criminele kutomgeving waar ze in opgegroeid zijn. En dat komt echt niet omdat ze zich "als crimineel behandeld" voelen door inzet van de politie. Politie inzet is namelijk een gevolg, niet de oorzaak.

We moeten maatschappelijk ons eens wat meer zorgen gaan maken om oorzaak. Want er is zonder oorzaak, geen gevolg. De oorzaak is voornamelijk criminele kutomgeving en daar geen uitweg uit zien/krijgen/vinden.

We hebben als maatschappij de criminele kutomgevingen genaamd "woonwagenkampen" uit de jaren 80-90 ook behoorlijk weten op te lossen. Niet alleen door meer politie inzet, maar ook door de mensen wat meer te verspreiden door de maatschappij. De vicieuze cirkel van verpaupering doorbreken. Daar hebben we als maatschappij niet alleen kansen geboden, er is kei en keihard ingegrepen. Tot ME pelotons die met regelmaat de kampen binnen kwamen vallen.

n=1, maar ik heb een beetje het gevoel dat we de criminele kutomgevingen, waar voornamelijk veel allochtonen wonen.... Een beetje losgelaten hebben en in hun sop gaar laten koken. "Het is hun schuld niet" "zielig" "konden geen stageplaatsen krijgen".

We laten die mensen als maatschappij in de steek, want stel je voor dat je "etnisch profileert" of andere maatregelen treft die maatschappelijke ophef zouden kunnen veroorzaken.

Dat een goedwillende Surinamer(voorbeeld ivm Typhoon incidentje) vaker staande gehouden wordt, is niet de schuld van die dekselse maatschappij, de politie, de boze blanke man. Het is de schuld van een oververtegenwoordigde hoeveelheid Surinamers die in de criminaliteit belanden. Daarmee leg ik niet de schuld bij Surinamers, het is namelijk een maatschappelijk probleem met meerdere oorzaken.

Want door het een beetje los te laten, hebben we nu in Nederland toch best een paar ghetto's weten te maken. Dan kan de (lokale gelijkwaardige) Rova wel dagelijks de bende opruimen, graffiti weghalen en de woningbouw zich druk maken om verpaupering van de woningen tegen te gaan. Je kan een drol blijven polijsten, het blijft een drolik voel dat het discriminerend opgevat kan worden in deze discussie, niet mijn bedoeling.

Ik gun de kinderen die in zulke wijken opgroeien een waardige toekomst, ik gun de mensen die door omstandigheden in zulke wijken terecht komen, een uitweg of tenminste een veilige en goede omgeving.

Als wederom blijkt dat een aanpak die maatschappelijk scheve ogen geeft, wel een positieve uitwerking heeft. In dit geval de algoritmes die kunnen zorgen voor efficiëntere politie inzet (want die is gewoon erg beperkt). Dan waarom niet? Het alternatief is in dit geval namelijk dat onschuldige welwillende mensen de pineut zijn.
Dat een goedwillende Surinamer(voorbeeld ivm Typhoon incidentje) vaker staande gehouden wordt, is niet de schuld van die dekselse maatschappij, de politie, de boze blanke man. Het is de schuld van een oververtegenwoordigde hoeveelheid Surinamers die in de criminaliteit belanden.
Iedereen moet onafhankelijk van geaardheid, geslacht of uiterlijke kenmerken gelijk zijn voor de wet. Dat is een belangrijk rechtsprincipe omdat mensen niets aan deze kenmerken kunnen veranderen mogen ze ook niet aangesproken worden op basis van deze kenmerken. Gedragingen zijn strafbaar en dus moet op gedragingen worden gelet en niet op zaken die niet strafbaar zijn.
Want door het een beetje los te laten, hebben we nu in Nederland toch best een paar ghetto's weten te maken.
De verpaupering komt doordat het land overspoeld wordt met drugs en het huidig drugsbeleid faalt en niet omdat "ethnish profilering een beetje is losgelaten". Zo groot is dat effect helemaal niet. Bovendien is al vaak genoeg aangetoond dat ethnisch profileren een wij-zij klimaat bevorderd waardoor mensen met een kleur de politie minder gaan vertrouwen, terwijl je voor effectief politiewerk afhangt van voldoende getuigen en tips, en die krijg je alleen als de mensen vertrouwen hebben in het politieapparaat.
Niet op basis van etniciteit, maar is het dan wel verboden om je te focussen op gebieden? Simpelweg omdat daar meer criminaliteit voorkomt? Dan kan je etniciteit volledig buiten beeld laten. Dat er vervolgens alsnog, mogelijk, veel van een bepaalde bevolkingsgroep wonen is dan toeval. Dat moet toch wel kunnen lijkt me? Als politie moet je uiteindelijk iets, je kan prima iedereen hetzelfde behandelen, maar wel beter opletten in bepaalde gebieden.

[Reactie gewijzigd door vgroenewold op 22 juli 2024 18:22]

Dat ze allemaal in dezelfde wijken wonen is natuurlijk ook letterlijk niet hun schuld he? Nederland heeft decennia lang allochtonen alleen in bepaalde wijken laten wonen. Daar kwam dan een mix van laag-opgeleide werkenden die hierheen zijn gehaald om voor bedrijven arbeidskrachten te leveren die ze konden uitbuiten (geen vrolijke mensen dus) en vluchtelingen die door falend integratiebeleid en breed racisme in de samenleving weinig kans hadden op de arbeidsmarkt ongeacht hun opleidingsniveau.

Dat wil niet zeggen dat je daar de politie niet mag concentreren (daar ben ik het volledig met je eens) maar we moeten die mensen ook veel meer kansen geven om wel iets legaals te doen, want dat de situatie in die wijken zo is, is ook gewoon voor een groot deel een gevolg van beleid en het is niet rechtvaardig te verwachten dat ze het maar zelf oplossen. Je zegt tegen Groningers ook niet dat ze hun aardbevingsschade maar zelf moeten oplossen terwijl je er massaal de ME naar toe stuurt om te voorkomen dat de rellen uit de hand lopen.
Het idee dat de achtergestelde positie van de allochtonen door discriminatie komt is compleet bezijden de waarheid.

In diverse westerse landen zou je, indien je op afkomst zou rangschikken relatief aan inkomen, zien dat Chinezen en bijvoorbeeld ook de Indiase gemeenschap de inheemse bevolking in sociaal-economisch opzicht voorbij zijn gestreefd. We kunnen aan deze beide groepen zien dat ze 'niet van hier' zijn en er zijn ook legio voorbeelden van hoe ze als buitenstaanders werden en nog steeds worden gezien.

Dit belet hun succes niet en ondanks dat ze met respectloze bejegening te maken krijgen worden ze ook niet crimineel.

De ene groep immigranten is gewoon beter op z'n plek hier dan de andere. Moeten wij ons daarom aanpassen? Of moeten we gewoon accepteren dat elke maatschappij winnaars en verliezers heeft en dat daar uiteindelijk niet zo gek veel aan te doen is, vooral omdat veel van de voorgestelde ingrepen helemaal niet blijken te werken?
Die groepen zijn in het beginsel niet met elkaar te vergelijken omdat wij heel verschillende eisen stelden. Mensen uit India, China en de meeste andere aziatische landen komen hier zonder zeer hoge opleiding praktisch niet binnen en worden hier gehaald door bedrijven die specialistische kennis willen binnenhalen of gaan hier studeren omdat hun ouders voor lokale begrippen rijk zijn of ze op basis van hun prestaties een beurs hebben weten te bemachtigen. Dat terwijl de groepen die hier nog steeds achtergesteld zijn als goedkope arbeiders zijn geimporteerd en masse. Wat jij nu in feite doet is een kleine groep HBO/WO-opgeleide Indiers en Chineze af te zetten tegen een enorme groep niet of laag opgeleide mensen uit Marokko of Indonesie en dat is natuurlijk appels met peren vergelijken.

Uiteindelijk zijn er een groot aantal invloeden die uitkomsten verklaren en ontkennen dat discriminatie (door de samenleving en de staat) daar een rol in spelen is op zijn minst naief te noemen. En vervolgens de conclusie trekken dat gewoon maar verder discrimineren omdat discriminatie geen invloed heeft is ronduit kwaadaardig.

[Reactie gewijzigd door Darkstriker op 22 juli 2024 18:22]

Blijkbaar geloof jij dat de uitkomsten in iemands leven hoofdzakelijk worden bepaald door omgevingsfactoren ipv. iemands aard.

Ik niet.

Jij bekijkt de mens zoals Franz Boas en Stephen Jay Gould de mens bekeken: grotendeels als product van de omgeving. Ik bekijk de mens als grotendeels een product van diens aanleg. En die aanleg is het resultaat van duizenden jaren selectiedruk die bepaalt welke mensen het beste waren om in de omgeving waarin hun volk leefde, met succes nageslacht op de wereld te zetten, in leven te houden, en voor te bereiden op het vergaren van resources voor hun nageslacht.

Volkeren verschillen van elkaar qua doorsnee temperament (en verschillen in cultuur zijn hier weer een gevolg van, cultuur is het aggregaat van generatie na generatie als collectief opereren van groepen mensen met bepaalde doorsnee eigenschappen, die weer voor een belangrijk deel door genetische verwantschap worden gedreven) en kunnen een goede of minder goede match vormen met andere volkeren, net zoals individuen in meer of mindere mate een klik met elkaar hebben.

Het is onvermijdelijk dat volkeren die qua doorsnee temperament verder uit elkaar liggen, minder goed mixen net zoals het onvermijdelijk is dat een zeer introverte vrouw en zeer extraverte man minder snel een succesvol huwelijk zullen hebben.

Beweren dat het onze schuld is dat de Marokkaanse en Turkse gemeenschap (bijvoorbeeld) hier minder goed functioneren dan de Chinese gemeenschap, snijdt net zo weinig hout als dat je een extravert iemand de schuld geeft dat z'n huwelijk met een vrouw die juist introvert is, op een scheiding is uitgedraaid.

Dat maakt geen van beide huwelijkspartners minder menselijk of intrinsiek minder waardevol. De verschillen leverden gewoon issues op. Als je probeert om dat met allerlei kunstgrepen ongedaan te maken dan ben je jezelf aan het verloochenen. Is dát dan dat je wil?

Moeten wij onze manier van leven aanpassen op een manier zodat onze eigen maatschappij minder goed bij onze volksaard past, alleen om mensen wiens voorouders van buitenaf kwamen, te faciliteren?

En zo ja, hoe ver wil je daarin gaan?

Ik ben er van overtuigd dat we dat niet eens kúnnen. Hoe jammer ook.

[Reactie gewijzigd door HTPeter op 22 juli 2024 18:22]

Het verschil is, wat jij doet is geloof en terwijl het gewicht van omstandigheden gewoon wetenschappelijk aangetoond is. Daarvoor hoef ik helemaal niks te geloven.

Het wordt ook allemaal getoond door die ongefundeerde vermoedens die jij vervolgens de wereld inslingerd. Cultuur als gevolg van genetica/evolutie zonder enige invloed uit geschiedenis en omstandigheden is lachwekkend.

Wat het voor mij vooral toont is dat jij weinig tot geen contact met mensen van andere culturen hebt. Dat is jammer, maar gezien de vooroordelen die je hier vertoont niet echt gek.

Dat wil niet zeggen dat wij ons alsmaar moeten aanpassen. Integendeel. Maar het kan niet zo zijn dat wij historisch onrecht waar autochtone mensen enorm van hebben geprofiteerd (vooral in financiele zin) van tafel mogen vegen. We moeten zeker eisen dat zij zich richten naar onze cultuur, maar daar moet je dan ook de kans voor bieden. En dat doe je niet door ze in ghettos te plaatsen (toen op last van de overheid, nu op verkapte wijze dmv van capitalisme) en alsmaar de blanke man (in vorm van politie) als vijand te tonen.

En er zijn tal van kansen om dit wel beter te doen.
Wat je hier zegt is een ernstige misvatting. De onderbouwing van 'nurture' boven 'nature' is bizar zwak, en de enige reden dat die kant van het debat het meest invloedrijk is, is omdat wij mensen van nature op zoek zijn naar aanknopingspunten om onszelf ervan te kunnen overtuigen dat wij ons eigen lot in handen hebben. Komt nog eens bij dat je omgeving grotendeels een product is van mensen waar je ook etnisch mee verwant bent, dus dat staat niet los van genetica maar is er, via een omweg, zélf een product van.

Van tweelingonderzoeken tot en met het falen van een breed uitgevoerd programma om achterstanden weg te werken genaamd 'Headstart' in de VS (gevolg: stijgende IQ-scores op jonge leeftijd, die echter stagneerden in hun tienerjaren en geen blijvend effect lieten zien, wel hadden de kinderen die meededen wat betere uitkomsten op gebied van criminaliteit, tienerzwangerschappen, etc.) er is gewoon overweldigend bewijs dat vooral aanleg bepaalt hoe ver je kunt komen. Iemands potentieel verkwanselen is simpel (overdreven maar duidelijk voorbeeld: kind van 2 geleerden wordt door wolven opgevoed na gestrand te zijn in de jungle) maar méér eruit persen dan erin zit is gewoon níet mogelijk gebleken.

De beste voorspellende factoren voor de uitkomst in het leven zijn IQ en je score op de persoonlijkheidstrek 'conscienciousness'. Dat laatste is zelfs het sterkste causale verband dat in de menswetenschappen te vinden is. IQ is 80% genetisch bepaald, persoonlijkheid 50% - en dat laatste vooral omdat de rest voor een groot deel om pseudo-erfelijkheid gaat, dwz. je erft van beide ouders hun halve genoom maar hun persoonlijkheidskenmerken waarvoor je de genetische predispositie NIET erft, geven ze je alsnog voor een deel mee tijdens de opvoeding.

Het idee dat onze uitkomst in het leven voor het grootste gedeelte wordt gestuurd door aangeboren eigenschappen, is voor een aanzienlijk deel van de mensen, door alle lagen van de bevolking, extreem beangstigend. En voor beleidsmakers en academici niet slechts beangstigend maar ondermijnend t.o.v. de rol die zij in de maatschappij willen vervullen. Als de samenleving namelijk niet maakbaar blijkt omdat je de aard van de mens niet kunt sturen, dan zijn allemaal die dingen waar de politiek stemmen mee scoort, ineens als een kaartenhuis of een misbakken cake ineen gestort en hebben al die academici zich hun hele loopbaan met het najagen van spoken beziggehouden. Enig idee hoe enorm de incentive is om dat soort dingen níet onder ogen te willen komen?

De reden dat Boas en Gould (en hun ideologische voorvader Rousseau) en geestverwanten zo'n grote aanhang hebben, is dezelfde als de reden dat Joel Osteen en Teal Swan en al die andere prosperity-guru's zo'n grote aanhang hebben: mensen WILLEN het idee hebben dat ze over vrijwel onbegrensd potentieel beschikken en hun eigen lot kunnen bestemmen ipv. het binnen een beperkte bandbreedte te moeten doen met de set kaarten die hen bij hun geboorte is uitgedeeld. Ze worden liever keihard voorgelogen dan dat ze de (voor hen beangstigende) realiteit onder ogen komen. Maakt dat dat Joel Osteen en Teal Swan ineens legitieme autoriteitsfiguren zijn? Nee, ze komen gewoon met een verhaal waar mensen in trappen.

Je post leest weg als iemand die zich alle talking points van progressief-activistische intellectuelen en opiniemakers heeft geïnternaliseerd en die zich zeer ongemakkelijk voelt wanneer iemand 'm een maatschappijbeeld voorhoudt dat, indien waar, jouw hele maatschappijbeeld op z'n kop zet. En dat is heel beangstigend. Dit is overigens geen verwijt, je bent simpelweg voor de gek gehouden, en zelfs een verder rationeel denkend iemand is volslagen kansloos tegenover ad nauseam aan een barrage van onzin te worden blootgesteld, óf je moet van nature een contrariër zijn. En ik ben absoluut een contrariër - mentaal stabiel (lage score op neuroticiteit, dwz. ik ervaar negatieve emotie slechts in zeer geringe mate) maar ook ongevoelig voor groepsdruk (lage score op agreeableness) + extravert.

En wat betreft mijn 'gebrek aan ervaring' met buitenlanders. Zoek eens op welk percentage niet-westerse allochtonen in postcodegebied 5932 wonen. Het idee dat ik geen ervaring heb met allochtonen en daarom zo denk, is echt te bizar voor woorden. Ik zal je de cijfers (die door de website Allochtonenmeter gewoon direct uit de database van het CBS worden gemined) even geven: 37,4% allochtoon. 15.9 westers (vooral Polen en halve Duitsers, wijk ligt letterlijk tegen de grens met Duitsland, van de generatie van m'n ouders heeft hier in de omgeving misschien wel 1 op de 5 een Duitse vader of moeder) en 21.5% niet-westers.

Kun je je voorstellen dat juist mijn eigen ervaring mijn beeld mede gevormd heeft? Moet je je voorstellen dat je bijna als enige van je klas echt goed kon leren, en je 8 jaar lang staande moet houden tussen straatschoffies (zowel buitenlanders als marginalen van eigen bodem) als studiebol zijnde. Ik heb geen leuke jeugd gehad buiten mijn familie en vrienden (die niet van m'n school afkomstig waren, maar kinderen uit de vriendenkring van m'n ouders) om, omdat ik in een kutbuurt ben opgegroeid als 1 van de weinigen met een middenklasse-achtergrond.

Verder lijk je, los van dat je met onzinnige aannames over mij als persoon komt, te denken dat gebrek aan ervaring met allochtonen een gebrek aan sympathie oplevert. In realiteit is het juist andersom. Partijen zoals GroenLinks en D66, die kosmopolitisch tegen burgerschap aan kijken, hebben de meeste steun in overwegend blanke middenklasse-buurten terwijl de PVV het beste scoort in volksbuurten, waar relatief wél veel allochtonen wonen - die op hun beurt, puur uit een cynische vorm van eigenbelang nastreven, vaak weer op progressieve partijen stemmen wiens ideologie ze helemaal niet delen, maar wiens beleid ze in hun voordeel inschatten.

Je suggereert dus een verband dat er in werkelijkheid helemaal niet is, maar juist omgekeerd. Weer een voorbeeld van hoe ratio overboord gaat waneer de emoties hoog op spelen.

[Reactie gewijzigd door HTPeter op 22 juli 2024 18:22]

Maar dat hoeft niet op basis van "algoritmen" te gebeuren; politie-inzet kun je baseren op de hoeveelheid incidenten in een buurt, dat kan blind en op basis van pure statistieken. Of denk ik nu te makkelijk?

Ik bedoel het is bekend dat er in bijv. centraal Amsterdam vele incidenten zijn vanwege de vele dronken toeristen, daar is geen algoritme voor nodig.

iig, ik denk niet dat wat je beschrijft het probleem is, het gaat eerder om bijvoorbeeld een risicoprofiel opstellen bij een aanvraag voor kinderbijslag of zorgtoeslag, om maar een voorbeeld te noemen. Wat zou jij meenemen om in te schatten hoe hoog de kans op fraude is? Of om te bepalen of er wat meer onderzoek nodig is? Welke factoren zou jij daarin meenemen?
Het punt hierbij ook is dat het zichzelf versterkt:

* in een wijk is relatief veel criminaliteit
* op deze locatie gaat de politie vaker kijken
* hierdoor komen er meer meldingen van criminaliteit in deze wijk
* de wijk wordt aangemerkt als een hoge-criminaliteitslocatie

Daarnaast speelt nog het volgende effect

* in een wijk is relatief veel criminaliteit
* politie gaat met een zekere bias/vooringenomenheid naar de wijk
* politie zal sneller mensen aanspreken/lastig vallen
* mensen vertrouwen de politie minder
* meer criminaliteit


Je moet ongelooflijk zorgvuldig zijn dat je niet slecht gedrag in de hand werkt door selectief te patrouilleren op basis van statistieken/algoritmen, ook al zijn/lijken deze objectief.
Heb je hier een bron van? Meer politie in een wijk zorgt voor een lager criminaliteit namelijk…
Heb je hier een bron van? :)

De laatste trend is volgens mij dat er minder criminaliteit op straat plaats vindt en meer online, al zal corona daar wel iets in de melk te brokkelen hebben gehad.
Iets?

Als we allemaal massaal thuisblijven dan stort het inbraakcijfer natuurlijk in.
Als we niet meer op stap gaan slaan we elkaar ook amper nog op het stadsplein het hoofd in.
Als je naar de open data van de politie kijkt kan je niet perse zeggen dat corona zorgt dat "de criminaliteit" is gedaald. Zo daalde het aantal vermogensdelicten bijvoorbeeld sterk van 108.949 naar 68.587 tussen 2016 en 2021, terwijl dat niet op straat gebeurd. Daar tegenover steeg het aantal mensen onder invloed op de weg van 26.057 naar 31.605 terwijl je zou denken dat als men niet uit kan gaan, er ook geen reden is om dronken achter het stuur te stappen.
LOL, volgende keer even beter je statistieken lezen ;)

Jij hebt het over overige vermogensdelicten, dingen als inbraak, straatroof, autodiefstal etc.. staan allemaal los vermeld en dat zijn ook allemaal vermogensdelicten.

Het veranderd leefpatroon van de burger heeft natuurlijk ook invloed op criminaliteit. Een periode van veel strengere grenscontroles zorgt voor minder autodiefstal. En wat rijden onder invloed betreft zo'n cijfer moet je ook houden tegen of er een verandering was in de hoeveelheid blaastesten. Dingen als Woninginbraak, mishandeling, overval, straatroof en zakkenrollerij hebben de sterkste absolute en procentuele daling laten zien sinds jaren.

Daarbij zeg ik ook niet dat de misdaad is gedaald, andere misdaden zit een stijging in. We waren vaker thuis en we dronken dus ook vaker in huiselijke kring omdat de kroeg dicht was, dan stijgt huiselijk geweld natuurlijk.

[Reactie gewijzigd door Groningerkoek op 22 juli 2024 18:22]

Hier bijvoorbeeld: https://www.washingtonpos...-justice-system/#Policing

Waar het om gaat is dat als er in een wijk meer criminaliteit is, je als politie ook eerder geneigd bent om net een stapje verder te kijken, ook als er niet direct aanleiding voor is. @peewee. verwoordt het goed: peewee. in 'Rekenkamer: 6 van 9 onderzochte overheidsalgoritmen voldoen niet aan basiseisen'

Nu gaat bovenstaand artikel gaat over de VS. In Nederland is het niet zo erg gesteld als daar, maar de verschijnselen zijn hetzelfde
Zou ik zelf wel prettig vinden als er veel criminaliteit gebeurt in mijn wijk. Meer politie ook.
Heb jij een bron voor jouw stelling?
Lagere aangiftes of lagere criminaliteit? Dat zijn nml. verschillende dingen.
Je doet in ieder geval een tweetal bijzondere aannames die ik graag onderbouwd zie worden, namelijk:

Politie komt vaker kijken > Meer meldingen van criminaliteit
Mensen vertrouwen politie minder > Meer criminaliteit

Ik zie de correlatie niet en dat is volgens mij ook juist 1 van de grootste problemen.
Politie komt vaker kijken > Meer meldingen van criminaliteit
Mensen vertrouwen politie minder > Meer criminaliteit

Ik zie de correlatie niet en dat is volgens mij ook juist 1 van de grootste problemen.
Ik kan me bij beiden wel wat voorstellen.

Als je meer gaat letten op een bepaalde plek zul je daar ook meer aantreffen. Dat wil niet zeggen dat er meer criminaliteit is maar het zal wel meer worden gedocumenteerd.

Als mensen de politie minder vertrouwen zijn ze minder snel geneigd iets te melden. wanneer mensen de politie minder vertrouwen dan de lokale criminele bende, en dat komt voor, dan zijn de rapen gaar. Niemand wil meer met de politie praten en dus is er meer ruimte om crimineel te handelen. Immers is het wat makkelijker openbaar te dealen of spullen te jatten als men weet dat de getuigen toch niet met de politie willen/durven praten.
Nou das echt op zijn Elfjes.
Waarom kan ik niet gewoon zeggen: een straat met 20 huizen, 3 ervan zijn nu bewoond door statushouders, 1 grote bende, regelmatig politie in de straat door overlast, maar je mag dat niet benoemen want discrimatie. Vreselijk die goedpraters.
Tsja, (supervised) machine learning is in feite gewoon toegepaste statistiek. Je gebruikt in Python nogal eens de zelfde soort libraries.
Ik denk dat er een flink verschil is tussen een algoritme die achter je naam zet "fraudeur" versus een pure statistiek die aangeeft dat de persoon in kwestie op kenmerk x, y en z de scores A, B en C heeft en daarmee in de P95 valt van weet ik veel wat. In het 2e geval moet namelijk iemand nog nadenken of de gegevens die er staan
a) relevant zijn
b) moeten leiden tot een bepaalde actie

Bij de eerste oplossing geef je de bestuurder geen informatie en kun je net zo goed een aap neerzetten om het werk te doen. De hamvraag is: wie mag er conclusies trekken: de programmeur/trainer van het algoritme die mijlenver staat van de toepassing of de persoon achter de balie die de afweging ter plaatse moet maken.
Maar dat hoeft niet op basis van "algoritmen" te gebeuren; politie-inzet kun je baseren op de hoeveelheid incidenten in een buurt, dat kan blind en op basis van pure statistieken. Of denk ik nu te makkelijk?
Als de politie deze incidenten constateert leidt het inzetten van meer politie tot het constateren van meer incidenten: je hebt potentieel een zelf-versterkend effect.
Maar dat hoeft niet op basis van "algoritmen" te gebeuren; politie-inzet kun je baseren op de hoeveelheid incidenten in een buurt, dat kan blind en op basis van pure statistieken. Of denk ik nu te makkelijk?
Je beschrijft hier exact de werking van een "algoritme". Een beschrijving van een aantal acties aan de hand van vastgestelde feiten.
if (incidents > avg(all_incidents)) patrols += 1;
Is al een algoritme. De daadwerkelijke gebruikte algoritmes zullen veel complexer zijn in de hoeveelheid data die ze tot hun beschikking hebben en zullen naar verloop van tijd bijgesteld worden aan de hand van nieuwe waarnemingen.

Hoewel feedback loops een risico zijn wanneer er uitsluitend gestuurd wordt op de uitkomst van een algoritme neemt het niet weg dat de gegeven indicatie (want ja voorspellende statistiek betreft indicaties en trends, niet feiten) een nuttig middel is om efficiënter gebruik te kunnen maken van beperkte middelen.

Zolang je dus regelmatig de bron data controleert en periodiek een random actie uitvoert om bias tegen te gaan kan dit dus een perfecte toevoeging zijn om kosten te drukken op werk wat normaal vrij kostbaar is.
Maar dat hoeft niet op basis van "algoritmen" te gebeuren; politie-inzet kun je baseren op de hoeveelheid incidenten in een buurt, dat kan blind en op basis van pure statistieken.
Het baseren op de hoeveelheid incidenten in een buurt, blind en op basis van pure statistieken is juist een algoritme. Daarbij maakt niet uit of je dit door een mens of een computer laat berekenen.

Daarmee zijn meerdere problemen, oa:
  • hoe bepaal je wat je opneemt? M.a.w. wat is een incident?
  • hoe zorg je ervoor dat je geen registratie bias krijgt (een incident lijdt tot meer politie inzet, die vervolgens meer incidenten waarnemen?)
Het punt is natuurlijk dat de niet-criminele kinderen die opgroeien in die ...criminelere wijken... er wel hun hele leven last van gaan krijgen als de politie ze bij voorbaat gaat zien zien als crimineel. Verklaring omtrent gedrag? Extra onderzoek. 's avonds laat op straat? Extra controle. Blaastest goed doorstaan? Doe ook nog maar even je kofferbak open. En het begint al met de schoolprestaties die lager worden ingeschat dan dezelfde prestaties van het zoontje van de dokter, zeg maar. Het is gewoon belangrijk ervoor te zorgen dat iedereen zoveel mogelijk dezelfde kansen heeft in het leven, dat moet je niet eruit gaan automatiseren.
Dezelfde kansen ben ik het helemaal mee eens (niet dat iederen precies hetzelfde is overigens, dat zie je namelijk op school al zo vaak fout gaan omdat het zogenaamd zo is) en inderdaad zou de politie in dat soort gebieden niet random extra moeten controleren, dan kan je beter inzetten op voorlichting en aanpakken als er iets gebeurdt is. Maar wel duidelijk met meer inzet, dat zal haast wel moeten.
Inzet moeten ze toch baseren op het aantal incidenten, een algoritme kan nooit beter zijn hierin.
Voordat de politie werkte met algoritmes had het dorp waar jij woont ook geen 20 politie auto's. Hiervoor heb je geen algoritme nodig maar gezond verstand.

(Ik wil ook in een plek wonen waar de achterdeur open kan blijven.. )
Maar wanneer een algoritme (terecht) bepaald dat de verwachting van criminaliteit in een bepaalde woonwijk hoog is, is het dan de fout van het algoritme dat agenten hierdoor vooringenomen zijn?
Voor alle duidelijkheid; de vooringenomenheid van een agent is onwenselijk. Maar is dat te wijten aan het algoritme, of meer aan de conclusie die een aantal agenten verbinden aan de voorspelling van een algoritme?
De data die voortkomt uit het algoritme kan ook hartstikke bruikbaar zijn. Agenten zouden wel verantwoord om moeten gaan en voorzichtig zijn met conclusies trekken.
Maar wanneer een algoritme (terecht) bepaald dat de verwachting van criminaliteit in een bepaalde woonwijk hoog is, is het dan de fout van het algoritme dat agenten hierdoor vooringenomen zijn?
Met welke data wordt het algoritme gevoed? Het is niet zo gek als agenten vooringenomen zijn als hun werkt wordt bepaald door vooringenomen conclusies gebaseerd op gekleurde data.
Agenten zouden wel verantwoord om moeten gaan en voorzichtig zijn met conclusies trekken.
Agenten zijn in het beste geval gewoon mensen zoals jij en ik met een diploma op MBO niveau. Ook die maken fouten, en dat reflecteert zich weer in hoe de maatschappij kijkt naar de politie. Dat is de reden dat je ze niet onnodig in een positie moet brengen waar gegarandeerd fouten gemaakt gaan worden. Algoritmes zoals dit gaan dat doen. "Computer zegt dat hier criminaliteit zal zijn, dus ik ga preventief de mensen daar als criminelen behandelen. Je weet maar nooit...".

[Reactie gewijzigd door The Zep Man op 22 juli 2024 18:22]

Vooringenomenheid moet je proberen te voorkomen, maar discriminatie niet, dat is nl. het hele doel van het algoritme (!!)

Als er 'continu' hommeles is in wijk A, F, K en S dan is het niet zo heel gek dat je je beperkte resources gaat gebruiken om dat aan te pakken. Als dan blijkt dat door jouw inzet deze wijken minder en minder problemen opleveren dan komen ze vanzelf op hetzelfde niveau als de wijken B,C,D etc en op dat moment is meer controle niet (meer) noodzakelijk.

Als je denkt dat politie-inzet in zo'n wijk meer problemen veroorzaakt dan moet je gaan nadenken over het feit of je dan uberhaupt politie wil inzetten (!)
Dat is wel degelijk relevant. Jij gaat er namelijk ook meteen van uit dat de uitkomst het gedrag van de agenten beinvloed, niet alleen de locatie.

Het juiste argument waarom dit een probleem is, is dat het geld verspilling en inefficient is om agenten in de verkeerde wijk te laten patrouilleren.

Overigens lijkt me de bias vrij klein. Het is niet alsof het algoritme zal gaan zeggen dat ergens 0 criminaliteit is als dat evident wel zo is, en vice versa.
Er zijn natuurlijk wel een hoop mitsen en maren aan dit systeem, hoe vangt men de zelfversterkende werking op?

- Burgers zien in hun wijk meer politie, kunnen dus geneigd zijn om sneller aangifte te doen en het officiële criminaliteitscijfer neemt dus toe.
- Meer politie geeft logischerwijs meer kans op heterdaad en dus stijgt het officieel cijfer weer.

Bij gelijkblijvende criminaliteit kan het systeem een groei ontdekken waar die er eigenlijk niet is en stuurt dus steeds meer agenten naar een bepaald gebied.

In wijken met nu weinig criminaliteit kun je de werking precies andersom krijgen.
Helaas heeft de politie wel een punt. In niet elke woonwijk is de kans op onlusten even groot. De Schilderswijk in Den Haag staat bekend om zijn lichte ontvlambaarheid, terwijl de kans op onlusten in Wassenaar zeer gering is.
Zeker de Schildersbuurt is gelijk een goed voorbeeld van een wijk waar de bewoners zelf bij de laatste onlusten niet eens de belangrijkste oorzaak waren. De corona-rellen in de stadscentra van Eindhoven, Den Bosch en Rotterdam hadden niets met de bewoners te maken.
In Amerika komt het inderdaad ook veel voor. Maar daar deden ze het al voor er gecomputeriseerde algoritmes bestonden (Hoewel ik geen uitspraken durf te doen over de Nederlandse politie hieromtrent). Ik ben blij dat er enigszins serieus gekeken worden naar dit soort dingen, want in de praktijk nemen veel mensen wat deze algoritmen aanleveren gewoon voor waar aan, zonder kritische gedachte. Vooral als het overeenkomt met hetgeen zij al dachten.
Dat is niet te voorkomen. Sterker nog, discrimineren ten behoeve van (vermeende) effectiviteit en efficiëntie is het doel van deze algoritmen.

Discriminatie is mensen anders behandelen, achterstellen of uitsluiten op basis van (persoonlijke) kenmerken.

Hoe je het ook draait of keert, een effectief algoritme gaat er voor zorgen dat iemand anders behandelt wordt op basis van een of meer 'kenmerken'. Een algoritme dat dat niet doet is nutteloos.
De Rekenkamer zegt over deze laatste twee algoritmen dat de ontwikkeling en het beheer zijn uitbesteed, maar dat niet is afgesproken wie waarvoor aanspreekbaar is.
Dit is onze moderne samenleving in een notendop en de keerzijde van onze eindeloze specialisering in de kennismaatschappij. Iedereen heeft maar een piepklein stukje in beeld waardoor niemand het geheel kan overzien, laat staan er verantwoordelijkheid voor nemen.

Bij contracten voor complexe software(diensten) zie ik eigenlijk niet anders dan dat hele stukken verantwoordelijkheid worden afgewezen door de aanbieder zonder dat de afnemer zelf die verantwoordelijkheid kan nemen, door gebrek aan kennis, toegang of informatie.

De valkuil van veel projecten is de misvatting dat als je iets buiten de deur zet je zelf geen kennis meer nodig hebt en de kosten vanzelf lager worden. Dat is zelden het geval. Vaak is de kwaliteit wel hoog omdat je een specialist inhuurt maar uiteindelijk krijg je dus vaak een beter product, niet goedkoper. Als je iets buiten de deur zet om te bezuinigen dan moet je ook accepteren dat je functionaliteit en/of kwaliteit inlevert. Maar ja, als je de kennis niet hebt om dat te beoordelen lijkt het al snel een goed deal want de prijs is lager.

Dat proces werkt wel goed voor producten die je goed begrijpt, bv omdat het een uitgekristalliseerde markt is. WC papier inkopen gaat prima, iedereen heeft een redelijk begrip en van de eisen, wensen en mogelijkheden en er zijn verschillende fabrikanten die een vergelijkbaar product leveren.

Eperimenteel gedoe aan de grenzen van de techniek en de wet zijn daar totaal niet geschikt voor, daar moet je zelf de controle over houden.
zorg dat je leverancier wordt; hoeft je nooit meer te werken!
zorg dat je leverancier wordt; hoeft je nooit meer te werken!
Toch wel... als je leverancier wordt, dan verwachten ze dat je IETS levert... dus leveren = werk.
Je snapt de grap niet
Wat bedoel je dan???
Ze leveren bagger ict werk.
Dus leverancier=bagger werk leveren, aka achterover leunen, klachten ontvangen, en er niets mee doen.
Dus nu hebben we een algoritme die stelt dat 6 van de 9 zaken die de overheid uitvoert niet klopt.
Ik denk dat dat algoritme helaas best wel nauwkeurig is.
Voor een woord als gegevensbeschermingseffectbeoordeling is m'n Scrabblebord te klein...
Waar zou het CJIB een algoritme voor nodig hebben?
Om te bepalen op welke dag ze een boete versturen? Fanmail vanuit Leeuwarden..
Ik ben eerder geïnteresseerd hoe het wordt toegepast, als het een hulpmiddel is, ja geen probleem. Als het een leidend middel wordt, tja dan is het gewoon discriminatie.

Je kan niet op basis van enkel algoritme, je beslissingen nemen, ook al is het beter. Hoevaak heb je gezien dat YouTube telkens dezelfde soort video's toont?

Het is ook niet de eerste keer dat computers of mensen mij over een hoop gooit en vanuit gaan dat ik een *default * categorie val.

ING heeft mij per ongeluk bankrekening geblokkeerd omdat tijdens de transitie ging fout. Hun uitleg was, ja jij bent een van de weinige in Nederland waar fout ging.

SCP stuurde een buitenlands studentje naar mij toe omdat ze dachten dat ik geen Nederlands kon praten. Op basis van me achternaam en wijk waar ik woonde.

Ik word standaard bij Schiphol eruit gepikt, voor controle, omdat andere soortgenoten doen illegale dingen.

De belastingdienst deed elk jaar boeken onderzoek omdat ik niet volgens hun *verwachte cijfers* voldoe.

Ik kan wel boos en kwaad om worden, zolang de verantwoordelijke door heeft dat ik geen standaard persoon ben en begrijpt oh okay er is niks aan de hand. En niet ipv op basis van deze en deze data ben je verdacht.

Vandaag moest ik uitleggen bij de gemeente dat niet elk Nederlander (Nederlands paspoort), een digiD heeft of een BSN nummer. En toch word ik achter in de rij gezet, terwijl asielzoekers direct worden geholpen. Dan denk ik WTF is dit?

Geen enkel algoritme hou dit soort situatie rekening mee..

[Reactie gewijzigd door zonglew00 op 22 juli 2024 18:22]

Tuurlijk heb je een BSN anders gaat het fout in de papieren ,duh. Dus hoedan geen BSN?
Alle Nederlanders die geboren zijn in het buitenland hebben geen bsn. Alleen een paspoort.
Ik heb eens serieus proberen te onderzoeken hoe dit nu getoetst is. Ik kom toetsingskaders, denksessies en vooral heel veel bolletjes-en-pijltjes diagrammen tegen, maar nergens waar nu dit 'consumentenbond' tabelletje vandaan komt.

Kortom, hoe is het gesteld met de hieraan ten grondslag liggende kennis en kunde bij de rekenkamer? Ik vind dat we wel allemaal heel hard achter de conclusies van dit orgaan aanrennen. Ik zeg niet dat ze ongelijk hebben, maar ik kan zelf niet verifiëren of dit nu allemaal wel zo goed onderbouwd is. Ik zie vooral veel bureaucratisch management artwork.
Uiteraard niet. Dan speel je in feite een algoritme in de hand. Wanneer je meer gaat controleren in een specifieke wijk, ongeacht welke demografie daar veelal woonachtig is, zul je meer criminaliteit tegenkomen. Het algoritme zal denken shit man, daar moeten vaker agenten heen! (I know, een algoritme denkt niet) Zo zal er in die wijk vaker criminaliteit gezien worden, dus..... Het is glijdende schaal die voorkomen moet worden. Mijn inziens is dat geen goede zaak.
Meer politie in een wijk zou juist de criminaliteit moeten terug dringen.
Maar dat is niet het punt. De statistiek over die wijk zegt dan dat weliswaar veel mensen opgepakt zijn, maar dat betekend ook dat criminaliteit in die wijk dus hoog moet zijn, maar omdat de politie op die wijk focussed, hoeft dat niet letterlijk te zijn.
Niet alleen hoeveel mensen er zijn opgepakt, maar ook het aantal aangiftes, meldingen, gemiddeld inkomen, werkloosheid zijn voorbeelden die een een goede voorspellers zijn voor criminaliteit in een wijk.

Je zou maar in een wijk met veel criminaliteit wonen en mensen zeggen “ja maar als er meer politie wordt inzet komt er ook meer criminaliteit”.
Natuurlijk zijn er meer variabelen die een rol spelen, maar de belangrijskte factor lijkt mij ook hoeveel er daadwerkelijk opgepakt worden. Als dat heel veel is (omdat de politie op de wijk focussed) zou een dergelijk systeem dus gemakkelijk tot die conclusie komen "omdat er zoveel arrestaties zijn". ;) Dan hou je dus mogelijk een circel in stand terwijl het wellicht niet nodig is.
Als de politie alleen naar het aantal gearresteerde mensen kijkt zou ik je gelijk geven, dat dat te kortzichtig is. Maar de politie neem meerdere variable mee in hun onderzoek, spreken mensen in de buurt, komen bij mensen thuis. Dat geeft toch wel een goede indicatie of een wijk problemen heeft.

Het feedback loop idee klinkt logisch, maar ik kan ook eigenlijk niet een concreet voorbeeld bedenken waar zon circle bestaat of heeft bestaan.
En hoe gaat een algoritme bij de mensen langs? :? Daar gaat (en heb ik) het de hele tijd over, niet wat de politie zélf doet.

[Reactie gewijzigd door CH4OS op 22 juli 2024 18:22]

Zolang je er voor zorgt dat er in alle wijken gepatrouilleerd wordt en rekening houd met het soort vergrijpen waar de politie actie op heeft ondernomen zou het redelijk moeten werken. Je kan zelf beginnen met de politie voornamelijk te laten patrouilleren in rijke blanke wijken en nauwelijks in arme gekleurde wijken. Die paar man per tijdseenheid die ze daar een boete geven wegens rijden zonder gordel of afslaan zonder een hand uit te steken wordt snel genoeg overspoelt door ernstigere criminaliteit in andere wijken. Waarna het algoritme de inzet zal verhogen in die andere wijken.
Ik woon in een zogenaamde oud-vogelaarwijk en iedereen is blij met de politie die veel rondrijd. Toen ik opgroeide in een plaats waar 99% koopwoningen waren reed er nooit politie, dacht ik niet bij na. Toen kon ik ook niet komen waar ik nu woon, was een soort no-go zone maar het is nu echt verbeterd.
Dat ligt eraan waar die beslissing op gebaseerd is; is er een hogere criminaliteit? Dan wel. Maar dat moet ook gecorrigeerd worden aan de hand van hoeveel meer criminaliteit gevonden of zelfs veroorzaakt wordt door een hogere aanwezigheid van politie.
Defineer is ''turkenwijk''.

Op dit item kan niet meer gereageerd worden.