Amnesty dient klacht in tegen 'discriminerend' Frans risicoanalysealgoritme

Amnesty International en veertien andere organisaties eisen dat de Franse overheid stopt met het gebruik van een 'discriminerend' risicoanalysealgoritme om toeslagenfraude op te sporen. De partijen hebben een klacht ingediend bij de Franse Raad van State.

De klacht, die is ingediend onder leiding van belangenorganisatie La Quadrature du Net (LQDN), stelt dat de Caisse nationale d'allocations familiales sinds 2010 een risicoanalysealgoritme gebruikt om toeslagenfraude op te sporen. LQDN kon in 2023 de broncode inkijken. Dit algoritme wijst een score tussen nul en één toe aan alle 32 miljoen Fransen die een toeslag ontvangen van de CNAF. Hoe dichter de score bij één ligt, hoe hoger de kans dat iemand wordt gemarkeerd voor onderzoek.

Amnesty hekelt dat deze score wordt berekend op basis van factoren die discriminerend zijn ten opzichte van kwetsbare huishoudens, waaronder mensen met een migratieachtergrond of vluchtelingen. Dit omvat een laag inkomen, werkloosheid, woonsituatie, hoeveel van het inkomen aan huur wordt uitgegeven en werkenden met een handicap. Aangezien de persoonlijke gegevens van deze mensen en hun gezinsleden op regelmatige basis worden verwerkt, vindt Amnesty bovendien dat er inbreuk wordt gemaakt op de privacy.

Eerder dit jaar heeft Amnesty International de Nederlandse overheid bekritiseerd voor de soortgelijke risicoprofilering van burgers. De inzet van algoritmes voor risicoprofilering staat al jaren hoog op de radar in Nederland, gezien de val van het kabinet-Rutte III in 2020 rond het toeslagenschandaal.

Reacties (152)

[GeKo]

Wat is Amnesty toch een zeurclub geworden. Die “discriminatie” is waarschijnlijk terug te herleiden naar statistieken. Net als hier het etnisch profileren van enkele jaren terug.

Maar ja, voor sommige clubs is de waarheid moeilijk te accepteren. Liever deugen dan feitelijk zijn..

[GreatDictator]

Wat is Amnesty toch een zeurclub geworden. Die “discriminatie” is waarschijnlijk terug te herleiden naar statistieken.

Dat maakt het niet minder discriminatie. Het is niet acceptabel om mensen maar als potentieel fraudeur neer te zetten enkel en alleen omdat ze arm/werkloos/migrant zijn.

[Geim]

Het is niet acceptabel om mensen maar als potentieel fraudeur neer te zetten enkel en alleen omdat ze arm/werkloos/migrant zijn.

Waarom moet een jongere meer (auto) verzekeringspremie betalen dan een volwassene en vinden we dat geen discriminatie? Omdat je alleen van discriminatie kan spreken als en ongeoorloofd onderscheid gemaakt wordt. Er is aangetoond dat jongeren meer schade maken en dus is het legitiem dat een jongere meer premie betaalt.
Als van een bepaalde bevolkingsgroep is aangetoond dat zij vaker betrokken zijn bij fraude, waarom vinden we het dan discriminatie om die groep beter in de gaten te houden?

[ZpAz]

In de US worden gekleurde mensen vaker aangehouden omdat ze statistisch gezien vaker in de gevangenis zitten. Dat is niet omdat ze meer criminaliteit uitvoeren maar omdat ze sneller aangehouden worden en veroordeeld worden.

[rossecorp]

"Dat is niet omdat ze meer criminaliteit uitvoeren maar omdat ze sneller aangehouden worden en veroordeeld worden."

Onjuist. De statistieken zijn hier vrij duidelijk over. Als we kijken naar veroordelingen voor moord, waarmee we celstraffen door overmatig aanhouden uitsluiten, dan zien we dat Afro-Americans stevig oververtegenwoordigd zijn.

https://reason.com/volokh...-medhi-hasan-controversy/

In Canada idem:

https://www.justice.gc.ca...bpccjs-spnsjpc/index.html

Natuurlijk *kan* er sprake zijn van discriminatie, profilering en dergelijke, maar de bewering dat Afro-Americans (en Afro-Canadians) exact even crimineel zijn als hun overige landgenoten vereist bewijs.

Overigens worden Aziaten minder vaak dan gemiddeld aangehouden en veroordeeld. Hoe zit dat dan precies als er een bias jegens niet-autochtonen of niet-blanken zou zijn?

[Reactie gewijzigd door rossecorp op 18 oktober 2024 19:38]

[WoutervOorschot]

Omdat de ene groep historisch nauwelijks kansen heeft gekregen, en deze nog steeds moeilijk kan krijgen.

Met dit soort algoritmes (on topic) hou je bestaande verschillen in stand door groepen strenger te behandelen. Dan maak je het dus moeilijker om uit zo’n cyclus te komen omdat die toevallig nu een bepaalde verhouding heeft.

Als je wilt beweren dat bepaalde groepen vanwege uiterlijke kenmerken meer of minder crimineel zijn dan verwijs ik je graag naar de jaren-30 pseudowetenschappen. Dan heb je nog veel te leren.

[rossecorp]

"Omdat de ene groep historisch nauwelijks kansen heeft gekregen..."

Slavernij in de VS is 160 jaar geleden afgeschaft. Daarmee was de positie van Afro-Americans nog zeker niet gelijk. In de jaren '60 van de vorige eeuw is gestreden voor gelijke rechten en met succes.

"...en deze nog steeds moeilijk kan krijgen."

Geef mij eens een paar wetten die Afro-Americans achterstellen alsjeblieft. Ik kan je wel het tegendeel leveren: affirmative action die lagere eisen stelt aan Afro-Americans bij toelating op universiteiten. Gelukkig is deze discriminerende maatregel kortgeleden afgeschaft.

"Met dit soort algoritmes (on topic) hou je bestaande verschillen in stand door groepen strenger te behandelen"

Ik heb het niet over algoritmes, maar over veroordelingen voor moord. Het gaat dus niet om aanhoudingen voor het stelen van een rolletje drop, maar om bewezen moorden.

"Als je wilt beweren dat bepaalde groepen vanwege uiterlijke kenmerken meer of minder crimineel zijn dan verwijs ik je graag naar de jaren-30 pseudowetenschappen."

Dat beweer ik dan ook niet. Waar lees je dat?

[Superstoned]

Tot op de dag van vandaag zijn er streken in de VS waar je volgens de regels van een straat als gekleurd persoon geen huis kan kopen. Wikipedia: Redlining

Het is inderdaad van de zotte maar veel van de structurele discriminatie zoals redlining is echt nog maar 1 generatie weg. En dus deels zelfs vandaag nog actief.

Het is maar 1 voorbeeld maar de enorme hoeveelheid geld die naar ww2 veteranen is gegaan om huizen te kopen - en exclusief naar witte veteranen - wordt vaak genoemd als een belangrijke reden dat mensen met een kleurtje in de VS veel armer zijn.


Dat er dan meer criminaliteit is, is logisch. Een maatschappij is tenslotte gebouwd op een deal: we houden ons allemaal aan de regels zodat we goed samen kunnen leven. Maar als de regels voor een groep niet eerlijk zijn dan heeft die groep een goede reden er een middelvinger naar op te steken. En dat leer je van je ouders dus dat is ook niet binnen 1 generatie weg (nog afgezien van het feit dat die regels misschien formeel weg zijn maar dat duurt wel een tijdje voor ze echt weg zijn).

Er is veel vooruitgang geboekt in het verminderen van discriminatie maar doen alsof het is opgelost is natuurlijk van de zotte.

[rossecorp]

Uit hetzelfde wikipedia artikel: "The Equal Credit Opportunity Act (ECOA), [...], was enacted on October 28, 1974. This law makes it unlawful for any creditor to discriminate against any applicant regarding any aspect of a credit transaction based on race, color, religion, national origin, sex, marital status, or age (provided the applicant has the capacity to contract)."

Dat is vijftig jaar geleden. Dat is bijna twee generaties.

"Dat er dan meer criminaliteit is, is logisch."

Ik vind deze stelling problematisch en ik zie dit veel bij de democraten in de VS en links van het midden in de rest van het Westen.

In plaats van mensen verantwoordelijk te houden voor hun eigen daden, inclusief degenen die discriminatoire handelingen plegen, wordt eenzijdig een legitimering aangereikt voor allerhande criminaliteit. Werd je opa ongelijk behandeld? Dan is het blijkbaar logisch dat je etnische of culturele groep vier keer oververtegenwoordigd is in geweldsmisdrijven.

Trek die lijn eens door naar Nederland. Hebben de kleinkinderen van slachtoffers van de toeslagenaffaire een legitiem motief om crimineel te zijn? Zo ja, wanneer eindigt dat?

[air2]

Je meent dit serieus? Dat de kleur van je huid, een indicatie zou zijn van hoe groot de kans is dat iemand crimineel gedrag vertoont?

Over het doortrekken van generaties, ja armoede trekt vaak generaties door, het begint met onderwijs, kans op banen etc. Discriminatie is in de VS alom aanwezig, dat weet jij net zo goed als ik, je kunt dan wel een et erbij pakken, die zegt dat het niet mag en dan?
In Nederland zie je dat ook, mensen met een 'buitenlands' klinkende naam hebben gewoon minder kans op werk. Het is van de zotte dat iemand met de naam Achmed z'n werk minder goed zou doen dan Piet of Anne. Maar goed, ik heb met eigen ogen gezien hoe, toen ik nog bij een bouwmarkt werkte een collega die over de sollicitaties ging, alle sollicitaties die van mensen met een tintje kwamen zo versnipperde.
Discriminatie zit doorweven door onze samenleving, mensen met een tintje/andere naam etc. krijgen hier gewoon minder kansen. Dat houdt dus in dat criminaliteit een grotere aantrekkingskracht krijgt.

In Amerika is dat niet minder eerder meer.

Het eindigt pas als we onze medemens zien als mede mens, niet meer of minder dan jezelf. Die huidskleur is gewoon een gen die dat regelt, zo heb je veel meer genen die onafhankelijk van elkaar menselijke eigenschappen, uiterlijk en innerlijk, regelen.

Daarnaast heb je de kansen die mensen krijgen. Dat laatste is WEL een goede indicator voor hoe aanlokkelijk criminaliteit is. Dus lijkt het wijs, beleid te maken waarin mensen wel eerlijke kansen krijgen. Zo'n algoritme werkt, vaak, het tegengestelde in de hand.

[rossecorp]

Je meent dit serieus? Dat de kleur van je huid, een indicatie zou zijn van hoe groot de kans is dat iemand crimineel gedrag vertoont?

Lezen! Dat schrijf ik nergens.

Daarnaast heb je de kansen die mensen krijgen. Dat laatste is WEL een goede indicator voor hoe aanlokkelijk criminaliteit is.

De tijd dat je alles kon toeschrijven aan sociaal-economische omstandigheden is echt voorbij. Anders zou iedereen met weinig kansen ook in dezelfde mate crimineel gedrag verdrag vertonen. Newsflash: dat is niet zo. En nee, voor de derde keer nu: dat heeft geen fluit met huidskleur te maken.

[air2]

Waar heeft het dan mee te maken volgens jou?

[rossecorp]

Gedrag.

Waarom zijn bijvoorbeeld Aziaten als groep minder crimineel dan zelfs de autochtone Amerikanen?

Aziaten staan bekend om een opvoeding waarin discipline en streven naar hoge prestaties centraal staan, waarin een hoog arbeidsethos vanzelfsprekend is, een cultuur waarin conflicten binnen de eigen kring worden uitgevochten, maar bij voorkeur niet daarbuiten. Aziaten respecteren hiërarchie meer dan andere groepen.

Daar heb je een recept voor weinig conflicten en weinig criminaliteit.

Mocht je denken dat Aziaten geen discriminatie ervaren, dan is dat helaas toch echt wel het geval.

https://www.pewresearch.o...ion-in-their-daily-lives/

[air2]

Het kan ook zijn dat de criminaliteit er wel is, maar minder gezien wordt, juist omdat er niet op gelet wordt, vanwege vooroordelen. Of omdat mensen in die cultuur minder snel aangifte doen? Het is vrij lastig om hier goed zinnige uitspraken over te doen. Het kan zeker zijn dat bepaalde culturen hier anders mee omgaan in algemene zin. Maar om nu te zeggen dat mensen met een Aziatische cultuur als groep minder crimineel zijn dan andere groepen, dat is niet zomaar vast te stellen zonder heel gedegen onderzoek.
Stel dat mensen, zoals jij zegt, conflicten binnen eigen kring oplossen, dat zegt niet dat deze conflicten niet crimineel zijn. Er gaan genoeg geruchten rond over afpersen van b.v. Chinese restaurants, waar de eigenaren geen aangifte durven te doen. Dat haal je dan niet uit een simpel cijfer onderzoek.

Dus ik twijfel heel erg aan je stelling dat :

Aziaten staan bekend om een opvoeding waarin discipline en streven naar hoge prestaties centraal staan, waarin een hoog arbeidsethos vanzelfsprekend is, een cultuur waarin conflicten binnen de eigen kring worden uitgevochten, maar bij voorkeur niet daarbuiten. Aziaten respecteren hiërarchie meer dan andere groepen.

Een recept is voor weinig conflicten en criminaliteit

[rossecorp]

"Maar om nu te zeggen dat mensen met een Aziatische cultuur als groep minder crimineel zijn dan andere groepen, dat is niet zomaar vast te stellen zonder heel gedegen onderzoek."

Circa 7,3% van de inwoners van de VS wordt geclassificeerd als "Asian". Ze zijn verantwoordelijk voor 0,9% van de criminaliteit aldus de FBI. De cijfers zijn openbaar beschikbaar.

https://ucr.fbi.gov/hate-crime/2019/topic-pages/offenders

Dat is een 8 keer (!) ondervertegenwoordiging.

"Er gaan genoeg geruchten rond over afpersen van b.v. Chinese restaurants, waar de eigenaren geen aangifte durven te doen."

Dat zou betekenen om on par te komen met de rest van de samenleving Aziaten zeven keer zoveel van dergelijke criminaliteit zouden moeten vertonen dan *alle* andere criminaliteit waarvoor Aziaten worden veroordeeld. Dat is niet echt geloofwaardig.

Ik denk dat er iets heel anders speelt. Veel mensen zijn vreselijk benauwd om simpele droge statistieken op te zoeken, omdat de conclusies daarvan zouden kunnen aansluiten bij wat men aan de andere kant van de politieke kloof al decennia beweert. En veel mensen hebben zich laten wijsmaken dat verschillen in de uitkomsten tussen mensen per definitie een gevolg van racisme en discriminatie zijn.

[rossecorp]

Hier zie je een Deense statistiek waarbij de het aantal veroordeling per X inwoners wordt vergeleken in verhouding met de Deense autochtone bevolking. Deense bevolking op 1 vanzelfsprekend en migranten uit Afrika en het Midden-Oosten vér daarboven, Aziaten en Westerse landen ongeveer gelijk of eronder.

Een vergelijkbaar beeld zie je ook in Nederland, België, Frankrijk, Duitsland, Engeland, de VS en Canada.

Allemaal en overal racisme?

https://substackcdn.com/i...0c95d9425c1_1054x1251.png

[air2]

Ik ben zeker niet bang voor droge statistiek, wat ik enkel probeer aan te geven, is dat de conclusies die je hier aan verbind niet correct zijn. Er. is niet gezegd dat mensen die binnen de aziatische definitie in die statistiek vallen, minder criminaliteit plegen, enkel dat het voor deze mensen minder vaak geregistreerd wordt. Daarop concludeer jij dat ze dan ook daadwerkelijk minder criminaliteit plegen en daarna concludeer jij dan dat dat door opvoeding en cultuur komt.

Het is niet eng om naar droge statistiek te kijken, maar wel eng om daar allerlei conclusies uit te trekken, die niet aan die statistiek verbonden zijn. Ik zeg niet dat afpersingen HET grote verschil verklaren. Ik zeg enkel dat je niet kan concluderen dat mensen met Aziatische kenmerken/achtergrond, of hoe die statistiek dan ook tot stand gekomen is, daadwerkelijk minder crimineel zijn.

Er zijn zeker heel veel verklaringen te bedenken waarom dat verschil er is, en ja jouw cultuur uitleg zou kunnen, maarrrr dat kun je alleen met gedegen wetenschappelijke onderbouwing zo concluderen.

En aangezien het hier over zogenoemde 'rassen kenmerken' gaan, is een snelle conclusies vaak racisitisch, daar is niks engs aan, maar het doet geen recht aan de werkelijkheid

[Superstoned]

... inderdaad. Om maar wat te noemen - wittenboordencriminaliteit wordt vaak veel minder onderzocht, gevonden en bestraft. Ik zou zo ff denken dat dat meer voorkomt bij mensen die een kantoorbaantje hebben - de beter betaalden en hoger opgeleiden. Goede kans dat dus de criminaliteit onder de 'elite' enorm ondergerapporteerd is.

[mjtdevries]

Net zoals in Nederland meer mannen in de gevangenis zitten dan vrouwen.
Is dat ook omdat ze sneller aangehouden worden en veroordeeld worden?

[JRB27]

Vergeet niet dat ook de postcode meespeelt. Kan je ook een hoop gegevens aan verbinden, wijk samenstelling, gemiddelde woz-waarde etc.
Heb mijn auto (18 jaar oude volvo) vergeleken (zelfde leeftijd, schadevrije jaren, kilometers), op Kanaleneiland betaal je 55€ voor WA (23 euro meer dan thuis), en voor All Risk €98 p/m(46 euro meer dan thuis).
Ik ben dan wel benieuwd wat het rechtmatig onderscheid is tussen die postcodes, immers onrechtmatig onderscheid is discriminatie. Auto inbraken zijn bij WA niet gedekt, maar verder kan ik het niet bedenken.

[beeldbuijs]

Zelfs in een klein dorpje kan het variëren per postcode, inderdaad en niet alleen qua autoverzekering.

Ik gok dat het wa-premieverschil wordt veroorzaakt doordat het bijvoorbeeld vaker voorkomt dat mensen schade rijden doordat ze jonger en dus minder ervaren zijn / vaker risico’s onderschatten. Het zou ook kunnen dat inwoners van bepaalde straten vaker onder invloed zijn of vaker frauderen met schades. En ja, je betaalt al meer als jongere, maar dan nog is de kans op schade waarschijnlijk groter in een omgeving waar bovengemiddeld veel jongeren rijden.

[M. Schaap]

Waarschijnlijk hebben verzekeraars geconstateerd dat verzekerden uit de betreffende postcodegebieden vaker en/of hogere schades claimen. Dat is voor hen dan reden om de premies daar te verhogen.

[JRB27]

Als je het op die manier kan vaststellen is dat natuurlijk correct. Echter kan je ook per postcode iets over de etnische samenstelling per wijk achterhalen. Ben vooral benieuwd hoe ze zulke zaken ondubbelzinnig kunnen uitsluiten. Ik ben dan geen actuaris, maar juist daarom zou ik een inkijkje erg interessant vinden.

[TheBlackbird]

Omdat de causaliteit anders is:

Jonge leeftijd -> minder rij-ervaring -> hoger risico.

Racisme -> uitsluiting -> armoede -> criminaliteit -> meer racisme -> uitsluiting -> armoede -> .... Een zelfversterkende vicieuze cyclus.

Het hoeft weinig betoog dat deze twee fenomenen appels en peren zijn.

Als je vervolgens algoritmes ontwikkelt die de gevolgen van racisme als voorspellende variabele neemt, dan versterk je daarmee die cyclus (ook al is het een accurate voorspeller).

Overigens begrijp ik wel dat dit zo wordt gedaan: ik train zelf ML-modellen, als ik makkelijk features kan vinden waarmee ik een goed resultaat bereik, dan wil ik geen omwegen maken naar andere, moeilijker te verkrijgen features. Maar dat neemt niet weg dat je als officiële instantie wel een iets hogere ethische maatstaf mag hanteren.

[Geim]

......ik train zelf ML-modellen, als ik makkelijk features kan vinden waarmee ik een goed resultaat bereik, dan wil ik geen omwegen maken naar andere, moeilijker te verkrijgen features.......

Dan klopt het toch en is er geen sprake van discriminatie, alleen een ethisch probleem en da's heel wat anders.

[richardbloem]

"Jonge leeftijd -> minder rij-ervaring -> hoger risico."

Als dat de verklaring is dan moet je de premie afhankelijk maken van het aantal gereden kilometers of iets dergelijks. Er zijn genoeg mensen die pas na hun dertigste hun rijbewijs halen en meteen een gunstigere premie betalen.

Volgens mij is het werkelijke idee veel meer, dat met er van uitgaat dat jonge bestuurders, een auto nog wel eens als speelgoed zien. Veilig-rijdende jonge bestuurders worden hier de dupe van door hogere premie.

[Pierz]

Er zit een verschil in jong zijn of een bepaalde afkomst hebben. Je kan altijd ouder worden, minder arm, in een betere wijk gaan wonen. Maar je afkomst blijft wat ie is. En daarom is het belangrijk om niet op afkomst te profileren.

[EdwinHamers]

De afkomst is ook een factor, hoe 'erg' je dat ook vindt of lijkt.
Kijk maar eens naar de klachten van heel veel rijscholen, in het zuiden van NL, als het gaat om expats, vooral indiers (ASML, etc) die, via een truukje in de wet, hun rijbewijs kunnen omzetten naar een NL, zonder opnieuw rijlessen en examen te hoeven doen....

Dus afkomst is zeker een factor, net als leeftijd, en andere factoren.

[martijn_zegers]

Als je in India kan rijden, dan kun je overal ter wereld rijden :-)

YouTube: World's Most Dangerous Roads - Top Gear - India Special - BBC Two

[Reactie gewijzigd door martijn_zegers op 19 oktober 2024 09:24]

[EdwinHamers]

Onzin natuurlijk
Er vallen zoveel doden in het verkeer in India dat zelfs de Indiase regering roept dat ze er iets aan gaan doen

En wat betreft de Indiase expats of welke expat dan ook
Het rijbewijs trucje werkt zeker wel
Zie ook het nieuws en de klachten van rijscholen
Hoe duidelijk wil je het hebben

[Pierz]

Bedankt dat je met je voorbeeld mijn punt verder onderbouwt.

Je zegt hier zelf juist dat afkomst niet een factor is. Het gaat er om dat iemand expat is. In NL geboren personen met Indiase afkomst zullen dit trucje niet kunnen toepassen.

[TWeaKLeGeND]

Een Indiër die hier rijdt vertrouw ik meer dan een Nederlander in Mumbai achter het stuur.

Het is voor inwoners van vele landen simpel om hun rijbewijs om te zetten naar een Nederlandse zonder lessen en examens. Daar valt India niet onder. Maar als je kennismigrant bent mag je vanuit elk land wel je rijbewijs omwisselen als je als specialist (en of je een specialist bent uit de belastingdienst in .. je bruto salaris.. raar maar waar) uit een land komt waar bijv je levenskosten veel lager zijn en je hier dus fors moet uitgeven. Dat is geen Maas in de wet. Dat is de wet.

[Reactie gewijzigd door TWeaKLeGeND op 19 oktober 2024 22:19]

[Wouterie]

Helemaal mee eens. Verzekeraars zoeken zeker de grenzen op wat dit betreft. Wellicht gaan ze er zelfs overheen, het hangt een beetje van het doel af. Verzekeraars dekken een bepaald risico af, dus voor hen is het wellicht wel doelmatig om zaken als leeftijd en woonplaats (postcodegebied) mee te nemen.
Wellicht, want ik vind het zeer dubieus.

Discriminatie is verboden tenzij. Ze moeten dus echt heel goed kunnen onderbouwen waarom ze bepaalde zaken willen meetellen die eigenlijk niet zouden mogen meetellen. In beginsel is iedereen gelijk. Als werkenden met een handicap vaker gecontroleerd worden, dan moet je je afvragen of het wel echt nodig is.

Een ander punt is dat het heel moeilijk aan te tonen is dat een bepaalde groep vaker betrokken is bij fraude. Er is sprake van een zekere vooringenomenheid die bevestigd kan worden door meer te controleren. Dus meer controleren levert meer fraudegevallen op, waardoor de noodzaak om meer te controleren bevestigd lijkt.

Als je er geen cijfers naast kan leggen dan kun je heel moeilijk stellen dat je dus gelijk hebt op basis van statistieken. Dit is een bewezen probleem. Hierdoor ontstaan grote problemen voor de betreffende groep, maar worden fraudeurs vanuit de andere groeperingen van de maatschappij veel minder effectief aangepakt. Zelfde met steekproeven op Schiphol, of politiecontroles (een vriend van mij reed een bepaald type verlaagde zwarte BMW. Serieus, hij werd bijna dagelijks aangehouden en heeft zijn auto daarom maar weer verkocht.) Het is echt een probleem waar de gehele maatschappij door geraakt kan worden.

[mjtdevries]

Een ander punt is dat het heel moeilijk aan te tonen is dat een bepaalde groep vaker betrokken is bij fraude.

Daar zit het moeilijke punt.

Als je in Amsterdam als jongere een Golfje rijd, dan betaal je de hoofdprijs voor de verzekering.

En verzekeraars kunnen heel makkelijk objectief aantonen dan die groep meer schadegevallen aanmeld dan iemand van middelbare leeftijd in Lutjebroek die een Dacia rijd.

Maar fraude is veel minder makkelijk in kaart te brengen, want je weet niet hoeveel fraude gevallen er in totaal zijn en daardoor ook niet in welke groepen ze meer voor komen.

Maar het is niet efficient om 100% controles te doen, dus je wilt ergens een objectieve wijze vinden om efficient te controleren met de beperkte resources die beschikbaar zijn.

Of je redeneert als Amnesty en dan is er geen enkel algoritme denkbaar om dat te doen. Dan zit je vast een een veel minder efficiente manier van compleet willekeurige steekproeven of 100% controles.

[Cerberus_tm]

Maar fraude is veel minder makkelijk in kaart te brengen, want je weet niet hoeveel fraude gevallen er in totaal zijn en daardoor ook niet in welke groepen ze meer voor komen.

Kun je hier niet deels achterkomen door een grote steekproef te doen? Kijken hoe veel het voorkomt onder diverse groepen uit je steekproef.

[Wouterie]

Ja, dat is zo. Mijn statistiek is een beetje roestig, maar er zijn manieren om dit recht te trekken of op z'n minst te staven. Het probleem is vaak dat de instanties niet de capaciteiten en/of middelen hebben en zoeken naar een manier om zo effectief mogelijk dat in te zetten. Dat kan misgaan.

[Cerberus_tm]

Dan zouden ze bekwame statistici moeten vragen om een model te schrijven.

[Trick7]

Eens. Profileren is niet zomaar ontstaan. Statistieken liegen niet. En het is natuurlijk per defnitie discriminatie, maar dan in de puurste zin van het woord. Als je clubjes als Amnesty hierin steunt ben je wellicht politiek lekker correct bezig maar je spoort minder fraudeurs op.

[richardbloem]

Jongeren meer premie laten betalen dan ouderen, is zeker leeftijdsdiscriminatie. Er zijn genoeg jongeren die veel veiliger rijden dan gemiddelde ouderen. Enkel omdat ze in een jongere leeftijdscatagorie vallen, moeten ze toch meer premie betalen. Dus al doe je alles prefect, dan nog wordt je benadeeld en daar kun je niets tegen doen.
Een vrouw met een simpel kort kapsel betaalt bij de kapper meestal meer dan een man met een lastig kapsel. Dat lijkt me puur discriminatie op basis van geslacht.
Het probleem is vooral dat statistiek over groepen wordt gebruikt om individuele gevallen te bevoordelen of benadelen. Vooral als die groepen gebaseerd zijn op kenmerken die je niet (eenvoudig) kunt kiezen is dat een probleem.

[Geim]

Een vrouw met een simpel kort kapsel betaalt bij de kapper meestal meer dan een man met een lastig kapsel. Dat lijkt me puur discriminatie op basis van geslacht.

Vrouwen hebben aangetoond een hogere levensverwachting dan mannen, toch hebben ze beide met dezelfde leeftijd recht op AOW.

[TomDZ1979]

Ik dacht altijd dat 'jonge' bestuurder op ervaring slaagt.
Dus dat ook een 50-jarige, die net begint te rijden, de verzekeringspremie van een 'jonge' bestuurder zal betalen?
Oprechte vraag...

[TWeaKLeGeND]

In de wet verankerde uitzondering verzekeren is niet te vergelijken met waar het hier over gaat.

[michaelkamen]

De crux zit in het woordje 'potentieel', oftewel, er is verder onderzoek nodig.

Als 60% van alle auto's die bekeurd worden voor te hard rijden een BMW is, en ik heb maar beperkte opsporingscapaciteit. Ga ik die capaciteit dan eerlijk verdelen over alle auto's in het land, of ga ik me focussen op BMW's?

[singingbird]

En volgend jaar zijn 99% van de boetes voor BMW's en dan ben je gerechtvaardig om alleen nog maar BMW's te controleren en kan je alle andere auto's negeren.
Door zo te beredeneren krijg je een self-fulfilling prophecy en daar zit het gevaar van pofileren.

[svenvbins]

Nouja, een béétje statisticus kijkt niet alleen naar hoeveel procent v/d boetes voor BMW's is, maar hoeveel procent v/d gecontroleerde BMW's beboet is, en hoeveel procent v/d gecontroleerde andere merken.

[jdh009]

Alleen naar de percentages van boetes per gecontroleerde BMW en andere merken kijken is veel te kortzichtig. Om een goed beeld te krijgen, moet je ook begrijpen hoe die dataset tot stand is gekomen. Waar je controleert, op welk tijdstip, waarop je precies controleert, wie controleert, hoe je controleert en hoe vaak je op die plaatsen controleert, beïnvloeden allemaal de resultaten enorm en worden gestuurd door (bewuste/onbewuste) biases. Als je voornamelijk in gebieden controleert waar veel BMW's rijden, zul je meer boetes voor BMW's zien, maar dat zegt niets over het werkelijke gedrag van alle bestuurders. Als bepaalde merken, zoals BMW's, simpelweg vaker op de weg zijn, zullen ze logischerwijs ook vaker bij controles worden betrokken, wat opnieuw kan leiden tot vertekende conclusies. Bovendien kan een kleine groep van extreme bestuurders een hele dataset scheeftrekken, zoals reeds ook bleek uit een CJIB-rapport van een tijdje terug waarin een kleine groep een groot deel van de verkeersovertredingen veroorzaakt.

Er zitten vaak zoveel biases in dit soort datasets dat ze niet op een verantwoorde manier gebruikt kunnen worden voor beslissingen die direct invloed hebben op burgers op deze manier. Als de data vertekend is, door bijvoorbeeld selectieve controles of een kleine groep extreme overtreders, kan dat leiden tot oneerlijke beoordelingen met grote individuele gevolgen. In een rechtsstaat waar gelijke behandeling voorop staat, is het onwenselijk om burgers op basis van zulke incomplete of bevooroordeelde gegevens te beoordelen. Een situatie waarin je al met 0-1 achterstaat zodra je je BMW bij de dealer koopt en ermee de weg op gaat, lijkt mij zeer onwenselijk. Vul hier dan nog iets in wat je níet kunt veranderen, zoals je kleur ogen, en het probleem wordt daardoor des te duidelijker.

Edit:
Daar komt nog bij dat als er iemand zegt dat iedereen met een risicoscore boven de 0,9 automatisch fraudeert en 'computer says yes' uitgevoerd wordt en dus zonder verder onderzoek iedereen aanpakt (geen tijd, druk vanuit bovenaf, omdat ..), je uitkomt bij een situatie zoals de toeslagenaffaire. Dit soort automatische aannames, gebaseerd op een algoritme dat simpelweg een score tussen nul en één toekent, zonder rekening te houden met de werkelijke context of individuele omstandigheden. Het risico dat onschuldige mensen oneerlijk worden behandeld door gedrag van andere waar zij zelf geen invloed op hebben, met verwoestende gevolgen, is in mijn ogen dan ook onaanvaardbaar. En dan denk je misschien, dan moet er toch bewijs zijn? In veel gevallen kan er bij de overheid (i.i.g. in Nederland) omgekeerde bewijslast zijn als je eenmaal aangemerkt wordt als...

Je zou denken: hard bewijs zul je meestal niet krijgen in zo’n buurtonderzoek. Maar dat hoeft ook niet. Er is sprake van een ‘omgekeerde bewijslast’. DUO hoeft alleen maar aannemelijk te maken dat een student eigenlijk ergens anders woont, terwijl studenten een verdenking met hard bewijs moet weerleggen.

Zie ook: https://www.erasmusmagazi...rzoek-was-grote-bullshit/

[Reactie gewijzigd door jdh009 op 18 oktober 2024 17:58]

[svenvbins]

Nee, sorry, ik kan het helaas niet met je eens zijn.

Als je voornamelijk in gebieden controleert waar veel BMW's rijden, zul je meer boetes voor BMW's zien, maar dat zegt niets over het werkelijke gedrag van alle bestuurders. Als bepaalde merken, zoals BMW's, simpelweg vaker op de weg zijn, zullen ze logischerwijs ook vaker bij controles worden betrokken, wat opnieuw kan leiden tot vertekende conclusies.

Klopt, maar daarom moet je (zoals ik al zei) ook niet kijken naar hoeveel BMWs je beboet, maar hoeveel procent van de gecontroleerde BMWs (of andere auto's) beboet wordt. Dan vang je dit al op.

En wat betreft je Edit: Je gaat er dus al van uit dat 'computer-says-yes' de norm is. Dat zal vast zo geweest zijn, en is vast af en toe ook nog zo, máár dat betekent dat er wat mis is met het gebruik/de interpretatie van de uitkomst van het risico-algoritme, en niet met het algoritme zelf. Dat gebrek aan onderscheid lijk ik in meer posts hier tegen te komen.

[jdh009]

Klopt, maar daarom moet je (zoals ik al zei) ook niet kijken naar hoeveel BMWs je beboet, maar hoeveel procent van de gecontroleerde BMWs (of andere auto's) beboet wordt. Dan vang je dit al op.

Je punt over het percentage gecontroleerde BMW's dat beboet wordt, klinkt in theorie inderdaad redelijk, maar daarmee wordt nog steeds niet het hele verhaal verteld. Het probleem zit namelijk dieper: waar, wanneer en hoe vaak je bepaalde auto's controleert, bepaalt nog steeds welke data je verzamelt en hoe die dataset tot stand komt. Controleer je bijvoorbeeld te veel in de buurt van een lokale drive-thru of aan de Zuidas in Amsterdam, dan kan dat, elk op hun eigen manier, de resultaten scheeftrekken of totaal andere uitkomsten krijgen, omdat deze locaties bijv. niet representatief zijn voor het rijgedrag van BMW-bestuurders op andere plekken.

Stel dat je voornamelijk (vaak onbewust) controleert in gebieden waar meer BMW's rijden of BMW's niet representatief 'gebruikt' worden, dan blijf je het risico lopen dat de cijfers vertekend zijn, ook al kijk je naar het percentage beboete BMW's ten opzichte van andere auto's. Je onderzoekt namelijk niet alle BMW's en de omstandigheden waarin ze rijden, waardoor een scheve representatie kan blijven bestaan. Dit is precies waar biases, bewust of onbewust, de resultaten blijven beïnvloeden. Achteraf kun je dus maar zoveel corrigeren.

Edit:
Betreffende mijn edit:
Het probleem is tweeledig: zowel de data die het algoritme voedt áls hoe met de uitkomst wordt omgegaan, zijn bepalend voor de uitkomst (eigenlijk dus drieledig, want hoe het zelf algoritme werkt is ook een punt van aandacht). Een algoritme kan op zichzelf correct werken, maar als de data vertekend is of de uitkomst zonder nuancering wordt toegepast, kan dat leiden tot fouten en onrechtvaardige uitkomsten, vooral wanneer het gaat om beslissingen met grote gevolgen voor mensenlevens. Blindelings vertrouwen op zo'n score ligt op de loer, zeker als men weinig inzicht heeft in hoe deze score tot stand komt. Gemakzucht of druk vanuit bovenaf verhoogt bovendien het risico op oneerlijke behandeling, vooral wanneer de uitkomst van een algoritme te rigide wordt toegepast.

[Reactie gewijzigd door jdh009 op 18 oktober 2024 18:34]

[Cerberus_tm]

Ik ben het met je eens dat je een vertekend beeld krijgt als je bijna alleen maar groep X controleert (kan zijn merk auto, kan zijn mensen op bepaalde locatie, enz.), en niet probeert alle groepen te controleren.

Maar wat nou als je beide doet: je controleert alle groepen voor zover mogelijk – uiteraard in een steekproef; maar ook controleer je extra veel BMW-rijders; en daarna probeer je zo veel mogelijk factoren eruit te filteren op basis van de brede steekproef. Je zou b.v. 10.000 controles kunnen uitvoeren waarvan 5000 breed gespreid en 5000 BMW's.

Er kan dan blijken dat je 10% fraude vindt in je brede steekproef en 50% in je BMW's. Dan ga je zo veel mogelijk onafhankelijke factoren eruit filteren. Bijvoorbeeld als blijkt dat in je brede steekproef mensen bij de drive-through vaker frauderen, corrigeer daarvoor bij de BMW's: als de fraude bij de drive-through dubbel zo hoog is als over de gehele brede steekproef, en 70% van de BMW's bij de drive-through reden, dan zeg je dat die 70% maar half mee mogen tellen ter compensatie. Dat is volgens mij allemaal standaardpraktijk in de statistiek?

Je kunt dit nooit perfect doen: je kunt niet alle factoren vinden/specificeren, en je kunt factoren per ongeluk deels dubbel meenemen omdat er twee niet onafhankelijk van elkaar zijn; maar het eindresultaat kan echt wel nuttig zijn. Als je dan uitkomt op 30% fraude bij de BMW's, kan dit reden zijn om BMW's extra te controleren.

Even filosofisch gezegd: selectie wordt altijd en overal toegepast bij het opsporen van misdaad. Wanneer iemand "houdt de dief" roept zul je de persoon selecteren die wegrent, ook al is er een kans dat hij om heel andere redenen rent. Wanneer drugsafval is gestort in de straat, zul je de auto selecteren en controleren die als enige niet van iemand uit diezelfde straat was. Enz.

Dus ik denk dat een van de problemen is dat overheidsinstanties dit vaak niet fair aanpakken en niet goed filteren. Dan gebeurt er wat jij zegt.

Verder is de stap naar iemand straffen puur en alleen op basis van statistiek essentieel: dat is meestal verwerpelijk, gezien het beginsel dat men onschuldig is tenzij. Daar ligt misschien wel het grootste probleem hier.

Ten laatste is er nog het probleem van hoe belastend controles zijn voor een burger. Als mensen jouw gegevens extra checken van achter hun computer, heb jij daar in praktische zin geen last van; maar als ze elke dag je BMW langs de kant van de weg zetten voor controle, dan heb je daar veel last van, ook al is het nog geen straf. Wat ik hierboven zeg kan dus alleen billijk zijn als de selectie resulteert in controle waar de burger (nauwelijks) praktisch last van heeft. Dus niet allemaal papieren hoeven indienen, wat veel stress kan veroorzaken. Dat heeft de overheid denk ik ook verkeerd gedaan.

[Reactie gewijzigd door Cerberus_tm op 19 oktober 2024 06:59]

[svenvbins]

Geen inhoudelijke reactie meer van mij, maar wel dank voor de duidelijke uitleg!

[Geekomatic]

Inderdaad, wel de focus houden op een statistisch objecteve risicogroep,
maar ook breder blijven kijken om tunnelvisie te voorkomen.
Een beetje van beide dus.
Voor dat "breder kijken" naast de "statistisch grootste kans"
zijn er ook weer rekenmethodes voor een "gewenst optimum".

[Reactie gewijzigd door Geekomatic op 18 oktober 2024 17:51]

[Vexxon]

Kun je niet beter tunnelvisie volledig uitsluiten of het risico daarop door die factoren niet mee te nemen?
Er zijn genoeg voorbeelden van mensen die buiten dit algoritme vallen en toch fraude gepleegd hebben, wanneer focust men daar dan op. Is die minder schuldig?

[Geekomatic]

Als je dat doet, en je controlers volledig willekeuring selecteert,
dan is de kans groot dat je je controle resources zeer sub-optimaal inzet.
.
Om maar even bij het BWM voorbeeld te blijven. (Want ik heb zelf weinig met auto's)
NB: *Fictief voorbeeld dus*, blijf kalm:
.
Stel dat BWM rijders in de werkelijkheid 90% van alle snelheidsovertredingen plegen.
Maar ze zijn slechts 10% van de auto's op de weg.
Als je dan neutraal controles doet, evenveel op alle merken auto's,
dan vang je slechts een veel kleiner deel van de overtredingen,
dan wanneer je je wat meer op dat merk focust, geholpen door statistiek...

En PS Een controle is nog natuurlijk nog geen bekeuring.
Een overtreding moet eerst *feitelijk* vastgesteld zijn, van welk merk "auto" dan ook...

[Reactie gewijzigd door Geekomatic op 18 oktober 2024 18:03]

[Seal64]

Dit dus. Het mag meetellen, maar het moet niet zwaarder wegen dan de overige factoren die ook meegewogen worden. Dat is iets dat een agent niet kan doen dus de vergelijking met BMW's gaat daar een beetje mank, maar een geautomatiseerd systeem van de belastingdienst kan natuurlijk best tientallen factoren meewegen in de beslissing om dat vlaggetje aan te zetten.

[Croga]

Maar een agent of een controlleur is geen statisticus. En dit algoritme duidelijk ook niet. Nog sterker; zelfs hele slimme mensen (zoals, bijvoorbeeld, rechters) denken "Ik zie alleen maar roodharigen voor me, de roodharigen zullen wel crimineel zijn!".

Realiseer je daarnaast dat het aantal gecontroleerde BMWs in deze statistiek absoluut irrelevant is. Als van alle BMWs 0.32% gecontroleerd wordt en 60% daarvan rijdt te hard dan nog is de kans dat een BMW te hard rijdt slechts 0.18%, tenminste; dat is wat je aan bewijs hebt.

Hetzelfde gaat hier op: Het is niet het percentage "schuldigen" van de gecontroleerde lage inkomens wat telt, het is het percentage "schuldigen" van de totale populatie lage inkomens. En dat gaat nooit boven de single-digit percentage uit komen. En daarmee is het hele idee van profileren, op welke manier dan ook, totaal onzinnig. Plots is ieder persoon wat aan bepaalde kenmerken voldoet verdacht, ook al is maar een miniem klein deel van die groep daadwerkelijk schuldig.

Om even een voorbeeld te noemen: Het percentage jongeren met een migratieachtergrond wat met de politie in aanraking komt is schrikbarend hoog. Het percentage veroordelingen in die categorie zit in de lage single-digits. Maar omdat dat percentage hoger is dan van niet-migranten jongeren blijven we degenen met een migrantenachtergrond controleren. Het gevolg is dat meer van hen crimineel worden omdat ze tóch al verdacht worden. Self-fullfilling prophecy waar de wereld een slechtere plek van wordt.....

Vandaar ook dat we regels in de grondwet hebben die zeggen dat dit niet mag.

[Halfscherp]

Oké, maar daar kan ik ook een simple tegenvoorbeeld voor geven: volgens het CBS zit na vijf jaar ~50-70% van de Somaliërs nog in de bijstand. Bij Polen is dat bijna 0%.

Volgens jouw logica moeten we beide groepen een intensief integratietraject induwen, maar dat is echt kapitaalvernietiging van jewelste.

Onderscheid maken is goed, want dan kan men met doelgerichte oplossingen komen.

[Reactie gewijzigd door Halfscherp op 18 oktober 2024 17:29]

[Croga]

Oké, maar daar kan ik ook een simple tegenvoorbeeld voor geven: volgens het CBS zit na vijf jaar ~50-70% van de Somaliërs nog in de bijstand. Bij Polen is dat bijna 0%.

Volgens jouw logica moeten we beide groepen een intensief integratietraject induwen, maar dat is echt kapitaalvernietiging van jewelste.

Onderscheid maken is goed, want dan kan men met doelgerichte oplossingen komen.

En ook hier hoef je helemaal niet naar nationaliteit te kijken. Integratietrajecten kunnen gewoon gericht worden op mensen in de bijstand en je bent niet meer aan het discrimineren. Ik zie dan ook niet wat dat voorbeeld met de case te maken heeft. Oh wacht, behalve dat als je hier alsnog op afkomst discrimineert, je nogsteeds 30%-50% overkill hebt en het dus alsnog weg gegooid geld is.....

[Halfscherp]

Je vergeet even de ~100% aan Polen die je anders ook zo’n integratietraject in duwt. Onderscheid maken mag niet, remember?

Het begint ondertussen een beetje als de jaren 80-90 te voelen waar er stevige problemen met integratie waren, maar men de kop in het zand stak want het was niet senang het er over te hebben.
Mede hierom doen we tegenwoordig bv aan wijkmixen, omdat we erachter kwamen dat 100% sociale huur in een wijk voor problemen zorgt. En met welk magisch raamwerk zijn we achter de ideale 40-40-20 mix gekomen.. statistiek.

Verantwoord profileren is niks mis mee.

Voor de duidelijkheid: ik ben een realist die graag de optimale uitkomst ziet. Ik vind dat sollicitaties bv zonder naam zouden moeten, want je ziet nu dat mensen met een niet-Westerse achternaam bovenmatig vaak niet aangenomen worden voor een stage of werk.

[Reactie gewijzigd door Halfscherp op 18 oktober 2024 18:53]

[Croga]

Onderscheid maken mag zeker wel. Je mag alleen geen onderscheid maken op persoonskenmerken. Je mag best onderscheid maken op of iemand in de bijstand zit of niet......

[Mosterd]

Naïef blijven doen schieten we ook niks van op. Als statistisch 50% van Somaliërs een uitkering hebben en we schalen dat naar heel Nederland, in de mom van “dat moeten we normaal vinden en dus even zien hoe dat zou zijn als iedereen het doet”, dan kom je er heel snel achter dat het sociale systeem wat wij hebben niet meer houdbaar wordt.

Integratie trajecten richten op mensen die in de bijstand zitten, goh ik vraag mij af waarom dat nog niet gedaan is. Omdat die data wellicht privacygevoelig is en gewaarborgd wordt door de gemeente en niet de belastingdienst, en de belastingdienst bestrijd juist de bijstandfraude. Veel gemeenten hebben hier niet de capaciteit voor dus ook dat zal niet werken. Wil je dan privacy opofferen? Ik vind het juist fijn dat diensten gescheiden zijn en een kwaadwillend persoon bij een overheidsorgaan niet meteen alles zou kunnen uittrekken.

Feit is dat het ergens ook een motivatie moet zijn, i.e. “ik ben het zo zat dat mijn groep wordt aangezien voor X dat ik mijn gemeenschap ga helpen om die reputatie op te poetsen”. Patroonherkenning is gewoon erg nuttig, tuurlijk mist er vaak nuance en die moeten we erin brengen (waar mogelijk) maar om het compleet te-niet te doen omdat sommige groepen zich beledigd zouden voelen terwijl het een enorm oplopende kostenpost is waarvan het geld naar betere dingen kan gaan vind ik erg zonde en pas echt kortzichtig.

[svenvbins]

Realiseer je daarnaast dat het aantal gecontroleerde BMWs in deze statistiek absoluut irrelevant is. Als van alle BMWs 0.32% gecontroleerd wordt en 60% daarvan rijdt te hard dan nog is de kans dat een BMW te hard rijdt slechts 0.18%, tenminste; dat is wat je aan bewijs hebt.

Sorry, maar dit is het hele idee achter statistiek: Niet íedereen hoeven te controleren en toch een betrouwbare uitspraak te kunnen doen. Als 60% van de door jou gecontroleerde BMWs te hard rijdt, dan kun je er donder op zeggen dat van de niet-gecontroleerde BMWs óók ~60% te hard rijdt - mits de wel gecontroleerde groep voldoende groot en representatief is. Maar dat dat níet zo zou zijn is hier geen sprake van volgens mij.

[Croga]

Sorry, maar dit is het hele idee achter statistiek: Niet íedereen hoeven te controleren en toch een betrouwbare uitspraak te kunnen doen. Als 60% van de door jou gecontroleerde BMWs te hard rijdt, dan kun je er donder op zeggen dat van de niet-gecontroleerde BMWs óók ~60% te hard rijdt - mits de wel gecontroleerde groep voldoende groot en representatief is. Maar dat dat níet zo zou zijn is hier geen sprake van volgens mij.

Nee, dat is de grote truuk van statistiek.... Als je groep maar klein genoeg is dan kun je er helemaal niets over zeggen..... Als je van een totale populatie nog geen procent gecontroleerd hebt dan kun je helemaal niets zeggen over de totale populatie! Als jij 0.32% van alle BMWs gecheckt hebt dan geeft P aan dat de waarschijnlijkheid dat deze statistiek te projecteren is op de volledige populatie enorm laag is en dus irrelevant voor je statistiek!

En dat is precies wat hier gebeurt. Er worden een hele berg features gemeten maar nergens gekeken wat de P-waarde van de feature is. En er is keer op keer bewezen dat alles wat niet door de persoon zelf bepaald kan worden (zoals afkomst, gender of sexuele geaardheid) nauwelijks invloed heeft op dit soort dingen.

[Rolf]

Dat is wat je met die P-waarde kan doen. Je bepaalt de waarschijnlijkheid van je meting in de tegenovergestelde situatie. Is die kleiner dan 5% dan neem je aan dat die situatie niet de werkelijkheid is. Bij het toetsen op heel veel features kan je correcties op die P waarde doen. Bonferroni bijvoorbeeld.

[Reactie gewijzigd door Rolf op 18 oktober 2024 20:40]

[NoTechSupport]

Goed voorbeeld. Ga je dan alleen BMWs controleren? Misschien dat je verhoudingsgewijs iets meer BMWs wilt controleren. Maar uitsluitend focussen op BMWs zou niet correct zijn (oa omdat andere rijders dit door gaan hebben). Wat mij betreft is dat de vraag een beetje, in welke mate zit er een random factor in het algoritme of controleert men random los van het algoritme. Daarnaast is de vraag hoe vaak je het algoritme updatet adhv de laatste gegevens.

[dengregg]

het voorbeeld wordt nog beter eens je een stap verder gaat. Doordat je hier dus zou beginnen met voornamelijk BMW's te controleren, zal het aandeel van BMW bij de bekeuringen bijgevolg nog stijgen, waardoor volgens de statistieken dus BMW's nog meer overtredingen begaan, en dus nog meer de focus op moet liggen...

en om het af te maken is er nog te vraag of in oorsprong er al geen extra controles waren op BMW rijders wegens een niet terechte reputatie, en alle statistieken dus al gekleurd waren dankzij de extra controles op hen.

[NoTechSupport]

Ik bedoel niet dat je het algoritme updatet adhv de uitkomst van het algoritme, maar op basis van (wetenschappelijk) onderzoek, anders zou het effect idd nog versterkt worden.

[Vexxon]

Iedereen is toch potentieel fraudeur?

[Ed Vertijsment]

In principe snap ik dit, maar hoe ga je voorkomen dat het 100% van alle auto's die bekeurd worden voor te hard rijden BMW's zijn omdat om je na een vorige statistiek alleen maar BMW's bent gaan controleren?

[GugPanub]

Migrant sleep je er dus net als Amnesty zelf maar bij om het maar wat meer emotioneel gewicht te geven? Bevestigt wel het statement van bovengenoemde schrijver ‘liever deugen dan feitelijk zijn’ ironisch genoeg.

[Wouterie]

De feiten zouden moeten zijn dat een fraudeur altijd hetzelfde risico zou moeten lopen. Het feit dat je bij de ene groep meer fraudeurs aantreft dan bij de rest houdt geen stand als je die ene groep ook vaker controleert.

[GugPanub]

Daar ben ik me als statisticus van bewust. Mijn punt was en is dat migratiestatus uberhaupt niet als criterium benoemd werd maar in de reactie van GreatDictator ineens wel.

[crashtender]

Exact

[Ruben26]

Als je hen niet als potentieel fraudeer neer mag zetten dan anderen, die ook aan diezelfde criteria voldoen, ook niet. Daar onderscheid in maken is namelijk discriminatie.

Straks gaat het gevolg nog zijn dat criteria die niets met huidskleur of afkomst te maken hebben niet meer meegewogen mogen worden omdat die criteria kunnen leiden naar mensen waarbij dat 'onwenselijk' zou zijn.

[bigkillerstorm]

Wel als daar aanzienlijk veel meer fraude gevonden wordt toch onder bepaalde doelgroep. Dat ze die iets beter controleren of daar meer man kracht op zetten waar de meeste fraude voorkomt. Ik vind discriminatie een aanfluiting als er duidelijk is dat daar bijv 200% meer gefraudeerd wordt als bijvoorbeeld bij expats die werkeloos raken of Chinese , eigen inwonersetc. Ik vind dat ze risico net als in bepaalde steden en wijken meer aandacht op plekken mogen zetten waar het vaak misgaat. Je gaat toch ook niet alcohol controle ergens in weiland in Friesland doen. Nee dat doe je bij de Stad en grote straat met veel uitstromende verkeer. Zijn de stads gangers nu gediscrimineerd tegen over de boeren in Friesland? Ik vind dat discriminatie soms te snel wordt bijgehaald als excuus net als de racisme-kaart. Om de aandacht eraf te halen of mensen onnodig schuld aanpraten. Als de feiten op tafel liggen ga je geen energie steken op plekken die nauwelijks wat opleveren. Heel jammer dat die doelgroep er slecht uitkomt. Maar als feit is dat daar veel voorkomt en daar de grootste schade kan beperken, doen. Geen woke of weer fluwelen handschoenen.

[Xander2]

Dat maakt het niet minder discriminatie. Het is niet acceptabel om mensen maar als potentieel fraudeur neer te zetten enkel en alleen omdat ze arm/werkloos/migrant zijn.

Iedereen met een toeslag is een potentieel fraudeur want gaat door het algoritme heen.

Zo ook in NL. Zowel links -met hun etnische prederteminatie- als rechts -die exorbitante maatschappeiljke middelen gerechtvaardigd ziet waar niets te halen valt- hebben boter op hun hoofd.

[evers97]

Mensen doen vaak alsof discriminatie en racisme iets heel vreemds en uitzonderlijks zijn, maar als je erover nadenkt, is het eigenlijk best logisch dat groepen een voorkeur hebben voor hun eigen mensen of omgeving. Het zit in bijna alle diersoorten ingebouwd als een soort beschermingsmechanisme voor de eigen groep. We moeten ook niet vergeten dat we als mensen van verschillende werelddelen op bepaalde punten genetisch van elkaar verschillen, al zijn die verschillen relatief klein. Maar het idee dat iedereen overal welkom is, is gewoon niet hoe de wereld werkt. Ga zelf maar naar China of Afrika, daar word je ook anders behandeld, en dat is gewoon onderdeel van het leven.

En dan die discussie over algoritmes en discriminatie… Kijk, als je een groep van 100 mensen pakt in Nederland, en 25 daarvan hebben een ander genetisch profiel, en van die 25 worden er 8 opgepakt voor diefstal (32%), dan is het logisch dat een algoritme dat opmerkt. Van de overige 75 worden er ook 8 gepakt, maar dat is maar 10,7% van die groep. Natuurlijk gaat zo’n algoritme dan scherper letten op die andere groep. Is dat discriminatie? Ja. Maar is dat erg? Niet per se. Het zijn gewoon feiten, en feiten kun je niet wegwuiven omdat ze niet in je straatje passen.

[hawke84]

Je draait het om.

Mensen worden niet aangemerkt omdat ze in die groep zitten, die groepen worden aangemerkt omdat ze historie hebben in de stats als veel hoger risico.

Wat meer efficientie en minder kosten betekent als dit als richtlijn wordt gebruikt bij risico analyse.

Dat is objectief gebruik van historie. Of het discriminerend is, is een ander verhaal. En of dat uitmaakt weer een hele discussie (zolang het in de root objectief te onderbouwrn is, zou ik zeggen van niet).

[Honza63]

Het is niet discrimineren, het is statistisch karakteriseren...

[wildhagen]

Wat is Amnesty toch een zeurclub geworden.

Een organisatie die opkomt voor mensenrechten, vrijheid, privacy en gelijke en eerlijke behandeling voor iedereen zou ik nou niet echt als 'zeurclub' willen definiëren.

Wat Amnesty doet (in zijn algemeenheid) is een hele goede zaak, en bittere noodzaak om te voorkomen dat onze vrijheden en mensenrechten te grabbel gegooid worden door bedrijven en zelfs regeringen, die het er niet zo nauw mee nemen.

. Die “discriminatie” is waarschijnlijk terug te herleiden naar statistieken.

Voor 'waarschijnlijk' kopen we niet zoveel, dat is speculeren. Heb je hier bewijs voor dat het echt zo is?

Maar ja, voor sommige clubs is de waarheid moeilijk te accepteren. Liever deugen dan feitelijk zijn..

Ironisch dat je zelf ook niet met harde feiten komt, maar enkel met aannames dat het 'waarschijnlijk terug te herleiden is naat statistieken'.

Een aanname is niet per definitie de waarheid namelijk.

Heb je dan bijvoorbeeld niks van de toeslagenaffaire meegekregen, waar we kunnen zien tot welke ellende dit soort aannames en/of algoritmes uiteindelijk kunnen leiden?

[Reactie gewijzigd door wildhagen op 18 oktober 2024 15:46]

[RoestVrijStaal]

[...]
Een organisatie die opkomt voor mensenrechten, vrijheid, privacy en gelijke en eerlijke behandeling voor iedereen zou ik nou niet echt als 'zeurclub' willen definiëren.

In hun advertenties en campagnes heb ik ze 0 keer concrete oplossingen zien aandragen.

Enkel "dit mag niet" en "dat moet anders". Alsof de uitvoerende (overheids)instanties e.d. die erover gaan, kunnen toveren.

Het is geworden tot een belangenclub die vooral roeptoetert om in de kijker te blijven.

[Reactie gewijzigd door RoestVrijStaal op 18 oktober 2024 16:56]

[The Zep Man]

Enkel "dit mag niet" en "dat moet anders". Alsof de uitvoerende (overheids)instanties e.d. die erover gaan, kunnen toveren.

Als het niet mag, dan mag het niet. Een overheid heeft een voorbeeldfunctie richting diens bevolking. Een overheid kan twee dingen doen: energie steken in het zich houden aan de regels of energie steken in het veranderen van de regels.

[Reactie gewijzigd door The Zep Man op 19 oktober 2024 06:51]

[RoestVrijStaal]

Met "dit mag niet" en "dat moet anders" bedoelde ik voluit geschreven "dit willen wij bij Amnesty niet zien" en "dat moet anders vinden wij bij Amnesty".

Veranderen van regels moet naar mijn idee vaker en sneller gebeuren, want de maatschappij veranderd ook sneller.

[Dutchzilla]

Wat Amnesty echt doet, is geld collecteren via diverse platformen, vervolgens geel hard schreeuwen maar in de realiteit nooit iets bereiken. ja de mensen die er gevoelig voor zijn en vervolgens nog meer doneren.
Amnesty is een club schreeuwende mensen, zonder een plan.

[segil]

heb je daar bewijs voor? Daar ben ik wel benieuwd naar, aangezien ikzelf doneer.

[jumbos7]

Statistiek is alleen geen excuus om rechten te schenden van personen waar geen bewijs van fraude bestaat. Iemand met een laag inkomen, een handicap, een migratieachtergrond en een relatief hoge aandeel van het inkomen dat naar huur uitgaat heeft het recht om niet als hoogst verdacht door de Franse staat behandeld te worden enkel omdat de statistieken hem of haar als groot risico op fraude betitelen.

[crizyz]

Als de statistiek zegt dat NL cybercriminelen bovengemiddeld een tweakers account hebben, is het dan gerechtvaardigd dat jij en ik onze digitale aanwezigheid moeten laten doorlichten omdat wij een tweakers account hebben?

[Vexxon]

Weleens van de toeslagen affaire gehoord? Die mensen deugden ook maar werden door etnisch profileren keihard genaaid. Ja goed plan man.

[beeldbuijs]

Dat lag niet aan een algoritme, maar was gewoon opzet. Dus dat voorkom je niet door algoritmen af te schaffen.

Overigens is een van de redenen dat de afhandeling zo lang duurt, dat 1/3 van degenen die een schadevergoeding vragen, de boel probeert te belazeren. Dus er zijn wel degelijk grote aantallen fraudeurs, die zelfs zo brutaal zijn om zich in deze zaak als slachtoffer voor te doen.

[thomas_n]

Wat is Amnesty toch een zeurclub geworden. Die “discriminatie” is waarschijnlijk terug te herleiden naar statistieken. Net als hier het etnisch profileren van enkele jaren terug.

Dat is juist hun hele punt. Wanneer je als individu beoordeeld wordt omdat je dezelfde afkomst, geslacht, woonsituatie, geloof, etc. hebt als een groep die statistisch vaker fraude of criminaliteit voorkomt, is dat oneerlijke discriminatie. Dit resulteert in een maatschappij waarin een deel van de burgers zich gewantrouwd voelt door de overheid en zelf ook de overheid niet langer vertrouwt. Mensen krijgen het gevoel tweederangsburger te zijn, minder kansen te krijgen. Je kan dan als overheid niet verbaasd zijn dat mensen niet goed "integreren", dat heeft het beleid immers zelf veroorzaakt. (en daarmee wordt de geliefde zondebok van rechts in stand gehouden, dus misschien is het zelfs opzettelijk beleid...)

Daarnaast is het ook extra krom omdat dit soort discriminatie toch al een feedback-loop oplevert wat betreft de statistieken: als je mensen van een bepaalde groep meer verdenkt van fraude, zal je bij die groep vaker fraude vinden.

[beeldbuijs]

Ik vind de verontwaardiging niet terecht, aangenomen dat er idd feiten aan het algoritme te grondslag liggen.

Als je bijvoorbeeld goudeerlijk bent en dankzij hard werken en veel discipline meer verdient, wordt je in feite ook oneerlijk behandeld, maar dan doordat je meer belasting moet betalen. En niet alleen in absolute zin maar ook relatief meer, want we kennen een progressieve inkomstenbelasting.

Dan zegt je toch ook niet ‘die mensen voelen zich daardoor tweederangs burgers’? Die mensen draaien in feite onevenredig zwaar op voor de kosten die de rotte appels veroorzaken. Is dat dan wel eerlijk? Nee, natuurlijk niet, maar dat is nou eenmaal de afspraak omdat het een van de best haalbare oplossingen is en min of meer democratisch besloten is etc.

Andersom krijg je ook een uitkering als je financieel aan de grond zit, ook al doe je minimaal moeite om daar zelf wat aan te doen. Als je de kans op een controle zo’n probleem vindt, kun je er ook voor kiezen die uitkering níet aan te vragen.

[thomas_n]

Je vergelijking is scheef. (los van de discussie over de voor- en nadelen van progressieve inkomstenbelasting, die hier te ver off-topic zou zijn)

Een meer correcte (voor zover mogelijk binnen het voorbeeld van belastingen) vergelijking zou zijn, als jij meer belasting zou moeten betalen omdat mensen die dezelfde kleur ogen hebben gemiddeld genomen veel verdienen, ook al werk jij als relatief laagbetaalde, maar hardwerkende en gedisciplineerde, verpleegkundige.

[beeldbuijs]

Maar anderen hebben al aangegeven dat de kleur ogen in Frankrijk niet eens mag worden vastgelegd. Dus dat is het niet.

Amnesty en anderen willen niet zozeer dat de oogkleur weggelaten wordt uit de red flag test, ze willen van de hele red flag test af.

[thomas_n]

Het gaat natuurlijk niet om de oogkleur, dat was enkel ter illustratie van het indelen van mensen in groepen, om vervolgens individuen te beoordelen aan de hand van groepsstatistieken.

[beeldbuijs]

Dat was duidelijk en daarom gebruik ik het ook op die manier.

[thomas_n]

Dan zijn we het denk ik eens dat Amnesty hier groot gelijk heeft.

[beeldbuijs]

Het is makkelijk om bij elk onderdeeltje van ons sociale systeem iets te vinden wat niet perfect is, net zoals windmolens en zonnepanelen nog steeds een bepaalde voetafdruk hebben, hoewel ze onderaan de streep toch echt een verschil maken. Maar als je perfectie eist en dat betekent dat het hele sociale systeem onhoudbaar wordt, bereik je juist het tegenovergestelde.

Je ziet dat vaker als het om gaat activistische zoals privacy-achtige onderwerpen gaat. Het moet van sommigen radicaal anders. Dat mag je vinden, maar kom dan ook met een realistische oplossing, met een plan B. Stoppen met analyses en beveiligingen is geen optie. Net zoals je geen moderen economie kunt hebben zonder allerlei gegevens bij te houden van mensen, zoals banken, rdw, gemeenten, medisch specialisten, kadaster etc doen. 100% privacy bestaat niet.

[L0g0ff]

Des de harder je zoekt des te meer je vindt. En ondertussen zijn het de multinationals en andere grote bedrijven die vrijwel geen belasting betalen.

Daar komt nog eens bij hoe lager de opleiding hoe moeilijker het is alle administratieve overheidsrompslomp te verwerken en dat iemand met veel schulden soms qua IQ meer dan 10 punten terug kan vallen.

Dit is niet zeuren van Amnesty, dit is self fulfilling prophecy all over the place.

[Verwijderd]

Wat is Amnesty toch een zeurclub geworden.

Omdat de kans waarop jij ermee te maken krijgt klein lijkt omdat je een witte Nederlander bent met een bovengemiddelde inkomen?

Die “discriminatie” is waarschijnlijk terug te herleiden naar statistieken. Net als hier het etnisch profileren van enkele jaren terug.

De aanname dat er niets mis is met de statistieken terwijl diezelfde statistieken die juist 'gekleurd' geïnterpreteerd worden of het al zijn. Dan is die Amnesty club toch niet zo zeurderig.

Maar ja, voor sommige clubs is de waarheid moeilijk te accepteren. Liever deugen dan feitelijk zijn..

Volgens conclusie van onze eigen parlement is de kans dat een tweede toeslagenaffaire zou kunnen gebeuren zeer aannemelijk is. Het zijn juist clubs zoals Amnesty die de boel in de gaten houden.

Misschien toch maar feitelijk zijn ipv aannames maken op basis van eigen onderbuik.

[Sorcerer8472]

We hebben zeuroverheden die om kleine bedragjes gezinnen overhoop willen halen, terwijl witteboordencriminaliteit grotendeels onbestraft blijft.

Etnisch profileren betekent dat je als individu erg veel last kan hebben van een zeur-overheid die (vaker) bij je aanklopt puur vanwege statistieken. Met dus ook een grotere kans dat bijv. fouten in de aangifte leiden tot allerlei shit. Wat bij mensen bij andere etniciteit niet of minder gebeurt, terwijl dat juist een grotere groep mensen is en daar exact dezelfde fouten worden gemaakt.

Zeuren over dit soort dingen ipv het gewoon zien als verbeterpunt is echt een teken van deze tijd...

[Noresponse]

Ik wil juist wel dat de politie filmt bij demonstraties om toekomstige relschoppers eruit te halen zo dat je rustig je stem kan laten horen bij een demonstratie en ook bij het voetbal zie ik geen issues om ditnte doen. Je zal dan ook cameras uit winkels of openbare plaatsen kun aangeven. Nu komen ze hiermee weer aan net zoals de AIVD omgaat met gegevens van het internet etc. om risico's analyses te maken voor aanslagen bijvoorbeeld. Privacy heb al niet meer zodra je een mobiel of laptop gebruikt .

[Reactie gewijzigd door Noresponse op 18 oktober 2024 18:41]

[kodak]

Het feit dat iemand iets wil geeft nog niet zomaar het recht dat doel op iedere manier maar te bereiken. De grens ligt bij wat wettelijk is verboden, zoals discriminatie op afkomst. Er hoort dus op zijn minst duidelijk te zijn dat een middel niet zomaar dat soort rechten aan het schenden is en er maatregelen zijn genomen om er op te controleren. Als dat niet blijkt is het een zeer terecht punt om de makers en gebruikers te verantwoording te roepen.

[nDust]

Probleem is dat overheden vaak gewoon hun modelletjes trainen en niet nagaan of de wegingen ook daadwerkelijk overeenkomen met de gavalideerde statistieken

[Wouterie]

Ja, dat is ook bij mij de eerste reactie die Amnesty de laatste jaren bij me oproept... Maar ze hebben in dit (deze) geval wel gelijk. Door ethnisch te profileren krijg je een stelling die zichzelf bevestigd. Groep X wordt vaker gecontroleerd omdat er vermoedens van fraude zijn. Er wordt bovengemiddeld veel fraude aangetroffen dus moet die groep vaker gecontroleerd worden. Zo blijf je doorgaan en voelt het alsof je heel goed bezig bent. En ik snap het ook wel, want je kunt niet iedereen controleren dus richt je je pijlen op de groep waar de meeste fraude is.

Echter stelt de wet dat er geen onderscheid gemaakt mag worden op bepaalde zaken, zoals geslacht, afkomst, huidskleur, religie etc. Al weet je 100% zeker dat daar de grootste buit zit, dan mag je nog niet op die gronden mensen extra controleren of juist niet controleren. Hoe effectief het ook is!

Het punt is namelijk dat het als effect heeft dat ook de onschuldige leden van groep X vaker gecontroleerd worden, dat ze minder vertrouwd worden, zich minder geaccepteerd en welkom voelen tot en met ze ook daadwerkelijk een lagere sociale status krijgen en lastiger aan een baan en huis komen. Op die manier is de kans groter dat ze in de criminaliteit komen en roepen de statistieken: "Zie je wel!"

[Wouterie]

Het geheime woord is doelmatigheid.

[Xander2]

Nee, de kern is verantwoording, niet doelmatigheid.

We kunnen ons blindstaren op ethiek maar via postcode of andere verborgen correlaties met etniciteit kom je op hetzelfde uit, dat is het resultaat van cultuur.

De overheid gaat de laatste tien jaar vol op het orgel op de lagere klassen, ik wil wel eens een lasten/baten evaluatie zien want bij die klassen valt nauwelijks iets te plukken.

En hardstikke leuk dat men hier op Tweakers probeert in te voelen hoe het in de banlieu's en de rauwe achterwijken, maar het is ronduit lachwekkend -- acceptatie en vertrouwd voelen -- je hebt werkelijk geen idee. Edit: allochtonen als kinderen behandelen is intrinsiek racistisch.

Alles om de veilige bubbel te handhaven.

[Reactie gewijzigd door Xander2 op 19 oktober 2024 16:32]

[Apiekool]

Maar ja, voor sommige clubs is de waarheid moeilijk te accepteren. Liever deugen dan feitelijk zijn..

Sinds wanneer is deugen iets negatiefs geworden? Mensen die deugen zijn degenen die de samenleving in stand houden. Ik ben heel benieuwd naar je redenatie.

[mbovenka]

Er is deugen en er is "deugen". Dat laatste is sociolect ter rechterzijde voor mensen die vooral willen laten zien hoe geweldig progressief ze zijn (zie ook "deugpronken").

[coolkingler1]

Nah, je beschrijving van "deugen" ben ik het mee oneens, en valt vaak gewoon in het eerste kamp omdat het wel echt deugt. Voor mij een hondenfluitje.

[mbovenka]

Dat mag. Ik doe geen uitspraak over het al dan niet correct zijn van de omschrijving, alleen dat het begrip "deugen" binnen bepaalde groepen zo gebruikt wordt. En een hondenfluitje voor wat?

[Apiekool]

Wat jammer dat zo'n mooi, typisch Nederlands, woord dan wordt misbruikt voor dit soort doeleinden.

[DoodVuurtje]

Ik lees eigenlijk allerlei feitelijke informatie die gebruikt worden in de risico-analyse. Hoe kan dat racistisch zijn? Volgens mij wordt persoonlijk informatie zoals een migratieachtergrond juist niet meegenomen als parameter.

Anders zijn vacatureteksten ook discriminerend.

[Reactie gewijzigd door DoodVuurtje op 18 oktober 2024 15:39]

[jumbos7]

Amnesty spreekt van discriminatie, niet racisme. Dat onder "kwetsbare huishoudens" vaker mensen met een migratieachtergrond zitten en die vaak niet-blank zijn staat daar los van.

Ik zie geen feitelijke informatie staan die relevant is voor een onderzoek toeslagenfraude. Dat iemand minder verdient is geen reden om iemand vaker te onderzoeken dan iemand die meer verdient. We hebben veelvuldig miljonairs die betrapt zijn op frauderen en dan gaat het vaak ook nog om veel grotere bedragen.

[Groningerkoek]

En hoeveel toeslagen krijgen miljonairs?

Niet relevant dus voor dit artikel.

[EraYaN]

Omdat onze wereld in het verleden nogal discrimineerde, is de historische data vol zit met vooroordelen. Die moet je eruit halen want die machine learning technieken versterken die bias alleen maar. En dan wordt het dus steeds erger. "Kijk we hebben alleen mensen met een donkere huidskleur gecontroleerd en alle fraudeurs hebben nu een donkere huidskleur, we hadden gelijk!" Terwijl dat natuurlijk niet is hoe het echt werkt.

[Wouterie]

Veel vacatureteksten zijn ook discriminerend. Maar dat geheel terzijde.

"hoeveel van het inkomen aan huur wordt uitgegeven en werkenden met een handicap." Dit is toch wel een pijnlijke hoor. Het is niet zozeer racistisch maar discriminerend.

[Zwarte_os]

Beste redactie,
het artikel noemt het opzetten van dit soort systemen juist een politiek wapen tegen gemakkelijke slachtoffers: de lage inkomens, en dan worden migranten en vluchtelingen daar nog eens extra binnen benadeeld. Jullie artikel leest nu een beetje alsof Amnesty deze algoritmes hekelt omdat vluchtelingen en migranten nou eenmaal feitelijk meer frauderen.

Uit het artikel:
"“From the outset, the risk-scoring system used by CNAF treats individuals who experience marginalization – those with disabilities, lone single parents who are mostly women, and those living in poverty – with suspicion. This system operates in direct opposition to human rights standards, violating the right to equality and non-discrimination and the right to privacy,” said Agnès Callamard, Secretary General at Amnesty International."

Verder, om even een spiegel voor te houden bij de rest: Frankrijk, en de rest van de EU, is gewoon hier een social credit systeem aan het opzetten. Als het in China gebeurt zijn we allemaal aan het gieren over hun absurde en links-fascistische dictatuur. Maar blijkbaar is het hier allemaal ok zolang we maar het idee hebben dat het groepen raakt die je niet mag.

[Reactie gewijzigd door Zwarte_os op 18 oktober 2024 16:33]

[ari3]

Het lijkt mij volkomen logisch dat de groep met de laagste inkomens, en dus aanspraak kan maken op toeslagen, meer gecontroleerd worden dan mensen met hoge inkomens. De hoge inkomens ontvangen immers geen toeslagen. En dat bepaalde etnische groepen oververtegenwoordigd zijn in de groep van lage inkomens maakt het nog steeds niet discriminerend. Die oververtegenwoordiging kan het resultaat zijn van reële omstandigheden, bijvoorbeeld omdat vluchtelingen die de voertaal en gebruiken van een land niet kennen gewoon moeilijker aan een goed betaalde baan kunnen komen en daarom statistisch meer laagbetaald werk doen.

[Ortep]

En als je dus al je opsporing capaciteit gaat richten op de lage inkomens, doe je minder bij de hoge inkomens en die kunnen dan rustig sjoemelen met de bijtelling van hun auto, btw fraude plegen, aftrekposten wat opschroeven en goochelen met aandelen, dividend en buitenlandse rekeningen.
Maar dat is lastiger omdat daar ervaren belasting adviseurs bij betrokken zijn.

[Reactie gewijzigd door Ortep op 18 oktober 2024 16:43]

[SPee]

Het gaat hier om de afdeling "toeslagen" en dus enkel om mensen die dus een toeslag aangevraagd hebben. Dat is dus niet de groep die de "bijtelling van hun auto, btw fraude, ..." van de belastingaangifte controleert. Daar is een andere groep controleurs voor, die weer hun eigen risico afwegingen hebben.

[MN-Power]

Maar dan is de groep toch gewoon 'de mensen die toeslagen ontvangen'? En dan zou ik ook aandacht schenken aan degenen die juist de hogere inkomens hebben, want die zouden wel eens geen recht op bepaalde toeslagen kunnen hebben als ze wat 'minder officiële inkomens bronnen' netjes op zouden geven.

[Groningerkoek]

Je loopt nu wel echt te zoeken in een poging je punt te maken.

Mensen die 2 ton per jaar binnenharken, maar slechts 30.000,- opgeven en toeslagen aanvragen die vallen natuurlijk ook onder deze opsporingsmethoden.

[MN-Power]

Wie heeft het over 2 ton? Ik heb het over mensen die 30000 opgeven, toeslagen aanvragen en (bijvoorbeeld) 5000 bijbeunen(waar ook nog eens belasting over betaald zou moeten worden). De categorie die jij noemt die loopt natuurlijk een keer tegen de lamp.

[Groningerkoek]

30.000,- is een hoger inkomen?

[MN-Power]

We hadden het over de groep mensen die toeslagen ontvangen en daarbinnen is het in elk geval niet (erg) laag.

Bovendien is het jouw voorbeeldbedrag...

En als we toch met aannames beginnen; Dat bijbeunen is geen probleem?

[Reactie gewijzigd door MN-Power op 18 oktober 2024 23:30]

[Groningerkoek]

Ik vindt het een probleem als mensen vanuit de bijstand bijbeunen. Ik vindt het minder een probleem als mensen naast hun baan bijbeunen.

Beiden is fraude en maatschappelijk aldus natuurlijk een probleem. Aan de andere kant is het soms ook een oplossing niet iedereen heeft het geld om zijn dak wit te isoleren.

[beeldbuijs]

Dit is een beetje het ‘ja maar maar frikandellen zijn ook slecht voor je’ noemen als het over roken gaat. Klopt, maar het is een ander onderwerp. #whatsboutism

[Zwarte_os]

"het artikel noemt het opzetten van dit soort systemen juist een politiek wapen tegen gemakkelijke slachtoffers"
Je leest hier overheen.

[NoTechSupport]

Ik heb het gevoel dat ik veel te weinig info heb om hierover te oordelen. Als het algoritme de enige manier is om te selecteren wie er onderzocht wordt (geen random factor) dan lijkt me dit een probleem. Na verloop van tijd worden alleen nog bepaalde groepen gecontroleerd wat dan weer zorgt dat hun cijfers hoog zijn. Het lijkt me daarnaast erg lang om 10 jaar hetzelfde algoritme te gebruiken. Dit zou op zijn minst geüpdatet moeten worden adhv de laatste cijfers.

[mjtdevries]

Uiteraard is een algortime niet de enige manier om te selecteren wie er onderzocht word.

Je kunt ook een 100% controle doen of een compleet willekeurige steekproef.
Feit is dat die veel minder efficient zijn en veel meer geld kosten, tot het niveau dat het onwerkbaar is.
Dus wil je iets verzinnen om het op een objectieve manier efficienter uit te voeren.

Maar met de redenatie van Amnesty is per definitie geen enkele risicoanalyse acceptabel.

Terwijl er volgens mij best methodes zijn waar de overgrote meerderheid hier achter zou staan.
Je zou bv kunnen kiezen dat je 60% willekeurige steekproeven doet en 40% op basis van de risicoanalyse proeven doet.
Dan heb je toch al een een grote efficientieslag gehaald terwijl je met het grote aantal willekeurige steekproeven kan toetsen dat het algortime geen onwenselijke uitkomsten geeft.

[hooibergje]

Dit omvat een laag inkomen, werkloosheid, woonsituatie, hoeveel van het inkomen aan huur wordt uitgegeven en werkenden met een handicap.

Ik zie hier niets discriminerends in. Fransozen die financieel krap zitten zullen eerder geneigd zijn om fraude te plegen.

[MN-Power]

Inderdaad, die zijn vast allemaal op deze lijst te vinden:

Wikipedia: Panama Papers

[mjtdevries]

De rijken plegen op een andere manier fraude.
En het fraude team dat daar op gespecialiseerd is richt zich uiteraard op de rijken en gaat controle op dat soort fraude niet uitvoeren onder mensen die arm zijn.
Of moeten die hun steekproeven ook gelijk verdelen onder de bevolking ipv de 1% die rijk genoeg is voor dat soort fraude?

[MN-Power]

Dat is het punt niet. De stelling was dat Fransozen met een tekort aan geld meer geneigd zijn om (zonder specifiek te zijn) fraude te plegen. Aan de andere kant van het spectrum (mensen met geld teveel ) is het ook echt niet een enkeling.

Het is IMHO een mentaliteitsdingetje die je in alle lagen aantreft. Ook al hebben die mensen (net/precies/ruim) voldoende, ze zullen de boel willen tillen omdat ze simpelgezegd egoïstisch zijn.

En het is zonde om die mensen weg te laten glippen, want als ik heel eerljjk ben gun ik het de groep die het echt krap heeft een klein beetje en de rest niet. Die stelen van mensen die wel eerlijk zijn. Ik ben er dan ook voor om voor iedereen in elke groep de pakkans even groot te houden, ook al maakt dat de totale pakkans misschien kleiner.

Het kan toch niet zo zijn dat als je 'eigenlijk geen goede reden hebt om fraude te plegen' je er ook makkelijker mee wegkomt?

[beeldbuijs]

Je onderschat hoe klein de pakkans wordt als je geen algoritme / red flags gebruikt. Dat betekent dat de pakkans vrijwel nihil wordt. Sterker nog, dit zal op termijn er voor zorgen dat er veel meer mensen gaan frauderen, want je komt er zeer waarschijnlijk toch wel mee weg.

Andersom ga je toch ook die paar controleurs die je hebt per vaak wel 100.000 mensen, niet hun tijd laten verdoen met 100% willekeurige controles als die nauwelijks effect hebben?

JUIST als je de mensen die het echt krap hebben wil helpen, help je die door de fraudeurs maximaal aan te pakken. Want gefraudeerd geld komt per definitie niet bij hen terecht.

[jdh009]

Ik zie hier niets discriminerends in. Fransozen die financieel krap zitten zullen eerder geneigd zijn om fraude te plegen.

Dit is juist een schoolvoorbeeld van discriminatie en stereotypering. De aanname dat arme Fransen binnen de Franse populatie eerder geneigd zouden zijn tot fraude, illustreert confirmation bias, waarbij men geneigd is om bewijzen te zoeken die een vooroordeel bevestigen, en attribution bias, waarbij gedrag direct wordt gekoppeld aan iemands sociaaleconomische status, zonder dat er een directe oorzaak-gevolgrelatie aangetoond wordt tussen armoede en fraude. Dergelijke generalisaties zijn juist schadelijk omdat ze mensen reduceren tot hun omstandigheden, in plaats van hen te beoordelen op hun individuele daden. Waardoor je juist discriminerend te werk gaat door een hele groep op basis van hun armoede te veroordelen en hen onterecht in verband te brengen met frauderend gedrag. Door op deze manier te denken, worden negatieve stereotypen versterkt en ontstaat er onterecht wantrouwen jegens een hele groep. Door direct of indirect te sturen op deze punten is juist ook de toeslagenaffaire ontstaan.

[Reactie gewijzigd door jdh009 op 18 oktober 2024 17:04]

[Groningerkoek]

Het ligt er natuurlijk aan hoe het uiteindelijk in de score wordt meegewogen.

Iemand die 1.000,- inkomen heeft maar 600,- aan huur uitgeeft is opmerkelijker dan iemand die 2.000,- verdient en 600,- aan huur uitgeeft. De eerste zeker als die ook nog een auto zou hebben heeft in theorie een financieel patroon waarbij er niet voldoende geld is voor de lasten.

[MN-Power]

Als het zo overduideljjk is weet degene met 2000,- dus ook dat ie gerust wat kan rommelen.

Patroonherkenning werkt ook de andere kant op. Fixeren op een bepaalde groep zorgt ervoor dat anderen de pakkans als nihil zien en dat kan nooit goed zijn.

[Groningerkoek]

Die kan nog steeds wegens andere factoren boven komen drijven. Daarnaast staat er nergens dat ze alleen onderzoek plegen naar mensen die volgens het algoritme aandacht behoeven.

[Roel1966]

Als het zo eenvoudig zou zijn maar helaas, fraude word juist vaak veel meer gepleegd net bij mensen die het er goed van kunnen doen. Mensen die het al niet al te breed hebben durven geen risico's te nemen omdat zij b.v. niet zomaar een advocaat kunnen betalen. Plus als zij dan boetes zouden krijgen dan raken ze nog dieper in de financiele put. Daarentegen bij mensen die geneog geld hebben maakt het niet zoveel uit omdat zij dat risico van boetes of een advocaat gemakkelijk kunnen betalen. Dus de stap naar fraude plegen is voor hun een heel stuk gemakkelijker dan voor mensen met weinig geld.

[Quintiemero]

“Aangezien de persoonlijke gegevens van deze mensen en hun gezinsleden op regelmatige basis worden verwerkt, vindt Amnesty bovendien dat er inbreuk wordt gemaakt op de privacy.”

Die is niet heel sterk. Elke gebruik van persoonsgegevens is een inbreuk op de privacy. De AVG geeft bijv juist aan wanneer die inbreuk gerechtvaardigd is.

[field33P]

Amnesty hekelt dat deze score wordt berekend op basis van factoren die discriminerend zijn ten opzichte van kwetsbare huishoudens, waaronder mensen met een migratieachtergrond of vluchtelingen. Dit omvat een laag inkomen, werkloosheid, woonsituatie, hoeveel van het inkomen aan huur wordt uitgegeven en werkenden met een handicap

Overigens kan de migratieachtergrond onmogelijk direct in het algoritme geplugd worden, omdat het in Frankrijk verboden is om deze informatie bij te houden.

[Reactie gewijzigd door field33P op 18 oktober 2024 20:50]

[Quintiemero]

Juist, dat betekent dat het niet gebeurt.

[Slooij]

Er zijn meer dan genoeg methodes om biases in data in te zien en te voorkomen, het ligt helemaal aan of die goed zijn toegepast of niet. Volgens het LQDN is dat niet het geval, maar of hun oordeel betrouwbaar is weet ik natuurlijk ook niet.
Dit soort algoritmes horen gewoon open source te zijn.

[Inflatable]

"vindt Amnesty bovendien dat er inbreuk wordt gemaakt op de privacy."

Ja dat vind ik ook elk jaar als ik al mijn gegevens aan de belastingdienst moet geven, ze willen zelfs precies weten wat ik verdient heb het jaar ervoor en hoeveel contant geld ik in huis heb etc, echt belachelijk!!!

(sarcasme)

[MN-Power]

"vindt Amnesty bovendien dat er inbreuk wordt gemaakt op de privacy."

Ja dat vind ik ook elk jaar als ik al mijn gegevens aan de belastingdienst moet geven, ze willen zelfs precies weten wat ik verdient heb het jaar ervoor en hoeveel contant geld ik in huis heb etc, echt belachelijk!!!

(sarcasme)

Dus eigenlijk zeg je dat vooral mensen die de overheid wantrouwen gecontroleerd moeten worden?

[Zwatelaar]

Ik vind het ook belachelijk, ik wil mijn abonnement bij de Belastingdienst opzeggen en restitutie van betaalde gelden