VN-rapporteur: SyRI leidt tot digitale stigmatisering van arme burgers

De speciale rapporteur van de Verenigde Naties op het gebied van extreme armoede waarschuwt voor risicoprofileringssystemen zoals het Nederlandse SyRI. Volgens Philip Alston leiden dergelijke systemen tot 'digitale stigmatisering' van arme burgers.

Alston uit zijn zorgen in een brief aan de rechtbank, voorafgaand aan een rechtszaak van het Platform Bescherming Burgerrechten. Dat platform heeft een rechtszaak aangespannen tegen de Nederlandse staat. De rechtszaak gaat over SyRI, het Systeem Risico Indicatie, dat door verschillende overheidsinstellingen wordt gebruikt om via gegevenskoppelingen fraude of overtredingen op te sporen. Het Platform Bescherming Burgerrechten wil SyRI onrechtmatig laten verklaren. De rechtszaak vindt op 29 oktober plaats.

In zijn brief schrijft Alston dat digitale innovaties weinig worden gebruikt voor sociale bescherming. Integendeel: burgers die uitkeringen krijgen, zouden juist worden neergezet als tweederangsburgers die de intentie hebben de verzorgingsstaat op te lichten. Volgens Alston wordt SyRI voornamelijk ingezet in gebieden waar veel arme en kwetsbare groepen wonen. SyRI 'geeft het stigma rond die groepen een digitale dimensie', schrijft Alston.

Alston hekelt ook het feit dat de overheid geen inzage geeft in de manier waarop SyRI werkt. "Een overheid die inbreuk maakt op fundamentele rechten zonder transparantie zet de deur open naar ondemocratische regeringsvormen", schrijft Alston. Hij wijst daarbij ook op het feit dat er in de politiek weinig over het systeem is gedebatteerd en dat politici weinig interesse hadden om te begrijpen hoe SyRI werkt. Alston denkt dat de overheid moeilijk kan bewijzen dat SyRI noodzakelijk en proportioneel is, zeker ook omdat meer dan eens is gebleken dat SyRI amper succes oplevert.

Reacties (118)

[Ynst2003]

Twee dagen geleden op nu.nl:

Gemeenten moeten de gegevens over betalingsachterstanden bij woningcorporaties, energie- en drinkwaterbedrijven en zorgverzekeraars in kunnen zien om problematische schulden te voorkomen. Dat staat in een wetsvoorstel dat staatssecretaris Tamara van Ark (Sociale Zaken) dinsdag naar de Tweede Kamer heeft gestuurd.

bron: https://www.nu.nl/geldzak...talingsachterstanden.html

Een paar maanden eerder in BNdeStem:

Het wapen is een 'interactive criminele kaart', waarmee de agent in de straat met één muisklik kan zien wie zich in de wijk bijvoorbeeld bezig houden met ondermijnende criminaliteit drugs- of wapenhandel.

bron: https://www.bndestem.nl/e...voor-criminelen~ad045646/

Men lijkt niet te beseffen dat al dit soort maatregelen juist een averechts effect hebben en verstikkend werken voor de samenleving. Als je maar een beetje afwijkt van 'wat normaal is' kun je gelabeld worden als 'potentieel verdacht'.

Meer info op bijvoorbeeld http://www.socialcooling.com

Wat meer voorbeelden uit America:
https://www.vice.com/en_u...-so-many-cameras-precrime
https://www.wired.com/vid...orithms-to-predict-crimes
https://www.youtube.com/watch?v=wRa-AucbN6k

en dan laat ik de voorbeelden uit China en Saoedi-Arabië achterwege.

Steeds een stapje verder naar 'Minority Report'; oftewel; je hebt nog geen misdaad gepleegd, maar alles wijst er op dat je dat wel gaat doen..


Dat dit géén science-fiction is, blijkt uit een anekdote van Dennis Mijnheer, journalist van de website followthemoney.nl

De camera kan eventueel met een geluidssignaal iemand waarschuwen die op het punt staat een misdaad te begaan.

(!!!!)

bron artikel: https://www.ftm.nl/artikelen/big-brother-dubai
fragment in podcast: https://soundcloud.com/ft...eft-het-maar-druk#t=28:50

[Reactie gewijzigd door Ynst2003 op 23 juli 2024 07:49]

[MSalters]

Ik ga er maar meteen een Godwin ingooien.

Na WO2 hadden we met alle recht in de wereld de ponskaartmachine kunnen verbieden. Die was aantoonbaar gebruikt voor genocide. En dan hadden we ook het hele traject naar computers de kop ingedrukt.

Gelukkig hadden we toen wél verstandige politici en journalisten. De enkele mogelijkheid voor misbruik mag niet leiden tot een verbod op die technologie. Onbegrip van technologia mag dat al evenmin.

De correcte oplossing is blijvende waakzaamheid. En ik zou dit VN rapport op precies die manier in onvangt nemen. "Dank U. Wij delen uw zorgen.". Meer is er niet nodig.

[rbr320]

de fout in je argumentatie is dat je de technologie en een implementatie over 1 kam scheert. Technologie is niet inherent slecht (of goed), maar een implementatie kan dat wel zijn, zoals jij in je voorbeeld al duidelijk maakt.

Zo ook met dit systeem. Technologieën zoals computers en het internet hebben onze levens op veel manieren verbeterd, maar een systeem als SyRI heeft aantoonbaar negatieve gevolgen voor specifieke groepen mensen in onze samenleving.

Het probleem zit hem dan ook niet in de technologie maar in deze specifieke implementatie. En onze eigen overheid deelt blijkbaar de zorgen van de VN en het Platform Bescherming Burgerrechten niet, wat mij dan weer zorgen baart.

[napel25]

Het onderscheid tussen technologie en implementatie is niet zo duidelijk als je suggereert. Iedere wet of regel die je op die willekeurige indeling maakt maakt weer nieuwe schrijnende gevallen.

Ik ben het met MSalters eens dat uiteindelijk onze eigen waakzaamheid de enige goede basis is waar je op terug kunt vallen.
En suggereren dat je met een wet iets voor eens en altijd goed hebt geregeld, is een gevaar voor die waakzaamheid.

[Ynst2003]

wij (de burgers) zijn er uiteindelijk zelf schuldig aan. Wij kunnen grote narigheid niet verdragen. We kunnen een grote aanslag niet accepteren. Nu hebben we mooie afgebakende systemen (in theorie) en daar mag alleen voor 1 bepaald doel door 1 bepaalde instantie in worden gekeken. Nou, prima lijkt me zo. Maar je kunt nog zoveel wetten en regels hebben, als er een grote aanslag (bijv. 100+ doden in NL) komt, heeft het allemaal geen zin.
Reken er maar op dat databases gecombineerd worden en alle beschikbare data gedeeld wordt.
(ook al was dat afgesproken om dat niet te doen). Achteraf wordt wel gekeken hoe we het juridisch recht lullen.

Na de aanslag heb je een aantal problemen:
Probleem 1: data die gedeeld/gecombineerd is, gaat niet meer terug. De verbanden zijn al gelegd.
Probleem 2: de databases staan nu in verbinding met elkaar. Dat gaat niet meer terug. Dat worden geen losse databases meer, waar alleen los in gesnuffeld mag worden.
Probleem 3: het algemene gevoel van de samenleving. 'Dit willen we nooit meer (die aanslagen)'. 'Zonder deze koppeling vallen er in de toekomst meer doden' Ga hier als politicus maar 's tegen in. Dat lukt je niet.

Oftewel; hartstikke leuk al die losse systemen die absoluut niet gedeeld/gecombineerd (mogen) worden...
1 grote crisis / aanslag en dat beleid is van tafel.

[Reactie gewijzigd door Ynst2003 op 23 juli 2024 07:49]

[rbr320]

Ik ben het met MSalters eens dat uiteindelijk onze eigen waakzaamheid de enige goede basis is waar je op terug kunt vallen.

Dat ontken ik ook nergens.

En suggereren dat je met een wet iets voor eens en altijd goed hebt geregeld, is een gevaar voor die waakzaamheid.

Dat suggereer ik of anderen in de discussie ook nergens en dat wij als burgers waakzaam moeten blijven ben ik het volledig mee eens.

[napel25]

Ik zeg ook niet dat jij dat suggereert. Maar misschien had ik die suggestie in mijn verhaal beter moeten voorkomen...

[Bert Gent]

Er is veel meer nodig dan "wij delen uw zorgen".
Dit is zuiver misbruik van technologie door een regering die incapabel of onwillig is om met problemen om te gaan. Failliet van jullie politiek.
Precies dezelfde tendens zien we hier in België met de NVA.

[Ynst2003]

En ik zou dit VN rapport op precies die manier in onvangt nemen. "Dank U. Wij delen uw zorgen.". Meer is er niet nodig.

en dan? Hopen dat het goed komt en goed zal blijven gaan?

[MSalters]

En dan? Alle toekomstige voorstellen op hun merites beoordelen. Dit Syri systeem muteert niet ongezien tot een Terminator AI.

[AmigaWolf]

Nee maar wel een alles waar Ynst2003 duidelijk met bewijs naar lijd, wat VEEL slechter is dan niet het hebben, nee sorry er is NIKS goed aan het SyRI systeem.

[Verwijderd]

Mooie poging, maar wie pleit er nu op een verbod van technologie, tenzij je specifiek profilering systemen bedoeld en dat dan vergelijkt met een ponskaartmachine (die zelfs in de 19de eeuw al algemeen nut had) ?

En welke maatregelen hebben de verstandige naoorlogse politici ingevoerd om te voorkomen dat een bezetter kan oplijsten wie er allemaal een vervelende levensovertuiging heeft ?

[ChAiNsAwII]

Algoritmes die burgers over een bepaalde kam scheren zijn niet te vergelijken met een ponskaartmachine, das wel heel makkelijk ... bedankt maar met deze comment doen we niks.

[Bert Gent]

Ook mijn eerste gedachte: Minority Report.
Dit stinkt echt enorm.

[Opi]

Iets meer dan een week geleden stuurde Minister Dekker een brief naar de Tweede Kamer waarin een voorstel gedaan wordt voor waarborgen tegen risico’s van data-analyses door de overheid. Kijk hier voor de bijlage van de brief.

[Sorcerer8472]

Heeft er iemand een goed artikel over achtergronden rondom SyRI? Want dit nieuwsbericht zegt me nu eigenlijk vrij weinig omdat ik niet weet wat/hoe/waar/wanneer.

[Verwijderd]

Niet over specifiek SyRI, maar wel over 'How algorithms punish the poor.' Zéér de moeite waard en ook nog eens uiterst recent (van afgelopen maandag).

[ajolla]

Verontrustend verhaal inderdaad.

[Varkraj]

Een agent die meteen weet of iemand die hij/zij/wtf moet benaderen een strafblad heeft en waarom. Scheelt bijvoorbeeld als je dan even een vinkje ziet bij ‘vuurwapengevaarlijk’.

[ajolla]

Een agent die z'n pet afneemt en een heer in een net pak groet en geen idee heeft dat 't een miljoenenfraudeur is omdat er bij mensen met een koophuis niet wordt gecontroleerd.

[joeri1]

Dit bracht mij al een heel eind: https://bijvoorbaatverdacht.nl/wat-is-syri/, artikel verwijst ook door naar de bronnen.

Ook een filmpje wat het kort uitlegt: https://www.youtube.com/w...continue=31&v=2GkXCzYdrBY

^{edit: typo}

[Reactie gewijzigd door joeri1 op 23 juli 2024 07:49]

[wankel]

Bedankt voor de links!

Heb je toevallig ergens een verwijzing naar de kosten(overschrijding) van het systeem gezien?

Ik kan zo 1-2-3 niets vinden; wel dat de voorloper van het systeem ("Black box", over toepasselijke naam gesproken) over de periode 2008-2014 al meer dan 20 miljoen (wow..) opgeleverd heeft.

[4x4]

Waar kosten dat soort projecten meer dan dat ze aan vangsten opleveren.

[Jan_Klaassen768]

Eens.
Is het daarnaast mogelijk om geen obscure afkortingen (SyRI) in headlines te plaatsen? Ik word er door getriggerd om het artikel te lezen omdat ik wil weten wat het betekend maar ik neem dat er genoeg mensen afhaken omdat ze niet weten waar het over gaat.

[cdwave]

Ik vroeg me al af of het iets met Apple te maken had...

[Shmorky]

Dit is een beetje dezelfde discussie als toen met het etnisch profileren van de politie.

De conclusie lijkt ook weinig met SyRI zelf te maken te hebben, en meer met de manier waarop opsporingsambtenaren het willen gebruiken. Natuurlijk gaan die in achterstandswijken, waar relatief veel mensen een uitkering krijgen, zoeken naar uitkeringsfraudeurs. Om dezelfde reden dat de politie niet gaat staan flitsen op wegen waar weinig mensen rijden.

Ik vind het een beetje krom om zo'n systeem (ervan uitgaande dat het goed werkt) niet in te zetten omdat het misschien negatief uitpakt voor... fraudeurs uit achterstandsgezinnen? Je gaat daarmee ook compleet voorbij aan het feit dat je een computersysteem op termijn net zo gemakkelijk een analyse kunt laten doen over bijv. alle bijstandsgevallen. Waarmee je die achterstandswijken ook als pilot zou kunnen zien.

[CAPSLOCK2000]

Ik vind het een beetje krom om zo'n systeem (ervan uitgaande dat het goed werkt) niet in te zetten omdat het misschien negatief uitpakt voor... fraudeurs uit achterstandsgezinnen?

Maar minder krom dan wanneer zo'n systeem in praktijk betekent dat de rijken niet meer gecontroleerd worden en dus overal mee wegkomen terwijl de armen steeds meer gecontroleerd en gestraft worden.
Je zou ook kunnen redeneren dat je juist de rijken extra streng moet controleren en bij de armen een oogje dicht moet knijpen. De rijken hebben meer mogelijkheden om alles goed te doen (en hoeven niet te kiezen tussen fraude en nieuwe schoenen), als er wel gefraudeerd wordt gaat het om veel grotere bedragen en ze hebben meer mogelijkheden (lees: geld) om hun fraude te verbergen.

[MSalters]

Die redenering snap ik niet. Er is een beperkte menskracht beschikbaar om zaken te controleren. Het controleren van armen is niet heel erg rendabel. Het is veel werk, fraude is sowieso zeldzaam, en als je al fraude vindt dan is het nog maar de vraag of ze het terug kunnen betalen. Vaak is het al uitgegeven. Maar de rijken met een Porsche op de oprit? Je kunt beslag leggen op het huis én de Porsche.

[MN-Power]

En dus is het misschien niet ideaal dat uit een dergelijk systeem vooral de armen komen rollen en niet de rijken die met professionele hulp van een account over de rand van de regels heen leunen omdat ze vinden dat ze teveel belasting betalen en/of het prima vinden om geld uit een bedrijf weg te sluizen en alle klanten en leveranciers met een lege handen achter te laten.

Als je niet uitkijkt rollen uit dat slimme systeem juist de overduidelijke gevallen die een mens ook had kunnen achterhalen. Je wil juist de red flags boven water krijgen die een mens niet ziet. En dan zit je vaak in de bevolkingsgroepen die beter/tot over zijn oren in de slappe was zitten.

Ik vind dan weer wel dat je beter vroeg bij fraude(/een eerlijke fout) kan zijn bij de minder welgestelden, want een naheffing over 3 jaar kan weleens een onoverkomelijke strop betekenen.

[Reactie gewijzigd door MN-Power op 23 juli 2024 07:49]

[MSalters]

"Als je niet uitkijkt"? Dat is precies wat ik wil!

Dit systeem doet routine-werk, overduidelijke zaken. Dat is werk wat je het beste door machines kunt laten doen, ook al kunnen mensen het. Mensen wil je juist de complexe, bijzondere zaken laten doen. Een AI systeem gaat geen nieuwe soorten fraude vinden.

[MN-Power]

Een goed AI systeem zal juist wél nieuwe vormen vinden en tot nu toe onbekende verbanden en verdachte zaken vinden. Alle bekende vormen van fraude en bijbehorende checks daarop zijn door eens mens te programmeren. Daarvoor heb je geen AI nodig.

Om het simpel te zeggen; Jij wil AI inzetten voor lopende band werk.

Let op, ik zeg niet dat je het simpele werk niet moet automatiseren, maar AI inzetten voor een '1+1' is niet bepaald efficiënt gebruik van het middel.

[Reactie gewijzigd door MN-Power op 23 juli 2024 07:49]

[Shmorky]

Ja das waar. Bij "de rijken" is sowieso veel meer te halen, en die zouden eigenlijk ook door een systeem als dit bekeken moeten worden.

Die rijken hebben volgens mij echter zoveel meer mogelijkheden om hun inkomsten te verbergen/wit te wassen dat het nagenoeg onmogelijk is hier een sluitend ML-systeem voor te bouwen. Ook omdat een paar duizend euro meer of minder sowieso al niet zo opvalt als iemand toch al veel geld heeft. Een uitkeringsfraudeur zal in de regel waarschijnlijk meestal zwart bijklussen of een andere cash-stroom verbergen. Dan kun je alleen al aan een uitgavepatroon zien of iemand de boel flest.

[onetime]

Een vriend van de familie heeft al heel lang een mooie uitspraak:
"gebruik je verstand, betaal contant"
Hoe wou je een uitgave patroon vaststellen?
(uit de tijd dat het sloeg op contant of op de lat)

[Shmorky]

Iemand die via z'n bankrekening nooit iets uitgeeft aan boodschappen of kleren oid. Of andere dingen die iedereen regelmatig nodig heeft. Als je op al dat soort gevallen een inspecteur afstuurt vindt je er vast wel een paar met een nieuwe auto voor de deur ofzoiets.

[MN-Power]

Ik zie genoeg mensen met cash betalen bij de supermarkt. Vooral oudere mensen en doet u het bonnetje maar figuren. Kost vreselijk veel tijd en irritatie, maar heb nooit het idee dat het stereotype sjoemelfiguren zijn. Zo lang mensen maandelijks een redelijk bedrag pinnen bij de automaat vind ik het ook een behoorlijke privacy invasie voor die mensen om alleen daarom een inspecteur te sturen. Als je op de centen let is een vast bedrag meenemen voor sommige mensen(niet voor mij) bovendien een stok achter de deur, weet niet of het zo handig is om dat als verdacht gedrag te markeren.

[onetime]

Doe mij maar dat bonnetje, kan ik tenminste mijn geld terug krijgen als ze het weer eens fout hebben gedaan. Oh ja, koop jij nooit iets met garantie? Bonnetje nodig. Of een geld terug actie.

[Verwijderd]

Jouw algoritme lijkt te gaan leiden tot digitale stigmatisering van de rijken. Waarom is dat minder erg?

[cdwave]

Als je een automatisch systeem hebt die goedkoop de "arme" fraudeurs opspoort, kun je de zo uitgespaarde dure mankracht inzetten om de rijke fraudeurs op te sporen.

Lijkt me juist een nivellerende werking te hebben...

[MN-Power]

Dit is een beetje dezelfde discussie als toen met het etnisch profileren van de politie.

De conclusie lijkt ook weinig met SyRI zelf te maken te hebben, en meer met de manier waarop opsporingsambtenaren het willen gebruiken. Natuurlijk gaan die in achterstandswijken, waar relatief veel mensen een uitkering krijgen, zoeken naar uitkeringsfraudeurs. Om dezelfde reden dat de politie niet gaat staan flitsen op wegen waar weinig mensen rijden.

Ik vind het een beetje krom om zo'n systeem (ervan uitgaande dat het goed werkt) niet in te zetten omdat het misschien negatief uitpakt voor... fraudeurs uit achterstandsgezinnen? Je gaat daarmee ook compleet voorbij aan het feit dat je een computersysteem op termijn net zo gemakkelijk een analyse kunt laten doen over bijv. alle bijstandsgevallen. Waarmee je die achterstandswijken ook als pilot zou kunnen zien.

Ik durf te wedden dat de snelheidsovertredingen hoger zijn en procentueel vaker voorkomen op lege wegen. Zo ook gesjoemel met geld, denk dat we meer geld verliezen aan de mensen ruim boven modaal(met shady belasting constructies) dan aan de armeren(waar er dan wel weer meer van zijn). Dus de vraag is wat je doel is, geld besparen of mensen straffen. En dan wat mij betreft ook nog of je de afweging maakt geld terug te vorderen van mensen die het toch niet nodig hebben (discussie op zich) of mensen die het eerlijk beschouwd eigenlijk wel nodig hebben. Uitkeringsfraude is dan misschien wel weer makkelijker te bewijzen, dus laaghangend fruit kan ook ern argument zijn.

[ManiacsHouse]

Tis algemeen bekend dat de bedragen van faillissementsfraude stukken hoger zijn, maar dat dit geen of minder prioriteit heeft. En ja het is de tendens vanuit de politiek (VVD etc) heerlijk makkelijk met het vingertje wijzen naar de 'zwakkere' groep die zich niet of minder makkelijk kunnen verdedigen.

[Verwijderd]

Tis algemeen bekend dat de bedragen van faillissementsfraude stukken hoger zijn, maar dat dit geen of minder prioriteit heeft..

Dat was mij niet bekend, heb je daar cijfers van?

[PomPomPom]

Oud persbericht:
https://www.graydon.nl/bl...tsfraude-booming-business

[Verwijderd]

Ik zie daar nergens een cijfer of vergelijk met sociale fraude

[MSalters]

Ik denk dat er wel een belangrijk verschil is. Aan de bovenkant van de inkomens wordt er op ingewikkeldere manieren gesjoemeld. Een bijstandsfraudeur in Rotterdam-Zuid gaat z'n uitkering niet via Panama wegsluizen.

Het praktische gevolg is dat je die fraude met uitkeringen wél effectief met geautomatiseerde systemen kunt opsporen, maar dat het opsporen aan de andere kant van het inkomensspectrum handwerk is van specialisten.

[MN-Power]

Daarom zeg ik ook laaghangend fruit. Aan de andere kant doet sociale controle daar ook al veel. Als Henkie een (in onbeschadige toestand) dure schadeauto geïmporteerd heeft en met eigen hand in zijn vrije uurtjes op werk weer opgebouwd hangen er al 10 buurtgenoten aan de lijn zo gauw hij voor de deur staat. Als Henk-Willem-Jan een Prosche naast zijn Range rover zet bij de villa kraait er geen haan naar.

Ik zou dit soort systemen dus juist voor de meer ongrijpbare en moeilijke zaken ingezet zien. Überhaupt moet je je afvragen of er veel goeds komt van geld afpakken mensen die aan de onderkant van het inkomensspecturm leven. Geen geld lijdt gauw tot nood breekt wet en eerlijk gezegd betaal ik dan liever belasting voor iemand die het niet verdient dan dat hij rottigheid gaat uithalen om rond te komen, ook al is het niet eerlijk dat hij geld verdient met op zijn krent zitten. Die kans is bij Henk-Willem-Jan niet heel groot.

[MSalters]

Je kunt het wel willen, maar het kán dus niet. Een geautomatiseerd systeem kan geen rechtshulpverzoek bij Panama indienen, of de EU overtuigen dat er strengere regels over Zwitsers bankgeheim moet komen. Dat is inherent mensenwerk.

[MN-Power]

Voor sommige ondrzoeken zal je dan ergens een human interaction krijgen. Het gaat trouwens vooral om te constateren dat geld van persoon X ergens 'weglekt'. Dat er ergens nog een persoon aan het werk moet is onvermijdelijk, ook bij uitkerings-/toeslagfraude. Er moet bijvoorbeeld toch iemand langsgaan om te kijken of er één of twee personen in een sociale huurwoning zitten.

Het systeem zorgt alleen voor een lijst met verdachte personen/omstandigheden. Niet met een af te leveren boete/terugvordering.

[Pyrone89]

True, bijstand is in de praktijk niet leven maar overleven

[Conzales]

Om dezelfde reden dat de politie niet gaat staan flitsen op wegen waar weinig mensen rijden.

In ieder geval ook niet op de plekken waar de 'veiligheid' in het geding is.

Uiteindelijk draait alles om geld, zo ook dit project.

[bed76]

Om dezelfde reden dat de politie niet gaat staan flitsen op wegen waar weinig mensen rijden.

Dus als er heel veel mensen rijden moet je controleren? Hoe groot is dan de kans dat je nog hard kan rijden? Juist op de rustige wegen wordt harder gereden omdat, je minder wordt gehinderd door ander verkeer. Daar kun je nog eens inhalen e.d., op drukke wegen kun je dat vergeten. Dus jij hebt liever dat ze een heleboel bekeuringen ophalen van 'lichte' hardrijders, dan een paar 'stevige' hardrijders?

Als je bovenstaande nou als metafoor gebruikt voor fraudeurs (of andere risicoprofielen). Ga dan kijken juist daar waar het minder zou opvallen. Dáár zitten de echte criminelen! Niet tussen de mensen die al geen cent te makken hebben. Je moet ze allebei aanpakken, maar het artikel suggereert dat juist naar de armen gekeken wordt.
Ik zou het dus liever andersom zien; eerste de excessen en dan de rest.

[.oisyn]

.edit: sorry niet goed gelezen.

[Reactie gewijzigd door .oisyn op 23 juli 2024 07:49]

[Varkraj]

Als het false positives oplevert is het simpelweg een ondeugdelijk systeem. Dan herstel je dat.

[Verwijderd]

In zijn brief schrijft Alston dat digitale innovaties weinig worden gebruikt voor sociale bescherming. Integendeel: burgers die uitkeringen krijgen, zouden juist worden neergezet als tweederangsburgers die de intentie hebben de verzorgingsstaat op te lichten.

Jammer dit soort text, wat aangaande alle feiten en de historische data rond juist die groep die elke keer in het nieuws komt als fraudeurs en oplichters? We willen toch juist dat de overheid mensen die het sociale systeem misbruiken opspoort en aanpakt zodat het systeem minder duur word en onze belastingen omlaag kunnen?

[JurGor]

De bijstand is er zodat mensen zonder inkomsten nog net het hoofdje boven water kunnen houden, kunnen leven rond het bestaansminimum in Nederland. 'Die groep'. Wees blij dat jij niet tot die groep behoort. En als je denkt dat het bij jou nooit zover zou kunnen komen, mis je nogal wat levenswijsheid.

Mensen in armoede lever je niet over aan een onverschillig systeem, waarin een klein systeemfoutje voor vreselijk onrechtvaardige gevolgen kan zorgen. En waar fouten tot kunnen leiden is ook in Nederland duidelijk, al was hier geen AI bij betrokken: https://www.volkskrant.nl...oppen-toeslagen~b756799e/

Dit zijn mensen zonder financiële speelruimte. Mensen die 's nachts wakker liggen over geld, want als de koelkast of de wasmachine vandaag kapot gaat, is er geen geld. Of geen geld voor de was, of geen geld voor eten. Deze mensen verdienen bescherming. Deze mensen verdienen geen rücksichtslose digitale opsporingsmechanismen.

[Verwijderd]

Die opsporingsmechanismen zijn om de rotte appels in die groep (net zoals die in andere groepen bestaan) er uit te vissen en te bestraffen en waar mogelijk hopelijk te deporteren. Het feit dat mensen arm zijn is geen reden dat er geen aanpak van fraude mag zijn als dat van toepassing is.

[arbraxas]

Klopt, maar dan wel gebaseerd op feiten. Dus daadwerkelijke fraude. Dit systeem geeft gewoon een soort kans berekening. Dit neigt gewoon naar schuldig tot onschuldig bewezen en is een zeer kwalijke zaak.

[Floor]

Anderzijds, bij de douane werkt het toch ook, er worden risico profielen opgesteld waarna observaties en controles plaats vinden.
Er wordt dus alleen gericht gecontroleerd.
Ik zie juist weinig bezwaren mits het goed afgekaderd is. Ook het ethisch profileren idee in Nederland terecht. Ik heb in mijn kennissenkring mensen die werkzaam zijn in de opsporing. Er zijn bevolkingsgroepen die bovenmatig vertegenwoordigd zijn in de criminaliteit. In plaats van deze gegevens positief te gebruiken (gerichte aanpak, onderwijs) moeten we doen alsof het probleem niet bestaat. Tenenkrommend. Het is zelfs zo erg dat er in de NOS berichtgeving gemeld wordt dat het om een verdachte van Nederlandse, Poolse afkomst gaat... en de rest?
Problemen kun je pas aanpakken op het moment dat ze worden erkent.

[Ynst2003]

ik vind het een zeer lastige discussie. Je hebt gelijk dat je de problemen niet moet ontkennen, maar ik denk dat velen zelf nooit zo'n situatie hebben meegemaakt. Het is vervelend om bij voorbaat 'verdacht' te zijn. En bij 'verdacht' bedoel ik eigenlijk meer van 'ik vertrouw je niet, tot dat het tegendeel is bewezen'. Terwijl ik hoop op een samenleving waar je standaard iedereen vertrouwt, totdat het tegendeel is bewezen. (naïef, ik weet het.)

Ik heb zelf een tijdje als taxichauffeur gewerkt. De reputatie die taxichauffeurs hebben, is dat ze 'onbeschoft' zijn, 'rijden standaard om', 'proberen je op te lichten'. Deze vooroordelen waren me bekend, maar ik ken mezelf en daar doe ik niet aan mee.

Toen ik zelf werkzaam was, probeerde ik mijn werk zo goed mogelijk te doen. Dus:
- netjes en respectvol naar de klant toe
- zo gericht mogelijk rijden van A naar B
- je aan alle verkeersregels houden
(gewoon normaal doen dus)

Soms had ik een situatie dat men vroeg;
(Dit was in mijn begintijd toen ik nog niet zo veel stratenkennis had.)
'Hoeveel kost het om naar naar straat x te gaan?' Ik gaf dan een prijsindicatie (bijv. 25 euro) en geef aan dat ik altijd op de meter rijd en op navigatie.

Klant wordt woest, 'oplichter dit, oplichter dat'. 'Dat ritje is maximaal 15 euro.'
Ik dacht 'shit'. De klant heeft gelijk, ik had een hele andere straat in mijn hoofd en die straat waar hij het over heeft is inderdaad veel dichter bij. Mijn fout, kan gebeuren, dat is menselijk.

Ik geef aan, 'ik heb me vergist, u heeft inderdaad gelijk. Die straat ligt dichterbij en de rit is rond de 13 euro.'
Maar de klant gelooft me niet. Want de klant heeft het vooroordeel 'alle taxichauffeurs zijn kut en proberen me op te lichten'. Wat ik ook probeer om uit te leggen dat ik 'm niet wil oplichten, maar dat het daadwerkelijk een fout van mij is, gaat er niet in.

of een andere situatie:
Klant wil naar hotel x. Wil op de meter en navigatie rijden. Prima. Geen probleem.
Ik weet waar het hotel is en pak de snelste route. Klant klaagt, want ik rijd niet volgens navigatie.
Ik geef aan dat de navigatie niet weet dat ik binnendoor kan rijden en niet via de rondweg hoef.
Ik heb namelijk een apparaatje waarmee ik over de buslijn mag rijden en dat die paaltjes die omhoog staan, naar beneden gaan.
Dit scheelt de klant ongeveer 12 euro. Ik probeer met de klant mee te denken. Klant gelooft me niet, want 'alle taxichauffeurs zijn kut en proberen me op te lichten'. Ik heb me inderdaad niet aan haar opdracht ('volgens navigatie rijden') gehouden, maar ik probeer het beste te doen voor de klant. Zelfs als ik uitleg waarom ik dit doe en dat het haar 12 euro scheelt (goedkoper is), gelooft ze me niet.

of nog een andere situatie:
ik rijd een klant van A naar B.
Ik geef aan dat ik een klein stukje (500m) om moet rijden want een bepaalde hoofdweg is al een paar weken afgesloten. De borden geven aan dat de weg afgesloten is van 15-06 tot en met 29-06 (voorbeeldje). 's Avonds heb ik de klant weer de auto en hij zegt dat ik bewust ben omgereden 's middags. Het is 28-06 en de weg is inderdaad al weer open, een dag eerder dan gemeld. Ik ga niet elke dag kijken of een weg toevallig eerder open is, dan wat de officiele borden vermelden. Maar volgens de klant ben ik 's middags bewust omgereden en eist korting op z'n tweede rit. Uitleg van mijn kant van het verhaal, helpt niet, want 'jullie proberen iedereen altijd op te lichten'. En zelfs als ik inschik, voelt het als verlies: 'je probeert je er nu onderuit te lullen en en/of af te kopen'.

(Mijn verhaal is niet om zielig te doen, of om slachtoffer te spelen, totaal niet zelfs. Maar ik had zo'n situatie (beschuldigd worden omdat bepaald werk doet en/of een bepaald uiterlijk hebt) nog nooit meegemaakt. Men gaat er van uit dat ik ze oplicht en als dat niet gebeurt, is het mee gevallen. Tegenwoordig pak ik de situatie overigens anders aan, en leg de gehele situatie meer duidelijk uit vantevoren.)

Ik ben verantwoordelijk voor mijn eigen daden en niet verantwoordelijk voor wat mijn conculega's doen en/of wat voor reputatie ze hebben.
Je bent taxichauffeur, dus ik vertrouw je per definitie niet en je moet je verantwoorden dat je geen oplichter bent.
Je bent moslim, dus ik vertrouw je per definitie niet en je moet je verantwoorden dat je geen terrorist bent.
Je bent Marokkaan, dus ik vertrouw je per definitie niet en je moet je verantwoorden dat je geen 'kutmarrokaantje' bent.
Je bent Roemeen, dus ik vertrouw je per definitie niet en je moet je verantwoorden dat je niet mijn huis leeg komt halen met je rondtrekkende bende.
Je woont in een probleemwijk, dus ik straf jou per definitie dubbel zo hard. (voorstel Dijkhoff)

Wat ik hier mee wil duidelijk maken is, ja, ik weet dat er vooroordelen zijn en vaak kloppen die inderdaad ook.
Maar het heeft een averechts effect om iemand bij voorbaat verdacht te maken.

Ik vind jou verdacht om dat je een blond meisje bent.
Nu klinkt dat heel gek, maar als we dat zeggen over Marokkanen is het geen probleem. (want die staan inderdaad hoger in de misdaadlijsten en blonde meisjes niet)

[Reactie gewijzigd door Ynst2003 op 23 juli 2024 07:49]

[Namixam]

Gevalletje, alle goede moeten onder de kwaden lijden?

[Ynst2003]

daar ben ik dus bang voor. Standaard vertrouwen we niemand en als je een fout maakt dan doe je dat expres en bewust.

Lekkere samenleving heb je dan.

[CAPSLOCK2000]

Ik zie juist weinig bezwaren mits het goed afgekaderd is. Ook het ethisch profileren idee in Nederland terecht. Ik heb in mijn kennissenkring mensen die werkzaam zijn in de opsporing. Er zijn bevolkingsgroepen die bovenmatig vertegenwoordigd zijn in de criminaliteit.

Er zijn twee vragen van belang.

Ten eerste de moeilijke vraag is hoe groot het verschil echt is en of een deel voorkomt uit vooroordelen en onderbuikgevoelens. Vooroordelen hebben de neiging om kleine verschillen enorm op te blazen. Als je het vooroordeel hebt dat mensen met groene ogen meer frauderen dan anderen en daarom alleen mensen met groene ogen controleert dan zul je zien dat je vooroordelen worden bevestigd; iedereen die je pakt heeft groene ogen.
Als je mensen maar lang genoeg volgt en bestudeerd vind je altijd wel iets en als je niet oppast krijg je dan een zichzelf versterkende spiraal. Je geeft overmatig veel aandacht aan een bepaalde groep en vindt verhoudingsgewijs dus ook steeds meer problemen in die groep, domweg omdat je niet op dezelfde manier naar andere groepen kijkt.

Als je eenmaal hebt vastgesteld dat het verschil echt bestaat is de tweede moeilijke vraag wat je er mee moet. Het is oneerlijke om mensen te beoordelen op grond van wat andere mensen hebben gedaan die toevallig op ze lijken. Het zou niet eerlijk zijn als de politie iedere ochtend met hun meetapparatuur bij je garage staat te wachten omdat je buurman toevallig een notoire hardrijder is. Als je iedere ochtend (onnodig) gecontroleerd wordt steek je vroeg of laat je middelvinger op naar die agent. Vervolgens krijg je een boete en bevestig je daarmee voor het systeem dat je een crimineel bent die extra gevolgd moet worden.

In plaats van deze gegevens positief te gebruiken (gerichte aanpak, onderwijs) moeten we doen alsof het probleem niet bestaat. Tenenkrommend.

Helaas blijkt steeds weer dat etnisch profileren in praktijk niet werkt omdat de groepen veel te diffuus zijn en de nijging bestaat nogal om naar de groep te kijken als de oorzaak van het probleem. Je krijgt dat correlatie in plaats van causatie. Dan kijken we niet meer naar waarom een bepaalde groep last heeft van bepaalde problemen, maar dat die prolemen inherent met de groep zijn verbonden. In plaats van "mensen met achtergrond X zijn vaak analfabeet en analfabeten hebben probleem Y" krijg je dan "mensen met achterond X hebbben probleem Y". We zouden ons moeten richten op analfabetisme maar focussen ons op de achtergrond en geven de verkeerde mensen de verkeerde hulp.
Als je begint met analfabetisme kun je vervolgens wel kijken hoe je binnen die groep mensen het beste kan helpen gegeven hun achtergrond, maar je moet niet met de (etnische) achtergrond beginnen.

[JurGor]

Problemen kun je pas aanpakken als je de oorzaken weet en die aanpakt.

Anders blijft het bij symptoombestrijding. En ja, de gevangenis vol gooien met 'bevolkingsgroepen die bovenmatig vertegenwoordigd zijn in de criminaliteit' - je bedoelt gewoon Marokkanen en Antillianen - dat is allemaal symptoombestrijding.

Zou dat werken? Kijk maar naar de VS waar ze precies dat doen: zwarte mensen voor het minste decennia in de gevangenis wegwerken. Nou, wat heeft dat geholpen zeg!

Natuurlijk moet je criminaliteit bestraffen. Maar criminaliteit bestrijden houdt meer in dan alleen bestraffen. En als je mensen die in armoede zitten door een digitaal systeem onrechtvaardig gaat behandelen dan duw je ze linea recta het afvoerputje van de criminaliteit in.

De politie is van de handhaving. Hun rol is het opsporen en bewijs vergaren voor de bestraffing. Ik kan het je kennissen daarom niet kwalijk nemen dat ze lijden aan beroepsdeformatie. Maar de rest van Nederland mag wel wat breder gaan kijken naar wat de problemen zijn van ons land.

Ons mooie Nederland. Het geld klotst er tegen de plinten, en nog nooit hebben de Voedselbanken zoveel mensen moeten helpen. Ga dat probleem eens erkennen.

[Verwijderd]

Ja. Maar dan graag alle fraude even hard aanpakken. En dat gebeurt dus niet.

[Varkraj]

Je zou dan denken dat de politieke partijen die de belangen van de lage inkomens behartigen hier korte metten mee zouden maken, gek genoeg gebeurt dat gewoon nooit.

[ajolla]

Politieke partijen die de belangen van hun achterban behartigen... daar ga je al de mist in.

[Cergorach]

burgers die uitkeringen krijgen, zouden juist worden neergezet als tweederangsburgers die de intentie hebben de verzorgingsstaat op te lichten.

Gee.... Waarom zouden ze dat denken, in die situatie zat Nederland toch absoluut niet in de jaren 80? [/sarcasme]

Het gros van de mensen, arm of rijk, zullen misbruik maken van de situatie als ze daar de mogelijkheid voor krijgen. Dat hebben we in het verleden meerdere keren gezien en zeer zeker niet alleen bij arme mensen in de bijstand, maar dat is wel wat erg pijnlijk is voor de doorsnee Nederlander. Omdat ze op de bank zitten van 'ons' geld. Daar tegenover staat mensen die belasting proberen te ontduiken (rijk en arm), dat is geld wat we nog niet hebben, dat raakt een ander gevoelig raakvlak.

Dat SyRI nog geen enkel geval heeft gevonden komt vanuit de Volkskrant welke zo zijn eigen politieke blik heeft en die nog wel eens wil twisten naar zijn eigen straatje... Er blijkt gewoon dat het amper wordt gebruikt en als ze het willen gebruiken krijgt men niet de resources of de kennis mee:

Vijf keer hebben gemeenten tot nog toe ministeriële goedkeuring gekregen voor een dergelijk onderzoek: Eindhoven, Capelle aan den IJssel, Haarlem en Rotterdam (twee keer). Er ligt nog een aanvraag van een gemeente te wachten op toestemming. Maar in geen van die gemeenten is met de algoritme-methode tot nog toe een enkel fraudegeval opgespoord.

Technische problemen, verkeerd aangeleverde data en discussie over de manier waarop het onderzoek moest worden uitgevoerd, leidden tot vertragingen. Ook speelde soms capaciteitsgebrek een rol, bij de deelnemende organisaties. De enige keer dat er daadwerkelijk via SyRI verkregen adressen nader zijn onderzocht, in Capelle aan den IJssel, bleek die informatie al bekend of inmiddels achterhaald.

Vervolgens staat er ook nog eens tegenstrijdige informatie in...

[TWyk]

Ik denk dat rijke mensen voor meer geld frauderen dan arme mensen.
Waarom dan dit soort systemen maken die vooral arme mensen tot doelwit hebben.
Daar zit wel aardig wat rechtsongelijkheid in.

[4x4]

Omdat rijke mensen dit soort miljoenen projecten kunnen ontwikkelen. Uiteraard weer ten koste van de arme groep mensen die al nauwelijks rond kunnen komen.

[Annihlator]

Naast dat je (ook als onbedoeld neveneffect) het beeld kan laten ontstaan dat niet alleen de ene vorm van fraude erger is dan de ander, is het in dit geval (m.i.) zelfs zo dat de vorm met een grotere impact een positieve bias dreigt te krijgen doordat (naar mijn vermoeden) de lage pakkans minstens onvoldoende af zal schrikken.

Daarbij durf ik in sommige gevallen van bijvoorbeeld belastingontduiking bij arme mensen eerder een argument in de trend dat die mensen het zelf zouden hebben gezien als "moeten, want overleven" dan bij de rijke personen waarbij het net-zogoed gebeurt; toch lijkt mij dat door de middelen die ingezet worden dat de pakkans bij die arme mensen alsnog groter is omdat die in het algemeen eerder in de kijker zullen vallen.

Zelf vind ik dat dubbel oneerlijk, ondanks dat ik alsnog niet het gedrag van de arme mensen ermee goed wil praten; ik neem het de andere zijde echter wel kwalijker, zeker daar zij ook voldoende inzicht mogen hebben in hoe zulke hebzucht uiteindelijk zondermeer een andermans kans danwel welvaart zal moeten ontnemen (zero-sum principe)
Naast dat van de kalere kippen natuurlijk minder te plukken zal zijn (ik vind dat een gepakte belastingontduiker die binnen eenzelfde tijdspanne maar een kwart van de relatieve ontduiking kan vergoeden eigenlijk ook voor 1 punt en iemand die vol kan vergoeden voor 4 punten mag gaan tellen in de statistiek), durf ik ook te vermoeden dat bij een grotere pakkans aan de "rijkere" zijde het controleproces minder verliesgevend zou kunnen worden (m.i.) dan het nu misschien wel is wanneer we daar daadwerkelijk goede algoritmen voor gaan vinden met dezelfde intensiteit als andersom, wat in het algemeen de financiele druk/last ervan misschien verlaagt (dit lijkt mij enkel positief), in ieder geval tot het moment dat het weer voldoende zal afschrikken.

Het komt met de recente berichtgevingen op mij over alsof je aan de arme zijde véél eerder verplicht wordt extra financiele gegevens af te staan dan wanneer iemand, naar mijn persoonlijke mening, buitensporig persoonlijk financieel goedbekoren is; die lijkt nu veel minder makkelijk binnen schot/zicht te kunnen komen; hiermee ontneem je je dus (m.i.) een potentiele kans iemand te vinden waarschijnlijk omwille van privacy terwijl andersom dat argument niet zo duidelijk meer lijkt te gelden... ik vind dat eigenlijk niet eerlijk als dat écht zo is. Simpel gezegd; "gelijke monniken, gelijke kappen".

[ManiacsHouse]

Is politiek gezien makkelijker scoren.

[CAPSLOCK2000]

Omdat ze op de bank zitten van 'ons' geld. Daar tegenover staat mensen die belasting proberen te ontduiken (rijk en arm), dat is geld wat we nog niet hebben, dat raakt een ander gevoelig raakvlak.

Die visie is precies het probleem waar die software ook last van heeft. Ten eerste zitten die mensen niet op de bank van 'ons' geld maar hebben de meesten zelf jaren lang gewerkt en meebetaald aan het systeem. Ten tweede zijn de proporties zoek. Iemand die 100 euro op een bijstandsuitkering fraudeert kan flink in de problemen komen en zal de rest van z'n leven extra streng gecontroleerd worden. Een CEO die een miljoen fraudeert op z'n belasting krijgt een boze brief met een naheffing, die wordt betaald en daarmee is de kous af.
Voor de maatschappij zou het veel beter zijn als we die paar CEO's aanpakken dan dat we grote groepen mensen lastvallen die toch al in het nauw zitten en waar nauwelijks iets te halen valt.

Dat SyRI nog geen enkel geval heeft gevonden komt vanuit de Volkskrant welke zo zijn eigen politieke blik heeft en die nog wel eens wil twisten naar zijn eigen straatje... Er blijkt gewoon dat het amper wordt gebruikt en als ze het willen gebruiken krijgt men niet de resources of de kennis mee:

Het is moeilijk om dat van buiten te beoordelen, maar het zou ook kunnen dat deze techniek nog niet klaar is voor algemeen gebruik. Uit de tijd dat ik zelf veel met AI deed weet ik nog wel dat het vrij makkelijk is om een AI te trainen die ongeveer het juiste doet, maar dat het heel moeilijk is om een AI te maken die precies het juiste doet. Er is altijd een zekere mate van vaagheid. Op zich is dat geen probleem, mensen zijn ook niet perfect, maar je moet je goed bewust zijn van de sterke en zwakke punten van zo'n systeem anders krijg je er alleen maar open deuren en onzin uit.

Een zwak punt van de meeste AI-systemen is dat ze vooral goed zijn in wat "normaal" is. Ze doen aan patroonherkenning. Om een patroon te kunnen zien heb je veel data nodig. Criminelen, oplichters en fraudeurs zijn uiteindelijk maar een klein deel van onze samenleving. Het is maar de vraag of we genoeg data hebben om die patronen goed te herkennen. De kans is heel groot dat we geen AI bouwen om bv fraude te herkennen, maar eigenlijk een AI bouwen om mensen te herkennen die op een of andere manier afwijken. Als er een patroon gevonden wordt moet je je altijd afvragen of je hebt gevonden wat je zocht, want de software zal al snel kiezen voor het meest simplistische verband. "Alle pensioen fraudeurs zijn ouder dan 65 jaar oud" wordt dan "Iedereen die ouder dan 65 is, is bij voorbaat verdacht van pensoenfraude".

Om daar goed mee om te gaan heb je experts nodig om het systeem te bouwen en van goede data te voorzien. Het zou best wel eens kunnen dat er nog niet genoeg werknemers zijn die hier mee om kunnen gaan. De genoemde problemen wijzen daar wel op. Het middel kan dan nog zo mooi zijn, maar als er niet genoeg mensen zijn die het kunnen gebruiken heb je er niks aan. Vergelijk het maar met de snelle auto's die de politie heeft gekocht, om er vervolgens achter te komen dat er niet genoeg agenten zijn met het speciale rijbewijs dat nodig is om daar mee te mogen rijden. Die staan dus langs de kant want het zou te gevaarlijk zijn om gewone agenten er mee te laten rijden.

[MSalters]

[...]
die mensen [werkelozen] zitten niet op de bank van 'ons' geld maar hebben de meesten zelf jaren lang gewerkt en meebetaald aan het systeem.

Dat is al lang niet meer waar. Door de krappe arbeidsmarkt is er een kleine groep "frictiewerkeloosheid" (tussen twee banen), maar de bulk van de werkelozen zijn langdurig werkeloos met een 'grote afstand tot de arbeidsmarkt' zoals het in het jargon heet. Dan moet je denken aan mensen zonder startkwalificatie, die de taal niet spreken, een laag IQ hebben, een drugsverleden of strafblad hebben, en meestal een combinatie van meerdere van die factoren.

Als er een patroon gevonden wordt moet je je altijd afvragen of je hebt gevonden wat je zocht, want de software zal al snel kiezen voor het meest simplistische verband. "Alle pensioen fraudeurs zijn ouder dan 65 jaar oud" wordt dan "Iedereen die ouder dan 65 is, is bij voorbaat verdacht van pensoenfraude".

Ook dat is al lang niet meer waar. Het was kenmerkend voor jaren-80 expertsystemen. Zelfs een dom, simpel lineair SVM uit de jaren 90 zal al zien dat er andere factoren meespelen.

[Varkraj]

Ook dit argument stoelt op whataboutism, dat er grote jongens zijn die ook de boel flessen en daar dankzij lepe advocaten makkelijker mee wegkomen betekent niet dat je anderen zonder de mogelijkheden om professioneel op te lichten daarom dient te ontzien.

[CAPSLOCK2000]

Dat is niet mijn bedoeling, al snap ik dat het misschien zo lijkt.
Ik zeg niet dat we fraude niet moeten opsporen. Ik zeg dat we dit middel niet moeten gebruiken om fraude op te sporen.
Net zoals ik tegen marteling ben als opspoormiddel of straf. Hoewel het middel soms best zal werken denk ik dat de nadelen groter zijn dan de voordelen.

[Varkraj]

Hoe kun je iemand martelen met informatie? (Ik vraag dit voor een vriend)

[CAPSLOCK2000]

Dat staat er niet. Ik maak een vergelijking met een ander ongewenst middel.

Maar omdat je het vraagt... "martelen met informatie" zou een omschrijving van chantage kunnen zijn. "Als jij niet X doet, dan publiceer ik deze foto's en dan weet de hele wereld dat jij ...".

[Sandor_Clegane]

Er is onevenredigheid in de mate waarin mensen getoetst worden. Je doopceel moeten lichten voor een uitkering is heel normaal tegenwoordig. En dat allemaal omdat we niet gewoon geld aan mensen kunnen geven zonder dat zij eerst moeten aantonen dat ze het wel erg genoeg hebben zodat ze dit "verdienen".

[Varkraj]

Erm. Wag maar tot jij dat geld dat gegeven wordt mag gaan afdragen.. Voelt ineens heel anders, geld dat jij bij elkaar gezweet hebt afstaan aan mensen die zo’n uitkering ‘benzinegeld’ noemen...

[Sandor_Clegane]

Dat is niet het gros. En die mensen is geen eer aan te behalen en die zullen ook maar weinig last hebben van deze systemen. Het zijn juist weer diegene die het wel nodig hebben die je hier mee pakt.

Beetje hetzelfde als met DRM, het wordt toch gekraakt en diegene die er last van hebben zijn zij die het spel/muziek/film rechtmatig hebben gekocht en door allerlei hoepels moeten springen om het aan de praat te krijgen. En die het toch wel zouden kraken hebben het toch al via een torrent ofzo.

[Verwijderd]

Iemand die 100 euro op een bijstandsuitkering fraudeert iemand die per ongeluk vergeet 50 euro bijverdiensten op te geven, een formulier verkeert invult of te laat instuurt kan flink in de problemen komen.

Dat hebben we te danken een betrekkelijk recente, extra stenge wet die uitkeringsfraude moet tegengaan. En weet je aan wie we die wet te danken hebben? Aan deze oud-staatssecretaris van sociale zaken. Ja écht! 'It takes one to know one,' zouden de Engelsen zeggen.

[Conzales]

Daar tegenover staat mensen die belasting proberen te ontduiken (rijk en arm), dat is geld wat we nog niet hebben, dat raakt een ander gevoelig raakvlak.

Wat een ander gevoelig raakvlak is, is dat grote bedrijven de belasting ontduiken. Daar valt veel meer te halen. Door allerlei geheime afspraken betalen zij bijna 0 belasting en mogen de burgers de rest bijleggen. Voor de staat levert het ongetwijfeld geld op.

[Cergorach]

Daar valt veel meer te halen.

En ook veel meer te verliezen. In verschillende gevallen wordt er juist meer geld hierheen gehaald door dergelijke afspraken, liever een beetje van veel, dan veel van niets.

@Sandor_Clegane Dan gaan ze naar een ander land wat wel ja zegt en daar gaan miljoenen Nederland uit. Dat beetje van veel is nog steeds miljoenen en dat zijn heel veel bruine bonen...

[Reactie gewijzigd door Cergorach op 23 juli 2024 07:49]

[Sandor_Clegane]

Dit is ook zo'n dooddoener, in je handjes knijpen voor de kruimels van grote bedrijven.

Gewoon betalen, klaar. Geen geneuzel. Bartje bidt niet voor bruine bonen was het toch?

[Sandor_Clegane]

Dat zal wel meevallen en zit je te wachten op dat soort parasieten? Als zij zo makkelijk opstappen dan is de economische inbreng ook maar weinig. Of denk je dat wij hier zoveel overhouden van die brievenbus firma's? Die hebben niemand in dienst en betalen gewoon niet wat ze verschuldigd zijn.

[MSalters]

Die firma's hebben hier inderdaad geen fabrieken. Maar ze houden wel advocaten en accountants aan het werk. Op die manier hebben we in Nederland een fors aantal banen op HBO+ nivo, met dus ook een bijbehorende inkomstenbelasting.

En inderdaad, een boekhouding kan zo op de email. Die bedrijven kunnen letterlijk in een weekend verhuizen.

[MSalters]

Als het een afspraak is, dan is het dus per definitie geen ontduiking meer.

En de betaalde belasting van grote bedrijven staat gewoon in de jaarverslagen. De belastingdienst geeft die cijfers niet, nee, maar die maak evenmin jouw belastingaangifte openbaar.

[Sandor_Clegane]

Het gros van de mensen wil gewoon een bestaan, deel uitmaken van de samenleving en daar een steentje aan bijdragen. Dit soort stemmingmakerij wordt altijd gebruikt om dit soort systemen aan de man te brengen, het is het "terrar en kinder misbruik" argument maar dan ten opzichte van hulpbehoevenden.

Er zullen heus mensen zijn die gewoon niet willen, maar dat is niet het gros.

Ik wordt een beetje flauw van het idee dan mensen die aanspraak maken op deze regelingen allemaal klaplopers zijn en zijn ze het nu niet, dan wel in de toekomst als ze daar de kans voor krijgen.

Het mooie is dat er wel geld is voor dit soort systemen maar als er geld betaald moet worden voor sociale voorzieningen dan is het allemaal moeilijk en moet er bezuinigd worden. Ik durf te wedden dat als het geld dat aan dit systeem is verkwist gewoon aan mensen was gegeven die het nodig hebben, zonder strings attached, het een positievere invloed op de samenleving had gehad dan nu het geval is.

[Reactie gewijzigd door Sandor_Clegane op 23 juli 2024 07:49]

[Sandor_Clegane]

Het zou je verbazen.

Maar het schiet nu toch echt wel door.

[...]

Uit ervaring (nogmaals jaren 80) is dit gewoon idealistisch geprattel wat geen voet in de realiteit heeft. We werken omdat het moet, niet omdat wel het echt willen. Werken om te leven en niet leven om te werken.

Werken om te leven.... Die calvinistische inborst is echt een ding hier.

[DropjesLover]

Het systeem kan goed zijn, maar machine learning bias is gewoon een reëel gevaar.
Daarnaast komt bij de armere bevolkingsgroepen door onkunde in het oerwoud aan regels ook veel niet-opzettelijke fraude voor.

[bigbadbull]

vind dat niet erg dat die laatste groep er ook uitgelicht zou worden, echter om dan niet bestraffend op te treden maar om de mensen net verder te helpen.
Helaas is er in de praktijk enkel de bestraffing dat meestal uitgevoerd wordt en blijft deze groep in de kou staan.

[PcDealer]

In dat geval vindt er wel iets plaats wat dan niet hoort en stop gezet moet worden. Maar zo ik begrijp werkt die Syri met weinig resultaat.

[Juggernaut1987]

Waarom zou je niet gecontroleerd mogen worden als je een uitkering krijgt?
Je krijgt die uitkering op basis van spelregels, overtreed je die is het prima dat je daarvoor wordt gestraft. Dat er voor deze controle systemen worden ontwikkeld is dan toch niet perse iets negatiefs?
Dat dit systeem wordt ingezet in gebieden waar veel mensen met een uitkering wonen is dan toch logisch?

[TWeaKLeGeND]

Ik krijg geen uitkering, nooit gehad, geen subsidies, nooit toeslagen op de zorgtoeslag na gehad. Toch gaat men in mijn leven snuffelen omdat ik woon in wijk x. Ken wel genoeg fraudeurs die ver boven de onderlaag van de samenleving zitten maar die worden doorgaans niet eens bekeken. Waarom ik wel geautomatiseerd? Of je moet maar een beetje van de norm afwijken dat is ook weer iets vergelijkbaars. Wel op de achterpoten dat de Chinezen graag gehoorzame eenheidsworst wensen en oa daarom afwijkende oeigoeren opruimen maar hier spelen soortgelijke emoties ook gewoon.

Dat we fraude moeten aanpakken, uiteraard. Maar dan wel op elke laag en niet alleen de kleine visjes, het laaghangend fruit, privacy van bepaalde groepen in het geding brengend.

Privacy is er voor iedereen of voor niemand. Als onze samenleving een akkoord geeft voor verregaande data koppeling, controles, algoritmes etc, dan passen we die toe bij iedereen en anders alleen in specifieke gevallen. (en dus niet wijken op basis van welvaart)

[MSalters]

Even checken hoor, maar stel: als ambtenaar zie ik een bijstandsuitkering in een villa-wijk. Dat lijkt me verdacht - er zijn grenzen aan het eigen vermogen wat je mag hebben, en een villa zit daar boven. Maar dat mag je dus niet opvolgen - de wijk waarin iemand woont mag niet meespelen?

En als een ambtenaar geografische informatie mag gebruiken voor een eerste schifting, waarom mag een algoritme dat dan niet? In beide gevallen wordt er toch naar de concrete feiten gekeken in het daadwerkelijke onderzoek.

[TWeaKLeGeND]

Heel goed, als ambtenaar valt jou 1 geval op. Je klopt niet op elke deur van welke wijk dan ook.

[Juggernaut1987]

Daar heb je een goed punt, er zou niet in jouw zaken gesnuffeld moeten worden.

[OxWax]

Waarom zou je niet gecontroleerd mogen worden als je een uitkering krijgt?

Vraag dat eens aan de Marokkaanse of Turkse overheid als men onderzoek probeert te doen naar huizenbezit bij allochtone uitkeringstrekkers?

[Juggernaut1987]

Precies, die reageren niet en zo wordt er enorm veel gefraudeerd.
Dat is ook niet ok, maar omdat bij dat voorbeeld de controle faalt moet je alle controle maar laten?

We betalen met z'n alle voor fraude, prima dus als er tegen fraude op wordt getreden.

[OxWax]

Erger nog, de eigen rechters verklaren het 'racisme'

[koelpasta]

Waarom zou je niet gecontroleerd mogen worden als je een uitkering krijgt?

Omdat er zat andere vormen van fraude bestaan die de samenleving waarschijnlijk meer geld kosten maar die niet of enkel mondjesmaat worden gecontrolleerd.

[Juggernaut1987]

Dat is geen excuus om deze vorm dan maar niet te controleren. Het middel is echter misschien niet ideaal zoals @TWeaKLeGeND aangeeft.

[koelpasta]

Dat is geen excuus om deze vorm dan maar niet te controleren.

Maar het controleren op zich is niet het probleem. Het gaat erom dat men onevenredig harde/blinde/privacyschendende methodes heeft bedacht om dit type fraude op te sporen. De heftigheid van dit systeem lijkt vooral tot stand gekomen te zijn op basis van onderbuikgevoel. Zo zie je dat het systeem middels privacybrekende methodes informatie weet op te sporen die al bekend was maar waar gewoon niet naar gehandeld werd.

[Danaiden]

Op zich een terecht commentaar, zeker met in het achterhoofd de gevoeligheid van machine learning voor diens training data (al heeft dat in dit geval niet eens heel veel invloed, het leidt er wel toe dat de werking van het systeem niet eenvoudig overlegd kan worden). Gegeven het feit dat er slechts een beperkt aantal manuren beschikbaar is voor het opsporen van dergelijke fraude, lijkt mij dat het gebruik van een dergelijk systeem - dat risicogevallen aangeeft - bijna niet te overkomen is. Met gebruik van deze gegevens zouden in theorie de manuren het meest effectief kunnen worden besteed, immers worden hierdoor enkel gevallen met een hoog risicogehalte onderzocht.

Het probleem ligt echter bij de inzet van het systeem. Niet dat ik wil pleiten voor een Nederland-brede uitrol hiervan, integendeel, maar het besluit tot het uiteindelijke gebruik hiervan ligt uiteindelijk bij personen, waardoor het grootste te behalen voordeel (dat effectief besteden van manuren) teniet gedaan wordt. In feite besluit men nu voor het systeem vanuit welke data een risicogroep naar voren moet komen, in plaats van dat het systeem dit zelfstandig bepaalt.

Met privacy in het achterhoofd lijkt het me bijna onmogelijk om een versie van SyRI te trainen (gezien je hier idealiter erg veel beschikbare gegevens voor gebruikt). Ook het trainen zonder bias lijkt erg lastig, ervan uitgaande dat door eerdere menselijke bias er meer onderzoek gedaan is naar bepaalde doelgroepen, waardoor het systeem hier een (wellicht niet representatief) percentage aan fraudegevallen van ontvangt. Ook het eerlijke gebruik van SyRI zal erg lastig zijn in combinatie met privacywaarborging. Het systeem kan eigenlijk enkel rechtvaardig gebruikt worden wanneer iedereen door het systeem gescreend wordt, hetgeen zeer zeker niet wenselijk is vanuit een privacyperspectief.

[Sandor_Clegane]

Voor iedereen die denkt dat een uitkering gratis geld is en het vast geweldig en simpel is raadt ik aan om "I Daniel Blake" te kijken en dan even flink wat introspectie te doen.

https://www.youtube.com/watch?v=2Dt-VYlVchc