Tweede Kamer wil dat overheidsinstanties ingrijpende algoritmes melden

De Tweede Kamer wil dat overheden en overheidsinstanties het gebruik van ingrijpende algoritmes melden bij de toekomstige algoritmetoezichthouder. Algoritmes kunnen namelijk het risico meenemen van ongelijke behandeling en uitsluiting, zo staat in de aangenomen motie.

Volgens de motie worden algoritmes steeds vaker gebruikt door de overheid en overheidsinstanties voor automatische besluitvorming. Bij deze algoritmes ligt, volgens medeinitiatiefnemer Kees Verhoeven, discriminatie op de loer. Daarom moeten dergelijke instanties volgens de motie het gebruik van 'ingrijpende algoritmes' melden bij de aankomende algoritmetoezichthouder.

De Kamer stemde in juni al in voor de komst van die toezichthouder, ook vanwege de mogelijk discriminerende werking van algoritmes. Volgens de vandaag aangenomen motie moeten overheidsinstanties zelf een melding doen wanneer zij een dergelijk algoritme gebruiken. Dit omdat de regering volgens de initiatiefnemers 'geen goed zicht heeft op de ontwikkeling en inzet van alle algoritmes door deze overheden en overheidsinstanties'.

Hoe die toezichthouder er precies uit moet gaan zien is niet bekend; het ministerie van Binnenlandse Zaken is nu een voorstel aan het uitwerken. Of een bestaande toezichthouder die taak moet krijgen of daar een nieuwe voor moet worden opgericht, is niet duidelijk.

D66-Kamerlid Kees Verhoeven pleit sinds vorig jaar september voor een algoritmewaakhond. Hij vindt dat de rekenformules te abstract zijn en dat er weinig transparantie is. Vorig jaar noemde hij het voorbeeld van een burger die inzage moet kunnen krijgen als er algoritmes zijn gebruikt bij een eventueel onterecht oordeel over het niet uitkeren van ziektekostenvergoeding.

Eerder zei de Autoriteit Persoonsgegevens al dat overheidsinstanties transparanter moeten zijn over het gebruik van algoritmes. De algoritmes nemen zelf geen beslissingen, maar adviseren de ambtenaren wel. Onder meer de Belastingdienst en gemeenten gebruiken algoritmes, om bijvoorbeeld fraudeurs op te sporen.

Reacties (81)

[CAPSLOCK2000]

Met de gedachte achter dit voorstel ben ik het helemaal eens, maar ik stoor me wel aan het woord "algoritme" dat sinds een paar maanden te grabbel is gegooid als term voor "alles wat ik niet snap". Mensen vinden de term "Kunstmatige Intelligentie" te veel een science fiction term, en ergens klopt dat ook wel.

Opeens is de term vervangen door "algoritme". Ergens is dat beter. Het woord is technisch gezien nauwkeuriger dan het zeer wazige "kunstmatige intelligentie".
Maar het is eigenlijk nog steeds geen goede term omdat "algoritme" veel breder is dan "spionage & reclame" waar de meeste mensen aan denken.

Ik denk dat Kees Verhoeven zelf wel weet hoe het zit, maar de meeste van z'n collega's niet. Ik zie ze helemaal in staat om een algehele meldplicht voor algoritmes in te stellen, om er dan achter te komen dat ze de wetboeken niet kunnen aanpassen zonder algoritmes te gebruiken. (Zo werkt het in praktijk natuurlijk niet, maar je snapt het punt wel).

Het doet me allemaal erg denken aan de "cookiewet". Een wet waar ik nog steeds achter sta, maar de naam is zeer misleidend en dat is flink tegen die wet gebruikt. Ze hadden het de anti-tracking-wet moeten noemen, dat was een stuk duidelijker geweest.
Nu doen tal van sites/mensen doen nog steeds of alle cookies verboden zijn en alle andere vormen van tracking niet, ook al is de "cookiewet" inmiddels vervangen door de AVG/GDPR/

[Reactie gewijzigd door CAPSLOCK2000 op 22 juli 2024 23:08]

[vectormatic]

maar ik stoor me wel aan het woord "algoritme" dat sinds een paar maanden te grabbel is gegooid als term voor "alles wat ik niet snap". Mensen vinden de term "Kunstmatige Intelligentie" te veel een science fiction term, en ergens klopt dat ook wel.

Opeens is de term vervangen door "algoritme". Ergens is dat beter. Het woord is technisch gezien nauwkeuriger dan het zeer wazige "kunstmatige intelligentie".
Maar het is eigenlijk nog steeds geen goede term omdat "algoritme" veel breder is dan "spionage & reclame" waar de meeste mensen aan denken.

Mee eens, bubble sort is ook een algoritme, hell, 3 regels code kan een algoritme zijn, er zijn dagen dat ik weinig anders doe dan algoritmes schrijven, heeft geen ene flikker met machine learning, AI of neural networks te maken, laat staan dat ik ergens in de buurt van een algoritme kom wat maatschappelijke zaken scheef zou gaan trekken omdat het bepaalde bevolkingsgroepen zou bevoordelen

[Creesch]

Het grappige is dat het sorteren van data juist één van de zaken is die invloed kan hebben op het treffen van bepaalde bevolkingsgroepen. Het voorbeeld wat ik bij een eerder bericht hierover heb geplaatst is hier in feite een voorbeeld van. Het verschil zit hem dan volgens mij ook in het feit dat als je iets vergelijkbaars zou doen met sorteer functie in Excel (bij wijze van spreken) er nog een mens er conclusies aan moet verbinden terwijl het hier meer gaat om zaken waarbij software de conclusie trekt.
Een mens zal (hopelijk) zien dat het feit dat iemand overeenkomsten heeft met een bepaalde groep alleen niet genoeg is om conclusies aan te verbinden.

Dus hopelijk zal de formulering rondom meldplicht hier rekening mee houden. Aan de andere kant zorgt dat ook weer voor situaties waarbij overheidsinstanties zullen doen alsof hun neus bloed. "We dachten niet dat dit specifieke gebruik onder de definitie van algoritmes zou vallen waarbij er sprake is van meldplicht".

[incaz]

Ook 3 regels code kunnen de moeite van het melden waard zijn, en ingrijpende gevolgen hebben. Dat gaat zeker niet alleen om machine learning.

[blorf]

Net als met de cookiewet naamgeving wordt hier volgens mij ook ergens om heen gedraaid:
een algoritme is iets anders dan een software-constructie met de intentie te misleiden of activiteiten te verbergen. Ik ben geen jurist, maar wat overheid betreft hebben we toch de wet openbaarheid van bestuur waar dit onder valt en al gehandhaafd zou moeten zijn? De manier waarop beslissingen worden genomen verstoppen in software lijkt me sowieso ongewenst.

[Reactie gewijzigd door blorf op 22 juli 2024 23:08]

[Stijn Weijters]

AI: Zoekmachine voor een vooraf opgestelde dataset gebruikt voor een database, zoals kijken of tomaten rood genoeg zijn om geplukt te worden.

[OxWax]

In UK mag het ook niet meer.
Ipv de politie die zogenaamd aan racial profiling deed, was nu de software de 'zwarte Piet'(sic)

Computer software intended to predict where and when crimes would occur has been scrapped by a police force.
Kent Police was the first force in England and Wales to introduce the "predictive policing" system in 2013.
Supt John Phillips said it was "challenging" to demonstrate whether the system had enabled police to reduce crime.
Officers said the software had been "really useful" for "proactive" policing.
The software, created by US firm PredPol, was introduced across the county in April 2013 after a four-month trial in Medway saw street violence fall by 6%.

De realiteit moet blijven ontkend worden ...
https://www.bbc.com/news/technology-47118229

[Reactie gewijzigd door OxWax op 22 juli 2024 23:08]

[Sorcerer8472]

De wetenschappelijk bewezen realiteit is dat sommige bevolkingsgroepen binnen ons kapitalistische stelsel een stuk minder goed af zijn, met name immigranten en bepaalde minderheden. Omdat zij vaak al op achterstand staan. Zij zijn armer.

Een andere wetenschappelijk bewezen realiteit is dat arme mensen vaker (niet-witteboord) criminele handelingen verrichten.

De vraag is dus wat je wil, wil je die minderheden verder onderdrukken, of wil je de oorzaak van het probleem weghalen? En wat noem jij de "realiteit"?

[OxWax]

De vraag is dus wat je wil, wil je die minderheden verder onderdrukken, of wil je de oorzaak van het probleem weghalen? En wat noem jij de "realiteit"?

Bedoel je met 'onderdrukken' vervolgen voor gepleegde misdrijven?

[Reactie gewijzigd door OxWax op 22 juli 2024 23:08]

[Sorcerer8472]

Exact, dat bedoel ik. Want met die algoritmen ga je naar verhouding meer minderheden vervolgen dan andere groepen die in andere wijken wonen; die hebben een lagere pakkans. Ik vind dat een vorm van onderdrukking, ook al gaat het hier om criminelen. Het is in feite vergelijkbaar met minderheden vaker aanhouden op straat, iets wat de politie nog steeds deed in Nederland een paar jaar geleden.

Het oorspronkelijke probleem ligt bij de ongelijkheid. Die praten wij in de huidige politiek en samenleving goed, want het is "kapitalisme", "marktwerking" en "eigen schuld", ook al ben je vanaf je jeugd in slechte omstandigheden geboren, met moeite opgegroeid etc., en dat is iets dat bij minderheden veel vaker gebeurt. En de enige reden om de ongelijkheid in stand te houden is egoïsme en hebzucht, want er is geen enkele andere reden. Zo lang wij die ongelijkheid normaal en okee blijven vinden, zal dit tot onvrede blijven leiden, wat weer tot criminaliteit kan leiden.

En ik heb het niet eens over dat we communistisch worden ofzo, maar wel dat iedereen een beetje een normaal leven kan leiden boven de armoedegrens met een gezin, zonder zich dag in dag uit zorgen te hoeven maken over wel genoeg geld hebben.

[OxWax]

U wil dus dat er bij een signalement van : mannelijk, getint, scooter, ...
Ook blanke bejaarde oma's worden ondervraagd?

[Reactie gewijzigd door OxWax op 22 juli 2024 23:08]

[Sorcerer8472]

Het ging nu niet om signalementen maar om predictive policing. Ik reageer op wat jij oorspronkelijk postte, niet om andere dingen.

[Frankster]

En stel, dus puur hypothetisch, als de kans dat een bepaald misdrijf gepleegd wordt door een blanke, roodharige man van rond de 20 80% is, dan zou de politie bij dit misdrijf geen voorrang mogen geven aan onderzoek naar blanke, roodharige mannen van rond de 20? Dat is gewoon de statistieken negeren en kiezen voor een pseudo politiek correcte aanpak en daarmee het verbranden van gemeenschapsgeld.

In de huidige zaak van de Morcomaffia is het niet meer dan logisch dat Marokkaanse verdachten eerder tegen het licht gehouden worden dan andere groepen.

[killerfreak]

Dat is gewoon de statistieken negeren en kiezen voor een pseudo politiek correcte aanpak en daarmee het verbranden van gemeenschapsgeld.

Nee, dat noemen we het vermijden van confirmation bias.

[Sorcerer8472]

Exact, omdat je met confirmation bias discrimineert, maar ook omdat je juist door die methodiek mensen 'slechter' maakt. Ook dat is wetenschappelijk onomstotelijk bewezen; vooroordelen werken als een nocebo.

[slowdive]

Nou, .. het zou zo maar kunnen dat de buit is overgeladen van (bijvoorbeeld) een getinte man met scooter, naar (bijvoorbeeld) een blanke bejaarde tante. Juist omdat dat zo onaannemelijk is, is dat een aannemelijke strategie. Zo iets is een actrice met drugs op een festival of een vrouw van een agent met de wagen vol met drugs. Ik neem aan dat ieder (kunstmatig) intellect dat zelf ook wel had kunnen bedenken. Dus ja, foullieren die tante.

[OxWax]

Nou, .. het zou zo maar kunnen dat de buit is overgeladen van (bijvoorbeeld) een getinte man met scooter, naar (bijvoorbeeld) een blanke bejaarde tante. Juist omdat dat zo onaannemelijk is, is dat een aannemelijke strategie.

Na hoeveel joints wordt dat een "aannemelijke strategie" ?

[slowdive]

Denk eerder dat je helder denkend tot dit soort alternatieve strategieën komt. Het was overigens niet de vrouw van de agent, maar de vrouwelijke agent met drugs.
Extrapolerend vermoed ik dat iedere optie die je kunt verzinnen ook echt voorkomt. Iets met mensen die in boekenkisten een kasteel ontvluchten.
Samenvattend: ik zou de tante foullieren en binnenstebuiten draaien.

Edit: boekenlijsten->boekenkisten

[Reactie gewijzigd door slowdive op 22 juli 2024 23:08]

[OxWax]

Denk eerder dat je helder denkend tot dit soort alternatieve strategieën komt.
Samenvattend: ik zou de tante foullieren en binnenstebuiten draaien.

De realiteit legt ons echter grenzen op.
Er is geen geld of tijd om iedereen te onderzoeken en dus ga je profileren/ af op beschikbare aanwijzingen/eerdere ervaringen.
Normale gang van zaken en perfect te verantwoorden.

[Reactie gewijzigd door OxWax op 22 juli 2024 23:08]

[unclero]

Nee, etnisch profileren is luiheid en verspilling van manuren.
Je geeft hiermee de criminelen het prima inzicht in de mazen en de openingen. Iets wat je ten allen tijde wil voorkomen.

Andersgezegd: Ja, algoritmes (en een systeem wat ik noem "het vriendelijke Chinese sociaal-krediet-systeem") kunnen ons daarbij helpen. Criminaliteit bestrijden is niets meer dan een strijd van kennis versus kennis, degene die de slimste mensen op de rol kan zetten, wint. En laten we eerlijk zijn, de gemiddelde agent op straat is niet iemand die op school negens en tienens haalde. Zo iemand moet je tegen zichzelf beschermen door deze de tools en de software te geven die hem aansturen.

[bbob]

Waarom gebruik men algoritmes omdat het uiteindelijk goedkoper is. Alles heeft gewoon ook met geld te maken, bezuinigen, bezuinigen bezuinigen. Je kan het ook omdraaien als het algoritme bepaalde bevolkingsgroepen hoger crimineel inschat zou je daar ook meer in moeten investeren.

[Sorcerer8472]

Dat is ook weer niet okee, dan benadeel je juist mensen die in een 'meerderheid' zitten, die dan weer een nieuwe minderheidsgroep worden. Het probleem is dat we de echte problemen niet aanpakken maar telkens kunstgrepen doen vanuit egoïstische motieven.

Als het probleem inkomen is, dan moeten we dat aanpakken. Ook al kost dat meer belasting of whatever, het is het juiste ding om te doen. Alle andere aanpakken leiden tot edge-cases waarbij je weer nieuwe nog ingewikkeldere problemen veroorzaakt. Developers kennen deze problemen en weten dat ik gelijk heb

[OxWax]

Als het probleem inkomen is, dan moeten we dat aanpakken. Ook al kost dat meer belasting of whatever, het is het juiste ding om te doen. Alle andere aanpakken leiden tot edge-cases waarbij je weer nieuwe nog ingewikkeldere problemen veroorzaakt. Developers kennen deze problemen en weten dat ik gelijk heb

Ik wil ook een stoere zware (zwarte) BMW , helaas reikt mijn loon daar niet voor. (/andere prioriteiten)
De schuld van de overheid die teveel belasting eist?

[Reactie gewijzigd door OxWax op 22 juli 2024 23:08]

[Sorcerer8472]

Het gaat om wat je nodig hebt om een fatsoenlijke basis op te bouwen met genoeg geld om je dagelijkse dingen mee te doen zonder dat je je continu zorgen hoeft te maken om geld.

Ga jij daar uiteindelijk een BMW van bij elkaar sparen, prima. Ik zou er niet gelukkig van worden maar jij wellicht wel

[andreetje]

In ons land heeft iedereen kansen. Gezinnen worden op vele manieren ondersteund.

Er worden uitkeringen verstrekt, toeslagen voor o.a. huur en zorg, gemeentelijke kwijtscheldingen, gemeentelijke collectieve verzekeringen, gratis rechtsbijstand, voedselbanken, diverse stichtingen zoals Leergeld en Jarige Job die allerlei ondersteuning bieden voor schoolgaande kinderen etc.

Ik wil niet te rechts klinken, maar weet dat gezinnen die al deze hulp nodig hebben dit meestal aan zichzelf te danken hebben. En dan nog komt men niets te kort (menig Jan Modaal moet met minder rondkomen door het fenomeen armoedeval).

[ManiacsHouse]

"Er worden uitkeringen verstrekt, toeslagen voor o.a. huur en zorg, gemeentelijke kwijtscheldingen, gemeentelijke collectieve verzekeringen, gratis rechtsbijstand, voedselbanken, diverse stichtingen zoals Leergeld en Jarige Job die allerlei ondersteuning bieden voor schoolgaande kinderen etc."
Waar Jan Modaal ook gebruik van kan maken mocht hij in deze situatie terechtgekomen. Dit is een vangnet waar we in Nederland best trots op mogen zijn (voor zolang als het nog duurt) ipv hier over klagen. Deze 'groep' kan er niets aan doen dat er een inkomensval ontstaat voor Jan Modaal.

Ik weet niet waar je de info vandaan haalt dat deze mensen het aan zichzelf te danken hebben... Wat een kolder.

[Reactie gewijzigd door ManiacsHouse op 22 juli 2024 23:08]

[ManiacsHouse]

We hebben het over mensen in de bijstand of op bijstandsniveau. Nu haal je schuldsanering erbij. Dat is een andere 'groep'. Ik weet wat dingen als inkomensval zijn en wat de gevolgen zijn. Overigens betalen mensen die niet (meer) in staat zijn om te werken ook gewoon belasting.
Vind knap dat je exact dat na roept wat men je, vanuit een bepaalde richting, wil doen geloven. De uitkeringstrekkers zijn de schuld dat mensen zich blauw betalen aan belasting.

[CrimsonRider]

Je diskwalificeert jezelf een klein beetje als je dingen roept als 'linkse media', maar goed. En het uitleggen van marginale druk als meer belasting is ook nogal kort door de bocht. Je 'uit eerste hand' ervaring lijkt me ook niet echt representatief, tenzij je statisch significante hoveelheden mensen in de schuldhulpverlening kent, er in werkt bijvoorbeeld.

Ik vraag me af of je ooit aan de ontvangende kant van de verzorgingsstaat heb gestaan, want ik denk niet dat je het dan nog riant wil noemen.

En als je veel belasting betaald, bovenste schaal bijvoorbeeld, wees blij, dan heb je het beter dan de meeste andere mensen ter wereld.

Ik hoorde laatste op een lezing de stelling dat het makkelijk praten is als je bij die 30% van de bevolking hoort voor het land is ingericht. Waarschijnlijk hoor jij zelf ook bij die groep; je verdient meer dan gemiddeld, je weet de weg in bureaucratie, aannemelijk hoger dan gemiddeld opgeleid etc. Vanuit die dan wel niet ivoren, maar toch redelijk opgebouwde toren is het heel makkelijk op die mensen af te geven. Wellicht is dat menselijk, bedoel, ik moet mijn kinderen ook samen spelen, samen delen aanleren.

[CrimsonRider]

De meeste mensen? Ik zie graag wat cijfers daarvan uit een neutrale bron bij voorkeur. Ik ben betrokken bij de sector, maar eigen schuld dikke bult, hoe aantrekkelijk het ook klinkt, is simpelweg niet wat daar aan de hand is. Persoonlijk ben ik voor veel strengere regimes en stevigere begeleiding, maar de schuld volledig bij die mensen zelf leggen is niet eerlijk, niet terecht en ook nog eens niet in lijn met de werkelijkheid.

"Uitkeringsgerechtigden zijn in een groot deel van de gevallen niet gemotiveerd"
is nogal kort door de bocht en wederom gebaseerd op wat?

"Dat burgers op een bepaald moment de regels niet meer begrijpen is wel logissch. Onze fiscaliteit is een spaghetti van regels waar de uitvoerende dienst zelf niet eens meer uitkomt."
Tja, daar zijn we het dan wel eens, ik "doe" belasting voor diverse partijen als werk en om een of andere reden moet inderdaad alles via de fiscus gedaan worden. Dat is een zooitje geworden.

Ik snap je frustratie en boosheid hoor, maar je argumenten komen niet veel verder dan de onderbuik. Statements als "de linkse media" en de "politiek heeft als hoogste prioriteit nivelleren" getuigen niet bijzonder van nuance en inzicht.

[CrimsonRider]

Het is okay het niet eens te zijn.

Ik denk dat de verhouding anders is, maar geld lenen om op vakantie te gaan vind ik ook onzin. Echter, dit zijn wel mensen die kwetsbaar zijn voor die incassomaffia. Dat is denk een groter probleem.

[xxxneoxxx]

Sommige zaken, tsjah..
https://en.m.wikipedia.or...dale_child_sex_abuse_ring
Feiten benoemen/trend analyse kan soms toch meer helpen dan gewoon de andere kant opkijken omdat je ergens bang voor bent.

[Sorcerer8472]

Ben het met je eens hoor, als blijkt dat een groep minderheden vaker de fout in gaat, dan moet je daar iets aan doen, onafhankelijk van de afkomst van een persoon. Misdaad is misdaad. Het gaat mij om geautomatiseerd vervolgen van minderheden. Zie ook mijn andere reacties.

[xxxneoxxx]

Klopt. Maar algoritmes kan je ook gebruiken voor trendanalyses. Dus, mensen uit welke regio zijn slachtoffer, en welke regio zijn daders, en zit daar een trend in. In dit geval had je qua afkomst slachtoffers e.e.a kunnen ontdekken, regio e.e.a kunnen ontdekken en uiteindelijk ook afkomst daders en werk daders, wat dit netwerk veel en veel sneller opgerold zou hebben en vele verwoeste levens had kunnen voorkomen. Maar uit angst om voor rascist uitgemaakt te worden is er jarenlang weggekeken, met een heel leger aan slachtoffers tot gevolg. Politiek correctheid mag nooit fatsoenlijke wetten en rechtsgang in de weg zitten. Het is een lastige discussie want je wilt ook zaken als racial profiling niet hebben maar tegelijkertijd zul je allicht ook criminaliteitcijfers in acht moeten nemen.

[Sorcerer8472]

Het punt bij racial profiling is echter dat je op zich al met een groep zit die achtergesteld wordt in de maatschappij, die je hierdoor nog verder gaat onderdrukken. Ik geloof nog steeds in échte preventie, en denk dat zo lang dit soort profiling vooral wordt gebruikt om criminelen te vinden, je het probleem mogelijk alleen nog maar erger gaat maken.

Maar dit is een ingewikkelde discussie waarvoor al meerdere van mijn reacties onder dit nieuwsbericht op -1 zijn gemodereerd, omdat men de link niet ziet / niet wil zien of te vergezocht vindt. We blijven liever kijken naar oplossingen en dingetjes met algoritmen ipv dat we echt de oorzaak van problemen aanpakken.

[xxxneoxxx]

Klopt, dat is alleen lastig aan ouders uitleggen als hun kind in de prostitutie gewerkt is en tot junk verworden is daardoor me dunkt.

[Mathragh]

Helaas worden hier mijns insziens twee doelmatigheden doorelkaar gehaald:
Enerzijds wil men natuurlijk dat mensen die het minder goed hebben/doen geholpen (kunnen) worden, en voor zelfs de meest zelfzuchtige geldwolf is hierbij nog het argument te maken dat het helpen van mensen uiteindelijk een maatschappelijk en economisch gewin voor iedereen betekend.
Anderzijds geldt er in dit geval natuurlijk het hoofddoel, namelijk het terugdringen van criminaliteit.

Persoonlijk vind ik dat het primaire doel van zo'n algoritme niet ten koste mag gaan van andere wensen (ookal kan je natuurlijk het gebruik van zo'n algoritme in der beginne wel in twijfel trekken). Voor het bestrijden van armoede zou je een ander algoritme moeten ontwerpen, eentje die wellicht wel de statistieken over criminaliteit zou kunnen gebruiken.

Overigens is ongelijkheid uiteindelijk nou eenmaal iets natuurlijks. In de natuur is niets en niemand gelijk. Sommige organismen doen het nou eenmaal beter met dezelfde beschikbare hulpbronnen dan hun soortgenoten. De eeuwige vraag blijft natuurlijk hoe we dit bij ons invullen zonder onze menselijkheid te verliezen.

[theobril]

Jantje en Pietje werken in een fabriek. Jantje verzuipt een deel van zijn loon, Pietje geeft het uit aan bijles voor het kind en het kind komt daardoor verder in deze wereld. nb dit is een compleet verzonnen verhaal maar hopelijk snap je wat ik bedoel. Waar in dit verhaaltje komen egoïsme en hebzucht voor? Ja Jantje zou zijn geld niet aan drank moeten besteden, maar de dude heeft er zelf voor gewerkt. Dat heet een vrij land, je geld uitgeven aan wat jij leuk vindt, en ja dat kan als consequentie ongelijkheid brengen. Zo ontzettend makkelijk om "oneerlijk" te roepen terwijl het best wel eens wat genuanceerder kan liggen.

[theobril]

Ik drink vrij veel. Daarnaast heb ik geen kinderen (wat een zeer goede zaak is ). Verder help ik het buurmeisje gratis met haar sommen. Op de een of andere manier vind ik mijzelf niet egoïstisch of hebzuchtig. Ja als ik minder dronk zou ik meer sommetjes uit kunnen leggen aan andere kinderen. Maar ik besteed x tijd aan sommetjes uitleggen en x tijd aan drinken. Shame on me? Je zou ook kunnen concluderen dat de wereld/dna/maatschappij/het bestaan oneerlijk is omdat sommigen sommetjes met hun ogen dicht doen en anderen niet. En om die oneerlijkheid uit te bannen sommetjesmakers te dwingen ook gratis bijles aan arme kindertjes te geven. Nu gaf je aan dat je niet naar een communistisch model wilde, maar dit klinkt toch wel een beetje zo.

[Sorcerer8472]

Mooi hoe mijn reactie zo totaal buiten het beeld van veel tweakers valt en dan maar op -1 wordt gemodereerd. Ik blijf er echter helemaal achter staan en daag een ieder uit om inhoudelijk tegenargumenten te bieden waarom ik niet gelijk zou hebben.

Verder, het leven is inderdaad oneerlijk in een hoop opzichten, en een overheid zou mijns inziens ervoor moeten zorgen dat iedereen een soort gelijke kans krijgt, en hoewel we in Nederland daarin al vrij vooruitstrevend zijn gaat het niet ver genoeg.

Ik geloof niet in communisme omdat dat ontzettend vrijheidsbeperkend is, plus in de geschiedenis zien we hoe ontzettend er misbruik is gemaakt van elitaire privileges bij leiders van deze staten. Ik geloof eerder in een fact and science based overheid die niet van onderbuik uitgaat, maar dingen doet omdat ze goed zijn voor het volk. Op dit moment wordt er bijvoorbeeld totaal niet nuttig gekeken naar het basisinkomen terwijl er inmiddels vrij veel wetenschappelijk bewijs is voor hoe dat wél zou werken voor ons.

Ik geloof ik een kapitalistische basis waarbij iedere burger een basisinkomen krijgt, waarbij belasting meer in lijn komt met hoe we het milieu en onze gezondheid belasten, en waarbij we zaken als onderwijs, onderzoek, misdaadbestrijding, etc. volledig inrichten naar de inzichten van de wetenschap ipv de onderbuik. Dat is alles wat er volgens mij nodig is. Misdaad zal automatisch verminderen met deze maatregelen, dat geloof ik echt.

PS: Hoezo is het een goede zaak dat je geen kinderen hebt? Zonder kinderen houdt het menselijk ras op te bestaan.

[theobril]

En in een aanvulling daarop: Whoever said life was fair?

[Cergorach]

Een andere wetenschappelijk bewezen realiteit is dat arme mensen vaker (niet-witteboord) criminele handelingen verrichten.

Wellicht omdat er meer arme mensen zijn dan rijke? Of bedoel je percentueel? Heb je daar cijfers voor?

[Sorcerer8472]

Ik dacht dat dit inmiddels algemeen bekend was. Maar hier kun je het o.a. lezen:
https://www.cbs.nl/nl-nl/...-inkomsten-en-arrestaties

Met wat zoekwerk is er evt. nog meer op te graven zowel over NL als andere landen.

[Verwijderd1]

[...]

Wellicht omdat er meer arme mensen zijn dan rijke? Of bedoel je percentueel? Heb je daar cijfers voor?

Uit Who Commits White-Collar Crime, and What Do We Know About Them? in The Oxford Handbook of White-Collar Crime:

A considerable percentage of white-collar offenders are gainfully employed middle-aged Caucasian men who usually commit their first white-collar offense sometime between their late thirties through their mid-forties and appear to have middle-class backgrounds. Most have some higher education, are married, and have moderate to strong ties to community, family, and religious organizations. White-collar offenders usually have a criminal history, including infractions that span the spectrum of illegality, but many do not overindulge in vice.

[Verwijderd1]

Toch lijken die trends terug te komen in verschillende wetenschappelijke onderzoeken, ik kan er nog een paar noemen:

The results showed significant differences between the two groups of offenders. White-collar offenders are older, have more qualifications and are mostly married or divorced, contrasting with common offenders, who are younger, less qualified and mostly single.

https://link.springer.com/article/10.1007/s10611-019-09844-7

En een studie die aan het begin wat ingaat op eerdere studies:

Studies that contrasted white-collar offenders to (nonviolent) street-crime offenders found that, among other things, white-collar offenders were more often employed, married, and homeowners and to be characterized by a higher involvement in community life (Benson and Kerley 2001Benson, Michael L and Kent R Kerley. 2001; Weisburd et al. 1991; Wheeler et al. 1988). However, Benson and Kerley (2001Benson, Michael L and Kent R Kerley. 2001) also observed that, although white-collar offenders lived more conventional lives than street-crime offenders, white-collar offenders were usually not highly integrated in community life either, and a substantial number was characterized by unstable residency or unsteady employment histories (see also Klenowski and Dodson) concluded that informal social controls, especially marriage, were important for understanding criminal histories in at least a part of the white-collar offender population. And, a more recent analysis of the same offender sample showed that a higher social capital, as identified in stable marriage and employment, is protective against medium to high criminal offending patterns (Piquero, Piquero, and Weisburd 2016).

https://www.tandfonline.c...080/01639625.2018.1472936

En als je terugkijkt in de bibliografieën van die studie, en weer in de bibliografieën van die studies dan kom je dezelfde trends tegen. Ga je zelf zoeken via bijvoorbeeld Google Scholar of Scopus dan kom je de trends ook tegen.

[Sorcerer8472]

Weet je toevallig hoe het ook zit met witteboordencriminaliteit en minderheidsgroeperingen (naar rato)? Ik neem aan dat niet alleen blanke mannen dit doen?

[Verwijderd1]

Nee, wel even Google Scholar gezocht met de term white collar crimes "minorities" maar niet meteen iets relevants gevonden. Ik zit niet echt in dat wereldje, maar van wat ik zo even gelezen heb lijken het vooral studies te zijn waarbij men een aantal veroordeelden neemt en daar wat demografie onderzoeken op doet.

[walteij]

Dus wie weet zijn de reguliere minderheden wel veel beter in witte-boorden-criminaliteit, en worden ze daardoor veel minder veroordeeld.
</sarcasm>

Nu even iets serieuzer, als je dus kijkt naar het aantal veroordeelden, heb je al een bias in je invoerdata, dus kan de conclusie feitelijk niet kloppen. Je kunt die data alleen vergelijken als je ook een compleet overzicht hebt van alle personen die een functie vervullen waarin zij in staat zijn om een dergelijke misdaad te plegen, inclusief geslacht, leeftijd, ras, nationaliteit, geloofsovertuiging enzovoorts.
Op die manier kun je een gewichtiger oordeel vellen over het percentage mensen per leeftijd/geslacht/ras/afkomst/geloofsovertuiging/enzovoorts. Maar ook hier komt racial profiling gewoon weer bovendrijven, want de publieke mening (en dus ook die van mensen die het strafrechterlijik onderzoek doen) is dat "blanke mannen van middelbare leeftijd" de meeste witte-boorden-criminaliteit plegen, dus daar zal het onderzoek zich op richten en zullen die mensen dus sneller vervolgs en veroordeeld worden.

Net zo oneerlijk dus als het preventief fouilleren dat in de grote steden wel eens gebeurde, waar bijna iedere marrokaan werd gecontroleerd, en bijna iedere blanke tiener gewoon mocht doorlopen.

[Sorcerer8472]

Klopt, heb je helemaal gelijk in, ben het helemaal met je reactie eens.
Overigens denk ik dat iedereen er ongeveer even goed in is als alle omstandigheden gelijk zijn, dat blijkt met veel dingen zo te zijn als je al het andere wegfiltert.

[Verwijderd1]

Nu even iets serieuzer, als je dus kijkt naar het aantal veroordeelden, heb je al een bias in je invoerdata, dus kan de conclusie feitelijk niet kloppen. Je kunt die data alleen vergelijken als je ook een compleet overzicht hebt van alle personen die een functie vervullen waarin zij in staat zijn om een dergelijke misdaad te plegen, inclusief geslacht, leeftijd, ras, nationaliteit, geloofsovertuiging enzovoorts.
Op die manier kun je een gewichtiger oordeel vellen over het percentage mensen per leeftijd/geslacht/ras/afkomst/geloofsovertuiging/enzovoorts. Maar ook hier komt racial profiling gewoon weer bovendrijven, want de publieke mening (en dus ook die van mensen die het strafrechterlijik onderzoek doen) is dat "blanke mannen van middelbare leeftijd" de meeste witte-boorden-criminaliteit plegen, dus daar zal het onderzoek zich op richten en zullen die mensen dus sneller vervolgs en veroordeeld worden.

Dat zijn dus verschillende problemen. Ten eerste heb je class imbalance, dat is vrij gebruikelijk en dat houdt in dat de witteboordencriminelen een klein deel van de gehele populatie vertegenwoordigen.

Ten tweede heb je de populatie zelf, in sommige onderzoeken neemt men volgens mij een steekproef van veroordeelden en doet men uitspraken over veroordeelden (dus niet de hele bevolking), wat jij zegt is dat rekening gehouden moet worden met opportunity maar dat maakt een onderzoek wel moeilijker denk ik.

Ten derde noem je bias bij het veroordelen. Simpel gezegd, als de politie alleen mannen oppakt zullen de statistieken doen lijken dat vrouwen geen criminaliteit bedrijven. Dan gaan ze meer op mannen letten, immers 100% van de criminelen is man en dan krijg je een soort conformation bias loop. Dat is natuurlijk ook een hot topic in criminologie.

Of dat laatste bij white collar het geval is weet ik niet (ligt er wellicht ook aan hoe breed die term gerekt wordt), in tegenstelling tot iemand die de politie op straat tegenkomt zal dit ook voor een groot deel gaan op aanwijzingen van geldstromen en fraude. Denk daarbij aan het soort onderzoeken van de criminal investigations division van de IRS. En mochten minderheden daarbij disproportioneel buiten schot blijven dan klopt je sarcastische comment natuurlijk wel.

[andreetje]

Het benoemen van criminele activiteiten op basis van huidskleur, geslacht of leeftijd is anno 2019 not done. Ook als het waar is.

[Verwijderd1]

Het benoemen van criminele activiteiten op basis van huidskleur, geslacht of leeftijd is anno 2019 not done. Ook als het waar is.

Op basis waarvan? De auteur van mijn tweede quote is een onderzoeker en senior adviseur voor het Openbaar Ministerie. Ga je dat soort oneliners posten zet er dan op z'n minst een linkje met wat onderbouwing bij. Demografisch onderzoek en daarop gebaseerde studies gaan volgens mij gepaard met weinig controverse. In tegenstelling tot de algoritmes waar dit artikel het over heeft. Die halen er complexere patronen uit en dat kan zoals anderen aanhalen de nodige ethische issues opleveren.

[andreetje]

https://www.google.com/am...n-wilders-gaat-door%3famp

[Iblies]

Maar dat zegt niks. Moment dat je ergens een flitspaal zet zal het aantal snelheidsovertreding dalen.

Wat namelijk net zo goed werkt is werken met gezichtsherkenning zoals ze in meerdere steden doen en dan automatisch volgen.

https://www.fastcompany.c...res-nothing-stopping-them

the face of a passerby matches that of a suspect in a police database

En je kunt dat zelf tot op een bepaalde hoogte instellen. Iemand die vb vaker in contact is geweest ivm overlast/inbraak/geweld.


Niks met predicting maar puur op bestaande databases.

[Sorcerer8472]

In contact geweest of daadwerkelijk veroordeeld? Als het alleen het eerste is dan is het eventueel nog steeds discriminerend als er (ten onrechte) vaker contact is met bijvoorbeeld minderheden. Gaat het daadwerkelijk om een veroordeling dan kan er nog steeds een effect zijn, maar je moet wel ergens een grens trekken natuurlijk.

Verder blijf ik bij de (langere) post die ik als directe reactie heb geplaatst onder dit onderwerp. Er zijn heel erg goede oplossingen voor criminaliteit die onze regering nu niet kan of wil uitvoeren, terwijl heel veel mensen (zowel daders als slachtoffers) daar baat bij zouden hebben. Al het andere zijn kunstgrepen die het hele probleem mogelijk alleen maar erger maken.

[kaasboer09]

Goed initiatief. Data-driven algorithmes krijgen gauw te maken met ongewenste vooringenomenheid (bias). Bijvoorbeeld een verzekeraar mag volgens Europese regels daarom ook niet zomaar AI gebruiken om te besluiten wat de maandpremie zal zijn. Een minderheidsgroep kan namelijk heel gemakkelijk een grotere achterstand oplopen.

[OxWax]

Wat bedoelt u met "achterstand" met betrekking tot verzekering en hoe denkt u dat men dit al die jaren tot nu berekenden?

[kaasboer09]

Wat bedoelt u met "achterstand" met betrekking tot verzekering en hoe denkt u dat men dit al die jaren tot nu berekenden?

Allereerst, mijn voorbeeld van verzekeringen was slechts illustratief bedoeld. Dit kan natuurlijk van alles zijn, bijvoorbeeld hypotheken.

Maar om antwoord te geven op je vraag, wanneer ik een aanvullende ziektekosten verzekering wil afsluiten en ik een bijstandsuitkering heb, dan kan het zomaar zijn dat het neurale netwerk de relatie heeft gelegd tussen gebruikelijke ongezondere voedingspatronen en diabetes prevalentie. KI doet geen dingen die een menselijke beoordelaar niet zou kunnen doen, maar een mens kan zijn keuze verklaren, en vervolgens verantwoordelijk worden gehouden. Bij KI is dat simpelweg niet het geval.

[walteij]

. KI doet geen dingen die een menselijke beoordelaar niet zou kunnen doen, maar een mens kan zijn keuze verklaren, en vervolgens verantwoordelijk worden gehouden. Bij KI is dat simpelweg niet het geval.

Als je aan KI alleen vraagt om een waarde te tonen, zal KI alleen een waarde tonen (wat grotendeels gedaan wordt).
Je zou aan KI ook kunnen vragen om een rapport op te maken, met daarin de weegfactoren en uiteindelijk onderaan het rapport de juiste waarde te tonen. Is iets meer werk, want het rapportje moet ook gemaakt worden, en de persoon die het rapport ontvangt, kijkt uiteindelijk toch alleen maar naar de waarde want 'de computer heeft dit volgens ons eigen algoritme al onderzocht'.

[kaasboer09]

Weegfactoren prima, maar waar die weegfactoren op zijn gebaseerd is feitelijk niet te achterhalen (black-box dilemma). Dit is de kern van het probleem. En dat is een inherent probleem met KI vanwege de back-propagation.

[MN-Power]

Als een bepaalde minderheidsgroep meer moet betalen voor een (of meerdere) verzekering hebben die mensen minder te besteden. Minder te besteden kàn je vertalen in een achterstand (minder eigen geld voor scholing bijvoorbeeld(voor zichzelf of hun kinderen)). Dit geldt nog sterker als het zich over meerdere verzekeringen geld

[Reactie gewijzigd door MN-Power op 22 juli 2024 23:08]

[OxWax]

Ja hoor ...

bijstandsgezin houdt 1525 (ipv 1425) euro per maand (18.310/12) over, dus maar 25 euro minder dan de fulltime werkenden ipv 125 euro.

https://www.telegraaf.nl/...d-werken-loont-bijna-niet

[ManiacsHouse]

Lekker voorbeeld haal je hier aan... Gaat over twee werkenden die een MINIMUM-inkomen hebben. Heerlijk ook dat een vvd-dame dit aanhaalt. Onrechtvaardig noemt ze het. Maar wat er moet gebeuren zegt ze niet... (Vermoedelijk bijstand omlaag want die nietsnutten doen er niks voor en moeten maar gaan werken, tegen minimum-inkomen weliswaar)
Zou het niet gewoon zo zijn dat we het hier hebben over een absoluut minimaal inkomen om te kunnen rondkomen of dat nou bijstand is (met toeslagen) of minimum-inkomen?

[Reactie gewijzigd door ManiacsHouse op 22 juli 2024 23:08]

[MN-Power]

Minderheidsgroep =bijstandsgezin. Interessante stelling.

Een minderheidsgroep kan alles zijn. Ook bepaalde mensen die een bepaalde ziekte hebben(gehad), en daardoor een maandelijks tientallen of honderden euro's hogere premie moeten betalen.

En dit is een hele duidelijke groep, een algoritme kan een groep aanwijzen die voor een mens niet eens meteen duidelijk is(combinatie van factoren). Daarom is transparantie zo belangrijk.

[Reactie gewijzigd door MN-Power op 22 juli 2024 23:08]

[tweaker2010]

Minderheidsgroep =bijstandsgezin. Interessante stelling.

Je weet dat door de toenemende vergrijzing van de samenleving we straks een werkende minderheid hebben die inkomen en pensioen moet verdienen voor de rest?

Ontopic: Lijkt me inderdaad interessante data en verzekeraars kunnen hier zeker voordeel uit halen.

[MN-Power]

Ik hoef het niet te weten, kan me zelfs voorstellen dat het niet wenselijk is dat 'men' het weet. Maar dan is het nog wel van belang dat de overheid/toekomstige toezichthouder het weet. Ik kan me niet voorstellen dat iemand blind wil vertrouwen dat een/elk algoritme onfeilbaar werk doet en daarom geen controle behoeft...

[MN-Power]

Niet AI gerelateerd, maar wel verzekering gerelateerd is de huisnummertoevoeging die voor een hogere WA-autopremie kan zorgen. Blijkbaar hebben sommige verzekeringsmaatschappijen bepaald dat mensen met een huisnummertoevoeging vaker schade rijden(/claimen). Nou zijn er veel (duplex-)appartementen die dat hebben, dus kan ik me er wat bij voorstellen. Maar ik ken ook mooie 2-onder-1-kap woningen die het hebben.

En het vervelende is, AI zou tot een dergelijke conclusie kunnen komen(als die niet het type huis weet). Dus ik snap heel goed dat dit soort algoritmes onder de loep liggen. Als we met z'n allen blind aannemen dat zo'n algoritme het bij het rechte eind heeft krijg je rare dingen.

[ben003]

Precies dat. Dan zit er een directe consequentie aan verbonden die nadelig uitpakt in het geval van huisnummertoevoegingen.

Dan blijft wel de vraag, als een mens dezelfde taak zou doen, zou die het beter kunnen? Dat vraag ik me af omdat ook mensen BIAS hebben. Die verschilt zelfs per persoon...

Bij een algoritme kun je in elk geval achteraf meten welke score het voor een specifiek geval of groep geeft. Bij een mens krijg je op dezelfde vraag ook nog eens verschillende antwoorden.

Ik denk dat het een droom is dat iedereen altijd eerlijk wordt behandeld, door mens of algoritme. Zolang er, wanneer er BIAS wordt opgemerkt maar iets mee wordt gedaan - In plaats van (zoals het vaak gaat) vast wordt gehouden aan een stel fixed regels - Of die regels nu zijn opgesteld door mensen of gecodeerd in een algoritme of machine learning model. Dat laatste maakt het voor mij in elk geval zo onrechtvaardig.

[Sorcerer8472]

Een groot probleem met algoritmen is dat we allerlei dingen "on the side" graag met algoritmen doen; dus op basis van statistiek acties uitvoeren.

Echter voor grote belangrijke beslissingen in de politiek gebeurt dat niet. Vaak wordt wetenschappelijke informatie genegeerd en wordt er op onderbuikgevoel geregeerd. Denk aan bijvoorbeeld klimaatbeleid, beleid rondom criminaliteit, onderwijs.

Terwijl statistisch gezien en volgens de wetenschap heel duidelijk is dat we bepaalde dingen anders moeten doen, wil de regering het niet vanwege lobbyisten, de onderbuik, God of een random BNP-reden. Op het moment dat we de verkeerde keuzes maken en dan ook nog eens algoritmen gaan gebruiken om die verkeerde keuzes zo efficient, meedogenloos en emotieloos te nemen, dan gaan we écht de verkeerde kant uit.

Wanneer krijgen we een regering die een maatschappij wil die echt gebaseerd is op waarheidsvinding, wetenschap en geluk van haar inwoners?

Hierbij een boek dat vol staat met (honderden) wetenschappelijke bronnen en ideeën over hoe het ook (heel anders) kan, dikke aanrader, zeker voor maatschappelijk geëngageerde tweakers:
https://www.bol.com/nl/p/...-deugen/9200000106093841/
https://www.amazon.nl/mee...gman-ebook/dp/B07X7X12Y5/

NB: deze post gaat over politiek algemeen, en natuurlijk zijn er ook zat manieren waarop algoritmen ook nu al zo kunnen worden ingezet dat ze nu al bijdragen aan het welzijn van de hele bevolking. Echter er is een groot gevaar als onze politiek leiders zich door hun onderbuik laten leiden en dan algoritmen gebruiken om een verkeerde vaarrichting nog verder te forceren. Belangrijk om hier bewust van te blijven!

[Atlantis1995]

Tsja, wat vindt men vandaag de dag een ingrijpend algoritme? De overheid geeft zelf de voorkeur aan minderheden en vrouwen bij (bijna) gelijke geschiktheid.

[Verwijderd]

Dit idee komt weer van D66, en met mooie woorden ingepakt. De werkelijke reden krijgen we pas te zien als het te laat is. Als de wet tegen hun gedachtegoed keert, dan willen ze er wel weer vanaf. Waarschijnlijk moet de oppertoezichthouder een licht getinte ouder vrouw zijn. Anders raken we uit balans. Deze nieuwe kan dan toegevoegd worden aan het rijtje slapende toezichthouders.

[rechner17]

Wat een kolder.
Overheden doen grote ontwikkel-investeringen om miljoenen energetisch dure berekeningen te kunnen doen, om iets met een hoger doelmatigheid te doen. Maar werkelijk NIEMAND bedenkt dat het handig is om te kijken hoe die toename in doelmatigheid eigenlijk te meten is, laat staan dat we afspreken om het terug te draaien als die toename in doelmatigheid niet voldoende snel wordt gehaald.
Nee in plaats daarvan gaan we een toezichthouder maken die kijkt of er in de zeldzame randgevallen geen heel specifieke vorm van biased conclusies worden gedaan.
Misschien een idee om daar weer een 'algoritme' voor te maken? Kunnen we daar weer een toezichthouder voor maken.
Er is maar 1 echt verstandig beleid: gebruik van die algoritmes weer afschaffen.

[Reactie gewijzigd door rechner17 op 22 juli 2024 23:08]

[Sorcerer8472]

De doelmatigheid zelf is vaak ook niet op basis van wetenschap bepaald, da's misschien nog wel het grootste probleem.

[Troepje]

Wat een bizarre woordkeuze weer, ik vraag mij af waar dat toch steeds vandaan komt. Wat men hier heel specifiek bedoelt volgens mij is algoritmiek voor data analyse op basis van persoonsgegevens. Nu gaat men weer een stigma introduceren, net zoals er op b.v. cookie, hacken etc rust. Krijgen we straks te horen dat we geen algoritmes meer mogen gebruiken, kunnen we dus ook de staartdeling gaan afschaffen.

Ohja, als je niet wilt dat een algoritme een conclusie trekt op basis van bijvoorbeeld huidskleur, moet je die data niet als input gebruiken!

[Reactie gewijzigd door Troepje op 22 juli 2024 23:08]