Autoriteit Persoonsgegevens wil uitleg van minister over visumaanvraagalgoritme

De Autoriteit Persoonsgegevens wil dat minister Wopke Hoekstra van Buitenlandse Zaken het gebruik van een mogelijk discriminerend algoritme bij zijn ministerie uitlegt. Het gaat om een algoritme waarmee wordt beoordeeld hoe intensief een visumaanvraag moet worden behandeld.

De minister moet persoonlijk bij de privacytoezichthouder verschijnen om het gebruik van het algoritme te verdedigen, zegt een AP-woordvoerder tegen NRC. Het gaat om het Informatie Ondersteund Beslissen-algoritme, dat onder meer op basis van de nationaliteit, het geslacht, de leeftijd en de plaats van aanvraag bepaalt of ambtenaren een Schengenvisumaanvraag 'kort' of 'intensief' moeten behandelen. Aanvragen in dat intensieve traject worden vaker afgewezen, 33 procent, dan de 3,5 procent van de aanvragen die in het snelle traject worden afgewezen. Bij intensieve behandelingen kan de ambtenaar de aanvrager bijvoorbeeld interviewen of om meer documenten vragen.

De krant schreef eind vorige maand over het algoritme en de kritiek van de functionaris gegevensbescherming van het ministerie over dat algoritme. De functionaris waarschuwde sinds 2021 over mogelijke risico's van het algoritme omdat visumaanvragers worden onderscheiden mede op basis van hun nationaliteit. De minister hoorde het verhaal van de functionaris aan en won externe adviezen in bij onder meer de landsadvocaat en het ministerie van Justitie en Veiligheid. Zij zeiden op basis van een juridische toets dat het systeem 'rechtmatig' en 'niet-discriminatoir' zou zijn. Het ministerie blijft het algoritme dan ook gebruiken. De functionaris werkt inmiddels niet meer op het ministerie.

Voor zover bekend wordt het algoritme alleen gebruikt bij Schengenvisa, een visum voor inwoners van buiten de EU die maximaal negentig dagen naar Nederland willen voor vakantie, een zakenreis of familiebezoek. Het algoritme bespaart het ministerie naar eigen zeggen tientallen ambtenaren. Nu beoordelen 118 ambtenaren op het ministerie of aanvragers een visum kunnen krijgen.

De woordvoerder van de AP spreekt over 'een zorgelijke kwestie' en zegt eerder gesprekken met de functionaris van het ministerie te hebben gevorderd, en documenten bij het ministerie te hebben gevorderd. De woordvoerder benadrukt daarnaast dat de uitnodiging om met de minister te spreken 'niet vrijblijvend' is. Het ministerie van Buitenlandse Zaken kreeg in april 2022 een AVG-boete van 565.000 euro omdat het een ander systeem voor de opslag van visumaanvragen slecht beveiligde.

Reacties (99)

[Haribo112]

Nu ben ik het er zeker mee eens dat discriminatie verkeerd is, maar het is toch niet onlogisch om bij sommige nationaliteiten strenger te controleren dan bij andere?

[Nas T]

Discriminatie betekent onderscheid maken op basis van o.a. nationaliteit, geslacht en leeftijd (zie wikipedia), zoals dit algoritme precies zou doen. Het verbaast me dat dit juridisch getoetst en ok is.
Een reden voor een snelle aanvraag zou kunnen zijn dat er een burgeroorlog actief is en familie er nog woont. Dan wil je dat die persoon snel zijn familie ook hierheen kan halen.

Zoiets kan ook met Rusland. Stel dat je een dissident daar bent en vlucht. Wil je dan dat Rusland doorheeft dat je hier zit en je familie gaat inzetten als pressiemiddel of wil je die ook zo snel mogelijk weg hebben?

Alleen doe je dat op basis van nationaliteit of op basis van kenmerken als burgeroorlog/dissident of iets dergelijks?

[Sissors]

Discriminatie betekent onderscheid maken op basis van o.a. nationaliteit, geslacht en leeftijd (zie wikipedia)

Nofi, maar dat is niet wat Wikipedia schrijft. Want discriminatie betekend dat zeker niet, wat het wel doet is:

In juridische context wordt discriminatie gedefinieerd als: "het onrechtmatig onderscheid maken tussen mensen of groepen" oftewel "het niet gelijk behandelen van gelijke gevallen", bijvoorbeeld bij sollicitaties op de arbeidsmarkt.

En dat dikgedrukte is dus nogal belangrijk. Bij verkoop van alcohol wordt ook onderscheid gemaakt op leeftijd, weinig zullen dat discriminatie vinden. Bij sportwedstrijden wordt onderscheid gemaakt op geslacht, ook dat zullen weinig discriminatie vinden. Of je uberhaupt een visum nodig hebt, wordt bepaald door je nationaliteit: Een Canadees heeft die niet nodig, is dat ook discriminatie?

Oftewel samengevat: Onderscheid maken op basis van die kenmerken kan discriminatie zijn, maar is dat zeker niet automatisch.

[wow7]

Of je nu "onrechtmatig" vet gedrukt gebruikt of niet het woord op zich zegt al genoeg het betekent letterlijk "discriminatiegrond" en er word niet echt gesuggereerd dat dat puur discriminatie is , de kenmerken van discriminatie zijn nu eenmaal gronden die onrechtmatig zijn en zo discriminerend zijn vandaar ook dat onrechtmatig vet gedrukt staat.

Discriminatie op de volgende gronden is wettelijk niet toegestaan:

godsdienst
levensovertuiging
politieke gezindheid
ras
geslacht
nationaliteit
seksuele gerichtheid
burgerlijke staat
handicap of chronische ziekte
leeftijd

[the___butcher]

Onderscheid maken op enkele van deze gronden gebeurt aan de lopende band en is gewoon toegestaan:

• Wil je graag voetballen voor de oranje leeuwinnen? Alleen als je vrouw bent.
• Stemmen voor de tweede kamer? Alleen als je Nederlander bent.
• Trouwen met je partner? Alleen als je op dat moment ongehuwd bent.

Het woordje onrechtmatig is zeker van belang.

[MIster X]

Of je uberhaupt een visum nodig hebt, wordt bepaald door je nationaliteit: Een Canadees heeft die niet nodig, is dat ook discriminatie?

Ja, wat mij betreft wel.

Je verschuilen achter wat wettelijk is vastgelegd, maakt het misschien nog wel erger. Institutioneel racisme. Wanneer mensen enkel en alleen op hun nationaliteit worden afgewezen, is dat wellicht geen onrechtmatig onderscheid, omdat de regels als dusdanig zijn opgesteld, maar wel onrechtvaardig.

Zo kan mijn Colombiaanse vrouw geen visum krijgen voor Canada, enkel en alleen omdat ze Colombiaanse is. Onze kinderen kunnen Canada zonder problemen in, omdat die ook een Nederlands paspoort hebben. Leg haar maar eens uit dat het geen discriminatie is.

[JRShield]

Daar moet ze over klagen bij haar regering. Nederland heeft een visum verdrag met Canada, Colombia niet. Dat is geen discriminatie, dat is politiek. Als ze daar van af wil kan ze zich laten neutraliseren tot Nederlandse. Dat lijkt mij geen al te groot probleem, aangezien ze Nederlandse kinderen heeft toch?

[kimborntobewild]

Dat gaat over de vraag wie z'n schuld het is dat er geen verdrag is. Maar het blijft in mijn ogen discriminatie.

[JRShield]

Is een seniorenwoning discriminatie? Of een minimale hoogte voor een attractie? Een leeftijdsgrens voor een kindermenu? Het feit dat ik in Nederland mag wonen en iemand geboren in Togo niet? Je hebt discriminatie en je hebt regelgeving. Ja er kan overlap zijn tussen de twee, maar dat is hier zeer zeker niet het geval.

[devices]

De nationaliteit van je kinderen is geen grond voor neutralisatie volgens de website van het IND.

[Aldy]

Discriminatie op leeftijd is sowieso een heel moeilijk punt. Je bent vanaf vijf jaar verplicht om onderwijs te volgen, onder de 18 jaar mag je niet stemmen (officiële verkiezingen), je kunt voor die leeftijd je autorijbewijs niet halen, 16 jaar voor je bromfietsrijbewijs en wat dacht je van het weigeren op basis van je leeftijd bij een bioscoop als je een bepaalde film wil zien. Alle voorbeelden vind ik niet voor discussie vatbaar, maar je hebt gelijk dat we discrimineren op basis van leeftijd en we vinden het allemaal logisch.

[MIster X]

De definitie in het Wetboek van Strafrecht is beter:

Onder discriminatie of discrimineren wordt verstaan elke vorm van onderscheid, elke uitsluiting, beperking of voorkeur, die ten doel heeft of ten gevolge kan hebben dat de erkenning, het genot of de uitoefening op voet van gelijkheid van de rechten van de mens en de fundamentele vrijheden op politiek, economisch, sociaal of cultureel terrein of op andere terreinen van het maatschappelijk leven, wordt teniet gedaan of aangetast.

[Hatsjoe]

De voorbeelden die jij aanhaalt lijken mij niet naar Nederland te komen onder een toeristenvisum of werkvisum, maar als vluchteling. En het lijkt mij dat in dat geval dit soort zaken niet relevant zijn of meegenomen worden. Het enige dat dan uit zou moeten maken is "ben je in gevaar in je eigen land?", zo ja, dan ben je een vluchteling.

[Ereaser]

Voor zover bekend wordt het algoritme alleen gebruikt bij Schengenvisa, een visa voor inwoners van buiten de EU die maximaal negentig dagen naar Nederland willen voor vakantie, een zakenreis of familiebezoek.

Dat staat ook in het artikel inderdaad.

[Reactie gewijzigd door Ereaser op 23 juli 2024 17:33]

[TheVivaldi]

Ik vind dat wél onlogisch. Ja, er zullen misschien wat nationaliteiten zijn die statistisch hoger op de niet-in-ordelijst staan, maar ook dan nog zitten er altijd goede tussen en op deze manier laat je die ook een langdurig proces ondergaan.

Gelijke monikken, gelijke kappen.

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[SPee]

Nee, want die personen worden niet direct uitgesloten. Er wordt alleen beter gekeken naar hun aanvraag. Dat de kans hoger ligt op afwijzing ligt dan ook aan het feit dat er veel meer aanvragen zijn die niet voldoen.

[TWeaKLeGeND]

Dus de nigeriaan die niet binnen komt omdat ze zijn justitieel verleden controleren en het blijkt dat hij als kind ooit veroordeeld is voor een kleine diefstal terwijl de amerikaan met een recent geweldsdelict achter zijn naam geen justitiële check krijgt zo naar binnen kan wandelen is voor jou gelijke monniken gelijke kappen?

(Landen zijn ff snel getikt maar uiteraard slecht gekozen daar er verschillende verdragen zijn onderling, ik ben niet bekend met de exacte verdragen die nederland heeft met andere landen maar daar gaat het hier niet over)

'Die personen worden niet direct uitgesloten' is een veel te simplistische kijk op wat er feitelijk gedaan wordt als je op deze manier mensen in verschillende wachtrijen plaatst voor de toegangsdeur. Wat het exacte resultaat is en of deze algoritmes wel of niet het beoogde danwel gewenste effect hebben veranderd helemaal niks aan bovenstaande. Je laat mensen voldoen aan verschillende standaarden. Prima als je dat voor ogen hebt, maar kom er dan wel eerlijk voor uit.

[Reactie gewijzigd door TWeaKLeGeND op 23 juli 2024 17:33]

[kozue]

Er wordt niemand buiten gesloten, er wordt alleen meer focus gelegd op probleemgebieden. Er volgt nog steeds een handmatige goedkeuringsprocedure, ongeacht in welke categorie jouw land valt.

[Jemboy]

Hahaha, dat zeggen ze ook bij de politie. Ze leggen op straat meer allen meer focus op probleemgebieden, zijnde "niet-Westerse" Nederlanders

[kozue]

Als er in bepaalde gebieden relatief meer delicten plaatsvinden dan in andere, vind ik het inderdaad niet vreemd om daar meer politie op straat te hebben nee. Als dat dan gebieden zijn waar toevallig meer “niet-westerse” mensen wonen (ik zou ze geen Nederlander willen noemen als ze hier toevallig wonen maar nog een buitenlands staatsburgerschap hebben), dan zegt dat meer over die mensen dan over de politie. En critici willen dan graag verbanden leggen die niet bestaan. Het verband tussen meer blauw en het gebied zit in criminaliteitscijfers, niet in afkomst. Als die mensen in die wijken zich wat socialer zouden gaan gedragen gaan die cijfers vanzelf omlaag en verdwijnt de extra controle ook wel weer.

[Jemboy]

Mijn persoonlijke mening is dat er binnen een bevolkingsgroep geen grote groep is die bewust kiest voor crimineel gedrag.
Crimineel gedrag wordt gecultiveerd door omgeving (bv. familie, of voorbeelden in de buurt), maar het de grootste reden voor crimineel gedrag is m.i. is armoede of geen toekomst perspectief hebben/krijgen.
Als ik geen stageplek of werkplek kan krijgen of alleen de laagst betaalde baantjes kan krijgen, dan kan ik mij voorstellen dat je wel richting criminaliteit wordt geduwd.
Kortom discriminatie is volgens mij een grote reden om het crimineel gedrag te tonen.
Je kan het ook omdraaien en zeggen ik discrimineer hun juist omdat zij veel crimineel gedrag tonen.

Leuk detail is, dat veel mensen bv. in het verleden niet werden aangenomen met als reden "past niet in het team", "plek al gevuld met iemand anders" en andere smoesjes omdat ze van allochtone afkomst waren.
Echter tegelijkertijd was 80% van de call center medewerkers allochtoon. Juist je contact naar de klant toe. Dit waren trouwens wel de minder betaalde jobs binnen bedrijven.

[FONfanatic]

Als de verdere maatstaven hetzelfde zijn niet, maar ik heb stad en land ooit moeten bewegen om een mensenrechtenactivist uit Jemen toegang te kunnen laten krijgen voor een door BuZa zelf georganiseerde conferentie over de situatie in het land. Gelukkig kende ambassadepersoneel daar, en Judith Spiegel, hem, en heb ik die contacten, maar zo werkt dus groepsdiscriminatie: Jemen herbergt terroristen, dan weigerden we - destijds - alle Jemenieten.

[bommel]

Het is an sich toch niet raar dat je een visumaanvraag uit een land dat terroristen herbergt intensiever beoordeelt?

[litebyte]

Nee natuurlijk niet.
Het is een risico analyse op basis van herkomst. Als wij landen in Japan wordt het Nederlandse vliegtuig en haar Nedrlandse passagiers ook veel beter gecontroleerd dan een toestel uit een land waar wel een strenge drugswetgeving is.

[Haribo112]

Dat is inderdaad wel slecht. Prima dat je kritischer kijkt en beoordeeld, maar per definitie weigeren is fout.

[familyman]

Is alleen niet wat gebeurd.

Je hebt een algoritme dat zegt, deze lijkt vrijwel ok, en deze moet bekeken worden.

Dat er meer uitval in het bekeken worden zit, lijkt me logisch, anders kun je net zo goed een muntje gaan opgooien.

[Leeghoofd21]

Indien het logisch is , is het geen discriminatie. Alleen dan moet je nationaliteit niet als criteria stellen. Aangezien dat wel discriminatie is.

[Sissors]

Nu snap ik hem niet meer. Als het logisch is, is het geen discriminatie, maar het meenemen als criteria, wat dan dus logisch is, is wel discriminatie? Is het nou wel of gen discriminatie?

Lijkt mij verder een enorme inkopper dat dit wordt meegenomen. En natuurlijk, het ligt eraan hoe het wordt meegenomen. Maar vindt iemand het vreemd dat een Nepalees (dat waren wat edits later, verrekte weinig landen hebben een visa nodig om in de EU te mogen komen) die hiernaartoe komt eerder op de snelle rij gaat, en een Noord-Koreaan op de langzame rij?

[Reactie gewijzigd door Sissors op 23 juli 2024 17:33]

[TheVivaldi]

Ja, dat vind ik vreemd. Moet je eens kijken hoe Noord-Koreanen in eigen land behandeld worden. Nu zeg ik niet dat ze allemaal maar hierheen moeten komen (voor zo ver ze al veilig kunnen ontsnappen), maar als er eens iemand is, dan heeft diegene net zo goed recht op een visum na alle (mentale) ellende in eigen land.

Een ander verhaal vind ik het als het gaat om iemand die in eigen land voldoende kan verdienen om rond te komen, maar hierheen komt om rijk te willen worden.

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[Sissors]

Het gaat hier niet om asiel he? Het gaat om een visum, oftewel iemand die hier komt om bijvoorbeeld vakantie te vieren, of bij een conferentie langs komt, of zijn hobby van vliegtuigspotten bij militaire vliegvelden wil uitoefenen. Oftewel die Noord Koreaan gaat gewoon daarna weer terug naar Noord Korea.

[TheVivaldi]

Dan nog: als die Noord-Koreaan goede intenties heeft, dan zie ik geen reden om hem/haar gelijk naar de langzame rij te bonjouren.

Stel je voor dat we dat elders zouden doen, bijvoorbeeld in de supermarkt. Een Rotterdammer die even bij familie in Amsterdam op bezoek gaat en nog wat boodschapjes wil doen. “Meneer, dit is een Amsterdamse supermarkt en Rotterdammers mogen hier alleen in de langzame rij staan.”

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[Sissors]

Helaas hebben we geen snelle manier om te weten of iemand goede intenties heeft. Als we dat wisten dan was dit hele probleem er niet. Gezien we dat niet weten, moet er dus vervolgonderzoek worden gedaan. En mij lijkt het dan dus niet vreemd dat nationaliteit een rol speelt. Niet vanwege het individu, wel vanwege bijvoorbeeld de politieke verhoudingen tussen ons en het andere land.

Je voorbeeld is wat dat betreft ook scheef, want dan lijkt het ook alsof je er tegen bent dat Nederlanders anders worden behandeld die bijvoorbeeld na een vakantie terug Nederland in willen komen, als dat iemand uit bijvoorbeeld Afghanistan wordt behandeld? Lijkt mij heel normaal dat je met een Nederlands paspoort andere rechten hebt qua hoe makkelijk je Nederland binnenkomt, als iemand met een paspoort van een ander land.

[TheVivaldi]

Dat laatste lijkt me op zich logisch, maar dan heb je al een Nederlands paspoort, dus jouw vergelijking gaat ook scheef.

Een voorkeursbehandeling in andere gevallen vind ik raar. Gelijke monikken, gelijke kappen.

[Sissors]

En als je dan met een Belgisch paspoort Nederland in wil? Zelfde behandeling als iemand uit Yemen, of toch een voorkeursbehandeling omdat het Schengen is? En als iemand met Canadees paspoort Nederland in wil, zelfde als Yemen, of mag die toch de visum-vrijstelling gebruiken die bijvoorbeeld Canada heeft met Nederland (Europa)? En als we al die voorkeursbehandelingen wel prima vinden, wat is dan het probleem bij ook de visum groep nationaliteit een rol te laten spelen?

[TheVivaldi]

Schengen ben ik geen fan van, nee. Liever dat we de grenzen wat meer gesloten houden. Maar goed, voor buurlanden kunnen we nog wel iets bedenken, maar dan met name omdat mensen uit die landen vaak een belangrijke band met Nederland hebben, bijvoorbeeld omdat ze er werken. Maar het gaat hier niet om werk, maar om kortdurende visas voor bijvoorbeeld vakanties. En dan vind ik dat iemand uit Canada net zo behandeld moet worden als iemand uit Jemen. Om het Wikipediabeleid te citeren: “ga uit van goede wil”.

Edit: met als enige uitzondering uiteraard de ABC-eilanden, omdat die binnen ons koninkrijk vallen.

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[Sissors]

Hoewel ik het met beide punten persoonlijk niet eens ben, kan ik wel begrijpen waar het van komt. Maar de combinatie, dat je liefst grenzen meer gesloten houdt, ook voor andere EU inwoners, maar tegelijkertijd wil dat we voor inwoners van landen uit twijfelachtigere gebieden wel van de goede wil uit moeten gaan, dat vind ik een aparte combinatie.

[SPee]

Het probleem is: hoe zeker zijn we dat die persoon weer teruggaat en niet stiekem blijft?
Die personen die illegaal willen blijven moeten eruit gefilterd worden.
En sommige landen hebben daarin een hoger risico dan andere. En om dat uit te sluiten is het nodig om wat beter naar die aanvraag te kijken, ergo: de langzame rij. Als iedereen goudeerlijk was, zou dit niet nodig zijn.

Beter voorbeeld: We beperken de toegang tot de WC voor Amsterdammers in de Kuip. We vragen ze eerst waarvoor ze naar de WC moeten en voor hoe lang en beperken het aantal om zo vandalisme te voorkomen.

[familyman]

Maar asielbeleid is ook op basis van nationaliteit. Is ook niet eerluk boehoehoe. (Sarcasm)

[kozue]

Een ander verhaal vind ik het als het gaat om iemand die in eigen land voldoende kan verdienen om rond te komen, maar hierheen komt om rijk te willen worden.

Ah, dus jij meet ook met 2 maten? Hierboven roepen over “gelijke kappen”, en nu ineens onderscheid gaan maken op motief?

Dát is dus precies waarom sommige landen intensiever bekeken worden dan andere. Er zijn nou eenmaal een hoop gelukszoekers die hierheen komen om lekker binnen te lopen en dan ook maar direct hun familie in het buitenland te sponsoren. En hoe filter je die er uit? Precies, door extra controles, en proberen zo’n extra motief naar boven te krijgen. Dat wil niet zeggen dat bepaalde landen geen visums meer krijgen, maar alleen dat er meer controles op zitten. Als je niks verkeerd hebt gedaan, krijg je dat visum heus wel. Ook die Noord-Koreaan.

Of wil je dat we al die gelukszoekers maar binnen moet laten op een vakantievisum terwijl ze duidelijk de financiële middelen niet eens hebben om het hotel te betalen, zodat ze vervolgens hier kunnen “verdwijnen”? De kans dat een Amerikaan of Japanner hierheen komt om van ons sociaal stelsel te profiteren (uit te buiten) is vele malen kleiner dan iemand uit een arm land.

Ik heb zelf familie in India, en ik ken de houding van die mensen ondertussen prima. Ze denken dat we hier allemaal super rijk zijn en geld aan een boom groeit. Als het aan hun lag zou de hele familie en iedereen die ze kennen hier komen wonen en gratis geld ontvangen. Overigens zijn die procedures zo streng helemaal niet. Ik heb al vaak genoeg van die aanvragen gedaan, om een van hun te laten komen logeren voor een paar weken. Nooit problemen mee gehad. Ik ben een groot voorstander van privacyvoorvechters, maar in dit geval schieten ze echt in de verkeerde richting. Ga lekker Google aanpakken ofzo.

[TheVivaldi]

Ik zeg niet dat iedereen zomaar moet worden toegelaten, maar ik vind het nogal wat om het op basis van nationaliteit te doen. Die gelukszoekers komen misschien wel uit een handjevol bekende landen, maar ik vind alsnog dat je het per persoon moet bekijken en niet per land. Dus nee, niet meten met twee maten - gewoon iedereen in dezelfde wachtrij, klaar.

Wat privacy ermee te maken heeft begrijp ik overigens niet en ik ben ook niet een privacynerd of zo. Ik vind het wel wat belangrijker dan de gemiddelde gebruiker, maar niet overdreven. Ik gebruik zeker bepaalde diensten niet meer, zoals Google Zoeken, maar ik gebruik bijvoorbeeld wel nog Google Maps. En ik heb geen plannen om te stoppen met het gebruik daarvan.

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[gooos]

Dat is ook een logische, alleen is dat tegenwoordig politiek niet meer gewenst. En dan later wel verbaasd zijn als er problemen zijn voorgevallen omdat iemand er toevallig niet uitgepikt is

[Verwijderd]

Dit is toch precies hoe het hoort te werken? Als ze bij de afdeling visa al niet meer mogen discrimineren op vanuit welk land je wel of niet het land in mag, dan kunnen we er net zo goed mee ophouden.

[devices]

Waar staat dat dit niet mag? Dit artikel gaat over het gebruiken van nationaliteit in een algoritme die bepaald of iemand grondig of makkelijk bekeken moet worden, niet of het uberhaupt mag.

[The__Virus]

Wat een hoop verontwaardiging over een algoritme. Deze arbitrage lijkt me juist prima met een algoritme op te lossen. Je zou het bericht ook zo kunnen interpreteren dat het zijn werk goed doet. Het geeft nl. op basis van allerlei parameters een indicator af of er meer onderzoek nodig is. Het wijst niets toe of af. En blijkbaar is het effectief, want van degene die extra onderzoek moeten krijgen, blijkt inderdaad dat 1 op de 3 geen visum hoort te krijgen volgens onze ambtenaren/regelgeving.
Ook bijzonder dat de AP hier zich mee gaat bemoeien. De AVG, de juridische basis voor het hebben van de AP, zegt alleen dat je niet volledig aan een algoritme onderworpen mag zijn en dat daarop de uitslag volgt. Dat lijkt hier niet aan de orde.

Ik ga er vanuit dat de ambtenaren te goeder trouw handelen en hun werk naar behoren uitvoeren. Het lijkt alleen alsof zo'n aanname niet meer de defacto standaard is, wat ik jammer vindt.

Enige wat nog interessant is, is de set waarop het algoritme getraind is én de uitkomst van het onderzoek of de afgegeven indicatie aansluit bij hoe ambtenaren het zouden doen. En dat zal vast gebeurt zijn bij de ingebruikname hiervan.

Het belangrijkste struikelpunt is de nationaliteit. Als onze regelgeving onderscheid maakt in nationaliteiten, dan zal het algoritme dit ook doen. En de ambtenaren ook. Als dat onderscheid er niet is, hoeft het algoritme dat ook niet te doen. Nu is alleen de vraag wat de regelgeving is voor het verstrekken van een visum: op welke basis wordt deze verleend danwel geweigerd? Wat IND hierover schrijft wat hier enigszins mee te maken heeft:

U bent geen gevaar voor de openbare orde of nationale veiligheid. Of voor de internationale betrekkingen van een Schengenland.

en

U hebt voldoende redenen om terug te keren naar uw land van herkomst of land van bestendig verblijf. Bijvoorbeeld omdat u daar werkt, (schoolgaande) kinderen hebt of een eigen huis. Een retourticket alleen is niet genoeg. Het land van bestendig verblijf is het land waar u langer dan 3 maanden mag zijn. Omdat u daar een geldige verblijfsvergunning hebt of wacht op een beslissing op een verblijfsaanvraag.

Op basis van nationaliteit maak je een risicoklassering, vervolgens pakt een ambtenaar het op om dit verder te verifiëren. Logisch toch?

[Reactie gewijzigd door The__Virus op 23 juli 2024 17:33]

[locke960]

En blijkbaar is het effectief

Dat hoop ik wel. In principe is het mogelijk dat van de groep die door het snelle traject gaat, ook 1 op 3 afgewezen zou worden als ze door het intensieve traject zouden gaan. Dat zou dan betekenen dat het algoritme totaal niet effectief is en op andere problemen wijzen.
In feite moet je een dubbelblind test doen om hierachter te komen.

[WillySis]

Het gebruik van een algoritme hoeft nooit verkeerd te zijn, maar dan moet je het wel op de juiste manier gebruiken. Daarvoor moet je weten wat het doet. In veel gevallen is het ook beter om het algoritme niet beslissend, maar classificerend te laten zijn. Mocht er ook een zelf lerend aspect in zitten (AI), dan is ook belangrijk hoe men omgaat met de gegevens die men teruggeeft als leermoment.

De AP wil gewoon uitleg en dat is goed. De overheid heeft inmiddels al een zeer dubieuze naam als het gaat om het gebruik van algoritmes en AI. Mocht de minister de uitleg geven zoals jij die voorstelt, dan zal er weinig aan de hand zijn, behalve dat dat ook gewaarborgd moet worden.

[devices]

Dat laatste citaat laat, mijns inzien, zien dat je niet (alleen) naar nationaliteit moet kijken maar (ook) naar land van herkomst. Een Namibiër die al 20 jaar in de VS woont, stuur je niet terug naar Namibië, zoala dat citaat stelt.

[nDust]

Ook bijzonder dat de AP hier zich mee gaat bemoeien. De AVG, de juridische basis voor het hebben van de AP, zegt alleen dat je niet volledig aan een algoritme onderworpen mag zijn en dat daarop de uitslag volgt. Dat lijkt hier niet aan de orde.

Sinds kort is de AP naast toezichthouder op de AVG ook toezichthouder op het gebied van algoritmen (die niet per se persoonsgegevens hoeven te verwerken om binnen het toezichtsgebied te vallen). De wettelijke kaders voor algoritmen zijn nog vaag, maar binnen enkele jaren zal de Europese AI-verordening in werking treden en meer helderheid bieden.

[Reactie gewijzigd door nDust op 23 juli 2024 17:33]

[CivLord]

Elk onderscheid dat een algoritme maakt, op welke grond dan ook, kan rechtmatig zijn. Maar dan moeten die redenen wel goed vastgelegd en verklaard zijn. Volgens de landsadvocaat en het ministeie van Justitie en Veiligheid is dat hier het geval.

De AP is bezig met een stevige kruistocht tegen de overheid. Ze richten zich vooral op overheidsinstanties en voor commerciële bedrijven hebben ze niet genoeg capaciteit.

[kozue]

Lijkt me toch niet zo vreemd, om vooraf op basis van het land van herkomst al een simpele risico analyse te doen? Sommige landen staan nou eenmaal meer bekend om extreme (anti-westerse/aggressieve) ideeën dan andere. Dat is geen discriminatie maar simpelweg beschermen van je eigen land. Iemand die zich op basis van dat soort criteria gediscrimineerd voelt moet eens bij hun eigen land en cultuur gaan kijken voordat ze ons ergens van beschuldigen…

Geslacht en leeftijd vind ik dan weer minder voor de hand liggend. Terroristen komen in alle vormen en maten. Iemand van 16 kan net zo radicaal zijn als iemand van 60.

[TheVivaldi]

En als iemand een extreem land ontvlucht juist omdát diegene het niet eens is met zijn eigen land/cultuur en zich wil aanpassen aan de onze, wat dan? Dan kan dit algoritme diegene nog steeds mensen er uitpikken op basis van nationaliteit, ondanks dat er buitengewoon goede intenties zijn.

[Reactie gewijzigd door TheVivaldi op 23 juli 2024 17:33]

[kozue]

In zo'n geval vraag je geen vakantievisum aan (het gaat hier om kort verblijf, niet om vluchtelingen)
Als je je land probeert te ontvluchten en je visum voor kort verblijf wordt afgewezen omdat je andere motieven hebt, is dat volledig je eigen schuld.

[TheVivaldi]

Nou ja, dan nog. Je kunt niet van tevoren weten of iemand op vakantie gaat met goede of slechte motieven, dus alleen al daarom vind ik dat er geen automatisch proces moet kunnen beslissen of iemand in de snelle of langzame rij moet. Gelijke monikken, gelijke kappen.

[kozue]

Die gelijke kappen heb je sowieso al niet. Er is een hele reeks landen die überhaupt geen visum aan hoeven te vragen. Iemand uit Japan mag bv zomaar ons land in, en iemand uit het Midden Oosten niet. Dus eigenlijk zijn er 3 categorieën: high risk, low risk, en no risk. En Nederland is daar niet anders is dan andere landen. Met je Nederlandse paspoort kom je bv de meeste Caribische landen gewoon in zonder visum, maar als jij met je (zeg maar wat) Indiase paspoort aan komt zetten mag je eerst door de molen heen.
En dat heeft allemaal niks te maken met algoritmes, maar met regels. Dat er een computer tussen zit om die regels te implementeren is daarbij niet relevant.

[Reactie gewijzigd door kozue op 23 juli 2024 17:33]

[TheVivaldi]

Het zal mij een worst wezen wat andere landen doen. Ik woon in Nederland en wil dat het beleid om óns land in te komen gelijke monikken, gelijke kappen is. Klaar.

[SPee]

Waarom zou die persoon dan hier op vakantie willen om dan weer terug te gaan? Of wil die toch stiekum hier blijven?! Dan moet hij geen visum aanvragen, maar asiel.
Dus dat die persoon wordt uitgesloten is dan terecht; de intentie om aan het visum te voldoen (na x maanden weer terug gaan) is er niet.

[M. Schaap]

Het gaat niet over uitsluiten, de visumaanvraag wordt alleen wat beter getoetst.
Als alles in orde blijkt te zijn wordt er gewoon een visum verstrekt.

[m4ikel]

Ja en dat MAG dus niet, is dat zo lastig te begrijpen? Waarom kan er niet gewoon getoetst worden aan één standaard? Nee, de overheid moet zo nodig weer eigen regels bepalenovertreden. Maar als IK als werkgever iemand weiger (kritisch bekijk), omdat hij/zij uit land X komt, dan staat die zelfde overheid voor de deur wegens discriminatie.

Nee, strafrechtelijk onderzoek, en wel nu! Net als bij andere NL'ers

[Reactie gewijzigd door m4ikel op 23 juli 2024 17:33]

[Hatsjoe]

Ja en dat MAG dus niet, is dat zo lastig te begrijpen?

Hoezo mag dit niet? Het is volgens mij wereldwijd de norm om aan de hand van nationaliteit strenger of makkelijker te zijn met visumaanvragen. Zo hoeven Amerikanen geen visum aan te vragen om hier heen te komen maar iemand uit bijvoorbeeld Egypte wel. Is dat dan ook illegaal?

Waarom kan er niet gewoon getoetst worden aan één standaard? Nee, de overheid moet zo nodig weer eigen regels bepalenovertreden.

Het lijkt mij dat de overheid hier ook een standaard voor heeft, of bedoel je een wereldwijde standaard? En daarnaast is helemaal niet vastgesteld dat de overheid haar eigen regels overtreedt, dat maak jij er zelf van. Eerst maar eens het onderzoek en eventuele toetsing door een rechter afwachten.

Maar als IK als werkgever iemand weiger (kritisch bekijk), omdat hij/zij uit land X komt, dan staat die zelfde overheid voor de deur wegens discriminatie.

Omdat in dat geval de overheid al bepaald heeft dat deze persoon het recht heeft om in ons land te wonen en werken. Het is dan niet aan jou om te bepalen aan de hand van nationaliteit wie je wel of niet in dienst neemt. Wanneer het iemand betreft zonder werkvergunning, dan mag je die natuurlijk wel weigeren, en dat is dan geen discriminatie.

Nee, strafrechtelijk onderzoek, en wel nu! Net als bij andere NL'ers

Nou nou, even rustig aan. Het staat helemaal niet vast dat er strafbare feiten gepleegd zijn. Er wordt nu onderzoek gedaan, en wellicht komt daar ook nog een strafrechtelijk onderzoek uit. Maar meteen dit soort kreten roepen komt wel heel dicht in de buurt van het roepen dat er tribunalen opgezet moeten worden.

[CivLord]

Jouw voorbeeld is niet zo sterk. Degenen die voor die extreme ideëen naar Nederland toe willen komen zijn ook bij en uitgebreide toets moeilijk te herkennen. (Tenzij ze die ideëen actief op internet lopen te spuien.)

Mischien beter is wanneer de ervaring is dat er uit bepaalde landen vaker mensen met een vals paspoort komen. Dan kunnen mensen uit die landen een intensieve behandeling krijgen om het paspoort beter te controleren. Bij de reguliere beoordeling zal er nauwelijks naar het paspoor gekeken worden.
Of wanneer de ervaring is dat uit bepaalde landen vaker mensen een vakantie-visum aanvragen terwijl ze komen om te werken en niet teruggaan op de aangegeven datum, en bij de aanvraag allemaal een garantstelingsverklaring van de dezelfde Nederlandse instelling en een werkgeversverklaring van hetzelfde buitenlandse bedrijf hebben.

Enkel de nationaliteit mag nooit de enige reden zijn (tenzij de ervaring uit zou wijzen dat de meeste aanvragen uit een bepaald laand niet kloppen) om iemand te selecteren voor de uitgebreide controle. In combinatie met andere factoren kan het wel meespelen.
Maar in ek geval moet je een goed onderbouwde reden hebben om nationaliteit in het algoritme op te nemen. (Net als elke andere factor.)

[n4m3l355]

Over het aanvragen van visa's in het buitenland valt veel te zeggen en consulaten (en ambassade's) willen veelal helemaal niet weten wat er misgaat. Voor de EU is het voor veel landen gewoon dat je de aanvraag niet direct doet maar via een third party. Deze third party is in veel landen verkoopt onderhands aanvraag slots aan agents met een kickback. Dit is bekend bij Nederland, Duitsland, Italie en het zou me verbazen dat dit anders is voor andere landen. Met als gevolg dat mensen die geen agent willen gebruiken nooit een slot kunnen krijgen.

Dit bedrijf beoordeelt papieren op basis van een standaard lijst hoe een aanvraag moet verlopen maar deze is heel rigide en total niet voor rede vatbaar. Bijvoorbeeld zo heb ik meermaals gehoord dat mensen geen aanvraag konden doen omdat ze geen hotel hadden geboekt terwijl ze zelf een woning in de EU bezitten. Zo moet je ook tickets voorleggen maar omdat juist het visa aanvraag erg moeizaam kan verlopen is het vaak logischer om dat pas achteraf te doen. Ik snap wel dat ze inzage willen hebben waar je op aanvliegt / cq wat je plannen zijn maar wederom, weinig ruimte voor interpretatie.

Het consulaat zelf behandelt dan de aanvraag maar dit gaat voor veel landen heel onpersoonlijk, achter glas. Wederom kan ik dit wel begrijpen men wilt hun eigen personeel veilig stellen tegelijkertijd zorgt dit ook voor aparte situaties, waar je diegene kent maar niet "mag zien". Omgekeerd zijn er ook landen ook binnen de EU die visa's zo als een broodje weggeven al wetende dat deze "vakantie-gangers" helemaal niet op vakantie gaan maar doorreizen naar andere landen.

Ik heb geen antwoord hoe het wel moet, maar ik weet wel hoe ambtenaren-Nederland het doet, zo niet moet. Helaas ondanks vele jaren goede relaties met diverse consulaire medewerkers van laag tot hoog en ondanks ze alle bekend zijn met de vele rare problemen, verandert er niets.

[tunf]

Een algoritme is toch juist bedoeld om te discrimineren en daarmee zijn werk te kunnen doen. Een alles hoort erbij is geen heel goed algoritme.

[litebyte]

Dat ligt eraan hoe je het/een algorithm toepast en op basis van welke criteria deze is gemaakt.

[tunf]

Kunnen het ook een positief algorithme noemen maar ergens vind een dit wel en dat niet plaats en dat is discriminatie.

[Frogmen]

Is dit niet het gevolg van het steeds verder alles in regels vast willen leggen en alles moeten loggen etc. prima maar het gevolg is een heel erg duur en star systeem. Dit systeem wordt om het betaalbaar te maken voorzien van slimme software die op basis van regels selecties maakt. Zie bovenstaande en toeslagen affaire.
Als we nu gewoon weer onze ambtenaren vertrouwen, accepteren dat zij soms fouten maken, maar vooral menselijk gaan werken wordt het leven dan niet weer veel leuker. Overigens geld dit voor heel veel zaken, langzaam maar zeker gaan we kapot door alle regelgeving die soms ook nog ronduit tegenstrijdig is.

[Total Remco]

Wat in het artikel niet duidelijk naar voren komt is dat het NRC deze kwestie naar boven heeft gebracht. Het NRC wordt 1 keer genoemd in de inleiding maar daaruit is niet op te maken dat zij diegene zijn die dit onderzocht hebben.

Wel jammer aangezien ik dit zeer zou meewegen als ik een abonnement op een krant zou nemen.

[M. Schaap]

Het is gewoon een artikel in de NRC:
https://www.nrc.nl/nieuws...met-risicoscores-a4162837

Naar mijn mening is de NRC momenteel de meest woke krant van Nederland, op het masochistische af.
Als je een goede krant zoekt kan ik de Volkskrant aanbevelen.

[Timmiejj]

Wat ik hier niet zo goed aan begrijp, zonder algoritme deed het ministerie dit toch ook al?

Oude situatie: Ambtenaar kijkt naar aanvraag, aanvrager komt uit land X, gaat op snel verwerken stapel, komt uit land Y, gaat op strenger checken stapel.

Nieuwe situatie: Algoritme kijkt naar aanvraag, aanvrager komt uit land X, gaat op snel verwerken stapel, komt uit land Y, gaat op strenger checken stapel.

Is het nu erger omdat het gedaan word door een algoritme?

[CivLord]

Omdat het algoritme tegelijkertijd alvast meer factoren kan beoordelen kan de aanwezigheid van factoren A, B, C en D er misschien voor zorgen dat aanvrager uit land Y alsnog op de stapel snel verwerken komt te liggen.

[Bozebeer38]

Een algoritme is er om een baseline te hebben voor wat wel of bijvoorbeeld niet verdacht is in dit geval.
Dat komt hier niet tot stand uit discriminatie of racisme, maar uit constateringen en conclusies.
Als veel mensen van groep Y vaak zich schuldig maken aan X, gaat zo’n algoritme vanzelf wel een keer X met Y associëren.

Logisch, dit doen wij mensen zelf ook, normale functie van de hersenen zelfs.
Maar tegenwoordig noemen we dat “discriminerend” of “profileren”.

[mhnl1979]

Behalve als een algoritme is vastgesteld door mensen. Dan kun je de conclusie trekken dat omdat bijvoorbeeld drugshandel naar Duitsland enorm is, dat alle Duitsers drugssmokkelaars zijn. Wat natuurlijk niet klopt.

[LurkZ]

Als blijkt dat uit bepaalde landen veel bolletjeslikkers komen dan inderdaad die groep extra vaak door de scanner.
Als bezoekers uit een ander land vaak iets met KP doen, dan van die groep de laptops extra doorzoeken.

Maar draai het eens om. Waarom worden asielaanvragen uit België direct in de vuilnisbak gegooid en die uit bv Iran niet?

[CivLord]

Waarom worden asielaanvragen uit België direct in de vuilnisbak gegooid en die uit bv Iran niet?

Misschien omdat het politieke- en reschtssysteem in Nederland en België gelijkwaardig is. Alles waarvoor je in België vervolgd kan worden is ook in Nederland strafbaar. Je kan je daarvoor dus niet in Nederland verstoppen.
Het politieke- en reschtssysteem in Nederland en Iran zijn op verschillende punten wezenlijk anders. Sommige zaken waarvoor je in Iran vervolgd kan worden, worden in Nederland als vanzelfsprekend gezien. Vanuit het Nederlandse systeem zou het een schending van de mensenrechten zijn om die persoon weer naar Iran terug te sturen.

[Bozebeer38]

Maar als er veel smokkel is van en naar Duitsland, maar niet zozeer naar België, hoe wil je je tijd besteden?
Belgen en Duitsers evenredig controleren? Dat is geld en tijd verspilling.

[mhnl1979]

Dan is de juiste conclusie: van en naar Duitsland wordt veel gesmokkeld. niet alle Duitsers zijn smokkelaars. En omdat een algoritme wordt geprogrammeerd door mensen moet je dus ervoor zorgen dat het algoritme van het eerste uitgaat.

[Bozebeer38]

Je gaat nog steeds voorbij de vraag, als er veel gesmokkeld word uit Duitsland, ga je dan maar Duitsers niet checken? Of half? Waar trek je de grens dan?

Als je weet dat er veel drugs word gesmokkeld vanuit Suriname, dan check je mensen die naar of van Suriname vliegen, waarbij vaak ook gekeken word of er sprake is van veelvuldig reizen, wat de redenen daarvan zijn, welke soort visums (als daar sprake van is) worden aangevraagd etc.

Doodnormaal.

[mhnl1979]

Nee, daar ga ik niet aan voorbij. Je gaat dan de Duitsers checken die van/naar Duitsland gaan. Maar als het zelf lerende effect is, we moeten alle Duitsers controleren (ook als ze van Nederland naar België gaan) dan is het een slecht algoritme. Maar de kans is aanwezig dat er vanuit onbedoelde vooroordelen geprogrammeerd wordt. En dat is wel schadelijk.

[Bozebeer38]

Het algoritme spitst zich niet op alle Duitsers in zo’n geval, het spitst zich af op Duitsers die veelvuldig heen en weer reizen om maar 1 voorbeeld te noemen.