Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Schiphol test risicoprofielen reizigers op basis van beelden slimme camera's

Schiphol start volgend jaar een test waarbij op basis van verschillende gegevens waaronder beelden van slimme camera's risicoprofielen opgesteld worden voor eventuele verdere controle. Bij de test worden vrijwilligers en acteurs onderworpen aan de analyse.

Op Schiphol wordt in november 2020 de eerste pilot voor het Europese project Tresspass gehouden en het gaat dus niet om een test met echte burgers. Het doel van het project is om op risico gebaseerde grenscontroles te houden. Op basis van meerdere gegevens maakt een algoritme een inschatting van het risico dat reizigers vormen. Vervolgens moet een menselijke douanier beslissen of een controle vereist is. Dimitris Kyriazanos van onderzoeksinstituut Demokritos, mede-coördinator van het project, zegt tegen NRC: "Het algoritme licht een grenswachter in via een mobiele app. Hij of zij kan dan kijken of er daadwerkelijk iets aan de hand is."

Als voorbeeld van gegevens die meegewogen worden geeft Kyriazanos het contant betalen van tickets op luchthavens, wat een aanwijzing zou kunnen zijn dat een persoon onder de radar wil blijven. Ook analyse van camerabeelden is onderdeel van het opstellen van een risicoprofiel. Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur. Welke data allemaal precies wordt meegenomen bij het opstellen van profielen, is niet bekend.

Het doel van het project is om de stroom reizigers uiteindelijk sneller af te kunnen handelen, efficiënter te kunnen controleren en die controles minder willekeurig te maken. Na Schiphol volgen pilots bij een grensovergang van Polen en bij de zeehaven van Piraeus in Griekenland. Bij Tresspass zijn naast Demokritos en VicarVision onder andere ook het Nederlandse TNO en het Duitse Fraunhofer-instituut betrokken.

Gezichtsherkenning is geen deel van Tresspass. Schiphol test wel al jaren gezichtsherkenning om de doorstroom bij controles te bevorderen. Reizigers hoeven bij een gezichtsscan dan niet hun paspoort, identiteitskaart of instapkaart te laten zien. Ook hangen er op de luchthaven al camera's die automatisch 'afwijkend gedrag' kunnen detecteren.

Door Olaf van Miltenburg

Nieuwscoördinator

29-11-2019 • 16:54

214 Linkedin Google+

Reacties (214)

Wijzig sortering
Het probleem met die statistieken is dat het zichzelf versterkt - de statistieken zeggen dat een bepaalde bevolkingsgroep vaker crimineel gedrag vertoont, dus wordt die groep strenger in de gaten gehouden, dus wordt crimineel gedrag daar relatief vaker geconstateerd. In een groep waar minder controle is gaat criminaliteit vaker vrijuit, en dus hebben die statistieken een zichzelf versterkend effect.

Maar goed, dat daargelaten ben ik ook van mening dat het strenger controleren van een hele bevolkingsgroep in het algemeen een hele slechte praktijk is. In Nederland ben je onschuldig totdat het tegendeel bewezen is. Statistieken zijn geen bewijs, je moet mensen niet als "wellicht schuldig" gaan behandelen zonder aanleiding, en deze statistieken zijn wat mij betreft lang geen sterk genoege aanleiding.
Het zou best kunnen dat ik iets mis, maar als de statistieken zeggen dat een bepaalde bevolkingsgroep vaker crimineel gedrag vertoont (maar dit is niet het geval), vervolgens wordt hierop strenger gecontroleerd dan zal toch blijken dat deze groep misschien in absolute getallen meer criminele handelingen hebben gepleegd, maar het percentage "true positives" zou dan toch nog steeds gelijk blijven voor verschillende groepen en dat zal je vervolgens als data geven aan je systeem.

Vervolgens is het nog wel nodig dat als er vaak mensen uitgekozen worden op een bepaald kenmerk, maar deze niet leidt tot een hogere precisie dit kenmerk als minder belangrijk wordt gezien, zodat er als 1/10 van groep 1 en 1/10 uit groep 2 iets crimineels doet, maar groep 2 met een bepaald kenmerk vaker wordt gekozen vanwege een bias geconstrueerd uit data die niet de werkelijkheid representeren, dit kenmerk niet in stand blijft. (En dit zou geloof ik eigenlijk alleen nodig zijn als de verhoudingen precies gelijk zijn)

Hierdoor zou het systeem zichzelf toch in "evenwicht" moeten houden. Als de data aan het begin niet klopt dan zal dit eerst een probleem opleveren, maar het lijkt me dat dit soort systemen continu zouden moeten leren.

[Reactie gewijzigd door Takowski op 29 november 2019 17:54]

Daarbij is blijft het ook heel raar dat omdat iemand anders met een gezamenlijke verre voorouder iets heeft gedaan dat jij daar nu dan extra voor gecontroleerd wordt. Dat is waar het op neer komt.

En hoezo de steekproef minder willekeurig willen maken? We zijn al jaren aan het roepen dat we het juist willekeurig willen hebben en niet op basis van baard, getinte huid of gebrekkig nederlands. Juist die willekeurigheid maakt het lastiger voor criminelen want zodra ze weten waarop gezocht wordt gaan ze zich als blanke man op zakenreis verkleden.

En nu ben je ook al verdacht als je contant iets betaald omdat je het dan aan big data kan koppelen? Contant geld wordt jaren lang al gebruikt maar plots ben je verdacht omdat je je vasthoudt aan hoe je het altijd deed? Je moet ook bij contant betalen nog gewoon met paspoort en naam reizen dus waarom zou dit een red flag moeten zijn? Omdat je bank dan niet weet waar je heen gaat? De douane weet het en die hebben een reden dit te weten. Waarom boeit het de douane iets op welke wijze je je ticket betaald als je geen vluchtverbod hebt?
je kijkt met een heel sterke bias al :) De casussen dat die algoritmes echt vooral goed zijn in het versterken van een bias zijn veel sterker aanwezig dan dat ze werken.

Oa. in de rechtspraak ging het al serieus fout met deze zaken. De aanname dat het algoritme correct wordt aangepast is precies dat: een aanname.
Ik krijg kippenvel van het feit dat jij exact hetzelfde doet maar dat zelf niet doorhebt.
Is triest voor de goede mens, en dit systeem zou ook zeker niet als enkel middel gebruikt moeten worden, maar als "extra", is het toch alleen maar goed?
Nee, het is triest voor *ieder* mens.

Iedereen heeft het recht om als individu behandeld te worden. Al is 99% van de groep waar ik toe behoor crimineel, dan nog verdien ik een behandeling als individu en niet als "groepslid", en al helemaal als het gaat om groepen waar je toevallig lid van bent.

Een duidelijk voorbeeld hoe verschrikkelijk de fouten kunnen zijn, als je in groepen gaat denken, in plaats van individuen, is de schandalige benadering door de overheid in de zaak van de kindertoeslag.

[Reactie gewijzigd door Keypunchie op 29 november 2019 21:03]

Dit, verder is het keer op keer extra controleren van onschuldige mensen een erg goede manier om mensen tegen je in het harnas te jagen.

Heb het zelf mogen ervaren toen ik in zuid Duitsland aan het afstuderen was. Ik was begin 20, zag er uit als een random Nederlander of Duitser maar had nog een autotje met Nederlands kenteken (14 jaar oud peugeotje, niets bijzonders). Elke dag reed ik braaf heen en weer naar m'n werk. Hoe vaak ik niet gestopt ben voor een drugscontrole inclusief plassen en vieze hond is niet op 2 handen te tellen. Uiteraard vonden ze nooit wat.

Je voelt je echter wel een crimineel, het kost je tijd, je moet het weer gaan uitleggen, hoezo je 30 tot 60 minuten te laat bent en je krijgt vanzelf een soort angst als je politie ziet 'daar gaan we weer'. De politie wordt zo langzamerhand een soort 'vijand' die er niet voor jou is maar tegen je. Nogsteeds heb ik daardoor volledig automatisch een erg naar gevoel als ik in de auto een Duitse politieauto tegenkom.
Met dat verschil
  • Dat mensen wel degelijk enorm fout behandeld worden wegens foute profiling, zie bvb de Central Park Five.
  • Dat je je ras of geslacht niet zomaar even verandert, zoals dat met een rode jas kan
  • Dat iedereen nadeel ondervindt want luie profiling gebaseerd op ras/geslacht heeft tot gevolg dat de niet-geprofilde groep soms disproportioneel vrijuit gaat, zie vrouwelijke pedofielen en rijke drugsgebruikers.
Allemaal leuk dat je zegt 'sja, jammer voor je maar zo erg is het niet joh, maar ja, 'jouw groep' is nu eenmaal vet kut! Daar kan ik niets aan doen', maar dat is echt een erg makkelijk antwoord dat meer problemen oplevert dan het oplost.
Het probleem hierbij is dat precies die statistieken de input zullen zijn voor een dergelijk systeem. Echter zijn deze statistieken ook ontstaan door menselijk handelen van de afgelopen 20 jaar. Ofwel, daar waar wij met zijn allen aandacht aan hebben besteed (inclusief alle vooroordelen) hebben bepaalde data opgeleverd.
Nu hebben we volgens de statistieken (ik ken ze niet precies) blijkbaar een groter percentage migranten aangewezen op verdachte activiteiten dan de west-europeaan. Maar komt dat doordat die groep meer verdachte activiteiten uitvoert, door vooroordelen sneller gecontroleerd en gepakt worden of omdat ze het meest zichtbaar zijn?

Import van illegale drugs en handel daarin wordt bijvoorbeeld een steeds groter probleem. Behoren de mensen hierachter tot diezelfde doelgroep? Of kunnen zij het systeem volledig omzeilen omdat we nooit rekening met dat type verdachte persoon hebben gehouden?
En als we later bepaalde mensen makkelijk signaleren, zouden de daadwerkelijke opdrachtgevers achter de meer gevaarlijke activiteiten dan nog steeds dezelfde type mensen zoeken, of veranderen ze van strategie?
Het kan zomaar zijn dat je met een data-driven systeem achter de feiten aanloopt omdat je eerst specifieke gebeurtenissen moet hebben om die mee te kunnen laten wegen in je oordeel. Dat terwijl de crimineel van vandaag de dag ook niet stil zit en weer een nieuwe manier verzint om er doorheen te komen.
Dit soort systemen blijken vaak (onbedoeld) racistisch, zie bijvoorbeeld:
https://www.propublica.or...ts-in-criminal-sentencing
Het is daarentegen heel lastig om onderscheid te maken tussen racisme en de waarheid: sommige kenmerken (in de link bijvoorbeeld armoede) zijn gecorreleerd met ras, maar extra opletten bij armoede is dan weer niet racistisch. Dus waar ligt die lijn?
De lijn is heel simpel, je mag nooit op basis van ras of omdat je arm bent bij voorbaat verdacht worden gemaakt.
Ahum, zeker in 2016 geen TV gekeken? 36 doden, 300 gewonden op Zaventem. En dat was slechts de laatste van een deprimerende lijst aanslagen op vliegvelden die to in de jaren 50 van de vorige eeuw terug gaat.
Vergelijk van alle vliegvelden ter wereld het aantal dagen zonder incident met het aantal dagen met incident. Dus: SOM(vliegveld * aantal dagen met/zonder incident). Zet die twee getallen tegen elkaar uit. Het aandeel vliegvelden waarbij iets gebeurd gemeten in aantal dagen is statistisch niet significant.

Kom niet met een appeal to emotion. Het onderwerp is niet de individuele slachtoffers en hoe erg het is, maar de totale kans op dat er iets gebeurd als je een vliegveld bezoekt. Die kans is nihil. Je hebt onderweg naar het vliegveld meer kans op een ongeluk in de auto of een vertraging per trein door een aanrijding met een persoon.

[Reactie gewijzigd door The Zep Man op 29 november 2019 18:29]

Iedereen heeft een "inner racist" in zich. Dat jij je concentreert op het verschijnsel dat dat naar buiten komt is een ding, dat je daarmee impliceert dat jij daar boven staat is een heuse denkfout. Hij komt bij jou ook naar buiten maar je schiet in een reflex door het te bedekken met een bewuste tegenreactie. Je beschuldigd een ander dus van het niet bedekken van die "inner racist", maar de grap zit hem in het feit dat jij hem ook in je hebt. Je vindt een ander dus minder vanwege het hebben van een eigenschap die je zelf ook hebt, niet vanwege het missen van het bedekken ervan. Toedels
Grappig, want: niets persoonlijks aan. Gewoon psychologie, je weet wel: gedragswetenschappen. Als je mens bent, is het er! Ook bij jou mijn waarde.
Geen zin verder te discussieren want je probeert steeds om je eigen denkfout te dansen, al wijzende naar anderen. Wordt je vast een beter mens van! Succes en toedels


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone 11 Nintendo Switch Lite LG OLED C9 Google Pixel 4 FIFA 20 Samsung Galaxy S10 Sony PlayStation 5 Games

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True