Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Schiphol test risicoprofielen reizigers op basis van beelden slimme camera's

Schiphol start volgend jaar een test waarbij op basis van verschillende gegevens waaronder beelden van slimme camera's risicoprofielen opgesteld worden voor eventuele verdere controle. Bij de test worden vrijwilligers en acteurs onderworpen aan de analyse.

Op Schiphol wordt in november 2020 de eerste pilot voor het Europese project Tresspass gehouden en het gaat dus niet om een test met echte burgers. Het doel van het project is om op risico gebaseerde grenscontroles te houden. Op basis van meerdere gegevens maakt een algoritme een inschatting van het risico dat reizigers vormen. Vervolgens moet een menselijke douanier beslissen of een controle vereist is. Dimitris Kyriazanos van onderzoeksinstituut Demokritos, mede-coördinator van het project, zegt tegen NRC: "Het algoritme licht een grenswachter in via een mobiele app. Hij of zij kan dan kijken of er daadwerkelijk iets aan de hand is."

Als voorbeeld van gegevens die meegewogen worden geeft Kyriazanos het contant betalen van tickets op luchthavens, wat een aanwijzing zou kunnen zijn dat een persoon onder de radar wil blijven. Ook analyse van camerabeelden is onderdeel van het opstellen van een risicoprofiel. Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur. Welke data allemaal precies wordt meegenomen bij het opstellen van profielen, is niet bekend.

Het doel van het project is om de stroom reizigers uiteindelijk sneller af te kunnen handelen, efficiënter te kunnen controleren en die controles minder willekeurig te maken. Na Schiphol volgen pilots bij een grensovergang van Polen en bij de zeehaven van Piraeus in Griekenland. Bij Tresspass zijn naast Demokritos en VicarVision onder andere ook het Nederlandse TNO en het Duitse Fraunhofer-instituut betrokken.

Gezichtsherkenning is geen deel van Tresspass. Schiphol test wel al jaren gezichtsherkenning om de doorstroom bij controles te bevorderen. Reizigers hoeven bij een gezichtsscan dan niet hun paspoort, identiteitskaart of instapkaart te laten zien. Ook hangen er op de luchthaven al camera's die automatisch 'afwijkend gedrag' kunnen detecteren.

Door Olaf van Miltenburg

Nieuwscoördinator

29-11-2019 • 16:54

214 Linkedin Google+

Reacties (214)

Wijzig sortering
Klinkt op zich wel mooi. Maar ook wel een beetje als racial profiling
Het mag niet gezegd worden van politiek correct Nederland, maar statistieken tonen toch ook aan dat daar vaker dan gemiddeld problemen meespelen? Is triest voor de goede mens, en dit systeem zou ook zeker niet als enkel middel gebruikt moeten worden, maar als "extra", is het toch alleen maar goed?

[Reactie gewijzigd door Carlos93 op 29 november 2019 17:00]

Het probleem met die statistieken is dat het zichzelf versterkt - de statistieken zeggen dat een bepaalde bevolkingsgroep vaker crimineel gedrag vertoont, dus wordt die groep strenger in de gaten gehouden, dus wordt crimineel gedrag daar relatief vaker geconstateerd. In een groep waar minder controle is gaat criminaliteit vaker vrijuit, en dus hebben die statistieken een zichzelf versterkend effect.

Maar goed, dat daargelaten ben ik ook van mening dat het strenger controleren van een hele bevolkingsgroep in het algemeen een hele slechte praktijk is. In Nederland ben je onschuldig totdat het tegendeel bewezen is. Statistieken zijn geen bewijs, je moet mensen niet als "wellicht schuldig" gaan behandelen zonder aanleiding, en deze statistieken zijn wat mij betreft lang geen sterk genoege aanleiding.
Het zou best kunnen dat ik iets mis, maar als de statistieken zeggen dat een bepaalde bevolkingsgroep vaker crimineel gedrag vertoont (maar dit is niet het geval), vervolgens wordt hierop strenger gecontroleerd dan zal toch blijken dat deze groep misschien in absolute getallen meer criminele handelingen hebben gepleegd, maar het percentage "true positives" zou dan toch nog steeds gelijk blijven voor verschillende groepen en dat zal je vervolgens als data geven aan je systeem.

Vervolgens is het nog wel nodig dat als er vaak mensen uitgekozen worden op een bepaald kenmerk, maar deze niet leidt tot een hogere precisie dit kenmerk als minder belangrijk wordt gezien, zodat er als 1/10 van groep 1 en 1/10 uit groep 2 iets crimineels doet, maar groep 2 met een bepaald kenmerk vaker wordt gekozen vanwege een bias geconstrueerd uit data die niet de werkelijkheid representeren, dit kenmerk niet in stand blijft. (En dit zou geloof ik eigenlijk alleen nodig zijn als de verhoudingen precies gelijk zijn)

Hierdoor zou het systeem zichzelf toch in "evenwicht" moeten houden. Als de data aan het begin niet klopt dan zal dit eerst een probleem opleveren, maar het lijkt me dat dit soort systemen continu zouden moeten leren.

[Reactie gewijzigd door Takowski op 29 november 2019 17:54]

Ach ja, sorry, het hangt natuurlijk ervan af welke statistieken je neemt. Als je de statistiek "aantal arrestaties / aantal onderzoeken" neemt als richtlijn voor je profilering, zal dit geen versterkend effect geven (mits de groepen zich niet anders gedragen onder invloed van die profilering). Neem je echter een statistiek als "percentage van die groep met een strafblad," dan natuurlijk wel.

Dit alles neemt niet weg dat statistieken zoals deze naar mijn mening bij lange na niet significant genoeg zijn om een bevolkingsgroep bij voorbaat als verdacht te beschouwen.
Daarbij is blijft het ook heel raar dat omdat iemand anders met een gezamenlijke verre voorouder iets heeft gedaan dat jij daar nu dan extra voor gecontroleerd wordt. Dat is waar het op neer komt.

En hoezo de steekproef minder willekeurig willen maken? We zijn al jaren aan het roepen dat we het juist willekeurig willen hebben en niet op basis van baard, getinte huid of gebrekkig nederlands. Juist die willekeurigheid maakt het lastiger voor criminelen want zodra ze weten waarop gezocht wordt gaan ze zich als blanke man op zakenreis verkleden.

En nu ben je ook al verdacht als je contant iets betaald omdat je het dan aan big data kan koppelen? Contant geld wordt jaren lang al gebruikt maar plots ben je verdacht omdat je je vasthoudt aan hoe je het altijd deed? Je moet ook bij contant betalen nog gewoon met paspoort en naam reizen dus waarom zou dit een red flag moeten zijn? Omdat je bank dan niet weet waar je heen gaat? De douane weet het en die hebben een reden dit te weten. Waarom boeit het de douane iets op welke wijze je je ticket betaald als je geen vluchtverbod hebt?
Omdat men er tegenwoordig van uitgaat dat je iets probeert te verbergen als je een handeling uitvoert die niet digitaal traceerbaar is. Maar zelfs als dat het geval zou zijn, kan iemand dat simpelweg doen omdat hij of zij wil voorkomen dat allerlei instanties met persoonlijke data aan de haal gaan om je te profileren voor allerhande doeleinden. Hetgeen, gezien dit artikel, een volkomen terechte zorg is. Dit soort praktijken riekt sterk naar 'schuldig tot het tegendeel bewezen is'.
Als je kijkt naar crimineel gedrag in Nederland m.b.t. bepaalde vormen van criminaliteit: drugshandel, gewapende overvallen, afrekeningen/huurmoordenaars, autodiefstallen, inbraken, tasjesroof dan zie je gewoon zowel in cijfers als in de publieke massamedia *in beeld* in NL dat een groot deel van zowel de plegers als de veroordeelden geen westerse achtergrond hebben. Dat is niet rascistisch of discriminerend om dat toe danwel aan te geven.

De met name politieke en media krampachtigheid bij u in Nederland om dit probeem buiten (letterlijk) beeld te houden is vele malen gevaarlijker en werkt extreem rechtse partijen juist in de hand dan er ook werlijke (hard) beleidsmatig op in te gaan zetten en toe te geven dat het een probleem is.
Statistieken zijn totaal niet relevant hier. Terroristen zijn de uitzonderingen op de regel dat niemand een terrorist is, dus kijken naar correlaties in de maatschappij is totaal niet relevant voor het vinden van die ene terrorist met een vuurwapen in z'n handtas.

Waar je naar kijkt is een geldbesparingsmechanisme, niets meer en minder, op basis van de uiterlijke kenmerken van een reiziger. Schiphol denkt dat, omdat een groot deel van haar reizigers blank is, en statistisch in die groep minder vaak gekke dingen gebeuren, ze een lager risicoprofiel mogen toekennen aan blanke reizigers dan aan de rest, om zo minder controles en inspecties te doen. Dat is juist *slecht* voor de veiligheid. Vooral met de opmars van nazi-ideologie en nationalistische extremisten in het westen.

[Reactie gewijzigd door Laloeka op 29 november 2019 19:35]

Die opmars valt wel mee in verhouding maar hoe komt die opmars. Dit is allemaal gevolg van. Als je het probleem aanpakt dan los je het andere probleem vanzelf op. Oftewel de bron wegnemen dus geen struisvogel politiek bedrijven.

Als blijkt dat er blanke bedreiging is zal het algoritme vanzelf aangepast gaan worden.

Statistieken zijn in mijn ogen juist wel een belangrijke factor samen met gedragspatronen.

[Reactie gewijzigd door Garret1410 op 29 november 2019 21:06]

je kijkt met een heel sterke bias al :) De casussen dat die algoritmes echt vooral goed zijn in het versterken van een bias zijn veel sterker aanwezig dan dat ze werken.

Oa. in de rechtspraak ging het al serieus fout met deze zaken. De aanname dat het algoritme correct wordt aangepast is precies dat: een aanname.
Ik krijg echt kippenvel als ik lees dat (vooral witte) Nederlanders racial profiling goed praten. BAH
Ik krijg kippenvel van het feit dat jij exact hetzelfde doet maar dat zelf niet doorhebt.
Helaas valt die opmars niet mee, verre van zelfs. Je post lijkt te impliceren dat dat die opmars komt door een ander dan blanke bevolkingsgroep. Het is eerder het gevolg van politieke en economische instabiliteit en onrust.
Complete bevolkingsgroepen worden dan weggezet als "oorzaak" waardoor je polarisatie stijgt. Het wij vs zij.

Leesvoer
Bedankt voor je link, toevallig onlangs de BBC docu Rise of the Nazis gezien, waar dit verhaal ook vertelt wordt. Die docu is gemaakt in een soort reality TV style. Aanrader.

De oorzaak lag ook in het falen van de oude elite die hun kinderen massaal door de gehaktmolen van de 1e Wereldoorlog haalden (de term gehaktmolen wordt letterlijk gebruikt in die tijd). Die oorlog was zo uitputtend dat die ertoe leidde dat landen compleet gedestabiliseerd raakten en de mensen vatbaar werden voor extremistische ideeën. Eerste land waar dit gebeurde was Rusland. Mensen daar hadden gewoon niets meer te verliezen.

Mijn tip, de podcasts van Dan Carlin, Blueprint for Armageddon (in 6 delen) over de 1e Wereldoorlog, waar het zaadje voor de 2e al werd gelegd.
Inderdaad voor minder willekeurig controleren moet je gewoon 100% controles invoeren.
Dat is de enige "faire" methode.
Zowieso erg jammer dat contant betalen als waarde meegenomen wordt. Onder de radar willen blijven maakt je dus verdacht? Dus als ik ondanks niks te verbergen te hebben niet compleet mijn hebben en houden wil delen met mensen die dat totaal niks mee te maken hoeven te hebben wordt ik geprofileerd als potentieel risico en wordt alsnog mijn privacy die ik nog over heb doorzocht en zal ik waarschijnlijk alsnog het tegendeel moeten gaan bewijzen bij de douane.

We gaan echt steeds verder richting een totalitaire stasi achtige maatschappij waar de regering zijn functie compleet overschrijdt met als excuus veiligheid beschermen.

Geloof maar dat zulke maatregelen niet meer teruggedraaid worden zodra de terreurdreiging afneemt.

Schuldig tot je het tegendeel hebt bewezen en al je vrijheid en privacy is gemeengoed.
Contant betalen van grotere bedragen is zeker interessant als gegeven. Zeker als je een vlucht pas op een vliegveld koopt en dat dus cash betaalt. Beide gedragingen (vlucht kopen op het vliegveld en ticket cash betalen) kunnen een geldige reden hebben maar zijn wel zodanig afwijkend van normaal dat het imho wel zeker meegenomen mag worden om die persoon al dan niet te selecteren om in persoon wat nadere vragen te stellen (ipv practisch ongezien doorlaten het land in of uit).
Alternatief is om iedereen aan het meer diepgaande onderzoekje te onderwerpen.
Voor mij is meer het probleem wat er later met de verzamelde data wordt gedaan en hoe lang het in systemen beschikbaar blijft, zeker ook in de situaties dat de data GEEN flag genereerde (en je in dit geval zonder 1:1 gesprek met douane het land in of uit mocht. Krijg je 8 jaar later een vraag waarom je op 4 december 2011 een vlucht AMS-JFK maakte terwijl je die met je zakelijke AMEX betaalde terwijl je shorts droeg en rode Nikes droeg: dat lijkt niet op een business trip. Maar heb er geen moeite mee als ze diezelfde data gebruiken om me verder zonder vragen door de Privium poort het land (&de EU)te verlaten of juist doorverwijzen naar een echt mens om toch nog paar vraagjes te stellen en een daartoe opgeleide douanier zijn skills gebruikt om risico inschatting te maken.
Zoals gezrgd: alternatief is dat 100% reizigers via de menselijke douanier moet. Dan hebben we veel extra mensen nodig en gaan kosten omhoog
Dan stel ik mij de vraag waar wij in godsnaam mee bezig zijn.
Als ik soms die border control programma's zie, dan krijg ik het al op mijn zenuwen.
Ja er zijn veel pipo's die drugs e.d. smokkelen, daar heb ik geen compassie mee.
Maar je ziet ook veel onschuldige mensen opgepakt worden, om te 'ondervragen', omdat ze zogenaamd verdacht zijn . Met enkele uren veel stress en ongemak tot gevolg.

Hoe meer data wij verzamelen hoe meer verkeerde conclusies er zullen getrokken worden.
En dan durft niemand nog zijn eigen te zijn.
Dit moet echt stoppen
Nederland zou graag contante betaling volledig uitbannen, zodat inderdaad iedereen nog beter in de gaten kan worden gehouden.
Paranoia much? Mijn hemel...

Cash zal niet verdwijnen. Of ben je bijvoorbeeld de landelijke pinstoringen vergeten? Waardoor winkels moesten sluiten en omzet mis hebben gelopen.
Er moet áltijd een alternatief zijn voor elektronisch betalen. Dat is iets wat de Nederlandsche Bank ook promoot.

De paranoia hier bij bepaalde tweakers neemt wel ernstige vormen aan hoor...

Grote bedragen contant betalen kán verdacht zijn. En waarom zou je het doen? Je moet het contante geld ook ergens vandaan halen. Of je nou een groot bedrag ergens uit een pinautomaat trekt, óf het ergens met pinpas of credeitcard betaalt...
Nederlandse bank wil ook cash, anderen willen alles elektronisch, want makkelijk te traceren.

Ook grotere bedragen (tot 3000) betaal ik cash. Ik haal het op het bankkantoor.

En ja, cash kan verdacht zijn, maar ik vertrouw nu eenmaal niet veel mensen meer. Inclusief de overheid.
anderen willen alles elektronisch, want makkelijk te traceren
De meeste mensen willen geen cash vanwege het gevaar en gedoe. Ik loop liever 's avonds na het sluiten van de winkel over straat met een stapeltje pinbonnen dan met 50.000 in contanten. Ik installeer liever 1x in de zoveel jaar een nieuwe pinterminal bij de kassa dan dat ik dagelijks met de logistieke nachtmerrie van kilos metaal en papier zit. Ook privé vind ik één pasje veel makkelijker en sneller dan een hoop munten en briefjes.

Er zijn heel veel redenen om elektronisch te willen, en 'zodat ik mensen kan traceren' is voor veruit de meeste mensen zo ongeveer het laatste waar ze aan denken. Nog los van de wettelijke haken en ogen die daar aan zitten.
In Zweden zijn ze hiermee al heel ver.
Niet alleen wordt het vaker geconstateerd.... Onderzoek wijst ook uit dat wanneer een groep vaker verdacht is, deze groep het gedrag vaker zal vertonen, simpelweg omdat ze toch al, onterecht, verdacht zijn.....

Het is een reinforcing loop; verdenk de groep en de groep zal het gedrag vertonen waardoor de groep vaker verdacht is waardoor ze het gedrag vaker zullen vertonen enzovoorts....
Spijker. Kop. Dit is een hele enge en onwenselijke ontwikkeling in mijn ogen!
Precies. En nog een paar stapjes en je kan beter op voorhand iedereen opsluiten (of erger) die een verhoogd risicoprofiel heeft.

Overigens is het voorbeeld van cash betalende ticketkopers totaal irrelevant voor het slimme camera-verhaal. Is meer iets voor slimme kassa's.
En als er een aanslag gepleegd wordt en er is niets gedaan vanwege jouw argument dan ook niet verbaasd zijn als het voorkomen had kunnen worden dmv profiling.

Maar dat gezegd hebbende ben ik geen voorstander van een computer systeem die dit 'profiling' doet. Ben bang dat dit misbruikt kan gaan worden en toegepast kan worden op andere plaatsen dan vliegvelden.
Maar dat bewijst de data achter die statistieken dan toch? Als een algoritme kan bepalen dat een bepaald ras vaker crimineel of risicovol is en dat blijkt waar te zijn dan worden onze autoriteiten efficient ingezet. Ik zie dit liever dan de 'iedereen is verdacht' aanpak die tegenwoordig, zeker bij de beveiliging van vliegvelden word gebruikt. De manier waarop je als reiziger tegenwoordig word behandeld is iedere vorm van redelijkheid voorbij en heeft totaal geen respect voor privacy. Als we de daadwerkelijke gevaren voor het vliegverkeer via computers kunnen herkennen en de rest met rust laten dan zou ik daar een zeer groot voorstander van zijn.
Heb je een bron? is er überhaupt onderzoek gedaan naar deze claim?
In mijn originele post was ik niet geheel duidelijk wat ik precies bedoelde met de statistieken, waar @Takowski me op wees, impliciet had ik in gedachten dat de statistiek iets was als "percentage van de bevolkingsgroep dat crimineel gedrag vertoont." Voor de claim dat profilering ervoor zorgt dat bepaalde groepen overgerepresenteerd zijn in de gevangenis, meer dan de ratio in criminaliteit zou voorspellen, zie bijvoorbeeld https://www.jstor.org/stable/30162726.
Het is toch niet onlogisch om bepaalde groepen in de gaten te houden. Als op de A4 gemiddeld genomen de wettelijke snelheid wordt overschreden, dan plaats je ook toch geen snelheidscamera op een verlaten weg?
Is triest voor de goede mens, en dit systeem zou ook zeker niet als enkel middel gebruikt moeten worden, maar als "extra", is het toch alleen maar goed?
Nee, het is triest voor *ieder* mens.

Iedereen heeft het recht om als individu behandeld te worden. Al is 99% van de groep waar ik toe behoor crimineel, dan nog verdien ik een behandeling als individu en niet als "groepslid", en al helemaal als het gaat om groepen waar je toevallig lid van bent.

Een duidelijk voorbeeld hoe verschrikkelijk de fouten kunnen zijn, als je in groepen gaat denken, in plaats van individuen, is de schandalige benadering door de overheid in de zaak van de kindertoeslag.

[Reactie gewijzigd door Keypunchie op 29 november 2019 21:03]

Dit, verder is het keer op keer extra controleren van onschuldige mensen een erg goede manier om mensen tegen je in het harnas te jagen.

Heb het zelf mogen ervaren toen ik in zuid Duitsland aan het afstuderen was. Ik was begin 20, zag er uit als een random Nederlander of Duitser maar had nog een autotje met Nederlands kenteken (14 jaar oud peugeotje, niets bijzonders). Elke dag reed ik braaf heen en weer naar m'n werk. Hoe vaak ik niet gestopt ben voor een drugscontrole inclusief plassen en vieze hond is niet op 2 handen te tellen. Uiteraard vonden ze nooit wat.

Je voelt je echter wel een crimineel, het kost je tijd, je moet het weer gaan uitleggen, hoezo je 30 tot 60 minuten te laat bent en je krijgt vanzelf een soort angst als je politie ziet 'daar gaan we weer'. De politie wordt zo langzamerhand een soort 'vijand' die er niet voor jou is maar tegen je. Nogsteeds heb ik daardoor volledig automatisch een erg naar gevoel als ik in de auto een Duitse politieauto tegenkom.
Je krijgt ook een behandeling als individu, maar als 'jouw groep' een hoger risico profiel hebt zul je wel een extra controle krijgen. Is nu niet anders. Als 50% van alle mensen met een rode jas winkeldiefstallen pleegt, zal en beveiliger iemand met een rode jas meer in de gaten houden. Maar je wordt niet maar direct opgepakt 'want je zult wel iets jatten'.
Met dat verschil
  • Dat mensen wel degelijk enorm fout behandeld worden wegens foute profiling, zie bvb de Central Park Five.
  • Dat je je ras of geslacht niet zomaar even verandert, zoals dat met een rode jas kan
  • Dat iedereen nadeel ondervindt want luie profiling gebaseerd op ras/geslacht heeft tot gevolg dat de niet-geprofilde groep soms disproportioneel vrijuit gaat, zie vrouwelijke pedofielen en rijke drugsgebruikers.
Allemaal leuk dat je zegt 'sja, jammer voor je maar zo erg is het niet joh, maar ja, 'jouw groep' is nu eenmaal vet kut! Daar kan ik niets aan doen', maar dat is echt een erg makkelijk antwoord dat meer problemen oplevert dan het oplost.
Maar dan nog steeds, dat zijn kenmerken waar mensen nu ook naar kijken. En er dus uitgepikt worden, en dus die extra controles krijgen. Het verschil is dat er nu een camera en een algoritme voor gebruikt worden voor een stukje selectie. En dat is inderdaad selectief zoals je aangeeft, maar dan zou je terug moeten naar 100% controle en dat vind niemand wenselijk...
Het probleem hierbij is dat precies die statistieken de input zullen zijn voor een dergelijk systeem. Echter zijn deze statistieken ook ontstaan door menselijk handelen van de afgelopen 20 jaar. Ofwel, daar waar wij met zijn allen aandacht aan hebben besteed (inclusief alle vooroordelen) hebben bepaalde data opgeleverd.
Nu hebben we volgens de statistieken (ik ken ze niet precies) blijkbaar een groter percentage migranten aangewezen op verdachte activiteiten dan de west-europeaan. Maar komt dat doordat die groep meer verdachte activiteiten uitvoert, door vooroordelen sneller gecontroleerd en gepakt worden of omdat ze het meest zichtbaar zijn?

Import van illegale drugs en handel daarin wordt bijvoorbeeld een steeds groter probleem. Behoren de mensen hierachter tot diezelfde doelgroep? Of kunnen zij het systeem volledig omzeilen omdat we nooit rekening met dat type verdachte persoon hebben gehouden?
En als we later bepaalde mensen makkelijk signaleren, zouden de daadwerkelijke opdrachtgevers achter de meer gevaarlijke activiteiten dan nog steeds dezelfde type mensen zoeken, of veranderen ze van strategie?
Het kan zomaar zijn dat je met een data-driven systeem achter de feiten aanloopt omdat je eerst specifieke gebeurtenissen moet hebben om die mee te kunnen laten wegen in je oordeel. Dat terwijl de crimineel van vandaag de dag ook niet stil zit en weer een nieuwe manier verzint om er doorheen te komen.
Nee, gewoon nee. Het is en blijft profileren op basis van ras/huidskleur/religie, en je kunt in de rondte blijven discussieren en beargumenteren, maar dát feit verandert er niet door. Ons systeem is veel te veel gefocust op die ene uitvreter en we zullen die te pakken krijgen ook...en het mooiste is dat we de overheden en het systeem ook nog allemaal verdedigen en zelfs napraten, want dát wordt ons wijs gemaakt dat de grootste schandalen aller tijden zijn. Het is bewezen dat er meer gelden unclaimed blijven waar mensen wel recht op hebben, dan dat álle fraudeurs in NL bij elkaar "stelen".
Zolang we met zijn allen de overheden blijven verdedigen en napraten, blijft het stramien in stand dat iedereen gestraft moet worden (lees: alle data van alles en iedereen moet worden getracked en opgeslagen) om maar die ene eruit te pikken, en dat is zeer slecht voor onze privacy en het heeft nog nooit geleid tot het voorkomen van aanslagen, geweldpleging of andere delicten.

[Reactie gewijzigd door Deathchant op 29 november 2019 17:16]

Het is en blijft profileren op basis van ras/huidskleur/religie
Waar baseer je dat op? Er staat in het artikel zelfs:
Welke data allemaal precies wordt meegenomen bij het opstellen van profielen is niet bekend.
Er wordt inderdaad over huidskleur gesproken, maar niet over ras of religie. Je trekt dus conclusies op basis van een aanname die je niet kunt onderbouwen.
In de zin voor je selectieve quote:

Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur.
Wel even goed de zin lezen echter en niet te hard blindstaren op het feit dat er over huidskleur gesproken wordt.

Er staat niet dat de huidskleur een factor is die meegewogen wordt in of iemand wel of niet verdacht is. Wat er gezegd wordt is dat de camera de huidskleur en de kleding (dus de visuele kenmerken van een persoon) gebruikt om deze te volgen. Het idee is dus dat "bleke persoon met blond haar en met rode trui en blauwe broek op camera 1" dezelfde persoon is als "bleke persoon met blond haar en met rode trui en blauwe broek op camera 15 die in een andere hoek op hetzelfde gebied gericht is" zonder dat ze daarvoor gezichtsherkenning hoeven te gebruiken.

Dit is dus in principe alleen maar goed, want dan hoeft er geen gezichtsherkenning plaats te vinden, enkel een visueel patroon wanneer je de eerste camera binnenloopt, waarmee jouw uiterlijk als uniek gegeven voor de tracking gebruikt wordt. Dit is dus *geen* criterium voor beoordeling verder.

[Reactie gewijzigd door TheKmork op 29 november 2019 19:35]

Toen ik de zin las wist ik al dat in de reacties klachten zouden komen van mensen die het verkeerd lazen.

Dit is niets anders dan een hint voor de camera: volg de pixels waar wit (huid) boven rood (tshirt) boven blauw (spijkerbroek) boven zwart (schoenen) over het beeld bewegen. Waarbij de camera per kleur natuurlijk honderden zo niet meer verschillende tinten kan onderscheiden. De zin geeft alleen aan dat de camera dus ook de tinten van de huid kan onderscheiden en dat maakt het tracken van de persoon (pixels) betrouwbaarder. Als de camera op die afstand oogkleur zou kunnen onderscheiden dan zouden ze dat ook meenemen, heeft niets met ras/huidskleur te maken.
In de zin voor je selectieve quote:

Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur.
Maar huidskleur is toch één van de primaire kenmerken ?
Wit of donker, maakt niet uit ... je gaat niet even de hoek om en past die aan.

Dus als zo'n systeem een hit heeft, maakt het notitie van kleding en huidskleur ....
Ik zie het probleem niet.
Het zou anders zijn als er een parameter zou zijn "donker +25" - "wit -25"
In jouw quote:
onder andere kleding en huidskleur
Dus er worden (veel) meer aspecten (gedrag, kleding, huidskleur, bewegingen, betalingen) bekeken en beoordeeld en jij wordt getriggerd door dat ene woordje? Tijd voor wat zelfreflectie? Misschien iets te veel tunnelvisie?
Ja, volgen, niet beoordelen. Camera systemen gebruiken nou eenmaal gekleurde pixels om te volgen (tracken).
Laat huidskleur nou net een kenmerk zijn bij verschillen tussen de menselijke rassen. Kleding en andere manieren van uiterlijkheden kun je vaak zo afleiden welke geloofsovertuiging iemand heeft.

Verder vind ik dit een dusdanige grove schending van je rechten dat ik vind dat de systeembouwers deze terechte vragen en opmerkingen maar onderbouwd moeten weerleggen. Want die groep heeft toegang tot de informatie daarvoor benodigd, wij niet.
Het is prima om achterdochtig te zijn, maar je bent net zo oppervlakkig achterdochtig jegens het systeem als het systeem (volgens jou dan) dat is jegens de bezoekers van de luchthaven. Jij kent het systeem eigenschappen toe zonder dat je kennis hebt van de achtergrond, je wantrouwt het systeem gebaseerd op ervaringen uit het verleden en de inhoud van een enkel artikel hier op Tweakers.
Wat doe jij dan nu anders dan het systeem straks?
Niets en dat is exact mijn punt.

Maar ik "discrimineer" liever dit systeem, als dat we dit systeem straks laten discrimineren op basis van schuldig tot het tegendeel bewezen is.

[Reactie gewijzigd door arbraxas op 30 november 2019 23:22]

Blijf het toch een bijzonder contrast vinden.

Veel grote bedrijven profileren zich met ras, geloof etc . Mooie grafiekjes, tabellen en noem maar op
https://diversity.google/annual-report/

Maar zodra het over delicten gaat mag niks benoemd worden

[Reactie gewijzigd door Waterkoker op 29 november 2019 18:39]

Dat is het probleem, volgens CBS is de niet westerse allochtoon overmatig aanwezig in de cijfers.
Dus krijg je in een artikel over een misdrijf al heel snel een "zie je wel" idee.
En dát is weer een trigger voor beide groepen ...
Dat krijg ik ook bij het diversiteit rapport van Google. Overmatig veel "whites" en "asians" :+
Lang verhaal kort. Het kan nooit goed gedaan worden. We zetten ons als mens wel in een enorm spagaat
Het is nogal een verschil of je op basis van uiterlijk wordt geclassificeerd als potentiële koper van product X of als potentiële crimineel.
Misschien omdat delicten die meer opvallen dan witteboorden criminaliteit vaker gepleegd worden door personen uit milieus die sociaal en economisch bij de onderkant van de maatschappij horen?
Voor de Tweakers die nooit lineaire TV kijken.
Doe ik ook steeds minder. Maar ik kijk wel vaker naar Opsporing verzocht.

Een deel van onze multiculturele samenleving komt in beelden van bewakingscamera's opvallend vaak voor.
Zou dit ook cherry picking zijn v/d omroep
of omdat deze groep mensen gewoon in het donker eerder opvallen
of gewoon omdat een bepaalde groep mensen bepaalde delicten vaker plegen dan een andere groep mensen?

Als dit de statistieken zijn voer je deze aan het algoritme, klaar!
Ja privacy is een groot goed. Maar die vrijheid is onder druk komen te staan sinds 9/11 en een hele reeks aanslagen waarvan > 90% door mensen met een bepaalde achtergrond werd gepleegd.

En dan komt op een gegeven moment een ander groot goed in het geding en dat is onze veiligheid.
Ja en dat gaat ten koste van onze privacy.
Ik kan er niet tegen als mensen dan er van alles gaan bij halen zodat een camera systeem niet gevoed zou mogen worden met statistische feiten om de kans op een noodzakelijke interventie te verhogen.

Hetzelfde geldt voor profiling door de politie; vervelend dat je onterecht kan worden aangehouden. Veel vervelender vind ik als een politie hun ervaring moet negeren omdat dit politiek correct lijkt.
Laat die mannen, die gevaarlijk werk voor ons allen opknappen, gebruik maken van hun ervaring en gezond verstand.
Ja laten we teruggaan naar de jaren 80 en vooral niet mogen constateren dat er mogelijk flinke problemen waren met 1e generatie kinderen van arbeids migranten want dat is racisme.... Terwijl de oorzaken van grote percentage "probleem kinderen" juist veroorzaakt werd hoe de Nederlandse maatschappij de nieuwkomers opving (of vooral niet iets deed).
Maar we konden ons (gebrek aan) beleid niet aanpassen omdat we het probleem niet konden zien omdat het rapporteren van een trend van bovengemiddeld percentage crimineel gedrag bij bepaalde groepen te stigmatiserend zou zijn.
Terwijl de originele oorzaak (volgens mij) niet zozeer bij de migranten lag maar bij de Nl overheid en samenleving die niet wilde erkennen dat er mogelijk wat extra begeleiding nodig was om mensen 'veilig' on een nieuwe omgeving en cultuur te integreren.
Maar we mochten het destijds niet benoemen en moesten zelfs ten stelligste ontkennen dat er wat aan de hand was
Volgens objectieve maatstaven gaat het niet minder goed dan te verwachten viel met de integratie in Nederland. Niet accepteren dat integratie wrijving zou geven is een irrationele verwachting.

Het helpt ook weinig om de nadruk te leggen op de ethnische achtergrond van criminelen als je ondertussen bezuinigd op preventieve maatregelen als buurtagenten , opleiding en jeugdwerk. De noodzaak voor begeleiding heeft meer te maken met sociale klasse en opleidingsniveau van ouders.
De relatie tussen etniciteit en criminaliteit is te zwak voor het anders behandelen van de hele etnische groep. Mannen maken ook naar verhouding meer snelheidsovertredingen dan vrouwen, maar niemand staat voor om alleen nog maar mannelijke chauffeurs op snelheid te controleren.
Het is inderdaad jammer dat vooroordelen zo vaak bevestigd worden. Het is echter niet goed om dat te implementeren. Dit systeem zou objectief moeten zijn. Iemands gedrag zou bepalend moeten zijn, niet iemands huidskleur, politieke overtuiging of religie.
Als de bron-data waar het systeem uit put niet objectief is kan je het systeem nooit echt objectief krijgen en als het toch zou lukken zit je ook nog aan de factor mens waarvan er teveel gewend zijn om het allemaal toch een stuk minder objectief te zien.
Objectief in dit soort systemen bestaat niet omdat dit systeem nou net bedoeld is om niet iedereen gelijk te hoeven behandelen. Na verloop van tijd krijg je een systeem wat een nog nauwer blikveld heeft als een Nazi uit 1939.
"Statistieken" zijn niet nieuw. In de geschiedenis van de mens zijn statistieken vaker excuus geweest voor discriminatie en zelfs genocide. Die statistieken noemen we (gezonde mensen) inmiddels vooroordelen, maar het principe is hetzelfde.
Nee, dat mag niet. Abject.
Politiek correct Nederland? Jij vind het prima dat kinderen die hier opgroeien en de "statistieken" tegen hebben daar de rest van het leven maar de dupe van moeten zijn, daar heb je immers toch geen last van en dan heb je het lef ook nog om correctheid in de mond te nemen? Het is goed met je.
Precies wat ik met het eerste bericht bedoelde. Op statistieken en onderzoek gebaseerde reactie, waar door jou zo op gereageerd wordt.
Flink hoor, je gaat het ook nog lopen goedpraten begrijp ik? Denk je nu werkelijk dat je de statistieken kunt misbruiken om iedereen bij wie de 'statistieken' tegenzit minder rechten te gunnen? Mooi niet, en iedereen die zulke idioterie in stand wil houden zullen geheid van een koude kermis terugkomen en heel gauw ook. Jij gaat hier niet mee wegkomen, of mag ik dat alleen zeggen als de 'statistieken' dat uitwijzen, Carlos?
Jij bent met zo'n insteek de 'crimineel', dat lijkt je nog niet door te hebben. Te lang is er weg gekeken en kon je ermee wegkomen maar dat gaat veranderen of je er nou klaar voor bent of niet. Je kan hoe dan ook vanaf nu niet meer volhouden dat je er niet voor gewaarschuwd bent.

[Reactie gewijzigd door sampoo op 30 november 2019 19:08]

Zullen we zien. Woon in de uk en is toch een hele andere insteek. Nu zeker na die terreurdaad een paar dagen terug. Moet meer cameratoezicht komen, betere voorspellingen, meer stop & searches.

Is het toeval dat ze het extra doen in omgevingen die uit diezelfde soort statistieken naar voren komen als mogelijke verdachten?

Hebben vaker dan gemiddeld wapens of drugs. En dan gebruik in zuid Londen als referentiegebied met die slechte doelgroepen volgens de statistieken. Dat spreekt dan toch voor zich?
Jij komt nog wel aan de beurt, waar je ook bent. Het ergste is nog wel dat je er trots op lijkt te zijn en je er niet eens voor lijkt te schamen. We zullen zien inderdaad. Jij denkt dat je een ander kunt afrekenen op ander man's daden omdat je ze wat op elkaar vind lijken? Goh, dan staat je nog wat te wachten, maar dan roep je wel "ik deed helemaal niets verkeerd". Hoe hypocriet kun je het hebben? Jij gaat hier niet mee wegkomen. Wen er maar aan.
Ik doe ook helemaal niks verkeerd. Ik ben niet degene die deze systemen ontwikkeld, of me er mee bezig houdt.

Dreigementen als je komt nog wel aan de beurt halen dan ook niks uit.

[Reactie gewijzigd door Carlos93 op 1 december 2019 16:19]

Ik doe ook helemaal niks verkeerd. Ik ben niet degene die deze systemen ontwikkeld, of me er mee bezig houdt.
Je moedigt het aan, of kom je daar nu op terug?
Dreigementen als je komt nog wel aan de beurt halen dan ook niks uit.
Jij vind het prima dat je aan de beurt komt voor de statistieken van anderen maar als ik je zeg dat jij dan ook aan de beurt komt, voel je je bedreigd? Maak dat de kat maar wijs. Als dat anders ligt, kan ik me alleen maar meer zorgen om je maken.

Waarom zouden diezelfde systemen die je aanmoedigt zich niet op jou richten en jou het leven zuur kunnen maken? Besef je alleen dan wat er fout is aan die geweldige systemen? Roep je dan dan wel discriminatie? Ik kan er gewoon niet bij hoe iemand met zijn volle verstand dit niet op voorhand als verwerpelijk ziet. Dan is er toch iets goed fout gegaan onderweg.

[Reactie gewijzigd door sampoo op 1 december 2019 23:16]

Die verontwaardiging is vaak het ergste. Een systeem wat lauter op data leert en beslist om zo een bepaald optimum te behalen. Wat dacht je dan dat er uit zou komen? CBS zegt genoeg over de verschillen in criminaliteit tussen bevolkingsgroepen.
Criminaliteit komt voor bij zowel autochtonen als allochtonen. Voor dit systeem zou het niet uit moeten maken welke van de twee je bent. We pakken hiermee criminaliteit aan, en dus niet een persoon met een specifiek huidskleur.
Onzin. Het gaat ook om voorspellen. Alle factoren bij een beetje kwalitatieve AI spelen daarbij een meer of mindere rol. Naast gedragingen kan leeftijd i.c.m. een etnische achtergrond een sterk sturende factor zijn bij het maken van een beslissing. Laat ik het omdraaien: een blank oud vrouwtje die vreemd gedrag vertoond. Zou zo’n systeem hier een hoog terroristisch risico aan plakken? Denk dat iedereen snapt dat dat verspilling van tijd en energie zou zijn niet? Uiteraard heeft iedere groep foute mensen er tussen, maar het idee dat je net zo succesvol kunt voorspellen zonder dit soort factoren in overweging te nemen is echt onzin. AI grijp iedere bron aan, logisch ook.

[Reactie gewijzigd door Joppiesaus2 op 29 november 2019 17:19]

Tegenwoordig heb je ook oudjes die bewust stelen, dus ik zou het geen verspilling van tijd vinden.
Ooit iemand onbewust zien stelen?
Dat noemen we gewoon vergeten, gebeurt oudjes nog wel is...
Ja, oudere mensen met dementie of iets vergelijkbaars. Je kunt het ook zien als 'vergeten', maar juridisch gezien is niet betalen in de winkel gewoon stelen. Natuurlijk worden ze dan ontoerekeningsvatbaar verklaard door hun dementie, maar ook dan is nog wel gebeurd wat er is gebeurd.

[Reactie gewijzigd door TheVivaldi op 30 november 2019 12:18]

Ik snap je punt, maar ben het niet met je eens. Etnisch profileren is nooit juist en kan ook nooit goed gepraat worden. Nu geef je als voorbeeld een omaatje, maar hoe zit het met iemand die arabisch achtergrond heeft en een baard draagt? Moet die gemarkeerd worden als potentiële terrorist? Dat is dus heel fout en mag dus nooit gebeuren.
Niet mee eens. Alle factoren meenemen om een betere voorspelling te maken is ok. Hoe klein ze ook zijn qua voorspellende kracht. Wat je met die analyse doet is een tweede.

Niet alle jonge moslims mannen zijn terroristen. Toch zijn bijna alle mensen die zichzelf opblazen op drukke punten als Schiphol jonge moslim mannen.

Met die informatie moet je wat doen. Je moet je tijd en middelen dan niet gaan zitten verkisten aan blanke oma’s die zich mogelijk in een druk publiek terroristisch gaan gedragen. Da’s echt onzinnig.
Als alles op dezelfde waarde staat kan een systeem nooit onderscheid maken. Dus noord Afrikaans uiterlijk, baardje en arabisch sprekend? Reken maar dat het systeem daar extra "bonuspunten" voor rekent. Of je het nou leuk vind of niet.

Ik ben gewoon tegen deze systemen, omdat schuldig tot tegendeel bewezen er aan ten grondslag ligt. Hier word gewoon iedereen gediscrimineerd.

[Reactie gewijzigd door arbraxas op 29 november 2019 18:04]

Tweakers: Schiphol test risicoprofielen reizigers op basis van beelden slimme camera's
En daar hebben we Minority Report, weer vandaag een grizelig iets wat uit komt, eerst al met Kabinet en KNVB onderzoeken opties voor gezichtsherkenningscamera's in stadions, en nu met dit.

Wat gaat toch alles griezelig snel nu.

[Reactie gewijzigd door AmigaWolf op 29 november 2019 18:10]

Het artikel gaat over Schiphol, dus terrorisme zal de rode draad in dat systeem zijn. Voor fraude bij bijvoorbeeld ziektekosten zullen de criteria anders liggen. Maar dan nog blijft ik bij mijn standpunt. Gewoon niet aan dit soort systemen beginnen.
Het verschilt alleen een beetje wat voor soort criminaliteit. Naar mijn idee is het bij autochtonen meer oplichting, zwendel, etc. en bij allochtonen meer zakkenrollen, winkeldiefstallen, etc.

Maar inderdaad komt het dus bij allebei voor.

[Reactie gewijzigd door TheVivaldi op 29 november 2019 17:21]

Het is maar net hoe je de cijfers interpreteert. Hoe zijn de cijfers als je mensen op basis van sociale klassen bekijkt i.p.v. afkomst?
Dit soort systemen blijken vaak (onbedoeld) racistisch, zie bijvoorbeeld:
https://www.propublica.or...ts-in-criminal-sentencing
Het is daarentegen heel lastig om onderscheid te maken tussen racisme en de waarheid: sommige kenmerken (in de link bijvoorbeeld armoede) zijn gecorreleerd met ras, maar extra opletten bij armoede is dan weer niet racistisch. Dus waar ligt die lijn?
De lijn is heel simpel, je mag nooit op basis van ras of omdat je arm bent bij voorbaat verdacht worden gemaakt.
Je weet dat het ongelofelijk gevaarlijk is wat je hier beschrijft? Misschien moet je eens wat geschiedenisboeken gaan lezen voordat je nog raardere dingen gaat schrijven. Volgens jouw redenatie kan je zo een verhaal maken waarom jodenvervolging (of iedere andere groepsvervolging) goed was.
Weet je hoe ongelofelijk zwak dit argument is? Beetje gehersenspoeld door je politieke correctheid? Niemand wilt of heeft het hier over groepen mensen vervolgen. Ik zeg nog expliciet dat het niets met vervolging te maken moet hebben. Je superieure moraliteit en gelijk moeten halen door platweg de ander te godwinnen. Echt bah.
niet alleen racial. als iemand met autisme word ik ook altijd bang voor dit soort systemen. je gedraagt je vaak aanzienlijk anders en dan ben je direct verdacht, terwijl dat je gewone gedrag is. vaak houden zulk soort systemen, en mensen overigens ook, geen rekening met ND mensen.
Het is al een paar keer eerder opgenoemd maar: menselijke bewakers of douaniers zullen door dat gedrag ook getriggerd worden. Het gaat er juist om dat deze algoritmes, als ze werken zoals ik zou willen dat ze werken, dit gedrag meenemen, samen met andere zaken en dan een gewogen oordeel maken.
Daarnaast: als ik het goed lees wordt dit systeem voornamelijk gebruikt als waarschuwing voor menselijke bewakers, die een kijkje gaan nemen bij een rode vlag.
Waar komt dat 'deny' in het rode vlakje in het plaatje bij het artikel dan vandaan?
Het is interessant hoe verschillend wij in het leven staan en hoe wij dit artikel dus benaderen.
Ik had het plaatje helemaal niet goed bekeken. Nu zie ik inderdaad dat daar "Deny" staat. Maar ik heb het artikel goed gelezen en zelfs de Tresspass site bezocht. Daar staat ergens de volgende zin:
Based on this risk, the system then adjusts the number and types of security checks required for each traveler, congruent with the associated risk, in order to maintain a desired security level while optimizing the security
Het systeem is ontworpen om de flow van passagiers op een luchthaven zo soepel mogelijk te doen verlopen. Op basis van een hele hoop gegeven worden bezoekers ingedeeld in een risico-categorie (de verticale balk rechts in het plaatje). Op basis van je risico-categorie worden er acties opgestart (controles, aanhoudingen, waarschuwingen etc).
Wat er aan tekst naast die kolom staat is niet zo van belang en sterk afhankelijk van de toepassing. En daar is de tekst en uitleg in het artikel weer van belang: daarin wordt duidelijk gezegd dat het systeem waarschuwt en dat actie van een mens noodzakelijk is.
Zo lees ik het. Het lijkt erop dat jij de tekst voor kennisgeving aanneemt en op basis van het woord "deny" (en waarschijnlijk ook het woord "huidskleur") een eigen verhaal bouwt.
Het was ook maar een vraag. :)
Bedankt voor het antwoorden. :Y)
Kan ik me compleet bij aansluiten. Dan is zo'n situatie als een vliegveld al super vervelend en overweldigend, veel prikkels, overal gesprekken, hoop lichten, geuren, en geluiden. En dan wordt je er ook nog eens tussenuit gepikt omdat je te moe bent om je dagelijkse aanpassingen te doen. Geen oogcontact, wat lompere houding, slecht volume controle, nerveuze ticks. Het wordt er in ieder geval een stuk onprettiger onder, en het is al niet makkelijk.
Klinkt op zich wel mooi. Maar ook wel een beetje als racial profiling
Waar haal jij vandaan dat dit systeem meer op bepaalde rassen let? Ik kan daar niets van terug vinden, help me eens opweg?

Of denk je het zo maar?
Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur.
Doen ze in Israël al jaren, uitermate effectief overigens
Doen ze in Israël al jaren, uitermate effectief overigens
Alleen zijn ze daar ook een beetje doorgeslagen in het geheel, niet ?
De verhouding is wat eenvoudiger ( plat gesteld ) de ene groep vindt dat de andere daar niet thuishoort, en roept openlijk op tot gewapend verzet aan alle onderdanen.

Dan ga je niet met statistieken werken ( al zijn die wel aanwezig )
Ik durf zomaar in te schatten dat van alle bus-aanslagen het géén enkele blanke ( zijn dat blanken, geen idee ) Israeli is geweest uit de joodse gebieden.
Dan worden alle niet blanken ( of andersgekleurden ) direct verdacht

Dat moet je ook niet willen, massahysterie en generalisatie
Heb niet over Israël zelf, heb je een punt, maar puur airport security. Goed bepaalde groepen hebben sowieso een verhoogd risico, terecht of niet, effectief is het wel daar. Controle vind al plaats op de weg naar het vliegveld! Puur op basis van type voertuig aantal mensen etc. Technisch hoogstamdje

[Reactie gewijzigd door himlims_ op 29 november 2019 19:43]

Misschien even verdiepen in bijvoorbeeld het vliegveld van Tel Aviv,: https://en.wikipedia.org/wiki/Ben_Gurion_Airport
Nee, de slimme camera's kijken niet naar de kleur van het huid maar op gedrag van de mens.
Edit: Over een regel gelezen. Het is helaas wel op ras en kleding gebasseerd. Hoe het zit met de legaliteit hiervan vraag ik mij sterk af of dit überhaupt wel mag.

[Reactie gewijzigd door Boender op 29 november 2019 21:04]

Er wordt nu al heel erg aan racial profiling gedaan. Als dit systeem op meer kenmerken checkt neemt het misschien zelfs af.
Er staat duidelijk in het artikel dat een aantal factoren niet bekend zijn, maar toch ook dat er in ieder geval ook wordt gekeken naar huidskleur. Wel even lezen hè ;)
Nee, gewoon bij de feiten blijven. En niet op basis van statistieken (wat ook maar een verzameling cijfers is waar je alles mee kunt doen) oordelen.
Ik snap het gedoe rond de 'gevaarlijke' reizigers niet helemaal. Een foute of depressieve piloot lijkt me een veel groter risico. Of gekken met luchtafweergeschut... Ach, alles voor de veiligheid, is het niet? -zucht-
Ik snap het gedoe rond de 'gevaarlijke' reizigers niet helemaal. Een foute of depressieve piloot lijkt me een veel groter risico. Of gekken met luchtafweergeschut... Ach, alles voor de veiligheid, is het niet? -zucht-
Ahum, zeker in 2016 geen TV gekeken? 36 doden, 300 gewonden op Zaventem. En dat was slechts de laatste van een deprimerende lijst aanslagen op vliegvelden die to in de jaren 50 van de vorige eeuw terug gaat.

Aanslagen met luchtafweergeschut zijn in vergelijk zeldzaam, net als onstabiele vliegers.
Ahum, zeker in 2016 geen TV gekeken? 36 doden, 300 gewonden op Zaventem. En dat was slechts de laatste van een deprimerende lijst aanslagen op vliegvelden die to in de jaren 50 van de vorige eeuw terug gaat.
Vergelijk van alle vliegvelden ter wereld het aantal dagen zonder incident met het aantal dagen met incident. Dus: SOM(vliegveld * aantal dagen met/zonder incident). Zet die twee getallen tegen elkaar uit. Het aandeel vliegvelden waarbij iets gebeurd gemeten in aantal dagen is statistisch niet significant.

Kom niet met een appeal to emotion. Het onderwerp is niet de individuele slachtoffers en hoe erg het is, maar de totale kans op dat er iets gebeurd als je een vliegveld bezoekt. Die kans is nihil. Je hebt onderweg naar het vliegveld meer kans op een ongeluk in de auto of een vertraging per trein door een aanrijding met een persoon.

[Reactie gewijzigd door The Zep Man op 29 november 2019 18:29]

Die aanslag was vóór de douane. Die ga je hier niet mee tegenhouden.
[...]
Aanslagen met luchtafweergeschut zijn in vergelijk zeldzaam, net als onstabiele vliegers.
Oekraïne en Germanwings vergeten?
Dat zegt hij dus, je noemt net de twee die hij bedoelt, vergeleken met de meerdere (poging tot) aanslagen op de grond.
Op de grond is niet in het vliegtuig. Aanslagen zijn zeldzaam, vooral in en met vliegtuigen, zelfs voor de hysterie. Tegen het kapen om te vluchten hielp vooral dat geen land je meer laat landen.

De middelen die nu worden ingezet zijn mijns inziens veel te zwaar en zullen per saldo de boel niet significant veiliger maken. Denk ik.

Het is een vervoersmiddel, geen bezoek aan de koning
Neemt niet weg dat er ook een stel depresieve piloten vliegtuigen hebben laten neerstorten in de Alpen of volledig verdwenen ergens NW van Australie (al weten we van die laatste niet zeker of en welke piloot dat dan deed; maar 1e vlieger in de Alpen weten we wel).

En procentueel is aantal slachtoffers in vliegtuigen (ongelukken, depressieve piloten en terroristen samen) nog steeds veel lager dan bij welke andere transporrwijze dan ook.
Uiteraard vooral dankzij al die aandacht voor veiligheid, maar doe niet alsof er constant aanslagen op vliegtuigen zijn.
En je kan nooit alles uitsluiten en 100% veilig maken en ik vind persoonlijk dat dat teveel gevraagd/geeist wordt door "de maatschappij".. als er wat gebeurt is het snel: schandalig dat dit kon/waarom stopten ze de dader niet/hadden ze toch moeten zien aankomen etc.
Je kan natuurlijk iedere reiziger naakt en volledig geboeid vervoeren zonder bagage (aparte vrachtvlucht voor je koffers, kleding, laptop en taxfree aankopen) maar gaat wel ten koste van comfort 8)7 |:(
Kijk, ik vind het ook wat overdreven hoe het nu is (bijv dat ze moeilijk doen over vloeistoffen, etc), maar er is wel een reden voor veiligheidsmaatregelen, natuurlijk.
Sterker nog, juist vanwege de veiligheidsmaatregelen zijn we niet meer zo bang voor de 'gevaarlijke' reizigers.
Maar als je indenkt dat vroeger relatief vaak een vliegtuig werd gekaapt, er was een periode dat het gemiddeld elke 5.6 dagen gebeurde, 326 kapingen in 5 jaar tijd, dan snap je dat het niet helemaal onterecht is en dat we een heel end zijn gekomen.
We kunnen ons dat echt niet meer voorstellen dat er elke week wel een vliegtuig gekaapt zou worden.

Dat gezegd hebbende denk ik ook dat er diminishing returns zijn met de maatregelen die genomen worden.

[Reactie gewijzigd door anandus op 29 november 2019 17:22]

De meeste kapingen waren/zijn vluchtpogingen. Dat heeft bar weinig met vloeistoffen en terrorisme te maken.
Sterker nog, juist vanwege de veiligheidsmaatregelen zijn we niet meer zo bang voor de 'gevaarlijke' reizigers.
Juist door de maatregelen wordt men angstiger. "Er zal immers wel iets aan de hand zijn, want anders had men hier niet zoveel tijd en energie in gestoken".

Vergelijk het met een ME'er zien op straat met een machinegeweer. Ik vermijd dan liever die locatie door het verhoogde risicoprofiel, mede gevoed door de aanwezigheid van een mens (met diens beperkingen) die in het bezit is van een machinegeweer.

[Reactie gewijzigd door The Zep Man op 29 november 2019 18:21]

Ik denk eerder dat het gaat om de verkoop. Eerst van de scanners en nu die overal staan moeten er volgsystemen verkocht worden.
Het is een groot goed om je in het openbaar vrij te kunnen bewegen en je onbespied te wanen.
Schiphol is niet een gewone/algemene openbare ruimte maar heeft een bepaald specifiek doel. Iemand die alleen maar onbespied wil kunnen rondhangen heeft daar weinig te zoeken ook omdat er "kwetsbare" personen samenkomen ( net aangekomen reizigers die de taal en cultuur niet kennen, alleen zijn, moeten uitwerken hoe ze op hun eindbestemming kunnen komen et etc). Dat je die mensen extra wil beschermen tegen kwaadwillenden is normaal.
En natuurlijk zijn aanslagen op vliegtuigen en -velden ook prima manieren om aandacht in de wereldpers te krijgen voor jou (als terrorist) doelstellingen is ook reden om "anders" te zijn dan een gewone openbare plek waar je ongestoord en onbespied kan hangen. Dat laatste kan prima in het bos
Het is ook een groot goed om je veilig te kunnen wanen.
Wij vragen de overheid van alles, maar we hebben zelf niet op het netvlies wat belangrijker is: onze persoonlijke vrijheid of onze veiligheid. Kennelijk, gezien de reacties onder dit artikel is onze persoonlijke vrijheid een hogere prioriteit dan onze persoonlijke veiligheid. Dat is prima, maar dan zou het fijn zijn als de publieke verontwaardiging achterwege bleef als de politie/het leger/onze inlichtingendiensten worden verrast door een aanslag.
Interessant om te zien hoe een artikel als deze de 'inner racist' van sommigen naar buiten brengt :+
Hey wat leuk, iemand die bij voorbaat al een ander een bepaalde eigenschap toekent. Op basis van wat zou dat zijn denk je zelf?
Dat je zo een reactie moet plaatsen op iets dat heel overduidelijk is vind ik maar triest.
Iedereen heeft een "inner racist" in zich. Dat jij je concentreert op het verschijnsel dat dat naar buiten komt is een ding, dat je daarmee impliceert dat jij daar boven staat is een heuse denkfout. Hij komt bij jou ook naar buiten maar je schiet in een reflex door het te bedekken met een bewuste tegenreactie. Je beschuldigd een ander dus van het niet bedekken van die "inner racist", maar de grap zit hem in het feit dat jij hem ook in je hebt. Je vindt een ander dus minder vanwege het hebben van een eigenschap die je zelf ook hebt, niet vanwege het missen van het bedekken ervan. Toedels
Haha, dat slaat echt nergens op maar goed. Als jij je daarme beter voelt moet je vooral zo denken. Is het toevallig omdat ik iets heb geraakt bij je, waardoor je iedereen moet betrekken bij die eigenschap van je? :+

Ik vind het grappig dat je denkt dat iedereen zoals jezelf een 'inner racist' heeft. Je hebt zeker ook nooit met racisme te maken gehad tegenover jezelf? Wat een denkwijze zeg.
Grappig, want: niets persoonlijks aan. Gewoon psychologie, je weet wel: gedragswetenschappen. Als je mens bent, is het er! Ook bij jou mijn waarde.
Geen zin verder te discussieren want je probeert steeds om je eigen denkfout te dansen, al wijzende naar anderen. Wordt je vast een beter mens van! Succes en toedels
Hoe is het een denkfout wanneer er mensen zijn die het gewoon overduidelijk toegeven 8)7
Er nog steeds niet achter zijn, of het niet kunnen of willen zien wat er speelt, maakt nog niet dat je weer kunt beginnen waar je begonnen bent, om de discussie weer opnieuw te kunnen
beginnen. Dat doe je maar met een ander, of jezelf.
Je hoeft niet zo 'diep' te doen hoor. Sommige dingen zijn erg simpel, maar ik snap wel dat iemand die zulke reacties plaatst zich slimmer voor probeert te doen hier op Tweakers. Nogmaals: niet iedereen heeft zoals jij een 'inner racist'.

Er zijn genoeg mensen die streven naar een goede SAMENleving. Succes ermee!
Oh, weer een dans. Nu is mensen een "inner racist" toeschrijven opeens een roep om oppervlakkige reacties? Ik neem dat soort titels altijd erg serieus, je kletste maar wat dus O-)
En dan let t algoritme op huidskleur enzo. Dat zal men leuk gaan vinden.
En dan let t algoritme op huidskleur enzo. Dat zal men leuk gaan vinden.
Is dat iets wat je denkt of dat je daar aanwijzingen voor hebt? Ergens een link?

Wat deze camera doet is precies hetzelfde als wat een beveiliger doet. Gedrag dat niet past opmerken. Bijvoorbeeld als iemand een object ergens zet en wegloopt. Of als iemand opeens naar buiten rent. Geschreeuw zonder dat er een feestje is. Nu vliegvelden steeds groter worden moeten we steeds meer mensen hebben die het in het oog houden.

Ik ben geen groot fan van de vele zwaar bewapende bewakers op bijvoorbeeld Franse vliegvelden die de hele tijd rond moeten lopen. Als die voor een deel vervangen worden door een slim systeem lijkt me dat nog niet zo slecht.
Lees anders eerst even het artikel voor je comment...?
Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur.
Tja, welke kenmerken hebben terroristen op luchthavens tot nu toe gemeen? Of bepaalde bevolkingsgroepen het nou leuk vinden of niet, het komt doorgaans wel uit dezelfde hoek. En dat kun je moeilijk negeren.
RAF, IRA en dergelijke zouden zorgen dat er erg op blanken moet worden gelet.

Ook journalisten zouden beter in de gaten moeten worden gehouden met de pogingen om gaten in de beveiliging te vinden.
Gebruiken ze toevallig Hikvision camera's op Schiphol. Vast niet :+ maar die zijn blijkbaar wel vooruitstrevend.
Dat is nu eenmaal een kenmerk van de grootste groep terroristen? Waar ga je je algoritme anders op baseren? Een ak74 in de hand?
Nee, neem dan een AK-47. :Y)
Ik denk dat het net de bedoeling is van dit soort test om te zien hoe dit soort bias al of niet gaat optreden. Je wil bijvoorbeeld wèl op basis van nationaliteit mensen intensiever controleren, en dat zal in sommige gevallen leiden tot het vaker controleren van mensen met een bepaalde huidskleur, wat op zich geen probleem is. Maar je wil vermijden dat huidskleur op de deur een criterium op zich wordt.
Dat geldt overigens voor allerlei persoonlijke kenmerken: het is belangrijk dat je heel goed kan verantwoorden wat de criteria zijn voor dit soort automatische "rating". Als je dat niet kan (en daar op een bepaald moment niet transparant kan over zijn), dan wordt het al vlug een moeilijke zaak.

Persoonlijk ben ik wel te vinden voor een algoritmische approach, omdat een selectie door mensen (douanebeambten) nog véél meer aan bias onderhevig zal zijn. Maar het is belangrijk dat de algoritmes transparant zijn en continu gemonitord en beoordeeld worden op ongeoorloofde bias.
Ik krijg helemaal de kriebels van al die projecten die ons proberen te volgen, al dan niet met camera's.
Extra erg is dat het allemaal black boxes zijn waar nauwelijks toezicht op is. Formeel wordt de gebruiker alleen "geadviseerd" maar in praktijk volgen mensen het advies van de computer bijna altijd.
En dan let t algoritme op huidskleur enzo. Dat zal men leuk gaan vinden.
Nee. Het systeem Let op gedragingen. Iemand die al een paar uur heen en weer loopt op een luchthaven en niks met de luchthaven zelf te maken heeft is verdacht. Evenals mensen die zichzelf zeer goed verbergen terwijl dit niet gebruikelijk is.
Ik krijg helemaal de kriebels van al die projecten die ons proberen te volgen, al dan niet met camera's.
Extra erg is dat het allemaal black boxes zijn waar nauwelijks toezicht op is. Formeel wordt de gebruiker alleen "geadviseerd" maar in praktijk volgen mensen het advies van de computer bijna altijd.
Jouw opmerking is nergens op gebaseerd. Ik weet dat hier een gigantische vergrootglas op ligt. Schiphol heeft al een zeer lange tijd gesprekken met Europa hoe dit uitgewerkt moet worden, wat er met de data gebeurd, wie er toezicht op houd, wie er bij de systemen mag komen en welke profielen de interesses zijn.

Het is niet even een winkel dat zijn eigen dingetjes regelt, het is Schiphol dat onder toezicht werkt van Europa. Elke scheet die ze laten moet worden goedgekeurd. Er bestaat op zo'n schaal nog geen wetgeving en Schiphol is een proeftuin daarvoor.

[Reactie gewijzigd door Luchtbakker op 29 november 2019 17:33]

Hoe bepaal je precies wat er "verdacht" is dan? Je hebt het over mensen die een paar uur heen en weer lopen. Het artikel zelf heeft het over mensen die contant betaald hebben.

Maar wat maakt deze mensen precies tot een dreiging? Er zijn de afgelopen 5 jaar of zo, maar één of twee incidenten geweest op schiphol, waarbij daadwerkelijk een dreigende situatie was (dus geen vals alarm of zo). Wellicht betrof het toen die ene keer iemand die contant betaald had voor het één of ander, maar dat kan evenzogoed toeval zijn.

Er is gewoon véél te weinig data bekend over hoe een "dreigende situatie" eruit ziet of ontstaat. Voor een systeem als dit, zijn tienduizenden, zoniet honderdduizenden voorbeeld cases nodig om tot het minste beetje bruikbare betrouwbaarheid te komen. Die cases zijn er simpelweg niet. En dus gaat het systeem niet werken.

Het enige wat een dergelijk systeem in de praktijk kan doen, is een beetje profileren op onzinnige kenmerken die niet in de praktijk getoetst zijn. En dat kan gewoon alleen maar narigheid opleveren.
Hoe bepaal je precies wat er "verdacht" is dan? Je hebt het over mensen die een paar uur heen en weer lopen. Het artikel zelf heeft het over mensen die contant betaald hebben.

Maar wat maakt deze mensen precies tot een dreiging?
Er is een verschil tussen een dreiging en een risico. Een risico benodigd een extra menselijk oog, een mogelijke dreiging vereist wel aandacht en houd mensen staande. Het systeem is voornamelijk voor een risico bedoeld. Op Schiphol lopen niet enkel mensen rond die een aanslag willen plegen, maar vooral mensen die stelen of oplichten.
Jouw opmerking is nergens op gebaseerd.
Hangt onze wereld vol camera's of niet?
Al die projecten houden zich keurig aan de regeltjes maar ik ben het niet eens met die regels, want de regels staan het toe dat er camera's staan langs alle grote wegen, bij alle stations, vliegvelden en winkelstraten. Het is allemaal volgens de regels maar het resultaat is dat je eigenlijk je huis niet meer kan verlaten zonder bespioneerd te worden.
Direct al verdacht als je contant betaald. Ik denk niet dat je dan op je gemak voelt, wetend dat er camera's op je gericht staan als je daarna een bakje koffie drinkt.
Gelijk een ontmoediging om dingen contant te betalen. Als men dan daardoor nog meer met pas betaald zijn de geldstromen weer inzichtelijker. Voel je waar het heen gaat ? Manipulatie is dat. Ik blijf gewoon dingen met cash betalen als ik daar zin in heb, en als we dat allemaal stug blijven doen dan is zo'n algoritme niets meer waard..... aardig wat uitzoek werk als half Nederland straks 'verdacht' is toch !?
In Amerika wordt de politie soms al gebeld als je Starbucks contant betaalt.
Dit gaan wij ook krijgen hoor.

Sterker nog, ik ken iemand die in de WAO loopt, een vrouw en kinderen in het buitenland heeft en een erfenis heeft gehad en een paar keer met z'n creditcard via Western Union of zo een flink bedrag aan hen heeft overgemaakt. Allemaal legaal zou je zeggen, maar ICS stuurt een controleur op z'n dak, vraagt naar z'n salarisstrookje en besluit dat continuering van hun overeenkomt 'niet in hun beleid past' en dat ze 'm over 2 maanden zullen beëindigen.
Hij heeft geen verweer want dat staat zo in de A.V., en geen VISA kaart meer want ICS heeft zo'n beetje een monopolie hiermee in Nederland.
Dat is wat er op ons af komt.
Zo'n erfenis (en ander kapitaal) moet je natuurlijk wel melden bij de WAO (want je moet eerst kapitaal opmaken als ik het mij goed herinner). En zit de vrouw niet in Europa, dan valt het ook niet goed te controleren hoeveel zij in het bezit heeft (dit maakt uit gezien ze getrouwd zijn).

Ik ben het ook niet echt eens met die regeling. Erg vervelend voor jou kennis.
Welke 'regeling' bedoel je? Dat z'n kaart zonder enig bewijs dat hij iets fout doet door een commerciële partij wordt opgezegd? Die regeling is er namelijk helemaal niet.
En ik heb het even nagevraagd maar de WAO is een verzekering, dus geen sociale uitkering, tegen arbeidsongeschikt raken. Kan jou ook overkomen en je hoeft geen kapitaal op te maken en z'n vrouw kan verdienen wat ze wil. Geen reden dus voor ICS z'n kaart oo te zeggen. Ik stond met m'n oren te klapperen toen ik het hoorde. Zover zijn we blijkbaar al heen in Nederland.

[Reactie gewijzigd door ajolla op 1 december 2019 17:27]

Microsoft’s AI bot was binnen een dag racistisch door te leren van Twitter
https://www.theverge.com/...-microsoft-chatbot-racist

Hoe lang verwachten we dat het duurt voordat dit systeem racistisch zal gaan profileren?

Het probleem met dit soort systemen is dat er alleen gekeken zal worden naar de vermindering van het aantal incidenten. Het aantal false positives zal grotendeels genegeerd worden omdat dat geen KPI voor het systeem is. En daar wordt de wereld, volgens mij, niet beter van.....
Het aantal false positives zal grotendeels genegeerd worden omdat dat geen KPI voor het systeem is.
Hoe weet je dat?

Die KPI is vrij eenvoudig in te bouwen en het lijkt me ook wel handig om te weten hoe vaak je personeel voor niets kostbare minuten heeft besteed aan onschuldige bezoekers.
Het Amsterdamse bedrijf ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur.
Gaat geen rechtzaak overleven dit systeem. Discrimineren op basis van huidskleur is verboden. Geen idee wat ze daar bezielt.
Hoezo discrimineren? Waar staat dat?
Men kan mensen volgen, en gebruikt dus oa kleuren lees ik. De camera kan dus twee reizigers met identieke kleding, maar met een verschillende huidskleur uit elkaar houden.

Ik vermoed dat er wel meer menselijke kenmerken zoal de soort en kleur haar worden meegenomen. Zijn allemaal onderdelen die je met een goede camera en software kunt detecteren.
En wat constateert dat systeem dan vervolgens? Dus hoe iemand er uit ziet is dreigend? Een blanke oma met 2 kilo semtex is geen probleem, een Noord-Afrikaan met 2 kilo dadels wel.
determineren is wat anders dan discrimineren. Hier is sprake van richten op een set van gegevens, die deternimeer je dan uit de data-set en volg je.
kunnen ze eigenlijk niet kijken naar gezichtsuitdrukkingen, manier van lopen, stress indicatoren etc? Dat lijkt mij veel zinniger dan een kleurenpalet erbij pakken
Hoe kom je er bij dat ze dat niet doen?
In het artikel wordt het onderstaande genoemd. Welke data er mee gaat is niet bekend waardoor het geheel wat vaag is en tegelijkertijd ruimte geeft voor eigen invulling.

"Het Amsterdamse bedrijf VicarVision ontwikkelt het systeem hiervoor dat met behulp van deep learning maakt dat camera's reizigers kunnen volgen op basis van onder andere kleding en huidskleur. Welke data allemaal precies wordt meegenomen bij het opstellen van profielen is niet bekend."

[Reactie gewijzigd door Waterkoker op 29 november 2019 21:31]

Nogmaals: hoe kom je er dan bij dat niet kijken naar gezichtsuitdrukkingen, manier van lopen, stress indicatoren etc? Omdat het er niet letterlijk in staat?
In het artikel wordt betaalgedrag genoemd en er wordt specifiek gezegd dat camerabeelden zullen worden geanalyseerd. Er wordt daarbij als voorbeeld huidskleur genoemd. Alles in de tekst wijst erop dat ze naar veel meer kijken dan alleen huidskleur.


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone 11 Nintendo Switch Lite LG OLED C9 Google Pixel 4 FIFA 20 Samsung Galaxy S10 Sony PlayStation 5 Games

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True