VS: vooruitgang in automatisch herkennen kwade bedoelingen

Het Amerikaanse Department of Homeland Security meldt vooruitgang te boeken in onderzoek naar geautomatiseerde real time herkenning van kwade bedoelingen. Dergelijke systemen moeten onder meer op luchthavens worden geïnstalleerd.

Volgens het DHS zijn al experts op luchthavens actief die getraind zijn in het herkennen van verdachte individuen, en bestaat de exercitie in het zogeheten 'Hostile Intent'-onderzoeksprogramma er feitelijk uit om de expertise van deze lieden te automatiseren. De hints die computersystemen moeten gebruiken om 'verdachtheidsscores' aan luchtreizigers - of personen in mensenmassa's in het algemeen - toe te kennen, kunnen volgens het ministerie zowel uit visuele als audiogegevens bestaan. Het systeem moet de kans op onmiddelijke dreigingen, maar ook de potentie daartoe in de toekomst kunnen berekenen.

Onder laboratoriumomstandigheden meldt het DHS in 87 procent van de gevallen automatisch kwade bedoelingen van een individu te kunnen voorspellen. Uiteraard maakt het de details van dergelijke experimenten niet openbaar, maar volgens Ars Technica is het programma onder meer gebaseerd op psychologisch onderzoek naar de timing van bewegingen en gezichtsuitdrukkingen in combinatie met bepaalde gedachten. Het ministerie laat wel weten dat het de onderzoeksprotocollen goed heeft laten keuren door defensie, de inlichtingendiensten en de douane. Wanneer de 'kwade-bedoelingendetector' operationeel moet zijn is niet bekend.

Reacties (83)

[Verwijderd]

De Amerikaanse les was geleerd na 1945 : "Beter voorkomen dan genezen". Iedereen mag natuurlijk zijn kritiek uiten op de Amerikanen betreffende het monitoren van en in de gaten houden van alles maar alles draait om voornoemd motto.

Het is dat na de 2de wereld oorlog de VN is opgericht waardoor Amerika meer verantwoording moest afleggen aan andere lidstaten anders was de koude oorlog en Irak allang geen probleem meer geweest. Mede door de VN hebben deze trajecten juist zolang geduurd.

En om maar in gedachten te houden, dankzij de Amerikanen hebben wij Europeanen onze huidige vrijheid en mede names de les van de 1ste wereld oorlog hebben we na de 2de wereld oorlog de zogenaamde Marshall hulp gekregen. Stel je eens 2007 voor zonder al deze ingrepen

Hoe je het ook went of keerd, ik begrijp best wel de paranoia die de wereld heeft jegens Amerika, maar juist met de technologische vooruitgang willen ze juist erger voorkomen en dat ik/wij daar als burger wat meer gecontroleerd worden om dat stukje erger te voorkomen heb ik er best wel voor over

En kijk ons toch eens zelf zo dierbaar gebruik maken van Amerikaanse technologie, het feit dat we hier schrijven zegt al genoeg

[OddesE]

Jammer dat ze alleen de vrijheid en democratie verdedigen in landen waar ze (olie)-belangen hebben. Maar goed, dat is de wereld, de Amerikanen zijn niet de enigen. De russen en de chinezen kunnen er ook wat van. Die zijn ook niet vies van machtspelletjes om hun belangen te verdedigen. En de EU doet evengoed mee.

[Theadalus]

En om maar in gedachten te houden, dankzij de Amerikanen hebben wij Europeanen onze huidige vrijheid...

Dankzij Europeanen bestaan er uberhaupt Amerikanen (doordat de Europeanen de verschrikkelijke fout hebben gemaakt om Amerika te ontdekken)...

Overigens, bedoel je dezelfde vrijheid waar zoveel mensen voor gestorven zijn (ook veel niet-Amerikanen!), dezelfde vrijheid die wij nu zonder slag of stoot met een knip van onze vingers opgeven voor een stukje schijnveiligheid, dezelfde vrijheid die we daardoor niet verdiend hebben?

[Verwijderd]

Dat deel over de geschiedenis klopt grotendeels wel.
Maar wat daarna volgt ...
Je gelooft darr toch zelf niet serieus in ?!
Je maakt van America een 'by God blessed country', in de stijl van G.Bush
En niet vergeten dat de mensen/politici/leiders van toen niet dezelfde mentaliteit en bedoelingen hadden, als nu !

[Aapenootjes]

Plaatje past er bijzonder goed bij, het zou me weinig verbazen als je over een tijd de VS niet meer in mag als je er bepaalde gedachten op na houd. Hoe goed of slecht je intenties ook mogen zijn.

Ik blijf er bij dat elke "vooruitgang" op dit gebied een overwinning is voor het terrorisme in het algemeen. Al deze maatregelen vind ik schrikbarender dan de terroristische dreiging. Het blijft me ook het gevoel geven dat terrorisme meer en meer als een smoes gebruikt word om de eigen inwoners te kunnen controleren.

[DJ Henk]

Helemaal mee eens.

Ik durf er ook wat om te verwedden dat dit bericht pure nonsens is en dat het alleen de wereld is ingestuurd om angst te zaaien. Als je echt zo'n systeem hebt, dan ga je dat niet van de daken schreeuwen, dan ga je terroristen oppakken. (In Amerika zijn ze al zover dat je niet echt iets gedaan hoeft te hebben om van de straat gehaald te worden, dus dat is niet zo'n probleem.)

Of zou het de bedoeling zijn dat mensen steeds meer verkrampt op hun tenen gaan lopen om toch vooral niets fout te doen? De boodschap is: denk er niet over om iets onacceptabels te doen, want we weten je te pakken. Niemand weet waar die dingen op reageren, dus iedereen begint te zweten.

de timing van bewegingen en gezichtsuitdrukkingen in combinatie met bepaalde gedachten.

Wat een bullshit. Knap camerasysteem dat dat even voor elke luchthavenbezoeker analyseert. Word ik vanaf nu ook van terrorisme verdacht als ik acteerlessen neem?

[Reactie gewijzigd door DJ Henk op 22 juli 2024 14:56]

[mae-t.net]

Amerikanen (vooral deze) zijn rare jongens, het kan dus best dat ze er gewoon trots op zijn en het dus aan de grote klok hangen. Ook als ze het niet zouden kunnen, is alleen het aan de grote klok hangen van deze gedachte al bedenkelijk (dat het idee in ze opkomt, het idee uiten valt onder essentiele vrijheid).

[Verwijderd]

Ik denk niet dat het onzin is. (zie ook het bron artikel)

Er zijn van die kleine 'tells' , soort hints, die mensen onbewust afgeven als ze bijvoorbeeld iets te verbergen hebben of (vooral) iets van plan zijn te doen. Politie agenten zijn doorgaans goed geoefend in het herkennen van die dingen en het uit elkaar houden van 'natuurlijke spanning' en 'onnnatuurlijke spanning'.

Als je dat tot op enige hoogte kunt automatiseren, tja, waarom niet?

[psyBSD]

Geweldig...

Wanneer dit wordt ingezet heb je hoef je (icm de patriot-act) alleen maar beschuldigd te worden van het hebben van kwade bedoelingen. Door de patriot-act heb je geen bewijs nodig en om dit systeem te kunnen inzetten moeten mensen mogen worden opgepakt op basis van wat ze denken, niet wat ze doen.

Ik denk dat ze aan de andere kant van het grote water over een nieuw volkslied moeten stemmen. 'The land of the free and the home of the brave'... dapper zijn ze zeker niet, het land wordt geregeerd door angst... en vrij... tja,

Edit:
Het hoeft niet mogelijk te zijn, als men maar denkt dat het mogelijk is dan is dit genoeg.

[Reactie gewijzigd door psyBSD op 22 juli 2024 14:56]

[OddesE]

Waar staat er dat je door het systeem wordt opgepakt? Het systeem zal verdachte personen aanwijzen, waarna de douanebeambte bijvoorbeeld de tas van die persoon extra grondig inspecteert. Lijkt me sterk dat het computersysteem arrestaties gaat verrichten!

[psyBSD]

Als het systeem je als verdacht aanmerkt is er niets dat ze tegen houd je ook te arresteren. Er is nl enkel een 'verdenking' nodig, geen bewijs. Maarja, dat was altijd al het geval in de states (sinds de patriot-act is aangenomen).

[schekker]

Een paar opmerkingen

Waarom ze zo'n systeem aan de grote klok zouden hangen als het zou werken? Simpel, om aan te geven dat men wel degelijk bezig is. Beveiliging is een heel ondankbaar vak. Want als je het goed doet merkt het publiek alleen maar de overlast die je met je beveiliging veroorzaakt en gebeurt er verder niets. En doe je het fout, dan is het huis te klein en vraagt iedereen zich af hoe het had kunnen gebeuren. Dergelijke berichten dienen dus vooral de public relations. De gewone man weet dat de veiligheidsdiensten hun belastinggeld goed besteden, en potentiele terroristen geeft het weer iets extra's om zich druk over te maken, waardoor er wellicht weer eentje meer met zijn gedrag door de mand valt.

Kunnen dergelijke systemen werken? Natuurlijk. Het zijn niet meer dan wat extra oren en ogen die bepaalde verdachte patronen herkennen.Ze herkennen lang niet alles, maar als het systeem er toe leidt dat de menselijke veiligheidsmensen efficienter verdachte mensen er tussenuit pikken, dan is het systeem al lonend. Het is gewoon kostenbesparing. Je zou ook op de plek van elke camera een veiligheidsexpert neer kunnen zetten, maar ja, dan wordt het allemaal wel heel erg prijzig. Maar het systeem zorgt er waarschijnlijk slechts voor dat de mensen die de beveiligingsbeelden monitoren geattendeerd worden op de meest verdachte situaties zodat ze die niet over het hoofd zien.

Is dit eng? Het systeem op zichzelf niet. Het is gewoon een tool. En net zoals elk tool kan het voor goede en voor slechte zaken gebruikt worden. Als er voldoende veiligheidswaarborgen tegen misbruik inzitten dan is het gewoon een aanwinst. En daar zit hem meteen het probleem. Het zijn die veiligheidswaarborgen waar, vooral in de V.S., nogal aan gezaagd wordt. Ja, de V.S. is een democratie, en als Amerikaans staatsburger heb je er allerlei grondwettelijke beschermingen tegen misbruik door de staat. Als buitenlander heb je die echter niet. De V.S. heeft de afweging gemaakt dat een paar false positives onder de buitenlanders opweegt tegen het gevoel van extra veiligheid voor de eigen burgers. Dat sommigen zich daar ongemakkelijk bij voelen is te begrijpen. Dat sommigen daarom niets in systemen zoals hier beschreven zien, ook. Maar eigenlijk betreft het een andere discussie.

[Verwijderd]

Ik vind het een mooi systeem.
Stel dat je 100 agenten hebben op een vliegveld hebt rondlopen die 10000 reizigers moeten controleren dan is de controle zo oppervlakkig dat je gevaarlijke individuen makelijker laat lopen... Als je die 100 agenten extra attent laat zijn op een kleine subgroup bv 1000 mensen dan zullen ze meer tijd kunnen spenderen om over deze "risico" group een oordeel te vellen wat een hogere catch rate zou moeten opleveren. De false positives zullen het waarschijnlijk niet merken.

De logica dat een echte terrorist hier niet mee gevat zou worden is naar mijn gevoel verkeerd... Een terrorist kan wel overtuigd zijn van zijn doel, maar ik denk wel dat ze goed weten dat de politie hen zoekt. Dit zal wel aan het gedrag te merken zijn...

[iain]

Los van de ethische aspecten, vind ik dit niet eens zo ver gezocht.

Ik werk in een elektronica winkel, en daar kan ik ook objectief vast stellen of iemand verdacht gedrag vertoont. Als iemand bij bijv. de laptops staat, vervolgens weer weg gaat, weer terug komt, veel rond kijkt, weg loopt zodra winkelpersoneel langs komt. Allemaal aspecten van kwade bedoelingen. Als je wat langer in de winkel staat zie je dat soort dingen direct. Ook beveiligingsbeambten zien verdachte individuen direct, als ze wat ervaren zijn. Als je een hoop tijd en geld eraan zou besteden, zou je zoiets kunnen omzetten in een systeem die dat kan herkennen.

[iain]

Dat ze zelf denken dat ze goed doen, betekent niet dat het gedrag verandert. Iemand die uit is om iets te stelen, of een aanslag te plegen, zal een bepaald gedrag vertonen.

Als je een systeem ontwikkelt dat bij houdt waar iedereen is, en daarbij kan identificeren waar de beveiligers en medewerkers lopen, kan je het gedrag van de mensen heel goed analyseren. Als je iets gaat doen, waarbij je niet wilt dat je gezien wordt, zal je gedrag beïnvloed worden door waar iedereen loopt. Een computer kan aan het loopgedrag zien hoe vaak jij je pad veranderd als je binnen het bereik van een beveiliger komt. Aan de hand daar van kan de computer een waarde geven (niet alleen 1 of 0 natuurlijk). De computer zegt dan bijv. dat die persoon een kans heeft van 80% dat hij iets doet wat niet goed is. Dat gecombineerd met andere gegevens kan reden genoeg zijn om iemand aan te houden en te ondervragen.

Verder qua gedrag kan je ook een hoop quantificeren. Een normaal mens zal, afhankelijk waar de camera hangt, x% van de tijd in de camera kijken. Iemand die niet wil dat hij gefilmd wordt, zal een andere waarde geven.

De mislukte aanslagen in London zijn daar een goed voorbeeld van. Daar zaten notabene artsen tussen! Zou software dat hebben kunnen voorkomen denk je?

Ik denk niet dat software kan voorkomen dat bepaalde mensen foute dingen gaan doen, maar hopelijk kunnen dit soort programma's mensen kan opsporen voor ze iets fout doen...

[? ?]

bv:
iemand die heen en weer loopt
koppels/groepen waar de personen niet normaal met elkaar praten
teveel rondom je kijken
teveel naar beveiligingscamera's kijken

allemaal tekenen, net zoals dat Engels systeem dat autodieven zou vatten nog voor ze de auto willen stelen -> want dieven kijken eerst in meerdere auto's

nuja 87% is mooi, maar op een vliegveld gaan er per dag misschien 10.000 mensen heen en weer, dat zijn er 1300 die foutief opgevat worden..

Ik ben ook zo iemand die in auto's kijkt, meer dan normaal naar mensen kijkt
ik kijk als ik een winkel binnenga altijd onbewust waar de camera's hangen, welke plekken ze niet dekken.. Gewoon

Deze software is een hulpmiddel om bepaalde personen beter in de gaten te houden, daar gaat het om. De mens beslist nog altijd finaal, de computer geeft enkel tips waar het interessant is te kijken.

[Reactie gewijzigd door ? ? op 22 juli 2024 14:56]

[jack353]

Volgens mij niet helemaal.

Als 87% van de gevallen 'kwade bedoelingen' herkend wordt zullen er, als er van die 10.000 mensen die er rondlopen er 100 bijzijn die 'kwade bedoelingen' hebben, 87 gedetecteerd worden. 13 slippen er dus tussendoor.

Hoeveel procent van de 9.900 mensen met 'goede' bedoelingen er onterecht bestempeld worden als met 'slechte bedoelingen' wordt hier niet duidelijk gemaakt.

[TD-er]

nuja 87% is mooi, maar op een vliegveld gaan er per dag misschien 10.000 mensen heen en weer, dat zijn er 870 die foutief opgevat worden..

1300 mensen dus.

[Reactie gewijzigd door TD-er op 22 juli 2024 14:56]

[OddesE]

teveel naar beveiligingscamera's kijken

Ja die is erg inderdaad. Ik ben gefascineerd door technologie en kijk er altijd per ongeluk naar.. totdat ik me dan bedenk dat dat heel verdacht is.. dus dan weer snel wegkijken, maar niet te snel want dat is ook weer verdacht... Aaargh, je zou er toch gek van worden!

* OddesE gaat zeker voor de bijl bij dit systeem.

[Verwijderd]

Dit doet me denken aan Minority Report. Nog voor je iets doet al gevolgd/opgepakt worden

[Verwijderd]

Minority Report in combinatie met Thoughtcrime (1984)

87% van de mensen met kwade bedoelingen _schijnt_ te worden gepakt. Dat is veel. Zou de ratio false-positives vergelijkbaar hoog liggen?

Leugendetectors zijn niet erg betrouwbaar. En dat is een veel meer gecontroleerde setting. Ik denk dat dit een typisch gevalletje spin is.

Maar... welke (buiten)wettelijke acties kunnen worden genomen als een 'verdachte' wordt gedetecteerd?

[OddesE]

Ik zie zo voor me dat het systeem wordt geïntegreerd met de bewakinscamera's zodat de experts geattendeerd worden op personen die het systeem als verdacht aanmerkt. Wat er daarna gebeurt zal wel gewoon aan die beambten worden overgelaten.

Ik ben helemaal met je eens dat het systeem welhaast onmogelijk erg betrouwbaar kan zijn. Alleen het herkennen van gezichten blijkt al een schier onmogelijke opgave, nu moeten ook de emoties gelezen worden? In drukke en lawaaierige terminals met rennende mensen etc?

Klinkt als een persbericht om een subsidiestroom op gang te houden.

[Verwijderd]

Dat is weinig. Rekenvoorbeeldje:

Op een dag passeren 100.000 mensen de luchthaven. 100 hiervan hebben kwade bedoelingen.
Van deze 100 worden er 87 correct geïdentificeerd, 13 niet.
Van de overige 99.900 worden er ook 87% correct geïdentificeerd, 13% niet. Dat is 12.987.
Aan het eind van de dag heb je dus 13074 arrestanten, waarvan er 87 daadwerkelijk boefjes zijn. Dat is een score van 0,67%. Bovendien heb je 13 boefjes helemaal niet gevangen.

Wanneer de verhoudingen zo scheef liggen (veel goedbedoelende mensen t.o.v. weinig kwaadwillenden) moet je scoringspercentage hééééél erg dicht bij de 100% liggen wil je er iets aan hebben, anders krijg je teveel vals positieven.

[Countess]

word ik dan ook gelijk als terrorist gezien als ik die irritante veiligheids beambten wel kan wurgen voor het een of het ander?

of zijn er duidelijke tekenen die het verschil aangeven tussen 'zouden willen' en 'vanplan zijn' die dit systeem op pikt?

[Reactie gewijzigd door Countess op 22 juli 2024 14:56]

[miw]

De idee is juist dat je irritante zogenaamde beveilingscontroles invoert waar mensen behoorlijk opgefokt van raken. De stress factor maakt een reactie los bij mensen. Kennelijk is deze uiting anders bij terrorstjes.

Overigens is het percentage van 87 procent natuurlijk idioot laag. Het grote probleem is natuurlijk dat er zo weinig echte terroristen zijn, zodat zelfs onder ideale omstandigheden er 13 procent van de reizigers nog extra ongemak moeten ondergaan om aan te tonen dat ook zij geen terrorist zijn. En met een paar dry runs is een echte terrorist erachter wat je moet doen om in de 87 procent categorie te vallen.

[Verwijderd]

Maar in 87% herkende de computer wel de kwade bedoelingen. Maar dit zeg nog niks over hoe vaak de computer iemand met kwade bedoelingen door heeft gelaten.

[Zandor]

Ik vind het goed dat aan dit soort zaken hier bij tweakers aandacht aan wordt geschonken, ik heb het gevoel dat onze privacy wordt verkwanseld onder het mom van terreurbestrijding. dit gaat nog weer verder, kom op automatische detectie van kwaadwillenden? op basis van wat datamining en een dom algorithme, laat me niet lachen. kwestie van tijd of nederland hobbelt weer mee en de gemiddelde burger kan het ook nog eens niets schelen.

[Opi]

Momenteel lopen er in opdracht van de nederlandse politie ook onderzoeken om verdacht gedrag (wat me lijkt gelijk gesteld te kunnen worden aan kwade bedoelingen) te detecteren. Denk hierbij aan de herkenning van het patrouilleren alvorens een dader toeslaat. Wat de huidige status van deze onderzoeken en de success-rate van de onderzoeken/algorithmen is, is me niet bekend.

Doordat Homeland Security er interesse in toont, wordt het geheel uiteraard snel richting de dreiging van terrorisme getrokken. In hoeverre dit impact heeft op de success rate kan ik niet inschatten. Een argument als Takiyya lijkt me niet van toepassing, aangezien dit zich voornamelijk op de lange termijn richt, terwijl het uitvoeren van een aanslag een korte termijn activiteit is.

[digifan]

Precies, zo van: ik heb niks te verbergen hoor, dus voor mij is het OK. Als je hier tegen bent is dat al aardig verdacht, niet?