Randomizationsoftware moet terrorist op verkeerde been zetten

Op het vliegveld van Los Angeles is vorige maand software geïnstalleerd om de voorspelbaarheid van controles in te perken. De luchthaven raakte geïnteresseerd na een presentatie van een aantal informatici.

De wetenschappers, afkomstig van de University of Southern California, reageerden op hun beurt op een oproep van het vliegveld, dat zocht naar nieuwe manieren om terreurdreigingen af te wenden. De universiteit had een paper van Praveen Paruchi op de plank liggen op het gebied van multi-agent-systemen en speltheorie. Dat richtte zich op de vraag hoe een agent moet reageren op onbekende aanvallers die over volledige informatie omtrent zijn gedrag beschikken.

Het berekenen van een optimale strategie kost computers teveel tijd, vandaar dat Paruchi zich richtte op een benadering waarmee acties worden geselecteerd die waarschijnlijk niet door de tegenstander te voorspellen zijn. Volgens de universiteit bleken Paruchi's algoritmes de snelste voor het soort beveiligingsproblemen waarmee de luchthaven werd geconfronteerd, zo meldt persbureau AP. 'Wij konden dus zeggen dat we de juiste oplossing voor deze problematiek aan kunnen dragen', aldus professor Milind Tambe.

De presentatie van de University of Southern California vond plaats in april, waarop studenten met - geheime - informatie over het reilen en zeilen van de luchthavenbeveiliging aan de slag gingen om Paruchi's algoritme van data te voorzien. In augustus was het werk klaar en kon het systeem worden geïnstalleerd. Het programma, Armor, zou het eerste systeem op basis van Bayesiaanse speltheorie zijn dat wordt ingezet voor luchthavenbeveiliging.

Reacties (33)

[BramT]

Uh, muntje opgooien? Kop is wel controle, munt niet? Serieus, ik haal niet uit het artikel *wat* ze nu eigenlijk gemaakt hebben... Voor een random-systeem heb ik geen 4 maanden nodig, dus er zal nog wel wat meer aan de hand zijn.

[n4m3l355]

Dat vroeg ik me nou eigenlijk ook af, gaan ze nou willekeurig mensen controleren inclusief het meisje van 3 jaar met een flesje drinken in haar handen? Het is onderhand toch meer dan eens aangeduid dat men niet in staat is die gigantische bergen informatie te verwerken. Tevens is de vraag of hetgeen wat gespendeerd wordt onder het mom van counter terrorisme opweegt wat de daadwerkelijke materiele schade die een terrorist misschien veroorzaakt. Aan de andere kant.. Amerikanen zal ik nooit begrijpen hoe die functioneren in zo´n angst society.

[Verwijderd]

Als ik die paper zo lees, kom ik op het volgende uit.

De doelen en het gedrag van zowel de beambtes als de terroristen wordt berekend naar de tijd en plaats op het vliegveld. Vervolgens wordt gekeken hoe de pakkans het grootst is en hoe je de voorspelbaarheid van gedrag van de beambtes kunt verkleinen.

Voorbeeld: Als je moet controleren of alle deuren wel op slot zitten, creer je voor jezelf vanzelf een vast rondje: deur 1, deur 2, deur 3 enz. Terroristen kunnen deur 102 forceren omdat die pas heel laat aan de beurt is en een verkenner kan gaan waarschuwen wanneer de beambte halfweg zijn rondje is. Wanneer je per opdracht een wisselende volgorde opgeeft, (deur 74, deur 18, deur 101) verhoog je de pakkans en wordt de drempel om een deur te forceren groter. De waarde voor een terrorist om een deur te forceren wordt minder, waardoor de kans op een aanslag afneemt. (Weegt het risico wel op tegen het resultaat?)

[Verwijderd]

Alarm op alle belangrijke deuren zetten? Zodat als deur 102 geforceerd wordt er meteen iemand naar toe kan.

[Verwijderd]

Juist, En op iedere deur zit hetzelfde alarm. Wanneer iemand op de hoogte is van het alarm en weet hoe het werkt, is het te omzeilen. Het wordt er dus niet echt veiliger op omdat het gedrag van het alarm nooit verandert; het is voorspelbaar. Ondertussen vertrouwt de luchthaven wel op het alarm. Ik zeg niet dat er dan beter geen alarm op kan, maar dat je voorspelbaarheid tegen moet gaan.

[Verwijderd]

Wat een onzin, een alarm is niet meer veilig omdat die voorspelbaar is? Haal dan maar vlug het geld van je bank af want ik weet 100% zeker dat wanneer je een kluis probeert open te breken dat je in 3 minuten een bus vol agenten om je heen hebt.
Of wil je misschien liever een random alarm hebben die soms wel en soms niet af gaat als iemand inbreekt ? Vindt het wel weer grappig dat je er 2 groene streepjes krijgt met die flauwekul.

Ik vind de toepassing op het vliegveld weer een uitstekend voorbeeld van hoe een leuke theorie totaal onzinnig wordt ingezet om maar een doel ervoor te kunnen vinden. Het is veel te complex om een vliegveld te modeleren en daarmee te voorspellen waar/hoe een terroristische aanslag gaat worden gepleegd. Daarnaast is de hele theorie gebasseerd op dat de terrorist volledige info heeft over hoe de agent gaat controleren. Wat als dat nou niet het geval is (want meestal weten terroristen dat niet) heb je dan niet een heel erg verzwak beveiligings systeem? Hoe veilig is een pincode als de dief deze weet.. Ga je dan maar je hele beveiligings systeem baseren op dat de dief de pincode weet?

Om nog maar een voorbeeld te geven... stel je hebt 5 winkels en een kerncentrale in een straat . Normaal gesproken zou je een beveiligings beambte neerzetten bij de kerncentrale want bij een winkel is niet veel te beleven voor meneer a. kaida. Maar nu komen een stel wetenschappers die beweren dat dat veel te voorspelbaar is en die sturen de beambte 5/6 van de tijd ook naar de winkels om die te beveiligen omdat dat veiliger is? Ze hebben gewoon lekker geld zitten te gebruiken om een heel complex systeem te bedenken wat moeilijk is te doorgronden en blijkbaar konden ze met wat getover met getallen aantonen dat dit systeem zinvol en bruikaar is.

[Reactie gewijzigd door Verwijderd op 26 juli 2024 04:17]

[paknaald]

Ze controleren juist niet willekeurig. Ze controleren zo dat, binnen de grenzen van het berekenbare, de boef een zo groot mogelijke kans heeft om betrapt te worden. Hiervoor gebruik je twee soorten informatie. Je stelt de doelstellingen van de boef te kennen - een terrorist wil bijv. mensen vermoorden. Je stelt dat de boef gebruik zal maken van informatie over de controles die je uitvoert in zijn beslissing waar een aanslag te plegen. Dan bereken je een controlestrategie die de kans op betrapping maximeert. Dus 'willekeurige' controles in de ogen van de boef, maar totaal niet willekeurig in de ogen van de controleur.

Het handelsreizigersprobleem zorgt ervoor dat een optimale strategie onberekenbaar is. Je kunt niet 'alles' controleren, zelfs niet wanneer je kop-of-munt doet. Er zijn zo ontzettend veel plekken waar een aanslag gepleegd kan worden, dat je moet werken met een strategie om zoveel mogelijk aanslagen te voorkomen.

[Reactie gewijzigd door paknaald op 26 juli 2024 04:17]

[sirdupre]

Het handelsreizigersprobleem zorgt ervoor dat een optimale strategie onberekenbaar is.
Dat is niet echt juist geformuleerd - NP-volledigheid van een probleem betekent niet dat een probleem "onberekenbaar" is. Het betekent dat als een instantie van het probleem groter wordt, het veel meer tijd gaat kosten om het probleem op te lossen en in de praktijk is dat vaak teveel tijd. Er bestaan echter wel algoritmes die de optimale oplossing op een Handelsreizigersprobleem oplossen (Held-Karp bijvoorbeeld).

Je hebt ook zogenaamde "onberekenbare" problemen. Een voorbeeld daarvan is het Halting Probleem en daarop kan in elk geval ons huidige model van een computer nooit een oplossing berekenen.

[Janoz]

Om toch wat te miereneuken .. Traveling salesmen is niet een NP-volledig probleem (of in het engels: NP-Complete), maar NP-Hard. De definitie van NPC is dat de validiteit van een gegeven antwoord binnen polynominale tijd te controleren is, maar dat het vinden van dat antwoord enkel via permutaties kan (ie alle mogelijkheden bij langs gaan todat er 1 voldoet). De variant waarin de vraagstelling waarbij niet een minimale, maar 'een route korter dan X' gevraagd wordt is wel NPC.

Verder zijn er geen algorithmen die de optimale oplossing geven, maar enkel algorithmen die een optimale oplossing benaderen. Dit geldt ook voor Held-Karp.

[Verwijderd]

Hiervoor gebruik je twee soorten informatie. Je stelt de doelstellingen van de boef te kennen - een terrorist wil bijv. mensen vermoorden. Je stelt dat de boef gebruik zal maken van informatie over de controles die je uitvoert in zijn beslissing waar een aanslag te plegen.

Leuke aannames, maar als die aannames niet kloppen is je systeem totaal verkeerd ontworpen. Het probleem is dat je bij dit soort complexe dingen gewoon keihard aanloopt tegen de beperkingen van je model. Lang niet alle info krijg je in dit systeem en geen enkel systeem kan inspelen op gebeurtenissen waarvan het geen weet heeft. Geef mij maar een stel slimme beveiligingsbeamten die weten waar ze mee bezig zijn. Ervaring leert ook dat goed opgeleid bewakingspersoneel bijzonder succesvol kan zijn (neem bijv de israelische vliegveld bewaking.. ze zitten midden tussen de terroristen maar hebben relatief gezien weinig kapingen ed.)

[GrooV]

Wat is de bron van dit artikel?

[Verwijderd]

De links in dit artikel naar een ander artikel op SFGate.com en de paper van de universiteit van SoCal doen mij denken dat Mick de Neeve dit artikel zelf heeft geschreven naar aanleiding van het artikel, aangevuld met informatie uit de paper. Meer dan alleen een samenvatting zoals normaal is hier op T.net, en dus eigenlijk een nieuw artikel met meerdere bronnen.

[Atomsk]

Numb3rs in de praktijk. Nu maar hopen dat die terroristen geen toegang kunnen krijgen tot dat systeem (via een mol bijv.), zodat ze zo kunnen zien waar de "random" controles zullen plaatsvinden.

[Verwijderd]

Inderdaad. Jammer dat het niet echt random is als iemand die software te pakken heeft. Dan zou het juist tegen ze werken

[Verwijderd]

Of juist niet. Het algoritme in kwestie zal een heuristisch algoritme zijn (wat vaak bij NP-complete problemen als benadering wordt gebruikt). Het principe van dat soort algoritmen is grofgezegd "neem een willekeurige oplossing, en kijk hoe goed die is, doe dit een groot aantal keer, en neem als uiteindelijke oplossing, de beste oplossing die je tegenkwam".

Met behulp van verdere technieken en kansrekening, kun je op die manier een algoritme bekomen dat snel en betrouwbaar is, maar de precieze uitkomst kan verschillen (zeker in gevallen waar meerdere oplossingen even goed zijn).

[OruBLMsFrl]

Bayesiaanse netwerken leren zelf bij. Als je de software op een bepaald moment uit zou kunnen lezen weet je nooit hoe het zich een maand later zal gedragen zonder over dezelfde feedback (data) te beschikken die in die maand aan het netwerk gevoerd is. Kaartmateriaal, situatieschetsen en blauwdrukken die inbrekers/terroristen gebruiken is vaak maanden en soms jaren oud, dus dit lijkt me wel een fijne toevoeging boven vaste tijden en regels voor controles. Bovendien houdt het beveiligingspersoneel waarschijnlijk ook alerter dan als het voor hun op een gegeven moment de routinecontrole van 5 over 5 betreft.

[Reactie gewijzigd door OruBLMsFrl op 26 juli 2024 04:17]

[Verwijderd]

Bijleren kan alleen als er input komt in. Welke input wilde je geven? Al die honderden mislukte aanslagpogingen op dat vliegveld of zo?

[supertheiz]

Uitbreiding//inkrimping van het personeel.
Afwijkingen van geplande hoeveelheid reizigers op een bepaalde datum.
Weersomstandigheden waardoor er minder vluchten zijn en het vliegveld dus drukker.
Etc.

[Verwijderd]

ROFL,

Élke in software uitgevoerde randomisatie is 100% voorspelbaar, het is een questie van dezelfde formule gebruiken en de juiste seed weten en je hebt een 100% voorspelbare sequence.

[tuXzero]

Met die beredenering is niks random. Alles is voorspelbaar. Maar dan heb je alle variabelen nodig en alle wetenschappelijke modellen / formules die op die gegevens los kan laten.

Het erachter komen van deze de variabelen heet onderzoek. En modellen en formules uitdenken doe je met experimenten.

Wat ze hier doen is de entropie vergroten. Dit is simpel gezegd de eenheid van chaos. Zo moet de vijand meer variabelen en meer modellen verzamelen om de boel voorspelbaar te maken.

[RobWijnhoven]

Inderdaad, en volgens mij bestaan er ook wel verschillende random generatoren, dus je moet ook ff weten welke ze gebruiken. Random is uiteindelijk altijd erg krachtig.

[kodak]

Leuk bedacht, maar het helpt geen barst tegen de grootste dreiging: die van binnenuit. Hoe vaak is het al niet in het nieuws geweest dat er weer medewerkers van de douane en andere beveiligingdiensten opgepakt zijn wegens medeplichtigheid aan criminele activiteiten? Je kan dan nog zo random controles opzetten, als de kwaadwillende personen gewoon via de achterdeur alsnog hun gang kunnen gaan heeft het weinig nut.

[leuk_he]

Uiteraard is dit niet de magische sleutel tegen terroristische aanslagen. Echter om geld te krijgen voor projecten wordt er aan dit soort problematieken vaak een mogelijkheid beschreven hoe dit te gebruiken bij defensie of anti-terroristen methoden.

Gewoon ouderwets oplettende beveiliging is zeker zo effectief, zeker effectiever dan van bovenaf opgelegde willekeurige controles.

[Pietervs]

Dat hebben we hier in Nederland toch al jaren? Tot dusver is er nog geen terrorist geweest die weet of hij nou een aanslag moet plegen op Nederland 1, Nederland 2 of Nederland 3

[fevenhuis]

Ach die Amerikanen hé zo goed in het plannen en ook met computers, alleen de uitvoering hé, daar wil het nog wel eens mislopen.
Duidelijk een geval van:
Hoe kunnen we alles nog ingewikkelder voor onszelf maken en zo de risico's vergroten.

[Verwijderd]

Dat komt met deze nieuwe techniek ook wel goed hoor. Gewoon een kaart van de wereld voor je neus, ogen dicht en op een willekeurig punt je vinger op de kaart plaatsen. Daar moet hij dan zitten.

Verder is het lastig te zeggen hoe het nou zit met dat hele Bin Laden verhaal. Is het hem wel, is het hem niet? Heeft hij het gedaan? Bin Laden is een icoon voor terrorisme geworden en zelfs al zou een ander het gedaan hebben, dan kan er niet zo snel van focus gewisseld worden zonder je 'publiek' kwijt te raken.