Steeds luider klinkt de roep dat de overheid meer moet doen om burgers te beschermen tegen ongebreidelde dataverzameling via internet en in toenemende mate door iot-toepassingen. Ook de politie beseft dat haar rol verandert, maar hoe precies, en waar liggen de ethische en juridische grenzen? Hierover gaat de discussie die de politie op 2 november met de Tweakers-community wil voeren.
De datagedreven samenleving met allerlei slimme iot-producten, van koelkast tot thermostaat, brengt allerlei kansen met zich mee voor meer duurzaamheid en gemak. Maar ook risico's. Op de korte termijn zijn dat zaken als hacking, identiteitsfraude en misbruik van data, terwijl er ook een langetermijntendens is waarin de burger steeds meer zeggenschap en controle verliest over wat er om hem heen gebeurt.
Je tv luistert mee
Manon den Dunnen richt zich als strategisch specialist digitaal bij de politie op de vraag wat de invloed van technologie is op onze samenleving en daarmee het politiewerk. Op 2 november verzorgt zij samen met Mark Zoetekouw, strategisch juridisch adviseur cybercrime & digitale technologie, een interactieve workshop tijdens de Tweakers Meet-up XL Privacy en Security in Hilversum. Daarin gaan zij met tweakers in gesprek over deze risico's en de rol die de politie daarin moet (en kan) spelen.
Volgens Den Dunnen spelen er verschillende zaken. "Een daarvan is de komst van sensoren die informatie verzamelen over hun omgeving, waarbij niet altijd zichtbaar is wat daarmee gebeurt." Het standaardiseren van de manier waarop smarthome- en smart health-toepassingen menselijke gedragingen classificeren, maakt deze vraag nog dringender. Een andere, versterkende ontwikkeling is het gebruik van microfoons in allerlei (huishoudelijke) apparaten, waarbij ook steeds meer geluiden worden geclassificeerd. "Zo kan het straks zijn dat jij via je smart-tv een aanbieding krijgt voor een dipsausje, doordat een van de apparaten de typerende ‘plopp!’ heeft herkend van een bus Pringles die wordt geopend."
Cambridge Analytica was nog maar het begin
Het meten van gedrag gaat ook over je emoties. "Als je de gegevens uit iot koppelt aan onder meer sociale media, krijg je een steeds beter beeld van iemand en kun je mensen (onbewust) beïnvloeden op hun kwetsbaarste moment. Begin mei heeft de United Nations University een rapport gepubliceerd waarin zij haar bezorgdheid uit over landen en anderen die zich richten op het ondermijnen van samenlevingen. Terecht, want dit gaat veel verder dan wat Cambridge Analytica deed, dat was nog heel rudimentair." Het dystopische 'Black Mirror'-gehalte van dit soort ontwikkelingen wordt nog hoger als fabrikanten verborgen microfoons in huishoudelijke apparaten stoppen, zoals onlangs aan het licht kwam bij een door Lidl verkochte keukenmachine. "De noodzaak voor een grotere rol voor de overheid wordt dan extra duidelijk."
Den Dunnen maakt zich ook zorgen om de filterbubble, die zich steeds meer verplaatst naar de fysieke wereld. Door het ontstaan van digital twins, of digitale kopieën van fysieke objecten, maar ook door de trends in augmented reality, waarbij je letterlijk een digitaal filter over de fysieke wereld krijgt. “Ik heb begrepen dat er enorm veel geld wordt geïnvesteerd in pupil tracking, dit is interessant voor reclamemakers, omdat ze je daarmee kunnen bestoken met gepersonaliseerde informatie. Als we straks op grote schaal ar-lenzen gaan gebruiken, leven we allemaal in onze eigen filterbubble." We hebben al gezien dat rudimentaire vormen daarvan worden toegepast in de openbare ruimte, zonder dat mensen daarvan op de hoogte zijn of zich eraan kunnen onttrekken.
Kritisch staan tegenover mogelijkheden
Ook de politie moet zich zorgen maken over de manier waarop zij informatie, en in sommige gevallen bewijsmateriaal, uit een parallelle werkelijkheid duidt. Den Dunnen geeft het voorbeeld van flexwerkplekken in een groot kantoor, die uitgerust zijn met sensoren om te meten welke stoelen bezet zijn en welke niet. "Wanneer geeft zo'n iot-systeem aan dat de werkplek onbezet is? Is dat al als je voor vijf minuten naar de wc gaat, een half uur weg bent voor een vergadering, of duurt dat langer? Wat als iemand als alibi aanvoert dat hij aan het werk was? Bel je het bedrijf, dan kan het zijn dat daar in het systeem wordt gekeken en dat daaruit ‘blijkt’ dat hij inderdaad op zijn plek was, want de stoel staat gemarkeerd als door hem of haar bezet. Terwijl degene die ernaast zat, juist kan vertellen dat deze persoon daar helemaal niet zat, maar misschien in een vergadering was… Als politie moeten we wel snappen door welk filter iemand naar de werkelijkheid kijkt voordat we informatie kunnen interpreteren. Daarom zijn we zijn we op zoek naar slimme mensen op het snijvlak van technologie en informatie.”
Binnen de politie groeit het besef dat de organisatie een andere rol krijgt en kritisch moet staan tegenover het benutten van alle mogelijkheden die technologie lijkt te bieden. “Het gaat dan bijvoorbeeld om het samen met publieke partners zorgen voor een onafhankelijke digitale vertrouwensinfrastructuur voor persoonlijke gegevens. Maar ook om de discussies die we voeren of we alles wat kan en mag ook moeten willen. Dan gaat het over ethiek en misschien pas in tweede instantie over wetgeving en regels.”
Wat mag de politie straks wel/niet?
Tijdens de Meet-up geven Den Dunnen en Zoetekouw een introductie tot dit onderwerp. Daarna gaan ze graag in gesprek met de Tweakers-community over deze ethische en juridische dilemma’s aan de hand van recente ontwikkelingen en nieuwe mogelijkheden. “Inmiddels is duidelijk dat een verdachte ertoe mag worden gedwongen om met een vingerafdruk zijn smartphone te ontgrendelen. In Amerika is er echter al een zaak waarbij de pacemaker van iemand werd uitgelezen. Waar houdt dat op? Wat als je bijvoorbeeld straks een bionische arm hebt die data opslaat. Mag je die als politie in beslag nemen als bewijsmateriaal als je van een geweldsmisdrijf wordt verdacht? Wat betekent dit voor de lichamelijke integriteit? Er zijn zó ontzettend veel nieuwe vraagstukken. Ik wil mensen dan ook graag aan het denken zetten."
Wil jij ook in gesprek met de politie over ontwikkelingen op het gebied van privacy en security? Kom dan naar de Tweakers Meet-up XL Privacy & Security op zaterdag 2 november in Hilversum. Meer informatie over het volledige programma en tickets vind je hieronder.