Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Nederlandse inlichtingendiensten lopen hoog risico op misbruik van algoritmes

De inlichtingendiensten AIVD en MIVD hebben nog onvoldoende waarborgen voor het veilig gebruik van algoritmes. Er zijn 'hoge risico's' dat zulke algoritmes worden misbruikt, schrijft de toezichtcommissie Ctivd.

De bevindingen staan in de halfjaarlijkse voortgangsrapportage van de Commissie Toezicht op de Inlichtingen- en Veiligheidsdiensten, de Ctivd. De commissie controleert of de AIVD en MIVD de Wet op de Inlichtingen- en Veiligheidsdiensten naleven. Voor het rapport keek de commissie voor het eerst naar 'gda, of geautomatiseerde data-analyse' bij de diensten.

Hoewel zulke geautomatiseerde data-analyses ook simpele zoekacties naar persoonsgegevens kunnen zijn, gaat het in veel gevallen om algoritmes die de diensten inzetten om data te analyseren. Zulke profilering of bigdata-analyse is een wettelijke algemene bevoegdheid, waarbij geen specifieke toestemming nodig is van de minister. Ook hoeft de inzet niet getoetst te worden door de tib, de Toetsingscommissie Inzet Bevoegdheden. Er is volgens de Ctivd een 'hoog risico' dat de algoritmes voor de data-analyses te snel worden ingezet, zonder de juiste waarborgen.

Een van de problemen is dat er bij de inlichtingendiensten geen duidelijk beleid is omtrent de vraag wanneer een procedure een geautomatiseerde data-analyse is. "Dit brengt het risico met zich mee dat gegevensverwerkingen die nu ten onrechte niet als gda worden aangemerkt, niet gebonden zijn aan de benodigde waarborgen", schrijft de commissie in haar rapport.

Mede daardoor is er een hoog risico dat de inlichtingendiensten ze te vaak inzetten, zonder de afweging te maken of daarvoor een wettelijke grondslag is. Zo'n analyse moet namelijk een duidelijk doel hebben. In de wet staat ook dat de inlichtingendiensten geen maatregelen mogen nemen op basis van enkel de uitkomsten van zo'n algoritme - daar moet ook altijd een menselijke beoordeling aan te pas komen.

Maar omdat het begrip van gda's te vaag geformuleerd is bij de diensten, bestaat er risico dat dit toch gebeurt, en dat medewerkers voor hun onderzoeken 'niet vooraf de benodigde afwegingen maken'. Bovendien hebben de diensten niet voldoende zicht op wanneer algoritmes in zoektechnieken worden ingebouwd, en hebben de betrokken personen niet genoeg inzicht in hoe die werken en of dat naar behoren gaat.

De Ctivd bracht dinsdag de tweede voortgangsrapportage uit sinds de Wiv op 1 mei 2018 in werking trad. In december 2018 werd een eerste rapportage uitgebracht waarin verschillende grote risico's voor de diensten werden aangemerkt. Daarin stond te lezen hoe de diensten te weinig waarborgen hadden voor het feit dat zij 'zo gericht mogelijk' moesten aftappen. Veel van die risico's zijn sindsdien verlaagd. "De AIVD en MIVD zijn doordrongen van de noodzaak van interne controle op de naleving van de wet", schrijft de commissie nu. De meeste 'hoge risico's' die tijdens de eerdere rapportage werden ontdekt, zijn nu teruggebracht naar de status 'gemiddeld' of 'beperkt'.

Door Tijs Hofmans

Redacteur privacy & security

11-06-2019 • 12:00

56 Linkedin Google+

Reacties (56)

Wijzig sortering
Dat is dan een indirect tot stand gekomen situatie. De software die er in de eerste instantie was bevat de algoritme's. Alles wat na het starten gebeurt is het gevolg van anticiperen op invoerdata vanuit een geprogrammeerde begin-situatie.

Het wordt link als iets dergelijks, dat op geen enkele manier controleerbaar is en ontstaan in software, opnieuw wordt vastgelegd in hardware als zijnde een betrouwbaar systeem...

[Reactie gewijzigd door blorf op 11 juni 2019 15:40]

[...]

Als je het niet meer kunt analyseren en dus geen 'stappenplan' kunt vaststellen, kan je dan nog wel spreken over een algoritme?
Natuurlijk kun je dan nog wel spreken van een algoritme; het is alleen niet jouw algoritme meer (maar van de A.I. of zo).
Bij een AI met een fuzzy network, heb je ook een algoritme. Maar daarvoor geldt dat de mens niet weet hoe de beslissing tot stand is gekomen.
Ik ga er ook vanuit dat in dit artikel de algoritmes waar men zich zorgen over maakt niet de strakke, ouderwetse querys (IF kolom2 = 3) zijn, maar op AI of op automatische statistische modellen gebaseerde algoritmes.

Nu is het wel mogelijk om AI te trainen zodat hij uit kan leggen hoe zeker hij van zijn zaak is, en is er tevens te achterhalen welke aspecten belangrijk zijn in het komen tot een eindoordeel, maar dit vergt extra werk en expertise.
als de media of politiek het over algoritmes hebben dan gaat het over geautomatiseerde systemen die zelfstandig dingen besluiten die gevolgen hebben voor burgers.
En door dat soort slordigheid krijg je dus miscommunicatie. Als ik iemand een potlood in zijn oog duw is hij ook niet 'gestorven aan grafiet', hoewel dat er zijdelings wel mee te maken heeft.

Juist degenen die deskundig zijn op dat gebied (tweakers?) zouden daar niet in mee moeten gaan.
Dit is een goede toevoeging en een nuance
Dit een nuance noemen is net zoiets als 'water' een nuance van 'zee' noemen.
in dat geval heb ik de afweging gemaakt om het onder de noemer 'algoritmes' te scharen.
Dat is dus gewoon fout. Geautomatiseerde data-analyse maakt gebruik van algoritmes, maar algoritmes zijn niet alleen voorbehouden aan geautomatiseerde data-analyse.

Ik erger me sowieso al groen en geel aan het misbruik dat mensen maken van 'vrijheid' om domweg feiten te gaan lopen verdraaien, en dit is niet anders. Je mag dan redacteur zijn, maar persvrijheid betekent niet dat je maar zo een eigen definitie kunt gaan lopen verzinnen met als excuus 'ik heb die afweging gemaakt'. Wat is het volgende, "ik heb het zorgvuldig overwogen en ben tot de conclusie gekomen dat één en één vier is"?
Heb voor de zekerheid nog gevraagd bij de ctivd of dat een juiste vertaling was van 'geautomatiseerde data-analyses'.
Nee, dat is het niet. Een auto heeft wielen, maar iets met wielen is niet meteen ook een auto. Het is binnen de context een aanvardbare vertaling, maar dan moet je dus wel eerst de context schetsen, en het niet op deze manier in een kop zetten. Nu is de kop, tja, ... wat? Niet eens fout, het is onzinnig.

Deze manier van slordig omgaan met definities leidt tot miscommunicatie en desinformatie. Juist van een tech-site verwacht ik dat dit zorgvuldig wordt gedaan.
[...]

Ja, dat is dus een beetje misbruik van het woord 'algoritme'.
Elk computerprogramma is een algoritme.
En een SQL query is ook een algoritme.
Alle gestructureerde opdrachten waarmee je iets bereikt zijn gewoon algoritmes.
Een rekenmachine is ook niet meer dan een set algoritmes.

Nu wordt het woord 'algoritme' dus geassocieerd met big data en 'evil' en ondoortastelijk. En dat is volkomen onterecht. Het wood algoritme is een enorm breed begrip.
Inderdaad. Tweakers bezondigt zich hier aan hetzelfde knullige gebruik van het woord algoritme, net zoals in Star Trek altijd alles een 'subroutine' is.
Ik zou zeggen dat het evalueren van je NN of beslissingsboom alsnog een algoritme is, alleen de uitkomst van je trainingsfase is een van de invoeren van dat algoritme.

Waar ik me vooral aan stoor is die hevige nadruk op het woord "algoritme". Ik kam besluiten om voor elke vraag die je me stelt een munt op te gooien, als het kop is zeg ik ja, anders nee. Dat is een algoritme. Ik kan besluiten altijd ja te zeggen. Ook dat is een algoritme.

Een algoritme is niks anders dan een manier om van invoer naar uitvoer te komen.
Een algoritme is niks anders dan een manier om van invoer naar uitvoer te komen.
Het is meer dan dat. Je moet een algoritme ook werkelijk kunnen beschrijven, stap voor stap.
In jouw geval is dat 'gooi een munt, kijk of het kop of munt is, if kop then ja if munt then no'.
Maar hoe (en in welke taal) beschrijf je hoe een NN tot zn uitvoer komt bij een bepaalde invoer?

Ik snap je wel hoor. :)
Waar het mij denk ik om gaat is dat een NN voor mij een soort informationele scheiding betekent tussen de onderlaag (computer) en de informatie gecodeert in het NN. Het is een soort emergent iets. De informatie wordt heel anders gecodeerd dan hoe je normaal informatie opslaat in een computer.
De subonderdelen van het NN maken geen directe beslissingen meer over de informatie die door het NN stroomt.
Ik denk wel dat je een algoritme kunt maken voor het laten werken van een NN, maar je kunt daarmee dus niet voorspellen hoe een bepaald NN reageert op bepaalde input. En van de structuur die dat wel kan voorspellen kun je weer niet zoveel concreets zeggen, en dus niet echt een algoritme van maken.
Mijn gedachte is dus dat je middels programmeren een nieuwe laag van verwerking kunt bouwen die niet meer mapt naar wat wij gebruiken om algoritmes mee te beschrijven. Het wordt daarmee een soort van (informationeel) onafhankelijke entiteit die zich niet persee houdt aan de beperkingen van het onderliggend systeem.

Maar het blijft natuurlijk ook zo dat theoretisch alle NN's op een turingmachine kunnen worden uitgevoerd dus dan zou je kunnen zeggen dat ze per definitie een algoritme moeten zijn.
Word 't te moeilijk, verlagen we toch even die privacy zonder dat men het weet.

Sleepwet #3 in werking dus inmiddels.


Om te kunnen reageren moet je ingelogd zijn


OnePlus 7 Pro (8GB intern) Microsoft Xbox One S All-Digital Edition LG OLED C9 Google Pixel 3a XL FIFA 19 Samsung Galaxy S10 Sony PlayStation 5 Games

Tweakers vormt samen met Tweakers Elect, Hardware.Info, Autotrack, Nationale Vacaturebank, Intermediair en Independer de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True