Nederlandse inlichtingendiensten lopen hoog risico op misbruik van algoritmes

De inlichtingendiensten AIVD en MIVD hebben nog onvoldoende waarborgen voor het veilig gebruik van algoritmes. Er zijn 'hoge risico's' dat zulke algoritmes worden misbruikt, schrijft de toezichtcommissie Ctivd.

De bevindingen staan in de halfjaarlijkse voortgangsrapportage van de Commissie Toezicht op de Inlichtingen- en Veiligheidsdiensten, de Ctivd. De commissie controleert of de AIVD en MIVD de Wet op de Inlichtingen- en Veiligheidsdiensten naleven. Voor het rapport keek de commissie voor het eerst naar 'gda, of geautomatiseerde data-analyse' bij de diensten.

Hoewel zulke geautomatiseerde data-analyses ook simpele zoekacties naar persoonsgegevens kunnen zijn, gaat het in veel gevallen om algoritmes die de diensten inzetten om data te analyseren. Zulke profilering of bigdata-analyse is een wettelijke algemene bevoegdheid, waarbij geen specifieke toestemming nodig is van de minister. Ook hoeft de inzet niet getoetst te worden door de tib, de Toetsingscommissie Inzet Bevoegdheden. Er is volgens de Ctivd een 'hoog risico' dat de algoritmes voor de data-analyses te snel worden ingezet, zonder de juiste waarborgen.

Een van de problemen is dat er bij de inlichtingendiensten geen duidelijk beleid is omtrent de vraag wanneer een procedure een geautomatiseerde data-analyse is. "Dit brengt het risico met zich mee dat gegevensverwerkingen die nu ten onrechte niet als gda worden aangemerkt, niet gebonden zijn aan de benodigde waarborgen", schrijft de commissie in haar rapport.

Mede daardoor is er een hoog risico dat de inlichtingendiensten ze te vaak inzetten, zonder de afweging te maken of daarvoor een wettelijke grondslag is. Zo'n analyse moet namelijk een duidelijk doel hebben. In de wet staat ook dat de inlichtingendiensten geen maatregelen mogen nemen op basis van enkel de uitkomsten van zo'n algoritme - daar moet ook altijd een menselijke beoordeling aan te pas komen.

Maar omdat het begrip van gda's te vaag geformuleerd is bij de diensten, bestaat er risico dat dit toch gebeurt, en dat medewerkers voor hun onderzoeken 'niet vooraf de benodigde afwegingen maken'. Bovendien hebben de diensten niet voldoende zicht op wanneer algoritmes in zoektechnieken worden ingebouwd, en hebben de betrokken personen niet genoeg inzicht in hoe die werken en of dat naar behoren gaat.

De Ctivd bracht dinsdag de tweede voortgangsrapportage uit sinds de Wiv op 1 mei 2018 in werking trad. In december 2018 werd een eerste rapportage uitgebracht waarin verschillende grote risico's voor de diensten werden aangemerkt. Daarin stond te lezen hoe de diensten te weinig waarborgen hadden voor het feit dat zij 'zo gericht mogelijk' moesten aftappen. Veel van die risico's zijn sindsdien verlaagd. "De AIVD en MIVD zijn doordrongen van de noodzaak van interne controle op de naleving van de wet", schrijft de commissie nu. De meeste 'hoge risico's' die tijdens de eerdere rapportage werden ontdekt, zijn nu teruggebracht naar de status 'gemiddeld' of 'beperkt'.

Reacties (56)

[RoestVrijStaal]

Ligt het nou aan mij of zijn we weer terug in de beginperiode dat PC's big business waren?

Er wordt allemaal zo "toverwoordig" gedaan over algoritmes. What's the big deal? Het zijn maar "kookrecepten" (of anders "rekenmodellen") in de IT.

Bovendien hebben de diensten niet voldoende zicht op wanneer algoritmes in zoektechnieken worden ingebouwd, en hebben de betrokken personen niet genoeg inzicht in hoe die werken en of dat naar behoren gaat.

Ze zijn er altijd al ingebouwd. De simpelste database query is al een algoritme.

[Reactie gewijzigd door RoestVrijStaal op 23 juli 2024 08:11]

[Freeaqingme]

Ligt het nou aan mij of zijn we weer terug in de beginperiode dat PC's big business waren?

Er is in ieder geval één cruciaal verschil: in de beginperiode van PC's waren dit veredelde kaartenbakken. Hier kwam al snel een query-mogelijkheid bij ("geef mij iedereen met de naam 'Janssen' geboren voor 1980"), maar het was nog steeds de gebruiker van die kaartenbak die beslissingen nam en ook later kon uitleggen hoe hij tot die beslissing gekomen was.

Algoritmes gaan nog wat stappen verder; die zeggen "Pietje is verdacht", de gebruiker van het systeem neemt die verdenking 1:1 over. En als dan aan de gebruiker wordt gevraagd waarom hij Pietje verdenkt, dan komt 'ie niet verder dan "het systeem/algoritme zei dat".

Als je niet volledig doorgrondt hoe een algoritme werkt is de kans groot dat het op andere factoren gaat selecteren dan de bedoeling is. Zo kan een algoritme die drugsdealers moet vinden zo maar enkel naar de achternaam gaan kijken en daar alle mensen met een Antiliaanse (bijv.) achternaam flaggen, terwijl het idee van het algoritme was dat deze dat zou doen op basis van de inhoud van belastingaangiftes*.

offtopic:
Je kan je afvragen of een belastingaangifte gebruikt zou mogen worden om at random te zoeken naar drugs dealers (ik denk het niet), maar was even het beste voorbeeld wat ik kon bedenken.

[koelpasta]

Algoritmes gaan nog wat stappen verder; die zeggen "Pietje is verdacht", de gebruiker van het systeem neemt die verdenking 1:1 over. En als dan aan de gebruiker wordt gevraagd waarom hij Pietje verdenkt, dan komt 'ie niet verder dan "het systeem/algoritme zei dat".

Ja, dat is dus een beetje misbruik van het woord 'algoritme'.
Elk computerprogramma is een algoritme.
En een SQL query is ook een algoritme.
Alle gestructureerde opdrachten waarmee je iets bereikt zijn gewoon algoritmes.
Een rekenmachine is ook niet meer dan een set algoritmes.

Nu wordt het woord 'algoritme' dus geassocieerd met big data en 'evil' en ondoortastelijk. En dat is volkomen onterecht. Het wood algoritme is een enorm breed begrip.

Als je niet volledig doorgrondt hoe een algoritme werkt is de kans groot dat het op andere factoren gaat selecteren dan de bedoeling is.

Dus als jij een SQL query doet moet je begrijpen hoe SQL die query op atomair nivo gaat uitvoeren?
En als jij twee getallen op elkaar deelt op een rekenmachine moet je weten hoe je moet staartdelen?
Of gebruik je het woord 'agoritme' hier gewoon te breed en moet je nog specificeren om wat voor soort algoritme het gaat?
Het artiekel doet dat in ieder geval niet. Dat begint gewoon uit het niets over algoritmes zonder verdere context, alsof algoritmes enkel op 1 ding van toepassing zijn.

[wdelange]

Een algoritme is een set van stappen om een bepaade procedure uit te voeren. Een algoritme is gelaagd. Een SQL query is een algoritme. Het vewerken van de query is een ander algortime. Over elke laag doe je aannames. Een van de aannames is dat een SQL query eenduidig is uit te voeren en met een specifiek resultaat terug komt. Daarbij is de aanname dat de omgeving die de query uitvoert geen bugs bevat of crasht.

Een probleem met queries is al dat de data niet consistent, onvolledig of corrupt is. Dan kan de query ook foute resultaten opleveren. Je moet dus wel weten wat de consequenties zijn van die data.

Bij een AI met een fuzzy network, heb je ook een algoritme. Maar daarvoor geldt dat de mens niet weet hoe de beslissing tot stand is gekomen.

[koelpasta]

Bij een AI met een fuzzy network, heb je ook een algoritme. Maar daarvoor geldt dat de mens niet weet hoe de beslissing tot stand is gekomen.

Als je het niet meer kunt analyseren en dus geen 'stappenplan' kunt vaststellen, kan je dan nog wel spreken over een algoritme?
Volgens mij niet. Volgens mij heb je dan te maken met een andere vorm van informatieverwerking die niet meer uit te drukken is in een algoritme.

[blorf]

Dat is dan een indirect tot stand gekomen situatie. De software die er in de eerste instantie was bevat de algoritme's. Alles wat na het starten gebeurt is het gevolg van anticiperen op invoerdata vanuit een geprogrammeerde begin-situatie.

Het wordt link als iets dergelijks, dat op geen enkele manier controleerbaar is en ontstaan in software, opnieuw wordt vastgelegd in hardware als zijnde een betrouwbaar systeem...

[Reactie gewijzigd door blorf op 23 juli 2024 08:11]

[albatross]

[...]

Als je het niet meer kunt analyseren en dus geen 'stappenplan' kunt vaststellen, kan je dan nog wel spreken over een algoritme?

Natuurlijk kun je dan nog wel spreken van een algoritme; het is alleen niet jouw algoritme meer (maar van de A.I. of zo).

[koelpasta]

Een algoritme is gelaagd.

Wat bedoel je hier precies mee?
Ik kan mij namelijk best 'platte' algoritmes voorstellen.

[Nystran]

Bij een AI met een fuzzy network, heb je ook een algoritme. Maar daarvoor geldt dat de mens niet weet hoe de beslissing tot stand is gekomen.

Ik ga er ook vanuit dat in dit artikel de algoritmes waar men zich zorgen over maakt niet de strakke, ouderwetse querys (IF kolom2 = 3) zijn, maar op AI of op automatische statistische modellen gebaseerde algoritmes.

Nu is het wel mogelijk om AI te trainen zodat hij uit kan leggen hoe zeker hij van zijn zaak is, en is er tevens te achterhalen welke aspecten belangrijk zijn in het komen tot een eindoordeel, maar dit vergt extra werk en expertise.

[Freeaqingme]

Ja, dat is dus een beetje misbruik van het woord 'algoritme'.

Jaja, we kunnen ook gaan analyseren wanneer je quick sort, of juist bubble sort zou moeten gebruiken. Onderwerpen die ongetwijfeld op school bij het vak Algoritmen langskomen. Toch heb ik geenszins de indruk dat als de media of politiek het over algoritmes hebben ze daar op doelen.

Nee, als de media of politiek het over algoritmes hebben dan gaat het over geautomatiseerde systemen die zelfstandig dingen besluiten die gevolgen hebben voor burgers. Niet over of het sorteren in sommige specifieke gevallen misschien wel 100ms sneller had gekund.

[koelpasta]

Nee, als de media of politiek het over algoritmes hebben dan gaat het over geautomatiseerde systemen die zelfstandig dingen besluiten die gevolgen hebben voor burgers. Niet over of het sorteren in sommige specifieke gevallen misschien wel 100ms sneller had gekund.

Ja, gek dus, aangezien sorteren ook gewoon een algoritme is.
En op een heel fundamentele manier maken alle geautomatiseerde systemen gebruik van algoritmes. Ontzettend raar om dan naar een heel specifieke toepassing van algoritmes te verwijzen met de generieke omschrijving 'algoritme'.

[Freeaqingme]

Tjah, ik kan me ook heel ergeren aan het gebruik van het woord 'cyber'. Toch zie je dat wat voor mensen met vakkennis een zekere betekenis heeft, terwijl het in de volksmond toch een andere betekenis heeft.

[nobraininvolved]

dat heb ik al met het woord 'cloud'...ook zo'n toverwoord voor een (gedeelde) opslagserver ergens buiten het pand
Je blijft lachen met al die trending woorden...pfff

[koelpasta]

Ooh ja, doet me denken aan politiek en het woord 'cyber'
Cyberoorlog
Cyberdreiging
Cyberdefence
Cybercriminelen

Krankzinnig hoe zo'n woord compleet uit context wordt gehaald omdat het cool klinkt.
Sowiso is die kant van de 'defentie op staatsnivo' belachelijk gecommercializeerd.
Mischien een beetje off-topic maar mijn ogen gingen open toen ik op het nieuws wat beelden zag van de presentatie van dat JSF mormel. Dat was een soort house-feest, compleet met DJ, discolicht en danseresjes. En natuurlijk veel drank. Voor een freaking moordmachine(!!). Party time!

Ik ben ervan overtuigd dat al die 'cyber' woorden ook geintroduceerd zijn door enkele aan militairen gelieerde organisaties die de wereldleiders uitgelegd hebben dat er toch echt een cybergevaar dreigt en hoe je je cyber dan kunt verdedigen met hun cybercountermeasures.
De spontane bereidheid van onze politici om het woord 'cyber' overal voor te plakken dat met digitale communicatie te maken heeft lijkt naar een enkele bron te wijzen.

[legenware]

Vergeet niet Cyberdicht maken: https://www.youtube.com/watch?v=iz8M-JPYB-I

[MrMonkE]

Je kunt vrijwel altijd het woord 'algoritme' vervangen door 'manier'.
Maar dan klinkt het allemaal niet zo interessant meer.

[Verwijderd]

als de media of politiek het over algoritmes hebben dan gaat het over geautomatiseerde systemen die zelfstandig dingen besluiten die gevolgen hebben voor burgers.

En door dat soort slordigheid krijg je dus miscommunicatie. Als ik iemand een potlood in zijn oog duw is hij ook niet 'gestorven aan grafiet', hoewel dat er zijdelings wel mee te maken heeft.

Juist degenen die deskundig zijn op dat gebied (tweakers?) zouden daar niet in mee moeten gaan.

[TijsZonderH]

Dit is een goede toevoeging en een nuance die in het artikel idd misschien wat meer naar voren had moeten komen, in dat geval heb ik de afweging gemaakt om het onder de noemer 'algoritmes' te scharen. Heb voor de zekerheid nog gevraagd bij de ctivd of dat een juiste vertaling was van 'geautomatiseerde data-analyses'. Volgens de uitleg ging het in sommige gevallen om een enkele query gaat, maar in de meeste gevallen om het structureel doorzoeken van grote hoeveelheden data. Ik ga wel kijken hoe/of ik dat beter kan specificeren!

[koelpasta]

Cool! Maar ik denk dat het probleem dieper ligt en dat het woord in zn algemeenheid breed door media (en steeds vaker ook politiek) wordt gebruikt om specifiek big-data achtige dingen mee aan te duiden.

Wat dat betreft ben je dus enigzins slachtoffer van de huidige situatie. Maar ik denk wel dat het tweakers zou sieren hier meer duiding aan te geven.

[Verwijderd]

Dit is een goede toevoeging en een nuance

Dit een nuance noemen is net zoiets als 'water' een nuance van 'zee' noemen.

in dat geval heb ik de afweging gemaakt om het onder de noemer 'algoritmes' te scharen.

Dat is dus gewoon fout. Geautomatiseerde data-analyse maakt gebruik van algoritmes, maar algoritmes zijn niet alleen voorbehouden aan geautomatiseerde data-analyse.

Ik erger me sowieso al groen en geel aan het misbruik dat mensen maken van 'vrijheid' om domweg feiten te gaan lopen verdraaien, en dit is niet anders. Je mag dan redacteur zijn, maar persvrijheid betekent niet dat je maar zo een eigen definitie kunt gaan lopen verzinnen met als excuus 'ik heb die afweging gemaakt'. Wat is het volgende, "ik heb het zorgvuldig overwogen en ben tot de conclusie gekomen dat één en één vier is"?

Heb voor de zekerheid nog gevraagd bij de ctivd of dat een juiste vertaling was van 'geautomatiseerde data-analyses'.

Nee, dat is het niet. Een auto heeft wielen, maar iets met wielen is niet meteen ook een auto. Het is binnen de context een aanvardbare vertaling, maar dan moet je dus wel eerst de context schetsen, en het niet op deze manier in een kop zetten. Nu is de kop, tja, ... wat? Niet eens fout, het is onzinnig.

Deze manier van slordig omgaan met definities leidt tot miscommunicatie en desinformatie. Juist van een tech-site verwacht ik dat dit zorgvuldig wordt gedaan.

[OCU-Macs]

Je analogie aangaande de staartdeling vind ik wel een leuke: Wekelijks loop ik nog tegen issues aan omdat mensen (developers) niet weten hoe ze percentages moeten uitrekenen (als in: boven het honderd, van het honderd, onder het honderd, etc...).

Toegegeven, klein beetje complexer dan een eenvoudige deling, maar als je dit doortrekt op het ontwikkelen van een complexer algoritme, dan kunnen dergelijke triviale fouten de scope behoorlijk laten afzwaaien.

[albatross]

[...]

Ja, dat is dus een beetje misbruik van het woord 'algoritme'.
Elk computerprogramma is een algoritme.
En een SQL query is ook een algoritme.
Alle gestructureerde opdrachten waarmee je iets bereikt zijn gewoon algoritmes.
Een rekenmachine is ook niet meer dan een set algoritmes.

Nu wordt het woord 'algoritme' dus geassocieerd met big data en 'evil' en ondoortastelijk. En dat is volkomen onterecht. Het wood algoritme is een enorm breed begrip.

Inderdaad. Tweakers bezondigt zich hier aan hetzelfde knullige gebruik van het woord algoritme, net zoals in Star Trek altijd alles een 'subroutine' is.

[Verwijderd]

Yep. En volgens mij is 1 formule ook al een algortime.

[Philpend]

Zijn we inderdaad weer terug bij “computer says no”.
https://youtu.be/0n_Ty_72Qds

[Sergelwd]

Echt agumenteren kan/mag een ambtenaar of agent toch al vaak niet.
Niet voor reden vatbaar.

[Mellow Jack]

Ook dat kan je natuurlijk gewoon met een querie doen

In feite is er niks veranderd behalve dat we als mensheid steeds beter worden in het schrijven van queries (en het combineren van queries over systemen heen).

[Xanaroth]

En daar komt bij, dat als iets ongecontroleerd en vrij gebeurd (zoals het artikel suggereert) dat dit ook op zaken toegepast kan worden die niet direct AIVD/MIVD gericht zijn. Zoals bijvoorbeeld je ex eens nalopen, omdat je je afvraagt waar dat geld vandaan komt en denkt dat er iets achter zit.

[kimborntobewild]

Als je niet volledig doorgrondt hoe een algoritme werkt is de kans groot dat het op andere factoren gaat selecteren dan de bedoeling is.

Veiligheidsmensen doen altijd aan profilering middels (ervarings?)voorkeuren. Zoals douane. Ik stond een tijd stil voor de boot in een haven (ik geloof Helsingborg). Van de auto's die de boot afkwamen, werden alleen oudere/minder onderhouden auto's aangehouden voor controle.

[CAPSLOCK2000]

Er wordt allemaal zo "toverwoordig" gedaan over algoritmes. What's the big deal? Het zijn maar "kookrecepten" (of anders "rekenmodellen") in de IT.

In de media betekent "algoritme" dat er een AI achter zit.Momenteel bouwen we veel AI's door ze te trainen op door mensen verzamelde data. Daarbij bestaat het risico dat vooroordelen of blinde vlekken van die mensen worden overgenomen door de AI.

[Znorkus]

People are stupid. En maar achter de zakken met geld aanhollen. Geen flut verstand van dataananalyse, geen vraagstelling, geen hypothese, maar andere onderzoeker x had 'mooie resultaten' met big data en algoritmes en dus moeten zij het ook gebruiken want dan innoveren ze ook mee.

Een hoop onderzoekers denken niet vreselijk veel verder dan dat, en gaan het subsidievoorstel op basis hiervan schrijven. Je noemt het dan exciting opportunities en new technology en data driven approach en machine learning en iedereen knikt ooh knap ja gaaf.

Tenenkrommend! Algoritmes! :-) rrrrrr.

Ik ken bar weinig onderzoekers die echt de elegantie en de kracht van AI snappen. Wat ze wel snappen, is dat het hip is.

De zorg uit het artikel lijkt me volkomen terecht en kan je ook op alle universiteiten plakken.

[Reactie gewijzigd door Znorkus op 23 juli 2024 08:11]

[koelpasta]

In de media betekent "algoritme" dat er een AI achter zit.Momenteel bouwen we veel AI's door ze te trainen op door mensen verzamelde data.

Het rare is dat die AI's dus eigenlijk geen algoritmes zijn.
Het zijn fuzzy afwegingsbomen waarvan je niet kunt achterhalen welk stukje van het NN wat precies doet. Dat is dus juist het tegenovergestelde van een algoritme.

Waar algoritmes aan te pas komen is het trainen van een neuraal netwerk. Daar zijn vaste regels voor. En ook de structuur (opbouw) van een neuraal netwerk kan je beschrijven met een algoritme.
Maar het resultaat, een getraind neuraal netwerk dat intern allerlei verbanden vastlegt, is op zich geen algoritme. Het is een compleet nieuw soort structuur waarbij verbanden niet netjes opgedeelt zijn in hapklare brokken maar kris-kras door elkaar lopen in verscillende verhoudingen.

[Reactie gewijzigd door koelpasta op 23 juli 2024 08:11]

[wdelange]

Het is nog steeds een algoritme. Maar het algoritme zit dan in het trainen van de AI.
Maar je redenering sluit perfect aan bij het artikel. Omdat het niet meer bekend is waarop de beslissing wordt genomen in een getraind AI, wordt het moeilijk om de juiste afwegingen te maken en wordt er door de mens gereageerd met "De computer zegt het, dus het is de waarheid".

[koelpasta]

Het is nog steeds een algoritme. Maar het algoritme zit dan in het trainen van de AI.

Een trainingsprogramma is natuurlijk niet hetzelfde als hetgeen er als resultaat van die training uitkomt.

Omdat het niet meer bekend is waarop de beslissing wordt genomen in een getraind AI, wordt het moeilijk om de juiste afwegingen te maken

Ja, en ondanks dit resultaat kun je prima het trainingsalgoritme doorgronden. Het is vaak zelfs vrij eenvoudig te snappen. Het probleem lijkt dus niet in het algoritme te liggen maar in de aard en strekking van de uitkomst (een getraind neuraal netwerk).

[alexiooo]

Ik zou zeggen dat het evalueren van je NN of beslissingsboom alsnog een algoritme is, alleen de uitkomst van je trainingsfase is een van de invoeren van dat algoritme.

Waar ik me vooral aan stoor is die hevige nadruk op het woord "algoritme". Ik kam besluiten om voor elke vraag die je me stelt een munt op te gooien, als het kop is zeg ik ja, anders nee. Dat is een algoritme. Ik kan besluiten altijd ja te zeggen. Ook dat is een algoritme.

Een algoritme is niks anders dan een manier om van invoer naar uitvoer te komen.

[koelpasta]

Een algoritme is niks anders dan een manier om van invoer naar uitvoer te komen.

Het is meer dan dat. Je moet een algoritme ook werkelijk kunnen beschrijven, stap voor stap.
In jouw geval is dat 'gooi een munt, kijk of het kop of munt is, if kop then ja if munt then no'.
Maar hoe (en in welke taal) beschrijf je hoe een NN tot zn uitvoer komt bij een bepaalde invoer?

Ik snap je wel hoor.
Waar het mij denk ik om gaat is dat een NN voor mij een soort informationele scheiding betekent tussen de onderlaag (computer) en de informatie gecodeert in het NN. Het is een soort emergent iets. De informatie wordt heel anders gecodeerd dan hoe je normaal informatie opslaat in een computer.
De subonderdelen van het NN maken geen directe beslissingen meer over de informatie die door het NN stroomt.
Ik denk wel dat je een algoritme kunt maken voor het laten werken van een NN, maar je kunt daarmee dus niet voorspellen hoe een bepaald NN reageert op bepaalde input. En van de structuur die dat wel kan voorspellen kun je weer niet zoveel concreets zeggen, en dus niet echt een algoritme van maken.
Mijn gedachte is dus dat je middels programmeren een nieuwe laag van verwerking kunt bouwen die niet meer mapt naar wat wij gebruiken om algoritmes mee te beschrijven. Het wordt daarmee een soort van (informationeel) onafhankelijke entiteit die zich niet persee houdt aan de beperkingen van het onderliggend systeem.

Maar het blijft natuurlijk ook zo dat theoretisch alle NN's op een turingmachine kunnen worden uitgevoerd dus dan zou je kunnen zeggen dat ze per definitie een algoritme moeten zijn.

[Iblies]

Maar die zijn net zo min heilig.

Wat je mist is een fatsoenlijke manier van terugkoppelen.

De befaamde racistische AI kreeg heel veel aandacht en daar is om marketing-technische redenen de stekker uit getrokken en vervolgens opnieuw begonnen.
nieuws: Microsoft spreekt van gecoördineerde Tweet-aanval tegen chatbot


Het grote probleem is dat je dus allerlei systemen krijgt die niet openbaar zijn en ook niet fatsoenlijk getoetst kunnen worden omdat een deel van de code zelf is gecreëerd. Je krijgt dan gedrochten van systemen waarvoor niet verantwoordelijkheid kan of wil dragen.

https://nos.nl/artikel/22...ico-op-discriminatie.html
De kans dat de befaamde allochtoon in een hokje beland is groot, echter is dat een gevolg. Moment dat je niet juist gaat implementeren en clowns ala Wilders het gaat afschuiven op bepaalde groepen dan krijg je op een gegeven moment een self-full-filling prophecy. Daar een correctie op gaan maken als ondertussen daar beleid is op afgestemd, wat kun of moet je dan.

[dwwolf]

Het gaat meer om de acties die uit de algoritmes voortkomen.

Minority Report etc.

[wica]

Is idd niet veel meer dan een "kookrecept" en elke kok gooit er zijn eigen smaakje overheen.

Het probleem met algoritmes is, dat ze ook door mensen ontworpen zijn. Mensen (on)bewust hun eigen voorkeuren er in kunnen verwerken. Zelfde geld voor A.I. als je deze traind met een bepaalde basis set, zal die zich ook gedragen naar die basis set

[Cowamundo]

Tai.ai chatbot

https://www.telegraph.co....ler-loving-sex-robot-wit/

[ignitem]

Men bedoelt Machine Learning Algorithms.

[albatross]

Een algoritme is niets anders dan een programmeer-methode om iets te doen. Als ik iets inelkaar flants, dat twee getallen bij elkaar kan optellen, dan heb ik al een algoritme geschreven (hoe onbenullig ook).

Het is toch wel triest om te zien dat ook Tweakers nu meegaat in het totaal digibete gebruik van het woord algoritme, als zou het om een soort van zelfstandige programmas gaan (liefst met A.I.), die allerlei beslissingen over ons nemen. Zucht.

Natuurlijk gebruiken Amazon en Google etc. algoritmes voor allerlei statistische data-verwerking; maar dat is een even betekenisloze uitspraak als zeggen dat ze computers gebruiken. Laat nou ook alsjeblieft niet ook Tweakers doen alsof algoritmes een soort eigenstandige entiteiten zijn.

[kimborntobewild]

Ach, of je 't nu een algoritme of stappenplan of systeem of methode noemt: die kunnen allemaal uitermate simpel of uitermate complex zijn.
Het gaat er hier in elk geval om dat er blijkbaar algoritmes/stappenplannen/systemen/methodes gebruikt worden die wat ingewikkelder zijn dan 't simpelweg optellen van twee getallen. En dat die algoritmes/stappenplannen/systemen/methodes die momenteel gebruikt worden, zodanig gemaakt zijn dat ze misbruik in de hand werken. Derhalve moeten de huidige algoritmes/stappenplannen/systemen/methodes dus blijkbaar op de schop.
Een goede methode zou zijn: ze openbaar maken (op hun website plaatsen o.i.d.). Dan kan eenieder meekijken, en beoordelen of 't wel eerlijke algoritmes zijn. Dat dwingt tot 't maken van eerlijke algoritmes (immers: iedereen kan meekijken).
Waarschijnlijk valt 't niet onder 'wet van openbaar bestuur' vanwege 'de veiligheid', maar ja... wie controleert de controleurs? De Ctivd dus . Moeten we de controleurs van de controleurs ook kunnen controleren? Wel als die controleurs teveel aanschuren tegen de AIVD en MIVD zelf (bijv. als een deel van de Ctivd bij AIVD of MIVD zelf vandaan komt: dan heb je belangenverstrengeling, zoals bij de Reclame Code Commissie waarbij de helft + één uit de industrie zelf komt).

[Reactie gewijzigd door kimborntobewild op 23 juli 2024 08:11]

[Verwijderd]

Om 12.00 stuurt CTIVD een persbericht de wereld in met als titel
Publicatie tweede voortgangsrapportage over de invoering van de Wiv 2017

Tweakers, nu.nl, volkskrant enz

Publiceren rond de klok van 12.00 uur een artikel met info gebaseerd op het persbericht
In zo'n korte tijd is het niet mogelijk om een eigen artikel te schrijven, de informatie zal dus onder embargo eerder aan nieuwsmedia zijn verstrekt.

En nu lezen we met zijn allen de propaganda die Nederlandse staat met ons wil delen.

[TijsZonderH]

Ik zie niet zo goed in hoe een embargo gelijk staat tot propaganda. Dit persbericht, maar ook de voortgangsrapportage, kregen we vanochtend al binnen (en vorige week kregen we al een heads-up dát dat eraan zat te komen). Dus we hebben ruim de tijd gehad om extra vragen te stellen (ook gedaan) en een stuk te schrijven.

[Reactie gewijzigd door TijsZonderH op 23 juli 2024 08:11]

[Cio]

Propaganda gaat onder andere over het bepalen welke informatie wanneer beschikbaar komt. De link lijkt me niet zo ver gezocht, dit is toch basiskennis voor een journalist?

[TijsZonderH]

Dus als ik die info pas krijg op het moment dat de ctivd het openbaar maakt en exact hetzelfde stuk zou schrijven zou het geen propaganda zijn, maar nu wel? Embargo's gebeuren in de journalistiek aan de lopende band, om uiteenlopende redenen. De term 'propaganda' vind ik behoorlijk beladen en eerlijk gezegd ook een beetje beledigend. Het is niet zo alsof we netjes opschrijven wat de ctivd wil.

[Cio]

Reactie kort samengevat, voor mensen die geen rant willen: Bovenstaande is een stroman antwoord, ik beweer namelijk niet wat Tijs hier weerleg, en dat hij iets beledigend vind of iets vaker gebeurt is al helemaal geen argument.

Ik snap dat ik nu een gigantische faux-pas maak door met een auteur in discussie te gaan, maar dit is echt absurd! Iemand probeert nieuws te duiden en je doet het af met goedkope truukjes.

Je legt mij woorden in de mond, een stroman, en dat is eerlijk gezegd ook een beetje beledigend. Helemaal omdat je er ook nog even een schepje er bovenop doet, propaganda gaat niet over 'netjes opschrijven wat X wil'. Het gaat om controle over het verhaal als geheel, het sturen van berichtgeving.

De waarschuwing dat er nieuws komt is ruim vooraf. Indirect wordt duidelijk gemaakt dat alle concurrenten dat ook weten, dus meteen handelen is nodig. Nieuwe feiten zijn er alleen niet, er is dus nog nog niks van het 'nieuws' te schrijven. Je kan alleen maar vragen stellen over reeds bekende zaken. En dat is informatie die vaak uit dezelfde bron komt! Degene aan wie je de vragen stelt heeft zo ook goed zicht op hoe je iets gaan benaderen.

De voorbereiding en alle vooraf geschreven inhoud van het uiteindelijke nieuwsbericht gaat dus sowieso niet over dingen waarop de instantie niet op voorbereid is. Dat is al een zeker mate van controle.

Echte informatie komt pas enkele uren voor het 'nieuwsmoment'. Dit is niet genoeg tijd voor serieus onderzoek op basis van de nieuwe feiten, en iedereen weet van elkaar dat ze stipt om 12.00 moeten publiceren, want oud nieuws in geen nieuws. Maar de context waarin de nieuwe informatie zal worden geplaatst, is al grootendeels bepaald door het vooronderzoek.

Je kan als journalist wel beledigd zijn van de beschuldiging, maar door mee te werken aan dit soort contructies in plaats van er keihard tegen te protesteren, geef je de overheid die jij moet controleren, juist een stukje controle over jouw werk. Controle vooraf hé, laten we vooral duidelijk maken dat dit geen zichtbaar ingrijpen na afloop is. De cyclus kan dus straffeloos herhaald worden om zichzelf te versterken.

Hopelijk snap je nu waarom de link met propaganda word gelegd, ondanks dat je niet letterlijk een boodschap aan het overnemen bent. Zeg ik nu dat je een verlengstuk van de staat bent? Nee. Is dit stuk propaganda. Geen idee, ik heb geen vergelijking

We passen de term propaganda niet toe op commerciële partijen omdat niemand ooit hoeft te twijfelen aan hun doelen. Politieke actoren zijn compleet iets anders. Die embargo's kan je dus niet 1 op 1 vergelijken.

[Reactie gewijzigd door Cio op 23 juli 2024 08:11]

[Mushroomician]

/\
||
Dit is journalistiek.

[Reactie gewijzigd door Mushroomician op 23 juli 2024 08:11]

[idovitz]

Een heel interessante radio uitzending over Predictive Policing, de voordelen maar ook de risico's.
https://www.nporadio1.nl/...ven-vangen-met-algoritmes

[Simon Weel]

Vind dit wel een leuke: "De AIVD en MIVD zijn doordrongen van de noodzaak van interne controle op de naleving van de wet". Wat die diensten doen is toch geheim? Dus als ze zelf tot de conclusie komen dat ze niet handelen volgens de wet, wat dan?

[veltnet]

Dan zullen ze de minister voorstellen om de wet aan te passen

[erik85]

Word 't te moeilijk, verlagen we toch even die privacy zonder dat men het weet.

Sleepwet #3 in werking dus inmiddels.

[Mushroomician]

Supernova.