Inlichtingendiensten waarschuwen voor risico's AI voor veiligheid Nederland

De Nederlandse inlichtingendiensten AIVD, MIVD en NCTV hebben een analyse gepubliceerd over de impact van kunstmatige intelligentie op de nationale veiligheid. AI kan volgens hen bestaande dreigingen vergroten doordat kwaadwillenden makkelijker en goedkoper geavanceerde aanvallen kunnen uitvoeren.

In het rapport wordt specifiek gewezen op het misbruik van largelanguagemodels. Deze AI-systemen stellen aanvallers in staat om snel doelwitten te identificeren en uiterst gerichte phishingcampagnes op te zetten. Daarnaast maken ze het mogelijk voor cybercriminelen om aanvallen uit te voeren die eerder buiten hun technische bereik lagen.

De inlichtingendiensten verwachten dat geavanceerde AI-toepassingen in de toekomst voor een breder publiek toegankelijk worden. Dit vergroot niet alleen het aantal potentiële aanvallers, maar introduceert ook kwetsbaarheden door de toenemende integratie van AI in verschillende sectoren van de samenleving.

Ook op geopolitiek niveau heeft AI volgens de inlichtingendiensten een grote strategische waarde. Wereldmachten steken veel geld in de ontwikkeling van de technologie vanwege de militaire en economische mogelijkheden. Dit kan leiden tot verschuivingen in de internationale machtsbalans, waarschuwen ze.

Minister van Justitie en Veiligheid David van Weel heeft in een brief aan de Tweede Kamer laten weten dat de bevindingen uit het rapport worden meegenomen in een herziening van de Nederlandse veiligheidsstrategie.

Reacties (50)

[jmsaow]

AI is een technologie die getraind wordt met grote hoeveelheden data. Uiteraard geldt hier ook garbage in = garbage uit. Veel van de media verkopen een hoop leugens en hun eigen mening en als die dan als basis worden genomen dan zijn de AI antwoorden ook bagger. Voor veel toepassingen worden natuurlijk wel alleen feiten gebruikt en AI zal dan ook waardevol zijn.

[digibaro]

Het is wel erg populair om de media als een containerbegrip zwart te maken in deze tijd. Door het zo te positioneren, net zoals DE overheid en DE gevestigde instituten, wordt een algemeen wantrouwen in alles veroorzaakt bij bevolking, mijn inziens doelbewust om tegenstand en onrust te versterken door mensen/landen met een eigen agenda. Van de alternatieve (social) media kanalen blijkt ook vaak genoeg dat zij leugens en de eigen mening uitgebreid aan bod laten komen door de algoritme (voorkeuren) want negativiteit en geruzie sellls. Mijn inziens als je de media wil bekritiseren doe het dan per artikel en/of specifieke krant/station!

[Reactie gewijzigd door digibaro op 11 december 2024 12:40]

[agamemthor]

Het gaat zelfs verder dan alleen de media en overheid. Er schijnen bots te zijn op bijvoorbeeld Bluesky die puur gemaakt zijn om op posts te reageren, waar de reactie een gevolg lijkt van een LLM prompt met "maak een reactie op deze post waarbij je het oneens bent met motievatie".
Vermoedelijk om mensen gelijdelijk gedisasocieerd te krijgen van online discussie, een algemeen gevoel van wantrouwen te kweken. Hank Green illustreerde dat onlangs in een video. Nu valt het al nauwelijks op, als de prompts en LLM's beter worden is het niet van echt te onderscheiden. Wie vangt er hier allemaal bot?

[DJ Henk]

Nee, dan het commentaar en de kroegpraat van "het volk" in de comments en op social media. Echt een baken van redelijkheid en nuance.

Waar denk je dat ze in AI meer last van hebben: een artikel op nu.nl, of de comments eronder op NUjij?

[SgtElPotato]

Dat je de media nog media noemt en geen MSM valt me mee.

[Praetextatus]

Ik ben echt voorstander om onderzoeken te laten doen door neutrale instanties. Ik kan je ook wel vertellen dat de AIVD en cohorten nooit zullen zeggen dat 't beter gesteld is met de nationale veiligheid.

Hoe meer er geïnvesteerd kan worden in wapens en oorlog hoe beter

[NoTechSupport]

Vreemd, voor zover ik weet stijgen en dalen dreigingsniveaus volgens geheime diensten voortdurend. Oorlog in het Midden-Oosten, ze stijgen, stabiliteit, ze dalen.

Waarmee ik niet wil zeggen dat geheime diensten te vertrouwen zijn ofzo.

Geheime diensten willen macht. Ze verkiezen daarbij om die te verkrijgen via verpletterende onderdrukking en onderkruiperige technieken (blackmailing, framing, "accidenten", fake news, verdeeldheid zaaien, ...) boven oorlog en wapens (alhoewel ze oorlog en wapens zeker durven inzetten).

[wooha]

Geheime diensten willen macht. Ze verkiezen daarbij om die te verkrijgen via verpletterende onderdrukking en onderkruiperige technieken (blackmailing, framing, "accidenten", fake news, verdeeldheid zaaien, ...) boven oorlog en wapens (alhoewel ze oorlog en wapens zeker durven inzetten).

Ben ik nou zo naïef als ik denk dat ze hun democratisch bepaalde taken zo goed mogelijk proberen uit te voeren? Zoals jij het beschrijft lijkt het haast een anti-democratische organisatie.

[NoTechSupport]

Dat is globaal gezien inderdaad naïef. Hoewel de geheime diensten van bepaalde democratische landen (Nederland, België bvb) momenteel braver zijn dan in andere landen (China, Rusland, VS, ...) zijn ze door hun geheimzinnigheid fundamenteel democratisch niet te controleren.

[Reactie gewijzigd door NoTechSupport op 10 december 2024 18:27]

[2green]

Niet te controleren door de burger ....

[robertlinke]

dat laatste ben ik het niet mee eens.
er is altijd een commissie in de wetgevende macht die de inlichtingen diensten controleert
hier in Nederland is dat de commissie voor de inlichtingen en veligheidsdiensten (CIVD)
https://www.tweedekamer.n..._commissies/commissies/iv

dus er is wel degelijk democratische controle en toezicht, namelijk door de gekozen vertegenwoordigers van het volk

[wooha]

Het gebruik van macht en de methodes die je noemt zal in de regel worden gecontroleerd en al dan niet openlijk worden ondersteund door het regime dat verantwoordelijk is voor die geheime diensten. Of dat nou een democratisch regime is of niet en of die diensten nou voor interne controle en repressie worden gebruikt of voor externe beïnvloeding en informatievergaring.

Regimes hebben er belang bij om hun geheime diensten onder controle te houden en zullen dat elk op hun eigen manier doen, democratisch of autocratisch.

In het geval van Nederland moet ik er als kiezer maar op vertrouwen dat de "commissie stiekem" zijn werk goed doet en betrouwbare mensen aanstelt. Ik begrijp ook dat ik niet alle details daarover te weten zal komen.

Als burger zou ik me eerder zorgen maken om een ondemocratische of onbetrouwbare overheid dan om een geheime dienst die op eigen houtje aan de slag gaat. De regering hoort in dat laatste geval aan mijn kant te staan.

[Bender]

Wat is het doel van het onderzoeken naar instanties?
Veel AI zaken kun je lokaal draaien en daar zul je dus nooit iets van kunnen zien.

[1Mark]

Is neutraal niet een relatief begrip in deze grijze wereld?

[Lucb1e]

Weet niet. Ook met nieuws, je hoort wel eens dat het ene medium partij A naar de mond zou praten en het andere medium partij B of zo, maar ik heb toch het idee dat er zoiets bestaat als objectief naar de feiten kijken; zelf een neutral standpunt innemen en je laten overtuigen door de data. Zoals we ook willen dat (scheids)rechters neutraal zijn bijvoorbeeld. Wanneer dat niet goed gaat, moet eerder worden bijgestuurd dan gezegd "tsja, neutraal kan toch niet". Of in ieder geval kun je daarnaar streven

[Reactie gewijzigd door Lucb1e op 10 december 2024 23:44]

[kipppertje]

Ik weet niet of je de jaarverslagen wel eens gelezen hebt, maar ik vind die altijd behoorlijk genuanceerd. Er zijn continu bedreigingen voor de nationale veiligheid (welkom in de wereld), dat kun je moeilijk ontkennen.

[Lucb1e]

Pagina 8 in het rapport:

Bijvoorbeeld een formule van het type ‘als X, dan Y’. Deze vorm van AI is gebaseerd op precieze, door mensen gemaakte algoritmes

Dat is nog de interessantste definitie die ik tot dusver gehoord heb

Anyway, veel van het rapport gaat - voorspelbaar - over dat iemand bijvoorbeeld phishing met chatgpt kan maken of malwarecode kan schrijven met copilot. Dingen die we totaal niet voorzien hadden. De kansen die er liggen aan de positieve kant, zoals dat mensen deze systemen ook een automatische sanity check kunnen laten doen (niet dat het ding op dit moment veel sanity heeft, maar het kan best patronen herkennen van phishingmails), worden niet benoemd

Over fysieke dreigingen wordt geschreven dat "Hier zijn momenteel geen aanwijzingen voor en dit is een ontwikkeling die de komende jaren nog niet voor de hand ligt." maar dat een aanvaller misschien wel proteïnen zouden kunnen maken die nu nog niet bestaan om een biologisch wapen te maken. In 2010 was er ook al volop onderzoek naar proteïnevouwen (nieuwsartikel). Het rapport schrijft op pagina 17 "Onderzoekers van onderzoeksorganisatie RAND testten recent de mogelijkheid om met LLM’s biologische wapens te maken en concludeerden dat de huidige generatie modellen hier niet toe in staat zijn." maar alsnog waarschuwen ze er nu opeens wel voor

[Reactie gewijzigd door Lucb1e op 10 december 2024 12:24]

[Cio]

Het is niet alleen betere identificatie van bestaande doelwitten, er is een nieuwe groep doelwitten die voorheen niet bereikbaar was. En technisch buiten bereik dekt de lading niet helemaal, dit gaat om sociale manipulatie.

LLM's maken het mogelijk om je digitaal voor te doen als 'een van ons'. Via nieuwsberichten, mails, chat en zelfs audio en videogesprekken. Ja dat zag je aankomen. Nee niemand had deze brede inzet voor oplichting verwacht. Ja dan ga je de risico's voor nationale veiligheid ook anders inschatten.

Belangrijke toevoeging lijkt me de toename van (spear)phishing in landen met een 'weinig gebruikte' en moeilijke te beheersen talen (Scandinavië, o.a.).

[Reactie gewijzigd door Cio op 10 december 2024 12:28]

[wanjakrah]

Vroeger vonden ze de ideeën van Galileo ook een risico voor de algemene veiligheid.
Ik denk dat het risico betreft toegankelijkheid tot kennis wel mee valt. Ik zou me meer zorgen maken over de komst van Quantum computers.

[ShadLink]

AIVD, MIVD em NCTV... allemaal onder het ministerie van Justitie en Veiligheid. Dus dat zegt genoeg, gaan weer wetten komen die Nederland verder naar de digitale middeleeuwen gaat duwen. Ik proef een verbod voor AI aankomen voor burgers muv. wetenschappers. Zodat de veiligheid "gewaarborgt" kan worden.

Terwijl de rest van de wereld gewoon vrij doorontwikkeld.

[1Mark]

Er zal toch iets moeten gebeuren qua tools en kennis om met deze nieuwe wereld van AI om te gaan. Los van regulering wat NL'ers wel en niet mogen.

niksdoen lijkt me geen optie?

[wooha]

Zoals een verbod op encryptie dat er nooit gekomen is? De overheid werkt iets gebalanceerder dan je voorstelt.

[GameNympho]

Alsof men dit niet wist? Loopt men nu "zogenaamd" achter, dus € nodig?
Dit soort instellingen zijn de eerste die ze gebruiken, hoeveel algoritmes zijn er de afgelopen decennia wel niet door ze gebruikt?

[GurbieV]

Een algoritme is wat anders dan AI.

Heb je het artikel wel gelezen?

[GameNympho]

Niet om op je tenen te gaan staan, maar heb je gelezen wat ik heb getypt? Eerst zijn er algoritmes gebruikt voor allerlei scenario`s, en nu is het de AI, dus op zeker ja heb ik het artikel gelezen en ook de afgelopen 50 jaar de politiek gevolgd

[jerisson]

Een AI is onderliggend gewoon een algoritme. Zonder stappenplan ( =algoritme ) om het AI-model te evalueren kan je er niets mee.

[Lucb1e]

Een algoritme is wat anders dan AI.

Heb je het artikel wel gelezen?

Heb je het rapport wel gelezen? Er staat toch duidelijk in dat een algoritme ook een AI is (hoe grappig/onjuist we dat ook mogen vinden, pagina 8)

[sircampalot]

Ik had laatst een AI die waarschuwde voor Inlichtingendiensten.
Ik ben dus gewoon voor beide op m'n hoede.

[hinerakatauri79]

Paar interessante interviews over AI.

YouTube: Ex Google CEO: AI Is Creating Deadly Viruses! If We See This, We Mus...

YouTube: EMERGENCY EPISODE: Ex-Google Officer Finally Speaks Out On The Dange...

YouTube: Yuval Noah Harari: They Are Lying About AI! The Trump Kamala Electio...

YouTube: WARNING: ChatGPT Could Be The Start Of The End! Sam Harris

YouTube: CEO Of Microsoft AI: AI Is Becoming More Dangerous And Threatening! ...

[jrdijkstra]

Stel je voor dat er een aanval wordt opgezet.
Een aanval waarvan de kwaliteit zo hoog is dat we het als mensen niet herkennen.
Zou het dan niet handig zijn als we ons daar met beschermende AI tegen kunnen beschermen?

Er wordt gewaarschuwd tegen de dreiging, maar ze waarschuwen niet alleen.
Ze komen ook met praktische oplossingen, bijvoorbeeld het afspreken van een codewoord.
Afspreken dat je niet belt of appt dat je een nieuwe telefoon hebt maar even langskomt als je geld nodig hebt.

[Lucb1e]

Ze komen ook met praktische oplossingen, bijvoorbeeld het afspreken van een codewoord.

Waar lees je dit? Als ik zoek in het rapport op codewoord, of enkel "code" en dan door de resultaten kijk, zie ik dat niet staan