AIVD en RDI noemen defensief gebruik generatieve AI 'onvermijdelijk'

De Algemene Inlichtingen- en Veiligheidsdienst en de Rijksinspectie Digitale Infrastructuur verwachten dat de inzet van generatieve AI op defensief gebied onvermijdelijk zal worden. De overheidsdiensten stellen dat er een 'nieuwe cybersecuritybenadering' nodig is vanwege AI.

De diensten publiceerden de bevindingen van een analyse van het effect van generatieve AI op cyberaanvallen- en verdedigingen, en concluderen dat generatieve AI moet worden toegepast voor cyberbeveiliging. De AIVD en RDI noemen in het rapport als voorbeelden netwerkverkeer met AI monitoren, dreigingen opsporen en cyberanalyses maken. Organisaties zouden met deze tools daarnaast in staat zijn om 'grote hoeveelheden en verschillende soorten data te analyseren, voorspellingen te maken en mogelijk automatische responsacties uit te voeren'.

De overheidsdiensten noemen ook verschillende manieren waarop criminelen generatieve AI voor cyberaanvallen zouden kunnen gebruiken. Zo waarschuwen de organisaties voor criminelen die generatieve AI gebruiken om complexere aanvallen uit te voeren, aanvallen buitengewoon te personaliseren en minder voorspelbaar te maken, en aanvallen met AI op te schalen. De diensten beloven later met uitgebreidere factsheets te komen waarin dieper ingegaan wordt op de 'nieuwe uitdagingen en risico's van generatieve AI'.

Reacties (32)

[GarBaGe]

Ik vind het rapport echt super onduidelijk WAAROM genAI onvermijdelijk is bij de verdediging tegen cybersecurity aanvallen.
Naar mijn idee is genAI veel te langzaam om te queryen tijdens een aanval of om het verkeer hierdoor te laten filteren.
Dan kan je beter ML gebruiken,
Het enige wat ik in het rapport kan vinden is de letterlijke tekst: "De AIVD en de RDI voorzien dat de inzet van generatieve AI op
defensief gebied onvermijdelijk zal worden, vanwege de snelle
ontwikkelingen van generatieve AI op offensief gebied. Generatieve AI
biedt hier zeer veel kansen, omdat het organisaties in staat stelt om
grote hoeveelheden en verschillende soorten data te analyseren,
voorspellingen te maken en mogelijk automatische responsacties uit
te voeren."

Voor automatische responseacties is genAI veel te langzaam.
Dat betekent dat het analyseren offline moet gebeuren, maar dan ben je veel meer een ML aan het trainen en niet een genAI.

[Vaevictis_]

Dat denk ik ook, maar ik zie het meer in het kader van een continu of voortdurende dreiging. Niet voor realtime dat moet je gewoon op een lager niveau afhandelen.

[flurb]

Vaak zie je inzet bij het analyseren van SOC tickets/events en AI iets van een flow zoals hieronder:

- 1ste scan op basis van rules
- 2e scan via ML/DL
- 3e analyse in persoon...

Werkt best goed om alleen de key events door een specialist te laten onderzoeken..

[Skywalker27]

IDD Tier 1 vinden analisten echt geest dodend.

[haagsepracht]

Is er al SIEM tooling op de markt die op basis van AI tot nieuwe inzichten komt in analyse van ligging? Dus dat de AI bepaalde (ab)use cases maakt en daar op alarmeert buitenom de al bestaande zaken waarop het triggert?

[The Realone]

Al lang, dat is gewoon machine learning. Het ontdekken van trends en anomalies is niks nieuws.

[haagsepracht]

Welke software raad je aan? Liefst FOSS.

[Anonymoussaurus]

• Graylog: https://graylog.org/feature/anomaly-detection/
• Wazuh: https://documentation.waz...for-alert-enrichment.html
• Grafana: https://grafana.com/blog/...he-open-source-community/

[haagsepracht]

Dankjewel voor het delen.

[satya]

Fortigate kan ook op de lijst, wazuh is misschien wel de beste om mee te beginnen want gratis.

Graylog kost een bedrijf handen vol geld, die licenties zijn peperduur.

[ShadLink]

Hoe moet ik die generatieve AI zien? Fake foto’s van politieke personen? Van gebeurtenissen? Het item is hier behoorlijk vaag in.

[jvdberg]

Ik heb het originele rapport er even bijgepakt, maar ook die blijft er behoorlijk vaag in. Het enige concrete wat ik er lees is dat generatieve AI ook code kan schrijven, maar hoe ze het werkelijk willen gaan gebruiken weten ze volgens mij zelf ook nog niet...

[analog_]

je voedt ai data om patronen te herkennen?

[jvdberg]

Dat is geen generatieve AI

[locke960]

En aangezien de aanval de beste verdediging is, is offensief gebruik ook onvermijdelijk.

Dat is geen kritiek. Het is een vaststelling. Zo gaat het altijd.

[Reactie gewijzigd door locke960 op 17 oktober 2024 15:44]

[Anonymoussaurus]

Inderdaad, en dit gebeurt al een lange tijd. Zo gebruikt Graylog AI voor anomaly detection: https://graylog.org/feature/anomaly-detection/ en met Wazuh kan je ook AI gebruiken: https://documentation.waz...for-alert-enrichment.html. Er zijn tal van voorbeelden (zowel voor blue als red teaming) waar je al AI kan gebruiken (al dan niet lokaal).

Op den duur (kan nu al, maar moet sowieso nog nagecheckt worden door een team) worden pentest-rapporten gegenereerd door middel van een lokale LLM. Dan dien je alle bevindingen in als PDF en dan laat je een specifiek model hier een samenvatting of andere (extra) context over genereren. Of voor het beschrijven van bepaalde kwetsbaarheden bijvoorbeeld.

[Reactie gewijzigd door Anonymoussaurus op 17 oktober 2024 15:45]

[UraniumBullet]

Dit gaat interessant worden

[SRI]

Ja het hele idee dat AI niet moet voor alles en dat mensen achter de trekker moeten zitten,.. maar ja leuk als je een ideaal hebt en nastreeft. Maar als vervolgens een vijandige staat die idealen niet deelt,… als zij dan vervolgens een straaljager hebben die veel hogere g krachten aan kan omdat er geen mens in zit. Of een tank die automatisch rijdt en ‘perfect’ schiet en ga zo maar door. En als je er dan eentje verliest hoef je ook geen nieuwe piloot/team te trainen.

Oorlogvoering gaat gewoon extreem veranderen. Of het nou op het slagveld is of via de bitjes op het internet. Op een bepaalt punt zullen mensen bij bepaalde taken altijd onderdoen tegen een AI. Dus ja als je achterblijft dan verlies je op den duur. En leuk dan dat je je idealen had, maar als je er niet meer bent dan zijn ook je idealen weg.

[Tintel]

Vast waar. Maar de AI die nu zo in opmars is betreft LLM..... dat is duidelijk niet hetzelfde als een autonoom functioneerde machine die 'slimme' beslissingen neemt.

[Noxious]

Dat is de meest zichtbare naar de consument, maar ook op het slagveld speelt AI een steeds grotere rol - vooral offensief:
https://www.rferl.org/amp...ukraine-war/33078798.html

https://www.forcesnews.co...oops-movement-and-uniform

https://www.kyivpost.com/post/40500

[TechSupreme]

Dat klopt, alleen de vraag is nu hoever wil en mag je daarin gaan?

Ga je het offensief of defensief gebruiken? Ga je de geleiding van raketten verbeteren waarbij het afvuren nog steeds door een mens gebeurt of ga je Terminator stijl autonome aanvalsmachines maken?

[xorpd]

Ik denk dat ik voor het gros van de programmeurs spreek als ik zeg doe die Terminators maar

[analog_]

israel laat een ai/computer targets bepalen en mensen klikken dan ja/nee en een paar uur later is er een gebouw niet meer.

[TechSupreme]

Rusland en Turkije hebben een alles overkoepelend defensienetwerk waarbij de detectie door AI gebeurt en de uitvoering door mensen. Is niks nieuws.

De vraag is wat is humaan en hoever wil je erin gaan?

[dimdek]

En het is natuurlijk belangrijk dat dat op de data van de volledige bevolking gaat worden toegepast. Dan regelen we daarna in wat potentieel gevaar is en voor je het weet is de 21ste eeuwse versie van 1984 gecreëerd.

[PCG2020]

Gewoon een combinatie van Big Brother, SkyNet en nog wat andere dystopische massasurveillance-sciencefiction met autonome moordbevoegdheid.

Te snel gereden in je Tesla? Auto wordt overgenomen door de AI-VD ( ) en zonder pardon in het IJsselmeer geparkeerd.

[m_snel]

Dat is al snel een milieu delict en daar kom je niet niet zo makkelijk mee weg.
Nee als je brommer gestolen wordt krijg je geen bericht dat die gevonden is. Dan maken ze daar een officieel rapport voor , dat die ontmanteld is achter gelaten in de bosjes.

[Mitchelllll]

RIP internet als informatiebron, RIP wappies, RIP influencers, even denken wat nog meer… RIP tabloids. RIP bulshit tv. Als AI het internet straks volpompt met troep dan hoeven mensen dat zelf niet meer te maken. Betekent trouwens niet dat het niet meer bekeken wordt door mensen bedenk ik me nu. Ah well…

[m_snel]

Zonder RIP weinig internet moeten we iets anders verzinnen.