Nederlandsche Bank komt met richtlijnen voor gebruik kunstmatige intelligentie

De Nederlandsche Bank heeft richtlijnen opgesteld voor het gebruik van kunstmatige intelligentie in de financiële sector. DNB wil daarmee andere instellingen aan het denken zetten over de mogelijkheden en risico's die ai met zich meebrengt.

De richtlijnen beschrijven onder andere aan welke eisen kunstmatige intelligentie zou moeten voldoen als banken of andere financiële instellingen het inzetten. Het gaat daarbij met name om soliditeit, verantwoordelijkheid, rechtvaardigheid, ethiek, deskundigheid, en openheid. Het is volgens DNB belangrijk dat dergelijke aspecten al tijdens de ontwerpfase worden meegenomen, en ook regelmatig worden gecontroleerd.

DNB zegt zelf dat soliditeit het belangrijkste aspect is. Kunstmatige intelligentie zou volgens DNB betrouwbaar en accuraat moeten zijn, voorspelbaar moeten handelen en binnen regelgeving zoals de AVG moeten vallen. Ook aansprakelijkheid is belangrijk, zegt de instelling. "Financiële instellingen zouden ontegenzeggelijk moeten laten zien dat zij hun verantwoordelijkheid rondom ai begrijpen", staat in het rapport. De Bank wijst daarbij op de verantwoordelijkheid van bijvoorbeeld de Raad van Bestuur en de noodzaak om toezichthouders voor artificiële intelligentie in te stellen.

De Bank wil de regels deels opstellen om het vertrouwen van de samenleving in financiële instellingen op peil te houden. Daarom zou ai bijvoorbeeld ook 'eerlijk' moeten zijn, bijvoorbeeld door mensen alsnog handmatig naar de resultaten te laten kijken. Ook ethiek is een belangrijk onderdeel van de richtlijnen. Die zou van tevoren moeten worden vastgelegd, zegt DNB.

Volgens de instantie maken financiële instellingen steeds vaker gebruik van kunstmatige intelligentie, zowel voor het verbeteren van interne bedrijfsprocessen als voor het aanbieden van producten aan klanten. Dat heeft veel voordelen, maar de instantie waarschuwt ook voor de risico's: "Incidenten met ai kunnen een financiële onderneming en haar klanten schaden, en dat heeft mogelijk ernstige gevolgen voor de reputatie van het financiële stelsel als geheel."

Het gaat volgens DNB om richtlijnen, niet om regels die de instantie aan banken en bedrijven oplegt. DNB wil de komende tijd in discussie gaan met de financiële sector om de richtlijnen te bespreken. In de loop van 2020 komt de instelling met een verslag daarover.

Reacties (45)

[tweaker2010]

De Nederlandse Bank heeft hun IT beheer toch uitbesteedt aan Centric? In hoeverre voldoen dit soort externe leveranciers momenteel aan deze (nieuwe) richtlijnen?

[HKLM_]

De top van Centric doet toch zaken met rianne van rijbroek? Centric is alleen daarom al geen partij meer waar je mee samen wilt werken wat mij betreft.

https://www.agconnect.nl/...etten-securitytak-centric

‘’Centric moet van Sanderink een divisie voor ICT-security krijgen, waarvoor input gaat komen van Van Rijbroek. Zij heeft in haar eerste boek 'smart blockchain' geponeerd als de oplossing tegen cybercrime.’’

[Reactie gewijzigd door HKLM_ op 23 juli 2024 10:42]

[MSalters]

De top van Centric is vertrokken, precies omdat ze geen zaken willen doen met Van Rijbroek. En dat is op zich een valide reden voor de DNB om een contract op te zeggen. Er is genoeg jurisprudentie dat het verlies van key players zoiets rechtvaardigt.

[0vestel0]

Wat een soap. En wat een schade richt Sanderink op dit moment aan bij Centric en strukton

[0vestel0]

Hij heeft het opgericht, is eigenaar en mag het dan ook ten gronde richten als hij daar zin in heeft.

Nope. Hij heeft heel veel personeel in dienst. Hij heeft maatschappelijke verantwoordelijkheid. Dus zeg dat nog maar eens tegen iedereen die bij Strukton en Centric in dienst is.
En door zijn acties heeft Strukton geen accountants verklaring en kan daardoor bij geen enkele bank nog krediet krijgen.
Daarnaast heeft hij de gehele top van Centric weggejaagd. Dat laat ook diepe wonden achter in een organisatie. Iedereen is vervangbaar, maar kennis en ervaring zeker niet op korte termijn. Het probleem is helaas dat dit niet alleen zijn prive leven schaadt, maar ook direct zijn bedrijven. Zelfs zijn trust stichting welke de bedrijven na zijn overlijden zou moeten runnen staat op dit moment op omvallen vanwege organisatiorische spanningen.

[Iblies]

Hij heeft het opgericht, is eigenaar en mag het dan ook ten gronde richten als hij daar zin in heeft. Overigens denk ik dat de schade aan de bedrijven wel meevalt, die blijven gewoon hun klanten bedienen. De managers zijn vervangbaar als dat nodig blijkt. De schade raakt vooral Sanderink zelf, zijn imago is besmeurd en zijn prive leven staat in de krant.

Nou nee. Mevr. Rianne van Rijbroek heeft een flinterdun cv met eerder een negatief impact dan iets positief.

Met dat in het achterhoofd spelen er andere factoren een rol, en het eerste waar ik aan denk is nepotisme,
https://nl.wikipedia.org/wiki/Nepotisme

Nepotisme (< Latijn 'nepos', kleinzoon; nakomeling; neef) is het begunstigen, door autoriteiten of (grote) bedrijven, van familieleden of vrienden, door ze in hoge functies te benoemen of door ze opdrachten te gunnen. Nepotisme kan ook de vorm van patronage aannemen. Nepotisme of vriendjespolitiek is een vorm van corruptie.

Al komt het overal voor, maar om iemand van buiten de organisatie te halen met een dergelijk verleden,
dan moet je als afnemer terdege afvragen of Centric wel een organisatie is om zaken mee te doen. Dat er duizenden mensen werken bij de club doet daar niets van af. Ze komt te hoog in de organisatie waarbij ze dus automatisch meer te zien krijgt dan je eigenlijk wilt hebben.

[mashell]

Nepotisme is van alle tijden. De manier om er mee om te gaan is dus ook al lang bekend. Je accepteert de naar voren geschovenen maar geeft ze slechts schijnmacht. Een divisie cybersecurity onder mevrouw van Rijbeek zou zeer waarschijnlijk falen (vanwege ontbrekende competenties), maar deze los van Centric hangen zou voor Centric niet veel schade berokkenen, paar miljoen weg maar dat is voor het grotere goed. Nu men zo vurig tegen de eigenaar strijdt kan er wel schade ontstaan, vooral voor de strijders omdat Sanderink, zolang deze nog als helder van geest is, gewoon aan de touwtjes trekt. De strategie van de Centric top is een onverstandige gebleken, Sanderink is als eigenaar niet tegen te houden, sowieso niet al te flexibel als persoon dus het enige wat zinvol is dat is proberen zoveel mogelijk bijsturen.

[0vestel0]

Dat dus. En op die manier zit zij niet alleen in Centric maar is nu ook hoofd van de Trust stichting waar Sanderink al zijn bedrijven en vermogen in heeft ondergebracht. Dus bij het overlijden van Sanderink is zij de groote baas van alles.

[ChAiNsAwII]

Hij mag brommen als ie andermans levens goedwillens ten gronde richt, hier hebben we een cultuur van totaal geen enkele verantwoording te hoeven leggen als men voor miljarden schade aanricht, deze mensen worden zelfs bejubeld en kunnen ongestraft verder men hun carriere ( dirk scheringa comes to mind ), in amerika worden ze ten minste veroordeeld en opgesloten.
Hier gebruiken we de belastinggelden van de burgers om de mislukte "schemes" te redden en niemand wordt ter verantwoording geroepen.

[wvoet]

DNB ziet dat helaas anders:
nieuws: DNB handhaaft contract met Centric ondanks link met omstreden 'securi... (artikel stond er letterlijk onder ;-))

[Splorky]

Daarom is aansprakelijkheid zo belangrijk.

Het lijkt me sterk dat de banken 100% verantwoordelijkheid willen dragen voor systemen gemaakt door zakelijke partners als dit tot grote problemen leidt.

Met IA zal het alleen maar lastiger worden te motiveren waarom er specifieke keuzes gemaakt worden door IA op basis van de inputs, en dan is het fijn om niet zelf de verantwoordelijkheid te hoeven hebben (in hoeverre dat ethisch is zal ook vast juridisch ingedekt worden)

[gekkie]

Maar met alleen aansprakelijkheid van rechtspersonen red je het niet, je zult dat ook weer meer moeten toepassen op natuurlijke personen (en geen uitzondering voor de top, zeker niet gezien hun salarissen).

[MSalters]

Natuurlijk kan Europa voorop lopen in het instellen van draconische straffen. Maar wat is het resultaat daarvan? Er zijn nog 192 andere landen in de wereld, en de meeste daarvan zullen wél belangstelling hebben om FinTech bedrijven binnen te halen. Het enige wat je met zulke doorgeschoten maatregelen bereikt is dat die banken niet meer onder DNB toezicht vallen.

Een goede bankier is per definitie goed in het inschatten van risico's, en zal dus inschatten dat zaken doen in Nederland onzinnig is indien hijzelf de bak in kan draaien voor ongelukjes van een ander.

[gekkie]

Het hoeft niet gelijk draconisch wat mij betreft, maar iets meer dan nul, zou toch wel moeten kunnen.
Zeker als ze werkelijk zo goed zijn als ze zich zelf voordoen. Tot nu toe is die "loodzware verantwoordelijkheid" die ze dragen vooral van belang als het goed gaat (salaris) en niet al ze al risiconemend op basis van andermans centen de boel hebben weten te verstieren

P.S. Misschien eens in ijsland vragen hoe geweldig dat is, meer financiele instellingen binnen halen met een hoog risico profiel dan je als land nodig hebt dan wel aan kan.

[digifun]

Met draconische straffen krijg je geen herhaling van zaken als woeker polissen/hypotheken. Daar zijn toendertijd en nu nog honderd duizenden mensen financieel mee gedupeerd.

De maatschappij moet beschermd worden tegen dit soort uitwassen. Risico's werden heel goed ingeschat en kwamen allemaal op het bord van de klant te liggen.

[bilbob]

juist geen uitzondering voor de top. Die zitten daar niet voor niets en zijn geheel verantwoordelijk.

Ik ben voor celstraffen voor dit soort overtredingen, geen boetes. Boetes stellen niets voor als je geld als water hebt.

[klakkie.57th]

Dat zijn de vragen die niemand wil stellen, omdat het antwoord te “moeilijk” is of de uitwerking van de oplossing te “complex”.

En als er wat verkeerd loopt, is de “reputatie”schade waarschijnlijk minimaal en heft het management zijn schouders op.

De weg van AI, zit vol gevaren en ik vraag me erg vaak af of het wel wenselijk is.
bv bij het automatisch scannen van cv’s, een machine bepaalt daadwerkelijk of het HR departement nog wel je vc te zien krijgt. 5 jaar geleden , kon dit niet en werden er ook mensen geselecteerd en aangeworven . Wat is nu het voordeel ?? Juist, het bedrijf zal minder geld uitgeven, maar of ze daadwerkelijk betere kandidaten krijgt durf ik te betwijfelen.

[Reactie gewijzigd door klakkie.57th op 23 juli 2024 10:42]

[Ivos]

Helaas is dat al lang en breed zo. Al meer dan 5 jaar zien sommige bedrijven dat CV niet meermin de eerste selectie, zoek maar eens op ATS (applicant Tracking Systems). Die scannen al tijden volledig automatisch je CV als voorselectie.

Aan de andere kant zie je met de huidge krapte qua aanbod van medewerkers dat er meer aandacht komt voor betere vacatureweergave en het proces eromheen (zie bijvoorbeeld Spielwork die vrij innovatief bezig zijn met eerlijk weergeven wat een vacature inhoudt). Ik denk niet dat techniek AI het probleem zal zijn, maar veel meer het proces en de externe omgeving eromheen (welke prestatiedruk bestaat er, hoeveel ruimte voor kwaliteitsbeheerding wordt er gegegeven)

[Helixes]

Het beheer van de IT-diensten uitbesteden wil niet zeggen dat je afstand doet van de kwaliteit, eisen en oversight van je IT. Ik heb natuurlijk geen idee van het contract tussen DNB en Centric (maar goed ook) - maar eigenlijk zorgt de opdrachtgever altijd voor een kader, en toetst de geleverde diensten daaraan.

En, ziehier, DNB heeft een kader - en (vrij ongebruikelijk) publiceert die. Daarmee zal het Centric dus vragen daaraan te voldoen, en zal er op toezien dat hieraan wordt voldaan.

[bbob]

Waar ik me eerder zorgen over ga maken is ai in beurshandel. Er zijn nu al automatsiche systemen aankoop verkoop. met ai gaat dit nog verder doorgevoerd worden. De vraag is straks ligt manipulatie niet op de loer om maximale winst te halen.

[Fraaank]

Een deel van de Crypto-markt wordt ook al gedreven door automatische systemen. Kwestie van tijd ben ik bang dat dit ook richting de "echte" beurs gaat komen.

[mashell]

ik bang dat dit ook richting de "echte" beurs gaat komen

Ik hoop juist dat dit naar de beurs gaat komen. Als er op een dag alleen nog maar computers tegen computers handelen gaan we ons wel realiseren dat die hele beurs een onzinnig concept geworden is met een buitensporige grote economische en maatschappelijke invloed. Als we dan zover zijn kan op een mooie vrijdag namiddag de koning in het beursgebouw gewoon de stekker uit de router trekken en we zijn van de beurs verlost.

[Croga]

Het grote verschil is dat de Crypto "markt" om 100% gebakken lucht gaat terwijl echte beurzen ook nog gaan over hoe goed of slecht bedrijven het doen. Het ML algoritme (want dit heeft echt he-le-maal niets met AI te maken!) voor een crypto "markt" is oneindig veel eenvoudiger dan wanneer er real-world toepassingen bij komen kijken.

[Fraaank]

Beurzen gaan grotendeels op speculatie, soms om daadwerkelijke cijfers.

[Croga]

En waar denk je dat die speculatie op gebaseerd is?....

[Fraaank]

Waar denk je dat de Crypto-markt op gebaseerd is? Ook of iets in waarde gaat toenemen of stijgen toch? Op basis van berichten over de Facebook-munt wordt de Bitcoin minder waard.

[Codin the Coder]

Gebakken lucht.

[aadje93]

dat is reeds al gebeurd, check de nasdaq dip van 2010 ook wel bekend als de "flash crash", later in 2015 was het weer raak...

[ferdinand]

Waar ik me eerder zorgen over ga maken is ai in beurshandel. Er zijn nu al automatsiche systemen aankoop verkoop. met ai gaat dit nog verder doorgevoerd worden. De vraag is straks ligt manipulatie niet op de loer om maximale winst te halen.

AI wordt al een flinke tijd gebruikt. Het is jammer dat het gebruiken van algoritmes nu AI wordt genoemd waardoor mensen in de war raken.
AI = algoritmes
AGI = wat we vroeger AI noemden (een artificiële intelligentie die een mens kan nabootsen)

[MSalters]

Vroeger? Ik ben 20 jaar geleden afgestudeerd in AI, en ook toen noemden we AI AI.

En sowieso zijn AI's nooit "puur" algoritmes geweest; data is altijd cruciaal geweest.

[ferdinand]

Vroeger? Ik ben 20 jaar geleden afgestudeerd in AI, en ook toen noemden we AI AI.

En sowieso zijn AI's nooit "puur" algoritmes geweest; data is altijd cruciaal geweest.

Misschien begrijp ik het verkeerd. Mijn thermostaat weet op welke momenten ik welke temperaturen wil hebben. Daarnaast weet het hoe lang het zou duren om van de ene naar de andere temperatuur te komen. Op die manier kan het berekenen hoe laat het moet beginnen met verwarmen en met welke kracht zodat precies op het juiste moment de juiste temperatuur te bereiken.
Dus met behulp van data en simpele algoritmes doet de thermostaat handige dingen. Maar ik zou dit niet AI willen noemen. Met AI verwacht ik reacties van het systeem die niet voorgeprogrammeerd zijn. Dit soort systemen ben ik nog niet tegengekomen.

[MSalters]

Die thermostaat is een regelsysteem. Zelfs redelijk geavanceerde PID regelsystemen dateren van 1920. AI is een idee uit de jaren 50; de eerste dam-computer stamt uit 1952. Die kwam inderdaad al met zetten die niet voorgeprogrammeerd waren.

[Redstone]

zou dit ook zijn omdat algoritmes zo vaak racistisch worden?

[Rexus]

Zou je dit kunnen toelichten? Een zelfbalanceerende alghoritme is puur afhankelijk van zijn leer data, in een sterk gerugleerde omgeving, zoals die van financienen zou een compleet leerpakket mogelijk moeten zijn.

Zelf ben ik eigenlijk wel benieuwd of zelfrijdende auto's zoals Tesla's straks een aantal stereotypes kan bevestigen of ontkrachtigen. Stel je voor dat er bij bijvoorbeeld een bmw een strookwissel zonder richtingaanduiding sterker geanticipeerd wordt. Of bij bassischolen de software scherper gaat worden op welke auto's wel of geen tekenen van "leven" tonen.

[PhatFish]

Aangezien AI i.c.m. machine learning gewoon menselijk gedrag analyseert (in deze context) en vervolgens probeert te voorspellen, kan het vrij snel gaan. Natuurlijk kunnen programmeurs daartegen programmeren, maar als je pure statistiek wilt, doe je dat niet. Dan ben je op voorhand al een bias aan het inbouwen en ondermijn je precies datgene waar het allemaal voor is.

Mensen oordelen nu eenmaal over elkaar en een bepaald groepje vindt dat de hoeveelheid pigment in de huid ook de menselijke waarde bepaald. Enige wat AI/ML doet is dat zichtbaar maken. Eigenlijk een spiegel voor de mensheid.

[MSalters]

Waar komt dat fabeltje toch vandaan, dat AI probeert menselijk gedrag te voorspellen ? Ik lees het wel vaken, in reacties van leken, maar professioneel zie ik het nooit.

[PhatFish]

Misschien moet ik er 'voor advertentie-/salesdoeleinden' bij zetten? Natuurlijk is statistiek voor veel analyse inzetbaar, maar die context leek mij hier duidelijk. Teven is AI voor ontzettend veel zaken inzetbaar, wederom in deze context zou ikzelf AI prima vinden om analyse te automatiseren. En zoals ik al tussen haakjes had aangegeven: in deze context.

[Reactie gewijzigd door PhatFish op 23 juli 2024 10:42]

[T-men]

DNB zegt zelf dat soliditeit het belangrijkste aspect is. Kunstmatige intelligentie zou volgens DNB betrouwbaar en accuraat moeten zijn, voorspelbaar moeten handelen en binnen regelgeving zoals de AVG moeten vallen. Ook aansprakelijkheid is belangrijk, zegt de instelling. "Financiële instellingen zouden ontegenzeggelijk moeten laten zien dat zij hun verantwoordelijkheid rondom ai begrijpen", staat in het rapport.

Ligt het aan mij of zijn dit wel hele open deuren ?

Natúúrlijk moet een AI zich evengoed houden aan de AVG als elke willekeurige mens of computersysteem. Waarom zou een AI daar anders in moeten zijn ? En natuurlijk moet de bank aansprakelijk en verantwoordelijk blijven voor z'n AI. We zijn nog ver verwijderd van het punt dat de AI voor zijn eigen daden verantwoordelijk gesteld kan worden.

Al heb ik één afwijkend punt:
De karakteristieke eigenschap van intelligentie in het algemeen, en dus ook kunstmatige intelligentie is nou net dat het z'n eigen onvoorspelbare beslissingen neemt. Dat beperk je niet met voorspelbaarheid, maar met grenzen en regels.

[MSalters]

Natúúrlijk moet een AI zich evengoed houden aan de AVG als elke willekeurige mens of computersysteem. Waarom zou een AI daar anders in moeten zijn ?

Simpel: omdat een AI systeem momenteel de juridische status heeft van een hond (Allebei "goederen"), en een hond zich óók niet aan de AVG hoeft te houden.

De eigenaar is soms wel civiel aansprakelijk voor eventuele schade, maar voor vervolging moet je aantonen dat de eigenaar die schade had moeten kunnen zien aankomen. "Dat doet die anders nou nooit" is in een strafzaak een redelijk openingsargument.

[jvdburgt1980]

Bij een eerste rapport over een nieuw onderwerp ontkom je nu eenmaal niet aan een paar open deuren. In het rapport zelf worden ze overigens wel wat verder uitgewerkt.

[teun95]

Fijn dat er richtlijnen komen, maar het zou toch fijn zijn als er regels komen die de consument beschermen. In mijn directe omgeving is er al iemand het slachtoffer geworden, (hoogstwaarschijnlijk) door een techniek van een financiele dienst die tegenwoordig onder AI geschaard zou worden.

Revolut, een dienst die betaalrekeningen aanbiedt met gunstige valutakoersen en een gratis debit card gebruikt een techniek om automatisch verdacht gedrag op te merken. Indien je als activiteiten als verdacht worden aangemerkt wordt krijg je een notificatie en wordt je account opgeheven. Het IBAN nummer van je account wordt ge-deactiveerd. De klantenservice weigert vervolgens de rede te geven voor de opheffing van het account maar zal uitleggen dat je de dienst nooit meer kan gebruiken.

Heel kwalijk natuurlijk want mensen kunnen volledig afhankelijk zijn van deze dienst. Voor mijn vriendin was het geen ramp, maar ik ken redelijk wat jongeren voor wie een plotselinge opheffing van hun account rampzalig zou zijn. Het zal je maar gebeuren dat je enige betaalrekening wordt opgeheven en je plots je salaris niet kunt ontvangen om je huur te betalen. Als je dan ook nog eens voor een grotere organisatie werkt kan het zo een poos duren voordat alles weer in orde is.

Maar ja, fintech bedrijven groeien zo snel en Revolut ligt onder de loep of ze geen illegale activiteiten makkelijker maken. Zelfs als je niets verkeerd hebt gedaan is het bedrijf je liever kwijt dan rijk als het detectiemechanisme je als high risk bestempelt.

_{Mijn vriendin klaagde overigens op Twitter, waarop Revolut haar blokkeerde op Twitter. Toen ik hier over postte op Reddit stond het social media team van het bedrijf klaar om zich in de meest bizarre bochten te wringen en het bedrijf te verdedigen.}

[JB Zimmerman]

Mijn eerste vraag is wat de definitie van AI is die de DNB hanteert. De definitie uit het document:

Artificial Intelligence (AI), defined as “the theory and development of computer systems able to perform tasks that traditionally have required human intelligence”

Dit is een vrij breedte definitie van AI.

[Reactie gewijzigd door JB Zimmerman op 23 juli 2024 10:42]