WRR pleit voor meer overheidsbetrokkenheid bij kunstmatige intelligentie

De Wetenschappelijke Raad voor het Regeringsbeleid waarschuwt de overheid voor het gebruik van kunstmatige intelligentie. De WRR pleit voor een 'beleidsinfrastructuur' waarin niet alleen de technologie zelf, maar ook de regering een belangrijke rol speelt.

De WRR, die het regeringsbeleid bijstaat met wetenschappelijke inzichten, pleit voor een grotere rol van de overheid in een rapport over kunstmatige intelligentie. AI staat volgens de WRR 'op een keerpunt' waarbij ontwikkelingen niet alleen academisch zijn, maar ook in de samenleving ingeburgerd raken. De overheid moet daar structureler mee omgaan door bijvoorbeeld beleid te maken, stelt de instantie.

Als definitie van kunstmatige intelligentie noemt de WRR 'systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken'. Daar vallen veel zaken onder, waaronder algoritmes die de overheid gebruikt om bijvoorbeeld risicoindicaties te maken. Eerder al lagen zulke systemen zoals SyRI en de Wet Gegevensverwerking door Samenwerkingsverbanden of WGS onder vuur, maar de WRR waarschuwt ook voor andere geautomatiseerde besluitvormingen. Overheden zouden daarentegen ook meer oog moeten hebben voor de kansen van AI.

De WRR stelt dat er vijf stappen nodig zijn om AI in de samenleving in te kunnen zetten. In de eerste plaats pleit de Raad voor meer duidelijkheid over de technologie. Zo moet duidelijker worden of AI inderdaad een 'black box' is, zoals vaak wordt gesteld, en moet er aandacht komen voor kennisoverdracht wanneer kunstmatige intelligentie menselijke werknemers vervangt. De overheid zou volgens de Raad ook richting de samenleving meer duidelijkheid moeten geven over de inzet en het gebruik van algoritmes, bijvoorbeeld door algoritmeregisters.

De overheid zou daarnaast meer context moeten geven naar de buitenwereld toe als het algoritmes inzet. Daarmee zou 'een goede mens-machine-interactie' kunnen ontstaan. De politiek zou ook meer kunnen aansturen op die dynamiek, stelt de Raad, bijvoorbeeld door opleidingen en certificeringen op te zetten waarmee werknemers en organisaties beter met AI weten om te gaan.

De WRR raadt tot slot aan dat organisaties en andere betrokken partijen op een eerder moment betrokken worden bij de inzet en besluitvorming van AI. Er moet bovendien betere wetgeving komen, en opleidingen in AI zouden internationaler moeten worden opgezet.

Een concrete aanbeveling die in het rapport staat is dat de overheid een AI-coördinatiecentrum opzet. Dat kan dan kennis delen over AI tussen overheidsinstanties, toezichthouders en andere overheidsinstellingen.

De WRR stelt dat AI niet alleen nog moet worden gezien als een technologie, maar als 'een systeemtechnologie die de samenleving fundamenteel zal veranderen'. Zo'n systeemtechnologie is zo wijdverspreid in de samenleving dat het nodig is voor de overheid om zich er meer mee te bemoeien. "Wacht de overheid hiermee te lang, dan zal de dynamiek van de inbedding van AI de wetgever inhalen en hebben bepaalde spelers de macht inmiddels zo naar zich toegetrokken dat een weg terug nauwelijks nog mogelijk is", stelt het overheidsorgaan.

Reacties (19)

[JDx]

Ik ben nog steeds van mening dat echte kunstmatige intelligentie niet bestaat, is machine learning niet een betere naam? Als een computer/robot echt AI had zou hij toch als eerste zijn aan/uit knop verwijderen?

[THETCR]

Je hebt gelijk.

In realiteit is het lineaire algebra (matrices).
Het kunstmatige intelligentie noemen is een grove onderschatting van onze intelligentie of een grove overschatting van de technologie.

[MSalters]

Het is een vrij basisbeginsel dat neurale netwerken met lineaire algebra alleen niet werkt en niet kan werken. Dat is ongeveer net zo fundamenteel als de regel dat je zonder hidden layer niet eens de XOR-functie kunt leren. 't Is ook bepaald geen nieuw inzicht, dat is al een halve eeuw oud.

De matrix algebra is wel de meest tijdrovende wiskunde, vandaar dat je daar vaak GPU's voor gebruikt.

[THETCR]

Matrix algebra is officieel een onderdeel van lineaire algebra. Ook voor vector space worden deze lineaire maps gebruikt.

Één van de fundamentele onderdelen van Deep Learning is matrix algebra en dus zodanig lineaire algebra.

[MSalters]

Kan zijn, maar je neurale netwerk heeft expliciet een niet-lineraire activatie functie na élke matrix vermenigvuldiging. Als je alleen die matrix vermenigvuldigingen implementeert, dan zul je inderdaad zien dat je resulterende netwerk geen AI is. Dat is een bekend resultaat van decennia geleden.

Dus als jij schrijgt "In realiteit is AI lineaire algebra. Het kunstmatige intelligentie noemen is een grove onderschatting", dan loop je dus een halve eeuw achter.

[THETCR]

Volgens mij hebben wij hier dan miscommunicatie.

Want keuzes op basis van referenties is niet genoeg voor een vorm van intelligentie. Wat mij betreft is het misplaatst om het kunstmatige intelligentie te noemen.
Dat staat los van de non-lineaire functie.

Je kan met Tensorflow/Pytorch/Scikit prima een model trainen, maar om het dan nou vervolgens intelligent te noemen. Misschien is het dan eerder een discussie over de terminologie van het woord, maar het is niet verstandig om mensen het idee te geven dat de software zelf kan "denken".

Dus ja, in de basis is het lineaire algebra, de non-lineaire functie ter zijde, en dat kan je niet op hetzelfde niveau plaatsen als menselijke intelligentie.

[cui bono]

maar als ik om me heen kijk, ook verder dan m'n neus lang is, zie ik vaak een overschatting van menselijke intelligentie. Toegegeven, het zou ook mogelijk zijn dat veel mensen hun intelligente nooit willen gebruiken.
En dat maakt de weg voor allerlei soorten AI vrij.

[enver63]

"Asking wether a computer can think, is like asking wether a submarine can swim" - Edsger W. Dijkstra

[n3z]

Als we kijken naar de definitie dan is AI vrij breed.

artificial intelligence
noun
noun: artificial intelligence; noun: AI
the theory and development of computer systems able to perform tasks normally requiring human intelligence, such as visual perception, speech recognition, decision-making, and translation between languages.

Dus google translate is al een soort van AI.

Waar jij het over hebt komt in de buurt van de singularity:
https://en.wikipedia.org/...as%20John%20von%20Neumann.

[Reactie gewijzigd door n3z op 5 augustus 2024 07:39]

[Bozebeer38]

Gezien we chips ontwikkelen die kunnen groeien, dat spul van Intel, neuron chips of hoe ze dat ook weer noemen, ik weet het nog net zo niet.

Uiteindelijk ontwikkeld dit een beetje vanzelf.

Nu zijn het vooral virtuele assistenten, soft AI zoals je dat kan noemen.
De Siri en Cortana’s van deze wereld.

Maar dit ontwikkeld steeds sneller en sneller, bijna als een moore’s law waar ieder jaar een nieuw mijlpaal bereikt lijkt te worden.

[geert1]

De term AI is er eentje voor de volksmond met name. Wat doorgaat voor AI verandert over de tijd. Zoiets simpels als tekstherkenning (OCR) werd in het verleden wel AI genoemd, omdat het toen relatief slim was. Nu is dat niet indrukwekkend meer en heten weer andere zaken "AI". Er is geen vaststaande definitie voor; het is een wazige verzamelterm die relatief is aan de tijd en de context.

Het gedrag van vijanden in games wordt ook vaak AI genoemd. Toch is daar niets aan dat zelf leert of beslissingen neemt; het komt niet in de buurt. Maar het bepaalt wel het gedrag dat moet overkomen als enigszins mensachtig. Hoe breder je het idee van intelligentie opvat, hoe breder ook het idee van kunstmatige intelligentie wordt.

Een term als machine learning is veel specifieker en nuttiger, maar valt in principe binnen AI. Echt fout is het niet om de term AI te gebruiken.

[bursche]

Meer achtergrond hier:
https://fd.nl/economie/14...kunstmatige-intelligentie