Europees Parlement stemt in met AI-regulering

Het Europees Parlement heeft met een grote meerderheid ingestemd met de Artificial Intelligence Act. Met deze wet wil de EU duidelijker maken wat wel en niet mag met kunstmatige intelligentie en de rechten van EU-burgers beschermen. De EU-raad moet nog akkoord gaan met de wet.

Met de AI Act worden 'bepaalde AI-applicaties die de rechten van burgers bedreigen, verboden', schrijft het Europees Parlement. Zo mogen bedrijven geen biometrische systemen maken op basis van 'gevoelige kenmerken' en mogen ze gezichten niet scrapen van andere platforms om gezichtsherkenningsdatabases te maken. Bedrijven mogen daarnaast geen systemen maken die emoties kunnen herkennen in scholen of werkplekken en zijn systemen die aan sociale scores of 'voorspellend politiewerk' doen verboden. Kunstmatige intelligentie die menselijk gedrag kan manipuleren of misbruik maakt van menselijke kwetsbaarheden mag ook niet.

De wet geeft verder extra kaders aan politiediensten die kunstmatige intelligentie willen gebruiken. Zij mogen biometrische-identificatiesystemen 'in principe' niet gebruiken. Dit mag alleen in zeer specifieke situaties, die bovendien volledig uitgelegd moeten worden. Realtimegebruik van dergelijke systemen mag ook alleen met toestemming vooraf van bijvoorbeeld een rechter, en bij gebruik in een specifieke locatie en gedurende een specifieke tijd. Het parlement noemt bijvoorbeeld de zoektocht naar een vermist persoon of het voorkomen van een terroristische aanval.

In de wet worden 'hoge risico AI-systemen' genoemd, waarbij het gaat om kunstmatige intelligentie die in bijvoorbeeld kritieke infrastructuur, onderwijs, werk en essentiële maatschappelijke diensten worden gebruikt. AI-systemen mogen hier alleen worden ingezet als er logs worden gebruikt, er transparant over wordt gecommuniceerd, ze nauwkeurig zijn en risico's worden beperkt. Menselijk toezicht wordt hierbij ook vereist.

Deepfakes of anderzijds gemanipuleerde content moet onder de AI Act daarnaast als zodanig bestempeld worden. De wet verplicht ook transparantievereisten voor AI-systemen voor algemene doeleinden. Krachtigere gpai-modellen die 'systematisch risico's' kunnen vormen, moeten aanvullende evaluaties ondergaan en moeten extra maatregelen krijgen om risico's te beperken.

Bij de stemming stemden 523 parlementariërs voor, stemden 46 tegen en stemden 49 niet. De wet moet nog een laatste juridische check ondergaan en formeel goedgekeurd worden door de Europese Raad. De wet gaat gefaseerd in. Het grootste deel gaat twee jaar na officiële publicatie in. Een jaar later treedt de gehele AI Act in werking.

🇪🇺 Democracy: 1️⃣ | Lobby: 0️⃣

I welcome the overwhelming support from European Parliament for our #AIAct —the world's 1st comprehensive, binding rules for trusted AI.

Europe is NOW a global standard-setter in AI.

We are regulating as little as possible — but as much as needed! pic.twitter.com/t4ahAwkaSn

— Thierry Breton (@ThierryBreton) 13 maart 2024

Reacties (53)

[Heloise]

Dit gaat de EU niet meer helpen, en kan integendeel wel eens verder nadeel voor de EU opleveren. Simpelweg omdat de EU weer eens achter de feiten aanloopt en op AI gebied totaal niets voorstelt.

Zie bv. het volgende artikel in The Economist:
https://www.economist.com...ds-digital-uber-regulator

Voor een zeer recente analyse over deels hetzelfde onderwerp en probleem (voor de EU) zie NRC:
https://www.nrc.nl/nieuws...pt-europa-voorop-a4192358

De EU zou er veel beter aan doen haar toch al beperkte tijd, geld en moeite aan nuttiger zaken dan alléén regelgeving te besteden (die de EU ook nog eens alleen maar verder achterop laat komen). Laat ze in plaats daarvan eens vooruit kijken en veel meer aandacht geven aan de toekomst (zonder knellende wetgeving).

[Creesch]

Laat ze in plaats daarvan eens vooruit kijken en veel meer aandacht geven aan de toekomst (zonder knellende wetgeving).

Met de VS als lichtend voorbeeld hoe bedrijven hier absoluut geen misbruik maken van het gebrek aan regelgeving op vele vlakken?

Vanuit economisch oogpunt zal het ongetwijfeld kloppen dat strengere wetgeving er voor zorgt dat bedrijven minder kunnen doen aan winst maximalisering. Daar staat dan weer tegenover dat winst maximalisatie vaak ten koste gaat van vele andere zaken op sociaal vlak en ook vaak grote bedrijven in de kaart speelt.

Of deze regelgeving de EU gaat helpen weet ik ook niet. Maar het feit dat er aan regelgeving wordt gewerkt met de burger in het achterhoofd ipv grote bedrijven vind ik persoonlijk toch echt waardevol.

[Reactie gewijzigd door Creesch op 23 juli 2024 22:36]

[Coolstart]

Het is echt onzin dat regelgeving on achteruit zet. Het zet de democratie voorop en beperkt het monopolie van de Big tech die allemaal Amerikaans is. Het zou een grote vergissing zijn om Amerikaanse technologie gewoon vrij spel te geven.

De knellende wetgeving waar je het over hebt geeft net een plaats voor alternatieven. Lees je aub even in. Uw bronnen staven uw mening helemaal niet.

Wat kan je in godsnaam tegen de DMA hebben? Wat kan je tegen de AVG hebben? Wat kan je tegen meer privacy hebben?

Welke regels zetten volgens u de EU achteruit op de rest van de wereld? Ik ben eens benieuwd.

[Frame164]

Veel mensen zien EU en bedenken dan een verhaal om het belachelijk te maken. Als elders deze wetgeving zou komen en hier niet wordt er geklaagd dat de EU het weer niet goed doet en dat het elders allemaal beter is.

[Davy de Vries]

Zo mogen bedrijven geen biometrische systemen maken op basis van 'gevoelige kenmerken' en mogen ze gezichten niet scrapen van andere platforms om gezichtsherkenningsdatabases te maken

Echter denk ik dus dat er al bedrijven zijn die dit doen, en komt deze wetgeving dus te laat?

[Orangelights23]

Waarom zou het te laat zijn? Wet- en regelgeving zoals deze is voornamelijk retrospectief van aard. Dat het later dit jaar van kracht wordt, betekent dat ook deze bedrijven dit niet meer mogen doen.

[Mazzy]

niet MEER mogen doen is hier zeer belangrijk vrees ik.
Het is verboden om een nieuwe database aan te leggen, er bestaan ondertussen helaas wel al een hele hoop databases waar je gezicht toch in voor komt, al dan niet gekoppeld met andere persoonsgegevens, dit gaan ze nooit meer ongedaan kunnen maken.

[marktweakt]

Dergelijke databases zijn dus onrechtmatig op het moment dat deze regelgeving in gaat.

[Frame164]

Heb jij liever dat er wetgeving komt voordat dingen gebeurt zijn? Dan krijg je een wet die alles verbiedt tenzij het is toegestaan. Dat is de enige manier om dingen te voorkomen. Ik denk niet dat je dat wilt.

[Lapras]

Een kleine aanpassing.

Je hebt de Europese Raad, de Raad van de Europese Unie (vaak de Raad van Ministers genoemd of enkel De Raad) en de Raad van Europa. Dit is erg verwarrend, maar ze hebben elk andere taken.

De Europese Raad heeft enkel regeringsleiders en zet de politieke richting uit. De Raad van Ministers gaat over wetsvoorstellen (en wordt hier dus bedoeld). De Raad van Europa is geen EU-instelling, maar een internationale organisatie waarvan meer Europese landen lid zijn.

Ofwel: de in het artikel genoemde EU-raad en Europese raad zijn beide fout. Beter om te spreken over de Raad, de Raad van de EU of de Raad van Ministers.

Tot zover de verwarrend wereld van Brussel.

[Skit3000]

Tot zover de verwarrend wereld van Brussel.

Alleen zetelt de Raad van Europa in de Franse stad Straatsburg (net als het Europees Parlement één zitting per maand).

[Lapras]

Klopt! Ik voegde het niet toe, maar dat maakt het wel completer. En correcter.

[Strebor]

"Kunstmatige intelligentie die menselijk gedrag kan manipuleren of misbruik maakt van menselijke kwetsbaarheden mag ook niet."

Dit zou wel eens een issue kunnen worden voor social media (denk aan Facebook en X, die je het liefst allerlei clickbait conspiracy/politieke troep voorschotelen). Het zou fijn zijn als zulke algoritmes die je steeds dieper "down the rabit hole" duwen voorgoed verdwijnen.

[FrankHe]

Zoals kansspelen onderhevig zijn aan regels om verslaving te voorkomen zou dit ook moeten gaan gelden voor diensten en producten die met (kwaadaardige) algoritmes mensen verregaand beïnvloeden. Daar ben ik zeker voor.

[jpsch]

Het specifiek benoemen van bedrijven laat de vrijheid voor overheden en NGOs over?

[the_stickie]

Dat 'bedrijven' deel is iets uit de vertaling/bewerking. Het originele, Engelstalige artikel vermeldt dat helemaal niet.
Wel dat bedrijven ondersteuning zullen kunnen krijgen om zich aan de regels aan te passen.

[Frame164]

Dat laatste is inderdaad de enige keer dat "companies" worden genoemd in het artikel. Er wordt zelfs niet geschreven over "organizations". Wie weet wat er nog meer niet klopt in Tweakers artikelen...

[D100]

Europa is meestal goed in digitale wetgeving. Maar niet altijd super relevant voor Europese bedrijven in digitale services, de grote Europese bedrijven ontbreken vaak, bijvb in cloud, social media, platforms en office en ook AI, met enkele uitzonderingen die veeleer de regel bevestigen.
Natuurlijk heeft Europa wel grote succesvolle bedrijven, maar minder in de digitale services waarop die digitale wetgeving toepasbaar is.
Iets om over na te denken hoe dat komt, en het niet wenselijk zou zijn een beter ontwikkelingsklimaat te creëeren.

[JRShield]

Die veelal Amerikaanse bedrijven moeten ook aan EU wetgeving voldoen als ze hier willen opereren. Dus Facebook mag met AI doen wat ze willen als het om burgers van buiten de EU gaat, maar woont een persoon binnen de EU, mogen ze dit niet.

[D100]

Natuurlijk is de wetgeving toepasselijk op alle bedrijven die opereren in de EU.
Dat was het punt niet....

Om het uit te spellen: misschien moet de EU wat meer ontwikkeling van succesvolle digital service bedrijven mogelijk maken, in.plaats van - upfront - zo veel aandacht te besteden aan waar het allemaal mis kan gaan. Het ontbreekt niet aan goed onderzoek in Europa, maar vanaf dat het in operationele innovatie moet geconverteerd worden, dan komt die logge wetgevingsmachine op gang, hoe we moeten oppassen voor alles dat mis kan gaan.
Op deze manier hadden we in Europa nooit iets in praktijk gebracht van ons voor het overige excellente onderzoek.

Laat ons wat meer succesvolle innovatie ontwikkelen met de risico's daaraan verbonden, in plaats van dit in de kiem te smoren, omdat er steeds mogelijke gevaren zijn. We verlammen ons, en uiteindelijk gebruiken we dan toch die innovatieve producten en services, van buitenaf.

[JRShield]

Beter voorkomen dan genezen! Ik heb liever niet dat er eerst mensen als klant geweigerd worden, omdat ze bij een bepaald protest zijn geweest bijvoorbeeld. Deze wet voorkom dit soort praktijken.

[D100]

Deze wetten voorkomen vooral de ontwikkeling van innovatieve services in de EU. Die worden echter buiten de EU wel ontwikkeld, en wij nemen ze dan gewoon in gebruik, en dan zien we tegen die tijd hoe ze moeten bijgestuurd worden.

Het is niet zo dat er in de VS geen wetgeving is, maar er is enorme innovatie, en deze wordt mettertijd evenzeer bijgestuurd.
Ik geef er de voorkeur aan indien we in Europa wat meer deden om te innoveren, en dan gepast ingrijpen in plaats van vooraf steeds te roepen 'de wolf komt'.

[Frame164]

Je kunt je ook afvragen of de EU dat moet doen. In de VS is het ook niet de overheid die voor de successen zorgen. Daar komt het doordat mensen wat proberen, falen, nog een keer wat proberen, weer falen en dan een keer iets goed bedenken. Dat in combinatie met durfinvesteerders zorgt voor succes. In Europea zijn beide opties "vieze woorden". Een ondernemer die faalt moet heel veel hindernissen overwinnen om opnieuwe een kans te krijgen. En durfinvesteerders vinden we paria's.

En als je de doorsnee reacties op dit forum leest als het om nieuwe dingen gaat, dan zijn zelf de techliefhebbers in Nederland niet te porren om nieuwe dingen te proberen. Het meeste wordt immers direct belachelijk gemaakt hier. Daar verandert een EU niets aan.

[D100]

Je kunt je ook afvragen of de EU dat moet doen. In de VS is het ook niet de overheid die voor de successen zorgen. ....

In de context die ik beschreef, bedoelde ik natuurlijk dat de EU niet steeds te veel in de weg moet leggen bij elke potentiële innovatieve ontwikkeling. De EU moet natuurlijk niet zelf de innovatie proberen te bewerkstelligen, dat leek me duidelijk.

De EU is een reguleringsmachine, zij hebben een hamer in de hand en zien overal spijkers om op te slaan. Het ware beter een innovatief milieu z'n werk te laten doen, en dan optreden waar nodig. Meestal krijgt men ook beter inzicht in de problemen wanneer er concrete ervaring is.

Doch de overheid kan wel bijdragen aan innovatie, zonder dit zelf te doen. De internet protocol kwam van een overheids gesteunde activiteit. Ruimte activiteiten werden gefinancierd door de overheid, en slechts in het voorbije decennium door private initiatieven overgenomen. De ontwikkeling van de GSM protocol werd gefaciliteerd door de EU.

Het is geen zwart-wit verhaal.

[emeralda]

Het is moeilijk concurreren met bedrijven die zich niet aan regels hoeven te houden.

Trouwens ook de reden waarom veel zware industrie is verdwenen naar armere landen.

[Cranslove]

"Kunstmatige intelligentie die menselijk gedrag kan manipuleren of misbruik maakt van menselijke kwetsbaarheden mag ook niet

ik neem aan dat hieronder ook het zogenoemde blackwashing en de discriminatie jegens blanke mensen door AI onver valt? Zo kun je vrijwel alle AI promten over trots zijn op je kleur etc. maar zodra je wit benoemt, wordt je verzocht om diverser te zijn.

Als men inderdaad hier ook een einde aan maakt dan voorzie ik voor nu weinig problemen. (die zullen ten zijne tijd wel komen).

[JRShield]

Dat komt doordat het internet (en daarmee ook de bronnen van veel generatieve AI's) vol staat met racisme. De ontwikkelaars van deze AI's willen dit racisme uit de uitkomsten van de prompts filteren en moeten daarom zeer streng zijn aan de input kant. Laat een AI compleet vrij en het zal net zo racistisch zijn als de bronnen waar het informatie uit put. Nu zie je alleen dat er soms overgecorrigeerd wordt. Men is zo bang dat de AI racistische resultaten toont, want dan kom je echt negatief in het nieuws, dat men te hard ingrijpt. Dit zal de komende jaren uitgebalanceerd moeten worden.

[magicgoose]

Ik zie de laatste tijd continu dingen over "AI" verschijnen. Zijn er bepaalde criteria waar iets aan moet voldoen vooraleer het geldt als AI?

Bijvoorbeeld is het Facebook-algoritme een AI? En iets banaals als de shuffle van Spotify?

[Arnoud Engelfriet]

Iets is een AI onder de AI Act als het
1) autonoom opereert
2) bepaalde doelen nastreeft
3) zelf afleidt uit de invoer hoe de doelen te behalen (dus geen hardcoded if/then boom)
4) gevolgen heeft in de echte (of online) wereld

De FB recommenders voldoen, want die bepalen zelf wat je ziet (1 en 4), met als doel engagement en ze leiden zelf af wat mensen tot engagement aanzet. Bij een shuffle vind ik dat iets moeilijker, ik vermoed dat daar een 'gewone' PRNG achter zit en dat is niet echt een data-analyserend algoritme om tot een vuistregel te komen.

[Dark Angel 58]

Er zijn twee AI's: domme AI zonder bewustzijn en andere slimme AI met bewustzijn

Op dit moment zie je erg veel AI's...maar ze hebben allemaal geen bewustzijn.

[ErikT738]

Fijn dat de wet zich vooral lijkt te focussen op het beschermen van burgers tegen verkeerde toepassing van AI, en minder op het aan banden leggen van de ontwikkelingen zelf (zoals in een eerdere draft wel het geval was).

[NielsFL]

Maar is dat ook echt zo? Of hebben ze de markering verbeterd?

[ErikT738]

Ik heb nieuwsberichten over aanpassingen voorbij zien komen, maar uiteraard heb ik het bronmateriaal niet gelezen.

[Frame164]

Vrijwel alle EU richtlijnen zijn beter voor burgers dan landelijke wetgeving. Logisch, want landen houden vaak rekening/moeten rekening houden met economische belangen van bedrijven die er gevestigd zijn. Voorbeeld: Duitsland is behoorlijk afhankelijk van de autoindustrie. Die zullen niet snel eigen wetgeving maken die nadelig is voor hun industrie. Op EU niveau kan je dat veel makkelijker doen.

[kuurtjes]

Hopelijk wordt er terug naar het totaalverbod gegaan.

Want dit is echt NIET wat we willen!

[Frame164]

Een totaalverbod nog wel. Gewoon alle nieuwe dingen stoppen. Misschien ook maar een totaalverbod op internet. Wordt alleen maar gebruikt door mensen die op een forum willen zeggen dat dingen verboden moeten worden.

[kuurtjes]

Geinig. Maar nee. Het gaat té snel.