Europees verbod op met AI beïnvloeden van menselijk gedrag gaat van kracht

Vanaf 2 februari 2025 is het verbod op de toepassing van bepaalde AI-systemen in werking getreden. Onder de AI-verordening zijn onder meer realtime biometrie in openbare ruimten voor wetshandhaving en het maken van risicoprofielen voor misdaden niet meer toegestaan.

De specifieke verboden zijn in Artikel 5 van de verordening opgenomen, beter bekend als de AI Act. Hoewel de verordening in augustus van 2024 inging, treden individuele artikelen gefaseerd in werking. In Artikel 5, dat nu in werking treedt, worden de verschillende vormen van verboden AI-gebruik opgesomd.

Zo is het vanaf nu niet meer toegestaan om met kunstmatige intelligentie 'het gedrag van mensen te beïnvloeden, kwetsbaarheden uit te buiten of mensen te evalueren of classificeren op basis van gedrag en persoonlijke kenmerken'. Ook worden bepaalde vormen van wetshandhaving specifiek genoemd. AI-systemen mogen de waarschijnlijkheid van het plegen van misdaden niet baseren op het uiterlijk van een persoon en mogen niet gebruikt worden om gezichtsherkenningsdatabases te creëren op basis van het scrapen van online afbeeldingen of bewakingscamerabeelden. Er zijn wel enkele uitzonderingen op specifiek het wetshandhavingsdeel van het artikel, zoals het zoeken naar vermiste personen en het voorkomen van terroristische aanslagen.

Deze regels zijn dus op 2 februari 2025 van kracht geworden en vanaf nu kunnen bedrijven in principe een boete van tot 35 miljoen euro of 7 procent van hun vorige jaaromzet opgelegd krijgen. Vanaf 2 augustus 2025 wordt Artikel 70 echter pas van kracht, waarin bepaald wordt dat iedere EU-lidstaat een autoriteit moet aanwijzen die verantwoordelijk wordt voor de handhaving van deze verordening. Exact een jaar later wordt het gebruik van bepaalde vormen van general purpose AI ook verboden en gaan er regels in voor het gebruik van 'hoogrisico-AI'. Vanaf dan moeten bedrijven die AI-systemen zoals taalmodellen aanbieden ook voldoen aan specifieke transparantieplichten.

Reacties (86)

[Azenomei]

Dus, geen algoritmisch aangedreven reclame profielen meer. Dat zou wat zijn.

[WillySis]

Die profielen worden niet door AI samengesteld. Bij Google werken ze ook al heel lang niet echt met profielen, maar met kernwoorden en locaties. Als jij een bij Google een advertentie wilt tonen geef je een aantal kernwoorden, een land of een afstand van een locatie en de tijden waarbinnen de advertentie moet worden getoond op. Hoe specifieker je eisen, des te duurder de advertentie en zeker de klik daarop gaat worden.
Google verzameld de kernwoorden uit de sites die je bezoekt.

[Cid Highwind]

Dat is natuurlijk een zeer interessant punt. Ik ben ook heel benieuwd wat dit betekent voor de reclame- en marketingbranche.

Om het nog een stapje verder te trekken: Inmiddels wordt te pas en te onpas reclame gemaakt met "AI" als feature. Zie ook het artikel over de nieuwe generatie Philips TV's. Philips poogt hier dus middels AI de verkoopcijfers op te krikken, ergo, een gedragsaanpassing te verwerkelijken, en dus het "gedrag van mensen te beïnvloeden".

[Azenomei]

Dat. Maar al die algoritmes in al die social media apps die precies de juiste fimpjes met productplacement voorschotelen en persoonlijk gerichte reclame opdienen zijn ook allemaal onderdeel van menselijk gedrag beinvloeden. Algoritles die op tiktok de eindeloze scroll voorschotelen, allemaal voorbeelden van ai beinvloeding van menselijk gedrag. En ze hebben zelf die algoritmes als AI gehypt, dus dat mag allemaal niet.

[Crazy D]

Nee, door het als buzz-woord te gebruiken. Dat is heel wat anders.

[SuperDre]

Algoritmes zijn niet perse AI's, dus die zijn gewoon nog steeds bruikbaar.

[Azenomei]

Dat zou ook wat zijn. Eerst LLM's en algoritmische systemen als AI hypen en dan na wetgeving glimlachend verkondigen dat AI nog niet bestaat.

[m_snel]

Voorlopig is het gebaseerd op aangeleerd gedrag, wat overigens ook voor de meeste mensen van toepassing is.

[BlaDeKke]

Haha, ja dat zou het wel zijn ja. Maar als je kijkt naar OpenAI die nu aant kakken is op deepsearch dat ze hun kleine lettertjes overtreden hebben… weinig schaamte te vinden daar.

[Llopigat]

Terwijl ze zelf bovendien het hele internet leeggezogen hebben zonder toestemming.

En het enige dat nog "Open" is aan OpenAI is de deur voor de aandeelhouders

[sdziscool]

We hebben misschien geen relevante* bedrijven in het AI veld in europa, maar natuurlijk wel al de meest uitgebreide inperkingen en wetgevingen erover

*Mixtral is/was een relevant europees AI bedrijf, maar loopt ondertussen achter de Chinese modellen, die weer achter de amerikaanse modellen lopen.

[Martinspire]

De vraag is vooral wat je er de komende jaren werkelijk aan gaat missen en wat voor gevolgen het gebrek aan regelgeving in andere gebieden gaat hebben. Als ineens alle landen veel extremistischer worden of juist pro-Rusland en pro-China gaan handelen, dan gaat de wereld er wel heel anders uit zien en het is maar de vraag of de Europese burger daarin mee wil gaan.

Dat de nieuwe Chinese AI voor het karretje van de Chinese overheid wordt gespannen, was natuurlijk te verwachten, maar het is nog niet duidelijk wat voor effect dat gaat hebben op de lange termijn.

Je kunt er wat van vinden, maar ik vind het goed dat de EU hier voorop loopt om te zorgen dat bedrijven hun positie niet misbruiken en regeringen deze bedrijven niet gaan gebruiken om massaal Europese kernwaarden te torpederen uit wraak of machtsmisbruik.

[sdziscool]

Nou je kunt nu al kijken naar social media of gewoon "big tech". Daar zie je dat de EU geen enkele relevantie meer speelt en daarom voor dit soort dingen compleet afhankelijk is van het buitenland.
Voorlopig is dat buitenland ook afhankelijk van ons, de EU was een hele grote markt, en daarom kan de EU hier en daar nog dingen afdwingen mbt privacy etc via boetes en regelgeving.

Maar de Europese economie is al jaren stagnerende tov bijvoorbeeld de Amerikaanse economie en vele andere landen maken ook een inhaalslag. Op gegeven moment is de kosten-baten analyze het voor aanwezigheid in de EU het gewoon niet meer waard. Je ziet het nu al met veel bedrijven die pas een jaartje later hun (AI) features hier in hun afgeslankte vorm uitbrengen.

Voor nu hebben we geen directe negatieve gevolgen hiervan. Maar wat als AI wel belangrijke dingen gaat doen(denk aan gezondheidszorg), of als Google gewoon ermee stopt in europa, of Facebook stopt met het aanbieden van whatsapp, of YouTube hier wegvalt.

We hebben hier geen alternatieven liggen, en alhoewel veel dingen van big tech ook niet altijd zo 'goed' voor ons zijn, zal het ook enorm ontwrichtende effecten hebben, en tegelijkertijd is ook je onderhandelingspositie als EU opeens superzwak.
Dan mogen we hopen dat men een winstgevend alternatief voor/binnen europa kan maken, maar als mega bedrijven met bijna oneindig veel resources al hun vraagtekens erbij zetten...

[Martinspire]

Op gegeven moment is de kosten-baten analyze het voor aanwezigheid in de EU het gewoon niet meer waard.

Sorry maar dat blijft gewoon niet waar. Er zijn nog altijd 447 miljoen inwoners waarvan een groot deel een dermate hoog inkomen heeft waardoor menig product interessant is en waar menig bedrijf gevestigd zit om producten aan te verkopen.

Daar zie je dat de EU geen enkele relevantie meer speelt en daarom voor dit soort dingen compleet afhankelijk is van het buitenland.

Het kan aan mij liggen, maar EU heeft eigenlijk nooit echt een groot social network gehad. Hyves is alleen maar Nederland geweest. En qua chat-apps is het ook allemaal nooit denderend geworden. Iedereen kende MSN, niemand kende echt wat anders.

Maar je moet je afvragen of er wel echt een aparte markt moet zijn voor bepaalde categorieen. We hebben ook veel andere diensten en producten uit het buitenland waar geen echt Europees alternatief voor is, maar daar hoor je gewoon wat minder over. En zodra men vanwege regelgeving de EU niet meer gaat bedienen, is er altijd wel een alternatief die op gaat komen. Maar vaak is dat niet nodig omdat de markt dat zelf al afhandelt omdat buiten de EU ook genoeg mensen zijn die soortgelijke meningen hebben. Denk maar aan bv Australië of Canada, die gaan toch vaak met ons mee qua regelgeving. En ook Zuid Amerika of Afrika volgt de EU graag. Dus in die zin laat je veel meer dan 447 miljoen mensen volgen.

Maar de Europese economie is al jaren stagnerende tov bijvoorbeeld de Amerikaanse economie en vele andere landen maken ook een inhaalslag.

Dat de economie groeit, maakt niet dat de economie belangrijker wordt. Het buitenland kan ook niet zonder bepaalde Europese producten en diensten. Die afhankelijkheid zal gewoon blijven. Ook al is onze economie dan kleiner. Kijk alleen al maar naar Nederland en de invloed die het de afgelopen decennia heeft gehad, ook als je ASML erbuiten laat. En daarvoor was het trouwens Philips en zo gaat het door.

Je ziet het nu al met veel bedrijven die pas een jaartje later hun (AI) features hier in hun afgeslankte vorm uitbrengen.

Prima toch? Dan hebben we hier een AI die wel de rechten en wensen van gebruikers respecteert. Dat heb ik liever dan een AI die meer kan, maar daarbij ook werkelijk elke regel of normen en waarden breekt die wij hier hanteren.

Maar wat als AI wel belangrijke dingen gaat doen(denk aan gezondheidszorg), of als Google gewoon ermee stopt in europa, of Facebook stopt met het aanbieden van whatsapp, of YouTube hier wegvalt.

Wel een beetje doemdenken, maar ok. I'll bite. AI in gezondheidszorg is vooralsnog niet veel anders. Het verwerken van afbeeldingen kan gewoon in Europa gedaan worden en er zijn ook zat bedrijven in Europa daarmee bezig. Wellicht gaat het iets minder hard, maar er zijn ook weer veel problemen mee verbonden. Het is bij AI vaak dat de eerste 80% gigantisch snel gaat, maar die laatste 20% is gewoon waar het op hangt. Dat is ook waarom self-driving ook nog maar amper gebeurt en met veel haken en ogen toegestaan wordt.

Als Google of Facebook stoppen, dan komen er gewoon alternatieven, daar twijfel ik niet over. En dat zal niet van de ene op andere dag zijn. Er zijn overigens alweer alternatieven voor Youtube aan het ontstaan omdat die zijn positie ook misbruikt om reclame te pushen. Er zitten over het algemeen genoeg slimme mensen in Europa om de boel draaiende te houden. Ze hadden alleen geen reden om een alternatief te bouwen omdat de huidigen gewoon voldeden. Maar als je kijkt hoe Twitter nu uiteen spat en Reddit de boel laat liggen, dan is het niet ontdenkelijk dat voor alle diensten straks wel een Europees alternatief komt. Mastodon doet nog even wat mee, maar ik verwacht dat die ook niet echt de boel over zal nemen omdat het gewoon wat minder fijn in gebruik is met al die verschillende servers (vanuit consument-perspectief).

En laten we eerlijk zijn. De software was nooit de reden dat we hier geen alternatieven hadden. Dat was de marketing en aantal gebruikers. Als niemand Facebook kan gebruiken, zijn er weer genoeg redenen om een alternatief te bouwen.

Dan mogen we hopen dat men een winstgevend alternatief voor/binnen europa kan maken, maar als mega bedrijven met bijna oneindig veel resources al hun vraagtekens erbij zetten...

Late stage capitalism is sowieso iets waar de EU wel wat meer tegen gaat doen dan elders. Daar zie je al hoe bedrijven als Amazon hun positie misbruiken waar ze een monopolie halen. Dat gaat alleen maar erger worden en uiteindelijk mensen doen beslissen hun heil elders te zoeken. En kijk daar, ineens weer meer mensen in Europa. Maar even zonder gekheid, Europa is nu hard bezig zelfstandig te worden en daar heeft het tijd voor nodig. Maar dat gaat heus wel lukken. De huidige markt laat duidelijk zien dat we niet echt moeten vertrouwen op de VS of China of Rusland. Dus die alternatieven komen er echt wel. En juist dan is de onderhandelingspositie van Europa sterker, want die afhankelijkheid zorgt er juist voor dat we dingen zijn gaan tolereren.

[Reactie gewijzigd door Martinspire op 4 februari 2025 09:24]

[sdziscool]

Bedankt voor de reactie!
Natuurlijk is mijn kijk wel wat negatiever dan het in de werkelijkheid is (hopelijk), en ik hoop ten zeerste dat het ook gewoon de gematigde goede kant op gaat. Toch ben ik skeptisch dat het allemaal zo goed zal blijven gaan als het de laatste jaren ging en ben van opinie dat we in Europa en dan voornamelijk de EU echt wat harder moeten gaan worden, of het nu meer zelfstandigheid, meer economische macht of meer innovatie is. De EU zit nu nog lekker, maar de wereld is in versnelling gekomen en daarnaast komen er veel EU specifieke problemen aan waarvoor we nu nog echt niet goed voortbereid op zijn, en in een snelle wereld gaat meer bureaucratie daar niet bij helpen (again, in mijn opinie natuurlijk).

[Martinspire]

Ik denk dat het wel mee gaat vallen. Bovendien gaat het politiek gezien in de VS ook niet lekker. Tot op het niveau dat een burgeroorlog niet ondenkbaar is. Dus ik verwacht dat dergelijke situaties meer invloed gaan hebben dan AI regelgeving.

[goarilla]

ASML/Imec niet belangrijk ?

[Wozmro]

Als je ziet wat ze in Amerika aan het uitspoken zijn dan kunnen we als gewone burger alleen maar heel erg blij zijn met Europese wetgeving.

https://www.doomsdayscena...him-as-head-of-government

[ArawnofAnnwn]

Dat is echt het meest hilarische satirische artikel wat ik in een hele lange tijd heb gelezen. Het is grappiger dan de artikels van satirische outlets `the onion`, `de speld` en `politico` bij elkaar. Ik heb echt pijn in mijn buikspieren van het lachen. Misschien wel even handig om erbij te zeggen dat het satire is. Er zijn mensen die echt heel weinig weten van Amerikaanse politiek, die straks nog denken dat het een echt artikel is.

[grassmoon]

"WASHINGTON, D.C. — What started Thursday as a political purge of the internal security services accelerated Friday into a full-blown coup, as elite technical units aligned with media oligarch Elon Musk moved to seize key systems at the national treasury, block outside access to federal personnel records, and take offline governmental communication networks."

een quote van de link van hierboven, dit is gewoon wat gebeurt is. Het is geen satire meer. Denk eens na als dit een Oligarch in Rusland was geweest, dan had de media vol gestaan over hoe het Poetin de touwtjes aan het verliezen is en de macht compleet aan het verschuiven is.

[Reactie gewijzigd door grassmoon op 3 februari 2025 18:18]

[Heloise]

En wat heeft dit met AI te maken?
Dat is tenslotte waar het hier om gaat.

[YGDRASSIL]

Musk is geen losgeslagen oligarch. Hij is door Trump aangesteld om officieel bepaalde dingen te doen. En die doet ie.

[grassmoon]

Officiële dingen, zoals overheids data van overheids servers downloaden naar die van private bedrijven. Dat is gewoon data diefstal, via social engineering.

Hij heeft geen aanstelling als hoofd van een department, goedgekeurd door de Senaat. Dat is hoe het volgens de afgesproken regeltjes, (grond)wet hoort te gaan.

Prima dat jij van mening bent dat Elon of Trump goed bezig is, maar accepteer dan ook de werkelijkheid van hoe zij bezig zijn. Hij heeft al voorgedaan hoe je em mag begroeten.

[Reactie gewijzigd door grassmoon op 3 februari 2025 23:17]

[YGDRASSIL]

Ik ben helemaal niet van mening dat Trump of Musk goed bezig is. Sterker nog ik denk dat ze heel slecht bezig zijn. Wat wel mijn mening is is dat hij geen losgeslagen Oligarch is. Hij heeft een vrij sterk mandaat van de huidige president gekregen. Dat is wezenlijk anders en prima grondwettelijk. En er is geen data naar private bedrijven gegaan. De DOGE Taskforce van Elon heeft toegang. Dat is wat anders. Ze kleuren precies genoeg binnen de lijntjes om het legaal te houden. Wat het veel moeilijker maakt om het tegen te houden. En dat de helft van de amerikanen hier allemaal in mee gaan is bijzonder treurig.

Wat ik ook van mening ben is dat je iemand die gewoon feiten benoemt om een discussie zuiver te houden niet in een hoek moet drukken als voorstander. En dan vrolijk zeggen dat ik de hitlergroet mag brengen, doei.

[grassmoon]

Ontwikkelingshulp via budgetten goedgekeurd door het Congres is geen criminaliteit of corruptie.

Dit geld bij federale instanties weghalen gaat tegen de regels. Het Congres gaat over hoe en hoeveel geld er wordt uitgeven. Niet de President.

[ArawnofAnnwn]

Nee, dat is helemaal niet wat er is gebeurd. Een coup is niet verkiezingsbeloftes die een mandaat van de overweldigende meerderheid van de bevolking heeft gekregen inlossen, volledig in lijn met de wetgeving. Dat is een tegenstrijdigheid. Een coup is als ze het tegenhouden. Dit valt ook niet onder een oligarchy, hoe graag je het misschien wilt.

Ik zal het nog duidelijker maken wat een coup is:

"een plotselinge, beslissende uitoefening van macht waarbij de bestaande regering wordt omvergeworpen zonder de instemming van het volk"

Dat is letterlijk het omgekeerde van wat er gebeurd. Dit is met instemming van het volk, in opdracht van de overheid. Dit is de wens van het volk. Dit is met toestemming macht uitoefenen om zware corruptie tegen te gaan waarbij ze de overheid assisteren en adviseren. Doge heeft op het moment van schrijven de burgers al 53 miljard bespaard. Dat is waarom de overweldigende meerderheid hier op heeft gestemd en waarom de polls steeds positiever zijn. De miljoenen aan corruptie dat vandaag alleen al naar voren is gekomen, is echt bizar.

Vandaar dat het zo grappig is, het is net een onion/politico/speld artikel. Niets van wat er staat klopt, allemaal dingen die zwaar tegenstrijdig zijn, dusdanig dat het hilarisch slecht is. Het zit een klein beetje tegen de waarheid aan om het geloofwaardig te maken, zodat mensen die het nieuws niet volgen hier in trappen, maar als je het nieuws volgt dan weet je dat dit echt heel overduidelijk satire is.

[grassmoon]

Voor de verkiezingen
Amerika: "project 2025 wat is dit voor creepy zooi, en jij bent hier bij betrokken Trump?"
Trump: "Nee joh, nooit van gehoord, die gasten ken ik niet eens"
Amerika: "Ohh dan is het goed, hier is mijn stem"

Na de verkiezingen
Trump: "hier kijk mij eens al deze decreeten uit project 2025 ondertekenen"

Ja daar heeft Amerika inderdaad voor gekozen /s

[Wozmro]

Ik snap uw reactie volledig. Het is zodanig gestoord dat je het niet wil of kan geloven.

[Stapper55]

Prachtig ik maak vast een timer, die bijhoud wanneer ze die wet voor het eerst breken.
Durf te wedden dat het niet lang duurt

[bilgy_no1]

Zie het bericht eerder vandaag over het gebruiken van camera's voor het beboeten van mobiel telefoongebruik in auto's (en ongetwijfeld een hoop dingen waar niet iedereen zomaar voor is).

[Stapper55]

Persoonlijk vind ik mobiel gebruik en bumperkleven wel een van de beroerdste dingen, die ook de meeste slachtoffers maken.
Maar dit soort technieken zijn discutabel.
Toch zal het gewoon gaan gebeuren, eerst met vriendelijke functies waarvan iedereen zegt, dat is handig. En daarna als dat is ingeburgerd, dan komt de volgende stap.

Dat zag je toen ook met de vingerafdrukken van iedere burger in een paspoort.
En gewone camera's overal, daar wou ook niemand aan.

[firest0rm]

Betekent dit ook dat YouTube en andere social media platformen AI bots moeten weren van hun platformen? Die promoten doorgaans mis informatie en heb het gevoel dat die platformen hier geen actieve moderatie op toepassen.

[Quintiemero]

Dat valt eerder onder de DSA. Niet zozeer onder AI act.

[Heloise]

Nog pas vorige week hebben een aantal EU top-industriëlen, waaronder de CEO van Philips, een open brief naar de EU gestuurd waarin ze hun zorgen uiten over te ver doorgeslagen AI wetgeving. Daarmee wordt de EU nog verder in het nadeel gebracht t.o.v. de rest van de wereld (lees: VS en China).

[K-2SO]

Dit is dus precies waar ik ook zorgen over heb, de EU is maar regelgeving aan het verzinnen en drukt daarmee enorm op de ontwikkelingen.

[Sorcerer8472]

Aanbevolen films en series op Netflix, met de bedoeling om mensen langer te laten kijken, mogen dan ook niet meer? Waar ligt de grens?

[SuperDre]

Das niet gebaseerd op AI, maar op een gewogen algoritme, of is elk algorithme tegenwoordig ook AI? (Weet dat in de praktijk men nu nog wel eens de term AI gebruikt, terwijl het gewoon een vast algoritme is, en niets van doen heeft met 'echte' AI).

[Sorcerer8472]

Nee, dat is wel degelijk machine learning based content recommendations. Of is dat geen AI?

Een ander voorbeeld zijn de thumbnails, die worden ook via een soortgelijk algoritme gekozen:
https://www.bbc.com/news/newsbeat-45939044

Uiteindelijk gaan al die dingen over statistieken en getallen, de één is alleen complexer dan de ander.

[Wouterie]

Is een LLM dan wel een echte AI? Ook ML is geen echte AI, volgens de meeste definities. ML is een component van een AI en een LLM is weer een toepassing van een generative AI. En om het helemaal leuk te maken maakt een AI gebruik van learning algorithms. Dus ja, hoe gaat de wetgever dit in een vorm gieten? Een zelfrijdende auto maakt gebruik van AI algorithms en zou dus niet het menselijk gedrag mogen beïnvloeden. Dus klaar met de mateloos irritante piepjes en waarschuwingen. De heerlijke rust van het autorijden van vroeger.

[MSalters]

Onzin. ML is een deelgebied van AI, net zoals expert systems. AI is geen nieuw veld, het bestaat al decennia. De recente interesse is omdat ze tegenwoordig veel bruikbaarder zijn dan vroeger. Maar voor definities maakt dat niet uit.

Jouw statement dat "AI gebruikt maakt van learning algoritmes" haalt dus AI en ML door elkaar. Niet alle AI is ML, maar alle ML is AI.

Wat betreft de zelfrijdende (autonome) auto: daar is per definitie geen menselijk gedrag bij betrokken. Advanced Driver Assistance Systems (ADAS) is een ander verhaal, maar dat valt niet onder de verboden AI. Het doel is om de bestuurder van de auto te beïnvloeden, niet om anderen te beïnvloeden.

[Wouterie]

Niemand zegt (in elk geval ik niet) dat AI nieuw is, hoe kom je daar zo bij? ML is een ondersteunende technologie binnen het bredere veld van AI. Hoeverre is het onzin wat ik daarover schreef? ML is niet hetzelfde als AI.

Ik snap werkelijk niet wat jou beweegt om zo fel te reageren op mijn schrijven. Ik haal AI en ML niet door elkaar met dat statement. AI is de overkoepelende term, ML een subset van AI, een technologie daar binnen. ML is niet hetzelfde als AI. AI is het overkoepelende doel om intelligente machines te maken en ML is een techniek of methode om daar te komen. Nergens stel ik dat die twee hetzelfde zijn.

[caspervc]

Goed dat er een basale wetgeving voor AI is. Echter gaan de technologische ontwikkelingen zo snel dat het (zeker voor een logge EU) achter de feiten aanlopen blijft ben ik bang.

De morele discussie over (de gevaren van) AI mis ik nog wel in de samenleving. Wat vinden we als mensen kunnen en mogen? Los van het technisch haalbare?

[kodak]

Wat mis je dan aan discussie? Want deze Europese wetgeving komt voort uit openlijke zorgen, over technologie die nog maar kort bestaat en toepassing die er mee nog maar kort is. Ook valt veel fout gebruik van technologie al onder bestaande wetgeving, Er is zowel discussie over mogelijke aankomende problemen als over bestaande toepassingen.

[wildhagen]

Lijkt me een goed plan dat profilering op oa uiterlijk etc niet meer mag.

Kijk naar de Syri affaire waar dit soort profilering toe kan lijden: nieuws: Overheid stopt met controversieel frauderisicoalgoritme SyRI

Misdaad bestrijden is uiteraard prima, maar het middel moet niet erger worden dan de kwaal. In mijn optiek dan.

Daarom lijkt dit soort regelgeving me een uitstekend plan.

[Sissors]

En waartoe kon dat soort profilering dan leiden in de Syri affaire? Want volgens het artikel is er nooit iemand op basis daarvan veroordeeld voor fraude. Dus erg succesvol was het niet, maar verder heeft het dus vooral nergens toe geleid.

Overigens was nog zo'n controversieel frauderisico algoritme eentje van DUO, want die leek het niet een vreemd idee dat iemand die ver weg van zijn ouderlijk huis studeert, een grotere kans heeft daadwerkelijke op kamers te wonen dan iemand die dicht bij het ouderlijk huis studeert. Daarmee waren wel fraudeurs gepakt, maar dat is allemaal teruggegeven omdat het niet mocht op die manier een fraudeur pakken.

[Reactie gewijzigd door Sissors op 3 februari 2025 18:47]

[masterfragger]

Hoe is AI gedefinieerd in deze regelgeving? Start dat al bij "if .... else?

[Splorky]

Marketing technisch is het IA maar juridisch is het wat anders.

[MSalters]

Elke search engine kan dat vinden.

Zoals gebruikelijk is de EU erg netjes in de structuur wetgeving. De wet heeft gewoon een apart artikel met definities en de allereerste definitie is die van AI:

‘AI system’ means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments;

.
Een simpele if-else voldoet daar niet aan. Een getrainde Decision Tree voert uiteindelijk if-else statements uit om de boom af te lopen, maar is wel degelijk AI.

Voor meer achtergrond staat er bij de wet ook nog een "recital" die achtergrondinformatie verstrekt. Daarin wordt nog expliciet gemaakt waarom jouw if-else er niet onder valt:

... not cover systems that are based on the rules defined solely by natural persons ...

[RevXTND]

De intentie van de AI act is super, en als hij een paar jaar eerder van kracht was geworden was het een prima wet (directive).

Maar in het huidige landschap is het een desastreus ding dat de EU vleugellam maakt qua zowel economie als veiligheid.

Er zijn bijv. nu al, binnen 2 weken, tal van forks en clones van DeepSeek, gehost op private en dark servers waarbij alle ethische beveiligingen en censuur eruit zijn gehaald. Ze zijn ‘unhinged’, en je kan er alles mee doen.

Als je ChatGTP vraagt hoe je het beste een terroristische aanslag kan plegen of een pleur 0days te ontdekken gaat hij dat niet doen. Maar die unhinged DS forks geven ze je keurig en op maat gemaakt, incl een step by step voor implementatie.

TLDR; de aanvallende (‘evil’) AI’s zijn unhinged, de AI’s die we van de EU wel mogen gebruiken zijn streng gereguleerd en gelimiteerd. What could possibly go wrong…

[MSalters]

De bulk van de censuur op DeepSeek is gebeurd op de trainingsdata. Dat kun je er niet uit slopen, want dat is simpelweg missende informatie.