Europese AI Act is aangenomen en treedt over twee jaar in werking

De Artificial Intelligence Act treedt over iets meer dan twee jaar daadwerkelijk in werking. De Raad van de Europese Unie heeft de laatste goedkeuring deze week gegeven. Met de regulering moet het duidelijker worden wat wel en niet mag met kunstmatige intelligentie.

Nu de AI Act is goedgekeurd door de lidstaten van de Europese Unie, gaat de wet volgende maand van kracht. Makers van kunstmatige intelligentie hebben daarna twee jaar de tijd om aan de verordening te voldoen. Wat AI-makers moeten doen, hangt af van de risico's van het model.

Kunstmatige intelligentie die volgens de EU weinig risico's met zich meebrengen, moeten bijvoorbeeld transparant zijn over het gebruikte model. Dat terwijl 'hoogrisico-AI-systemen' alleen ingezet mogen worden als er logs worden gebruikt, ze nauwkeurig zijn en de risico's worden beperkt. Hierbij is ook menselijk toezicht verplicht. Het gaat om AI-systemen die bijvoorbeeld in kritieke infrastructuur, onderwijs, werk of essentiële maatschappelijke diensten worden gebruikt.

AI-systemen die gedachten en het gedrag van mensen moeten beïnvloeden, zijn daarnaast verboden. Dit geldt ook voor AI-systemen voor sociale scores. Politiediensten mogen kunstmatige intelligentie ook niet inzetten om aan voorspellend politiewerk te doen en AI-systemen mogen biometrische gegevens niet gebruiken om mensen in specifieke categorieën zoals ras, religie of geaardheid te plaatsen.

Om ervoor te zorgen dat organisaties zich aan de regulering houden, komt er onder meer een AI Office en een AI Board die de Europese Commissie gaan helpen. Daarnaast komt er een panel van onafhankelijke experts en een adviesforum waar belanghebbenden technische expertise kunnen aandragen voor de AI Board en de Commissie. Bedrijven die zich niet aan de regulering houden, riskeren boetes. De hoogte daarvan wordt bepaald aan de hand van de wereldwijde jaarlijkse omzet van dat bedrijf.

Reacties (81)

[The Zep Man]

Bedrijven die zich niet aan de regulering houden, riskeren boetes. De hoogte daarvan wordt bepaald aan de hand van de wereldwijde jaarlijkse omzet van dat bedrijf.

Dus we krijgen dezelfde cowboymarkt als met de GDPR (AVG). De eerste tik op de vingers calculeer je gewoon in bij het overtreden van de verordening. Tot die tijd is het harde winst draaien.

[Reactie gewijzigd door The Zep Man op 23 juli 2024 02:24]

[The_Woesh]

GDPR is op wetgeving gebied toch echt wel een standard en een voorbeeld voor andere niet EU landen.

Het is ook geen markt, want er is geen vraag en aanbod. Wat er wel gebeurde is dat omdat het toezicht bij landelijke toezichthouders was belegd er verschillen ontstonden in handhaving waardoor het een chaos lijkt.
Bij nieuwe wetgeving zoals de DMA of nu de AI Act is daar van geleerd en wordt er een centrale toezichthouder opgericht (voor de grote internationale bedrijven).

[morpheus-nl]

Er is een hele grote markt voor persoonsgegevens, dus die markt is er wel degelijk.
Of je bedoeld dat gedeelte anders of het klopt niet wat je zegt. Wellicht kan je het nog meer toelichten?

[The_Woesh]

Het punt was dat GDPR een cowboy markt werd genoemd. Maar een wet of in dit geval een directive is geen markt, het zijn gewoon de spelregels die opgelegd worden.
Ja er is een markt voor persoonsgegeven en als deze verzameld of gebruikt worden in overtreding met de GDPR dan is dat een illegale markt. Dat dit heeft niet zozeer met wetgeving te maken maar met toezicht en handhaving.

[morpheus-nl]

Dat is ook wat The Zep Man bedoelde volgens mij. Niet zozeer de wet/directive zelf noemt hij een cowboymarkt, maar de markt die door de wet gereguleerd moet worden en wat het effect was binnen die markt.

Zoals hij aangaf, er waren dus partijen die de boetes hebben ingecalculeerd en bewust het risico hebben genomen omdat het ze meer opleverde uiteindelijk. Daar doelde hij op met cowboymarkt.

[The Zep Man]

Bij nieuwe wetgeving zoals de DMA of nu de AI Act is daar van geleerd en wordt er een centrale toezichthouder opgericht (voor de grote internationale bedrijven).

Of mijn gegevens worden misbruikt door een groot internationaal bedrijf of door een kleine lokale speler maakt voor mij niet een verschil. Mijn gegevens worden misbruikt.

Bij de AVG is er een bias in het nieuws voor overtredingen door grote bedrijven. Dat maakt het risico van kleinere bedrijven die over de grens gaan niet minder.

[Reactie gewijzigd door The Zep Man op 23 juli 2024 02:24]

[Joop]

Dit is echt weer zo'n negatieve zeik houding. Het begint bij duidelijke spelregels maken. En als deze regels er niet zouden komen, dan was (bleef) het nog veel erger. Dat er nog steeds entiteiten zullen zijn die zich niet aan de wet houden, zal je altijd houden (op welk gebied dan ook). Crimineel noemen we dat. Daarvoor is handhaving en justitie. Daar moet dus óók aan worden gewerkt, maar dat kán niet als er geen regels zijn!

Compleet onzinnige reactie dus, die helemaal niet toe voegt.

[barbarbar]

De EU kan volgens mij niet zelfstandig strafvervolging doen met celstraffen, dus krijg je dat alles als economisch delict gezien wordt met geldboetes. Dat zal door de bedrijven ingecalculeerd worden. Hopelijk gaan de lidstaten dit ook omzetten naar wetten waar celstraffen opstaan, en bestuurders dan ook werkelijk opsluiten bij overtreden. Dat lijkt me een stuk beter als stok om mee te slaan, want je kunt er vanuit gaan dat bedrijven nu gewoon de randjes gaan opzoeken, zoals je ook ziet gebeuren bij de andere EU wetten waar alleen geldboetes opstaan.

[casd18]

Hoog tijd dat ze bij dit soort praktijken gewoon de directies aansprakelijk stellen en een tijd laten brommen. Zolang het rendabel is de wet te overtreden heeft een boete natuurlijk totaal geen zin.

[Tintel]

AI-systemen die gedachten en het gedrag van mensen moeten beïnvloeden, zijn daarnaast verboden.

Dat is toch precies wat social media doet...al noemden ze het toen geen AI? Dus FB is over 2 jaar echt verboden....?

En jouw opmerking geldt dus al lang idd - "foei! .... en door..."

[Auredium]

Moeilijk moeilijk weer.

AI-systemen die gedachten en het gedrag van mensen moeten beïnvloeden, zijn daarnaast verboden.

Ieder AI systeem valt feitelijk onder deze wet. Bovendien blijft het lastig om manipulatie door Rusland en China tegen te houden (ook zonder AI).

Begrijp mij niet fout. Ik vind het goed dat er wetgeving komt want AI stelt in staat tot een hele, hele hoop goede en slechte gebruikspatronen van mensen. Maar ik denk dat deze wet eerst goed aan de praktijk moet worden getoetst en bijna zeker hier en daar zal worden bijgeschaafd.

[HenkEisDS]

Mijn eerste gedachte ook, dus als ik ChatGPT gebruik om een email te versturen dan is dat verboden? Maar zoals ik al vermoedde is het weer eens slecht vertaald/overgenomen. In de gelinkte bron staat het anders omschreven.

AI systems such as, for example, cognitive behavioural manipulation and social scoring will be banned from the EU because their risk is deemed unacceptable.

En als je kijkt naar een (concept)voorstel van de wet dan zie je dat het wel meevalt.
[...] niet als AI-systeem met
een hoog risico beschouwd wanneer het geen significant risico op schade voor de
gezondheid, veiligheid of de grondrechten van natuurlijke personen inhoudt, onder meer
doordat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt.
[...] is van toepassing wanneer aan een van de volgende voorwaarden is
voldaan:
a) het AI-systeem is bedoeld om een beperkte procedurele taak uit te voeren;
b) het AI-systeem is bedoeld om het resultaat van een eerder voltooide menselijke
activiteit te verbeteren;
c) het AI-systeem is bedoeld om besluitvormingspatronen of afwijkingen van eerdere
besluitvormingspatronen op te sporen en is niet bedoeld om de eerder voltooide
menselijke beoordeling zonder behoorlijke menselijke toetsing te vervangen of te
beïnvloeden; of
d) het AI-systeem is bedoeld om een voorbereidende taak uit te voeren voor een
beoordeling die relevant is voor de in bijlage III vermelde gebruiksgevallen.

[singingbird]

Zat ik ook aan te denken, wat valt daar precies onder? Gerichte advertenties zijn ook een algoritme (is dat een AI?) en bedoeld om het gedrag te beinvloeden van mensen, namelijk het aanschaffen van een product of dienst.

[casd18]

Ik zou best vóór een verbod op advertenties zoals die nu worden ingezet.

[--Andre--]

Dat zou fijn zijn, maar ik heb zo mijn twijfels of dat er ooit zal komen.

[casd18]

Ik acht de kans ook erg klein

[MSalters]

Ik denk dat elke advertentie-verkoper een jurist aan het werk zal moeten zetten om de concrete uitwerking te toetsen. Zoals je al vermoedt ligt dit op de grens, waarbij sommige mogelijke implementaties legaal zijn en anderen niet. Een algemene conclusie is dus onmogelijk.

[vinno97]

Deze vraag hoor/stel ik iedere keer als het binnen ons bedrijf over de AI act gaat maar niemand lijkt het te weten. Onze consensus lijkt dat het (bewust?) vaag is en enkel van toepassing kan zijn bij zaken als opzettelijke (valse) informatiecampagnes. Vele Tweakers zouden bedrijven als Facebook, Google, en ook zeker TikTok hier ook bij gooien, maar hun doel is toch vooral commercieel ipv maatschappelijk.

[iPadawan]

Snap niet dat het twee jaar moet duren, waarom niet 6 mnd voor nieuwe projecten en 9 mnd voor bestaande projecten.

[J_van_Ekris]

Snap niet dat het twee jaar moet duren, waarom niet 6 mnd voor nieuwe projecten en 9 mnd voor bestaande projecten.

Als ik naar de andere berichtgeving kijk dan zie ik een veel genuanceerdere invoering:

• December 2024 een verbod op Onaanvardbare AI
• Juni 2026 algemene toepassing AI act
• Juni 2027 van toepassing op hoog risico AI

Dus die twee jaar komt al met wat nuance.

[surfin]

Kijk, dit voegt wat toe!
Wat zou de logica zijn achter het als laatste verbieden van hoog-risico AI?

[J_van_Ekris]

Het is niet het verbieden van hoog risico AI, maar het uitvoeren van risico analyses, inrichten kwaliteitssystemen etc. Dat is de hoek waar het meeste werk zit voor een organisatie. Dus ik vermoed dat men organisaties de tijd wil geven dit daadwerkelijk op te pakken.

[JDx]

Waarom niet 3 en 6? Of 1 en 2?

Dingen als "wetten" doorvoeren, zeker voor al bestaande bedrijven doe je niet zo even snel snel volgens mij, verder vraag ik me af wat ze bedoelen met AI-makers, de makers van Stable Diffusion of de makers van content?

[Reactie gewijzigd door JDx op 23 juli 2024 02:24]

[Jefrey Lijffijt]

De definitie van AI is heel breed gehouden, met de intentie dat het voor alle AI geldt. Waar je aan moet voldoen hangt van de toepassing af en het risico dat AI in die toepassing teweeg brengt.

Er is zeker tijd nodig om het nog in detail uit te werken, bijvoorbeeld bij concepten zoals 'transparantie', 'privacy', 'uitlegbaarheid van beslissingen' en 'non-discriminatie' moet de vraag "wat is goed genoeg?" nog in veel meer detail worden uitgewerkt. Er liggen daar nog geen uitgewerkte voorstellen voor klaar, ze zijn nu een AI Office bij elkaar aan het brengen die dat moet doen en ook de controle moet gaan uitvoeren.

[JDx]

Ja ik had dat laatste stukje net weggehaald, ze houden het idd heel breed. Beeldmateriaal van bijvoorbeeld een overval zal tegenwoordig ook al heel goed onderzocht moeten worden of het echte beelden zijn of AI.

[Guru Evi]

Wel, ze bedoelen hierbij dus enkel op EU bedrijven of bedrijven die een nexus hebben in de EU. Daarbuiten (eg. UK, VS, China, N. Korea etc) kan de EU niets aan doen en daarom/daardoor zitten alle high-tech bedrijven natuurlijk in die landen en de successen binnen EU bedrijven voldoen zich meestal ook buiten de EU grenzen.

[Orangelights23]

Heb je een idee van de bureaucratie van overheden in Europa? Daar gaan maanden overheen.

Sterker nog, NIS2 is vanaf oktober dit jaar van kracht en Nederland is 1 van de weinige landen waar er nu pas een consultatie is, met als gevolg dat Nederland, wederom als 1 van de weinig landen, pas in Q3 ‘25 aan naleving kan doen.

[stekkel]

Omdat het tijd kost om Europese richtlijnen om te zetten in nationale wetgeving. Dus voor Nederland moet er eerst een wetsvoorstel komen, goedkeuring 2e kamer, 1e kamer.

Zo geldt dat voor alle Europese richtlijnen.

[MSalters]

Voor richtlijnen, ja. Maar dit is een verordening. Directe werking, ook zonder nationale wetgeving.

[markg85]

Maar serieus, waarom zou een bedrijf wat actief is in AI zich nog in de EU willen vestigen met dit soort regels?

Stel even je maakt een nieuwe killer app met veel AI. Of je maakt een nieuw revolutionair model. Onder deze regels is de EU geen prettige plek voor je bedrijf. Met een beetje pech wordt je met boetes je faillissement in geholpen.

[phoenix2149]

Mooi dan doen ze dat toch niet? Brakke AI, of AI welke ons gedrag willen beinvloeden, hebben we hier niet nodig.

Ik vind regulering van bedrijven alleen maar goed. Keer op keer is gebleken dat we ze niet kunnen vertrouwen om het beste voor te hebben met de consument en/of maatschappij.

[JakkoFourEyes]

Wat maakt deze wetgeving onprettig voor bedrijven dan?

[Vordreller]

Niks, hij lult maar wat.

Waarschijnlijk niet eens het artikel gelezen. Enige verbod is op poging menselijk gedrag te beïnvloeden. Andere apps mogen AI gebruiken en moeten transparant zijn daarin.

Daar is niks mis mee

En dan begint dit persoon over "een nieuwe killer app". En over bedrijven die zich niet meer in de EU zouden willen vestigen...

Gewoon buzzwords. Typische libertair geklaag: Er zijn regels beslist, uitgelezen kans om te beweren dat de staat industrie verstikt met regels. Wat zijn de regels? Niet gelezen.

[Reactie gewijzigd door Vordreller op 23 juli 2024 02:24]

[markg85]

Ik had een oprechte vraag over een gelezen artikel. Ik heb niets tegen regels maar wel tegen hype van de dag regelgeving die bij security puristen als jij goed vallen. Waarom je überhaupt reageert als je niets toevoegt is me een raadsel.

Ik kan me zomaar voorstellen dat deze regels voor een bedrijf wat ai modellen maakt, zoals de maker van Mistral wat een Frans bedrijf is, beperkend kan zijn.

Sterker nog, juist Mistral ai heeft een grote vinger in de pap gehad om precies deze ai act af te zwakken! Google maar op "Mistral ai on ai act". Al ga ik ervan uit dat jij met je enorme eigendunk dat natuurlijk al wist.

[JakkoFourEyes]

Ik had een oprechte vraag over een gelezen artikel

Hoewel ik de reactie van Vordreller op mijn vraag aan jou wat overdreven vind, ben ik het hier niet zo mee eens.
Jouw vraag:

waarom zou een bedrijf wat actief is in AI zich nog in de EU willen vestigen met dit soort regels?

ging er al van uit dat de regels te beperkend waren zonder aan te geven wat er zo beperkend was, waardoor het lijkt alsof je uberhaupt tegen de regelgeving bent. Vandaar mijn vraag wat deze regels onprettig maakt.

Sterker nog, juist Mistral ai heeft een grote vinger in de pap gehad om precies deze ai act af te zwakken!

Is dat juist niet positief? Een lokaal bedrijf kon mee praten over de regulering waardoor het voor bedrijven dus prettigere regelgeving is geworden. Dit geeft geen omprettigheden aan aan de uiteindelijke nieuwe wet.

[markg85]

Of ik zie spoken in het artikel of de rest ziet het niet.

Dat terwijl 'hoge risico AI-systemen' alleen ingezet mogen worden als er logs worden gebruikt, ze nauwkeurig zijn en de risico's worden beperkt.

... wat door gaat in menselijk toezicht.

Dit houd, van overheidswege en verplichte, monitoring in! Sinds wanneer is dat wenselijk? Mogen er geen anonieme AI diensten meer bestaan? Nou weet ik niet wat ze verstaan onder high risk dus mogelijk is het ook in mijn ogen echt high risk.

[JakkoFourEyes]

Dat is afhankelijk van wat voor logging dit over gaat. Als het gaat over logging over wat de AI uitspuit (meest waarschijnlijke), heeft dat niks met anonimiteit van doen. Met hoge risico AI systemen wil je m.i. goed kunnen zien hoe het tot z'n antwoorden komt (monitoren dus). Persoonlijke informatie van de gebruiker valt daar niet echt onder. Hooguit het account of IP-adres. Standaard access logs dus. Logging/monitoring is niet hetzelfde als privacy brekende tracking.
Maar mocht dat wel zo zijn, zie ik niet hoe het onprettig is voor bedrijven, die maar al te graag meer data willen.

[Krommetenen]

EU is een markt dus je vindt wel een weg en anders is er wel ern concurrent of een dienstverlener.
En waar een markt is, is €€€ ongeacht de initiële keuze voor ern buurland aantrekkelijker is.
Het Unilever en ASML hoofdkantoor gedoe is dus eerder een keuze waar men met de regels de was buiten hangt. Het wassen en wasgoed verdwijnt niet.

[Wozmro]

Bedrijven hebben veel liever een degelijk wettelijk kader waar ze binnen kunnen opereren.

- Als je jaren aan iets werkt dan wil je een stabiele omgeving.
- Als je concurrenten zaken beginnen te doen die niet door de Beugel kunnen dan wil je daar tegen kunnen optreden.

Rechtszekerheid is een belangrijke factor als je geld wil verdienen.

[NotWise]

Je kan zelf als EU allemaal mooie regels maken w.b.t. AI. Het probleem is echter dat er landen zijn daar maling aan hebben.

[MSalters]

Er zijn ook landen met een lagere standaard voor voedsel.

Het idee hierachter is het "Brussel effect". Deze regels gelden voor een hele grote merkt, en bovendien, als je hier aan voldoet, dan is je product in nog veel meer niet-EU landen automatisch ook OK. Is het dan nog de moeite waard om een non-EU variant te maken, of ga je voor simpliciteit en houd je je wereldwijd aan de EU regels?

[NotWise]

Voor bepaalde aspecten ben ik het met je eens.

Het zijn de dingen zoals "AI-systemen die gedachten en het gedrag van mensen moeten beïnvloeden, zijn daarnaast verboden. Dit geldt ook voor AI-systemen voor sociale scores. Politiediensten mogen kunstmatige intelligentie ook niet inzetten om aan voorspellend politiewerk te doen en AI-systemen mogen biometrische gegevens niet gebruiken om mensen in specifieke categorieën zoals ras, religie of geaardheid te plaatsen."

Dit kan je tot op zekere hoogte binnen de EU bepalen. Echter een land als China of Rusland (die nu al van alles doen om onze democratie te ondermijnen) zullen zich niet aan dit soort restricties houden. Het gevaar dreigt dat de EU toch wordt meegezogen in een wapenwedloop.

[Knijper1962]

Enerzijds denk ik : te laat.
Anderzijds loopt volgens mij Europa wel weer voorop.
Zal mij benieuwen of er voor Europa andere regels gaan gelden, of dat de rest van de wereld volgt.

[Orangelights23]

Te laat voor wat precies? En in welke hoedanigheid loopt Europa voorop? Qua wetgeving zeker, maar qua AI ontwikkeling en implementatie lopen we flink achter, juist vanwege de wetgeving.

Ik ben overigens blij met dit soort stappen, Europa is er ook op dit gebied om burgers te beschermen. Maar zoals met elke nieuwe innovatie wordt verdere adoptie afgeremd, wat ook bewust meegenomen mag worden.

[phoenix2149]

Ik vind het achterlopen op AI niet zo slecht eerlijk gezegd.

Een AI voor een (vaat)wasmachine die analyseert hoe vies het afvoerwater is om zo het programme te verlengen of verkorten, is iets wat je IMHO snel kunt implementeren.

Een AI die een voorspelling doet van een diagnose, mag van mij behoorlijk aan de tant gevoeld worden met strikte bewijsvoering.

Een AI die autonoom rijden faciliteert, mag van mij behoorlijk aan de tant gevoeld worden met strikte bewijsvoering.

Sure dit levert misschine "vertraging" op maar ik vind dat dit alleen maar de betrouwbaarheid ten goede komt/moet komen.

Dat gaat tevens samen met de verantwoordelijkheidsvraag. Wie is er verantwoordelijk als de AI een beslissing maakt die levens (kan) gaan kosten?

[GurbieV]

1 tand, 2 tanden.

Dus tand zou ik met een d schrijven.

Voor de rest eens trouwens.

[graey]

We lopen echt niet achter vanwege wetgeving; in de VS is de AI-wetgeving echt niet zo ingericht dat daardoor bijv. OpenAI van de grond is gekomen. We lopen eerder achter vanwege de manier waarop startups, investeringen, kapitaal, faillissement en arbeidsrecht zijn ingericht, en dat heeft voors en tegens.

[B_FORCE]

Ik heb maar zeer zelden wetgeving gezien dat niet te laat was.

Zelfs als allerlei wetenschappelijke instanties bepaalde dingen roepen, moet men blijkbaar eerst de pijn voelen om het te begrijpen.

Overigens is dat al eeuwen zo.
Toen de auto was uitgevonden moesten er ook eerst (verschrikkelijke) ongelukken gebeuren voordat men begreep dat verkeersregels en een rijbewijs een goed idee was.

[Robbaman]

Nu is het natuurlijk ook weer zo dat je pas weet wat voor regels je überhaupt nodig hebt als je tegen wat dingen aangelopen bent. Om bij voorbaat alle technologische ontwikkelingen waarvan je denkt dat het in de toekomst mogelijk een probleem gaat worden regels te bedenken is natuurlijk veel te veel werk.

Nu gaat het ineens heel hard met AI, maar het is nog niet zo heel lang geleden dat het nog best twijfelachtig was of het ooit nog wat ging worden. Terwijl bijvoorbeeld voor zelf rijdende auto's al best een hoop (misschien zelfs wel te veel) regels zijn, zonder dat er ook maar 1 zelf rijdende auto te koop is.

[Guru Evi]

Veel verkeersregels hebben echter weinig met veiligheid van de gemeenschap te maken en daarnaast moeten auto's ook door een hele evolutie alvorens 'veilig' bevonden te worden. Veel van de regels zijn niet om mensenlevens te redden maar om boetes te kunnen opleggen, een zone die van 25 naar 50 naar 25 gaat in 1km rechte baan is om de flitspaal te spekken. De 120km/h limiet komt niet om de veiligheid (de data hierom is duidelijk dat het omgekeerd effect heeft) van de olie crisis, eind-to-eind een probleem veroorzaakt door de overheden en opgelost met boetes (aka belastingen). Net zoals sigaretten en benzine duur maken niemand afwendt om te roken of te rijden, maar het spekt wel de koffers van de regering. Een helm op een bromfiets is dan wel verplicht maar veel tieners die nog steeds zonder rijden, en dat schaadt niemand naast de persoon die die beslissing maakt.

Een auto van vandaag is niet te vergelijken ivm veiligheid van 50 jaar geleden en dit is allemaal zonder wetgeving, want iemand moet eerst de kreupelzone uitvinden alvorens de wet een last kan opleggen dat een kreupelzone nodig is en tegen dat de wet effectief intreedt heeft de markt al het volgende uitgevonden en de mensen kopen adhv hun eigen waarden.

En uiteindelijk krijg je dan het averechts effect waar bepaalde dingen zoals autonoom rijden veel mensenlevens kan besparen maar het mag niet want het is nog niet goedgekeurd en als er 1 ongeval plaatsvindt moet het direct afgeschakeld worden want we zijn collectief bang van wat we niet weten terwijl zelfs een incrementele verbetering niet 'goed genoeg' is.

Mensen en de wet maken geen beslissingen op statistische verbeteringen, enkel zwart en wit.

[Reactie gewijzigd door Guru Evi op 23 juli 2024 02:24]

[casd18]

Enerzijds denk ik : te laat.
Anderzijds loopt volgens mij Europa wel weer voorop.

Dit is altijd lastig, was de EU eerder met regelgeving gekomen dan hadden mensen weer moord en brand geschreeuwd dat ze innovatie in de weg staan en dat de overheid zich niet moet bemoeien met de vrije markt. etc.etc. Beleidsmakers in onze systeem lopen in dat opzicht altijd achter de feiten aan en bedrijven zoeken steeds weer de grens op.

Puur vanuit de menselijke maat gekeken had AI altijd aan zeer strenge controles en regels moeten voldoen. nog een stapje verder en het te pas en te onpas algoritmes en dark patterns gebruiken om de consument maar zoveel mogelijk te laten consumeren en manipuleren had nooit normaal moeten worden.

Wat mij betreft mogen de regels nog veel strenger wat dit soort zaken betreft, en de straffen ook behoorlijk hoog.

[Verwijderd]

Het maakt nu niet meer uit of het te laat is of niet, of er regels voor komen of niet. De kat is uit de zak,
De ontwikkelingen gaan razendsnel en zijn niet meer te stoppen, niet door wetten of regels en zeker niet meer door jou en mij.

Nog een jaar en er zal bijna niets meer zijn waarvan je kunt zeggen "Hé, dat is nep of dat is echt."
Vermoedelijk eerder, maar het feit ligt er nu al, dat iets dat door AI is gecreëerd nauwelijks nog van echt is te onderscheiden.

Misschien zie ik dingen wel veel te zwart

[PeterDons]

De EU legt zichzelf beperkingen op terwijl de rest van de wereld gewoon doordraait. Voelt een beetje aan als 28 miljard investeren om 0,00003 graden temperatuur verlaging te bewerkstelligen terwijl ze in China vrolijk kolencentrales bijbouwen.

[Wilglide]

Dat mag je vinden, maar niks doen is bewezen nog veel duurder op de lange termijn. Goed voorbeeld doet volgen. Mag men hopen. Die kolencentrales worden gewoon gebouwd om hun, maar ook zeker onze eigen consumptiedrift bij te kunnen houden. Is een eerlijker verhaal naar mijn mening.

[jibjqrkl]

Helaas even niet de tijd om zelf op onderzoek te gaan, maar wat is volgens de EU eigenlijk de definitie van AI?

[gimbal]

Die definitie gaat toch wel een momentopname zijn. Alles waarvan men nu roept dat het AI is, is nog helemaal geen AI. De intelligentie ontbreekt nog in zijn geheel. Het enige wat we nu hebben zijn complexe en bewonderswaardige maar zeer incomplete bouwblokjes die op den duur zeker gaan bijdragen aan een echte AI. Maar we leven bij lange na nog niet in het tijdperk wat the Jetsons deed uitbeelden.

En dat is de rattenrace die we nu ingaan, de techniek gaat de wetgeving met regelmaat achter laten lopen.

[mjtdevries]

De definitie is bewust heel breed gemaakt. Dus ook alles waarvan men nu roept dat het AI is valt al onder die definitie.
Zelfs dingen waarvan niemand roept dat het een AI is, maar die wel aanbevelingen doet of beslissingen maakt vallen er onder.

“artificiële-intelligentiesysteem” (AI-systeem): software die is ontwikkeld aan de
hand van een of meer van de technieken en benaderingen die zijn opgenomen in de
lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde
doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of
beslissingen die van invloed zijn op de omgeving waarmee wordt geïnterageerd;

En juist doordat ze een brede definitie hebben gemaakt gaat deze wetgeving dus helemaal niet achter lopen.
Misschien moet je wat meer gaan lezen over de wetgeving.

[MazDaMan1970]

Snap dat nieuwe wetgeving tijd kost, maar over 2 jaar is het al te laat, gezien de razendsnelle ontwikkelingen op AI-gebied. Nu al worden bijvoorbeeld verkiezingen beinvloed door AI & gebruiken oplichters al volop AI.

[gimbal]

Het is al te laat. Lekker belangrijk wat bedrijven gaan doen, er is totaal geen wetgeving over wat "de mens" gaat doen en nu al doet. Met de intrede van het internet deden we al een flinke stap achteruit en dit is de volgende fase van verpaupering.

Met de intrede van het internet was er al een erg merkbare terugloop in hoeveel waarde men deed hechten aan juiste informatie. Gemakzucht brokkelt dat stevig af, men vind het veel meer belangrijk om snel een antwoord te hebben. Of dat maar een half antwoord is dat is eigenlijk minder relevant, het moet snel zijn en informatie controleren en aanvullen dat kost veel tijd en moeite. Met een websearch heb je tenminste nog wel de mogelijkheid om de juiste keuze te maken en meerdere bronnen te controleren. Maar of mensen dat nog echt doen, zeker na de intrede van internet op de mobiele telefoon...

Hoe zou de mens zich gedragen na een jaar of twee ChatGPT gemakzucht?

[Krommetenen]

De wetgeving maakt een groep anders van een op de andere dag “crimineel” dikwijks er net als de langstudeerboete de doelpalen midden in het spel worden verplaatst. Er ook ruimte moet blijven voor een grijs gebied.
Uitstel door ziekte in het studeervoorbeeld of bewijslast vaststellen voor de aanklager of verdediging wanneer een AI is ontwikkeld voor beïnvloeding. Of geldt het voor de producten / eindresultaat waar een AI slechts een middel is?
Is het een object wat gebruikt is in een strafbaar feit?
Of is het strafbaar om het middel te bouwen of gebruiken voor het produceren van objecten die “kunnen” worden gebruikt voor….

In het begin zagen we ook ontwikkelaars in een cyberkruistocht in het nieuws en waren Whitehatters of klokkenluiders in IT een onbekend fenomeen in de ogen van de wet

Is een autofabriek strafbaar voor een dodelijk ongeval?
Of ziet men een AI als een bestuurder / een onveilig product van de autofabrikant?

Op een op de andere dag een grote groep autofabrikanten crimineel maken? Mwa 2 jaar vind ik redelijk hoor?

[Reactie gewijzigd door Krommetenen op 23 juli 2024 02:24]

[cheetahrunout]

Hierbij is ook menselijk toezicht verplicht. Het gaat om AI-systemen die bijvoorbeeld in kritieke infrastructuur, onderwijs, werk of essentiële maatschappelijke diensten worden gebruikt.

Dus de zelfrijdende auto zonder toezicht obv AI (Tesla) zit er voorlopig niet in. Het lijkt erop dat deze wetgeving daar voor gaat liggen. Nu was het altijd nog maar de vraag in hoeverre dat in europa doorgang zou vinden. Maar dat lijkt dus nu extra lastig te worden.

[ASNNetworks]

Ligt er aan hoe 'menselijk toezicht' is gedefinieerd. Een Tesla auto zonder bestuurder die als taxi werkt en mensen ophaalt kan menselijk toezicht hebben dmv een camera en sensoren. Dus remote "taxi chauffeurs" die zo 5 auto's tegelijk in de gaten houden. Soort van security die op afstand de boel in de gaten houdt via camera's.

[Rhaegar1]

Weet nog steeds niet helemaal wat ik er van vindt. Aan de ene kant is het belang van het beschermen van burgers tegen de uitwassen van nieuwe technologie en goed ding. Aan de andere kant loopt Europa hopeloos achter in alle AI ontwikkelingen en in de tech sector in het algemeen. Een het eerste wapenfeit is dat we het moeilijker maken voor bedrijven om in Europa ontwikkelingen door te voeren. En dan heb je nog van die Europarlementariërs die het lef hebben om te stellen dat Europa hiermee de standaard zet. Europa heeft als eerste regels maar de standaard bij technologische ontwikkelingen wordt toch echt gezet door de bedrijven en personen die die nieuwe technologie uitvinden, ontwikkelen en op de markt zetten. Als regulator heb je een bescheiden rol in het vast stellen van randvoorwaarden, that's it.

[aquinox]

En wat bij gebruik van video en fotomateriaal waarbij het levensonderhoud van filmmakers ingepikt wordt? Denk aan Sora en google dat samen met shutterstock etc videos scant voor hun AI algoritmes, waarbij de makers niet of gering eenmalig vergoed worden, en vervolgens AI het onbeperkt kan genereren en blijvend betaald daarvoor zal krijgen?

[Krommetenen]

Een filmmaker kan met een AI nu 20 films maken in dezelfde tijd.
Als een artiest oldskool wil produceren, doet dat dan met de kennis dat ie meer inkomsten misloopt.

Tja wij kopen ons brood ook bij de super wanneer de ambachtelijke bakker niet open is op koopzondag. Noem het diefstal of ontwikkeling en concurrentie.

De consument moet ook na gaan denken wat ie voor een te genereren filmpje over heeft.
Ik betaal nog liever voor bioscoopkaartje voor een Pixar film. Maar wanneer er 120 varianten van hetzelfde film bestaat? Dan betaal ik liever minder en kijk ik thuis.

[Reactie gewijzigd door Krommetenen op 23 juli 2024 02:24]

[aquinox]

Oh, vertel mij hoe? Volgens mij kan AI nog vrij weinig met editing decisions en herkennen wat je zou kunnen willen. Ik breng graag minder tijd achter mijn beeldscherm door. Het gaat erom om de generatie van videocontent op basis van o.a. mijn content, waar ik en andere makers geen stuiver van terugzien, maar techgiganten lekker op gaan cashen.

[MSalters]

We hebben al 25 jaar jurisprudentie dat spellcheckers het werk van editors deels overbodig maken. De EU gaat niet garanderen dat jouw baan uitgezonderd wordt van concurrentie, tenzij daar goede inhoudelijke redenen voor zijn (zie de hoog-risico gebieden in het artikel)

[aquinox]

Ja, maar taalkundige correctheid checken is wat anders als AI ons creatieve werk benut om vervolgens kopien/derivaten daarvan te maken en ons geen aandeel daarin geeft. Dat is dan diefstal. En daar moet een voorziening voor komen.

Correctheid van taal verifieren is niks creatiefs aan, dus je vergelijking slaat mank.

[Reactie gewijzigd door aquinox op 23 juli 2024 02:24]

[MSalters]

Dat je werk als "creatief" beschreven wordt maakt het dus niet immuun voor automatisering, het heeft alleen een paar decennia langer geduurd. Met het woord "diefstal" gooi je het op de emotie, maar dat helpt niet.

Creativiteit is gewoon een vaardigheid op de arbeidsmarkt, en niet één die bijzondere bescherming verdient tegen automatisering.

[aquinox]

Wel als mijn werk als basis wordt gebruikt om dit te kunnen reproduceren met eventuele aanpassingen voor anderen en dit vermarkt wordt zonder mij te vergoeden. Dat heet plagiaat.

[Reactie gewijzigd door aquinox op 23 juli 2024 02:24]