Europees Parlement stemt voor invoering van AI-wetgeving

Het Europees Parlement heeft het voorstel van de Europese Commissie over de Artificial Intelligence Act met een ruime meerderheid goedgekeurd. Deze wetgeving moet garanderen dat AI-systemen die in Europa worden gebruikt, veilig zijn en aan strenge eisen voldoen.

Woensdag stemde het Europees Parlement over de AI Act, een wetsvoorstel dat in 2021 werd ingediend door de Europese Commissie. 499 stemmen waren voor de wet, 28 waren tegen en 93 Europarlementariërs onthielden zich van een stem, schrijft de EU-instelling. Wel heeft het EP een aantal wijzigingen in de wet aangebracht. Later op de dag begint het parlement onderhandelingen met de Europese Raad over de definitieve versie van de wet. Het doel is dat er voor het eind van het jaar een overeenkomst wordt bereikt met de EU-lidstaten. De wet kan in dat geval op zijn vroegst in 2026 ingaan, omdat de AI Act een omzettingstermijn van twee jaar heeft. Desalniettemin wordt het mogelijk de eerste alomvattende AI-wet.

Als de AI Act in werking treedt, moeten AI-systemen die in Europa opereren, aan verschillende regels voldoen, afhankelijk van het risiconiveau waarin de EU ze indeelt. Systemen die worden gebruikt voor 'sociale scores', zoals beveiligingscamera's met automatische gezichtsherkenning, worden gezien als een onaanvaardbaar risico en daarmee geheel verboden. Daartoe behoren ook onder meer 'voorspellende politiesystemen die gebaseerd zijn op profiling, locatie of een verleden van crimineel gedrag'.

Daarna komen AI-systemen met een 'hoog risico', zoals 'systemen die gebruikt kunnen worden om kiezers en de uitslag van verkiezingen te beïnvloeden'. Daaronder vallen bijvoorbeeld systemen die socialemediaplatforms met meer dan 45 miljoen gebruikers inzetten om content aan te bevelen. Dergelijke AI's zijn onder de Artificial Intelligence Act enkel toegestaan onder strenge voorwaarden.

Daarnaast komt er een categorie voor 'AI voor algemeen gebruik'. Daaronder vallen generatieve-AI-modellen als ChatGPT. In eerste instantie waren er in de AI Act geen regels opgesteld voor dergelijke systemen, maar het EP wil dat zulke modellen na invoering van de wet eerst moeten worden geregistreerd in een EU-database en dat ze 'mogelijke risico's zoveel mogelijk trachten te beperken'. Ook moeten ze voldoen aan bepaalde transparantie-eisen, zoals openbaar maken dat de content door AI is gegenereerd en 'helpen om deepfake-afbeeldingen van echte afbeeldingen te onderscheiden'. Tot slot moeten ze duidelijk maken welk auteursrechtelijk beschermd materiaal voor hun training wordt gebruikt en waarborgen bieden tegen het genereren van illegale content.

Omdat de wet op zijn vroegst over 2,5 jaar in werking kan treden, zegt Europarlementariër Brando Benifei in een persconferentie dat overwogen wordt om voor bepaalde systemen met een hoog risico, zoals generatieve AI, al een 'vroegere implementatie' van de AI-wet in werking te laten treden. Wel stelt hij dat hier verder nog niets over kortgesloten is. "Zelfs als dat niet lukt, zijn er momenteel ook initiatieven bezig voor een vrijwillige gedragscode." Eurocommissaris Margrethe Vestager liet vorige maand weten te verwachten dat er binnen enkele weken zo'n gedragscode klaar is.

Reacties (79)

[ErikT738]

Daarnaast komt er een categorie voor 'AI voor algemeen gebruik'. Daaronder vallen generatieve-AI-modellen als ChatGPT. In eerste instantie waren er in de AI Act geen regels opgesteld voor dergelijke systemen, maar het EP wil dat zulke modellen na invoering van de wet eerst moeten worden geregistreerd in een EU-database en dat ze 'mogelijke risico's zoveel mogelijk trachten te beperken'. Ook moeten ze voldoen aan bepaalde transparantie-eisen, zoals openbaar maken dat de content door AI is gegenereerd en 'helpen om deepfake-afbeeldingen van echte afbeeldingen te onderscheiden'. Tot slot moeten ze duidelijk maken welk auteursrechtelijk beschermd materiaal voor hun training wordt gebruikt en waarborgen bieden tegen het genereren van illegale content.

Hoe zien ze dit dan voor zich? De output van deze categorie bestaat uit tekst, afbeeldingen, geluid of een combinatie van dit alles. Moeten hier watermarks in komen? Wat let iemand om deze watermarks te verwijderen? Hoe wil je achteraf vaststellen of je met een AI generatie zonder watermark of een menselijke creatie te maken hebt? Hoe moeten de makers van deze AI waarborgen bieden tegen het genereren van illegale content als een gebruiker het programma lokaal kan draaien? Mag dat in de toekomst niet meer? Hoe willen ze dat gaan controleren?

Wetgeving tegen "social scores" en dergelijke kan ik alleen maar toejuichen, maar deze regels tegen het huis- tuin- en keukengebruik van AI lijken me ondoordacht en onuitvoerbaar.

[sdziscool]

Het is gewoon een dromer beleid, mensen die dit maken hebben wel de juiste problemen voor zich (bijvoorbeeld fake nieuws dingen etc) maar hebben niet de technische achtergrond om hun oplossingen te evalueren. Dan krijg je van die droomwetgeving die niet uit te voeren is. Een beetje als een manager hebben die niet het vak dat hij managet begrijpt, voor zo'n manager is via de computer checken of een integer groter is dan 15 hetzelfde als met de computer checken of een varken op een afbeelding langer is dan 1.5 meter, terwijl het een zo gepiept is en de ander bijna onmogelijk met huidige techniek.

[henk717]

Dit is echt totaal drama voor de hobbyisten die zelf finetunen en finetunes publiceren. De hele EU hobbyisten tuning space is straks gewoon ondergronds of weg. Want wie kan nou voor een model dat die zelf thuis of met gehuurde servers heeft getrained die hele draaimolen van EU certificering betalen?

Stel je voor dat alle plaatjes die je met photoshop maakt een goedkeuring nodig hebben of je dat wel op een ethische manier hebt bewerkt voor je die online mag zetten, zou compleet de creatieve vrijheid beperken. Met AI modellen is dat nu dus wel het geval, want de definities zijn enorm vaag.

Gelukkig heb ik er met KoboldAI minder last van want open source projecten zijn uitgesloten (Onze europese tuners in de communitie hebben er dan wel weer last van), gaan ze toch achter mijn project aan draag ik het over aan een andere coder zodat het niet langer door iemand binnen de EU wordt gerunt. De EU is min of meer zijn AI innovatie kracht nu kwijt en gaat straks enorm achterlopen. Wil je een beetje serieus aan de slag met een AI bedrijf kun je beter vertrekken.

Het zal dus de komende 2.5 jaar een race tegen de klok worden waarbij we hopelijk nog wat grote stappen in AI model innovaties gaan zien.voor lokaal gebruik. Maar ben bang dat bedrijven als facebook nu niet meer betere modellen willen publiceren uit angst voor vervolging.

[Reactie gewijzigd door henk717 op 22 juli 2024 17:29]

[Bazi]

Uit het persbericht:

Providers of foundation models - a new and fast-evolving development in the field of AI - would have to assess and mitigate possible risks (to health, safety, fundamental rights, the environment, democracy and rule of law) and register their models in the EU database before their release on the EU market.

Het gaat dus over de grote basismodellen. Het is niet van toepassing op afgeleide modellen daarvan, zoals hobbyisten die een basismodel finetunen.

[Mathijs Kok]

Dit is echt totaal drama voor de hobbyisten die zelf finetunen en finetunes publiceren.

Kom aan, lees nu even wat meer en dan weetje dat hobywerk daar in geen enkel geval onder zal vallen. Laat staan je met Photoshop bewerkte plaatjes.

Paniek om niets.

[Hatseflats]

Deze formule gebruiken ze toch op elk vlak?

Iets nieuws en niet gereguleerd? Wacht op een incident, blaas het op en wek de indruk dat alleen de overheid dit kan reguleren. Kom daarna met regelgeving waaraan nieuwkomers moeten voldoen die dusdanig zijn dat je alleen met grote hoeveelheden geld hieraan kan voldoen. Voor wie is dit dan in de toekomst weggelegd?

Juist ja, de huidige conglomeraten die niet op een miljardje hier of daar kijken. En huidige zelfstandigen worden weggedrukt of opgekocht of een combinatie hiervan.

En zo behouden we nagenoeg de status quo.

[Reactie gewijzigd door Hatseflats op 22 juli 2024 17:29]

[bassekeNL]

Het is verschrikkelijk. Het grootste ontwikkelingsgebied van de komende decennia, en Europa zet zich bij voorbaat op achterstand.

[Katanatje]

Ik zou het omgekeerde durven beweren. Dit zet ons op de forefront van AI. Ik hoop dat de rest ons volgt, en hiermee een deftig kader ontworpen wordt om eerlijk en duurzaam te ondernemen. Zonder dergelijke regels gaat ongelijkheid nog veel groter worden.

[Tigitaal]

Dit is het begin van de Dark Ages op het gebied van AI in de EU.

[JDx]

Zouden open source projecten zoals Stable Diffusion dan ook aan die eisen moeten voldoen? Of hebben ze het hier meer over tekstuele AI zoals ChatGPT?

[henk717]

Alles valt hier onder, de software zelf is in het geval van Stable Diffusion (en ook KoboldAI, etc) uitgesloten omdat het open source software betreft. De modellen zijn niet uitgesloten en vallen onder deze regeling.

[Frash]

Een nieuw dieptepunt van de EU. Alsof deze trein gestopt kan worden. We zullen alleen maar nog verder achter geraken op de VS en China (open-source valt onder VvMU dankzij het Bernstein v. Department of Justice arrest in de VS).

[WoutervOorschot]

Eventueel, maar het gaat vooral over toepassing volgens mij. Een model trainen voor gezichtsherkenning mag gewoon, het verkopen als beveiligingsysteem eventueel met vergunning, maar een entiteit als de politie of een bedrijf mag het niet voor real-time surveillance inzetten.

Dat maakt de wet (zoals het lijkt) ook behoorlijk future-proof, het gaat om de intentie en gebruik ipv specifieke technieken. Wat waar onder valt is natuurlijk niet altijd 100% duidelijk, maar daar hebben we tzt de rechterlijke macht voor.

[Stoney3K]

En vraag twee: Wat is de bewijslast om aan te tonen dat wel/geen AI is gebruikt? Wat zijn de consequenties precies? Wat zijn dus de waarborgen die ervoor zorgen dat een kwaadwillende partij géén AI gebruikt voor de verkeerde doeleinden?

[87Dave]

Dat is 'dankzij' copyright lobbyisten, één van de achterdeur prioriteiten van de EU. Men zal moeten ontsluiten op wat het allemaal getraind is in groot detail. En ook vergoeden.

Custom Stable Diffusion modellen gaan onder deze regelgeving illegaal worden omdat de administratieve en financiële last onmogelijk groot zal zijn. Sites zoals Huggingface en Civitai riskeren in de toekomst met deze evolutie dezelfde behandeling als de pirate bay te krijgen.

[NoSugar]

Ach er zullen heel wat banen verloren gaan door AI. En voor al die banen is niet direct een vervanging, dus er zullen heel wat werkelozen bijkomen. Ik denk dat we een toekomstige economische crisis aan het ontwikkelen zijn. De eerste multinationals zijn nu al bezig met het ontslaan van werknemers die vervangen kunnen worden door AI. Laat staat over 10 jaar... Een select clubje gaat erg rijk worden.

[wildhagen]

Ja, dat riepen ze ook toen de eerste trein kwam. Alle koetsiers, paardenhouders en trekschuitschippers zouden werkloos worden, en de economie zou instorten. Later, toen de auto kwam, werd precies hetzelfde geroepen.

Beiden zijn niet uitgekomen. Ja, sommige beroepen zijn verdwenen. Maar surprise, surprise: daar zijn weer andere beroepen voor teruggekomen.

Ik ben er niet bang voor dat het nu opeens heel erg anders zal zijn. Ik zie een lopende-band werker, een arts, of een vrachtwagenchauffeur nog niet zo snel door AI vervangen worden. Ook veel kantoorwerk is niet (volledig) vervangbaar door AI.

Tevens vind ik het geen argument om AI tegen te houden. Als we zo zouden redeneren bij alles wat de arbeidsmarkt zou kunnen veranderen, zouden we nu nog wonen in grotten, rondlopen in berenvellen bewapend met knuppels, en zouden we onze berichten tikken met hamers in kleitabletten.

Vooruitgang houdt je niet tegen. Reguleren is wenselijk, en soms zelfs nodig, maar tegenhouden gaat écht niet lukken. En moet je eigenlijk ook niet willen.

[Reactie gewijzigd door wildhagen op 22 juli 2024 17:29]

[NoSugar]

Het is natuurlijk wel een andere situatie, daar ging het over een specifieke groep. Met AI is het een hele brede groep die werkeloos kan raken. Mensen beseffen zich vaak niet hoe onbelangrijk hun baan is.

Er rijden al zelfrijdende taxi's rond, maaltijdbezorgende robots, customer service robots, AI Graphic Designsers, etc. En juist kantoorwerk is makkelijk te vervangen door AI. Niet nu, maar wel over 10 jaar...

En natuurlijk zullen niet alle banen verloren gaan, er zullen ook banen bijkomen. Het probleem is echter dat die banen vaak een hoger intelligentieniveau vragen dan de gemiddelde Nederlander heeft.

Uiteindelijk zal dit iedereen raken: neem een voorbeeld aan grafische ontwikkelaars: die kunnen zich omscholen tot IT'er. Gevolg: de IT-er krijgt meer concurrentie en dus een stuk lager salaris. Dus zelfs de beroepen die het niet direct treft; zullen er toch de nadelen van oppakken.

[Super_Fred]

Zoals anderen al stellen hoeft dit geen slechte ontwikkeling te zijn. Het hebben van een baan, is geen doel op zich. Het is een middel om in je levensonderhoud te voorzien. Wie zegt dat AI daar geen rol in kan vervullen. Heel zwart-wit: als niemand meer hoeft te werken, en AI en/of robots al het werk doen, moeten we een ander systeem verzinnen om de welvaart te verdelen. Zover zijn we nog niet, maar daar gaat het mogelijk wel naar toe.

[Hatseflats]

Dat heet UBI

Denk ook aan CBDC.

[Reactie gewijzigd door Hatseflats op 22 juli 2024 17:29]

[ErikT738]

Zelfs als je helemaal gelijk hebt en een groot deel van de werkende bevolking hun baan gaat verliezen (vooralsnog betwijfel ik dit) is dit geen reden om de vooruitgang tegen te houden. De technologie is er en mensen gaan hier gebruik van maken. Als wij (als Nederland of als Europa) het in de ban zouden doen verslechteren we enkel onze eigen concurrentiepositie.

[Stoney3K]

Voorlopig zie ik AI alleen nog niet veel doen in de 'zachte' skills, dus de beroepen die juist van mens tot mens werken. Denk aan bijvoorbeeld verkopers of accountmanagers, HR en afdelingschefs, of aan de andere kant beroepen zoals kinderopvang of psychologie. Beroepen waarbij dus een bepaalde mate van empathie nodig is.

AI kan nu nog niet redeneren, en kan al helemaal niet zich emotioneel verplaatsen in een mens. Het is nog altijd iets waar je een bepaalde input in stopt, en er een bepaalde output uit komt, en wanneer je de verkeerde input er in duwt komt er ook niet de output uit die je wil hebben. "Los dit complexe probleem op" is nog altijd niet iets wat je aan een AI kan over laten, en al helemaal niet "Onderhandel met de klant over requirements, stel aan de hand daarvan een probleem op en verzin de oplossing."

[Reactie gewijzigd door Stoney3K op 22 juli 2024 17:29]

[JDx]

Ik kon eerst kappen met HTML'en toen WordPress kwam, toen stoppen met 3D visualisatie vanwege outsourcing, toen stoppen bij een telecombedrijf vanwege de komst van gratis bellen via WhatsApp, Skype en andere mogelijkheden om te communiceren. Nu maar weer met de tijd mee gaan en zorgen dat ik voor loop in mijn kennis van AI.

[Yzord]

Wat is dat allemaal in weze anders dan nu het geval is? Vroeger reden we paard en wagen en schreeuwde men moord en brand toen de fiets/auto werd ontworpen want de banen van een hoefsmid stonden op de tocht. Of toen de telefoon kwam dat de telegram jobs op de tocht stonden en zo kan ik nog wel van alles verzinnen. Het heet evolutie en het Universum zorgt er wel weer voor dat er een balans komt.

AI zal idd een hoop banen buitenspel kunnen zetten, maar er zullen zoveel nieuwe innovaties aankomen die nieuwe banen creëren. Daarbij is AI niet perfect. Het maakt nog steeds (grove) fouten die ontdekt worden door mensen. Het zal nog wel even duren voordat robots het voor het zeggen krijgen in de arbeidsmarkt.

[NoSugar]

Mensen roepen dit soort voorbeelden vooral, maar gaan daarbij altijd mis met de vergelijking. Een auto vs paard of een automatische telefooncentrale vs telefonisten. Dat waren vrij specifieke vervangingen. Met AI gaat het echter over heel veel banen die heel gauw vervangen zullen worden.

Taxi chauffeurs, koks, customer service, grafisch designers, software ontwikkelaars, maaltijdbezorgers, advocaten, leraren, etc.

We staan nu nog bij misschien 1-2% van wat AI kan doen op dit moment. Maar dat betekent niet dat je niet moet nadenken wat er over 10 jaar mogelijk is.

[Yzord]

Sorry, maar dat is gewoon flauwekul. Het is zelfs paniekvoetbal. En begrijp me niet verkeerd, dat hele AI kan me gestolen worden want AI zal in de toekomst ook als oorlogstuig gebruikt worden.

Maar ik zie AI niet een huis schilderen, of zieke mensen behandelen, of het gras maaien, kindjes krijgen en weet ik veel wat je kan verzinnen waar AI gewoon geen plek krijgt. Want heden ten dage hebben we nog steeds hoefsmids en telefoonoperators dus die zijn in weze niet eens verdwenen. Doemdenken zijn we goed in (ik ook hoor lol), maar ik denk dat het allemaal niet zo’n vaart zal lopen.

[NoSugar]

Je hebt nog nooit een robotgrasmaaier gezien?

[Yzord]

Jawel, maar wie zet dat ding aan? Of denk je dat grasmaairobots zelf in kunnen schatten wanneer ze het veld op moeten? Dus ook al zijn er grasmaairobots, het zijn geen robots, maar een stuk plastic die een scan kan maken van het gebied en wacht op instructies van zijn baas. Geen baan verloren dus.

[jpsch]

Nog nooit eentje die het hele gazon kan maaien en de kanten kan steken. Ook nog nooit een robotstofzuiger gezien die de trap af kon en de opgezogen kattenkots kon legen in de kliko
.

[Super_Fred]

De robotgrasmaaier wordt al genoemd, maar als je huizen (meer) onderhoudsvrij maakt (geen hout, maar bijvoorbeeld kunststof) dan wordt schilderen ook al minder relevant. En zelfs dan: hele auto's worden al gespoten door robots. Het is niet helemaal hetzelfde, maar het is niet ondenkbaar dat AI huizen zou kunnen schilderen.

In de zorg en de wetenschap wordt AI al ingezet voor onderzoek en diagnose. Revalidaties gebeuren ook met robotachtige hulpmiddelen, en AI wordt ook al steeds slimmer om de Türingtest te doorstaan om daarmee het interpersoonlijke contact te simuleren. Nee, het is (nog) geen dokter of verpleegkundige, maar het is niet ondenkbaar dat AI en robots zo'n rol kunnen vervullen.

En kindjes krijgen: de mens is zelf al druk bezig met reageerbuizen, stamcellen, orgaanweefsel, klonen, etc. Een heel slimme AI zal daar eerst een belangrijke, analytische rol in kunnen spelen, en misschien uiteindelijk zelf het gehele proces kunnen doorlopen.

Andere voorbeelden die ik zo kan bedenken: huizen bouwen? Prefab. In de fabriek gemaakt door AI, vervolgens vervoerd door AI en geassembleerd door AI.

Postbezorging? Drones. Zelfrijdende busjes.

Kassa-medewerkers? Zelfkassa's hebben we al. Nu alleen nog met RFID-chips in alle producten en we hoeven zelfs niet meer te scannen.

Speelfilms? AI-gegenereerde scripts, video en audio die niet van echt te onderscheiden zijn.

Horeca-medewerkers? Bestellen via QR-code en vervolgens komt een karretje je bestelling brengen.

Natuurlijk zijn er beroepen waar de vlieger niet opgaat, maar wellicht verandert de dienstverlening zodanig dat het wél door AI kan worden uitgevoerd.

Nu wil ik hiermee zeker niet suggereren dat ik vind dat de wereld er zo uit moet gaan zien, maar het zit wel in de mens om werkzaamheden zoveel mogelijk te verlichten. Veel lichamelijk, zwaar werk wordt al opgevangen door machines (hijskraan, heftruck, steekwagen), maar ook het dagelijkse werk (vaatwasmachine, wasmachine, stofzuiger).

[MakeItSo84]

Bijna elke AI expert zegt dat we doomed zijn (check Lex Fridman podcasts, of Diary of a CEO met Mo Gawdat), maar elke hobbyist weet het beter en zegt dat het wel mee zal vallen. Hoop is een goed iets tenzij het ons dichter bij de afgrond brengt.

[machiel]

Wat mensen meestal niet doen (en ook heel lastig is) is bedenken welke banen erbij komen als AI de taxi gaat rijden. Deels omdat er dan handjes vrijkomen voor andere dingen waar we voorheen niet aan toekwamen, maar ook omdat de AI getrained, geinstalleerd en onderhouden moet worden.

[jpsch]

Advocaten misschien wel, maar de rechters nog niet.

https://www.bnnvara.nl/jo...blijkt-glashard-te-liegen

[roccothehelper]

Tja, wellicht tijd voor een ander economisch systeem? Deze kant gaan we op en het moet opgelost worden. Je moet je afvragen of dat te doen is in onze economie.

[Northside]

Is toch ook gewoon een probleem dat we aan de almachtige AI kunnen voorleggen? Waar kunnen we de mensen gaan inzetten die jij overbodig hebt gemaakt. Ik verwacht dat er veel meer mensen de zorg ingaan, ouderen begeleiden, mantelzorg etc. En toch ook onderwijs, maar dan veel meer de richting van filosofie etc.

Waar ik me veel meer zorgen over maak is wat dit voor de club rijke, machtige en corrupte mensen op deze planeet gaat betekenen. AIs gaan zooooveel zwart geld, belastingontduiking, steekpenningen, corruptie etc blootleggen dat de beschaving op zn grondvesten gaat schudden. Bedenk maar eens wat er alleen al in Nederland zou gebeuren als een AI blootlegt dat een significant aantal ministers en kamerleden steekpenningen van lobbyisten aan heeft genomen... En dan wat het zou betekenen als een AI bewijst dat Trump door de Russen betaald wordt...

[friket]

Tuurlijk als de hele maatschappij werkeloos en arm is dan gaan er select groepje heel rijk worden waar aan? Grote geld komt nog altijd van de lage en middenklasse, de grootste groep mensen. Die paar % rijken brengen echt geen serieus geld in het laatje voor veel bedrijven.

[m0j0NL]

Omdat de wet op zijn vroegst over 2,5 jaar in werking kan treden

Zij zullen deze wet waarschijnlijk dan wel moeten updaten als je kijkt naar de ontwikkelsnelheid in zo`n korte periode kijkt van A.I. laat staan 2.5 jaar.

[JDx]

Nou inderdaad, als ik kijk naar afbeeldingen wat het eind 2022 genereerde en nu, niet normaal.

[davekok]

Het staat niet vast de AI met dezelfde snelheid doorontwikkeld. Het kan net zo goed afvlakken.

[ErikT738]

De wet lijkt me nu al niet goed aansluiten op de werkelijkheid. Kan je nagaan hoe misplaatst het in 2,5 jaar gaat zijn.

[Stoney3K]

Misschien kunnen ze wel AI gebruiken om die wet met zijn tijd mee te laten gaan.

[2broodjeshoarma]

Toch mooi dat in je quote correct gebruik van punten en komma's voor getallen staat en je het dan fout overneemt hierna.

[Bart321]

Mooi! We mogen best trots zijn dat Europa het eerste rechtsgebied is met regels voor het gebruik van AI.

[ALittleTooLate]

Maar wie heeft voordeel van deze regels? Veel van de regels maken het moeilijker om voor nieuwkomers te concureren met de grote bedrijven. Kijk maar eens wie er allemaal meegewerkt hebben aan de regels. Daar zitten veel grote tech bedrijven tussen.

[BlueBird022]

De droom van rechtse Kapitalisten en miljardairs is werknemers kunnen vervangen door AI voor winstmaximalisatie. De gevolgen maakt hun niet zoveel uit.

[ErikT738]

Daarom is AI idealiter ook open source zodat iedereen er mee aan de slag kan. Zie bijvoorbeeld Stable Diffusion. Als deze technologie zich doorontwikkeld kan een eenling ineens een animatiefilm maken, en is dit niet langer voorbehouden aan grote bedrijven zoals Disney.

[Hatseflats]

Neuh, er zit vast ook iemand aan de top die zich bedenkt dat de massa wel geld moet hebben om de spullekes te kopen die geproduceerd worden.

Om dan nog maar te zwijgen van revoluties / opstanden. Je hebt zo weinig aan je miljarden aardse bezittingen in het hiernamaals.

Zie wat er in Kenia gebeurt.

En het gros kan niet omgeschoold worden bij gebrek aan kennis en vooral kunde.

[Reactie gewijzigd door Hatseflats op 22 juli 2024 17:29]

[Dooxed]

"Omdat de wet op zijn vroegst over 2,5 jaar in werking kan treden, zegt Europarlementariër Brando Benifei in een persconferentie dat overwogen wordt om voor bepaalde systemen met een hoog risico, zoals generatieve AI, al een 'vroegere implementatie' van de AI-wet in werking te laten treden."

Uffff! Wel relatief snel geregeld maar nog 2,5 jaar wachten.. Ontwikkelingen gaan zo snel, een moratorium op verdere ontwikkeling zou op z'n plaats zijn. Vrijwillige gedragscode is natuurlijk ook waardeloos.

Edit: Inderdaad, moratorium

[Reactie gewijzigd door Dooxed op 22 juli 2024 17:29]

[ChefA]

Bedoel je een moderatum? Mortuarium is waar we lijken bewaren.

[Blokker_1999]

Waarschijnlijk moratorium, een tijdelijk verbod totdat de wetgeving er is. Alsof dat iets gaat veranderen. Dat zou alleen betekenen dat Europese bedrijven op een achterstand worden gezet.

[Stoney3K]

Waarschijnlijk moratorium, een tijdelijk verbod totdat de wetgeving er is. Alsof dat iets gaat veranderen. Dat zou alleen betekenen dat Europese bedrijven op een achterstand worden gezet.

Dat is dezelfde paradox als een verbod op cryptografie. Wanneer je encryptie gaat verbieden, verhindert het de boeven niet om encryptie te gebruiken want ze waren al boeven, maar de mensen die van goede wil zijn staan dan ineens op een achterstand.

Je kan geen wet maken die iets voor kwade doeleinden verbiedt en hem voor de juiste doeleinde wel toestaat.

[J1tse]

Bedoel je een moratorium? Moderatum is een spinnensoort.

[NosferatuX]

Deze wetgeving moet garanderen dat AI-systemen die in Europa worden gebruikt, veilig zijn en aan strenge eisen voldoen.

Want Europa en vooral Nederland zijn al zo handig met de veiligheid van systemen.
Het ene lek na de andere, datahouders die overal rondslingeren etc etc.

Het zal niet veel zoden aan de dijk zetten. Overheidsinstanties en bedrijven die AI voor moreel slechte dingen willen gebruiken zullen het toch wel doen en diegene die dat niet doen blunderen toch wel weer met breaches etc.

Maarja, er moet wat voor de buhne gedaan worden .. En ja het zal sommige wellicht weerhouden maar dat het niet misbruikt gaat worden door zowel overheden als corporate is een illusie en bied dit alleen schijnveiligheid.

[Reactie gewijzigd door NosferatuX op 22 juli 2024 17:29]

[wildhagen]

Want Europa en vooral Nederland zijn al zo handig met de veiligheid van systemen.
Het ene lek na de andere, datahouders die overal rondslingeren etc etc.

En jij denkt dat dat alleen in Europa zo is, en niet in Azië, Afrika of Noord-/Zuid-Amerika? Overal zijn datalekken, overal zijn problemen met security.

Dat kan echter geen reden zijn om dan maar niks te doen. Dat er andere problemen spelen wil niet zeggen dat je overige potentiele problemen ook maar moet toestaan.

Regelgeving voor AI lijkt me goed, al is het maar om een complete wildgroei van onwenselijke bijverschijnselen en randaken te voorkomen.

[NosferatuX]

Nee dat hoor je mij nergens zeggen. Als je goed leest zeg ik ook dat het sommige ook wel zou weerhouden doordat het aan banden gelegd wordt echter zullen diegene die het echt willen misbruiken voor moreel slechte dingen het sowieso wel doen en een deel van die hebben waarschijnlijk deze wet mogelijk gemaakt dus vandaar voor de buhne en schijnveiligheid.

[Blinkin]

Ja degene die kwaad willen zullen het alsnog doen. Maar als er niks qua regels komt zeg je in essentie dat wat de kwaadwillende feitelijk niet strafbaar is. Of dat nou wijs is.

[Duke of Savage]

Overal heb je lekken in zowel systemen als data bescherming (usb stick vergeten in de bus oid).
Als je een "ja maar" mentaliteit prominent in je ambitie hebt, zal je niks verbeteren en zou de technologie ontwikkeling opgehouden zijn na de uitvinding van de wiel..

Dat er iets voor de buhne gedaan moet worden is een beetje een dooddoener van vooruitgang.

[langestefan]

Met deze instelling kunnen we alle wetten wel opheffen. Ja want bedrijven gaan de wet toch wel overtreden. Nou mogen ze zeker doen, krijgen ze daarna een miljoenen boete aan hun broek. Voorbeelden genoeg van. Ik vind dat deze wet een mooi begin is om EU burgers te beschermen tegen de negatieve gevolgen van AI.

[Sakootjes]

Geen flauw idee hoe een transparantieverplichting voor Midjourney of ChatGPT er in de praktijk er uit ziet. Krijg je dan een soort watermark in je output mee? Ik denk persoonlijk dat dit niet tegen te houden is, zeker gelet op het feit dat ook open-source modellen gebruikt kunnen worden voor generatieve AI. Dit soort regels lijken mij een paniek-reactie in de trant van: "Help, we moeten regulering tegen AI verzinnen".

[Alxndr]

Als je ziet hoe snel en makkelijk een AI afbeeldingen kan bewerken is een zichtbaar watermerk binnen een fractie van een seconde onzichtbaar. Dan met snipping tool de afbeelding opslaan zodat onzichtbare watermerken ook verdwijnen, klaar? En een watermerk in tekst, hoe moet dat werken? ctrl+c, ctrl+v en dan blijft daar toch ook niets meer van over?