Europese Commissie verzoekt grote platforms om informatie over risicoaanpak AI

De Europese Commissie heeft verschillende grote platforms, waaronder Google Search, TikTok en Instagram, een informatieverzoek gestuurd. De Commissie wil weten hoe ze omgaan met de risico's die generatieve AI met zich meebrengt, zoals vervalste afbeeldingen en desinformatie.

De aanvragen zijn gedaan in het kader van de Digital Services Act. Er zijn verzoeken gestuurd naar Bing, Facebook, Google Search, Instagram, Snapchat, TikTok, YouTube en X, schrijft de EC donderdag. De Commissie vraagt de platforms wat ze doen om bijvoorbeeld de verspreiding van deepfakes te voorkomen.

Ook vraagt de Commissie om 'informatie en interne documenten over de risicobeoordelingen, en risicobeperkende maatregelen die over de impact van generatieve AI op onder andere verkiezingsprocessen gaan'. Het gaat dan over het maken en verspreiden van door AI-gegenereerde inhoud, voegt de EC toe.

Verder plant de Commissie een reeks stresstests, die na Pasen plaatsvinden. Die moeten aantonen hoe goed de platforms zijn voorbereid op stromen desinformatie, bijvoorbeeld voorafgaand aan de Europese parlementsverkiezingen in juni. De betrokken bedrijven moeten de gevraagde informatie uiterlijk op 5 april aan de Commissie verstrekken. Dat is nodig om vragen te kunnen voorbereiden over het weren van desinformatie rond de verkiezingen.

Reacties (14)

[wildhagen]

Goede ontwikkeling lijkt me. Je kan de ontwikkelingen beter vóór zijn, dan eventuele schade straks te moeten repareren, als die potentiele schade al aangericht is.

De genoemde deepfakes bijvoorbeeld zijn al een heel serieus probleem, wat mensen aardig kan beschadigen, een recent voorbeeld hebben we nog kunnen zien via nieuws: Maker deepfakeporno van NPO-presentatrice krijgt voorwaardelijke taak...

En dan hebben we het nog niet eens over andere zaken als bijvoorbeeld de beruchte cryptoscam op Facebook, of het Cambridge Analytica-schandaal.

En desinformatie is maatschappelijk ook heel erg onwenselijk, gezien de invloed die dit heeft en mensen die erin kunnen trappen, met alle gevolgen van dien. Zeker rondom de verkiezingen die er in zowel de VS, de EU als India aan zitten te komen lijkt het me goed als men hier heel scherp op blijft toezien.

[Jefrey Lijffijt]

Ik vind de verspreiding van onware informatie ook een groot probleem. Jammer genoeg weet niemand wat er waar of onwaar is. De Europese Commissie ook niet.

Scam is wel te herkennen denk ik, maar dat heeft ook een andere doelstelling. Illegale content ook, dat is wat tegen de wet is. Bij gebrek aan kennis en technologische mogelijkheden om dat waar te maken lijkt mij 'desinformatie verwijderen' vooral een stap naar een totalitaire staat in plaats van het versterken van een open democratie.

[Jerie]

Het is volgens de wetenschappelijke methode juist eenvoudig om aan te tonen dat iets onwaar is, maar het tegenovergestelde -dat iets waar is- is een stuk moeilijker, en eigenlijk theoretisch onmogelijk.

[Benedykt]

Bewijs eens dat een god niet bestaat. Of dat Shrek niet bestaat. Of dat je buurman géén pedofiel is.

Ben heel benieuwd hoe je dat onomstotelijk, onbetwistbaar wil bewijzen.

[Jerie]

Wie beweert, bewijst.

[Benedykt]

Het niet eens zijn met een bewering is géén bewering natuurlijk

[oltk]

Het hangt er vanaf wat je wil bewijzen natuurlijk. Als je wil beweren dat zwaartekracht niet bestaat, of de aarde plat is kan je met eenvoudige middelen en proeven al aantonen dat het kul is. God, daarentegen, is niet te bewijzen zolang hij / zij / het zichzelf niet kenbaar maakt en op een dusdanige wijze dat het duidelijk is dat dit alleen door een God gedaan kan worden. Maar je kan ook niet bewijzen dat God NIET bestaat. Zo kan ook niemand bewijzen dat het vliegend spaghettimonster niet bestaat en doen de "aanhangers"een poging het tot een officiële religie te laten bestempelen.

Sommige dingen zijn nog complexer, en dan moet je goed kijken naar de breedheid van de bewijslast.. Neem de complexe oorlog in Gaza: Hezbollah gijzelt Israëliers. Feit. Israel vecht terug. feit. De ellende begint pas als we een schuldige willen aanwijzen. Je zou zeggen "Hezbollah, want die begonnen eerst", maar als je naar de timeline kijkt begint de ellende al in 1946 en zijn er vele complexe draden die lopen naar Israel, de VS, naar de palestijnen, naar Iran. Ik weet het antwoord niet, en dat boeit ook niet in dit draadje. Dit is slechts een voorbeeld om aan te tonen dat desinformatie niet een kwestie is van "waar" of "onwaar". Dit gaat om een complex van feiten die niet worden genoemd, feiten die nooit hebben plaatsgevonden en meningen over de brei van hele, halve en onware feiten. Desinformatie in deze is het claimen van de waarheid zonder ruimte voor nuance. En ja, je mag een kant kiezen. Maar zonder desinformatie zal je zien dat de mening nooit polariserend is. Een kenmerk van desinformatie is in veel gevallen dus het zeer eenvoudig voorspiegelen van een in werkelijkheid zeer complex probleem.

[Reactie gewijzigd door oltk op 22 juli 2024 20:58]

[Jefrey Lijffijt]

Filosofisch bezien is het beide onmogelijk. Ik ben echter een fan van een pragmatischere insteek waarbij je wel dingen voor waar aanneemt als er veel bewijs voor is. Helaas is er voor veel praktisch relevante zaken -zeker de politieke zaken- nauwelijks bewijs voorhanden.

Zoals we met covid-19 hebben gezien laten overheden zich ook graag leiden door simpele narratieven en horen die graag vanuit enkele zelf-geselecteerde experts een verhaal zonder tegenspraak. Met de DSA gaan we nog minder weerwoord kunnen bieden, zelfs als wetenschappers die een andere mening hebben. Dat zal mijns inziens ten kosten van het open debat gaan.

In de DSA is geen procedure vastgelegd om vast te stellen welke content er gevaarlijke misinformatie is, dat is aan de Europese Commissie om vrij te kiezen. Evenmin zitten er waarborgen in voor vrijheid van meningsuiting. Platforms mogen alles weggooien waar ze geen zin in hebben, zolang het maar een transparent proces is. Ze kunnen daar dus vrijuit een politieke kleur of levensvisie in verwerken. Allemaal zeer problematisch denk ik, want de kans is groot dat de platforms allemaal heel conservatief zullen gaan zijn.

[Tintel]

Ja - dit is een wonderlijk setje aan '-1'..... terwijl ik niet eens de EU direct beschuldig van corruptie of evil gedrag (beetje wel). Maar wel stel dat het vragen om interne documenten nogal apart is. Aangezien je nooit kunt bepalen of je alles hebt gekregen en of er geen 'heel erg interne' documenten zijn....