Meta start team om desinformatie en AI-misbruik bij EU-verkiezing tegen te gaan

Meta gaat een team opzetten dat desinformatie en misbruik van generatieve AI op zijn platforms moet aanpakken. De techgigant doet dat naar aanloop van de komende verkiezingen voor het Europees Parlement, die tussen 6 en 9 juni plaatsvinden.

Meta gaat het team 'activeren' nu de verkiezingen voor het Europees Parlement naderen, schrijft Meta's EU-hoofd Marco Pancini in een blogpost. Daarin zitten experts uit verschillende teams van het bedrijf, die zich bijvoorbeeld richten op inlichtingen, datawetenschap, engineering, onderzoek, contentbeleid en juridische zaken. Het team gaat zich richten op het tegengaan van desinformatie, het aanpakken van 'beïnvloedingsoperaties' en het tegengaan van de risico's rondom misbruik van generatieve AI.

De techgigant gaat het onder andere makkelijker maken voor factcheckingpartners in de EU om verkiezingscontent te vinden en beoordelen. Het bedrijf werkt naar eigen zeggen met 26 factcheckorganisaties in de EU, die 22 verschillende talen ondersteunen. Het bedrijf gaat ook samenwerken met drie nieuwe factcheckingpartners Bulgarije, Frankrijk en Slowakije.

Meta labelt ook afbeeldingen die zijn gegenereerd met zijn AI-tools. Het bedrijf werkt ook aan tools om content van AI-diensten van Google, OpenAI, Microsoft, Adobe, Midjourney en Shutterstock te labelen als gebruikers die plaatsen op Facebook, Instagram en Threads. Het bedrijf werkt aan een functie waarmee gebruikers zelf kunnen aangeven of beelden met AI gegenereerd zijn en zegt mogelijk maatregelen op te leggen als ze dat niet doen.

Twintig verschillende techbedrijven zeiden onlangs al dat ze gaan samenwerken om misleidende AI-content tegen te gaan rondom de verkiezingen die dit jaar wereldwijd plaatsvinden, onder meer in de Europese Unie en de Verenigde Staten. Daaronder vielen, naast Meta, ook bedrijven als Adobe, Amazon, Google, Microsoft, OpenAI, Snap, Stability AI, TikTok en X.

Reacties (43)

[meowmofo]

Hier moet permanent veel en veel meer aandacht voor zijn. Niet enkel rondom thema's zoals een aanstaande verkiezing.

[JakkoFourEyes]

Inderdaad. De politieke ideeën van mensen worden met name buiten de verkiezingen om gevormd.

[Tintel]

Wat moet permanent? Dat Meta de rommel op z'n eigen platform opruimt - diezelfde rommel waar ze rijker van wordt?
Meta is desinformatie....alles wat daar op komt/staat is verdacht omdat het niets meer is dan een reclame-tijdschrift....
Daar is het: wie betaalt, bepaalt.

Maar ze kunnen nu dit leuk roepen alsof ze maatschappelijk betrokken zijn. Meer is het niet.

[Siaon]

Ik blijf het vooral wonderlijk vinden dat dit 'nodig' is. Informatie zonder bronnen kan je niet setoeus nemen. Alle 'factcheck'-organisaties tot nu toe hebben allemaal flinke belangen en een politieke kleur.

Ik ben heel benieuwd hoe zij in hemelsnaam 'nep' denken te kunnen te identificeren, en ook onderbouwd kunnen aantonen. Hebben ze wetenschappers in dienst?

En je komt ook snel bij subjectieve beleving in het politieke spel.

Ik zie ze het niet doen, en hoogstens zorgen voor nog meer onzin op het internet. Wordt je ook niet ontvankelijk voor claims als je zegt informatie te controleren? En wat als je het onterecht labeled?

Ik wijs maar eens naar klimaatwetenschap en de dingen die mensen over het klimaat roepen. Het is niet zo zwart en wit, en als iemand roept dat klikaatverandering onzin is, wat bedoelen ze dan precies he? Wellicht zijn ze het eens met een stijgend globaal gemiddelde, maar oneens met voorgestelde buffermechanismen, of vooral dat ze geen heil zien in hoe de politiek er mee omgaat.

Dit kan echt alleen maar mis gaan...

[Reactie gewijzigd door Siaon op 23 juli 2024 01:06]

[wildhagen]

Goed plan, mits Meta ook haar woord nakomt en daadwerkelijk optreed tegen desinformatie. In het verleden waren ze daar, om het zacht uit te drukken, niet heel erg goed in, gezien wat er allemaal aan desinformatie via hun platform verspreid werd. In zijn algemeenheid dus, niet verkiezingen-specifiek.

Zeker in combinatie met AI en deepfakes, is dit iets wat je écht niet moet willen. Dat ondermijnt de verkiezingen, en daarmee de democratie, namelijk enorm, als op die manier desinformatie verspreidt wordt om een agenda van die verspreidende partij te dienen.

Die agenda is namelijk meestal in het belang van die specifieke partij, en niet de EU of de bevolking als geheel.

[haam]

"We gaan de grenzen sluiten voor vluchtelingen"

Is dat desinformatie?

Aan de ene kant nee, als het bv. in het partijprogramma staat.

Aan de andere kant ja, er zijn zoveel hobbels (lees wetten, verdragen, etc.) te nemen dat het praktisch niet mogelijk is binnen 1 regeertermijn (als het al mogelijk is).

Desinformatie is dus subjectief. Hoe kun je daar een (goede) neutrale positie innemen?

[IStealYourGun]

Hangt af...
Als die uitspraak komt van iemand die dat ook effectief heeft gezegd is het geen desinformatie. Als die echter afkomstig is van iemand die dat nooit gezegd heeft, dan kan het wel desinformatie zijn.

[M2M]

nou, niet eigenlijk. Het beste wat je kunt doen is een poging om obvious onzin uit de feed te trekken. Halfgare ongefundeerde claims verwijderen.

Maar inderdaad, mening, invloed / influence, feiten, alternative facts, overdreven claims, cirkelreferenties en een gezonde dosis Amerikaanse principes die soms niet helemaal stroken met die van Europa maakt de job van moderator best lastig. Zeker als menig onderzoek uitgewezen heeft dat invloed op facebook en co wel degelijk 'resultaat' oplevert in verkiezingen.

Vroeger was ik van mening dat het Internet het beste was aangezien er geen poortwachter meer is en je niche-hobbie / mening ongegeneerd kon delen. Nu zou ik die poortwachters graag weer terugzien om de hoeveelheid onzin wat terug te brengen.

[Aldy]

20 Noord-Afrikaanse vluchtelingen hebben in Utrecht in de nacht van 23 op 24 februari een supermarkt geplunderd. Met beeldmateriaal erbij!
Dat is fakenieuws en die beelden zijn ergens anders vandaan geplukt.
Dit soort nieuws zou de verkiezingen kunnen beïnvloeden en als dit voorkomen wordt, prima toch?

[dawg]

Ik denk dat X een veel groter probleem vormt als het gaat om desinformatie en zulks. X verbieden (in heel de EU) zou ik wel voor zijn, ter bescherming van onze democratische rechtsstaat.

En voor de "censuur"-roepers: nee, X heeft werkelijk niets te maken met vrijheid van meningsuiting.

[Zer0]

Zullen we ook gelijk wat boeken op de brandstapel gooien? "Ter bescherming van onze democratische staat"

[dawg]

Ik zie de relatie tot mijn opmerking niet.
X wordt actief misbruikt, zeker sinds Musk het over heeft genomen. Dus nogmaals, ik zie de relatie tot boeken niet. Lijkt me dat je vanuit een soort onderbuikreflex reageert.

[Zer0]

Boeken worden ook actief misbruikt, net als Facebook etc etc. Een manier van uiten verbieden puur omdat hij misbruikt wordt (door een klein deel van de gebruikers) slaat nergens op, en is een "onderbuikreflex".

[dawg]

Je vergelijking slaat als een tang op een varken. En een voorbeeld van een boek wat net als een zeer groot deel van de posts op X ook ondermijnend kan worden genoemd is het boek van Hitler en is derhalve ook verboden.

Je kunt simpelweg niet ontkennen dat X sinds Musk ondermijnend werkt op onze democratie en zijn er dus legitieme redenen om het te verbieden. Vrijheid van meningsuiting is niet absoluut.

[Zer0]

Je kunt simpelweg niet ontkennen dat X sinds Musk ondermijnend werkt op onze democratie en zijn er dus legitieme redenen om het te verbieden.

Een deel van de berichten op twitter zijn inderdaad ondermijnend, net zoals dat ene boek. Daarom is ook alleen dat boek verboden, en niet alle boeken.

[Aldy]

Heel duidelijk antwoord en ik begrijp je standpunt. Maar als negen van de tien boeken, uitgegeven door één uitgeverij, ondermijnende lectuur (of literatuur) bevat, kunnen we dan beter niet de uitgeverij sluiten?
Zeker als "X" heel weinig doet aan desinformatie. Misschien dat ze nu actief wat gaan doen, met de verkiezingen in aantocht, maar anders kan dit platform beter geweerd worden.

[Zer0]

Klopt, als X/Twitter zich niet aan de regels houdt mogen ze wat mij betreft geweerd worden, maar dat moet dan wel eerst goed vastgesteld worden, op basis van wetgeving/afspraken, en niet omdat iemand het niet zint.

[kodak]

Ik lees eigenlijk niet hoe dit een goed plan is. Een plan om een doel te bereiken lijkt me niet op zich goed vanwege het doel of samenwerken. Zonder behoorlijke verantwoording hoe men hiermee op tijd is en realistisch de doelen kan behalen lijkt het meer op markering, wat op zich meestal slechte goede bedoelingen voor de bedenkers zelf heeft.

De voorbereidingen op de verkiezingen zijn allang begonnen. Het is zelfs constant bezig. Terwijl van de AI ook al lange tijd duidelijk is dat het de doelen van deze samenwerking niet zomaar nastreeft, in tegendeel. Dus daarmee is men met enkele maanden voor de werkelijke keuzes niet zomaar op tijd. En er lijkt ook geen duidelijke verantwoording hoe men met de gekozen planning wel realistisch is, wat daar nog bij komt. Waardoor het plan op zich al niet werkelijk het doel lijkt te hebben dat men probeert te verkopen.

[8bt]

Nu nog hopen dat ze het ook gaan gebruiken bij advertentie's van Crypto scams waar ze onder andere foto's van bekende mensen gebruiken.

[pim]

De enige website die ik ken die volstaat met "desinformatie en AI-misbruik" is mijn Facebook feed.
Vol met neppe fotos van celebrities, en zelfs erotische deepfakes van celebrities.
Ik heb zoveel dingen gerapporteerd en er word niks aan gedaan door Facebook.
Volgens mij vinden ze het wel prima om slachtoffer te zijn van ai spam, zolang ze er lekker geld aan verdienen.

[lighting_]

die community notes van x zijn wel handig maar het is nog beter als AI dat doet.
Die kan onder een post van een persoon met desinformatie extra informatie geven.

[henk717]

Vandaag toevallig eens geprobeerd om plaatjes die ik met een AI heb gegenereerd door een AI detector te halen. De UI die ik gebruik (Fooocus) voegt verder geen watermerk toe dus ze kunnen het niet op een watermerk zien, ze moeten echt de plaatjes herkennen.

Resultaat? Detector 1 gaf ik eerst een plaatje van een vrouw waar de AI's output op was gebaseerd. Mens. Vervolgens een niet bestaand persoon die uit een combinatie van 4 plaatjes bestond, resultaat? Mens.

Detector 2 dan maar: Die had een beter resultaat met dat AI plaatje, namelijk 60% kans dat het een AI betrof. Dus ik probeerde een andere van de serie. Resultaat? 20% AI. Toen de controle foto, de persoon waar die op was gebaseerd. Resultaat? 90% AI.

Dit gaat dus een ramp worden want ze filteren compleet onjuist en ook de verkeerde kant op.

[kuurtjes]

Ik zou het gewoon toelaten. Dat Europa zich maar eens ontfermt over hoe politieke partijen adverteren.

Grappig trouwens dat hier in Belgie de regerende partijen meer geld krijgen dan de rest, terwijl je toch zou denken dat ze allemaal ongeveer hetzelfde krijgen

[lenwar]

Het is dat de marketeers van de politieke partijen het niet zullen aandurven, maar eigenlijk zou het veel beter zijn als ze met zijn allen gewoon helemaal niets met social media doen (rondom verkiezingen) en dat gezamenlijk uitspreken. Gewoon (tv-)campagnes met daarin boodschappen dat men er vanuit moet gaan dat alles wat op social media staat nep is, en dat de enige betrouwbaren informatie staat op de sites van de partijen zelf.

[profdavidoff]

Ik hoop dat het beter is dan het initiatief ooit opgezet in Europa:

[HellboyFromHell]

Het is nu dus aan de tech-gigante om onderscheid te maken tussen tegengeluid, kritiek en desinformatie. Ik vraag mij af hoe een bedrijf dit zou moeten doen. Tuurlijk bij het gros zou het relatief makkelijk te onderscheiden zijn, toch zal weer blijken dat ook dat fout zal gaan.
In mijn ogen zal dat een vele male slechtere zaak zijn, tegengeluid (per-ongeluk) de mond snoeren is niet echt democratisch(?). Dit soort diensten overlaten aan de tech-gigante blijf ik maar raar vinden..

Wel goed trouwens, het inhuren van onafhankelijke derde partijen

[Reactie gewijzigd door HellboyFromHell op 23 juli 2024 01:06]

[Tim AtSharp]

Zoals steeds: het zwart en het wit is makkelijk te hekennen. Maar waar trek je de grens in het grijs?

Klinkt nobel in ieder geval. "Desinformatie tegengaan bij verkiezingen". Maar een eerste goede stap zou ook al kunnen zijn om de eigen politieke bias van Facebook weg te werken. Veel eenvoudiger te implementeren, en veel doeltreffender...