Noyb vraagt EU-toezichthouders X te onderzoeken om trainen AI met gebruikersdata

De Oostenrijkse privacyorganisatie noyb heeft klachten ingediend over Elon Musks X bij diverse Europese privacytoezichthouders, waaronder de Autoriteit Persoonsgegevens. Volgens noyb traint het bedrijf zijn chatbot Grok zonder toestemming met de data van Europese gebruikers.

Noyb schrijft dat X de persoonsgegevens van zestig miljoen gebruikers uit de Europese Unie zonder toestemming heeft gebruikt om de AI-chatbot Grok mee te trainen. De organisatie neemt het X ook kwalijk dat het bedrijf gebruikers niet eens heeft geïnformeerd over deze verwerking van persoonsgegevens.

Eerder deze maand startte de Data Protection Commission in Ierland een rechtszaak tegen X om de illegale verwerking van persoonsgegevens te stoppen. Het sociale medium heeft inmiddels toegezegd voorlopig geen data van EU-gebruikers in te zetten voor trainingsdoeleinden. Noyb vindt echter dat de Ierse privacytoezichthouder de AVG niet volledig handhaaft en volgt daarom met klachten in Nederland, België, Oostenrijk, Ierland, Frankrijk, Griekenland, Italië, Spanje en Polen.

Noyb, de non-profitorganisatie van privacyactivist Max Schrems, vraagt de privacytoezichthouders van deze landen om een 'volledig onderzoek' te doen naar de praktijken van X. Daarmee wil de organisatie ervoor zorgen dat X voldoet aan de EU-wetgeving en gebruikers in elk geval om toestemming vraagt om persoonlijke gegevens te mogen gebruiken.

Onlangs diende noyb ook klachten in over Meta bij Europese privacytoezichthouders omdat het techbedrijf eveneens zonder toestemming persoonlijke gegevens van gebruikers in de EU wilde gebruiken voor het trainen van zijn AI. Zowel X als Meta beweert een 'gerechtvaardigd belang' te hebben dat de rechten van gebruikers overstijgt.

Reacties (32)

[verytallman]

Waarom staat alleen "X" in de titel als Meta exact dezelfde klacht heeft gekregen? Daar wordt maar één alinea aan gewijd. Ik ben geen X fan maar dit gaat duidelijk over beide bedrijven.

[locke960]

Omdat het nieuws is dat Noyb vandaag de toezichthouders heeft benaderd over X.

De verwijzing naar Meta gaat over een klacht die ze op 6 juni hebben ingediend. Dat was 2 maanden geleden nieuws, nu is het slechts een voetnoot, voor de context.

[kodak]

Het stoppen is absoluut niet genoeg. Een van de problemen is dat het bedrijf de resultaten van het verwerken gewoon nog gebruikt. Zonder het verwerken had men die resultaten niet, en dus ook niet het als bedrijf profiteren van die resultaten. Er is dus maar een mogelijkheid: ook de resultaten terugdraaien en verantwoording afleggen hoe het ervan heeft geprofiteerd over de ruggen van de miljoenen klanten.

[Caelestis]

AI is enkel de nieuwste vorm van profilering.
Ze gebruiken de data al decennia's "om het product te verbeteren".

Waarom is het nu pas een issue? Enkel vanwege de noemer AI?

[kodak]

Je stellingen kloppen niet. Afgezien dat profilering al veel langer een probleem is en niet zomaar is toegestaan, de AI-technologie van twitter is niet slechts bedoeld om te profileren. Daarbij gaan je stellingen aan het punt voorbij dat het probleem van andermans persoonlijke gegevens gebruiken niet slechts om AI gaan maar om een (zoveelste) vorm van ongevraagd en onnodig verwerken.

[Caelestis]

Dacht je dat de YT of adsense algoritmes gemaakt zijn door mensen?
Het punt van dag 1 was al het automatiseren van data verwerking. Om een AI te maken moet je eerst de tools ontwikkelen. Om de tools te ontwikkelen zoals machine learning heb je immense poolen met data nodig. Dat was stap 1 en de basis van Google, Apple, Meta, Twitter, Amazon, Microsoft.

Nou moeten ze ook nog allemaal voldoen aan het bestrijden van propaganda, desinformatie, haat zaaien enz.
Al huur je een miljoen mensen in om het te moderaten lukt het je nog steeds niet. Er is gewoon teveel.
Er is geen andere optie dan automatisering op een niveau dat de mens er niet tussen zit of de internet kabels door te hakken.

[kodak]

Automatisering is net zomaar hetzelfde als ai. De automatisering om te modereren is niet zomaar lerend op basis van andermans gegevens. Daarbij is de ai van twitter hoe dan ook niet perse bedoeld om te modereren.

En zelfs al stellen zou twitter deze ai wel alleen wil gebruiken om aan verplichtingen te voldoen dan is er alsnog de plicht om niet zomaar het meest vergaande ongevraagde verwerken toe te passen.

[Caelestis]

Daarbij is de ai van twitter hoe dan ook niet perse bedoeld om te modereren.

Gebaseerd op? Het is in ieder geval niet voor advertenties bedoeld.

Ik zou willen zeggen zelfde verplichtingen als de rest. Meten met twee maten is niet de manier.
Dat Elon Grok wil gebruiken om te voldoen aan de regels, wat volkomen aannemelijk is, dan is dat toch nog steeds beter dan dat je doodgegooid wordt met Co-pilot van het 10 Miljard investering in OpenAI
Of de deal dat Google heeft getekend met Reddit om alle gebruikers data te krijgen.
Of de 350000 H100 GPU's dat Meta heeft besteld van Nvidia.

Wat is er zo anders aan Grok?

[Reactie gewijzigd door Caelestis op 13 augustus 2024 08:10]

[Aldy]

Het verschil tussen het verwerken van jouw gegevens en het gebruiken van jouw gegevens voor het trainen van ai is dat jouw gegevens als het tegenzit volledig openbaar kunnen worden.
Als Grok-gebruiker (wees niet bang, want dat ben ik niet) kan ik direct de gegevens van Caelestis opvragen als privépersoon en dat is tot heden nog niet mogelijk geweest.

[Caelestis]

Het verschil tussen het verwerken van jouw gegevens en het gebruiken van jouw gegevens voor het trainen van ai is dat jouw gegevens als het tegenzit volledig openbaar kunnen worden.

Nooit gehoord van https://haveibeenpwned.com/ ?
We hebben zelfs volledig legale en betaalde services om je data te verwijderen van handelaren.
https://www.deleteme.com/

Wat was ook al weer het verschil tussen verwerken en verwerken?
Als ik een argument mag maken in het voordeel van een AI. Zelfs als je de data hackt van een AI snap je er als mens nog steeds helemaal niks van. En waarom zou een AI jouw gegevens geven van bijvoorbeeld je buurman? Uit emotie?

Als Grok-gebruiker krijg je volledig toestemming van mij alles doen om het te achterhalen.
Maar als de data getraind wordt op social media data waarom zou je niet gewoon direct zoeken in de bron?
De standaard zoekmachines werken ook.

[Aldy]

Om te beginnen met haveibeenpowned, de verwerker had in deze nooit de bedoeling dat de gegevens openbaar zou worden.
En wat betreft het trainen van ai met medische gegevens:
https://tpo.nl/2024/08/07...-bij-gebruik-ai-chatbots/
Hierdoor wordt het mogelijk dat de eerste de beste joker direct je medische gegevens kan opvragen. Gewoon doordat mensen niet nadenken wat ze invoeren in AI.

[Caelestis]

Om te beginnen met haveibeenpowned, de verwerker had in deze nooit de bedoeling dat de gegevens openbaar zou worden.

Dat je niet op het darkweb komt is vrij logisch maar principieel is dat gewoon openbaar gebied. En een vorm van menselijk gedrag om andere mensen te naaien.
En AI heeft niks aan geld en gaat je ook niet aftroggelen.

En wat betreft het trainen van ai met medische gegevens:

Dat is overigens een heel ander discussie.
Er is geen wet dat reguleert wat jij zelf erin zet.
Dan nog is de vraag kan een ander de gevens opvragen wat jij erin steekt.
Je weet dat het opgeslagen wordt. Hoe het data daarna gebruikt wordt is puur gokken.

En hoe wil je dit bedienen?
https://www.universiteitl...telligentie-en-scheikunde

Je zal toch echt de data een keer moeten gebruiken. Wie bepaalt wat en hoe?
De focus ligt vooral enkel nog op zinloze social media chats want we moeten en zullen elkaar de grond in reguleren.

[Charlie_Root]

Zowel X als Meta beweert een 'legitiem belang' te hebben dat de rechten van gebruikers overstijgt.

Wat een statement. Dus hun ontwikkelingen (en daarmee cashflow) is belangrijker dan de mens en hun privacy. Oef.

[DanielsWrath]

Privacy is niks meer waard tegenwoordig, niemand geeft om je, de bedrijven, de overheden, niemand.

Je hebt een handvol organisaties en bedrijven die zich er nog hard voor maken, maar dat is iets waar je ten eerste voor kiest. Daarnaast betekent het nog niks voor de rest, en zullen ze waar mogelijk over alle grenzen heen walsen.

Het is treurig, maar ik zie de toekomst somber in wat dat betreft.

[adje123]

Ja, maar, snap jij dat wij die bedrijven, die niks om ons geven zelf in stand houden?

[jpsch]

Stellen is bewijzen.

[Lisadr]

Geld wat ze kunnen verdienen door wetten te negeren is veel meer dan de boete die ze krijgen.

[Havelock]

En die boete die betalen wij!
Uit eindelijk zijn wij toch de klos!
Maar goed wat is dit anders wat zoekmachines doen die doen toch ook sites scannen ?

[MSalters]

De afweging tussen financiële belangen en privacy is ook in de EU niet zwart-wit. Je zult de mate van privacy-schending moeten kwantificeren, wil je een kans maken in een rechtzaak. Zo is het duidelijk dat de privacy van Bekende Nederlanders inherent kleiner is. Namen zijn persoonsgegevens, maar de namen van de ministers zijn publiek. Een AI mag die best weten. Dat is inderdaad een "legitiem belang".

Verder zijn uitspraken op Twitter inherent publiek. De redeljkerwijs te verwachten privacy in de EU is contextueel: in je eigen huis is die veel groter dan in het openbaar. Wie post op Twitter mag niet dezelfde privacy verwachten als in een WhatsApp chat met twee personen. Dat is de vrije keuze van diegene die de post maakt.

[MehHuntah]

ik weet niet of tweets en facebook posts nou zo'n geweldige bron van informatie is waar je een AI uit wilt trainen..

Als de data waarmee je een AI trained incorrect of bias is, krijg je geen artificial intelligence.. maar eerder artificial stupidity

Het gevaar zit hem niet zo zeer in privacy.. een AI onthoud niet direct wat je post, maar meer de intentie van wat je post.. en als meerdere posts die zelfde intentie hebben zal ie dat gaan overnemen (net als een klein kind).

[brammetje1994]

Tweets en facebook posts zijn juist 'menselijk'. Als je mensen wilt immiteren, moet je ook de minder toffe aspecten in je bron data hebben. Als je een AI traint op stomme data, krijg je een stomme AI. Dat is niet artificial stupidity, want het model werkt perfect. Dat is human stupidity.

[MehHuntah]

Het probleem is dat veel mensen alleen maar dingen posten op social media als ze wat op hebben
Dus het niet is echt representatief. Vaak zijn mensen overdag slimmer als savonds

[CivLord]

Met X en Facebook comments train je eerder Artificial Sociopaths.

[Japie api]

Heeft Noyb eigenlijk zelf ooit de eindgebruikers gevraagd,of zij hun mogen vertegenwoordigen in dit soort zaken?

[jfdaniels]

Het is een vraag tot onderzoek bij de privacy toezichthouder, geen rechtzaak. Het is de toezichthouder die de rechtzaak moet aanspannen lijkt me. Dan heb je niet één x gebruiker nodig. Ze zijn in fout tegen de eu wetten of ze zijn het niet.

[klakkie.57th]

Absoluut, ik ben vanaf dag 1 donateur en ik betaal met veel overgave iedere jaar weer opnieuw.

Onze overheden laten ons (bewust) in de steek, dus zijn we als particulier aangewezen op dit soort non-profit ondernemingen om onze rechten te verdedigen.

[Reactie gewijzigd door klakkie.57th op 12 augustus 2024 18:49]

[CivLord]

Niet nodig. Noyb vraagt toezichthouders en rechters enkel of bedrijven zich wel aan de regels houden zoals die door de door de eindgebruikers gekozen volksvertegenwoordigers zijn vastgestel.

[mutley69]

Ik sponser Noyb en dat rendeert pas echt - zij en zij alleen komen op voor onze privacy. Gezien ze ten aanval trekken tegen Elon Musk ga ik mijn bijdrage dan ook met veel genoegen verhogen! Eindelijk.

[pk128934]

Hier hetzelfde. Noyb is een pracht organisatie die als enige ook de APs aanspreekt op hun verantwoordelijkheden EN er dan ook iets mee doet.
BOF kan daar best nog wat van leren. DPG staat bij Noyb overigens ook al jaren op het netvlies.

[CivLord]

Het Tweakers moderatie team zijn de gebruikers zelf.
Wanneer je oproep weggemodereerd wordt zal je ook andere dingen in je reactie zeggen die volgens je medegebruikers niet kloppen of flamebait zijn.

[pk128934]

Zou mij niet verbazen. DPG is echt geen sjieke club. Heb al meermaals klacht ingediend bij de AP. Maar die nemen uberhaupt geen actie (tijdgebrek) en DPG weigert mij inzage in de gegevens van een oud/disabled Tweakers account van mij.