Meta gaat voorlopig toch geen AI-modellen trainen op data van Europeanen

Meta pauzeert de plannen om zijn AI-modellen te trainen op data van Europese gebruikers. Het bedrijf besluit dat na gesprekken met de Ierse privacytoezichthouder Data Protection Commission.

Meta stelde gebruikers van Instagram, Facebook en WhatsApp eind mei op de hoogte van een nieuw privacybeleid dat op 26 juni actief moest worden. Daarin staat dat Meta ook data van Europeanen gaat gebruiken om zijn AI-modellen te trainen. Het ging specifiek om zichtbare data van gebruikers, zoals posts en comments. In andere landen doet Meta dat al, maar vanwege de strengere privacyregels nog niet in Europa.

Privacystichting noyb diende na bekendmaking van de plannen klachten in bij elf Europese privacytoezichthouders, schrijft Reuters. Het gaat onder meer om toezichthouders in Nederland, België, Frankrijk en Duitsland. Ook de Ierse privacytoezichthouder DPC - die in Europa de leiding heeft over het toezicht op Meta, aangezien het Europese hoofdkantoor van Meta in Ierland zit - werd door noyb aangeschreven.

De DPC laat nu weten dat het intensief contact heeft gehad met Meta, waarna het bedrijf ervoor gekozen heeft zijn plannen te pauzeren. Ook zegt de DPC dat het samen met andere Europese privacytoezichthouders met Meta in gesprek blijft over het onderwerp.

Meta zelf zegt dat de beslissing volgt op een verzoek van de DPC om de plannen te pauzeren. Het bedrijf zegt teleurgesteld te zijn in dat verzoek, 'zeker gezien we feedback van toezichthouders hebben meegenomen en we de Europese toezichthouders al in maart geïnformeerd hebben'. Hoe lang de plannen gepauzeerd worden, is niet bekendgemaakt.

Reacties (66)

[koppie]

Ok, toch wel heel prettig dat toezichthouders in Europa redelijk streng zijn, al is de Ierse misschien een van de minst strengste. Maar wel met de grootste opdracht door de grote hoeveelheid formele vestigingen.

Het blijft wel heel lastig, je weet dat het publiek wordt als je iets upload, maar is het dan ook gelijk commercieel? En dat laatste is gelijk een stap verder.

[Reactie gewijzigd door koppie op 23 juli 2024 05:09]

[DdeM]

Zelfs als het publiek is, is het niet altijd vrij om gebruikt te worden door anderen. Er bestaat nog steeds oa auteursrecht en copyright en die vervallen niet perse zodra iets publiek is.

[MrFax]

Volgens mij krijgt Meta automatisch een ongelimiteerde licentie op het gebruik van jouw posts, foto's, etc. zodra jij ze post. Je hebt wel copyright, maar Meta heeft gewoon een geldige licentie.

Wel staat er een causule dat deze licentie vervalt op het moment dat jij dit van hun platform verwijderd, en wellicht heeft het hier mee te maken:

Specifically, when you share, post, or upload content that is covered by intellectual property rights on or in connection with our Products, you grant us a non-exclusive, transferable, sub-licensable, royalty-free, and worldwide license to host, use, distribute, modify, run, copy, publicly perform or display, translate, and create derivative works of your content (consistent with your privacy and application settings). This means, for example, that if you share a photo on Facebook, you give us permission to store, copy, and share it with others (again, consistent with your settings) such as Meta Products or service providers that support those products and services. This license will end when your content is deleted from our systems.

https://www.facebook.com/legal/terms

Als er getrained is op jouw content, en jij verwijdert deze content, dan hebben ze geen geldige licentie meer om jouw content te gebruiken.

[Reactie gewijzigd door MrFax op 23 juli 2024 05:09]

[Verwijderd]

Dan ben ik wel sterk benieuwd naar hoe zij deze trainingsdata opbouwen, want zover bij mij bekend moet een gehele dataset gereset worden om ook maar 1 karakter aan data te verwijderen uit de uiteindelijke AI model.

Dat zou met het aantal gebruikers op Facebook alleen al betekenen dat deze trainingsdata iedere seconde van de dag gereset wordt? Dat lijkt mij sterk...maar ook al zou dit 1x per dag geschieden, dit is behoorlijk wat data om eventjes iedere dag 1x opnieuw op te bouwen(opnieuw te trainen).

However, removing a user’s data from a trained AI model proves to be a difficult task, often requiring a complete reset of the model, which entails forfeiting the considerable resources invested in its training. This challenge stands as one of the most unresolved issues in our burgeoning era of AI, alongside concerns like AI hallucinations and the complexities of explaining certain AI outputs. According to numerous experts, the AI unlearning problem intersects with inadequate regulations concerning privacy and misinformation, posing a looming dilemma. As AI models grow in size and ingest increasingly vast amounts of data, the absence of effective solutions for data removal from a model, and potentially the model itself, emerges as a pressing concern for all stakeholders.

Bron: https://dig.watch/updates...oving-data-from-ai-models

That’s because, as it turns out, it’s nearly impossible to remove a user’s data from a trained A.I. model without resetting the model and forfeiting the extensive money and effort put into training it. To use a human analogy, once an A.I. has “seen” something, there is no easy way to tell the model to “forget” what it saw. And deleting the model entirely is also surprisingly difficult.

Bron: https://fortune.com/europ...delete-trained-ai-models/

No unlearning methods are ready yet for widespread deployment. Guihong Li, a researcher at Marculescu’s lab, says “the problem space is a newborn baby,” and sees a lot of promise in future experimentation on different types of AI (image-based versus text-based models require unique approaches) and increasingly complex, sometimes arbitrary cases like forgetting the writing style of a particular publication.

Bron: https://www.politico.com/...nlearning-forget-00161303


Heb er weinig vertrouwen in dat Meta zich ook daadwerkelijk houdt aan wat zij aangeven of wettelijk gezien zouden moeten of dat dit technisch überhaupt op dit moment haalbaar is.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 05:09]

[WillySis]

Het is een ingewikkelde materie. Het is echter niet zo dat als een licentie vervalt automatisch alle producten waarin onderdelen uit die licentie zijn gebruikt ook aangepast moeten worden.
In een AI model is een oorspronkelijk stuk tekst of afbeelding niet meer als complete eenheid herkenbaar en de oorspronkelijke tekst/afbeelding kan evenmin als losse eenheid verwijderd worden. In de meeste gevallen waar gelijksoortige problemen optreden mag het resultaat waar in onder licentie vallende onderdelen zijn gebruikt gewoon blijven bestaan.
Wanneer (aantoonbaar) teksten of afbeeldingen zijn gebruikt waar men geen licentie voor had, ligt het anders. Voor het ontwikkelen/tranen van AI modellen lopen de discussies daarover nog.

Meta eigent zich het recht toe om alles wat jij op een van hun platformen plaatst te mogen gebruiken, maar kan (in tegenstelling tot wat men vroeger zei) zich geen eigenaar noemen.

[JakkoFourEyes]

publiekelijk zichtbaar != commercieel bruikbaar

[rene_1974]

Zoals jij het zegt, dan mag ik dus zonder toestemming jouw Facebook gegevens gebruiken en verspreiden.
Het is publiekelijk zichtbaar, dus anderen mogen er mee doen wat ze maar willen.
Dat lijkt mij toch niet helemaal de bedoeling.
Waarom is er anders bij Whatsapp voor gekozen dat je geen screenshot meer kan maken van iemands profiel foto?
Je kan trouwens zonder moeite iemands foto op facebook, op jouw eigen pc opslaan.
Gewoon rechts klik, afbeelding opslaan als en dan opslaan.
Eigenlijk best wel slecht dat dit mogelijk is.

[Reactie gewijzigd door rene_1974 op 23 juli 2024 05:09]

[j-phone]

'!=' betekent 'ongelijk aan'.

[rene_1974]

Bedankt voor de uitleg.
Dat wist ik niet.

[Rouwette]

Ehm ik kan op mijn ios telefoon nog gewoon WhatsApp profiel screenshots maken.

[Jack77]

Het is niet omdat je iets kan, dat je het mag. Te snel rijden, iemand doden...

[rene_1974]

Ja, zo bedoelde ik het ook.
Ik vind ook dat Facebook dit echt niet mag.
Tenminste niet zonder toestemming van degenen waarvan ze de data (foto's, filmpjes, berichten, e.d.) willen gaan gebruiken voor AI.

Hoe zouden ze het vinden als iemand hun broncode online zou gooien?
Dat vinden ze waarschijnlijk ook niet leuk.

[Rouwette]

Dat zeg ik ook niet, Rene_1974 zegt dat het niet meer kan. Ik merk geen verandering.

[rene_1974]

Dan is dit op de Iphone waarschijnlijk niet of nog niet toegepast.
Ik heb een Samsung S23 en daarmee lukt het mij niet meer.

[DdeM]

Naja, principe mag je voor prive gebruik gewoon alles van FB downloaden. Je mag het dan alleen niet verder verspreiden. https://www.rijksoverheid...%20uit%20legale%20bronnen.

[rene_1974]

Alles lijkt mij een beetje een groot begrip.
Pikante foto's mag je vast niet van FB af opslaan op jouw eigen pc.
Niet dat ik dat zou willen, om maar een voorbeeld te noemen.
Sommigen zetten ook nog steeds hun 06 nummer op FB.
Het lijkt mij niet dat ik dan in het wilde weg 06 nummers met bijbehorende namen en woonplaatsen,
mag opslaan vanaf FB op mijn pc.

Dit alles doet AI dus wel en zonder dat je weet wat er allemaal opgeslagen staat.
Bovendien, zoals @Verwijderd al aangaf, is het extreem moeilijk om de vergaarde data te verwijderen.

Het is al erg genoeg dat al je data ergens op een server, die gekoppeld is aan internet om data te bewaren,
staat opgeslagen en waarvan waarschijnlijk gebruik van mag worden gemaakt door derden tegen betaling.

[bilbob]

Als je iets kan zien of horen kan je het ook opslaan. Per definitie.
Ze kunnen natuurlijk trucjes gebruiken om het moeilijker te maken voor tante Bep en ome Frans maar als je je best doet kan je het opslaan.

[Niema]

Misschien is het legaal commericieel te gebruiken, maar net zoals met Cambridge analytica kun je straks met data van een kleine groep mensen ook mensen volgen die nooit gebruikt hebben gemaakt van deze socials. Patronen van mensen en zonder toestemming gedeelde Fotos of anonieme verhalen. Dit gaat denk ik over veel meer dan : had je het maar niet publiek moeten zetten.

[Verwijderd]

Dus als een ander een foto maakt waar jij op staat en deze upload dan zit je al in het systeem. Ook het systeem moet jou kennen om niet gebruikt te worden.

[Jack77]

Volledig eens met de EU. Het enige wat ik betreur is dat Meta en co naderhand hun tool wel hier beschikbaar maken, en hier bij de onwetende gebruikers informatie verspreiden waar weinig of geen Europese invalshoeken in verwerkt zitten. Bvb. rond sociaal-democratie. Het is dan zoals enkel Amerikaanse nieuwsmedia volgen zonder daarvan bewust te zijn.

[Reactie gewijzigd door Jack77 op 23 juli 2024 05:09]

[Bospaddenstoel]

al is de Ierse misschien een van de minst strengste.

I wonder why.

https://www.reuters.com/t...-chatbot-bans-2023-04-20/ [zachtere stance tegen datavergaring]
https://www.reuters.com/t...us-data-flows-2022-07-07/ [uitstel van beslissing over ban versluizing data naar US (in afwachting van nieuwe eu-us privacy shield post shrems 2)]
https://www.theregister.c...les_corruption_complaint/ [corruptie]
https://medium.com/protec...-enforcement-6bd0664754ea [blog over Ierland's vreemde 'zachte' stance ten aanzien van schendingen begaan door de op haar grondgebied aanwezige techgiants]

[dinoballz]

al is de Ierse misschien een van de minst strengste

Waar baseer je dat op? Volgens mij heeft Ierland juist al een aantal keer het voortouw genomen. Ze worden vrij vaak genoemd op Tweakers.

nieuws: Meta krijgt 265 miljoen euro AVG-boete om gescrapete data van 533 mil...

nieuws: Ierse waakhond is niet blij dat Twitters Blue-abo zonder overleg in E...

nieuws: Microsoft zet 396 miljoen euro opzij voor mogelijke AVG-boete voor Li...

[koppie]

Dat komt zoals gezegd omdat de grote techbedrijven in Ierland gevestigd zijn, en het land van vestiging de eerste zaak moet starten in privacy-zaken. Daarnaast, omdat zaken veelal bij de rechter terechtkomen de Ieren niet al te streng te zijn om te zorgen dat de rechtszaak grote kans van slagen heeft.
https://www.nu.nl/tech/61...icht-op-techgiganten.html

Driekwart van de zaken die wel doorgaan worden verderop sterker uitgevoerd:
https://www.irishtimes.co...ce-2018-overruled-report/

The report said the regulator tends to use its discretion under Irish law to choose “amicable resolution” to conclude 83 per cent of the cross-border complaints it receives, instead of resorting to enforcement measures.

[deniz280]

"voorlopig"

[aileron]

En zover wij weten ook.

En als het zebtoch lukt om hier toestemming voor te krijgen zal de implementatie vrij snel gaan met bruikbare AI modellen die magisch snel getraind zijn.

Gebruik niks van meta. En als mogelijk geen enkele big tech service.

[litebyte]

Meta zou als het uit elk ander land dan (E)USA zou komen allang verboden zijn. Dat meta nog na alle schandalen het zich niet houden aan wetgeving en het beinvloeden van de politieke en publieke opinie nog mag opereren binnen de EU, is eignelijk nog veel enger dan Meta zelf.

[IngamerX]

Ze hebben de data, tools en kennis. Geloof er niets van dat Meta niet al bezig is.
Ondertussen zijn er teams in de US al volop bezig met deze datasets.

[adje123]

Precies. 5 jaar vanaf nu komen de toezichthouders erachter dat Meta dat wel heeft gedaan en krijgen ze een boete van 10 miljoen euro en klaar is "case".

[IamGrimm]

GDPR boetes zijn flink wat hoger dan 10mil voor een partij zoals Meta. Er is een goede reden dat ze het plan pauzeren en dat is de boete op basis van een percentage van de omzet.

10 mil zou een Amerikaanse stijl boete zijn.

[naaitsab]

Ik vraag me af hoe lang het duurt voor Meta een EULA update gaat sturen waarbij redelijk groot staat "je data wordt gebruikt voor AI als je doorgaat". Dergelijke belangrijke dingen wegstoppen in kleine lettertjes is zo ver ik weet verboden. Alleen doe ik even de gok dat het overgrote deel gewoon blind op OK drukt want melding staat in de weg.

Hoe of hoe zullen ze wel iets verzinnen. Na het verkopen van je data voor reclame is dit natuurlijk de volgende goudmijn voor big tech.

[wodriew]

Hun verwoording in een policy update van een drietal weken terug vond'k opmerkelijk genoeg om er een screenshot van te nemen. FB Policy Update

[Bastian1]

Your have the right to object...

Gevolgd door

If your objection is honored, it will be applied going forward...


Wel, lekker makkelijk dat je bezwaar mag maken dat genegeerd gaat worden

[mexicanburribo]

Vraag me af of dat gedaan is tho. Heb ook bezwaar gemaakt en kreeg instant een mail dat dat gehonored zou worden. De vraag is wat dat waard is, Meta kennende, maargoed

[Elidos]

Bezwaar is binnen 1minuut goedgekeurd als je die aantekend. Gaat volledig automatisch aan META's kant.

[RvdDungen]

Klinkt alsof ze als grondslag uit de avg gekozen hebben voor gerechtvaardigd belang.

In dat geval is dit gewoon volledig conform wetgeving. Ze mogen namelijk een bezwaar dam gemotiveerd afwijzen.

Ik kan mij niet indenken welke motivatie in dit geval het gaat winnen van het privacybelang, maar goed...

[Bospaddenstoel]

Toch wel een interessante toepassing van de balancing exercise en het recht van bezwaar van de betrokkene.

Artikel 6, lid 1 AVG/GDPR
f) de verwerking is noodzakelijk voor de behartiging van de gerechtvaardigde belangen van de verwerkingsverantwoordelijke of van een derde, behalve wanneer de belangen of de grondrechten en de fundamentele vrijheden van de betrokkene die tot bescherming van persoonsgegevens nopen, zwaarder wegen dan die belangen, met name wanneer de betrokkene een kind is.

Artikel 21 AVG/GDPR
Recht van bezwaar
1. De betrokkene heeft te allen tijde het recht om vanwege met zijn specifieke situatie verband houdende redenen bezwaar te maken tegen de verwerking van hem betreffende persoonsgegevens op basis van artikel 6, lid 1, onder e) of f), van artikel 6, lid 1, met inbegrip van profilering op basis van die bepalingen. De verwerkingsverantwoordelijke staakt de verwerking van de persoonsgegevens tenzij hij dwingende gerechtvaardigde gronden voor de verwerking aanvoert die zwaarder wegen dan de belangen, rechten en vrijheden van de betrokkene of die verband houden met de instelling, uitoefening of onderbouwing van een rechtsvordering.

In plaats van: "Oei oei sorry meneer ik zal het nooit meer doen."
Is het nu: "Ik zal er eens over nadenken."

[Reactie gewijzigd door Bospaddenstoel op 23 juli 2024 05:09]

[Xfade]

Dan zal Zuck over een x aantal jaar weer ergens voor een tribunaal gaan zitten. Zal hij niet erg vinden.

[naaitsab]

Dat ligt eraan hoe ze het spelen. Zo ver ik weet mag dit niet verplicht worden voor gebruik van Meta diensten of standaard aan staan. Maar als ze vragen of je akkoord gaat ja/nee in duidelijke taal en je klikt ja, met daarna nog een opt-out manier. Staan ze volgens mij volledig in hun recht.

De meeste mensen die in IT werken of wel eens andere mensen helpen met computers zullen wel kunnen beamen. Dat een groot deel van de gemiddelde computergebruiker gewoon op dingen klikt zonder goed te lezen wat er nu staat c.q. gevraagd wordt. Als ze hiermee al een groot deel van hun actieve userbase kunnen "pakken" is de buit binnen.

[Horatius]

Eerst zeg je een EULA update dan heb je het over een opt out?

Als ze het als opt in presenteren zonder enige dark patterns zou het misschien mogen, maar dat zal ook weinig mensen overtuigen. Immers als ze er iets voor terugkrijgen dan mag dat waarschijnlijk weer niet. Ze vallen immers onder de DSA.

Er bestaat momenteel al een opt out al is deze wel gecompliceerd.

[Reactie gewijzigd door Horatius op 23 juli 2024 05:09]

[naaitsab]

Ik doel op een opt-out mogelijkheid nadat je hebt geaccordeerd. Dus ergens in je account opties verstopt.

De mensen die privacy bewust zijn zullen vermoedelijk al afscheid hebben genomen van Facebook of gewoon kiezen voor de 'nee dank je' optie. Denk dat we niet moet onderschatten hoeveel mensen het weinig interesseert zo lang ze maar hun posts kunnen zien. We gaan het beleven.

[Horatius]

We het niet moeten onderschatten? Wie is we?

De enige manier waarom ik zei dat het zou mogen is opt-in, en als je denkt dat alle privacy bewuste mensen allang zijn vetrokken van meta heb je het stevig mis.

[Sebazzz]

Dat hebben ze al min of meer gedaan. Meerdere gebruikers waaronder ik hebben een popup gehad waarin stond dat je akkoord moest gaan om Facebook te blijven gebruiken.

Dat was allemaal een paar weken terug.

[Edwin]

Was dat de popup van klik OK als we je data voor reclame mogen gebruiken of betaal €xx /mnd als je dat niet wilt?

[Varleria]

Nee, dat was een andere

[TheDutchSmoke]

Hopelijk gaat dit volledig van de baan, maar ik heb er weinig vertrouwen in...

[litebyte]

Waarschijnlijk net zo van de baan als de belofte dat data tussen de verschillende platforms van meta niet gekoppeld zouden worden

[KL643]

Oh ja stiekem toch, dan betalen we later wel weer de boete

[jpsch]

Vliegen we even naar Europa en gaan met de "Frans Timmermansen" samen lachend op de foto in Brussel.

[litebyte]

Meta is in lobbycratie EU een van de grootste betalers - op plek 4 met ruim 6.000.000 Euro. En dat zijn de openbare gegevens

[EldraziKlap]

Betekent dit niet gewoon dat het allang gaande is?

Als weet ik wat voor bedrijven al jouw publieke posts en comments enzo kunnen bekijken en daar een AI mee trainen, waarom zou Meta dit dan niet allang doen?

[eMiz0r]

Dat doen ze ook al. Over ons hele hostingplatform zien we echt een enorme toename van 50% aan CPU usage van een Meta crawler. We hebben de crawler volledig moeten blokkeren omdat websites bijna letterlijk “geDoS’t” worden (tientallen requests/s).

Dus ook al gebruiken ze hun eigen data niet meer, ze gebruiken alle publiek beschikbare data van alle websites, zonder enige vorm van toestemming, die ze afscannen.

[EldraziKlap]

Ja, dacht ik al

[FrostyPeet]

Benieuwd hoeveel mensen nu foto's gaan verwijderen van FB / Insta.

Al dat AI gesnuffel in gegevens, "voor uw gemak", gaat fout aflopen. Helemaal als die AI chips straks niets meer kosten en "overal" in zitten en ook offline werken. Als de politiek er achter komt dat je echt alles kan opsporen wat nu nog te veel FTE's vraagt, zal de verleiding groot worden. Voor uw veiligheid natuurlijk, want u heeft toch niets te verbergen?

[herpiederpienow]

Heel goed. Wat mij betreft zouden ontwikkelaars hun AI modellen ook helemaal niet mogen trainen op gebruikersdata tenzij ze ondubbelzinnige vrijwillige toestemming krijgen zonder dat het weigeren van die toestemming enige vorm van nadeel betekent.

Grote bedrijven als Meta zouden sowieso uitgesloten moeten zijn van het mogen stellen van dergelijke voorwaarden enkel en alleen maar vanwege hun dominantie in de markt.

[gron74]

En dan vraag ik me nog steeds af waarom mensen dingen delen via Facebook en Instagram. Als artiest, bedrijf of vereniging begrijp ik het nog, maar als gewone 'man van de straat' waarom in vredesnaam moet je delen dat je op vakantie gaat, of dat je dochter jarig is, of dat je hond achter zijn eigen staart aan rent. Why?

[remmuz]

Om dezelfde reden dat mensen in de kroeg of op kantoor elkaar vertellen dat ze een nieuwe auto hebben of dat hun kind jarig was. Of ik dat nou in de kroeg deel of op Facebook is voor mij hetzelfde. Ik deel het niet met de hele wereld maar met mijn vrienden en kennissen.

[Varleria]

Stop de spionage door de USA op Europese bodem, overal willen zij inmenging en controle. META is louter een sateliet van de USA om iedereen te screenen en in hokjes in te delen.