Zoom belooft AI-modellen alleen te trainen met gebruikersdata na opt-in

Zoom belooft dat het geen AI-modellen gaat trainen op audio, video en chats zonder expliciete toestemming van gebruikers. Het bedrijf kwam vorige week onder vuur te liggen toen het zijn algemene voorwaarden aanpaste om dat mogelijk te maken.

Zoom reageert in een blogpost op de ophef die eerder ontstond. Het bedrijf paste zijn algemene voorwaarden aan, die sinds 27 juli actief zijn. Daarin schrijft Zoom dat het klantdata kan gebruiken om machinelearning- of kunstmatige-intelligentiemodellen te trainen. "Zoom kan dienstgegenereerde data benaderen, gebruiken, verzamelen, creëren, aanpassen, distribueren, verwerken, delen, onderhouden en opslaan voor ieder doel, onder andere voor doelen als machinelearning en kunstmatige intelligentie, waaronder het trainen en bijwerken van algoritmes en modellen", staat in het nieuwe privacybeleid te lezen. Zoom bracht eerder dit jaar al tools uit zoals Zoom IQ, een slimme assistent die het bedrijf in samenwerking met OpenAI maakt.

De veranderingen werden al in maart van dit jaar doorgevoerd, maar vielen pas recent op. Zoom reageert nu op de ophef die naar aanleiding van die wijzigingen ontstond. Het bedrijf zegt nu te reageren om transparanter te zijn over welke data het verzamelt. Zoom meldt dat het de algemene voorwaarden, specifiek sectie 10.4, opnieuw heeft aangepast. Het bedrijf heeft daaraan toegevoegd dat het 'geen audio, video of chats gebruikt om kunstmatige-intelligentiemodellen te trainen zonder toestemming'.

In de praktijk betekent dit dat gebruikers zelf toestemming moeten geven via een opt-in. Bij zakelijke gebruikers moeten de beheerders dat doen. In groepsgesprekken krijgen alle deelnemers daar een melding van.

Reacties (21)

[Cowamundo]

Zoom bracht eerder dit jaar al tools uit zoals , een slimme assistent die het bedrijf in samenwerking met OpenAI maakt.

Met andere woorden, bij opt-in ga je er dus mee akkoord dat jouw data aan OpenAI of andere model bouwers verkocht gaat worden, nee dankje.

[Maurits van Baerle]

Sowieso heeft Zoom de privacy policy niet gewijzigd, en die geeft ze nog steeds de mogelijkheid om een gesprek af te luisteren en te gebruiken voor eigen doeleinden. Ze hebben nu alleen 'beloofd' om het alleen te gebruiken na een opt-in. Maar, als ze die opt-in negeren heb je geen poot om op te staan want de privacy policy geeft ze nog steeds het recht.

Kortom, Zoom is handig maar ik zou het nooit gebruiken om gevoelige informatie te bespreken en er in principe vanuit gaan dat alles wat je zegt en typt in een Zoom sessie openbaar is.

[Tomino]

Verwachting voor de toekomst; korting op je abonnement als je opt-in aanzet. Kijken hoeveel gebruikers die stap dan toch zetten..

[kodak]

Zoom, net als andere communicatie, is meestal tussen minimaal twee personen. Wat doet zoom als slechts 1 persoon in de communicatie de opt-in heeft?
Moet dan iedereen maar mee doen?

[M4x]

Zoom heeft het niet over gebruikersconsent, maar klantenconsent. De klant geeft consent, en de andere deelnemers in de Zoom krijgen notificatie dat consent is gegeven.

[kodak]

In principe is iedere gebruiker die een meeting kan starten of deel wil nemen kan een klant, ook als die de gratis versie gebruikt.

Het lijkt me hoe dan ook geen redelijke opt-in als alleen de wil van de organisator telt en de rest alleen kan kiezen tussen accepteren of niet deelnemen.

[Skit3000]

Sterker nog, ik denk dat je werkgever juridisch gezien geeneens toestemming kan geven om de stem of videobeelden van een werknemer aan een derde partij af te staan (behalve voor het daadwerkelijk bedoelde gebruik, zoals een telefoon- of videogesprek). Zij zijn immers geen eigenaar van jouw fysieke verschijning.

Het gebruik van chats ligt misschien net nog even anders, omdat die teksten iets zijn dat je produceert. In veel arbeidscontracten staat opgenomen dat alles wat je produceert tijdens werktijd (of tijdens activiteiten gerelateerd aan werk), eigendom is van je werkgever.

[wica]

Ik vraag mij best wel af hoe dit zakelijk geregeld is.
Als werknemer wordt ik door mijn werkgever verplicht zoom te gebruiken.
Maar als persoon wil ik niet, dat mijn data door AI modellen gebruikt worden.

[dollyking]

"Dit gesprek kan worden opgenomen voor trainingsdoeleinden'

hoe lang hoor je dat al wel niet door de telefoon? dit is precies het zelfde.
hier traint met ook AI mee maar doet met ook onderzoek naar ziektes, erfelijkheid leeftijd afkomst etc.
al jaren.

volgens mij is hiervoor ook geen opt-in of out

[Maurits van Baerle]

Er zit wel een flink verschil tussen die twee situaties. Ten eerste zijn er in zo'n gesprek maar twee deelnemers en is het de andere deelnemer die het gesprek opneemt. Ten tweede stelt die andere deelnemer jou daarvan op de hoogte voordat je het gesprek aan gaat.

Bij een Zoom sessie zitten er nu dus altijd tenminste drie deelnemers in het gesprek omdat Zoom zelf zich in ieder gesprek worstelt om het gesprek dat jij met iemand anders hebt af te kunnen luisteren. Ten tweede is de toestemmingssituatie verschillend omdat er een overeenkomst is tussen Zoom en de initiator dat het gesprek afgeluisterd wordt maar niet met de andere persoon. Iedereen die wordt uitgenodigd om deel te nemen aan een Zoom gesprek had maar, zonder waarschuwing, moeten weten dat het gesprek afgeluisterd wordt.

Dit maakt Zoom dus eigenlijk ongeschikt voor het bespreken van gevoelige bedrijfscommunicatie, of bijvoorbeeld therapie, of persoonlijke kwesties.

[Reactie gewijzigd door Maurits van Baerle op 23 juli 2024 13:52]

[magician2000]

Deels anders, maar niet helemaal. De opnemede partij kan derden (intern of extern) het gesprek laten "beoordelen" waardoor het door meer mensen gehoord is dan in eerste instantie mogelijk was.

Je hebt geen opt-out, dus wanneer het een organisatie (denk aan gezondheidsinstelling, overheid, enz.) betreft waarvoor je bij geen ander terecht kunt, heb je feitelijk geen echte keuze voor weigeren van opnemen van het gesprek. Simpelweg omdat je dan niet geholpen gaat worden.

Ik heb hier al vaker aangegeven dat er altijd sprake zou moeten zijn van een opt-in. Maar dan op een dusdanig vrijwillige basis, dat weigeren niet betekend dat je een dienst geweigerd kan worden.

Tegenwoordig is het zelfs met veel betaalde diensten vrijwel standaard dat je dat nog gebruikt gaat worden op allerlei manieren.

[Jerie]

Opt-in (wat ook moet van de AVG). Mooi, nu nog de belofte dat ze geen dark patterns misbruiken om de gebruiker toch te overtuigen.

Want ze probeerden zoals wel meer platformen (Reddit, Twitter ) ook middels de website hun app te pushen.

Puur nagware. Op een gegeven moment heb je genoeg nee gezegd, zou je denken (al weet je het met figuren als Thijs Römer niet zeker).

[TijsZonderH]

wat ook moet van de AVG

Dat is niet waar. De AVG vereist geen toestemming. Toestemming is een van de mogelijke grondslagen om data te verzamelen maar echt niet de enige.

[Reactie gewijzigd door TijsZonderH op 23 juli 2024 13:52]

[PrimusIP]

Ik geef toe, best off-topic. Maar ik miste een beetje dit bericht over Zoom op Tweakers laatst: https://nos.nl/artikel/24...soneel-terug-naar-kantoor
Ik vind het best ironisch dat een bedrijf dat thuiswerken als businessmodel haar werknemer verplicht om aantal dagen per week op kantoor te komen.

En dan ontopic: Goed dat ze nu opt-in gebruiken. Het zou overal de standaard moeten zijn. Of iig dat mensen bewust er voor kiezen of niet, zonder vervelende trucjes gebruikers te pushen. Wat ik me wel afvraag is of er mensen zijn die dan er voor kiezen het wel te doen. En zo ja, waarom?

[TijsZonderH]

We hebben dit gezien en er ook over gesproken op de redactie. De keus was om het niet te brengen.

Het gaat immers om een voornamelijk economisch verhaal en niet zozeer technologisch - maar toegegeven, het zit wel op het randje daarvan.

Belangrijker vond ik daarbij dat Zoom nooit als filosofie heeft gehad om volledig remote werken mogelijk te maken. In tegenstelling tot bijvoorbeeld WeWork, dat zegt dat het alle kantoorruimte wil vervangen, heeft Zoom nooit gezegd dat remote werken het ultieme einddoel wil zijn. Ze bouwen een tool om dat makkelijker te maken en te ondersteunen, sure, maar Zoom pretendeerde nooit dat kantoorwerk overbodig zou worden. Dus de ironie daarvan vond ik best meevallen.

[telenut]

Zoom is een bedrijf dat online meetings als businessmodel heeft. Niet het thuis werken...

[IzzyG]

Wat gebeurt er als je later toch besluit om niet meer te willen mee werken? Worden al je data verwijderd? En wat gebeurt er met de “geleerde lessen” in basis van deze data?

[alienfruit]

Ja, dit was één van de redenen dat we Zoom niet meer mogen gebruiken op het werk. Erg vervelend als er allemaal bedrijven en communities alleen Zoom gebruiken

[Maurits van Baerle]

Voor wie geïnteresseerd is de juridische basis (of eigenlijk, het gebrek aan juridische basis) van hoe Zoom het opzuigen van gespreksdata goed praat is dit grondige stuk van Natasha Lomas bij TechCrunch erg nuttig: Zoom knots itself a legal tangle over use of customer data for training AI models

In het kort:

• het is opt-out, niet opt-in
• de data verzameling begint nog voor de gebruiker voor opt-out heeft kunnen kiezen
• een opt-out betekent dat je de Zoom vergadering verlaat
• de PR afdeling zegt dat het op basis van toestemming gaat maar dat blijkt niet het geval, het blijkt op basis van contract te zijn (wat niet is toegestaan in de EU voor het type informatie dat ze verzamelen)
• Zoom gebruikt een definitie van omgang met gebruikersdata die niet compatible is met de AVG/GDPR
• Het is onduidelijk wie de nationale toezichthouder is voor Zoom. Het EMEA hoofdkantoor zit in Nederland maar Zoom zelf beweert dat de Ierse toezichthouder verantwoordelijk is. Zowel de Nederlandse als de Ierse toezichthouder zeggen niet verantwoordelijk te zijn.

Nou is dit niet de eerste keer dat Zoom zichzelf in de nesten heeft gewerkt. Ze zijn een tijd geleden al in conflict met de Amerikaanse FTC gekomen omdat ze logen over het gebruik van encryptie. Het laatste woord is hier in ieder geval nog niet over gezegd en totdat Zoom hun handelen aanpast zijn ze vrij duidelijk in overtreding en kun je vervolging op basis van de AVG/GDPR verwachten. Als je als bedrijf alleen leveranciers mag hebben die zich aan de GDPR houden dan is het tijd om je contract met Zoom op te zeggen.

[Reactie gewijzigd door Maurits van Baerle op 23 juli 2024 13:52]

[healthy]

Vervolgens is het de vraag hoe Zoom de opt-in gaat formuleren. Wordt het zo generiek dat je gemakkelijk 'ja' zegt zonder in de gaten te hebben hoe ver dat reikt? Is het per meeting of voor altijd? En ik ben wel benieuwd hoe dit is geregeld bij andere partijen als Google Meet, MS Teams en dergelijke.

[Maurits van Baerle]

Zie mijn reactie hier: Maurits van Baerle in 'Zoom belooft AI-modellen alleen te trainen met gebruikersdata na opt-in'

Het artikel waar ik naar link heeft details over de flow en enkele screenshots.

Het afluisteren begint bij het starten van de vergadering. Deelnemers krijgen dan een notificatie dat het gesprek wordt afgeluisterd en hebben dan de keuze om de vergadering te verlaten als ze niet afgeluisterd willen worden. Ik verwacht niet dat er een Europese rechter is die dat "opt-in" zal noemen.

[Reactie gewijzigd door Maurits van Baerle op 23 juli 2024 13:52]