Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Mensen die meeluisteren met Google Assistent kunnen Nederlanders identificeren

Mensen die Google heeft ingehuurd om mee te luisteren met spraakcommando's van gebruikers van Assistent, kunnen die gebruikers makkelijk identificeren. Google claimde eerder dat het stemmen vervormt en informatie verbergt, maar dat blijkt in de Benelux niet zo te werken.

De opnames zijn in de Benelux niet vervormd, schrijft VRT dat duizend opnames kreeg van een anonieme medewerker van een bedrijf dat opnames van notities voorziet voor Google. Die notities dienen om het algoritme beter te leren hoe Nederlanders spreken om zo de stemherkenning te verbeteren. Menselijke medewerkers luisteren ongeveer een op de vijfhonderd spraakopnames af, zegt de zoekgigant tegen NOS.

Het was al langer bekend dat Google mensen inzet om spraakopnames af te luisteren en zo het algoritme te verbeteren. De zoekgigant bevestigde dat enkele maanden geleden. Toen zei de Amerikaanse tak van Google dat medewerkers vervormde opnames te horen krijgen, maar in de Benelux gebeurt dat volgens drie anonieme bronnen van de VRT dus niet. Bovendien moeten de medewerkers bij twijfelgevallen adressen en locaties die mensen opnoemen via internet opzoeken. VRT heeft individuele gebruikers geïdentificeerd aan de hand van opnames en ze de opnames laten horen.

De gebruikersnaam staat niet bij de opnames; Google wijzigt die in een niet te herleiden volgnummer. Wel gebeurt het vaak dat het gaat om opnames die geen spraakcommando's bevatten. Van de duizend waren er volgens VRT 153 onbewust opgenomen. Vermoedelijk zegt iemand een woord dat op Google lijkt, waarna bijvoorbeeld een Google Home-speaker gaat luisteren. De opnames waren van Google Home en van Google Assistant op smartphones.

Google is niet de enige die menselijke medewerkers laat meeluisteren. Ook Amazon en Apple doen dat. Amazon Alexa werkt niet in het Nederlands, waardoor die ook geen Nederlandstalige medewerkers zal hebben om mee te luisteren. Siri van Apple werkt wel in het Nederlands.

Update, 18:02: De Belgische minister Philippe de Backer voor Privacy wil dat er een onderzoek komt om het laten meeluisteren met spraakcommando's door medewerkers te laten toetsen aan de AVG, schrijft de VRT. Volgens De Backer is Google mogelijk niet expliciet genoeg geweest dat medewerkers mogelijk spraakcommando's beluisteren.

Door Arnoud Wokke

Redacteur mobile

10-07-2019 • 17:00

364 Linkedin Google+

Submitter: stijn014

Reacties (364)

Wijzig sortering
Op https://myactivity.google.com kun je 'Spraak- en audioactiviteit' uitzetten om te voorkomen dat jouw spraakopnames worden opgeslagen.

Of dit ook wordt gehonoreerd mag Joost weten. Ik ga iig uit van wel.

Je kan hier ook je eigen spraakopnames terug beluisteren als de optie ingeschakeld was.

[Reactie gewijzigd door Aurora op 10 juli 2019 17:32]

Tegenwoordig staat voor nieuwe users dit zelfs als standaardoptie ingesteld, het is nu dus opt-in:

https://www.howtogeek.com...g-all-your-conversations/

[Reactie gewijzigd door dikkechaap op 10 juli 2019 17:46]

Wanneer ik dat uitzet, wil Assistant niet meer starten zonder dat ik het weer instel. Zelfde met locatie gegevens en web activiteit.
Handig en leuk zo'n home speaker!
Maar je privacy dan?
Ah joh, als ze daar echt misbruik van zouden maken, dan zouden mensen zo'n ding niet kopen.
Maar het blijk dus dat ze wel degelijk meer van je bewaren en analyseren dan ze ons doen geloven.
Tja, ik heb er geen last van. En ik ben niet iemand die naief is*, dus ik denk dat jij gewoon veel te moeilijk doet.
Dus jij vindt het okee als je wordt afgeluisterd en dat dan ook bewaard wordt?
Die ontwikkeling houd je toch niet tegen.
Als iedereen zo denkt, dan wel ja.
Google en andere bedrijven rekken steeds verder de grenzen op van wat veel mensen acceptabel vinden.
Als mensen de diensten uit gemak en handigheid gaan gebruiken, dan zijn privacy-overwegingen maar lastig. De beste manier om dan je koop- en gebruikgedrag te rechtvaardigen (en cognitieve dissonanties weg te werken), is door de nadelen te bagatelliseren.
Tjongejonge wat een gepsychologiseer. Je maakt het wel moeilijk voor jezelf he? Lang leve de vooruitgang!
Dus je blijft hem gebruiken?
Ja, want ik heb er vooral veel profijt van. Google .. speel af "don't worry be happy"


* = ego-beschermende cognitieve biases

[Reactie gewijzigd door Timfonie op 10 juli 2019 17:29]

U zit dus in fase 3: “Tja, ik heb er geen last van. En ik ben niet iemand die naief is*, dus ik denk dat jij gewoon veel te moeilijk doet”


Ik snap echt niet dat er mensen zijn die dit gedrag van Google goed kunnen praten. Meeluisteren op iemands gesprek werd ooit als uiterst onbeschoft getypeerd. Post werd beschermd door het briefgeheim. Maar tegenwoordig wordt alles gedeeld zonder te weten bij wie het terecht komt.
Ik zie nogal een verschil tussen 'standaard meeluisteren' en 'in gevallen waarbij een gesproken opdracht niet tot een actie van een assistent leidde de gesproken opdracht analyseren om te kijken of de assistent verbeterd kan worden'.

Uiteraard is discussie op zijn plaats maar momenteel is die volkomen verwaterd door de half begrepen opgeblazen manier waarop de media het hebben opgepakt. Als je alle informatie bij elkaar sprokkelt blijkt het te gaan om bijvangst bij analyse van mislukte opdrachten door Google medewerkers waarbij de stemmen niet netjes zijn vervormd. Het gaat om acties van Google die logisch zijn voor het verbeteren van hun dienst. Dat er veel toevallige gesprekken in die te analyseren bak zitten is ook niet raar, het gaat immers om mislukte opdrachten en gesprekken waarbij het keyword onterecht is opgepikt, ook opdrachten terwijl er een gesprek op de achtergrond liep zijn al snel niet te interpreteren en vallen dus ook in dit proces. Het enige onzorgvuldige is dat stemmen niet vervormd zijn ofzo. Ik zou ook verwachten dat de populatie Google medewerkers die dit werk doen wel wat extra instructie gehad heeft, maar dat blijft gissen.

Dit alles neemt niet weg dat de potentie voor afluisteren met een dergelijk systeem uiteraard enorm is als er wel een evil empire mee aan de haal gaat. We leven in een Brave New World ;)

[Reactie gewijzigd door Jheroun op 11 juli 2019 13:46]

Een klein maar belangrijk verschil is dat je dit te horen krijgt als je zo'n dienst belt ("dit gesprek kan worden opgenomen..."). Dan weet je het van te voren. Als je dat niet wilt, dan bel je niet.

Ik heb zelf niet dit spul van Google en ik weet ook niks over eventuele voorwaarden die er bij zitten maar staat het daar niet in (dat van het opnemen en dat het eventueel afgeluisterd wordt). In de VS wordt voor zover ik weet bijna alles afgedekt door zo'n voorwaarde om claims achteraf te voorkomen.
Uit de ondertitel: “Google claimde eerder dat het stemmen vervormt en informatie verbergt, maar dat blijkt in de Benelux niet zo te werken.”
Toch wel redelijk stiekem dan toch?

Bovendien is het zo dat mensen op tweakers het misschien wel goed regelen, maar dat mag toch niet betekenen dat Google de rest van NL onbedoeld dingen laat “delen”?

Ik snap best dat Google het motto: “don’t be evil” grotendeels heeft laten verwijderen uit hun gedragscode..
Ze hadden met betrekking tot de wijziging deze wellicht moeten beperken tot het verwijderen van "don't" uit deze term.
Het punt is dat Google zo veel mogelijk data verzameld, daar is hun hele business model op ingericht.
Dat ze dan ergens in de voorwaarden zeggen: mogen we naar je luisteren als je hey google zegt om het apparaat te verbeteren, allright prima. Als dat vervolgens wat groter nieuws wordt zeggen ze: Ja maar we vervormen de stemmen, dus je bent niet te identificeren en ze doen dat niet, dan vindt ik dat stiekem (liegen). Misschien is het allemaal wel per ongeluk, maar het is geen toeval hoe vaak dat in Google's voordeel uitpakt...

Als je het artikel goed gelezen had, zou je kunnen zien dat je reactie redelijk onderuit wordt gehaald om 2 redenen:
1. Dat een groot aantal mensen blijkbaar niet weet dat er daadwerkelijk een medewerker van google mee aan het luisteren is en zelfs je identiteit kan achterhalen (in het artikel staat ook dat mensen op porno zoeken, lijkt me niet dat je dat nou graag deelt)
2. Dat het product ook gesprekken opneemt als hij denkt dat er hey google gezegd wordt (zoals de volledige telefoongesprekken die opgenomen waren), wat ongeveer 15% van de keren schijnt te gebeuren. Dat nummer is enorm hoog.

Sure, je hebt het over de "gewone" mens, die kan/gaat dat echt in zijn router blokkeren /s |:(

Edit: Uit dit artikel: Volgens De Backer is Google mogelijk niet expliciet genoeg geweest dat medewerkers mogelijk spraakcommando's beluisteren. En als je doorklikt: Verschillende privacy-experts zijn het erover eens: de afluisterpraktijken van Google gaan in tegen de privacywetgeving. "Men steelt data van gebruikers", klinkt het in "Terzake".....

[Reactie gewijzigd door Captain Jorg op 11 juli 2019 14:38]

Er wordt snel kritisch naar gekeken omdat het mogelijk gevaarlijk kan zijn omdat veel mensen zich er niet bewust van zijn dat er zo actief wordt meegeluisterd (het was gisteren ook op het journaal geloof ik). Zo worden ruzies en dergelijk per ongeluk ook weleens opgenomen en andere privacy gevoelige zaken. Is die privacy opoffering het wel waard voor dat stukje iets betere functionaliteit (wat overigens niet de enigste manier is om aan bruikbare data te komen)? Ik denk dat dergelijke privacy kwesties te complex zijn om als burger altijd te kunnen overzien en denk dat het daarom goed is dat dergelijke zaken aandacht krijgen.
Het probleem is dat alleen de koper de voorwaarden te zien krijgt en daar mee in stemt. Alle andere mensen die toevallig in de buurt van zo'n apparaat zijn worden echter ook opgenomen. Die mensen weten misschien niet eens dat dergelijke apparatuur aanwezig is.

Aangezien iedereen tegenwoordig 24/7 met een smartphone rondloopt zou je er misschien van uit moeten gaan dat alles wordt opgenomen. Dat is geen wenselijke situatie, zeker niet om aan anderen op te leggen. Daarom denk ik dat de overheid zich er wel degelijk mee moet gaan bemoeien.

Daar komt bij dat wat er in de voorwaarden staat helaas praktisch waardeloos is, we weten al lang dat mensen die voorwaarden niet lezen omdat ze de gevolgen toch niet kunnen overzien. Daar komt bij dat Google beloftes heeft gedaan, zoals het vervormen van de stem, die niet blijken te kloppen. Dat kan alleen niet gecontroleerd worden om dat het allemaal in het geheim gebeurt. Gezien de grote invloed op onze samenleving vind ik dat ook een goede reden om de overheid te betrekken.
De voorwaarden van hun apperatuur zijn niet rechtsgeldig aangezien je deze pas te lezen krijgt na aanschaf. Om precies deze reden is een EULA ook niet rechtsgeldig in Europa
Waar staat op een auto in de showroom dat je een rijbewijs nodig hebt om hem te kunnen rijden?
Gewoon eerst ergens in verdiepen voordat je wat koopt
Je bedoelt bijvoorbeeld een boekje dat bij het product meegeleverd wordt, met als titel in grote letters "Blijf Veilig", waarin op pagina 1 een grote kop staat "Google Home Mini delen met familie en vrienden", waarin men aangeeft "Als je de Google Home Mini beschikbaar stelt voor anderen, laat ze dan weten dat hun interacties kunnen worden opgeslagen door Google. Meer informatie hierover vind je op https://g.co/home/guests. Op die link vind je ook informatie over de toegang die andere mensen hebben tot informatie die je beschikbaar stelt via Google Home Mini."... zoiets? Dat zit er namelijk al gewoon bij.
Vanaf het moment dat Google iets claimt over apparatuur koop je de apparatuur met de veronderstelling dat Google transparant is geweest, blijkt e.e.a. achteraf toch anders te werken dan ben je slachtoffer van misleiding. Of daarbij kwade opzet in het spel is geweest of dat Google een fout heeft gemaakt in zijn eerdere voorlichting is een andere vraag.
Dit is naar mijn mening niet al jaren bekend. Dat Google opdrachten die je geeft na 'Hey Google' opneemt en soms (geanonimiseerd) door menselijke medewerkers laat analyseren is inderdaad bekend. Dat mensen daarmee instemmen kan ik met m'n hoofd niet bij, maar dat is een andere discussie.

Dat Google ook andere gesprekken opneemt zonder 'Hey Google' te zeggen:
Volgens de Google-medewerker komt het inderdaad voor dat het apparaat dingen opneemt "die duidelijk niet bedoeld zijn voor het toestel". Hij moet die gesprekken afluisteren om in het systeem aan te geven dat het geen spraakopdrachten zijn. Zo heeft hij inmiddels tientallen huiselijke gesprekken gehoord, zegt hij, waaronder ruzies en intieme gesprekken.
...
"Ik herinner mij een lang fragment waarbij ik het gevoel had dat er fysiek geweld aan te pas kwam, waarbij iemand hoorbaar echt in nood was met op de achtergrond veel gestommel. Een stresssituatie, veel beweging. Dat worden het echt weer mensen die je beluistert en geen stemmen", aldus de man.
(bron: https://nos.nl/artikel/22...andse-gesprekken-mee.html)

Die gesprekken niet geanonimiseerd worden doorgezet maar de mensen die het moeten beluisteren:
Toen zei de Amerikaanse tak van Google dat medewerkers vervormde opnames te horen krijgen, maar in de Benelux gebeurt dat volgens drie anonieme bronnen van de VRT dus niet. Bovendien moeten de medewerkers bij twijfelgevallen adressen en locaties die mensen opnoemen via internet opzoeken. VRT heeft individuele gebruikers geïdentificeerd aan de hand van opnames en ze de opnames laten horen.
(bron: dit Tweakers artikel)

En dat dan ook nog eens die (soms erg persoonlijke) berichten/gesprekken op straat komen te liggen, terwijl je verwacht dat ze veilig opgeslagen zijn bij Google. Hoezo kan een medewerker van het bedrijf waar de analyse plaatsvind ongemerkt 1000 (is het daarbij gebleven?) audiobestanden meenemen/lekken?

Dat staat volgens mij niet in de voorwaarden, en was dan ook niet bekend, een lijkt mij ook zeker niet toelaatbaar.

(edit: quote fix)

[Reactie gewijzigd door vosManz op 10 juli 2019 21:48]

Dat er gesprekken worden opgenomen die niet voor het apparaat bedoeld zijn komt omdat er iets vergelijkbaar gezegd was als 'oke google', het commando waarop het apparaat begint met opnemen... Bovendien worden de gesprekken wel anoniem doorgegeven, enkel de stem wordt niet vervormd. Het account of dergelijke wordt niet vermeld.
Dit is naar mijn mening niet al jaren bekend. Dat Google opdrachten die je geeft na 'Hey Google' opneemt en soms (geanonimiseerd) door menselijke medewerkers laat analyseren is inderdaad bekend. Dat mensen daarmee instemmen kan ik met m'n hoofd niet bij, maar dat is een andere discussie.

Dat Google ook andere gesprekken opneemt zonder 'Hey Google' te zeggen:
Dat is volgens mij gewoon de Continued conversation feature. De VRT zit dat dan lekker op te blazen, maar het laat meer zien dat ze niet weten waarover ze het hebben. Continued conversation is er al ruim een jaar.
Haha bij de NOS kwam er ook al een hoop onzin uit.. Lekker knippen plakken zonder te checken..
Nou, dat is te kort door de bocht
"Google claimde eerder dat het stemmen vervormt en informatie verbergt".

Hoe je informatie verwerkt en dus ook welke privacy-gevoelige informatie je opslaat moet je duidelijk over zijn. Als je dus claimt dat stemmen worden vervormt, om privacy te beschermen, dan is het goed dat deze medewerker daarover aan de bel trekt.

Ook zit hier een heel groot GDPR-probleem in:
Je weet niet wat je aan bijvangst hebt. De eigenaar van het apparaat kan hebben ingestemd, maar er blijkt (bron: NOS) dat ook derden op de gesprekken te horen zijn.

Die derden *kunnen* niet ingestemd hebben. Dus dat *moet* Google vernietigen op de analyse-afdeling, zodra ze er achter komen. (Als je maar 1 stem hoort, mag je redelijkerwijs aannemen dat het de eigenaar is, die heeft ingestemd, maar als jij een huiselijke ruzie blijkt te hebben opgenomen, dan mag je die aanname niet doen!)

[Reactie gewijzigd door Keypunchie op 10 juli 2019 19:50]

Dat staat toch in het artikel:
Bovendien moeten de medewerkers bij twijfelgevallen adressen en locaties die mensen opnoemen via internet opzoeken. VRT heeft individuele gebruikers geïdentificeerd aan de hand van opnames en ze de opnames laten horen.
Niettemin lijkt 't mij ook redelijk te vermelden dat Apple 'n behoorlijk andere benadering heeft van privacy dan concurrerende bedrijven zoals Google of Amazon, dat met name relevant is in de wijze waarop hun digitale assistent werkt. Daarbij kan de gebruiker zelf in zekere mate bepalen wat en wanneer gedeeld wordt met Apple. Ook Siri is ingesteld vanuit deze benadering.
Je kent arnoud wokkel toch inmiddels wel? Google is heilig en Apple is k*t. Google is best goed met je Privacy en Apple doet ook echt wel slechte dingen met je privacy hoor... Aldus meneer wokkel.
Google is niet heilig en Apple is niet k*t. Ook spel je mijn achternaam verkeerd, maar voor de rest heb je een punt.

Kijk, mensen willen een goed werkende spraakassistent. Hoe zeer we ook willen dat kunstmatige intelligentie ver genoeg is om zichzelf een taal met alle nuances die gesproken taal in zich heeft aan te leren, dat is simpelweg momenteel nog niet zo.

Daarom zijn die mensen nodig. Amazon heeft ze nodig, Google heeft ze nodig en Apple ook. Een quote uit het eerder aangehaalde Bloomberg-artikel uit april
Apple’s Siri also has human helpers, who work to gauge whether the digital assistant’s interpretation of requests lines up with what the person said. The recordings they review lack personally identifiable information and are stored for six months tied to a random identifier, according to an Apple security white paper. After that, the data is stripped of its random identification information but may be stored for longer periods to improve Siri’s voice recognition.
Ik vertrouw Apple wel toe dat het minder goed te identificeren is, maar bewijs heb ik daarvan ook niet.

Op dit item kan niet meer gereageerd worden.


OnePlus 7 Pro (8GB intern) Nintendo Switch Lite LG OLED C9 Google Pixel 3a XL FIFA 19 Samsung Galaxy S10 Sony PlayStation 5 Samsung

'14 '15 '16 '17 2018

Tweakers vormt samen met Tweakers Elect, Hardware Info, Autotrack, Nationale Vacaturebank, Intermediair en Independer de Persgroep Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True