Google start onderzoek naar lekken van geluidsopnames naar VRT en NOS

Google gaat onderzoeken wie er achter het lek aan de VRT en de NOS zit waarbij duidelijk werd dat Nederlanders meeluisteren met spraakopnamen van de Google Assistant. Het bedrijf zegt dat het daar ook actie op wil ondernemen.

De zoekgigant stelt een intern onderzoek in naar het lek, schrijft het bedrijf in een blogpost. "Een van onze taalexperts heeft ons beleid voor databeveiliging geschonden door vertrouwelijke Nederlandse audiobestanden te lekken. Onze Security and Privacy Response-teams zijn op deze zaak gezet, ze onderzoeken het, en zullen actie ondernemen", staat in de post te lezen. Daarnaast zegt Google dat het de veiligheidseisen nog eens extra onder het licht gaat houden om herhaling te voorkomen.

Eerder deze week werd bekend dat sommige opnames van een Google Assistant worden beluisterd door mensen. Google werkt daarvoor samen met contractanten. Een van die Belgische aannemers had audio-opnames gelekt naar de Vlaamse publieke omroep VRT, en naar de NOS. Hoewel Google nooit heeft ontkend dat het op deze manier met audio omgaat, veroorzaakte het nieuws veel ophef, ook in internationale media.

Google heeft zelf ook meer informatie over het incident naar buiten gebracht. Volgens het bedrijf wordt zo'n 0,2 procent van alle audio-opnames die op een Assistant worden ingesproken, beluisterd door 'taalexperts'. Het bedrijf benadrukt dat die informatie niet aan specifieke accounts wordt gekoppeld. Google geeft toe dat de lekker meer dan duizend opnames lekte, waarvan 153 abusieve opnames waren. Dat is data die wordt opgenomen terwijl gebruikers niet specifiek de term "Ok Google" gebruikten.

In de blogpost verdedigt Google het gebruik van menselijke taalexperts. "Transcriptie is een essentieel proces van het bouwen van producten zoals Google Assistant", schrijft het bedrijf. "We stellen hoge eisen aan privacy en veiligheid, en dat verwachten we ook van onze partners." Het bedrijf wijst ook op de mogelijkheden die gebruikers hebben om hun data te beheren.

Reacties (235)

[Vizzie]

Wat is hier nu precies t probleem?

Ik ben meestal anti-Google (redenen genoeg) maar het lijkt me dat ze hier niet echt iets fout hebben gedaan als je had kunnen weten dat het zo werkte.

Storm in een glas water doordat de media het opblazen en een niet-loyale werknemer / opdrachtnemer die informatie van zn werk- of opdrachtgever zonder toestemming met derden deelt.

[Dasprive]

Het probleem is tweeledig:

• Een significant deel van de opnames waren nooit bedoeld om opgenomen te worden, "OK Google" is duidelijk veel te breed geconfigureerd waardoor gesprekken opgenomen worden die geen enkel commando of vraag bevatten en die desalniettemin worden doorgestuurd naar Google en gebruikt worden voor analyse
• De opnames zijn niet geanonimiseerd: de eerdere voorbeelden waarbij Google deze analyse deed betroffen opnames waar de stemmen ook werden vervormd om herkenning tegen te gaan

Deze dingen stonden niet (ook niet onduidelijk, gewoon niet) in de EULA of privacy policy. Daarnaast kent de privacy wetgeving / GDPR waar dit soort verwerkingen onder vallen geen begrip als "je had het kunnen weten": of het wordt duidelijk en transparant meegedeeld aan het individu, of je doet het niet.
Zeker gelet op de (potentiele) gevoeligheid van dit soort opnames (tijdens sex, ruzies, etc) zijn dit flagrante overtredingen van privacywetgeving en krijgt dit gegarandeerd een staartje.

Dat Google's reactie dan is "wij gaan op jacht naar de klokkenluider en het gaat maar om 0,2% van opnames" maakt het alleen maar erger.

[84hannes]

Eens! Als het waar is dat Google publiekelijk beweert dat stemmen vervormd en niet herleidbaar zijn, terwijl ze in de praktijk wel herleidbaar en onvervormd zijn, dan denk ik dat deze klokkenluider de samenleving een dienst heeft geleverd. Dat Google nu de klokkenluider wil aanpakken is tekenend.

edit:
Ter toevoeging

Het is voor zover ik weet niet zo dat een medewerker de audiobestanden zomaar het net op geslingerd heeft. Belastend materiaal aan journalisten geven is iets heel anders dan onzorgvuldig omspringen met privacygevoelig gegevens.

[Reactie gewijzigd door 84hannes op 22 juli 2024 18:28]

[PizzaMan79]

Dat Google de klokkenluider wil aanpakken is niet alleen tekenend, maar voor mij de reden om toch geen Google home te nemen. Ze zouden hem een bonus moeien geven!

[dakathefox]

Ik zie het toch net iets anders... De klokkenluider had geen enkele reden om de gespreksberichten te delen met de VRT of NOS. Als jij bij een verzekeraar werkt en constateert dat de verzekeraar onvoorzichtig omspringt met vertrouwelijke gegevens van klanten, ga je dan ook de e-mailconversaties van klanten delen? Nee toch?

Dus aanpakken die hap. En tegelijkertijd het beleid aanscherpen, want wat er nu gebeurt kan inderdaad ook niet.

[ArranChace]

Ik denk enige nuance op zijn plaats is, al snap ik uit welke hoek je komt.

Zonder het hele verhaal te weten zal meeste speculatie zijn, maar ik mag hopen het ongeveer zo is gegaan.

Werknemers komen tot ontdekking de spraakopnames te herleiden zijn naar personen, wat in strijd is met de wetgeving, deze kenbaar hebben gemaakt van er zit een fout in het systeem, maar hier word niets mee gedaan.

In zulke gevallen vind ik wel dat Klokkenluiders de maatschappij een dienst verlenen, want als een bedrijf oprecht een fout maakt, en deze word ontdekt, zal deze fout worden hersteld.
Echter.. door helaas hun eigen toedoen en concurent techbedrijven te vaak hebben tentoon gesteld, is dat met wel weet van de fouten, maar gewoon uit gemak, winst whatever besluit dit lekker te laten voor wat het is, en liever diegene de mond snoeren die dit soort wanpraktijken naar buiten brengen.

Ik deel je mening wanneer iemand dit naar buiten brengt puur voor sensatie en publiciteit, dat soort gasten gewoon keihard aanpakken, maar wederom zeker Google heeft nu niet zich echt een reputatie aangemeten van een bedrijf dat Oprecht een fout maakte en waarbij alles op alles word gezet om zo'n blunder te voorkomen in de toekomst.

Ze hebben al hun krediet al verspeelt in tijd door de vele privacy inbreuk gerelateerd "fouten" waarbij men gewoon bewust heel slordig met zulke gegevens omgaan.

[sebastienbo]

Google zou ook een algoritme kunnen bouwen die er voor zorgt dat niet bewuste gesprekken gedetecteerd en verwijderd worden. Ze zouden enkel bewuste hey google gesprekken mogen doorgeven aan transcripters

[peterveldman]

Het gaat hier dus om gesprekken die het algoritme verkeerd doorlaat. Het algoritme denkt Hey Google te detecteren maar dat is niet het geval. Als zij een ander algoritme kunnen maken die dit beter doet zal deze het primaire algoritme moeten vervangen.

[Floor]

De klokkenluiders hadden weldegelijk redenen om te delen, het is bewijs!.

Wanneer het nodig is om duidelijk te maken dat er structureel iets mis is dan wel ja. Het is niet dat er hier onbewust iets fout gaat. Je hebt het hier over structureel en beleidsmatig. Het zou enorm naief zijn om te denken dat Google niet weet dat er false positives door Google Home gedetecteerd worden. In deze situatie is dus correct gereageerd door zowel klokkenluiders en de media die het naar buiten hebben gebracht. Dat het ook ver buiten de landgrenzen tot ophef leidt maakt duidelijk dat voor vele onbekend en schokkend is.
Het daarnaast niet zo dat de klokkenluiders uit winstbejag dit naar buiten hebben gebracht. Ze hebben het anoniem gedaan, ze zitten nergens in praatshows etc, wanneer hun identiteit naar buitenkomt kunnen ze fluiten naar hun baan.

[Reactie gewijzigd door Floor op 22 juli 2024 18:28]

[Elefant]

Begrijp nou toch:
Google houdt er niet van als mensen in hun privacy neuzen

[GoT.Typhoon]

Begrijp nou toch:
Google houdt er niet van als mensen in hun privacy neuzen

Hahaha, spot on.

[Lekker Ventje]

En vervolgens wordt dat bewijs publiekelijk gedeeld. Lijkt me niet de bedoeling.

Overigens ben je nogal ontzettend naïef als je dat meeluisteren niet verwacht had. Data is handel. Het had mij verbaasd als dit niet het geval zou zijn geweest.

[Floor]

Buiten dat ik zelf zo'n ding niet in huis wil omdat ik dat niet vertouw is het kennelijk voor veel mensen onbekend. Ook wat dat betreft is het goed dat dit naar buiten is gebracht.

Het is triest dat klokkenluiders zo vergruisd worden. De geschiedenis heeft meerdere malen aangetoond dat klokkenluiders icm met goede journalistiek een heilzame werking op de samenleving hebben. We hebben het hier over een serieuze en doelmatige inbreuk op privacy van mensen. Lerend uit de geschiedenis blijkt dat technieken voor civiele doeleinden maar wat makkelijk worden misbruikt door regimes of overactieve (overheids) diensten.
Kortom, luid de klokken en wek de mensen.

[Reactie gewijzigd door Floor op 22 juli 2024 18:28]

[dasiro]

de enige plek waar hij ermee naartoe moest is de overheid en dat is dus ofwel de politie of de Gegevensbeschermingsautoriteit (aka de vroegere Privacycommissie). Door dit te lekken is hij zelf ook strafbaar.

[lodew]

Met dat verschil dat je nu heel zeker weet dat er wat gaat gebeuren. En vrij snel zelfs. Door zoiets schokkend naar buiten te brengen, kan dit niet lang op zich laten wachten. Vooral uit politiek oogpunt.

[dasiro]

met dat verschil dan weer dat dit materiaal niet meer in een rechtzaak mag gebruikt worden omdat het niet rechtmatig is bekomen, terwijl een huiszoeking na een tip dat wél bruikbaar zou zijn. de quick and dirty way zoals nu kan er zelfs voor zorgen dat de straf lager is

[PizzaMan79]

Ik heb liever dat het gefixt wordt door Google dan een rechtzaak. En dat is precies wat dit lek gaat veroorzaken ;-)

[lodew]

Dit materiaal niet. Maar het is waarschijnlijk slechts een topje van de ijsberg van wat Google daadwerkelijk allemaal verzamelt. Na onderzoek zullen ze wel een hele hoop meer data hebben. Of Google moest nu alles beginnen opkuisen. (Wat eerder een reëel gevaar is). Alles vervormen en anonimiseren voor er een onderzoek gestart is. Want bij Google zelf zullen de alarmbellen nu ook wel rinkelen. Want dit is er toch echt wel ver over.

[Reactie gewijzigd door lodew op 22 juli 2024 18:28]

[laptopleon]

de enige plek waar hij ermee naartoe moest is de overheid en dat is dus ofwel de politie of de Gegevensbeschermingsautoriteit (aka de vroegere Privacycommissie). Door dit te lekken is hij zelf ook strafbaar.

Klokkenluiders worden ondanks alle beloften en afspraken nog steeds tegengewerkt, ook door de overheid:

https://www.bnr.nl/nieuws...aangevallen-door-overheid

Dus wat dat betreft kun je het nooit goed doen. Ik heb daarom wel begrip voor zo’n (beperkte) actie. Het is niet dat iedereen nu alle Google-geluidsfragmenten kan beluisteren of zo.

We weten het niet, maar de kans is groot dat dit pas gedaan is nadat men bij Google zelf geen gehoor vond over dit probleem.

[lodew]

Vaak is dit veel effectiever, dan dat een individu gewoon tegen (in dit geval) Google gaat zeggen dat je het niet vind kunnen dat die slimme speakers random opnames naar hun sturen. Want dat gebeurd er vermoedelijk niets mee. Ik ben er zeker van dat Google bewust random opneemt om zo veel mogelijk “taal data” te vergaren. Laten we niet naïef zijn. In de reportage op vrt zeiden ze ook, dat de reportagemakers om privacy redenen de stemmen hadden vervormd. Ze lieten ook een stuk horen waar een vrouw zei: hoe kan dat nu keppe (west Vlaams voor kip, als troetelwoord), ik lig op mijn zij... dat liet maar weinig aan de verbeelding over. Ik vind het dus ook niet kunnen dat die dingen lukraak geluidsfragmenten doorsturen naar Google, zonder dat je dat weet. Dit is gewoon big Brother for real maar dan voice only.

Dus voor mijn part; hulde aan de klokkenluider! Hoop dat dit toch wel zware gevolgen gaat hebben voor Google!

[Reactie gewijzigd door lodew op 22 juli 2024 18:28]

[Jerie]

Eens. Aan de andere kant is het logisch dat Google deze klokkenluider niet meer vertrouwt; ie. dat ze hem/haar willen opsporen en ontslaan.

[i-chat]

Je zegt dat je gesprekken niet onder voorwaarden met een journalist mag delen, maar hoe bewijs je dan misstanden?
Is het niet van belang dat we dit weten dat ee maatregelen kunnen treffen of onze politici kunnen vragen om betere wetgeving of handhaving

Het feit dat die data zo makkelijk te herleiden was is heeel ernstig
Nu was het een bezorgde werknemer de volgende keer een h@xo0r

[kazz1980]

Voor mij precies andersom. Hadden ze de 'klokkenluider' niet aangepakt, dan had ik mijn Google Home devices wellicht juist weg gedaan. Het is goed dat Google een dergelijk groot datalek aanpakt. Want het lekken door deze medewerker is de enige privacy schending waar hier sprake van is. Google houdt zich netjes aan de eigen voorwaarden waar heel duidelijk uitgelegd is dat opnames gebruikt kunnen worden voor analyse om de diensten te verbeteren, tenzij je daar bezwaar tegen maakt.

[PizzaMan79]

Google is niet transparant geweest hierover, afgezien misschien van vage kleine lettertjes, én blijkt ook opnames te maken als er geen "Ok Google" oid gezegd is.

[kazz1980]

Heb toevallig een paar weken terug nog een Google Assistant aangeschaft. Het is écht onmogelijk te missen tenzij je het zelf bewust negeert... Een zeer duidelijke expliciete melding dat Google alle opnames kan gebruiken voor analyse om de dienst te verbeteren met daarbij een duidelijke knop waarmee je kunt aangeven dat je dit eventueel niet wilt. Hoe is dat niet transparant?? Ik snap er echt geen bal van hoe mensen hier nu ineens over vallen. Het staat er sinds dag 1 zo duidelijk bij als je de Assistant installeert. Ik wist dit dus ook al sinds dag 1 en ben er totaal net verbaasd over. Verbaas me er wél heel erg over dat dit ineens groot nieuws is en mensen er schande over gaan spreken? Waarover? Google doet precies wat het altijd gezegd heeft dat ze doen! En met een duidelijke motivatie: zorgen dat de Assistant beter mensen gaat begrijpen zodat deze beter gaat werken....

[PizzaMan79]

Google analyseert is nogal vaag. Maar als jou duidelijk was dat er door mensen naar geluisterd wordt dan heb ik niks gezegd.

[kazz1980]

Dat was mij al sinds dag 1 duidelijk ja... Hoe zou het ook anders moeten? Iemand moet de computer vertellen dat deze het wel/niet goed gedaan heeft. Het is kunstmatige intelligentie. Die moet ergens van kunnen leren. Die heeft in feite gewoon 'les' nodig.

[sdk1985]

Dat Google de klokkenluider wil aanpakken is niet alleen tekenend, maar voor mij de reden om toch geen Google home te nemen. Ze zouden hem een bonus moeien geven!

Dit heeft weinig met Google home te maken. In de documentaire hoor je continu voorbeelden van navigatie verzoeken. Dat soort zaken vertel je niet tegen je google home, maar gewoon tegen je google assistant op je telefoon.

[PizzaMan79]

Oh... Dat is dan wel een dilemma voor mij. De spraakherkenning van mijn auto zelf is brak maar handsfree is wel veiliger.

[bbc]

Op basis van de inhoud van het opgenomen gesprek hebben ze de personen kunnen identificeren.

Ik snap de heisa over de stem vervorming niet zo goed. Thuis staat er een Google home mini in de woonkamer. Telkens wanneer die zegt dat mijn commando niet begrepen werd weet ik dat de kans bestaat dat dit ter analyse doorgestuurd wordt. Mijn tv wil wel eens de speaker triggeren. Als die stem nu vervormd ter analyse wordt voorgelegd bemoeilijkt dat toch het werk, niet?

Je weet ook wanneer Google opneemt, want de speaker antwoordt altijd netjes wanneer hij geactiveerd wordt.

Het mag misschien inderdaad wel duidelijker aangegeven worden waar je kan gaan beluisteren wat hij allemaal opgenomen heeft.

[lodew]

Heel veel mensen hebben de reportage duidelijk niet gezien. De stemmen zijn niet vervormd. Die hebben ze in de reportage vervormd voor privacy. En uit het soort gesprekken dat er tussen zaten, wordt er gewoon lukraak opgenomen zonder dat je het weet. Of wordt dat ding vaak getriggerd zonder dat het zou moeten.

Maar misschien zeggen sommige mensen wel “ok Google” tijdens de seks. Ieder zijn fetish zeker?

[Reactie gewijzigd door lodew op 22 juli 2024 18:28]

[bbc]

Ik zeg alleen dat ik niet begrijp waarom de stemmen vervormd zouden moeten zijn. Als ik mijn opnames opnieuw beluister zijn die inderdaad niet vervormd. En als ik zo door het lijstje van opnames ga zit er ook niet direct iets tussen wat ik mij niet kan herinneren, waarmee ik wil zeggen dat er geen flarden opnames tussen zitten waarbij het toestel niet geantwoord heeft. Nu kan ik me wel een scenario inbeelden waarbij het geluid van de speaker heel stil staat en je niet kon horen dat hij het commando niet begrepen heeft.

[kazz1980]

Terugluisteren wat er is opgenomen staat tamelijk duidelijk in de app... Kwestie van enkele kliks. Ik luister af en toe wel eens terug wat er allemaal is opgenomen en wat de Assistent er van heeft gemaakt. Vind ik ook gewoon leuk.... En mocht ik eens iets geks tegenkomen (lijkt me sterk, maar je weet het nooit), dan kan ik betreffende opname ook gewoon verwijderen.

[Vexxon]

En het grappige is dat Google met woord rept over het feit dat ze inderdaad on vervormde opnames afluisteren. Alsof dat geen issue is. Ze negeren het gewoon en liegen of het gedrukt staat. En daar halen mensen dus zo'n afluusterapparaat van in huis.

[kazz1980]

Waar hebben ze gezegd dat Nederlandse opnames vervormd worden? Zie de meerwaarde ook niet van vervormen. Qua privacy is dat weinig belangrijk (of zo'n medewerker moet stomtoevallig een stem herkennen van iemand die hij/zij kent: wat is de kans?), maar het maakt het wel lastiger om te analyseren waar de Assistent eventueel de fout in gegaan is met de gesproken opdracht.

Ik heb afgelopen week zelfs nog de Nest Hub erbij gehaald. Het is mij een volkomen raadsel wat mensen nu moeilijk doen over 'afluisterapparatuur'... Google luistert een klein deel van de spraakopdrachten terug om het systeem beter te maken. Dat doen ze volgens strikte richtlijnen qua privacy en geheel in overeenstemming met de voorwaarden waar iedere gebruiker mee akkoord gegaan is (of tegen in bezwaar gegaan is: je kunt namelijk ook gewoon kiezen dat jouw data niet voor deze analyse gebruikt mag worden). De enige grove privacy overtreding is begaan door deze zogenaamde klokkenluider. En die mogen ze van mij dus ook heel zwaar aanpakken.

[Mopperman]

De geluidsfragmenten die ik op het NOS heb gehoord waren wel vervormd. Is dit dan denken bij een deel van toepassing?

[CH4OS]

Deze dingen stonden niet (ook niet onduidelijk, gewoon niet) in de EULA of privacy policy.

Ik heb geen idee welke handleiding jij gelezen hebt, maar schijnbaar een oudere versie dan ik denk ik dan of zo? Er staat gewoon in dat de microfoon altijd aan staat (hoe kan het anders OK/Hey Google detecteren?), dat het gesprekken op kan nemen (voor trainingsdoeleinden) en dat daarbij false positives (weliswaar anders bewoord) tussen kunnen zitten. Daar stond weliswaar niet bij dat men Nederlandstalige commando's niet vervormt.

De lekker/klokkenluider had met deze info naar de Autoriteit Persoonsgegevens (in NL) moeten gaan of naar de Gegevensbeschermingsautoriteit (in BE).

[Reactie gewijzigd door CH4OS op 22 juli 2024 18:28]

[F-I-X]

In Amerika wordt he vervormd omdat ze daar waarschijnlijk wat taal/spraak betreft wel genoeg hebben om de fouten eruit te halen.

Bij de Nederlandse spraak hebben ze waarschijnlijk nog niet genoeg leermateriaal en daarom heeft vervormen ook geen zin want dat maakt de opname nutteloos.

[CH4OS]

In de Nederlandstalige handleiding stond het ook gewoon. Dat het eea bemoeilijkt bij de verbetering van de Nederlandstalige Google Assistant begrijp ik, maar dat is ook helemaal mijn punt niet.

De lekker / klokkenluider had naar de juiste instantie moeten stappen, zodat er op de juiste manier actie had kunnen worden ondernomen en doordat dat niet gedaan was, kan Google nu ook actie ondernemen naar die persoon toe.

[cdwave]

"OK Google" wordt door het doosje zelf gedaan, daarom is die veel minder accuraat dan de rest van de herkenning. Het doosje stookt continue wat Watts weg om te ontdekken of er "oke google" in het geluid zat. Het algoritme daarvoor is natuurlijk zo ingesteld dat hij liever een keer te vaak triggert.

[JurGor]

Ik heb een Google Home. Alsof we in ons huishouden een gebrek zouden hebben aan dad jokes, maar dat terzijde... "Hey Google" is niet zodanig breed geconfigureerd dat de speaker het altijd feilloos oppikt. Dus als gebruiker zou het eigenlijk, vooral bij redelijk wat achtergrondgeluid, wel wat breder mogen. Ik denk dat het 1 op de 10 keer niet wordt opgepikt. En nee we praten niet allemaal heel binnensmonds of zo.

Aan de andere kant: een keer of een paar keer per dag wordt de speaker inderdaad geactiveerd zonder dat je "Hey Google" zei. Maar ik vraag me daar echt serieus bij af of dit komt door "te brede configuratie". Want dat gebeurt dus ook 's avonds laat, zonder achtergrondgeluid. Ik heb het zelfs een keer bij volledige stilte gehad. En als je dan ineens onverwacht "IK KAN JE NOG NIET HIERBIJ HELPEN" uit die speaker hoort dan schrik je je het leplazarus . Ook heeft onze speaker wel eens een antwoord gegeven op een vraag die niemand überhaupt had gesteld.

Vandaar dat ik vermoed dat ten minste een deel van de fouten komt door device verwarring. Dat de ene speaker met de andere door de war wordt gehaald qua in- of output.

[kazz1980]

Ik weet niet. Heb de afgelopen jaren meermaals een nieuwe Assistant appraat ingesteld en het is écht niet te missen... Er komt bij het instellen een overduidelijke melding en heldere taal dat de microfoon altijd opneemt inclusief een uitleg hoe je deze hardwarematig uit kan zetten. En ook expliciet de vermelding dat de data opgenomen kan worden en gebruikt kan worden voor analyse doeleinden om de dienstverlening te verbeteren met direct daaronder een knopje waarmee je kunt aangeven dat je liever niet wil dat jouw opnames voor dergelijke analyse gebruikt worden. Je moet wel héél scheel zijn om dat te missen imho....

[Lohi]

Staat het in de gebruiksvoorwaarden dat de stemmen vervormd zijn en heeft Google dit statement ooit in het Nederlands gepubliceerd? Want voor zover ik weet heeft Google ooit wel eens tegen Amerikaanse media gezegd dat de stemmen vervormd worden en wordt dit in Amerika ook gedaan. Niets leugens dus.
Bovendien is de data nog steeds anoniem. Als ik een geluidsopname hoor van u weet ik niet wie dit gezegd heeft, de werknemers hadden geen inzicht in het account of dergelijke. De enige rede waarom ze soms de mensen hebben kunnen achterhalen is omdat ze tegen hun google home speaker (al dan niet onbewust getriggerd) hun naam of adres hebben gezegd.

[5V1NA70G]

Het feit dat jij het niet kan herleiden, betekent niet dat het niet herleidbaar is.

[F-I-X]

Duh
Een stem kunnen ze omvormen maar de inhoud en informatie die wordt gegeven kan wel leiden naar een persoon/adres. Al betwijfel ik of ze veel opnames krijgen die specifiek het adres noemen in de capture. Dat was natuurlijk een mooie "scope"' die het artikel er mee kreeg. Samen met het op bezoek gaan bij die ouders. Netjes specifiek uitgezocht door de "klokken luider"

[5V1NA70G]

Ik begreep dat de stemmen niet vervormd werden. Vervormde stemmen zullen inderdaad de herleidbaarheid vermoeilijken.

[solozakdoekje]

Achja, ik heb Siri,google assistent, etc etc altijd uit staan.wat ik niet begrijp is dat waarom mensen het gebruiken?

• niets is toch makkelijker dan even naar buiten te gaan en je thermometer te checken die analoog is.

• wat pas echt hardcore is, is teletekst ik gebruik het nog steeds op mijn tv snel gemakkelijk en altijd op de hoogte

Neem het internet, daar staat doorgaans over politieke onderwerpen bomvol binnenlandse Nederlandse onderwerpen vaak onwaarheden en vol met propaganda.

• ik kijk vaak debatten terug uit Nederland om te kijken wat ze nu echt hebben gezegd

[kazz1980]

Ik kan via teletekst niet mijn domotica aansturen... En via de thermometer buiten krijg ik ook niet mijn agenda van de dag erbij of de resitijd naar mijn werk. En ik zou ook niet weten hoe ik via een andere weg gemakkelijk Spotify aan kan zetten in mijn gehele huis. Ooit eens verdiept in wat er eigenlijk allemaal kan met de Google Assistent? Waarschijnlijk niet... Maar het wel meteen als onzin betitelen. Net zoals velen in de jaren 80-90 de mobiele telefoon als een volstrekt nutteloos apparaat betitelde waar nooit iemand iets aan zou hebben.... Ook dat werd gezien als gevaarlijk en totaal overbodig. Inmiddels weten we toch beter?

Niet alles dat 'old school' is is per definitie beter.

[solozakdoekje]

sorry, maar ik gebruik naast mijn smartphone ook nog gewoon een fysieke agenda, waar je met een pen en papier in kan schrijven, zelfs heb ik een papieren notebook op mijn bureau waar ik af en toe nog dingen op schrijf om niet iets te vergeten.

verder kan je best, met een hifi stereo en de wat duurdere kabels en wat gaten boren door je plafon etc etc, dan kom je toch all een heel eind om in een huis overal muziek te toveren, een beetje klussenman doet dat toch wel.dat is toch de definitie van een tweaker of niet? toch niet alles draadloos je lijkt net op een vrouw!

[Reactie gewijzigd door solozakdoekje op 22 juli 2024 18:28]

[kazz1980]

???
"Je lijkt wel een vrouw?" Beetje heel seksistische opmerking, niet?

En ik ben Tweaker, ja. Dus ga zeker weten niet honderden/duizenden euro's besteden aan apparatuur en daarvoor mijn huurhuis vol gaten boren terwijl er een prima IT oplossing bestaat waarmee ik voor enkele tientjes hetzelfde bereik zonder mn huis te slopen?

Beetje vreemd om iets als nutteloos te bestempelen en als alternatief iets te noemen dat exact hetzelfde doet, maar dat een veelvoud kost in geld en werk...? Dat is niet Tweaken, maar gewoon dom... een Tweaker zoekt altijd de beste technische oplossing voor problemen, niet de duurste of ingewikkeldste oplossing.

[Reactie gewijzigd door kazz1980 op 22 juli 2024 18:28]

[xvilo]

"je had het kunnen weten"

Maar ik denk dat "je moeder" zich dat niet had kunnen bedenken. Het word niet duidelijk kenbaar gemaakt dat dit gebeurt. Daarnaast zullen een boel mensen niet goed door hebben wat de consequenties zijn.

[SuperDre]

Je bedoelt, men heeft zich niet ingelezen voordat men gebruik ging maken van de dienst, ofwel niet de voorwaarden gelezen.. DAT is jouw plicht en niet die van hun, als het daar gewoon in staat dan hebben zij aan hun plicht voldaan.. In principe moet jij ook alle wetten kennen, maarja, niemand (behalve advokaten/rechters) zal werkelijk zich daar in verdiepen..

[Anoniem: 368883]

Zelfs al lezen de personen de EULA, die zijn dikwijls in zo'n taal opgesteld dat het het voor de meeste mensen nog altijd onduidelijk blijft wat er juist bedoeld wordt: https://www.vice.com/en_u...ble-to-adults-study-finds

Dan kan je nog moeilijk de schuld in de schoenen van de consument schuiven....

[Lohi]

Google en andere techcompanies doen al zeer lang hun best om alles duidelijk te maken. Dit doen ze door de dingen samen te vatten in klare taal en dergelijke. Als er aanpassingen gebeuren zeggen ze mooi welke zaken ze aangepast hebben en zeggen ze niet gewoonweg hier is de volledige vernieuwde EULA.

[5V1NA70G]

Best doen is leuk, maar ze zijn het simpelweg verplicht. Als je niet helder en transparant bent over je persoonsgegevens verwerkingen, zit je fout.
Als je zeker wilt weten dat je goed zit qua helderheid en transparantie, maak je gebruik van B2 nederlands in je verklaringen.

[SuperDre]

Tja, dat is hetzelfde met wetteksten, en toch behoor je als burger ze in principe te kennen.

[Anoniem: 368883]

Neen, wetteksten horen eenduidig te zijn zonder ruimte voor dubbele interpretatie. En in geval van twijfel, zijn er rechtbanken om dat uit te klaren.

In een EULA kan een bedrjf zetten wat ze willen, zonder externe controle. Er is geen stemming etc..

EULA's zijn totaal niet hetzelfde als wetteksten, en moeten ook niet als zodanig behandeld worden.

[wimdebok]

Ja, dat is herkenbaar, ellenlange onleesbare privacy statements. Zou in 1 a4tje moeten.

[ZpAz]

Het is nou niet alsof op de verpakking staat van 'één op de 500 gesprekken wordt voor u afgeluisterd door mensen die u niet kent!'. Dat wordt zoveel mogelijk verstopt natuurlijk. Anders verkochten ze er nooit één.

[wica]

Al leest men de EULA, wilt het nog niet zeggen, dat men het begrijpt.
Ik vond dit artikel van NY Times over EULA wel verheldernd
https://www.nytimes.com/i...gle-privacy-policies.html

[NickyVDP]

Behalve dat dat wel zo is, Als je ooit in je google account hebt gekeken kan je zo je opgenomen comando's zien. Ze houden zichzelf hun hand voor.

[Sharkoon]

En wat zijn de consequenties dan? Dat ze het product daardoor beter kunnen maken?

[arjandijk162]

Bij een hypotheek leest men voorwaarden nog door, maar bij een apparaat of app de meesten niet. Google mag zelf aantonen dat ze zorgvuldig met privacy zijn omgegaan

[mae-t.net]

En dus verwacht je dat iedereen daar de consequenties ook meteen van kan overzien? Voorwaarden hebben maar beperkt nut als je de technologie achter het product redelijkerwijs niet volledig begrijpt.

[Anoniem: 513953]

Dat gebeurt massaal. Kijk maar eens om je heen op de weg.

[mae-t.net]

Behalve dat bijna iedereen dat doet, gaat het er meer om dat je een auto koopt als je niet weet hoe hij werkt. Veel mensen weten net genoeg om te tanken en misschien ruitensproeiervloeistof bij te vullen, maar kunnen bijvoorbeeld niet inschatten in welke gevallen ze wel of niet veilig kunnen doorrijden als er iets aan de hand is of ueberhaupt merken dat er iets aan de hand is. Bij Google merken de meeste mensen het ook niet dat er iets aan de hand kan zijn.

Een van de taken van bedrijven, is klanten niet in de positie brengen dat ze zonder het te weten of onder valse voorwendselen, dingen doen die slecht voor henzelf kunnen uitpaken. Schijnt iets met ethiek te maken te hebben. Een van je doelstellingen als bedrijf is om winst te maken, maar dat doe je niet ten koste van je klanten.

[Reactie gewijzigd door mae-t.net op 22 juli 2024 18:28]

[DigitalExorcist]

Misschien is het beter om te vragen of je wel een internetabonnement afsluit zonder dat je een computer thuis hebt staan.

Het gaat erom: waarom zou je iets kopen zonder dat je weet wat je koopt..?

[mae-t.net]

Waarom mensen dat doen? Tsja... Of mensen dat doen? Ja!

Dat (en gewoon goed fatsoen) maakt dus dat de leverancier ook in dat geval de verantwoordelijkheid heeft om daar geen misbruik van te maken.

Je hoort inderdaad zo nu en dan van oudere mensen die geen computer maar ook geen smartphone of tablet hebben, en telefonisch een all-in-one abonnement aangesmeerd krijgen. De verkoper staat in zulke gevallen niet echt sterk als er klachten over komen.

[memphis]

Het probleem is dat Google geluid opslaat en dat werkenemers daar naar kunnen luisteren. Dus ja, als jij je partner ligt te krikken en de werknemers van Google vinden het leuk om daar naar te luisteren is het toch wel een aardig privacy dingetje....
Ook al zou het om 0.2% gaan blijft het 0.2% te veel indien de gebruikers daar niet van op de hoogte zijn.

[barabas81]

Plus, wie zegt dat die 0,2% klopt?
Dat kan ook 100% zijn, die gefilterd word door een computerprogramma en relevante gesprekken of audio dan nageluisterd word door medewerkers.
Volgens mij zijn ze van zoveel mogelijk mensen een dossier aan het aanmaken om te gebruiken voor commerciele en andere doeleinden, the sky's the limit.

[p0linskie]

Dit! Precies dit. Tegenwoordig betalen mensen om een slim device in huis te halen. Doelbewust een microfoon in huis halen. Dit had tegen de mensen van de kgb/Cia moeten vertellen, begin jaren tachtig. Dat hadden ze leuk gevonden. Tegenwoordig is het door de multinationals allemaal aangeboden als 'gratis'.

[SuBBaSS]

Dat spul is verre van gratis toch?
De dienst wel, maar voor de hardware moet je alsnog in de buidel tasten.
_{Verder helemaal eens met je.}

Maar dan nog de vraag; wat is het nut?
"Het gemak" (om je lampen aan te doen, muziek af te laten spelen etc).
Allemaal dingen waar je anders hooguit 2 handelingen meer voor nodig zou hebben.
Niet raar dat je dan ook wat 'gemakkelijk' denkt over de consequenties (en het schijnbaar nog minder laten boeien bij wat voor partij je je data inlevert).

[xFeverr]

Dan moet je tijdens het krikken wel "Oké, Google" of iets roepen waarvan het apparaat denkt dat je dat zegt natuurlijk en die van mij roept alles behalve dat.

Natuurlijk is het dan ook nog je eigen verantwoordelijkheid om zo'n ding in je slaapkamer te hebben en hiermee akkoord zijn gegaan. Je kan deze functie namelijk ook gewoon uitzetten.

[memphis]

Alsof de opdrachten die jij aan die speaker geeft direct een eigendom van Google zijn.....

[Rembert]

Het probleem is simpel: er zijn heimelijk opnames gemaakt. Heimelijk? Ik heb geen idee hoe een Google Home setup wordt uitgevoerd maar het lijkt me heel stug dat er specifiek wordt gesteld dat er opnames worden gemaakt en dat gemiddeld 1 op de 500 opnames door mensen worden afgeluisterd. Je wordt niet expliciet geïnformeerd, je hebt geen keuze, er is geen expliciete opt-in. Kortom, heimelijk.

Heimelijk opnames maken mag volgende de Nederlandse wetgeving niet tenzij de opnemende partij zelf deelnemer is aan het gesprek (art. 139a lid 1 wetboek van strafrecht). Je zou een boom op kunnen zetten dat de Google Home deelnemer is maar denk niet dat je daar een rechter in mee krijgt. Zou de rechter de Google Home accepteren als deelnemer dan zijn de opnames zelfs bruikbaar in bv. het civiel recht.

Al met al, Google schendt de privacy. Dat privacy-kritische mensen het niet vertrouwden en niet verbaasd zijn maakt nog niet dat iedereen zo kritisch is. Veel mensen verwachten dat zo'n apparaat het 'gewoon doet', heel magisch allemaal, zonder enige training. Of dat die training in een besloten test-groep plaats heeft gevonden. Mijn moeder zou er geen seconde bij stilstaan dat geluidsopnames bij anderen zouden terecht komen - komt ze er wel achter dan staat het ding ongetwijfeld direct bij het grof-vuil. Gelukkig heeft ze niet zo'n ding, maar ze gebruikt wel Siri...

[Lohi]

Je kan in je Google account aanduiden dat er geen opnames bewaard mogen blijven. Google verzwijgt dus helemaal niet dat ze opnames bewaren en ja kan de functie volledig uitschakelen. Bovendien denk ik dat er wel zeer expliciet wordt gezegd dat er opnames gemaakt worden aangezien dit de functie van Google Home is...
Aangezien er dus helemaal geen heimelijke opnames worden gemaakt, en je zelf kan aanduiden dat je ze niet wil bewaren is de Google home niet in strijd met de wetgeving.

A.U.B. doe eerst een simpele zoekopdracht voordat u allerlei nonsense op het internet gooit.

[ronaldvr]

A.U.B. doe eerst een simpele zoekopdracht voordat u allerlei nonsense op het internet gooit.

NEE! Mensen mogen er op vertrouwen dat de voorwaarden duidelijk zijn en dat je niet éérst in de krochten van verstopte voorwaarden en uitleg iets er over vindt. Dat is de wet en die is daar expres op die manier voor gemaakt.
Dus sorry maar je opmerking is volslagen flauwekul.

[Lohi]

Ik reageer op een reactie van Rembert die zegt dat er heimelijk opnames worden gemaakt die bewaard en beluisterd worden zonder dat je hiervan op de hoogte wordt gebracht of zonder dat je dit kan uitschakelen en dat zijn leugens! Je kan in je Google account aanduiden of je spraakopdrachten bewaard blijven of niet, als je ze niet bewaard kunnen ze ook niet beluisterd worden dus het is 100% de keuze van de gebruiker.
Google heeft bovendien ook vaak genoeg aangegeven dat de mogelijkheid bestaat dat er naar geluisterd wordt (zowel via officiële statements, als via de gebruikersvoorwaarden (Google geeft steeds een versimpelde versie van hun gebruiksvoorwaarden waarin alles klaar en duidelijk staat, je hoeft dus geen duizenden pagina's tekst lezen) en ook via je Google account instellingen. Daar kan je allerlei zaken instellen of de zoekopdrachten bewaard mogen blijven en nog vele andere privacy zaken. Bovendien herinnert Google je er regelmatig (ik denk 1 keer per jaar) aan om deze instellingen na te kijken. Dit doen ze via e-mail.

conclusie: Google verbergt helemaal niet dat ze opnames maken. Volgens mij waarschuwen ze zelfs voor de mogelijkheid dat de kans bestaat dat het apparaat verkeerd getriggerd wordt.

[ronaldvr]

Het gaat er nog steeds niet om hoe het exact gaat, maar hoe het door allerlei versluierde en onduidelijke marketingspeak wordt voorgespiegeld. De wet is in die zin vrij duidelijk: je mag je niet achter allerlei onduidelijkheden verschuilen.

Anders gezegd: een simpele tokkie moet het zo begrijpen dat het duidelijk is: alles wat daar niet aan voldoet klopt niet. Daarnaast geldt ook voor allerlei privacy gevoelige informatie dat het sowieso verboden is: niet via opt out gewoon helemaal niet, en dit soort zaken vallen daar wel degelijk onder als het te herleiden is tot personen (en dat is wat hier aan de hand is).

Ik heb echt geen idee wat voor een Google apologist je bent, maar het is voor iedereen behalve jij zonneklaar dat hier geen sodemieter van klopt. merkwaardig.

[Lohi]

Wow, Google verschuilt zich ten eerste niet achter onduidelijkheden, alles wordt klaar en duidelijk vermeld. Ook dat ze je spraakopdrachten bijhouden (als je dat zo instelt) en ook dat deze beluisterd kunnen worden door mensen.

Zelfs de allersimpelste tokkie begrijpt dat, het is niet de fout van Google dat u steeds blind op oke accepteer klikt zonder 1 woord gelezen te hebben.

Bovendien bent u weer bezig met leugens te verspreiden, het is absoluut niet verboden om privacy gevoelige informatie bij te houden (denk aan je bank die weet hoeveel geld je hebt, je dokter die al je medische dossiers heeft, je telecomprovider die alle berichten en telefoongesprekken verplicht moet bijhouden enzovoort. Hier kan je zelfs niet van opt-outen of opt-innen.

Heel tof dat u Google haat maar als u niet objectief naar de kwestie kan kijken en zien dat Google wettelijk in orde is dan is er iets mis met u. En nee allerlei leugens verzinnen dat Google hun gebruiksvoorwaarden expres moeilijk en onbegrijpbaar maakt zorgt er niet voor dat u gelijk krijgt.


ps voordat u mij een 'Google apologist' noemt lees eens wat andere reacties hier Tweakers en je zult zien dat ik niet de enige ben die er zo over denkt, of ga desnoods eens spreken met een deskundige die er echt kennis van heeft.

[ronaldvr]

, het is niet de fout van Google dat u steeds blind op oke accepteer klikt zonder 1 woord gelezen te hebben.

Wat is dit voor flauwekul? De validiteit van de diverse manieren waarop dergelijk bedrijven hun policy proberen door de strot van gebruikers te duwen is echt al jaaren een punt van discussie. Zie bijvoorbeeld: https://uk.practicallaw.t...lt)&firstPage=true&bhcp=1

en https://www.termsfeed.com/blog/3-key-legal-cases-clickwrap/
voor de louter juridische kant van de zaak, daarnaast is er de AVG/GDPR, die actieve consent verlangt, die je dus niet mag verstoppen in een clickwrap: https://www.privacypolici...ye-browsewrap-hello-gdpr/

Dus je slaat de plank echt volkomen mis. Nogmaals, en voor dergelijke privacy invasieve zaken zeker, is het absoluut niet voldoende met "je had het kunnen weten" te roepen: gebruikers moeten een actief een vinkje zetten om toestemming te geven.

[5V1NA70G]

Je spreekt hier over aanduiden dat je het niet wilt. Moet je dat zelf eerst aanvinken oid?
In dat geval is er sprake van opt-out.
Bij dit soort zaken is het verstandiger opt-in toe te passen. Gesprekken kunnen allerlei persoonsgegevens bevatten. Dit kan gaan van naam en adresgegevens tot aan gegevens over seksuele geaardheid of medische zaken. Die laatste twee zijn bijzondere persoonsgegevens en om die te verwerken heb je, in dit geval, ondubbelzinnige toestemming nodig (opt-in).

[Lohi]

Of het via opt-out of opt-in is weet ik niet (las wel in de reacties hier op tweakers dat Google dit opt-in had gemaakt, dus standaard wordt de audio niet bewaard. Of dit waar is kan ik niet bevestigen)

[SoloH]

Er staat toch duidelijk dat er zonder Google ok toch opnames zijn bewaard. Dat lijkt me echt niet de bedoeling.

[Blokker_1999]

En hoe moeten mensen dat weten? Ja, het was te verwachten voor hen die Google goed genoeg kennen, maar voor de gemiddelde gebruiker? Die gaat echt geen lange tekst aan voorwaarden lezen en laat zich niet bijstaan door juridische experts telkens deze iets nieuw in gebruik neemt.

[SuperDre]

De voorwaarden? Dat jij het niet leest is een ander verhaal.. Zeg je dat dan ook tegen oom agent dat je het te veel werk vind om je te verdiepen in wat wel/niet mag?

[Soldaatje]

Het staat dus niet letterlijk in de voorwaarden dat mensen naar de opnamen luisteren.
https://www.technologyrev...gle-assistant-recordings/
Ik maak me zorgen over de veiligheid bij Google, wie zegt me dat Google-medewerkers alle mailtjes niet leest, of komen mijn mailtjes volgende week bij de NOS te lezen.

[Reactie gewijzigd door Soldaatje op 22 juli 2024 18:28]

[AWitteveen]

Alle mailtjes laten lezen (door mensen) die google verwerkt zal heel veel werk zijn, gaan ze echt niet aan beginnen. Hun AI kan dat veel sneller en zorgvuldiger.

[DigitalExorcist]

Precies. Wie leest de Staatscourant nog om de laatste verkeersregels en andere wetswijzigingen te leren...

[Reactie gewijzigd door DigitalExorcist op 22 juli 2024 18:28]

[Groningerkoek]

Het probleem is dat Google beweerde dat alles vervormd zou zijn en dat mensen niet zijn te herleiden, en dat is dus niet het geval, wederom heeft Google een openbare verklaring afgegeven waarbij bewust is gelogen omtrent de privacy van zijn gebruikers. Los van of je dat als gebruiker maar had moeten vermoeden blijft het een zeer kwalijke zaak.

[dataworm]

meer dan duizend opnames, waarvan 153 abusievelijke opnames waren.

Om nou te zeggen dat je dat had kunnen weten lijkt mij wat kort door de bocht. Ik had niet verwacht dat het blijkbaar nog zo vaak fout gaat.

[RoestVrijStaal]

je had kunnen weten dat het zo werkte.

Gevalletje HUMANCENTiPAD

Mensen clicken domweg op Akkoord en OK en gaan ervan uit dat het bedrijf van de service die ze gebruiken het allerbeste met ze voor heeft.

[PizzaMan79]

Het probleem is dit:

• Het stinkt dat Google niet uit zichzelf inzichtelijk maakte dat er door mensen meegeluisterd werd.

• En het stinkt dat een deel van de audio was opgenomen zonder "ok Google".

[Reactie gewijzigd door PizzaMan79 op 22 juli 2024 18:28]

[RebelwaClue]

Nu praat het natuurlijk niet goed omdat anderen het ook doen. Maar

• Denk je dat Apple en Amazon duidelijk en eenduidig melding maken dat er mensen mee luisteren met hun spraak assistent?
• Denk je dat andere spraakassistenten ook niet de mist in gaan met woorden die op het triggerwoord lijken?

[Vexxon]

En dus is het OK...

[RebelwaClue]

Nu praat het natuurlijk niet goed omdat anderen het ook doen

[Vexxon]

Dan slaat je hele argument 'maar zij doen het ook' nergens op.

[PizzaMan79]

Beetje wel in zoverre dat het onbedoelde bijvangst is. Omgekeerd: als Apple en Amazon hier nu niet uit zichzelf transparanter over gaan zijn, dan is dat nóg erger.

[ythehunter]

Dat Google luistert naar opnames om het te verbeteren is niet het probleem dat NOS en VRT aankaarten. Het probleem is dat Google stelt dat het volledig anoniem is. Echter de journalisten is het gelukt om met de geleverde datum specifieke adressen te traceren, waardoor het dus niet anoniem meer is.

[kiang]

Ik denk dat een deel van het probleem is dat 99,9% van de bevolking niet wist van die 'opnames'. Ze weten wat de google home doet, ze weten hoe de assistent/siri (zo noemen enkelen die ik ken de google assistent...) werken, maar staan er niet bij stil dat daarbij de audio naar google wordt gestuurd, laat staan wordt opgeslagen.

Persoonlijk ben ik het dus wel met je eens dat dit niets nieuws is (toen ik het nieuws las dacht ik "euh, ja en? dit wist ik al"), maar aangezien de publieke reactie echt zwaar gechoqueerd is (srsly, op mijn facebook zie ik echt van een tiental mensen een enorm geschrokken reactie, met links naar de google pagina waar je jouw audioberichten kan inzien, men viel uit de lucht), lijkt het me dat het nodig is dat hier een maatschappelijk gesprek over plaatsvindt.

Net zoals gogoel locatiegeschiedenis overigens: De overgrote meerderheid weet niet dat dit er is, en schrikt zich echt kapot als ze die pagina zien. Persoonlijk vind ik het handig en leuk om in te kijken, maar als er zo veel mensen van schrikken doet google duidelijk iets fout.

Google maakt handig gebruik van het feit dat mensen simpelweg niet lezen als ze op 'next' klikken. Ja ja, de fout is eigenlijk die van de gebruiker, maar het is duidelijk dat de overgrote meerderheid hierdoor data afstaat onder dat dat hun bedoeling was (toch in die mate), en dan vind ik dat de fout bij Google ligt.

[Vexxon]

Extra punt is dat Google heel vaak dingen zegt hij 'n de voorwaarden en dat ze uiteindelijk blijken te liegen. Zoals toen bleek dat ze wel locatie geschiedenis bij hielden van mensen die dat uit hadden staan of toen Google toch third party cookies op sloeg of in Safari terwijl mensen dat anders hadden ingesteld.
En steeds komt Google daarmee weg

[WoutervOorschot]

Blijkbaar worden opnames gemaakt (volgens mij zonder expliciete opt-in), waarna deze naar andere bedrijven kunnen worden gestuurd. Het blijft dus niet eens binnen google, en al zou er opt-in zijn, dan is deze voor opnames ná ‘ok google’, en niet voor willekeurig geluid in de kamer lijkt me.

Ik weet dat de techniek zeker wel eens faalt en zoiets als alleen na hotword opsturen niet mogelijk is zonder false positives, maar dat maakt het niet nog kwalijker. Google zou ook gewoon mensen kunnen betalen voor datasets, maar ze besluiten onwetendheid te gebruiken en alles te verzamelen (sneller en goedkoper uiteraard)

[F-I-X]

Ik dacht al, waar blijven de alu-hoedjes die ook maar aannemen dat dan je opnames ook naar andere bedrijven worden gestuurd.
Net als andere die denken dat alle google medewerkers zomaar met alle opnames kunnen meeluisteren.
Dat elk opgenomen gesprek bestaat uit de complete gesprek van 's ochtends tot 's avonds met de adres gegevens.
enzenz..

Moe word je er van.

[ChAiNsAwII]

Anti-google? Maar je neemt het wel voor ze op?

Ten eerste zou het zgn vervormd worden en niet verstaanbaar zijn, ten tweede als ze over het eerste liegen wie zegt dat ze niet over het tweede liegen, en over nog heel veel meer liegen.

Iedereen roept snel alu hoedjes dit en alu hoedjes dat maar het lijkt er steeds meer op dat dingen nog stukken verder (fout) gaan dan zelfs alu hoedjes denken.

[kodak]

Je stelt dat het een storm in een glas water is maar over de onderbouwing doe je vaag. Waaruit blijkt dat het een storm in een glas water is dan?

Er zijn diverse meningen dat gebruikers dit hadden kunnen weten en meer in die richting, maar ik heb nog nergens daarbij een onderbouwing gelezen die duidelijk maakt dat Google de geluidsopnames niet zou vervormen, laat staan dat Google (ingehuurde)medewerkers naar geluidsopnames kan laten luisteren.

[FalconerHG]

Sorry, maar dat je dit uberhaupt durft te vragen zeg...

Google maakt opnames zonder dat je het weet, geeft die aan anderen om er naar te luisteren, en anonimiseert die ook nog eens slecht (of niet).

Als Google hun algorythmes wil trainen, dan starten ze maar een grote beta waar iedereen vrijwillig aan mee kan doen.

Affakkelen die tent.

[pimpchilla]

Van mij een dikke upvote. Werknemer in kwestie die de kwaliteit zou moeten verbeteren lekt lekker door naar het openbaar. WOW! sukkel. vervolgen die vent. En echte audio controle om de computer te trainen / accuraat te houden zal tot op zekere hoogte nodig zijn.

[arjandijk162]

Maar als het aantal false posities dusdanig hoog is (filter staat wat losjes ingesteld) dan heb je een lekkende klokkenluider of hacker nodig om dat boven tafel te krijgen. Dat is ook de enige manier om ieder morele compas een beetje recht te houden

[Lohi]

Maar hoe hoog is het aantal false positives? Ja de media zegt al gauw dat dit hoog, dit klinkt namelijk erger en levert meer kliks op maar hoe hoog zijn ze? En wat is de oorzaak van een false positive? Als iemand in een discussie zegt: 'oke Google het dan he' wordt de google home getriggerd omdat 'oke Google' letterlijk gezegd wordt, ookal was het niet met de intentie om gebruik te maken van Google home.

[arjandijk162]

15% op basis van deze steekproef dus

[Lohi]

Is dit inclusief de discussies waarin gezegd wordt: 'Oke Google het dan', want dan doet het apparaat gewoon waarvoor het dient en kan het niet echt als een false positive bezien worden. Is er bovendien een rede waarom een bepaald geluidsfragment wordt opgestuurd om beluisterd te worden? (Bv omdat Google home het niet verstond) of is dit compleet random? Want bij een false positive is de kans veel groter dat Google home het niet verstond en dit kan het percentage van werkelijke false positives wel serieus beïnvloeden.

[arjandijk162]

False posities krijg je als je een variabele wat losser zet. Als je graag wil weten wat er gezegd wordt in de buurt van je Home zet je deze waarde iets hoger, zo kan Google binnen hun eigen voorwaarden toch per ongeluk meeluisteren

[F-I-X]

True... alleen zou het door een klokkenluider moeten gebeuren als er NIKS aan gedaan wordt. En ze doen het juist om te leren wat er fout ging en waar de assistent op heeft getriggerd.

Het probleem is denk ik dat het vervormen niet veel zin heeft als het om specifieke taal/uitspraak problemen gaat. Buiten dat is het onmogelijk om juist de privacy herleidbare data uit het gesprek te halen omdat dat ook weer vergt dat er nóg iemand eerst gaat luisteren.
Juist dat kan je doen met goede afspraken op papier... (tenzij je natuurlijk een mediageile klokkenluider hebt die er schijnbaar ook niks van begrijpt)

[arjandijk162]

Dus Google luisterde wel heel veel mee naar fragmenten waar ze niet naar horen te luisteren en ze gaan slordiger om met privacy dan beloofd, maar jij ziet hier alleen een mediageile klokkenluider?

[F-I-X]

Waar is gezegd dat ze niet naar de fragmenten horen te luisteren ??
En hoezo slordigere met de privacy ?
De enige die inbreuk heeft gedaan aan de privacy is de klokkenluider.

[arjandijk162]

Lees de tweede reactie onder dit artikel nog een keer

[GoT.Typhoon]

Het is ook niet dat hij het gelekt heeft, want het is niet publiekelijk beschikbaar. Enkel in het kader van de documentaire en het onderzoek zijn de opnames gebruikt. Dat is een prima toepassing in deze situatie er wordt immers vertrouwelijk met de gegevens omgegaan (ook in de documentaire) en gevoelige informatie is eruit gefilterd. Snap niet waarom Tweakers dat hier niet zien, maar ach, het stikt hier van de dubbele moralen.

[Fijinees]

ALs die training zo nodig is huren ze maar mensen in. Die hele lappen tekst inspreken. 10.000 man met 50 dagen kranten of zo.

Nu worden ook mensen gehoord die NIET voor de voorwaarden hebben gekozen.

[Fijinees]

En de mensen die op bezoek gaan bij anderen? Die niet de mogelijkheid hebben gekozen noch goedgekeurd.

[laptopleon]

Of wat dacht je van: Onze politiemedewerkers krijgen allemaal een Android smart phone.. Zijn nogal gevoelige dossiers waarvan je niet wil dat ze uitlekken. Dit gaat natuurlijk een keer mis als telefoons o verkeerde momenten meeluisteren en daar opnames van gemaakt worden en ook nog eens bij derden terecht komen.

Overigens is ‘OK Google’ onlangs geblokkeerd bij politie-telefoons en nu weet je waarom.

[maartend]

Hoppa. En daarom moeten klokkenluiders goed beschermd worden.

Ik snap heus wel dat het om een soort false positives gaat, maar dan nog mogen mensen dit weten en niet dat er door Google een heksenjacht wordt geopend.

[Reactie gewijzigd door maartend op 22 juli 2024 18:28]

[MennoE]

Je bent pas een klokkenluider als je een maatschappelijke misstand aankaart. Dit is geen maatschappelijke misstand. Dit is gewoon iets wat iedereen die gebruik maakt van deze dienst kon weten.

[Freeaqingme]

Je bent pas een klokkenluider als je een maatschappelijke misstand aankaart. Dit is geen maatschappelijke misstand.

Wanneer wordt het dan wel een maatschappelijke misstand? Het is geen handvol gebruikers, maar naar ik vrees honderdduizenden mensen (in Nederland), zo niet meer. Als op systematische wijze de privacy van een groot aantal mensen geschonden wordt vind ik dat wel degelijk een misstand waarbij een groter belang gediend wordt door het naar buiten brengen.

Het enige waar je wat mij betreft je vraagtekens bij kan zetten is de hoeveelheid geluidsfragmenten die 'gelekt' zijn. Als met minder fragmenten hetzelfde doel bereikt kon worden was het lekken van de rest van die fragmenten in beginsel onrechtmatig.

Dit is gewoon iets wat iedereen die gebruik maakt van deze dienst kon weten.

Is dat zo? In mijn beleving was het juist zo dat Google dit niet van te voren duidelijk kenbaar had gemaakt?

[D0phoofd]

Ik wil mij hier ook wel graag bij aansluiten.

Wanneer men een 'OK Google' uitspreek, stem je inderdaad in met het feit dat dit gebruikt wordt/kan worden voor trainingsdoeleinden. Net zoals telefoongesprekken bij grotere service-desks.

Maar waar kan je als gebruiker aankloppen wanneer je weet dat er 'per-ongeluk' een 'OK Google' is gehoord en wil laten verwijderen? Zo ver ik kan vinden, nergens. Gebruiker krijgt immers feedback n.a.v. het 'commando'.

De grens en nalatigheid van gebruikers kruisen hier een beetje. Men die een Google Home in huis heeft weten van de voorwaarden. Maar ik kan niet geloven dat men alles maar goed vind, echt totaal niet. Iedereen heeft wat te verbergen. Zeker voor een gigant als Google.

Waar ik ook mijn vraagtekens bij zet, is hoe Google geen enkele procedure heeft voor wanneer er sprake is van (bijvoorbeeld) huiselijk geweld, (fragment VRT). Zijn ze bang dat men er achter komt dat hij/het toch altijd luisterd?

[84hannes]

Maar waar kan je als gebruiker aankloppen wanneer je weet dat er 'per-ongeluk' een 'OK Google' is gehoord en wil laten verwijderen?

See or delete your Voice & Audio Activity

[Reactie gewijzigd door 84hannes op 22 juli 2024 18:28]

[Lohi]

Je kan bij je Google instellingen aanduiden of spraakcommando's bewaard blijven of niet, ik dacht ook dat je je commando's zelf kon beluisteren (hier ben ik niet 100% zeker van). Ik weet niet of je per commando kan kiezen of het fragment bewaard blijft maar je kan zeker alles verwijderen.

[AWitteveen]

Waar ik ook mijn vraagtekens bij zet, is hoe Google geen enkele procedure heeft voor wanneer er sprake is van (bijvoorbeeld) huiselijk geweld, (fragment VRT). Zijn ze bang dat men er achter komt dat hij/het toch altijd luisterd?

Vergeet niet dat je niet real-time luisterd, dus actie ondernemen n.a.v. een geluidsfragment lijkt me lastig. Wel lijkt het me een goed idee dat, zodra oom agent door heeft dat een Google Home zich in de ruimte van de misdaad heeft bevonden, hij dit kan opvragen.

[jrutgers]

Het probleem is hier alleen dat het "klokken luiden" de privacy schending veroorzaakte.
De taak van dat bedrijf was om spraakopdrachten van voor hen onbekende gebruikers te verwerken met als doel googles diensten te verbeteren.
Dat er beter gefilterd had kunnen worden op bv. namen, adresen, enz... spreekt niemand tegen.
Maar pas nadat de pers de data had zijn ze pas mensen gaan identificeren

Als Google ze had ingehuurd om met deze gegevens gepersonaliseerde klanten/gebruikers profielen te maken, dan hadden ze zeker alle lof verdiend voor het aan de kaart brengen van de grove maatschappelijke misstand.
Gezien ik daar in geen enkel artikel één woord over gelezen heb, ga ik daar vooralsnog ook niet van uit.
En is het wat mij betreft een Data lek, en niet klokken luiden.

[bloq]

Het klokken luiden schendde niet de privacy? Dat is het moment dat de schending uitkwam...

Als ik jouw huis leeg roof, dan gebeurd de roof op het moment dat ik jouw huis leeg roof. Niet pas als jij er na je vakantie achter komt.

[Groningerkoek]

Het gaat erom dat werknemers die mogelijkheid ook hadden, in theorie had men zelfs bij toeval de eigen familie of partner in het gesprek kunnen krijgen.

[F-I-X]

Wat denk je dat de kans is dat gebeurd ?
En juist net die opname waar ze heel toevalig haar volledige naam en adres zegt, Want dat is natuurlijk wat je in je eigen huis vaak doet.

Dat de media en de klokkenluider het een beetje aandikken door juist die opname te lekken waar heel toevallig een jongetje op staat die zijn eigen naam en adres zegt,. is helemaal verwerpelijk.
Maar een scope hebben en er gauw een verslag van maken met opnames is natuurlijk veel makkelijker dan een goed gewogen stuk met een stukje research.

[Groningerkoek]

Hoe langer ze dit hadden laten voortduren des te groter wordt de kans dat er herkenning optreed of men bekenden tegenkomt. En ik heb dit jaar al meer dan 20 keer mijn eigen naam en adres gezegd, dat is namelijk zeer normaal als je met bedrijven belt, kinderopvang regelt etc..

[F-I-X]

Wat laten voortduren ??
We willen toch een werkzame assistent die JUIST pas wakker word als hij het ene key woord hoort ? De enige manier is dat er geluisterd wordt naar de opnames die te lang zijn om te vermoeden dat er een correct commando voor is gezegd.
Het is nogal wat anders als het een wereldtaal is als Engels of VS-Engels.

Hoe je het wend of keert, als ze iets moeten verbeteren dan zal er toch geluisterd moeten worden.

En 20x per jaar, O.k het komt voor, maar in combinatie met een opname en met de aanname dat je er ook bij zegt dat je 10 kilo goud hebt verstopt in de kelder. En dan de kans dat ze je nog een keer herkennen bij nóg een opname die niet herleidbaar zijn genummerd ?
Enz enz..

[Groningerkoek]

Ja, en schijnbaar hebben we een assistent die ook wakker word als de gebruiker geen key woorden gebruikt, zijn die gesprekken dus opgenomen tegen de afspraken in, en worden ze zelfs opgeslagen en is het mogelijk voor medewerkers om die te kopieëren en te verspreiden.

En 10 kilo goud, je hoeft geen extremen te zoeken om te weten waar dit fout kan gaan, wat te denken van wanneer mensen op vakantie zijn? Of wil je nu werkelijk kansspelberekeningen loslaten op hoe zwaar een overtreding is?

[jpfx]

Ja en Nee. Hoeveel mensen nemen de moeite de ellenlange disclaimers te lezen?
Daarnaast, weet jij ieder artikel uit het Nederlands wetboek? Je wordt namelijk als burger geacht, en je ben in de gelegenheid, om die te kennen. Zomaar een voorbeeld van het verschil tussen "kunnen weten " en "daadwerkelijk weten".

Daarnaast doet het ook niets af van het wenselijk zijn van dergelijke zaken. Ook voorwaarden dienen te voldoen aan lokale wetgeving. Er kan best een voorwaarde zijn waarmee je akkoord gaat die wettelijk helemaal niet is toegestaan, daarmee is de voorwaarde ongeldig.

[Blokker_1999]

En dit is maatschappelijk irrelevant? Zoals te horen krijgen dat ze langs de ene kant verplicht zijn namen en adressen te controleren maar aan de andere kant geen instructies krijgen voor mochten ze iemand in nood horen op een opname. Het feit dat mogelijks honderdduizenden mensen gehoord worden, vaak zonder dat ze daar weet van hebben of toestemming hebben gegeven. Jij als gebruiker van het toestel weet misschien (maar vaak niet) dat er opnames gemaakt worden en geanalyseerd worden. Maar niet iedereen in huis weet dat.

[MennoE]

Dat iets geen maatschappelijke misstand is maakt niet dat het dan maatschappelijk irrelevant is. Als je vindt dat je werkgever of opdrachtgever iets doet wat niet door de beugel kan dan moet je dat intern aankaarten. Daarvoor kent zeker een bedrijf als Google genoeg interne procedures. Als die niet tot een goed resultaat leiden en de situatie is zodanig ernstig dat sprake is van een maatschappelijke misstand, dan kan je het buiten de organisatie melden.

[Wim-Bart]

En iedereen informeert derden ook netjes wanneer ze bij een Google apparaat in de buurt zijn. Hoe veel mensen hebben een sticker op de voordeur met een waarschuwing dat Google aan het meeluisteren is.

Daarnaast wordt er dus ook geluisterd naar mensen die de voorwaarden niet gelezen hebben, en ook niet goed gekeurd hebben. Als bezoeker mag je er denk ik er ook van uit gaan dat je privacy in een privé omgeving gewaarborgd is ondanks dat de eigenaar van deze omgeving er misschien veel losser mee om gaat.

Daarnaast, hoe zit het met gesprekken over andere mensen die zich niet in de buurt bevinden, maar waarover zonder medeweten gelekt wordt? Bijvoorbeeld een huisarts die telefonisch thuis nog even een status door geeft over een patiënt terwijl Google aan het meeluisteren is. Of iemand die zakelijk bezig is met een bedrijfsovername begeleiden en vanuit thuis een collega belt om nog wat door te spreken waardoor je dus een Inside Trader vergrijp kan krijgen omdat meneer de taaldeskundige even snel aandeeltjes koopt. En zo zijn er nog veel meer haken en ogen.

[Lohi]

Maar dit is ook zo als je ergens op straat wandelt, overal hangen camera's. Of bij mensen thuis die camera's hebben hangen waarschuwen zij je ervoor?

[Wim-Bart]

Het zou wel moeten wanneer er opgenomen en opgeslagen wordt. Bekijken is namelijk wat anders dan opslag. Bij opslag geldt namelijk gewoon de AVG.

[mae-t.net]

Waarom ben je pas een klokkenluider als je maatschappelijke misstanden aankaart? Veel klokkenluiders kaarten ook gewoon misstanden binnen bedrijven aan. En als je jouw definitie zou aanhouden... Waar ligt de grens? Afhankelijk van de inhoud van de gelekte data zou je misschien wel van een misstand kunnen spreken. Het is niet zo dat een bedrijf zich zomaar alles kan veroorloven omdat het een commerciële dienst aanbiedt waarvan de gebruikers de risco's in theorie hadden moeten kunnen kennen (ofzo).

[Reactie gewijzigd door mae-t.net op 22 juli 2024 18:28]

[laptopleon]

cc @MennoE Sterker nog, maatschappelijke misstanden vloeien meestal voort uit wat er mis gaat bij bedrijven. GenX in ons drinkwater omdat het dumpen goedkoper is of prijsafspraken in de bouw, over televisies of fietsen, om maar eens een paar zijstraten te noemen.

[barabas81]

Vind je dit geen groot maatschappelijk probleem?
Iedereen heeft Google standaard op zijn telefoon zitten, er hoort pas iets opgenomen te worden na het geven van een commando. Oftewel, je hebt altijd een spion in je zak.
Google is zo'n veelgebruikte zoekmachine en zit in veel meer technologiebedrijven en diensten verwerkt, dus het is een big deal. Volgens mij snap je er weinig van.

[kodak]

Dit is gewoon iets wat iedereen die gebruik maakt van deze dienst kon weten.

Misschien dat je dat dan ook eens kan onderbouwen in plaats van simpelweg maar wat op te noemen. De journalisten hebben immers wel onderzoek gedaan waarom ze menen dat wat ze melden wel relevant is. Dan is het toch wat makkelijk om alleen maar te stellen dat een gebruiker het kon weten.

[maartend]

Nee, te kort door de bocht. Blijkbaar worden ook deze berichten bewaard, en dat is zo vaut

[Johan9711]

Waarom is dat fout? Ze zijn er altijd vrij open over geweest. Als je zelf kiest om een Google home in huis te halen of Google assistent te gebruiken die je dat toch helemaal zelf?
Niemand die je verplicht deze 2 diensten te gebruiken.

[maartend]

Het vaute zit hem er in dat dit soort berichten (dus zeg maar de false positives) ergens bewaard blijven en niet acuut worden gedumpet

[Doolbr]

False positives zijn net belangrijk om onderzocht te worden waarom de google home geactiveerd werd, terwijl het niet de bedoeling was. Hoe denk je dat Google deze kan verminderen? Door dit niet te onderzoeken?

[AmigaWolf]

En daarom moet je zo een AI niet in je huis hebben, dit bewijst al weer wat ze niet allemaal kunnen met zulke systemen.

Nee bij komt er geen een in huis.

[WimmieV]

Nee, te kort door de bocht. Blijkbaar worden ook deze berichten bewaard, en dat is zo vaut

Blijkbaar?

Wat klets je nu toch?? Blijkbaar??

Je kan de hele geschiedenis van wat je vraagt, en wat Google terug zegt in je eigen account terug zien!

Natuurlijk is het dus bewaard !

Wasdom maak je er iets spannends en stiekums van ??

[Reactie gewijzigd door WimmieV op 22 juli 2024 18:28]

[DigitalExorcist]

Ja nou ik weet niet hoor. Er is werkelijk 0,0 nieuwswaarde aan dit uitlekken van gebruikersdata. Je wéét en gaat akkoord dat Google je data analyseert, en zo’n werknemer gaat akkoord met een geheimhoudingsverklaring die juist bedoeld is om dit soort data niet te laten lekken. M.i. kan Google niet veel méér doen dan wat ze nu doen met die audiobestanden.

Als er nou mensenlevens, milieudelicten of financiële delicten zijn: ja, dan hebben klokkenluiders een goed punt. Maar dat is dit duidelijk niet.

[Reactie gewijzigd door DigitalExorcist op 22 juli 2024 18:28]

[mae-t.net]

Dat Google (misschien) niet veel meer kan doen, is echter een belangrijk punt. Ondanks alle zekerheden kan je data dus op straat komen te liggen. Via Google zoals nu, maar ook gewoon buiten Google om. Je moet je dus niet alleen afvragen wat er in de voorwaarden van Google staat, maar of je het de moeite waard vindt om een kleine kans te lopen dat iemand anders (of na wijziging van voorwaarden Google zelf) met je data aan de haal gaat.

Bovendien kun je o.a. daardoor niet zeggen of er wel of geen mensenlevens of andere ernstige dingen op het spel staan.

[arjandijk162]

Ik geloof dat er een heleboel misdaden (inbraak, verkrachting, stalling) buiten jouw parameters vallen

[ChAiNsAwII]

Oh nee ? Google beweerd dus dat alles vervormd wordt en dat je het niet kan beluisteren, niet dus dat op zich is al nieuws, wie weet wat nog meer niet klopt...

[ChAiNsAwII]

Zolang er geen mensen dood gaan is alles dus ok ?

[DigitalExorcist]

Of milieudelicten, financiële delicten of iets anders dat bij wet strafbaar is.

[SuperDre]

uhh, het is nu dus JUIST de 'klokkenluider' die de opnames heeft gelekt. Het gaat sowieso dus om geanonimiseerde geluidsopnames, die dus door een mens gecontroleerd worden of de machine het wel goed vertaald (om het even simpel te verwoorden). Hoop dan ook dat het nogal wat gevolgen gaat hebben voor deze persoon, nu waren het de omroepen (die natuurlijk graag publiekelijk maken zodat ze weer kijkertjes trekken en dus reclame inkomsten)..

[wica]

Het gaat sowieso dus om geanonimiseerde geluidsopnames,

Hoe anonimiseer je een geluids opnamen, de gebruikt wordt om door een taal expert het systeem te verbeteren.
Vervormen,is niet nuttig. Want dan hoort de taalexpert het niet goed.
Een "Jerry springer" show van maken, ook niet echt nuttig. Te veel gepiep.

Dus hoe je zorgt je er voor dat een gesprek,niet tot een persoon te herleiden is?

[Lohi]

Door niet te vermelden van welk account het fragment komt.

[5V1NA70G]

Het fragment zelf is genoeg om te herleiden.

[Lohi]

Maar het fragment wordt ingediend om te controleren of het spraaksysteem werkt, dus hoe is zoiets überhaupt te vermijden? Bovendien zijn de gevallen waarin het via het fragment te herleiden zijn waarschijnlijk te verwaarlozen.

[SuperDre]

Ligt er dus helemaal aan wat er in het fragment gezegd wordt. Wordt er geen naam/adres genoemd EN is het niet aan een account gekoppeld, dan moet je toch wel heel bijzonder zijn om dit te kunnen herleiden naar eens specifiek persoon, dan zullen de inlichtingendiensten je graag een goed betaalde baan aanbieden.

[wica]

Grappig, eerst waren ze geanonimiseerd. En nu moet je bijzonder zijn.
Afglijdende schaal

Het feit blijft dat je iemand kan herkennen, je zou maar net een fragment van je ouders te horen krijgen.

[SuperDre]

Geanimiseerd als in niet aan account of persoonsgegevens gekoppeld. Dus je moet echt heel HEEL bijzonder zijn om als mens dit te kunnen herleiden naar een persoon die jij nog nooit gezien of gehoord hebt. En ja, door anonimisering zou het kunnen dat in het hele uitzonderlijke geval je iemand zou horen die je toevallig kent, maar de kans is wel zo extreem klein dat het verwaarloosbaar is naast dat je dan zelfs nog niet eens door zou hebben waarschijnlijk dat het die persoon is, als je al honderden andere personen hebt gehoord en je bezig bent met puur corrigeren van de machine learning.

[Groningerkoek]

Mensen zijn te herleiden terwijl in een officiële verklaring is gesteld dat dit niet het geval kon zijn. ER was ook verklaard dat berichten vervormd zouden worden, ook dat gebeurde niet.

[mae-t.net]

Maar als een klokkenluider die opnames lekt, had iemand anders dat dus ook kunnen doen, eventueel met andere doelen en/of gevolgen. Q.E.D.

Of geanonimiseerd ook werkelijk anoniem is, hangt bovendien sterk samen met wat de mensen zeggen.

[Reactie gewijzigd door mae-t.net op 22 juli 2024 18:28]

[stefanmechelen]

ik zie het probleem niet. Bovendien, welke privacy zou er in godsnaam geschonden zijn? Je geeft zelf die info door aan dat ding. Het is een oeroude discussie hé. Tv programma niet leuk? Daar is een simpele oplossing voor. Sociale media niet leuk? Dezelfde simpele oplossing. Google Home niet leuk. Guess what, dezelfde simpele oplossing; GEBRUIK HET DAN NIET ZAGEVENTEN. Je krijgt die service gratis, in ruil krijgt Google uw data. Ge moet nu toch al wel een hele grote stommerik zijn om dat principe ondertussen niet te snappen hé. Het gaat er vervolgens om wat ze met die data doen. In dit geval nog geeneens om uw ads door uw strot te rammen, maar gewoon om de service te verbeteren.

[kodak]

Je verwart een aantal zaken.

De keuze hebben om wel of niet van een dienst gebruik kan maken heeft niets te maken met wel of geen rechten hebben over wat je beschikbaar stelt.

Een bedrijf dat een dienst onder haar eigen voorwaarden levert wil nog niet zeggen dat de werkwijzen van het bedrijf rechtmatig zijn.

Een gebruiker die van een dienst gebruik maakt doet daarmee geen afstand van haar wettelijke rechten.

Dat een bedrijf toegang tot je gegevens heeft wil niet zeggen dat het dus ook alles maar met die gegevens mag doen. Wellicht heb je vernomen dat de privacywetten sinds enige tijd nog strenger zijn geworden. Ik vind het te ver gaan om de schuld bij de gebruikers te leggen simpelweg omdat ze een bedrijf een dienst aan laten bieden.

[stefanmechelen]

ik verwar geen zaken. Google heeft de data gebruikt zoals we overeengekomen zijn toen ik instapte in hun systeem. Staat er duidelijk hé dat ze die mogen gebruiken. Verder heb ik volledige controle via mijn account op de activiteiten die er gebeuren. En ben ik zelf verantwoordelijk voor wat ik tegen dat ding zeg. Ik zie het probleem totaal niet. Laat staan dat ik zie welke privacy er in godsnaam geschonden zou zijn. Als we het echt over privacy willen hebben, moeten we misschien eens bij Dhr. Jambon en Somers langs met hun ANPR camera's die alles zien en horen en alles bijhouden en daar is geen opt-in voor en het personeel dat die data in handen heeft, vertrouw ik al helemaal niet, laat staan de veiligheid van het systeem. Idem voor de vingerafdruk op je ID binnenkort.

[laptopleon]

Google luistert ook regelmatig onbedoeld mee. Het luistert ook naar anderen in omgeving, weten die ook dat ze afgeluisterd worden? Hebben die ook de voorwaarden gelezen en geaccordeerd?

De vergelijking met ANPR is nogal scheef. ANPR zegt alleen iets over waar een auto was en wanneer. Persoonlijke gesprekken vertellen alles over je leven en dat van anderen. Plus dat van ANPR duidelijk is wat het is en doet.

[Reactie gewijzigd door laptopleon op 22 juli 2024 18:28]

[stefanmechelen]

Neen want die ANPR's nemen soms ook geluid op. Althans in Mechelen is dat toch zo. Daar staan camera's die reageren op plotse verhoging van de decibels want dat kan een ongeluk zijn of een ruzie in een uitgangsbuurt. En nogmaals, je hoort het hé wanneer Google Home opneemt. Je hebt toegang tot je account history en kan die helemaal zelf beheren. Plus je beslist zelf wat je zegt tegen dat ding als je weet dat hij aan het opnemen is. Ik snap nog steeds echt niet welke privacy hier in godsnaam geschonden wordt. Hij neemt alleen op als je hey Google zegt of als hey Google per ongeluk getriggerd wordt. Voor iets anders zijn er geen bewijzen. En je hoort duidelijk wanneer hij opneemt door het geluidssignaal. Ook bij de ongelukjes.

[laptopleon]

Mij maak je niet wijs dat die mensen die in bed lagen te vozen die 'hé' gehoord hadden, door hadden dat Google het opnam én het prima vonden dat medewerkers dat nog even gingen naluisteren, om te kijken of het wel klopte wat Google Home er van maakte.

Dit kun je toch serieus niet vergelijken met een camera die in het openbaar / buiten op straat hangt waar auto's rondrijden?

En dan nog vind ik het nog wat anders dat alleen mensen van politie en justitie daar bij kunnen in het kader van een onderzoek, tegenover medewerkers van een bedrijf wat zijn geld verdient met het verzamelen van data. En dat daar ook nog bewust vaag over doet.

[SuperDre]

Naast dat deze audiostreams dus geanonimiseerd zijn (ofwel niet aan een account terug te leiden, ok, behalve als er in de audio iemand zijn volledige naam en adres vertelt)..

[Ralph58]

Anonimiseren is onmogelijk want stemmen zijn altijd te herkennen.

[Groningerkoek]

Daarom verklaarde men ook de stemmen te vervormen, alleen gebeurde dit niet.

[SuperDre]

Stemmen zijn alleen te herleiden door een mens als die ook de betreffende persoon kent, en zelfs DAN is het goed mogelijk dat die deze niet herkent(tenzij iemand echt een hele bijzondere manier van praten heeft, bv arnold schwarzenegger).

[Groningerkoek]

Euh? Je kunt gewoon de zooi in een database gooien, spectrogrammen maken en crawlen op tv/internet tot je een match hebt. Als de database en implementatie groot genoeg worden is het technisch zelfs mogelijk om als je een stem in een bouwmarkt hoort die herleiden tot iemand die uren eerder thuis uitsprak dat hij een betonmolen wil kopen maar eerst een paar winkels wil vergelijken. Stuur er een verkoper op af en haal de klant binnen voor hij naar een concurrent gaat.

Niet dat dit gebeurt, maar de technische mogelijkheden tot misbruik zijn echt enorm en vanuit commercieel standpunt zeer interessant, hoeveel zou een bouwmarkt geven aan iemand die hen zulke specifieke klantkennis kan bieden? Of een autohandelaar die al voordat de klant hem de hand schud weet wat het echtpaar thuis heeft afgesproken als onderhandelingstactiek en hun financieel speelruimte kent?

Dit soort dingen moet je onmiddellijk in de kiem smoren voordat implementatie ook maar in de buurt komt van wat ik net opnoemde.

[SuperDre]

Dus als controleur zou je zo'n behoorlijk geavanceerd/duur systeem gaan opzetten om te kunnen achterhalen wie het zou zijn, van de random audiostukken die je vanuit google aangeleverd krijgt om te controleren. Wat zou daar de motivatie voor zijn? De kans dat je juicy dingen te horen krijgt is erg klein. Deze mensen hebben dus geen ongelimiteerde toegang tot alle streams. Zelfs vervormen heeft dan geen zin als je het algoritme van de vervorming kent.

[TimMer]

Google geeft toe dat de lekker meer dan duizend opnames lekte, waarvan 153 abusievelijke opnames waren. Dat is data die wordt opgenomen terwijl gebruikers niet specifiek de term "Ok Google" gebruikten.

En dat is het écht griezelige deel van dit verhaal. Allang bekend bij de experts, maar niet bij de kudde.

[Timfonie]

Gebruikers zullen het als irritant ervaren als de herkenning van 'OK Google' te selectief is en daardoor vaak niet activeert. Daarom is die assistant waarschijnlijk zo ingesteld dat alles wat er maar een beetje op lijkt als trigger werkt. Met gemiddeld 15% false positives als gevolg.

De vraag is bovendien: hoe lang wordt er vervolgens opgenomen? Het betreft dan immers geen stemcommando als afgeronde boodschap.

[Reactie gewijzigd door Timfonie op 22 juli 2024 18:28]

[dahakon]

Wat ik me serieus afvraag, is waarom een bedrijf dat zulke enorme winsten maakt zoals een Google, maar ook een Facebook maakt, niet gewoon een redelijke groep mensen in dienst kan nemen om een service als spraakbesturing goed werkend te krijgen, zoals bedrijven dat vroeger ook gewoon moesten doen.

Stel je voor dat je een nieuwe telefoon of auto koopt en de producent zegt 'veel plezier, en geef ons ook even feedback over alle problemen die je tegen komt, want je bent onze QA, ook al betaal je voor je product'.

Als een telefoon of andere dergelijke apparaten worden gelanceerd met software die meer lijkt op een alpha build dan een daadwerkelijke launch ready software, is de wereld te klein. Het bedrijf dient er voor te zorgen dat intern alle fouten en problemen opgelost worden voor het product de markt op gaat, maar met Google en dit soort software vinden we het blijkbaar maar gewoon dat we de (betalende) QA zijn...

[SpaghettiCake]

Was het maar zo makkelijk. Je kan niet zomaar geld gooien naar spraakherkenning en verwachten dat het ineens supergoed gaat werken. Waarschijnlijk werken ze met allemaal algoritmes die getraind moeten worden.

"Stel je voor dat je een nieuwe telefoon of auto koopt en de producent zegt 'veel plezier, en geef ons ook even feedback over alle problemen die je tegen komt, want je bent onze QA, ook al betaal je voor je product'."

Dit is letterlijk elk product. Bijna alle producten worden niet 100% klaar op de markt gezet en worden dan verbeterd met andere versies. Waarom denk je dat bijna elk automerk elk jaar nieuwe modellen uitbrengt? Of telefoons, daar veranderd de software ook toch steeds. De consument is precies dat, een QA die betaalt i.p.v betaald wordt. Maar door de feedback wordt het volgende model van het product steeds makkelijker/mooier/beter.

[Fly-guy]

Omdat een spraak aangestuurde assistent massa's data nodig heeft om beter te worden en die data kun je praktisch niet voor de release al gegenereerd hebben.

[vinkjb]

Ze kunnen beter onderzoek naar zichzelf waarom ze jou afluisteren.
Het lijkt allemaal leuk die gadgets maar je betaald 1 de prijs voor het apparaat en 2 nog veel erger, met je privacy..

[SuperDre]

Dat weten ze heel goed waarom, deze mensen worden ingezet om hun machinelearning te verbeteren, zodat er in de toekomst nog minder menselijke interactie nodig is en dus nog minder noodzaak om mensen toegang te verschaffen tot de audiostreams, of zelfs dus helemaal niet meer nodig omdat de machinelearning/ai meteen begrijpt wat er moet gebeuren.

[AWitteveen]

Iedereen zit altijd maar te zeggen dat je met je privacy betaald als je een Google Home in huis hebt, maar het gevoel van privacy is bij iedereen anders. Ik heb een Google Home en ik voel mij niet aangetast in mij privacy, het zelfde geld voor mijn vrouw. Wij hebben allebij hoofdschuddend zitten kijken naar de ophef die nu weer ontstaat.

Om terug te komen op je eerste zin, waarom ze ons "afluisteren", heel simpel, omdat dat hun dienst is en de reden dat wij een Google Home in huis hebben gehaald. Wij willen dat het ding acties uitvoerd een daarvoor moet hij naar ons luisteren. Dat ze opnames maken om daarmee hun dienst te kunnen verbeteren is niet meer dan logisch en al lang bekend.

[pauldaytona]

Asn de ene kant verwachten we dat je met je spraak van alles kan besturen, de route in de auto vragen, enzovoort, aan de andere kant zal google het ergns moeten leren, en dan is naar de radio luisteren niet genoeg om allerlei uitspraken en varianten te kunnen leren herkennen. Gisteren toevallig eens SIri geprobeerd, die bakte er heel wat minder van de dan de google spraakherkenning.
Dus dat ze naar hetgeen luisteren wat je spreekt niks aan mis, wel als je geen google aanroept.

[latka]

Dus de Google politie gaat op onderzoek. Is er al aangifte gedaan van een strafbaar feit door Google? Dit soort onderzoek binnen een bedrijf gebeurt zo vaak maar dat hang je niet aan de grote klok tenzij je wat wilt bereiken. Ik snap het nut van deze mededeling niet helemaal. Maat het feit dat Google deze klokkenluider mag bedanken voor het aan het licht brengen van het misstanden binnen het bedrijf. Stemvervorming zou gebruikt worden, nou niet dus.

[Osiummaster]

Komt er nog een grote boete voor Google wegens het schenden van de privacy wet?

[jayb]

Don't be evil
Hand in eigen boezem.... als je wilt dat het beter wordt dan kan je ook een batterij aan mensen inhuren om audio messages in te spreken en op die manier te optimaliseren. Dit soort "live" data experimenten zijn namelijk niet per se nodig.