Google vraagt gebruikers toestemming om spraakcommando's op te slaan

Google heeft een onbekend aantal gebruikers een mail gestuurd met de vraag of ze het opslaan van spraakcommando's weer willen inschakelen. Google wil de opnames opnieuw gaan gebruiken voor het verbeteren van Assistant, onder meer door ze door mensen te laten beoordelen.

Standaard staat het opslaan van audio uit, schrijft The Verge. In de mail vraagt Google om het opslaan van audio weer aan te zetten. Google leidt gebruikers naar een pagina waar ze toestemming kunnen geven. "Je kunt helpen de producten die je gebruikt te verbeteren door je audio van Google Zoeken, Maps en de Assistent op te slaan, zodat deskundige reviewers een gedeelte van de opname kunnen analyseren", aldus Google op die pagina.

Google stopte met het opslaan van audio van spraakcommando's vorige zomer, nadat bleek dat mensen een deel van de opnames terugluisteren om zo te beoordelen of de digitale assistent de commando's goed heeft verstaan. Google had dat nergens vermeld. Het bedrijf was daar niet de enige in. Amazon, Microsoft en Apple deden dat ook en stopten daar toen ook tijdelijk mee, maar zijn al langer weer begonnen met het toestemming vragen voor het opslaan van spraakcommando's.

Dat het nu standaard uit staat, is een wijziging van het beleid. Voorheen stond dat standaard aan. Bovendien moeten gebruikers in hun account de opnames nu makkelijker kunnen vinden en verwijderen als zij dat willen. De audio is de eerste tijd gekoppeld aan het account en in die periode belooft Google dat de geluidsfragmenten nog niet naar menselijke reviewers gaan. Dat gebeurt pas als de audio niet langer aan het account gekoppeld is.

Update, 20:38: Google laat weten dat het altijd pas na toestemming van gebruikers opnames heeft opgeslagen. Tot halverwege 2018 was het laten opslaan van de audio verplicht voor het gebruik van Assistant.

Reacties (13)

[CAPSLOCK2000]

Mijn voorstel is dat ze per geval toestemming vragen. Als de gebruiker aangeeft dat z'n boodschap verkeerd is begrepen, of de software dat vermoedt, dan vraag je toestemming om dat specifieke bericht op te slaan en te gebruiken voor trainingsdoeleinden. Dan wordt de gebruiker nooit verrast omdat er iets is opgeslagen waarvan ze dat niet zouden willen. Als je het mensen in het algemeen vraagt zullen ze waarschijnlijk denken "ze mogen veel van me weten, maar niet alles, doe dus maar niet".

Als je het ze vraagt wanneer ze een concreet probleem hebben dan zullen ze eerder denken "graag, dit bericht is zo simpel, dat mogen ze best weten, zeker als het dan voor mij beter wordt".
Als je dan toch bezig bent kun je de gebruiker direct vragen wat de bedoeling was, want ook voor menselijke inspecteurs zal lang niet altijd duidelijk zijn wat er gezegd wordt, als er uberhaupt al echt iets gezegd is of dat het gewoon achtergrondgeluid is dat de dector heeft getriggered.

Dus gewoon geen algemene toestemming vragen maar per geval.

[Verwijderd]

Mijn voorstel is dat ze per geval toestemming vragen.

Meer dan een kwart van de commando's word niet begrepen door de systemen. Dan moet je tientallen miljoenen verzoeken per dag versturen en verwerken. Denk dat zowel Google als de gebruiker daar geen zin in heeft.

• HeyGoogle, playlist Pink Floyd please.
• Sorry, I did not understand, would you allow us to use the recording we temporarily have of your command for optimization purposes?
• Yes.
• Would you be so kind as to confirm this? Sorry we have to ask for legal reasons
• Yes
• Okay, thank you for assisting us in perfection our systems!
• HeyGoogle, I still would like to listen to my Pink Floyd playlist
• Sorry, I did not understand, would you allow us to use the recording we temporarily have of your command for optimization purposes?
• Oh go f yourself
• Sorry, I did not understand, would you allow us to use the recording we temporarily have of your command for optimization purposes?

[Reactie gewijzigd door Verwijderd op 22 juli 2024 22:11]

[CAPSLOCK2000]

Je hoeft het niet bij iedere fout te doen en je hoeft ook niet iedere fout op te slaan.
Die systemen hebben nu ook al manieren om aan te geven dat iets niet begrepen is of om te vragen om het nog een keer te zeggen. Daarvoor moeten ze al een inschatting maken van hun eigen prestaties. Het lijkt me dat je dat ook kan gebruiken om een onderscheid te maken tussen interessante fouten en oninteressante fouten.
Perfect zal dat niet zijn maar dat hoeft ook niet. Dan duurt het maar wat langer voor Google z'n spraakherkenning heeft geperfectioneerd. We zijn nu nog zo ver van perfect af dat er nog grote stappen gemaakt kunnen worden voor je ieder laatste detail nodig hebt om je systemen te verbeteren.
Mensen zijn ook niet perfect en verstaan wel eens iets verkeerd. Meestal kunnen we daar prima mee omgaan.

[Reactie gewijzigd door CAPSLOCK2000 op 22 juli 2024 22:11]

[SgtElPotato]

Of tenminste een reminder in het klein na een voice opdracht dat je zoekopdracht opgeslagen en geanalyseerd kan worden en dat je dit UIT kunt zetten in de settings.

[Verwijderd]

Maar het STAAT nu al uit als je het niet opzettelijk aanzet.

Wil je echt van elk voice commando op een van je google devices (ik het ze in elke kamer in het huis en in al de auto's) een text message dat er iets is opgeslagen? Op de audio only devices zal dat via geluid moeten.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 22:11]

[SgtElPotato]

Nee, maar een kleine reminder in het lichtgrijs onderaan de 'conversatie' met de assistent lijkt mij een goede oplossing tbh.

[theduke1989]

Is het echt zo belangrijk om real people do the job for the assistant?
Ze hebben zoveel geld kunnen toch vast wel iets ontwikkelen wat een machine kan leren Ai want ja dat is toch wel de toekomst. De Ai zou dan dit goed moeten opvangen. De Ai moet het misschien ergens vandaan halen. Maar Google is een zoekmachine van origine wat dus makkelijk qua content heeft wat ze weer eigenlijk zouden kunnen gebruiken.

[theborgnl]

Het idee is volgens mij juist om nieuw bronmateriaal te creeeren voor het trainen van AI, en dat die mensen de AI (bv spraakherkenning) beoordelen op juistheid... een AI die een AI beoordeeld kan ook (bv adverserial learning). Daarbij train je 1 netwerk om iets te genereren en een ander om echt van nep te detecteren, daarbij leren de netwerken van elkaar (en hun eigen 'fouten'). Bij deze mensen gaat het dus om die 'echt' te maken, corpora van de ground truth.

[Reactie gewijzigd door theborgnl op 22 juli 2024 22:11]

[_Pussycat_]

Maar hoe kun je leren van iets wat hij niet begrijpt? Dan moet je toch corrigeren, niet?

Ik heb bijvoorbeeld wanhopig geprobeerd met Google een benzinestation te vinden door de zeggen "find a gas station along the current route". Hij begreep het nooit, en ik heb geen enkel idee hoe ik het anders zou kunnen zeggen. Aangezien de "AI" vooral een verzameling van gedefinieerde use cases is, kunnen ze deze toevoegen.

Intussen gebruik ik de assistent helemaal niet meer. Alleen maar ergernis, irritatie en vertraging - ik doe het liever zelf.

[mutley69]

M.a.w. vroeger was Google in overtreding met de GDPR als we dit artikel deftig gelezen hebben?

[Wim-Bart]

Yep.

[Zapato]

Toestemming gegeven.

[deejaylethal]

Er zijn vast wel genoeg mensen die dit aanzetten om te helpen. Anders kunnen ze altijd nog ervoor kiezen om een focusgroep te maken met mensen die dit OK vinden en hen bijvoorbeeld gratis hardware geven of betalen. Maakt het iets minder anoniem, maar werkt even goed.