Amazon-medewerkers luisteren Alexa-commando's af om algoritme te trainen

Amazon traint zijn digitale assistent Alexa door menselijke medewerkers de spraakcommando's van gebruikers af te laten luisteren en het antwoord van de software te beoordelen. Daarbij horen ze veel privacygevoelige gesprekken.

Die medewerkers luisteren naar tot duizend opnames van gebruikers per dag om het algoritme van Alexa te trainen, meldt Bloomberg op basis van verklaringen van medewerkers. Daarbij krijgen die medewerkers van alles te horen, van mensen die vals zingen in de douche tot geluiden die wijzen op aanranding en kinderen die om hulp schreeuwen. Amazon grijpt in die gevallen niet in, omdat het volgens die medewerkers het niet als zijn taak ziet om in te grijpen. Die medewerkers delen dat wel in een interne chatbox.

Amazon bevestigt de praktijk in een reactie. "We beluisteren alleen een klein deel van de spraakopdrachten. We hebben strikte technische en operationele maatregelen en een zerotolerancebeleid voor misbruik van ons systeem. Medewerkers hebben geen directe toegang tot informatie die kan leiden naar de identificatie van een gebruiker. Alle informatie behandelen we vertrouwelijk en we gebruiken multitrapsauthenticatie om toegang te beperken."

Concurrent Google heeft ook menselijke medewerkers die naar audio-opnames luisteren. Die opnames zijn vervormd om verdere identificatie te voorkomen, aldus de zoekgigant. Apple doet dat ook voor zijn digitale assistent Siri. Die informatie staat zes maanden op een server en wordt daarna verwijderd. Bovendien anonimiseert Apple de informatie voor het opslaan.

Reacties (265)

Inhoudelijk natuurlijk een slechte reactie maar serieus is er iemand die dit niet had zien aankomen?

Je plaatst een always-on speaker/mic in je huis gemaakt en geëxploiteerd door een commerciële partij die als doel heeft zoveel mogelijk geld te verdienen.
Geen idee wat er in de eula/voorwaarde staat die niemand leest maar wel mee akkoord gaat maar er zal vast iets over in staan wat Amazon en concurrenten allemaal met de data doen.

Als tech-liefhebber al vaak genoeg verbaasde vrienden/familie gehad dat ik nog geen assistent heb staan maar dat is een bewuste keuze. Thuis bespreek ik zakelijke dingen, praten vrouw en ik over werk wat niet iedereen hoeft te horen maar wat wel fijn is om samen te delen, enzovoorts.

Always on, is toch niet helemaal waar? Pas als je het hotword noemt gaat de lijn open.
Maar het verbaasd me niks nee. Tenminste wat Amazon en dan ook Google. Voor Apple heb ik nog echt meer vertrouwen dat het niet gebeurd.

Ik vraag me nu af of het reality distortion field ervoor zorgt dat je de laatste alinea helemaal niet leest of gewoon niet opslaat... Ook Apple luistert terug:

Concurrent Google heeft ook menselijke medewerkers die naar audio-opnames luisteren. Die zijn vervormd om verdere identificatie te voorkomen, aldus de zoekgigant. Apple doet dat ook voor zijn digitale assistent Siri. Die informatie staat zes maanden op een server en wordt daarna verwijderd. Bovendien anonimiseert Apple de informatie voor het opslaan.

Het staat er een beetje krom, maar Apple slaat geen geluidsopnames op. Alleen de transcripties van commando's worden anoniem opgeslagen (dus zonder verwijzigingen naar contacten, locaties, agenda-items etc.). Dat is wel iets anders dan alles wat de microfoon hoort 1-op-1 doorsturen en laten afluisteren.

Hoe kan Apple dan hun "spraak" assistent trainen als ze alleen kunnen beoordelen wat het algoritme heeft verstaan? Dat zou betekenen dat hun manier van geluid vertalen naar een transcriptie al perfect werkt, maar ik denk dat het em eerder in het verstaan van het geluid gaat zitten dan transcripties naar commandos vertalen.

Precies. Bovendien moet je om tot een transcriptie te komen eerst iemand de geluidsopname uit laten typen.

Nee, dat doet het model achter Siri dan dus voor je.

Je kunt toch niet trainen als je niet het origineel hoort om het algoritme te beoordelen? Het staat letterlijk zo in het artikel en het is ook het meest logische.

Alleen wanneer Siri dus goed kan verstaan wat er gezegd wordt. En dat is onder andere een reden waarom Apple deze data wil hebben.

Waarom denk je dat Siri tegenwoordig jaren achter loopt?

Ook namen en telefoonnummers die in die teksten te horen zijn?

Amazon stuurt ook alleen maar de spraakcommando's door, en de medewerkers die die te horen krijgen kunnen die audio niet meer terugleiden naar een eindgebruiker. Dus ook niks aan de hand.

Dat ze vervolgens op de achtergrond tijdens de spraakcommando's nog genoeg horen kunnen ze weinig aan doen.

Apple deed/doet het ook, in ieder geval al in 2015:

Apple admits that its Siri — an intelligent personal assistant for iPhone, iPad and iPod Touch devices — is collecting and also transmitting users voice data to 3rd party companies

https://thehackernews.com...i-voice-data-sharing.html

En naar een 3rd party vind ik nog veel schadelijker (denk aan Facebook en Cambridge Analytica) dan intern ten behoeve van kwaliteitsverbetering. Dat de medewerkers dingen horen die als schokkend ervaren kunnen worden is meer iets om vertrouwenspersonen en psychologische hulp voor in te schakelen dan deze privacy bash.

In hoe verre blijft de privacy behouden het zou kunnen dat het adres hardop word gezegt of telefoon nummers, Ik vraag me ook af of het echt niet meer terug te halen is wie het was, wat nu als er een Moord
is opgenomen en zo word beluisterd door een andere partij. Zou het dan echt onmogelijk zijn om het terug te halen?

Zou graag hebben dat Apple dit nog een beetje meer doet, siri doet bij mij in 19 van de 20 commando's absoluut niet hetgeen gevraagd is..

Wat grappig, die ervaring heb ik juist niet. Bij mij gaat het 19 van de 20 keer goed. Ik ben niet heel erg tegen op deze manier van het trainen van algoritmen, als ze maar pas "beginnen" met luisteren vanaf het moment dat "Hi Siri" genoemd is.

Wel een beetje zuur voor Apple dat ze in een ver verleden een '1984 commercial' deden: https://www.youtube.com/watch?v=axSnW-ygU5g

Ik heb bij Google mijn data opgevraagd.

Hotword daar is "Oké Google".

Toch zit in al mijn audio fragmenten door Google, dit "Oké Google" erbij. Met andere woorden. Elk spraak opdracht fragment begint inclusief het door mij uitgesproken "Oké Google".

Dat zou dus niet moeten kunnen want immers Oké Google de activatie en daarna moet Google gaan luisteren.

Conclusie weldegelijk always on!

Ja ik snap dat je dingen kunt bufferen, maar dan nog staat de Google assistent meer "on" dan dat men denkt .

Een apparaat moet toch constant z'n microfoon open hebben staan om de 'activatie' te kunnen horen? Lijkt me nogal wiedes.

What? Is niet logisch. Je zou die functionaliteit ook aan of uit kunnen zetten met een hardware kill switch. Ik weet het, 't is niet al te popi jopi modern zo'n hardware kill switch. Het is ook geen touchscreen. Maar.. het kan wel degelijk!

Zoals al vaker uitgelegd: de microfoon staat altijd open. Lokaal wordt er gecontroleerd of er "oke google/siri/mercedes/whatever" herkend wordt, en zo ja, dan wordt vanaf dat moment de stream opgestuurd.

De activatiewoorden worden ook meegestuurd. Dat lijkt raar en overbodig, je verwacht dat alles vanaf die woorden opgestuurd wordt. Maar dit zal gedaan worden om de verschillende bedrijven te vrijwaren wanneer ze in opspraak zouden komen. Hiermee kunnen ze aantonen dat de gebruiker zelf de activatiecode heeft uitgesproken, en daarmee impliciet akkoord heeft gegeven om de opname naar de servers te uploaden.

Zoals meerdere zeggen hier, hij is idd "always on", want hij is altijd aan het luisteren.
Echter stuurt ie (volgens mij) niet constant alles door.

Lijkt me ook niet praktisch. Heb je wel eens nagedacht hoeveel bandbreedte het kost als elke home-assistent (en dan waarschijnlijk ook elke smartphone/tablet) een constante audio-stream naar een server moet hebben?

Geluidsopnames kosten niks. Het hoeft ook geen 320 bps stereo te zijn. Waarschijnlijk kom je met 128bits mono heel ver, en misschien is 64bits ook wel genoeg. Dat is echt peanuts, tenzij je het hebt over mobiele data. Dat zullen ze niet doen, want dat is direct merkbaar in je databundel.

Voor de gebruiker z'n dataverbinding is het peanuts ja.

Maar als je ziet dat er alleen in america 50 miljoen smart speakers waren in augustus (https://www.forbes.com/si...report-says/#220cca58769c) dan heb je het over heel wat data wat er op dagelijkse basis binnenkomt lijkt me.

Tuurlijk zullen ze meer opslaan dan je denkt. Ze zullen ook luisteren naar keywords en die aan je account koppelen als die vaak voorkomen. Maar ik denk niet dat elke speaker 24/7 naar een server aan het streamen is.

Dit wetende blijf je het gewoon gebruiken ?

Of ze sturen de hele spraakopdracht door zonder te strippen. Is nog geen bewijs dat ze alles doorsturen. Pas als je audiofragmenten vindt zonder Hey Google moet je je zorgen gaan maken (als je voor dat fragment geen hey Google heb gezegd).

Hij staat wel "always on", maar gaat pas daadwerkelijk het gesprek opnemen en doorsturen indien het woord "ok google" is gedetecteerd. Je telefoon heeft als enigste doel dus om het woord "ok google" te herkennen, en alles wat daarna komt totdat er een pauze in je gesprek zit. Zo heb ik vaak meegemaakt dat ik dus "ok google" gevolgd door "bel nummer" en dat hij dan niet het hele nummer afwacht omdat ik op een papiertje sta te kijken naar het nummer...

Ook op "google" lijkt de assistent goed op te reageren, en heel af en toe lukt het me om een broekzakgesprek te produceren (luid genoeg "ok google, waar ben ik" in een kamer roepen en dan gaan luisteren).

Verschil met Alexa is dat je dus een commando moet geven VOOR hij reageert. Alexa stuurt simpelweg alles wat mogelijk een menselijke stem kan zijn, dus als je staat te douchen en je begint te zingen, neemt Alexa dat op en stuurt hem door voor analyse. Dat is veel gevaarlijker dan roepen "hey google" om de assistent aan te slingeren...

Het is juist prettig dat hij het hotword meeneemt in het audiofragment. Dan kun je daarmee aantonen dat hij soms ook aan gaat als het hotword helemaal niet is uitgesproken. Mijn telefoon neemt ook wel eens de ruis in mijn broekzak op zonder dat ik daar een hotword naar heb geroepen.

En hoe kan die het hotword horen als de microfoon uit staat? Het enige wat de fabrikanten beweren is dat ze pas de zinnen na het hotword doorsturen naar hun servers. Maar de eerste "bugs" die gewoon alles doorsturen zullen niet lang op zich laten wachten, als het al niet gebeurd is. Want alles wat ze horen kunnen ze gebruiken om meer geld binnen te hengelen.

Het draait idd allemaal om geld.

De massa en zelf veel tweakers hier zijn te dom om te begrijpen dat die soort systemen gewoon misbruikt gaat worden. Nu horen we van medewerkers die mee kunnen luisteren, maar wat is de volgende stap ?

Feitelijk het je gewoon een microfoon in je huis staan en kan de overheid USA ook van amazon eisen microfoon open wij willen meeluisteren, dat kan ook een nederlandse overheid en amazon zelf kan het natuurlijk ook al lang.

Ik vraag me of of de massa nog een keer wakker gaat worden of sluipt dit er langzaam in zodat we het maar voor normaal aannemen. Het is toch zo handig om iets te vragen en antwoord te krijgen, ligt aan ik wil een pizza bestellen, ja heel handig allemaal maar ten koste van wat vergeten we.

Dan nog de naïviteit dat bedrijven als amazon en google wel zorgvuldig zullen zijn, pff ik begrijp sommige mensen echt niet. Maar je het is handig he die systemen.

Misschien ben jij in je privacy kramp te dom om te begrijpen dat er misschien ook mensen die een wel overwogen keuze maken ?

Mooie woorden een weloverwogen keuze.
Ik vraag me dan of hoe je die afweging weloverwogen kan maken zonder echt alle feiten te kennen, zoals verhaal hierboven waar gesprekken dus geanalyseerd worden en dus ook worden opgeslagen en gedeeld worden door medewerkers. Dat is wat er nu naar buiten komt. Wat er nog meer is weet je niet.

Ik vraag me ook af of de massa er echt zo weloverwogen over nadenkt. Ze zien de voordelen handig maar de nadelen wordt door de massa niet eens bij stilgestaan. Sterker nog de jeugd groeit er mee op, vindt het heel normaal en denk er niet eens over na.

[...]

Mooie woorden een weloverwogen keuze.
Ik vraag me dan of hoe je die afweging weloverwogen kan maken zonder echt alle feiten te kennen,

Als jij Tweakers dom gaat noemen is de tunnelvisie volledig aan je eigen conto toe te schrijven. Welke feiten moet ik weten dan ? Ik hoef enkel de risco's af te wegen. En ik begin dan alvast, hoe interessant het kan zijn dat Google weet dat 1 van de 17 miljard bewoners van deze planeet tegen mijn katten praat...*oeps* .

Ik vraag me ook af of de massa er echt zo weloverwogen over nadenkt. Ze zien de voordelen handig maar de nadelen wordt door de massa niet eens bij stilgestaan. Sterker nog de jeugd groeit er mee op, vindt het heel normaal en denk er niet eens over na.

Kijk dat is een valide punt.. hoe de massa er een weloverwogen een keuze kunnen maken. En daar is zeker nog een hele slag in te maken. Alleen verwaterd de discussie al gauw in "Google dit en Google dat" terwijl het in het algemeen moet gaan over dat mensen nadenken wat ze delen e.d.
En dan wordt het een hele andere discussie. Want zeg nu zelf, hoeveel mensen weten wat er bij alleen surfen al verzameld wordt ? en weet wat voor acties ze moeten ondernemen ?
enz enz.

[Reactie gewijzigd door F-I-X op 11 april 2019 09:53]

Als jij Tweakers dom gaat noemen is de tunnelvisie volledig aan je eigen conto toe te schrijven.

Hij/zij noemt het dom, ik noem dat hier op Tweakers regelmatig naief, gebaseerd op de gemiddelde leeftijd hier en het feit dat mensen die een pittige studie hebben kunnen doen omdat ze redelijk goed kunnen leren direct denken dat ze al wereldwijs zijn en via google de waarheid in pacht denken te hebben op werkelijk ieder onderwerp.

Het vervelende is dat in discussies altijd gevonden word dat alleen hun bronnen geldig zijn en ieder ander met een andere mening word weggezet als gekkie of complotter.
Dat valt op de frontpage nog mee maar op het forum zijn het voornamelijk gelijkgestemde kliekjes die met hele hordes iemand onmiddellijk aanvallen omdat deze een andere mening heeft.

Waar topic moderators deelnemen aan de discussie en meestal tot hetzelfde kliekje behoren, niet onpartijdig zijn en regelmatig mensen met een andere mening de mond snoeren.

Het is al vaker gebeurd, zie:

https://tweakers.net/nieu...-continu-audio-opnam.html

https://tweakers.net/nieu...ekken-slimme-speaker.html

Maar om het hotword waar te nemen moet er wel altijd worden waargenomen om te checken of het hotword genoemd word. Vandaar always on.

Als jij een zin maakt met het hotword in de zin, maar wat niet direct betrekking heeft op het inschakelen van de speaker, dan zal waarschijnlijk heel de zin zijn gechecked op het hotword.

Is dat zo? Is het geen ingebouwde intelligentie?
Kun je HEY GOOGLE roepen als er geen internetverbinding is?
Volgens mij krijg je dan nl. de melding dat er geen connectie is. Dus dat duidt erop dat er voor het commando geen data wordt verstuurd.

Dit idd, pas bij het hotword gaat de internetconnectie open.

Tenzij er natuurlijk per ongeluk een bug is dat meer wordt opgenomen. Bug of moeten we ze soms ingebouwde bugs noemen zijn heel normaal bij google, amazon en anderen.

Zo'n bug die toevallig alle Wifi netwerken in kaart brengt.....

Of deze bug, https://www.businessinsid...ersation-2018-5?r=US&IR=T

Jawel, maar:

"Amazon takes privacy very seriously. We investigated what happened and determined this was an extremely rare occurrence. We are taking steps to avoid this from happening in the future."

Dus dan ben je toch weer helemaal gerustgesteld... </s>

Dank je voor deze wijze worden, je hebt me over de streep getrokken, ik twijfelde nog om er 1 of meerdere in huis te nemen, maar ga ze nu meteen bestellen.

Grappig dat de meeste bugs de werking van een product negatief beïnvloeden maar de bugs die Google vaak heeft, als je wat cynisch ingesteld zou zijn, een enorme plus zijn.

Kan echter merk ik dat wanneer de internetverbinding niet werkt hij wel op het hotword reageert maar dan vervolgens meldt dat er geen verbinding is. Maar het blijft een risico.

Je geeft het al aan blijft een risico en als je eens goed nadenkt wil je dat wel, of kies je dan leuk handig gemak boven risico dat er bij jou in huis met veel/alles meegeluisterd kan worden.

Lijkt me trouwens als google dus dit analyseert of daar toestemming voor is. Ze slaan immers provacy gevoelige informatie op en beluisteren deze.

Als er een dergelijk bug is, wat al gebeurt is met de eerste Google Home mini's, dan wordt dit gauw genoeg gevonden door de diverse security-experts die zich met dergelijk zaken bezig houden.
Het uploaden van spraakdata door het device gebeurt niet ongemerkt, en is zichtbaar op het netwerk.

Gelukkig dat ze dat dan keer op keer ontdekken en dat er helemaal niets met die data gebeurt. Een hele opluchting.

Maar wacht oeps nu waren het amazon medewerkers die dit aan het licht brachten. Luisterden, de verhalen doorvertelden aan elkaar.

Maar wacht oeps nu waren het amazon medewerkers die dit aan het licht brachten. Luisterden, de verhalen doorvertelden aan elkaar.

Maar oeps, dit is helemaal geen bug of fout, maar standaard werking

dit is dus de standaard werking

Daarbij krijgen die medewerkers van alles te horen, van mensen die vals zingen in de douche tot geluiden die wijzen op aanranding en kinderen die om hulp schreeuwen. Amazon grijpt in die gevallen niet in, omdat het volgens die medewerkers het niet als zijn taak ziet om in te grijpen. Die medewerkers delen dat wel in een interne chatbox.

Mooie bedoeling.

...en die bug was er dus bij Alexa.

...of de software is zo geschreven dat jij die melding krijgt als er geen internet verbinding is om je een veilig gevoel te geven.

En hoe precies gaat het syteem niet luisteren tot het juiste woord voorbij komt? Ow wacht, door de hele tijd te luisteren...

En hoe precies gaat het syteem niet luisteren tot het juiste woord voorbij komt? Ow wacht, door de hele tijd te luisteren...

Maar het luisteren door het systeem is niet zozeer een probleem, maar het doorzenden van eventuele 'niet relevante' informatie.
luisteren kan prima lokaal door het apparaat.

Laatste alinea, staat gewoon letterlijk dat Apple dit doet.. dus ik vraag me af waar jou theorie/vertrouwen dan van komt.

ik heb een Google home gebruik hem eigenlijk alleen voor de lampen. toch soms hoor ik hem ineens wat zeggen of geeft informatie waar we helemaal niet om gevraagd hebben / het hot word gebruikten. vind ik toch wel spooky

Het zou mij niet verbazen dat Apple dat ook doet. En misschien voor al hun devices ook veel data ophalen/verwerken. Het is niet omdat ze er niks van zeggen dat ze het ook niet doen.
Dat is nu het mooie aan een gesloten systeem. De maker kan alles doen zonder dat de gebruiker het weet.

Daarbij krijgen die medewerkers van alles te horen, van mensen die vals zingen in de douche tot geluiden die wijzen op aanranding en kinderen die om hulp schreeuwen.

Het lijkt mij niet logisch dat je eerst het hotword zegt en dan gaat douchen? Ook bij een aanranding is dat toch niet het eerste wat je gaat roepen? Het lijkt er toch op dat er veel meer wordt doorgestuurd dan de bedoeling is?

Als je alleen woont/bent is dat inderdaad zo.
In een gezin kunnen meerdere mensen gelijktijdig spreken.

Ook bij een aanranding is dat toch niet het eerste wat je gaat roepen?

Of juist wel. Hey Google call 911

[Reactie gewijzigd door Frubelaar op 11 april 2019 09:41]

Ik vind dat je het wel erg positief inschat. Ik gok dat de genoemde voorbeelden net zo makkelijk verkeerd gehoord kunnen zijn.

Als ik kijk hoe vaak Siri bijv. denkt "Hey Siri" gehoord te hebben... Het ging bij bij vaker mis dan goed. Soms werd Siri geactiveerd door een audioboek dat ik via diezelfde iPhone aan het afspelen was. Ik heb het uitgeschakeld en activeer Siri wel handmatig als het nodig is.

Ik weet natuurlijk niet of andere 'assistenten' hetzelfde probleem hebben, maar aangezien men dit afluistert om het algoritme te trainen, kan ik aannemen dat het nog niet perfect is.

En dat hotword hoort ie door z'n microfoons niet open te hebben? Precies, die staat dus altijd open.

Bovendien heb ik toch wel regelmatig (zeg 1x in de maand) dat ik niets zeg (en ook geen TV aan oid) en dat 't ding ineens iets doet. Al is het alleen maar even z'n lampjes aan, en dan niets zeggen, en lampjes weer uit.

Met Google Home had ik dat net iets te vaak, die heb ik de deur uit gedaan. Die begon soms spontaan het nieuws af te spelen of te vertellen wat voor weer het zou gaan worden.

Er is hier al veel over gezegd en een deel stond ook gewoon letterlijk in het artikel. (dat Apple dit ook doet)

Ik vind het gewoon grappig maar ook ietwat verontrustend hoe sommige mensen redeneren. "Apple zal dit niet doen, die vertrouw ik"...

Want Apple is lekker altruïstisch ingesteld en zal bewust het risico nemen dat z'n eigen product minder goed werkt -en bijgevolg minder goed verkoopt dan dat van de concurrentie door te zeggen;
"Wij doen dit niet, wij zijn meer begaan met de privacy van onze klanten dan met winst maken en brengen hierdoor onze eigen winstmarge en marktpositie in rechtstreeks gevaar, want op ons kan je rekenen"?

Tuurlijk niet... Het is exact dit soort redenering dat bedrijven willen dat je hebt.

Er zijn ook al voorbeelden bekend waarbij zo'n slimme speaker getriggerd wordt doordat het een verspreking meent te herkennen als zijn eigen trigger, en onbedoeld mensen begint te bellen, die vervolgens het hele gesprek mee kunnen luisteren. Het voorbeeld wat herinner, maar helaas geen link meer naar toe heb, ging over zo'n Google home ding, die niet bedoelt een collega belde, die vervolgens kon horen hoe een van zijn collega's en zijn partner omgingen met het verwerken van een vroege miskraam.

Alleen maak je de denkfout dat ook Apple hier baat bij heeft. Google en Amazon hebben de gegevens voornamelijk nodig om hun algoritme te verbeteren, iets wat Apple ook moet doen, anders gaat Siri binnen de kortste keren mijlen achterlopen op de rest.
Dit heeft dus niks met advertenties of weet ik wat te maken, ook Apple heeft data over het gebruik nodig om hun apparaten te verbeteren, zeker als het aankomt op spraakherkenning.

Ik hoorde laatst van iemand dat hij bij Google had opgevraagd wat zij van hem weten. In de geluidsopnames was ook "OK Google" te horen. Het apparaat luistert dus continu, maar het blijft de vraag of alleen het relevante deel wordt verstuurd of dat alles wordt verstuurd en alleen het relevante deel bewaard wordt.

Maar om het hotword te horen moet de mic aan staan, dus per definitie is de mic always on.

Kun je niet gewoon af en toe de netwerkkabel er uit trekken?

Wat moet Amazon met jouw gesprekken over je werk dan? En je hebt een oordeel over iets wat je zelf niet eens bezit, hoe weet jij dat niemand de voorwaarden leest? Ik heb zelf twee echo’s die nemen op als je alexa roept niet op andere momenten. Dat data gebruikt zal worden om een kwaliteitscheck te doen heb ik geen problemen mee.

Ik heb zelf twee echo’s die nemen op als je alexa roept niet op andere momenten. Dat data gebruikt zal worden om een kwaliteitscheck te doen heb ik geen problemen mee.

Dan nemen ze dus 24/7 geluid op. Anders kan het apparaat nooit weten dat je het woord Alexa gezegd hebt. Mogelijk dat alles ervoor nooit naar de server gestuurd wordt of meteen vernietigd wordt, maar dat kan ik niet uit dit artikel halen.

[Reactie gewijzigd door Blinkin op 11 april 2019 08:02]

[...]
Dan nemen ze dus 24/7 geluid op. Anders kan het apparaat nooit weten dat je het woord Alexa gezegd hebt.

Het herkennen van alleen het woord "Alexa" kan een apparaat lokaal, zonder dat daar een bijzonder krachtige microprocessor voor nodig is. Alleen wat volgt op dat sleutelwoord hoeft naar de cloud te worden gestuurd voor uitgebreidere spraakherkenning. Uiteraard luistert het apparaat wel 24/7, maar dat betekent niet dat Amazon 24/7 jouw audio ontvangt.

[Reactie gewijzigd door Brousant op 11 april 2019 08:34]

Nou ik lees dat er gezang op de douche opgenomen is (dus lijkt me geen commando), prive gesprekken enz. enz.

[Reactie gewijzigd door Mastermind op 11 april 2019 09:11]

Nu ken ik een meid die Lexa heet en zij klaagt dat Alexa's bij mensen waar ze op bezoek gaat, nogal gevoelig zijn voor haar naam.

Dit is een uitzonderlijke situatie, maar zo'n opname hoeft dus niet persé een technisch probleem te zijn. Sterker nog: voor dit soort situaties kan het afluisteren van de commando's misschien juist een oplossing bieden.

[Reactie gewijzigd door netmeester op 11 april 2019 09:30]

Alex, Alexander, Kira ( op de iphone ) Valkyrie ( Iphone - tvserie uitspraak - in mijn broekzak ineens een babbelende dame dat ze iets niet kan vinden, bedoel je .... )

* FreshMaker is voorstander van een echte knop - push to talk ...

Als je even goed leest, ik geef alleen aan dat het apparaat niet continu audio hoeft door te sturen om het sleutelwoord "Alexa" te kunnen herkennen. Het lijkt me ook dat het voor onnodige belasting zou zorgen van Amazon's servers en internetverbinding als alle online Alexa-apparaten continu alle audio zouden opsturen.

Meer voor de hand liggend is dat Amazon naar beperkte aantallen random apparaten (tot duizend per dag volgens het artikel) een commando stuurt om continu te monitoren "voor testdoeleinden", en dat op die manier dat douchegezang en die privégesprekken zijn opgevangen.

Evengoed een creepy idee dat er op willekeurige momenten iemand met jou mee aan het luisteren kan zijn. En zoals @cricque al zegt is het maar de vraag of een hacker dat niet ook kan.

Mastermind zingt vrolijk tijdens het douchen.
De partner van Mastermand geeft stemcommando's door aan Echo.
Dan hoor je ook de achtergrond geluiden.

Dan is niet veel anders dan tijdens een telefoongesprek mensen op de achtergrond horen.

Ik weet niet hoe het bij andere apparaten zit, maar bij mij slaat Siri al heel snel aan, bijvoorbeeld door woorden en zinnen die lijken op Siri maar niet echt Siri zijn.

- Ik keek een video over het Missy character in Doctor Who. Siri ging aan
- Een nieuwsbericht over "Syria". Siri ging aan.
- Ik ken een vriend ide Ilyas heet. Je raadt het al..
- We hadden het over zelfrijdende auto's en LIDAR. Jup...

Ook bij het afspelen van liedjes gaat Siri bij mij vaak uit het niks aan. Als de tolerantie zo hoog ligt, zou het niet raar zijn dat deze ook afgaat bij zingen in de douche of bij prive gesprekken, waarbij dat laatste dus al bij mij gebeurd is.

Nee, maar je mag er zeker van zijn, dat er wel degelijk hack pogingen zijn van eender welke assistant. Als dat al niet gelukt is. Want dat zal niet aan de grote klok worden gehangen. Alles wat kan gehacked worden, wordt ook effectief gehacked. Als iemand met slechte bedoelingen dan 24/7 effe kan zien wat jij allemaal doet, is identiteitsfraude wel heel gemakkelijk. Of bijvoorbeeld een inbreker kan zien wanneer jij thuis bent of niet. Nu das ook zo met een slimme digitale meter. Als het genoeg kan opbrengen, dan zal dit ook weer een mogelijk doelwit zijn. En uiteraard is niks 100% safe, dusja.

[...]

Dan nemen ze dus 24/7 geluid op. Anders kan het apparaat nooit weten dat je het woord Alexa gezegd hebt. Mogelijk dat alles ervoor nooit naar de server gestuurd wordt of meteen vernietigd wordt, maar dat kan ik niet uit dit artikel halen.

Maar dat hoeft niet, je kan bij ingebruikname zo'n apparaat prima 'even' trainen op een startwoord.
Laat de gebruiker 10x "Alexa" of whatever zeggen en de software hoeft helemaal niets naar buiten te sturen TOT dat woord geroepen is.

Dat het dus wél naar een server gestuurd wordt, is duidelijk, hoe kunnen medewerkers anders gesprekken geluisterd hebben ?

Dat het dus wél naar een server gestuurd wordt, is duidelijk, hoe kunnen medewerkers anders gesprekken geluisterd hebben ?

Omdat iemand het code-woord of een gelijk klinkend woord gebruikt heeft.....

[...]


Omdat iemand het code-woord of een gelijk klinkend woord gebruikt heeft.....

Tja ... zo kan je van alles goedpraten

"het leek op groen ... dat rood op dat stoplicht is wel heel onduidelijk"

[Reactie gewijzigd door FreshMaker op 11 april 2019 10:29]

Kom dan met bewijs dat er constant data verstuurd wordt. Dat moet niet moeilijk te vinden zijn, goed kijken naar het data-verkeer van de devices is voldoende. En aangezien veel geinterreseerde experts en hobbyisten dit soort zaken onderzoeken, en nog niks gevonden hebben, lijkt het me sterk dat de devices constant data versturen.

Heb het hier al zo vaak geschreven, maar er wordt niets verstuurd totdat je 'Alexa' zegt. Dit roepwoordje wordt intern gedetecteerd. Er zijn al heel wat mensen die aan de slag zijn gegaan om het netwerk verkeer te analyseren hiervan, en ze zeggen allemaal dat het enkel data stuurt bij het roepwoordje...

Dat was mijn punt ook niet haha. Ik bedoel meer aan te geven dat er in de oorspronkelijke reactie gesproken wordt van een always on microphone. De reactie dat er pas geluisterd wordt na het Alexa commando klopt dus niet.

Alleen maar beter als dat lokaal gebeurt, dat zijn de betere ontwikkelingen.
Wel interessant dat ondanks dat het lokaal gebeurt dat men dergelijke opnames binnen krijgt, volledig voorkomen dat dat gebeurt is ook niet realistisch denk ik.

Gelukkig is daar al lang onderzoek naar geweest.
- Er wordt geen data verzonden, voordat het wake-word is genoemd.
- Wake-word wordt lokaal afgehandeld
- Men heeft gepobeerd de Echo te hacken, dit lukte alleen door open schroeven van de Echo.
- Het oplichten van de LED was niet uit te zetten tijdens opnemen. Dus alleen als de LED brandt, neemt de Echo op.

Wat moet Amazon met jouw gesprekken over je werk dan?

Ik zou er niet aan moeten denken dat door mijn toedoen informatie van de projecten waar ik aan mee help bij de concurrentie terecht komt inclusief informatie over gebreken en zwakke plekken, toekomstplannen enzovoort. Veel Nederlanders delen met hun partner cruciale bedrijfsinformatie in vertrouwen als vorm van uitlaatklep.

Gelukkig zijn er hier nog naïeve tweakers die begrijpen hoe het werkt.

Natuurlijk heb je niets te verbergen en en geen probleem mee alles te delen, de voorwaarden van de aanbieder zijn natuurlijk ook 100% garantie voor jou privacy, ik begrijp het helemaal.

Ik heb trouwens de nieuwste techniek in huis, overal camera's zodat ik met handbewegingen of door ai logica in de camara's deuren automatisch kan laten open gaan, ze sluiten ook weer achter mij. Water bedien je ook met virtuele handbeweging, wc doorspoelen gebeurt als ik opsta, handig toch allemaal.
Ik heb er ook totaal geen problemen mee als ik naakt rondloop of sex heb. De voorwaarden van de dienstverlener zijn spijkerhard en waterdicht en ach ik heb niets te verbergen toch ?

Nou. Amazon kan bijvoorbeeld besluiten om mij aanbiedingen te sturen voor Management boeken. Of een sollicitatietraining. Op zich allemaal vrij onschuldig, maar je denkt iets in vertrouwen met je vrouw te bespreken en vervolgens gebeurt er zoiets.

Dat vind ik wel een beetje te kort door de bocht.

Diezelfde redenatie kun je dan toepassen op elke telefoon, computer, enz (lees alles waar een microfoon en/of camera in zit).

Die microfoons staan als het goed is niet continu informatie door te sturen zoals bij de spartspeakers wel het geval is.

Die microfoons staan als het goed is niet continu informatie door te sturen zoals bij de spartspeakers wel het geval is.

Kennelijk sturen die smartspeakers dus wel continu door, iets wat niet zou moeten zijn.
Pas NA het startcommando 'Alexa' moet die gaan luisteren lijkt mij.

Om dezelfde reden staat Siri gewoon uit, zelfs als de klanken hetzelfde zijn als "SIRI" begon mijn telefoon / ipad ineens zijn commando af te werken, erg vervelend in een film / serie of zelfs muziekje op de radio.
Ik heb diverse 'smart' apps en devices mogen uitproberen, maar geen een doet echt wat ik er van verwacht.

Zelfs Waze, welke zou leren van je gedrag kan na 4 jaar nog steeds niet direct de juiste conclusie maken of ik naar mijn werk ga, of naar huis, terwijl beide locaties toch echt al 13j hetzelfde zijn, op dezelfde tijden.
Zo lastig moet het niet zijn, als ik naar mijn werk ga, is het dezelfde tijd ( 4 vaste mogelijkheden per dag ) en terug naar huis, idem.
06:00 - 06:10 ga ik naar mijn werk, de telefoon is de uren ervoor niet actief geweest, waarom moet er dan de vraag komen "gaat u naar huis"
Als ik tussen 06:40 - 06:50 in de auto zit, wil ik naar huis na een nachtdienst, niet naar de dichtsbijzijnde McD ( dit is werkelijk nog NOOIT voorgekomen )

Smart is nog steeds niet zo smart als men denkt voor te moeten laten komen

Pas NA het startcommando 'Alexa' moet die gaan luisteren lijkt mij.

Hoe kan je pas gaan luisteren nadat iets gezegd is...

Luisteren naar het hotword != continu verzenden. Luisteren kan lokaal.

Pas NA het startcommando 'Alexa' moet die gaan luisteren lijkt mij.

Freshmaker heeft een zeer slecht gehoor en verstaat niets zonder hoortoestellen.
Pas als iemand roept "Hi FreshMaker!" zet FreshMaker de hoortoestellen aan.
Dat kan dus niet.

Ze zwaaien, dan druk ik op de knop, ja

Beter dan Oost-Indisch doof, horen en zien wat je wilt zien

De smartspeakers doen dat ook niet, pas wanneer het apparaat denkt dat je het code woord zegt. En de activatie gebeurt op je device, daar komt geen data verbinding aan te pas.
Tot die tijd gebeurt er niets en het houdt weer op zodra je klaar bent met je opdracht.

[Reactie gewijzigd door Fly-guy op 11 april 2019 08:06]

Maar om dat code woord te horen moet hij wel aanstaan. Want als jij midden in jou zin het 'code woord' roept, gaat hij alsnog aan.
Er is bijna geen andere mogelijkheid dan constant te luisteren, wel is er een keuze bij een bedrijf om de informatie meteen te laten vervallen als het niet nodig is of door te sturen.

Constant luisteren is toch niet hetzelfde als constant versturen...

Klopt maar het ene kan het andere niet uitsluiten en oeps bug of oeps we kunnen het van afstand toch activeren is zo gedaan.

Klopt maar het ene kan het andere niet uitsluiten

Het is wel degelijk uit te sluiten, simpelweg door naar het netwerkverkeer te kijken van de devices. Als deze constant gesprekken doorzenden dan is dit daar in te zien.

Dat kan en hoeveel mensen doen dat en hebben de kennis dat te doen.
Waar het gewoon om gaat is dat ze van afstand de microfoon kunnen activeren deactiveren of het een bug noemen. Je hebt gewoon een microfoon in huis die misbruikt wordt of kan worden. Dat wil je gewoon niet, tenzij je niets te verbergen hebt en ja wie heeft en nu iets te verbergen, dus doen.

Iedereen heeft tegenwoordig een telefoon bij zich, altijd en overal.

Als we toch onze aluminium hoedjes op gaan zetten:
Wie zegt dat er in die telefoons niet iets zit ingebouwd, wat de microfoon op afstand kan activeren?
Misschien luistert de CIA op dit moment wel via je telefoon al je gesprekken af.

Het is bekend dat er in oudere gsm telefoons idd van afstand geactiveerd konden worden. Backdoors in de chipset. Of die nu nog aanwezig zijn is de vraag.

Daarnaast telefoon in je broekzak of continue in een ruimte is ook al een verschil. CIA AIVD zullen toch eerder gericht dan deze technieken gebruiken.

Bedrijven al Amazon, Google heb je het ineens over data van tiental miljoen mensen. Hele andere schaal waarop het kan gebeuren.

Als ik nu op werk om me heen kijk zie ik al 10 telefoons op de bureau's liggen.
Zelfde geld voor thuis. Ik weet niet wie het prettig vind om met de huidige telefoons in hun broekzak te zitten, maar die van mij ligt iig al op een tafel voordat ik ga zitten.

Bedoel het allemaal niet om jouw punt af te kraken.
Ik vind het allemaal schromelijk overdreven gewoon.

Zit al jaren een microfoon in je televisie, omdat mensen met een beperking het op spraak moeten kunnen aansturen. Hoor je niemand over, zogenaamd veilig (not).
In de jaren 90s/00s stond bij iedereen een PC in de woonkamer met een webcam inclusief microfoon, want het was zo tof dat je met iedereen kon chatten. Half Nederland heeft een tablet rondliggen in de woonkamer.

Je kunt je beter zorgen maken over wat criminelen hier allemaal mee kunnen, dan grote commerciele bedrijven in Amerika (zeg niet dat het geen criminelen zijn ).
Je Google Home hacken, en op basis van een week geen verzonden berichten concluderen dat je op vakantie bent en je huis leegroven. Vind ik persoonlijk een stuk belangrijker dan dat Google mogelijk, misschien, een keer, zou kunnen weten, dat ik een keer thuis een groffe mop vertelde.

Dus laten we het allemaal maar over ons heen komen, van kwaad tot erger ?

Heeft iemand dit toevallig al eens getest met voice assistenten op smartphones (Google Assistant/Siri etc)?

Ik ben wel benieuwd of deze alleen constant aan staan of ook constant verzenden.

Ik gebruik namelijk zelf Siri voor in de auto en vraag mij af of ik dit niet beter kan uitschakelen.

[Reactie gewijzigd door Joever op 11 april 2019 12:11]

https://onlinelibrary.wiley.com/doi/pdf/10.1002/ett.2697

Zomaar een resultaat van een google search, dus ja, er zijn mensen die er naar kijken.

Je bedoelt zoiets als dit?

https://www.telegraph.co....peakers-covert-listening/

Het ene betekent ook niet automatisch het andere

Maar zonder een packet sniffer aan je praatpaal heb je toch helemaal geen idee wanneer dat apparaat wel of niet communiceert met de server, en wat er wel of niet verzonden wordt? Hoe kun jij je ervan verzekeren dat er alleen in bepaalde scenario's data wordt verzonden? En niet alleen nu, maar na elke update opnieuw?
En los daarvan: in hoeverre vertrouw je die tech-reuzen uberhaupt op hun blauwe ogen? Bedrijven die keer op keer weer de fout in gaan, en bijna altijd op een dusdanige manier dat het in hun voordeel is...

[Reactie gewijzigd door w00t00w op 11 april 2019 15:46]

Hij had het over constant vesturen, maar dat gebeurt niet. Wel luistert het apparaat constant naar het keyword, maar dat wordt in het apparaat zelf gedaan, daar is geen verbinding voor nodig.
Pas wanneer het apparaat het woord hoort, gaat de verbinding open naar de server van het bedrijf.

[Reactie gewijzigd door Fly-guy op 11 april 2019 08:55]

Dat "misschien" niet maar dit kan wel "per ongeluk" gebeuren:

https://www.businessinsid...ersation-2018-5?r=US&IR=T

Of deze

https://www.telegraph.co....peakers-covert-listening/

Sorry, maar als ik bovenstaande verhaal lees klopt jou redenatie dus totaal niet. Er wordt binnen timeframes geluisterd om de assistent te "trainen". Dat is voor mij ook een van de redenen om dit soort apparatuur links te laten liggen. Verder is het ook heel gezond om zelf wat meer te doen en eens op te staan om bv die lichtknop te bedenen ipv alleen maar op de bank te blijven liggen.
En straks allemaal klagen dat we zo slecht kunnen lopen en hoe dat kan want ik liep vroeger als een kiviet.

De praktijk is wat weerbarstiger zoals je kan lezen in dit artikel, of hier.

[Reactie gewijzigd door uncle_sjohie op 11 april 2019 13:44]

Ze sturen niet continu alles door, pas als ze geactiveerd worden door een hotword (offline detectie) beginnen ze audio te streamen.

Uhhuh…

https://www.telegraph.co....peakers-covert-listening/

Controleer je microfoon instellingen van instagram maar eens. Daar wordt 24/7 alles opgenomen en verwerkt/gebruikt voor advertising. Al meerdere malen gemerkt bij het toestel van m’n vriendin. Het lullige is dat je niets kunt posten zonder die privacy setting te hebben ingeschakeld.

Goed voorbeeld: laatst The Founder gekeken (gaat over de oprichter(s) van Mc Donalds.) Film afgelopen, vriendin checkt nog even haar instagram: wat denk je, reclames van hè wil je bij de mac werken.... zieke shit

Het zou me verbazen als amazon niet exact hetzelfde doet. Het verschil is waarschijnlijk dat amazon in NL niet een veel gebruikte webshop is en daardoor die advertenties op hun site niet snel zullen zien.

[Reactie gewijzigd door joldemans op 11 april 2019 08:23]

Had je die film online gekeken (Netflix/uitzending gemist/Videoland, net wat) of via 'ouderwetse' TV? Dat is in jouw reactie wel een belangrijk punt wat mij betreft. In geval van 'online' kijken is bekend dat op jouw IP die film is bekeken, en kun je door andere kanalen die reclames geserveerd krijgen.

Gekeken via Apple Tv met een gehuurde film uit iTunes.

Lijkt me wel online bekeken dus, maar omdat je iTunes aanhaalt weet ik nu niet of dat gerelateerd is met de advertenties - gevoelsmatig lijkt me dan van niet. Bedankt voor de toelichting.

Daar wordt 24/7 alles opgenomen en verwerkt/gebruikt voor advertising.

Klinkt als onzin, de kosten daarvan zouden enorm hoog zijn, en gebruikers zouden dit absoluut merken aan hun afrekening.
Heb je hier ook echte bewijs voor, buiten die anekdote?

Heb ik wel ja, toevallig een foto gemaakt van de betreffende advertentie op het toestel van m'n vriendin. Foto van de advertentie: https://snag.gy/hTop6g.jpg
Foto van de verhuur: https://snag.gy/lWjgMB.jpg

Sorry, maar dat zegt helemaal niks. De advertentie kan ook het gevolg zijn van een zoek-actie naar de film, Apple die data deelt en er zijn nog wel een paar redenen te bedenken.

En waarom zou dat onzin zijn? Hoor het meer dan eens van andere mensen. Youtube gewoon eens: Is google always listening en sta versteld.

Ik vind jouw reactie behoorlijk naïef, te denken dat een fb (of google, of alexa) het beste met je voor heeft en de mic enkel gebruikt om jou goede service te verlenen. Ik ben redelijk goed op de hoogte van dit soort ontwikkelingen en hoe het werkt. Geloof me, er gebeuren meer freaky dingen dan waar je bij stilstaat.

Hier een voorbeeldje: https://www.youtube.com/watch?v=lZ0xDPK6ThY
Zo zijn er nog meerdere.

Edit: youtube filmpje toegevoegd

[Reactie gewijzigd door joldemans op 11 april 2019 10:14]

Youtube gewoon eens: Is google always listening en sta versteld.

Versteld staan over de hoeveelheid FUD en consperacy theories op Youtube? Nee, dat ben ik allang niet meer.

Dan maar naief...
Ik noem het weloverwogen en met kennis van mogelijke risco's een keuze te hebben gemaakt.

Beter dan hypocriet denken dat andere firma's wél het beste met je voor hebben. Klakkeloos van alles geloven van zeer betrouwbare *kuch* bronnen.

Nog niet zo lang geleden hier een post over patiëntgegevens op Google Cloud. Gelukkig was er één die wel de kennis had van de achterliggende regels en voorwaarden.
De hoeveelheid bizare aannames en complot theorieën was echt bizar voor woorden.

Zoals hierboven ook staat is het voor instagram gods onmogelijk om elk gesprek (in elke taal) continue op te nemen en te analyseren voor de uitermate kleine kans dat ze informatie krijgen waar ze een advertentie op kunnen loslaten die misschien wel 0,10 oplevert.

Denk je werkelijk dat een groot bedrijf dit risico wil lopen dat dit uitkomt ?

Denk je werkelijk dat een groot bedrijf dit risico wil lopen dat dit uitkomt ?

Tja want Cambridge Analytica was ook een ongelukje ?

Ja, dat het uitkwam, DAT was het ongelukje ....

En dat kan FB dus een enorme klauw geld gaan kosten. En de tendens is ook meteen gezet voor FB .

Het is een klein verschil of je data die je mag hebben volgens je voorwaarde (te makelijk) weggeeft OF je heimelijk 24/7 opnames maakt zonder dat de eigenaar toestemming heeft gegeven. Lijkt me toch een overtreffende trap zijn in privacy schending.

Ik was een tijdje geleden een puzzel in de krant aan het maken, tussendoor een beetje Wordfeud op de telefoon aan het spelen. Toen vroegen ze de hoofdstad van Madagascar, ik weet best veel, maar niet alles, dus die Google ik. Bij het invoeren van hoofds.. verscheen Madagascar als eerste suggestie. Ik zoek zelden op hoofdsteden, maar als ik dat doe, dan verschijnt normaal Canada bovenaan en niet hetgene waar ik toevallig net naar op zoek ben. Eng is het gewoon.

Echt, wat een onzin weer.
Instagram neemt niks continue op. Dit soort domme stemmingsmakerij moet een ban op leveren.
De microfoon is nodig als je video's maakt via de app.

Echt zo clueless en overtuigd van de grote boze wereld maak je ze niet vaak mee op Tweakers.

Maar het probleem van de microfoon, je moet hem ook actief zetten als je alleen al foto's wilt maken.

Maar inderdaad, niet continu opnemen, dat geloof ik ook niet
Maar er wordt wel degelijk gebruik gemaakt van omgevingsgeluid en wat ik vermoed qua steekwoorden.

Onlangs 2 voorbeelden zelf ervaren op mijn eigen telefoon.

* zit met vrouwlief op terras, en bestel een Brugse Zot.
Ondertussen prul ik wat met mijn telefoon, en kijk naar wat reacties op een recente foto
komt er een reclame omhoog met Affligem EN Brugse Zot.
Geen ven beiden zijn ooit voorgekomen in mijn tijdlijn, of in die van kennissen.

Vorige maand, Instagram staat NIET actief ( ik sluit de meeste processen na gebruik, mijn idee multtasking, is anders dan dat Apple dat ziet )
In de auto naar een presentatie van mijn oudste zoon, heeft hij het over de Occulus en de Vive, en over wat hij zou moeten kopen binnenkort.
* In de wachtruimte van school, alletwee de laatste reclame van een VR community, en een webshop die de zaken aanbiedt.

Een enkele keer, ja - geloof ik ... er is op GoT een topic over geweest, waar ik zelfs sceptisch hierover was.
Maar nu in amper 2 maanden tijd tot twee keer toe, echt directed advertenties ?

Da's geen toeval, imho

[Reactie gewijzigd door FreshMaker op 11 april 2019 17:25]

Ieder dan maar zijn mening in deze.
Ik zal misschien ook wel gedacht hebben "hé toevalig" maar ik weet ook dat reclames terugkomen en dat het volgen op het internet via de browser vele malen verder gaat dan dat je denkt. Ik neem aan dat er ook wel eens is gezocht of iets wat met VR te maken heeft.

Maar ieder maar zijn veronderstellingen...
Ik denk dat als Instagram dit echt doet, dit op korte termijn naar buiten komt en echt het hek van de dam is.

Nja, toevallig, denk het niet zo.
Zowqel mijn telefoon/tablet als de pc's hebben ad/tracking blockers, cookies worden minimaal geaccepteerd, en het laatste restje wordt door zowel de adblocker van de VPN en de DNS van de Pi tegengehouden
Groot deel van FB en insta heb ik na trial & error de minste configuratie open staan. want wordt nog steeds gebruikt.

Zoeken op VR, het boeit mij niet, dus wat ik oppervlakkig meekrijg via tweakers/ andere sites, maar vrijwel allemaal zonder interactie

Maar de toevalligheid dat we beiden de reclames voorgeschoteld krijgen OP die dag, kort NA zo'n gesprekje ... zo goed is de voorspelling niet vand e bedrijven

Wel eens broekzakgebeld? Nogal een verschil tussen dat en een microfoon midden in de kamer. Mijn telefoon ligt echt niet tijdens gevoelige gesprekken midden in de conversatie.

Dat zal je verbazen, er is veel meer te begrijpen dan hetgeen wat jij nu wilt doen laten geloven.

Die telefoon kan je in een andere kamer leggen, net zoals je computer zal vast niet 24/7 aanstaan(Misschien bij sommige).

Dat is precies wat ik ook dacht toen ik deze kop las. Dit zou in ieder geval op tweakers niemand moeten verbazen.

Ik heb er als groot tech-liefhebber/gadgetfreak ook geen in huis. Twijfel wel soms, maar vind dit geen prettig idee.

[Reactie gewijzigd door Shaflic op 11 april 2019 07:43]

Goed om te lezen dat jij en je vrouw wel inzien wat de gevaren van de "ik heb niets te verbergen" houding zijn.

Helaas staat het merendeel er niet bij stil en haalt lukraak dit soort spul in huis.

Ik vind het een wat overdreven reactie.
Ik als tech liefhebber heb inmiddels al 3 Echo's thuis staan.

Er is gewoon onderzoek naar gedaan, het wake-word wordt lokaal afgehandeld en enkel na het noemen van het wake-word wordt er data verzonden over het netwerk. Dit is onlosmakelijk verbonden aan het oplichten van de ronde LED. Zelfs met openschroeven van de Echo is het die onderzoekers niet gelukt het opnemen en verzenden los te koppelen van de LED ring.

Amazon is similarly clear in its Alexa and Alexa Device FAQ: "Amazon Echo and Echo Dot use on-device keyword spotting to detect the wake word. When these devices detect the wake word, they stream audio to the Cloud, including a fraction of a second of audio before the wake word."

You can also review voice interactions by visiting the history section in the settings of the Alexa App

On the bulk of Alexa-enabled devices, including the full Echo family, Alexa is, indeed, always listening—but only for your configured wake word. The state is better described as “passive listening,” in which the device is continuously recording and overwriting about one second of ambient sound until that segment contains your wake word. Without that trigger, no information is stored or transmitted—anywhere.

On Amazon’s Echo devices, the primary processor remains inactive until activated by your wake word. During “passive listening,” the devices are powered only by a small firmware chip containing less than 1MB of memory and just enough processing capacity to monitor for your wake word.

Those conspiracy theories about Alexa tailoring responses from your everyday conversations? Invalid.

Goed dat moet met netwerksniffers op te sporen zijn toch? Ja! En gelukkig is dat ook gedaan!

The graph shows the transmitted bytes with a resolution of 100ms. It is noticeable that the traffic raises a significant amount, as soon as the “Alexa” keyword is spoken. We assume, that at these phases, the Echo uploads the voice recording to the Alexa Voice Service (AVS, https://developer.amazon.com/alexa-voice-service). As soon as Alexa finished the answer to our question the traffic drops to the previous level. Data transmitted in these idle phases might be device metrics, keep-alive and push messages. But it’s very safe to say, that the Echo devices do not upload recordings of the surrounding to Amazon.

Bron: https://www.iot-tests.org...send-data-in-silent-mode/

Nog totaal buitenom het exploiteren, het is toch ook heel erg te verwachten dat om deze spraakherkenning zo goed te maken, je mensen nodig hebt?

Die dingen worden alleen maar beter, bij captcha hebben we al gezien dat het slechts ter verbetering van machine learning is, niet meer dan logisch dat dit ook wordt geanalyseerd lijkt me, puur uit een technisch oogpunt.

Dat ze daarbij luisteren naar privégesprekken is misschien kwalijk, maar zal zeker in de voorwaarden die niemand heeft gelezen staan.

Inderdaad verbazend dat sommigen een 'assistent' willen die feilloos spraak interpreteert, en dan verbaasd zijn als willekeurige fragmenten uit het veld worden gebruikt om het systeem te tunen.

Ja en dan lopen mensen te wauwelen over big brother in China. Amazon draagt gewoon alle data over als de politie er om vraagt. Geen IoT in mijn huis.

Onzin reactie natuurlijk.
Om de assistent te verbeteren moet je op de een of andere manier de antwoorden op vragen beoordelen. Dit kan alleen als je de vraag ook kent anders is het simpel weg onmogelijk.

Zo als Apple en Google bijvoorbeeld ook doen zijn de opnames niet te herleiden naar een address gebruiker of persoon. Het gaat puur om de vraag en het antwoord. Dit is niet misbruik sterker nog omdat er niet zo maar een mogelijkheid is om te bepalen wie de vraagsteller is is het ook niet zo maar mogelijk om bijvoorbeeld de context te begrijpen van wat jij met je vrouw bespreekt. Daar naast weet ik redelijk zeker dat je bedrijfsgeheimen niet zo maar mag bespreken ook niet met je vrouw.

Ik zie dan ook niet een heel groot probleem met dit soort microfoons in huis, het ding luistert constant om te horen of er iemand een vraag heeft als niemand iets vraagt wordt de data ook niet verstuurd naar Amazon, er is simpel weg niet genoeg waarde om te horen hoe jij vloekt tijdens het kijken naar een voetbal wedstrijd of dat jij probeert je hond te leren een poot te geven, of hoe jij met je vriendin aan het rommelen bent terwijl je vrouw een lang weekend met "vriendinnen" opstap is.
Je bent simpel weg niet interessant genoeg om dat soort dingen te volgen. En omdat de systemen zo op gezet zijn dat ze niet weten wie er aan de andere kant zit is het ook als je wel interessant genoeg zou zijn geen mogelijkheid om te achterhalen dat jij die interessante persoon bent.

Ik heb dit absoluut zeker aan zien komen. Vaak de vraag gehad waarom ik er geen zou willen. Als ik dan zeg om privacy redenen snappen mensen het meestal niet. Als ik dan vertel dat een Google/amazon/Ikea? De mogenlijkheid heeft om te doen wat er in het artikel staat, ben ik een alu-hoedje.

We weten dat vroeg of laat, van zo'n mogelijkheid gebruik wordt gemaakt. Geschiedenis heeft dit herhaaldelijk laten zien. Bij mij geen Homeboy in huis.

Jep. Dit is ook precies de reden waarom ik dus geen speaker in mijn huis heb gezet. Wat een wanpraktijken.

grappig dat allways online van xbox het niet heeft gehaald... omdat er zo veel kritiek heeft gehad.

Tja. Als tech-liefhebber heb ik al lange tijd zo'n assistant in huis omdat ik weet dat als deze continu data zou opslaan en doorsturen (in plaats van enkel wanneer ik het codewoord gebruik) andere techies dit al láááng ontdekt zouden hebben...(niet zo moeilijk te achterhalen namelijk als dat zou gebeuren). Zo'n bedrijf (Amazon, Google, Apple) heeft volstrekt geen belang bij het afluisteren van mijn gesprekken (levert ze niks op behalve een risico op een miljarden boete als het bekend zou worden - en dat zou absoluut bekend worden!), maar uiteraard hebben ze wel alle belang bij het analyseren van de dingen die ik roep ná het codewoord (Hey Siri, Hey Google, Hey Alexa) en ik vind het niet meer dan logisch dat ze die data gebruiken om de algoritmen te verbeteren en was daar ook altijd al vanuit gegaan. Sterker nog... Als het mis gaat roep ik daarna vrijwel standaard ' feedback verzenden' , dan krijgt wat ik geroepen heb namelijk een extra vlaggetje waardoor het aannemelijker is dat zo'n medewerker er eens naar luistert en kijkt wat er mis ging... (althans - dat heb ik altijd aangenomen...).

Juist een tech-liefhebber (met enig verstand van tech/software) zou moeten inzien dat het risico op afluister wanpraktijken nagenoeg 0 is... Blijf me er dus ook zéér over verbazen dat ook op Tweakers (of eigenlijk juist op Tweakers) zo'n grote groep zo angstig blijft voor deze smart speakers!

[Reactie gewijzigd door kazz1980 op 11 april 2019 11:06]

Helaas heb je geen 'always-on' speaker/mic systeem nodig. Jouw smartphone is al voldoende.
-verschillende apps hebben toegang tot de mic van jouw smartphone, en kunnen constant luisteren.
-een android smartphone slaat eerst voice commands lokaal in het geheugen op alvorens ze ter interpretatie naar een server te sturen. Verschillende apps die geen toegang hebben tot de MIC en/of geïnterpreteerde commands hebben wel toegang tot het gedeelde geheugen van de telefoon (en dus de spraakdata).

Enige tijd geleden een leuke test uitgevoerd: praat gedurende een paar dagen over een specifiek product in het bijzijn van je smartphone. Zoek verder niet naar dit product. Binnen een paar dagen zag ik gerichte advertenties, bijv in mijn Facebook feed, over dit product verschijnen zonder dat ik daar ooit naar gezocht heb.... Geen idee of dit nu nog werkt.

Inhoudelijk natuurlijk een slechte reactie maar serieus is er iemand die dit niet had zien aankomen?

Ik vind het een prima reaktie op een stukje non-nieuws.

Dit is hoe die dingen werken, dat zal toch niemand verbazen.

Dan mag je ook wel je mobi phone uitschakelen

pas na hotword wordt wat je zegt verstuurt, daarnaast heb je zelf de optie om de microfoon uit te zetten.

Ik heb een tijdje geleden mijn gegevens gedownload van Google. Gewoon om eens te weten wat ze allemaal hebben. Ik schrok daar toch wel van. Ik heb geen Google home, maar gebruik wel eens de functie om mijn stem om te laten zetten in tekst, omdat ik niet altijd zin heb om te typen. Dat ik transcripties zou tegen komen had ik wel verwacht eigenlijk, maar ik heb ook zooi geluidsbestanden gedownload, waarop ik mezelf twee jaar geleden tegen mijn telefoon hoor praten. Ik wil niet weten hoe dat dan is als je idd Google home of Alexa fanatiek gebruikt. Het was ergens erg interessant en leuke wandeling door de tijd en ergens voelde het wel ongemakkelijk.

Hier hebben gebruikers als het goed is toestemming voor gegeven.

Als dit soort data niet te herleiden is naar een persoon en deze data goed (versleuteld) wordt opgeslagen of verwijderd zie ik er geen problemen in. Het lijkt me behoorlijk noodzakelijk om het systeem beter te maken!

Hier hebben gebruikers als het goed is toestemming voor gegeven.

Als dit soort data niet te herleiden is naar een persoon en deze data goed (versleuteld) wordt opgeslagen of verwijderd zie ik er geen problemen in. Het lijkt me behoorlijk noodzakelijk om het systeem beter te maken!

Natuurlijk, ik heb zo'n flauw vermoeden dat NIEMAND die zo'n apparaat in huis neemt, zich ook maar een seconde heeft besteedt aan alle voorwaarden / regeltjes.
( zouden ze dit wel gedaan hebben, komt zo'n apparaat nl. niet in huis )

De aloude 'kleine lettertjes' zijn vervangen door een nieuw fenomeen, een 'oceaan aan voorwaarden'
Hoe meer tekst, hoe minder er gelezen wordt, want men wil natuurlijk zo snel mogelijk er mee spelen.
Dit geeft ( net zoals een verzekering/belegging vroeger ) de verkoper de mogelijkheid om van alles te 'verstoppen' en later te schermen "maar u heeft zelf toestemming gegeven"

Persoonlijk hou ik me altijd verre van dit soort apparaten, het blijft een kip/ei verhaal ...
De devices zijn niet slim, ze kunnen niet perfect voorstellen/bedenken wat de volgende zet is, zonder dat ze data vergaren en LATEN analyseren.
En juist dat 'LATEN' is imho het probleem, daar zit uiteindelijk 'iemand' achter, en tijd over tijd is er wel een probleem.
Hoe gaat die persoon - zijn werkgever - opdrachtgever met de data om ?

Volgens de voorwaarden "kan het worden geanalyseerd voor verbeteringen" geeft GEEN duidelijkheid, geen sluitende voorwaarde ( voor de fabrikant/leverancier ) dat het ALLEEN daarvoor gebruikt wordt, en verwijderd.

Elke keer weer komt 1984 / Animal Farm ter sprake, ik betwijfel of iedereen die dat roept de boeken gelezen heeft, maar terzijde ..
1950/1989 was er een enorme afluistercultuur ( zowel oost als west ) en heeft enorme ontwikkelingen meegebracht op miniaturisering van electronica, maar momenteel zet bijna iedereen vrijwillig zo'n apparaat op zijn bureau.
( zouden er regels voor gebruik zijn in onze politieke kringen ? ) - vast niet, over 5 jaar kamervragen ?

OK, ik hoop wel dat je je je mobieltje dan niet alleen uitzet, maar ook in een geluidsdichte doos bewaart...
Je dacht toch niet dat het niet mogelijk was die dingen te laten luisteren, terwijl ze zogenaamd "uit" staan?

Er is een verschil in doorslaan in je gewenste privacy, en de afweging maken met wat je deelt.

Van de telefoon mag je ( naar ik hoop ) verwachten dat die niet zomaar alles opneemt wat er in de buurt is.
( datastreams bevestigen dat, er is nagenoeg geen verbruik van netwerkverkeer, wat te herleiden zou zijn als opnames verzonden, of ze moeten Jan Sloot hebben laten herleven )

Maar daartegenover staat, dat bij belangrijke vergaderingen het geen rare vereiste is, als er geen mobieltjes / devices op tafel cq in de kamer aanwezig zijn.
Ik kan me daar best in vinden dan.

Nu zal ik niet een directe target zijn in mijn privé waar ze mijn telefoon nodig zullen hebben om info te vergaren, maar die zijn er best wel.
( en zijn dus verantwoordelijk voor hun eigen omgeving, niet ik )

Tot de overheid al je gesprekken in wilt kunnen zien.

Dus ook het gesprek waarin jij en je partner op de bank met een glas wijn politieke partij X afkraken.

Klop,klop,klop. Wie is daar?
Aufmachen!

Snap je nu waarom je altijd wél wat te verbergen hebt? Ik hoop van wel.

Een beetje nuchterheid qua privacy vind ik prima, maar jij slaat wel enorm door vindt je niet?

Als ik al jouw comments zo lees, dan zou ik ergens diep in een bos gaan wonen waar ik de kleinste kans zou hebben nog in contact te komen met de buitenwereld. Je snapt hopelijk wel dat je met deze instelling simpelweg niet meer over straat zou kunnen? Want overal zijn mogelijkheden om jou na te trekken. Is het niet via videocamera's in de winkelstraten, beveiligingscamera's in parkeergarages, microfoon + webcam in laptops/Smartphones etc, etc.

Het is overigens wettelijk ook niet toegestaan om maar jan en alleman af te luisteren. Nog even en je gaat roepen dat Minority Report wel erg dicht tegen de waarheid aan zit.

Tuurlijk heeft iedereen wel zaken die hij of zij liever niet met de buitenwereld deelt, maar dit soort bangmakerij gaat wel wat te ver.

Naturlijk is het gechargeerd wat 4x4 schrijft, maar feit blijft dat iets wat op dit moment geen kwaad kan/onschuldig lijkt, op een ander moment ineens wel een probleem kan zijn.

Het feit dat mensen de opdrachten beluisteren om de response te optimaliseren is niet zo raar. Dat dit niet vermeldt wordt in de handleiding (neem ik aan, ik heb zelf geen slimme luidsprekers) is dubieus.

Wat wel eng is, is dat jouw opdrachten dus blijkbaar opgeslagen worden, en mensen erbij kunnen. Dat maakt misbruik een stuk makkelijker.

En ga niet zeggen dat omdat het wettelijk niet is toegestaan het ook niet gebeurt. De data van verkeersportalen mocht ook niet langer dan strikt noodzakelijk bewaard worden.
Die data mocht ook alleen gebruikt worden om auto's te controleren die als verdacht gemeld waren. Niet om leaserijders te checken of ze zich wel aan de regels hielden.

Of wat dacht je van de OV kaart? Die data zou anoniem zijn, bla, bla. Maar toen er eens een verdachte met de metro ging, werden alle mensen die in die periode de metro in die buurt gebruikten gechecked.

Ja, ik zou me inderdaad zorgen maken over alle camera's etc.
Niet omdat ik wat te verbergen heb of niet, maar omdat ik niet weet wat iemand er ooit mee zal (kunnen) doen.

Dat je niets te verbergen hebt betekent nog niet dat anderen alles van me hoeven te weten.

Jouw reactie kan ik inderdaad een hoop meer mee. Zoals ik al aangaf vind ik het niet verkeerd dat men wel nadenkt over wat er met hun data gebeurt, echter ben ik niet van mening dat we volledig moeten lopen doom-denken. Zoals met meerdere onderwerpen slaan mensen door, je hebt een groep die nergens problemen in zien en groepen die overal het kwaad in zien, maar van enige nuance is totaal geen sprake.

Overigens heb ik niet gezegd dat als iets wettelijk niet is toegestaan dat het niet gebeurt, ik zei dat juist dat je in ieder geval in je recht staat mocht er misbruik van gemaakt worden.

En qua gedachten omtrent camera's etc denken we anders, wat niet verkeerd is. Echter maak ik mij er niet druk om als ik op een beveiligingscamera terecht kom. In plaats van het negatief te zien kun je het ook positief aanpakken en zien dat als jou iets overkomt op zo'n moment dat er dan beelden zijn en er daarna actie kan worden ondernomen.

Informatiebronnen hoeven niet alleen maar negatief gebruikt te worden. Zoals de waard is vertrouwd hij zijn gasten.

Informatiebronnen hoeven niet alleen maar negatief gebruikt te worden.

Het probleem is dat misbruik van gegevens vaak een veel grotere impact heeft. Stel je voor dat jouw medische gegevens bekend worden bij je werkgever, of nog erger bij een bedrijf waar je aan het solliciteren bent. Dan kan je de problemen wel uittekenen.

Ik denk dat jij de reactie meer zwart-wit leest dan dat ik dat doe. Afwegen van voordelen en nadelen van zo'n dienst lijkt me de normaalste zaak van de wereld en dat is de manier hoe ik de reactie van @4x4 interpreteer. Ik kan me dan ook volledig vinden in zijn 'ergste geval voorbeeld'.

Net zoals veel andere tweakers wordt bij mij alle domotica en smart-stuff in-house afgehandeld, en niet door een externe partij. Dit is niet direct paranoia, het is een afweging. Als het zonder een externe provider kan is het voor mij geen probleem (en dat kan best vaak eigenlijk). Als ik voor zoiets persé een externe provider nodig heb dan denk ik wel twee keer na of de betreffende dienst voor mij wel echt iets toevoegd. Zo niet, dan zet ik de robotstofzuiger wel met het handje aan (bij wijze van).
Wat dit betreft vind ik Hue een mooi concept, met een in-house controller. Daar zouden meer partijen een voorbeeld aan mogen nemen (denk aan Nest, Ring en vele anderen).

Het is gewoon gezond verstand om zo min mogelijk informatie te delen.

Hier hebben gebruikers als het goed is toestemming voor gegeven.

Er zijn meer personen in één huishouden. Ook niet-gebruikers ondervinden hier nadeel aan.

Het is hier geen VS. Enkel het bestaan van een EULA is geen argument.

Als dit soort data niet te herleiden is naar een persoon en deze data goed (versleuteld) wordt opgeslagen of verwijderd zie ik er geen problemen in.

Het is bijzonder lastig om informatie te anonimiseren. Verder heeft versleuteld opslaan geen zin als de data opgeslagen wordt samen met het sleutelmateriaal.

Men zou ook enkel kunnen leren van gebruikers die hier een aparte opt-in voor kiezen.

[Reactie gewijzigd door The Zep Man op 11 april 2019 07:27]

Tja die niet gebruikers moeten maar de regels van de huis eigenaar volgen. Als die zo iets aanschaft hebben ze weinig opties.

Er zijn dus toch mensen die denken dat je gek bent als je NIET zo'n ding koopt...

Wat mij betreft een reden om niet op bezoek te gaan, of in ieder geval veel basalere dingen te bespreken.

Jij controleert al je bezoek te allen tijden op telefoons die aan staan, voicerecorders en zendertjes? Telefoon uitzetten en in een loden kist bij de voordeur? 100% van de personen in 100% van de tijd?

Dat niet. Maar dat is natuurlijk een onzin-argument
Vooralsnog is de feature dat je telefoon naar voicecommando's luistert uit te zetten (zeggen ze), waarbij de gemiddelde eigenaar van een 'slimme' speaker er (zeker in het begin) maar wat graag mee wil pochen... en de modus operandus van die dingen is alles horen en reageren als je aangesproken wordt.

Tsja. Siri luister bij mij alleen naar 'het codewoord' en verder niet. Ik heb een iPhone 6 waarbij 'Hey Siri' alleen werkt als deze aan de oplader ligt, dus niet 24/7 zoals bij de iPhone 7 (of 6s al?) en hoger.

M'n Apple Watch luistert alleen naar Hey Siri als ik 'm bij m'n hoofd hou. En zelfs dan 'maar' 90% van de keren.

Het is onmogelijk om alleen naar een codewoord te luisteren. Om dat codewoord te herkennen zul je immers naar alles moeten luisteren en dan vervolgens moeten analyseren of het codewoord voorbij gekomen is.

Dat klopt, maar hoeveel seconden aan spraak heb je nodig om dat code woord te herkennen? In theorie de tijd waarin je Hey Siri zegt plus wat milliseconden verwerkingstijd.
Dat daarin wordt gehoord dat een kind om hulp roept vind ik nogal vaag.
En misbruik? Some like it rough..

Je hebt alle seconden aan spraak nodig aangezien het ieder moment van de dag 24x7 voorbij kan komen.
Je zult dus 24x7 moeten luisteren of het ergens voorbij komt. Wat je doet met die informatie is een ander verhaal maar je zult moeten luisteren.

Als de laatste seconde geen Hey Siri bevatte kan je die seconde direct verwijderen want je hoeft geen commando uit te voeren.

Dat kan prima lokaal

Ik denk niet dat je dan gek bent. Ik heb zelf niks in huis zoals dat. Maar als ik ergens in huis kom dan heb ik wel te stellen met de daar geldende situatie en/of regels.

Laten we het eens omdraaien.

Wat nu als er een bezoeker komt die het hotword op z'n telefoon ingeschakeld heeft zonder dat ik het weet?
Ik word dan niet van te voren ingelicht dat mijn gesprek opgenomen kan worden voor "trainingsdoeleinden en om de kwaliteit van de service te verbeteren".

In principe niet nee. Echter kun je dat wel vragen of eisen van je bezoek. Andersom vindt ik dat niet direct het zelfde.

Tja, dit is natuurlijk geen verassend nieuws, dit kon je verwachten om het moment dat je een microfoon die altijd aan staat en alle opnames op een externe server processed in je huis zet.

Als je goed oplet zie je dat ze de woorden aanranding en kind schreeuwt om hulp gebruiken.
Over een paar jaar zal de overheid die gesprekken ten allen tijde in willen zien om zo "kuch" terrorisme en kindermisbruik te kunnen bestrijden.

Ach ja, de meesten roepen toch dat ze niks te verbergen hebben...

Ik heb niets te verbergen, maar ammenevernooitniet dat ik zo'n prutapparaat in mijn huis installeer.

Ik heb niets te verbergen

Iedereen heeft iets te verbergen. Je zal maar op de R&D afdeling van ASML werken en telefonisch wat ontwerpdetails met je baas bespreken. Alexa luistert mee en je weet maar nooit waar de informatie terecht komt...

Ik krijg hier een slecht gevoel over. En dan heb ik het niet enkel over het massaal afluisteren van vertrouwelijke communicatie; je zou expliciet een opt-in moeten kunnen geven om je spraak af te staan voor trainingsdoeleinden. Ik krijg een slechter gevoel over het niet ingrijpen in mogelijk levensbedreigende situaties, maar dit wel onderling delen in een interne chat. Uiteraard wil je dat men uberhaupt niet mee kan luisteren, maar als dat eenmaal zo is, dan heeft men ook een verantwoording om daar iets meer nuttigs mee te doen dan het slechts gebruiken om het algorithme te trainen.

En precies dit is wat zij willen bereiken met het naar buiten brengen van dit soort nieuws.
Dat de burger er geen goed gevoel bij krijgt zodat een wetswijziging in de toekomst er soepel doorheen geloodst kan worden
Een waarbij de overheid alle opgenomen gesprekken in mag zien. Ook als jij kreunend met je vriendin bezig bent of kritiek uit op een regering.

[Reactie gewijzigd door 4x4 op 11 april 2019 11:06]

Je kunt je voorstellen dat het traumatisch is om te horen en niets te kunnen doen. Dan helpt het vaak om er met anderen over te praten.

Men heeft de verantwoording om er iets mee te doen? Maar hoe zit dat dan met privacy? De mensen die luisteren weten dus niet waar het vandaan komt. Maak je het niet meer anoniem en voor je het weet luisteren instanties mee op alle apparaten “voor jou veiligheid”. Nee dank je.

Je kunt je voorstellen dat het traumatisch is om te horen en niets te kunnen doen. Dan helpt het vaak om er met anderen over te praten.

Dit inderdaad. Voor je werk moeten luisteren naar gevallen van geweld en angst en niets kunnen doen zal ze niet in de koude kleren gaan zitten. En ik heb niet de illusie dat Amazon die mensen daar in ondersteund. Dus dan is het goed als ze daar in ieder geval onder elkaar over kunnen praten.

Als Facebook enigszins richtinggevend is wat dit betreft (en waarom ook niet, uiteindelijk zijn praktisch alle grote tech bedrijven moreel volledig bankroet), dan kun je er vergif op innemen dat die mensen weinig van hun werkgever hoeven te verwachten zodra ze helemaal "versleten" zijn (lees: rijp voor de psychiatrie).

[Reactie gewijzigd door w00t00w op 11 april 2019 16:17]

Dit is geen verrassing, toch? Wel een interessant moraal dilemma; Is de anonimiteit / privacy van iedereen belangrijker dan de persoonlijke veiligheid van een aantal? Waar ligt de grens tussen een privé situatie en een situatie waar moet worden ingegrepen?

Helemaal mee eens dat Amazon daar niets mee te maken wil hebben, dat is een doos van Pandora. (En always connected digitale assistenten zijn dat ook, imho )

[Reactie gewijzigd door Anoniem: 951889 op 11 april 2019 07:26]

Wel een interessant moraal dilemma; Is de anonimiteit / privacy van iedereen belangrijker dan de persoonlijke veiligheid van een aantal?

Anonimiteit en privacy zijn vormen van persoonlijke veiligheid.

Shit, zo heb ik het nooit bekeken. Da's een goeie.

(En always connected digitale assistenten zijn dat ook, imho )

Hear hear!

Lijkt me simpel...
Stel je bent een horror film aan het kijken en op eens staat daar een arrestatie team voor de deur omdat de slimme speaker dacht dat je je vrouw met een ketting zaag in stukken aan het zagen bent.
Of laten we zeggen dat je de pech hebt dat er ingebroken wordt en de boefjes hebben het over die overval die ze willen plegen op de juwelier om de hoek, twee weken later wordt de juwelier overvallen en ben jij een van de mensen die hier voor opgepakt wordt omdat jij hebt geholpen met de planning en voorbereiding.
Misschien vinden jij en je partner het leuk om door middel van rollenspelen je fantasieen werkelijkheid te doen worden en de verkrachting die men denkt te horen blijkt gewoon een spel te zijn... toch lullig als je net lekker bezig bent en oom agent komt de kamer binnen met getrokken pistool.
Je speelt een computer spel waar bij je met een aantal spelers een aanval voorbereid op een militaire basis en je bespreekt de plannen hier voor... toch lastig als je dan op eens opgepakt wordt voor het plannen van een terroristische aanslag.

Privacy is een heel belangrijk iets en ondanks dat je initieel misschien denkt dat je mensen kan helpen, en soms is dat vast ook wel waar, zijn er zo veel redenen dat dit helemaal fout kan gaan. En Amazon kan wil en mag net zo als al die andere slimme speaker makers simpel weg niet eens proberen om fit soort informatie te gebruiken.
Om deze reden ook is er een bepaald commando nodig om de speaker ook daadwerkelijk de input te laten verwerken zodat er een antwoord gegeven kan worden. De andere data komt zo ver niet en is niets anders dan ruis wat betreft de algoritme van de speaker maker. Daar naast als je je er echt zo veel zorgen overmaakt kun je als ICT'er ook gewoon zelf zo'n systeem bouwen door gebruik te maken van de cloud diensten van bijvoorbeeld Amazon en op die manier de 100% controle te hebben over het geen wel en niet door gestuurd zal worden. Als je je vrienden blij wil maken dat je ook een speaker in huis hebt en wil imponeren met een eigen systeem, zo moeilijk is dat helemaal niet.

Tja, dan zal je er ook een camera bij moeten plaatsen, en voor bijvoorbeeld rollenspellen van te voren bij Amazon of Google aanmelden dat je van plan bent een lekker avondje te doen alsof. Voor de veiligheid natuurlijk!

Misschien vinden jij en je partner het leuk om door middel van rollenspelen je fantasieen werkelijkheid te doen worden en de verkrachting die men denkt te horen blijkt gewoon een spel te zijn... toch lullig als je net lekker bezig bent en oom agent komt de kamer binnen met getrokken pistool.

Maar als jij daar met je getrokken pistool staat en oom agent komt binnen met getrokken pistool, heb je dan een Mexican Standoff?

Er zit best een traject tussen opgepakt en schuldig bevonden zijn.

Gelukkig doen 'we' in Nederland nog niet aan SWATing, maar in de VS is er dus wel een keer of wat een anti-terreur taskforce binnengedoken bij een nietsvermoedende gamer.

( zijn tegenstanders die dan een aangifte doen, waardoor ze het serieus oppakken )

Maar op basis van deze dingen kan het inderdaad zomaar gebeuren - dan zien we ook de waarde van de "anonieme bijdrages" die ze ergens in hun voorwaarden hebben gezet, met als disclaimer 'if applicable'

Ja, iemand moet de computer toch laten weten of iets goed of fout geïnterpreteerd word. Lijkt me logisch. Ik maak ook software die data (niet afkomstig van mensen) analyseert. En dan moet ik ook zelf de data analyseren om te kijken of het klopt wat de software er van maakt en desnoods de software verbeteren.

Is dit niet een beetje hypocriet? Het gaat hier om redelijk gevoelige data in de vorm van gesprekken of, aldus de tekst, geluiden die wijzen op aanranding of geweld.
Ik geef toe; zou niet weten hoe je anders de boel moet verbeteren zonder deze data maar de "we gebruiken je privacy om onze diensten te verbeteren" kaart word mij hier te vaak getrokken.

Hoezo hypocriet?(=scheinheilig/onoprecht)

Jij hebt ze gelukkig door.

De meesten zouden hun privacy in leveren voor meer veiligheid die helemaal niet bestaat.

Ja baas sluit de kooi maar. Dan weet ik zeker dat de kat niet bij mij kan komen.
Zei het vogeltje tegen de overheid.

En wat nou als er een wettelijke verplichting is om in te grijpen? In Nederland is iemand die iemand in levensgevaar hoort of ziet verplicht om zijn of haar medeburger te helpen en/of 112 te bellen. Dan maar hopen dat dit niet zo is in de VS?

Ik denk dat de opnames niet real time zijn, ingrijpen is dan niet meer aan de orde.

Even uitgaande op wat de fabrikanten zeggen: Apple anonimiseert voor het opslaan. Google vervormt geluid. Hoe Amazon het doet staat hier even niet vermeld, dus dat is even gokken.
Maar daardoor (zeggen ze) kunnen ze deze audio dus niet kunnen koppelen aan een gebruiker en/of adres. Dus waar wil je hulpdiensten heensturen?

Overigens, de tekst zegt dat Amazon de vragen van gebruikers, en de antwoorden onderzoekt. Hoe kan het dan dat ze aanranding/help roepende kinderen constateren? "Hey alexa, I'm being raped?".

Niet om Amazon vrij te pleiten maar als het niet te herleiden is naar eindgebruikers is het op zich niet heel spannend....

Tsja, amazon is echt niet de enige, Apple en Microsoft doen (deden) het ook.
https://thehackernews.com...i-voice-data-sharing.html

Apple admits that its Siri — an intelligent personal assistant for iPhone, iPad and iPod Touch devices — is collecting and also transmitting users voice data to 3rd party companies[...]

(2015)