Amazon patcht Alexa nadat onderzoekers speaker continu laten luisteren via skill

Amazon heeft wijzigingen aangebracht in de manier waarop zijn Alexa-assistent naar spraakcommando's luistert, bijvoorbeeld op zijn Echo-speakers. Onderzoekers lieten via een skill een speaker continu luisteren na een spraakcommando en konden zo gesprekken opvangen.

De onderzoekers, verbonden aan beveiligingsbedrijf Checkmarx, beschrijven hun bevindingen in een blogpost en een kort rapport. Ze zeggen tegen Cnet dat er geen tijdslimiet leek te zijn voor het blijven opnemen van geluid. Hun methode was alleen op te merken door een doelwit doordat het blauwe licht van de Echo-speaker aanbleef, wat aangeeft dat Alexa nog steeds luistert. Amazon bevestigt tegenover de site dat het stappen heeft ondernomen. Volgens de onderzoekers hanteert het bedrijf nu tijdens het certificeringsproces van skills criteria om afluistermogelijkheden te detecteren. Ook langere opnamesessies dan gebruikelijk merkt Amazon op.

De onderzoekers leggen uit dat ze met de Alexa-sdk een skill voor een rekenmachine hebben ontwikkeld. Gebruikers kunnen een Alexa-apparaat dan vragen om een bepaalde berekening uit te voeren. Door onder meer gebruik te maken van de zogenaamde reprompt-functie, die de Alexa-software gebruikt als een commando niet wordt verstaan, konden ze het apparaat door laten luisteren ook al was het commando wel correct verstaan. Ook sprak Alexa dan niet uit dat het commando niet was begrepen, doordat de onderzoekers dit hadden gedempt. Om iemand af te luisteren, had diegene wel de skill in kwestie moeten aanzetten.

Ontwikkelaars van Alexa-skills krijgen geen toegang tot audio-opnames, maar de onderzoekers stelden hun kwaadaardige app zodanig in dat de skill elk woord opving en als input zag. Daardoor hadden ze toegang tot de woorden in tekstvorm via een logbestand, schrijven ze in het rapport.

Reacties (56)

[ToolkiT]

Doen ze ook niet.. ze luisteren naar een wakeup word, pas daarna word er een sessie opgezet met de server die wat met het geluid doet..
Wat deze hack deed is de sessie kunstmatig lang openhouden.. dat was een loophole in het systeem. Maar gelukkig is het ze niet gelukt om de visuele waarschuwing (blauwe lichtring) uit te schakelen..

Als je geen wakeup woord zegt doe apparaat helemaal niks..

[Croga]

Als je geen wakeup woord zegt doe apparaat helemaal niks..

Behalve dan zowieso continue luisteren omdat hij anders het wakeup word niet kan horen.
Oh, en zowieso aan het netwerk verbonden zijn omdat hij anders überhaupt niets kan.
Oh, en als er dus ook maar ergens de geringste kwetsbaarheid in zit wél gewoon alles afluisteren en naar een kwaadaardige partij sturen.....

[JMS 450]

De wakeup wordt lokaal afgehandeld. Als die door de lokale check komt geeft ze feedback dat ze luistert en dan pas wordt verbinding gemaakt met de server.

Verder grappig dat er voor het afhandelen van de skill's enkel tekst bestanden worden gebruikt buiten Amazon en niet de raw audio input. Voor de beteren rekenapp (iets als Wolfram Alpha) een leuke toer om uit die tekst weer een formule te halen.

[jctjepkema]

Ik ben letterlijk de afgelopen 3 maand bezig geweest met de ontwikkeling van een Alexa speaker, en de uitspraak die jij doet klopt gewoon niet.

Het wordt lokaal afgehandeld en het stukje wifi wordt afgehandeld door het lokale besturingssyteem(linux). Het moment dat het proces het wakeword Alexa herkent in zijn (offline) wakeword engine, gaat hij actief luisteren met een stream naar de servers.

https://github.com/alexa check de code maar even.

[Croga]

Ik ben letterlijk de afgelopen 3 maand bezig geweest met de ontwikkeling van een Alexa speaker, en de uitspraak die jij doet klopt gewoon niet.

Wat klopt er dan niet aan mijn uitspraak?
- Alexa luisterd continu
- Alexa is met internet verbonden
Dat zijn twee vaststaande, onomstotelijke, feiten.

Ofwel: Zodra ik de verbinding die Alexa op enig moment maakt weet te spoofen kan ik Alexa dingen vertellen die mij goed uit komen. Zoals bijvoorbeeld een firmware update die mij wat beter uit komt.

- Jij verteld Alexa haar wakeword
- Alexa herkent dat en zet een stream op naar de server
- Die server verteld Alexa dat er nieuwe firmware is, of ze deze even wil installeren
- Alexa installeert mijn firmware
- Jij hebt geen flauw idee meer wat Alexa allemaal wel en niet doet. Als die firmware Alexa verteld dat ze continue moet luisteren, de resultaten moet opslaan en het lichtje uit moet laten dan weet jij dat niet. Vervolgens geef jij het wakeword, Alexa doet wat ze altijd doet maar stuurt ook de opgeslagen resultaten naar mij toe.

As said; als er maar de geringste kwetsbaarheid in zit ga je keihard nat.

[binair]

ik vermoed dan ook dat de firmware gesigned moet zijn met een secret key alvorens alexa deze zomaar zal installeren? Ik heb het niet gecheckt maar dit lijkt me vrij basic security...

[ToolkiT]

Hij doelt denk ik op een lek dat bij amazon vandaan komt..

[Xom]

Ik vermoed dat Amazon Alexa goed zal hebben beveiligd. Alleen is het een kwestie van tijd voordat iemand een lek heeft gevonden. Nu zullen ze alles vast actief in de gaten houden om geen schandalen te krijgen. Maar wat gaan ze doen met de patches als er dalijk een opvolger is? Moet iedereen dan de nieuwe speaker kopen om nog veilig te zijn? Ik hoop van niet, maar vrees het wel.

[hiostu]

Je telefoon is verbonden met internet en je telefoon heeft een camera en een microfoon. Heb je dan ook geen smartphone? Dezelfde argumenten die je voor Alexa aanhaalt gelden voor iedere smartphone, computer en tablet.

Ps: sowieso & jij vertelt

[BlakHawk]

Dat is niet waar, gelukkig gewoon na te meten met bandbreedte.
Alexa zet pas een verbinding op zodra het wake-word is genoemd.

Daarnaast zie je toch duidelijk aan de blauwe led wanneer de verbinding actief is.
Zelfs bij deze hacker blijft alexa blauw en kan de gebruiker direct zien dat er een actieve sessie is opgebouwd!

[WaterFire]

Maar gelukkig is het ze niet gelukt om de visuele waarschuwing (blauwe lichtring) uit te schakelen..

Waarom gelukkig? Dit is door onderzoekers gevonden die het netjes gemeld hebben.
Als het ze wel was gelukt is dat juist beter geweest want dan weten de makers dat ze nog wat extra patchwerk nodig hebben.

[ToolkiT]

gelukkig dat het failsafe mechanisme met het lampje dus gewoon werkt..

[Sleejuhr]

Kan ook niet anders natuurlijk, anders horen ze de trigger niet.

Vandaar dat er ook geen Alexa, Siri of Google speaker in mijn huis komt.

[Verwijderd]

Heb je ook geen Iphone / Android devices of laptops in huis?

[Sleejuhr]

Sommige dingen kan je natuurlijk niet omheen, maar de apps die toegang hebben tot de microfoon zijn beperkt.

Hey Google staat ook uit, hoewel je natuurlijk nooit zeker weet of er niet echt geluisterd wordt.

De TV is niet aangesloten op het netwerk.

En als laatste heb ik nog een pi-hole in het netwerk zitten.

[dakathefox]

Vergeet niet dat de Russen 20-30 jaar terug al in staat waren om je vaste telefoon af te luisteren, ook al lag de hoorn erop. Zo spannend is het dus allemaal niet.

[Wim-Bart]

Vaste telefoon van het oude type was niet af te luisteren mits er een modificatie had plaatsgevonden. Vroeger betekende dat wanneer "de haak" er op lag de stroomkring doorbroken was. En geen stroomkring, geen signaal, geen opname,

[SED]

Nederland jaren rond 1930 tot ca 1960 radiodistributie wat wil zeggen dat elke huis aansluiting alleen een speaker heeft waarop je een centraal gedistribueerde radio kunt beluisteren. Low budget oplossing.
Via de speaker (die omgekeerd als microfoon werkt ) kon op de centrale elk aangesloten huishouden afgeluisterd worden .

[Reutemeteut]

Begrijp ook echt niet de voordelen van een dergelijk apparaat. Je hebt alles al in handbereik (waar je overigens ook mee in de gaten gehouden wordt) op je smartphone. De meerwaarde zie ik echt niet in. Mijn huisgenoot had er één en dat contante geschreeuw naar het apparaat om de lampen te bedienen maakte mij gek.

[BlakHawk]

Als je via alexa lampen wil bedienen schiet je het doel een beetje voorbij.
Daar heb je ook knopjes voor die hetzelfde doen.

Mensen snappen home automation niet helemaal.

Mijn ideale situatie is verschillende presets voor thuis, slapen, afwezig en vakantie.
Veel van die zaken kunnen door positie van de smartphone van alle gezinsleden worden gerealiseerd, behalve slapen en thuis. Dus met "Alexa, Good Morning" en "Alexa, Good Night", activeer je die presets en kun je zo 90% van de automation afvangen.

Het doel is dat alle lampen, apparaten automatisch acteren op basis van een status. Ik wil juist niets hoeven regelen, drukken of zeggen. Dat is echte home AUTOMATION.

[ToolkiT]

Je spreekt jezelf een beetje tegen...
"Als je via alexa lampen wil bedienen schiet je het doel een beetje voorbij."
"Mijn ideale situatie is verschillende presets .....met "Alexa, Good Morning" en "Alexa, Good Night", activeer je die presets"
En wat heb je dan? precies, lampen die je met Alexa bedient.

Wat jouw situatie is kan trouwens gewoon met Alexa en Hue:
Je maakt gewoon een groep en zegt: 'Alexa turn on Good Morning' en s'avonds: 'Alexa turn off all lights'

Ik gebruik Alexa in combi met Hue en dat werkt ideaal. Gooi er IFTTT erbij en wat bewegings sensoren en hue knopjes en je bent klaar voor zo goed als elk scenario..

[BlakHawk]

Ik gebruik HomeWizard en die zijn binnenkort Alexa proof.
Iedere preset heeft eigen eigenschappen. Als ik thuis ben wil ik dat lammpen aangaan als het gaat schemeren, ben ik op vakantie, dan hoeven minder lampen aan en op andere plekken en met een trigger om gedurende de avond een aantal keer uit en aan te gaan.

Dan wil ik niet dat ik iedere keer tegen alexa moet praten, alexa hoeft alleen de situatie te kennen.
Dat vertel je haar.

Ben je thuis, afwezig, op vakantie, of ga je slapen?
Ik wil haar alleen de situatie vertellen, de rest moet automatisch aan d3e hand van de situatie in werking treden. Dát is automation.

Vertellen dat de lampen aanmoeten is geen automation...

[ToolkiT]

Simpel toch.. met een motion sensor kan je programeren welk scene aan gaat..
Alexa voice control is een mooie toevoeging daaraan, werkt ideaal.

[BlakHawk]

Het enige wat ik zeg is dat ik het aanzetten van lampjes via Alexa niet zo nuttig vind. Ik wil dat ik geen omkijken meer heb naar lampen.

Maar Alexa vind ik super! Ik wil binnenkort uitbreiden!

[ToolkiT]

Ik zou zeggen doen!
Zul je zien dat het best handig is

[DigitalExorcist]

Ja, als je er naar moet schreeuwen snap ik het wel. Moet je er 5 nemen, dan heb je overal wel goeie ontvangst van normaal stemgeluid.

[AmigaWolf]

Kan ook niet anders natuurlijk, anders horen ze de trigger niet.

Vandaar dat er ook geen Alexa, Siri of Google speaker in mijn huis komt.

Precies, voor mij het zelfde, maar het vervelende is dat als je familie of vrienden er een nemen, heb je wel dat probleem.

En dat vind ik erg.

[ChAiNsAwII]

Maar je hebt wel een samsung tv?

[Verwijderd]

Doen ze ook niet. Zolang ze het niet voor elkaar krijgen om de visuele feedback uit te schakelen vind is het niet echt een schokkende hack.

[DigitalExorcist]

Bovendien moet je kennelijk zélf nog die skill activeren ook.

Dat is alsof je in Amsterdam je fiets neerzet, met de sleutel in het slot, en mensen rechtstreeks vráágt om 'm mee te nemen, en dan verbaasd zijn dat iemand dat nog doet óók

[ToolkiT]

Goed dat ze die loophole gedicht hebben, maar ook goed dat het blauwe lampje niet omzeilt kon worden zodat je iig nog kon zien dat er geluisterd word..

[bbob]

Weet je wat goed is, die zooi de deur uit. Je hebt gewoon een microfoon die altijd aanstaat. Nu is het dit gat van een externe app, maar amazon kan nog steeds zelf doen we ze willen.

Dit soort dingen wil je gewoon niet in huis hebben.

[ToolkiT]

Zolang er mensen blijven testen wat ze precies doen is er niks aan de hand..
met wireshark kan je prima zien wat voor dataverkeer je echo maakt.. zolang er geen data word verstuurd zonder wake-up en zolang de lichtring aan is als hij actief luisterd zie ik geen probleem, dan weet je namelijk precies waar je aan toe bent..
Of doel je op wat Amazon met die data doet van als de echo legitiem luisterd?

[Egeau]

Zolang er mensen blijven testen wat ze precies doen is er niks aan de hand..
met wireshark kan je prima zien wat voor dataverkeer je echo maakt.. zolang er geen data word verstuurd zonder wake-up en zolang de lichtring aan is als hij actief luisterd zie ik geen probleem, dan weet je namelijk precies waar je aan toe bent..
Of doel je op wat Amazon met die data doet van als de echo legitiem luisterd?

Ik ken WireShark niet maar deze methode lijkt me niet waterdicht? Wie weet slaat hij de audio wel op tot jij als gebruiker iets aan je Echo vraagt en dat het dan pas verzonden wordt?

[Belsameth]

Hoe stel je je dat precies voor? Dat kan namelijk nogal oplopen qua data...

Wireshark is verder een tool om verkeer mee op te vangen en te bekijken (packet capture). Je kan hiermee zien wat er door Alexa verstuurd word of, als er encryptie gebruikt word wat ik wel aanneem, in ieder geval waarheen en wanneer. Overigens zou ook hier opvallen als Alexa op dat moment alles zou doorsturen wat daarvoor opgenomen was, dit zou dan namelijk aan de hoeveelheid data te zien zijn.

[pe0mot]

Doen, Wireshark installeren. Dan weet je wat via je netwerk verstuurd wordt.

[kamerplant]

Vermoedelijk is het verkeer versleuteld. Dus dan kun je zien dát data wordt verstuurd, de hoeveelheid, maar niet de inhoud.

[pe0mot]

Yep, inderdaad vergeten

[ToolkiT]

Waar zou hij dat moeten opslaan? in lokaal geheugen?
Ik wou zeggen: daar past toch niet veel op..

maar.. toen ik even verder zocht: https://www.ifixit.com/Teardown/Amazon+Echo+Teardown/33953 stap 10 laat zien dat hij 256Mb Ram en 4Gb flash heeft, meer dan ik me herrinerde gelezen te hebben..

[bbob]

De massa weet niet wat wireshark is om dataverkeer in te zien.

Amazon heeft natuurlijk altijd de mogelijkheid op afstand mee te luisteren. Sterker nog als de politie weet dat een verdacht of iemand van interesse zo een ding heeft staan zouden ze met een rechterlijke vordering de speaker als tapmiddel kunnen gebruiken.
Lampjes zijn via software ook in en uit te zetten.

Het idee dat alles wat je in je eigen huis zegt opgenomen kan worden zegt denk ik genoeg. Voor mij totaal niet wenselijk en lampjes aan en uit even opstaan, schakelaar aan of uit.

[ToolkiT]

Heb je daar ook een bron van?

[bbob]

Ja gewoon je verstand goed gebruiken.
Politie kan jou telefoon ook laten aftappen, je internet verbinding dus als er een online speaker is waarom zouden ze die na rechterlijke goedkeuring niet kunnen tappen.

[ToolkiT]

Maar politie kan niet zomaar een stream opeisen van de mic van je smartphone.. zelfde geld ook voor de echo...

Ze kunnen de stukjes die opgeslagen zijn op de server (de comando's dus) wel opeisen (na rechtelijk bevel), maar dat is iets heel anders dan het beeld dat jij schept..

[bbob]

Zeg toch rechterlijke uitspraak, tappen.

[ToolkiT]

ja de comando's die al opgeslagen staan..

Een stream openzetten en die doorsturen naar de politie zit niet in de software, dus dan kan je nog zoveel rechterlijke bevelen hebben maar wat jij stelt kan simpelweg niet..
Tenzij jij meer weet over de alexa software natuurlijk, vandaar mijn vraag naar je bron..
tip: https://github.com/alexa

[DigitalExorcist]

Zal ik dat zelf weten? zodra ik het geld er voor heb haal ik er een. Geen Amazon, Alexa spreekt nog geen Nederlands. En hoewel mijn Engels near-native is, is het voor m'n mede-huisbewoners wel praktisch om gewoon Nederlands aan te kunnen houden.

Met een beetje mazzel een HomePod. Alles mooi binnen één ecosysteem houden.

[BlakHawk]

Dat wil ik wel, ideaal!
Ik ben heel blij met Alexa en ga alleen maar uitbreiden.

[ryderb]

Gebruik je ook geen smartphone dan? Wat een hypocriet gedoe.

[Wim-Bart]

Wat veel meer creepy is, hoe kom je er achter wanneer er meegeluisterd wordt wanneer je op het blauwe lampje vertrouwd? Met webcam's kan men ook meekijken, opnemen zonder dat lampje ervan gaat branden. Je hebt het nooit in de gaten wat er gebeurt. En dat is het enge.

Daarom komt er nooit zo iets in mijn huis. En wanneer er gesprekken zijn, bijvoorbeeld over werk, of andere, gesprekken waarvan ik vind dat deze niet door anderen gehoord "mogen" worden, dan gaan zelfs de mobile telefoons de kamer uit.

Ik ben niet paranoïde, geen Alu hoedje, maar ik weet wat de overheid allemaal kan, en maak me ook geen illusies wat andere overheden allemaal kunnen. En ik maak me daar misschien te veel zorgen over, maar soms heb ik het gevoel dat al dat informatie en data vergaren alleen maar meer en meer door overheden en bedrijven wordt gestimuleerd. Anders was er bij Facebook en Google al lang ingegrepen door de overheid,

[ChAiNsAwII]

Je hebt geen samsung tv toevallig?
Of laptop/pc met mic ? Kunnen allemaal gebruikt worden om je af te luisteren.

[moeilijkenaam]

>Ontwikkelaars van Alexa-skills krijgen geen toegang tot audio-opnames, maar de onderzoekers stelden hun kwaadaardige app zodanig in dat de skill elk woord opving en als input zag. Daardoor hadden ze toegang tot de woorden in tekstvorm via een logbestand, schrijven ze in het rapport.

nog makkelijker, is het al netjes in een tekstbestand voor ze gezet en kunnen ze er mee aan de slag.

[Verwijderd]

Als ik een maand lang jouw loze gewauwel op mag nemen, en ik laat een leuk algoritme los op de transcriptie, kan ik je verzekeren dat ik dingen over je te weten ben gekomen die je liever prive had willen houden.

Misschien ligt de werkelijkheid meer in het midden, en niet in het extreem van de tinfoil hats, en ook niet in het extreem van 'ik heb niets te verbergen' ?

[WORPspeed]

Ik weet dat mensen hebben onderzocht dat home assistents ons (nog) niet afluisteren door naar netwerk verkeer te kijken.
Maar hoe weten we dat ze niet alles lokaal opslaan en pas nadat je een echt commando geeft, dat ze dan de echte commando plus de opgeslagen afgeluisterde data encrypted versturen....hoe weten we dat op moment wanner ze een echte verbinding maakt dat ze alleen de zojuist doorgegeven commando verstuurd en niet extra informatie die ze offline bewaard heeft?