Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Microsoft-medewerkers luisteren mee met Skype-vertalingen en Cortana-gesprekken

Microsoft-medewerkers luisteren soms mee met sommige Skype-gesprekken als daarin gebruik wordt gemaakt van de ingebouwde vertaalfunctie. Ook luisteren zij mee naar Cortana-opnames. Microsoft zegt in de privacyvoorwaarden niet dat die gegevens door menselijke medewerkers kunnen worden beluisterd.

Dat blijkt uit documenten die Motherboard heeft weten te bemachtigen. Naast documenten wist de site ook de hand te leggen op screenshots en audio-opnames waaruit blijkt dat Microsoft-medewerkers meeluisteren met Skype-gesprekken. Aannemers van Microsoft luisteren daarnaast naar stemcommando's die gebruikers aan slimme assistent Cortana geven.

Microsoft gebruikt kunstmatige intelligentie om gesprekken automatisch te vertalen, en om commando's via Cortana te interpreteren. Net als bij andere bedrijven zoals Google, Apple en Amazon moet die informatie in sommige gevallen nader bekeken worden, bijvoorbeeld wanneer een vertaling misgaat of wanneer het verkeerde wekwoord voor een slimme assistent wordt ingezet. In het geval van Skypes vertaalfunctie krijgen medewerkers een stuk audio te horen, inclusief een aantal voorgestelde vertalingen die door de kunstmatige intelligentie worden voorgesteld. Daaruit moeten zij kiezen welke vertaling het beste past bij het audiofragment, maar de medewerkers kunnen ook eigen input geven.

Microsoft zegt tegen Motherboard dat de audiofragmenten alleen via een beveiligde portal te beluisteren zijn, en dat het bedrijf probeert zoveel mogelijk informatie weg te laten waarmee gebruikers te identificeren zijn, zoals apparaatnummers. In de algemene voorwaarden schrijft het bedrijf alleen dat het 'gesprekken verzameld en gebruikt worden' om de diensten van Microsoft te verbeteren, en dat die informatie 'geanalyseerd' wordt, maar er staat niet dat daar menselijke gebruikers bij komen kijken.

Verschillende grote techfabrikanten liggen de afgelopen weken onder vuur vanwege het feit dat zij menselijke werknemers mee laten luisteren naar delen van gesprekken die via slimme assistenten zoals Assistant, Siri en Alexa worden gevoerd. Google en Apple hebben dat verzamelen onlangs tijdelijk stopgezet, en bieden samen met Amazon opt-outs aan voor het verzamelen en analyseren van audio-opnames.

Door Tijs Hofmans

Redacteur privacy & security

07-08-2019 • 21:59

99 Linkedin Google+

Submitter: Lednov

Reacties (99)

Wijzig sortering
Als het aankomt op juridische vaardigheden wint de consument het nooit van bedrijven als Microsoft. Juist daarom vereist de AVG niet dat we goed lezen .
Dit is de discussie ontwijken. Jij zegt dat ze geen toestemming vragen en dat ze niet zeggen wat ze met de gegevens doen.
Dit feitelijk onjuist. Dat maakt jou hele betoog irrelevant als reactie op mijn post.
Dat het niet in de punt komma scheet staat uitgeschreven is een andere discussie, zo ook of het juridisch haalbaar is als consument om iets aan te vechten.
Stel dat iemand aan de telefoon (een onbekende) met jouw gesprekken mee zou kunnen luisteren die jij met een ander hebt. Terwijl jij aan het telefoneren bent. Dat is per definitie onwenselijk.
En toch zie ik steeds meer mensen overal per speaker de meest intieme privé gesprekken voeren. Blijkbaar vinden zij het helemaal niet ongewenst als anderen meeluisteren.
Wat steeds meer mensen doen heeft geen relevantie voor mijn rechten op mijn privacy. Die rechten heb ik. Die laat ik gelden. Dat steeds minder mensen dat doen, vind ik volledig onbelangrijk. Niet relevant. Niet voor mijn recht op privacy.

De wet is niet veranderd. Mijn rechten ook niet. Enkel het (kudde) gedrag van een bepaalde groep mensen.

So what?
Oh, dat ben ik helemaal met je eens. Het verbaast me alleen, het valt me op.
Het wordt, in tegenstelling tot Apple en Google, juist wel goed afgedekt. Bij een nieuwe installatie krijg je het netjes te zien en bij de laatste windows 10 update werden de privacy opties opnieuw getoond. Zie de uitspraak van kodak.
De omschrijving waar Microsoft naar refereert zegt niets. Het is onduidelijk of het om geautomatiseerde verwerking gaat of om handwerk, zeker voor een doorsnee eindgebruiker.
Jammer dat je het als aanviel opvat. Ik was alleen benieuwd of je überhaupt wel Windows gebruikt. Dan had je kunnen ervaren dat het wel degelijk wordt weergegeven en informatie wordt gegeven als je er meer over wilt weten. Alleen afgaan op een artikel geeft vaak een vertekend beeld.

Ze hebben niet voor niets hier veel energie en tijd in gestoken aangezien ze vanuit de EU flink wat gezeik ermee gekregen(wat zeker terecht is geweest).

Verder verwijs ik niet naar het artikel maar wat Microsoft toont. Dat Tweakers niet altijd de juiste informatie in hun artikelen plaatst kan Microsoft ook niks aan doen.

[Reactie gewijzigd door vali op 8 augustus 2019 12:19]

Ik wens mijn Garmin veel succes toe bij het tracken van mijn menstruatiecyclus :o
On topic: het zou interessanter zijn om te weten of Google/Apple/Microsoft dan ook meeluisteren met je telefoongesprekken (om de productervaring te verbeteren uiteraard...)
"Garmin 945 trackt niet alleen het hardlopen maar ook je menstruatiecyclus en emotionele status" Heb je een bron, want daar ben ik wel benieuwd naar?
Jazeker

Staat gewoon op de officiële pagina en ze adverteren er mee. (bij overzicht onderaan)

Edit: En deze, waarbij alle modellen staan die het kunnen

[Reactie gewijzigd door Bram34 op 8 augustus 2019 11:00]

Zou je dan ook een bron hebben over het doorverkopen van deze data?
Op de website van Garmin zelf staat dat dan weer niet genoemd:

https://www.garmin.com/nl-NL/privacy/connect/
https://www.garmin.com/en-US/privacy/global/
Het waren voorbeelden die suggestief zijn. Alleen dat de Garmin je menstruatiecyclus/vruchtbaarheid/emotionele status volgt vond ik behoorlijk merkwaardig. (Vandaar dat ik dit in het midden plaatste) om aan te geven dat ik het niet uit mijn duim zuig. Alleen het gedeelte dat het informatie doorverkoopt is (nog) niet zo.
Wel dat het gegevens analyseert.
Skype is iets dat typisch zakelijk gebruikt wordt. Bedrijfsvertrouwelijke informatie tot aan beursgevoelige informatie kan over dat kanaal gaan.

Ik heb bijvoorbeeld sollicitatiegesprekken en persoonlijke gesprekken met werknemers via Skype. Ook strategische gesprekken gaan regelmatig via Skype, dat scheelt vliegen en is dus minder milieu belastend.

De Skype audio mag dus niet zonder toestemming vooraf of zonder rechtelijk bevel worden afgetapt en worden beluisterd door derden.

Note Skype is bovendien via de Microsoft Office 365 aan LinkedIn gekoppeld (adresboek), waardoor het voor afluisterende mensen een koud kunstje wordt om te bepalen wat de functies zijn van de personen in het gesprek. Dat maakt de audio opname en de informatie daarin nog extra gevoelig.

[Reactie gewijzigd door djwice op 8 augustus 2019 14:07]

Ik vond dat je in principe een goed punt hebt dus ben ik even het gaan opzoeken. Misschien dat @Tijs Hofmans misschien meer duidelijkheid kan geven.

Ik neem aan dat je zakelijke gesprekken via Skype for business gaan. Hier gelden andere voorwaarden, dacht ik zo.

Ik neem aan deze berichtgeving betrekking heeft tot de consumenten variant.
Daarmee is je gehele post een storm in een glas water. Microsoft ligt over het algemeen zeer sterk in de zakelijk markt en zal dit soort risico's (lijkt mij) niet nemen.
Daarmee is je gehele post een storm in een glas water. Microsoft ligt over het algemeen zeer sterk in de zakelijk markt en zal dit soort risico's (lijkt mij) niet nemen.
Als het inderdaad klopt dat dit alleen voor de consumenten versie geldt en niet als een van beide business gebruikt. Vaak moeten mensen van buiten de organisatie deelnemen aan het gesprek (as you might understand why) dus die gaan als gast in de Skype call.

De laatste tijd merk ik juist dat Microsoft ook zakelijk steken laat vallen. Installeer bijvoorbeeld de Android apps voor office 365 en kijk wat er per default verzameld wordt aan data. De meeste bestuurders zijn geen IT, die tweaken die setting niet.
Ook sturen producten als Microsoft Flow zonder expliciete toestemming van de juiste personen in de organisatie product promotie email naar alle personen in je organisatie. De emails bevatten zelfs geen opt-out en komen van Microsoft zelf.

[Reactie gewijzigd door djwice op 9 augustus 2019 17:27]

En precies dit soort dingen zouden het artikel meer waarde kunnen geven.

Wat ik zo zag is dat het "verbeter programma" standaard uit staat(opt in). Dit ging niet specifiek over de vertaaldienst.
Stomme zet van Flow(of jullie organisatie) hier heb ik verder te weinig zicht op om er iets zinnigs op te zeggen
Mijn reactie ging er juist over dat er gezegd werd dat mensen niet verwachten dat iets feilloos werkt. Mij lijkt dat juist wel dat mensen verwachten dat iets feilloos werkt. Dat mensen nit verwachten dat iemand mee luistert is natuurlijk evident. Immers voor de meeste mensen is het zo dat deze niet weten hoe een dergelijke dienst in elkaar steekt dus ook niet kunnen vermoeden dat er iemand mee luistert om de dienst te verbeteren.
Het is niet zo dat er meegeluisterd wordt met normale gesprekken op Skype. Er worden fragmenten van de Skype gesprekken waarbij de translator bot gebruikt wordt gebruikt om deze bot te verbeteren. Er worden bewust geen langere stukken gebruikt. Tevens wordt er zo min mogelijk context gebruikt om wel op een correcte manier te kunnen bepalen of vertalingen correct zijn bepaald.

Als jij zo'n dienst gebruikt om een gesprek met iemand te voeren, wil je er wel vanuit kunnen gaan dat hij hoort (vertaald) wat jij zegt. En wat jij van hem hoort (vertaald) ook is wat hij gezegd heeft. Zonder dat dit steekproefsgewijs wordt gevalideerd zal dit niet beter worden.
Dat iets niet beter zal worden zonder steekproeven betekent niet dat er niet actief en duidelijk gemeld moet worden dat men iets doet. Bijvoorbeeld wanneer een vertaling niet automatisch ging, dan zou er een ballon kunnen komen tijdens het gesprek dat de vraag duidelijk en ondubbelzinnig aan beide gebruikers stelt: mogen we dit stukje audio naar een medewerker sturen ter analyse? Ja of Nee?

Dat zou waarschijnlijk wel prima zijn. Maar niet zomaar. Niet achter de rug om. Niet achter een verdoken zinnetje ver weg in één of andere EULA of overeenkomst van tig bladzijden groot dat om de dienst beter te maken Microsoft medewerkers van alles gaan doen dat de gebruikers helemaal niet verwacht hadden.
Microsoft heeft hier geen wet genegeerd. Voor beide diensten waar dit nieuws bericht over gaat wordt vermeldt dat jouw data wordt gebruikt om de dienst te verbeteren. Microsoft doet ook hun uiterste best om te voorkomen dat de fragmenten herleidt kunnen worden naar een natuurlijke persoon.

Mogelijk dat het AI systeem dat bepaalde fragmenten aanmerkt als moeilijk om te zetten naar tekst (het naluisteren waardig), zelf ook al logica heeft om te voorkomen dat hier gevoelige informatie bevat. Dit laatste is lauter speculatie, maar zou wel een mooie stap zijn.
Op het moment dat je je Microsoft account koppelt aan je Windows account krijg je diverse privacy instellingen voorgeschoteld. Waaronder deze. Je kan ervoor kiezen om niet gebruik te maken van online spraak herkenning. Dan wordt er geen data/spraak naar Microsoft verstuurd. Daarbij vallen ook de spraakherkenning van Cortana weg in Windows.

Daarnaast kan je als eindgebruiker gewoon bepalen welke fragmenten door Microsoft bewaard worden en daarmee ook geanalyseerd kunnen worden.
Zoals ik bij andere artikelen al aangaf: het bewaren en beluisteren van mijn gesprekken is niet noodzakelijk om mij diensten te kunnen verlenen, dus lijkt dit me niet toegestaan onder de AVG. Ik moet er expliciet toestemming voor kunnen geven en bij het niet geven van toestemming toch van de dienst gebruik kunnen maken.

Een autofabrikant moet ook weten hoe auto’s gebruikt worden. Dat geeft ze niet het recht om zonder meer alle auto’s met een actieve GPS-tracker uit te rusten.
Dat vind ik geen vergelijk. Laten we de auto fabrikant nemen. Als jij een diefstal preventie service wil afnemen, kan de fabrikant jou deze bieden. Hiervoor wordt de GPS data om de zoveel tijd naar de fabrikant verzonden. Er zijn natuurlijk andere manieren om dit te doen. Maar dit is een vaker voorkomend concept. Zo ook met smartphones. Maar jij als gebruiker vindt dit onprettig en dat dit inbreuk maakt op jouw privacy. Jij hebt dan het recht om te besluiten de dienst af te nemen. De fabrikant zal dan geen GPS data verzamelen.

Dit geval is niet anders. Jij wilt een dienst afnemen waarbij gesproken woord wordt omgezet naar tekst. Microsoft wilt graag dat deze dienst voor zo veel mogelijk van zijn gebruikers zo goed mogelijk werkt. Zij hebben daarom gestelt dat het vereist is dat zij fragmenten analyseren. Om hiermee de systemen te verbeteren. Of dit door een persoon of een machine gebeurt doet niet ter zaken. Zolang de fragmenten maar niet tot een natuurlijk persoon herleidt kunnen worden. Maar als jij als gebruiker je niet comfortabel voelt bij dit concept. Kan je gewoon opteren om van deze opties geen gebruik te maken. Dan zal Microsoft ook geen spraak data van jou meer verzamelen. En als je dan toch gebruik wil maken van de dienst en je wilt toch niet alles beluisterd hebben, kan je altijd nog zelf de fragmenten verwijderen van de servers van Microsoft.
Die 'optie' is niet onafhankelijk aan/uit te zetten van 'Online Speech', mag dat wel onder de GDPR?
En er is geen optie voor 'offline modus' per gesprek dat voorgelezen wordt.

En ik weet niet meer of hij automatisch aan staat/stond bij default installatie, maar het zou me niet verbazen.
Als je er over nadenkt is het misschien logisch, maar vanzelfsprekend is het niet; Windows heet al versies lang TTS/Stemherkenning in zijn OS zitten, waarom zou het nu opeens je data gaan versturen?
Ja, er waren geruchten over dat Windows 10 je data verstuurd, maar dat werd door zowel Microsoft als veel Tweakers afgedaan als overdreven.

Je zou ook kunnen denken dat ze alleen meta-data analyseren, of dat het gaat op data bij bug reports die je zelf indient.
(Het verbaast be dan ook dat je zelf geen fouten/correcties kan insturen als de TTS in bijv. Edge een woord verkeerd uitspreekt.)
Verder heeft Microsoft testers in dienst, en beta-producten waarbij gebruikers voor testen gebruikt worden, dus zou je als betalende (zeker als zakelijke) klant mogen verwachten dat je data veilig is.


Verder zoals @freaxje aangeeft worden via Skype veel vertrouwelijke gesprekken gevoerd; ook in de zorg en psychiatrie. Maar ook in het bedrijfsleven is het standaard.
Je zou dus op zijn minst als gebruiker moeten kunnen afdwingen (aan beide kanten) dat bepaalde gesprekken/sessies vertrouwelijk zijn, en dit in de Business versie moeten afkopen.

Op hun site wordt zelfs expliciet de suggestie gewekt dat bijna alle Skype data vertrouwelijk is omdat ze
versleuteld worden,
Does Skype use encryption?
All Skype-to-Skype voice, video, file transfers and instant messages are encrypted. This protects you from potential eavesdropping by malicious users.
If you make a call from Skype to mobile and landline phones, the part of your call that takes place over the PSTN (the ordinary phone network) is not encrypted.

https://support.skype.com...does-skype-use-encryption
Het is niet zo dat dit voor alle Skype calls geldt. Dit geldt voor de Skype calls waarbij een translate bot gebruikt wordt. Dit betekent dat jij in het Nederlands praat tegen een Chinees en hij in het Chinees terug praat maar jij alsnog Nederlands hoort en hij Chinees. Ik meen ergens in de comments gelezen te hebben dat er inderdaad een prompt komt als je dit gaat gebruiken. Ik weet hier verder weinig vanaf, ik gebruik deze functie zelf niet.
Dank je, was me niet duidelijk, wist niet dat dit bestond. (Ken de techniek, maar wist niet dat dit in Skype zat.
De techniek is ook beschikbaar als plug-in voor MS Word en outlook
Daar kunnen ze het blijkbaar wel zonder je data in te hoeven zien:

Data use & privacy
Email translations provided by Translator for Outlook are powered by the online Microsoft Translator service. All data transmissions are secured via SSL, and are never stored, sampled, or shared with any first- or third-party entity. This means that all translation and processing happens on servers in-memory only. (This is also known as the "no-trace" option from Microsoft Translator.
Dat is nog net iets anders. In het geval van Skype is het gesproken taal die wordt omgezet naar tekst en dan wordt vertaalt en dan weer terug omgezet naar gesproken taal. Het deel wat ze samplen net als bij Cortana is het spraak-naar-tekst deel.

Het vertalen en terug naar spraak brengen kunnen ze zelf gigantische datasets voor opbouwen, vooral door het internet te crawlen, zonder jouw persoonlijke data te samplen. Daarom dat het dus ook niet gebruikt wordt binnen die plug-in die jij noemt.
Dat dit nog nieuws is...
"In de algemene voorwaarden schrijft het bedrijf alleen dat het 'gesprekken verzameld en gebruikt worden' om de diensten van Microsoft te verbeteren, en dat die informatie 'geanalyseerd' wordt, maar er staat niet dat daar menselijke gebruikers bij komen kijken."
Goh, immers alleen een mens kan op dit moment nog die informatie zinvol analyseren.
inderdaad maar ja het staat er niet letterlijk in en blijkbaar is dat te moeilijk om te concluderen door sommige. dat het beluisterd wordt door de vertaalmachine is normaal, hoe kan die anders vertalen. Die machine is niet in staat zich zelf te verbeteren als hij geen input krijgt dat hij fout is. en wie anders dan mensen kan een machine op fouten wijzen , een andere vertaal machine ?? dan zou je toch direct die andere machine van de "juiste"/ beter software voorzien.

Op dit item kan niet meer gereageerd worden.


Apple iPhone 11 Nintendo Switch Lite LG OLED C9 Google Pixel 4 FIFA 20 Samsung Galaxy S10 Sony PlayStation 5 Cartech

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2019 Hosting door True