Microsoft maakt Recall-functie opt-in na kritiek van privacyexperts

Microsoft gaat de Recall-functie in Windows 11 opt-in maken na kritiek van gebruikers en privacyexperts. Het kan alleen worden ingeschakeld als de gebruiker er echt voor kiest. Ook is er authenticatie via Windows Hello vereist om de screenshots te kunnen bekijken.

In een blogpost legt Microsoft uit welke veranderingen zijn doorgevoerd bij Recall, die momenteel alleen nog beschikbaar is op Windows 11 Copilot+-pc’s met de nieuwste chipset van Snapdragon. Gebruikers krijgen voortaan een scherm te zien waarin ze kunnen kiezen om Recall te activeren of uitgeschakeld te laten. Daarnaast is Windows Hello nodig om gebruik te kunnen maken van de functie en heeft Microsoft 'extra bescherming' toegevoegd. De screenshots zijn alleen in te zien als de identiteit van de gebruiker kan worden geverifieerd door Hello.

Recall is eind mei aangekondigd. Het wordt door Microsoft omschreven als een 'fotografisch geheugen voor Windows'. Er worden meerdere keren per minuut screenshots genomen door de functie. Die screenshots worden door AI in een tijdlijn geplaatst, waarmee de gebruiker zijn activiteiten kan nagaan. Recall kan echter screenshots maken van gevoelige informatie, zoals wachtwoorden, en die informatie niet uit de afbeeldingen schrappen. De gebruiker moet dus handmatig apps uitsluiten in de instellingen van de functie.

Microsoft beweert dat de gegevens lokaal worden bewaard en dat alleen de gebruiker toegang heeft tot de screenshots. Beveiligingsonderzoeker Kevin Beaumont liet begin juni echter zien dat het mogelijk is om toegang te krijgen tot Recall op een apparaat dat de functie niet officieel ondersteunt. Het lukte hem om via lokale toegang tot de pc met een ander account de screenshots in te zien. Dat account had overigens geen administratorrechten. Eerder was het Microsoft-leaker Albacore ook al gelukt om Recall draaiend te krijgen op een low-end pc met een Snapdragon 7cx+ Gen3.

Reacties (72)

[RobbieB]

Ik snap hier nog steeds de use case niet echt van? Waarom niet gewoon snapshots maken van de files en die op slaan ipv het hele scherm? De rest is al terug te vinden, via historie of logging.

[himlims_]

In verleden noodgedwongen met macOS moeten werken, daarin zat time machine.

Ik dacht initieel dat de windows implementatie vergelijkbaar was, echter lees hier dat er overeenkomsten zijn. Maar wel andere insteek van Microsoft qua implementatie en impact.

Ben geen fan van macOS, maar een implementatie zoals time machine voor Windows zou Microsoft goed mee kunnen score, gevoelsmatig gaat men nu het doel voorbij…. Of er was simpeler een andere doelstelling

[RobbieB]

Time Machine is niks anders dan een slimme UI/UX over versiebeheer. Het zou fantastisch zijn als Microsoft iets dergelijks eindelijk zou implementeren.

[Llopigat]

Dat zit er al jaren in hoor. Volume Shadow Copy. Bijvoorbeeld op windows fileshares kan je de oudere versies van bestanden zien en benaderen. Ze hebben er alleen nooit veel aan gedaan om het lokaal makkelijker benaderbaar te maken (kan wel) of het te marketen, vreemd genoeg.

[Reactie gewijzigd door Llopigat op 22 juli 2024 14:21]

[dasiro]

Het concept versioning is de basis van incremental backups, beiden zijn er gewoon een implementatie van al is dat in het geval van time machine visueel aantrekkelijker dan volume shadow copy.
Recall gaat veel verder en gebruikt de system state en desktop als basis om copilot te trainen, niet specifiek als backup maar als geheugensteun van wat je gedaan hebt.

[musiman]

Nee, nog beter: File History. Dan bewaar je jouw bestanden die in libraries (of door jou toegevoegde folders) op een extern medium, zoals een usb stick of usb ssd. Dan kun je eenvoudig terug in de versies en heb je gelijk een externe backup. Wanneer je het door jou gebruikte usb apparaat weer in de pc/laptop stopt, herkent windows dat dit degene was die voor File History werd gebruikt en gaat Windows gelijk weer de nieuwste files en versies van files erop zetten.

[Llopigat]

Oh die kende ik dan weer niet. Bedankt!

Ik ken wel de versie historie van OneDrive maar ik wil natuurlijk niet al mijn spullen naar MS uploaden. No way.

[J_van_Ekris]

OneDrive voor consumenten doet dit al. Als je in het contextmenu kijkt van zo'n bestand dan kun je de historie zien en oude versies terugzetten.

[Llopigat]

Nee, time machine lijkt er een beetje op omdat de user interface in de vorm van finder (== windows explorer) windows vormgegeven is. Maar het sloeg echt alleen bestandsversies op en geen screenshots van wat je in je apps doet. En die "finder screenshots" zijn ook niet echt, dat is maar gewoon een UI dingetje.

[iAR]

Ik ben wel fan van macOS. Of beter: ik haat Windows. TimeMachine was een fantastisch back-up platform. En sowieso heeft macOS gelijkwaardige zaken veel beter geïmplementeerd. En daarom snap ik deze functie ook niet.

[Some12]

AI kan dan (visueel) alles snappen wat je in elk denkbare app doet. Daar kan je dan contextueel gebruik (en misbruik) van maken.

[Llopigat]

Volgens mij is het niet alleen het terugzoeken van je activiteit voor als je iets vergeten bent (de reden die nu wordt aangegeven in de marketing), maar ook de opbouw van gewoontedata voor toekomstige AI assistenten.

Immers, een AI assistent kan alleen echt goed zijn als hij alles van je weet. Wat je gewoontes zijn, met wie je praat en hoe je met elke persoon apart omgaat, welke sites je bezoekt, hoe je je dag indeelt enzovoorts. We hadden allemaal een hekel aan cortana omdat je er zo weinig aan had. Een AI die je goed kent (deze data) en niet zo gescript is (LLM taalmodel) kan veel nuttiger zijn. Zodat als je dan met een vriend zit te chatten om af te spreken dat de AI kan roepen van: "Eh, normaal kijk je altijd de F1 op zondag, die is ook op dat tijdstip die week". Dat soort dingen die alleen een assistent kan weten die je echt goed kent.

Recall zal ongetwijfeld ook hiervoor waardevolle databases aanleggen. Ja het is mijn speculatie maar gezien de extreme aandacht die MS op AI inzet, kan ik me niet anders voorstellen dan dat dit doel er ook achter zit. Ik denk dat het om die reden ook standaard aan stond. Want het 'terugzoeken wat ik 3 weken geleden deed' is gewoon op zichzelf staand niet echt zo'n vreselijk interessante usecase voor de meeste mensen.

Ik zie ook wel wat in zo'n slimme AI assistent. Het probleem is alleen: Vertrouw je microsoft daarmee? Ik niet. Ze hebben bij mij hun vertrouwen verspeeld door continu mijn wensen te negeren (ik wil geen MS account maar het wordt opgedrongen, Edge wordt steeds weer teruggezet bij updates, reclame wordt er in gestopt enz). Zelfs als ze nu zeggen dat het alleen lokaal wordt opgeslagen dan vraag ik me af. Deze data zal as-is niet naar de cloud gaan nee, Maar gebeurt dat ook als uittreksels of afgeleide data later in een LLM verwerkt wordt enz, gaat het niet toch opeens voor reclamedoeleinden of marktonderzoek gebruikt worden. Bovendien heeft MS er een handje van om hun voorwaarden opeens te veranderen.

Dus nee, ik zal het niet gebruiken. Als er zo'n assistent hier binnenkomt dan wordt het iets dat open source is en ik zelf volledig kan beheren, onafhankelijk van microsoft.

[Reactie gewijzigd door Llopigat op 22 juli 2024 14:21]

[Auredium]

Je bent niet de enige persoon wat dit vermoed. o.a. Steve Gibson vermoedde hetzelfde. Dat via Recall uiteindelijk een persoonlijke AI komt (Soort van Clippy maar dan slimmer). Dit is natuurlijk enorm handig. Maar het feit dat een dergelijke AI echt alles van je moet weten om goed te zijn en dat dit natuurlijk weer via de cloud moet en internet nodig heeft maakt het gewoon een risico.
Als iemand toegang krijgt tot jouw Recall en wellicht ook aan jouw assistent weet te komen dan ben jij bijna al jouw informatie kwijt en wordt voordoen als jou een peulenschil.

[nullbyte]

Ik snap hier nog steeds de use case niet echt van

Dit maakt het een fantastische tool voor bad actors, nation staat actors en al het andere zwarte hoeden hacker volk.

Een perfecte tool voor (bedrijf's) spionage op een eenmaal gecompromitteerde Windows PC. Ook al staat het uit, mogelijk met een exploit wel remote aan te zetten met admin rechten.

Wederom een ingebouwde tool die voor spionage/hacking misbruikt kan worden. Net zoals powershell dat eigenlijk is. Living of the Land Attack wordt dat in Cyber Security genoemd.

Living off the land (LOTL) is a fileless malware or LOLbins cyberattack technique where the cybercriminal uses native, legitimate tools within the victim’s system to sustain and advance an attack.

Uiteindelijk is het voor Microsoft niets dan telemetry. Alles blijft offline, uhuh. Dan zie ik een workaround waarin de Recall alles bekijkt, een samenvatting maakt van het gebruikers gedrag. Deze als telemetry doorstuurt naar MS. Waana zij het doorverkoopt voor gerichte advertentie doeleinden.

De originele data is niet van het systeem geweest.

[Reactie gewijzigd door nullbyte op 22 juli 2024 14:21]

[Bor]

Uiteindelijk is het voor Microsoft niets dan telemetry. Alles blijft offline, uhuh. Dan zie ik een workaround waarin de Recall alles bekijkt, een samenvatting maakt van het gebruikers gedrag. Deze als telemetry doorstuurt naar MS. Waana zij het doorverkoopt voor gerichte advertentie doeleinden.

Kan je dit onderbouwen met een objectieve bron? Ik ben benieuwd.

[HollowGamer]

Vergelijk het met je YouTube of Instagram feed. De bedoeling is dat je snel suggesties krijgt, en het OS weet wat jij graag ziet en doet.

Het nut ontgaat mij, maar straks zou je dus kunnen vragen: 'schrijf een sollicitatiebrief voor bedrijf X', of 'maak mijn CV'.

Ideaal voor mailing, maar dus ook erg handig als malware het gebruikt om zo mogelijke connecties te maken die niet gewenst zijn.

Ik vertrouw het voor geen meter. Maar ik ben bang dat het al te laat is. We zeuren nu over MS (terecht), maar de rest doet het ook al een hele tijd helaas.

[dasiro]

Het nut ontgaat mij, maar straks zou je dus kunnen vragen: 'schrijf een sollicitatiebrief voor bedrijf X', of 'maak mijn CV'.

durf verder te kijken: "bezorg me een nieuwe job" of je krijgt de suggestie zelfs dat bedrijf X beter bij je past en je zou aannemen, aangezien je over je huidige niet zo tevreden bent.

[Stoney3K]

En die ontevredenheid heb je natuurlijk nooit uitgesproken, maar die is dan op te maken uit je gedrag tijdens het werk.

[Martinspire]

Mja precies. Via office is genoeg binnen te harken. Het zal ze vast gaan om de gebruikers die Chrome gebruiken, maar dat ga je op deze manier ook niet bereiken.

[nullbyte]

Geen idee waarom jouw comment op -1 staat. Een dergelijke tool is namelijk perfect bruikbaar als Living Of The Land Attack. Of dat nou de 5 eyes, andere nation states of reguliere cyber criminelen betreft.

En uiteraard, MS zal dit natuurlijk gebruiken voor telemetry. Met andere woorden. AI bekijkt je gedrag, stuurt telemetry in een door AI gegenereerde samenvatting door naar MS waarna deze het verkoopt voor gerichte advertentie doeleinden. De originele data is nooit van het systeem geweest. Pure speculatie van mijn kant natuurlijk. Maar ik zou er niet gek van staan te kijken als er een dergelijk mechanisme aan gekoppeld zal zijn.

[Reactie gewijzigd door nullbyte op 22 juli 2024 14:21]

[wildhagen]

Mooi dat het opt-in is, dat had het uiteraard vanaf het begin moeten zijn. Maargoed, beter laat dan nooit.

Mij lijkt dit een hele enge ontwikkeling, precies om de reden die het artikel al noemt:

Recall kan echter screenshots maken van gevoelige informatie, zoals wachtwoorden, en die informatie niet uit de afbeeldingen schrappen. De gebruiker moet dus handmatig apps uitsluiten in de instellingen van de functie.

Ik vermoed dat veel Tweakers dat al niet eens zullen doen (omdat ze het bijvoorbeeld niet weten), laat staan veel niet-techneuten. En dus stond het in de oude situatie, met de opt-out waar het default aan stond, dus actief. Met alle risico's vandien....

En dat risico wordt nóg groter als, zoals de laatste alinea zegt, de screenshots dus ook oproepbaar zijn voor andere accounts....

Ik weet niet of dit nou een ontwikkeling is die we, uit het oogpunt van privacy en veiligheid van mensen, nu zouden moeten willen...

[Houtenklaas]

Voor zakelijk gebruik zal dit op mijn werk een absolute no-go zijn. Het meest enge zit bij mij in de "big brother" gedachte ...Net zoals de bekende voorbeelden met foto's van je kroost die jou ineens een geblocked account opleveren met al je data weg gekieperd, gaat AI ook meekijken met wat je doet en daar iets van vinden? Ik ben niet van de Alu hoedjes, maar dit is ook gewoon niet OK.

[willieverhoef]

Beetje bedrijf werk met internet proxy welke je hele website leest en bekijkt in het mom van beveiliging. Dus dan kun er af en toe een screenshot nog wel bij

[Houtenklaas]

Tuurlijk, 't Gaat er meer om dat op mijn werk het maken van screenshots door een applicatie nooit zal worden toegestaan. Het risico op hacks en publicatie van die screenshots is een te groot risico. Gelukkig is het beleid daarin uiterst consequent en zeer onbuigzaam en dat is prima.

[Stoney3K]

Dat is nog iets anders dan een 'app' die op de achtergrond de hele tijd screenshots maakt en daar ook opnames van gevoelige bedrijfsinformatie in kunnen zitten. Als dat ineens (door een update) doorgestuurd wordt naar Microsoft, dan is dat sowieso een datalek, en als je pech hebt ook nog eens een schending van de NDA van het bedrijf. En het maakt hackers natuurlijk wel heel makkelijk om informatie te jatten.

Daarnaast is er nog de privacy-kwestie van Recall wat als een soort robot-manager de hele tijd over je schouder mee kijkt en je leidinggevende die het weer op kan vragen, waardoor je dus continu controle hebt of jij wel aan het werk bent en niet even 15 minuten op Tweakers loopt te surfen;

[Loller1]

Mooi dat het opt-in is, dat had het uiteraard vanaf het begin moeten zijn. Maargoed, beter laat dan nooit.

...maar uhm. Het is opt-in vanaf het begin. Eerst en vooral wisten we al dat het OOBE uiteindelijk expliciet ging vragen of je Recall wou gebruiken of niet. En ten tweede, letterlijk niemand heeft de hardware om Recall te gebruiken op dit moment. Deze functie is nog nergens beschikbaar, op geen enkel toestel, ook niet in het Windows Insider Program. De enige mensen die dit hebben getest hebben het bij elkaar gehackt op basis van inactive stukken ervan die al deels in het Insider Programma werden meegestuurd (en daar door sowieso ook al het OOBE hebben geskipt).

[lvmeijer]

Ik had eerlijk gezegd niet anders gedacht/verwacht dat zeker zo'n toepassing g als dit opt in zou zijn!

[Houtenklaas]

Hoe verzint iemand een dergelijke functie, hier zit toch werkelijk niemand op te wachten. De combinatie met AI doet me eerder vermoeden dat het near-realtime reclame toegestopt krijgt. Dat kan ook prima lokaal op je eigen PC worden gegenereerd. Wat een waanzin dit. Goed dat er privacyexperts aan de bel hebben getrokken!

[deMercer]

Hoe verzint iemand een dergelijke functie, hier zit toch werkelijk niemand op te wachten.

De hoofdredacteur van Tweakers kan anders niet wachten, begreep ik uit de podcast van vorige week (= week 22). En ook in de podcast van deze week werd erg positief gereageerd op het nieuwe Copilot-approved label voor labels.

[Blokker_1999]

Als ik eerlijk mag zijn, ik zie het nut er wel van in en kan me vele mensen inbeelden die er gebruik van gaan maken. Maar ik zie ook de risico's en zou het zelf dan ook niet onmiddelijk aanzetten.

En alles gebeurt ook op je PC, deze data wordt NIET naar het internet gestuurd.

[Houtenklaas]

Ik ben blijkbaar te wantrouwig of "narrowminded", dat sluit ik oprecht niet uit, maar aan wat voor type mensen/werk denk je dan? Ik heb zelf wat lopen zoeken en kwam o.a. deze tegen. Daar staan zeker dingen bij die nut hebben, maar dat is denk ik een "AI" dingetje en heeft m.i. niet zoveel te maken met snapshots maken van mijn scherm ...

[rko4u]

Ik kan nut bedenken om dit tijdelijk aan te zetten, maar dan moet je inderdaad wel op de hoogte zijn dat het draait en dat je geen wachtwoorden op het scherm moet tonen. Als big brother moet je dit niet willen, dan komt de baas maar naast je staan als hij je privacy wil schenden.

[Ace_010]

Dus wel.

[Hentailord]

Ik vertrouw Microsoft en de Amerikaans overheid voor geen meter.
Vooral met de aanpassing van de wetgeving van de inlichtingendiensten geeft ze nog meer macht.
Helaas ben ik nog steeds gedwongen om Windows te gebruiken.

[MeneerGroot]

Inderdaad.

Hoe naive zijn we hier. Dit is toch dé glijdende schaal van windows. Het is wachten op het moment dat opt in een opt out wordt en local naar cloud gaat wegens "opslag" issues.

We kennen Microsoft toch al langer als vandaag. De trucjes, "bugs" en spelletjes die gespeeld worden. Ze zoeken de creepy line op.

Apple, Google en Microsoft staan algemeen bekend om de backdoors van de CIA. Dus hoe naive zijn we door te "vertrouwen" op Microsoft (een commerciël bedrijf, niet je vriend) om de sleutels te overhandigen tot ALLES wat op je scherm gebeurd. Dit omzeilt dus ook de incognito modus. En dan gaat het van lokaal naar cloud, want er zal op korte termijn de child abuse kaart worden nu gespeeld. En dan vinden we het allemaal wel "oke".

[m_snel]

Ik had een hele tijd geleden een virus / trojan die zo iets deed met geselecteerde tekst. En je zag dus vast onbedoeld dat er iets gebeurde.
Het was ook best lastig te verwijderen. Meerdere processen die elkaar ondersteunende en als je ze verwijderde via de andere weer snel een kopie en instance aanmaakte . Na enige tijd de hele rommel verwijderen.
Upload gedaan naar bedrijven die dat soort bestanden onder zochten, maar geen bekende resultaten.
Voor de zekerheid maar een clean install van het OS gedaan.
Ik zit niet te wachten op z’n tijdlijn.

[nullbyte]

Een mogelijke functie/feature van malware/ spyware is het continue maken van screenshots. Recall maakt het mooi makkelijk voor malware developers, die kunnen nu deze ingebouwde tool misbruiken in een LOLT attack. Iets dat detectie verminderd.

[Reactie gewijzigd door nullbyte op 22 juli 2024 14:21]

[ZpAz]

Niemand onder Windows lijkt hier enthausiast over. Mochten er Mac gebruikers zijn die het missen. Er is een vergelijkbaar (voor zo ver ik weet) product genaamd Rewind.

Ik heb er zelf geen behoefte aan.

[mutsje]

Heb alle blogs hierover verslonden, het probleem is dusdanig groot dat men het via group policy kan uitschakelen maar er geen admin handelingen nodig zijn om het aan te zetten. Hierna kan men de calcs de beveiliging op de folder wijzigen en alles bekijken. Hopelijk ziet Microsoft hier ook de ernst van in (zeker nu ze meer authenticatie toegepast hebben om het in te schakelen) maar het is een goudmijn voor hackers. Zeker in ziekenhuizen of waar men met gevoelige data werkt is dit een enorm ongewenst iets wat Microsoft uit hun hoge hoed getoverd heeft. Stel je zit patientdata te bekijken en een hacker krijgt al die screenshots in zijn/haar handen. Of gevoelige financiëlen data, de mogelijkheden voor hackers zijn oneindig.

[Triblade_8472]

Ben benieuwd of je niet alleen apps, maar ook url's kan uitzonderen. Gezien steeds meer Saas wordt, zoals online password managers, zou het fijn zijn om niet heel Edge te hoeven uitzonderen.
Antwoord: ja dat kan! Ook wordt private browsing en content met drm niet onthouden.
Ook kan je het pauzeren als je wat... privé zaken wil doen.

Ik zie wel wat je ermee kan, maar ik snap niet waarom. Wat zou ik in geheel Windows uit het verleden terug willen halen?

Als laatste kan iedereen die bij de pc kan, die database gappen. En dan heb je letterlijk alles wat ik ooit heb gedaan op een zilveren dienblad. Nee, dank je.

[mutley69]

Een opt-in is voor mij niet verregaand genoeg beste Microsoft - dat feature moet definitief gesloopt kunnen worden!

[Nozmordre]

Ik denk dat we allemaal dankbaar moeten zijn voor privacy organisaties die de strijd stijden waar wij te lui voor zijn.

[sparcle]

En aangezien de functie er toch in blijft, maar optioneel, zal deze vast security bugs bevatten en dan bijv ongezien aangezet kunnen worden op afstand.