Leaker krijgt Windows Recall draaiend op Snapdragon-chip zonder npu

Microsoft-leaker Albacore is erin geslaagd om de Windows Recall-functie draaiend te krijgen op een Snapdragon 7cx+ Gen3. Deze chipset heeft 3,4GB werkgeheugen en beschikt niet over een npu. Volgens de leaker vereist Recall dan ook geen aparte npu om te kunnen draaien.

De Microsoft-leaker schrijft op X dat de functie 'verrassend goed' werkt op de low-end pc met SnapDragon 7cx+ Gen 3. Hij schrijft dat het programma controleert of er een neural processing unit aanwezig is of niet. Als dat niet het geval is, maakt Recall gebruik van de cpu. Er zou ook geen data naar de cloud worden gestuurd.

De leaker claimt dat Recall ook op x86-apparaten kan draaien. Microsoft heeft volgens Albacore momenteel enkel Arm64-packages van de software vrijgegeven. Dat betekent dat de software momenteel nog niet werkzaam is op een x86-computer. Albacore schrijft ook dat hij werk maakt van een tutorial, zodat ook andere gebruikers van een Windows-computer met Arm-chip de AI-screenshotfunctie kunnen gebruiken. Wanneer de tutorial daadwerkelijk verschijnt, is niet duidelijk.

Microsoft heeft Recall eind mei geïntroduceerd. Het betreft een AI-screenshotfunctie die naar Windows 11 24H2 komt en enkel beschikbaar zal zijn voor Copilot+-pc’s. Dat zijn systemen met een npu voor het uitvoeren van AI-rekentaken. Deze moet minimaal 40Tops aan rekenkracht bieden. De apparaten moeten verder over ten minste 16GB geheugen en 256GB-ssd-opslag beschikken om in aanmerking te komen voor de Copilot+-merknaam.

Microsoft omschrijft Recall als een doorzoekbaar fotografisch geheugen voor Windows, waarmee gebruikers ‘alles wat ze gedaan hebben’ kunnen doorzoeken. De functie logt de activiteit van gebruikers in apps, websites en documenten. Gebruikers krijgen daarvan een timeline te zien, waarin ze bijvoorbeeld gesloten webpagina's en transcripten van videovergaderingen kunnen terugvinden. Ze kunnen ook AI-zoekopdrachten uitvoeren om dergelijke activiteiten terug te vinden. Microsoft belooft dat de Recall-gegevens lokaal en privé worden opgeslagen, en dus niet worden gedeeld met derden. Gebruikers kunnen de feature ook uitschakelen en specifieke apps of websites uitsluiten van de index.

Windows Recall op Qualcomm Snapdragon 7cx+ Gen3. Bron: Albacore op X

Reacties (95)

[asing]

Gevaarlijk dit! Dat betekent ook dat Microsoft het "aan" kan zetten voor bijvoorbeeld Intel processoren. Nu is het nog zo dat als je geen speciale copilot versie koopt je niet bang hoeft te zijn voor wat er in Recall terecht komt. Als het ook op andere hardware gaat draaien ben je daar niet zo zeker meer van.

[Skit3000]

Ik snap het niet echt waarom het nu eng is; Microsoft zou in theorie al jaren screenshots door kunnen sturen naar haar eigen servers. Wat deze leaker juist voor elkaar heeft gekregen is bevestigen dat Recall lokaal draait, wat er op wijst dat Microsoft de data helemaal niet op haar servers wil hebben (plus dat ze de screenshots niet server side willen verwerken, want dat kost hen processorkracht terwijl dat nu op de gebruiker wordt afgewenteld).

[asing]

"Ik snap het niet echt waarom het nu eng is"

Wat hier gaande is, is een scope creep. Het is een nieuwe feature die alleen beschikbaar zou zijn als je een computer met een NPU chip koopt. Dat is nu ontkracht, de Recall functie werkt ook zonder die NPU. Dat betekent dat deze functionaliteit straks ook gebruikt kan worden op jouw machine.

Ze beloven nu dat het lokaal blijft. Maar of die belofte blijft staan en of ze zich eraan houden? En hoe controleer je dat? Dat is wat het eng maakt. Iedere 3 sec een screenshot waarna AI ee nanalyse gaat doen en dat opslaan.

[MSalters]

De recall functie werkt vandaag nog zonder NPU, door software emulatie. Dat wil niet zeggen dat het morgen ook nog het geval is.

Moderne neurale netwerken bestaan uit meerdere lagen (vandaar de term [i]Deep[/ Neural Networks). Elke laag kan z'n eigen type hebben, en niet elk type laag hoeft op de CPU geïmplementeerd te zijn. En áls het al geïmplementeerd is, dan kan de snelheid nog zwaar tegenvallen. Het is dus een redelijke eis van Microsoft om te stellen dat Recall een NPU nodig heeft, zodat het niet spontaan bij een update omvalt.

[jfdaniels]

Gezien ze letterlijk het besturingssysteem zijn is alles wat je hierboven noemt toch triviaal niet? Ze hebben toch helemaal geen recall nodig om screenshots morgen door te sturen naar hun servers. Integendeel, door heel die discussie over de privacy van recall is dat plots net veel moeilijker geworden. Denk niet echt dat dit valt onder scope creep.

[Dwinges]

Dit is geen scope creep. Bij de officiële aankondiging staat:

In the future we expect to see devices with this silicon paired with powerful graphics cards like NVIDIA GeForce RTX and AMD Radeon™, bringing Copilot+ PC experiences to reach even broader audiences like advanced gamers and creators.

https://blogs.microsoft.c...0and%20creators.%20%C2%A0

[Hell-Slave]

Ik snap het niet echt waarom het nu eng is; Microsoft zou in theorie al jaren screenshots door kunnen sturen naar haar eigen servers. Wat deze leaker juist voor elkaar heeft gekregen is bevestigen dat Recall lokaal draait, wat er op wijst dat Microsoft de data helemaal niet op haar servers wil hebben (plus dat ze de screenshots niet server side willen verwerken, want dat kost hen processorkracht terwijl dat nu op de gebruiker wordt afgewenteld).

Nee wat nu bewezen is is dat de NPU niet nodig is en dat dit waarschijnlijk ook naar de normale pc's komt in de toekomst.

[Skit3000]

En er is aangetoond dat zonder NPU, het lokaal op je CPU draait (in plaats van in de cloud).

[Hell-Slave]

Ja maar ze brengen het eerst uit op de snapdragon X want die heeft een NPU, in plaats het uit te rollen op normale pc's met normale cpu's.
Zouden ze dit gebruiken als een experiment om te kijken of mensen dit willen?

[Skit3000]

Dat zou kunnen, of het is gewoon makkelijker om het eerst uit te rollen op systemen waarvan je weet dat het goed werkt. Er zijn zo veel verschillende CPUs dat de ervaring van elke gebruiker anders kan zijn, met in het slechtste geval zo een hoge belasting van de hardware dat het systeem van de gebruiker verder compleet onbruikbaar wordt.

[jip_86]

Zou ik niet te hard op rekenen. Windows 11 draait ook op oudere CPU's maar dat is vooralsnog ook niet aangezet vanuit MS.

[Hell-Slave]

Ik reken nergens op, ik heb er toch geen last van.

[Zilla]

Een feature in je besturingssysteem die elke 3 minuten een screenshot maakt en deze opslaat is echt niet wenselijk. Ookal is de belofte dat dit alleen lokaal gebruikt wordt. Het is erg verlijdelijk om in een toekomstige update deze data ook voor andere zaken te gebruiken.

[Chatslet]

Wat er eng aan is, is dat het geen theorie meer is en dat die screenshots nu dus wel worden gemaakt. En dan kun je wel aanvoeren dat het lokaal draait maar dat maakt het niet veiliger. Een simpel stukje malware stuurt zo al jouw screenshots naar een of andere server in Rusland.

[Skit3000]

Dat simpele stukje malware kan ook zelf simpel die screenshot maken.

Als de feature van Microsoft nu al screenshots zou uploaden met de noemer "maar we beveiligen het echt heel goed en niemand kan er bij" dán ben ik het helemaal eens met de kritiek, aangezien iemand die dan controle krijgt over die server opeens van miljoenen systemen screenshots kan inzien.

[Reactie gewijzigd door Skit3000 op 22 juli 2024 20:04]

[Chatslet]

Dat is een beetje tekort door de bocht. Dat stukje malware kan misschien prima vanaf het moment dat het op je systeem staat tot aan het moment dat het gedetecteerd wordt een paar screenshots maken. Dat is alleen totaal iets anders dan het buit maken van een complete historie aan screenshots die al op je systeem aanwezig is.
Daarbij is het ook nog zo dat als er screenshot functionaliteit in een stukje malware zit de kans op detectie door Wiindows Defender of een andere virusscanner aanzienlijk hoger is.

[Skit3000]

[quote[Dat is alleen totaal iets anders dan het buit maken van een complete historie aan screenshots die al op je systeem aanwezig is.[/quote]

Daar heb je een punt, al weet ik niet of de impact daarvan groter is dan dat ze al je bestanden en inloggegevens stelen? Want dat is in de praktijk al mogelijk.

[Chatslet]

Hangt er natuurlijk een beetje van af wat er op dat systeem gedaan wordt. Bij een game pc zal dat misschien niet zo'n probleem zijn. Staat de pc in een huisartsenpraktijk en worden daar medische dossiers op bekeken dat kan het al best vervelend zijn.

[Reinosoft]

Nee

[tom.cx]

Je kan het uitzetten. En als Windows nu ‘eng’ wordt zijn er genoeg alternatieven voor. Genoeg Linux distributies die goed werken, er zijn tegenwoordig zelfs voldoende Linux distributies waar je zonder technische kennis erg ver mee kan komen.

[The Zep Man]

Je kan het uitzetten.

Net als de vele privacyopties in Windows, die na een volgende update stilletjes weer terug worden gezet op de instelling die voor Microsoft het voordeligst is?

In 2015 (toen Windows 10 uitkwam) zag ik waar Windows heen ging, en sinds die tijd heb ik grotendeels dat ecosysteem verlaten. Van systemen met Windows ga ik ervan uit dat ten alle tijden alles wordt geupload naar Microsoft. Professioneel gebruik ik Windows omdat dat wordt opgelegd en daar boeit het mij niet, want de werk-/opdrachtgever heeft afspraken met Microsoft waar ik geen onderdeel van ben. Privé gebruik ik Windows enkel op een spelsysteem dat niets anders doet dan spellen draaien en verder volledig geïsoleerd is.

Over Recall:
Ik denk niet dat Microsoft screenshots ooit op diens eigen servers wilt hebben. Ten eerste is dat een te hoog risico, want als dat uitkomt dan zijn de rapen gaar. Ten tweede kan Microsoft veel efficiënter gestructureerde data verzamelen in het OS.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 20:04]

[Loller1]

Net als de vele privacyopties in Windows, die na een volgende update stilletjes weer terug worden gezet op de instelling die voor Microsoft het voordeligst is?

En heb je dit zelf al meegemaakt? Deze anecdote blijft maar naar boven komen zonder dat iemand daar ooit echt enig bewijs van levert. Ja, als je met tools gaat zitten knoeien die rommelen met systeem bestanden en het register moet je niet raar opkijken als Windows die wijzigingen bij een update overschrijft. Als je het echter gewoon netjes via instellingen doet (of tijdens het instellen van je PC in de eerste plaats) gaan die instellingen zich nooit resetten.

Dit verhaal is begonnen toen Microsoft een update uitstuurde (als ik het mij goed herinner was dit zelf een preview update) waardoor verschillende instellingen (waaronder privacy instellingen) in Settings hun standaard instelling toonde in plaats van de onderliggende daadwerkelijke instelling, een probleem dat in de volgende update werd opgelost.

Als dit daadwerkelijk iets was wat gebeurde zou je toch haast denken dat een of andere overheid - en zeker de EU - er al lang geleden iets aan gedaan zou hebben. Of had een of andere nieuwssite - zoals Tweakers bijvoorbeeld - er ook al lang meermaals over geschreven. In plaats van keer op keer deze "maar wat als ze dit ding doen dat ze nooit echt hebben gedaan?"-verhaal...

[synoniem]

Ik gebruik O&O ShutUp en heb al meerdere keren instellingen die ik uitgeschakeld had weer moeten inschakelen na een update. Nu dat is met O&O met twee muisklikken te regelen maar blijft dat je bij elke update het moet controleren.

[Xfade]

Er is wel het één en ander gedaan met het uitstellen van updates. Waar dit eerder veel langer kon, is dit aangepast en kan het dus zijn dat je opeens wel updates krijgt omdat het verlopen is.

Dingen via groepsbeleid blijven bij mij wel correct, maar register dingen zijn wel eens aangepast geweest na een update. (zoals persoon hieronder aangeeft met O&O die het over het algemeen via register doet)

[SECURITEH]

Ik moet na iedere update mijn audio devices weer correct zetten omdat met een update deze een reset krijgen, geen idee waarom maar het is enorm irritant. In het verleden werd IE/Edge ook regelmatig als default browser ingesteld bij een update voordat MS meerdere malen op de fingers was getikt... Er zijn zeker voorbeelden dat ze dit soort dingen doen.

[Hugo_ijslijk]

Ja ik heb dit meegemaakt. Weliswaar niet met privacy opties (geloof ik), maar wel met de standaardbrowser die meerdere malen is teruggezet naar Edge. En ik gebruik geen gekke programma's die geforceerd dingen uitzet of veranderd.

[Reactie gewijzigd door Hugo_ijslijk op 22 juli 2024 20:04]

[GeroldM]

Ik heb anders toch meerdere malen Firefox als default browser op dezelfde computer moeten zetten via het Windows instellingen systeem. Dat was in Windows Server 2012 en Server 2016 tenminste het geval.

Nu ik VPN van een bepaalde fabrikant moet gebruiken, is veel te problematisch om een andere browser dan Edge te gebruiken. Heb dat met mijn Server 2019, Server 2022, Windows 10 en Windows 11 systemen met heftige tegenzin maar op Edge gelaten. Firefox is mijn favoriete browser, maar met Windows is het gewoon te treurig om VPN connecties (authorisatie gedeelte) op te zetten met een non-Edge browser als default.

Heb dus persoonlijke (n==1) ervaring met Microsoft die instellingen niet respecteert na Windows updates. Kan echter niet zeggen dat dit niet meer voorkomt, want ik pas de default instellingen niet aan.

Kan er ook bij vermelden dat het huidige gedram van Microsoft mij behoorlijk is gaan tegenstaan. Zou me niets verbazen als er bewegingen plaats vinden over hun gedrag in de EU. Je geeft aan dat geen regering in de EU hierop actie heeft ondernomen. Het kost vaak een boel geld en tijd van personeel die hierop een gerechtelijke zaak kan bouwen. Het kan soms lang duren voordat er voldoende fondsen zijn verzameld om zo'n gerechtelijke zaak tot een eind te brengen.

Prioriteiten stellen qua budgettering is helaas ook onderdeel van het besturen van de EU. Denk eerder dat een zaak voor dit gedrag te prepareren een ondergeschoven kindje is bij budgetterings-meetings.

[kaas-schaaf]

Net als de vele privacyopties in Windows

Een gemiddelde gebruiker kan die "opties" nooit uitzetten omdat zij niet de kennis hebben om dit te doen. Als je in de policy editor moet gaan graven om dit voor elkaar te krijgen dan is dat behoorlijk goed verborgen.

Daarnaast blijft microsoft informatie doorsturen ook al zet je alles uit (volgens microsoft voor een goed doel), je zal ook dns records moeten blokkeren om dat voor elkaar te krijgen of andere trucen moeten uithalen.

[The Zep Man]

Een gemiddelde gebruiker kan die "opties" nooit uitzetten omdat zij niet de kennis hebben om dit te doen. Als je in de policy editor moet gaan graven om dit voor elkaar te krijgen dan is dat behoorlijk goed verborgen.

Dus gebruiksonvriendelijkheid is een excuus voor Microsoft om opties terug te zetten? Dezelfde Microsoft die het product gebruiksonvriendelijk maakt?

Daarnaast blijft microsoft informatie doorsturen ook al zet je alles uit (volgens microsoft voor een goed doel), je zal ook dns records moeten blokkeren om dat voor elkaar te krijgen of andere trucen moeten uithalen.

Het gaat erom wat voor soort informatie. In plaats van bepalen wat niet doorgestuurd mag worden werk ik liever vanuit het perspectief van wat enkel doorgestuurd mag worden.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 20:04]

[asing]

Ik zit zelf al een paar jaar op Linux. Ik vind het heel fijn werken.

Het "gevaar" wat je nu aanstipt is dat je het uit kan zetten. Daar zit de crux. Als je het niet weet of niet beseft wat het is en wat het doet, dan zal je het niet zelf uit gaan zetten. Het is geen opt-in maar een opt-out.

Dat an sich is nog niet zo erg. Maar wat als je binnen je gezin een account deelt op een computer? Je kan alles van elkaar zien. En er komt een moment dat de verzamelde data richting je cloud account gaat. Meer opslag en als je meerdere apparaten hebt heb je je geschiedenis op beide. Dat zou een redenatie kunnen zijn.

En dan heb ik heb nog niet over een stukje walware wat je geschiedenis gaat doorzoeken om belastende informatie te vinden.

[kiang]

Het nemen van screenshots kan al jaren. En surprise: windows hield in Windows 10 al een geschiedenis bij van welke files je allemaal geopend had, niemand die daar over klaagde. Dat is verdwenen in Windows 11, en recall brengt het nu in veel uitgebreidere vorm terug.

[Chryses]

Tot nu toe lees ik eigenlijk enkel maar negatieve berichten over deze feature, en ik zie de mogelijkheid tot (grove) privacy schending zeker, maar zolang deze feature inderdaad 1) uitschakelbaar, 2) lokaal en prive is, is het dan niet.. top?

Ik bedoel voor degenen onder ons met een slecht geheugen ( ) lijkt dit functioneel een ideale feature om gebruik van te kunnen maken.

Overigens kijk ik wel een beetje met argusogen naar "lokaal en prive" i.c.m. "niet gedeeld met derden"

[M3m3nt0m0r1]

Als je computer dan gecompromitteerd wordt is het een stuk vervelender als de attacker bij de screenshots kan komen. Lokaal of in de cloud maakt dan geen klap meer uit. De schade kan enorm zijn.

[Niosus]

Als je computer dan gecompromitteerd wordt is het een stuk vervelender als de attacker bij de screenshots kan komen. Lokaal of in de cloud maakt dan geen klap meer uit. De schade kan enorm zijn.

Tenzij je meteen desinfecteert, verandert er toch niet zo veel? Malware kan ook gewoon keyloggen en screenshots maken. Het enige verschil hier is dat de malware even terug in de tijd kan kijken. Terwijl nu de malware enkel screenshots kan maken terwijl het actief is. Maar mij lijkt het dat malware meestal ofwel meteen gedetecteerd en geblokkeerd wordt, ofwel voor langere termijn vrij spel heeft.

Malware op je machine is gewoon altijd gevaarlijk. Vergeet niet dat ze ook gewoon session cookies kunnen stelen. Dat moeten ze niet eens meekijken, kunnen ze gewoon zo overal aan. Al je gevoelige bestanden kunnen ze ook gewoon meteen aan. Of ze nu een screenshot van je naaktfoto's zien, of rechtstreeks aan de JPEG kunnen gaat hun ook niet veel uit maken.

Qua privacy ben ik ook achterdochtig, maar qua beveiliging denk ik niet dat dit zo veel erger is dan wat nu al kan mis gaan.

[Bor]

Het enige verschil hier is dat de malware even terug in de tijd kan kijken

Dat "even" is dan wel gelijk maanden waarbij er elke paar seconden een screenshot is;

Recall uses Copilot+ PC advanced processing capabilities to take images of your active screen every few seconds.

Copilot+ PC storage size determines the number of snapshots that Recall can take and store. The minimum hard drive space needed to run Recall is 256 GB, and 50 GB of space must be available. The default allocation for Recall on a device with 256 GB will be 25 GB, which can store approximately 3 months of snapshots.

[M3m3nt0m0r1]

We gaan nieuwe vormen van malware krijgen welke die screenshots automatisch gaan uploaden zodat de attacker die rustig kan doorkijken op zoek naar interessante informatie.
Leuk als iemand aan thuis bankieren is, of zijn/haar medisch dossier aan het doornemen is, aan het inloggen bij overheidssites zodat zijn/haar gegevens gescreenshot zijn.

Nee. Ik zie werkelijk alleen maar security issues mee.

[lordsnow]

Ik vermoed dat de screenshots zelf niet bewaard blijven, maar slechts dienen als input voor iets wat dus die timeline genereerd.

[djwice]

De functie kost gemiddeld 25GB opslag per 90 dagen, dus 278MB per dag gemiddeld.

Screenshots zullen veel op elkaar kunnen lijken dus met de juiste compressie kun je die efficiënt opslaan.
Het lijkt me niet dat je 278MB aan gzip gecomprimeerde tekst logs zult genereren, maar wie weet.

Veel in de Windows UI is HTML gegenereerd onderhuids (pop-ups, menu's, etc.) het kan zijn dat het zichtbare deel incl. CSS en images wordt opgeslagen als snapshot, dat comprimeert goed, maakt de teksten in goed vindbaar en staat ook snel opnieuw op het scherm.

Maar het lijkt me niet aannemelijk dat dit wordt gedaan.

[WoutervOorschot]

Als je pc lokaal ingelogd wordt ben je sowieso al je wachtwoorden en data die erop staan kwijt, evt 2fa codes uit het verleden zijn niet meer geldig en op een scherm kun je geen ww’s zien over het algemeen.

Volgens mij valt het best mee, ik vind het mooi dat ze zo duidelijk de nadruk op lokaal draaien leggen, en stuk mooier dan alle ‘AI’ wat gewoon een api-call naar openai is.

[Bor]

maar zolang deze feature inderdaad 1) uitschakelbaar

Uitschakelbaar klinkt als opt-out. In mijn ogen zouden functies als deze die een grote privacy impact kunnen hebben, op zijn minst opt-in moeten zijn en zou de functie voor elke gebruiker optisch duidelijk aanwezig moeten zijn zodat het niet (eenvoudig) mogelijk is dat de feature aan staat tenzij iemand dit niet weet (bv door malware, een andere gebruiker van het systeem etc).

[JanVQ]

Uitschakelbaar... totdat het bij een volgende update stiekem ("per ongeluk") weer ingeschakeld wordt - hoe vaak hebben we dat al meegemaakt...

[WoutervOorschot]

Best kans dat dat het ook is, het neemt redelijk veel ruimte in beslag dus best kans dat je het zelf aan moet zetten de eerste keer dat je het opstart of installeert.

Bijvoorbeeld windows clipboard (windows+v) moet je ook expliciet aanzetten de eerste keer dat je het gebruikt.

[Bor]

Die ruimte valt wel mee lijkt het (voor een modern systeem):

Copilot+ PC storage size determines the number of snapshots that Recall can take and store. The minimum hard drive space needed to run Recall is 256 GB, and 50 GB of space must be available. The default allocation for Recall on a device with 256 GB will be 25 GB, which can store approximately 3 months of snapshots. You can increase the storage allocation for Recall in your PC Settings. Old snapshots will be deleted once you use your allocated storage, allowing new ones to be stored.

[thof]

Ik vind het anders best veel, zeker als je het vergelijkt met de system requirements die aangeven "64 GB or larger storage device". Mijn game systeem heeft een 1TB SSD, daar is geen 256GB meer van beschikbaar dus dan zal Recall uberhaüpt niet werken omdat hij niet aan het minimum voldoet...

[Reactie gewijzigd door thof op 22 juli 2024 20:04]

[Ludewig]

Je leest het niet correct. Hij controleert of de schijf minimaal 256 GB is en zo ja, dan is er 50 GB vrije ruimte nodig. Daar pakt hij dan de helft van (25 GB).

[thof]

Ik lees het als volgt: als je geen 256GB hebt, kun je geen gebruik maken van Recall. Als je die ruimte wel hebt, dan zal hij 25GB aan ruimte gebruiken.

[Ludewig]

Ik weet niet wat je bedoeld met "als je geen 256GB hebt." Dat is ambigu.

Nogmaals, je moet een schijf hebben van minimaal 256 GB, waarvan minstens 50 GB ongebruikt is. Dan pakt hij 25 GB voor de opslag van Recall.

[ManIkWeet]

Malware, en spyware, is waar ik het grootste probleem voorzie.
Je wilt niet weten hoeveel mensen zonder enig nadenken een enorme berg bagger op hun computer installeren.
Binnen onze Tweakers bubbel valt het misschien nog mee, maar...

En dan kan je praten over TPM, en hoe het veilig opgeslagen is, en whatever. Maar je kan de donder erop zeggen dat er binnen de kortste keren een exploit gevonden zou worden (is namelijk nogal een INTERESSANT stukje data!)

[Reactie gewijzigd door ManIkWeet op 22 juli 2024 20:04]

[Oon]

Het probleem met opt-in is dat ze 'm dan gewoon keihard beter niet kunnen maken, want de usecase hiervan is zo enorm beperkt dat vrijwel niemand 'm bewust gaat aanzetten.
Tenzij het via InTune af te dwingen is, want in het buitenland zijn er genoeg werkgevers die 24/7 mee kunnen kijken, en de software die ze daar nu voor hebben heeft veel meer overhead dan een hardware feature. Hier in Nederland mag een werkgever dat onder geen enkele voorwaarde, maar wij zijn dan ook maar een heel klein deel van de markt.

[marco.heykant]

Het is via intune af te dwingen. Naja, het uitzetten in ieder geval.
Een custom OMA-URI met deze waardes
./User/Vendor/MSFT/Policy/Config/WindowsAI/DisableAIDataAnalysis Integer: 1
./User/Vendor/MSFT/Policy/Config/WindowsAI/TurnOffWindowsCopilot Integer: 1

[ShadLink]

2) lokaal en prive is, is het dan niet.. top?

Zolang een aanvaller toegang tot een lokale PC kan krijgen is dit alsnog een extreem gevaarlijke feature. (ongeacht of MS stiekem toch meeluistert of niet)

En gezien al deze Copilot+ pcs allemaal laptops zijn zie ik dit in de niet zo verre toekomst als een grote lek naar buiten komen waarbij gegevens van bedrijven, etc. op straat komen te liggen.

[Reactie gewijzigd door ShadLink op 22 juli 2024 20:04]

[GeroldM]

Inderdaad, een laptop is draagbaar. Niet alleen door jezelf maar ook door de (gelegenheids-)dief. Recall spreekt over een tijdelijke periode voor het bewaren. Wat betekent 'tijdelijk'? Een vraag die van groter belang is dan dat de meeste mensen zich voorstellen. Kan je namelijk verzekeren dat ik bestanden van 3 jaar oud in de tijdelijke folders van Windows tegenkom, heel soms nog ouder. Waarmee ik aan wil geven dat Microsoft/Windows het automatisch opschonen van tijdelijke bestanden minder goed onder de knie heeft dan dat ze met hun marktpraatjes beweren.

Zo vreemd zal het niet klinken als Microsoft op hun huidige opschoon functies vertrouwd met de 'Recall' functionaliteit. Want waarom het wiel opnieuw uitvinden? Probleem is dat het een wiel is met een lekke band, een slag erin en sommige spaken missen.

Malware kan hetzelfde als de nieuwe 'Recall'-functionaliteit, dat is zeker waar. Maar zie wel een verband Windows Defender en 'Recall'. Windows Defender is op zich een redelijk product, waardoor AV makers een flink deel van de markt hebben verloren. Met 'Recall' hoeven nu de malware makers veel minder hun best te doen, want Microsoft heeft de "malware" al zelf in Windows gebouwd.

Het wordt met 'Recall' steeds moeilijker om je partner er niet achter te laten komen dat je een fetish hebt (hoe verdorven deze ook mag zijn).

'Recall' is echt zo'n functie met een heel beperkte use-case en de aanname is dat er maar 1 gebruiker op een computer werkt. Dit word vaak ook wel de "happy flow" van een programma/app/functionaliteit genoemd. Maar daar waar een "happy flow" bestaat, daar kom je ook automatisch met de "unhappy flow" in aanraking. Microsoft heeft over de "unhappy flow" met de 'Recall' functionaliteit niet goed over nagedacht. Iets wat Microsoft te vaak doet de laatste 3 tot 4 jaar.

[Coolstart]

Tot nu toe lees ik eigenlijk enkel maar negatieve berichten over deze feature, en ik zie de mogelijkheid tot (grove) privacy schending zeker, maar zolang deze feature inderdaad 1) uitschakelbaar, 2) lokaal en prive is, is het dan niet.. top?

Volgens mij moeten ze dan met stevig bewijs komen via Audits dat de data idd lokaal blijft en niet toevallig voor analytische doeleinden toch nog ergers op een cloud server terecht komt. Als gebruiker heb je daar bitter weinig inzicht over wat er echt naar buiten gaat. Incl metadata.

Los van uw privacy heb je ook nog bedrijfsgeheimen. Als morgen een rechtzaak losbarst rond het handelen in aandelen met voorkennis dan zou dat willen zeggen dat Microsoft het gerecht op geen enkele manier kan helpen.

En dan heb je nog eens social hacks. Eens een hacker binnen zit dan kan die snel zijn slag slaan. Wees maar zeker dat spionnen en hackers deze tool nauwlettend in het oog houden om deze maximaal te exploiteren. Lokaal of niet.

Zowel privacy & beveiliging zijn potentieel in gevaar.

Het laatste is hier nog niet over gezegd.

[Reactie gewijzigd door Coolstart op 22 juli 2024 20:04]

[87Dave]

Volgens mij moeten ze dan met stevig bewijs komen via Audits dat de data idd lokaal blijft en niet toevallig voor analytische doeleinden toch nog ergers op een cloud server terecht komt. Als gebruiker heb je daar bitter weinig inzicht over wat er echt naar buiten gaat. Incl metadata.

Daar kan ik volledig akkoord mee gaan.

Anderen die met zeer gevoelige zaken omgaan, moeten zich ook laten auditen. Zo krijgen hier in Vlaanderen/België bijvoorbeeld de overheidsagentschappen en banken audits om zeker te zijn dat ze wel correct omgaan met de risico's die er inherent aan hun werking zijn. En ondanks goede bedoelingen en dat er vast heel wat goeie mensen daar werken, leveren die audits wel aandachts- en verbeteringspunten en soms kritische zaken op.

De email, cloud storage en VPN providers die beweren om privacy te geven en het ernstig nemen, laten zich ook auditen. Anders zijn hun beweringen alleen wat woorden in de wind.

Zelfde standaard mag aan providers van systemen met grote privacy risico's als Recall opgelegd worden. Laat het auditen, inclusief een harde code review en pentest.

[Reactie gewijzigd door 87Dave op 22 juli 2024 20:04]

[Tintel]

Als je een slecht geheugen hebt kun je het toch ook niet meer terugvinden? Want je vergeet dan wanneer je iets deed en wat je deed....

[3raser]

Dat lijkt me juist geen argument met Recall. Je weet nog dat het iets was met een barbecue voor vaderdag, dus je zoekt "barbecue". Dan gaat Recall (die heel slim is, want AI ) daar zelf alles bij zoeken, ongeacht het moment.

[87Dave]

Nu stelen ze je wachtwoorden, bankrekening, foto's, ... Typisch de data waar ze meteen aan kunnen.

Met alles wat je in 3 maand doet, heeft een eventuele hacker echt gigantisch veel over je. Dit gaat veel verder dan statisch opgeslagen data. De manier waarop je surft, geeft bijvoorbeeld heel veel over je weg. Een beetje zoals een privé detective die 3 maand lang je constant observeert, daarna kent die je beter dan dat jij jezelf kent.

Met Recall stelen ze in de toekomst ook je volledige persoonlijkheid als je pc gecompromitteerd wordt. Dat is cybercrime op een nieuw niveau dat we nu nog niet goed kunnen bevatten.

En nee de encryptie zal je niet beschermen want de malware die lokaal draait, kan de data gewoon lezen.

[DeCo]

Ik ben geen held qua uren schrijven.. dit lijkt me een mooi hulpmiddel

[GeroldM]

Uren schrijven?
Er zijn anders genoeg (gratis/open-source/betaalde) software beschikbaar die je nu al uitstekend daarbij kunnen helpen. En als je helemaal geen zin hebt om in time-tracker app(licaties) aan te geven wanneer je met een taak start/stopt, dan kan ik je 'ManicTime' aanbevelen. Deze loopt in de achtergrond, houdt precies bij hoe actief je bezig bent in elk scherm wat je opent. Ben je klaar met je werkdag, dan kan dit programma een report genereren waarmee je precies weet hoe lang je bezig bent geweest met een taak.

Deze rapporten kunnen dagelijks (of wekelijks of maandelijks) worden gegenereerd, al dan niet automatisch. De rapportage is ook te exporteren in verschillende bestandsformaten, ook al dan niet automatisch, zodat het in andere pakketten kan worden geïmporteerd. Ook al dan niet automatisch.

Deze rapporten kunnen optioneel ook naar een (on-prem/cloud) versie van de Manic Server software worden gestuurd. Daarmee kan een leidinggevende ook makkelijk zien hoeveel werkelijke uren er aan een project/taak is besteed.

En dat dus allemaal zonder dat jij ook maar 1 poot hoeft uit te steken wat betreft tijd-administratie (na de initiële opzet bedoel ik dan). Cliënten zijn er voor alle gangbare besturingssystemen, inclusief Android en iOS. De server software is beschikbaar op Windows en Linux, voor diegenen die dit zelf willen beheren. Er zijn echter ook verschillende cloud-abonnementen beschikbaar als je niet bezig wil zijn met het beheer van ManicTime server.

[DeCo]

Been there, done that.. uren bijhouden is gewoon niet mijn hobby, bovendien wil ik geen tool die ook mijn freewheel-uren bijhoudt. Dat wordt te confronterend. Mijn reactie was derhalve gekscherend, vandaar die smiley erbij. Toch bedankt voor je uitgebreide reactie

[SECURITEH]

Top? Nee dat zeker niet, als straks je laptop gestolen word in de trein of zo ben je niet alleen de laptop kwijt maar mogelijk ook alle prive gegevens die lokaal opgeslagen en makkelijke te doorzoeken zijn. Dat maakt het stelen van een laptop mogelijk nog een stuk lucratiever zeker als de feature standaard aan staat en de gemiddelde gebruiker dus niet eens weet dat dit gebeurd.

[PearlChoco]

Ik vraag me af hoe nuttig die functie in feite is.
Ik heb me eigenlijk nog nooit afgevraagd "Hmm wat heb ik deze morgen weer allemaal uitgevoerd" of "welk document heb ik deze middag nu weer ge-edit".

Je werkt aan iets, slaat het op, en doet iets anders.

[sympa]

Ik vind het wel passen bij hoe Tems in elkaar steekt. En het is ook een beetje een volgende zoekmogelijkheid omdat de bestaande zoekmogelijkheden, laat ik het zeggen, lacking zijn in kwaliteit.

[djexplo]

Dit is wel degelijk nuttig voor mensen die werken voor verschillende klanten of projecten per dag. Zelf gebruik ik hier voor al jaren Manic Time https://www.manictime.com/. Waarbij je ook gedetailleerd overzicht krijgt, en precies kan zien hoe lang je met een klant hebt gebeld. Of hoe lang je aan bepaalde documenten of e-mails hebt gewerkt.

[Finraziel]

Dit is natuurlijk hele enge functionaliteit, het zou heel hard misbruikt kunnen worden en als het lekt zou je ook flink de sjaak kunnen zijn... maar tegelijk denk ik dat het wel ook echt heel krachtig kan zijn. Het moet goed gecheckt worden en je zult misschien je denkwijze bij gebruiken van je pc wat aan moeten passen zodat zaken die je niet in die log wil hebben er niet in komen, maar ik ben toch wel benieuwd.

[Reactie gewijzigd door Finraziel op 22 juli 2024 20:04]

[Sandor_Clegane]

Iemand verbaasd? Net als dat TPM 2.0 zo'n arbitraire eis is voor Windows 11.

[Lightmanone1984]

Dit is gewoon een visuele keylogger. En dit zou verboden moeten worden. Of een opt-in, niet opt-out. Dit is zeer gevaarlijk. Een goudmijn voor elke computer crimineel die zich toegang weet te verschaffen. Letterlijk je digitale leven "opslaan".

[mutley69]

Recall is een ongewenste en zelfs onwettige functie in strijd met de GDPR, DMA en DSA (en wellicht ook de nieuwe AI-regelgeving). Microsoft gaat serieuze problemen kennen in de EU, zoveel is zeker.

[Marctraider]

"Er zou ook geen data naar de cloud worden gestuurd."

Dit is een beetje onzin natuurlijk, op menig systeem die niet is dichtgetimmerd stuurt Microsoft handenvol aan data.

[BM]

Dat zal, maar kennelijk voor deze functie dus niet, precies zoals ze ook zelf al zeggen. Nu snap ik best dat mensen MS niet direct op hun woord geleven, maar het is wel fijn dat het bevestigd word

[Bor]

Nu snap ik best dat mensen MS niet direct op hun woord geleven, maar het is wel fijn dat het bevestigd word

Aan de andere kant weten we ook: behaalde resultaten bieden geen garantie voor de toekomst
Dit geeft geen enkele zekerheid dat dit later alsnog niet zal gebeuren, bv "want handig syncbaar over meerdere systemen" oid.

[wica]

Door sturen van data is altijd maar 1 bug ver weg.

[Loller1]

Dus wat je wilt zeggen is dat dit helemaal geen echte zorg is, want het doorsturen van je toetsenbord input is ook altijd maar "1 bug ver weg".

[wica]

Het is mij opgevallen, dat de laatste tijd. Per "ongeluk" te veel data door gestuurd wordt.
En als dit ontdekt wordt, is het altijd een "bug"

"Door sturen van data is altijd maar 1 bug ver weg. " is vooral ironisch bedoelt.

[Yzord]

Er wordt niets bevestigd, want het is een getrimde versie zonder npu. En ik geloof helemaal niemand op zijn blauwe ogen totdat het voor iedereen die het kan testen beschikbaar is. Want er is nogal wat tegengas aanwezig over Recall, dus een bericht als deze komt wel heel erg goed uit, maar is niet te controleren vooralsnog.

En zolang het apparaat aan het internet verbonden is zou ik maar niet zo happig zijn dat er niks verstuurd wordt. Misschien wordt er live niets verstuurd, maar 1 keer in de week, of per maand. Dus vooralsnog zegt dit bericht mij in ieder geval niets.

[Marctraider]

En dat baseer je op een momentopname van de beste man? Genoeg info dat wordt doorgesluisd naar een generieke service die dit alsnog lekker doorstuurd.

[5NaDDeR]

Denk dat hij dan ook bedoelt geen additionele data.
Maar dat is uiteraard wel een aanname.

[Robru1]

Hier Copilot voorlopig op Windows 11 al uitgezet via gpedit, en ook geen behoefte aan Recall

[Bor]

‘alles wat ze gedaan hebben’

En daar zit gelijk ook een behoorlijk privacy vraagstuk,zeker op PC's die bijvoorbeeld met andere mensen worden gedeeld. Tussen de AI screenshots kan gevoelige informatie zitten zoals bankgegevens, een screenshot wanneer iemand is ingelogged in bv een behandelomgeving bij een ziekenhuis of GGZ instelling etc. Ik vermoed / vrees dat deze informatie ook erg interessant is voor kwaadwillenden en wanneer exporteerbaar al snel gebruikt al gaan worden om mensen af te persen.

Microsoft waarschuwt hier zelf ook voor:

Note that Recall does not perform content moderation. It will not hide information such as passwords or financial account numbers. That data may be in snapshots that are stored on your device, especially when sites do not follow standard internet protocols like cloaking password entry.

[Reactie gewijzigd door Bor op 22 juli 2024 20:04]

[sympa]

Of wat denk je van een query doen op een pc waar de malware binnen is gedrongen. De zoekmachine voor de gevoelige data is al ingebouwd he.