Microsoft stelt omstreden Recall-functie voor Copilot uit

Microsoft heeft besloten de Recall-functie niet beschikbaar te maken bij de release van Copilot+-pc's half juni. Het bedrijf wil de functie uitgebreider testen nadat meerdere ontwikkelaars en beveiligingsexperts kritiek hadden geuit over de veiligheid van Recall.

“We stellen de release van Recall uit om de expertise van de Windows Insider-gemeenschap te benutten en ervoor te zorgen dat de functie voldoet aan onze hoge normen voor kwaliteit en veiligheid”, schrijft Microsoft in een blogpostupdate op donderdag. Wanneer de nieuwe testversie van Recall beschikbaar komt voor Windows Insiders-deelnemers is nog niet bekend.

Eind mei werd Recall aangekondigd als een prominente functie van Copilot+-pc's, die op 18 juni op de markt verschijnen. Microsoft omschrijft Recall als een 'fotografisch geheugen voor Windows'. De functie maakt meerdere keren per minuut screenshots die vervolgens door AI in een tijdlijn worden geplaatst. Niet lang nadat de functie beschikbaar kwam in het Windows Insiders-programma, volgde veel kritiek van ontwikkelaars en beveiligingsexperts.

Microsoft beweert dat het de gegevens lokaal opslaat en dat alleen de gebruiker toegang heeft tot de screenshots. Beveiligingsonderzoeker Kevin Beaumont liet echter zien dat externe apparaten die Recall officieel niet ondersteunen toch toegang kunnen krijgen tot de functie. Ook was het Microsoft-leaker Albacore al gelukt om Recall draaiend te krijgen op een low-end pc met een Snapdragon 7cx+ Gen3. Een ander nadeel van Recall is dat het gevoelige informatie, zoals wachtwoorden, niet automatisch uit screenshots schrapt.

Naar aanleiding van de eerdergenoemde kritiek voegde Microsoft afgelopen week meer beveiligingsmaatregelen toe aan Recall en maakte de functie opt-in.

Reacties (147)

[Robinblitz]

Nu nog permanent uitstellen a.u.b.

[Puff_Uncle]

waarom? je hoeft het zelf niet te gebruiken. Ik snap dat je het niet fijn vind voor jezelf vanwege veiligheid maar daarom zeggen dat niemand het mag hebben is een raar

[Blokker_1999]

Nee klopt, maar ik zie ook wel andere bezwaren voorbij komen. Stel, ik stuur je een mail en jij leest die mail met recall aan, ineens gaat die data dus ook naar Copilot voor analyse, ondanks dat ik dat mogelijks niet wens. Een probleem dat trouwens niet enkel bij hedendaagse AI systemen bestaat trouwens.

Aan de andere kant zijn er wel situaties waarin ik zelf wel gebruik zou maken van Recall, en het zelfs spijtig vind dat het on device blijft want cross device zoeken zou ook verdomd handig zijn. Al heeft MS wel een goede balans gevonden, als ze het kunnen waarmaken, door de data enkel lokaal op te slaan, en ik hoop uiteindelijk bij release ook beveiligd zodat enkel Recall onder die specifieke gebruiker de data van die gebruiker kan inzien.

[Ricco02]

Wat maakt het uit dat die data naar copilot toe gaat? Copilot draait lokaal. Jouw mailtje zelf zit al in de cloud.

Jouw mail word niet gedeeld met iemand buiten de ontvanger. Die copilot die het analyseert is nog steeds de ontvanger zelf die ook het mailtje heeft ontvangen van jou.

[mutsje]

todat jou patientdossier opeens op straat ligt want copilot had even snel schermafdruk gemaakt het heeft veel meer consequenties dan uitsluitend thuis gebruikers.

[Scriptkid]

copilot data verlaat de container niet !!

dat is een van de voorwaarde van Copilot en MS trust.

[Nico de Vries]

Dat is slechts theorie. De vraag is hoe de praktijk gaat werken met bugs, denkfouten, ontwerpfouten en mensen die hier bewust misbruik van gaan proberen te maken. Er worden constant fouten gemaakt door zowel Microsoft in de ontwikkeling als eindgebruikers in de bediening. Hoe goed bedoeld ook, sommige functionaliteit is gewoon veel te riskant.

[CriticalHit_NL]

Zoals iemand eerder al zei, de beste beveiliging tegen datalekken is dat de data er simpelweg niet is, punt uit.

[Sograd]

Zoals iemand eerder al zei, de beste beveiliging tegen datalekken is dat de data er simpelweg niet is, punt uit.

Daar heeft u met het patientdossier, BRP, belastingdienst, etc. zelf niet heel veel keuze in.

Ik denk dat bijvoorbeeld de belastingdienst u verzoek niet honoreert als u vraagt of ze u aangifte volledig analoog willen verwerken.

[HDoc]

Dit is een cirkelredenering. Privacy bestaat er uit dat bepaalde data niet verder verspreid wordt. Copilot helpt daar niet mee, want data wordt wel verspreid.

Een vraag die ik ook nog zou hebben is: Copilot wordt mede getraind op basis van de data die er in wordt gestopt. Ook al is de data zelf weg, wat blijft er dan over van de data in het zeg maar geheugen van Copilot?

[Scriptkid]

incorrect,

business copilot trained (als je het zo mag noemen) alleen binnen de sessie en weet niks meer van de sessie (of training als je het zo mag noemen) als jij de sessie sluit.

Alleen de publieke variant geeft geen garanties.

[CriticalHit_NL]

[...]


Daar heeft u met het patientdossier, BRP, belastingdienst, etc. zelf niet heel veel keuze in.

Ik denk dat bijvoorbeeld de belastingdienst u verzoek niet honoreert als u vraagt of ze u aangifte volledig analoog willen verwerken.

Het was meer als opmerking tegen het onvrijwillig screenshots maken door het OS, dit beeld materiaal zal ergens opgeslagen en hergebruikt moeten worden, het is beter gewoon dit soort data überhaupt niet te creëren en caches te legen waar nodig.

[MSalters]

En dat begint dus met data niet op het scherm tonen. Zodra die data op het scherm staat kun je er een foto van maken. CoPilot Recall maakt dat bepaald niet erger - daar is de data beter afgeschermd dan op de mobiel waarmee de foto is gemaakt.

Die patientendossiers die hierboven genoemd werden moeten dus niet zomaar opvraagbaar zijn, maar dat is doorgaans al redelijk geregeld (oa. met audits)

[WoutervOorschot]

Precies, en zodra je een mail hebt ontvangen met data staat dat toch al op de pc. Een extra screenshot in de vorm van recall maakt dan dus niks uit.

[ThunderThome]

Dan heb ik hier nog even een linkje voor je om door te lezen, de data valt namelijk gewoon in te zien. Het word namelijk op een pad buiten de container opgeslagen, hoe heb je anders persistent storage in een container?

[xoniq]

Hoe weet je dat !!

Closed source, Microsoft maakt enorm veel fouten, Windows is de grootste zero-day patiënt van de wereld, en überhaupt niet een veilig OS, en als er een bedrijf is die ik minst vertrouw, is het Microsoft.

Dus veel plezier met de term “MS trust”, het zegt helemaal niets.

[kiang]

Als je huisarts zn PC niet correct kan instellen is Copilot niet het probleem.

[Rarz]

En zelfs als ie 'm al correct ingesteld heeft en Copilot slaat het lokaal op, wat als over een jaar of twee de pc vervangen zal worden? Die oude bak verdwijnt ergens in een kast een drie jaar later staat ie bij het grof vuil aan de straat.

Recall is simpelweg een ontzettend slecht idee dat nooit gebouwt had moeten worden. Zeker niet als de ophef en al gevonden beveilingingslekken een indicatie zijn van de kennis en kunde aan de kant van Microsoft op dit gebied.

[HDoc]

Precies dat!

Van een bedrijf als Microsoft had je toch mogen hopen dat ze de ramificaties van zo'n ontwikkeling van tevoren door hadden geakkerd.

Blijkbaar zijn ze toch niet echt meer in contact met de eindgebruikers.

[AddictIT]

Dat is wel heel erg kort de bocht.

Een huisarts heeft geneeskunde gestudeerd, en dat is niet bepaald gerelateerd aan iets in de IT.
Je moet tegenwoordig bijna een master diploma behalen om te weten wat je allemaal moet/kan uitschakelen...

[HDoc]

Heel goed punt. Want hier gaat het al de bietenbrug op. Die PC van de huisarts, diens assistent, de POH-er en wie nog meer wordt niet door de huisarts zelf geïnstalleerd maar door het ICT-bedrijfje verderop. En die zetten Copilot natuurlijk gewoon aan. Net zoals de secretaresse die daardoor heel handig van alles snel kan terugzoeken.. handig maar intussen staan alle EPD's van de patiënten die de afgelopen 3 maanden langs kwamen gewoon in de Copilot van de PC bij de balie. Veel HIS'sen (Huisarts Informatie Systeem) zijn tegenwoordig web-based en als ik het zo zag wordt dat allemaal gewoon bekeken en geïnstalleerd.

[kiang]

Dat is helemaal niet kort door de bocht: als jij een reële angst hebt dat je huisarts "per ongeluk" recall heeft aanstaan en je vindt dat een risico, hoezo vertrouw je er dan op dat hij wel degelijke security heeft op zijn IT? Recall vindt je een probleem, maar dat hij een slecht wachtwoord, geen 2FA, geen full disk encryption heeft, dat is dan geen probleem?

Dit hele recall gedoe is zo'n enorm paniekzaaierij.

[Kroesss]

Die andere zaken zijn ook een probleem, daar heeft niemand het over.

Dat er andere problemen zijn, betekent alleen niet dat Recall geen additioneel probleem kan zijn.

[J_van_Ekris]

Dat je dat dus als risico ziet is absurd: eens de aanvaller op het systeem zit kan die inderdaad via de recall database screenshots van je dossier verkrijgen... Maar je volledige dossier is dus ook toegankelijk.

Dat is dus zeker niet zo!

Nu ken ik de security opzet van behoorlijk wat ziekenhuizen, en die gebruiken juist oplossingen zoals Citrix en RDP om te zorgen dat lojale machines niet een vergaarbak worden van allerhande informatie. En los van wat ik van die oplossing vindt, gaat Recall nu wel al die data buiten dat domein plaatsen door structureel screenshots te maken. Dus er is wel degenlijk een issue omdat daarmee alle autenticatie en autorisatielagen van die oplossing buiten spel worden gezet. Dus dat is wel degenlijk een serieuze zaak.

[kiang]

die gebruiken juist oplossingen zoals Citrix en RDP om te zorgen dat lojale machines niet een vergaarbak worden van allerhande informatie.

En die gebruiken dus ook centraal device management waarmee recall gewoon uitgezet kan worden.

Wederom: paniek om niets. "Een serieuze zaak" is echt zo enorm overdreven.

[wiseger]

Echt grote onzin. Citrix wordt heel vaak op BYO devices gebruikt.
Bedrijven gebruiken dan wel scan software om op spyware te controleren maar veel verder gaat dat niet. Een bedrijf kan geen policy uitrollen naar een device dat niet hun eigendom is.
Dergelijke devices worden nu ineens grote risico's voor data lekken doordat er elke minuut een screenshot wordt gemaakt die lokaal wordt opgeslagen.

[Sograd]

Ergo: recall is enkel een risico als je patiëntendossier sowieso al kwetsbaar is.

Dit is een onjuiste redenatie. Je patiënt dossier kan gewoon in een encrypted database op een server staan. De screenshots van recall staan echter op de harde schijf van de cliënt pc. En die screenshots staan daar nog steeds, ook nadat de arts het dossier heeft gesloten.

[kiang]

Als de aanvaller bij de recall database kan heeft die admintoegang tot het systeem: dan kan je wel leuk zeggen dat je alles 'via de cloud!' doet, maar als de aanvaller een RAT kan installeren, dan is niets wat je doet op de machine veilig.

[Bor]

Dat je dat dus als risico ziet is absurd: eens de aanvaller op het systeem zit kan die inderdaad via de recall database screenshots van je dossier verkrijgen... Maar je volledige dossier is dus ook toegankelijk.

Doorgaans staat je dossier niet lokaal op de laptop van een arts Daarbij geeft toegang op moment x normaal niet automatisch toegang tot informatie op moment voor x. Dat kan met recall wel.

[kiang]

Daarbij geeft toegang op moment x normaal niet automatisch toegang tot informatie op moment voor x

Zeker wel: je browser cache (met niet alleen gecachte webpagina's, maar ook access tokens) om maar iets te noemen.

[Bor]

Die access tokens zijn bij een goed systeem al lang verlopen. Recall gaat veel verder terug.

[Klauwhamer]

Dat is het niet. Je maakt er een drogredenering van door te stellen als A, B, en C (mogelijk) al slecht zijn, dan kan D er ook nog wel bij. Zo werkt het niet met aanvalsvectoren. Daarnaast staan huisartsenpraktijken sowieso onder enorme (financiële) druk en is de IT-huishouding al snel zowel onderbetaald als ondergeschoven. En dan gaat het mis. Dan is er publieke verontwaardiging en gaat 't een paar dagen aan de talkshowtafel over werken met bijzondere persoonsgegevens en hoe "efficiency" en "kostenbesparingen" vaak tot ernstige problemen lijden en dat het allemaal beter moet. Een paar maanden later rinse & repeat.

[Bor]

4. Om dat doenscenario werkelijkheid te maken heeft een aanvaller dus volledige admin toegang nodig tot het systeem.

Nee hoor. User level is genoeg gezien deze user de recall geschiedenis terug kan kijken. Ik lees een hoop klok en klepel hier.

[Sograd]

Helemaal geen drogreden, gewoon logisch redeneren:

Dat is het wel zeker.

1.Recall heeft lokaal screenshots in de database.
2. De arts werkt lokaal aan je patiëntendossier, waardoor daar screenshots van in je recall database kunnen komen (indien je arts geen goede device management doet)

De arts kan prima met een cloud applicatie werken om het dossier bij te werken. Data staat dus niet lokaal op zijn pc. Staat waarschijnlijk in een encrypted database op een server. Zodra de huisarts dat programma afsluit zijn de gegevens lokaal niet meer beschikbaar. De screenshots blijven echter op de lokale omgeving staan. Er is een extra kopie van de data op een locatie waar je het niet had willen hebben.

[wiseger]

Wederom onzin. Een aanvaller moet eerst toegang tot duizenden computers krijgen om de spyware te installeren. Daarna moeten ze maandenlang data verzamelen zonder gedetecteerd te worden. Pas dan kunnen ze oogsten.

Nu wordt het anders. De data is al maandenlang lokaal verzameld, een zero day exploit is dan voldoende om duizenden computers in een paar uur leeg te trekken. Kans op ontdekking is dan minimaal.

[Ricco02]

Maar hoe kan het op straat komen als al deze data lokaal blijft? Enige manier is als de laptop gestolen word kan het denk ik niet op straat komen te liggen.

Kan jij mij dat uitleggen?

Als de laptop gehackt zou zijn zou er waarschijnlijk toch een RAT op zitten. Dan hebben ze recall niet eens nodig om mee te kijken.

[Reactie gewijzigd door Ricco02 op 22 juli 2024 13:48]

[wiseger]

Heel eenvoudig, de data wordt lokaal opgeslagen. Een arts die thuis op zijn vrije dag met zijn eigen PC inlogt via Citrix krijgt ineens lokaal een opslag van zeer gevoelige informatie.

Dit geldt voor alle bedrijven die met dergelijke systemen werken.

[Ricco02]

Klopt. Maar dit is iets wat dit soort bedrijven dus dan moeten handhaven. Lijkt mij niet dat een bedrijf iemand vanaf huis op zulk gevoelige informatie laat inloggen toch?

Bij onze firma kan je vanwege deze reden alleen vanaf de zaak inloggen op het productie netwerk. Niet van buitenaf.

[wiseger]

Daar vergis jij je in. Heel veel bedrijven gebruiken BYOD. Sinds Corona zijn meerdere thuiswerk dagen ook heel normaal geworden.

Met Citrix, VPN, MFA en aanvullende beveiligingssoftware was dat ook redelijk veilig allemaal.

Tot nu dan want Windows gaat elke minuut een screenshot maken en die lokaal opslaan.

Dat betekend dus het einde van BYOD.

[Ricco02]

En prima toch? Ik zou niet weten waarom personeel zo nodig werk gerelateerde dingen op persoonlijke apparatuur moet hebben.

Dit is niet de verantwoordelijkheid van Microsoft overigens, maar van de bedrijven.

[wiseger]

Mensen zijn bepaalde eco systemen gewend. De een wil een Apple telefoon, de ander wil een Android.

Verder wil je geen twee telefoons maar gewoon eentje voor zakelijk en prive. Zakelijk bel je dan bijvoorbeeld met Teams.

Hetzelfde geld voor je werkomgeving thuis. Heb jij sinds Corona een dikke PC met twee grote monitoren, dan wil je niet ineens zakelijk thuis op een Dell laptopje met 14 inch schermpje werken.

Dat veranderd ineens als BYOD afgeschaft wordt. Genoeg werkgevers die niet een tweede dikke werkomgeving voor thuis willen leveren, laat staan onderhouden.

Microsoft moet gewoon beter nadenken voordat ze functionaliteiten als Recall uitrollen. De impact is enorm.

[bakkerken]

Je zal allicht zelfs je recall data kunnen inkijken, dus user access is genoeg en dat zegt dan direct ook genoeg over hoe makkelijk iemand er mee kan gaan lopen. Virusje binnen die upload naar server, usbtje in unattended pctje en even snel overkopiëren, etc...
Het lijkt mij iets waar iemand zelf zelden gebruik van gaat maken waar onnodig véél risico aan vast hangt.

[meathome]

toen ik verzocht om mijn dossier bij de huisarts kreeg ik een week later een email binnen op een google account met een attachment....zelfs zonder recall gaat er al veel mis met privacy.
dus natuurlijk dient recall standaard uit te staan, maar gaat dat helpen in een wereld waar (privacy) rechten keer op keer ondergeschikt worden gemaakt aan economische groei, gebrek aan kennis en gemak?

[Reactie gewijzigd door meathome op 22 juli 2024 13:48]

[Richardus27]

Copilot draait lokaal. Iemand krijgt toegang tot je PC/Laptop, zij het met een hack of diefstal.

Ze gaan naar de index, en daar staan mooi screenshots van je bankomgeving, patientdossier, belastingaangifte, gegevens van je werk, creditcardpagina, etc.

Windows zei zelf al dat copilot niet zelf kan beslissen om wachtwoorden of gevoelige gegevens automatisch te blurren, en dat het aan de gebruiker is om handmatig sites/programma's/etc te blokkeren in het menu (wat 99% van de gebruikers niet gaat doen)

En laten we even realistisch wezen, de track record van elk groot bedrijf mbt persoonsgegevens is een zwart gat. Microsoft zegt nu dat het lokaal draait, dat zij zelf geen toegang hebben, etc. Over een jaar of 2 zetten ze het met een update default aan. Een jaar later gaan ze toch de info doorverkopen aan ad bedrijven voor "een betere gebruikerservaring met content speciaal op jou gericht!" maar geen zorgen het profiel is volledig anoniem!

[Loller1]

Copilot draait lokaal, en als iemand je PC of laptop in handen krijgt gaan ze toch echt eerst voorbij Windows Hello moeten komen om aan die gegevens te geraken. Wat waarschijnlijk toch een tikkeltje moeilijker is dan gewoon je browser/mail client te openen.

En kunnen we ophouden met die onzin dat ze het default aan zouden gaan zetten of dat ze het dan alsnog zouden beginnen versturen? Letterlijk nergens op gebaseerd, pure FUD. Om nog maar te zwijgen over het feit dat als Recall aanstaat er een heel duidelijk icoon in de taakbalk staat dat niet verplaatst of verwijderd kan worden om te tonen dat Recall werkt.

[purge]

Copilot draait inderdaad lokaal en iedereen die toegang heeft tot deze (onversleutelde) map/database kan hier gebruik van maken. waaronder administrator; Veelal dus je gezinsleden die (helaas vaak) ook admin zijn op de computer. Vergeet ook de malware, bugs en de beheerders van je zakelijke computer niet.
Ik vergelijk het een beetje alsof iemand de 24x7 met een camera met je meeloopt en alles vastlegt.

Tuurlijk het idee van de zoekfunctie kan best goed zijn. “Ik was laatst op zoek naar een een rode handtas, weet je nog waar de beste te koop is?” Reactie: “Zeker, je hebt eergisteren op 3 online webshops hiernaar gekeken, de goedkoopste met de beste recensies is deze. Klik hier om te bestellen.”

Waar de beveiligingsexperts over vallen is het soort gegevens welke niet handig zijn (waaronder met name: wachtwoorden, betaalgegevens) en en de manier waarop de gegevens worden opgeslagen, zeer beperkte vorm van beveiliging (lees: praktisch niet).

Nog los van de vraag of deze functie wel zo handig is. In zijn huidige vorm zeker niet.
Microsoft geeft niet voor niets aan dat het voorlopig is uitgesteld.

[WoutervOorschot]

Zodra iemand of iets toegang (admin of niet) tot je pc of account heeft ligt je data toch open. Je hoeft geen screenshots te hebben (recall) als je direct de mails/data/wachtwoorden kunt stelen.

[timeraider]

Haha, altijd leuk dat er nog mensen zijn die denken dat dingen als Windows Hello en standaard MFA opties ook echt meer doen dan het stoppen van massa-bot aanvallen. Alsof die opties ook maar invloed hebben op een gerichte aanval.
De hoeveelheid hacks die ik al heb zien langskomen die gewoon overal bij kwamen zonder dat Windows Hello of MFA ook maar getriggerd werd.

[ronaldmathies]

De reden dat iedereen dat roept is omdat het default aan zou staan, dat hebben ze pas na een hoop reacties aangepast.

Het zegt iets over de mindset van Microsoft. Ze mogen dan wel “voorlopen” in de AI race, maar ze pakken het weer op de Microsoft manier op, half bakken, vol met issues. En nu zie je ze sinds de presentatie allemaal damage control doen.

Het is toch triest dat je een feature introduceerd en privacy organisaties gaan meteen een onderzoek er naar doen.

[latka]

Booten met een rescue disk et voila. Dan dus BitLocker nodig maar dat kost ook maar 43 seconden. En de default aan was een ms opmerking. Geen fud. Ik zie wel dat dit handig kan zijn, maar ik denk dat er eerst zaken geregeld moeten worden zoals een whitelist van applicatie die gescreenshot kogen worden en sdks die het mogelijk maken voor een app developer om delen van een applicatie te blurren.

[wiseger]

Tja tracking record. We kennen allemaal nog de verplichte foto's van je huiskamer die de Xbox zou gaan maken.

Pas na de kritiek besloot Microsoft het toch niet te doen.

[ronaldmathies]

Er wordt de hele tijd geroepen dat het lokaal draaid maar schijnbaar zijn er. Ogal wat grote security issues waardoor het nu uitgesteld wordt. Er is nu al zoveel gerommel om die recall functie, het zou helemaal veilig zijn maar er is een enorme backlash. Bij Microsoft is er altijd dit soort gedoe.

[Kastermaster]

Volgens mij staat in diverse non-disclosure agreements dat dit niet mag. Ik heb er de mijne op nageslagen en daar staat in ieder geval impliciet in dat ik deze functie niet mag gebruiken. Dus deze functie standaard aan zetten kan grote gevolgen hebben ja.

[Edsger]

Windows recall is niets anders dan een geavanceerde zoek-functie. Waarom wil je dat jouw mail niet gevonden wordt door recall? Je mails zijn nu ook gewoon te vinden met de standaard zoekfunctie van Windows (icm desktop Outlook).

[mcmd]

Bij mij staat dat ook uit ;-)

[Cyberpuppy]

Er gebeurt genoeg op een laptop waar je juist geen informatie van wilt achterlaten. Denk aan je banksaldo, patientendossier. Maar ook alles dat in een incognitovenster draait.

Dit voegt alleen weer een attackvector toe. Zou dus mooi zijn als je het bewust aan moet zetten, ipv uit als je het niet wilt.

[Edsger]

Snap ik, maar ik reageer dan ook op @Blokker_1999. Hij schetst een scenario waarbij hij niet wil dat de ontvanger van zijn mail recall gebruikt.

[hellum]

De huidige zoekfuncties indexeren niet mijn banksaldo, overzicht bij duo, belastingaangifte, hypotheekoverzicht, MijnOverheid inbox, alle afbeeldingen die ik via Discord toegestuurd krijg, al mijn wachtwoorden en de privecommunicatie met mijn vriend.

Is nogal een wezenlijk verschil

[Edsger]

Zie mijn reactie op @Cyberpuppy. Blijkbaar is door de vele reacties niet duidelijk dat ik specifiek reageer op @Blokker_1999. Hij wil dat andere mensen geen recall gebruiken.

[tweakorinho]

Het is heel vreemd om te suggereren dat je een reden moet hebben om niet een willekeurig ongewenst programma door jouw leven te laten grasduinen.

[wiseger]

Onzin. Een foto van je scherm elke minuut betekend ook elke minuut een foto van je beveligde werkomgeving.

Tot op heden waren die afgeschermt van lokale indexerings functies.

[arbraxas]

A Omdat het zich niet beperkt tot mail.
B Het maakt screenshots en slaat die NU nog lokaal op
C MS zegt zelf al dat het niet in staat is om gevoelige data te blurren.
D Ik wil dit helemaal niet, ook geen software op mijn pc die dit eventueel kan.

E de allerbelangrijkste:
Dit is gewoon big brother is watching you. Gaat gewoon niet gebeuren.
Ben al half over op Linux. Dan helemaal.

[CyberJack]

Ben al half over op Linux. Dan helemaal.

Thuis al jaren. Nu ze alleen op mijn werk nog zover krijgen.

Overigens doen/deden sommige distro's ook dingen die niet wenselijk zijn. Zo heeft Ubuntu ook ongevraagd gegevens met Amazon gedeeld. Dit was wel uit te zetten, maar ook daar stond het standaard aan. Zo erg als iedere x seconden een screenshot maken (+verwerken +de impact op je stroom verbruik) heb ik gelukkig nog niet gezien. Voordeel is dat je bij Linux niet aan 1 distro vast zit. Je kan gelukkig zelf kiezen welke distro het best bij je past.

[Puff_Uncle]

ja dat snap ik, helaas ben ik er eigenlijk al vanuit gegaan dat als ik een email verstuur hij niet meer prive is. gmail analyseerd al een tijdje mails van gebruikers. mails naar bedrijven zijn ook bijna nooit prive.

[wiseger]

Als ik via mijn Citrix verbinding een bedrijfsemail naar een collega verstuur, dan verlaat die email nimmer het beveiligde bedrijfsnetwerk.

Nu krijg je een lokaal screenshot van die email.

[Puff_Uncle]

ja maar je bedrijf kan ze wel inzien. en die worden ook op een server opgeslagen

[wiseger]

Jazeker, opgeslagen binnen het beveiligde bedrijfsnetwerk en dus niet op de onveilige thuis computer.

[HDoc]

Privacy betekent niet dat data er niet is, maar dat data niet verder wordt verspreid. Met Copilot is er wel verspreiding van informatie.

[DCG909]

Data die met een simpel script eruit te vissen is door de goede compressie. In minder dan een minuut zou de hele data set binnen te halen zijn volgens iemand die er dus een proof of concept voor gemaakt(?) heeft.

Nee dankje, ik zie liever dat dit soort features een optionele download zijn, zodat het ook niet door een bug, virus of "oeps, configuratie foutje van Microsoft" aangezet kan worden.

[DigitalExorcist]

Stel dat jij mij mailt. Ik heb een Gmail adres. Google is de grootste advertentieboer ter wereld...

[timeraider]

Daarom hebben professionele bedrijven ook geen gmails ofc.

[DigitalExorcist]

Nee maar professionele bedrijven kunnen mij als particulier wél mailen, en andersom kan ik hen vanuit m'n Gmail account ook mailen..

[HerrPino]

En met welke partij stuur jij die email? Gmail, Outlook? Misschien dat je van Proton er vanuit kunt gaan dat je mail niet gescanned wordt, buiten automatische spam detectie.

[MarcoC]

Recall draait volledig lokaal, dus er gaat geen data naar buiten, in tegenstelling tot Apple Intelligence (wat verbazingwekkend genoeg alleen maar positieve reacties krijgt).

[wiseger]

De data staat lokaal opgeslagen, dat is het probleem. Thuis computers zijn zeer gevoelig voor hacks omdat maar weinig mensen hun lokale beveiliging in orde hebben.
Bedrijfsnetwerken zijn veel beter beveiligd.
Nu moeten bedrijven ineens omgaan met opslag van hun data buiten hun eigen systemen.

[crzyhiphopazn]

Cross device kan al en dat heet Microsoft One-Drive

[WoutervOorschot]

De data staat al op de pc van de gebruiker, maar nu ook in een doorzoekbare vorm.

Of nou alleen de tekst van de mail of ook een screenshot van de mail op iemands apparaat staat maakt dan toch geen verschil?

[Cyberpuppy]

Zelfde als met een ouderwetse brief. Op het moment dat jij het verstuurd heb je er feitelijk geen controle meer over. Is dan aan de ontvanger om er netjes mee om te gaan. Dat was al zo en zal met Recall niet veranderen.

[Militia Pilot]

Omdat Microsoft het oorspronkelijk niet opt-in wou maken, maar opt-out, dus het zou standaard aan staan.

[Loller1]

Microsoft wou het oorspronkelijk wel opt-in maken. Er werd intern al gepraat nog voor de functie werd aangekondigd om het toe te voegen aan de OOBE. Dat enkele Insiders die stukjes van de app bij elkaar schraapte om het aan de praat te krijgen bevonden dat dat er op dat moment nog niet in zat maakt niet dat het hele ding niet opt-in was...

Er is genoeg om Recall op te bekritiseren. Dat het niet opt-in zou zijn hoort daar niet bij.

[Reactie gewijzigd door Loller1 op 22 juli 2024 13:48]

[geert1]

Als de functie er komt, en standaard uit staat, dan is dat alsnog een stap in de verkeerde richting. Enkele patch-rondes later kan Microsoft bijvoorbeeld weer proberen om het verder door te drukken. Zoals standaard inschakelen, of de beelden toch gaan uploaden naar Microsoft-servers voor verwerking.

De screenshots die deze functie neemt bevatten standaard alles, inclusief persoonsgegevens, betaalgegevens, enz. Apps moeten zelf aan gaan geven wat er niet in de screenshot mag komen, en het is maar de vraag of alle apps dat gaan doen. Ook zouden we continu in de gaten moeten houden of de beelden toch niet geüpload worden naar Microsoft of elders, en de beelden zouden ook roofgoed zijn voor kwaadwillenden. Waarom zouden we deze risico's gaan lopen?

Dit is een enorm ingrijpende functie waar de eindgebruiker niet om gevraagd heeft. Al die screenshots zijn meer nuttig voor AI-training of het volgen van gebruikers, dan voor de eindgebruiker zelf. Hoe vaak zou jij of ik echt moeten of willen zien wat er uren geleden precies op het scherm stond? Wie vraagt hier precies om? Dit stinkt naar het vergaren van data boven alles.

En als internetters niet waren gaan klagen dan zou Microsoft deze functie hebben doorgevoerd én standaard hebben ingeschakeld. Dus maar goed dat er kritisch naar gekeken wordt.

[Terrestrial]

Ik ben het helemaal met je eens, het idee alleen al dat deze "functie" bestaat is schandalig. Zo kan Microsoft en de Amerikaanse overheid bij elk bedrijf informatie vergaren onder het mom van dit heb je echt nodig hoor.

Ik wordt al schijtziek van die onnozele AI hype die nergens op slaat en dan wordt er nog eens op deze manier misbruik gemaakt. En dan kun je wel zeggen, ga dan over naar linux maar zo simpel is dat natuurlijk niet.

[Puff_Uncle]

ja vind ik ook, het liefst helemaal open source zodat er naar de code gekeken kan worden. Bij elke feature moet kritisch naar veiligheid gekeken.

[The Zep Man]

ja vind ik ook, het liefst helemaal open source zodat er naar de code gekeken kan worden.

Opensource is niet voldoende. Reproducible binaries en de mogelijkheid voor een gebruiker om eigen gecompileerde binaries (eventueel met signature van MS) te installeren zijn nodig.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 13:48]

[trisje]

Er zijn ook weer mensen die geen idee hebben wat ze aan en uit zetten op de PC. Bovendien als ze dat wel hebben en het is simpel gezegt onveilig. dan is het beter om het niet te gebruiken, beetje het zelfde verhaal als geen paswoord gebruiken of een simpel password. Bovendien wie wilt een PC die 24 uur per dag van alles wat men op de pc doet foto's maakt. waarom zou men dat willen ? Men kan toch in de documenten en de e-mail kijken. Ik zou zo'n pc nooit nemen ook al wordt het locaal opgeslagen. want van locaal is de volgende stap naar onedrive. voor dat men het weet ligt het in the copilot cloud.

[Baardmeester]

Als het ingebakken zit zullen er vast exploits komen die het aanzetten. Het is gewoon een groot beveiligingsrisico.

[hawkeye73]

Als dit niet zelf geïnstalleerd hoeft te worden, dus meegeïnstalleerd word en uitgeschakeld denk ik toch dat voor veel bedrijven dit een nogo gaat worden. kwestie van scriptje aanzetten en nachtmerrie is geboren.

[svennd]

Omdat het een stap is die we niet willen zetten. Zodra Recall draait zullen werkgevers het gebruiken om tot op de (10) seconden checken of je wel aan het werken bent. (om maar een voorbeeld te noemen)

Overdreven ? Wat met alle bedrijven die wel kijken of de muis genoeg beweegt bij remote work ?

Google was ook "don't be evil", tot er geld verdient moet worden.

[Rafo]

ze kunnen het als los packet verkopen/leveren. Als het onderdeel is van windows, wil ik het niet, te weinig vertrouwen in MS.

ze hebben met laatste update weer dingen meegeleverd die je niet kan verwijderen.

ik ga naar linux volgende maand

[Polderviking]

Ik wil niemand features ontzeggen, maar dit soort dingen opt-in maken vind ik geen slecht idee.

[Cobalt]

Vanuit webapplicaties moet het mogelijk worden dit te blokkeren. Zodat Recall geen screenshots neemt van bank, ziekhuis, gemeenteloket, etc. applicaties.

[nullbyte]

Waarom? Ik zal een hypothetisch scenario schetsen er van uitgaande dat de recall is uitgeschakeld.

De gebruiker heeft een PC die is besmet met malware X. Deze zet recall aan middels nog onbekende 0 day en wacht een tijd x. Vervolgens wordt data geanalyseerd door recall en geexfiltreerd door de malware. Stel dat de gebruiker Pokemon kaarten spaart. De cybercriminelen in kwestie hebben nu de perfecte mogelijkheid om spear phishing mails te maken. Ter verduidelijking, spear phishing is op maat gemaakte malware.

Sommige malware heeft als functie om foto's te maken van het device dat gehackt is. Wat is het toch mooi dat Microsoft deze functionaliteit al aanbied voor cybercriminelen/bad actors en nation state actors. Die eenmaal admin rechten op een Powned systeem hebben verkregen. Nu met gratis ingebouwde analyse. In cyber security vakjargon wordt dit LOTL genoemd (Living of the land).

In deze tijden waarin al een tijdje een Cyber oorlog gaande is en cyber security steeds relevanter wordt is dit een er slechte feature. Of deze nu uit of aan staat op het OS is irrelevant

[Llopigat]

Dat gaat niet gebeuren. Microsoft is all-in op AI. Het is nu gewoon voor de vorm, want deze week moest MS voor het congres komen omdat ze niet adequaat hadden gereageerd op cyberaanvallen van China en Rusland: nieuws: Microsoft-topman Brad Smith erkent gemaakte fouten rondom beveiliging

Dus het snel uitbrengen van een functie die al in een kwaad daglicht stond op securitygebied is slechte PR. Maar de info die recall verzamelt gaat ongetwijfeld een enorme rol spelen in het verder personaliseren van AI assistenten en daar willen ze vol op inzetten.

Ik wil zulke informatie ook niet in gesloten software hebben. Ik zie het nut er wel van in maar het moet voor mij gewoon volledig onder mijn controle zijn.

[Reactie gewijzigd door Llopigat op 22 juli 2024 13:48]

[redniels]

https://www.theregister.c...ll_sme_benefits/?td=rt-3a

[Mizgala28]

Gewoon uit by default is genoeg.

Maar kijkend naar hoe hard ze de MS account pushen, zie ik MS dit op ten duur stilletjes invoeren als de storm voorbij is.

[paardje]

Juist, helemaal met je eens! Ze hadden het nooit moeten uitrollen!

[ronald136813]

ja inderdaad wat ee n verschrikkelijke en overbodige en inbreuk op de privacy.
ik wil niet en ook het bedrijf waar ik werk dat er screenshots van dingen waar we moeten inloggen of ikzelf als ik aan het bankieren ben of dingen aan het zoeken ben
windows word dan gewoon een spyware product , dat is het eigenlijk al grotendeels.

ik las al dat er een hoop weerstand is gekome.
ik heb geen pc+ machine dus zou er niet direct last van gehad hebben maar je wilt dit soort dingen gewoon niet, snap ook niet de toegevoegde waarde voor de gebruiker.
om de 3 seconden een snapshot van wat er dan op je scherm staat das 20 keer per minuut , 120 screenshots per uut gaat het niet denk ik dan.

[webster]

Er zijn veel domme "AI" producten/features tegenwoordig, maar dit was toch wel een toppertje.

[disjfa]

Dit is gewoon dezelfde oplossing die apple en google ook in hun software doen, alleen dan software onafhankelijk. Dus waarschijnlijk als doel handiger, maar als uitwerking discutabel.

[RefriedNoodle]

Dit is gewoon dezelfde oplossing die apple en google ook in hun software doen, alleen dan software onafhankelijk.

Wacht even, dit is nogal een uitspraak die je hier doet... Waar houden Google en Apple elke paar seconden bij wat er op mijn scherm gebeurt? Waar kan ik zoeken naar stukjes tekst die ik ooit in notepad heb getypt maar daarna gedelete en nooit heb opgeslagen?

[MarcoC]

Met Apple Intelligence (zoals deze week aangekondigd) worden al je emails en berichten geanalyseerd om samenvattingen te maken en verbeteringen aan te bevelen. Dit gebeurt gedeeltelijk in de cloud. https://www.apple.com/apple-intelligence/

[SuBBaSS]

Private cloud ja.
Niet onbelangrijke nuance.

Net zoals de rest:

Apple Intelligence is designed to protect your privacy at every step. It’s integrated into the core of your iPhone, iPad, and Mac through on-device processing. So it’s aware of your personal information without collecting your personal information. And with groundbreaking Private Cloud Compute, Apple Intelligence can draw on larger server-based models, running on Apple silicon, to handle more complex requests for you while protecting your privacy.
Private Cloud Compute

Your data is never stored
Used only for your requests
Verifiable privacy promise

Jij "zoekt" naar iets en denkt dat diezelfde beveiligingsexperts die bij Recall lopen steigeren hun mond braaf houden in het geval van Apple?

[disjfa]

Ik weet niet hoe en wat apple bijhoud met hun AI, en in welke programmas. En dat maakt het eigenlijk spannender, vind je niet.

[jfdaniels]

Ik was eerlijk gezegd best enthousiast, maar dat lijkt niet de populaire mening te zijn.

Ja, er zijn zeker wat zaken die goed bekeken moeten worden qua veiligheid, maar het belangrijkste punt voor mij is dat dit lokaal draait.

Als hackers toegang hebben tot je pc hebben ze ook toegang tot alle andere zaken die hierboven als tegenargumenten worden gegeven.

Wachtwoorden lijkt me echt een non issue. Wanneer zijn je wachtwoorden ooit zichtbaar op het scherm? Password managers blokkeer je uiteraard meteen als app (en zelfs daar moet je ze in principe nooit zien).

Ja true, ze hebben meteen een soort index, maar hetzelfde geldt voor je notes app of je email client.

Aan de andere kant zie ik veel voordelen:
* eindelijk een goede zoekfunctie voor mails.
* deftige samenvattingen van meetings en todos
* eindelijk een hele dichte samenwerking met AI (bv, ik zit nu op een website te kijken en wil daar feedback op) zonder dat alles in screenshots gezet moet worden

[dennizzz]

Wanneer zijn je wachtwoorden ooit zichtbaar op het scherm?

Als je op het oogje drukt in het wachtwoordveld. En als je het wachtwoord handmatig copy/pasted vanuit je wachtwoordmanager.

Maar wat dacht je van MFA-secrets? Die krijg je vaak in QR-vorm in beeld. Normaal klik je die daarna weg, maar nu is er een screenshot van in de Recall-database...

[leegethas]

De private-key QR-code of de Seed Recovery Phrase van een Bitcoin wallet...

Toegegeven, het is niet handig om dat op een dergelijke computer te doen. Maar waarschijnlijk gaat dat wel gebeuren, omdat mensen daar simpelweg niet bij stilstaan.

[MarcoC]

TOTP codes zijn maar zeer beperkt geldig, dat is niet echt een risico.

[dennizzz]

Ik bedoel niet niet de codes zelf, maar de QR-code die je moet scannen met je authenticator om 'm daarin op te slaan. Daarin zit een secret. Als je die los hebt, kun je zelf TOTP-codes genereren.

[ThunderThome]

Wat ik niet begrijp is dat als je als ontwikkelaar aan zo'n soort product werkt, dat je dan zelf niet even kritisch nadenkt van hmm is dit wel zo'n goed idee? Is het wel veilig of hoe kunnen we dit veilig doen? Het lijkt er namelijk meer op dat er intern een manager iets heeft geroepen, daar wat notities voor op een kladblok heeft gesmeten en aan een ontwikkelaars team heeft gegeven met het bericht van 'Dit is mijn idee, zo moet het worden en doe het maar', zonder even met ze allen dan een stap terug te doen en het uit te werken.

Zelf ben ik ook werkzaam in de IT en hoevaak ik wel niet opdrachten naar mij toe geduwd krijg met het bericht van dit wil ik, maak het maar! En dan kijk ik er even naar en dan is er echt totaal niet over nagedacht maar het moet wel morgen af zijn Dan ben ik nog iemand die een stap terug doet en zegt, waarschijnlijk is het het einde van de week af. Maar kom er ook genoeg tegen die zonder blikken en blozen het gewoon neerkwakken om er maar vanaf te zijn en ik krijg een beetje het gevoel dat dit ook het geval is geweest met Recall.

[arbraxas]

Is wel naar gekeken door management.
Verwachte baten zijn veel groter als de kosten. Gaan we doen 💲💲💲💲💲💲💲💲💲💲💲💲💲💲

Geen enkele techneut had invloed bij die beslissing.

[TD-er]

Of het is dusdanig vernipperd over diverse afdelingen dat geen van allen het totaalplaatje te zien kreeg.
En dan kun je als ontwikkelaar wel je kanttekening erbij zetten dat dit potentieel gevaarlijk kan zijn, maar als deze berichten niet bij de persoon komen die besluiten het te combineren of dat die niet snappen wat ze nou bedoelen met gevaarlijk, dan krijg je dit soort gedrochten.

[Anoniem: 454358]

mooi dat het opt in is. al zullen ze dat wel op de gebruikelijke uiterst irritante ms manier pushen.

voor mij zie ik totaal geen nut in het opslaan van alles wat ik doe.

[Hell-Slave]

Konden ze dit niet zelf verzinnen dat niemand hier op zit te wachten?
Of was dit weer iets verzinnen om iets te verzinnen, want vooruitgang...

[drakiesoft]

Het is superhandig. 60% van de tijd ben je nl bezig met zoeken naar informatie.

[Robtrip]

Het is wel een beetje een blamage voor MS, dit was een grote main features voor CoPilot. Waarschijnlijk is hier lang aan gewerkt en nu blijkt het op privacy gebied onveilig te zijn. Zo kan de Admin van jou account kan bij jou gegevens, wat wel heel onwenselijk is voor werk.
Ik vraag me ook af of dit uitstel besluit beïnvloed is door Apple zijn recente AI aankondigingen waar juist een hele sterke focus op privacy ligt.

[n00bs]

Ik zie geen nut waarom een groot bedrijf dat bestaansrecht heeft door veel geld binnen te harken en verdiend aan dataverwerking/verkopen + advertenties (idem dus Google, Apple) om toegang te geven tot persoonlijke gegevens nadat je al een licentie betaald hebt voor een OS, betaald voor software/licenties en eigen hardware. Het is ronduit schandalig en iedereen zou moeten stoppen om dit te stimuleren. Lekker overstappen op Linux.

[Anoniem: 532949]

Mooi, moet er niet aan denken dat ik per ongeluk via co-pilot een van de NDA's breek voor mijn werk.

Als ik AI op mijn PC wil dan doe ik dit wel via Ollama en opensource modellen

[beerse]

Op mijn android telefoon is mij de laatste tijd opgevallen dat er applicaties zijn die kunnen voorkomen dat er een screendump gemaakt wordt. Een bank-applicatie kan bijvoorbeeld voorkomen dat er een screendump gemaakt wordt en als andersom er een screendump-achtig proces bezig is, dat de bank applicatie niet wil starten. Dit allemaal om te voorkomen dat mijn bank gegevens in de screendump de verkeerde kant op gaan.

Hoe verhoudt zich dat met deze automatische, continue screendump functie?

Enneh, ze zeggen dat ze voorkomen dat wachtwoorden in beeld komen. Hoe herkennen ze dat? Natuurlijk, op de meeste plekken komt mijn wachtwoord al niet in beeld. En nee, ai gaat dat wachtwoord niet kunnen herkennen want het moet er uit zijn voor dat ai met het beeld aan de gang gaat.

[ShadLink]

Onder Windows kan je met SetWindowDisplayAffinity voorkomen dat er een screenshot van je applicatie wordt gemaakt.

[Loller1]

Die blokkades die Android (en iOS) opgooien zijn makkelijk te omzeilen, maak je daar maar geen illusies over. Dat gezegd hebbende heeft Windows ook zo'n APIs.

[Reactie gewijzigd door Loller1 op 22 juli 2024 13:48]