SURF waarschuwt onderwijs- en onderzoeksinstellingen voor Microsoft 365 Copilot

Onderwijs- en onderzoeksinstellingen moeten terughoudend zijn met het inzetten van Microsofts AI-assistent Copilot, adviseert SURF. De organisatie zet de privacyrisico's van Copilot in het Microsoft 365-aanbod nu op oranje. De inzet van Copilot wordt niet meer volledig afgeraden.

SURF, een ict-coöperatie voor onderwijs- en onderzoeksinstellingen, adviseert die instellingen om terughoudend om te gaan met de inzet van Microsoft 365 Copilot. Dit is vanwege privacyrisico's bij het gebruik van die AI-assistent van Microsoft. De leverancier heeft veranderingen aangebracht, waardoor de risico's kleiner zijn geworden, maar niet allemaal 'overtuigend geadresseerd'. Daardoor heeft SURF de status van Copilot in Microsoft 365 aangepast naar oranje.

Het advies terughoudend te zijn is de conclusie van een nieuwe DPIA (data protection impact assessment) die SURF heeft uitgevoerd op Microsoft 365 Copilot. "De afgelopen maanden hebben SURF en SLM (strategisch leveranciers management) van de Rijksoverheid intensieve gesprekken gevoerd met Microsoft om de risico's aan te pakken", meldt SURF nu. "Door de privacyverbeteringen in Microsoft 365 Copilot, waar alle gebruikers profijt van hebben, raadt SURF de inzet ervan nu niet meer volledig af."

Toch zijn er nog privacyrisico's aanwezig, waardoor terughoudendheid in de inzet van Copilot geboden is. Onderwijs- en onderzoeksinstellingen krijgen het advies om 'in ieder geval duidelijke afspraken te maken binnen de instelling over de inzet van AI'. Daarnaast is het raadzaam om een AI-gebruiksbeleid te hanteren, aldus SURF.

De privacykeuring is te downloaden bij SURF. Eind vorig jaar raadde de organisatie het gebruik van Copilot geheel af. Dat was na de eerste DPIA op Microsoft 365 Copilot, waaruit vier hoge privacyrisico's naar voren kwamen.

Reacties (168)

[Scriptkid]

Ik zie heel veel mensen reageren maar volgens mij heeft niemand de dpia gelezen.

Het risico zit hem volgens surf nl in het feit dat Copilot verkeerde antwoord geeft niet meer en neit minder. Daardoor worden er verkeerde aannames gedaan en vind me dat genderneutraliteit niet goed aanwezig is.


Het gaat dus helemaal niet om de 80%dingen die hier in de reacties worden beweerd / gediscussieerd lol

[DefaultError]

Gender-neutraliteit is bij mijn weten een privacy issue, en hoort niet op het matje van overzeese mogendheden te komen. Net als alle issues die niet benoemd zijn. Voor Surf en elk andere instelling privacy=privacy.

[dasiro]

Ik zie heel veel mensen reageren maar volgens mij heeft niemand de dpia gelezen.

inclusief de reporter heb ik het gevoel, want al die mensen missen duiding die je van een verslag verwacht ipv zélf die turf van 200+ bladzijden te moeten beginnen uitpluizen.

[DefaultError]

De overheid, onderwijs en onderzoeksinstellingen krijgen het advies wees voorzichtig, code oranje. Wat krijgt het bedrijfsleven voor advies om met het product AI CoPilot van Microsoft te werken?

[Bor]

Het bedrijfsleven krijgt vanuit Surf geen advies. Surf is de ict-coöperatie van onderwijs en onderzoek. De DPIA richt zich specifiek op toepassingen binnen dat werkveld. Het advies richt zich daar dan ook op. Het bedrijfsleven kan de DPIA wel gebruiken als referentie.

[DefaultError]

Het bedrijfsleven zal denk ik met Microsoft om de tafel gaan, met een pittige delegatie, om afspraken te maken over instellingen en privacy.

[RobbieB]

Haha. Denk je dat het bedrijfsleven ook maar iets te zeggen heeft bij Microsoft. Dat is gewoon take it, or leave it.

[La1974]

Mijn werkgever heeft contractueel vastgelegd dat alles wat wij in Copilot zetten binnen de tennant blijft. Microsoft mag dat niet gebruiken.

[Scriptkid]

Dat is per definitie zo voor elke tenant.

Staat letterlijk in al je overeenkomsten.

[shbeuving]

Dan ben ik benieuwd naar de Scope en hoe dit buiten de CloudAct valt...

[La1974]

De scope is dat alle data binnen de tennant van mijn werkgever blijft.

Ik snap niet precies wat de CloudAct hier mee te maken heeft.

[Superstoned]

Dat als een Amerikaans bedrijf toegang heeft tot data, ongeacht waar het is of wat voor contracten er zijn, wanneer de amerikaanse overheid er toegang toe wil, ze dit moeten geven. En normaal gesproken mogen ze dit aan niemand vertellen. Is onder ede door Microsoft mensen al bevestigd, in oa Frankrijk, dat die belofte om data niet naar de VS te sturen niet houdbaar is.

Maar goed, laten we eerlijk zijn. Meestal wil de IT afdeling ook gewoon bij Microsoft blijven, want weg is veel werk, dus eigenlijk maakt het ook allemaal niet uit.

[shbeuving]

Ik denk dat inkopers nog liever bij microsoft blijven ;-)
En dan IT voert het uit... en koopt nog wat meer microsoft in want er is wat te kort hier en daar... ;-)

[zordaz]

Precies dat! Het is juist de afdeling inkoop en het zijn vooral de niet-ICT afdelingen die in allerlei redenen niets anders willen.

[roffeltjes]

FWIW, bij onze mega instelling is het met name IT die vast zit, Inkoop is meer "U vraagt, wij draaien".

[La1974]

Dat is meer de Patriot Act dan de Cloud Act. Maar er is nog geen serieus alternatief voor AWS, Azure of Google.

Dus dit is een gegeven.

[Videopac]

Nextcloud heeft niet te klagen over belangstelling de laatste tijd.

[FanaticNL]

Ik dacht dit sowieso met die educatie licenties het geval was voor co-pilot.

[La1974]

Het ging over het bedrijfsleven waar ik op reageerde.

[pstalman]

Regelmatig zie ik nog in de Message center dat men niet kan garanderen dat (volgens mij Teams/Sharepoint data) alles nu echt in EU staat.

[RobbieB]

Dat heeft ‘jouw bedrijf’ niet contractueel vast gelegd. Dat zijn de standaard voorwaarden van CoPilot Enterprise.

Het probleem is dat die data in jullie tenant op Microsoft servers staan waar de US via de Cloud Act gewoon toegang toe kan eisen. En daar mag MS niks over zeggen als dat gebeurd.

maar dat gebeurd vast niet…

[La1974]

Contractueel dus.

Ik denk dat 95% van de data op servers staat van Amerikaanse bedrijven. Ook die van onze overheid. Dat de VS daarbij kan is een gegeven.

Gelukkig bestaat er nog iets als encryptie.

[Erikkamm]

Je kunt inderdaad beperkingen instellen, maar dat heeft ook gevolgen voor de gebruiksmogelijkheden. Bij ons is het ook ingesteld dat alles binnen de tenant moet blijven, echter het lukt dan bijvoorbeeld niet meer op plaatjes te genereren. Dezelfde propt werkt wel buiten de tenant. Er zijn vast meer beperkingen, maar die heb ik nog niet ontdekt.

[DefaultError]

Mogelijk dat Google of Apple (kleine spelers) met betere voorwaarden willen komen als Microsoft het bedrijfsleven niet ‘serieus’ neemt. What about EU AI.

Het advies van SURF aan de overheid is duidelijk. De overheid heeft wel wat meer in de melk te brokkelen want het is een flink orgaan. Microsoft zal wel wat mogelijkheden inbouwen om de NL&EU te plezieren.

[Bor]

Google en Apple zijn niet echt als kleinere spelers te zien lijkt mij. Dat is net zo goed 'big tech' en daar is het vaak take it or leave it.

[Reactie gewijzigd door Bor op 15 september 2025 08:25]

[roffeltjes]

Google en Apple zijn niet echt als kleinere spelers te zien lijkt mij. Dat is net zo goed 'big tech' en daar is het vaak take it or leave it.

UIt mijn ervaring zijn dat sowieso partijen die nog minder geneigd zijn te onderhandelen dan Microsoft.

[DefaultError]

Bij mijn weten is Microsoft op kantoor, onderwijs, overheid ‘leading’.

‘Leave it’ was in Duitsland met Linux aan de orde, en met hangende pootjes terug.

[deadlock2k]

Alle wijzigingen die Microsoft heeft doorgevoerd naar aanleiding van DPIAs die door SURF en Het Rijk zijn uitgevoerd, zijn voor zover ik weet alleen doorgevoerd voor de brede onderwijssector.

[Reactie gewijzigd door deadlock2k op 14 september 2025 14:47]

[Superstoned]

.. en ik weet natuurlijk geen details van de aanpassingen die Microsoft deed, maar als het zo gaat als bij veel van de veranderingen voor het onderwijs die Google deed - naar ik begrijp - dan zijn het grotendeels optionele instellingen die vaak ook een flink negatief effect hebben op de gebruikerservaring, en dus in de praktijk niet echt gebruikt worden. Zie YouTube: NLUUG VJ25 - Geert-Jan Meewisse + Raoul Kramer - Presenting the FOSS stack for schools (NL)

En laten we eerlijk zijn, da's ook logisch he, ze willen tenslotte toch die data, de vendor lock-in en die kinderen in het ecosysteem brengen. Vandaar dat het voor scholen ook zo goedkoop is. Dat houd ook mooi de concurrent erbuiten.

[deadlock2k]

Misschien kan je de doelpalen de volgende keer gelijk op de goeie plek neerzetten.

[xxs]

Precies, er is geen enkel Europees bedrijf wat groot genoeg is om ook maar iets af te dwingen bij de Amerikaanse big tech.

[drQuentules]

Wat een onzin. Ons (Frans) bedrijf met circa 270.000 gebruikers heeft gewoon goede afspraken kunnen maken. Maar dat is wellicht wel een uitzondering.

[andrik1]

Je kan afspraken maken wat je wilt met partijen als MS en Amazon. En ongetwijfeld zijn die ook echt wel bereidwillig, maar feit blijft dat de Cloud Act altijd van toepassing blijft, ook al staat je data in Europa.

Daar wordt wat mij betreft te weinig bij stil gestaan.

[xxs]

Afspraken maken of iets afdwingen zijn in mijn optiek twee verschillende zaken. Maar wellicht dat (Airbus?) jullie bedrijf de bekende uitzondering is.

[drQuentules]

Nee geen Airbus ;-). Het voor heel veel mensen onbekende VINCI.

Maar Airbus gaat dat ook lukken.

[Defi15]

Dit is echt onzin. De concurrentie is gigantisch tussen de aanbieders, en als Microsoft zich niet aanpast aan de wensen van organisaties, dan kunnen die kiezen uit alternatieven die net zo goed zijn.

Voorbeelden:

- Gemini 2.5 Pro van Google scoort beter dan Microsoft's OpenAI's modellen op LMArena: LMArena

- Grok 4 scoort net zo goed als GPT-5 op HLE: Humanity's Last Exam

[RobbieB]

En hoe integreren die tools met Word, Excel en Powepoint? En met al mijn documenten op Sharepoint/Onedrive? En in mijn Outlook?

O ja. Niet.

[Bor]

De concurrentie is niet zo groot als je doet voorkomen. Microsoft is namelijk eigenlijk de enige aanbieder binnen zijn eigen ecosysteem als M365 en Azure. Copilot zit in Microsoft's producten verweven. Dr alternatieven die jij noemt allemaal niet.

[magician2000]

Waarop het bedrijfsleven dus massaal "leave it" zou moeten kiezen. Is ook prima mogelijk, zolang ze maar bewuste keuzes hebben gemaakt op andere vlakken qua software.

[roffeltjes]

Het bedrijfsleven? Welk collectief onderhandelings orgaan heb je voor ogen?

[DefaultError]

Dat bedoel ik, wie halen de hete kolen uit het vuur? De kLM, de boeren, ASML, AVEBE, Campina, Shell of Vattenfall.

Wie, wat, waar wanneer en hoe en met genoeg kennis van zaken. Microsoft heeft een heel leger op de been en timmert dit vakkundig dicht met een optische illusie.

[roffeltjes]

Je notie dat het Nederldnse bedrijfsleven een delegatie stuurt om collectief te onderhandelen is misplaatst. Elk voor zich is het devies.

Collectief inkopen is iets van overheid en semioverheid.

[Reactie gewijzigd door roffeltjes op 15 september 2025 10:09]

[MennoE]

Is de AWVN geen collectief?

[roffeltjes]

AWVN is voor werkgevers, met een duidelijke focus op HR (CAO), niet voor het collectief uitonderhandelen van contracten met partijen als Microsoft.

[Reactie gewijzigd door roffeltjes op 15 september 2025 10:09]

[Klauwhamer]

Nogmaals: Cloud Act maakt al die afspraken een schertsvertoning. Als je naar eer en geweten een US-based platform voorschotelt in je aanbesteding, maakt het _niets_ uit welke toezeggingen wel of niet gedaan zijn. Je kunt gewoon nooit stellen dat je EU-data warehouse GDPR-compliant is. Er valt helemaal niets uit te onderhandelen. Ook niet voor ASML (sterker nog: júist niet voor ASML, ironisch genoeg).

[Reactie gewijzigd door Klauwhamer op 15 september 2025 15:09]

[Klauwhamer]

Nee hoor. Microsoft veegt daar zijn bips niet eens mee af; het zijn de Microsoft-partners die je gaan vertellen dat een vinger in de pap bij Microsoft toch écht niet gaat gebeuren. En dat het niet uitmaakt wat je afname is. En dat je anders vast een goed alternatief kan vinden, toedeledokie.

[roffeltjes]

Richting overheid en semi overheid ligt dat toch wel iets genuanceerder, juist omdat netjes omgaan met data ook een selling point is tov Google. Het is geen feest, maar je idee dat ze zich er geen reet van aantrekken is ook weer niet correct.

Richting bedrijfsleven is het waarschijnlijk alleen de EU die nog wat kan afdwingen, bedrijfsleven zelf lijkt me kansloos.

[Reactie gewijzigd door roffeltjes op 14 september 2025 16:25]

[Klauwhamer]

Nogmaals: nee, dat ligt ook voor (semi)overheid niet anders. Cloud Act vanuit de VS maakt dat álle toezeggingen rondom privacy een wassen neus zijn, when push comes to shove. Dit is notabene door de Microsoft top dog van de EU als het gaat om privacy onder ede schoorvoetend toegegeven in een Franse rechtzaak een paar maanden geleden.

[andrik1]

Helemaal eens. Cloud Act wordt te weinig bij stil gestaan, sterker nog er wordt uiteraard ook nooit naar verwezen als niet te mitigeren risico.

Maar ik denk wel dat er de komende jaren zaken gaan veranderen. De Nederlandse Digitale Strategie gaat inzetten op soevereine Cloud omgevingen en dat zie je ook in andere Europese landen, zoals Frankrijk en Duitsland. Ik verwacht dat Amazon en MS daar wel op in gaan spelen. Volgens mij is Amazon ook al aan het onderzoeken of ze een Europese tak kunnen opstarten, los van het Amerikaanse moederbedrijf waardoor de Cloud Act niet van toepassing is.

Europa is een te grote markt om te negeren.

[latka]

Nee hoor, die tekenen bij het kruisje..

[tomvld]

Humor... Wie is "het bedrijfsleven"?... Een paar bedrijven in Nederland kunnen wellicht iets zeggen. De rest heeft maar te slikken.

[Llopigat]

Zelfs multinationals kunnen niks aan het beleid veranderen daar. Nul kans dat ze een functie speciaal voor jou bouwen of zelfs maar aanpassen. Je kan wel feedback geven aan hun product managers maar meer dan feedback is dat absoluut niet.

[Llopigat]

Dit is precies wat wij doen ja. Al levert Microsoft geen maatwerk op technisch gebied van M365 zelfs niet voor multinationals. Wat ze bieden is waar je het mee moet doen. Wel hebben ze consultants om te helpen het zo goed mogelijk in te stellen.

De prijzen zijn natuurlijk wel maatwerk voor zulke organisaties.

[kimborntobewild]

Het bedrijfsleven interesseert de privacy van zijn werknemers geen ruk. Hooguit als ze gedwongen worden door toezichthouders. En daar is zeer weinig sprake van.

[Bor]

Dat lijkt mij een behoorlijke generalisatie. Ik ken diverse bedrijven die het echt wel goed willen doen. Het is echt niet altijd onwil daar waar het minder goed gaat. Privacy echt goed doen is niet eenvoudig.

[kimborntobewild]

"Privacy echt goed doen is niet eenvoudig.": Dat klopt. Ten eerste zal je al je banden met de grote USA-tech bedrijven moeten doorsnijden.

[roffeltjes]

Even los van het feit dat werkgevers en bestuurders ook gewoon mensen zijn met hun eigen set aan moraal die per persoon verschilt, het gaat hier om bedrijfsdata.

[lucatoni]

Ik werk bij een bank, en daar zijn de interne adviesen echt niet duidelijk. Op de ene interne website staat dat Copilot gebruikt mag worden, echter niet met vertrouwelijke data. Op de andere website staat dat het wel gebruikt mag worden met vertrouwelijke data, omdat het garanties heeft dat MS de data niet gebruikt om he model verder te trainen en dus intern gebruikt. Overigens is "vertrouwelijk" ook een breed begrip. Kortom, dit mag inderdaad duidelijker, maar ben benieuwd of er andere tweakers betere voorbeelden hebben.

[The Zep Man]

Overigens is "vertrouwelijk" ook een breed begrip.

Als je bij een bank werkt dan zullen informatieclassificaties heus wel formeel gedefinieerd zijn.

When in doubt, keep calm and follow the standards.

[klakkie.57th]

Neem contact op met de DPO is het standaard antwoord

[DefaultError]

Ik denk het niet, je mag best navragen en jezelf indekken welke mogendheid je gegevens gebruiken en inzien.

[RobbieB]

Juist bij een bank zou ik verwachten dat ‘vertrouwelijk’ vrij duidelijk gedefinieerd is. O.a. omdat dit een keiharde eis van de DNB is…

[Scriptkid]

In een enterprise tenant en M365 blijft alle data in ze zelfde container en is het zelfde als bijvoorbeeld sp search.


Waar het mis gaat is dat men vervolgens public Copilot gaat vergelijken en die is niet met grenzen binnen de tenant.

[Martinez-]

En voor de zorg geldt dit risico ook niet?

Er zijn meer dan voldoende artsen die Copilot gebruiken om een consult samen te vatten oid. Ik spreek uit persoonlijke ervaring.

[Reactie gewijzigd door Martinez- op 14 september 2025 11:05]

[Bor]

Binnen de zorg wordt copilot vast en zeker ook gebruikt. Surf richt zich echter op onderwijs en onderzoek. De (niet onderzoekende) zorg is daar geen klant en daarom ook niet omvat in de scope voor zover ik kan nagaan. De DPIA is prima bruikbaar buiten het onderwijs en onderzoek en helder geschreven. De risico analyse kan bijna 1 op 1 vertaald worden naar andere vakgebieden.

[Reactie gewijzigd door Bor op 14 september 2025 11:31]

[Kapiteiniglo]

De universitaire ziekenhuizen zijn ook lid van SURF dus wat dat betreft is het best bijzonder dat de zorg buiten de scope is gelaten.

[Bor]

Dat deel valt dan ook onder onderwijs en onderzoek afaik. "De zorg" is natuurlijk een heel erg breed begrip.

[Panzer Dean]

Voor de zorg wordt een andere versie van Copilot gebruikt in samenwerking met Chipsoft (softwareleverancier die de meeste universitaire ziekenhuizen gebruiken).


Zie https://www.skipr.nl/nieu...gon-copilot-voor-de-zorg/

[Martinez-]

In dit korte bericht staan 2 onjuistheden:

1. Ja Chipsoft heeft een samenwerking met Microsoft irt het gebruik van CoPilot. Dit is echter nog niet geïmplementeerd ergens. Hoe ik dat weet? Recent een complete HiX-implementatie gedaan en ons ziekenhuis is een pilotziekenhuis voor deze samenwerking.
2. De meeste universitaire ziekenhuizen gebruiken Epic. Ik weet echter niet of zij ook een samenwerking met Microsoft hebben.

[NJoyiT]

Het klopt feitelijk wat je zegt, maar het verschil is niet zo groot: 3 gebruiken er HiX en 4 Epic.

[Martinez-]

Klopt: ik was even vergeten dat AMC en VUMC samen zijn gegaan!

[Pending3501]

Epic heeft ook een implementatie van copilot. Het UMCG is daar in ieder geval mee bezig.

[Bor]

Dat is een losstaand platform lijkt het dat door heel veel zorgbedrijven niet wordt gebruikt voor zover ik weet. Het lijkt specifiek gekoppeld aan Dragon software (spraakherkenning etc). Het is echt op voice gericht.
Het is ook niet overal beschikbaar:

Als eerste wordt Dragon Copilot in mei gelanceerd in de Verenigde Staten en Canada. Daarna zijn het Verenigd Koninkrijk, Duitsland, Frankrijk en Nederland aan de beurt.

[-Colossalman-]

Deze reactie was eerder al geplaatst door iemand anders..

[Reactie gewijzigd door -Colossalman- op 14 september 2025 11:29]

[jopiek]

Surf is vereniging van en voor het hoger onderwijs dus die zal alleen daar adviezen voor geven.

Als het voor hogescholen en universiteiten ‘oranje’ is dan zal het voor bedrijven al heel snel donkerrood zijn.

[DefaultError]

Halve Unies leunen op CoPilot en ChatGPT. Wat dat betreft mag vanuit het hoger onderwijs een om-denk proces volgen.

Vanuit het bedrijfsleven mag er wel wat meer reuring komen om dit af te stemmen met een service zoals CoPilot, ChatGPT, Antrophic, Gemini en toekomstig Apple AI ook.

[roffeltjes]

Je blijft doen alsof het bedrijfsleven een collectief orgaan heeft om dit soort dingen af te stemmen... dat is er niet. Enige wat kan is dat de overheid of (waarschijnlijker) de EU dit soort regels gaan afdwingen.

Bedrijfsleven is ieder voor zich.

[StackMySwitchUp]

SURF kan dit niet beoordelen, het is een Nederlandse nonprofit organisatie welke zich inzet voor kennisorganisaties (scholen, bibliotheken, wetenschap)

Het bedrijfsleven maakt hierin andere overwegingen, en het risico beslaat een ander soort informatie.

[DefaultError]

Wat denk je van je goed eigen privacy.

Ziekenhuis of overheid, is het niet linksom dan is het rechtsom.

De overheid dekt zich in met het al dan niet gebruik van AI en willen geen toekomstige claims.

[Blokker_1999]

Bedrijven moeten vooral zelf een mening vormen. Daarnaast is het advies van SURF ook gevaarlijk, want de ene Copilot is de andere niet. Microsoft biedt zoveel diensten aan met zoveel verschillende vormen van bescherming, maar ze hebben wel allemaal dezelfde primaire naam en verschillen soms alleen in de licentie die je afneemt.

Het advies hoort dan ook te zijn: lees de voorwaarden rondom dataverwerking heel goed en toets deze af tegen het beleid in je bedrijf.

[DefaultError]

En alsnog wordt het alsnog 18 maand ergens opgeslagen. Goed lezen en ontwaren wat er staat is bijna een vak apart.

[B_FORCE]

Zodra je al een heel klein beetje bedrijf bent, vervallen ineens spontaan allerlei soorten rechten en andere dingen. Zoals bijvoorbeeld ook dit.
Alsof ineens exact dezelfde mensen spontaan experts in alles zijn, of ineens bakken met geld over hebben om die expertise in te huren.

[bussie66]

Bedrijfsleven: we mogen op mijn werk absoluut geen AI gebruiken behalve de eigen gebouwde interne (die periodiek geupdate wordt obv copilot).

[Quintiemero]

Knalrood. Let op, hier vergissen de meeste zich in. Rijksoverheod heeft speciale afspraken met Microsoft, zelfde geldt voor de Europeze Commissie. Maar dit geldt ook voor MS365. Dus het is niet nieuw.

[NoTechSupport]

Er zijn een aantal redenen om het gebruik van CoPilot in deze context helemaal af te raden:

• Techbedrijven zijn niet te vertrouwen. Ze overtreden de wet en liegen, tot dusver is dit winstgevender dan de wet volgen. Dus zelfs als ze zeggen data niet te gebruiken betekent dit niets.
• Het gaat in onderzoeksinstellingen vaak over data van minderjarigen
• Bij onderzoeksinstellingen gaat het vaak over kennis die verworven is met geld van de belastingbetaler, die wil je niet gratis delen met Microsoft (de vragen die je een AI stelt geven veel weg)

[Reactie gewijzigd door NoTechSupport op 14 september 2025 11:04]

[J_van_Ekris]

Techbedrijven zijn niet te vertrouwen. Ze overtreden de wet en liegen, tot dusver is dit winstgevender dan de wet volgen. Dus zelfs als ze zeggen data niet te gebruiken betekent dit niets.

Dit is wel een heel erg generieke uitspraak. Mijn beeld van Microsoft is anders, al is het maar omdat ze veel zakelijke en overheidscontracten hebben die best lucratief zijn.

Het gaat in onderzoeksinstellingen vaak over data van minderjarigen

Er zullen ongetwijfeld momenten zijn waar onderzoek over minderjarigen gaat, maar "vaak"? Er zijn vier universiteiten waar onderzoek voornamelijk technisch is, en er zijn maar 8 universitaire medische opleidingen/onderzoeken binnen algemene universiteiten. En die algemene universiteiten doen ook onderzoek naar klimaat, economie en andere zaken. Dus het overgrote deel van onderzoek gaat echt over andere zaken.

Bij onderzoeksinstellingen gaat het vaak over kennis die verworven is met geld van de belastingbetaler, die wil je niet gratis delen met Microsoft (de vragen die je een AI stelt geven veel weg)

In de wetenschap wordt je letterlijk afgerekend op het aantal publicaties van je onderzoek. En bij publicatie ben je verplicht de onderliggende data beschikbaar te maken naar andere onderzoekers als ze daarom vragen. Dus het gevoel dat onderzoek supergeheim is gaat voor de overgrote meerderheid van het onderzoek niet op. Zou wetenschappelijke conferenties en samenwerking ook erg nutteloos maken.

[Reactie gewijzigd door J_van_Ekris op 14 september 2025 11:22]

[NoTechSupport]

Onderwijsinstellingen zijn ook middelbare scholen bvb.

[J_van_Ekris]

Onderwijsinstellingen zijn ook middelbare scholen bvb.

Niet volgens SURF (hun jaaroverzicht). De SURF dienstverlening gaat naar MBO's, HBO's, Universiteiten en onderzoeksinstellingen.

[java2]

Klopt. Tegenwoordig is Kennisnet eigenlijk de partij die als koepel functioneert en een brede dienstverlening aanbiedt.

De discussie m.b.t. AI is is het po en vo ook een heikele. Ik vind de kwetsbaarheid voor de leerlingen groter en veel scholen worstelen er enorm mee. Afsluiten lijkt een veilige optie voor de scholen om zo hun aansprakelijkheid te kunnen ontlopen maar is vluchtgedrag. Je hebt als school een uitdaging om kinderen voor te bereiden en te voorzien van de juiste kennis en vaardigheden en daar hoort AI ook bij.

Het moet een prominente plaats gaan innemen bij de digitale geletterdheid en zo aan de bewustwording van de risico's bij gebruik van AI te appelleren en ze de kunde en kennis bij te brengen zodat AI wat oplevert voor ze en dus ook kritisch te blijven nadenken.

Hier is nog een lange weg te gaan, vrees ik. Digi-didactiek en AI wordt nog weinig gebruikt en zou ook voor een deel een voorbeeldfunctie vanuit de docent kunnen zijn. Gelukkig onderzoekt Kennisnet veel en biedt veel handreikingen die hopelijk snel in tastbaar handelen wordt getransformeerd in de scholen en onze leerlingen dus kunnen duiden wat de impact is van code oranje voor CoPilot.

[Melones]

Het is op alle scholen bij ons in de buurt diep diep triest gesteld met de digitale geletterdheid. Het lukt ze niet eens om zelf iets anders te bedenken dan wachtwoorden met de labelwriter op de plank met laptop te doen. Dat is dan het voorbeeld....

[TRS-3]

Dit is wel een heel erg generieke uitspraak. Mijn beeld van Microsoft is anders, al is het maar omdat ze veel zakelijke en overheidscontracten hebben die best lucratief zijn.

Zelfs als Microsoft van goede wil is, kunnen ze niet om de Amerikaanse wetgeving heen. SURF heeft bij de introductie van clouddienstenin het hoger onderwijs al eens gedegen onderzoek gedaan, waaruit bleek dat Amerikaanse veiligheidsdiensten sinds de 9/11 wetgeving "laagdrempelige toegang" hebben tot gegevens van niet-Amerikanen. Dat gegevens in Europa worden opgeslagen maakt daarvoor weinig uit, er is zelfs geen toestemming van een rechter voor nodig.

Vaak wordt er laconiek op gereageerd, in de trant van "als ze willen kunnen ze er toch wel bij" en "wat hebben wij nou te verbergen?". Misschien is het dan goed te bedenken dat er door bevriende naties ook aan economische spionage wordt gedaan, iets dat we een stuk gemakkelijker maken als we de data alvast op hun servers zetten. En de afhankelijkheid van de dienstverlening, zoals onlangs bleek toen een hoge rechter van het internationaal strafhof in Den Haag ineens niet meer in z'n zakelijke Microsoft mailbox kon omdat Trump boos was vanwege het opsporingsbevel voor Netanyahu.

Die contracten die voldoen aan de Europese wetgeving zijn een papieren werkelijkheid.

Natuurlijk kun je clouddiensten en Ai prima gebruiken als gereedschap, maar ik zou voor alles wat je aan dit soort diensten vraagt of uploadt, zolang het niet "on premise draait" blijven bedenken of het erg zou zijn als die data op straat belandt. Is het antwoord "ja", krab dan drie keer achter je oren.

[StackMySwitchUp]

Copilot in m365 is anders dan Copilot zonder M365, Bij de eerste is Microsoft gebaat bij transparantie over privacy omdat het gaat om gegevens van klanten, bij de tweede is Microsoft gebaat bij zoveel mogelijk informatie vergaren van gratis gebruikers tegen zo laag mogelijke kosten. Ik ben het met je eens, overigens.
Maar in de tweede casus ben jij het product, in de eerste is het woord van Microsoft iets meer waard.

[NoTechSupport]

Ik denk dat het grootste verschil zal zijn wat ze toegeven te gebruiken en hoe goed ze verbergen dat ze je data gebruiken. Maar bij een onbetrouwbare partij zoals een tech-gigant is een woord zeer weinig waard.

[Grannd]

Ieder van je argumenten geldt evengoed voor het gebruik van Teams/Sharepoint/Onedrive.

In het huidige politieke klimaat komt er steeds meer behoefte naar een Europees alternatief voor Microsoft, maar als het ooit zo ver komt duurt dat zeker nog wel een jaar of 10-15 voordat alle (semi-) overheid daar naar overgestapt zou zijn.

[roffeltjes]

Je hebt gelijk, maar anderszijds, het zou echt heel snel kunnen, als we maar de pijn willen pakken. En dat willen we niet.

[brobro]

ik neem aan dat de verwarring over Copilot en Copilot in M365 nog compleet is? Gaat dit nu over de Copilot die ik in m'n apps tegenkom of die met een knop in m'n apps naast m'n apps verschijnt en dan gewoon een chatbot is die bijv niet m'n mails leest.

[Graviton12]

M365 versie, dus betalende. Zelfs zonder licentie heb je nu de mogelijkheid om chat te gebruiken in bijna eender welke M365 app zoals Word/Excel/...

[headphoneguy]

Je noemt beide varianten al. En slechts één variant is genoemd in het artikel: M365 copilot.

[Deodorex]

En noemt Surf geen AI- alternatieven ipv MS CoPilot? Kan ik niet zo snel achterhalen uit de tekst.

[Bor]

Nee, deze DPIA heeft de betaalde Microsoft 365 (voor Educatie) als scope. Andere Ai alternatieven vallen daar buiten. Dat is ook niet zo gek. Deze DPIA omvat al meer dan 200 pagina's en heel veel onderzoekstijd.

Onderbouwing:

Scope: paid Microsoft 365 Copilot

Bron: DPIA summary blz 8.

[McDuck74]

MS CoPilot is geen programma op zich, als ik het goed begrepen heb. Het is onderdeel van de Microsoft pakketten die SURF aanbiedt aan scholen. Het zit bijvoorbeeld ingebakken in het MS Office365 pakket.

Dat kunnen ze er niet uithalen, hooguit advies geven over het gebruik

[brobro]

Daar kan het prima uitgehaald hoor. Het staat gewoon uitgeschakeld bij scholen en universiteiten.

[Scriptkid]

Nee want die alternative zijn er bijna niet,

Alleen google zou nog in aanmerking kunnen komen , rest heeft geen integrated cloud platform. en dat is juist de meerwaarde van de copilot , Je data blijft binnen de zelfde security container waar je bij 3rd party de container verlaat en dus geen data security kunt imoplementeren

[snooze]

Wordt hoog tijd om eens serieus aan de stoelpoten van deze monopolie te gaan zagen.

[Sissors]

De stoelpoten van Microsofts AI monopolie? Natuurlijk zijn ze met copilot een behoorlijke speler in de markt, maar niet meer dan dat. Er zijn zat andere spelers om niet aan stoelpoten te moeten zagen.

[brobro]

Spelers die hun AI kunnen integreren in Outlook, Word, Excel, etc zoals Microsoft dat kan?

[snooze]

Nee gewoon zonder ai liefst

[Scriptkid]

Noem er eens 1 die de data security boundry niet overschreid dan, want ik ken ze niet?

[Sissors]

Het ging erover of Microsoft een monopolie heeft op de llm markt. En dat is nu simpelweg niet het geval.

[Scriptkid]

ligt er aan hoe je het bekijked,

Er is geen 1 platform wat de zelfde mogelijkheid tegen de zelfde level van privacy en security bied, dus ja dan is er een monopolie.

Kijk je puur alleen naar LLM dan niet zijn er genoeg.

[cdwave]

Eigenlijk helemaal niet zo moeilijk, scholen moeten stoppen met het gebruik van allerlei closed-source commerciële pakketten. Ook, of eigenlijk, vooral, als die "gratis" worden aangeboden. Privacy en bescherming zijn daarvoor al prima redenen. Een andere prima reden is dat het onderwijs zelfstandig en onafhankelijk denken dient te bevorderen.

Er zijn voldoende open-source alternatieven om je instelling op te runnen. En wat er niet is, kun je mooi door de hogerejaars laten maken.

[Scriptkid]

Noem er eens 1 van die alternative die zijn data security op order heeft zoals MS dat heeft, want daar loopt het al heel snel op stuk. (MS is juist de gene die privacy en data security op oorde heeft.)

[cdwave]

Alternatief voor wat precies?

Ik bedoel het globaal, niet alleen beperkt tot LLMs. Dus ook het OS, het spreadsheet programma, tekst editor, programmeeromgeving, etc.

[Scriptkid]

Maar al die open-source programma's snappen niks van integrated protection, data security, en zijn dan ook met geen mogelijk heid op een goede en betaalbare manier binnen je legal requirements te krijgen.


En daar zit de krukas, LVT maar enterprise grade blijft er weinig totaal oplossingen over

[Reactie gewijzigd door Scriptkid op 16 september 2025 17:02]

[cdwave]

Ik snap helemaal niks van je antwoord.

[Westpjotr]

Het is wel positief dat er veel aandacht uitgaat naar privacy en impact van ai-tools. Vergeleken met de begindagen van de internet voelt dit iets minder als het 'wilde westen'. Al is het tempo moordend: ik zag in het onderzoek/advies gpt-5 nog niet terugkomen. Terwijl deze al wel gebruikt kan worden binnen copilot 365.

[FanaticNL]

Andere LLM's en genAI's zijn (nog) niet getoetst. Dit advies zegt alleen iets over co-pilot, daarmee is het niet zo dat je andere platformen (chatGPT, Claude, gemini enz) beter kunt gebruiken. Dat denken mensen vaak wel. Het wordt nu best wel eenzijdig gepresenteerd. Er zou best in de berichtgeving van SURF gezet mogen worden dat er sowieso voorzichting met AI omgegaan moet worden binnen onderwijs en onderzoek.

[bantoo]

Poe hee, oranje, dat zal wel heel erg zijn. Eens op onderzoek om nou te vinden wat dat inhoud. Bronartikel zegt er niets over, PDF zegt er niets over, "privacrisico surf kleur" in google? niets.

[Bor]

Oranje is een "medium risk". Zie bijvoorbeeld de tabel op pagina 11.

[bantoo]

Bedankt, die rating gaat waarschijnlijk dus voor eeuwig op iedere LLM dienst staan.

Significant economic or social disadvantage due to use of generated texts with inaccurate personal data.

[Slavy]

EC moet er voor zorgen dat AI bagger optionele features zijn en niet verplicht door je strot geduwd worden, helemaal in werkomgevingen gewoon verbieden.

[Sissors]

Je wil het gebruik van LLMs voor werk gerelateerde zaken verbieden in de hele EU? Waarom? Om de achterstanden van de EU helemaal zeker te maken? Zorgen dat we qua productiviteit echt niet de rest van de wereld kunnen volgen?

En ik behoor niet bij degene die denken dat LLMs alles gaan overnemen en ons 100x productiever maken. Maar je moet wel heel erg voor een struisvogel taktiek gaan als je denkt dat ze niks kunnen verbeteren.

[Mathijs Kok]

EC moet er voor zorgen dat AI bagger optionele features zijn en niet verplicht door je strot geduwd worden, helemaal in werkomgevingen gewoon verbieden.

Uhhhh.. wie duwt je het gebruik van Ai door je strot? Ik gebruik het vele malen per dag, maar altijd uit eigen keuze. En de overheid kan het gebruik in werkomgevingen eenvoudig niet verbieden, er is geen wetgeving die dat toe laat. Daarnaast, als je dat zou doen zou het Nederlandse bedrijfsleven op een enorme achterstand zetten. Het maakt voor mij zoveel uit dat ik de twee Nederlandse afdelingen waarschijnlijk zou verplaatsen. Zonder Ai gebruik kan ik niet concureren, zo simpel is het op dit moment.

[friket]

CO-Pilot voor bedrijven is optioneel. Sterker nog kost 30 euro per medewerker per maand voor je het kan gebruiken..