Microsoft moet blokkade Nederlands OneDrive-account opheffen van rechter

Microsoft moet de blokkade van een e-mail- en OneDrive-account van een Nederlandse gebruiker opheffen, nadat die geblokkeerd was om een ongepaste afbeelding die schadelijk is voor kinderen. De gebruiker stapte naar de rechter. Die stelt de vrouw donderdag in het gelijk.

Volgens de rechter is het vonnis niet uitvoerbaar bij voorraad verklaard, schrijft IT & Recht. Microsoft kan nog in beroep gaan tegen het vonnis. Microsoft blokkeerde het account van de gebruiker om een afbeelding op het OneDrive-account die volgens het bedrijf als kinderpornografisch moest worden aangemerkt. Dit is in strijd met de serviceovereenkomst van Microsoft. De gebruiker stapte naar de rechter in Rotterdam.

Die stelt dat Microsoft onvoldoende onderbouwd heeft dat de afbeelding inderdaad ongepast, uitbuitend en schadelijk voor kinderen was. Daarom kan niet worden vastgesteld dat de gebruiker de serviceovereenkomst geschonden heeft. Microsoft had de overeenkomst niet mogen ontbinden, stelt de rechter, en moet de blokkade dan ook opheffen.

In 2020 stelde de rechter in Lelystad in een soortgelijke zaak Microsoft nog in het gelijk. In dat geval raakte een man uit Lelystad toegang tot zijn OneDrive-account kwijt, omdat een foto die hij ooit in een WhatsApp-groep had gekregen, geback-upt was in zijn OneDrive-account en door Microsoft aangemerkt was als kinderporno. Vorig jaar schreven we in een achtergrondverhaal wat je kunt doen als je account geblokkeerd wordt na een oordeel van het algoritme van Microsoft of Google.

Reacties (230)

[Klovan]

Het punt waardoor de rechtbank (directe link naar uitspraak) de eiser gelijk geeft is het feit dat Microsoft niet wil/kan vertellen wat er op die afbeelding te zien is. Volgens Microsoft mogen ze dit ook niet doen vanwege Amerikaanse wetgeving. Dit maakt dat de rechtbank niet kan bepalen of dit ook een terechte blokkering is.

De rechtbank is van oordeel dat Microsoft haar stelling dat het OneDrive-account van [naam eiseres] een afbeelding bevat die ongepast, uitbuitend en schadelijk voor kinderen is onvoldoende heeft onderbouwd. Gelet op de betwisting van [naam eiseres] dat zij een dergelijke afbeelding naar OneDrive heeft geüpload of met OneDrive heeft gesynchroniseerd, had Microsoft nader moeten onderbouwen om wat voor afbeelding het gaat en wat daarop te zien is. Microsoft heeft dat niet gedaan en kan of wil de afbeelding ook niet in het geding brengen. Volgens Microsoft had [naam eiseres] de afbeelding zelf kunnen vinden met het door Microsoft verstrekte file path. [naam eiseres] heeft ter zitting echter toegelicht, wat door Microsoft niet althans onvoldoende is weersproken, dat zij de afbeelding met de door Microsoft verstrekte informatie niet heeft kunnen vinden op haar computer en dat haar oude Samsung S8 telefoon dusdanig kapot is dat die niet meer op te starten is. Gelet hierop is het voor [naam eiseres] naar eigen zeggen nog steeds onduidelijk om welke afbeelding het gaat. Wat hiervan zij, het is aan Microsoft om haar stellingen te onderbouwen in plaats van aan [naam eiseres] informatie te verstrekken op basis waarvan [naam eiseres] misschien kan achterhalen om welke afbeelding het gaat. Met het in algemene zin toelichten van de werkwijze van Microsoft in de VS en het geven van een omschrijving van ‘categorie A2’ voldoet Microsoft niet aan haar stelplicht, omdat daarmee geen concrete informatie over de afbeelding wordt verstrekt. In deze situatie is het voor [naam eiseres] niet mogelijk om inhoudelijk te reageren op de stellingen van Microsoft, zodat zij niet meer kan en hoeft te doen dan deze stellingen van Microsoft betwisten. Dit heeft tot gevolg dat niet is komen vast te staan dat [naam eiseres] de MSA heeft geschonden, zodat Microsoft zich ten onrechte op het standpunt heeft gesteld dat zij de overeenkomst mocht ontbinden.

Waarschijnlijk is PhotoDNA getriggerd toen [naam eiseres] haar foto’s die opgeslagen stonden in de Samsung Cloud synchroniseerde met OneDrive. De afbeelding heeft dezelfde hash als een afbeelding in de database, zodat Microsoft er zeker van is dat de afbeelding die is gedetecteerd in het account van [naam eiseres] dezelfde is als de eerder geïdentificeerde afbeelding. Volgens Microsoft is het op grond van de wetgeving van de Verenigde Staten van Amerika (hierna: VS) niet toegestaan om de afbeelding te verstrekken of in het geding te brengen. Het is Microsoft alleen toegestaan om het file path van de afbeelding aan [naam eiseres] te verstrekken, wat zij ook gedaan heeft. Door de ongepaste afbeelding zijn al meer dan 400 accounts wereldwijd geblokkeerd. Dit zegt volgens Microsoft voldoende over het schadelijke karakter van de afbeelding. Het NCMEC geeft geen verklaringen af over de afbeelding. Alleen Microsoft in de VS weet om welke afbeelding het gaat en deze informatie is niet met Microsoft in Ierland gedeeld, aldus Microsoft. Aan Microsoft is dus niet bekend om welke afbeelding het gaat en hoe die afbeelding concreet kan worden omschreven.

Dit laatste is een interessante patstelling. Rechtbank wilt weten om wat voor een afbeelding dit gaat vs Microsoft mag van Amerikaanse wetgeving niet vertellen om welke afbeelding het gaat.

[Reactie gewijzigd door Klovan op 22 juli 2024 19:28]

[djwice]

Een hele goede reden om geen Windows 11 te nemen, mocht je een valse positieve foto op je OneDrive krijgen, dan kun je ineens niet meer in je eigen computer en niet bij je bestanden.l, want je Microsoft accounts is geblokkeerd.
En in veel gevallen ook je email, adressen en je contacten. Je kunt je vrienden, familie, collega's, therapeut, arts, ineens niet meer bereiken. Niets meer opzoeken op internet.

Dit heeft een veel te grote impact op het leven van een persoon en diens omgeving om zonder tussenkomst van een rechter Nederlandse rechter uit te voeren.

Microsoft (/Apple/Google/Meta/Amazon/AliBaba) heeft zo veel macht over en impact op het leven van personen, dat mag nooit worden ingezet in het nadeel van de individu, hoe fout die ook handelt. Het rechtssysteem hoort dit op te lossen, niet een commerciële partij buiten de rechtbank om.

[Niemand_Anders]

Je hebt 100% gelijk in die laatste paragraaf, maar het is wel diezelfde overheden die deze verantwoordelijkheid juist bij deze bedrijven neerleggen. Als zij niet filteren, krijgen zij weer tal van boetes...

[Sebben]

Adobe heeft al sinds jaren een filter in Photoshop die briefgeld detecteert. In dat geval krijg je een melding en gaat de boel op slot (tot je PS opnieuw start). Nu zul je denken 'terecht' maar leef je even in met bedrijven die bijvoorbeeld marketinguitingen maken met geldprijzen. Los van je mening over kansspelen, is het natuurlijk absurd om op dit niveau gecontroleerd te worden.

Het is de toekomst vrees ik.. 100% controle op wat de gebruiker op zijn computer heeft en doet.

[LNDN]

TIL! Je zou voor je werk maar iets hiermee moeten doen. WTF.

[dieAndereGozer]

Maar dat is toch graag de toekomst die we willen?

Dat Tesla hun auto's blokkeert in Rusland, dat Trudeau de rekeningen bevriest van mensen die op gofundme betaald hebben, dat Microsoft bepaalt wat wel en niet goed is? Straks schrijf je perongeluk hem ipv haar(al dan niet door autocorrect) en dan ben je je hele leven kwijt.

[djwice]

Precies 9789047710370 dan krijgen we 9789047709718 (het lezen waard).

[dieAndereGozer]

Pieter Koolwijk boeken?

[djwice]

Gozer(t) verwijzing naar je nickname en het boek Prutje is een mooi verhaal over hoe je uit een onwenselijk toekomst scenario (grote bedrijven die de bevolking onderdrukt) kunt stappen én je gemeenschap daarin mee neemt. Uiteraard heel mooi geschreven in roman vorm.

[Reactie gewijzigd door djwice op 22 juli 2024 19:28]

[lighting_]

Volledig absurd. Hoe kan je je verdedigen als ze geen inzage willen geven? Kan net zo goed een false positive zijn.

[Reactie gewijzigd door lighting_ op 22 juli 2024 19:28]

[YopY]

Dat is inderdaad het probleem, maar tegelijkertijd, als een geval als dit in dispuut komt dan kan deze melding handmatig bevestigd worden door een arme ziel die de mogelijke KP moet reviewen.

Maar gezien Microsoft in dit geval niet gezegd heeft "oh u heeft gelijk, na menselijk review bleek dit een "false positive", we hebben uw account weer geopend" lijkt het me vrij zeker wat het is.

[3raser]

Toch ben ik dan alsnog benieuwd naar wat er op de foto te zien zou zijn. Deze vrouw klaagt Microsoft vast niet aan als zij zeker was van het feit dat er kinderporno op haar OneDrive te vinden was. Ik vraag me daarom vooral af wat de kinderporno definitie is bij Microsoft. Moet dit gaan om seksuele handelingen of een pose die duidelijk van seksuele aard is? Of is een foto van je kind in bad al voldoende om je account geblokkeerd te krijgen?

[edit] Ik lees in reacties verderop dat dit gaat om een systeem die accounts blokkeert op basis van bekend kinderporno materiaal. Dat maakt het willekeurig blokkeren van een account al iets minder waarschijnlijk.

[Reactie gewijzigd door 3raser op 22 juli 2024 19:28]

[ThePendulum]

Wij gebruiken PhotoDNA, false positives zijn aan de orde van de dag, zelfs met een threshold van twee verschillende databases. Het gebruikt geen exacte hash van het bestand, waar vrijwel geen twijfel over mogelijk zou zijn, maar een perceptual hash met een bepaalde marge, die aangeeft dat een afbeelding ergens op lijkt.

We leveren geen noodzakelijke dienst dus het account wordt uit voorzorg tijdelijk geblokkeerd, maar de meldingen moeten helaas handmatig bevestigd worden voordat het IP adres en het materiaal wordt doorgestuurd aan het National Center for Missing & Exploited Children, anders hebben we binnen de kortste keren onze halve userbase onterecht aangegeven.

[Reactie gewijzigd door ThePendulum op 22 juli 2024 19:28]

[phoenix2149]

Interessant!

Hoe zit het met de privacy hier? Wie beoordeeld de false positives, want dat mag mij inziens niet zomaar een medewerker zijn, lijkt me dat hier een behoorlijke privacy inbreuk plaatsvindt.

Ik bedoel, even heel plastisch, als de persoon in kwestie een seksuele foto heeft gemaakt/gedownload die erg lijkt op KP (qua hash of wat ook) maar feitelijk een erg jong lijkende volwassen individu is in een privé situatie. Dat kan toch niet zomaar door een willekeurige medewerker zonder juridische tussenkomst/beoordeling ingezien worden?

Ook betreffende Microsoft vs mevrouw x --> nu de rechte vind at het gede-blokkeerd moet worden vind ik eigenlijk dat de desbetreffende afbeelding(en) door een onafhankelijk KP onderzoeksteam moet worden beoordeeld. --> gevolg kan natuurlijk zijn dat mevrouw x vervolgd kan worden als het daadwerkelijk KP is.

[ThePendulum]

Ik weet niet hoe het zit met OneDrive, maar in ons geval worden de foto's gedeeld op publieke fora en chats. Als uploader weet je dat je de foto's de wereld in stuurt, en dat je je aan ons beleid en de wet zult moeten houden.

Als er dubieus materiaal verschijnt, zal het dus hoe dan ook door anderen worden gezien, en ontkom je er als platform niet aan om actie te ondernemen. PhotoDNA is helaas gewoon nog niet goed genoeg om álles direct naar de instanties door te sturen, daar hebben die de capaciteit niet voor. Het alternatief zou niet zijn dat niemand ze ziet, maar dat er duizenden online gebruikers en lokale moderators aan blootgesteld worden totdat iemand de foto's handmatig rapporteert.

[Reactie gewijzigd door ThePendulum op 22 juli 2024 19:28]

[Superstoned]

Mja, dat is dus wel anders met OneDrive, ja. MS medewerkers zouden niet zo maar bij de data van mensen moeten kunnen, als dat kan is er echt iets mis, privacy-wise.

[Nimja]

De vraag is of het terecht is dat onschuldige fotos gescand worden van mensen die niets gedaan hebben. Hebben zij geen recht op privacy?

[Videopac]

Je maakt zelf de keuze om wel of niet van dit soort clouddiensten gebruik te maken.

[Yggdrasil]

Dat is maar de vraag. Veel diensten proberen je met alle macht in te lijven. Bijv. Apple die automatisch iCloud Backup activeert op je iPhone met Apple Account. Microsoft die op Windows 11 bezig is om een Microsoft account verplicht te maken terwijl OneDrive tegenwoordig met één druk op de knop je bureaublad afbeeldingen en documenten synct.

[J_van_Ekris]

Wij gebruiken PhotoDNA, false positives zijn aan de orde van de dag, zelfs met een threshold van twee verschillende databases. Het gebruikt geen exacte hash van het bestand, waar vrijwel geen twijfel over mogelijk zou zijn, maar een perceptual hash met een bepaalde marge, die aangeeft dat een afbeelding ergens op lijkt.

Dat is best een akelige constatering dat het zo uit de klauwen loop t en dat er bovendien mensen naar die beelden moeten kijken...

[Jerie]

PhotoDNA is bovendien omkeerbaar https://github.com/anishathalye/ribosome

[J_van_Ekris]

Deze vrouw klaagt Microsoft vast niet aan als zij zeker was van het feit dat er kinderporno op haar OneDrive te vinden was.

Dat is mijn instinct ook: je gaat niet zo ver als er aan het eind van het liedje voor de rechter een enorm vunzig beeld boven water dreigt te komen waar de rechter van oordeelt dat het bezit ervan inderdaad een misdrijf is (ken de wet niet goed genoeg of er dan automatisch ook aangifte van dat misdrijf zal volgen). De weg naar de rechter is best een stap. Wat ik begrijp is dat men een hashing-algoritme gebruikt, maar iedereen met crypto-kennis weet ook dat hash-collissions echt een uitdaging zijn. Dus als mensen zulke stappen zetten, zou ik als Microsoft al eens intern een controle hebben laten uitvoeren.....

[Dennism]

[...]

Dat is mijn instinct ook: je gaat niet zo ver als er aan het eind van het liedje voor de rechter een enorm vunzig beeld boven water dreigt te komen waar de rechter van oordeelt dat het bezit ervan inderdaad een misdrijf is (ken de wet niet goed genoeg of er dan automatisch ook aangifte van dat misdrijf zal volgen).

Laat dat nu exact zijn wat gebeurt is in de soortgelijke zaak uit 2020 waar Microsoft wel gelijk kreeg.

Hoe 'vunzig' het beeld staat niet in vonnis, maar duidelijk is wel dat de rechter het beoordeeld als kinderpornografisch.

4.7.
De voorzieningenrechter stelt vast dat op de foto twee blote kinderen staan afgebeeld in een pose die past bij seksuele activiteit, in het bijzonder bij het hebben van geslachtsgemeenschap. Volgens Microsoft is deze foto ongepast, uitbuitend en schadelijk voor kinderen en een schending van de in de servicevoorwaarden opgenomen gedragscode. Volgens [eiser] is deze foto, die hij in een groepsapp toegezonden heeft gekregen, grappig bedoeld. Op de foto staan volgens [eiser] niet daadwerkelijk seksuele handelingen met kinderen afgebeeld, maar door het hele ongelukkige moment van afdrukken bij het maken van deze foto lijkt dat zo.

4.8
De voorzieningenrechter overweegt daarover het volgende. Ook indien slechts de suggestie gewekt wordt dat de afgebeelde kinderen seksueel contact hebben, behelst de foto een visuele weergave van kinderen die deelnemen aan echte of gesimuleerde expliciete seksuele handelingen. Het gaat derhalve om kinderpornografie in de zin van Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad. Op grond van de richtlijn dienen de lidstaten de nodige maatregelen te nemen om ervoor te zorgen dat onder meer kinderpornografie strafbaar werd gesteld. De voorzieningenrechter acht ook veelzeggend over het karakter van de foto de eigen opmerking van [eiser] dat deze foto vaak wordt gedeeld in appgroepen van ‘de jongens van de voetbal’ of ‘de vrienden van vroeger’.

Op dit moment kan niet anders geoordeeld worden dan dat deze afbeelding door zijn inhoud in ieder geval een schending oplevert van de gedragscode, meer in het bijzonder van de artikelen 3a sub i, ii en sub iv (onwettige handelingen, het verrichten van activiteiten die kinderen uitbuiten, schade toebrengen of dreigen schade toe te brengen en het weergeven of delen van ongepaste inhoud (waaronder porno).

Vonnis: https://uitspraken.rechts...d=ECLI:NL:RBMNE:2020:4348

Dat vonnis laat wel goed zien dat wat voor de ene persoon slechts 'een grappig plaatje' is, in een juridische context dus gewoon als kinderporno beoordeeld moet worden en waarvan bezit (en verspreiding) dus mogelijk ook nog eens strafbaar is.

[Reactie gewijzigd door Dennism op 22 juli 2024 19:28]

[svennd]

Vraag is of één foto voldoende is om kinderporno aan te geven. De gekende Nirvana cover bijvoorbeeld maakt nog niet meteen een strafbaar feit naar mijn gevoel.

[3raser]

Bij die cover is er dan ook geenzins sprake van seksuele handelingen of een pose die seksueel activiteit insinueert. De foto is een typisch voorbeeld van wat beeldmateriaal wat geen kinderporno is.

[svennd]

Dat is wel een zeer nauwe interpretatie; Als we de volwassen versie nemen : een naakte vrouw/man in een zwembad (met alle delen zichtbaar), is dat geen porno ?

[3raser]

Nee, dat is hooguit erotisch getint. Bij porno moet er sprake zijn van seksuele handelingen of poses die bedoelt zijn om seksueel te worden geïnterpreteerd. Simpelweg een naakte vrouw is geen porno. Dan zouden blote borsten aan het strand ook al porno zijn.

[chopper88]

Dit is slechts jouw interpretatie.

Het hele begrip 'porno' is een lastig te definiëren iets, ook vanwege opvattingen vanuit geloof, cultuur en achtergrond, maar tevens vanwege een eeuwig veranderende maatschappelijke opvatting.

In bijv. de van Dale wordt het gedefinieerd als 'zinnenprikkelend materiaal'. Dit is dus voor iedereen anders. Sommige mensen hebben bepaalde fetisjen waarbij ze opgewonden raken van iemand anders die bijv. bepaalde kleding draagt, voor hun is een videootje waarin iemand in een konijnenpak een sigaret zit te roken op een stoel het meest opwindende ter wereld. Dat is dan ook gewoon porno, en bewust opgenomen met dat doel ook al gebeurt er niks seksueels, sterker nog er is niet eens naakt te zien.

[3raser]

Dat is niet mijn interpretatie maar de definitie volgens het wetboek van strafrecht de aanwijzing kinderpornografie voor strafrechtelijke zaken (2.3. Beoordeling van de strafbaarheid van het materiaal). Als je leest wat onder kinderporno valt dan zul je daaruit opmaken dat wat ik zeg daarmee overeen komt. Een foto zoals de Nirvana cover is dat dus niet omdat die foto meer valt onder het op natuurlijke wijze afbeelden van een naakt kind.

Dat verschillende mensen opgewonden raken van verschillende zaken heeft niets met de definitie van porno te maken. Niet voor de wet in ieder geval.

[edit] Correctie: het wetboek zelf geeft geen definitie. Dit is vastgelegd in de aanwijzing voor strafrechtelijke zaken.

[Reactie gewijzigd door 3raser op 22 juli 2024 19:28]

[osluis]

Zonder overdrijven, een vriend van mij heeft een ban op facebook gehad omdat hij een foto plaatste van zijn hond die op zijn rug lag en daar de geslachtsdelen van zijn hond (mannetje) zichtbaar waren.

[jpsch]

Nee, dat is geen porno.

[bed76]

Als zij weet dat Microsoft het niet mag vrijgeven van de wet in de VS, dan heeft ze toch niks te vrezen? Dus kan ze MS alsnog gewoon aanklagen zonder risico te lopen dat haar naam gevaar loopt (of dat interesseert haar gewoon niet)

Want aan de andere kant geredeneerd, als MS 400 andere accounts met dezelfde afbeeldingshash heeft geblocked om deze reden... zal er wel iets op te zien zijn wat het daglicht minder goed kan verdragen.

[d3burt]

Er zijn zat voorbeelden van hash collisions met perceptual hashes waarbij de ene afbeelding niet lijkt op de andere... Interessante research is bijvoorbeeld https://www.anishathalye.com/2021/12/20/inverting-photodna/, die laat zien dat de hash zoveel informatie lekt dat een thumbnail van het plaatje uit de hash kan worden gehaald, en https://rentafounder.com/the-problem-with-perceptual-hashes/ waar een real life collision uit de praktijk wordt getoond.

Weliswaar is die laatste niet met PhotoDNA gedaan, maar dat pleit PhotoDNA niet vrij omdat PhotoDNA proprietary is en dus niet onafhankelijk te valideren is. En Ribosome toont aan dat de basisproblemen van de publieke algoritmes dezelfde zijn als die van PhotoDNA.

Als je de Ribosome voorbeelden bekijkt zie je ook hoe makkelijk een plaatje zonder sexuele context een plaatje met sexuele context zou kunnen matchen, en dus ten onrechte als kinderporno zou kunnen worden geklassificeerd.

Hoe vaak heb je als mens al niet dat je een foto bekijkt, en denkt, "heh, zie ik het nou goed"? En dat je pas als je wat langer kijkt, ziet dat er niet op de foto staat wat je in eerste instantie dacht? De kunstmatige "intelligentie" achter PhotoDNA achtige software automatiseert helaas de herkenning van de eerste flits en niet de grondige bestudering, maar met een zo grote precisie en reproduceerbaarheid dat er teveel nauwkeurigheid aan wordt toegeschreven.

[bed76]

Goeie uitleg van de techniek erachter en hoe discutabel die dus blijkbaar is. Ik ging alleen op het punt waarom de vrouw anders beroep zou aantekenen en was mijn argumentatie een mogelijkheid. Alleen door jouw verhaal is die kan wel een heel stuk minder plausibel geworden.

[JBVisual]

Ik kan aangeven dat een Amerikaans beeld op foto’s anders is dan dat van ons.
Zo HAD ik foto’s van mijn kinderen in een badje (onder de 3 jaar oud).

Ik
Kreeg een waarschuwing van Microsoft dat de foto’s niet conform de richtlijnen waren.

Eind goed al goed, Microsoft waarschuwde mij wel gewoon netjes. Iets wat in deze zaken waarschijnlijk niet is gebeurd.
Wat daar de reden voor is blijft gissen, wel weet ik dat Microsoft conform de voorwaarden het recht heeft een account direct dicht te zetten.

[J.E. Weinor]

Snap er niet veel van maar OneDrive van Microsoft is toch een opslagdienst waar je evt. je foto's op zet en online waar ook ter wereld je foto's weer kunt zien of delen.
Maar hoe weet Microsoft nou welke foto's of bestanden jij op je OneDrive hebt staan, neem toch aan dat het privé is en beschermt en beveiligd en Microsoft niet mag weten wegens privacy.
Tenslotte het gaat Microsoft toch niets aan wat jij privé doet? krijg de indruk als ik het artikel zo lees dat Microsoft precies weet wat je op je OneDrive hebt staan.

[JBVisual]

Microsoft behoud het recht om op basis van kunstmatige intelligentie foto's door te scannen.
Het is prima om foto's van kinderen erin te zetten, zolang ze maar een zwembroekje aan hebben.

Het is allemaal erg preuts en voor ons vak niet te bevatten.
Maar ik kan begrijpen waarom dit gebeurd. Ik zeg niet dat dit de juiste manier is, maar Microsoft heeft net zoals elk bedrijf rekening te houden met lokale wetten, maar ook een morele plicht.

Als ik een groot bedrijf zou hebben die een opslagdienst aanbied, en daar veel foute content op zou staan, dan zou ik mijzelf toch echt zorgen maken over mijn eigen dienst.
Ik wil dus echt niet goed praten dat foto's met kunstmatige intelligentie gescand worden, maar ik kan dus zeker wel begrijpen waarom bedrijven deze keuze maken.

[3raser]

Microsoft weet ook precies wat jij op je OneDrive hebt staan. Als dit nieuw voor je is dan hoop ik dat het je ogen opent want vrijwel alle clouddiensten weten precies wat jij online hebt staan. Vuistregel is dat de aanbieder van de dienst altijd weet welke data jij online hebt staan tenzij er redelijkerwijs kan worden aangetoond dat je data versleuteld wordt opgeslagen met een sleutel die alleen jij als gebruiker in je bezit hebt. De diensten die niet bij je data kunnen zijn vaak heel specifieke diensten die dit dan ook overduidelijk naar de klant communiceren.

[YangWenli]

Vraag me af iemands MS account kan worden geblokkeerd als iemand naar jou CP loopt te spammen? Dan ben je toch behoorlijk de Sjaak.

[Vogel666]

Een fantastische DOS attack. Stuur KP naar iedere mogelijke tekst-string @outlook.com en het algoritme blokkeert de halve omgeving.

[pbb]

Je hoeft niet eens KP te versturen! Je moet alleen aan een PhotoDNA hash zien te komen van "geverifieerde" KP. Die hash reverseer je naar een plaatje, resultaat is een wazige verzameling kleurvlekken. Absoluut geen KP, maar wel met dezelfde hash. Dat plaatje stuur je rond, de ontvangers worden geblokkeerd. Dat accounts om ongeldige redenen geblokkeerd worden maakt niet uit, de beoogde schade heb je veroorzaakt.

[Finraziel]

Dat is dus precies waarom je nooit die automatische upload functionaliteiten moet gebruiken... Of als je het al doet dan indien mogelijk de Whatsapp map excluden.

[sus]

Er wordt nogal makkelijk over gedacht...

Je bent dan inderdaad behoorlijk de Sjaak. Als verzender zeker.

*jij* bent dan degene die het aan het verspreiden is - en ja, daarvoor ga je gewoon de bak in. En mag je ook therapie gaan volgen om je weer op het rechte pad te krijgen. Daar tillen ze erg zwaar aan bij het OM. 1 foto is voldoende, een DOS-attack is serieus in de problemen zitten.

Vanuit het OM gekeken sta je als ontvanger een stuk sterker, al begint het dat je dan *zelf* actief aangifte moet doen dat iemand dat ongevraagd naar je toe heeft gestuurd. En dan mag ook jij je even komen melden op het bureau. Wordt je hele technische hebben en houden door de mangel gehaald. Niet pro-actief gehandeld? En jouw nummer duikt op in een onderzoek? De sjaak!

Met je aangifte is het daarna vast mogelijk je geblokkeerde account weer te laten ontgrendelen nadat de zwik foto's verwijderd is.

[SkyStreaker]

In Amerika kan je kleinkind van 2 die poedelnaakt in haar badje aan het spelen is al onder kinderporno vallen, terwijl de context in heel andere, compleet andere vorm valt. Voorbij belachelijk natuurlijk.

Dan kan je zeggen, je moet ergens de grens trekken. Maar die grens wordt bepaald door de wetgeving van een compleet ander land. Kan iemand mij dat eens helder uiteenzetten?

[pepsiblik]

Maar dat is hier ook het probleem. Welke jurisdictie geldt? Valt een beetje in dezelfde categorie waar Microsoft een Iers account niet wilde overhandigen aan de FBI omdat het dat niet mocht op basis van Europese wetgeving.

[lilmonkey]

Maar dat is hier ook het probleem. Welke jurisdictie geldt?

Niks probleem, in Nederland geldt de Nederlandse wetgeving en niet de Amerikaanse.

Dat dat voor internationaal opererende bedrijven lastige situaties op kan leveren is duidelijk, maar juridisch niet relevant voor een Nederlandse gebruiker.

[WillySis]

Een internationale cloud-dienst heeft niet alleen met de wetten van het land van de gebruiker te maken. Afbeeldingen die in de VS op een server worden opgeslagen moeten ook aan de Amerikaanse wet voldoen.
In het geval van Microsoft zal de afbeelding vermoedelijk in Ierland op de server staan en geldt de Ierse wet.

Het grootste probleem is hier dat Microsoft software gebruikt die een behoorlijk percentage false positives genereert. De software is bovendien niet onafhankelijk te valideren. Hierdoor kan een rechter onmogelijk oordelen of Microsoft terecht heeft gehandeld. Het is ook maar de vraag of Microsoft zich terecht baseert op de Amerikaanse wet. Volgens de Ierse wet mogen een rechter en de betrokken advocaten wel inzage krijgen in belastend (beeld)materiaal. Dit mag niet altijd in de rechtszaal getoond worden, maar wel worden beschreven.
Als de Amerikaanse wet echt van toepassing is, dan heeft Microsoft een probleem en zullen ze moeten kiezen welk recht ze gaan negeren.

Microsoft zou er beter aan doen om dit soort zaken te voorkomen en het opslaan van kinderporno-achtige afbeeldingen gewoon onmogelijk te maken.

[tvtech]

Tot de Amerikaanse belastingdienst achter je geld aanzit…

[Djordjo]

Maar dat is hier ook het probleem. Welke jurisdictie geldt?

Dat staat niet ter discussie, zie uitspraak:

4.4 Partijen zijn in artikel 10 van de MSA overeengekomen dat Iers recht van toepassing is “op alle claims met betrekking tot kosteloze en betaalde Diensten”, met inachtneming van de Nederlandse regels voor consumentenbescherming. Deze rechtskeuze is geldig op grond van artikel 6 lid 2, gelezen in samenhang met artikel 3 lid 1 van de Rome I-Verordening (Verordening (EG) nr. 593/2008 van het Europees Parlement en de Raad van 17 juni 2008 inzake het recht dat van toepassing is op verbintenissen uit overeenkomst).

[Rouwette]

Er was toch ook ooit een bericht dat Apple de iCloud ging scannen op kinderporno, zelf gemaakte foto's van je kinderen kon het einde van je account zijn...

[Tjidde]

Maar dan kom je op de vraag wat is kinderporno.

Klinkt gek maar een foto met een naakt kind is niet altijd kinderporno. Stel ik heb een leuke foto van mijn kind die in de zon in de tuin naakt aan het spelen is met een sproeier. Ik maak er een foto van omdat ik denk leuk moment vast te leggen. Of van een kind in bad. Ga zo maar door er zullen tig foto's zijn van kinderen die toevallig naakt zijn maar papa of mama het grappig moment vond en snel een foto maakt.

Ik heb zo thuis een foto liggen dat ik in bad zit te klooien als een 3 jarig jong. Waarbij alles goed te zien is.

Het algoritme van Microsoft triggert hierop de medewerker vind het onacceptabel. Is je account weg.

Het nadeel is van mijn voorbeelden, ik kan ook die foto's maken met slechte intentie. Maar wie bepaald dat? Ik vind zelf Microsoft niet. Doen ze wel.

Ik ben van mening dat gedaan moet worden door een rechter in het land van de gebruiker. Dat Microsoft de foto tijdelijk soort van blokkeert helemaal prima. Maar zodra of de rechter zegt foto is prima of de aanklagende kant(OvJ in NL) zegt van wij zien er geen zaak in foto weer 100% vrijgeven.

Is het echt kinderporno vind ik dat wij gewoon de hele batterij van rechtsgangen moeten belopen als het nodig is, om het onderste boven water te halen en de mogelijke daders aan te pakken.


Dat gezegd ben denk nu niet de enige die dit zal denken, ik wil die foto eigenlijk wel zien. Is het echt zo erg als Microsoft zegt zonder er eigenlijk iets over te zeggen. Of is het een foto van een kind dat toevallig naakt is. Juist omdat er zo vaag gedaan word over de foto.

[J_van_Ekris]

Ik heb zo thuis een foto liggen dat ik in bad zit te klooien als een 3 jarig jong. Waarbij alles goed te zien is.

Er zijn zelfs platenhoezen van zeer bekende albums waar men via de rechter na 30 jaar nog steeds de discussie voert of het KP is: https://www.forbes.com/si...graphy-lawsuit---for-now/

Ik hoop dat Microsoft deze uit het hashing-algoritme houdt, ook als een rechter een andere mening heeft, anders gaan er een hoop contracten verscheurd worden.

Ik ben van mening dat gedaan moet worden door een rechter in het land van de gebruiker. Dat Microsoft de foto tijdelijk soort van blokkeert helemaal prima. Maar zodra of de rechter zegt foto is prima of de aanklagende kant(OvJ in NL) zegt van wij zien er geen zaak in foto weer 100% vrijgeven.

Dat op zijn minst, maar het beeld dat ik krijg van de reacties hier is dat je niet eens bij Microsoft een verweer kunt indienen. Het algoritme killt blijkbaar semi-automatisch je account, en er is daarna geen verweer of gesprek meer mogelijk. En dat is natuurlijk wel erg kwalijk.

[TheVivaldi]

Maar ja, de vraag is of de foto ook illegaal is onder Nederlandse wetgeving. De Amerikaanse wetgeving heeft andere gedachten over wat wel en geen porno is. En dan nog is niet bewezen dat Microsoft het verhaal niet gefabriceerd of aangedikt heeft. We weten eigenlijk helemaal niks, dus de rechter heeft volkomen gelijk met deze uitspraak.

[Reactie gewijzigd door TheVivaldi op 22 juli 2024 19:28]

[neeecht]

Om diezelfde reden worden vele van YouTube en Twitter gegooid.

- Oh ik houd me niet aan de regels, sorry, maar welke regel heb ik overtreden?
YT: Dat vertellen we je niet, succes!

De wereld is echt een clown world geworden.
Een wereld waar we niet eens meer kunnen uitleggen wat een vrouw is.
Zelfs een nieuwe hoge rechter in USA niet. Mij benieuwen wat dan de uitspraak was geweest.

[R4gnax]

Oh ik houd me niet aan de regels, sorry, maar welke regel heb ik overtreden?
YT: Dat vertellen we je niet, succes!

Autoriteiten zouden veel strenger tegen dit soort ongein op moeten treden.
Als bedrijven dit doen, is het het moedwillig saboteren en met voeten treden van de rechtsorde en rechtsgang.

Bedrijven kunnen zich niet verschuilen achter 'volgens onze voorwaarden hoeven we dat niet te vertellen' want de EU heeft bedingen die de consument hinderen of het de consument onmogelijk maken om een beroep in te stellen of een rechtsvordering te starten; incl. het de consument onthouden van mogelijk ontlastend bewijs of het aan de consument opleggen van extra bewijslast die normaliter gezien het geldende recht bij een andere partij in de overeenkomst zou liggen, expliciet op een zwarte lijst gezet.

Lidstaten moeten alles wat op die zwarte lijst staat per definitie behandelen als een oneerlijk beding, wat bij gevolg wettelijk de consument niet mag kunnen binden.

[Reactie gewijzigd door R4gnax op 22 juli 2024 19:28]

[GeoBeo]

Wat ook absurd is, is dat mensen OneDrive gebruiken terwijl gewoon bekend is dat:

1. Je account geblokkeerd kan worden zonder waarschuwing, omdat een onbekend algoritme dat bepaald. In andere woorden: je account kan willekeurig geblokkeerd worden en je kunt daar helemaal niets aan doen (behalve naar de rechter stappen).

2. De NSA volledige toegang heeft tot je account en de NSA de inhoudt van je account (in het geheim) kan toespelen aan wie dan ook maar, inclusief de Nederlandse geheime diensten.

Wat zo mogelijk nog absurder is, is dat Nederlandse bedrijven vrijwillig hun bedrijfsgeheimen uploaden naar de Amerikanen via OneDrive e.d.

[Reactie gewijzigd door GeoBeo op 22 juli 2024 19:28]

[Tc99m]

De gemiddelde gebruiker (en dat is meestal niet iemand die op Tweakers actief is) staat bij dit soort zaken totaal niet stil.

[m.z]

Wat zo mogelijk nog absurder is, is dat Nederlandse bedrijven vrijwillig hun bedrijfsgeheimen uploaden naar de Amerikanen via OneDrive e

Namelijk kunnen ze ook vrijwillig de GEO-locatie aanpassen:

https://docs.microsoft.co...365-worldwide#netherlands

[Reactie gewijzigd door m.z op 22 juli 2024 19:28]

[cracking cloud]

Knap staaltje victim blaming

[bbob]

Wat absurder is is dat MS zich achter Amerikaanse wetgeving verschuilt.
Ze bieden een dienst aan in de EU, in dit geval Nederland. In dat geval is voor MS de Nederlandse / Europese wetgeving van toepassing.

We hebben discussie gehad over privacy en MS die diensten in de EU wil aanbieden zonder dan wij als EU gebruikers de kans lopen dat die data door Amerikaanse overheid wordt ingezien. Daar tuigen ze dat constructies voor op zodat die data onder EU recht zal vallen. Nu verschuilen ze zich achter Amerikaans recht.

Feitelijk zeggen ze dus, doe je met ons zaken valt al je data onder Amerikaans recht en tja die kunnen als ze dat willen ook toegang krijgen tot die data.

[SED]

Dat is niet helemaal waar. Je weet zelf welke foto het betreft als filenaam en path beschikbaar zijn.
Kennelijk weet ms dat echter niet door gebruik te maken van hashcodes van bekend pornografisch materiaal. De database daarvan is een externe.

[lighting_]

De algoritme reageert op een hashcode. Als MS niet kan checken op welke externe foto een signaal komt weet je nooit of je algoritme goed werkt en kan je de algoritme niet eens auditen.
Bij bovenstaande scenario is MS echt strafbaar.

[Reactie gewijzigd door lighting_ op 22 juli 2024 19:28]

[SED]

Strafbaar? Je draait een beetje door nu of kent het verschil tussen strafrecht en civiel recht niet.

[J_van_Ekris]

Dit laatste is een interessante patstelling. Rechtbank wilt weten om wat voor een afbeelding dit gaat vs Microsoft mag van Amerikaanse wetgeving niet vertellen om welke afbeelding het gaat.

Met andere woorden: als er een menselijke fout gemaakt is en een beeld onterecht in die PhotoDNA database terecht is gekomen of een hash-collission plaatsvindt met een beeld dat wel publiekelijk gedeeld wordt, dan is iedereen die zich inhoudelijk aan de wet houdt, toch per definitie in de VS schuldig omdat een algoritme dat vindt.

In Engeland zijn onlangs de postkantoren tot schadevergoeding veroordeeld omdat medewerkers ontslagen zijn en voor fraude zijn veroordeeld (!) terwijl de systemen van de postkantoren de voorraad niet goed bijhielden (zie https://nos.nl/artikel/23...deelde-postkantoorhouders). Ben blij dat in Nederland men vasthoud aan een inhoudelijke beoordeling van de zaak, en men dus niet blind vaart op "de computer vindt het fout, dus dat zal dan wel".

[Reactie gewijzigd door J_van_Ekris op 22 juli 2024 19:28]

[Caayn]

Ik ben het volledig met je eens dat wij erg uit moeten kijken voor "computer says no" scenarios.

Gewoon even de mens ertussen, in plaats van blind "de computer zegt het".

Dat is wel een lastig dillema. Je betaald dan mensen om naar, mogelijke, KP te kijken. In hoeverre is dat wettelijk toegestaan, je verwerkt op dat moment KP, en wat doet dat emotioneel met de medewerker.

[TheVivaldi]

Iemand die ervoor getraind is, zal daar minder moeite mee hebben. Net zoals dat het zien van een operatie of politiebeschieting erg emotioneel kan zijn, maar een resp. chirurg en politieagent gaan daar heel anders mee om.

[J_van_Ekris]

Dat is wel een lastig dillema. Je betaald dan mensen om naar, mogelijke, KP te kijken. In hoeverre is dat wettelijk toegestaan, je verwerkt op dat moment KP, en wat doet dat emotioneel met de medewerker.

Klopt, je moet echt niet mensen gaan blootstellen aan de vunzigheid die door zo'n algoritme terecht wordt opgemerkt. Maar ik denk wel dat je serieus moet kijken naar de mensen die serieus in bezwaar gaan, en die mensen dus hun recht moeten kunnen krijgen buiten de rechter om. De criminelen zullen gewoon hun verlies nemen en ergens anders een nieuw account aanmaken om hun rommel te distribueren. Maar als mensen serieus klagen dan is dat het moment om in gesprek te gaan lijkt me.

[Oon]

Dit laatste is een interessante patstelling. Rechtbank wilt weten om wat voor een afbeelding dit gaat vs Microsoft mag van Amerikaanse wetgeving niet vertellen om welke afbeelding het gaat.

Het mooie is alleen dat ze in dit geval geen reet met de Amerikaanse wetgeving te maken hebben, aangezien het geschil tussen Microsoft en een Nederlandse gebruiker gaat. Dat Microsoft deze informatie standaard intern niet deelt lijkt me hun probleem om op te lossen, en tot die tijd mogen ze lekker de hele technologie ook in de VS houden en voor Europese gebruikers uit laten staan want dat schiet ook niet op.

[Crahsystor]

[...]
Dit laatste is een interessante patstelling. Rechtbank wilt weten om wat voor een afbeelding dit gaat vs Microsoft mag van Amerikaanse wetgeving niet vertellen om welke afbeelding het gaat.

Eerste ingeving: dat zou toch via de gebruiker moeten kunnen? Gewoon onder de GDPR inzage eisen over je eigen bestanden. Daarin moet naar voren komen welke afbeelding door het algoritme aangemerkt is. Zo niet, dan houdt MS bewust data achter. En dat is gemakkelijk bewezen. De vraag is dan of dat legaal is. Ik verwacht in de VS wel, in de EU niet. Waardoor MS moet kiezen tussen sancties in het thuisland of de EU. Zaak voor de EU om het zo kostbaar te maken voor MS dat ze ofwel de dienstverlening aanpast of vertrekt.

Je ziet hier ook dat de hele privacyovereenkomst met MS (en waarschijnlijk andere bedrijven in de VS) onzin is. De VS oordeelt over data in de EU, vanuit de VS. (Want alleen MS VS weet welke afbeelding het is, degene waarbij de eiseres klant is geworden (aanname), MS Ireland, weet het niet.)
Zolang de wet in de VS stelt ""privacy leuk en aardig, wij willen alle data van buitenlandse klanten inzien" is er geen werkbare vorm van Safe Harbor of Privacy Shield denkbaar. De VS heeft lak aan andere landen. Geen probleem, tot je normen en waarden te ver uit elkaar liggen en er voordeel te behalen valt.

[TheVivaldi]

[...]

Eerste ingeving: dat zou toch via de gebruiker moeten kunnen? Gewoon onder de GDPR inzage eisen over je eigen bestanden. Daarin moet naar voren komen welke afbeelding door het algoritme aangemerkt is.

Ze hebben de bestandslocatie vrijgegeven met de naam van het bestand erbij, dus tenzij de gebruiker niet weet hoe het bestand heette, kan er wel degelijk door de gebruiker worden bepaald om welke foto het ging. Maar ik ben met je eens dat ze gewoon de foto an sich hadden moeten delen.

[!mark]

Bij een automatisch backup van zeg de Galerij of Whatsapp zegt dat precies niks bij de meeste mensen denk ik. IMG_20220328_232707.jpg o.i.d. zou mij helemaal niks zeggen wat het nu precies is bijv
Tenzij ik het origineel nog heb onder die naam; maar de serieuzere foto's die ik wil bewaren krijgen na een uitzoeksessie eens in de zoveel tijd een vindbare naam bij mij.

[TechSupreme]

Het is Microsoft alleen toegestaan om het file path van de afbeelding aan [naam eiseres] te verstrekken

Ik heb zoveel foto's op die automatisch gesynchroniseerd worden, allemaal in standaard iOS format. Als je aan mij vraagt wat er in "20220209_153741570_iOS.jpg" staat dan zou ik het bij god niet weten.

Er zijn zoveel organen zowel in de VS als in de EU die gespecialiseerd zijn in kinderporno en die iets hadden kunnen zeggen over de inhoud. Microsoft doet niet eens de moeite om te zeggen: "dit is de hash en dat orgaan in Nederland zegt er dit over". Dan hoef je niet eens de foto zelf te delen, alleen de hash. Als hij ergens in een database zit dan zal hij wereldwijd in meerdere databasen zitten toch?

[xbeam]

Volgens kunnen ze dat ook niet omdat de hashes worden aangeleverd door NCMEC, het betreft dan ook alleen afbeelding die waarvan de maker de foto’s is veroordeeld voor de verspreiding of misbruik die er aan vooraf ging.

[MonoKid]

Volgens Microsoft had [naam eiseres] de afbeelding zelf kunnen vinden met het door Microsoft verstrekte file path. [naam eiseres] heeft ter zitting echter toegelicht, wat door Microsoft niet althans onvoldoende is weersproken, dat zij de afbeelding met de door Microsoft verstrekte informatie niet heeft kunnen vinden op haar computer en dat haar oude Samsung S8 telefoon dusdanig kapot is dat die niet meer op te starten is.

Kan iemand even verhelderen? Als Microsoft de foto heeft kunnen scannen en valideren als gekende kinderporno, wat maakt die Samsung S8 dan uit? Die foto bereik je toch gewoon via je OneDrive account in je browser?

inb4 "ja maar, meeste gebruikers kennen dat niet bla..."
Sure, maar dan heeft Microsoft toch gelijk in dat ze de foto wel degelijk had kunnen nakijken?

Blijft wel een stevig spelletje rond-de-pot-draaien, zinnig oordeel van de rechter, naar mijn bescheiden mening.

[robvanwijk]

Kan iemand even verhelderen? Als Microsoft de foto heeft kunnen scannen en valideren als gekende kinderporno, wat maakt die Samsung S8 dan uit? Die foto bereik je toch gewoon via je OneDrive account in je browser?

Niet als je account geblokkeerd is...

Volgens Microsoft had [naam eiseres] de afbeelding zelf kunnen vinden met het door Microsoft verstrekte file path. [naam eiseres] heeft ter zitting echter toegelicht, wat door Microsoft niet althans onvoldoende is weersproken, dat zij de afbeelding met de door Microsoft verstrekte informatie niet heeft kunnen vinden op haar computer en dat haar oude Samsung S8 telefoon dusdanig kapot is dat die niet meer op te starten is. Gelet hierop is het voor [naam eiseres] naar eigen zeggen nog steeds onduidelijk om welke afbeelding het gaat.

Dus dan wordt het account gedeblokkeerd, kan ze opzoeken om welke foto het gaat... en daarna kan MS het account meteen opnieuw blokkeren, omdat ze nu wel weet om welke foto het gaat!?

[R4gnax]

Het probleem is dat MS VS, die de OneDrive data beheert, van de wetgever in de VS de foto niet vrij mag geven.

Dat creeërt voor hen het interessante probleem dat hier in Nederland en in het algemeen binnen de EU, een dienstverlener een overeenkomst met een consument alleen eenzijdig op mag zeggen als daar zware aanleiding toe is. Bedingen in servicevoorwaarden die hen een breder recht daarin toe zouden kunnen eigenen, staan op een zwarte lijst.

Op diezelfde zwarte lijst staat ook een snede inzake bedingen die de mogelijkheid tot beroep of rechtsvordering frustreren; incl. het achterhouden van bewijs; en het plaatsen van een bewijslast bij de consument die gezien het geldende recht bij een andere partij (incl. de dienstverlener zelf) in de overeenkomst hoort te liggen.

Ze kunnen zich dus ook niet verweren met "hoeven we volgens voorwaarden niet te bewijzen; geloof ons maar op ons woord" of met "het gaat om bestand met naam <XYZ>; bewijs zelf maar dat dat bestand de servicevoorwaarden niet schendt."

Concreet: diegene die de claim maakt, levert het bewijs.

Enige wat MS of andere service providers gezeteld in de VS in zo'n situatie in maakt-niet-uit-welke EU-lidstaat zouden kunnen doen, is de belastende foto in quarantaine zetten, zodat niemand er meer aan kan, of verwijderen. Als het recht in de VS hen limiteert in hun mogelijkheid bewijs te overleggen, kunnen ze gewoon niet de account sluiten - dwz de overeenkomst eenzijdig opheffen of anderzijds hun levering conform contract limiteren.

[Reactie gewijzigd door R4gnax op 22 juli 2024 19:28]

[DzjieDub]

"leuke" cirkelredenering: "Door de ongepaste afbeelding zijn al meer dan 400 accounts wereldwijd geblokkeerd. Dit zegt volgens Microsoft voldoende over het schadelijke karakter van de afbeelding."

Dus, Microsoft blokkeert 400 accounts vanwege een specifieke afbeelding en zegt vervolgens dat het terecht is dat die afbeelding geblokkeerd wordt omdat er al 400 accounts zijn geblokkeerd.

[anboni]

Niet vanwege een specifieke afbeelding, vanwege een afbeelding die volgens een Black box algoritme lijkt op een specifieke afbeelding..

[Jerie]

Black box mag nooit tot conclusies leiden zoals afsluiten account betaalde service zonder wederhoor. In dit geval kun je spreken van obstructie van de rechtsgang.

[lilmonkey]

Die logica slaat inderdaad nergens op. Sterker nog, ik zou denken dat de relatief minder schadelijke afbeeldingen relatief vaker gedeeld worden.

[phoenix2149]

Het probleem is dat de afbeelding delf niet wordt bekeken maar de "digitale karakteristiek" van de afbeelding. Althans zo begrijp ik het.

https://www.youtube.com/watch?v=NORlSXfcWlo

Dus de afbeelding zelf hoeft niet eens daadwerkelijk "bekeken" te zijn geweest. Het algoritme heeft gewoonweg gezegd 93-97% overeenkomst met een bekende karakteristieke foto --> Blokkeer account.

[lighting_]

Wel verbazing wekkend dat je fotos gescand worden. MS die gebruikers maar loopt te pushen one drive te gebruiken. Elke kwer krijg je in Windows de melding dat je niet ingelogd bent. Een automatische backup vind ik juist niet handig. Doe mij maar old fashioned harde schijf.

[hiostu]

Het is niet geheel verbazing wekkend, Microsoft is door Amerikaanse wet verplicht om deze bestanden te scannen en in geval van overtreding te melden bij de CyberTipline (https://www.missingkids.org/gethelpnow/cybertipline)

[lighting_]

Stuur iemand een voor de grap een verdachte foto en die is de sjaak.

[xbeam]

Dat zal wel mee vallen. Het zijn namelijk geen verdachte maar veroordeelde foto’s. MS, Apple, Amazon,Google enz, filtert automatisch op hashes van foto’s die door een rechter zijn bekende en deze de foto’s zodanig heeft beoordeeld dat maker of verspreider daarvoor is veroordeeld.

Wanneer de hele klas jouw deze foto naar jou stuurt jou te naaien zijn zelf veel harder de Sjaak. Wanneer je aangifte doen moet justitie optreden. Je klasgenoten zijn vanaf dat moment de pleegt de verspreider een feit dat justitie en rechtbank als zodanig ernstig beschouwen dat ze iemand voor hebben veroordeeld. En zeker in de VS is waneer het een NCMEC zaak gaat een ritje/ telefoontje naar de politie en zeker als het om een hele klas gaat voldoende om de volgende dag federaal breed FOX News schandaal op de buis te hebben en staan ze je s’morgens met met live camera’s in de klas op wachten om je te vragen: “Nu je weet dat jaren tussen al die verschrikkelijk monsters hebt gezet ben zeker opgelucht ze van de straat zijn en Julie …. (Antal die mee deden ) hier vanaf vandaag les krijgen zonder omringd te zijn verschrikkelijke door verschrikkelijke gedachtegoed?”

Nee, ik denk dat wanneer zoiets gebeurd je in de VS jij vooral zorgen maakt voor hoe de media kan ontwijken en vooral de verzenders de Sjaak zijn.

[Reactie gewijzigd door xbeam op 22 juli 2024 19:28]

[CAPSLOCK2000]

Dat wordt ook echt gedaan. Als 1 iemand je zo probeert te pakken kun je dat misschieg nog uitleggen. Als een hele schoolklas, bedrijfsafdeling of criminele organisatie zo iets doet zou het wel eens lastiger kunnen worden.

[Hakker]

al is het er maar 1. De manier hoe Microsoft en Google het onmogelijk maken om degelijk in beroep te kunnen gaan maakt het hele gebeuren gevaarlijk. En veel mensen hebben wel een automatische backup van hun relefoon aan staan zodat als ze wisselen makkelijk alles terug krgijen.
Al die techbedrijven maken het je onmogelijk om te verdedigen enkel een gang naar de rechtzaal blijft dan over. Helemaal een probleem als het gebeurt naar een werk telefoon van kleine ondernemers die bv een google business account gebruiken Ben je gelijk alle toegang tot je bedrijf kwijt als je niet lokaal een backup danwel een andere cloud dienst gebruikt, maar we moeten wel allemaal bij die grote bedrijven hun spul afnemen.

[Sinnergy]

Als er nu eens hakkers.. I mean hackers waren die deze attack vector eens gingen 'exploiten' om dit probleem in de media te krijgen. Wel met een 'false positive' natuurlijk

Note: Grappig bedoeld menseuh... niet lezen als een effectieve oproep om illegale dingen te gaan doen

[HakanX]

Tekenfilmfiguur Shin Chan zou wel de beveiliging van MS kunnen triggeren. Die liep continue met de billen blood. Dat zou nog wel interessante nieuwsitems worden idd. Hoewel grappig bedoeld, is er helaas wel zoiets nodig van grote orde om de grote databoeren tot actie te duwen. Individuele gebruikers interesseert ze werkelijk niks.

[hiostu]

Daarom wordt mijn whatsapp/telegram folder niet automatisch gesynchroniseerd met cloud diensten. Tevens kies ik de mensen waarmee ik berichten uitwissel wel beetje uit, die dit soort "geintjes" niet flikken. Iemand als grapje een kinderporno foto sturen...

[Rataplan_]

Maar wanneer is het nou kinderporno? Als ik een foto van mijn dochterjes heb die hier 's zomers in hun blote kont rondrennen, is dat dat dan kinderporno? Of stel je bent naturist en je hebt foto's van jezelf en je kinderen op een naturisten camping? Puur afgaande van de plaatjes zal een algoritme dat niet kunnen onderscheiden. Het wordt enger wanneer ze ook je mails gaan scannen om bv dan een bijbehorende reservering van de camping te vinden. Dat zou je in dit geval wellicht 'vrij pleiten' maar tegelijkertijd wordt het nog enger.

[lenwar]

Disclaimer: Ik ben geen jurist.

In Nederland is hierop onder andere Artikel 247 van het wetboek van Strafrecht van toepassing:

Hij die met iemand van wie hij weet dat hij in staat van bewusteloosheid, verminderd bewustzijn of lichamelijk onmacht verkeert, dan wel aan een zodanige gebrekkige ontwikkeling of ziekelijke stoornis van zijn geestvermogens lijdt dat hij niet of onvolkomen in staat is zijn wil daaromtrent te bepalen of kenbaar te maken of daartegen weerstand te bieden of met iemand beneden de leeftijd van zestien jaren buiten echt ontuchtige handelingen pleegt of laatstgemelde tot het plegen of dulden van zodanige handelingen buiten echt met een derde verleidt, wordt gestraft met een gevangenisstraf van ten hoogste zes jaren of geldboete van de vierde categorie.

De intentie van het beeld lijkt dus van toepassing. Ik weet niet hoe en of de rechter een verschil maakt of, bijvoorbeeld, je broer, moeder, je buurvrouw, of ik, diezelfde foto’s van je kinderen in bezit heb (even los van copyright)

[!mark]

De algoritmes van MS en consorten kennen geen intentie; goede kans dat het volautomatisch geblokkeerd wordt. Jou enige verdediging is dan meteen de juridische molen in met een rechtzaak gezien MS zelf middels direct contact helemaal niks voor je wil doen (legio van voorbeelden alleen al hier op Tweakers).

Vooral dat laatste vind ik een bijzonder schandalige manier van werken; het moet toch via bemiddeling mogelijk zijn om op een normale manier met MS in contact te komen?

[Reactie gewijzigd door !mark op 22 juli 2024 19:28]

[lenwar]

Klopt helemaal, maar dit is natuurlijk sowieso een groot probleem. Hoe groter het bedrijf hoe moeilijker je überhaupt iemand kan spreken of mailen en een persoonlijke reactie kunt krijgen.

Zeker ook in dit geval, als het gaat om een archief aan persoonlijke data. Daar moet je wel iets voor kunnen regelen. Ook als je de regels van het platform hebt overtreden en de overeenkomst eenzijdig wordt ontbonden, dan moet je nog wel bij je eigen data kunnen om het terug te krijgen.

[Anoniem: 454358]

Ga er maar van uit dat dergelijke foto's automatisch als kp worden aangemerkt, en je account geblokkeerd kan worden.

[HakanX]

De situatie die je schets is al vaker gebeurd. Je account wordt gewoon geblokkeerd als je een foto van je kind in bad maakt. Geen mogelijkheid om dat te laten deblokkeren. Zat berichten over.

[Iblies]

https://www.rtlnieuws.nl/...s-nevermind-nirvana-bloot

Deze kan/mag ook niet meer. De hoes compleet krijg je iig sws niet meer te zien.

[SuperDre]

Let op, het hoeft helemaal geen kinderporno te zijn, als hun algoritme het daarvoor aanziet ben he al de sjaak. In principe is een foto van een babietje in bad al kinderporno.

[lighting_]

Of als je personen gehackt hebt.
Ja methodes zijn erg genoeg om iemand flink met problemen op te zadelen.

[YopY]

Maar dan moet de zender zich ook verantwoorden voor het verspreiden van kinderporno...

[lighting_]

Het is maar de vraag of het ip adres in algoritme meegenomen wordt. De hacker zorgt wel dat zijn werkelijk ip adres niet gebruikt wordt.

[Reactie gewijzigd door lighting_ op 22 juli 2024 19:28]

[Loller1]

Microsoft is dit, net als iedere andere leverancier van dit soort diensten, gewoon verplicht. Als je klachten hebt hierover moet je bij je overheid zijn, niet Microsoft.

[lighting_]

Maar MS heeft geen goed loket als je naar jouw gevoel onterecht geblokt bent. Dat je naar de rechter moet is absurd. Ze hebben een ontzettende grote machtspositie en daarmee een groot verantwoordelijkheid naar de klanten toe.

[TheVivaldi]

Inderdaad is MS de grootste boosdoener hier, maar ik vind het ook slordig van de overheid. Ze roepen wel dat we niet op zijn Amerikaans allemaal naar de rechtbank moeten voor het een of het ander, maar ondertussen zorgen ze er ook niet voor dat bedrijven degelijke klachtloketten aanbieden, waardoor je gedwongen wordt om naar de rechter te stappen.

[Reactie gewijzigd door TheVivaldi op 22 juli 2024 19:28]

[kimborntobewild]

Het moet Microsoft gewoon verboden worden nog langer producten te verkopen in NL, totdat er zo'n klachtenloket is - en dan natuurlijk ook eentje die inhoudelijk binnen 4 uur antwoord geeft op je vragen.
En schuilen achter een wet in de VS waarin staat dat je niet mag zeggen welk plaatje is, moet natuurlijk per direct worden verboden.
Dan maar geen Microsoft-producten in NL.

[IStealYourGun]

Er zijn anders wel enkel zero-knowledge diensten die dat niet doen. Net door de false positives en het moeilijk rechtzetten ervan, gaat mijn voorkeur uit naar dat soort diensten.

[Mayonaise]

Bij false positives moet ik maar een rechtzaak starten?

[Franckey]

Maar zijn ze ook verplicht je hele account te blokkeren? Het zou handiger zijn als ze alleen OneDrive blokkeren en de andere diensten niet, zodat je bijv. nog wel kan mailen over dit probleem.

Het zou ook handig zijn als je van Microsoft een mail krijgt met uitleg wat je moet doen als je denkt dat de blokkering onterecht is.

[lamme23]

Ik ben benieuwd hoe M$ hiertoe verplicht is, maar Whatsapp niet.

Vraag is ook: Volgens welke overheid? Is het de Nederlandse of die van de VS? Ik ben benieuwd welke referentie je kunt aanwijzen naar de Nederlandse wet waarin staat dat Microsoft dit moet doen.

[lighting_]

Omdat de fotos bij whatsapp niet naar de cloud gaat.
Het scannen bij Apple gebeurt op je device maar de handmatige check alleen wanneer het geupload is in de cloud.

[tom.cx]

Dat is dan ook het 'gevaar' van bepaalde Clouddiensten. Apple wilde dit ook gaan doen en dan wel op een andere manier. Het lijkt er op dat dit niet door gaat vanwege de grote kritiek.

[hiostu]

Apple doet dit al, zij scannen op toestel zelf met NeuralHash.

[bzzzt]

Nee, dat doen ze niet. Apple wilde dit op toestellen doen zodat ze encrypted storage aan kunnen bieden (de niet encrypted opslag op iCloud wordt wel gescand vanwege wetgeving). Dat idee is zo slecht geland dat ze de uitrol voor onbepaalde tijd op pauze gezet hebben.

[Anoniem: 1022589]

Dus ze gaan het alsnog doen.

[Blizz]

Ze doen het ook al sinds ten minste 2019 bij uitgaande iCloud-mail.

Na ze trots aankondigden het ook bij iClous Photos en iMessage te doen heb ik maar een grotere iPhone genomen en iCloud Photos en Messages in the Cloud stopgezet. Helaas weinig opties als je niet bereid bent uit het ecosysteem te stappen. De tech media staan het Apple ook toe om stilletjes stap voor stap toch te implementeren, ondanks alle gevaren van dien, dus niemand die er nog naar omkijkt.

[Reactie gewijzigd door Blizz op 22 juli 2024 19:28]

[Anoniem: 1322]

Apple wou op het toestel zelf gaan scannen tegen een gedownloade database zodat er niet direct een privacy inbreuk is en Apple in de cloud geen toegang tot al je foto's nodig heeft. Dit is voor de gebruiker een veel beter oplossing en als men geen iCloud photos had ingeschakeld werd er ook niet lokaal gescand.

Maar de 'pers' rapporteerde het als 'Apple gaat stiekem je lokale foto's scannen'. Typische Apple bashing en goed voor de clicks... De grap is dat het hele idee van Apple overal afgebrand werd terwijl het eigenlijk een verbetering was voor de privacy van iedereen.

[SadisticPanda]

Is dat niet waardeloos, scannen met database? Kunnen ze enkel zien of je foto's hebt staan die gekend zijn.

Als je zelfs strafbare dingen filmt (zoals kinderporno), lijkt het me beter van er toch een "AI" op los te laten

[Anoniem: 1322]

Ze worden verplicht om zo te werken. Ze krijgen een database met hashes aangereikt die ze moeten vergelijken met de file hashes van de foto's. Deze database wordt in de US aangereikt door de NCMEC

AI is tegenwoordig nog te 'jong' hiervoor. Je kan prima een 'persoon' of 'dier' herkennen maar een daadwerkelijke actie (deze man is aan het fietsen) is helaas nog een stap te ver. File hashes zijn eenvoudig, accuraat en vooral snel (wat goed is als je veel foto's moet scannen).

Microsoft heeft deze technologie ontworpen, genaamd PhotoDNA:

PhotoDNA creates a unique digital signature (known as a “hash”) of an image which is then compared against signatures (hashes) of other photos to find copies of the same image. When matched with a database containing hashes of previously identified illegal images, PhotoDNA is an incredible tool to help detect, disrupt and report the distribution of child exploitation material. PhotoDNA is not facial recognition software and cannot be used to identify a person or object in an image. A PhotoDNA hash is not reversible, and therefore cannot be used to recreate an image.

Microsoft donated PhotoDNA to the National Center for Missing & Exploited Children (NCMEC). NCMEC is the United States clearinghouse and comprehensive reporting center for all issues related to the prevention of, and recovery from, child victimization, include abduction, abuse and exploitation. The CyberTipline provides the public and electronic service providers (ESPs) with the ability to report instances of online enticement of children for sexual acts and child exploitation material. For more information, or to register for the CyberTipline, visit NCMEC at www.missingkids.com.
https://www.microsoft.com/en-us/photodna

[Pinkys Brain]

Het is toch wel vreemd dat zelfs Apple door NCMEC overtuigd kon worden "nee joh, dat iemand per ongeluk door jullie doorgestuurd word naar de politie nadat jullie ongevraagd zijn data hebben zitten te scannen is niet veel slechtere publiciteit dan dat iemand op iCloud CSAM heeft staan".

Maar goed, Apple heeft tenminste het licht gezien. Dat Microsoft, die zich ook nog eens richt op veel meer zakelijke klanten, zichzelf maar in de voet blijft schieten is wel vreemd.

[Tha Render_2]

https://www.microsoft.com/en-us/photodna

[jongetje]

Juist hierom heb ik een eigen NAS met een NAS bij mijn schoonouders voor backup (en ook voor hun bestanden en een backup naar mij). En geen ring camera spullen maar eufy cams met locale opslag.

[SirBlade]

En dan blijk je schoonvader van hele jonge meisjes houdt en staat er zonder dat jij het weet een kinderporno verzameling op je NAS.

[jongetje]

Toch knap dat hier op Tweakers voor elke oplossing/implementatie een argument kunnen vinden waarom je iets niet moet doen.

(Daarbij is gewoon aan te tonen dat hun NAS die bestanden erop heeft geschreven. Dat zit allemaal in hun backup container).

[Reactie gewijzigd door jongetje op 22 juli 2024 19:28]

[CAPSLOCK2000]

Linux doet dat niet, FreeBSD ook niet. Wees welkom!
Als je nu denkt "maar dat is moeilijk" dan zeg ik "moeilijke dingen kun je leren".

Zo heel moeilijk is het trouwens ook weer niet. De meeste dingen werken gewoon prima voor de meeste mensen. Tweakers zijn lastig, die willen vanaf het eerste moment 100% hebben terwijl ze daar de skills nog voor moeten opbouwen. Als je accepteert dat je met 80% moet beginnen dan kun je snel een heel eind komen.

Mijn vuistregel is dat de hoeveelheid problemen die met computers hebt constant is, die kun je niet veranderen. Je kan wel veranderen welke problemen hebt. Kies dus de problemen waar je zelf iets aan kan doen en die je leuk vindt om op te lossen.

Ik ben liever af en toe een uur met Linux aan het stoeien dan dat ik als een stuk vee door het slachthuis ga en er nog voor moet betalen ook.

[david-v]

Dit staat geheel los van je OS, maar met het gebruik van clouddiensten. Mijn telefoon/laptop doet dit namelijk ook niet. Maar zodra ik het upload naar een clouddienst, kan je ermee te maken hebben.

[CAPSLOCK2000]

Dat klopt, maar mensen met reclame en waarschuwingen naar de Cloud duwen doet Windows/MS wel degelijk en het OS wordt steeds meer aangepast om deze werkwijze de default te maken.

[david-v]

Is misschien ook wel zo, maar staat nog steeds redelijk los van OS en de problematiek die we hier bespreken. Dit gaat om een cloud service, onafhankelijk van het OS die je gebruikt . Zo kan je met Linux en FreeBSD nog steeds gebruik maken van clouddiensten en heb je ook onder die OS'en een probleem.

edit:typo

[Reactie gewijzigd door david-v op 22 juli 2024 19:28]

[Philip J. Dijkstra]

Ik ben nu 7 jaar voltijd gebruiker van Linux Mint en heb Windows helemaal achter mij gelaten.
Ik heb nog steeds geen enkel verstand van de bestandsstructuur en linux commando's en dat kan prima met Linux Mint. Heel heel af en toe wil je iets wat niet vanuit het menu kan en na een google opdracht copy/paste ik dan wat instructies in volgorde zonder te weten wat er eigenlijk gebeurt en dan lukt alsnog wat ik wil.

Dus laat je niet tegen houden door koudwatervrees

[Zyppora]

... copy/paste ik dan wat instructies in volgorde zonder te weten wat er eigenlijk gebeurt en dan lukt alsnog wat ik wil.

Ik wil je toch met klem aanraden om dat soort commandos eerst even op te zoeken voordat je ze uitvoert Kan een hele hoop ellende schelen in de toekomst.

[ELD]

Ik ben liever af en toe een uur met Linux aan het stoeien dan dat ik als een stuk vee door het slachthuis ga en er nog voor moet betalen ook.

Met een moderne distro hoef je eigenlijk niet eens veel meer te doen. Bij openSUSE kan bijna alles via Yast grafisch geconfigureerd worden zowel in de terminal als via de DE van keuze.

[Zyppora]

Ik heb zo'n half jaar geleden de overstap gemaakt en hoewel er zeker nog wel zaken zitten in mijn Linux distro waar ik niet vrolijk van word, is het een hele verademing ten opzichte van Windows. Ik zit voor mijn werk nog op een workstation met Windows 10 en daar erger ik me eigenlijk steeds meer aan de dingen die me destijds naar Linux hebben doen bewegen, en dat op een zakelijke installatie.

De grote drempel is willen. Willen aanvaarden dat je het gros van je computerproblemen wel zelf op kunt lossen als je er even de tijd voor neemt. Willen accepteren dat je een nieuw systeem en dus een nieuwe werkwijze in stapt. Willen overstappen op een alternatief voor een programma of spel dat simpelweg niet op Linux draait (zelfs niet met Wine, Lutris of Steam Proton). Willen op/uitzoeken hoe dingen werken.

Tweakers zijn daar zo'n beetje de meest geschikte mensen voor omdat al deze zaken in meer of mindere mate technisch van aard zijn, en dat is voor ons redelijk gesneden koek. Ik hoef mijn moeder bijvoorbeeld niet te vragen om een commando in de terminal uit te voeren.

Stoeien doe ik eigenlijk heel weinig. Eenmaal dingen werken is er geen omkijken naar, en in de meeste gevallen is dat out of de box.

[William_H]

Wat heeft Linux met een clouddienst als OneDrive te maken (linux fan hier hoor )

[CAPSLOCK2000]

Dat Linux geen moeite doet om mensen richting een cloud-dienst te duwen, zoals waar @lighting_ over klaagt.

[William_H]

Hebben ze dat bij Canonical niet eens geprobeerd met Ubuntu?

[TheVivaldi]

Ja, met Ubuntu One destijds. Maar dat is maar een van velen. Bij Windows is er geen alternatieve distro, dus dat is heel anders. (hooguit als je fanatiek bent en ReactOS wilt draaien)

[lenwar]

Ik ben liever af en toe een uur met Linux aan het stoeien dan dat ik als een stuk vee door het slachthuis ga en er nog voor moet betalen ook.

Je verwoord het laatste een beetje lomp, maar ik ben het zeker met je eens dat Microsoft de laatste jaren erg pusherig is geworden.
Je bent niks 'verplicht' te gebruiken, maar het wordt wel hard geduwd. Zelfs in het Configuratiescherm word je 'gewaarschuwd' dat er iets niet goed is met 'Surfen' (er is een suggestie dat iets hersteld moet worden als je geen Edge met Bing als zoekmachine gebruikt). En zo zijn er meer dingen die ik tegenwoordig een beetje storend vind, maar waar ik wel mee kan leven.

Je kan die waarschuwing ook niet weghalen. Althans. Niet zonder een stukje derdepartijsoftware.

Dit alles gezegd hebbende vind ik Windows nog altijd prettiger werken dan Linux distro's. In elk geval voor een werkplek. Ik kan niet precies zeggen waarom, maar ik heb het als werkstation nooit prettig gevonden.

[CAPSLOCK2000]

Dit alles gezegd hebbende vind ik Windows nog altijd prettiger werken dan Linux distro's. In elk geval voor een werkplek. Ik kan niet precies zeggen waarom, maar ik heb het als werkstation nooit prettig gevonden.

Ik vind friet lekkerder dan bloemkool.
Ik vind uit eten gaan leuker dan zelf koken.
Ik drink liever bier dan appelsap.
Ik vind de winkels van AH fijner dan die van Aldi.
Ik zit liever op een bank dan op een bureaustoel.
Ik heb liever een snoepje dan een appel.

Maar of het goed voor je is.... bedrijven doen hun uiterste best om jouw een fijn gevoel te geven bij hun product, of dat nu terecht is of niet.

Verder heeft het vast iets met ervaring te maken, de meeste mensen hebben vele jaren ervaring met Windows en zijn gewend aan de werkwijze en de grillen van dat systeem.

[Reactie gewijzigd door CAPSLOCK2000 op 22 juli 2024 19:28]

[lenwar]

Verder heeft het vast iets met ervaring te maken, de meeste mensen hebben vele jaren ervaring met Windows en zijn gewend aan de werkwijze en de grillen van dat systeem.

Ik heb plenty ervaring met verschillende Linux en UNIX systemen. Ik heb ongeveer 15 jaar ervaring als Linux systeembeheerder en Linux Engineer bij o.a. internationale banken. Als server-OS vind ik Linux prima werken (Mijn ervaring met Windows-servers beheren is heel erg beperkt, dus daar kan ik niks over zeggen), maar als desktop vind ik het dus niet fijn werken.

Ik heb het een paar jaar lang geprobeerd, maar ben na een jaartje of 2 à 3 weer teruggegaan naar Windows. Het zou natuurlijk ook zomaar kunnen dat het een gewenning is van over de jaren heen. Dit gezegd hebbende is het alweer even geleden dat ik het heb geprobeerd, maar ik heb in elk geval geen reden om naar een ander OS over te stappen. (toen ik naar Linux overstapte, was het voornamelijk 'omdat het kan', en die tijd heb ik een beetje achter me gelaten)
M'n desktop doet wat het moet doen. Het is een stuk gereedschap dat ik dagelijks gebruik. Ik wil niet met m'n desktop 'bezig zijn', net zoals ik ook niet wil weten hoe een auto werkt. Ik kan hem bedienen, de ruitenwisservloeistof bijvullen, enz. en daarmee is het prima

(edit: typo)

[Reactie gewijzigd door lenwar op 22 juli 2024 19:28]

[Gyzome]

Beangstigend. Mijn ouders hebben ongetwijfeld wel foto's van mij in mijn blote in bad, of op het strand. Die zijn absoluut niet seksueel van aard, en worden niet zomaar gedeeld met vreemdelingen, maar als je ze dus back-upt via OneDrive, en de AI van Microsoft besluit dat het kinderporno is, dan ben je dus wel gekloot. Zeker in gezinnen met minder conventionele ideeën t.o.v. naaktheid (nudisten) en seksualiteit, of mensen uit landen zoals Noorwegen waar veel losser omgegaan wordt met naaktheid zullen voorzichtig moeten zijn.

Wederom een geval waar Amerikaanse waarden tegen wil of dank worden opgelegd.

[Tha Render_2]

Klopt niet, Microsoft scanned op gekende beelden van kinderporno, voor te kijken wie ze allemaal heeft -> https://www.microsoft.com/en-us/photodna

[karelvandongen]

En het probleem daarmee is dat viezeriken wel eens kopieën willen maken van kinder foto's van anderen ( veel mensen hebben geen goede beveiliging), en die dan verspreiden, enz. En daardoor kan het wel degelijk gebeuren dat je niet meer bij eigen bestanden kunt komen, jaren nadat je een voor jouw onschuldige foto hebt genomen. Daarom is context en uitleg kunnen geven zo noodzakelijk !

[FreshMaker]

Dat is de wat van percentages en toevalligheden.
Een klein percentage zal hier last van hebben.

Ik weet zeker dat mijn kinderen niet voorkomen in die database, gewoon omdat wij nooit hebben toegestaan om ze (half)naakt te fotograferen in een mogelijk erotische omgeving.
Er zijn zwembad en strandfoto's, maar hoe groot is de kans dat een pedo ze op hun netwerk gaat zetten ?

99.9% zijn foto's die massaal online gegooid worden door ouders op de social media, en vaak al met het onderliggende idee 'hoe sexy' de dochter er zo uitziet.
( er is zo'n docu op Netflix over ouders die hun kinderen van kleins af aan in de beauty pageants stoppen, dáár komt die meuk vooral vandaan )

[Blokker_1999]

En dan heb je trotste nieuwe mama die een foto maakt van haar kind in het badje want het ziet er toch zo schattig uit en enkele uren later is het account geblokkeerd omdat een AI denkt dat het om kinderporno gaat.

En dat is een volgend probleem. AI. Natuurlijk begrijp ik dat je een systeem moet hebben dat met vervorming van afbeeldingen overweg moet kunnen, maar er zijn wel degelijk voorbeelden bekend waarvan de foto's die MS aanmerkte als kinderpornografisch toch echt gewoon private foto's waren, nooit gedeeld.

Dus het excuus dat enkel bekende foto's gematched kunnen worden vervalt daarmee. Als ze er maar voldoende op lijken.

[Sinnergy]

Er zijn zwembad en strandfoto's, maar hoe groot is de kans dat een pedo ze op hun netwerk gaat zetten ?

Is "bestaande" niet voldoende? En er moet maar ergens 1 iemand 1 foto van uw kids hebben, desnoods via-via, waar, desnoods per ongeluk, de "stempel" wordt opgezet en je zit met de gebakken peren...

"Dat ze maar doen wat ze willen, ik heb niets te verbergen" gaat hier nog eens niet voor op, want je kan gewoon "iets te verbergen hebben" door een fout vinkje dat ergens iemand in de USA zet bij jou brave foto's. En dan ben je plots schuldig, zonder weerwoord...

[FreshMaker]

Nogmaals het begint bij toestemming.

Mijn vrouw en ik hebben en zullen nooit toestemming geven om zulke foto's online te plaatsen.
Beide scholen hebben we ook nooit toestemming gegeven om afbeeldingen van de kinderen te gebruiken in openbare (social) media

Dat was lastig, de juffrouw wilde nog wel eens een foto in de zandbak plaatsen van het groepje, maar dan moesten er altijd een paar uitgevist worden, of zo'n mooi sterretje over het gezicht
Verschillende gesprekken met de directies gehad hierover, 'het is een ongemak, voor het kind'
Nee, het is de privacy van het kind, en er is geen toestemming.

Zelf heb ik geen SM, maar mijn vrouw wel, en geplaatste foto's van de kinderen waren ten alle tijde van een onherkenbare kant.
De foto's in full face, hebben we gewoon lokaal in de opslag.

Dus een wijze les voor ouders en toekomstige ouders ... je hoeft je grut NIET online te plaatsen, ze overleven dit wel, en tante Greetje kan ze via whatsapp of wat dan ook wel krijgen ...

[M2M]

En vervolgens gooit tante greetje de full frontal face foto door naar haar beste vriendin. Die had een mattie op bezoek die ff de computer ging updaten. Vervolgens belde er een gast in India zogenaamd van microsoft die "even" de computer moest repareren en binnen no-time heb je de foto van je kind alsnog ergens "online" staan.

Ik ben van mening dat er altijd een afkoelingsperiode moet zijn, inclusief mogelijkheid om zaken ongedaan te maken, door mensen. Hier op het GOT forum ook al een aantal topics gezien van mensen die de hele bende kwijt zijn, inclusief accounts, games en allerlei andere zaken die toevalligerwijs ook bij 1 van de grote softwareboeren zijn beland. Er mag dan wel een verschil gemaakt worden tussen false-positive & accidental abuse versus crimineel gedrag in de ogen van een rechtstaat aan de andere kant van de oceaan.

[Sinnergy]

Dus als mensen een fout maken door een foto online te zetten waar uiteindelijk niets legaal mis mee is, maar waardoor ze wel alles kwijt zijn (email / foto's / toegang tot andere sites door ontoegankelijkheid email), dat vind je maar normaal?

Ja, niets delen is de beste manier om niets fout te doen. Maar dat wil niet zeggen dat alles wat je online doet automatisch fout moet zijn...

En grappig dat je whatsapp als voorbeeld geeft. Stuur je een leuke foto door naar nonkel Bob, lijkt hij later een pedo te zijn, worden zijn bestanden als kinderporno gemarkeerd, inclusief die brave foto. Deel je dat dan later met whatsapp (die 'mogelijk' ook scans doet, ik heb in ieder geval geen idee, but why not) met iemand, en boem.. Zelfde foto is plots niet meer zo braaf. Ik heb mezelf nochtans toch aan 'jouw' regels gehouden?

Ik verdedig hier enkel het recht op verdediging en correctie...

Jij plaats hier de volledige verantwoordelijkheid bij de persoon die de foto deelt, ook als de 'fout' is door een false positive...

Ook al zou die persoon (die in latere jaren jou kinderen zouden kunnen zijn, die mogelijk niet jouw visies zullen delen op vlak van wat acceptabel is op het internet en wat niet, of die simpelweg een 'foutje' maken door bvb toch OneDrive te willen gebruiken voor backups...) letterlijk niets verkeerd gedaan hebben volgende de NL én zelfs de USA wet doordat ze een foto verkeerd gemarkeerd hebben!

[Reactie gewijzigd door Sinnergy op 22 juli 2024 19:28]

[J_van_Ekris]

Maar de fascinerende vraag is dan welke garanties heb je dat beelden daar niet per ongeluk in meegenomen worden (door menselijk kopieerfoutje wordt iets teveel gekopieerd) of een hash-collission (met het grote aantal controles is dat natuurlijk een kwestie van tijd dat zoiets optreed). Kernpunt is dat iemand per definitie schuldig bevonden wordt van een misdrijf (want dat is de reden waarom Microsoft het contract onbindt!) op basis van de uitkomst van een algoritme, zonder dat men inzage wenst te geven in dat algoritme en de achterliggende data.

Nu gaat het natuurlijk te ver om die totale set vrij te geven, maar als iemand het zo hoog opspeelt, dan zou ik als Microsoft toch wel even twee keer kijken voordat ik doorzet. Gewoon even de mens ertussen, in plaats van blind "de computer zegt het".

[grasmanek94]

Lekker spammen met dit, en hier is dan de counterspam..: https://www.hackerfactor....oDNA-and-Limitations.html

Het algoritme is niet zo heilig als je denkt. De bewerkingen die worden uitgevoerd, kunnen zeker voor een match zorgen in legale foto's (zelfs een foto van een auto kan een PhotoDNA hash genereren die een match heeft in de CP database).

[Zeerob]

Dat kan je nu wel beweren, maar dat klopt volgens mij niet.
Dat photodna passen ze kennelijk toe, maar dat is kennelijk niet de enige methode die ze gebruiken om verkeerde foto's. op te sporen.
Lees b.v. het relaas van deze tweaker:
Microsoft account vergrendeld / geblokkeerd

[hiostu]

Zolang het niet om bekende kinderporno foto's gaat die in PhotoDNA staan opgeslagen, en het geen naakt foto's zijn die in een gedeelde folder staan of publiek, dan is het geen probleem. Dat mag volgens de TOS. Als je echter folders of bestanden publiek deelt, dan wordt het een ander verhaal.

[Mangu429]

Lees de reactie van KarelvanDongen hierboven eens.

[hiostu]

Hoe zijn die mensen dan aan de foto's gekomen van jouw kinderen? Dat is toch niet gebeurd zonder dat ze gedeeld zijn.

[Tjidde]

Foutje? Opa of oma die een foto maakt en doorstuurt en een fout maakt met naar wie zij/hij het stuurt. Als het dan net de verkeerde is die zo'n foto te pakken krijgt. Een keer inloggen op een computer in de bieb en niet goed uitloggen.Ga zo maar door. En je kind gaat op de verkeerde plekken online rond.

De kans is klein maar niet onmogelijk.

[n00bje]

Onwetend een niet zo koosjere app installeren die toegang heeft tot je bestanden en media is in principe al voldoende.

[Sinnergy]

"publiek" delen zeg je? Verhalen gehoord dat iemand zijn account afgesloten werd omdat hij 'questionable content' (foto van hemzelf met zijn vriendin) deelde .. met diezelfde vriendin..

[YopY]

Dat is al genoeg denk ik om het als "publiek" aan te merken denk ik.

[Sinnergy]

Als je zwart/wit denkt wel ja. Maar verplaats nu "iemand" en "vriendin" met "mama en papa die foto's delen met elkaar dat ze gemaakt hebben" en je hebt ineens een scenario dat wel wat meer voorvalt.

Volgens de "normale" mens gaat niemand dit zien als "publiek", want wat is er publiek aan? Ze geven enkel elkaar toegang aan foto's dat ze 'irl' ook kunnen zien bij elkaar. En aan niemand anders. Dat noem ik eerder 'privé delen'.

[FreshMaker]

Onedrive heeft een lange tijd gehad dat ook erotische en pornografische content werd geblokkeerd.
Of dat nog zo is, geen idee, maar het heeft destijds wel gespeeld

[Sinnergy]

"leuke" cirkelredenering: "Door de ongepaste afbeelding zijn al meer dan 400 accounts wereldwijd geblokkeerd. Dit zegt volgens Microsoft voldoende over het schadelijke karakter van de afbeelding."

Dus, Microsoft blokkeert 400 accounts vanwege een specifieke afbeelding en zegt vervolgens dat het terecht is dat die afbeelding geblokkeerd wordt omdat er al 400 accounts zijn geblokkeerd.

Ik dacht dat die soort scan pas 'effect' heeft als je dus iets "publiek" deelt, zoals dat koppeltje in mijn geval naar elkaar toe deelden.

[SadisticPanda]

Tot je familie/verse vriendin over de vloer komt en de foto albums vanonder stof gehaald worden

[Anoniem: 302359]

Het zal je overkomen dat je foto's maakt van je eigen kinderen, spelend in een badje in je eigen tuin, de foto's worden niet lokaal opgeslagen maar gaan direct de cloud in en zo'n algoritme bepaald even voor jou dat de foto's van jouw spelende kinderen kinderporno is. Er is zoveel aan je Google of Microsoft account gelinkt, dit kan je gewoon in enorme problemen brengen. De tijd dat foto's tegen een database aangehouden worden met bestaande foto's komt ten einde. Het zijn steeds vaker AI algoritmes aan het worden die de inhoud van de foto behoordelen en dat gaat helaas met regelmaat mis.

Ik zet mooi mijn eigen cloud netwerkje op een NAS weer op. Het is wel leuk geweest met Big tech en haar falende doch ingrijpende algoritmes.

[Reactie gewijzigd door Anoniem: 302359 op 22 juli 2024 19:28]

[Tha Render_2]

Microsoft scanned op gekende beelden van kinderporno, voor te kijken wie ze allemaal heeft -> https://www.microsoft.com/en-us/photodna

[Sinnergy]

Men kan bvb zo'n foto van uw kind die in een badje aan het spelen is afhalen van uw facebook, die persoon wordt dan later opgepakt en veroordeeld voor bezit kinderporno. Ze bekijken zen harde schijven, komen deze foto tegen tussen duizenden andere foto's, en zetten net als die andere foto's in dezelfde folder de stempel 'Kinderporno' op een onschuldige foto en komt dus in die photodna db terecht!

Tijdje later zet je de familie album op OneDrive en tada: een onschuldige foto van een kindje in een bad is nu ineens gekende kinderporno, and there is nothing you can do about it!

Zie je het probleem nu..?

edit: Ik snap echt niet waarom er geen grotere meldplicht is 'met gevolg'. Ze sturen het dossier door na detecteren van zo'n beelden en sluiten het account af. Ok fine, maar na behandelen van zo'n klacht, indien zonder ge/vervolg, vind ik dat ze de account terug moeten openstellen en "excuses" bieden...

[Reactie gewijzigd door Sinnergy op 22 juli 2024 19:28]

[CAPSLOCK2000]

edit: Ik snap echt niet waarom er geen grotere meldplicht is 'met gevolg'. Ze sturen het dossier door na detecteren van zo'n beelden en sluiten het account af. Ok fine, maar na behandelen van zo'n klacht, indien zonder ge/vervolg, vind ik dat ze de account terug moeten openstellen en "excuses" bieden...

Eerlijk gezegd denk ik dat het vooral een kwestie van geld is.
Ik snap heel goed dat een bedrijf als MS niet in discussie wil gaan met gebruikers over of een foto seksueel van aard is en over de grens gaat of niet. Dat kost maar tijd en geld waar MS niet beter van wordt. Dus dan is het goedkoper om bij de minste verdenking maar de deur dicht te gooien. De meeste gebruikers zullen een beetje mopperen en dan toch weer een nieuwe account aanmaken.

[Sinnergy]

Ja snap ik, maar dat zou je wettelijk kunnen afdwingen. Meld, actie & 'correctie' plicht (indien false positive)!

edit: En probleem is dat een microsoft account ook uw Windows account kan zijn, of uw Windows Store account, of uw XBox account, Office account, Outlook account, ...

Impact kan dus zeer groot zijn!

edit: Nog groter als je effectief outlook gebruikt, want je kan niet zelfde email adres nemen lijkt me + je bent alles 'kwijt' wat daarin stond! Dus elke site waar je nu inlogt met dat email adres wordt ontoegankelijk gemaakt. (edit: in de zin van password recovery + waar email adres wijzigen niet gaat of toegang tot de 'oude' mailbox vereist is om dit te kunnen doen)

edit 2: Je kan ook de kost wat minderen door de melder verantwoordelijk te stellen voor wat men in die photodna db steekt. Dus als de overheid knoeit, dat ze dan maar ook betalen!

[Reactie gewijzigd door Sinnergy op 22 juli 2024 19:28]

[R4gnax]

Ja snap ik, maar dat zou je wettelijk kunnen afdwingen.

Ging de EU daar niet ook aan werken?

[Thalent]

Beetje mopperen omdat je account geblokkeerd is?

Vorig jaar is die van mij geblokkeerd vanwege het per ongeluk uploaden van alle foto's die ik in 10 jaar tijd via WhatsApp heb ontvangen. 100% zeker dat daar geen kp tussenzat maar genoeg vunzige afbeeldingen( dit had ik trouwens sowieso niet bewaard willen hebben maar dat terzijde)

Kan je wel vertellen dat wanneer je emailadres geblokkeerd wordt van meer dan 20 jaar oud die je zowel privé als zakelijk gebruikt een hoop gedonder geeft. Ik heb een aantal dagen vrij genomen om al die zooi te regelen waar dit email adres aan gekoppeld was. Gelukkig al mijn crypto uiteindelijk ook weer in bezit gekregen, maar ik loop nog steeds wel eens tegen dingen aan oh ja dat stond op mijn oude emailadres.

Geloof mij als je in whatsapp vriendengroepen zit kan jou dit net zo goed overkomen als je per ongeluk je WhatsApp upload. Nooit de intentie gehad om alle afbeeldingen van WhatsApp te uploaden maar ik had ook niet het vermoeden dat ze hierom mijn account zouden blokkeren.

Wat de reden nu exact is weet ik nu nog steeds niet dat is het mooie van alles

[CAPSLOCK2000]

Beetje mopperen omdat je account geblokkeerd is?

Vorig jaar is die van mij geblokkeerd

Excuus, ik wil het ongemak niet bagatelliseren.
Maar, heb je een nieuwe account gemaakt of heb je een (fundamenteel) andere oplossing gekozen?

Als je een nieuwe account hebt gemaakt dan begrijp ik dat heel goed want je kan maar moeilijk zonder, maar dan krijgen ze dus wel gelijk dat dit voor hun de makkelijkste oplossing is.

Ik doe mijn uiterste best om niet afhankelijk te worden van zo'n account maar mijn belangrijke data zelf in beheer te houden.

[Namixam]

Met andere woorden, ze kunnen doen en laten wat ze willen, zolang er maar een paar mensen klagen en de aandelen niet in prijs zakken. Schofterig gedrag moet je niet belonen!

[grasmanek94]

Lekker spammen met dit, en hier is dan de counterspam: https://www.hackerfactor....oDNA-and-Limitations.html

Het algoritme is niet zo heilig als je denkt. De bewerkingen die worden uitgevoerd, kunnen zeker voor een match zorgen in legale foto's (zelfs een foto van een auto kan een PhotoDNA hash genereren die een match heeft in de CP database).

[buzzin]

Tja, dit soort dingen krijg je als je big tech bedrijven laat bepalen wat wel en niet mag. En gelukkig hebben we de wetgever nog die naar bewijs kijkt en niet alleen naar algoritmes.
Als MS dacht dat er kinderporno was, hadden ze aangifte moeten doen en de politie laten ingrijpen...

[PCRaceMASTER]

Ik denk vooral dat ze de algoritme in leven hebben geroepen om zulke dingen preventief te voorkomen en te blokkeren, zodat ze zichzelf kunnen beschermen, dit omdat anders Microsoft in één adem met Kinderporno wordt genoemd, vandaar dat ze ook geen politie inschakelen o.i.d. wel vrij opmerkelijk dat het tot een rechtszaak moet komen om de ongelijkheid aan te kunnen tonen, dit geeft dan ook aan dat de support van OneDrive in dit geval ook niks tot vrij weinig kunnen.. En ik vraag me dan ook oprecht af wat dan in het bedrijfsleven ? Ik zie bij tig collega's dat ze afbeeldingen hebben van hun kleinkind in bad(half naakt), zwembad, vakantie, of een portretfoto of een geinig verkleedfeestje, hoe gaat OneDrive algoritme daar mee om?

[lighting_]

Gaat om fotos die gemerkt zijn als verdacht. Maar MS gaat vanwege privacy na een postive melding van de algoritme niet nogmaals checken.

[rob12424]

Dat kan dus niet. Een algoritme bekijkt de inhoud.

Net zoals bij de belastingdienst met de toeslagen affaire een algoritme de inhoud bekeek. Maar de ambtenaren alsnog moesten controleren of dit klopte (en er meer dan toegestane algoritmes er bij haalde)

MS heeft geen wettelijk jurisprudentie volgens mij om afbeeldingen zelf te controleren. Doen ze dit wel dan zijn ze volgens mij strafbaar. Ze hebben wel het recht je te blokkeren.

[J_van_Ekris]

MS heeft geen wettelijk jurisprudentie volgens mij om afbeeldingen zelf te controleren. Doen ze dit wel dan zijn ze volgens mij strafbaar. Ze hebben wel het recht je te blokkeren.

Is dat zo? Want als ze een wettelijke overtreding constateren en dat als argument hanteren om het contract te beeindigen, waarna je als persoon in verweer gaat (zoals deze vrouw), dan is er volgens mij wel degelijk een basis. Al is het maar omdat de vrouw gevraagd heeft het bedoelde beeld dan te tonen (waarmee ze toestemming geeft....)

[rob12424]

Nee, het algoritme constateerd. Vanwege de privacy mag hier niet een fysiek persoon naar kijken volgens mij. En aan de hand van het algoritme blokkeerd ms.

Zover ik weet hoor. Ik kan er ook naast zitten en heb geen rechten gestudeerd

[R4gnax]

Nee, het algoritme constateerd. Vanwege de privacy mag hier niet een fysiek persoon naar kijken volgens mij.

GDPR zegt dat bij dit soort gevallen met verstrekkende gevolgen voor de gebruiker, er een optie moet zijn - verplicht, om herevaluatie middels menseljike interventie plaats te laten vinden.

Als Microsoft hier moeilijk over blijft doen zullen ze even langs de EU mogen om 4% globale jaaromzet af te gaan tikken.

[Reactie gewijzigd door R4gnax op 22 juli 2024 19:28]

[hiostu]

De Amerikaanse wet bepaalt dit eigenlijk. En in de VS wordt er ook een melding gemaakt naar de politie en naar de CyberTipline. Microsoft heeft dit wereldwijd op zijn server draaien, omdat data geo redundant wordt opgeslagen in veel gevallen en ze daarom het liefst die voor alle diensten globaal uitrollen.

[CAPSLOCK2000]

Tja, dit soort dingen krijg je als je big tech bedrijven laat bepalen wat wel en niet mag. En gelukkig hebben we de wetgever nog die naar bewijs kijkt en niet alleen naar algoritmes.
Als MS dacht dat er kinderporno was, hadden ze aangifte moeten doen en de politie laten ingrijpen...

Grote bedrijven lijken vooral bezig met hun eigen belangen te beschermen. Daartoe geven ze zichzelf via de EULA het recht om streng en eenzijdig op te treden zonder hard bewijs of onderbouwing. Ze hebben, heel begrijpelijk, geen zin om eindeloze discussies met gebruikers aan te gaan over hoe de wet moet worden uitgelegd. Daar kom je toch niet uit en dan eindigt het bij de rechter. Daarom geven ze zichzelf het recht om accounts te blokkeren zonder verdere uitleg.

Gelukkig dat de rechter dat niet accepteert want we worden steeds afhankelijker van de tech-bedrijven. We kunnen niet accepteren dat die zichzelf buiten de wet plaatsen met een simpele EULA die de meeste gebruikers nooit gelezen hebben (en dat kun je redelijkerwijs ook niet verwachten).

[Caayn]

Ik ben blij met dit vonnis. Hopelijk zorgt dit er, langzaam, voor dat je als gebruiker een kans krijgt om aan te tonen dat de automagische algoritmes een false positive aangaven. Nu is het één grote black box.

Helemaal door de opgedrongen integratie met andere diensten is het extra pijnlijk als jouw account door een false positive geblokkeerd wordt zonder kans om jezelf te verdedigen (buiten een duur juridisch proces).

[Reactie gewijzigd door Caayn op 22 juli 2024 19:28]

[YopY]

Als het een false positive was dan had dit toch nooit een rechtszaak geweest? Dan had Microsoft gezegd "We gaan even kijken of dit misschien een false positive is", een persoon had er dan naar gekeken, en het was opgelost. Microsoft wil evenmin een rechtszaak omtrent een false positive. Maar gezien dat niet gebeurd is, was het wel een false positive?

[Caayn]

Een vergelijkbare gedachtegang kan je maken voor de persoon die Microsoft aanklaagt. Jij klaagt niet zo snel een miljardenbedrijf over het mogelijke bezit van kinder porno als jij het daadwerkelijk bezit.

Daarnaast zou dat, vanuit het MS perspectief, betekenen dat zij mensen indienst hebben om met mogelijke KP te werken. Ik weet niet wat de wet daarvan zegt en hoe jouw medewerkers daar op emotioneel op reageren.

Verder heb je natuurlijk nog de discussie wat is kinder porno? Volgens VS of Nederlands recht? Een foto van jouw kleintje in bad voor het fotoalbum?

Ik denk daarom niet dat je zomaar kan stellen dat het in dit geval een terechte of onterechte false positive is. Verder ben ik het ergens wel met @Rukapul eens dat het niet perse proportioneel is om direct jouw gehele MS account af te sluiten, helemaal zonder tussenkomst van de overheid/politie.

[Reactie gewijzigd door Caayn op 22 juli 2024 19:28]

[Rukapul]

Zelfs als het geen false positive is dan kan complete en directe afsluiting (in elk geval in maatschappelijke zin) niet-proportioneel zijn.

[ggj87]

Daarom moet je je data eerst versleutelen voordat je het uploadt in een cloud.

[Kliko]

Heb je hier tips voor?
Ik heb zelf een tijdje duplicati gebruikt... Maar na een tijdje kreeg ik allemaal errors. En toen ik een test deed op de 'affected files' dan werkte het wel gewoon goed. Nog wat contact gezocht op het forum, maar daar kwam ook niet echt een helder antwoord of oplossing...
Uiteindelijk werd ik er behoorlijk zenuwachtig van en inmiddels maar alles open en bloot naar de cloud...

Dat liever dan al mijn data kwijt!

[GertMenkel]

iCloud stuurt backups versleuteld op, maar maakt ook een backup van de sleutel. Dit voorkomt automatische processing maar beschermt je weinig tegen een kwaadwillende met je wachtwoord.

Veel software die bedoeld is om normale cloud te versleutelen werkt alleen op de desktop. Als je Linux gebruikt (of wellicht macOS) dan is een mapje met encfs erop zo gemaakt, en kun je iedere cloud-dienst veilig gebruiken. Op Android heb ik daar ook het een en ander voor gezien, maar het werkt niet echt goed samen met de cloud-applicaties zelf.

Qua zelf-hosting (of afname bij een kleine partij) geloof ik dat Seafile en Nextcloud versleuteling ondersteunen. Nextcloud doet dit server-side en niet echt op een manier dat je beschermd bent tegen je cloudprovider, Seafile heeft voor zover ik weet end-to-end-versleuteling.

Persoonlijk heb ik Seafile op een server gegooid en ben ik redelijk tevreden.

[grasmanek94]

Seafile en NextCloud zijn nog lang niet zo ver, ze adverteren er breed mee, maar hebben het beide niet (ofwel, liegen, fake advertising).

Ik heb beide op mijn server geïnstalleerd, en ik kon zonder extra moeite gewoon bij mijn files op de server. Ze waren niet op de schijven geencrypt. Ik kon ook geen opties vinden om dat te laten doen.

[Reactie gewijzigd door grasmanek94 op 22 juli 2024 19:28]

[GertMenkel]

Je moet de feature dan ook wel aanzetten. Bij Seafile doe je dat door een versleutelde bibliotheek aan te maken, bij Nextcloud moet je een externe plugin installeren en inschakelen. Let wel dat je toegang tot die bestanden verliest vanuit de webinterface. Je hebt ook nog "server side encryption", maar die is vooral bedoeld om externe opslag-backends (zoals gdrive) te beschermen, en een kwaadaardige serverbeheerder valt voor die feature buiten de boot.

Voor snelheid en gebruiksgemak staat versleuteling inderdaad standaard uit.

[FreshMaker]

Rclone, al moet je dan wel deels handmatig je zaken uploaden.

Er zijn apps/services als boxcrypt, als je wat rondzoekt krijg je heel veel mogelijkheden

[Franckey]

Daarom moet je je data eerst versleutelen voordat je het uploadt in een cloud.

Dat maakt het gebruik van OneDrive wel erg onhandig. Het idee is juist dat het synct met je verschillende systemen en dat je er altijd met elk apparaat bij kunt. Uploaden en downloaden zijn geen handmatige acties.

[erwn]

Ik vroeg me af wat

(...) is het vonnis niet uitvoerbaar bij voorraad verklaard

betekende. Uitvoering van het vonnis wordt dan geschorst in het geval van hoger beroep. Als het wel uitvoerbaar bij voorraad is verklaard dan moet het al uitgevoerd worden ook als een partij in hoger beroep gaat.

[Obbidobbi]

Dit klopt helemaal, alleen is het in dit vonnis wel iets te relativeren. Het vonnis is niet uitvoerbaar bij voorraad verklaard voor wat betreft de blokkade op de specifieke afbeelding. De rest van het vonnis is wel uitvoerbaar bij voorraad verklaart.

Hierbij neemt de rechter in overweging dat bij enig hoger beroep dit specifieke belang van Microsoft zwaarder weegt, met oog op de Amerikaanse wetgeving. Maar de rest van het account moet wel zo spoedig mogelijk weer beschikbaar gemaakt worden, zelfs als Microsoft hoger beroep indient.

[Sinnergy]

Klopt ook niet echt, uit de uitspraak:

De rechtbank zal daarom dit vonnis uitvoerbaar bij voorraad verklaren met uitzondering van het opheffen van de blokkade op de afbeelding die volgens Microsoft als kinderpornografisch moet worden aangemerkt. De opmerking van Microsoft dat zij niet kan uitsluiten dat het account van [naam eiseres] meer schadelijke afbeeldingen bevat, heeft zij op geen enkele manier geconcretiseerd en onderbouwd en vormt daarom geen aanleiding om het vonnis in verdergaande mate niet uitvoerbaar bij voorraad te verklaren.

[synoniem]

Reden te meer om al je data die jouw device verlaat eerst te encrypten. Microsoft en ook de andere techreuzen gaan de documenten en foto's van hun aandeelhouders of zo maar scannen. Moet je opletten hoe snel dat scannen dan afgelopen is.