Onderzoek: kinderporno nog steeds vindbaar via Microsoft Bing

Het blijkt mogelijk te zijn om kinderporno te vinden met Microsofts zoekmachine Bing. The New York Times deed hier onderzoek naar en kon tientallen afbeeldingen vinden. Microsoft stelt dat er een fout in de zoekalgoritmes zat.

Om onderzoek te kunnen doen naar kinderporno ontwikkelde The New York Times een programma waarmee automatisch gezocht kan worden naar afbeeldingen, zonder deze op het scherm te tonen. Om kinderporno te kunnen detecteren werd er gebruikgemaakt van tientallen zoekopdrachten die iets te maken hadden met het onderwerp, waarna de afbeelding-url's die Bing terugstuurde werden verzameld. Zo kon de Amerikaanse krant links naar afbeeldingen verzamelen zonder zelf de afbeeldingen in te hoeven laden in de browser.

Na het detecteren van de afbeelding-url's, werden deze doorgestuurd naar PhotoDNA, het door Microsoft zelf ontwikkelde programma waarmee content gefilterd kan worden op basis van het herkennen van afbeeldingen. In veel gevallen werd een match genoteerd, wat betekent dat het om bekende beelden van kinderporno ging. Omdat Yahoo en DuckDuckGo gebruikmaken van de zoekmachine van Bing, waren de beelden ook bij deze bedrijven vindbaar.

Na de vondst werden de url's doorgestuurd naar onder meer het Canadian Center for Child Protection, dat zich bezighoudt met het opsporen en tegengaan van kinderporno. De organisatie gaf aan dat er inderdaad kinderporno op de gevonden beelden staat. The New York Times kon bij Googles zoekmachine niets vinden, maar volgens het Canadian Center for Child Protection wordt ook daar soms nog kinderporno gevonden. In sommige gevallen zou Google daarbij aanvankelijk hebben geweigerd de beelden te verwijderen.

In een reactie liet Microsoft aan The New York Times weten dat kinderporno gevonden kon worden via de zoekmachine door een fout in de algoritmes. Microsoft zegt dat dit inmiddels is hersteld, waardoor de beelden niet langer vindbaar moeten zijn.

Reacties (151)

[Anoniem: 1248170]

Serieus, maakt Duckduckgo gebruik van Bing? Dacht dat die wel zelf iets ontwikkeld hadden, want privacy staat zo hoog bij ze vertellen ze.

[hiostu]

Als ze onderwater de API vsn Bing gebruiken, maar ze doen dat zelf vanuit hun eigen servers zonder enige gebruikers informatie door te sturen naar Bing en ook de resultaten in een eigen pagina tonen zonder enige link in de pagina naar Bing, dan kunnen ze dat nog steeds heel goed afschermen. Bing krijgt dan geen gebruikers informatie, alleen een hoop zoekopdrachten vanuit een enkele bron.

[markoverklift]

Een soort van anonymizer, alsof je zoekt via een vpn of proxy...

[ajolla]

Heb je enig bewijs voor de bewering dat je via ddg anoniem zou surfen? Of vertrouw je gewoon op wat één of andere commerciële onderneming je op z'n website belooft...

[Ghxst]

F12 in Chrome / Firefox -> network tab en dan kun je zelf in de gaten houden welke informatie (headers, cookies, payload) er wordt gebruikt in elke request die naar hun servers gaat.

[miitjohn]

Volgens mij is dat al lang geen zekerheid meer. Sure, trackers ed maken het leven voor hun eenvoudiger en hebben een hogere kans op 1 op 1 identificatie, maar simpelweg opslaan van ip gegevens en deze uitwisselen kan al meer als voldoende zijn. De meeste providers geven quasi static ip's en dan is het heel gemakkelijk om een facebook id te linken met de zoek queries op een andere site. Bijhouden en vooral uitwisselen van ip gegevens (dynamic of niet) wordt door de gdpr beschouwd als personal digital data, maar dan moeten de sites waarmee je bezig bent zich hier wel aan houden.

[ajolla]

Bedankt voor do tip.

[borbit]

Probeer eens F12 in FF en dan tabje netwerk met en zonder adblock op deze pagina. Het is nogal een verschil

[pieterdebie]

Het bedrijf heeft tot noch toe niet mijn en niet iemand anders' vertrouwen geschonden. Ik merk gelijk ook het verschil op in ads na overgestapt te zijn van google.

[markoverklift]

Dat is vrij makkelijk te testen, eigenlijk.

[raro007]

precies zelf maken ze dan haast geen kosten maar jagen een ander op kosten..

[TheVivaldi]

Dan moet Microsoft de API maar sluiten of er flink geld voor gaan vragen. Maar blijkbaar zit MS er niet mee, anders hadden ze dat allang gedaan.

[Reactie gewijzigd door TheVivaldi op 22 juli 2024 20:06]

[batjes]

De Bing APIs zijn gratis te gebruiken tot een bepaald aantal verzoeken per maand/seconde. Daarna mag er voor betaald worden. DuckDuckGo betaald dus netjes voor hun gebruik van Bing.

[TheVivaldi]

Ik zeg ook niet dat ze dat niet doen? Ik zeg alleen dat als MS een probleem zou hebben met de kosten, zoals hierboven werd gesteld, dat ze dan FLINK geld zouden moeten gaan vragen in plaats van het bedrag wat er nu voor staat.

[Reactie gewijzigd door TheVivaldi op 22 juli 2024 20:06]

[batjes]

En ik vulde dat alleen maar aan.

[hiostu]

Hoezo? Dat kan gewoon heel goed een betaalde API zijn. Sterker nog, iedereen kan gewoon via Azure Bing Search API gebruiken tegen betaling.

[bilgy_no1]

Microsoft zal sowieso wel blij zijn dat er Bing searches worden gedaan via DDG. Anders was het marktaandeel helemaal nihil.

[SED]

Niet echt.. Weliswaar q1 maar goede indicatie.
https://www.pure-im.nl/bl...len-zoekmachines-q1-2019/

[mae-t.net]

Jagen een ander op kosten? Dat klinkt alsof het niet de bedoeling is, maar dat is MS kennelijk niet met je eens.

[kodak]

Zoekopdrachten kunnen op zich al een genoeg zijn om alsnog herleidbaar naar een persoon te zijn of worden. Dus dat afschermen is leuk bedacht, maar niet perse afdoende om de gebruikers anoniem te houden.

[hiostu]

Als je 100000 zoekopdrachten vanaf 1 adres krijgt is het heel knap om daar nog individuele uit af te leiden. Het komt dus niet meer vanaf individuele ip adressen of verschillende devices.

[kodak]

Het gaat er bij privacy of anonimiteit niet om wat je zelf of een ander allemaal goed doet, maar wat er fout kan gaan. Dat duckduckgo veel probeert te voorkomen met maatregelen zoals filteren, niet opslaan, zoekopdrachten via andere IP-adressen laten verlopen en veel zoekopdrachten van verschillende gebruikers leveren via eigen IP-adressen is slechts een poging om de gebruiker meer anonimiteit of privacy te geven. Dat is niet het zelfde als daarmee ook anoniem zijn of privacy hebben bij de zoekmachines waar duckduckgo gebruik van maakt.

[jvdmeer]

DuckDuckGo gebruikt eigen spiders, de zogenaamde DuckDuckBot.
Maar behalve de spiders gebruiken zo nog meer dan 400 bronnen, waaronder BIng

[iAR]

Dat verklaart inderdaad een hoop. Hoe vaak ik toch wel niet de !g-bang gebruik. Startpage.com maakt volgens mij gebruik van Google, maar die is helaas bij Apple niet als standaard in te stellen.

[leuk_he]

Wat betekenf !g-bang? Waar doe je dat?

[Loggedinasroot]

Je hebt "bangs" bij duckduckgo.
Dit betekent dat als je zoekterm begint of eindigt met een "!letterhier" dan zoekt hij op een andere site.

Voorbeelden:
"!g katten" dit voert een query uit op google naar katten.

"!gm Amsterdam" dit voert een query uit op Google Maps naar Amsterdam.

"!gi tweakers" dit zoekt naar tweakers op Google Images.

Enzovoort enzovoort.

Je hebt honderden bangs.

[Heedless]

Vergeet !tpw niet, daarmee kan je direct in de pricewatch zoeken.

[FvdM]

Er zijn er nog een paar voor Tnet: https://duckduckgo.com/bang?q=tweakers

[curkey]

voor je het weet heb je er de gang in :-)

[dwilmer]

Waaronder !tweakers

[OddesE]

‘bang’ is de term die men gebruikt voor het uitroepteken. Zo heb je ook de hash bang, oftewel #!, de tekenreeks waarmee je bovenaan je shell script aangeeft welke interpreter gebruikt moet worden.

[ochhanz]

Persoonlijk vind ik duckduckgo betere resultaten geven omdat je kan instellen voor welke land je zoek resultaten wilt vinden. Google vind ik wel beter als je steeds naar dezelfde sites gaat (wat logisch is natuurlijk omdat je zoekt binnen je bubble), maar dan kun je net zo goed favorites gebruiken.

[XanderHuisman]

Ook in Google kun je instellen welke regio je wilt gebruiken voor zoekresultaten (bij zoekinstellingen)

[ochhanz]

Ja maar dan moet je de settings menu induiken toch? Dat is omslachtig als je regelmatig wilt switchen. Bij duckduckgo is het gewoon een switch boven je zoekbalk.

[StGermain]

Als je bij duckduckgo je query begint met !g zoek je via google zonder dat die alles opslaan.

[Anoniem: 1248170]

en welke om de duckduckgo eigen zoekcrawler te gebruiken?

[StGermain]

Gewoon niks voor je query zetten? Ik ben al enkele jaartjes overgestapt en in het begin is het vreemd dat je niet meer onmiddellijk de resultaten uit je filterbubbel als eerste krijgt.

https://en.wikipedia.org/wiki/DuckDuckGo

[TheGiantPotato]

Ik ben zelf ook een paar jaar geleden overgestapt, en terwijl het verschil mij voor een deel positief opviel, was het voor een deel toch ook wel duidelijk slechter. Bijvoorbeeld als ik iets op wil zoeken over het spel "Two Point Hospital", dan vind ik eigenlijk alleen maar resultaten over echte ziekenhuizen ipv dingen over het spel, terwijl ik bij Google wel gewoon resultaten over het spel krijg.Ik hoop dat dit uiteindelijk beter gaat worden, want het irriteert me soms best wel.

[StGermain]

Vreemd, de eerste pagina is bij mij enkel over het spel terwijl bij duckduckgo toch juist iedereen dezelfde resultaten zou moeten krijgen?

[TheGiantPotato]

Als ik het spel zelf op zoek vind ik het wel ja, maar niet als ik specifiek iets in het spel wil weten, bijvoorbeeld iets over een bepaald type kamer of een soort werknemer.

[Loggedinasroot]

Ze gebruiken tientallen zoekmachines maar ook "zoeken" ze zelf.

[desalniettemin]

Heb je qwant al eens geprobeerd: https://www.qwant.com/

[Vallaquenta]

Ik gebruik zelf al tijden DDG, mag ik jou vragen hoe goed jij qwant persoonlijk vind?

Ik merk dat ik met regelmaat nog beter dingen vind via Google dan DDG, hoe zit dat met deze zoekmachine?

[desalniettemin]

Ik gebruik eigenlijk alleen DuckDuckGo. Wat ik wel gemerkt heb is dat er op DDG ads geblokkeerd worden en op qwant niet. Er is nog een zoekmachine startpage.com.

[RoestVrijStaal]

Dat wil je niet, want Qwant steunt Artikel 11 en 13.
Qwant is tegen het vrije internet dus.

[Anoniem: 1248170]

Precies, reden dat ik verder zoek. Google is namelijk ook een pain in the ass om zoekresultaten op US te hebben, vroeger was het gewoon naar google.us gaan, maar helaas dat werkt niet meer.

Dan is duckduckgo enige alternatief.

[ajolla]

YaCy al eens geprobeerd? Is dat wat?

[desalniettemin]

O wist ik niet.

[analog_]

lees artikel 11 en 13. google spant jullie voor youtubes kar.

[mkools24]

Dat verklaart iig waarom ik niks vind met DuckDuckGo.

[ochhanz]

Lijkt me niet. Misschien ben je vergeten de checkbox aan te vinken dat je op Nederlandse pagina's/content wilt zoeken? (boven de duckduckgo zoekbalk als je aan het zoeken bent)

[FreshMaker]

Serieus, maakt Duckduckgo gebruik van Bing? Dacht dat die wel zelf iets ontwikkeld hadden, want privacy staat zo hoog bij ze vertellen ze.

En dat verklaart de beroerde zoekresultaten dan wel.
Ik heb de afgelopen 2 maanden 'stug' volgehouden om via DDG te zoeken, maar merkte echt een terugval in efficiënte resultaten.

[Enai]

Dat hebben ze ook, maar daarnaast gebruiken ze Bing en voegen ze de zoekresultaten samen.

[Lord Anubis]

Klopt, doe maar eens een zoek opdracht. Helaas merk ik toch dat resultaten van DuckDuckGo en dan het aanklikken van een link, weerspiegeld wordt in verdere resultaten in Bing. Weet niet wat er kwa extra info verder mee gestuurd wordt. Want een geklikte link kan weer een MS of Google, Facebook, twitter en whatever link hebben. Net zoiets als Facebook volgt je niet, maar het symbooltje wordt wel met Javascript code van de site opgehaald.

[DeDooieVent]

Verklaart meteen waarom het zo'n beroerde zoekmachine is, ik zou hem graag gebruiken, maar ja...

[Jorgen]

Eigenlijk is het dus een uitstekende zoekmachine, die ook ongewenste dingen weet te vinden en moet het algoritme zodanig worden geschreven dat de gewone, niets vermoedende gebruiker niet geconfronteerd wordt met zulke ellende.

Dat kan Microsoft proberen in te bouwen. Nog beter zou het zijn om ook een specifieke meldknop in te bouwen, waarmee men met 1 of 2 kliks de site voor zichzelf kan blokkeren en een melding bij de betreffende instanties kan maken.

[DarkJack]

Bing is een uitstekende zoekmachine, het zoekt exact wat je vraagt.

Nog een voorbeeld in dezelfde trend als dit artikel: als je in Bing zoekt hoe je zelfmoord kan plegen, zijn de top results werkelijk de meest efficiënte manieren om zelfmoord te plegen, terwijl Google's resultaten je richting zelfmoordpreventie zullen sturen.

Bing's resultaten zijn dus technisch correct (the best kind of correct), en Google's resultaten zijn meer wat "de maatschappij" zou willen dat de resultaten van een dergelijke search zouden moeten zijn.

[P_Tingen]

Klopt, Bing geeft hele "ruwe" resultaten, als in: ongefilterd. Ik zoek nog wel eens op plaatjes, maar ik moet er - zeker op mijn werk - goed om denken dat ik het safety filter op "gemiddeld" heb staan. Bij werkelijk élke zoekopdracht zie je anders op een gegeven moment pornografisch spul er tussen staan

[The Zep Man]

Dat is regel 34 waar je tegenaan loopt.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 20:06]

[HakanX]

Afbeeldingen zoeken op Google is ook niet leuk meer. Klik je op de afbeelding, ga je naar de website ipv de afbeelding te vergroten en dan is het de vraag of je vervolgens die afbeelding op die website kan vinden.

[The Zep Man]

Oplossing.

[Anoniem: 1248170]

reden dat ik google niet meer gebruik, dat is echt ver weggezakt. Hun slogan be no evil hebben ze ook niet zonder reden geschrapt.

[BruceLee]

bing kan nog niet eens een telefoon nummer vinden van je plaatselijke winkel zonder tig meerdere clicks bij google staat alles er meteen.......

[Enai]

Google's resultaten zijn meer wat "de maatschappij" zou willen dat de resultaten van een dergelijke search zouden moeten zijn.

En met “de maatschappij” bedoel je Google en hun politieke visie als linkse wereldverbeteraars. Zie ook: bans en demonetisation voor conservatieve bronnen op YouTube.

[dasiro]

het gaat hier om dingen die opnieuw te vinden zijn, er wordt met geen woord gesproken over nieuwe content die nog vindbaar is. Het algoritme dat in de fout gegaan is, is dus eentje dat een blacklist van content opstelt voor dat het resultaat wordt getoond en niet het zoekalgoritme zelf.

[RoccoS]

Bing heeft al bij iedere afbeelding in de zoekresultaten een "Flag as inappropiate" link die je kan aanklikken. Ik neem aan dat als die vaak genoeg aangeklikt wordt dat er dan actie wordt ondernomen,

[Eldunari]

Of nog beter. De politie krijgt een helemaal ongefilterde versie van de zoekmachine om juist die urls te vinden. Dan is het vervolgens rechergewerk om uit te vinden wie die foto's erop zet en wie ze bekijken.
Dat is niet altijd gemakkelijk. Maar beter te doen dan websites op het dark web.

[Luke Skyballer]

"niets vermoedende gebruiker niet geconfronteerd wordt met zulke ellende."
Nuja je zult wel specifiek moeten zoeken naar dit soort walgelijke content toch?

Lijkt me de ideale manier om pedo's op te sporen zo, bing als lokaas . Als de providers mee werken dan, wat in het geval van dergelijke strafbare feiten me niet meer dan logisch lijkt.

[curkey]

De vraag is of die zoektermen misschien alledaagse woorden zijn die in een andere context gebruikt worden.

[Jorgen]

Niet mee eens. Als je zoekt op poesjes krijg je vaak al links naar porno.

[Freeaqingme]

Lijkt me de ideale manier om pedo's op te sporen zo, bing als lokaas . Als de providers mee werken dan, wat in het geval van dergelijke strafbare feiten me niet meer dan logisch lijkt.

Stel dat we dat doen, waar en hoe leggen we dan exact de grens? Ik ben zeker niet voor kinderporno, maar als we een overheid álle mogelijke opsporingsmogelijkheden willen geven om dit soort misdrijven te pakken, dan breidt zich dat vanzelf uit naar andere gebieden.

Ook al heb je niets te verbergen, komt het dan vanzelf voor dat jij je moet gaan verantwoorden voor dingen die opzich heel onschuldig waren, maar - als je het met een bepaalde blik beschouwt - ook minder positief kunnen worden uitgelegd.

[Luke Skyballer]

Ook al heb je niets te verbergen, komt het dan vanzelf voor dat jij je moet gaan verantwoorden voor dingen die opzich heel onschuldig waren, maar - als je het met een bepaalde blik beschouwt - ook minder positief kunnen worden uitgelegd.

Tegen de tijd dat iets als strafbaar gezien wordt en de provider zich genoodzaakt voelt de gegevens te delen, dan zul je toch vaker moeten zoeken of daadwerkelijk links openen om in aanmerking te komen voor het delen van je persoonsgegevens.

Per ongeluk een keer op kinderporno uitkomen via bing wanneer je opzoek bent naar laten we zeggen een cadeautje voor je neefje/nichtje, dan kom je niet in aanmerking lijkt me.

Ik begrijp je argumentering maar betwijfel of die van toepassing is op specifiek dit soort gevallen.
Stel je zoekt naar wapens omdat je wilt weten wat het meest populaire schietijzer in call of duty is, en je word 'geflagged' als terrorist, erg vervelend uiteraard. En zo zijn er meer voorbeelden.

Maar daadwerkelijk opzoek gaan naar (specifieke zoektermen, herhaling) en openen van links toont in dit geval toch maar één ding aan. En dat is dat je strafbaar bezig bent, en naar alle waarschijnlijkheid een pedofiel die op zijn minst in de gaten gehouden dient te worden.

[Reactie gewijzigd door Luke Skyballer op 22 juli 2024 20:06]

[AOC]

Hoe wordt overigens onderscheid gemaakt tussen porno of gewoon een foto die een trotse moeder van haar kroost heeft gemaakt en door derden verspreid wordt. Of bv kunst

[Troetelbeer]

Daar ben ik ook benieuwd naar, want dat is zelfs voor mensen een moeilijk te onderscheiden iets. De één kan een afbeelding pornografisch vinden, terwijl een ander het als onschuldige kunst ziet. Dat staat ook nog los van het feit of een beeld naakt bevat of niet. Pornografie hoeft niet altijd naakt te bevatten en naakt is niet altijd porno.

[asing]

Voor jou en voor @Waterkoker :

Iedere afbeelding die door PhotoDNA wordt gevlagd is ooit een keer door een mens bekeken. Die foto wordt naar PhotoDNA gestuurd. PhotoDNA doet daar dingen mee, bijvoorbeeld het converteren naar zwart-wit. Dat is met een reden. Dezelfde foto kan namelijk in bewerkte vorm worden gevonden. Bijvoorbeeld met of zonder logo, kleiner of groter gemaakt, een uitsnede etc etc.

PhotoDNA heeft geen moeite om beide foto's te linken doordat het om kan gaan met vormen van bewerken. Als de politie een collectie aantreft voert men deze aan PhotoDNA. Die filtert alle reeds bekende beelden eruit. Wat eruit valt (lees : niet herkend wordt), moet door een mens worden bekeken om beoordeeld te worden.

Deze persoon heeft de taak om de beelden te bekijken en te bepalen of het hier gaat om strafbaar materiaal. Dat zal dan gaan aan de hand van de criteria van het land. Het is ook een beetje een hellend vlak. Er waren vroeger zat ouders die hun baby/kind in bad fotografeerden. Dat is in deze tijd strafbaar maar in de jaren 70 en 80 was dat anders. Ik denk ook niet dat een paar illegale beelden meer of minder iets doet aan de strafmaat. Iemand wordt veroordeeld voor het bezit van, niet voor het aantal.

Anyhow, PhotoDNA is bedoeld om politiemedewerkers te ontlasten door bekend materiaal te vlaggen zodat ze niet alles hoeven te bekijken.

[CyBeR]

Er waren vroeger zat ouders die hun baby/kind in bad fotografeerden. Dat is in deze tijd strafbaar maar in de jaren 70 en 80 was dat anders.

Dat is ook in deze tijd niet strafbaar.

[Gerco]

Er waren vroeger zat ouders die hun baby/kind in bad fotografeerden. Dat is in deze tijd strafbaar maar in de jaren 70 en 80 was dat anders.

Heb je hier een bron van? Volgens mij zijn gewone afbeeldingen in de familie sfeer die geen seksuele handelingen bevatten niet strafbaar, ook als de betreffende minderjarigen (deels) naakt zijn.

[Patriot]

Het hoeft niet eens in de familie te zijn, het gaat om of er een seksuele handeling zichtbaar is. Daaronder vallen bijvoorbeeld ook (suggestief) poseren, of foto's waarop de de aandacht nadrukkelijk ligt op de (secundaire) geslachtskenmerken.

[Gerco]

En dat is bij een kind in bad niet het geval. Ik zou graag weten waarom @asing denkt dat dat strafbaar is. Misschien heb ik een paar wetten gemist, maar ik zou niet weten waarom dat zo zou zijn.

[asing]

Laat ik door het stof gaan : het is niet bij wet verboden. Er staat niet : je mag geen foto's van je kinderen in bad maken.

Echter, je zit in een ontzettend grijs gebied. Wat voor de één een memorabel moment van de eigen kleine is, is voor een viezerik iets heel anders. Dus persoonlijk zou ik dat soort foto's niet meer maken. Je wilt niet dat ze per ongeluk in verkeerde handen vallen.

Maar dat zijn mijn 2 centen.

[Trommelrem]

Toch zijn er mensen die wel heel erg de grenzen van kunst opzoeken. Natuurlijk kan kunst voor bepaalde mensen aanstootgevend zijn, en de mensen die het aanstootgevend vinden accepteren heus wel dat er mensen zijn die het wel kunst vinden, maar de grens opzoeken om het opzoeken van de grens vind ik niet correct.

[Troetelbeer]

Dat is weer een geheel andere discussie.

[grrfield]

Maar er wordt hier wel geoordeeld over de aard van een foto zonder deze zelf in te laden en te bekijken? Niemand die dit vreemd vindt?

"Zo kon de Amerikaanse krant links naar afbeeldingen verzamelen zonder zelf de afbeeldingen in te hoeven laden in de browser."

Het ligt waarschijnlijk aan mij?

OK, na het doorsturen van de URLS. Het zorgt toch voor veel verwarring als ik andere reacties bekijk.

[Reactie gewijzigd door grrfield op 22 juli 2024 20:06]

[Ircghost]

Dat wordt uitgelegd in de tweede alinea. Het programma doet dus dit:
1) zoek op bepaalde termen
2) Haal de URL op van de gevonden plaatjes
3) Injecteer URL in de zoek engine van PhotoDNA
4) PhotoDNA vergelijkt inhoud van foto met bekende foto's van kinderporno. Dit gebeurt waarschijnlijk (op zijn minst) door een vergelijking van hashes.
5 PhotoDNA geeft hit of geen hit terug.

Dan hoef je als onderzoeker (gelukkig) dus niks te zien.

Tekst uit tweede alinea:

Na het detecteren van de afbeelding-url's, werden deze doorgestuurd naar PhotoDNA, het door Microsoft zelf ontwikkelde programma waarmee content gefilterd kan worden op basis van het herkennen van afbeeldingen.

[FreshMaker]

Dat wordt uitgelegd in de tweede alinea. Het programma doet dus dit:
1) zoek op bepaalde termen
2) Haal de URL op van de gevonden plaatjes
3) Injecteer URL in de zoek engine van PhotoDNA
4) PhotoDNA vergelijkt inhoud van foto met bekende foto's van kinderporno. Dit gebeurt waarschijnlijk (op zijn minst) door een vergelijking van hashes.
5 PhotoDNA geeft hit of geen hit terug.

Dan hoef je als onderzoeker (gelukkig) dus niks te zien.

Tekst uit tweede alinea:

[...]

Niet NOGMAALS te bekijken
Die database is opgebouwd uit resultaten uit het verleden, dus de foto's zijn al een keer beoordeeld op hun inhoud.
Die database is opgezet om verschillende redenen, in de eerste plaats om niet opnieuw het wiel uit te vinden, en op nieuw moderators te vaak bloot te stellen aan die dingen
Maar ook om externe onderzoekers 'veilig' onderzoek te laten doen.
Anders krijg je de onder (torrent)downloaders de graag gebruikte smoes
"maar Brein deelt de media ... dus is ook fout"

[Ircghost]

Nee, je haalt nu dingen door elkaar. Ik heb het over de onderzoekers die beschreven zijn in het artikel niet degenen die het origineel hebben gevonden.

[Troetelbeer]

Lees het artikel nog eens. Die afbeeldingen zijn doorgestuurd naar een andere instantie en daar wel bekeken.

Maar dan nog blijft het vaak een discussie. De ene kijker zal iets wel porno vinden en een andere kijker niet.

Volgens de politie:

We spreken van kinderporno als het gaat om een afbeelding of een video van een minderjarige (iemand onder de 18 jaar) die seksuele handelingen verricht.

[Reactie gewijzigd door Troetelbeer op 22 juli 2024 20:06]

[mae-t.net]

Wat dan weer zou betekenen dat een naaktfoto gewoon zou mogen. Ik heb sterk het vermoeden dat andere instanties de grens al wat eerder trekken. Best kans dat een deel van het gevonden materiaal zich ergens tussen die grenzen bevindt. Dat zul je altijd houden in een internationaal netwerk als het internet.

[m.z]

Waarschijnlijk wordt meer mee bedoeld dat bewust foto's in laden in de browser wordt geblokkeerd, gezien dat je dan in bezit bent van kinderporno.

Daarbij is de ontvangende partij, die deze urls ontvangt "gemachtigde" om deze foto's wel te mogen zien en hier actie op uit te voeren.

Dit bewust niet inladen van afbeeldingen wordt vaker gedaan, door mensen die onderzoek doen op kinderporno. Tijd geleden werdt soortgelijke manier van onderzoek besproken door onderzoeker in een aflevering van de serie Dark Net. Dit stond op Netflix, maar zie zojuist dat het hele season eraf is gehaald.

Offtopic:
Wat ergens ironisch vindt is dat Microsoft zoekmachine wel in staat was dit soort zoekopdracht/resultaten te "accepteren". Gezien het feit dat bijvoorbeeld OneDrive een analyse ingebouwd heeft, waaronder enige tijd geleden iemand foto's van zijn kinderen gekenmerkt werdt al kinderporno, terwijl dit niet het geval was.

[Reactie gewijzigd door m.z op 22 juli 2024 20:06]

[FreshMaker]

Offtopic:
Wat ergens ironisch vindt is dat Microsoft zoekmachine wel in staat was dit soort zoekopdracht/resultaten te "accepteren". Gezien het feit dat bijvoorbeeld OneDrive een analyse ingebouwd heeft, waaronder enige tijd geleden iemand foto's van zijn kinderen gekenmerkt werdt al kinderporno, terwijl dit niet het geval was.

Ik weet niet of dat op waarheid beruste ...
Er ging ook rond dat porno in onedrive gedelete zou worden, en accounts gebanned.
Ik heb regelmatig wat van die dingen in mijn onedrive gehad, en gedeeld met anderen, en niemand heeft ooit iets te horen gekregen
( of wij hebben geluk ... maar dan werkt dat filter ook niet goed )

[m.z]

Dat inderdaad een goede vraag, ik kan helaas niet de bron terugvinden. Het ging in iedere geval om, dat een vader gezinsfoto's had geupload, waarop zijn kinder met een bloot bovenlichaam, gekenmerkt werd.

Ik had uit de voorgaande comment gehaald, maar ik had aangegeven dat ooit mijn jeugdfoto's wilde inscannen als back-up. Nooit echt aan toe gekomen, want kost best wel wat werk.

Zelf plaats ik mijn bestanden lokaal op, maar er is een optie, dat je je bestanden automatisch op OneDrive plaatst. Dit wordt/werd gevraagd bij nieuwe installatie (1903 en volgensmij ook in 1809) en de optie is via instellingen aan te zetten.

Waarbij me dus afvroeg, wat nou als deze wel zelf of automatisch erop kwamen? Zou beetje komische zijn als een foto uit mijn kindertijd gekenmerkt werdt, terwijl ik in bad speelde, rond een jaar of 3-4.

Verder lees ook weer dat het niet wordt gescanned, omdat dit ten koste zou zijn de privacy. Wel heb zelf eens gezien dat foto's zeker wordt gescanned en deze scanner ziet wat er in de foto te zien is en vervolgens taggen, zoals strand, dieren, natuur enzo. Outlook/Onedrive/Foto's/Tags

Toegevoegd (edit):

Er ging ook rond dat porno in onedrive gedelete zou worden, en accounts gebanned.
Ik heb regelmatig wat van die dingen in mijn onedrive gehad, en gedeeld met anderen, en niemand heeft ooit iets te horen gekregen
( of wij hebben geluk ... maar dan werkt dat filter ook niet goed )

Ik denk dat filter niet los gaat op 18+ foto's.

Ik heb nog even verder gezocht, maar schijnbaar wordt het wel degelijk gescanned, ook door PhotoDNA. Bron: https://www.tomshardware....-onedrive-porn,27400.html
https://en.wikipedia.org/wiki/PhotoDNA

[Reactie gewijzigd door m.z op 22 juli 2024 20:06]

[afraca]

Beetje late reactie, maar alsnog:

los van hoe goed idee het is dat MS alle uploads scant, ga ik ervan uit dat ze rekening houden met het feit dat naakt niet gelijk is aan kinderporno.

[m.z]

Ergens snap in zekere zin wel, dat actief gebeurd, zelf heb niet zo problemen mee.

Daarnaast lijkt me dat PhotoDNA wel verschil ziet en vermoed dan ook dat zoals in dit artikel nog door een persoon wel of niet kenmerkt. Maar dit weet ik niet zeker.

[TheVivaldi]

Zeker niet tegenwoordig met al die nieuwerwetse termen eindigend op 'porn', zoals 'closet porn', 'climate porn', etc.

[The Zep Man]

No kink shaming.

[curkey]

Er is geen vaste definitie voor; in de 70's kon er veel meer dan tegenwoordig, dus de tijdgeest moet je zeker meenemen.

[Troetelbeer]

Uhm. Mijn quote komt van politie.nl, vandaag...

[curkey]

misschien een beetje kort/brak geformuleerd idd, maar ik beaam wat je zegt

[Orthodroom]

Van deze foto’s is al bekend dat het om kinderporno gaat. De hash staat dus ook al in een database van Microsoft. De aanpassing in het algoritme behelst dan waarschijnlijk ook dat ze dit nu op voorhand al zelf controleren.

[Xzorby]

PhotoDNA maakt zelf geen onderscheid, maar kijkt alleen of een foto overeenkomt met een al bekende foto. Er wordt gebruikgemaakt van een database met miljoenen hashes* van al bekende kinderporno. In dit geval heeft Canadian Center for Child Protection het ook nog eens gecheckt.

*Robuuste hashes; ook foto's die licht gemanipuleerd zijn worden zo gevonden: https://en.wikipedia.org/wiki/PhotoDNA

[Vallaquenta]

Een tijdje terug was er de ophef met de youtuber die een filmpje maakte over pedofielen die in de comments op youtube filmpjes (met jonge kinderen) reageerden met timestamps waarin de kinderen (zelfs als ze volledig gekleed waren) in gecompromiteerde situaties te zien waren (voor misschien een paar frames).

Ik denk dus dat het vandaag de dag zo ver gaat dat je dit onderscheid niet eens meer kunt gebruiken. Deze viespeuken weten uit allerlei verschillende dingen toch een 'fix' te krijgen...

[Unsocial Pixel]

Gaan ze dan ook gelijk achter de host aan of worden enkel de resultaten gefilterd? Mooist is toch dat die zooi helemaal plat gespamd word zodat er überhaupt niemand naar toe kan tot ze de server plat hebben en de pedo opgepakt.

[leuk_he]

Zou er niet een zeker risico aan zitten om een lijst met urls te publiceren die gespammed moeten worden?

[Zynth]

Ter informatie voor mij; bestaat er eigenlijk nog een goede zoekmachine die in "heel het internet zoekt" zoals dat ooit bedoeld was?
Zonder dat je resultaten gekleurd worden door profiling, resultaten verwijderd worden wegens x, etc.
Gewoon lekker ruw de inhoud van het web doorzoeken.
Of is dat er gewoonweg niet meer?

[Reactie gewijzigd door Zynth op 22 juli 2024 20:06]

[Anoniem: 1248170]

Dat is er niet meer, internet zoals vroeger bestaat niet meer. Het gedachtegoed hoe internet ooit ontstond bestaat ook niet meer.

Daarom hebben de autoriteiten het internet ook altijd met rust gelaten tot we er van afhankelijk werden en toen begon de regulering.

[Reactie gewijzigd door Anoniem: 1248170 op 22 juli 2024 20:06]

[dasiro]

"het internet" als begrip is misschien veranderd, maar veel mensen hebben er ook een andere maatschappelijke invulling aan gegeven. Technisch gezien is het nog altijd een geheel van verbonden netwerken waar je via TCP/IP verbinding mee kunt proberen te maken en er zijn maar weinig obstakels die dat verhinderen, waarvan de meesten zelfs geen wettelijke basis hebben, maar een ongewenste functionele (draaien van een FTP op poort 21).

Wat er wél is veranderd is dat er wetgeving op het hosten van content is gekomen die nauwer aansluit bij de oude niet-digitale wetgeving zoals in dit geval (bezit en verspreiding van illegaal materiaal).

[Anoniem: 310408]

Ter informatie voor mij; bestaat er eigenlijk nog een goede zoekmachine die in "heel het internet zoekt" zoals dat ooit bedoeld was?
Zonder dat je resultaten gekleurd worden door profiling, resultaten verwijderd worden wegens x, etc.
Gewoon lekker ruw de inhoud van het web doorzoeken.

Een dergelijke zoekmachine zou totaal onbruikbaar zijn want door alle mogelijk manipulatie, valse keywords etc zou je tussen het puin je zoekterm niet meer vinden. Een zoekmachine moet om nuttig te zijn enorm veel bagger vermijden.

En dan nog... je zal altijd een volgorde moeten maken. Een zoekmachine waar je op de zoekterm 'Microsoft' een volgorde krijg zonder filtering lijkt me niet erg nuttig. De eerst paar miljoen resultaten zullen dan wellicht product requirements zijn.

[Zynth]

Fair enough.
De kunst zit hem dan ouderwets in het combineren van keywords en het opleggen van restricties/filters (bij soort van regexp functionaliteit die google ook "heeft".).
Ik zou daar toch wel het nut van inzien; veel van wat er is gaat momenteel verloren in de bubbel van jou of wordt bepaald door de interesse van anderen.

[MrCaBLeGuY]

Het enige wat dit onderzoek duidelijk maakt is dat PhotoDNA dat afbeeldingen zou moeten filteren dat niet doet. De foto's zijn niet bekeken maar alleen door het algoritme gehaald wat een 0 of 1 terug geeft. Wie zegt dat dit geen false positives zijn ?

edit: artikel niet goed gelezen @Troetelbeer tx voor reactie.

[Reactie gewijzigd door MrCaBLeGuY op 22 juli 2024 20:06]

[Troetelbeer]

De foto's zijn wel bekeken. Lees het artikel nog eens.

[MrCaBLeGuY]

-1 voor mijzelf helaas, dank.

[AOC]

In hoeverre zullen de werknemers gecontroleerd zijn? Screenrecorder aan en je hebt voor thuis een privécollectie

[Anoniem: 1248170]

wat een gedoe, als die thuis komt kan die toch gewoon bing.com openen en gaan zoeken.

[BartOtten]

Op het internet is zat terug te vinden over welke mensen dit werk doen, met welke motieven en hoe er gecontroleerd wordt. Succes!

[Blaat]

Lijkt me eerlijk gezegd ook een onbegonnen zaak, om altijd alle content die niet door de beugel kan te blokkeren. Er gebeurt veel op het internet... Mensen kunnen het niet allemaal controleren en algoritmes zijn niet 100% accuraat.

Weet iemand hoe zoiets een bug kan zijn? Is er sprake van een geautomatiseerd filter?

[Iblies]

door een fout in de algoritmes. Microsoft zegt dat dit inmiddels is hersteld, waardoor de beelden niet langer vindbaar moeten zijn.

Alleen is het klinkklare nonsens.
Wat er gebeurt is dat een combinatie van termen en fotos niet meer in de zoekresultaten worden opgenomen.
De fotos die herkenbaar in een database zitten kun je op een gegeven moment taggen,
alleen nieuw materiaal wordt een stuk complexer als er andere termen tegenaan worden gegooid.

Overigens is google/microsoft/facebook geen internet. De materie blijft alleen worden die niet meer geïndexeerd door deze partijen. En indexeren betekent in veel gevallen ook dat de cache van de partijen materie gaat bevatten waardoor ze mede aansprakelijk (kunnen) worden aan bezit en verspreiden.

[blorf]

Ze draaien er omheen. Is een bug of andere inconsistentie van een systeem de oorzaak, dan is dat ook concreet en aantoonbaar. Zo niet, dan is er ook geen reden om dat als excuus te aanvaarden.
Struisvogelpolitiek noemen ze dat toch?

[Reactie gewijzigd door blorf op 22 juli 2024 20:06]

[downtime]

Blijkbaar heeft Microsoft een database met hashes van bekende afbeeldingen. Het enige wat Bing hoeft te doen is een hash van elke op internet gevonden afbeelding even in die database op te zoeken. Is er een match dan mag de afbeelding niet voorkomen in zoekresultaten die gebruikers te zien krijgen. En mogelijk gaat daar iets fout.

Het mooie van het werken met hashes is dat Microsoft zelf geen database van bekende kinderporno hoeft te onderhouden en ze daardoor niet zelf met dat materiaal hoeven te werken. Dat doet een andere partij (waarschijnlijk een overheidsorganisatie) die dan een lijst met hashes aan grote partijen als Microsoft levert.

[Amadeus1966]

Een goede zoekmachine zonder censuur dus.
Precies zoals het moet zijn.

Dat je zieke plaatjes kan vinden is één ding.
Kinderporno is erg, maar er zijn nog wel meer erge dingen te vinden op het www, ook maar censureren?

[Thalion987]

Zelf vind ik dat dit soort dingen vaak als een excuus wordt gebruikt om ook andere dingen te censureren.

Daarnaast valt me op dat er in het artikel niet wordt gezegd of het hier gaat om tieners die elkaar dingen doorsturen via snapchat en het dan later verschijnt op een search engine, of echt kindermisbruik dat sickos posten op fora.

[_Thanatos_]

Ik begrijp niet zo goed wat hier mis mee is.

Ten eerste zijn er zoveel dingen mogelijk die illegaal zijn. Zoals te hard rijden (waar je écht iemand mee om het leven kan brengen, of net zo goed als met kinderporno iemand voor het leven kan handicappen). Of een slagersmes op de "verkeerde manier gebruiken". Of bepaalde plantjes laten groeien.

Ten tweede ben ik tegen censuur. Elke vorm van censuur. Het staat op internet, en je zoekt, dus zul je vinden. Waarom is het zo intens slecht dat je kinderporno kan vinden als je er naar zoekt (of zelfs niet naar zoekt)? De zoekmachine geeft gewoon waar je om vraagt. Ga liever achter de site aan waar het gehost wordt. In die zin is het juist GOED dat je kinderporno kunt vinden, want dan kun je ze aangeven. Als je niet weet dat het er is, kun je er ook niets aan doen.

Je kunt mensen wel een blinddoek voordoen, maar ze zijn daarmee nog niet blind.

[Reactie gewijzigd door _Thanatos_ op 22 juli 2024 20:06]