Google, Meta en anderen gaan samenwerken om online kindermisbruik tegen te gaan

Verschillende techbedrijven gaan samenwerken om kindermisbruik op hun platforms tegen te gaan. Google, Meta, Discord, en anderen zetten een gezamenlijk platform op waarmee ze onderling informatie over en signalen van kindermisbruik uit gaan wisselen.

Het nieuwe programma gaat Lantern heten en functioneert als een soort database waarin de deelnemers signalen van kindermisbruik uitwisselen, zoals inbreukmakende URL's en relevante sleutelwoorden die worden gebruikt om minderjarigen te groomen of kindermisbruikmateriaal te kopen of verkopen. De bedrijven kunnen ook hashes van misbruikbeelden of informatie over accounts delen, zoals gebruikersnamen en e-mailadressen.

De andere deelnemers kunnen die informatie vervolgens gebruiken om onderzoek te doen op hun eigen platforms. Op die manier kunnen ze actie ondernemen tegen eventuele illegale content of activiteit en zo nodig actie ondernemen en melding doen bij de relevante autoriteiten. De platforms benadrukken dat de signalen op zichzelf niet worden gezien als definitief bewijs, maar enkel als aanleiding om verder onderzoek te doen.

Tijdens de pilotfase van het project hebben URL's die door MEGA zijn gedeeld ertoe geleid dat er 'meer dan tienduizend' Facebook-profielen, Facebook-pagina's en Instagram-accounts offline zijn gehaald. De profielen en pagina's in kwestie zijn gedeeld met het Amerikaanse National Center for Missing and Exploited Children. Meta deelde daarnaast details over zijn onderzoek opnieuw via het Lantern-platform, die vervolgens gebruikt konden worden door de andere deelnemers. Discord zegt ook al gebruik te hebben gemaakt van informatie uit Lantern.

Het Lantern-programma is volgens de deelnemers al twee jaar in de maak. Het programma omvat momenteel Discord, Google, MEGA, Meta, Quora, Roblox, Snap en Twitch. De deelnemers hebben, naast het ontwikkelen van de techniek achter het platform, het programma ook 'laten doorlichten' om er zeker van te zien dat het voldoet aan wet- en regelgeving en dat het 'ethisch verantwoord' is. Als onderdeel van het programma moeten bedrijven verplichte trainingen voltooien en er vinden regelmatige check-ins plaats. De deelnemers zeggen ook 'regelmatig' hun beleid en handelswijze te evalueren.

De Business for Social Responsibility-coalitie heeft een rapport over Lantern opgesteld en houdt toezicht op het initiatief. De BSR is ook verantwoordelijk voor het opstellen van richtlijnen en regels voor het delen van gegevens via het platform. De BSR omvat meer dan 300 bedrijven en is gericht op wereldwijde veiligheids- en duurzaamheidsproblemen.

Door Daan van Monsjou

Nieuwsredacteur

07-11-2023 • 20:27

50

Lees meer

Reacties (50)

50
46
12
1
0
25
Wijzig sortering
Zeker moet kindmisbruik aangepakt blijven worden maar soms krijg ik het gevoel dat andere soorten van misbruik maar ongemerkt toegelaten of onder sneeuwen door alle aandacht richting kindmisbruik. Er zijn ook genoeg volwassen mensen die misbruikt worden en veel ellende te verwerken hebben. Ook daar moet net zoveel aandacht voor zijn en zeker al op iets als het www.
Zéker moet dat. Maar kinderen hebben een afhankelijkheidsrelatie, en volwassenen hebben dat meestal niet. Kinderen kunnen niet zónder volwassenen (ouders, familie, etc) maar volwassenen onderling hebben daar minder moeite mee. Ze zijn afhankelijk voor hun kost en inwoning van volwassenen, kunnen niet zelf beslissen om ergens anders naartoe te verhuizen of wat dan ook.
Kinderen kunnen niet zónder volwassenen (ouders, familie, etc) maar volwassenen onderling hebben daar minder moeite mee.
Zeker, maar vergis je er niet in dat er ook best veel volwassenen zijn die niet zelfstandig kunnen functioneren zonder hulp van andere volwassenen. Het word wel van ze verwacht met alle gevolgen van dien en ze totaal ontsporen. In feite hetzelfde als bij kinderen zonder volwassenen die dan ook zouden ontsporen.
Ze zijn afhankelijk voor hun kost en inwoning van volwassenen, kunnen niet zelf beslissen om ergens anders naartoe te verhuizen of wat dan ook.
Mee eens maar zo zijn er ook net zo goed vele volwassenen die geen keuze hebben en niet kunnen verhuizen, of sterker nog, geeneens een woning kunnen krijgen.

Maar zeker snap ik wel wat je zeggen wilt, alleen probeer ik toch alles wat meer naar het midden te schuiven zodat niet alleen de concentratie op kinderen blijft hangen.

[Reactie gewijzigd door Roel1966 op 23 juli 2024 08:39]

Feitelijk is volwassenheid eigenlijk meer psychologisch + biologisch en niet zo zeer een chronologisch process. Echter bij de wet is het puur een chronologische aanduiding.
Dit zorgt er voor dat wat we "kinderen" en "volwassenen" vinden heel anders is dan wat dat bij de wet betekend. Gemiddeld gezien is de chronologische benadering wel ongeveer correct, maar helaas vallen daarbij veel mensen buitenboord.
Mannen van 40 die niet voor zichzelf kunnen zorgen bestaan, dit komt door een achterstand in psychologische ontwikkeling, al dan niet door eigen toedoen, een aantal kan hier zelf niets aan doen maar is zo gevormd door hun omgeving een ander aantal is hier wel degelijk zelf verantwoordelijk voor. De wereld zit complex in elkaar en wat je bij de wet kunt regelen is zeer beperkt. De wet dient altijd van zichzelf in acht te nemen dat ze nooit perfect kan zijn en een soort van met hagel schieten op gemiddelden is.
Inderdaad maar ook niet te vergeten de invloed van de hedendaagse gejaagde maatschappij en deels de ook erg onpersoonlijke individualistische maatschappij vooral door al die digitalisering. Mensen blijven behoefte houden aan persoonlijk contact en niet alleen via de digitale weg.
afhankelijkheidsrelatie
Precies daarom gaan mijn haren overeind staan bij dit soort berichten. Wij hebben een afhankelijkheid van ict en we worden daar enorm door uitgemolken , we moeten ze maar vertrouwen op hun blauwe ogen. keer op keer blijkt dat wij totaal niet relevant zijn voor hun behalve dat we prima melkkoeien zijn (dan wel geld dan wel data).

Ik zou graag op de blokkades willen staan voor al het onrecht op aarde. Maar niet met het clubje engerlingen. Wat ai, social media en cloud beheerd!
Waarom niet?

Als die grote IT-partijen onderdeel zijn van het probleem, waarom zouden ze dan geen onderdeel moeten zijn van de oplossing?

En hoe zou het anders wél moeten volgens jou?

[Reactie gewijzigd door DigitalExorcist op 23 juli 2024 08:39]

Omdat zijn in gericht zijn op 100% verslaving, 100% omzet .
Het is dat ze kinderporno niet mogen verhandelen anders werd dat automatisch gemaximaliseerd.

Prima dat de ict en socialmedia verantwoordelijk wordt gehouden.
De prijs die wij moeten betalen staat mij niet aan. Ik wil hun niet in mijn systemen hebben. Ik wil niet nog meer privacy inleveren.
Welke sick basterds gaan ai trainen om kinderporno te onderscheiden? Hebben die een vog?

Wat wij moeten doen is stoppen van ons sociopaten te maken. Kappen met die preuts heid, geeft mensen gewoon vrijheid ipv sociale controle. Tuurlijk blijven er dan excessen. Maar mensen blijven pushen in een keurslijf zal blijven leiden tot meer en meer excessen.
Je hoeft geen Meta of Google product te gebruiken hè. Lijkt mij een goed idee om wat meer de kinderen te monitoren. Hoewel ik eigenlijk vind dat die ouders dat zouden moeten doen, maar blijkbaar hebben die geen idee.

En wat betreft vrijheid ipv sociale controle: kijk hoe “geweldig” dat gaat op het dark web.

[Reactie gewijzigd door SoloH op 23 juli 2024 08:39]

Je hoeft geen Meta of Google product te gebruiken hè.
Dat is een enorme uitdaging! Geen Android, geen WhatsApp. Blijft alleen apple over.
Maar apple wilde dit ook al en is daar op afgerekend.

Kijk naar buiten daar is genoeg gaande. The darkweb is een afspiegeling van de maatschappij! Waarom zou je op het darkweb willen zijn? Oh ja voor al uw culturele inteelt excessen. Sex, drugs en wapens.
Geen Android is wel een probleem, Whatsapp daarentegen makkelijk. Maar je hebt wel een punt.

Ik weet niet of je het over mij hebt met “uw” maar ik vind dat niet oké om maar te suggereren zo.
Ik reageer in algemene zin. Dark web draait immers niet op de behoefte van 1 persoon.
En kindermisbruik zou geen issue zijn als niet hele volksstammen zich aan zouden bezigen of het ingebakken zou zijn in geloofsculturen.
...
En kindermisbruik zou geen issue zijn als niet hele volksstammen zich aan zouden bezigen of het ingebakken zou zijn in geloofsculturen.
Wouw, dat vind ik wel een bizarre uitspraak. Daar laat ik het maar even bij.
Je zoekt oplossingen voor problemen die alleen in je hoofd bestaan…..

Met je VOG.
Maar of je nu zelfstandig bent of niet - bescherming tegen misbruik zou dat onafhankelijk van moeten zijn. Daarbij is er nog een probleem: wanneer ben je dan geen kind meer cq. zelfstandig? Net alsof elke 18-jarige direct een baan heeft en het huis verlaat.... die zijn dus ook nog volledig afhankelijk van hun ouders/familie.

Dit soort onderverdelingen zijn handig bij probleemoplossingen (zo werkt het in de ICT wel vaker.... :Y) ) maar uiteindelijk is de maatschappij niet zo mooi opgedeeld in 'deelproblemen'.

En bedrijven die in de eerste instantie puur uit zijn op winstbejag over de ruggen van hun gebruikers en hebben aangetoond werkelijk niets te geven om privacy (het is notabene hun verdienmodel om dat opzij te leggen...) zijn de allerslechste keuze voor dit soort 'voorzieningen' aangezien ze een hele sterke link hebben met privacy.
Met 18 ben je meerderjarig, vanaf 21 volwassen 😅 maar idd, je punt blijft, het is niet zwart-wit natuurlijk.
Ja - ik heb dat alleen nooit begrepen...
Op de dag dat je 18 jaar wordt, verandert er eigenlijk wettelijk gezien het meest. Vanaf die dag mag je stemmen, zelfstandig rijden als je een rijbewijs hebt, drank en wiet kopen, een bankrekening openen, geld lenen, een woning kopen en zelfs minister-president worden. Vanaf je 21ste verandert er niet meer zoveel. De enige verandering is dat vanaf dat moment je ouders niet meer verplicht zijn om voor je te zorgen.
Ik las ook dat de leeftijdgrens omhoog zou moeten naar 24...

Maar goed - het 'bijzondere' is - op elke leeftijd ben je kwestbaar - al dan niet vanwege externe factoren.
Een moeder/vader met kinderen is ook kwestbaar en die is dan misschien rond de 30-40 jaar...
Een oudere is ook kwetsbaar. Een jongere is net zoals een kind kwestbaar - ook al zijn ze zelfstandig.
Het is een grote hypocriete bende. Je zou eens moeten kijken naar hoe vooral Gen-Z (de huidige jonge mensen) worden gebrainwasht door social media. Er wordt al gesproken over 'TikTok brain' en allerlei andere afwijkingen die kinderen krijgen van social media consumptie. Jongeren hebben steeds meer mentale problemen, die mede worden veroorzaakt, door de social media bedrijven. De CEO's van deze bedrijven weten drommelse goed hoe gevaarlijk het is en verbieden hun eigen kinderen om social media te gebruiken.

https://www.independent.i...ren-from-it/37494367.html
https://www.cnbc.com/2018...ids-use-social-media.html

Dit is blijkbaar allemaal goed. Maar wat zijn deze bedrijven toch betrokken bij het welzijn van kinderen.

[Reactie gewijzigd door NotWise op 23 juli 2024 08:39]

Juist. Als er iets is wat deze bedrijven niet zijn, is dat wel 'begaan met het wel en wee van de gebruikers'.

Alsof de seriemoordenaar wel de kosten van de grafsteen wil betalen van zijn slachtoffers omdat deze is wel begaan is met de nabestaanden.... |:(
Het is een grote hypocriete bende. Je zou eens moeten kijken naar hoe vooral Gen-Z (de huidige jonge mensen) worden gebrainwasht door social media.
Absoluut, het is en blijft big business en daarom ook maar goed dat er al een verbod komt op smartphones en tablets in scholen. En tja, ook ouders zullen zich toch meer moeten gaan inlezen en kinderen beter gaan controleren.
De ouders in kwestie zijn vaak zelf verslaafd zijn aan hun telefoon. Die ouders kunnen zichzelf niet eens reguleren, laat staan hun kinderen.

https://www.ad.nl/gezin/o...n-dan-pas-lopen~a1d345f1/
https://www.rtlnieuws.nl/...onegebruik-van-hun-ouders
Ja precies, dat bedoel ik met inlezen zodat ze zich misschien realiseren dat ze vaak nu niet bepaald zelf het goede voorbeeld aan hun kinderen tonen. En tja, zelfs ik word soms vreemd aangekeken door andere volwassenen als ik wel eens zeg dat mijn telefoon uit gaat als ik ga slapen. Of als ik wel eens in de stad loop en dan zeg dat ik mijn telefoon vergeten ben, tja..... Ik mis hem dan niet verder maar ik kom ook nog uit een andere generatie.
Zou het iets te maken hebben met het cliënt side scanning voorstel? Alvast protocollen vaststellen en database opbouwen? https://www.computable.nl...-scanning-op-tekst.html..
Het is eigenlijk de uitvoering er van. Het is al actief op discord.

Ik weet niet dat discord op de desktop alles scant dat niets met discord te maken heeft. Maar vorige week heeft een "discord influencer" genaamd "no text to speech" laten zien dat van de moment je een afbeelding door stuurt waarvan de hash in de database met gekend materiaal staat je instabanned wordt en eigenlijk alle communicatie vanuit discord stopt dus je krijgt ook geen mail of dergelijke aan.

Hoe dit bij andere platformen werkt weet ik niet en ik vind het heel vaag wat men bedoeld met sleutelwoorden die worden gebruikt... Dus dit will zeggen dat ze meelezen en als je een "sleutelwoord" in je bericht staan hebt al geflagt wordt neem ik aan maar welke deze zijn wordt niet vertelt ook baar ik me zorgen bij gebruikersnamen en email adressen, niet iedereen heeft overal een account met de zelfde gebruikersnaam of email adress. En hier kan serieus misbruik van gemaakt worden door slechte actoren die bijvoorbeeld een gebruikersnaam of mailadres van iemand gaan aanmaken om zo dan de mensen te kloten...

Ik begrijp dat men hier iets aan wil doen en ik vindt het goee dat er actie ondernomen wordt maar die actie had al 20 jaar geleden gedaan moeten zijn. We zijn tot nu allemaal opgegroeid met het idee van ok het internet is een plaat waarvan we op onze hoede moeten zijn want er zitten mensen met slechte bedoelingen op en er is nu een generatie die gaat opgroeien die geen vrij internet meer zal kennen.

Het kan niet zo zijn dat overheden ineens de sociale media gaan dicteren wat nepnieuws is om vervolgens mensen die critisch zijn de censureren en daarboven op nog verschillende misinformatie campagnes lopen heeft of rookgordijnen ik begin het gevoel te krijgen dat de war on drugs en war on terror in het midden oosten wel extra veel aandacht krijgt en ik denk dat dit is om de mensen te overtuigen dat om zulke dingen tegen te gaan men wel moet scannen op u telefoon en u gedrag moet analyseren. Wat nu makkelijker gaat dan ooit.
Op zich eens, maar laat ze maar gewoon lekker veel gewone gebruikers blokkeren die ook nergens zich toe kunnen wenden. Eens kijken hoe lang het duurt voordat er andere partijen gaan opkomen die weer even normaal gaan doen.
Ik krijg een beetje rillingen als bedrijven 'onderzoek' gaan doen naar strafbare feiten.
Prima dat ze op geen enkele manier willen meewerken aan het plegen van strafbare feiten, en dus bij indicaties autoriteiten (politie) verwittigen die vervolgens onderzoek doen.
Maar waarom moet er een circuit bestaan waarin informatie tussen bedrijven wordt uitgewisseld "zoals gebruikersnamen en e-mailadressen"?
Nu gaat het om kinderporno, morgen om deepfakes, overmorgen over mensenrechten en volgende week over politieke voorkeur :/

Als bijkomende factor zijn dit (afaik) allemaal Amerikaanse bedrijven... dat is dat land waar het normaal is dat in deelstaten seksuele voorlichting verboden is en David van Michelangelo pornografisch geacht wordt.
Vergeet copyright niet. Of terrorisme.
Alles is valide om privacy te schenden tenminste als je het google, meta, microsoft etc etc etc moet geloven.

"Nu met 2 traps autorisatie en end to end encryptie " maar eerst scannen we op kinderporno e.d.

Zucht
Mensen in de maling nemen, is relatief makkelijk.

Mensen laten inzien dat ze in de maling genomen worden, bijna onmogelijk.
Eenmaal achterdochtig geworden mensen weer een heel klein beetje vertrouwen laten hebben is nog veel moeilijker.

En goed om alert te zijn op privacyissues, ik ben de eerste die big tech daarop zal aanvallen, maar met dit plan is gewoon heel weinig mis. Het is een kwestie van belangen afwegen en met elkaar ontdekken wat werkt. De levendige handel in materiaal zoals dit - dat is niet aanvaardbaar, door welk platform dan ook, en daar kan je niet omheen, je schouders over ophalen en denken: ach, een vrij internet heeft nu eenmaal offers.

Niet zulke offers.
Goede zaak. Durf al niet eens meer op Reddit of Twitter posts op nieuw te sorteren omdat je zoveel twijfelachtige dingen ziet langskomen.
Dan sluit je daar je account toch gewoon, probleem opgelost.
Hoe is het legaal om gebruikersnamen en e-mailadressen op te slaan in een database "signalen kindermisbruik" welke met 300 andere partijen gedeeld wordt?

Er wordt een persoonsgegeven gekoppeld aan de beschuldiging kindermisbruik, en gedeeld met 300 anderen. Ze noemen het "signalen" en zeggen wel dat het geen bewijs is, maar zo werkt het in de echte wereld natuurlijk niet.
Als dit uitlekt (alsof 300 grote bedrijven die deze informatie hebben, en er mogelijk op reageren, nog niet erg genoeg is) wordt er een associatie gelegd welke catastrofaal is voor een reputatie. Deze gaat nooit meer weg, er blijft hoe dan ook een zweem hangen.

De melder moet dan wel heel erg zeker van zijn zaak zijn, want anders zou het zomaar smaad of laster kunnen zijn. En gezien het gemak waarmee cloud accounts soms geblokkeerd worden lijkt dat me niet denkbeeldig.

Maar zelfs als het wel echt kindermisbruik is vraag ik me af of dit zomaar mag. Het zijn tenslotte persoonsgegevens en daar mag je niet zomaar van alles mee doen. Ook niet als het om criminelen gaat.

[Reactie gewijzigd door locke960 op 23 juli 2024 08:39]

Techbedrijven die door uiteenlopende redenen kiezen om hier niet aan mee te doen, worden dus met dit initiatief in een hokje geduwd :')
Ik heb er moeite mee als techbedrijven taken van ouders gaan over nemen en zeker als een Facebook daarbij is betrokken want die wil het liefst zo snel en vroeg mogelijk data van mensen verzamelen om zelf te gebruiken of te verkopen, daar Facebook zelf het grote voorbeeld is van leugens vertellen en gebruikers misleiden.
Wordt dit weer een gevalletje waar de bedrijven voor "judge, jury en executioner" spelen zonder enige mogelijkheid om jezelf te verdedigen of uberhaupt fatsoenlijk in contact te komen?

review: De muur van techbedrijven na afsluiten account

Buiten dat ze blijkbaar persoonsgegevens gaan uitwisselen, wat opzich al twijfelachtig is. Wordt een false positive dus alleen maar gevaarlijker. Krijg je een false positive bij Google Drive wordt je niet enkel bij Google volledig geblokkeerd maar dus ook bij alle andere bedrijven indien je dezelfde gebruikersnaam en/of e-mail gebruikt? Op deze manier kan je iemands leven behoorlijk lastig maken, zeker nu tech bedrijven pushen voor meer integratie in hun ecosystemen.

[Reactie gewijzigd door Caayn op 23 juli 2024 08:39]

Goed plan. We moeten er alles aan doen om kindermisbruik tegen te gaan. Ook al bestaat het risico op een beetje minder privacy.
Waarom niet gewoon een EU staatsroutertje/modem thuis met Wifi.
En een mega DC diep in de Noordzee, en collecteren die data vanaf de source.

Ik heb ooit een router gehad vanuit de EU om het een en ander te laten meten.
Kan alleen geen info meer daar over vinden.

[Reactie gewijzigd door anilv26 op 23 juli 2024 08:39]

Op dit item kan niet meer gereageerd worden.