Database tegen verspreiding terroristische inhoud bevat 40.000 bestanden

Een database van onder meer Facebook, Twitter, Google en Microsoft, die in juni is opgericht om de verspreiding van terroristisch materiaal tegen te gaan, bevat inmiddels meer dan 40.000 video's of afbeeldingen.

De database, onderdeel van de in juni opgerichte werkgroep genaamd The Global Internet Forum to Counter Terrorism, wordt inmiddels ook gebruikt door onder meer Instagram, LinkedIn en Snap, zo melden de vier grote techbedrijven in een gezamenlijk bericht. Inmiddels maken 68 kleinere techbedrijven onderdeel uit van de werkgroep. In 2018 willen de vier grote internetbedrijven nog meer partners toevoegen aan de werkgroep om de verspreiding van terroristische inhoud tegen te gaan.

Facebook, Twitter, Microsoft en YouTube kondigden in december 2016 aan een database op te richten om de verspreiding van terroristische inhoud op internet tegen te gaan. In juni ging deze database online, waarbij hashes van verwijderde extremistische content worden bijgehouden, zodat deze inhoud snel door anderen kan worden herkend. Naast deze database worden er ook methodes uitgewisseld die zijn bedoeld om terroristisch materiaal automatisch te detecteren.

De werkgroep heeft als doel om bestaande samenwerkingsverbanden tussen de bedrijven te formaliseren en te versterken. Ook zal de werkgroep meer gaan samenwerken met kleinere techbedrijven, maatschappelijke organisaties, academici, overheden en supranationale organisaties zoals de EU en de VN.

De oprichting van de werkgroep in juni had waarschijnlijk te maken met de druk die allerlei nationale overheden hebben uitgeoefend op de bedrijven om meer te doen aan de verspreiding van terroristische inhoud. Zo spoorde de Britse premier Theresa May na de aanvallen op de London Bridge en het aangrenzende Borough Market grote techbedrijven aan om het internet strenger te reguleren.

Eind mei deed de G7 een soortgelijke oproep. In oktober werden de G7 en techbedrijven het eens over de aanpak voor het geautomatiseerd verwijderen van terroristische inhoud op internet. Het gaat dan vooral om het delen van best practices en technieken met kleinere bedrijven en het uitvoeren van research and development.

Reacties (31)

[CAPSLOCK2000]

Ik moet het toch even vragen... is er ook toezicht op deze lijst? Is er iets of iemand die bewaakt wat voor content op deze lijst komt? Zodat niet een handige winkelier het logo van z'n concurrent laat opnemen zodat die van internet wordt gegooid?

[defixje]

Ik denk eigenlijk dat dit door medewerkers "ge-screent" is en pas bij het echt blokkeren door een medewerker van genoemde sites/platformen er een hash in de database komt.

Denk niet dat zomaar iemand (buiten de genoemde sites/platformen) iets in deze database kan plaatsen.

Daarom staat er denk ik ook:

waarbij hashes van verwijderde extremistische content worden bijgehouden,

Maar daarmee blijft jou vraag natuurlijk terecht. Is de database voor andere ook gewoon in te zien, en wie monitort deze database.

[Verwijderd]

En daarom is het tegelijkertijd ook dweilen met de kraan open.
Iets andere content en een hash is al uniek. Moet een deel van de blootgestelde community weer rapporteren terwijl het toch voornamelijk in bepaalde kringen hangt, enz.

Bovendien kan het in theorie om meer dan plaatjes gaan zoals tekst. Bytes zijn bytes.
Verander er één en de hash zou alweer uniek zijn.
En tot er in de toekomst collisions gaan voorkomen en Bettie Blaat automatisch gebanned wordt voor het delen van d'r appeltaart recept.

Het helpt wel voorlopig en snel tegen herhaaldelijk gespamde content om die te blokkeren.

Ik verwacht een combinatie van een dataset voor training en een AI oplossing asap.
Niet dat ik er een voorstaander van ben maar dat zou helemaal on par zijn met de gang van zaken anno 2017.

[Reactie gewijzigd door Verwijderd op 31 juli 2024 13:25]

[ajakkes]

Ik gok op fingerprints op delen van de content, zoals ook Shazam op 5 beats een muzieknr. kan herkennen. En dat bestanden een hogere terrorisme waarde krijgen zoals spam hogere waardes krijgt op basis van bepaalde kenmerken.

En dat de individuele bedrijven zelf een beoordeling doen op de positives. Omdat het nogal slechte publiciteit is wanneer 1 bedrijf veel bestanden onterecht aanmerkt en de anderen dit klakkeloos overnemen.

[Verwijderd]

Ik moet het toch even vragen... is er ook toezicht op deze lijst?

Deze firma's mogen toch zelf besluiten wat ze wel en niet op hun sites willen hebben? Als zouden ze besluiten dat alle katten videos niet meer welkom zijn is er niemand die ze dat kan verbieden.

Zodra het overheidssites zijn hebben we daar wat over te zeggen. Nu niet en dat is maar goed. Jij kan zelf bepalen of je wel of niet op Twitter of Facebook gaat.

Edit Emphasis

[Reactie gewijzigd door Verwijderd op 31 juli 2024 13:25]

[arbraxas]

Op het moment dat we het over bedrijven als Google, Facebook, Twitter etc dan is die vraag wel terecht. Zie ook de hele discussie over nepnieuws.
Deze bedrijven kunnen heel makkelijk publieke opinie een bepaalde hoek opduwen. Dus nee, dit soort bedrijven moet onder toezicht staan over wat ze verwijderen.
Ja mensen hebben in principe de keus, maar de grote meerderheid ziet er blijkbaar een meerwaarde in. Persoonlijk zit ik helemaal niet op dat soort social media. Maar veel mensen willen of kunnen (vanwege sociale druk) die keuze niet maken.

[svenk91]

Dus je hebt liever dat de overheid de media gaat reguleren? Volgens mij ga je dan van de regen in de drup. Gezien het Amerikaanse bedrijven zijn, moet de Trump administratie gaan bepalen wat er wel en niet verwijderd mag worden?

Heel misschien zou je een systeem kunnen opzetten om (machtige) media te toetsen aan hun eigen (verplicht openbare) moderatie beleid. Dan moet je een bewaringsplicht van moderaties opzetten en een bureau dat toezicht houd en het OM kan pushen een strafrechtelijk onderzoek in te stellen als er sterke vermoedens zijn dat een media concern zich niet aan zijn moderatie beleid houd en zo lezers bedriegt.

Maar laat alsjeblieft niet door overheden laten worden bepaald wat exact weg moet, laat hun maar wetten maken en laat een rechter een bedrijf daar aan toetsen.

[Reactie gewijzigd door svenk91 op 31 juli 2024 13:25]

[CAPSLOCK2000]

Dat is inderdaad waar ik over denk. Let wel, ik denk er over, ik heb nog niet gezegd dat het een goed idee is. Wel denk ik dat het een goed idee is om het er over te hebben. De macht van sites als Facebook en Google is onmiskenbaar.

Journalistiek wordt wel gezien als de vierde poot van de Trias Politica, maar wat ontbreekt aan die visie is dat er weinig toezicht en controle op de media is, in tegenstelling tot de ander poten van de Trias Politica. Nu de grenzen van de media aan het veranderen zijn en de invloed alleen maar toeneemt moeten we nog eens goed nadenken over die positie. Misschien moeten we er een volwaardige poot van maken, inclusief "checks & balances". Misschien is zelf-controle een beter oplossing. Misschien moeten we die zelf-controle op een of andere manier reguleren. Misschien zijn er nog een andere oplossingen. In China hebben ze daar ook wel ideeën over. Het lijken mij niet zo'n beste ideeën, maar er zijn opties...

[Nazlive]

Sterker nog, als we straks eens voor onzelf willen opkomen is het dan ook nog terrorisme?

[Verwijderd]

Eerder dat als je een afwijkende mening hebt...

[Blokker_1999]

En wat als een handige winkelier zijn logo van een concurent laat opnemen? Netjes is het niet, de concurent zou ervoor naar de rechtbank kunnen stappen wegens laster maar meer dan dat ook niet.

[defixje]

In juni ging deze database online, waarbij hashes van verwijderde extremistische content worden bijgehouden, zodat deze inhoud snel door anderen kan worden herkend.

Deze snap ik niet helemaal, zodra er ook maar 1 pixel veranderd aan de content is de hash nooit meer het zelfde. Dus bij elke upload even een minuscule wijziging toevoegen en je wordt (tijdelijk) niet opgemerkt?

Hoe zou dit daadwerkelijk werken? Ik kan het mij namelijk niet voorstellen dat er simpel en alleen maar met hashes (gebaseerd op de content) wordt gecheckt. Of is dit gewoon een Jip en Janneke uitleg?

[Reactie gewijzigd door defixje op 31 juli 2024 13:25]

[Zoijar]

Je hebt "hashing" technieken die meer similarity searches zijn. Je kan bijvoorbeeld denken aan corner detection op een plaatje en dan de relatieve gesorteerde afstanden tussen features te hashen, om maar iets te noemen. Het maakt dan niet meer uit of je schaalt, roteert, een paar pixels wijzigt, bluring toevoegt of de kleuren iets aanpast. Vergelijk het met gezichtsherkenning. De hashing is dus niet rechtstreeks op pixels, maar op bepaalde extracted features die veelal invariant zijn onder de meest voorkomende modificaties.

[Reactie gewijzigd door Zoijar op 31 juli 2024 13:25]

[defixje]

Thanks voor deze heldere uitleg, had er eigenlijk nooit zo over nagedacht/naar gekeken.

Maar nu je het zo uitlegt, begin ik te snappen dat ik het wat te makkelijk bekeek.

Dacht te veel aan, sha1(content-inhoud) (slecht voorbeeld, maar geeft wel mijn gedachtegang van net aan ) en klaar.

[burne]

Dacht te veel aan, sha1(content-inhoud) (slecht voorbeeld, maar geeft wel mijn gedachtegang van net aan ) en klaar.

Een vergelijkbaar product voor foto's is PhotoDNA van Microsoft, en daar is wel wat informatie over te vinden.

[defixje]

Ah, thanks. Ga me er toch eens meer in verdiepen. Ben nu wel getriggerd om eens te kijken wat er allemaal voor technieken voor zijn. Gewoon uit interesse.

[Cilph]

Lijkt me dat er speciale hashtechnieken zijn voor videomateriaal die tegen transformaties en beperkte kwaliteitsvermindering kunnen.

[Nazlive]

Er zijn wel iets meer geadvanceerde systemen dan dat. Volgensmij op Reddit of Tweakers was er wat over te lezen bij het nieuws dat je jouw naaktfoto's naar facebook kan opsturen om verspreiding tegen te gaan. Maar als het goed is pakt die meerdere stukken afzonderlijk van de foto en vergelijkt het hoeveel er overeen komt.

[defixje]

Ja, ik dacht er inderdaad wat te makkelijk over. Kon het mij al lastig voorstellen dat het de hashing techniek was die ik in gedachten had.

[Verwijderd]

Vraagje: Wie defineerd in deze "terroristisch materiaal"?

[nulkelvin]

Ik vind 40.000 hashes eigenlijk een lachwekkend laag aantal.

[Becquerel]

Waarom alleen de hashes, als je alle content door een neural network gooit, zou je datzelfde network actief kunnen laten zoeken naar content die hierop lijkt. Ik heb het idee dat hier een grove fout is gemaakt door dit niet in te zien.

[Nibble]

Als facebook het al niet voor elkaar krijgt om met hun AI aanstootgevende content voldoende te verwijderen en terug gaat naar manuele inspectie, heb ik niet de illusie dat dat wel even door een neuraal netwerk kan worden gehaald. Daarbij lijkt mij het verder verspreiden van dergelijke rommel ter inlering van een systeem bijzonder onwenselijk. Het zou eens uitlekken...dan heeft niet alleen die organisatie een foto van jouw misbruikte dochter of gefusileerde zoon, maar ook heel reddit en pastebin....

[Reactie gewijzigd door Nibble op 31 juli 2024 13:25]

[Becquerel]

Ik heb geen idee of Facebook graag geld spendeert aan dit soort dingen. En verder kan je het train materiaal deleten nadat een neural network properly getrained is.

[Verwijderd]

Geweldig initiatief. Alles wat er gedaan kan worden aan het bestrijden van (islamitisch) terrorisme is wat mij betreft prima.

Alle info is welkom.

[Verwijderd]

Het weren van moslims om terrorisme tegen te gaan is hetzelfde als het weren van alle blanke Nederlanders om die ene Tokkie familie op de hoek weg te krijgen. Laten we niet iedereen over dezelfde kam scheren omdat er een paar rotte appels tussen zitten. Of denk je serieus dat die 1.6 miljard mensen allemaal terroristen zijn?

[unclero]

Maar daar hebben wij hier in het westen vrij weinig last van. Voorlopig is voor ons christelijk terrorisme en (alt-)rechts terrorisme een groter gevaar om aan doodgeschoten danwel doodgereden te worden.

[Verwijderd]

Van christerlijk terrorisme hebben ze alleen in de USA last (aanslagen op abortusklinieken en zo). Alt-rechts terrorisme zie ik in Europa niet zoveel, een enkele aanslag in Duitsland en Breivik, dat was het wel. Uiteraard zal zoiets wel steeds meer opkomen als men niets aan de instroom van moslims doet want het geduld van mensen raakt een keer op.