YouTube en Facebook zouden werken aan systemen om automatisch extremistische content, zoals video's van de Islamitische Staat, te identificeren en blokkeren op dezelfde manier als dat nu bijvoorbeeld gaat met auteursrechtelijk beschermd materiaal.
De bedrijven maken het nieuws niet officiëel bekend, mogelijk omdat hun bepaling van wat straks wel en niet valt onder de noemer 'extremistische content' in de ogen van het publiek of andere partijen op gespannen voet zou kunnen staan met de vrijheid van meningsuiting. De informatie komt naar buiten via anonieme bronnen van Reuters.
Op het moment vertrouwen YouTube en Facebook nog op de 'menselijke hand' als het gaat om extremistische content bestrijden. Gebruikers maken melding bij YouTube en Facebook, waarna werknemers van die bedrijven oordelen of de content tegen de gebruiksvoorwaarden in gaat of niet. In de toekomst moeten deze systemen voor zover mogelijk geautomatiseerd worden: video's die bestempeld zijn als 'niet acceptabel', krijgen een hash toegewezen, soortgelijk aan hoe dat nu gaat met overduidelijk illegaal materiaal, zoals kinderporno of illegale kopieën van auteursrechtelijk beschermd werk. Op basis van die hash kunnen reposts van de extremistische content, zelfs als deze zijn aangepast, automatisch en snel geïdentificeerd en verwijderd worden.
De zetten komen nadat de Amerikaanse President Obama en Europese leiders de bedrijven dringend verzochten om hun medewerking te verlenen bij het bestrijden van extremistische content van bijvoorbeeld de Islamitische Staat. De VS heeft bijvoorbeeld al een voorstel gedaan voor een systeem om de content zo veel mogelijk in de kiem te smoren, maar Alphabet en Facebook zijn nooit gediend van aansturing door overheden. In plaats daarvan zien de bedrijven meer in een gezamenlijk opgezette organisatie die de taak van beleid en strategie formuleren op zich neemt. Of die er ook daadwerkelijk komt, is op dit moment niet bekend. Volgens de bronnen zouden YouTube en Facebook in ieder geval beginnen aan het hashen van in hun ogen extremistische content.