Facebooks algoritme spoort een klein deel op van de posts die de regels rondom haatzaaien overtreden, blijkt uit interne documentatie. Het bedrijf zegt in een reactie dat het zich vooral richt op hoe vaak gebruikers dergelijke posts tegenkomen.
Facebook schat zelf dat het 3 tot 5 procent van de posts met haatzaaierij opspoort, meldt The Wall Street Journal. Bij posts die oproepen tot geweld, gaat het om 0,6 procent. Daarbij gaat het om posts die het algoritme zelfstandig vond zonder rapportage en die om die reden verwijderd zijn. Volgens Facebook zelf spoort het algoritme in 98 procent van de gevallen posts met problematische content zelfstandig op, nog voordat een gebruiker het rapporteert.
In een reactie zegt Facebook dat het zich niet herkent in het geschetste beeld dat het algoritme het niet zo goed doet als het bedrijf naar buiten toe laat blijken. Daarbij wil het bedrijf zich vooral richten op het aandeel haatzaaiende content dat gebruikers zien. Dat aandeel is gezakt naar 5 op 10.000 en was negen maanden geleden nog het dubbele. Dat komt onder meer doordat het algoritme als het niet zeker genoeg is, de verspreiding van de post inperkt zonder die te verwijderen, zegt Facebook.
Daarnaast heeft het algoritme problemen met het herkennen van content. Zo werden hanengevechten gelabeld als carcrash, terwijl een auto die door de wasstraat ging, door het algoritme gelabeld werd als video van een schietpartij.
Facebook komt tot de cijfers door een sample te pakken van alle posts op Facebook en die vervolgens door mensen te laten nakijken. Zo moet een beeld ontstaan van wat het algoritme heeft gemist. The Wall Street Journal kreeg de interne documentatie in handen door een klokkenluider.