Facebook gaat 3000 mensen aannemen om snel te reageren op ongewenste posts

Facebook gaat komend jaar drieduizend mensen aannemen om sneller te kunnen reageren op meldingen van ongewenste posts, zoals video's en live video's. Zulke posts bleven afgelopen weken bij diverse incidenten langer staan dan directeur Mark Zuckerberg zou willen.

Volgens Zuckerberg moet het vergroten van het team dat op meldingen reageert van 4500 naar 7500 ervoor zorgen dat Facebook dergelijke posts en video's met onder meer geweld en dreigingen met zelfmoord sneller opmerkt en actie onderneemt. Soms wil het sociale netwerk die posts verwijderen, in andere gevallen gaat het om het inlichten van autoriteiten.

Facebook kreeg afgelopen weken te maken met enkele incidenten, waarbij video's langer bleven staan dan Zuckerberg had gewild. Rond Pasen postte een Amerikaan een video van hoe hij een 74-jarige man vermoordde in een video die ongeveer drie uur lang online stond, terwijl vorige week een Thai de moord op zijn 11 maanden oude dochtertje livestreamde voor hij zichzelf van het leven beroofde. De Thaise video's bleven bijna 24 uur staan. Een dag later livestreamde een Amerikaan zijn zelfmoord via Facebook.

Reacties (58)

[tomhelmer]

Hier de link naar een indrukwekkende longread over de mensen in lage lonen-landen (Filippijnen) die dit werk voor Facebook doen. Het is zwaar werk.
Als je dit gelezen hebt, begrijp je hoe naïef het eigenlijk is om moord en brand te schreeuwen als er een beroemd naakt uit de beeldende kunst van Facebook wordt verwijderd.

http://www.newyorker.com/tech/elements/the-human-toll-of-protecting-the-internet-from-the-worst-of-humanity

[Reactie gewijzigd door tomhelmer op 26 juli 2024 09:26]

[Marcel Br]

De link gaat over Microsoft en de laatste opmerking is niet relevant.

[tomhelmer]

Nou meneer de commissaris, dat zie ik toch net even anders.

[MxD]

Hij heeft alleen de eerste regel gelezen. Het gaat idd over Microsoft EN over het beoordelen van posts. Dus erg relevant.

[DutchKevv]

Wow schrik echt even van het aantal gruwelijke dingen dat mensen streamen...

Weet dat het gebeurd, maar zo even zwart op wit in een aantal regels tekst komt het toch wel even binnen.

Wat voor psychologische schade moeten de mensen wel niet krijgen die constant die filmpjes moeten zoeken/vinden/kijken/beoordelen.. ?

[Reactie gewijzigd door DutchKevv op 26 juli 2024 09:26]

[Verwijderd]

Google heeft ook een dergelijke afdeling, Buzzfeed heeft een artikel geschreven a.d.h.v. het verhaal van een voormalige medewerker; https://www.buzzfeed.com/...ogler-who-looks-at-the-wo

[kaphot]

Wat verdient het eigenlijk om achterover te leunen en op duimpje omhoog/omlaag te klikken?

[Verwijderd]

Minimumloon.

[jeroen79]

Lonen worden bepaald door vraag en aanbod en niet door wat het de werknemer 'kost'.
En voor deze functie is het aanbod groot: Je hebt er geen bijzondere vaardigheden voor nodig en als je na een jaar niet meer wil dan ben je zo te vervangen.
Het lijkt mij ook meer lopende band werk dan een echt creatieve "tech" functie.

[Verwijderd]

Een McDonalds functie dus, met bijbehorend minimumloon.

[Verwijderd]

Even gelezen. Schetst ook een ander beeld over Google als werkgever.
Ze staan graag bekend als een goed en prettig bedrijf om te werken met allemaal voorzieningen links en rechts maar support voor mentaal zwaar werk als dat is gewoon afwezig. (what the fuck?!)

[Gamebuster]

Na de 1e 100 filmpjes met vrolijke thema's als het inboren van hoofden van levende mensen, gemartelde en/of in brand gestoken dieren, executies met raketwerpers, tanks die paarden opblazen, kinderen die levend meegesleept worden achter een auto en mensen die hun eigen geslachtsdelen bewerken met messen of onder stroom zetten voor stimulatie raak je er toch een soort van aan gewend. Niet letterlijk, maar je ziet al gauw wanneer iets niet of wel kan. Daarvoor hoef je het filmpje echt niet af te kijken

Ik was developer en mede-eigenaar van een site wat een afgesloten gedeelte had voor "bijzondere content" en tot mijn grote fout keek ik soms rond.

Het was een Nederlandse Reddit-meets-4chan-meets-liveleaks. Na een jaartje gewoon ongemodereerde fun voor een vriendenclub, kreeg het opeens een gigantische instroom aan bezoekers, en dus ook opeens veel meer content (maar dan echt zooi, dingen als kinderporno enzo) en we hadden onze handen er vol aan om al die videos te checken om te kijken of het acceptabel was of niet.

Brieven van advocaten ivm gelekte prive naaktvideos en wat aangiftes voor kinderporno later, heb ik besloten de stekker eruit te trekken.

Ik had de site een reboot gegeven zonder de "bijzondere content" en met een veel strenger registratie-beleid (alleen op uitnodiging) maar het kwam niet meer van de grond

[Reactie gewijzigd door Gamebuster op 26 juli 2024 09:26]

[batjes]

Ik kan dat volledig beamen (eerste paragraaf tenminste). Ik kan rustig mijn avond eten naar binnen werken terwijl ik meest brute shit aanschouw. Er is eigenlijk nog maar 1 ding wat ik altijd wel kut vind om te kijken, en dat is tegen onschuldigen. Kinderen, dieren, uberhaupt alles. Toch kijk ik, want zoals Johnny Bravo het zou zeggen "I'm sickened, but curious". Dat sla ik ook wel over als het niet iets unieks is.

Alles behalve onschuldige slachtoffers, emotieloos kijkbaar met de regelmatige "lekker voor em".

Zal wel wennen denk ik dat je geen kik meer geeft bij het kijken, ben sinds het internet visueel werd, er mee opgegroeit. Rotten, Faces of Death, bestgore bv.

Ik denk soms wel, dat het niet al te slecht zou zijn als wat meer mensen soms wat van die filmpjes te zien krijgt en dat het niet in de krochten van het internet blijft hangen. Laat men maar beseffen hoe ontzettend vertieft sommige mensen op de wereld zijn, tot wat sommige mensen tot toe in staat zijn.

Wat ook niet zou misstaan een uurtje "Best of traffic, Liveleak edition" te moeten bekijken bij het lessen voor het autorijden, (of uberhaupt voor iedere 18 jarige). Want verdorie wat is mijn omgevingsbewustzijn toch sterk geworden sinds ik op Liveleak kom. Laat men maar eens beseffen hoe gevaarlijk het bijvoorbeeld wel niet is om met je mobieltje te kloten tijdens het verkeer!

[Rinzwind]

Uhmm nee je kunt niet je avondeten rustig naar binnenwerken terwijl je naar echt zieke dingen kijkt. En dat soort spul wil je normaal gesproken ook eens maar nooit weer zien tenzij een tik in je hoofd daardoor curieus geraakt wordt.

Zie ook de verhalen van medewerkers van deze filterafdelingen die psychische klachten krijgen.

Alleen een bepaald soort fout mens kan dit soort verschrikkingen gevoelloos blijven aanschouwen (of zelfs met een wrang soort interesse). Niet een fijn mens. Dat soort personen worden ook gebruikt bij andere zaken die men uit het straatbeeld houdt. Helpt ook al dat de overige mensjes graag de andere kant opkijken. Ik zie het niet, dus het bestaat niet. Not.

[Reactie gewijzigd door Rinzwind op 26 juli 2024 09:26]

[batjes]

In het echt zou ik het niet kunnen hebben, maar digitaal, is toch wat verder van de realiteit.

Ik kijk verder geen KP of dat soort ranzige shit, ik heb het puur over gore en aanverwanten. Op de 1 of andere manier heb ik een beetje een bewondering voor de orginele manieren hoe we als diersoort onszelf en anderen de dood in jagen. Hoe zonde het is om een leven zo te vergooien en om toch wat meer "realiteit" (raar zo) te zien dan wat ik mijn dagelijks leven tegen kom (helemaal noppes, een blikschade autoongeluk een jaar of 15 geleden). Het leven hier in het westen en Nederland is goed, ernstig goed. Ondanks al het gezeik hier, beseffen we niet hoe ver we maatschappelijk boven de rest van de wereld staan.

Helemaal gevoelloos is anders, ik vind het wel degelijk sneu als het geweld, bloeddorstigheid of whatever tegen onschuldigen is. Met name kinderen en dieren, maar ook overig leven. Sommig leed is ontzettend sneu en zielig.

En ik beweer niet dat alle troep zo maar door iedereen gezien moet worden, maar een beetje zou niet al te erg zijn. Zie maar wat er in Mexico gebeurd, in het Midden Oosten, Azië maar ook Afrika. Face die realiteit maar eens hoe heftig het leven daar kan zijn. Ik wil op geen manier die vluchtelingen goedpraten, maar ga maar eens kijken hoe het er in veel van die landen aan toe gaat. Daar komt een heleboel rotzooi en gore aan te pas. Die mensen maken het daadwerkelijk mee, de meeste mensen hier hebben geen idee dat het uberhaupt gebeurd en een enkeling ziet het op het internet.

Ik ben er wel van overtuigt als je wat van die verkeers filmpjes van o.a. Liveleak dwingt te kijken bij mensen die rijbewijzen moeten halen, het verkeer er een stuk veiliger op wordt. Hoe rot het ook is om te zien, mensen beseffen gewoon niet in wat voor een klein hoekje een ongeluk zit. Het zal beter werken als die overheids campaignes.

Er zijn wel een paar filmpjes die ik nooit zal vergeten Die zou ik ook echt niemand ooit aanraden te kijken.

[Reactie gewijzigd door batjes op 26 juli 2024 09:26]

[Thefonz73]

Wat dan met mensen die op de spoed in ziekenhuizen werken? die zien ook regelmatig horror-toestanden

[Rinzwind]

De intentie in een ziekenhuis is helpen en zo min mogelijk toestanden. Die proberen de toestand te verbeteren. Maar idd, het is bekend dat sommige goede chirurgen een bepaalde koude "enge" afstandelijkheid hebben. O, een horrorfilm kijken is ook heel anders, en kan nog akelig zijn. Maar je weet heel goed dat die nep is. En dan zijn er verschillende typen waarbij veel niets met een bepaald soort shock en gore horrorfilm heeft, maar wel met de bekende domme slashing overdreven gekheid.

[_Zedd_]

Wat voor psychologische schade moeten de mensen wel niet krijgen die constant die filmpjes moeten zoeken/vinden/kijken/beoordelen.. ?

Flinke schade maar omdat Facebook (etc) veel werk uitbesteden op contract basis, besparen ze op mentale support. Zie ook https://www.thelocal.de/20161216/this-is-what-facebook-moderators-in-berlin-have-to-deal-with :

.....Not only do the people at the office barely earn over the minimum wage, they are barely given any psychological support, despite daily encounters with images of child abuse, rape or torture, the SZ reports.....

[Splorky]

Misschien lichtelijk ongepast: Hebben ze bij Facebook weer een pool mensen voor hun sociaal experiment spelletjes of en vooral hoe het mensen beïnvloed als ze vaak dit soort dingen zien op social media.

[sympa]

Daarvoor hebben ze de gewone gebruikers toch? Content dat zorgt dat mensen ernaar kijken en doorsturen komt vanzelf naar boven.
En dan heb je zo een anti-abuse team dat bepaalde content daaruit weer weg gaat halen.

Zuckerberg zegt dan 'ik ben voor een vrij internet' maar gek genoeg moet je jezelf wel onder je echte naam registeren wil je dat 'vrije internet' van hem bekijken.

Hypocriet.

[EternalGenesis]

Toch wel erg triest want dit geeft je toch wel het idee dat zo'n groot bedrijf dit dus eigenlijk puur doet om Imago schade te voorkomen en niet omdat ze daadwerkelijk geven om hun gebruikers en medewerkers. Wat een verassing.

[WhatsappHack]

Dat is een behoorlijk zware taak ja.
Abuse desks is geen grapje. Kinderporno, terroristen video's, dierenmishandeling (en dan heb ik t niet over een tikje op de neus...), noem het allemaal maar op.
Bij grote internet/service/platform aanbieders is dat dagelijkse kost. Daar komt verplichte begeleiding, controles en veel afwisselen (paar dagen ander werk doen) bij kijken.

[Verwijderd]

Daar komt verplichte begeleiding, controles en veel afwisselen (paar dagen ander werk doen) bij kijken.

Als je dat ergens in een westers land laat doen heb je dat ja maar volgens mij heeft Facebook diens content moderatie ergens in de Filipijnen uitgezet. Volgens mij gaat dat niet zo strak daar.

[Reactie gewijzigd door Verwijderd op 26 juli 2024 09:26]

[Verwijderd]

Ik moest gelijk denken aan de live verkrachting van een Zweedse vrouw en de mishandeling van een zwakbegaafde jongen in Chicago, dat ook live op Facebook werd gestreamd.

Bedrijven die Facebook gebruiken als reclame kanaal zitten natuurlijk niet te wachten op dergelijke videos, met hun boodschap er net onder.

Het verrast me dan ook weinig dat Zuckerberg dit als top prioriteit heeft benoemd, als reclamebedrijven wegblijven kan Facebook wel inpakken.

[WhatsappHack]

Ik denk niet dat dat de enige reden is hoor... Ja natuurlijk kan t geld schelen, maar Zuckerberg zal 't ook gewoon uit principe en moraal niet zo leuk vinden dat zijn platform waar ie jaren aan gewerkt heeft nu wordt misbruikt voor dit soort walgelijke zooi... T draait echt niet allemaal alleen om geld.

[mashell]

Natuurlijk draait het om geld. En geld is een een prima reden om op een platform als facebook de algemeen geldende moraal te handhaven. Anders lopen je klanten en daarna je adverteerders en dus je geld weg.

[WhatsappHack]

Natuurlijk zijn er ook economische belangen, maar om te stellen dat dit de enige reden is die er toe doet en Zuckerberg zelf een soort terminator is die niet geschokt is door dat soort troep en het dus koud laat of t er wel of niet opstaat op het platform dat hij heeft gemaakt: dat vind ik dus nergens op slaan.

[Udrene]

Zuckerberg en moraal? My ass. Voordat het geld opleverde misschien. Nu gaat het allemaal om data en geld en is het belangrijk wat aandeelhouders en adverteerders ervan vinden. Zoals Huxley ook al aangeeft.

Van de week was er nog een bericht waarbij adverteerders de mogelijkheid hadden om advertenties te richten op onzekere tieners door te filteren op bepaalde gebruikte woorden. Kan even de link niet vinden.

http://ballinnn.com/faceb...bare-en-onzekere-tieners/

Edit: link toegevoegd

[Reactie gewijzigd door Udrene op 26 juli 2024 09:26]

[WhatsappHack]

Dat mag je vinden. Ik vind t een beetje onzinnig om de man af te schilderen als emotieloze machine die enkel nog wat om geld geeft. Dat bedrijven hun zoektermen om te targetten kunnen invoeren kan al jaar en dag overigens.

[Kooshans]

Wat heeft het voor zin om te speculeren naar de beweegredenen van Zuckerberg?

We kunnen daar immers toch nooit iets zinnigs over zeggen, niemand kent de man.

Het enige waar we iets zinnigs over kunnen zeggen als toeschouwer, is de praktijk; de werkelijke handelingen van het bedrijf waar Zuckerberg zijn handtekening onder zet. Daar beoordelen we hem op, omdat hij achter dit beleid staat. Het is immers zijn bedrijf.

Uit de acties van dit bedrijf blijkt, dat ze wat principes en ethiek betreft erg ruimdenkend zijn, om het maar heel zacht uit te drukken.
Zoals bijv. in het voorbeeld van Udrene hier.

Ik vind het dus logisch om Zuckerberg hiervoor grotendeels verantwoordelijkheid aan te rekenen.

[Reactie gewijzigd door Kooshans op 26 juli 2024 09:26]

[Vayra]

De man Zuckerberg is ook gewoon gevangen in het web van aandeelhouders en groot geld, dus grote belangen. Die gaan altijd voor. Zuckerberg is dus 'heel normaal', alleen is 'de normaal' totaal niet gebaseerd op ethiek, maar op geld. Dat is gewoon de harde realiteit. Alleen wanneer ethisch handelen geld oplevert, gaat het ook daadwerkelijk gebeuren.

[Reactie gewijzigd door Vayra op 26 juli 2024 09:26]

[Frozendroid]

Gaan ze dan nu ook eindelijk iets doen aan het feit dat er honderden videos worden geplaatst van video makers, die dan al de winst mislopen omdat mensen het zelf weer uploaden?

[LiquoriceTwist]

Denk niet echt dat Facebook dat interesseert. Die video's worden gebruikt voor inkomsten en voor het beter profileren van gebruikers. Alleen de creator van de originele content kan er wat aan doen, maar er zijn gevallen geweest waar dat genegeerd werd.

[Zeror]

Als een video gejat is van een andere bron die geld mis zou lopen, lijkt mij dat prima voer om als ongewenst te markeren.

[WhatsappHack]

Daar doen ze al iets aan, de content eigenaar kan gewoon een DMCA sturen.
Facebook heeft ook algoritmen om dezelfde video's te detecteren. T probleem is dat veel mensen dingen doen als de audio wijzigen, het beeld spiegelen en dan nog een border met andere tekst of videocontent erin proppen om detectie te vermijden. Maar daar kan Facebook niets aan doen, dus moet gewoon een aparte DMCA voor gestuurd worden door de eigenaar.

[sympa]

Facebook was anders verdomd goed in het detecteren van blote borsten. En het herkennen van personen. Etc.

Het lijkt er op dat de interesse er soms gewoon even niet zo erg is.

Hangt samen met geld. En zo.

[WhatsappHack]

Dat gebeurt vaak ook door rapporten he...
Maar "generieke objecten" in foto's en video's herkennen is een stuk makkelijker dan complete unieke video's herkennen. Ook YouTube krijgt dat niet voor elkaar, dat soort fingerprinting kost rekenkracht en kan snel false positives krijgen; en de fingerprints zijn aan te passen doordat mensen allerlei trucjes uithalen.

Daar kan Facebook noch Google iets aan doen, al zouden ze t willen.
Met AI komt er steeds meer vordering in, maar het systeem is verre van perfect.

[RVervuurt]

Ik ben benieuwd. Een video waar een baby borstvoeding wordt gegeven wordt snel verwijderd, maar toen ik laatst een video meldde van een man die in een auto masturbeert (gefilmd vanuit een bus of vrachtwagen), mag vrolijk blijven staan.

Scheef beleid.

[isene]

Het zelfde met die filmpjes waarin honden en andere dieren levend geveld worden "Dit gaat niet tegen onze richtlijnen in". Ik rapporteer regelmatig iets wat gewoon in mijn ogen niet op Facebook hoort, maar blijkbaar zijn deze filmpjes voor hun heel normaal.

[BikkelZ]

Facebook wilde nou eenmaal dat iedereen op deze planeet een Facebook account moest hebben. Nou dan heb je nu ook écht alle malloten die er op deze aardkloot rondlopen. Vroeger was het een exclusief universitair clubje waar natuurlijk ook vaak zat wat gebeurt maar veel minder van dit soort geflipte dingen. Iedere gek zijn eigen stek zei ik vroeger wel eens over Geocities. Facebook is dat 100 keer in het kwadraat.

[Reactie gewijzigd door BikkelZ op 26 juli 2024 09:26]

[_Zedd_]

Voor degene die willen weten hoe Facebook abuse reports verwerkt, kijk dan naar deze reporting guide (src: DailyMail UK)

[Jordyz]

Een goede zaak van Facebook

[Verwijderd]

Dat is vast geen 3000 FTE werkgelegenheid ten goede van de westerse economie en arbeidsmarkt...

Edit: Dit klonk iets platter dan ik het bedoelde. Maar dit soort werk wordt vast weer uitbesteed aan één of ander lagelonenland zodat Facebook met mooie cijfertjes kan strooien en de mensen die de hele dag schokkende video's moeten beoordelen lekker aan hun lot overgelaten worden door gebrek aan reguliering.

[Reactie gewijzigd door Verwijderd op 26 juli 2024 09:26]

[densoN]

3000 medewerkers o.b.v. 2 miljard actieve gebruikers zet ook geen zoden aan de dijk. Zelfs niet aanvullend op de 4500 die ze al hadden.

Maarja, symbool politiek hoort er eenmaal bij.

[WhatsappHack]

Tuurlijk wel. Want slechts een heel klein percentage van die 2 miljard uploaden echt extreem schokkend materiaal... 7000 man die de hele dag foto's en video's die gerapporteerd worden is aardig veel hoor. 1 medewerker per 300.000 gebruikers klinkt weinig, maar niet als slechts een zeer klein percentage daarvan over de schreef gaat. De meeste content is simpel in een paar seconden te beoordelen, en dan komt daar nog bij dat FB's algo prioriteiten kan geven.
Dan kan je als medewerker per uur behoorlijk wat cases oppikken hoor

Kijk eens naar je eigen vriendenlijst, hoeveel daarvan uploaden illegaal materiaal, kinderporno, terroristen filmpjes, zelfmoorden of moorden van anderen? Bij mij zijn dat er 0... Dat zijn al een paar honderd mensen die zich dus keurig gedragen; en ik heb ook nooit gehoord van andere vrienden die zoiets met mensen in hun vriendelijst hebben meegemaakt. Dat telt dus snel op hoeveel mensen gewoon normaal doen.
Het percentage gebruikers dat echt zit te kutten kan door die 7000 man wel in toom gehouden worden hoor.

[Reactie gewijzigd door WhatsappHack op 26 juli 2024 09:26]

[_Zedd_]

Stel dat 0.1% (gokje) van alle posts gerapporteerd wordt dan is het nog steeds een hoop

Volgens https://zephoria.com/top-15-valuable-facebook-statistics/ (bron Gizmodo): "...Every 60 seconds on Facebook: 510,000 comments are posted, 293,000 statuses are updated, and 136,000 photos are uploaded. (Source: The Social Skinny) The Implication: Again, there are a lot of engaged and active users, but also a huge amount of information competing for their attention, so quality and strategy on your part matter...."

dus potentieel 1 miljoen veranderingen per 60 seconden, 0.1% wordt gemeld is dus 1000 meldingen per minuut voor 7500 man. (0.13 bericht per persoon per minuut). Maar dan ga ik wel uit van 24/7 dekking en gelijke verdeling/verhouding tussen alle talen en abuse reports.

De psychische gevolgen en de werkdruk is groot

[jpsch]

Zolang ze geen FTE's vermelden zegt aantal medewerkers niet zoveel.

[BasZer]

Is 3000 niet wat weinig op een miljard gebruikers?