Facebook-bug leidde mogelijk tot verspreiding van 'schadelijke content'

Een bug bij Facebook zorgde er een halfjaar lang voor dat misleidende en 'schadelijke' berichten werden getoond aan gebruikers, terwijl die eigenlijk verborgen hoorden te blijven. Dat blijkt uit interne documenten van het bedrijf, die zijn ingezien door The Verge.

Door een bug in het algoritme van Facebook werd de rangschikking van berichten verstoord, schrijft The Verge. Dat zorgde ervoor dat berichten die door externe factcheckers als 'misleidend' werden beoordeeld, alsnog werden getoond aan gebruikers van het platform. Ook berichten met geweld en naaktheid en nieuwsartikelen van Russische staatsmedia verschenen in de feeds van gebruikers. De weergave van misleidende berichten zou wereldwijd met 30 procent zijn gestegen door de softwarefout.

De toename van de verspreiding begon in oktober vorig jaar en liep tot 11 maart 2022. Daarmee had de bug zes maanden lang invloed op de timelines van Facebook, omdat de engineers van het bedrijf de oorzaak niet konden vinden. Volgens The Verge werd het probleem intern bestempeld als een 'enorm probleem met de rangschikking'. Het bedrijf zou de bug daarbij gelabeld hebben als een 'site event' van niveau 1. Dat label wordt volgens het medium gereserveerd voor 'technische crises' die een hoge prioriteit kennen.

Interne documenten stellen dat de bug in 2019 werd geïntroduceerd in het algoritme, maar pas in oktober een merkbare impact creëerde. The Verge benadrukt in zijn bericht dat er geen aanwijzingen zijn dat er kwade bedoelingen achter de rangschikkingsbug zaten en schrijft ook dat andere moderatietools van Facebook niet onderhevig waren aan het probleem.

Een woordvoerder van Facebook-moederbedrijf Meta bevestigt het incident in een verklaring aan The Verge. Daarin zegt het bedrijf dat het 'inconsistenties in downranking ontdekte'. Het zouden vijf afzonderlijke gelegenheden betreffen, die 'kleine en tijdelijke verhogingen' van het aantal views bij problematische content verhoogden. "We traceerden de hoofdoorzaak naar een softwarefout en pasten noodzakelijke oplossingen toe", aldus de woordvoerder. Meta zegt daarbij dat de bug 'geen betekenisvolle, langdurige impact heeft gehad' op de metrics van Facebook. De softwarefout had ook geen invloed op Facebooks mogelijkheden om content te verwijderen die expliciet in strijd was met zijn regels.

Reacties (33)

[walteij]

Denk dat we deze kunnen scharen onder

It's not a bug, it's a feature

Als je als facebook zijnde berichten die door een externe partij die aan factchecking doet, misleidende artikelen toch plaatst en zelfs hoger plaatst dan juiste berichten, doe je gewoon iets niet goed.

[Reactie gewijzigd door walteij op 24 juli 2024 05:12]

[Iblies]

Er is geen controle behalve als er heel veel ophef ontstaat.

In de VS speelt op dit moment weer alles wat “misleidend” en alles wat russisch, want ja, slecht, slecht, slecht, dan komt er vanzelf een lawine aan commentaar,

in Nederland hadden we de John de Mol wat alweer een tijdje geleden is,
in het VK met Martin Lewis wat precies hetzelfde is en waar voor mensen voor miljoenen zijn opgelicht, (soort Radar/consumentenbond van VK)
https://www.moneysavingex...ah-meaden-plus-11-other-/

Martin said: "Right now, the Government's planned Online Safety Bill isn't just blindly ignoring the epidemic of scam adverts that the UK faces – it's actually going to make it worse.

"By making big tech responsible for user-generated scams but not paid-for scam adverts, it creates an incentive for criminal scammers to switch to advertising. To say it will look at scam ads regulation later, likely years away, when this regulation will make it worse, is simply perverse. We can't wait.

"Scams don't just steal people's money, they can take their self-respect too, and those with mental health problems are three times more likely to be affected.

"After hearing excuse after excuse from the Government departments responsible for this legislation, I now turn to the Prime Minister and plead with him to take this opportunity to put paid-for scam ads in the Online Safety Bill – so big tech is responsible for what they're paid to publish. Only then will they take it seriously and deny scammers the airtime.

"In some ways I regret the fact his face isn't being used as well as mine and the other signatories of this letter. If it was, I doubt we'd be having such a difficulty persuading the Government of the importance of this.

"Failure to tackle this, and tackle it now, will betray his Government's promise to create world-leading online protection and, more importantly, will cost more people their livelihoods, and their physical and mental health too."

En dit zijn dan nog berichten die ik dan nog begrijp,
ongetwijfeld dat andere landen soortgelijke materie hebben waar te weinig over wordt bericht.

India stelt het platform verantwoordelijk voor de inhoud sinds de wet is aangepast afgelopen zomer waarmee defacto artikel 230 van de VS is uitgehold.
https://techwireasia.com/...al-media-rules-explained/

The new IT ruling, if anything, poses new challenges for giants such as Facebook, Twitter, Google, and Netflix that count Asia’s third-largest economy as a key overseas market. India’s IT, Law, and Justice Minister Ravi Shankar Prasad said that social media companies will be required to acknowledge takedown requests of unlawful, misleading, and violent content within 24 hours and deliver a complete redressal within 15 days. Insensitive cases such as those surrounding explicit sexual content, firms will be required to take down the content within 24 hours.

Je moet iemand aanspreekbaar hebben in India, binnen 24 uur moet het er af zijn.

[blorf]

Het kan ook niet goed gaan. Wat goed verkoopt maar niet klopt krijgt al snel toch voorrang.
We hadden al lang een decentraal niet-commercieel communicatie-netwerk moeten hebben. Maar alle hardware is dichtgetimmerd tegen vrij gebruik, met o.a. dit als gevolg.

[beerse]

Wij hebben hier in west-europa al jaren lang een decentraal en niet-commercieel communicatie-netwerk. Daarvoor is de hardware echt niet dicht getimmerd.

Jij bent het zelf die de keuze maakt om wel of niet gebruik te maken van bepaalde over dat netwerk gevoerde technieken en kanalen. Er zijn zoveel meer kanalen om gebruik van te maken en jij en ik hebben alle vrijheid om dat te doen. Dat wij deze conversatie nu via tweakers.net voeren kan en mag daar een voorbeeld van zijn.

Vergelijk dat eens met de inwoners van plaatsen als Moscow, Petersburg of Wladiwosok. Zij hebben veel minder vrijheid. En dat geldt dan voor de steden op het westelijk halfrond en op het oostelijk halfrond. Zowel in de USA als in de (voormalige) USSR. Al zijn de beperkingen in de USA niet echt groot en meer moreel.

[Josk79]

Hoe kun je dit soort berichten tegenhouden in een decentraal netwerk?

[beerse]

Het internet zoals wij dat kennen is praktisch gezien een decentraal netwerk.
Technisch gezien is internet alleen maar een koppeling tussen netwerken. Door die koppelingen tussen die netwerken weg te halen hou je heel veel tegen.

[Josk79]

???
Ali, Bert en Cees zitten bij dezelfde provider en ook alle 3 zitten op DecentralSocialNetwork(tm). Bert verspreid misinformatie en aanstootgevend materiaal. Hoe koppelen we in een decentraal netwerk Bert los?

[beerse]

Als je bij de zelfde provider zit, dan zit je nog niet op internet. Als je bij de zelfde provider zit, moet je de provider vragen het netwerk op de juiste plek af te knippen of de juiste stekker er uit te trekken.

Internet betekent letterlijk 'tussen netwerken in'. En dat is zoals internet ook is begonnen: Universiteiten die hun eigen netwerk hadden op basis van wat ze zelf ontwikkeld hadden. Bedrijven die hun eigen netwerk hadden zoals banyan-vines, decnet en weet ik veel wat voor andere creative netwerk technieken.

Het was de universitiet van Hawaii die met het Aloha-netwerk een basis heeft gelegd voor de techniek die wij nu met z'n allen gebruiken. Het maakt niet uit welk onderdeel er weg valt, de rest blijft werken.

[Josk79]

We praten langs elkaar heen, ben ik bang. Wie gaat in een 'decentraal niet-commercieel communicatie-netwerk' Bertje loskoppelen?

@blorf gaf een voorbeeld; middels een blacklist of scoresysteem. Dit zie ik echter niet zo snel goed gaan. Bij Tweakers zien we al hoe lastig moderatie door gebruikers is en dat er soms door moderators ingegrepen moet worden. Met de hoeveelheid aan andersdenkenden (zie wappies vs schapen, Rusland vs 'het westen', extreem links/rechts vs gematigden, etc...) ben ik bang dat dat niet te doen is zonder een centraal orgaan.

[beerse]

Wat bedoel je dan met een 'decentraal niet-commercieel communicatie netwerk'? Zelf begeef ik mij hierbij op laag 3 of 4 van het iso-osi model. Voor de niet-techneuten: We hebben een internet verbinding via een internet-access-provider. We kunnen met de hele wereld communiceren. Voip, http, mail, alles werkt.

Als Alie, Bert en Cees bij de zelfde provider zitten en we willen Bert er vanaf hebben, dan bellen we de provider en vragen of Bert kan worden afgesloten. So far so good. Als Bert dan toch wil internetten, meldt hij zich bij de volgende internet provider (via de mobiele telefoon bijvoorbeeld) en kan rustig verder gaan.

Maar als je bedoelt dat we er voor willen zorgen dat Bert niet meer via http naar sociaal netwerk F mag maar nog wel op verbinding mag opbouwen met W, dan moet je aan F vragen of ze Bert willen blokkeren. In dat geval werk je op laag 5 of 6 van het iso-osi model.

Als we er voor willen zorgen dat Bert niet bij sociaal netwerk F kan en F wil niet mee werken dus proberen we het bij de internet provider, dan moeten we bij alle internet providers langs waar Bert toegang toe/via zou kunnen krijgen. Dat doen we hier in het vrije westen in de regel niet. Meer naar het oosten zijn voorbeelden te vinden hoe dat wel zou kunnen.

[Josk79]

Ik weet al waar de spraakverwarring ontstaat. Ik quote 'decentraal niet-commercieel communicatie netwerk' uit deze reactie: blorf in 'Facebook-bug leidde mogelijk tot verspreiding van 'schadelijke content'' . Ik ging er vanuit dat @blorf een decentraal sociaal netwerk bedoelde. Zoals Facebook, maar dan decentraal (applicatielaag dus). Dit lijkt me niet haalbaar, in ieder geval niet modereer/controleerbaar. Maar wellicht interpreteerde ik @blorf verkeerd.

[beerse]

Gelukkig. Al beschouw ik facebook nog steeds niet als iets decentraals. Facebook is in mijn idee nog altijd 1 grote organisatie. Al is ze wel al vanaf dag 2 zo groot dat ze zelf het overzicht kwijt zijn en daar gewoon mee door gaan.

[Josk79]

Ik zeg juist dat Facebook niet decentraal is.

[blorf]

Bijvoorbeeld met een blacklist of score-systeem als onderdeel van het netwerk. Een blockchain misschien? Die zijn tot nu toe behoorlijk waterdicht gebleken.
Naar mijn idee bestaat een Facebook alleen maar omdat de korte weg naar gelijkwaardige functionaliteit is geblokkeerd. Een telefoon kan gewoon hetzelfde zonder daar een dergelijk bedrijf voor nodig te hebben.

[Reactie gewijzigd door blorf op 24 juli 2024 05:12]

[Sissors]

Naast wat @Josk79 schrijft, maar op welke manier is alle hardware dichtgetimmerd voor vrij gebruik? Ik weet niet helemaal op welk niveau jij het decentrale niet commerciele communicatie netwerk wil hebben, eg wil je een alternatief op eg mobiel internet en gewoon p2p alle communicatie forwarden, of wil je een alternatief op Facebook op het huidige internet. Maar in beide gevallen is er echt niks qua dichtgetimmerde hardware wat je stopt. Ja oké, met Apple devices zal het wel lastig zijn, maar alsnog dat is niet hetgene wat dit beperkt. Het probleem is meer dat niemand zit te wachten op de enorme puinhoop wat zoiets wordt.

[Shawty]

ik gebruik het zelf niet en weet er niet veel vanaf maar www.minds.com ?

[CodeCaster]

Email, XMPP, IRC?

Iedereen die een chatapp kan bouwen, kan dat vandaag nog in de appstores zetten. Adaptatie door gebruikers is het probleem, daarna het betrouwbaar in de lucht houden, en dan komen de hackers, scammers, customer support, enzovoorts.

Het kan allang, een concurrent van WhatsApp/ Messenger opzetten. Gebruikt worden en het volhouden is een ander verhaal.

[YopY]

Dat is het probleem met hun geavanceerde rangschikking en AI onderzoek, op laatst kan niemand achterhalen hoe iets nu werkt of waarom zaken op een bepaalde manier gerangschikt worden.

[Bekers]

Waarschijnlijk moesten ze eerst nog even berekenen hoeveel ze er aan verdiend hebben. Dat is het enige dat telt bij Lifeinvader Facebook Meta. Dat de desinformatie op grote schaal delen is daar ondergeschikt aan. Als er een bug is die het verdienmodel aantast doen ze er echt niet 6 maanden over om het te fixen hoor

[Globber]

Dat is het enige wat telt bij vrijwel ieder bedrijf hoor. Denk je dat jouw werkgever er is om de wereld beter te maken? Nee, die zijn er om geld te verdienen, bij voorkeur meer dan ze jou hoeven te geven om dat werk uit te voeren.

Daarnaast is dat natuurlijk ook kort door de bocht, de ene bug is de andere niet. Random developer 1 bij Huppelkup b.v. die een app maakt voor 10 mensen en daar een letter vergeet, dat is een paar seconden werk om op te lossen. Stel dat er een bug zit diep in de infrastructuur dan ben je toch wat langer mee bezig. Nog even los van dat een bug er 6 maanden is niet zegt dat een bug 6 maanden bekend is. Bugs leven prima jaren in brakke software omdat het gewoon een obscure bug is, je moet er maar net achter komen

[Bekers]

Klopt, "we zijn geen filantropische instelling". Maar er is nogal een verschil tussen een groenteboer die geld wil verdienen om te kunnen leven en eens op vakantie te kunnen dan Lifeinvader Facebook Meta die mensen manipuleert, potentiele oorlogen en opstanden ontketend, verkiezingen beïnvloedt voor het geld. Laat staan de slechte invloed die ze hebben (en dat weten ze) op de jeugd.

En nee, de ene bug is de andere niet, maar buiten dat hebben ze natuurlijk ook vooral de naam en de schijn tegen

[Globber]

Ik zeg ook nergens dat ze goed bezig zijn, maar die blinde haat (gezien door de auto +3 als je Meta bashed en de auto 0/-1 als je enige nuance probeert te geven) dat is volgens mij echt niet gezond en laat zien hoe verbitterd Tweakers zijn geworden.

Maar goed, de schijn is waar het om gaat he. Dus voor de vorm 'Meta is slecht, we zouden iedereen moeten onthoofden, heil Tweakers en verdoem alles wat niet FOSS is en verdoem alles wat het waagt een UI te veranderen'

[Bekers]

Maar wat is je nuance dan? Dat het misschien wel een moeilijk te vinden/gecompliceerd bug is? Dat wordt toch ook nergens ontkend? Dat een bedrijf geld moet verdienen? Dat wordt toch ook nergens afgeraden?

Ik zeg alleen te denken dat ze dit doorgerekend hebben en gekeken wat de financiële impact is. En dat ik verwacht dat als dit een financiële bug/aderlating was, dat ze er dan echt geen 6 maanden over zouden doen. Nu is het 'slechts' 'misinformatie' en 'schadelijke content'. Het is de reputatie die ze zelf hebben opgebouwd waardoor (blijkbaar?) veel mensen hier denken dat ze minder waarde aan hechten. Dan mag je daar toch wel kritisch op zijn?

[Globber]

Denk dat we deze kunnen scharen onder
It's not a bug, it's a feature

Tja, een makkelijk om alles onder te scharen als je het bedrijf niet mag. Feit blijft wel dat ieder bedrijf gewoon mensen zijn, en dat ieder mens fouten maakt. Het is echt niet ondenkbaar dat een bepaald systeem tijdelijk niet werkte door een foutje, is aan de orde van de dag bij vrijwel alle bedrijven.

[sympa]

En een beetje bedrijf is bereikbaar voor het geval dat er problemen zijn. Bovenop interne controlemechanismen.

[rickiii]

Opvallend hoe 'berichten met geweld en naaktheid' en 'nieuwsartikelen van Russische staatsmedia' op een lijn worden gezet. Je kunt je mening hebben over misinformatie, maar het is wel van een heel ander kaliber, waardoor het wat mij betreft niet aan elkaar gekoppeld dient te worden.

[WillySis]

Het verband tussen al die berichten is dat ze handmatig zijn getaged als misleidend of gevaarlijk.
Dat het een bug betreft geloof ik eigenlijk niet. Het lijkt er meer op dat men het algoritme niet eens heeft aangepast om die tags te herkennen en/of daar ook actie op te ondernemen.

Lullig voor de mensen die de content hebben moeten bekijken en van een tag hebben voorzien.

[beerse]

Mijn twisted mind zegt dat niet iedere kijker problemen heeft met het per-ongeluk toch doorsturen van bepaalde van die berichten.

Het is jou 'twisted mind' die daar een nadere invulling aan geeft. Lukt het niet, twist dan een andere kant op.

[Staartmees58]

Volgens faecesbook is er nooit iets aan de hand... oplichters, valse documenten, ... geen enkel probleem hoor ... als je niet oplet dan ben je volgens hen het probleem ...

[litebyte]

Dat is niet waar m.b.t. dat ALLE.

Het is wel zo dat specifiek facebook keer op keer ermee wegkomt als het in de fout gaat. En op zich is dat nog veel enger dan facebook (schuilnaam meta) zelf.

Facebook en haar neven 'spyware' is ook veel meer dan een ordinair verdienmodel. Het is een tool, want het beinvloed namelijk door haar zogenaamde slimme algorithms op grote schaal de publieke opinie en hiermee o.a. (geo)politieke processen. Daar hebben we al verschillende keren voorbeelden van gezien.

Zou facebook uit elk ander land komen dat niet ditrect binnen de invloedsfeer van de VSEU zou liggen zou het allang verboden zijn.

[Globber]

Zou facebook uit elk ander land komen dat niet ditrect binnen de invloedsfeer van de VSEU zou liggen zou het allang verboden zijn.

Te merken aan de bakken social media platformen die allemaal verboden zijn? Die startup taptap, tiptop, zoiets, die is zeker nog te klein om op te vallen

[litebyte]

Facebook vergelijken met TikTok is nogal krom, het kan beide omschreven worden als sociale media maar dan houdt het ook op. De manier van dataverzamelen en beinvloeding van het sociale, maatschappelijke en politieke domein door facebook valt in het niet bij de 'concurrentie' Mocht je al kunnen spreken van concurrentie bij een digitale overheid als facebook.

Dat staat los ervan dat er alles aangedaan wordt door facebook om die dominante rol van haar prodcuten als 'digitale kolonisator' fier overeind te houden en mocht het toch een dreiging worden voor een (geo)politiek strategisch bedrijf als facebook dan zullen ze er middels hun smerige methodes alles eraan doen om dat tegen te gaan zie ook: nieuws: Meta betaalde bedrijf om TikTok in diskrediet te brengen