Facebook en Twitter halen netwerken met duizenden trol-accounts offline

Facebook heeft twee grote netwerken van nepaccounts offline gehaald. De accounts probeerden in pagina's en groepen onder andere positieve berichten over Donald Trump te verspreiden. De accounts leken op authentieke Amerikaanse gebruikers en maakten gebruik van AI-foto's.

Het gaat om twee verschillende groepen, schrijft Facebook. De kleinste daarvan komt uit Georgië. De mensen die die campagne opzetten hadden 39 Facebook-accounts, 344 Pagina's, 13 Groepen en 22 Instagram-accounts. Facebook heeft die allemaal offline gehaald. In totaal had de groep 442.000 volgers, en gaf die vorig jaar 285.000 euro uit aan advertenties op het platform. De andere groep was groter. Die kwam uit zowel Vietnam als Amerika, en bevatte 610 accounts, 89 Pagina's, 156 Groepen en 72 Instagram-accounts die ook allemaal offline zijn gehaald. Die laatste groep gaf vorig jaar 8,5 miljoen euro uit aan advertenties.

Volgens Facebook verspreidde de kleinere groep berichten die over politieke issues in Georgië gingen. De grotere groep plaatste met name politiek gechargeerde berichten over Amerika die een conservatieve inslag hadden. Het ging volgens Facebook over nieuws rondom Donald Trumps afzettingsprocedure, verkiezingen, en de vrijheid van godsdienst in Amerika. Volgens Facebook werden er in de groepen foto's gebruikt die op basis van kunstmatige intelligentie werden gegenereerd. Facebook linkt het gedrag van de groep aan de Epoch Media Group, een mediaorganisatie in Amerika.

Facebook is niet het enige sociale netwerk dat een groot netwerk offline haalde. Twitter maakte vrijdag bekend dat het een netwerk van 5929 accounts offline heeft gehaald. Die waren afkomstig uit Saudi-Arabië, en werden gebruikt in discussies rondom 'de geopolitieke belangen van Saudi-Arabië op het wereldtoneel'. De accounts stuurden berichten waarin Saudische autoriteiten goed uit de verf kwamen en probeerden die met likes en retweets hoger in de algoritmes te krijgen. De meeste berichten waren in het Arabisch, zegt Twitter, al zaten er ook sommige berichten bij die zich op Westerse gebruikers richtten. Daarbij ging het onder andere over sancties tegen Iran of Saudi-Arabië zelf. De 5929 accounts waren onderdeel van een groter netwerk van 88.000 accounts die zo spamden. Het kleine aantal accounts was daarvan de kern.

Reacties (38)

[hmartino]

Het is in mijn ogen goed om ook de dingen te lezen die Facebook goed aanpakt. Het is natuurlijk schering en inslag bij dit soort community's. Ik zou zeggen. Ga zo door!

[MaestroMaus]

Het is goed dat ze het doen, maar jammer dat het zoveel journalistieke en politieke druk gekost heeft voordat Facebook verantwoording nam op zijn eigen platform. Het heeft meer dan vier jaar geduurd voor ze een keer ingrijpen en het heeft impact gehad op twee of meer Britse verkiezingen, minimaal één VS verkiezing, minimaal de laatste Duitse, Franse en Nederlandse verkiezingen en het Brexit referendum. Ondertussen harkt de Zuck nog steeds grof geld binnen en loopt hij nog steeds vrij rond. Sterker nog; hij is zich nauwelijks van kwaad bewust. We weten niet eens hoe hard Facebook zijn best aan het doen is. Voor hetzelfde geld komen we er over een paar maanden achter dat dit een druppel op de gloeiende plaat was.

[Reactie gewijzigd door MaestroMaus op 25 juli 2024 05:09]

[The Zep Man]

Leuk dat ze gedweild hebben. Wanneer draaien ze de kraan dicht?

[atomos]

Bedoel je dat je eerst moet bewijzen wie je bent voordat je kunt aanmelden en dan mag/kunt posten op een fora ??

Dat gebeurt als je de kraan dicht draait en niet meer kunt posten wat je denkt/hoopt/wenst wat de waarheid is.

[Carn82]

Daar zijn ook andere platformen voor lijkt mij. Maar Facebook en Twitter zijn dusdanig laagdrempelig en grootschalig dat desinformatie zich te snel kan verspreiden. Misschien zou een andere optie zijn om mensen periodiek te toetsen aangaande de actualiteiten, en als men slecht scoort deze mensen niet automatisch blootstellen aan twijfelachtige content.

[oef!]

Dat is totalitair. Mensen moeten gewoon kijken naar wat ze willen kijken. Het is alleen zaak dat je de bad actors buiten de deur houdt (hoe relatief dat ook is).

[Ghxst]

Dan zit je met het probleem dat die "desinformatie" subjectief is in veel gevallen, en met de vraag of we echt wel willen dat iemand anders gaat bepalen welke informatie wij als volwassen gebruikers tot ons zouden nemen.

Ik denk dat een logische aanpak is om politiek geaarde advertenties gewoon te verbieden op sociale media.

Zonder advertenties hebben pagina's al niet super veel bereik meer op Facebook, en dat blijkt wel want anders hadden ze geen miljoenen uit hoeven te geven.

[Reactie gewijzigd door Ghxst op 25 juli 2024 05:09]

[Thel_]

Het zou beter zijn als kinderen op school leren voor zichzelf na te denken en niet blind te vertrouwen wat er op facebook staat. Dit soort totalitaire maatregelen moeten we naar mijn mening zo veel mogelijk weren.

[Ghxst]

Het komt tegenwoordig vrij frequent voor dat Facebook vraagt om ID verificatie bij het maken van een nieuw account.

https://m.facebook.com/help/314201258613998

[stefanhendriks]

Misch de api dichtdraaien?

[smiba]

Heb je geen zak aan, want dan emuleer je wel gewoon een browser in je software.

Filter je eigenlijk alleen goede dingen (of heel laagdrempelige zooi) er uit, die bedrijven die 8 miljoen kunnen uitgeven aan advertenties kunnen ook 50 duizend uitgeven om toch via programmacode te kunnen interacten met een website.

[Reactie gewijzigd door smiba op 25 juli 2024 05:09]

[Amanoo]

Ik denk dat ze dan het beste hun hele systeem kunnen verwijderen en nooit meer opnieuw beginnen.

[Verwijderd]

Leuk voor archive.org on vast te leggen voor nageslacht. Volgens mij zijn dit heel bijzondere stukjes programmeerkunst. Ik zou de makers een riant salaris bieden en inhuren.

[Verwijderd]

Briljante software. Inhuren die lui, en werkwijze goed documenteren op archive.org.
Kunnen de links onder de knop Plaats reactie 2em omlaag, had net een veel uitgebreidere reactie, maar die is verdwenen in de link naar VWs problemen.

[CyBeRSPiN]

Facebook staat erom bekend dat ze dit soort onwelgevallig nieuws vaak droppen net voor een vakantieweek.
Het was in October al bekend dat er iets mis was: https://www.snopes.com/ne...utlet-linked-epoch-times/
Vervolgens 0 reactie van FB. Maar nu ze toch min of meer gedwongen zijn tot actie doen ze het maar ff terloops op vrijdagavond de week voor Kerst https://www.snopes.com/ne...ook-removes-the-bl-pages/
Zie ook https://twitter.com/carol.../1208152454250008576?s=20 voor een historie van eerdere nieuwtjes vlak voor een feestdag/weekend.

[arjankoole]

een gedegen onderzoek kost ook wel wat tijd, ook voor facebook. je wil niet dat je opeens voor de rechter moet komen omdat je een normale gebruiker er uit hebt getrapt als zijnde 'troll account'.

[lagefrequentie]

8,5 miljoen euro aan advertenties.
Wat een ongelofelijke berg met geld is dat. Er blijkt veel van af te hangen wie de volgende president van Amerika wordt.

[kwint]

8.5 miljoen euro aan advertenties voor een groep trol accounts. Onverstelbaar...

[NotSoSteady]

Het valt me trouwens wel op dat het altijd om Trump gaat. Blijkbaar is hij de enige rotte appel in de Amerikaanse politiek.

[ajolla]

Ja, want non-establishment.

[AwesomE]

hoe dan ook, het verspreiden van positief nieuws over Trump is raar of zo ?

[shotgun]

Misschien daarom.
https://youtu.be/KVeDKuHPDK8
https://youtu.be/NGuyUyRBsA4