Twitch verwijderde in 2021 meer dan 15 miljoen botaccounts

Twitch heeft in 2021 meer dan 15 miljoen botaccounts verwijderd op het platform. Het bedrijf meldt dat streamers met een niet-witte huidskleur, streamers van de LGBTQIA+-gemeenschap en streamende veteranen vorig jaar de meest ernstige aanvallen over zich heen kregen.

Angela Hession, vice-president van de veiligheidsafdeling bij Twitch, schreef in een blogpost begin januari dat er geen eenvoudig middel bestaat tegen botaanvallen, maar dat Twitch in 2021 enkele updates heeft doorgevoerd die moeten helpen. Ze verwijst naar de optie voor streamers om enkel chatleden toe te laten die over een geverifieerd telefoonnummer of e-mailadres beschikken en naar een tool waarmee verwijderde gebruikers met een nieuw account toch opgespoord kunnen worden. Twitch zou, naast verbeteringen op de website, ook gerechtelijke stappen nemen tegenover de eigenaars van accounts die gerichte aanvallen hebben uitgevoerd.

Hession schrijft dat het veiligheidsbeleid van Twitch werd geüpdatet om ervoor te zorgen dat er sneller opgetreden kan worden bij laster en herinnert leden aan een recente toevoeging aan dat beleid waardoor ‘zeer ernstige’ feiten op Twitch, die ook de fysieke integriteit van leden kunnen schaden, verder onderzocht kunnen worden. Volgens Hession gaan elke maand zeven miljoen Twitch-leden live.

Twitch-instellingenpaneel

Reacties (52)

[Verwijderd]

In plaats van deze accounts regelrecht te verbannen, zou het beter in mijn optiek zijn deze accounts een soft ban te geven. Dan denken ze dat het allemaal goed werkt, dat terwijl de berichten totaal niet binnenkomen bij de streamer en andere viewers.

[Groningerkoek]

Ja en nee, kwestie van tijd voor men dit soort accounts dan automatisch controleert op softbal of niet en dan schiet het nog niets op en daarnaast moet Twitch dan wel al die accounts en rommel blijven faciliteren op haar servers.

[Verwijderd]

Je kan niet automatisch controleren op een soft ban, juist als je geband bent zie je gelijk in je script tooltje "Account has been banned" o.i.d. staan, dan hangen ze gewoonweg een nieuwe lijst accounts aan het tooltje en ze kunnen weer verder.

Bij een soft ban zie je dat dus niet en moet je dus handmatig controleren wat er fout gaat, ligt dit aan je tooltje? Ligt dit aan de accounts? Of is er wat anders gaande? Bij een soft ban is het al meer uitzoekwerk dan een overduidelijk bericht dat je account onschadelijk is gemaakt.

EDIT: Daarnaast faciliteren ze het uiteindelijk nog want dan maken ze gewoonweg nieuwe accounts aan. Dan staan EN de al eerder gebande accounts op de server + de nieuwe accounts. Zou overigens voor Amazon, wat de eigenaar is van Twitch qua hoeveelheid weinig invloed hebben op de werking van de site.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 20:23]

[Omega]

Het kan zeer gemakkelijk worden gecontroleerd of een account is verbannen of niet. Je kan nog een andere bot inzetten die kijkt op de geposte spam wel verschijnt in de chat. Verschijnt de spam niet in de chat dan heeft het account een shadow ban.

[Verwijderd]

Dan weet je nog niet of je een soft ban hebt of dat je tooltje gewoonweg niet werkt of dat er een andere reden is waarom de berichten niet binnenkomen. Dat is dan enkel giswerk.

[Yihka]

Punt is als dit de 'standaard' is dan bouwen botmakers hier een controle voor die dat alsnog doet. Dus het werkt wellicht voor de periode dat dit nieuw is, daarna hebben populaire bots daar ook gewoon een check voor.

[Verwijderd]

Er wordt gedaan alsof ik een waanbeeld heb dat dit een wondermiddel is waarmee de problemen 100% verholpen zijn, dat is het absoluut niet, maar het hindert deze botmakers wel meer dan simpelweg een ban uitvoeren.

[Anomnomnomymous]

Nee, dat doet het niet…

[mattie2013]

Ik weet niet waarom ik hier op reageer maar misschien moet ik je de tussenstappen uitleggen:
ten eerste sommige bots zijn al zo geavanceerd dat ze berichten binnen het 'bot netwerk' delen liken en sharen zowel willekeurige berichten als relevante betaalde berichten om zo niet teveel op een bot te lijken. Hierdoor vermengen zowel bots met echte gebruikers als echte gebruikers met bots.

Doordat je al code heb geschreven dat berichten naar andere bots stuurt weet de centrale aansturing van het netwerk dat sommige berichten verstuurd zijn of niet. Als je dan van bot A weet dat je een berichtje naar bot B heb gestuurd en je wilt liken en het bericht is niet aanwezig kan je de bot flaggen als "shadowbanned since datum". Dan laat je mogelijk een paar weken een bot mogelijk nog zijn werk doen om te zien of deze nog terug komt (tijdelijke ban ) of niet (volledige ban). Als deze bots niet meer terug komen dan haal je deze volledig uit het netwerk.

[KSU4reqY]

dat zie je toch meteen? je hoeft alleen maar naar de stream te kijken om te zien dat je de spam van je bots niet aankomt.

softban tegen 1 account zal best werken. maar tegen grote aantallen accounts die door een iemand aangestuurd worden is het was lastiger.

[Reactie gewijzigd door KSU4reqY op 22 juli 2024 20:23]

[Verwijderd]

Als jij een inlogpagina voor je neus hebt, jij probeert in te loggen maar de pagina verandert niks aan, na het laden ben je op dezelfde pagina, je krijgt geen foutmelding niks.

Als jij een bericht plaats op een forum, de pagina laadt opnieuw in en je bericht blijkt niet geplaatst te zijn, denk jij dat de site dan gewoonweg niet goed werkt of dat je een ban hebt ontvangen? Je krijgt dan verder ook geen foutmelding te zien.

Datzelfde principe bereik je dus met een shadow ban, die botmaker/gebruiker gaat dan bij zichzelf zoeken of het aan de accounts, de applicatie of aan de site ligt.

Dus dan probeert deze in te loggen met een paar accounts, krijgt vervolgens geen melding van een ban o.i.d. te zien en zoekt zich een raadsel waaraan het kan liggen, omdat alles ogenschijnlijk goed lijkt te gaan in de interface van de applicatie zelf.

Daarnaast weet je ook niet waardoor je accounts een shadow ban hebben gehad, dit kan al gebeurd zijn bij het aanmaken voordat er überhaupt een bericht is verstuurd of na het versturen van berichten. Dus is het lastiger voor de botmakers te bepalen hoe zij dit kunnen omzeilen omdat er geen indicatie is van wanneer zijn een shadow ban hebben ontvangen.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 20:23]

[KSU4reqY]

ik type "hallo" in de chat. vervolgens kijk ik in een tweede venster in incognito mode/VPN/telefoon of mijn "hallo" ook aankomt. simpel.

en als je het dan met 100 accounts tegelijk doet is het alleen maar makkelijker te zien dat je berichten niet aankomen.

en ja natuurlijk is het eerste wat je in deze context denkt dat je gebanned bent of in een spamfilter zit want je weet dat je de regels overtreed.

[Reactie gewijzigd door KSU4reqY op 22 juli 2024 20:23]

[Verwijderd]

en ja natuurlijk is het eerste wat je in deze context denkt dat je gebanned bent of in een spamfilter zit want je weet dat je de regels overtreed.

Ehh, nee. Er zijn algoritmes die een account op basis van elementen kan blokkeren voordat je überhaupt één bericht hebt gestuurd. Dan weet jij dus niet waardoor jij een soft ban hebt gekregen, jij denkt wellicht dat het komt omdat je net troll berichten hebt gestuurd terwijl dat wellicht niet eens nodig is geweest.

Vervolgens maak je nieuwe accounts aan, maar deze zijn ook al direct afgevangen door dit algoritme, je probeert weer troll berichten te sturen en hebt hetzelfde resultaat te pakken.

Dan kan het zijn:
- Streamer heeft verboden woorden lijst ingesteld waardoor deze niet zichtbaar worden
- Je applicatie werkt niet
- De site heeft problemen
- Je account heeft een (soft) ban ontvangen

Ga jij maar lekker een middagje zitten uitvogelen waardoor je account steeds in die loop terechtkomt, dat is niet zo simpel als jij het hier voordoet.

[KSU4reqY]

dat uitvogelen is ook super simpel. het fixen duurt wellicht een middag.

maar ik gok zo dat voor mensen die uberhaubt de moeite nemen en kennis hebben op een bot leger op te zetten de wapenwedloop tussen bots en anti-bots de helft van het plezier (of het verdienmodel) is.

[Siebelouis]

De grote misconceptie is, dat een bot niet 'denkt', maar dat de bot-maker dit afvangt bij het ontwikkelen van de bot.

Hetzelfde eigenlijk als het algoritme wat de bot moet herkennen.

Dat is de wapenwedloop

[Groningerkoek]

Je laat meerdere accounts joinen op al die kanalen waarvan je een paar gebruikt als controle accounts, die kun je zelfs nette fijne berichten laten plaatsen als je zou willen, en die kijken of de berichten van je troll-leger doorkomt, en accounts waarvan dat niet zo is die gooi je in de prullenbak en je gooit er een stel nieuwe accounts in.

En ja, het is wel zo simpel. Het is natuurlijk niet zo dat dit allemaal vanaf een paar vaste servers in dezelfde IP reeksen wordt verstuurd en je ze vooraf al gemakkelijk kunt bannen, als dat zo was dan zou men zich dood moeten schamen dat men hier niet eerder wat tegen heeft gedaan.

En weten dat je een shadowban hebt is wel zo ongeveer het simpelste wat er is, want jouw app geeft keurig aan dat ze zijn geplaatst en je andere account ziet ze niet.

[Reactie gewijzigd door Groningerkoek op 22 juli 2024 20:23]

[lilmonkey]

Je hebt echt geen enkel idee waar je het over hebt. Bots worden in zulke grote getale ingezet (zoals je ook in het artikel kunt lezen) dat de entiteit achter die bots zich echt niet gaat interesseren in individuele gevallen. Het is met 99% zekerheid gemakkelijk automatisch te bepalen of bots een shadowban hebben of niet, en die enkele false positive maakt geen ene moer uit.

Je doet nu ook alsof je de eerste bent met het idee van shadowbannen. News flash: dat ben je niet. Het werkt gewoon niet in de praktijk.

[kcNL]

Helaas is ook dit geen oplossing, ook dat is namelijk heel makkelijk te controleren. Bot accounts zijn op zoveel manieren "lastig" dat het dweilen met de kraan open blijft

[fastbikkel]

Dat vind ik eigenlijk wel een interessante.
Steam had mij een keer zoiets gegeven als een softban. Ik wist van niets overigens, ik was ondertussen wel dingen aan t plaatsen in "the community" en merkte dat er niets doorkwam.
Toen ik ben gaan navragen kwam ik erachter dat een admin mij op een blacklist had gezet.

Een andere admin vond dat veel te zwaar voor hetgeen ik gedaan had en heeft me toen weer toegelaten.


TL;DR
De reden dat ik op de blacklist kwam was omdat ik op het forum een jaren oud draadje had geactiveerd door te reageren.
Het artikel was voor mij namelijk actueel en ik had een vraag/opmerking.
De admin die mij bande dacht dat ik de boel bewust aan t verstieren was.
Vaag verhaal trouwens, want ik heb ontopic punten gepost zonder te schelden o.i.d.
Het zit me nog steeds niet lekker dat er admins bij steam werken die niet goed kijken naar wat ze doen.

En ik werd geintimideerd hierdoor en durfde nog amper de admins te benaderen uit angst voor een perma ban.

[Verwijderd]

Dat is ook precies de reden waarom dit beter werkt dan een regelrechte ban, omdat je niet gelijk doorhebt waardoor het komt en beter nog je weet niet wanneer je deze ban hebt ontvangen. Het is op een platform als Twitch nog effectiever als mensen die een shadow ban hebben, naast de reguliere berichten van normale gebruikers ook berichten van gebruikers terugziet die ook een shadow ban hebben ontvangen.

Dan wordt het al lastiger te bepalen of je een shadow ban hebt of niet, omdat je er pas later (misschien) achterkomt dat dit het geval is.

Het mooie hiervan is dat het dan lijkt of alles gewoon goed doorkomt, terwijl dat dus niet het geval is.

In Warzone gooien ze cheaters bij elkaar in een lobby i.p.v. de accounts regelrecht te verbannen:
https://www.gamesradar.co...w-bans-banning-explained/

Iemand die bots gebruikt zal bij een melding "This account has been banned", gelijk een andere lijst niet-gebande accounts erbij pakken en gewoon weer verder gaan. Dan heeft diegene namelijk binnen een tel door wat er aan de hand is en lost deze het binnen een tweede tel weer op.

Om iets te kunnen omzeilen, moet je eerst weten WAT je moet omzeilen en dat is dus lastiger te bepalen bij een shadow ban, omdat je eerst moet weten na welke actie dit gebeurd is en wanneer.

[fastbikkel]

Ja ik vind het een goede suggestie.
Idem met firewalls die "willekeurig" reageren op aanvallers, om ze het virtuele bos in te sturen.
Het gaat dan idd puur om verwarring te zaaien en vooral geen voorspelbaarheid te hanteren zodat men moet zoeken en tijd moet inleveren.

Al vraag ik me wel af wie dat "men" dan is want vaak zijn het ook weer bots die dit bliksemsnel afhandelen.
En die bots kunnen bij "twijfel" ook gewoon ingesteld worden dat ze direct een nieuwe account aanmaken en het hele zoekproces links laten liggen.

[Verwijderd]

Hangt er ook een beetje vanaf waarin het proces dit account een shadow ban krijgt, als deze botmaker op dezelfde manier accounts maakt en dit het systeem triggert, dan krijgt deze na het aanmaken al gelijk een shadow ban.

Als je dan bij wijze van nog niks verkeerd hebt gedaan en gelijk een shadow ban krijgt en er pas later achterkomt heb je nog geen idee wat je nou verkeerd doet.

[LurkZ]

"particularly streamers of color, members of the LGBTQIA+ community, and military veterans. "

Ik zou toch graag lezen wat de politieke overtuiging is v/d spammers want haten van veteranen lijkt niet te passen bij de 'usual suspects'.

[fastbikkel]

Veteranen worden idd, vooral in de VS, regelmatig het leven zuur gemaakt door fanatiekelingen.
Ik heb hier weleens een docu over gezien bij VICE.

[stefanheggins]

Dit is de standaard truuk van social network sites: we hebben xxx miljoen accounts geblokeerd of berichten verwijderd. Het gaat er echt niet om hoeveel ze verwijderen, het gaat er om hoeveel er nog aanwezig zijn op hun platform. En dat weten ze natuurlijk niet. Dat geeft ook aan waarom het huidige model niet werkt, waar iedereen en zijn of haar bots een soapbox krijgt maar er slechts een kleine groep moderators is. Social networks moeten aansprakelijk gesteld worden voor hun falen in de moderatie van hun platforms.

[erikvduyn]

Het is toch algemeen bekend dat Twitch een flink probleem heeft met racistische raids?

[orvintax]

Waarom, wat is er mis met "niet-witte huidskleur".

[Iblies]

Omdat het spul melanine heet 🧐

Dat anno 2022 mensen nog steeds denken in termen en rassen geeft ook gelijk het niveau aan.


Het zijn sociaal-economische problemen waar de aandacht vanaf wordt geleid. Dergelijke problemen speelde 100 jaar geleden ook toen er ook een onderklasse was waar vader, moeder en kinderen werkte. 2022 is dan ook een deja-vu in dat opzicht.


Niet voor niets hebben de grootste belastingontwijkers het principe van inclusief, diversiteit omarmd,
alleen het principe van belasting en premies betalen en normen en waarden overnemen daar zijn ze niet van gediend.


Mooi voorbeeld dat ik gebruik is Nike,
verkoop markt is hoofdzakelijk westers met verschillende regels,
productie is dan weer vietnam, indonesië.


Stel je voor als die 40-urige werkweken in het westen bleven met een fatsoenlijk salaris en bijbehorende premies….


Je ziet kleuren en geen biologisch proces,
moment dat je beseft dat kleurtje een biologisch proces is en het ergens anders moet zoeken, dan ga je ook beseffen dat maatschappijen op ramkoers zijn omdat de middenklasse armer wordt en het omarmen van de onderklasse helemaal geen zin heeft 🙂


Stof om over na te denken 🧐

[orvintax]

Het is nog al een onderwerp van discussie. Maar om het nou meteen neo-racistisch te noemen gaat wel erg ver.

[Groningerkoek]

Wie wordt er dan negatief weggezet met de volgende bewering:

"Het bedrijf meldt dat streamers met een niet-witte huidskleur, streamers van de LGBTQIA+-gemeenschap en streamende veteranen vorig jaar de meest ernstige aanvallen over zich heen kregen."

[Fluttershy]

De term "wit" voor mensen met een blanke huidskleur is expliciet in het leven geroepen omdat racisten de term "blank" te positief vinden.

Dus de term "wit". Want hier zitten volgens racisten geen positieve kenmerken aan en is dus voor hen een betere term om hun racisme te duiden.

Dat er racisten zijn, helaas, maar ook domme mensen mogen een mening hebben. Maar dat respectabele media hier in meegaan begrijp ik niet.

Claimen dat "wit" geen racistische term is omdat je het persoonlijk niet zo bedoeld staat gelijk aan claimen dat "nikker" geen racistische term is omdat je het persoonlijk niet zo bedoeld, totaal ongeloofwaardig dus.

[bwerg]

Claimen dat "wit" geen racistische term is omdat je het persoonlijk niet zo bedoeld staat gelijk aan claimen dat "nikker" geen racistische term is omdat je het persoonlijk niet zo bedoeld, totaal ongeloofwaardig dus.

En claimen dat zoiets een absolute waarheid is terwijl driekwart van de reageerders (waaronder, gegeven de demografie van tweakers, toch gewoon een groot deel wit/blank, hoe je het ook wil noemen) zich überhaupt afvraagt waar je over valt omdat ze oprecht nog nooit van het zogenaamde verschil tussen wit en blank gehoord hebben is ook een beetje ongeloofwaardig. Graag niet je eigen waarnemingen projecteren op de hele wereld, ik heb zelf nog nooit gehoord van die oorsprong van de term "wit". Leuk voor de NOS dat zij een hele redenering voor zichzelf hebben bedacht, maar ja: als ik in mijn omgeving ga rondvragen verwacht ik dat niemand dit verschil zou verwachten, dus de NOS is dan inderdaad een minderheid. Het zou me niet verbazen dat er bronnen zijn die juist het omgekeerde doen, en dat een nog groter deel van de bronnen een van de twee woorden gebruikt zonder zich überhaupt te beseffen dat er een verschil in connotatie kan zitten. Dat vergelijken met de veel algemeen bekendere en geaccepteerdere connotatie bij het woord "nikker" slaat de plank gewoon mis.

Als je ergens kwade zin achter gaat zoeken terwijl dat er duidelijk niet is is het einde zoek. Goedwillende mensen van kwade zin beschuldigen zet vooral jezelf buitenspel in de discussie. Breng het dan als "hoi tweakers, wist je dat in context <X> deze term een negatieve lading heeft? Waarna je een hele discussie verwachten over contexten <Y> en <Z> waarin die dat niet heeft, maar het is in ieder geval geen reactie van het niveau "trol".

[Reactie gewijzigd door bwerg op 22 juli 2024 20:23]

[fastbikkel]

Dat werkt toch niet zo? Ik snap nooit zo goed waarom mensen reageren op die toon.
Leg dan uit hoe het zit of houdt in elk geval de eer aan jezelf.
Dit staat los van of ik het met iemand eens ben, ik zal niet snel vervallen naar een niveau waar ik juist tegenin wil gaan.

[Groningerkoek]

Al eeuwen lang worden wit en blank beiden gebruikt en boeide het niemand, maar sinds de laatste 10 jaar vindt een groep dat je een kolonistische nazi bent als je Blank gebruikt en een andere groep vindt je een laffe anti-racistische woke Snowflake als je wit gebruikt, oftewel wat je ook gebruikt er zal altijd iemand janken zoals jij nu doet. De meerderheid echter zal het een ongelofelijke rotzorg zijn of er wit of blank staat en dat er wat kleine doch luidruchtige groepen proberen om de woorden te kapen voor hun eigen politieke agenda vindt men alleen maar irritant en loos gejank.

Oftewel: Ga toch weg met die onzin.

[Reactie gewijzigd door Groningerkoek op 22 juli 2024 20:23]

[Iblies]

[...]


Aha.

Claim jij nu beter te weten hoe en waarom de NOS handelt dan de NOS zelf? Of de Volkskrant?

Of ga je nu claimen dat de NOS, de Volkskrant en de NRC tezamen een verwaarloosbare luide minderheid vormen?

Ja,
melanine is een biologisch proces.


Wat de media bewust ontwijkt is dat er een sociaal economisch probleem met een onderklasse dat hoofdzakelijk immigranten kent.


Een ander mooi voorbeeld is dat de huidige babyboomers extreem rijk zijn geworden,
en arbeidsmigranten relatief arm
zijn gebleven. Is ook niet zo vreemd, want zij deden het k.u.t-werk waarbij regels continu werden ontweken en ontdoken. Arme mensen, arme kinderen, zelfde cycli.


Die onderklasse is deels weer vervangen door oost-europese mensen en wat je ziet is dat de middenklasse armer wordt (betaalt meer belasting en premies), de onderklasse blijft waar die ongeveer zit wat weer geen mooi vooruitzicht is voor oost-europese mensen.

https://www.pharos.nl/wp-...ren-uit-MOE-landen-v3.pdf


Volgens de definitie zijn de mensen “wit”,
maar ben je discriminerend en racistisch als “wit” “wit” benadeeld, of zouden de problemen daadwerkelijk een andere oorzaak. Gezien de cultuurverschillen is het technisch mogelijk om te zeggen NL racistisch en discriminerend is naar oost-europese medewerkers,
maar daar hebben oa NOS en Volkskrant niet graag over omdat ze dan over inhoud moeten hebben en dat er andere economische gronden zijn dat mensen worden uitgebuit en daardoor in een negatieve cirkel komen.

[xxxneoxxx]

NOS mag handelen en dingen noemen zoals zij wilt. Dit heeft wel als bijeffect dat ze steeds minder kijkers hebben
Gezien de hele publieke omroep een groot zwart gat is waar vooral belastinggeld in verdwijnt en er (nog) niets met kijkcijfers anno nu gedaan wordt, zou dit een gemiddelde belastingbetaler toch hard aan het denken moeten zetten. Maar dat zijn slechts my 2 cents. Gelukkig dat genoeg andere mensen die mening beginnen te delen en het vooral ouderen zijn die nog aandacht besteden aan de publieke omroep met voornamelijk woke programma's.