Twitter experimenteert met automatisch beperken bereik ongewenste tweets

Twitter schroeft de strijd tegen trolls - gebruikers die anderen lastigvallen - verder op. Het bedrijf test momenteel een algoritme dat beledigende tweets herkent en vervolgens automatisch het bereik van die berichten beperkt.

Dat maakte Twitter dinsdag bekend op zijn blog. Het bedrijf hoopt dat het algoritme eraan bijdraagt dat gebruikers zich veilig voelen op het sociale netwerk. Twitter vindt dat iedereen zich volledig zou moeten kunnen uiten zonder meteen lastig te worden gevallen door beledigende tweets.

Het algoritme dat Twitter momenteel test, houdt onder andere rekening met de context van een bericht. Daarvoor zoekt het programma naar overeenkomsten met andere berichten die in het verleden als beledigend werden gemarkeerd. Daarnaast kijkt het naar hoe lang het account bestaat. De programmatuur let niet op hoe impopulair een tweet is, beweert het Amerikaanse bedrijf.

Wie een beledigende tweet verstuurt, merkt niet dat het algoritme ingrijpt, maar onder de motorkap beperkt het programma het bereik van het bericht. Op die manier hoopt Twitter dat het programma de potentiële schade die een beledigende tweet kan toebrengen, kan limiteren.

Verder gaat Twitter zijn zogeheten violent threats policy aanpassen. Concreet betekent dit dat het bedrijf niet alleen 'directe, specifieke bedreigingen' als ongewenst ziet, maar ook het aanmoedigen tot bedreigingen die door anderen worden geuit. Volgens Twitter helpt de wijziging het bedrijf in de strijd tegen trolls.

Twitter gaat ook harder optreden tegen trolls. Een speciaal handhavingsteam onderneemt actie op het moment dat gebruikers vragen om beledigende content te verwijderen. Het team kan dit doen door tijdelijk de toegang tot een account te blokkeren. Die blokkade kan pas worden opgeheven zodra een gebruiker zijn geldige telefoonnummer geeft - en zich dus kenbaar maakt.

Twitter wil al langer harder optreden tegen misbruik op zijn dienst. Eerder zei Twitter-ceo Dick Costolo in interne documenten dat het bedrijf 'zuigt' in de omgang met misbruik. Daarom kwam het bedrijf al met de optie voor omstanders om iemand te rapporteren voor misbruik, terwijl voorheen alleen een slachtoffer dat kon doen.

Ook de wetenschap houdt zich bezig met het indammen van provocerende, beledigende of bedreigende opmerkingen. Onderzoekers van Stanford University ontwikkelden een tool die asociaal gedrag van internetgebruikers automatisch kan herkennen. Ze gebruikten daarvoor machine learning.

Reacties (22)

[Sorcerer8472]

Kan het systeem ook onderscheid maken tussen beledigingen of "ongewenste/onpopulaire meningen"? M.a.w. een mening die veel weerstand oproept?

Kan me voorstellen dat je daar dezelfde patronen van tegenreacties kunt zien. En het lijkt me niet heel gewenst als bepaalde meningen worden onderdrukt...

[yiNXs]

Dat vraag ik me dus ook af. Ik zie een steeds groter wordende trend van over-bescherming op internet, waar het soms opvallend makkelijk is om mensen met ongewenste meningen (of grapjes) te laten blokkeren. Waar het onderscheid wordt gemaakt tussen wat ongewenst is of niet is niet altijd even duidelijk en hangt dan af van de overtuigingen van de beheerders, of wie de meeste vriendjes kan verzamelen om iets als ongewenst aan te merken.

Ik maak me al een tijdje zorgen om deze ontwikkeling. Gevoelens van mensen, of deze volledig terecht zijn of niet, lijken steeds vaker hoger gewaardeerd te worden dan vrije menings uiting. Dit is vooral in Amerika een trend op het moment, maar daardoor komt het uiteraard ook op ons brood.

de potentiële schade die een beledigende tweet kan toebrengen

Dit soort zinnen bedoel ik. Een belediging is niet leuk, maar "potentiële schade" is erg overdreven. Het enige dat ik me kan bedenken is dat mensen gewoon moeten leren accepteren dat niet iedereen op deze planeet het altijd met ze eens zal zijn. En aangezien iemand al diep beledigd kan zijn als je simpelweg kritische vragen stelt over z'n overtuigingen ben ik bang dat ze makkelijk te ver kunnen gaan met dit soort filter algoritmes. Zeker in combinatie met de steeds groeiende politiek correctheid.

[BastiaanNL]

"Dat vraag ik me dus ook af. Ik zie een steeds groter wordende trend van over-bescherming op internet, waar het soms opvallend makkelijk is om mensen met ongewenste meningen (of grapjes) te laten blokkeren. Waar het onderscheid wordt gemaakt tussen wat ongewenst is of niet is niet altijd even duidelijk en hangt dan af van de overtuigingen van de beheerders, of wie de meeste vriendjes kan verzamelen om iets als ongewenst aan te merken."

Moet je eens op nu.nl reageren. Dat is censuur alom. Gaat echt nergens over!

Ik vind deze actie van Twitter ook naar censuur neigen. Ik snap dat je doodsbedreigingen wil stoppen, maar met censuur wordt het vaak subjectief en niet consequent opgepakt. Slechte ontwikkeling!

[Soldaatje]

Dat zal wel meevallen, Twitter zal zichzelf niet in de vingers willen snijden als mensen daardoor naar een ander platform overstappen.
Censuur door overheden, daar moet je wel bang voor zijn.

[Sorcerer8472]

Ik heb het niet over censuur maar over fouten in een algoritme. Groot verschil!

Zie ook dit interessante artikel:
http://www.washingtonpost...ably-dont-know-very-much/

Dit is een zelfde soort algoritme; het schermt tweets af die als ongewenst worden gezien, maar mogelijk worden tweets die geen trolling zijn maar een onpopulaire mening op dezelfde manier geflagged door het systeem.

[jpsch]

Censuur door bedrijven is ook erg. Zoals die "beoordelingssites" waarop je geen negatieve recensies mag plaatsen en sites die borstvoeding foto's als porno classificeren.

[Blizz]

Welk platform? Er zijn geen concurrenten die dit niet al toepassen.

Overigens beschouw ik alleen Facebook als concurrent, de rest is te klein en zal nooit de status quo overtreffen.

[Ossebol]

In theorie kan dat. Het algoritme baseert zich op tweets die eerder door mensen als beledigend werden gemarkeerd (en dus niet per se als ongewenst of onpopulair). Vervolgens berekent het programma de kans dat iets als een belediging kan worden gezien. Als de kans groot genoeg is, beperkt het script het bereik van de tweet.

Je kunt je voorstellen dat naarmate de dataset meer geclassificeerde tweets (door mensen) bevat, het algoritme steeds nauwkeuriger wordt. Daarmee kan er dus beter onderscheid worden gemaakt.

[Verwijderd]

Waarom zou je iemands (belevings)wereld willen filteren van woorden? Als het gaat om strafbare zaken, zoals bedreigingen lijkt mij het juist prima als mensen daarop ook vervolgd kunnen worden.

En herkent het algoritme ook sarcasme of ironie?
Dat denk ik nie..

[HMC]

TROLL!!

Je hebt gewoon gelijk,
Mijn eerste gedachte ook. Maar toen zag ik...007

Als een algoritme (please define als een set functies), onze tweets gaat beoordelen dan moeten er wel hele slimme mensen aan het progsel zitten.

En dan nog kan het erg makkelijk bijgewerkt worden, met een twitch en pitch, hier en daar, om ook op sommige meer gevoelige onderwerpen een invloed te hebben.

Ik kan de insteek begrrijpen, want zo gaat dat nou eenmaal vaak om een uit de spuigaten lopend fenomeen te bestrijden te beginnen, maar dit is de ideale insteek om weer iets grof schandaligs te doen. Ik noem een censuur van bepaalde meningen.

[Verwijderd]

Ik denk dat het heel gezond is, om tegengeluiden niet weg te geautomatiseerd censureren. Juist als je je stoort aan dat soort geluiden.

Het doel van Twitter lijkt het fenomeen van 'De belediging' minder zichtbaar te maken op Twitter.

Op die manier hoopt Twitter dat het programma de potentiële schade die een beledigende tweet kan toebrengen, kan limiteren.

De belediging kan in sommige gevallen strafbaar zijn.
Maar kan net zo goed een maatschappelijk doel dienen.

Voor wij met zijn allen een algoritme willen dat de belediging 'wegfilterd' en ons leidt naar een 'bubble' van complimentjes en positieve geluiden, Is het misschien goed om naar wat mensen te luisteren met een mening over 'beledigen'.

Dominee Gremdaat
Hans Teeuwen

Een belediging is mijn insziens een gezond fenomeen.

[Nazanir]

Niet alleen dat, maar wat beledigend is voor de één, is niet perse beledigend voor de ander.

Er zijn ook al een tijdje enkele blockbots in de omgang, dit om mensen die alleen al een andere mening hebben, te censureren. Ook twitter heeft hier zelf aan meegewerkt, dus het feit dat ze een "algoritme" willen gaan implementeren tegen "beledigende" tweets, is gewoon censuur.

Als je je ergens aan stoort, jammer voor jou, dat is niet de schuld van degene die de tweet in kwestie heeft geplaatst, noch is het zijn plicht hier iets aan te doen.

Tuurlijk zitten er trolls tussen, die pik je er makkelijk tussen uit, en blokkeer je gewoon, een "egg" account is makkelijk te spotten. Maar als mensen hun tweets expres in hun bereik beperkt worden, omdat er mogelijk mensen zijn die zich er aan storen, zeg ik: Twitter is op een verkeerd pad ingeslagen. Dit zal uiteindelijk alleen maar lijden tot censuur, hoe meer twitter dit gaat handhaven, hoe harder mensen gaan roepen over content die beledigend is.

[roy-t]

Tijdens het hele gamergate gebeuren stond het hele twitter vol met doods en verkrachtingsbedreigingen geplaast door voornamelijk anonieme accounts. Het lijkt me op zijn minst aardig als twitter dat automatisch kan filteren. (Dat is ook de tijd waarin de twitter CEO die uitspraak deed).

Meteen censuur roepen is dan zonder de context toch weer een beetje jammer. Maar het is wel iets om goed in de gaten te houden.

[Lapa]

Er is een levensgroot verschil tussen een algemene, door sommigen als beledigend ervaren mening over (bijvoorbeeld) een religie en een aan een specifieke persoon gerichte doods- of verkrachtingsdreiging.

Die laatste categorie tweets is volgens mij het doel van deze maatregel. De impact die dit soort bedreigingen en beledigingen hebben op de persoon die het treft, worden ontzettend onderschat door zowel degenen die ze (misschien als "grap") uiten als mensen die bij dit soort maatregelen als reflex "Censuur!" roepen.

[Reactie gewijzigd door Lapa op 22 juli 2024 21:21]

[smiba]

Het lijkt me dat het groepje dat nu meer tijd over heeft omdat ze niet meer zo veel reports ontvangen over trolls gaat kijken naar wat het systeem als troll noteert. Mocht het een fout zijn die helemaal geen troll is word er op de knop gedrukt van geen troll, hier past het systeem zich dan weer naar aan.

Moeilijk om te maken is het (Ik zie het al voorkomen, troll if tweet.contains("haha") and !tweet.contains("haha")... En ja wat nu) lijkt me wel.

Of dit zo gedaan word weet ik trouwens niet, maar zo iets zie ik voor me.

[Kalief]

Onder de motorkap beperkt het programma echter het bereik van het bericht, waardoor het bereik drastisch kan worden beperkt.

Wat een wartaal. Ik hoop dat er nog een uitleg komt over wat er precies met 'bereik' wordt bedoeld.

[Verwijderd]

Grootste irritatie is dat Twitter alle fijne Twitter applicaties opslokt, opeet en weer richting /dev/nul gooit. Echofon, Tweetdeck

[Dreamvoid]

Wordt Twitter eigenlijk nog wel een beetje gebruikt door "normale" users? Ik heb nog een account om bepaalde (vak) pers te volgen, maar er is minder en minder interessants, en wat ik er voornamelijk van zie nu de initiele hype is overgewaaid, is dat het een soort Second Life geworden is waar alleen nog maar bots, bedrijven, celebrities en actiegroepen hun promotie en clickbait dumpen, maar waar nauwelijks iemand iets terugzegt wat het niveau van het doorsnee Youtube comment overstijgt.

[Reactie gewijzigd door Dreamvoid op 22 juli 2024 21:21]

[Blizz]

Als je je dat afvraagt moet je maar eens de support van een provider of ander bedrijf opzoeken

[jpsch]

Namens meneer "DICK" gaan ze het woordgebruik monitoren?

[jadatmag]

Startsignaal van censuur op Twitter?
Het is minimaal een mogelijk gevolg......