Wetenschappers komen met algoritme dat internettrollen moet weren

Wetenschappers van Stanford University hebben een tool ontwikkeld die personen die online provocerende, beledigende of bedreigende opmerkingen maken, kan herkennen. Het algoritme zou 'internettrollen' al na vijf tot tien geplaatste berichten kunnen herkennen.

De wetenschappers onderzochten drie online nieuwscommunity's: die van CNN, van de politieke nieuwssite Breitbart.com en van techsite IGN. Ze gebruikten daarvoor een dataset met 10.000 gebruikers die ooit zijn geweerd vanwege asociaal gedrag. Daarnaast gebruikten ze een set met alle gepubliceerde berichten van deze gebruikers.

Het doel van de onderzoekers was om te bepalen wanneer de gebruikers asociaal werden in hun gedrag. Daarnaast wilden ze weten wanneer het gedrag erger werd en in hoeverre de asociale gebruikers aan de hand van hun gedrag konden worden geïdentificeerd.

De onderzoekers gebruikten machine learning om te kijken hoe ze de internettrollen konden herkennen. Dit betekent dat ze formules toepasten op de datasets en voor ieder afzonderlijk geval bekeken hoe groot de kans is dat het een asociale gebruiker betrof. Door de computer al deze gevallen te laten analyseren en dus te laten 'trainen', kan de software later met classifiers een bepaalde waarschijnlijkheid aangeven wanneer iemand een trol is.

En dat is precies wat de wetenschappers deden. Ze vergeleken de berichten die de gebruikers, die later werden geblokkeerd, eerder hadden geplaatst met die van gebruikers die nooit waren geweerd. Daaruit kwamen duidelijke verschillen naar voren. Zo zijn berichten van internettrollen minder duidelijk leesbaar, bleek uit een analyse door middel van de Automated Readability Index. Daarnaast spenderen trollen meer tijd in specifieke threads dan reguliere gebruikers.

De classifier die de wetenschappers ontwikkelden, kan alleen met de eerste vijf berichten van een gebruiker met tachtig procent waarschijnlijkheid aangeven in hoeverre iemand later een ban krijgt, zo staat er in de paper. Het algoritme presteert echter beter wanneer het de eerste tien berichten van een gebruiker heeft geanalyseerd.

Dankzij dit onderzoek kunnen in de toekomst programma's worden geschreven die automatisch internettrollen kunnen weren van websites, wat het werk van moderators drastisch kan verminderen. Wel moet daarvoor en voor het blootleggen van details van trollen de software verder worden ontwikkeld. Momenteel pakt het algoritme iemand die extremer over de schreef is gegaan namelijk eerder op dan iemand die bijvoorbeeld een keer iets heeft geplaatst wat niet door de beugel kan. Door meer geblokkeerde gebruikers en hun eigenschappen te analyseren, kan de software preciezer bepalen wanneer een ander een trol is.

Twitter is een van de sites die in toenemende mate kampt met trolls. Het bedrijf probeert om met behulp van telefoonnummers te voorkomen dat verbannen gebruikers, die andere gebruikers intimideren, steeds nieuwe accounts aanmaken. Voorlopig zijn er geen plannen bekend die erop duiden dat Twitter intimiderende gebruikers geautomatiseerd wil bannen.

Reacties (125)

[Jvann]

Een grapje kan meestal wel maar trolls gaan meestal ver over de grens. Ik vind het leuk dat het algoritme is uitgevonden maar het is jammer dat het nodig is.

[Verwijderd]

En wie bepaalt dan wie wel trolt en wie niet? Lijkt me een slecht idee om bepaalde dingen te censureren. Jammer dat het nodig is - nou, het is helemaal niet nodig. Trolls zijn misschien niet leuk maar ze hebben alle recht te zeggen wat ze willen, als jij daar boos om wordt ligt het probleem volledig bij jou. Dat vind je niet leuk, dus wil je het maar verbieden? En wanneer is iets trollen? Hoe weet je 100% zeker dat het de intentie was van de ander om een reactie uit te lokken? Ik weet dat er wel mensen zijn, waaronder wellicht jij, die van mijn huidige reactie niet blij worden. Heb ik dit dan bewust uitgelokt? Of ben ik gewoon erg direct met mijn mening?

Dus nee, trolls gaan zeker niet over een grens heen, je accepteert het maar dat trolls altijd zullen blijven trollen en dat het een zeer gevaarlijk precedent voor censuur schept.

[Verwijderd]

vraag me af hoe deze tool omgaat met sarcasme of zwarte humor.

[Verwijderd]

Vast heel goed. Want bepaalde groeperingen dingen verbieden, waaronder vrijheid van meningsuiting, is natuurlijk altijd een goed idee gebleken in het verleden.

[revertive]

Ze blijven vrijheid van meningsuiting hebben alleen na tien keer in een korte tijd hun mening op een thread gooien worden ze geweerd, dit is niet raar als ik 1 keer in den haag mijn menig uit is het geen probleem doe ik dit 10x in een kort tijdsbestek dan zullen ze me vragen om het gebied te verlaten.

[bogy]

zulke software is m.i. een beetje als black hat hackers en antivirus-software... ze blijven altijd achter de feiten lopen...
wanneer software als dit wordt ingezet zullen de trolls zich sowieso eraan aanpassen om niet meer zomaar gedetecteerd te worden (bv eerste tien berichten brave posts doen en ping 'you've been greenlit' (steamlol)...
daarop gaan de makers van deze software weer wat aanpassingen doen waarin ze die eerste tien posts op andere eigenschappen gaan controleren (bv hoe snel achter elkaar, zijn dit copy>reposts van andere mensen hun posts/...) als ze dan weer detecteerbaar zijn zullen de hardcore trolls weer andere manieren zoeken om de filter te omzeilen, met ook dan weer een nieuwe aanpassing van het algoritme tot gevolg, en zo blijft het wieltje maar draaien, net zoals er tegenwoordig miljoenen defenities zijn voor onze antivirus-pakketjes
het is een eeuwige strijd zonder echte winnaars...

[martijn_tje]

Kan je wel gaan huilen over vrijheid van meningsuiting, maar als hier op Tnet iemand consequent loopt te trollen krijgt ie net zo goed een ban. Wat die software doet is signaleren en de mods informeren. Het is een Tool voor mods om effectiever te kunnen modden.

Die tool die filterd dus o.a. op leesbaarheid en niet puur op inhoud. Dus in die zin is het geen gerichtte sensuur om bepaalde meningen te bannen.

[bbob]

Dit algoritme is weer een voorbeeld hoe mensen steeds meer in een kleiner wordend kader geduwd worden.

Zoals je aangeeft sarcasme kan niet iedereen waarderen, pech voor hun, fuck them, oeps dat taalgebruik zal wel niet kunnen volgens het algoritme en over 2 jaar automatisch weggemod als ik het te vaak doe.

Zoals vele zaken begint het idee leuk maar de uitwerking is dat een aantal mensen beperkt zal worden in wat ze kunnen en mogen zeggen. Het wordt er steeds triester op.

[revertive]

Het gaat er hier niet om dat je 'fuck them' zegt maar dat je het meerdere keren (5 a 10x) blijft herhalen zonder dat dat nodig is. Mensen mogen dus zeggen wat ze willen daar doet dit algoritme niks tegen, het gaat pas werken als mensen blijven herhalen (trollen).

[bbob]

Goed voorbeeld, 5 of 10 keer herhalen, tja soms is dat nodig, er zijn in veel gevallen mensen die soms dingen niet willen begrijpen en dan valt het kwartje pas na 5 of 10x.

Natuurlijk kan het ook onnodig blijven herhalen zijn. De vraag is echter hoe kan een algoritme dat nu bepalen.

[Verwijderd]

herhalen lijkt me niet de juiste definitie van trollen. Herhalen is meer spammen.
Trollen is een uitdagende tekst dat uitsluitend bedoeld is om te stangen en/of reacties uit te lokken.

[bbob]

Leuk voorbeeld uitdagen of reactie uitlokken. Ook dat kan positief zijn om een discussie op gang te brengen.

soms heb je een opmerking nodig om de ander idd uit de tent te krijgen en kan het voor de discussie juist zinvol zijn. Wederom een voorbeeld waar je geen algoritme op kan loslaten.

[StefanTs]

Een waarde aan een reactie geven en als sum(reacties) => €0,25 dan is het kwartje gevallen. Wat ik me afvraag is welke valuta dit algoritme handhaaft en hoe het omgaat met wisselkoersen. Vooral op internationale fora, kan best zijn dat bij een Amerikaan het kwartje is gevallen maar bij een Europeaan niet en dat dat een week later ineens wel zo is door een veranderende wisselkoers.

Complexe materie als je het mij vraagt.

[addo2]

revertive: Alles draait echter nog steeds om context. Zelfs het woord "fuck" (dat veel in Amerika wordt gecensureerd) kan in een passende context geen kwaad. Wat ik met context bedoel is dat er verschil bestaat tussen het feit dat iemand op straat een wildvreemde aanspreekt met:

Jij fucking idioot hoe durf je naar mijn fucking [voorwerp] te kijken? FUCK off!

Deze quote komt mij agressief en offensief over. Hierover zijn veel mensen het denk ik wel eens. Wanneer je dit vergelijkt met een filmrecensie waarin wordt ingegaan op het vloeken in de films zoals The Boondock Saints. Ik quote:

Rocco: Fuckin'- What the fuckin'. Fuck. Who the fuck fucked this fucking... How did you two fucking fucks...
[shouts]
Rocco: Fuck!
Connor: Well, that certainly illustrates the diversity of the word.

Het nadeel van dit type script/algoritme dat in het artikel is genoemd is dat je in elk algoritme het risico hebt op false positives. Zelfs wanneer je naar herhalingen kijkt in het gedrag betekend het niet direct dat iemand moedwillig bezig is met problemen veroorzaken. Soms liggen (op het gebied van verwoorden) goede inhoudelijke discussies en trollen dicht bij elkaar.

n.b: Naar mijn mening moest ik het punt bewijzen dat zelfs (het willekeurig voorgestelde) scheldwoord "fuck" meer dan 10x in een zinnige on-topic post is te krijgen. Nu maar hopen dat de bond tegen vloeken ons niet gaan aanklagen voor trollen.

[SkyStreaker]

Censuur is niet altijd negatief en zo eenzijdig zoals jij het nu voor doet komen.

[arbraxas]

Onzin, censuur is gevaarlijk vanwege de glijdende schaal.
Simpel voorbeeld, ik ben atheist dus mijn hele levensovertuiging is een belediging voor alle gelovigen. Ben al genoeg mensen tegen gekomen die dat beledigend vinden. Mag ik nu niet meer mijn mening daarover uiten als de SGP aan de macht komt? Je ziet dat soort censuur veel in islamitische landen.

En die censuur bestaat eigenlijk al, dat heet namelijk godslastering. En mijn overtuiging is godslastering, namelijk hij bestaat niet. Nu doen ze er niet veel mee in nederland, maar het staat nog steeds in onze wet.

En hoe gaat een programma onderscheid maken tussen echt trollen en een geintje of sarcasme?

Het grootste gevaar is dat dit dus voor echte censuur misbruikt gaat worden onder het mom van trollen. Keer op keer word bewezen dat dit soort technologie misbruikt word.
Kijk naar de camera`s boven de snelweg. Zogenaamd tegen terrorisme en om snel te kunnen reageren op ontvoeringen etc. Allemaal heel nobel, alleen jammer dat uiteindelijk die dingen worden gebruikt voor de belastingdienst en bonnen uitschrijven.

[teacup]

Je kan ook de andere kant op denken. Een machine intelligentie kan ook een kans bieden om langs een algoritme droog vast te stellen dat de reacties van gebruiker zich langs een troll patroon ontwikkelen. De kans hierin is dat een AI dit neutraler kan vaststellen, zonder de inhoudelijkheid van de reacties hierin te betrekken.

Voor een menselijke mod is het een stuk moeilijker om het eigen oordeel over een onderwerp of de historische context van de poster niet in het oordeel mee te laten wegen.

Het überhaupt kunnen formuleren van een algoritme zie ik trouwens als een onderstreping van het gegeven dat onze schrijfseltjes langs redelijk voorspelbare patronen verlopen. Een mooie relativering van de uniekheid van onze mening of opvatting. Misschien toch een reden om die overgewaardeerde meningsuiting eens wat in belang terug te schroeven. Met jouw mening ben ik het trouwens behoorlijk eensch. Ik zou dus een hele slechte modbot zijn. Ik ben ook maar een mens.

[Verwijderd]

Even van de andere kant bekeken: de constante confrontatie met de evangelisatie-drift van het meer fanatieke (lees: religieuze) deel van de atheistische gemeenschap op het internet leidt ook tot zelfcensuur van "gelovigen" (behalve de fundamentalisten van alle toonaarden, die altijd in zijn voor een robbertje).

Probleem is dat de normale zelfcensuur over dit soort onderwerpen niet wordt toegepast achter het toetsenbord.

Het zal me weinig interesseren in wat voor hoek iemand zijn zinsbeleving zoekt. Op het moment dat je daarover gaat discussieren ligt grote ruzie altijd op de loer.

De reden dat die godslastering nog in de wet staat is het gevolg van dit kabinet, die weinig uit principe doet (misschien uit noodzaak) en dus de SGP en Christenunie nodig hadden. Dus hulde aan VVD en pvda.

Verder heb je volkomen gelijk.

[mae-t.net]

Censuur is per definitie negatief en eenzijdig. In principe geloof ik niet in opruimen, tenzij de bende echt heel groot wordt (als de moderator te laat ingrijpt bijvoorbeeld), maar dan is het alsnog opruimen en geen censuur. Degene die zijn op dat forum niet gewenste uitingen doet, kan ze immers via talloze andere gelijkwaardige kanalen ongestoord doen.

[SkyStreaker]

http://gathering.tweakers.net/forum/list_messages/1432300

Daar komt mijn mening uitgebreid naar voren. Je zult merken, hoop ik, dat ik het met je eens ben op jouw persoonlijke definitie na.

[Reactie gewijzigd door SkyStreaker op 22 juli 2024 14:22]

[mae-t.net]

Voor zover ik de startpost daar zo snel kan doorgronden lijkt het me iets te apologetisch (censuur als bescherming van "tere zieltjes" - mijn woorden) om met mijn mening overeen te komen, maar ik geef je gelijk dat je meer nuance zoekt dan de mensen die zomaar standaard om het andere woord censuur roepen.

Of mijn negatieve interpretatie van het woord censuur persoonlijk is, vraag ik me af. Het lijkt erop dat het woord toch vrij algemeen gereserveerd wordt voor het voorkomen van meningsuiting op een manier die monddood maakt en bovendien disproportioneel is.

[blobber]

Trolls zijn misschien niet leuk maar ze hebben alle recht te zeggen wat ze willen, als jij daar boos om wordt ligt het probleem volledig bij jou.

Gedeeltelijk mee oneens.Vrijheid van meningsuiting is een groot goed dat we goed moeten bewaken, maar dat betekent niet dat iedereen maar alles kan zeggen.Wat als het haatzaaien is?Of het goedpraten van de holocaust?Iemand gelukwensen met de dood van zijn zoontje?Ik noem zo maar wat vooorbeeldjes.
Dergelijke aso's dienen aangepakt te worden net als in de "echte" wereld.
Ik ben het met je eens dat we er goed voor moeten waken dat het alleen tegen excessen gebruikt wordt en niet als tool voor fatsoensrakkers.

[Verwijderd]

maar dat betekent niet dat iedereen maar alles kan zeggen.

Het betekent dat juist wel. Dat is exact wat het betekent: We kunnen alles zeggen.

Nu is de 'vrijheid' van meningsuiting al niet meer geldig in Nederland doordat er beperkingen op zijn - gezien het een alles of niets principe is, kan je simpelweg niet meer spreken van vrijheid, omdat er beperkingen op zijn.

Dat gezegd, er zijn inderdaad ook regels tegen haatspraak en holocaustontkenning, al ben ik sterk tegen het eerstgenoemde. Wie bepaalt wat haatspraak is? En waarom zou spraak verboden moeten worden omdat anderen zich beledigd voelen, zelfs al was het expres?

Je beledigd voelen is een keuze. Dat praat het absoluut niet goed dat men elkaar maar beledigt, maar liever dat dan dat men niet de vrijheid heeft te zeggen wat ie wil.

[blobber]

Het betekent dat juist wel. Dat is exact wat het betekent: We kunnen alles zeggen

Daarin verschillen we dan van opvatting.

[revertive]

'haatspraak' zet aan tot haat en uiteindelijk geweld iets wat we in onze samenleving niet graag willen. Of je het nou leuk vind of niet sommige regels zijn nodig omdat sommige mensen zichzelf niet kunnen controleren. Het gaat bij 'haatspraak' er vaak niet om of iemand beledigt is maar dat het haat oproept van een menigte die dan mogelijk oncontroleerbaar worden en schade toebrengt aan het land.

[Garma]

het komt allemaal behoorlijk naïef over wat je zegt. Wat haat zaaien is wordt bepaald door de rechter, en het is maar goed dat dat verboden is. Er zijn namelijk genoeg mensen die daardoor beïnvloed worden, en het gaan geloven. Deze glijdende schaal leid vrij eenvoudig tot excessen, getuige bijvoorbeeld bewegingen als de KKK, nationaal socialisme (nazi's), ISIS, alle gestoorde bewegingen in Afrika etc. Allemaal bewegingen die groot geworden zijn door haat spraak. Als je kunt voorkomen dat dit soort bewegingen groeien lijkt me dat een groot goed voor onze beschaving.

Het probleem is dat je dingen nogal zwart wit ziet zoals vaker hier op tweakers. de wereld bestaat niet uit zwart wit; zo ook in dit geval. Ja vrijheid van meningsuiting is een groot goed, en nee dat betekend niet dat je alles mag zeggen, bijvoorbeeld ook omdat we de waarde van het individu belangrijker vinden.

Als jij denkt dat je beledigd voelen een keuze is, ben je nog nooit in de situatie geweest waar je echt beledigd bent op basis van je afkomst of levensovertuiging. met andere woorden dan ben je zeer waarschijnlijk geen onderdeel van een minderheid. En dan heb je makkelijk praten.

[asusk7m550]

Gedeeltelijk mee oneens.Vrijheid van meningsuiting is een groot goed dat we goed moeten bewaken, maar dat betekent niet dat iedereen maar alles kan zeggen.

Ik zou het wat genuanceerder zeggen.

In principe zou iedereen moeten kunnen zeggen wat hij/zij wil zeggen. Maar dit betekend niet dat je dit ook moet doen. Dat is waar mensen vaak de fout ingaan wat betreft vrijheid van meningsuiting. Ze vergeten dat ze ook een eigen verantwoording hebben wat betreft wat je zegt.

Dit geld net zoals in het verkeer. Als je bijvoorbeeld ergens 50km of 130km per uur mag rijden, betekend dit niet dat je dit ook moet rijden. Je moet het overige verkeer niet in gevaar brengen.

[Sissors]

En wie bepaalt dan wie wel trolt en wie niet?

De eigenaren van de site (die dat bij grotere sites normaal gesproken uitbesteden aan moderators, of een geautomatiseerde tool dus).

Trolls hebben dan misschien het recht om te zeggen wat ze willen, sites hebben het recht ze met een permaban terug te slingeren. En als je reactie geen troll is, maar nauwelijk te onderscheiden is van een troll, dan moet je misschien bij jezelf te raden gaan.

En een precedent voor censuur? Wat denk je dat elk forum, nieuws site, spel, etc doet: Mensen weren die enkel trollen.

Overigens ontopic vraag ik me af hoe goed dit zal blijven werken als de trolls zich ook aanpassen. En de belangrijkste vraag: Hoeveel false positives zijn er? Een false negative maakt niet zoveel uit, maar je wil geen reacties zitten verwijderen van iedereen die grammaticafouten maakt.

[Stoney3K]

[...]

De eigenaren van de site (die dat bij grotere sites normaal gesproken uitbesteden aan moderators, of een geautomatiseerde tool dus).

Trolls hebben dan misschien het recht om te zeggen wat ze willen, sites hebben het recht ze met een permaban terug te slingeren. En als je reactie geen troll is, maar nauwelijk te onderscheiden is van een troll, dan moet je misschien bij jezelf te raden gaan.

En hoe wil je, vooral bij maatschappelijk controversiële onderwerpen, een troll gaan onderscheiden van iemand die goedgemanierd "de knuppel in het hoenderhok" wil gooien om een inhoudelijke discussie te starten?

Ik denk dat het heel lastig wordt, voor een algoritme, om een kritische toon die tegenlicht geeft te onderscheiden van iemand die doelbewust een discussie wil ontsporen.

Laat staan als je zaken als satire er op loslaat.

[Verwijderd]

En wie bepaalt dan wie wel trolt en wie niet? Lijkt me een slecht idee om bepaalde dingen te censureren. Jammer dat het nodig is - nou, het is helemaal niet nodig. Trolls zijn misschien niet leuk maar ze hebben alle recht te zeggen wat ze willen, als jij daar boos om wordt ligt het probleem volledig bij jou.

Wellicht op een forum als Tweakers maar op mijn forums bepaal ik de regels. Die zijn deel van onze PR en Marketing en trollen zijn daar gewoon schadelijk voor de bedrijfvoering. Commentaar is prima, maar trollen dump ik gewoon zonder na te denken in de banbin. Niets mis mee.

En op elk forum worden mensen geweerd, ook hier. Daar is niet mis mee, daar moeten we als brave gebruikers erg blij mee zijn.

[mae-t.net]

Daar ligt een dunne grens. Een forum waar vooral gejubeld wordt, wordt door jouw klanten herkend als waardeloos als het gaat om een eerlijke indruk te krijgen van het bedrijf ("wij van WC Eend..."). Niet iedereen is even handig in het formuleren van kritiek, dus is het altijd uitkijken geblazen voor false positives. Een onafhankelijk forum met idem moderatoren komt dan beter over.

[Reactie gewijzigd door mae-t.net op 22 juli 2024 14:22]

[Verwijderd]

Tja psychologie kun je niet in een script stoppen. Misschien heeft iemand een slechte dag of is er iemand overleden etc.

Wie zegt dat de trollen zich niet gaan aanpassen....

Ik ben ook wel eens een trol genoemd door kleine kinderen op tweakers forum terwijl ik gewoon netjes mij mening en ervaringen beschrijf en ook nog eens duidelijk maak dat ik de mening van andere in waarde laat, ook al ben ik her niet mee eens.

Lijkt mij sterk dat je van 10 berichten iemands intenties kent. Op nieuws sites komen veel emoties los en mensen gaan nu eenmaal vaak tegen elkaar in. Zelden heb ik dergelijke berichten als trollen gezien. Imo bestaan er vrij weinig trollen. Ik zit dagelijks op irc soms in kanalen met 100 mensen en trollen komt zelden voor.

Het is natuurlijk wel fijn voor mods om indicaties en lijsten te krijgen zodat ze niet alles hoeven na te gaan en aan de hand van die indicatiez een beslissing kunnen nemen.

[Ge Someone]

Volgens mij registreert een troll zo weer een nieuwe login wanneer hij gebanned wordt.

[_Pussycat_]

Trolls zijn misschien niet leuk maar ze hebben alle recht te zeggen wat ze willen, als jij daar boos om wordt ligt het probleem volledig bij jou.

Vrijheid van meningsuiting betekent niet dat een forum deze mensen een platform moet bieden. Als ik bij jou thuis lig te schelden en je de hele tijd vertel dat ik je een domme sukkel vind, zul je me (terecht) het huis uit smijten.
In een café is het niet anders, op het werk ook niet. Ik kan wel op straat staan en vertellen wat ik vind, daar mag ik niet terechtgewezen worden als ik niet gevaarlijk ben (gevaarlijke precedenten daargelaten).

Zie ook https://xkcd.com/1357/ en de mouse-over tekst: "I can't remember where I heard this, but someone once said that defending a position by citing free speech is sort of the ultimate concession; you're saying that the most compelling thing you can say for your position is that it's not literally illegal to express."

Een paar trollen kunnen honderden normale users uit een forum verdrijven, dus vind ik het normaal dat die geweerd worden.

[Reactie gewijzigd door _Pussycat_ op 22 juli 2024 14:22]

[goarilla]

Ik vrees er voor dat de definitie van troll zo arbitrair is dat we binnenkort discussiefora zullen hebben die alleen lofzang bevatten. Dit zijn censuurfilters. En het is weer een ontwikkeling die de mogelijkheid van het Internet als democratiserende kracht slagen kan toedelen.

Mvg,

Ondertekend:
"De troll"

[Reactie gewijzigd door goarilla op 22 juli 2024 14:22]

[Hostile Nob]

Dat konden ze ook al zonder deze "censuurfilters". Als een forum moderator een reactie leest die hem/zij niet aanstaat, dan kan die gewoon die reactie verwijderen. Ook is een algoritme die elke vorm van kritiek filtert, trollreactie of geen trollreactie, makkelijker te maken dan een algoritme die internettrolls (tot zekere hoogte) moet gaan onderscheiden van de normale oprechte kritieken of satires. En ik betwijfel zelf of dit artikel überhaupt nieuwswaarde heeft als het ging over algoritme die elke vorm van kritiek censureert.

Ik ben natuurlijk wel mee eens dat zo'n algoritme die ze gemaakt hebben niet waterproof is en dan is het een kwestie van statistieken, waar je bijv. de gebruikersprofiel moet gaan bekijken om een oordeel te kunnen maken. Maar de filter die ze nu gemaakt hebben is erg effectief tegen reacties die consistent de F-bomb of andere provocaties uiten en die zijn meestal wel goed te herkennen als trollreacties.

[WillySis]

Het algoritme is erop gericht om de excessen op internet aan te pakken. Meestal zijn dit teksten vol met negatieve bewoordingen, slechte zinsbouw en weinig band met het besproken onderwerp. Voor een mens zijn die teksten gemakkelijk te herkennen en daar is het algoritme ook op gebaseerd. Een trol schrijft voornamelijk van dit soort teksten.
Een normaal persoon kan best een gefundeerd kritisch stukje schrijven of eens een keer uit zijn dak gaan.
Een algoritme is een hulpmiddel, maar geen enkel algoritme is feilloos. Er zullen trollen onterecht niet geblokt worden en niet trollen die wel worden geblokt. Er zal altijd een controle moeten zijn.

[Jester-NL]

Leuk joh... vrijheid van meningsuiting... Ik ben daar groot voorstander van, en verdedig het met verve. Echter... waar de meeste trolls de mist in gaan is: ze zijn accoord gegaan met een TaC van een (private) site. En daarmee gaan ze accord met allerlei beperkingen op hun vrijheid van meningsuiting. Daarnaast is die vrijheid volledig en alleen op de troll zelf (en zijn vriendjes) van toepassing. Mensen die er onder lijden moeten niet zeiken en mods moeten dood (inclusief familie).

Geloof me, als je een tijdje mod op een forum, herken je ze vanzelf, en leer je heel snel om (ondanks vrijheid van meningsuiting en onschuldig tot het tegendeel enzo) te bannen.
Persoonlijk vindt ik dat Tweakers een positieve uitzondering is.
Ik ben groot voorstander van (felle) discussie. En laat daar een heleboel in toe. Maar aan trolls heb ik een broertje dood. 'tuurlijk, soms is het leuk om te stoken. Het rotte is dat de gemiddelde troll niet anders weet dan stoken en niet kan (of wil) discusieren.

[Standeman]

Ja.. als je op een kistje op het malieveld gaat staan heb je alle recht om te zeggen wat je wil. Of op je eigen gehoste blog.

Op platformen als van derde, zoals Twitter, facebook en ook Tweakers geld dat niet. Daar is geen vrijheid van meningsuiting en kan je dus ook niet echt van censuur spreken. Dat gaat geheel naar de keuze van de beheerders / eigenaars wat zij al dan niet toestaan op hun platform. Zo worden trolls hier en op GoT gewoon aangepakt. Als je wilt trollen, ga je maar op dat kistje staan.
Mijn inziens is dat ook terecht. Je wilt een bepaalde community bedienen en het voor het gros leuk en gezellig houden. Als je dan de trolls niet bestrijd, gaat die hele community naar de knoppen.

[Reactie gewijzigd door Standeman op 22 juli 2024 14:22]

[Seditiar]

Als ik jou continu voor mongool uitscheldt, op iedere tweet die je verstuurd, ligt het probleem niet bij jou, maar bij mij. Voor dat soort dingen zou een tool best handig zijn. Niet om standaard te hebben, maar meer als een optie die standaard uit staat, maar die je wel kunt inschakelen. Beetje als Night- en Moobot op Twitch.tv.

[Johan9711]

Ik vind dit nogal kort door de bocht. Er zijn mensen die i. Elke zin per se 2 keer kanker moeten schreeuwen. Vrijheid van meningsuiting is wat anders dan alles mogen zeggen. Soms kunnen mensen beter niet gehoord worden.

[Verwijderd]

"Trolls zijn misschien niet leuk maar ze hebben alle recht te zeggen wat ze willen, als jij daar boos om wordt ligt het probleem volledig bij jou"

Nee, dat recht hebben ze niet. Je kunt geen rechten verzinnen. Mensen hebben zich te houden aan de regels van de eigenaar van de community.

"Hoe weet je 100% zeker dat het de intentie was van de ander om een reactie uit te lokken?"

Bij twijfel krijgen mensen het voordeel van de twijfel. Een echte troll zal echter uiteindelijk door de mand vallen.

"Dus nee, trolls gaan zeker niet over een grens heen, je accepteert het maar dat trolls altijd zullen blijven trollen en dat het een zeer gevaarlijk precedent voor censuur schept. "

Nee, dat accepteerd een eigenaar niet. Ik zeg dit omdat ik zelf een kleine community run. Dat gaat goed, maar af en toe zit er een rotte appel tussen, en die wordt dan gewoon permanent geband. De rotte appel heeft geen recht en ik heb helemaal niets te accepteren.

Trolls kunnen een sfeer op een site en in een community flink verzieken.

[Jefrey Lijffijt]

Op het forum hier wordt toxic behaviour ook verwijderd en je kunt ook een ban krijgen als je het herhaalt. De moderators bepalen wat wel en niet kan. Het algoritme uit deze studie probeert het gedrag van de moderators na te doen en wordt getraind op basis van vergelijkbare data. Lijkt mij een uitstekende zaak, want de hoeveelheid reacties die je niet wilt zien is op sommige andere sites zo groot dat moderators het niet aan kunnen.

[totaalgeenhard]

Dus jij vind het acceptabel dat bepaalde politici straks gesuspend worden omdat ze lopen te trollen op twitter?

Mensen als Wilders zouden geen online marketing meer kunnen doen indien algoritmes bij b.v. een twitter gaan censureren.

Trollen is iets wat men niet als kwaadaardig moeten beschouwen, het enige verschil in een (bruin) café is dat repliek sneller en directer is en daarmee uitlatingen enigszins gefilterd is en mensen verstandiger zijn om bepaalde provocaties subtieler te brengen.

Maar op het Internet moeten mensen vooral kunnen zeggen wat ze denken anders krijg je een eenheidsworst waaraan iedereen zich moet conformeren aan elkaar, dat doe me denken aan middeleeuwen....

Heb wel een leuke naam voor een dergelijke algoritme: inquisitoir

http://nl.wikipedia.org/wiki/Inquisitie

[WormLord]

Ja, ik vind het inderdaad acceptabel dat bepaalde mensen, inclusief politici, gesuspend worden omdat ze lopen te trollen, waar dan ook.

Let wel: trollen is nadrukkelijk niet een al dan niet impopulaire mening uiten en deze vervolgens in een open discussie proberen te verdedigen. Trollen komen namelijk niet verder dan het spuien van 'meningen', waarbij het nog maar de vraag is of het ook daadwerkelijk de mening van de betreffende persoon is.

[Verwijderd]

Iedereen heeft het recht een mening te verdedigen. Welke mening dan ook.

Trollen gaat het er om om de discussie te laten ontsporen. Het gaat erom om andere te provoceren zodat de discussie nog meer ontspoort. In princiepe de intenties van het draadje om zeep te helpen, namelijk discussie.

Als wilders gewoon discussieert zonder schelden etc, is dat geen trollen maar uiten van een VRIJE mening.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 14:22]

[Verwijderd]

Het is verkapte censuur, wat _nooit_ de oplossing is. Het is heel moeilijk om via digitale media sarcasme te herkennen bijvoorbeeld, of andere soorten humor. Dergelijke websites zouden beter af zijn om hun politieke correctheid een tandje terug te schroeven en meer meningen en opmerkingen toe te staan in plaats ongelooflijke hoeveelheden resources te steken in het verbannen van gebruikers. We zien de vrijheid van meningsuiting steeds beperkter worden en dit soort activiteiten dragen daar alleen aan bij. Leer simpelweg andere meningen te accepteren.

[Rev-anche]

Na Parijs, en vooral het Je suis Charlie drama, vind ik dat we wel wat hadden mogen leren!?

Vrijheid van meningsuitting is een groot goed, ook als dat kritisch is tegenover jou of je geloof.
Een geautomatiseerde "trollverwijderaar" is gewoon een vorm van censuur die meer kapot maakt dan ons lief is.
just my two cents.

[Verwijderd]

Een troll is niet iemand die iets negatiefs schrijft of het oneens is met de meest populaire meningen. Dat is gewoon een criticus of azijnzeiker, naar gelang de situatie. Een kritisch persoon kan in zowat iedere forum ter wereld zijn mening kwijt wanneer men basale fatsoensnormen in acht neemt.

Een troll gaat meestal een aantal steppen verder. Deze verzieken bewust de sfeer, jagen mensen op de kast, spelen op de persoon. Ik vind dat geen censuur. Wat mij betreft mag iemand die zijn mening vrij wil uiten ook verwacht worden dit op een manier te doen die niet "troll" is.

[Rev-anche]

Een troll is niet iemand die iets negatiefs schrijft of het oneens is met de meest populaire meningen
Wie bepaalt dat!
. Dat is gewoon een criticus of azijnzeiker, naar gelang de situatie.
of je het ermee eens bent?
Een kritisch persoon kan in zowat iedere forum ter wereld zijn mening kwijt wanneer men basale fatsoensnormen in acht neemt.
Ik neem aan dat je dit zelf niet geloofd, of ben je aan het trollen?

Een troll gaat meestal een aantal steppen verder. Deze verzieken bewust de sfeer, jagen mensen op de kast, spelen op de persoon. Ik vind dat geen censuur. Wat mij betreft mag iemand die zijn mening vrij wil uiten ook verwacht worden dit op een manier te doen die niet "troll" is.
Zo zie je maar weer, zelfs jij mag je mening uiten!? (Troll?)

Dat bedoel ik dus, jij mag je mening wel uiten want de ander is de troll, totdat iemand jou een troll vind. en dan?

[Verwijderd]

Een troll wordt niet zomaar een troll gevonden. Je zoekt het grijze gebied op maar dit algoritme, alsmede menselijke moderators zijn er op uit de echt erge gevallen er uit te halen. Daarbij gaat het gewoon om misselijk en ziekelijk gedrag, gewoon echt rotte appels.

Wanneer ik me gedraag als een troll, is het prima wanneer een moderator me er uit gooit. Als je een huis of kroeg binnenloopt en je zwaar staat te misdragen kun je ook de deur gewezen worden.

[Rev-anche]

Jijmaakt mij niet wijs dat er "binnen afzienbare tijd" een algoritme word ontwikkeld dat flawless werkt.

En idd, een moderator is! Een denkend (al dan niet redelijk) menselijk wezen die er een troll uit kan pikken. Net als een portier , ja!

Maar stel je voor dat ik een algoritme ga ontwikkelen voor een club/dancing.
Waar baseer ik me dan op, Geld, ja! Huidskleur,Nee! Arm, Nee!
je begrijpt waarschijnlijk wel waar ik heen wil.

Als er al een wetenschappelijke definitie is van troll, wat zegt dat over ons zogenaamd welwillende mensen?!

[totaalgeenhard]

Een goede trol zal ook door een moderator niet worden ontdekt.

Vaak zal een moderator agressieve houding van andere "prikkers" en diens klachten opmerken en vervolgens op het spoor komen van trol.

Maar moderators zijn wel emotioneel gebonden en zodra ze het getrol niet begrijpen of onzeker voelen zullen ze trol waarschuwen en uiteindelijk verbannen.... (ik spreek uit eigen ervaring...)

Dus een algoritme die objectief kan suspenden is beter dan een incompetente moderator.

Echter zal een algoritme niet doortastend genoeg kunnen zijn om echte goede trol te vinden.

Een ander voorbeeld is verschuiving in geaccepteerde beledigingen in de samenleving.

Jan Maat (zeer wel bespraakte TROL) is veroordeeld voor opmerkingen als "Vol is vol" en "Nederland voor Nederlanders"

http://www.volkskrant.nl/...wel-veroordeeld~a2456724/

Terwijl een Pim Fortuyn, zeer goed geargumenteerd al meer heeft gezegd dan Jan Maat.

En Wilders (zonder onderbouwing) al veel meer heeft geroepen dan dan Jan en Pim bij elkaar.

Dus het is zeer complex verhaal om op basis van algoritme iemand als trol te kunnen neer zetten, zonder voortschrijdend inzicht.... wat nu al bij meeste moderators al ontbreekt.

Voor alle duidelijkheid op Tweakers heb ik nog nooit een probleem gehad met een moderator (geloof ik).

Aan de andere kant ben ik wel trots op mijn permban op Geenstijl.
Als provocateurs zelf getrolled kunnen worden...

[Reactie gewijzigd door totaalgeenhard op 22 juli 2024 14:22]

[Ge Someone]

per forum maakt ook uit wanneer iets als troll beschouwd wordt. Meestal gaat het om een post die tegen de algemene consensus op het betreffende forum in gaat en dat niet op een (daar) geaccepteerde manier kan onderbouwen.
Twitter is een ander verhaal.

[Geekomatic]

Hmmm, dit lijkt me gevaarlijk. Geautomatiseerde censuur.
Was is het verschil tussen een troll en een kritische poster?

[Verwijderd]

Een troll belt de politie met een vals bericht waarmee een SWAT team langs komt.

Een kritische poster is soms gewoon wat hard.

[totaalgeenhard]

Trol is een provocateur....

http://nl.wikipedia.org/wiki/Trol_(internet)

Innovatie ontstaat meestal als mensen eigengereid zijn en hun eigen mening formuleren ipv zich te conformeren aan anderen.

Als mensen "happen" wil dat alleen iets over hun zeggen en niets over de "trol".

Overigens trollen is in zakenwereld normaal, als je binnen een paar minuten iemand wil kunnen beoordelen moet je hem "beledigen" en naar zijn "breekpunt" trachten te brengen, waarbij hij mogelijk emotioneel kan worden. Dan weet je heel snel wie je voor je hebt.

Op het Internet heb ik nooit begrepen waarom mensen überhaupt happen.
Als je tekst persoonlijk neemt, heb je toch echt geen leven meer en relativeren is dan ook iets wat je niet door hebt.

[Verwijderd]

Precies als je je op internet laat bully-en en je moment/dag laat verpesten ben je gewoon een mietje en heb je nog wat te leren.
bovendien hebben veel internet media block/ignore functies. Dus je kun iemand zo weg zetten. Lijkt mij zelf een veel betere manier om iemand te weren.

[Verwijderd]

Ah het "dan ben je een mietje!" excuus. Jup dat hebben we echt noooooit eerder gehoord. Inclusief het "negeren" argument. Ja sorry hoor maar dat werkt dus niet, helemaal niet als ze je echt hard lastig gaan vallen zoals bijvoorbeeld bij Anita Sarkeesian gebeurd is en met velen voor haar. Er worden duizenden pizzas op jouw naam besteld, komt een SWAT team langs omdat je je kind zou slaan, je kind zijn/haar school krijgt meldingen die anoniem zijn en ga zo maar door.

Makkelijk om te zeggen "dat is een mietje" naar de persoon die balkt van een doodsbedreiging. Makkelijk om te zeggen "dat is een mietje" tegen de persoon die systematisch word genegeerd en mindgames mee word gespeeld. En nog makkelijker om te zeggen "Dan kan je toch beter die persoon weren" zoals je zegt.

Want ja jij geeft de gepeste de schuld hier en dat stuit mij toch echt behoorlijk tegen de borst. Want hij/zij is een mietje. Oud argument, STOK oud argument. Dat totaal voorbij gaat aan het feit dat pesters/trollen heel goed zijn in iets belangrijker te laten lijken dan het is. Net als elk pestgedrag, zo gauw het slachtoffer realiseert dat het niet belangrijk is en wegloopt heeft de Pester een probleem. Dus die word heel goed in het opkloppen van het argument, het afdammen van ontsnappingsmogelijkheden en doen alsof iets heel belangrijk is zodat de gepeste niet wegloopt. Tactieken zo geaccepteerd dat zelfs onze politici ze gebruiken op haar eigen burgers om zo meelopers te creëren (Nee dan heb ik het niet over harder discussie technieken, ik heb het over politici die zich keren tegen mensen die niet in de politiek zitten).

Maar goed blijkt wel dat Totaalgeenhard en Dreee daar weinig ervaring mee hebben, ja misschien wel uit ervaring als pester/troll en niet als slachtoffer. Ernstig.

[Verwijderd]

Helemaal mee eens. Mr. Fry heeft hier al eens duidelijke taal over gesproken.

Het zou allemaal zo veel beter zijn als mensen online al dan niet de mening van anderen meer respecteren of leren te negeren.

[totaalgeenhard]

Niet alleen online.

Je hoort politici zeggen dat bepaalde mensen lage incassering vermogen hebben, zonder daar duiding aan te geven wat acceptabele incassering- vermogen zou moeten zijn.

Des ondanks zie ik dat als je het over bepaalde "rassen" hebt je van alles (ook als politici) mag roepen, maar zodra je het over b.v. Joden hebt er in eens heel veel ophef is.

Maar zolang mensen zich niet geheel kunnen uiten, zal men frustraties opbouwen en dat op negatieve manier gaan uiten.

Ik moet helaas weleens mijnheer Wilders verdedigen, ongeacht of ik wel /niet zijn meningen deel, valt het me op dat mensen niet begrijpen dat hij een provocateur is en dat wat hij telkens uit door heel veel mensen alleen maar gedachten blijft rondhangen en dat het beter is dat mensen daar uiting aangeven dan het wel denken maar niet laten merken.

Mensen die weleens een periode van hun leven dagelijks in een stamkroeg hebben gehangen, kunnen bovenstaande beamen. Zeker als je later in kantoren hebt gewerkt, merk je duidelijk dat mensen wel dingen denken, maar zichzelf censureren en zoveel mogelijk (soms geforceerd) politiek correct over willen komen, zeker bij de ambitieuze managers, die hogerop willen zie je veel hypocrisie, hielenlikkerij en ellebogen werk.

[Verwijderd]

Ik denk dat ik me zorgen moet gaan maken. Natuurlijk gaat de admin van een website de knoppen draaien als dit als software uitkomt. Hoe streng stel je het in. Mensen vinden mij vaak off-topic. Sorry dat ik verbanden zie die anderen niet zien, of dingen niet zo isoleer totdat ze los komen te staan van de realiteit.

De vraag is of het goed is dat mensen gedwongen worden in een tunnel te denken. Bepaalde woorden, patronen van denken, grammatica, stijl... en je ligt er af. Erger, er kan een profiel worden gemaakt en gedeeld met gelieerde websites. Nog erger, de geheime diensten willen een kopie. Mocht je stout zijn, dan kan je profiel vergeleken worden met wat iemand ooit schreef.

[EraYaN]

Dat is nu netzo goed zo.. Admins wisselen hele lijsten gebruikernamen uit* en bannen die personen allemaal. Mods zijn nu juist super subjectief, liever een mod die objectief is, zolang de regels duidelijk zijn zul je je er aan moeten kunnen houden (of niet maar dan neem je de consequenties maar)...

En als men de regels niet aan staat wat doet men dan nog in die community.

* bij game servers and private communities gebeurt dit maar ook bij subreddits en fora.

[Verwijderd]

Het lijkt mij dat beiden toch gebruik maken van een ander woorden arsenaal. Zo zal het negatiefisme van een trol vaak feller of harder zijn vormgegeven.

[Verwijderd]

Een echte prof trol scheldt niet en typt fatsoendelijk. Maar die zijn heel heel schaars. Zullen eerder cia agenten zijn die een discussie proberen te veranderen.

[Verwijderd]

Precies, laat staan dat een goede troll zeer eenvoudig deze censuur kan omzeilen door gewoon op een indirecte manier te trollen. Er zijn genoeg manieren om een reactie uit te lokken bij anderen, niet enkel beperkt tot wat standaard statistische dingetjes die dit algoritme herkent. Als het taalgebruik van de trol afwijkt van de rest, zal de trol zich simpelweg aanpassen.

[Verwijderd]

160 wordt als zeer begaafd gezien. Volgens mij spreek je jezelf een beetje tegen.

[Shakesbeer_NL]

Volgens mij trolled hij je

[Verwijderd]

Mijn algoritme zegt dat dunpealhunter een trol is.

[dunpealhunter]

http://i.imgur.com/zUUt6yi.jpg Ik had beet! waarom moeten jullie alles weer zo verpesten?

Wel, als er een nieuwsartikel is vandaag om op te trollen, dan is het deze wel. Kunnen we meteen zien of het systeem hier ook is ingebouwd

[Reactie gewijzigd door dunpealhunter op 22 juli 2024 14:22]

[Teijgetje]

Dom, idioot en een IQ van 160 gaat niet samen.
Met zo`n hoog IQ erger je je eerder aan de "domme" 99,997% van de mensheid die bepaalde dingen simpelweg niet kan snappen.
Hoogbegaafden verdoen hun tijd dan ook niet aan trollen, ze zullen je iets uitleggen en daar houdt het op; je kan een koe niet leren vliegen.

[dunpealhunter]

http://www.tonyrogers.com/humor/images/flying_cow.jpg

http://thumbs.dreamstime.com/x/flying-cow-4096552.jpg

I rest my case.

[Teijgetje]

En daarom deed de hoogbegaafde dat dus al eerder.....als hij dan ook nog uit moet gaan leggen dat hij met koe een beest bedoelt en geen ballon of Photoshop-foto, dan is het gewoon niet uit te leggen.

[dunpealhunter]

Wat is niet uit te leggen precies? Je hebt mijn volle attentie.

[mae-t.net]

Onzin. Waarom zou een hoogbegaafde niet trollen? Dat heeft immers meer met karakter of levenshouding te maken dan met intelligentie.

[Teijgetje]

Misschien omdat hij inziet dat al die posts op internet er helemaal niet toe doen en eigenlijk tijdverspilling zijn?
Vragen die over en over gesteld worden en al zo vaak beantwoord zijn dat Google daar extra opslag voor heeft moeten plaatsen, om nog steeds niet gevonden te worden door desbetreffenden met een simpele zoekopdracht.
Miljarden meningen, waar iedereen recht op heeft, maar waarbij, als de ander echt blijft geloven/verdedigen dat je een koe kan leren vliegen, hij dat maar zo laat?
Omdat iedereen zijn eigen waarheid heeft..... en je er vroeg of laat dan zelf wel achter komt dat je geen vleugels kan laten groeien aan een koe?

Maar je hebt gelijk het is meer je levensinstelling, lekker anderen zieken, stoken of anderen tot op het bot anoniem beledigen. zielig vanachter hun veilige toetsenbordje, om zich beter (dan de ander) te voelen.
(waarbij die hoogbegaafde natuurlijk al weet dat hij beter is en tot een select groepje van 0,003% van de mensheid behoort, daar heeft hij internet niet voor nodig)

[Reactie gewijzigd door Teijgetje op 22 juli 2024 14:22]

[DirtyBird]

Wel moet daarvoor en voor het blootleggen van details van trollen de software verder worden ontwikkeld. Momenteel pakt het algoritme iemand die extremer over de schreef is gegaan namelijk eerder op dan iemand die bijvoorbeeld een keer iets heeft geplaatst wat niet door de beugel kan.

Dit is juist wenselijk toch? Zo kan iemand een keer een misstap maken zonder meteen geband te worden en iemand die het te bont maakt pakt de software eruit.

[WillySis]

Je hoeft niet iemand meteen te bannen, maar alleen een enkele post die niet door de beugel kan is ook een mogelijkheid.

[Amanoo]

Ik vraag me af of het algoritme in staat is om mijn soort trollen te detecteren. Vaak post ik half gemeende opmerkingen met een handjevol cynisme en slechts een vleugje uitlokken. Als de Amerikanen bijvoorbeeld weer zoveel onschuldigen dood dronen zal ik vervolgens uiteenzetten waarom de Amerikaanse overheid zelf een terroristische organisatie is, soms onderbouwd met data en bronnen. Dat wil dan ook nog wel eens reactie en discussie uitlokken.

Of soms een ad absurdum, meestal door behoorlijk rechtse opmerkingen, maar nog niet zo extreem dat het niet serieus zou kunnen zijn. Mijn werkelijke mening is dan het tegenovergestelde van wst ik zeg, maar mijn doel is dan om veelgebruikte opvattingen of dooddoeners waar ik een hekel aan heb belachelijk te maken.

Het punt is, mijn vorm van trollen is slechts gedeeltelijk trollend en gedeeltelijk bedoeld als serieuze bijdrage. Ik probeer er vaak een zeker evenwicht tussen te vinden. Het wil dan ook nog wel eens net zo subtiel zijn dat heel mensen het niet helemaal door hebben.

Ik denk echter niet dat je deze opmerkingen wil verbannen. Ze zijn niet in elke discussie even gewenst, maar kunnen toch nog wel eens als serieuze bijdrage dienen. Het is dan ook nooit iets extreems zoals rechtstreeks racisme, seksisme of zelfs bedreiging.

[Toff]

Jouw gedrag is op Internet nog moeilijker te doorgronden dan IRL. Als jij serieus mee wil doen in een discussie of in een groep en je wordt keer op keer de mond gesnoerd, dan ga je vanzelf je gedrag aanpassen, omdat voor jou het "trollen" geen doel op zich is, maar een middel om je doel te bereiken.

[Verwijderd]

Al eens aan gedacht wat er zal gebeuren als dit soort algoritmes losgelaten wordt op Facebook, discussiegroepen en andere sociale fora wereldwijd? Google en Zuckerberg staan waarschijnlijk al te springen om deze ontwikkelingen op te kopen en te implementeren. En zijn we echt zo naïef om te denken dat dit het probleem van online asociaal gedrag zal oplossen? Wees er maar zeker van dat de echte oorzaak van trolgedrag zich een andere uitweg zal banen als het niet meer in sociale media geventileerd kan worden. Een stijging van de criminaliteit in de offline wereld lijkt me zeker geen onmogelijk scenario.

Je kunt je trouwens afvragen hoe geestelijk ontwikkeld iemand is als hij denkt behoefte te hebben aan een digitale engelbewaarder om zich niet uit het lood te laten slaan door een trol. Als een trol iemand zo emotioneel kan beïnvloeden dat hij eronder lijdt, dan heeft die persoon werk te doen aan z'n eigen gedrag, niet aan dat van de trol. Sterker nog, je zou kunnen zeggen dat trollen een uitdaging vormen om jezelf geestelijk nog wat meer te ontwikkelen tot het niveau dat je emotioneel zo sterk bent dat je een trol voor de volle 100% kunt negeren. Dat trollen "digitale vervuiling" veroorzaken is een nep-argument; in software kun je makkelijk filters instellen die de berichten van persoon X tegenhouden zodat ze niet eens je scherm bereiken. De echte vervuilers zijn dan degenen die er niet in slagen de trol te negeren en er toch blijven op ingaan. Bovendien, of het gedrag van een ander "asociaal" wordt gevonden of niet zou voor iedereen een individuele keuze moeten zijn, niet de keuze van een algoritme. De meeste mensen hebben werkelijk nog geen idee tot wat dit soort "mooie ontwikkelingen" kan (en zal) leiden.

Zoals al tijden voorspeld in allerlei films en literatuur: er gaan gewoon twee maatschappijen ontstaan. Aan de ene kant een maatschappij van degenen die zich vrijwillig overgegeven hebben aan de machine en hun eigen geest en persoonlijkheid ondergeschikt hebben gemaakt aan de wil van de computer en z'n algoritmes, en aan de andere kant een (veel kleinere) maatschappij van mensen die individualiteit, persoonlijkheid en diversiteit nog steeds naar waarde kunnen schatten en dat nooit zullen kunnen opgeven.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 14:22]

[Hostile Nob]

Kijk, als ik een site run en ik merk dat al mijn bezoekers weggaan, vanwege trolls, dan ga ik niet tegen de vertrokken bezoekers zeggen dat ze moeten gaan mediteren tegen trolls, omdat ze "geestelijk beïnvloed" worden door de trolls. Nee, zo'n algoritme is zeker niet een engelbewaker van de internet, maar het levert wel de winst op om de trolls op de site van de eigenaar te weren. Natuurlijk zullen echte goeie trolls wel een andere manier vinden om te trollen, maar dat betekent niet dat zo'n methode niet effectief gebruikt kan worden om tenminste een grote deel van de trolling-community te belemmeren, zodat de bezoekers niet verjaagd worden. En over je laatste alinea. Als iemand in het heden op de internet komt, dan heeft die sowieso al zichzelf min of meer overgegeven aan de computers. Dus wat je literatuurs voorspeld hebben, is technisch gezien allang uitgekomen nog voordat deze algoritme naar buiten is gekomen.
Wil niet zeggen dat wat je zegt helemaal geen kern van waarheid bevat. Het is zeker weten waar dat gebruikers self-control moeten uitoefenen, om vooral niet te happen aan bepaalde nonsense-reacties, maar voor sites eigenaren is dat gewoon niet zo relevant, omdat het voor hun uiteindelijk draait om hun bezoekersaantallen en hun community te beschermen.

[MarcoDaz]

Ik vind dat tegenwoordig overal het woord troll te pas en te onpas gebruikt wordt. Ik ben van mening dat een troll iemand is die op het internet grapjes uithaalt met andere mensen. Volkomen onschuldig en leuk.

Helaas is in de loop van de jaren het internet zo ontwikkeld dat niks meer te gek is en dat alles maar kan. Alles moet groter, sneller, meer en zo dus ook het trollen. Waar je vroeger nog een link stuurde naar iemand die informatie vroeg over een bepaald onderwerp, krijgt deze persoon tegenwoordig verschillende ziektes en vooroordelen naar het hoofd gesmeten.

Waar men vroeger nog grappig was door een overduidelijk fout antwoord te geven op een serieuze vraag, worden nu complete swatt teams gestuurd en valse meldingen van misbruik gemaakt.

Trollen is niet meer het zelfde en ik denk dat een groot deel te maken heeft met nieuwe internetgebruikers. Kinderen die nu onbeperkt en vrij toegang hebben tot het internet zien de vrij onschuldige trolls hun ding doen en denken "Hee, het is het internet! Alles kan en alles mag! Niemand hoeft te weten wie ik ben!". Iets dat echt pas sinds de laatste jaren normaal gevonden wordt is dat kinderen (te) vaak vanaf een jaar of 8 al vrijwel onbeperkt toegelaten worden op het internet, vaak zonder toezicht. Deze kinderen wanen zich compleet anoniem wat ze een vrijkaartje geeft om maar de ergste verwensingen uit te kramen die ze kunnen bedenken en in sommige gevallen dus swatt teams te sturen of andere zieke "Grappen" (al verwacht ik dat dat niet door kinderen van 8 gedaan wordt, hoewel, je weet maar nooit; het internet kan een zieke plaats zijn;) ).

[jj71]

Ik ben van mening dat een troll iemand is die op het internet grapjes uithaalt met andere mensen. Volkomen onschuldig en leuk.

Dat kun jij wel zeggen, maar er zijn helaas nu eenmaal allerlei mensen die het leuk vinden om anderen te ergeren. Dan is het niet meer onschuldig en leuk. En dit zijn niet alleen maar nieuwe internetgebruikers, maar allerlei soorten mensen, van jong tot oud.

Ik ben mede-moderator op een website met forums. Zo nu en dan hebben we te maken met een troll, die met opzet probeert mensen te irriteren door allerlei onzinnige vragen te stellen. Dat is niet meer onschuldig en leuk, en die persoon verpest de sfeer en de waarde van de website. Als moderators kunnen we zo'n gebruiker onzichtbaar maken. Hij denkt dan zelf dat hij nog berichten kan posten, maar niemand krijgt zijn berichten te zien. De bedoeling is dat de troll het zat wordt als hij merkt dat er geen mensen in zijn uitlokkingen trappen en vanzelf weggaat.

[Reactie gewijzigd door jj71 op 22 juli 2024 14:22]

[MarcoDaz]

Dat is een goede manier om de troll te trollen

Anyway, waar ik op doelde was meer de gematigde troll. Kan in principe geen kwaad zo lang deze persoon niet in serieuze fora gaat lopen ouwehoeren.

[mad_max234]

Dat zou wel handig zijn voor hoop sites, want sommige kleine sites moeten gewoon stoppen met hun activiteiten omdat ze niet dag en nacht moderators kunnen vinden/betalen. Valt spam hier ook onder, want dat moet toch ook wel met soortgelijke tool dan te herkennen zijn.

[Kalief]

Trollen zijn passé omdat iedereen ze inmiddels herkend. Tegenwoordig zijn beroepsreageerders een grotere plaag: groepen mensen die vanuit ideologische motieven proberen reacties over een onderwerp te spinnen.

Twitter is één van de sites die in toenemende mate kampt met trolls. Het bedrijf probeert om met behulp van telefoonnummers te voorkomen dat verbannen gebruikers, die andere gebruikers intimideren, steeds nieuwe accounts aanmaken.
Dit heeft niks met trollen te maken, dit zijn gewoon stalkers.

[Reactie gewijzigd door Kalief op 22 juli 2024 14:22]

[mad_max234]

Ban is wel degelijk voor trollen, en daarna worden ze ook nog stalkers en zulle vast nog wel meer mankeren anders doe je dat niet. Maar andere benaming los het probleem niet op, hoe je het ook noemt het blijft hetzelfde probleem.

[masauri]

Dit is niet alleen handig voor trollers, maar ook voor mensen die enkel spam berichten posten als ze op een forum geregistreerd geraken.
"buy online viagra shit", "cheap ray ban glasses!" enz.