Discord komt met moderatietool die ongewenst woordgebruik automatisch opspoort

Discord heeft een nieuwe moderatortool geïntroduceerd waardoor admins en moderators door hen niet toegelaten geschreven woordgebruik op Discord-servers automatisch kunnen opsporen en blokkeren. Het taalgebruik wordt onderschept voordat de boodschappen gepost worden.

Admins en moderators kunnen via Automod eigenhandig maximaal drie woordfilters instellen met daarin geschreven woorden of zinnen die ze als ongewenst beschouwen en niet willen ontvangen. Ze kunnen ook een automatische Engelstalige woordenlijst gebruiken van Discord die regelmatig geüpdatet wordt. Welke woorden er op die lijst staan, wil Discord echter niet meedelen.

Het wordt via Automod ook mogelijk om aan de woordenlijsten een bepaalde actie te koppelen. Zo kan de geschreven boodschap geblokkeerd worden, de verzender van de boodschap een tijdelijke time-out krijgen of kan de admin ingelicht worden over het taalgebruik. Er kunnen per woordenlijst ook uitzonderingen ingesteld worden en gebruikers krijgen de optie om variaties op niet-toegelaten woorden op te sporen en te blokkeren.

Automod bestaat voorlopig uit woordfilters, maar Discord stelt dat het werkt aan extra filters die in de toekomst in staat moeten zijn om andere ongewenste inhoud op te sporen of te weren. Wat die inhoud is, maakte het bedrijf niet bekend. Het bedrijf meldt dat de zopas geïntroduceerde filters ook werken op links en spam. Voorlopig hebben enkel de Discord-servers met een Community-server de optie om Automod te gebruiken.

Discord Automod

Reacties (59)

[florisvdk]

Uit ervaring op een grote server met meer dan 12000 leden werkt dit niet echt goed. We hebben het als moderators opgezet als test en de meest domme dingen worden gemarkeerd. bv: title word gemarkeerd omdat dit tit bevat.

[UPPERKEES]

Of doCUMent, wat ook niet mag. Ik snap echt niet waarom Discord zo populair is. Tooling is een hit and miss. Het is tijdrovend om de communities te volgen. Modereren is een hell, helemaal met dit soort tools.

Waarom gebruiken mensen niet meer een forum? Veel beter en handiger. Ook de tooling is beter: https://www.discourse.org/plugins/perspective.html

[Nimja]

2 redenen:

* Het is een API first applicatie, dus alles is toegankelijk via REST api wat een gebruiker in de interface ook kan.
* Ze zijn beter dan Skype

---

(Nog wat meer echte redenen)

Het is volledig gratis als gebruiker, ongeacht hoe groot je server is. De 'extra' features die achter nitro (betaling) zitten zijn super optioneel.

En geen spam in de app.

[Reactie gewijzigd door Nimja op 22 juli 2024 14:30]

[UPPERKEES]

APIs heb je overal. En lijkt mij niet dat de meeste users op Discord zitten voor de API. Met Matrix kan je ook een hoop integreren, wat ook weer samen met Discourse kan. Maar goed, alles heeft eigenlijk wel een API met veel mogelijkheden. De noise cancellation is inderdaad erg goed van Discord. En als men het voor dat zou gebruiken, dan snap ik het. Maar tegenwoordig lijken mensen te denken dat het handig is om met z'n allen in 50 channels per "server" informatie te stampen zonder structuur in die informatie. Wat ik vaak zie zijn dezelfde gesprekken keer op keer. En elke keer moet het weer vanaf 0 beginnen, want er zit geen structuur in. Forum is in alle opzichten beter. Chat is alleen leuk voor in the moment, maar niet als knowledge base, support of grote community building.

[Bouwer21000]

Omdat er genoeg bots zijn gemaakt door andere mensen die veel betere filtering hebben, zoals YAGPDB.xyz. De tools die Discord zelf levert zijn inderdaad niet toereikend voor grote servers, maar zolang er bots beschikbaar zijn om hiermee te helpen hoeft dat ook niet per se.

[UPPERKEES]

Ook al zou je de bots verbeteren. Het blijft een chaotische bende dat Discord. Forums zijn een veel logischere keus.

https://blog.discourse.or...together-with-group-chat/

[YopY]

Ah ja het bekende Scunthorpe probleem; je zou denken dat ze daar wel over nagedacht hadden. Super eenvoudige woordfilter dus, blijkbaar.

[CodeCaster]

https://thedailywtf.com/articles/The-Clbuttic-Mistake-

[Evilcoocie]

Mijn ervaring met discord zijn eigen woordenfilter,
Veelste streng en te “Amerikaans” (mocht dat een ding zijn) jammer maar helaas!
Uiteindelijk toch een eigen woorden filter moeten toepassen.
Een fijne toevoeging is dat je een “woordfilter excluded” channel kan maken wat dan daardoor ook gelijk een nsfw tag krijgt.. handig!

[Reactie gewijzigd door Evilcoocie op 22 juli 2024 14:30]

[Meg]

Het jammere van een channeld die gemarkeerd is als NSFW is dat je daar als <18 geen toegang tot krijgt en het pas kan krijgen zodra je 18< bent.

Een NSFW-channel hoeft natuurlijk niet altijd NSFW te zijn.

[Evilcoocie]

Ja dat heb ik inderdaad gelezen.. volgensmij ( bij mij teminste) was er geen check.. en heb ik dit met een rol opgelost.
Waarbij iedereen dus er alsnog bij kan..

[Meg]

Dat kan dus niet, v.g.m. moet je je leeftijd opgeven.

[Senn19]

Ik heb toen ik regelmatig Discord gebruikte en in veel servers zat gewoon altijd in NSFW channels gekund, heb nog nooit ergens wat in hoeven te voeren. Ook niet toen ik onder de 18 was.

[crazyboy01]

Het is in ieder geval nu wel zo dat als je daadwerkelijk instelt dat een kanaal NSFW is (dus niet alleen het naampje NSFW geeft), dat de eerste keer gevraagd wordt om je leeftijd te bevestigen. Als je dan eenmalig even liegt kom je er natuurlijk wel in. Of je daarna nog waarschuwing krijgt ligt ook allemaal maar aan de instellingen.

[GekkePrutser]

Het grappige is dat Amerikanen ontzettend preuts zijn als het op bepaalde woorden aankomt zoals het F-woord. Met name als het in publiek is of vastgelegd wordt (zoals een chat).

Terwijl ze als je ze in eigen persoon ontmoet ze alles en iedereen verrot schelden als het maar niet vastgelegd wordt. Zo hypocriet.

Bijvoorbeeld: Ik werd een keer aan een telefooncel (lang geleden ja) aangesproken door een 'dame' die wilde bellen. Die noemde me van alles en nog wat, fuck dit fuck dat. Vervolgens zeg ik "fuck you too" en ze wordt woest (nog woester ja) omdat ik dat zei in het bijzijn van haar kinderen . Het zat haar echt hoog dat ik dat zei waar haar kinderen bij waren, terwijl ze er zelf mee begon. Het was ook een raar tokkie viswijf hoor, daar niet van. En het was geen Amerikaanse maar een Australische. Ik zie echter wel veel overeenkomsten tussen deze culturen.

Maar die dubbele moraal, dat kan ik gewoon niet begrijpen.

[Reactie gewijzigd door GekkePrutser op 22 juli 2024 14:30]

[Tielenaar]

Ik ben actief in een zeer actief gemodereerd/gecensureerd discord kanaal en kan je vertellen dat de mods (veelal amerikanen) die daar modereren in de afgeschermde kanalen nog groffer zijn dan je zou denken.
Het helpt wel enorm om de sfeer in de open kanalen een beetje vrolijk te houden met een zero-tolerance beleid, anders wordt het gewoon al heel snel een grote ongeorganiseerde scheldpartij. Dat is ook weer niet zo prettig.

In een ander kanaal waar vooral volwassenen komen en geen censuur wordt toegepast is de sfeer ook prima, dat dan weer wel. Het zijn gewoon de tieners die graag misbruik maken van de mogelijkheid om alles te kunnen zeggen.

[Selbiecookie]

Ik vind dit een leuk idee om als tool te hebben, vooral voor grotere communities.
Als community beheerder heb ik al een tijdje mee zitten kijken naar deze ontwikkeling, maar helaas zijn er nog regelmatig situaties waarin bepaalde woorden worden gefilterd die eigenlijk heel onschuldig zijn.
Het is niet voor niets nog in Beta, dus verwacht dat er soms berichten worden gemodereerd waar niks mis mee is.

[UPPERKEES]

Groepschat is inherent moeilijk te modereren. Leuk deze tools en patches, maar wat je eigenlijk wilt zodra je community groeit is een forum. Waarbij je threads per topic hebt, die dan ook door search engines geïndexeerd worden. Ooit wel eens een groepschat gevonden als search hit? En ook al zou je een snippet vinden, zo'n chat is niet gestructureerd. Meerdere onderwerpen gaan er vaak doorheen.

Dus wil je beter kunnen modereren met minder tijd en moeite, check dan Discourse (forum). En check dan deze plugin, die wel echt intelligent is met woorden checken: https://www.discourse.org/plugins/perspective.html

[CodeCaster]

Discourse is echt een draak qua UX, met al z'n ajax-calls en het wissen van het scherm zodra je een link aanklikt.

[UPPERKEES]

Wat bedoel je precies? Ik gebruik zo'n 10 Discourse forums en dit klinkt niet erg bekent. Kan je het anders formuleren?

[CodeCaster]

Zie hier hetzelfde principe dat ik ooit heb opgenomen bij Imzy, wat een Reddit-killer had moeten worden: https://youtu.be/Wrm0mGYk5Yc

Discord doet dat op dezelfde manier, en ik vind dat bloedirritant.

[UPPERKEES]

Ik zie dat nooit gebeuren hoor. Maar je kan veel in Discourse (zegt net Discord), ook je eigen themes gebruiken en zo.

Een voorbeeld van een vanilla Discourse forum met alleen official plugins: https://forum.tzm.community/

Alleen de content die ververst moet worden wordt ververst. Maar ook al was dat niet het geval. Discord komt met nadelen die praktisch meer in de weg zitten. Zoals het volgen van een topic. Sure er zijn tegenwoordig threads. Maar dat is nog steeds niet het gemak van forum threads. Het meeste zijn nog steeds mixed subject gesprekken in group chat. Probeer daar maar eens chocolade van te maken.

[Bouwer21000]

Een forum is niet hetzelfde als Discord-chatrooms, simpelweg een heel ander platform. Zelf ervaar ik forums als verouderd, langzaam en niet zo dynamisch als Discord.

Het zijn beide gewoon andere platformen met andere doelgroepen.

[pharmacist]

De vraag is of het algoritme zo slim is om onderscheid te maken tussen bijvoorbeeld: "Ik wil dat die kl**tz*k wordt onth**fd" of je zegt: "ik spreek de diepe wens uit dat die inferieure sujet onderworpen wordt aan cervicale dislocatie". Ik vermoed toch dat de types die gebruik maken van de eerste versie toch niet zullen begrijpen wat de erudiete versie, maar toch op hetzelfde neerkomt, zal betekenen. In beide gevallen is de intentie hetzelfde. Echter ik vermoed dat gaandeweg men wel zich zal aanpassen om codewoorden te gaan gebruiken om bepaalde foute ideeën te kunnen uiten zonder dat het algoritme het kan herkennen als foute boel.

[Reactie gewijzigd door pharmacist op 22 juli 2024 14:30]

[Verwijderd]

Zal wel meevallen. Denk dat het voornamelijk bedoeld is voor hele grote communities waar niet zoveel overzicht is?

Onthoofd is trouwens geen scheldwoord.

[Kalief]

Ð!kkè Ŀųǀ 3 ƁīƎƦ

Veel plezier met je regex.

[Verwijderd]

oh nee...
Er zal vast wel een of andere filtertool ervoor bestaan...

[Tielenaar]

Die zijn er zeker. Alleen is het lastig te zien of nou een i of een L werd bedoeld zijn als iemand een ! typt. Maar ook daar zijn weer oplossingen voor.

Dit zal niet ingebakken zijn in deze discord filter, dan moet je toch echt met je eigen bot gaan werken. Daar zijn er ook al genoeg van, werkt tot op heden imo prima.

[JackDaniel]

Er is niet echt een algoritme dat hier een rol speelt. Deze functie is in principe wat veel moderatie bots al heel lang doen. Het is een mooie toevoeging om te hebben, zeker voor kleinere servers, maar ik vind het wel jammer dat het zo ontzettend versimpeld is.

Voor grote servers heeft dit eigenlijk niet of nauwelijks nut. Kijk bijvoorbeeld naar de regex die wij op onze server gebruiken om specifieke spam te filteren:

steam_scam_filter_2:
triggers:
- match_links:
include_regex:
- '/st[^/]{0,6}c[^/]{0,3}(m|n)[^/]{0,4}(y|u)[^/]{0,15}\./i'
- '/(d|b|d(l|i))(i|l)(s|c|z)[^/]{0,3}o[^/]{0,15}\./i'
- '/[^/]{0,15}n(1i|i|l)(tro)[^/]{0,15}\./i'
- '/[^/]{0,15}(gift)[^/]{0,15}\./i'
exclude_regex:
- steamcommunity\.com
- discord\.com
- discord\.gg
- discordapp\.com
- discord\.media
- discordapp\.com
- discordapp\.net
- discordstatus\.com
- discord\.co
- discord\.gift
- discordgift\.site
- urbandictionary\.com
- discord\.jpg
- discord\.png
- betterdiscord\.app
- crunchyroll.\com
case_sensitive: false
actions:
clean: true
log: false
mute: {}
alert:
channel: "543757010290868225"
text: |-
:Steam: Suspected steam scam
{logMessage} 

En dat is slechts één voorbeeld, we hebben een hele waslijst van dit soort regex voor allerlei zaken. Afijn, zo lang Discord bot devs de nodige vrijheid geeft maakt het niet zo veel uit. Zou wel heel mooi zijn als dit Discord filter ook onderdeel wordt van de API zodat bots het kunnen gebruiken.

[Robbierut4]

Uiteraard niet. Maar dit zal hoogstens een aanvulling zijn op het moderatieteam, geen volledige vervanging. Dat lijkt mij ook vrij logisch toch?

[YopY]

idd, moderatie blijft uiteindelijk een kwestie van gelaagdheid en capaciteit; voor Discord heb je bijv. dat spam accounts al aan de poort geweigerd worden. Dan kun je de "luie" trolls met dit soort filters tegenhouden of iig ontmoedigen, en dan blijft er een klein restant over dat met de hand gedaan moet worden.

Maar dat zie je overal op internet terug; alle bedrijven hebben tegenwoordig een klantenservice waar je eerst door een FAQ moet, dan krijg je een chatbot dat eigenlijk een zoekmachine voor die FAQ is + een filter voor welke afdeling ze je naartoe moeten verwijzen, en dan pas kom je een persoon tegen. Als ze dat niet deden hadden ze 100x zoveel mensen nodig. En bij grote online diensten - ik noem een Google, Facebook - zouden ze dan honderdduizenden mensen nodig hebben alleen al voor moderatie of customer support - als ze al zoveel niet hebben.

[Mangu429]

Of simpelweg wat spaties en letters in een woord plaatsen zoals in gaandeweg.

[pharmacist]

yup, my fault, vergelijkbaar met fouten als toendertijd ipv het juiste toentertijd : ).

[Settler11]

depenisvanjezus hihi

[Stranger__NL]

Waarom meteen persoonlijk aanvallen? Dit is Tweakers: we gaan voor de inhoud op niveau.Het voorbeeld was heel duidelijk en geeft meteen aan waarom woordfilters totaal niet werken.

Op TikTok heb je ook filters. Dus hebben ze het daar over unaliving, s-eggs en spicy-pictures.... 😳

[dieAndereGozer]

Voelt een beetje als https://www.curseforge.co...bukkit-plugins/antikanker

[crazyboy01]

Voelt dit niet een beetje als ieder woordfilter ooit op welk platform of game dan ook? Is wel bobba handig

[Wolfos]

Leuk maar gaan ze eens iets aan die spammers doen? Je kunt nog steeds een grote server binnen gaan en daar alle 50.000 gebruikers een direct message sturen. Of ze moeten handmatig DM's uit hebben gezet.

[GekkePrutser]

Lol... Ik gebruik nooit Discord maar dit klinkt wel als IRC

Had wel gedacht dat zo'n commerciele dienst waar je je verplicht moet registreren (anders dan bij IRC) daar wel een beter antwoord op zou hebben.

[Reactie gewijzigd door GekkePrutser op 22 juli 2024 14:30]

[Dazenet]

Het was in den begninne ook erg gericht op IRC gebruikers.
Ik vind Discord sinds een jaar ofzo veel te commercieël worden en er zijn veel te veel updates.

Dit soort toevoegingen kan leuk zijn als het goed werkt, maar je krijgt al snel situaties waarbij bijvoorbeeld "slagroom" geblokkeerd wordt. Ik baseer dit even op GTA, waar een Nederlandse conversatie soms onbegrijpelijk is door de hoeveelheid *****.

Even vreselijk off-topic...
(Maar ik hoop dat dit gelezen wordt door Discord begruikers )

Kan iemand mij een DM sturen als je weet waarom mijn Discord bij een inkomende voice-chat alleen het eerste woord laat horen en daarna niets meer (van de inkomende partij. Al het andere geluid, inclusief die van Discord zelf werken prima).

Ik heb werkelijk alles al geprobeerd om dit te verhelpen, andere server, herinstalleren, andere geluidskaart, instellingen gewijzigd

Eeuwige roem voor diegene die mij verlost van dit probleem.

[lulkoekje]

Als je muziek afspeelt, verdwijnen de vocals dan ook na een paar seconden?

Zo ja, dan staat er iets van karaoke mode aan op je pc..
Ik had nl iets soortgelijks, alle stemgeluiden verdwenen, van zowel film als muziek. Blijkbaar had ik onbewust een toetsencombinatie gevonden welke de karaoke mode aanzette op mijn audio device, knettergek werd ik ervan...

[Dazenet]

lulkoekje ..prachtige naam!

Ik weet niet of/waar een karaoke mode zou moeten zitten in Discord/Windows.
Wat ik wel weet is dat het niet met Krisp of iets dergelijks te maken heeft.
...en...ik zal het nog eens proberen, maar als ik mij goed herinner dan stopt muziek die in Discord speelt ook na een aantal seconden. Het heeft niets met Windows zelf te maken, zelfs de biepjes van Discord spelen gewoon af.

Dit is typisch zo'n probleem wat er nooit was, je niets veranderd, en ineens werkt het niet meer.

Bedankt voor je input

[Linksquest]

Ga deze functie zeker eens bekijken, hebben soms van die spammers die echt dingen roepen die niet door de beugel kan.

[FPSUsername]

Elke channel heeft wel de dyno bot. Goed dat het als optie erbij komt, maar niet heel erg nuttig.

[curkey]

Wordt een grandioos succes als je Dick DeCock gaat vragen of al hersteld was van de Viagra prank van zijn collega's.

[dieAndereGozer]

Je had toch Dik Kok die toen int Engels een praatje starte met:"My name is..."

Mooi man.