Roblox gaat met AI scheldkannonades in chat vervangen door nette bewoordingen

Chips! Als gebruikers willen schelden in een chat in Roblox, gaat een nieuwe functie niet alleen scheldwoorden blokkeren, maar ook de intentie proberen te achterhalen en op basis daarvan nette bewoordingen te vinden.

Roblox heeft al een scheldfilter in chat, maar die laat in plaats van scheldwoorden simpelweg hekjes zien. Daardoor gaat de boodschap verloren en dat is niet wenselijk, zegt Roblox. Daarom gaat het kunstmatige intelligentie gebruiken om scheldwoorden te vervangen door nette bewoordingen. "Bijvoorbeeld, een bericht dat het vloekbeleid van Roblox schendt, zoals 'Schiet f*cking op!', zou voorheen in de chat van een ervaring zijn verschenen als '####'. Dit zal nu worden geherformuleerd naar 'Schiet op!'. Deze nieuwe laag is ontworpen om de beleefdheid te bewaren door het taalgebruik aan te passen."

Het werkt gelijk in alle talen. Roblox maakt duidelijk aan iedereen in de chat dat AI het bericht heeft aangepast om de taal netter te maken. Dat gebeurt met een melding in de chatbox. De functie is per direct beschikbaar.

Roblox realtime rephrasing

Reacties (43)

[latka]

Is dit een geautomatiseerde versie van 1984 newspeak?

[R_Zwart]

Is het censuur als er wordt verzocht je een beetje netjes te gedragen? Als jij jet collega's verrot scheld en de werkgever treeedt daar tegenop, vind je dat dan ook censuur?

[BeefHazard]

Tegenpunt: is het niet een trede naar een samenleving waar machthebbers invloed uitoefenen op communicatiemiddelen door letterlijk de woorden van gebruikers te herschrijven? Ik sta hier op de rand van een glijdende schaal-argument, maar met de invloed van een president op de koers van grote techbedrijven - waar de halve wereld via communiceert - vrees ik dat we in de toekomst alleen met cryptografische systemen de authenticiteit van onze communicatie kunnen garanderen.

[iskelmaikel]

Of is het een trede terug in een samenleving waar lomp gedrag en algemene verloedering voorop staat? Fatsoensnormen lijken steeds verder af te nemen doordat we al decennialang (pseudo) anoniem op het internet te vinden zijn en schijnbaar is het een dusdanig veelvoorkomend probleem dat hier vraag naar is.

De boodschap wordt niet vervangen, maar scheldwoorden worden gefilterd.

[Kevinp]

Mee eens, maar de oplossing is niet om gevloek te filteren. De oplossing is dat de samenleving dat gevloek niet tolereerd en deze persoon negeerd.

[DeCo]

Het is een platform voor kinderen. Heb ik daarmee genoeg gezegd?

[JeroenH]

Je "bevindt" (post) iets in een ruimte die van iemand anders is. De eigenaar mag huisregels opstellen, lijkt me op zich niets geks.

Als je het er niet mee eens bent (en bij het geautomatiseerd wijzigen van je posts kan ik dat goed snappen), dan stemmen met je voeten. Dat is zo'n beetje het enige waar dit soort bedrijven gevoelig voor zijn.

[Stukfruit]

Alleen als de eigenaren van Roblox in de administratie van Trump zitten

Hint: censuur komt doorgaans ergens anders vandaan.

[Schway]

Als je dat denkt dan begrijp newspeak niet.

[supertanno]

Waarom moet dat met AI? Op Habbo doen ze dit al decennia.

[FPSUsername]

Omdat AI deels kan interpreteren, waarbij simpele filters dat niet kunnen. Je kunt een enorme database opzetten die bijna alle scenarios kan opvangen, maar een AI inzetten is sneller.

[Sp3ci3s8472]

Precies deels, want tot nu toe kan het geen sarcasme herkennen. Gezond dat kinderen misschien nu leren hoe sarcasme werkt en dat de AI te dom is om dat te begrijpen; aan de andere kant 1984 vibes.

[FPSUsername]

Sarcasme kan best wel zonder schelden. Ik ben alleen benieuwd of het niet te veel gaat censureren zoals bij Minecraft (daar is geen AI, maar de woordenlijst censureert ook normale woorden die een scheldwoord bevatten).

[Stoney3K]

Punt is wel dat de chatfiltering van Roblox echt bijna alles filtert. Ook als je bijvoorbeeld cijfers in de chat typt dan wordt de hele regel gecensureerd omdat Roblox er van overtuigd is dat het om een telefoonnummer gaat, en soms worden er hele zinnen uitgefilterd waar niks vulgairs in staat. Of het gaat om 'schuttingtaal' wat ergens midden in een normaal Engels woord zit.

[NeuroTechie]

Bobba

[DanielChopin]

Krijg de bobba! Schiet eens bobba op!

[berchtold]

Maar wat moet je nou tegenwoordig nog in dat bobba hotel

[rjberg]

Doet me denken aan een Order of the Stick comic met een vertaal accent spreuk:

"Insert it into your rectum."

Het orgineel zeg ik hier maar niet...

Of de hanar Blasto van Mass Effect:

"Are you engaging in reproductive behavior with this one?"

[redboyke]

Schelden wij in Europa minder omdat woorden niet gecensureerd zijn?

[Bulls]

Mensen zijn heel inventief en weten dat wel te omzeilen

[aldieaccounts]

Kinderen een manier geven om een anti-vieze-woorden LLM te proberen te omzeilen. Dat kan leuk worden! Dat moet wel haast een sport worden om die LLM iets verkeerds/grappigs te laten zeggen.

Alle gekheid op een stokje heb ik liever die hekjes, dan kan je tenminste zien dat er iets gebliept is.

[The Chosen One]

Filters zijn altijd "leuk...". Kan me altijd Runescape nog herinneren.
Als je iets zei als "Tomorrow I'll set an alarm for PvPing." werd het bericht vervangen door *********. (hint het betreft AN ALarm)
En dan had je geen idee wat je verkeerd zei. En dan doe je op een moment copy/paste met langere berichten en dan ging je maar wat E's door 3en te vervangen en O's door 0's en hopen dat het dan wel lukte.

En je krijgt woorden van andere talen, dialecten of straattaal die geblokkeerd gaan worden terwijl het juist irritatie gaat opwekken en verwarring etc.

[angushansen]

"tech bedrijven moeten haatspraak aanpakken!!"

*techbedrijf pakt haatspraak aan

"omg censuur! 1984!"

🤷

[Reactie gewijzigd door angushansen op 5 maart 2026 20:10]

[Llopigat]

Zijn niet dezelfde mensen die het ene en het andere zeggen natuurlijk.

Ik vind het ook onwenselijk als een AI dingen die ik zeg aan gaat passen. Blokker het dan gewoon, dat is prima.

Je krijgt dan ook een heel raar sfeertje als alles door een rubbertegel filter gehaald wordt. Het is nu al tenenkrommend om een mailtje te lezen dat een collega door AI heeft gehaald. Dat belerende toontje, die irritante opsommingen met bullet points, alles bold maken. Bah.

[Reactie gewijzigd door Llopigat op 5 maart 2026 20:24]

[Daraxo]

Ik begrijp precies hoe je je voelt, Llopigat. En om heel eerlijk te zijn? Je bent niet alleen. Deze gevoelens tonen aan dat je menselijk bent. Een uniek persoon met een eigen sterke mening. Daar mag je trots op zijn—echt waar.

OK ik zal je mijn bullet points besparen zelf denk ik hier hetzelfde over. Gewoon blokkeren in plaats van aanpassen. Niet dat er veel berichten in Roblox van hoogwaardige kwaliteit zijn, maar toch. Je moet andermans woorden gewoon niet verdraaien. LLM's zijn verre van foutloos en zullen ongetwijfeld ook een paar gesprekken verslechteren.

En zoals je zegt: LLM's hebben nogal het probleem dat de output dezelfde ''toon'' heeft. Die eerste alinea heb ik bijvoorbeeld zelf getypt; zo herkenbaar is het. Ik kan de irritante schrijfwijze van ChatGPT inmiddels dromen.

[Reactie gewijzigd door Daraxo op 5 maart 2026 20:54]

[The Chosen One]

Heb ook bij meerdere Blizzard titels gehad dat ik iemand die enorm zat te schelden/spammen/racistisch etc te doen dat ik die persoon raporteer (geen idee of het echt veel doet daar maar heb er vast honderden over de jaren gereport).
En het systeem zet die persoon dan ook automatisch op je blocklist. En dan ga ik die persoon (tenzij het een bot betreft) eerst weer UNblocken zodat ik het gesprek dat gaande is ook daadwerkelijk kan volgen.

[TWeaKLeGeND]

Blijf maar bij censureren, want bedrijven horen niet te bepalen wat nette bewoording is. LLM is corporate compliancy dat gaat niet over wat goed is voor de maatschappij maar over zichzelf indekken.

[R_Zwart]

Het is hun "winkeltje". Bij de hema kan je ook niet zomaar van alles uitkramen zonder daar de gevolgen van te ondervinden. Nog vriendelijk dat ze alleen de teksten veranderen. In de echte wereld zou je er uit worden geschopt.

[TWeaKLeGeND]

Nogmaals: gooi me er maar uit in plaats van mijn woorden verdraaien.

[Tassadar32]

Als ik de voice interacties van sommige kids in (VR) games hoor dan mag daar best wel wat aan gedaan worden. Triangle Factory heeft dat in Breachers goed opgelost, daar zit een voip filter op dat spelers banned welke onfrisse dingen zeggen. Is een van de weinige VR games die je kan spelen zonder dat je continue het N-woord of andere smerige zooi hoort.

[Bodyshock]

Ja, want schelden heeft meer prioriteit dan pedofielen/kindermisbruikers aan te pakken die in grote getallen gebruik maken van Roblox voor hun gore bedoelingen.

[Bkim]

Heerlijke censuur. Hoe vrijer hoe beperkter. En voordat je het weet bepaald AI volledig wat er wel en niet gezegd mag worden en dan te bedenken dat iemand AI programmeert en diegen dus bepaalt wat er wel een niet gezegd mag worden. Klinkt Trumpiaans.

[MrMonkE]

Zegt. Of denkt!

Wrong Think gedetecteerd van Bkim, ze zijn pin pas op 0!

[Pep7777]

Ik snap dat je niet graag gecontroleerd wil worden (vind niemand leuk).
Aan de andere kant moet je ook toegeven dat het online helemaal uit de hand loopt, en dat er blijkaar hordes mensen zijn die denken, ik ben anoniem dus ik mag over alle grenzen heen. Dus het is: "mensen moeten leren zich netter te gedragen", of "censuur" als dit. Of "anonimiteit" online moet worden afgeschaft zodat mensen verantwoordelijk kunnen worden gehouden.
En tech bedrijven moeten de bubbles opheffen, polarisatie helpt uiteindelijk niemand.