Roblox gaat met AI scheldkannonades in chat vervangen door nette bewoordingen

Chips! Als gebruikers willen schelden in een chat in Roblox, gaat een nieuwe functie niet alleen scheldwoorden blokkeren, maar ook de intentie proberen te achterhalen en op basis daarvan nette bewoordingen te vinden.

Roblox heeft al een scheldfilter in chat, maar die laat in plaats van scheldwoorden simpelweg hekjes zien. Daardoor gaat de boodschap verloren en dat is niet wenselijk, zegt Roblox. Daarom gaat het kunstmatige intelligentie gebruiken om scheldwoorden te vervangen door nette bewoordingen. "Bijvoorbeeld, een bericht dat het vloekbeleid van Roblox schendt, zoals 'Schiet f*cking op!', zou voorheen in de chat van een ervaring zijn verschenen als '####'. Dit zal nu worden geherformuleerd naar 'Schiet op!'. Deze nieuwe laag is ontworpen om de beleefdheid te bewaren door het taalgebruik aan te passen."

Het werkt gelijk in alle talen. Roblox maakt duidelijk aan iedereen in de chat dat AI het bericht heeft aangepast om de taal netter te maken. Dat gebeurt met een melding in de chatbox. De functie is per direct beschikbaar.

Roblox realtime rephrasing

Reacties (48)

[latka]

Is dit een geautomatiseerde versie van 1984 newspeak?

[R_Zwart]

Is het censuur als er wordt verzocht je een beetje netjes te gedragen? Als jij jet collega's verrot scheld en de werkgever treeedt daar tegenop, vind je dat dan ook censuur?

[BeefHazard]

Tegenpunt: is het niet een trede naar een samenleving waar machthebbers invloed uitoefenen op communicatiemiddelen door letterlijk de woorden van gebruikers te herschrijven? Ik sta hier op de rand van een glijdende schaal-argument, maar met de invloed van een president op de koers van grote techbedrijven - waar de halve wereld via communiceert - vrees ik dat we in de toekomst alleen met cryptografische systemen de authenticiteit van onze communicatie kunnen garanderen.

[iskelmaikel]

Of is het een trede terug in een samenleving waar lomp gedrag en algemene verloedering voorop staat? Fatsoensnormen lijken steeds verder af te nemen doordat we al decennialang (pseudo) anoniem op het internet te vinden zijn en schijnbaar is het een dusdanig veelvoorkomend probleem dat hier vraag naar is.

De boodschap wordt niet vervangen, maar scheldwoorden worden gefilterd.

[Kevinp]

Mee eens, maar de oplossing is niet om gevloek te filteren. De oplossing is dat de samenleving dat gevloek niet tolereerd en deze persoon negeerd.

[DeCo]

Het is een platform voor kinderen. Heb ik daarmee genoeg gezegd?

[BuZZem]

Teveel.

[JeroenH]

Je "bevindt" (post) iets in een ruimte die van iemand anders is. De eigenaar mag huisregels opstellen, lijkt me op zich niets geks.

Als je het er niet mee eens bent (en bij het geautomatiseerd wijzigen van je posts kan ik dat goed snappen), dan stemmen met je voeten. Dat is zo'n beetje het enige waar dit soort bedrijven gevoelig voor zijn.

[Stukfruit]

Alleen als de eigenaren van Roblox in de administratie van Trump zitten

Hint: censuur komt doorgaans ergens anders vandaan.

[Schway]

Als je dat denkt dan begrijp newspeak niet.

[supertanno]

Waarom moet dat met AI? Op Habbo doen ze dit al decennia.

[FPSUsername]

Omdat AI deels kan interpreteren, waarbij simpele filters dat niet kunnen. Je kunt een enorme database opzetten die bijna alle scenarios kan opvangen, maar een AI inzetten is sneller.

[Sp3ci3s8472]

Precies deels, want tot nu toe kan het geen sarcasme herkennen. Gezond dat kinderen misschien nu leren hoe sarcasme werkt en dat de AI te dom is om dat te begrijpen; aan de andere kant 1984 vibes.

[FPSUsername]

Sarcasme kan best wel zonder schelden. Ik ben alleen benieuwd of het niet te veel gaat censureren zoals bij Minecraft (daar is geen AI, maar de woordenlijst censureert ook normale woorden die een scheldwoord bevatten).

[Stoney3K]

Punt is wel dat de chatfiltering van Roblox echt bijna alles filtert. Ook als je bijvoorbeeld cijfers in de chat typt dan wordt de hele regel gecensureerd omdat Roblox er van overtuigd is dat het om een telefoonnummer gaat, en soms worden er hele zinnen uitgefilterd waar niks vulgairs in staat. Of het gaat om 'schuttingtaal' wat ergens midden in een normaal Engels woord zit.

[Verwijderd]

Bobba

[DanielChopin]

Krijg de bobba! Schiet eens bobba op!

[berchtold]

Maar wat moet je nou tegenwoordig nog in dat bobba hotel

[rjberg]

Doet me denken aan een Order of the Stick comic met een vertaal accent spreuk:

"Insert it into your rectum."

Het orgineel zeg ik hier maar niet...

Of de hanar Blasto van Mass Effect:

"Are you engaging in reproductive behavior with this one?"

[redboyke]

Schelden wij in Europa minder omdat woorden niet gecensureerd zijn?

[Bulls]

Mensen zijn heel inventief en weten dat wel te omzeilen

[aldieaccounts]

Kinderen een manier geven om een anti-vieze-woorden LLM te proberen te omzeilen. Dat kan leuk worden! Dat moet wel haast een sport worden om die LLM iets verkeerds/grappigs te laten zeggen.

Alle gekheid op een stokje heb ik liever die hekjes, dan kan je tenminste zien dat er iets gebliept is.

[The Chosen One]

Filters zijn altijd "leuk...". Kan me altijd Runescape nog herinneren.
Als je iets zei als "Tomorrow I'll set an alarm for PvPing." werd het bericht vervangen door *********. (hint het betreft AN ALarm)
En dan had je geen idee wat je verkeerd zei. En dan doe je op een moment copy/paste met langere berichten en dan ging je maar wat E's door 3en te vervangen en O's door 0's en hopen dat het dan wel lukte.

En je krijgt woorden van andere talen, dialecten of straattaal die geblokkeerd gaan worden terwijl het juist irritatie gaat opwekken en verwarring etc.

[Xesior]

"Ik eet nasi vanavond" werd ook gecensureerd omdat nasi te veel op nazi lijkt.

[aldieaccounts]

Dat, en daarnaast verzinnen mensen wel weer andere woorden om te zeggen wat ze willen zeggen. Krijg je irritante verschijnselen als tiktoktaal waar ook van alles wordt geblokkeerd, zodat mensen PdfFile zeggen voor pedofile, en 'unalived' en nog zo wat woorden.

[darkfader]

Het systeem zou een waarschuwing moeten geven en de optie geven om het zelf te corrigeren of automatisch te laten doen. Als je dan toch scheld, krijg je strafpunten en wordt automatisch geforceerd als je er teveel hebt. Tevens komt er bij de ontvanger een symbooltje te staan dat het automatisch is gecorrigeerd.

[TWeaKLeGeND]

Blijf maar bij censureren, want bedrijven horen niet te bepalen wat nette bewoording is. LLM is corporate compliancy dat gaat niet over wat goed is voor de maatschappij maar over zichzelf indekken.

[R_Zwart]

Het is hun "winkeltje". Bij de hema kan je ook niet zomaar van alles uitkramen zonder daar de gevolgen van te ondervinden. Nog vriendelijk dat ze alleen de teksten veranderen. In de echte wereld zou je er uit worden geschopt.

[TWeaKLeGeND]

Nogmaals: gooi me er maar uit in plaats van mijn woorden verdraaien.

[Tassadar32]

Als ik de voice interacties van sommige kids in (VR) games hoor dan mag daar best wel wat aan gedaan worden. Triangle Factory heeft dat in Breachers goed opgelost, daar zit een voip filter op dat spelers banned welke onfrisse dingen zeggen. Is een van de weinige VR games die je kan spelen zonder dat je continue het N-woord of andere smerige zooi hoort.

[TWeaKLeGeND]

Nogmaals: bans zijn voor mij oke, censuur ook. Taal herschapen naar corporate compliancy niet.

[Bodyshock]

Ja, want schelden heeft meer prioriteit dan pedofielen/kindermisbruikers aan te pakken die in grote getallen gebruik maken van Roblox voor hun gore bedoelingen.

[Bkim]

Heerlijke censuur. Hoe vrijer hoe beperkter. En voordat je het weet bepaald AI volledig wat er wel en niet gezegd mag worden en dan te bedenken dat iemand AI programmeert en diegen dus bepaalt wat er wel een niet gezegd mag worden. Klinkt Trumpiaans.

[MrMonkE]

Zegt. Of denkt!

Wrong Think gedetecteerd van Bkim, ze zijn pin pas op 0!

[Pep7777]

Ik snap dat je niet graag gecontroleerd wil worden (vind niemand leuk).
Aan de andere kant moet je ook toegeven dat het online helemaal uit de hand loopt, en dat er blijkaar hordes mensen zijn die denken, ik ben anoniem dus ik mag over alle grenzen heen. Dus het is: "mensen moeten leren zich netter te gedragen", of "censuur" als dit. Of "anonimiteit" online moet worden afgeschaft zodat mensen verantwoordelijk kunnen worden gehouden.
En tech bedrijven moeten de bubbles opheffen, polarisatie helpt uiteindelijk niemand.