Ubisoft en Riot Games werken samen tegen schadelijk gedrag in online games

Ubisoft en Riot Games gaan samenwerken aan een onderzoeksproject waarmee schadelijk gedrag van online gamers via AI opgespoord kan worden. Het project kreeg de naam Zero Harm in Comms en moet ervoor zorgen dat games verrijkende ervaringen worden.

De twee bedrijven zullen samen een database ontwikkelen die zal bestaan uit in-game data van hun uitgebrachte games. Hiermee zullen AI-tools getraind worden die storend gedrag in games kunnen opsporen en verhinderen, en aan moderatie kunnen doen. Volgens Ubisoft en Riot Games zal de databank een groot aantal spelers en usecases bevatten. Data die is verzameld, zal worden geanonimiseerd voordat die gedeeld wordt tussen de bedrijven.

Via deze samenwerking willen Ubisoft en Riot Games ervoor zorgen dat gamen verrijkende ervaringen kan blijven geven aan spelers. Volgens Riot Games worden games steeds populairder en neemt daardoor ook de schaal van uitdagingen toe. Via kunstmatige intelligentie hoopt het bedrijf het hoofd te kunnen blijven bieden aan storend en onwenselijk gedrag in games. De twee bedrijven zullen in 2023 met een update komen over de voortgang van het project.

Zero Harm in Comms

Reacties (88)

[himlims_]

*knip*

Beetje overal iedereen moet maar beschermd worden. Wat krijgen we straks? Een generatie die aan het werk moet, bij eerste de beste vervelende situatie of gesprek is het brullen? Moet mamma meekomen naar functioneringsgesprek?

Jezelf kunnen verdedigen, bij kritiek of pesten hoor ook bij opgroeien. Niet overal gekwetst over voelen, jouw geluk niet afspiegelen aan het aantal likes, skins of achievements. Laat staan een kunstwerkje van rokende mannen weghalen want 0.01% vind het niet leuk.

//edit; pak een willekeurige (amateur)voetbalwedstrijd, wordt zat gal gespuugd. Is dat wenstelijk? nee niet echt. Is het begrijpelijk? misschien wel; sport is emotie. Mooie van (online) gamen is; een optie om spraak/chat te muten [..] "probleem" opgelost.

Voelt beetje alsof alles in beschermend plastic verpakt moet worden, inclusief volwassenen

[Reactie gewijzigd door Cloud op 24 juli 2024 08:43]

[007Nightfire]

Als de chat bij bijvoorbeeld League of Legends volledig volstaat met verwensingen, dan zetten mensen de chat uit. Klaar denk je dan misschien, maar vervolgens vindt er ook geen communicatie tussen teamgenoten meer plaats. Het gedrag heeft dus direct invloed op de game, ook als de chat functie wordt uitgeschakeld. Riot games heeft dat al deels vervangen door pings, wat ook een prima systeem is.

Ik vraag mij juist af of we niet gewoon wat harder moeten zijn voor mensen die zich niet kunnen gedragen. Als mensen zelf de mentale capaciteit niet hebben om zich in te houden, ook als er emotie bij komt, dan mogen ze even op het strafbankje plaatsnemen en afkoelen. Blijkbaar zijn ze daar zelf niet toe in staat, dan moeten ze even geholpen worden. Kleuters moet je ook als kleuters behandelen. Scheidsrechter bij een amateurwedstrijd pakken de excessen ook aan, dat voorkomt escalatie en houdt het leuker voor iedereen. Een AI maken die als scheidsrechter optreedt lijkt me daarom ook een prima idee.

[markoverklift]

Ik heb inderdaad ook de chat verwijderd in League of Legends.
Het zou niet moeten en grow a pair is ook een manier om ermee om te gaan, maar irritatie is heel moeilijk uit te schakelen.

How To Turn Off Chat In League of Legends
Follow these steps

1: Turn on your League of Legends client and log in with your account.

2: Go to the directory of your PC/laptop. This is where you will have originaly installed League of Legends. You can normally find it by going here: ‘C:/Riot Games/League of Legends/Config/’

3: Now Search for ‘PersistedSettings.json’. When you find the file, open it in notepad.

4: Now search for “name”: “ChatScale”, and once you find it, change the “value” setting to ‘-100’.

5: You don’t need to save the file, you will save it by simply running your League of Legends game. This can be any game mode, including practice mode. Once you’ve dont this the file will automatically save, including the changes you made.

You should not have removed chat from League of legends![/quote]

https://blog.turtlebeach.com/league-of-legends-disable-chat/

[/quote]

[porn*]

Kun je niet gewoon 1 player muten/ignoren zoals in de meeste games? Rotte appels zie/hoor je niet meer, klaar?

[Reactie gewijzigd door porn* op 24 juli 2024 08:43]

[corset]

Vrij vertaald: Zeg maar wat je wil, bedreig mensen maar,m scheld ze maar verrot. Want ze moeten er maar tegen kunnen.
Dat heeft geen drol met arrogantie te maken, maar puur met hoe jij en ik in de online wereld staan.

Natuurlijk moeten we niet over gevoelig worden voor alles. Maar even een voorbeeldje van League of Legends. Die game staat bekend om zijn zeer, zeer toxic community. Zowel ingame als out of game. (dat zie je hier op Tweakers, op reddit etc. Dat zie je overal).

Nieuwe spelers zijn totaal niet welkom of gewild. Ben je nieuw? Dan krijg je de constante "Kill yourself" en "Go f*ing die you tr*ns n*gger" te horen. (even een voorbeeld van wat de groep waarmee ik speelde als niveau te horen kreeg meerdere keren per week)

Kan je dan zeggen wat jij zegt "LOL maak je niet druk, mute hem. Als je dat erg vind ben je een idioot!!" Of gaan we net zoals blijkbaar jou generatie kijken "Hey, misschien is het niet zo handig als mensen zich zo gedragen".

Door het weg te drukken en te negeren (wat jij dus wil) geef je dat soort mensen alleen maar het idee "oh cool! het mag dus" en gaan ze er vrolijk mee door.

Riot doet hier bewust weinig aan, want de toxic community brengt geld in het laatje. Ze gaan echt niet de veel betalende mensen eruit trappen om te hopen dat de nieuwe spelers ook gaan betalen.

Maar goed, Ubisoft en Riot kunnen er allebei wat van;

Rainbow Six Siege? Ranked is een toxic hellhole. Ik ken echt niemand die nog solo ranked doet. 99% vanwege de community
Valorant? Exact hetzelfde

[Anoniem: 420148]

Jezelf kunnen verdedigen, bij kritiek of pesten hoor ook bij opgroeien

Ja joh, lekker victim blamen. Wat naar dat die arme racisten nu straf gaan krijgen. Had hun slachtoffer het maar gewoon een uurtje moeten nemen en geen mietje zijn. Dit soort shit roepen mensen al tientallen jaren als er iets tegen pesten wordt gedaan, alsof zij er persoonlijk minder van worden als er maatregelen tegen pesten worden genomen. De enige mensen die hier nadeel aan hebben zijn mensen die dit gedrag zelf vertonen, dus ik vraag me af wat je probleem precies is. Er wordt hier niemand mee benadeeld.

Mensen zoals jij zijn klaarblijkelijk nooit op school of op de sportclub écht gepest als kind, anders zeg je dit soort dingen niet. Waarom moet het doelwit het maar verdragen als de pesters in dit geval de meest hatelijke, racistische of homofobe opmerkingen maken via voice/text?

En let wel, dat is in online PvP spelletjes met een chatbox of voice comms heel gewoon. Het muten is dan ook gewoon alles helemaal uitzetten (dan ben je wel in het nadeel tijdens een teamspel dat zonder gepest verloopt) en dat is niet wenselijk voor de spelmakers. Naast verbaal misbruik gaan in-game pesters vaak nog verder; Je karakter achtervolgen, expres je locatie aangeven aan de tegenstander, je goud/exp ontnemen of anderzijds je de lol ontnemen. Een karakteristiek van online PvP team games is dat vroegtijdig weggaan tot een verbanning overgaat, dus het is of die 15-45 minuten met die klootviolen opgescheept zitten tot een potje over is, of een paar uur/dagen compleet uit het spel gemikt worden. Kijk anders hier even naar.

Overigens kun je aan pesten flinke trauma's overhouden, vooral als nog ontwikkelend jong mens. De hele "ach joh, kom op, wordt je hard van" boomer-mentaliteit slaat helemaal nergens op en werkt niet. Je wordt niet hard van misbruik, maar depressief of erger.

Ik snap eigenlijk niet zo goed wie je hiermee aan het verdedigen bent en welk punt je denkt te maken.

[Reactie gewijzigd door Anoniem: 420148 op 24 juli 2024 08:43]

[HADES2001]

Er is echter wel een grens in "grow a pair". ik speel nu de nieuwe call of duty maar het eerste wat ik doe is "mute all" want al meerdere games gehad waar iemand niks anders deed dan "n*gger n*gger n*gger" schreeuwen in de microfoon. Dat soort mensen mogen best wel is een communicatie ban krijgen voor een week wat mij betreft. League of Legends hoef je maar het kleinste foutje te maken of iemand spammed al weer in chat dat ze iedereen jou moet reporten want jij bent de schuldige dat ze verliezen.

Multiplayer games zijn er niet prettiger op geworden door de jaren, vroeger was het ook wel zo maar met dedicated servers en een paar goede admins kon je toch vaak een mooie groep bouwen maar die tijden zijn veelal voorbij. (op een paar spellen na die dit nog ondersteunen)

[Anomnomnomymous]

Het probleem is dat meeste mensen de screening van schelden kunnen ontwijken als ze voice chat gebruiken; ik ben het inderdaad met je eens dat dit soort eikels een tijdelijke ban (of tenminste een waarschuwing) dienen te krijgen op het moment dat ze dit soort gedrag vertonen.
Maar ben het eigenlijk met de OP eens dat je voor andere (persoonlijke opgevatte) beledigingen de macht bij de speler moet leggen.
Naast het muten van chat/voice, zou een extra functie ook kunnen zijn dat je in de toekomst niet meer met bepaalde spelers gematched wilt worden.
Het blijft een moeilijk onderwerp, daar ik wel merk dat de laatste jaren er mensen zijn die om het minst al beledigd zijn, waar ik zelf denk dat het wel meevalt (ik zie bijvoorbeeld zelf niet veel verslechtering tov 20 jaar geleden).

[Louw Post]

Mee eens inderdaad, vooral als iemand die niet heel veel meer gamed. Kritiek en schelden bij kritieke/spannende momenten in een game kan ik me voorstellen, ongegeneerd racistische/seksistische opmerkingen maken de hele game vind ik niet kunnen en dat komt erg vaak voor in games die ook populair zijn bij tieners; zie Siege, CSGO, LoL, CoD, etc.

Nu speel ik zelf met enige regelmaat bijvoorbeeld Siege en als je dan in een (un)ranked game zit wil je samen ervoor zorgen dat je wint, als je dan net een paar "toxic" mensen in je team hebt dan is het potje al verpest. Je kan ze dan wel muten, maar dan is de benodigde communicatie weg en je kan het potje ook niet verlaten omdat je dan een tijdelijke ban krijgt. Daarbovenop kunnen ze je het in-game ook nog moeilijk maken door op je te schieten, je gadgets kapot te maken, etc. Dan zijn die paar momentjes dat ik kan gamen in de week voor mij al helemaal verpest.

Vrouwen kunnen vaak niet eens laten merken online dat ze vrouw zijn, vooral in games met voice chat, want dan breekt de hel ook los.

[GF187um]

Via Playstation kan je mensen simpel een report geven en daar wordt echt wel wat aan gedaan. Na een correcte reports krijg je een chat/voice ban van een week of een maand ofzo. Jammer dat andere bedrijven niet een simpele report optie hebben waar ook echt iets mee gedaan wordt.

[Zyppora]

Ben het deels met je eens, we moeten niet een rubber-tegel-maatschappij worden, ook online niet.

Aan de andere kant, ik heb League of Legends gespeeld in 2010, voordat ze het Tribunal introduceerden ... moderatie is echt nodig, of je dat nu leuk vindt of niet. Er zitten genoeg mensen tussen die niet met hun verlies en/of negatieve emoties om kunnen gaan en dat dan ook ongenuanceerd in de chat laten merken.

In die zin begrijp ik het doorpakken hierop van Riot Games wel. Zij hebben ten slotte de twijfelachtige eer de meest toxic playerbase te hebben (gehad).

[ZinloosGeweldig]

//edit; pak een willekeurige (amateur)voetbalwedstrijd, wordt zat gal gespuugd. Is dat wenstelijk? nee niet echt. Is het begrijpelijk? misschien wel; sport is emotie. Mooie van (online) gamen is; een optie om spraak/chat te muten [..] "probleem" opgelost.

Inderdaad een goed voorbeeld, want ook bij die (amateur)voetbalwedstrijd wordt een grens getrokken qua wat wel en wat niet acceptabel is (stadionverboden vanwege antisemitische spreekkoren bijvoorbeeld).

[Kraanmachinist]

Je spreekt wel vanuit een makkelijke positie zo he, ik heb van veel vriendinnen gehoord wat voor een bizarre dingen er tegen hun word gezegd zodra mensen erachter komen dat ze een vrouw zijn. Zulk gedrag hoeven we gewoon niet te tolereren en heeft ook niets te maken met een beetje trashtalken.

[Zebby]

Dit is toch redelijk duidelijk dat het niet gaat om wat "sportief gescheld". Dit gaat om letterlijke en constante doodsbedreigingen, racisme, en de meest onmenselijke dingen gespuwd in pure frustratie en haat.

Iemand die "gg ez" zegt hoef je inderdaad niet te bannen. Niet sportief, maar daar blijft het ook bij.
Al dat andere - weg ermee.

[Firecrash]

Er zit een verschil tussen zeggen: ez game als je iemand dik hebt ingemaakt en zeggen "kill yourself" net op het moment dat muten niet kan.

Het feit dat je aangeeft dat "spugen erbij hoort" zegt mij ook genoeg. Dat is een van de smerigste dingen die je kan doen en dat hoort absoluut niet thuis in wat voor sport dan ook.

[xSNAKEX]

Vergis je er niet in wat anonimiteit met mensen doet. Ik ben zeker geen voorstander van handgemeen, maar het feit dat het risico bestaat dat mensen een klap kunnen krijgen bij bepaald gedrag, zorgt er wel voor dat ze vaak wat normaler tegen elkaar doen. Om nog maar niet eens te spreken over de trollen die je tegen komt die er specifiek op uit zijn om je game te verpesten. Daar hebben ze vaak de chat nog niet eens voor nodig.

[Henk-Bakker]

Nou.....

Ik ben 55, ik kan tegen een stootje, maar wat ik
naar mijn hoofd krijg in League is soms wel heel gortig.

Echt heel gortig.

En als je hoort wat vrouwelijke spelers (standaard) naar hun
hoofd krijgen, kan echt niet.

Gevolg: Spelers haken af en zijn soms oprecht van slag.

Ik geloof niet in politiek correct gedoe als geen sigaar voor Graves
of zwart ipv rood bloed in games, etc.....

Ander voorbeeld:

Wij hebben op de werkvloer met onze huidige directrice
een slag gemaakt tegen seksisme op de werkvloer. En geloof het of
niet, maar het is een wereld van verschil. We deden meestal niet eens
echt iets heel erg fout (geen metootjes), maar de sfeer is nu veel beter.

Als ik dank kijk waar we nu online staan:

Heel goed dat dit initiatief bestaat.

[geeMc]

Ik gok dat jij niet veel ervaring hebt met hedendaagse ranked gamemodes in competetieve games als CS, Valorant en League. Die laatste bijvoorbeeld zit vol met mensen die allemaal denken dat ze de beste zijn en beginnen te schelden bij de kleinste fouten die je maakt. Nog erger is het als je lekker in een game zit, je je werk doet en er vervolgens iemand een potje van maakt en de schuld altijd op jouw of een ander afschuift.

Buiten het feit om dat het gewoon geen leuke game ervaring is om constant maar gezeik te krijgen van anderen terwijl je gewoon je best doet of zelfs goed speelt, is het resultaat voor mij dat ik chat uitzet. Dan valt de volledige communicatie in team based games dus ook weg en verlies je veel meer. Dat heeft overigens niets met een generatiekloof of sneeuwvlokjes te maken. Ik kan heel goed tegen kritiek en ik kan heel goed tegen "pestgedrag", maar het is letterlijk elk potje wel weer wat.

Dan over naar een nog veel vervelender onderwerp; vrouwen. Mijn vriendin is een gamer en speelt dit soort spellen ook. Die wordt zonder te overdrijven elk potje wel uitgescholden. Of ze is een hoer en moet de keuken in, of ze moet van haar stemrecht onttrokken worden, of iemand komt haar vanavond wel even verkrachten. Waarom? Omdat ze hallo zegt. Elke keer als ze een game start. Nu kan ze daar vrij goed tegen en gaat ze er ook niet op in, maar zou jij het leuk vinden om dat elk potje te moeten horen? Als jij wil beweren dat het een generatiedingetje is dat mensen zich dat aantrekken ben je denk ik niet helemaal wakker.

[Reactie gewijzigd door geeMc op 24 juli 2024 08:43]

[SHiNeye]

Laten we het even anders doen dan; Zou jij het normaal vinden als mensen op straat je maar gewoon gaan uitschelden om niks, en je continu beledigen? Want ja, "grow a pair".

[Iblies]

Volgens Riot Games worden games steeds populairder

Wat ze bedoelen is dat de omzetten steeds hoger worden om totaal andere redenen.


https://m.youtube.com/watch?v=keoRX-Lni5s
Die heeft er een mooie episode over gemaakt (even over het nep-accent heen stappen).


Bij dit soort games is geld aftroggelen prioriteit. Als er minder “afleiding” is kun je alleen jezelf de schuld geven en de game-studio’s geven er gehoor aan want het betekent meer omzet.


Het gamen en bijbehorende ervaring staat al jaren op een tweede plaats of lager.

[Alxndr]

Geld verdienen staat idd altijd op de eerste plek, het blijft tenslotte business, maar om nou zonder verdere onderbouwing/cijfers te stellen dat gamen niet populairder is geworden de laatste jaren? Dat gaat er bij mij niet in, al was het alleen al dat er een paar miljard mensen nu op hun mobieltje gamen (persoonlijk vind ik dat geen 'echte' gamers, maar uit een eerdere discussie hier op Tweakers weet ik dat ik daarin tot de minderheid behoor).

Sowieso de link tussen 'afleiding' en de hoeveelheid geld die mensen aan een game spenderen vind ik een vreemde. Indirect natuurlijk wel, want als die 'afleiding' de sfeer echt verziekt gaan mensen wel een ander spel spelen. En omgekeerd, als de sfeer goed is zou dat een reden zijn om een spel juist wel te blijven spelen, zelfs als je er eigenlijk al op uitgekeken bent.

Ik vind wel het hele verdienmodel van tegenwoordig juist het meest storend en onwenselijk, dat heeft bij mij veel meer invloed op spelplezier dan getroll, gepest etc. Al die skins/emotes etc heeft voor mij een veel te hoog "kijk mij nou" gehalte, het lijkt instagram wel. Ik speel spellen om het spelletje zelf, maarja, ik ben al 35 jaar een echte single player gamer en zal dat waarschijnlijk altijd blijven.

[Iblies]

Nou,

https://ftw.usatoday.com/...revenue-microtransactions

61% of Activision Blizzard’s 2021 revenue was earned via microtransactions

En dat geld voor veel van deze uitgevers tegenwoordig. Het geld komt binnen via ingame transacties. Dat is al een trend dat al een tijd bezig is, en het ouderwets gamen dat zit er steeds minder in.

[germania]

Off-topic: maar hoezo nep-accent?

[Freakiebeakie]

Ben het met je eens dat mensen moeten leren om niet meteen gekwetst te zijn, iemand zei op tv een keer je laten kwetsen is een keuze. Op zich is dat waar maar niet iedereen zit goed in zijn vel en kan tegen kritiek en die mensen moet je wel een beetje beschermen vind ik. Of alle pestkoppen de mond snoeren dan de oplossing is dat weet ik niet

[UraniumBullet]

Ben het volkomen me je eens. ik weet nog vroeger in de COD MW2 lobby's, om dat even als voorbeeld te nemen. Daar werd gewoon je moeder en je hele stamboom zowat uitgescholden. En dan zat de hele lobby gewoon tegen te schelden alsof het niks was.

En dan zie je nu overal worden de "Privacy Policy's" constant aangepast, zodat je helemaal niks meer bijna kan of mag zegen zonder dat de gevoelens van iemand weer gekwetst zijn of dat je ergens van gebanned word omdat je blijkbaar iets fout's hebt gezegd, wat vandaag op de dag niet meer mag.

Dus de uitdrukking van "grow a pair" vind ik hier eerlijk gezegd wel goede bij passen ja.

Edit: het is het internet. niet iedereen gaat heel aardig tegen je doen. je moet er gewoon mee leren leven vind ik dan.

[Reactie gewijzigd door UraniumBullet op 24 juli 2024 08:43]

[GamingZeUs]

't Zal hoofdzakelijk griefing zijn lijkt me, en dat gaat vaak wel samen met zekere spraak

[Argantonis]

Vind 't altijd wel grappig, dit soort rants. Jij lijkt je meer druk te maken over hoe gevoelig iedereen wel niet is dan dat er daadwerkelijk wat aan de hand is. En je bent duidelijk geen ervaring met de huidige online communities in sommige games.

[Nimac91]

Oke, jij weet clearly niet waar jij over praat. Heb jij enig idee hoe toxic de League of Legends community wel niet is?

Je maakt 1 foutje en je hele familie wordt rot gescholden en dan mag je allerlei dodelijke ziektes krijgen. Dit is niet zomaar een zeldzame voorval dit gebeurt letterlijk in 70% van de games die men speelt zodra teamplay voorkomt. Ben jij de zwakste schakel in jou team krijg je er van iedereen van langs op de meest heftige toon die je maar kan bedenken. Dus rot alsjeblieft op met je "grow a pair!" statement. Jij bent precies het type persoon die waarschijnlijk anderen rot scheld online zonder te zien hoe zij zich vervolgens emotioneel voelen. Dat jij en ik het kunnen hebben betekent niet dat als mijn vriendin morgen voor het eerst league of legends opstart en haar allereerste potje speelt en daardoor verliest door iedereen de kk uitgescholden moet worden. Deze haatzaaing en online pesterijen MOETEN STOPPEN. En laat niemand mensen vertellen dat ze maar "wat ballen moeten groeien" dat is jouw mentaliteit maar mensen zijn verschillend. Bij sommigen komt het harder aan.

We gamen voor ontspanning en fun. Dat is de NUMMER 1 REDEN waarom mensen willen gamen. Niemand gamed om te willen verliezen en niemand gamed om te horen dat hij een lelijke moeder heeft en de kk kan krijgen online, want dat is nu eenmaal hoe de praktijk is.

Ik speel al sinds de 1e beta league of legends. De community is altijd toxic geweest en heeft 2 jaar geleden zelfs een ongelooflijk hoge piek bereikt door corona onder andere. Nu zijn ze eindelijk goed bezig met bans, chat-restrictions en AI die dit allemaal stopt en een goed honor system wat mensen toch een boost geeft zich in te houden. ONLINE PESTEN MOET STOPPEN.

En jij hebt geen enkel begrip voor een ander met jouw opmerking. Dat het jou hiel "opgroeien" betekent niet dat het een ander misschien het einde van zijn/haar leven betekent. Voor sommigen is de mentale pijn en druk enorm en die zijn er gevoeliger voor. Dit is absoluut de meest bizare opmerking die ik in jaren op tweakers heb gezien en vindt dit ook absoluut niet oke.

[Reactie gewijzigd door Nimac91 op 24 juli 2024 08:43]

[oef!]

Alleen een hater krijgt een hoge bloeddruk van ras- of gendervermeling in games. De rest van de wereld kan wel normaal doen of interesseert het gewoon niet.

[Sinester]

Moraal van het verhaal, lekker laten gaan.

Goed idee man, laten we die mensen die je moeder verrot schelden, je afkomst zwaar belachelijk maken en alle vrouwen als objecten zien, en eigenlijk nooit normaal kunnen communiceren in een spel gewoon lekker laten gaan

[Shamalamadindon]

Ik ben en blijf groot voorstander van self hosted dedicated servers met eigen moderatie. Zo heeft de playerbase zelf de keus van wat wel en niet toegelaten word. Als je dit aan ontwikkelaars overlaat krijg je bijvoorbeeld helaas nogal snel dat namen zoals Penistone, Babcock en Cummings gewoon dom geblokkeerd worden.

[The Zep Man]

Ik ben en blijf groot voorstander van self hosted dedicated servers met eigen moderatie.

Eens. Daarmee kan een ontwikkelaar/uitgever ook afstand nemen van ongewenst gedrag. Helaas willen diezelfde partijen dat niet, want dan heb je geen volledige controle meer over het multiplayerdeel van het spel (met name in het afsluiten ervan).

[DiaZ_1986]

Of uitspraken als "Liberate Hong Kong, the revolution of our times" kunnen dan ook heel eenvoudig geblokkeerd worden...

Nu moet men hier actief naar zoeken en rapporteren om het te laten blokkeren (of niet), met deze 'nieuwe' techniek gaat dit dus volledig geautomatiseerd worden.

[Metian]

Als je dit aan ontwikkelaars overlaat krijg je helaas nogal snel dat namen zoals Penistone, Babcock en Cummings gewoon dom geblokkeerd worden.

Dat hoeft toch niet te gebeuren? Deze woorden kunnen in de whitelist komen waar juist ongewenste namen weer in een blacklist kunnen komen. De AI leert hier van en leert het onderscheid maken tussen gewenste namen zoals 'Cummings' en ongewenste namen.

Ik ben overigens wel voorstander voor het verminderen van schadelijk gedrag in games. Als je soms ziet & hoort wat er naar je hoofd gemikt wordt in games, dan wordt het wel is tijd voor dit soort projecten. Het is wel jammer dat het nodig is...

[Wolfos]

Juist AI kan wellicht dat onderscheid maken dat een domme woordfilter niet doet (en laten we eerlijk zijn, zo'n ramp is dat ook weer niet).
Maar het zal nog weleens tot rare situaties gaan leiden. Het is te hopen dat er nog een mens aan te pas komt.

[toro]

Misschien gewoon pubers weren uit games die voor 16 jaar en/of 18 jaar en ouder zijn?

[Anoniem: 1486766]

Jij wil naar al die bedrijven een kopie van je ID kaart sturen?

[GamingZeUs]

Is normaal voor Riot; verplicht in Zuid Korea

[Anomnomnomymous]

Ik zie/hoor geregeld mensen boven de 18 die hetzelfde irritante gedrag vertonen: ik denk dat je veel kinderen die wel goed opgevoed zijn teniet doet door hen uit te sluiten van het spelen van games.

[Freakiebeakie]

Die van 18 zijn soms net zo erg als 12 jarige 🤣

[Alxndr]

Trollen en haters zijn er van elke leeftijd, net zoals er genoeg kids zijn die zich wel kunnen gedragen.

Ik zou gewoon bepaalde servers voor dat soort spelers creeeren, net zoals voor modders/cheaters etc. Hoef je ze ook niet te bannen, want iemand geen gebruik laten maken voor iets waar ie voor betaald heeft kan in mijn ogen niet.

[maartenyh]

Het klopt dat bepaalde online communities VOL zitten met mensen die verschrikkelijke en kwetsende dingen zeggen omdat ze anoniem achter hun beeldscherm zitten.

Het modereren van deze mensen en communicatie lijkt mij onwijs moeilijk en duur, dus de stap naar het magische en krachtige "AI" kan ik goed begrijpen.

Of het de juiste tool is... Dat gaan we zien.

[Alxndr]

Ik ben bang voor de false positives, doet me denken dan die vader die z'n hele Google (of Microsoft) cloud niet meer in kon omdat er automatisch een foto van z'n kind in bad had geupload.

Zo'n AI of algoritme zouden ze van mij alleen in mogen voeren als ze kunnen garanderen dat je bij een echt mens (met bovendien verstand van zaken) in beroep kan gaan.

[maartenyh]

Precies, dat dus!
Als ik loop te ouwehoeren met vrienden en ik zeg dat als hun moeder voor mijn TV langs loopt, ik 4 seizoenen Game of Thrones mis, dan hoop ik niet dat ik wordt geflagged door dit systeem.

Ik wil natuurlijk wel gewoon met mijn vrienden foute grappen maken

[jazzozo]

Nou, match made in heaven dit gezien het gerommel omtrent grensoverschrijdend gedrag wat de afgelopen jaren bij deze bedrijven heeft plaatsgevonden.

[Andyk125]

Hoewel dit natuurlijk een oplossing zou kunnen zijn, snap ik eerlijk gezegd niet dat er niet meer initiatieven zijn vanuit de gamewereld om dit meer op scholen of via social media platformen te behandelen. Voorkomen ga je dit echter niet en dit zal jammer geoeg altijd blijven bestaan, net zoals bijvoorbeeld pesten. Belangrijk hierbij is dat kinderen en jongvolwassenen goede normen en waarden mee krijgen en daar schort het jammer genoeg nogal aan. Men begrijpt gewoon niet dat er ook consequenties aan hun gedrag zit en zolang hun dat niet duidelijk is gaan ze er ook niet van leren.

Aan de andere kant is het ook niet gek dan mensen in een opwelling wel eens wat roepen, vooral als ze heel competatief zijn. Functies om bepaalde personen te muten of blokkeren is makkelijk om toxisch gedrag te mijden. Daarnaast moeten game ontwikkelaars misschien eens nadenken over hoe een game en de functies van een game kunnen zorgen voor dit soort gedrag. Wanneer je een spel erg competatief maakt of wanneer gamers bepaalde doelen moeten behalen om iets vrij te spelen en dat wordt steeds lastiger dan raken gamers ook sneller gefrustreerd en richten ze die frustratie op elkaar.

[Alxndr]

De meeste mensen hebben volgens mij wel goede normen en waarden, maar net als bij groepsdruk is de anoniemiteit die je online hebt een trigger voor veel mensen, zelfs mensen die in het 'echte' leven fatsoenlijk zijn.

Met andere woorden, ik denk dat dit soort maatregelen juist de enige werkbare oplossing zijn, al moet je inderdaad er heel erg goed voor zorgen dat opmerkingen in the heat of the moment niet (te zwaar) bestraft worden.

[R4gnax]

Hiermee zullen AI-tools getraind worden die storend gedrag in games kunnen opsporen en verhinderen, en aan moderatie kunnen doen.

Nice. Dat mogen ze dan gelijk in de EU niet meer toepassen.
Want hier stelt de Digital Services Act - die deels gisteren ingegaan is; en waarvan de rest februari 2024 in zal gaan - dat het besluit tot moderatie (of ontzegging) genomen moet worden door mensen en dat er expliciet niet uitsluitend via technologische middelen een geautomatiseerd besluit genomen mag worden. Met de kanttekening dat er ook daadwerkelijk menselijke besluitvorming moet zijn, en menselijke tussenkomst meer moet zijn dan "computer says no. ::click::"

[Reactie gewijzigd door R4gnax op 24 juli 2024 08:43]

[UraniumBullet]

Ben eerlijk gezegd wel benieuwd wat hiervan gaat komen, en dat ze er überhaupt er iets tegen gaan doen is niet verkeerd, maar ik denk niet dat je het helemaal weg kan halen.

[darkempire]

Gaan ze nou politieagentje spelen? is dat niet de taak van de ouders?

[The Zep Man]

Gaan ze nou politieagentje spelen? is dat niet de taak van de ouders?

Want iedere speler (dader/slachtoffer van ongewenst gedrag) is jeugd?

[edit]
'Een kind' aangepast naar jeugd, voordat het 'achsually'-publiek lollig denkt te zijn door erop te wijzen dat iedereen een kind van iemand is.

[Reactie gewijzigd door The Zep Man op 24 juli 2024 08:43]

[darkempire]

Nee dat is ook weer waar, iedereen heeft ook verantwoordelijkheid,
Maar alles door A.I die bedrijf zelf maken heeft gewoon vies luchje aan.

A.I kan handig zijn als er maar meerdere mensen mee kijken of het kan of niet.

[darkempire]

Dit kan makkelijk misbruikt worden voor hun eigen doel of negativiteit te weren en alleen postieftijd aan hun kant te krijgen, heb liever echt moderator.

[iFluX]

En niet iedere gamer woont nog met z'n 40e thuis

[Koosius]

Ik denk dat @darkempire hiermee bedoeld te zeggen, dat het de taak van ouder(s)/voogd is om normen en waarden bij te brengen en dus ook online. Nou is niet elke gamer inderdaad niet een kind, het is echter wel zó dat sommige zich er wel naar gedragen..

[Polderviking]

Gaan ze nou politieagentje spelen? is dat niet de taak van de ouders?

Hoe zie je dat voor je dan, dat ouders achter hun kinderen blijven staan als een spelletje aan het doen zijn?

En niet iedereen die structureel zijn fatsoen verliest in online games staat nog onder het bewind van hun ouders hé...

[milan118]

Als iemand een domme comment op tweakers zet, word die dan gemodereerd of gaan we dan diegene zn ouders de schuld geven?

[Orangelights23]

Domme retorische vraag, heb net je ouders gebeld, ze gaven aan dat je dit weekend huisarrest hebt.

[FrankoNL]

Tencent is een Chinees staatsbedrijf (in de praktijk).

Dus ik vermoed van wel.

[Raem]

Dit gaat over de algehele speelervaring en gaat dus verder dan wat gescheld of gevloek. Maar bijvoorbeeld ook of je bewust de boel aan het trollen bent en je daarmee je teamgenoten benadeeld en hen dus een slechtere speelervaring bezorgd.

Wat meer info:
https://www.riotgames.com...update-on-player-dynamics

[Freakiebeakie]

Als ouder zie je nou eenmaal niet alles wat je kind uitspookt en dan is het een uitkomst als er andere zijn die de voel in de gaten houden

[batjes]

Nou dan kunnen games als LoL wel opdoeken.