Google-onderdeel zet algoritme in voor moderatie 'giftige' comments

Jigsaw, een bedrijfsonderdeel van Google, gaat een api genaamd Perspective uitbrengen die via slimme algoritmes in staat is commentaren met ongewenst taalgebruik te herkennen. Perspective moet de moderatie op nieuwssites vereenvoudigen en daarmee de discussie bevorderen.

Perspective is specifiek bedoeld voor uitgevers van nieuwsmedia. Dat heeft Jared Cohen, directeur van Jigsaw, gezegd in een bericht over Perspective. De api werkt door middel van het toekennen van een beoordelingsscore aan elke individuele comment. Een algoritme bekijkt daarbij in hoeverre de taal in een comment overeenkomsten vertoont met het taalgebruik in comments waarvan mensen hebben gezegd dat ze als 'toxic' moeten worden beschouwd. Daaronder vallen schelden, flamen en ander boosaardig, negatief taalgebruik.

Om dit mogelijk te maken heeft Perspective honderdduizenden berichten geanalyseerd die door menselijke moderators als giftig werden betiteld. Bepaalde woorden die overwegend als toxic worden gezien, komen op een zwarte lijst. Daarbij helpt ook de feedback van lezers. Als via Perspective een comment ten onrechte als giftig is aangemerkt en eventueel zelfs is verwijderd, en een lezer blijkt daar terecht over te klagen, dan leert de api daar weer van. In de toekomst merkt deze soortgelijke berichten dan niet meer als ongewenst aan. Hoe vaker de api wordt ingezet en hoe meer commentaren langs de algoritmes van Perspective gaan, des te beter moet de technologie in staat zijn om het kaf van het koren te scheiden.

Nadat Perspective een comment op een zwarte lijst heeft gezet, kan de nieuwsuitgever bepalen wat ermee moet gebeuren. Zo kan er gekozen worden om de gemarkeerde comment nog eens door de eigen menselijke moderators te laten beoordelen, waarna kan worden bepaald of deze niet wordt toegelaten of toch deel mag uitmaken van de conversatie. Uitgevers kunnen er ook voor kiezen om lezers de comments te laten sorteren, zodat ze de meeste giftige opmerkingen eruit kunnen filteren en zodoende toegang krijgen tot een inhoudelijke en betere discussie.

Jared Cohen, de directeur van Jigsaw, heeft telefonisch aan Tweakers toegelicht dat Perspective tot doel heeft om onlineconversaties te verbeteren en uitgevers te helpen met het terughalen van lezers die door flaming zijn afgehaakt. Hij is echter niet bang dat de tool wordt gezien als ongewenste censuur. "De modellen zijn niet ontworpen voor het direct toepassen van censuur; daar zijn ze helemaal niet effectief voor. We vinden het heel belangrijk dat iedereen in principe kan zeggen wat hij of zij wil zeggen."

Jigsaw heeft Perspective uitgebreid getest bij The New York Times. Bij de krant uit New York werkt een team van redacteuren om handmatig alle commentaren te beoordelen voordat ze online onder de nieuwsberichten komen te staan. Het gaat dan soms wel om 11.000 commentaren die dagelijks moeten worden beoordeeld. Door dit grote aantal heeft de Amerikaanse krant bij slechts 10 procent van de geplaatste artikelen commentaren. Jigsaw hoopt dat dit percentage door het gebruik van Perspective aanzienlijk zal gaan stijgen, doordat het moderatieproces wordt versneld.

Perspective is ook getest bij Wikipedia en er wordt een experiment gestart bij de krant The Guardian. Cohen wilde niet zeggen of Perspective ook met Twitter heeft gesproken en of de samenwerking met nieuwsmedia zoals The New York Times samenhangt met eventuele financiële banden tussen Google en het nieuwsmedium.

De api moet via feedback van gebruikers ook steeds beter in staat zijn om rekening te houden met de culturele verschillen ten aanzien van de betekenis van een woord. Zo wijkt de Amerikaanse betekenis van het woord pissed sterk af van de Britse definitie; een Amerikaan denkt al snel aan 'boos', terwijl een Brit in een bar dit woord gebruikt als synoniem voor 'dronken' zijn. Vooralsnog is de api alleen te gebruiken bij Engelstalige comments, maar Cohen wil de technologie uiteindelijk geschikt maken voor gebruik bij zoveel mogelijk verschillende talen.

Perspective wordt nog verder doorontwikkeld. Er zijn ongeveer tienduizend commentaren nodig om een simpel werkend model te laten functioneren; minimaal honderdduizend berichten zijn nodig om de api volledig te laten functioneren. Op termijn wil Jigsaw de api verder doorontwikkelen, zodat niet alleen maar toxic taalgebruik wordt gesignaleerd, maar dat ook off-topic commentaren en irrelevante bijdragen worden geïdentificeerd.

Reacties (86)

[Verwijderd]

PC culture at it's finest.

Wordt er op z'n zachts gezegd een beetje doodziek van tegenwoordig.

Vrijheid van taalgebruik is onderdeel van vrijheid van meningsuiting en het bestrijden hiervan het zoveelste voorbeeld van censorship.

Grow a f*cking spine or stay away from the internet!

[binair]

Het staat je toch vrij om zelf een nieuwssite op te richten en de comments daar welig te laten tieren? Ik zie niet in hoe het modereren van comments op sites die geld verdienen aan hun bezoekers (en deze dus niet willen afschrikken) jou beperkt in je vrijheid.

Vrijheid van meningsuiting wil niet zeggen dat iedereen jou maar aan het woord moet laten of dit voor jou moet faciliteren. Dat velen dat verschil niet begrijpen, dáár wordt ik tegenwoordig "doodziek" van.

[arbraxas]

Als een grootmacht als Google dit gaat doen word het een heel ander verhaal als 1 afzonderlijke site. Die hebben echt de macht om opinie te beïnvloeden, mensen monddood te maken etc.
Mensen die dat niet zien, daar word ik nou doodziek van.

Misschien dat je door die doodziek toevoeging al wel als "giftig" gemarkeerd word.

[Reactie gewijzigd door arbraxas op 22 juli 2024 23:49]

[mashell]

een grootmacht als Google dit gaat doen word het een heel ander verhaal als 1 afzonderlijke site. Die hebben echt de macht om opinie te beïnvloeden

Helemaal mee eens. De oplossing is echter niet bezwaar maken tegen het verwijderen van het "azijn" van het internet maar bezwaar maken tegen de macht van Google en facebook. Die macht moet gewoon ingeperkt worden.

[Akufen]

Ga je tegen iemand die kritiek heeft op de manier waarop het land bestuurt wordt ook zeggen dat hij kan verhuizen?

Uiteraard bepaalt een eigenaar van een zaak of website wat er te zien is, maar iemand anders is dan weer vrij om die aanpak te bekritiseren.

[Marty007]

Het is niet het modernisering van comments zoals jij beweert.
Een ai bestuurd door Google gaat straks bepalen wat goed en fout is. Er staat ook dat gemarkeerde berichten zelfs foutief verwijderd zullen worden omdat dit nu eenmaal is Hoe dit systeem moet leren...
Dus we gaan eerst massa censureren en daarna mag volgens Google blijken of iets wel of niet terecht was...
Einde van het verhaal onderaan de streep bepaald dus Google wat wel en niet gezegd mag worden..

[CivLord]

Vrijheid van meningsuiting is dat je in alle vrijheid je mening kunt uiten over de machthebbers van je land, zonder dat je daarvoor bestraft kunt worden. Niets meer en niets minder.
De rest is er bij verzonnen door figuren die zichzelf het recht hebben toegeëigend om anderen lastig te vallen met verbale diarree en/ of beledigingen.

[BarnET]

Nee dat is niet de definitie.

de definitie is:
grondwettelijk recht om in alle vrijheid, dus zonder voorafgaand toezicht, in welke vorm dan ook gedachten en gevoelens te openbaren.

De rest word onderdrukt door mensen die zich constant druk maken over iemand ergens op deze wereld wellicht zich beledigt zou kunnen voelen.

[GeeBee]

Daarbij schijnt iedereen de aanvulling "...behoudens ieders verantwoordelijkheid volgens de wet." niet te kennen.

In eenvoudig Nederlands:
In Nederland mag je zeggen en schrijven wat je denkt zonder daar eerst toestemming voor te vragen. Maar de rechter kan je achteraf wel straffen, als je iets zegt of schrijft dat niet mag volgens een ander artikel van de Grondwet of een andere wet.

Er staat meer in de (grond)wet dan alleen artikel 7 en geen enkel artikel is belangrijker dan een ander. De rechter zal die afweging moeten maken.

[BarnET]

Exact een rechter bepaald of iets niet mag omdat het inbreuk maakt op het grondrecht van bijvoorbeeld niet gediscrimineerd te worden.

Alleen hij of zij is bevoegd deze afweging te maken.

Dat geld niet voor een random iemand die vind dat iemand anders aan de andere kant van de wereld beledigt is. Of een computer algoritme van google die iets als "Toxisch" beschouwd.

[Anders]

Site-eigenaren zijn verantwoordelijk voor de reacties op hun site. Daar is helemaal niks willekeurigs aan. Bovendien hebben sites allerlei voorwaarden waar de gebruiker mee akkoord is gegaan.

[Reactie gewijzigd door Anders op 22 juli 2024 23:49]

[Verwijderd]

PC culture at it's finest.

Toxic comments plaatsen, of uberhaupt typwerk, is op PC natuurlijk veel toegankelijker dan op consoles en daarom ook veel meer aanwezig. (Ja, ik weet dat je ook een toetsenbord op je controller hebt of zelfs aan kan sluiten op een console, maar dat is simpelweg niet een standaard bij consoles.)

Vrijheid van taalgebruik is onderdeel van vrijheid van meningsuiting en het bestrijden hiervan het zoveelste voorbeeld van censorship.

Ik snap je punt, ik ben het ook zat dat er elke keer "steeds minder mag en kan", maar bedenk wel dat het hier niet echt gaat om "dit mag jij niet zien want wij vinden dat het de grenzen overschrijdt"(in de zin van grof taalgebruik, gore oid), maar meer dat de comment section nog een beetje serieus genomen kan worden. Dit zal ook z'n tijd nodig hebben, want het is al een hele tijd zo dat comment sections, met name die van Youtube, zelden iets zinnigs staat.

Ik vind het gebruik van censorship in deze context op zich een goede manier van toepassen van censorship. simpelweg omdat ze als doel hebben het lezen van comments wat plezieriger te maken.

Ik hoop daarom ook dat ze dit ooit voor Youtube gaan gebruiken.
Voordat je op Youtube bij een zinnige comment bent moet je eerst langs fanboys, trolls, "first!" comments en gescheld. De meeste comment sections doe ik niet eens meer moeite voor om doorheen te scrollen, slechts bij de video's die minder bekend zijn.

Edit: enkele aanpassingen in zinsopbouw

[Reactie gewijzigd door Verwijderd op 22 juli 2024 23:49]

[Verwijderd]

Met PC culture bedoel ik politiek correct. (Gedwongen ABN gebruiken).

Youtube comments zijn idd vaak gevuld met toxic reakties, maar om nou te stellen dat er amper zinnige comments staan gaat mij veel te ver.

Youtube heeft trouwens ook de optie om toxic comments te flaggen tegenwoordig.

Mijn punt is eigenlijk: Waar moet de grens dan liggen?

Ik vind het prima als ziekte verwensingen, haten om te haten en seksisme in comment secties worden aangepakt, want eerlijk gezegd vormt dat voor mij ook wel eens een irritatie en inderdaad goed dat zeker ten kosten van de kwaliteit en het nut van een comment sectie.

Tegelijkertijd vind ik wel dat iemand zijn hart moet kunnen luchten, en indien diegene daar behoefte aan heeft hij/zij ook in staat moet kunnen zijn om iemand de waarheid te kunnen zeggen.

[Verwijderd]

Met PC culture bedoel ik politiek correct. (Gedwongen ABN gebruiken).

Youtube heeft trouwens ook de optie om toxic comments te flaggen tegenwoordig.

Mijn punt is eigenlijk: Waar moet de grens dan liggen?

Ik vind het prima als ziekte verwensingen, haten om te haten en seksisme in comment secties worden aangepakt, want eerlijk gezegd vormt dat voor mij ook wel eens een irritatie en inderdaad goed dat zeker ten kosten van de kwaliteit en het nut van een comment sectie.

Tegelijkertijd vind ik wel dat iemand zijn hart moet kunnen luchten, en indien diegene daar behoefte aan heeft hij/zij ook in staat moet kunnen zijn om iemand de waarheid te kunnen zeggen.

Precies!

Youtube comments zijn idd vaak gevuld met toxic reakties, maar om nou te stellen dat er amper zinnige comments staan gaat mij veel te ver.

Te ver gaan? Dat kan, ik vind bij de meest bekende video's (Dus die altijd vooraan en bovenaan de feed staan) veel te veel van die comments staan. Dat ik die bedoel had ik er misschien wel bij moeten zetten inderdaad.

Dit zijn er gelukkig maar relatief weinig.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 23:49]

[Verwijderd]

. Prachtig.

[Cornelisjuh]

Waar is het oude internet gebleven?

[Verwijderd]

Een grovere woordkeus in een geschreven tekst geeft vaak een goed beeld van de emoties/beladenheid die de schrijver van tekst op het moment van schrijven ervaart en wat mij betreft moet dit gewoon kunnen en vooral zo blijven. (Natuurlijk niet op iedere website)

Als wij bv een discussie met elkaar zouden hebben en je vindt mij in die discussie een kl**tzak dan moet je dat wat mij betreft gewoon tegen me kunnen zeggen: Je lucht je hart, bent eerlijk en ik weet tegelijkertijd waar ik aan toe ben.

Ga je dit verbieden, dan vindt je me waarschijnlijk nog steeds een kl**tzak maar ipv dat dan te uiten doe je straks poeslief en aardig tegen me waardoor ik een verkeerd beeld zal krijgen.

Natuurlijk moet je haatdragende grove aanvallen direct op de man aanpakken, net zoals het strooien met ziektes en/of andere verwensingen maar na het lezen van dit artikel krijg ik een vieze smaak in de mond en heb ik sterk het idee dat het algehele internet maar politiek correct moet worden en dat is imo zeer schadelijk voor de vrijheid van meningsuiting.

[Dorank]

Oh de ironie van zelfcensuur. Je doet nu vrolijk zelf mee aan de PC cultuur terwijl je ertegen probeert te schoppen.

[Verwijderd]

Kan allemaal wel zo zijn, maar bij mij thuis heb je geen vrijheid van meningsuiting, en als je je grote waffel niet wat dimt sta je dus ook zo weer buiten.
En dat lijkt me een gezonde houding voor menig webmaster.

[Verwijderd]

Zo was mijn vader vroeger ook; Ongeacht het topic van discussie: Hij had gelijk want hij is volwassen en hij is mijn vader.

Dat vond ik op mijn 8ste al een kul-argument en nu op mijn 36ste nog steeds.

Gelukkig is mijn 'ouwe' (helaas pas toen ik zelf al volwassen was) in gaan zien dat het ook anders kan.

Je hoeft zeker niet over jezelf heen te laten lopen en ook geen grote waffel te accepteren (al helemaal niet in je eigen huis) maar het lijkt me niet meer dan normaal om wel de ruimte open te laten voor andere meningen dan die van jezelf.

[Bor]

Nadat Perspective een comment op een zwarte lijst heeft gezet, kan de nieuwsuitgever bepalen wat ermee moeten gebeuren.

De volgende stap is dat de definitie van "giftige content" wordt verbreed waardoor je feitelijk een censuur systeem hebt geïmplementeerd gezien je comments op basis van triggers buiten het zicht plaatst? Hoewel het idee nobel is zie ik toch wel wat haken en ogen.

[Starcaz]

Je hoeft niet bang te zijn voor censuur, als met zo'n systeem iedereen gewoon normaal met elkaar omgaat kan nog steeds iedereen zijn mening uiten. Censuur is wanneer het niet mogelijk is om je mening te uiten.

Wat voor mening je ook hebt, het is altijd mogelijk om dit op respectvolle wijzen te uiten. Dus zul je niet bang moeten zijn voor censuur met zo'n systeem.

[locke960]

Wat voor mening je ook hebt, het is altijd mogelijk om dit op respectvolle wijzen te uiten.

Voor sommige mensen zijn bepaalde meningen inherent respectloos. Het maakt daarbij niet uit hoe het geuit wordt. Als het systeem niet expliciet ontwikkeld is om deze twee te onderscheiden, ongeacht de 'training' van het systeem door de gebruikers, dan verandert moderatie toch in censuur. Op die manier draagt het alleen maar meer bij aan group-think en bubbel vorming.

Niet dat het met menselijke moderators veel anders is natuurlijk, maar behalve het besparen van arbeid zou het doel van dergelijk software ook een betere moderatie moeten zijn.

[Starcaz]

Een moderator is niet voor niets een moderator, zolang een moderator niet in staat is om objectief commentaar te beoordelen is deze persoon niet moderator waardig.
Het systeem wordt aangeleerd door moderators dus dat zou in theorie goed moeten komen. Daarnaast, als het voor zou komen dat er toch subjectieve moderators helpen zal dit altijd een minderheid zijn.

[bbob]

Het zou aangeleerd moeten worden maar het blijft een beslissing op basis van parameters en vergelijkingen.

Het haakt in naar de trend van alles automatiseren en de mens wegnemen uit beslissing. Als ik me hier pissed of geïrriteerd wil uitlaten kan het dus zo zijn dat dat niet mag. Emotie is ook een menselijke factor die met dit soort zaken uiteindelijk zal worden weggenomen. Tja allemaal borg worden dus.

[ard1998]

Als voorbeeld. Ik heb een forum, en ik wil dat er niet over politieke voorkeuren gesproken word om enkele heftige discussies te voorkomen. Dan kan de API helpen met het "schoon" houden van het forum. Geen sensuur, maar een softwarematige preventie tegen het breken van de regels.

[arbraxas]

In de ideale wereld wel ja. Maar daar leven we niet in.
Dit is echt een systeem wat heel makkelijk te misbruiken is.
Dit is met uitstek een plek waar je juist ontzettend moet uitkijken dat het niet uitmond in censuur.

[Starcaz]

Natuurlijk is het te misbruiken, maar daar wordt het ten eerste niet voor ontwikkeld en ten tweede is het niet anders dan commentaar te verwijderen die jou niet zint als website.

[arbraxas]

Verzin eens 1 woord voor "commentaar verwijderen die jou niet zint"

[Anders]

"Voorwaarden"

[mashell]

Hoe kan het nou censuur zijn? Die commentaren zijn optioneel. En laten we eerlijk zijn, het eerste zinvolle commentaar onder een nieuwsbericht van een krant moet nog gepost worden. Het is gewoon een verzamelplek voor zeikers en zeurders geworden die daar hun nepnieuws en ongefundeerde paranoia kunnen verspreiden. De meeste kranten hebben daarom de commentaar mogelijkheid al weggehaald, is dat dan ook censuur?

[The Reeferman]

Mwa, er worden ook veel leugens en propaganda als nieuws gepresenteerd en vaak zijn de reacties dan beter als het artikel zelf. Maar dat is natuurlijk niet de bedoeling, dat het gelijk weerlegd word onder het artikel.

[mashell]

Misschien moet je eens wat anders lezen dan Geenstijl. Serieus, veel leugens en propaganda vindt je niet in de Nederlandse pers. Wel smeuig gemaakte artikelen op filinterdunne basis (hoeveel artikelen er niet op basis van tweets geschreven worden).

[The Reeferman]

Ik lees niet echt veel op Geenstijl, meer op sites die wat internationaler zijn georiënteerd. Het liefst van onpartijdige sites en partijdige site aan beide/alle kanten van het mening verschil.
En dan word al snel duidelijk dat ook de Nederlandse pers volop mee doet in de propaganda machine van NAVO/US/EU/globalisten.
Een paar duidelijke gebeurtenissen waar in NL zeer gekleurd over is bericht zijn bijvoorbeeld: de oorlog in Joegoslavië, 9/11 en de daaruit voortvloeiende militaire ingrepen. De Libische oorlog, Syrische oorlog, gebeurtenissen in de Oekraïne, en relaties met Rusland. Trump.

[Fireshade]

De andere kant op zal er ook zijn: comments die bijvoorbeeld Hitler of moord verheerlijken, of de Holocaust ontkennen, dus zonder gebruik van de gebruikelijke 'negatieve' termen. Zal dat ook als giftige content aangemerkt kunnen worden?
Microsoft had een tijdje terug daarmee een flinke blunder gemaakt met hun Twitter bot.
Maar goed, hopelijk leert men daarvan.

[Reactie gewijzigd door Fireshade op 22 juli 2024 23:49]

[Verwijderd]

nee, volgens mij is deze tool niet bedoeld voor dat soort filtering, en dat lijkt me ook verstandig

[timmiej93]

Ik heb ook altijd mn vraagtekens bij dergelijke systemen, maar in feite is het niet anders dan menselijke moderatie. Natuurlijk is het de bedoeling dat moderators objectief en eerlijk zijn, maar dat zal in de praktijk ook niet altijd zo zijn. Zoals we nu vertrouwen op de integriteit van moderators, zullen we later moeten vertrouwen op de integriteit van de mensen die het moderatie-systeem maken en beheren.

[flabber]

De volgende stap is dat de definitie van "giftige content" wordt verbreed waardoor je feitelijk een censuur systeem hebt geïmplementeerd

Ik ben zelf een zeer groot voorstander van de vrije meningsuiting, persvrijheid en andere vormen van vrije expressie.
Maar het lijkt wel een tendens te worden om overal maar direct een labletje met "censuur" op te plakken, als een soort voortijdige vrijwaring.

Er wordt een tool gebruikt om, op basis van gebruikte terminologie en scoring door derden, te zorgen dat bepaalde content mij niet kan bereiken; die tool wordt ingezet door mijn provider en heet "spamfilter".
En persoonlijk heb ik een iets archaïscher variant die een zelfde doel nastreeft ongewenste informatie in de gedrukte 'pers' letterlijk buiten de deur houdt. Die tool heeft men de toepasselijke naam "Ja/Nee-sticker" gegeven.

En ik ben er blij mee dat die tools bestaan en nee, ik lig er geen moment wakker van dat het wellicht te beschouwen zou zijn als een 'censuur systeem'.

[Verwijderd]

Deze tool wordt gebruikt op welbepaalde sites op initiatief van de eigenaar ervan. Jij kan nog altijd aan je portie abjecte meningen op andere sites. Er is geen sprake van censuur.

[Verwijderd]

In feite wel, maar besef wel dat censuur volstrekt legitiem is op prive eigendommen. De vrijheid van meningsuiting geld niet binnen een dergelijke uiting.

Als voorbeeld: stel jij maakt perfect rationele comments op een krant. Ik als krant eigenaar verwijder ze allemaal en ban je. Effectief is dat censuur. Maar dit is volstrekt legitiem, het is immers mijn krant.

[Robkazoe]

Het zou mooi zijn als ze dit eens loslaten op YouTube. Man, man, man. Wat staat daar toch een bagger in de comments. Spammers, hoax accounts, flames, trolls. Je komt er echt alles tegen behalve zinvolle comments.

[beschuitfluiter]

Comments lezen op YouTube ben ik al heeeel lang geleden mee gestopt;
Ik kom daar alleen voor de content en verder niets.
Al moet ik zeggen dat door de YT algo's de videos daar allemaal gerekt worden tot 10min01 en referlinks je om je oren vliegen... Wordt ook steeds minder dus

[kuurtjes]

Ik gebruik sinds enige tijd de Herp Derp extensie:
https://chrome.google.com...jblnnolpdgdhebainmfbipjoh

Zet alle comments om naar wat ze daadwerkelijk zijn.

[jannickdeb]

helemaal geweldig.

[Verwijderd]

Ja precies! en die "First!" comments dan.
Verschrikkelijk.
De wat comment-sections van bekendere video's op Youtube staan bijna alleen maar vol met spam e.d. Van wat ik heb gezien vallen de wat obscuurdere kanalen/video's wel mee. (Ambiences, onbekende(re) docu's, educatie enz)

Ook van die parodie/namaak accounts van het kanaal waar ze op reageren.
Waar mensen al niet toe in staat zijn voor een beetje aandacht verbaast mij iedere keer weer.

Het nadeel is wel dat met zo'n geautomatiseerd systeem waar - in ideale omstandigheden dan - geen mens meer naar om hoeft te kijken, ook weleens onterechte blokkeringen e.d. gaan ontstaan.
Het is het 1 of het ander I guess.

[Annihilism]

YouTube is gewoon ten onder gegaan aan zijn eigen succes. En daarmee doel ik niet op hoeveel het gebruikt word maar puur op community.

Ik denk dat YouTube een van de weinig toepassingen zou zijn waar zo'n algoritme zou werken. Zelfs als hij een vorm van censuur zou toepassen zou youtube er niet slechter van worden .

[WK100]

Ik heb mijn twijfels over zo'n systeem.

Recent is Pewdiepie onder vuur genomen door media, door bepaalde fragmenten out-of-context te halen en in een compilatie te drukken. Gevolg: Bedrijven hebben banden met hem opgezegd en zijn de aanhangers van Pewdiepie boos op de media.
Nu zie je op de site van het medium dat dat artikel de wereld in heeft geholpen een lading aan negatief commentaar, van diezelfde aanhangers en mensen vanaf de zijlijn, wat vrij 'toxisch' te noemen valt. Als je dit eruit filtert, houd je alleen positieve of zeer zacht negatieve feedback over, wat totaal niet in verband staat met de (naar mijn mening) smerige praktijken van dat medium.

Als je het mij vraagt wordt het moeilijker om als individu terug te slaan mochten de media van hun padje af zijn.

[CivLord]

Toxic slaat niet op de inhoud van een comment, maar op de toon.
Wanneer een negatieve mening alleen maar (of overwegend) te uiten is met 'verbaal geweld' zou je je af kunnen vragen of die negatieve mening wel valide is.

[Verwijderd]

Recent is Pewdiepie onder vuur genomen door media,

Dat is zijn verweer.

In werkelijkheid slingerde hij antisemitisch bullshit op internet for the lulz, en dat moest iedereen maar leuk vinden.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 23:49]

[Mitsuko]

Nee, hij stak de draak met Nazi's. De tekst waar zoveel ophef over was schreef hij in naam van Keemstar, een andere Youtuber die onder andere berucht is voor racistische uitspraken. Daarnaast was de hele video een parodie op andere Youtubers om te laten zien hoe laag het is om met een dergelijke website mensen vernederende dingen te laten doen.

De beste manier om te zorgen dat het Nazisme nooit meer terugkomt is juist om er grappen over te maken. Als je de draak kan steken met een ideologie schamen mensen zich om de ideologie serieus te nemen. Maar als je iedereen met Nazi-achtige ideeën in het gezicht gaat slaan terwijl die mensen verder niks ergs doen, dan maak je ineens een slachtoffer van ze en dwing je mensen om ze te verdedigen.

Die Antifa lafaarden die je nu in Duitsland en de VS rond ziet lopen in hun zwarte kleding en bivakmutsen en die de hele buurt slopen omdat ze zo 'tegen fascisme' zijn, zijn juist de beste ronseling die de Neo-Nazi's in tijden gehad hebben.

[mashell]

De beste manier om te zorgen dat het Nazisme nooit meer terugkomt is juist om er grappen over te maken

Grappig maken ernstige dingen onschuldig. Dat werkt dus contraproductief.

[Mitsuko]

De Nazi ideologie is onschuldig als het bijna geen aanhangers heeft. Laten we dat zo houden, en niet een nieuwe tegenstelling tussen Nazi's en communisten maken waardoor beide groepen groeien terwijl het midden krimpt. Zo was communistisch geweld een belangrijke factor in het aan de macht komen van Hitler.

[Verwijderd]

Nee, hij stak de draak met Nazi's

Ahja .

Nou, "de media" staken de draak met youtubers om te laten zien hoe laag het is om te laten zien hoe laag het is dat mensen gekke dingen doen voor geld.

Kom op nou toch zeg, niemand hoeft meer te laten zien dat nazisme slecht is. We know.

[Mitsuko]

Het uit context halen van grappen (waaronder een grap uit een video over het uit context halen van grappen) en vervolgens met die misrepresentatie naar werknemers en sponsoren gaan om iemand in diskrediet te brengen is niet "de draak steken" met youtubers. Bij de YouTube Red show van PDP waren honderden onschuldige mensen betrokken die ook de dupe zijn geworden van deze leugenachtige praktijken.

[Funkymonk3y]

Best ingewikkeld zo'n heel algoritme. Met een paar ip adressen flaggen komen we waarschijnlijk al een heel eind. Wat zou minder fals positives opleveren?

[RGAT]

Als een deel van de toxic commenters gewoon scholieren zijn die wat teveel tijd hebben, dan kunnen ze dat van huis, van school, bij vriendjes etc. Een IP ban gaat dan meer mensen raken (een hele school, hoewel je kan zeggen dat school sowieso niet op Youtube moet zitten)....
Punt is dat IP bans al jaren geen (volledige) methode zijn, misschien nuttig om spammers even snel en geautomatiseerd te blokeren maar verder...

[stresstak]

Perspective is specifiek bedoeld voor uitgevers van nieuwsmedia.

In staat om commentaren met ongewenst taalgebruik te herkennen. Ongewenst door wie dan ?
Als de media algoritmes van derden gaan gebruiken zullen ze daarmee ook de mening van die derden toegepast zien worden. Gevaarlijk.

[Reactie gewijzigd door stresstak op 22 juli 2024 23:49]

[Verwijderd]

J, en als kranten gedrukt worden op papier van derden hebben derden ook invleod op de kwaliteit van de krant. misschien nog wel gevaarlijker.

[Cornelisjuh]

Deze comment is verwijderd door Perspective om de volgende reden:
Comment past niet in het agenda van de partij die het meeste geld aan Google gegeven heeft.

[beschuitfluiter]

De fakenews filters van Facebook worden betaald door de Open Society Foundations van Psychopaat George Soros; Ik vind het heel eng dat dat soort mannetjes gaan bepalen wat "het nieuws" of "de waarheid" is op grote internetplatformen... slechte zaak dus

[The Zep Man]

Dit is mogelijk een onderdeel van deze XKCD strip.

Het is een lastig probleem. Die 13-jarige snotaap die zich schuilt achter anonimiteit is irritant, maar ook professionele trollen. Als er iets aan gedaan moet worden, dan is zoiets als dit meer in proporties dan bijvoorbeeld het opofferen van de anonimiteit die het Internet kan bieden.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 23:49]

[Reynouts]

Er wordt natuurlijk veel onzin gepost onder video's en berichten. Het modereren (zoals het hier op tweakers bijvoorbeeld gebeurd) lijkt goed te werken. Hier wordt door de moderator rekening gehouden met de inhoudelijke relevantie van de comment. Dit mis ik in dit hele plaatje, iets wat onder een bepaald artikel/filmpje niet past en als een troll/flame/.. gezien kan worden, kan onder een ander artikel wel inhoudelijk kloppen.

Op dit moment lijkt Perspective nog niet erg impressive te zijn, pas als je de inhoud van het artikel en de comment mee kan nemen wordt het interessant.

Ik zie het op dit moment nog niet heel effectief ingezet worden in deze vorm, maar ben benieuwd hoe het zich verder gaat ontwikkelen. Het maken van verschillende modellen voor verschillende sites of type artikelen lijkt me wel wat in te zitten. Het filteren van gewoon onzin (zoals de spam op youtube) lijkt me makkelijker op te lossen dan met een ML model.

[Reactie gewijzigd door Reynouts op 22 juli 2024 23:49]