Reddit laat llm's posts en reacties controleren en automatisch verwijderen

Reddit komt met een tool waarmee moderators llm's kunnen gebruiken om posts en reacties te controleren. Ook wil het platform meer maatregelen nemen om scraping tegen te gaan.

Reddit werkt aan een pakket automatische moderatietools onder de naam Rules Hub, zegt het bedrijf. Daarmee kunnen moderators van subreddits moderatieregels opstellen voor llm's. Ook kunnen ze bepalen wat de AI-mod moet doen als deze detecteert dat een gebruiker een regel heeft geschonden. Ze kunnen de post automatisch naar een menselijke moderator laten sturen of meteen laten verwijderen.

Reddit-moderators konden al gebruikmaken van de AutoMod, maar deze gebruikte geen llm's. De AutoMod reageerde dus alleen op specifieke termen en patronen. De llm's kunnen volgens het platform beoordelen 'of een post of reactie voldoet aan de intentie van een regel'.

Reddit test de nieuwe moderatietools al enkele maanden met moderators van 700 community's. Alle nieuwe community's hebben vanaf nu ook toegang tot llm-moderatie. Later dit jaar moeten de tools voor iedere moderator beschikbaar komen.

Meer maatregelen om scraping te voorkomen

Reddit gaat daarnaast de toegang tot zijn api uitfaseren. Het bedrijf begon in 2023 al geld te vragen voor toegang, naar eigen zeggen om scraping voor het trainen van llm's tegen te gaan.

Inlogverplichting voor old.reddit.com

In de toekomst moeten partijen die van Reddits api gebruik willen maken, zoals Reddit-apps van derden, overstappen op zijn Developer Platform. Het bedrijf wil naar eigen zeggen dat 'alle goede, betrouwbare automatisering op Reddit draait binnen een ecosysteem dat we kunnen ondersteunen en waar we consistent beleid voor kunnen handhaven'.

Om ongeautoriseerde scraping te voorkomen, wil Reddit ook 'veranderingen aanbrengen' in old.reddit.com. Om welke veranderingen het gaat, is onduidelijk. Sinds kort moeten gebruikers al inloggen om de oude website te kunnen bezoeken.

Reacties (50)

[sky]

LLM's snappen context noch sarcasme. Denk dat dit gaat leiden tot een lawine aan willekeurige, onterechte bans, terwijl ze ondertussen de trouwste gebruikers definitief wegjagen door old.reddit en de API verder af te sluiten.

(edit; eerste comment was beetje kortaf)

[Reactie gewijzigd door sky op 6 augustus 2026 14:31]

[ErikT738]

Denk dat dit gaat leiden tot een lawine aan willekeurige, onterechte bans

Ben je bekend met Reddit?

En voor sarcasme wordt "/s" dan maar verplicht, I guess...

Ik weet niet of dit nou een positieve ontwikkeling gaat zijn of niet. Reddit als bedrijf is geen lieverdje, maar de "terminally online" vrijwillige mods zijn ook niet altijd fantastisch.

Sowieso is de site enkel nog goed te gebruiken op de wat meer niche subreddits. Op de grotere subreddits is iedereen vooral bezig met karma farmen lijkt het.

[MrRobot]

Dat is echt niet te misbruiken dan /s

[SillieWous]

En voor sarcasme wordt "/s" dan maar verplicht, I guess...

Dan is “/s” een workaround om alles te kunnen zeggen zonder ban? Of hoe zie je dat voor je. Want, schrik niet, dat kun je ook ergens achter zetten als het geen sarcasme is.

[MSalters]

LLM's snappen context noch sarcasme.

Feitelijk onjuist. Het is lastiger meten omdat mensen het ook vaak daarover oneens zijn. Maar op datasets waar mensen een 90%+ consensus hebben doen LLMs het ook goed. En wanneer mensen zelf 50/50 scoren is het maar de vraag welke helft er gelijk heeft.

[kiang]

LLM's snappen context noch sarcasme.

Ja en nee: natuurlijk 'snappen' ze niets omdat het geen bewustzijn is. Sure, er is een proces dat tekst uitspuugt en zo een gesprekspartner imiteert en dan lijkt dat proces het te hebben over hoe mooi een regenboog is en wat je daarbij voelt, maar er is geen bewustzijn is dat snapt wat 'rood' of 'blij' eigenlijk betekent.

Maar even praktisch gezien: een LLM is redelijk goed in staat om sarcasme te detecteren en context te lezen. Natuurlijk niet perfect, maar dat kunnen de meeste mensen ook niet.

Denk dat dit gaat leiden tot een lawine aan willekeurige, onterechte bans,

Eens. Maar dat is nu ook al het geval in vele grote subreddits met menselijke moderators.

[Reactie gewijzigd door kiang op 6 augustus 2026 17:02]

[sky]

@MSalters ik pak jou comment hier ook even bij om dubbele dingen te vermijden.

op datasets waar mensen een 90%+ consensus hebben doen LLMs het ook goed. En wanneer mensen zelf 50/50 scoren is het maar de vraag welke helft er gelijk heeft.

Maar even praktisch gezien: een LLM is redelijk goed in staat om sarcasme te detecteren en context te lezen. Natuurlijk niet perfect, maar dat kunnen de meeste mensen ook niet.

Fair enough! Zelf eigenlijk niet over nagedacht dus wel interessant om eens in te duiken. Dankjewel voor de correctie peeps!

[Benjamin-]

De bots die ze nu hebben kunnen dat ook niet. Als je een ban krijgt voor haat in een meme sub waar iedereen Urk als vreselijkste plaats van Nederland.

[Zoijar]

Reddit zou een van de duurste bedrijven ter wereld moeten zijn, omdat het een van de weinige platformen is die nog echte/organische content genereert waar AI op getrained kan worden. Eigenlijk is het meeste dat AI tegenwoordig zegt een samenvatting van reddit.

[Matthijz98]

Ik ben wel bang dat dit al een beetje verleden tijd is.
Denk dat van de nieuwe content op Reddit steeds meer AI generated is.

[ErikT738]

Hoe groter de sub, hoe meer AI-generated content.

[Memori]

Klopt. Vooral in de grote subs zie je steeds vaker AI-reacties. In kleinere, niche communities zijn de antwoorden meestal nog een stuk authentieker en gebaseerd op echte ervaring.

^ Dit is automatisch gegenereerd met een LLM. Helaas zijn zie ik steeds vaker dat mensen, dan wel niet automatisch, AI gebruiken voor hun reacties. Ook komt het steeds vaker voor dat ontwikkelaars automatisch "support" verlenen via AI, en dan heb ik mijn twijfels erbij of de ontwikkelaar zelf ook echt wel de bug reports ziet.

[Orky Rulez]

Wat wel een interessant fenomeen was was dat er op een bepaald moment 'bot-teams' waren die populaire posts uit het verleden naspeelden. Dus niet enkel een repost als basis maar ook een reeks grappig beoordeelde reacties. (Met als bedoeling te karma-farmen en dan die accounts te kunnen doorverkopen, blijkbaar)

Gevolg is dat je als gebruiker naar re-runs zit te kijken van een forumconversatie

[Tjeerd]

Ik zie regelmatig in discussies op sub-Reddits mensen roepen dat er misschien al bots meedoen in reacties, maar ik herken ze praktisch nooit. Wie weet zijn zelfs de mensen die het roepen dat er misschien bots meepraten, zelf ook bots. En als ze er dus al tussen zitten, heb ik werkelijk niks daar van gemerkt. Wat aan de ene kant ook wel een 'eng' idee is dat ik misschien wel reacties aan het lezen ben die heel menselijk overkomen maar van AI komen. Straks ben ik allemaal reacties aan het lezen van AI die met elkaar praat en leest het als een hechte 'community', maar heb je er helemaal niks van door dat er steeds minder mensen tussen zitten.

Rijst de vraag, als je geen verschil merkt tussen AI of menselijke reacties en je hebt wel veel plezier om het te lezen terwijl het allemaal AI is, moet je dan uit principe het niet lezen of gewoon accepteren of anders?

Je voelt het al van ver aankomen dat er misschien in de toekomst per bericht een icoontje bij gaat staan die aangeeft of het AI is of een mens, ter informatie.

[Reactie gewijzigd door Tjeerd op 6 augustus 2026 15:32]

[kiang]

omdat het een van de weinige platformen is die nog echte/organische content genereert waar AI op getrained kan worden

Zeg maar 'kon'. Sinds ze 3rd party apps blokkeren en een nieuwe nagenoeg onbruikbare UI opdringen is de activiteit gekelderd. Daarnaast is de hoeveelheid AI-spam geëxplodeerd.

Zelf vind ik Reddit in een paar jaar daarom echt totaal nutteloos geworden.

[supersnathan94]

Reddit is voor serieus werk bijna niet bruikbaar. Sws zijn de groepen vaak bolwerken van mensen met een bepaalde mening. Zo had ik laatst een discussie met iemand over het hele boeren gebeuren. Allebei goed argumenten over en weer, het ging om een nieuwsartikel dat men ipv boer zijn maar een kinderopvang moest gaan beginnen ofzo. Dat is natuurlijk een geheel uit de lucht gegrepen verhaal met een voorbeeldje van een paar boeren die semi correcte omstandigheden hadden (in nederland zijn er 108 volwaardige bedrijven die dit doen) waarbij de kosten meevielen, maar het slechts een deel van de inkomsten is.

De stallen en bijgebouwen ombouwen en vergunningen krijgen en regelen kost tonnen.

Het punt was. “Nu leg je weer de rekening van zwabberbeleid bij de boer en als regelgeving verandert, zijn de kosten ook weer voor de boer”.

Wordt helemaal kapot gemind en je krijgt daardoor een schaduw ban. Karma farmen is bijna noodzakelijk als je ook mee wil doen in een conversatie en tegengeluid wil bieden.

En dan ook nog eens die app. Wat een ramp. Iedere maand een update waardoor dingen weer anders werken. 3rd party apps waren noodzakelijk en dat kan nu amper. Hierdoor zijn de grootgebruikers en serieuzere redditors ook gewoon weggegaan. En nu is het inderdaad wat je zegt, weinig nuttige informatie, veel rare AI slop, maar ook gewoon dom gezever over bananen en andere onzin.

[kiang]

Hierdoor zijn de grootgebruikers en serieuzere redditors ook gewoon weggegaan.

Dat beschrijft inderdaad mijn gevoel: mensen die waardevolle bijdragen deden zijn eigenlijk weggepest door Reddit hun oorlog tegen de eigen userbase. Het is natuurlijk hun goed recht om alles kut te maken, het is hun website, en ik snap ergens waarom ze alles dichtgooiden (omdat AI bros alles kapot scrapen), maar dan moeten ze niet gek opkijken dat er gebruikers weggaan.

[supersnathan94]

en ik snap ergens waarom ze alles dichtgooiden (omdat AI bros alles kapot scrapen)

Maar. Dat kan dus nog steeds via de website. Kost wat meer I guess, maar niet onmogelijk.

Daarnaast is gemini getraind op reddit posts en reacties. Dus het is niet alsof het allemaal niet gebruikt wordt voor AI doeleinden. Alleen krijgen ze daar wel voor betaald.

[kiang]

Reddit neemt wel maatregelen om dat te voorkomen hoor. Of althans: om te voorkomen dat bedrijven dit doen zonder te betalen. Reddit biedt namelijk wel toegang tot al hun content aan AI-bedrijven als ze daar dik voor betalen, en velen doen dat ook (ik vermoed ook Gemini).

Ik had dus duidelijker moeten zijn en zeggen "k snap ergens waarom ze alles dichtgooiden (omdat AI bros alles kapot scrapen zonder te betalen)"

[supersnathan94]

Reddit biedt namelijk wel toegang tot al hun content aan AI-bedrijven als ze daar dik voor betalen, en velen doen dat ook (ik vermoed ook Gemini)

Ja hebben ze een tijd geleden een deal over gesloten. Daarom dat andere search engines ook geen resultaten geven voor reddit tenzij ze weer bij google aankloppen.


Maar het is nog steeds kinderlijk eenvoudig om pagina’s te scrapen hoor . T kost íets meer moeite als je het op grote schaal wil doen, maar curl is nog steeds een goede vriend

[Jorah_Newstone]

Automatisch verwijderen = zeer slecht idee. Daar is geen undo knop voor voor het geval de AI de context niet snapt of dat de instructie zelf gewoon niet duidelijk genoeg is. Er moet altijd een human in de loop zijn voor zulke beslissingen. Nu creeer je een AI-rechter. Dat moet je niet willen.

[Brad]

Ik voorzie een hoop zogenaamd niet zo bedoelde censuur.

[The Zep Man]

Dus Reddit gebruikt straks AI om posts en reacties te modereren die geschreven zijn door AI en waarop massaal gestemd wordt met AI.

Relevante comic.

[Reactie gewijzigd door The Zep Man op 6 augustus 2026 14:37]

[Kjoe_Ljan]

Dead internet theory.

[Wispe]

Straks worden posts geschreven door AI, beoordeeld door AI en verwijderd door AI. Dan hoeven mensen alleen nog maar ruzie te maken met de moderatiebeslissing.

[Sachertorte]

Om ongeautoriseerde scraping te voorkomen, wil Reddit ook 'veranderingen aanbrengen' in old.reddit.com.

Dat klinkt niet goed, ik kan echt niet wennen aan die nieuwe layout (buiten dat het gewoon veel minder laat zien en wat het laat zien minder duidelijk laat zien).

[Tinker]

Eerst zien dan geloven want op bijna alle grote platforms stikt het van de Ai Bots / LLM's. En niet een beetje maar 50% is standaard en 100% is ook geen uitzondering..
Ben benieuwd want voorheen mochten bots op hun data trainen.

[Jerie]

Dit gaat de moderatoren veel tijd schelen. Waarom? Om dezelfde reden als een spamfilter. Het huidige filter zal werken op basis van blacklisting van bepaalde woorden, en dat haalt bepaalde afschuwelijke content eruit (maar ook enkele false positives). Een LLM kan de nuance vinden.

Toevallig heeft Mistral onlangs (blog post van 4 Aug) Shieldstral uitgebracht die in deze voorziet:

Shieldstral introduces a 3B open-weights multimodal safety classifier that outperforms models up to 7x its size by framing content moderation as a policy-adaptive question-answering task. Unlike traditional guardrail models, it accepts plain-language policies at inference time, unifying text and image safety evaluation without retraining. Released under Apache 2.0, it delivers calibrated safety scores across diverse benchmarks while running efficiently on a single 16GB NVIDIA GPU.

Ik hoop wel dat het niet het eindoordeel heeft, of dat we afglijden naar 'computer says so' ('LLM zegt het, dus dan is het zo, hoef ik niet te verifiëren'). Dus er moet altijd nog een mens kritisch naar kijken.

[LootersV]

Ik snap dit ergens wel, een paar jaar geleden kregen enkele moderators ineens kapsones en ze probeerden toen de website te saboteren. Natuurlijk zijn er gevaren met AI maar als je kunt trainen op onpartijdigheid dan zie ik dit als een van de beste upgrades die ze ooit gedaan hebben.

[Caelorum]

Dit is een tool voor de moderators, niet een vervanging.

[The Zep Man]

Nog niet een vervanging. LLM's moeten immers ergens op getraind worden.

[Reactie gewijzigd door The Zep Man op 6 augustus 2026 14:28]

[MSalters]

Hoeveel moderatie trainingsdata heeft Reddit nu al? Ik zou daar prima een LLM op kunnen finetunen.

[Golenes]

Ik denk dat echte onpartijdigheid een illusie is in moderatie; deel van de rol is juist om grenzen te stellen aan discussie. Dat is mensen en maatwerk.

Natuurlijk kan je als moderatoor regels opstellen wat wel en niet modereerbaar is, maar juist in de interpretatie van de intentie van een regel sluipen wel wat vooroordelen mee. Die verschuiven hiermee wel van een moderator naar een LLM. Of dat oke is vind ik maar een moeilijke vraag.

[Ryunoru]

Niet alleen is dit geen tool tégen maar vóór moderatoren, destijds waren deze in protest tegen draconiaanse maatregelen van reddit. Ze probeerden de site niet te saboteren, ze probeerden reddit een bericht te sturen. Tevergeefs, want ze hebben langzaam maar zeker doorgezet met de enshittification van de site. Het zou me dan ook niets verbazen als hier wederom weerstand tegen ontstaat.

[liberque]

Ga voor de grap eens naar een gratis LLM - bv. google.ai - kopieer een willekeurig nieuwsartikel op tweakers.net compleet met reacties - paste dit in notepad - print het dan uit als PDF.

Maak dan de volgende prompt:

Je bent een onpartijdige moderator en je moet alle reacties individueel beoordelen in de context van het nieuwsbericht met een score per reactie : -1 bij ongewenst, 0 irrelevant, +1 relevant, +2 informatief en +3 spotlight. Negeer daarbij de huidige scores.

voeg daarna de PDF als bijlage toe en trek je conclusies: t.net zou zo'n upgrade dus ook helemaal niet misstaan.

[lenwar]

Tweakers is op dit moment (eindelijk) bezig om het moderatiesysteem aan te passen. Op dit moment raakt het inderdaad kant nog wal. Als je de huisregels er op loslaat, dan is '-1' effectief tegen de huisregels. Als iemand echter een minder-breed geaccepteerde mening heeft over iets, dan vliegen de -1's om diens oren. Tweakers is van mening dat het systeem zich uitmiddeld, maar dat is lang niet altijd het geval.

Een mooi voorbeeld is huidige score van de OP. 8x irrelevant, 6x relevant. Zijn OP is gewoon relevant, alleen is het niet de gewenste mening van de anti-AI-mensen, dus doen ze maar een nul, of misschien de verwoording met 'kapsones' niet leuk, en dan maar een nul. Of ik het met de OP eens ben laat ik in het midden, maar het is wat mij betreft gewoon on-topic.

[Amanoo]

Het zal vast beter zijn dan sommige geautomatiseerde moderaties die ik in het verleden heb gezien. Maar die lat ligt dan ook diep in de grond. Ik heb geen hoge verwachtingen.

[Jerie]

De false positives vallen op. Alle rotzooi die geautomatiseerde moderaties doen, die je niet ziet, daar hoor je niemand over. Want die vallen niet op.

[Amanoo]

Bij de automatische censuur/moderaties waar ik aan denk, was het wel zo erg dat je nauwelijks nog iets in het Nederlands kon typen zonder dat het om een of andere obscure reden werd weggemodereerd. Maar dan denk ik bijvoorbeeld aan chatmoderatie in Runescape zo'n 20+ jaar geleden. Dat was één groot false positive festijn.

Vergeleken met die lat, verwacht ik van de meeste LLM's wel wat beter.

[Jerie]

Heb ik soms nog steeds. 'Je kunt' in WoW, nog zo eentje. Want kunt = cunt = Engels scheldwoord, zucht.