Kagi gaat 'AI-slop' weren uit zoekmachine op basis van meldingen van gebruikers

De privacyvriendelijke zoekmachine Kagi gaat gebruikers vragen AI-gegenereerde webcontent als zodanig aan te merken. Als dat gebeurt, plaatst Kagi de content lager in de zoekresultaten. Met die meldingen traint Kagi bovendien een systeem dat die 'AI-slop' automatisch detecteert.

Kagi noemt het systeem SlopStop. Dat is een verwijzing naar 'slop', een beschrijving voor simpel en snel gemaakte AI-content van lage kwaliteit. Kagi noemt AI-slop 'een existentiële bedreiging voor het internet'. SlopStop bestaat uit knoppen bij de zoekresultaten waarmee gebruikers webpagina's, afbeeldingen en video's kunnen aanmerken als AI-slop. In de extra informatie bij de zoekresultaten komt dan ook te staan dat iets als AI-slop is aangemerkt.

Nadat gebruikers meldingen doen, voert Kagi zelf nog een extra controle uit om te verifiëren of het inderdaad om AI-gegenereerde content gaat. Als dat het geval is, wordt een zoekresultaat lager of zelfs niet in de zoekresultaten opgenomen. Bij gemixte resultaten, bijvoorbeeld op webpagina's waar gedeeltelijke AI‑content voorkomt, wordt wel een label geplaatst, maar die worden niet lager in de ranking van de zoekmachine opgenomen.

Kagi gebruikt de meldingen van gebruikers om een eigen dataset op te bouwen. Die dataset wordt op zijn beurt weer gebruikt om Kagi's eigen AI-systeem te bouwen dat AI-content detecteert. Kagi maakt die database in de toekomst beschikbaar voor anderen.

Reacties (38)

[ghangster]

Het tegengaan van AI-slop met een getraind AI model lijkt me enigszins ironisch. Is het vertrouwen op AI technologie om AI-slop tegen te gaan niet een beetje onderdeel van het probleem?

[watercoolertje]

Het tegengaan van AI-slop met een getraind AI model lijkt me enigszins ironisch.

Dan is een mens (agent) die een mens (dief) tegenhoudt of oppakt ook ironisch?

Imo is er niks ironisch aan en zijn die 2 AI's ook niet perse vergelijkbaar er zijn wel meer AI's dan enkel LLM.

[ghangster]

Dat is waar, als het getrainde model puur is gebaseerd op menselijke input, dan zou het geen probleem moeten zijn.

Het probleem met AI-slop is vooral de feedback loop waarin AI traint op data dat al (mede) door AI geschreven is, waarmee hallucinaties versterkt en verspreid worden.

De kunst is dus om te voorkomen dat geautomatiseerde meldingen worden gedaan door AI i.p.v. enkel feedback van eindgebruikers.

[Arnoud Engelfriet]

Voor mij is het probleem veeleerder de oppervlakkigheid: de intellectuele luiheid van even anderhalve meter tekst neerzetten. Ik voel me geminacht als publiek als iemand me AI-slop voorzet waar me een inhoudelijk verhaal werd beloofd. Waarom moet ik dit serieus nemen?

[Llopigat]

Je ziet het ook op youtube nu. Als je zoekt naar een review dan is de helft gewoon een slideshow met standaard product afbeeldingen en een blaatverhaal gesproken door een AI. 100% waardeloze content. Ongetwijfeld alleen maar van mensen die likes willen hebben voor hun account. Dit account bijvoorbeeld heeft allemaal "reviews" die alleen maar de specs en promotionele marketing nablaten in een vervelende AI stem. Maar geband worden ze niet. Ik denk dat google ook niet al te hard wil optreden tegen AI omdat ze zelf zoveel mogelijk AI willen verkopen...

Op het werk word ik er ook niet goed van. Zoveel van die idioten die gewoon een zinnetje in copilot tikken en de uitvoer ongelezen doorblaffen. Die moet ik dan elke keer corrigeren omdat de helft voor geen meter klopt. En het klinkt altijd zo overdreven enthousiast met bullet points en teveel emoji.

Of mensen die de automatische vergadering notulen ongelezen doorsturen. Als ik ze dan corrigeer is het van "Ja maar er staat toch bij 'generated by ai', check for accuracy". Vaak staan er dingen in die ik helemaal niet gezegd heb. Degene die het doorstuurt, die moet het checken, niet de ontvanger.

AI kan best werk besparen maar het is niet de bedoeling dat je er helemaal niet meer naar omkijkt omdat het zo veel fouten maakt. Het is zo'n kleine moeite om het even door te lezen maar als de verzender al niet eens de moeite neemt dat te doen, waarom moet ik er als ontvanger dan ook maar enige waarde aan hechten?

[Reactie gewijzigd door Llopigat op 14 november 2025 12:24]

[Zoop]

Net zo goed dat een antivirus programma behoorlijk veel gedrag vertoond van een virus, of een spam-bot die verdomd veel lijkt om de anti-spambot die hen tegenwerkt. Of de bot nou "model puur is gebaseerd op menselijke input", maakt bar weinig uit. Sterker nog, ik denk dat je juist een bot wilt hebben juist net zoals een die de slop genereert. Want dan kan zo'n bot het juist des te beter herkennen.

[Llopigat]

Het probleem met AI-slop is vooral de feedback loop waarin AI traint op data dat al (mede) door AI geschreven is, waarmee hallucinaties versterkt en verspreid worden.

Dit vind ik eigenlijk wel goed. Hierdoor ondermijnt de AI zichzelf omdat het door de toenemende hallucinaties steeds minder nuttig wordt gevonden, en dat is alleen maar goed. Mensen vertrouwen er momenteel veel te veel op.

[sympa]

Spam in de e-mail is natuurlijk ook een probleem dat alleen maar mogelijk is gemaakt door computers. En we vinden het helemaal niet vreemd dat een stemfilter ook op een computer draait.

[Stukfruit]

Nee hoor, AI is in principe maar een stukje automatisering, dus zolang er genoeg wordt gedaan om te voorkomen dat het ook min of meer "random" wordt dan kan dat prima.

[TheVivaldi]

Hoe is dat ironisch? Als Wilders ‘xyz’ roept en Klaver roept ‘nee, het is yzx’, is dat dan ook ironisch? Feitelijk is dat namelijk wat er hier gebeurt: het ene AI-model corrigeert het andere.

[Eusebius]

Op dit moment is het heel simpel: LLM's gebruiken vaak de — in plaats van de - in hun tekst. De — is niet op een toetsenbord te vinden. Zie je dus een tekst met een lang(ere) — in plaats van een korte - dan is het ai-gegenereerd totdat het tegendeel bewezen is.

[watercoolertje]

Een simpele 'search and replace' op de output van een AI voorkomt al dat dat op je website komt. Maar het is inderdaad een goede indicator dat het AI is, maar het ontbreken van die — zegt imo helaas niks.

[Eusebius]

Klopt. Maar aangezien het brein van fanatieke ai-gebruikers al is aangevroten denken ze daar niet eens aan ;-)

Het is er eentje in de categorie: als ie er staat dan heb je een sterk signaal. Anders moet je het uit de tekst halen: vaak 3-voudige opbouw, veelvuldig gebruik van bijwoorden ("dan is ook de leuke kerstborrel") en voor de kenners gewoon informatie die niet klopt of verkeerd gestructureerd is. Dat wil zeggen: als het gaat over een onderwerp wat je met 5 punten moet onderbouwen, je als normaal mens eerst de belangrijkste punten neerzet. Een ai zet ze *plof neer

[DavidZnay]

Hoe moeilijk is het om die tekens te vervangen? Of voor LLMs om dat niet meer te doen? Bovendien zien weinig mensen verschil en denkt men nu bij de inzet van een gewone - dat men AI teksten gebruikt. Terwijl het in principe ook gewoon een prima manier van schrijven is als je iets van een bijzin wilt gebruiken.

[iqcgubon]

Hoe moeilijk is het om die tekens te vervangen? Of voor LLMs om dat niet meer te doen?

Ondertussen is het waarschijnlijk al beter, maar als je een tijd geleden vroeg aan Copilot om geen emojis te gebruiken sloeg die compleet tilt omdat die het simpelweg niet kon laten om dat wel te doen.

[Finraziel]

Is dat niet het teken wat Word automatisch voor je invoegt in bepaalde gevallen waar je een - gebruikt? Dus misschien detecteer je ook gewoon mensen die in Word schrijven.

[Dekar]

Inderdaad. Of het werk van William Shakespeare, boeken van John Green, en gedichten van Emily Dickinsen. Ik durf wel te stellen dat die niet allemaal toegang hadden tot Chatgpt.

YouTube: Which is Correct? — or – ?

LLMs kunnen tekst genereren zonder — en mensen kunnen schrijven met de —. Dit is gewoon erg kort door de bocht en zal natuurlijk niet werken.

Je kan gemakkelijk software installeren die — typt in de plaats van een andere toets.

En nu zou jouw AI deze webpagina ook aanmerken als AI generated, want iedereen in de comments is de — aan het typen.

[Reactie gewijzigd door Dekar op 14 november 2025 12:23]

[hcQd]

Ik gebruik graag de “gekrulde” aanhalingstekens, maakt dat mij ook AI?

[4WardNL]

In de besturingssystemen van Apple is de — (“em dash”) wel degelijk gemakkelijk te gebruiken.

• Bij macOS vereist het de toetsencombinatie Shift + Option + -.
• In iOS en iPadOS moet je simpelweg de “-“-toets even ingedrukt houden, waarna de optie voor een em dash (“—“) en en dash (“–“) verschijnt.

Jouw opmerking kan ertoe leiden dat veel teksten onterecht als AI-gegenereerd worden aangemerkt. Dat lijkt mij onwenselijk en “straft” de mensen die —net als veel LLM’s — de juiste streep proberen te gebruiken, in plaats van altijd het koppelteken.

[Casejunky]

Dus we gaan AI gebruiken om AI te weren...

Voor je het weet hebben we AI om aan te merken wat AI is of niet.

[DeMolT.]

Zoals ik het lees, wordt de eerste stap door de gebruiker geïnitieerd. Daarna doet AI nog een controle of het correct is.

[WeeJeePee]

Ik hoop dat dit soort ontwikkelingen doorzetten. Ik denk dat het zorgwekkend is hoe we met zijn allen het internet aan het vergiftigen zijn met AI rommel. Ik hoop dat dit het begin van het einde is van het businessmodel dat runt op advertenties en gebruikersdata. Een internet voor mensen niet voor bots. Ik ben bereid om hiervoor te betalen.

Het is belangrijk om dit soort ontwikkelingen aan te moedigen. Het internet is van ons allemaal en het is iets om te koesteren. Laten we ons best doen om zoveel mogelijk AI troep te weren. We moeten met zijn allen ervoor zorgen dat big-tech het moeilijk krijgt.

[Olympus user]

Mee eens. Laten de makers maar duidelijk aangeven dat het AI is. Anders verpesten ze het voor mensen die wel een echte foto of filmpje plaatsen.

[loki504]

Dat systeem is er al voor YT maar ze handhaven er niet op. en er zullen weinig platformen zin hebben op zulke dingen te handhaven.

[Olympus user]

Klopt. Ik heb steeds minder zin om te kijken omdat het verschil tussen waarheid en fake steeds onduidelijker wordt.

[Llopigat]

Ik hoop dat dit soort ontwikkelingen doorzetten. Ik denk dat het zorgwekkend is hoe we met zijn allen het internet aan het vergiftigen zijn met AI rommel.

Ja AI is rommel maar het is niet alsof het internet nou zo'n lichtend voorbeeld was van de ultieme waarheid. Er werd ook voor AI al een hele hoop flauwekul verkondigd op sites als reddit.

[Olympus user]

Goede zaak. Ik kijk soms uit verveling op Facebook naar video's, maar er zitten zoveel AI geproduceerde bij dat ik geen zin meer heb om het onderscheid te maken.
Voorbeeld, ik vind het leuk als een hond een kind beschermd, maar er zijn nu zoveel van die AI filmpjes dat ik nu helemaal niet meer kijk.

[Ulster Seedling]

Mooie ontwikkeling! Ik maak al een paar jaar met veel tevredenheid gebruik van Kagi. De zoekresultaten zijn een stuk beter dan Google, en vrij van advertenties. Bovendien kun je makkelijk websites hoger of lager laten ranken in je resultaten, of helemaal weglaten. Ideaal voor de troep die vaak naar bovenkomt van bijvoorbeeld w3schools.com. En als kers op de taart wordt je persoonlijke data niet tegen je gebruikt

[Reactie gewijzigd door Ulster Seedling op 14 november 2025 11:17]

[Dekar]

Het is jammer dat er betaald moet worden om een zoekmachine-ervaring te hebben zoals die vroeger was. AI generated troep die bij Google voorbij komt is een doorn in het oog. Bovenop alle reclame is het nagenoeg onbruikbaar geworden voor veel specifieke doeleinden. Een onafhankelijke product review is niet meer te vinden. Zijn er ook gratis alternatieven die vergelijkbaar zijn met Kagi? Ik vind DDG en Brave Search niet heel veel beter.

[devilkin]

Hoe stel je dan dat het bedrijf dan blijft draaien?

Advertenties? Nee dank je.

[Dekar]

Geen idee. Wikipedia draait op donaties. Een bescheiden banner ergens vind ik ook niet zo erg, en daar is gemakkelijk wat aan te doen. Jij hebt zo te zien geen Tweakers abonnement, dus hier tolereer je wel reclame.

[devilkin]

Die reclame wordt er op netwerk niveau uitgefilterd.

Niet te vergelijken trouwens, want tweakers maakt deel uit van een bedrijf met voldoende inkomsten, dus ze zouden perfect zonder reclame kunnen imho.

[Dekar]

Prima te vergelijken hoor. Wikipedia heeft geen reclame. Tweakers draait voor het grootste deel op reclame. DPG Media gaat niet vanuit de goedheid van zijn hart Tweakers in de lucht houden.

En de banners in mijn fictieve zoekmachine zouden ook door jouw PiHole worden gefilterd en daarmee aan al jouw wensen voldoen. Net zoals Tweakers.net waar je ook geen abonnement voor afsluit.

[Reactie gewijzigd door Dekar op 14 november 2025 12:32]

[Firestorm666]

Qwant ben ik wel content van.

[Dekar]

Thanks! Ga ik proberen

[dakka]

Oeh, ik was al van Google naar Ecosia overgegaan, maar dit is wel een lokkertje... eens proberen

[dutchruler]

Zoekmachines worden steeds meer een niche, vergelijkbaar met hoe Facebook tegenwoordig vooral door oudere gebruikers wordt gebruikt.

Steeds minder mensen hebben behoefte om handmatig op een pagina te zoeken als ze via ChatGPT, Gemini, Grok of vergelijkbare systemen direct een antwoord op hun vraag kunnen krijgen, inclusief verwijzingen naar bronnen.

Natuurlijk zijn er gebruikers op Tweakers die het liever bij Google of DuckDuckGo houden en AI minder prettig vinden.

Dat heeft vooral te maken met leeftijd, persoonlijke voorkeuren en gewoontes, en hoe snel iemand zich aanpast aan veranderingen in technologie.

[Wolfos]

Hopelijk werkt het beter dan de AI filters van DuckDuckGo. Die lijken vooral false positives te hebben terwijl stablediffusion.com doodleuk word toegelaten

Wat is er gebeurt met dat onzichtbare watermerk dat AI modellen zouden moeten toevoegen?