Nederlandse IND gebruikt AI bij asielaanvragen maar meldt systemen niet aan

De Nederlandse Immigratie- en Naturalisatiedienst (IND) gebruikt twee AI-systemen om aanvragen te behandelen, zonder dat die zijn aangemeld. Dat is volgens de IND niet nodig, omdat ze niet voor besluitvorming worden gebruikt en het niet gaat om hoogrisicoalgoritmes. Maar de IND heeft wel eigen regels die voorschrijven dat algoritmes moeten worden geregistreerd.

Dit nieuws in het kort

• De Nederlandse IND gebruikt twee AI-assistenten voor 'voorwerk' bij asielaanvragen.
• De dienst heeft die niet aangemeld in Nederlandse en Europese algoritmeregisters, omdat ze geen hoogrisicoalgoritmes zijn.
• Advocaten maken zich zorgen over het gebruik.

Dat schrijft NRC, dat inzage in interne stukken heeft gekregen. Het gaat om twee modellen die Robin en ChatIND heten. Die zijn al sinds begin dit jaar actief, zegt NRC. De AI-modellen zijn assistenten die IND-werknemers kunnen ondersteunen bij het behandelen van asielaanvragen.

De algoritmes worden niet ingezet voor besluitvorming. Ze kunnen wel helpen bij 'voorwerk', aldus de IND. Robin is een chatbot waarmee IND-werknemers kunnen chatten en vragen stellen. Ook kan de bot teksten opstellen. IND-werknemers gebruiken de tool om bijvoorbeeld jurisprudentie of beleid op te zoeken. ChatIND kan worden gebruikt om documenten samen te vatten of interviews uit te schrijven.

De systemen zijn vorig jaar ontwikkeld door het ministerie van Justitie en Veiligheid. Dat wilde volgens NRC een eigen alternatief voor ChatGPT. Veel organisaties hebben tegenwoordig zo'n eigen, vaak afgesloten versie van een large language model. Het verschil tussen Robin en ChatIND is dat in ChatIND persoonsgegevens van asielzoekers mogen worden gedeeld.

Niet verplicht maar wel gewenst

De systemen zijn niet aangemeld bij openbare registers, schrijft NRC. Dat is opvallend, al is het niet wettelijk verplicht. Nederland heeft het Algoritmeregister, maar daar staan slechts twee algoritmes van de IND in. Robin en ChatIND staan daar niet tussen.

Registratie in het Algoritmeregister is niet verplicht. Onder de Europese AI-verordening is het wel verplicht om algoritmes met een 'hoog risico' te registreren in een centrale database. Maar, zegt de IND, deze algoritmes worden niet als hoogrisicoalgoritmes geclassificeerd. Daarom heeft de IND de algoritmes niet geregistreerd.

Dat is wel tegen de eigen beleidsregels van de organisatie in. De IND heeft interne regels die stellen dat het 'belangrijk is open te zijn over algoritmes'.

Het is maar de vraag of de chatbots echt geen hoog risico vormen. Ze gaan over specifieke zaken, waarin mogelijk gevoelige informatie kan staan. NRC haalt ook een advocaat aan die 'grote zorgen heeft' over het feit dat de IND de AI-modellen inzet zonder advocaten daarover in te lichten.

Reacties (132)

[MrBreaker]

De IND redeneert dat registratie niet verplicht is omdat het geen "hoogrisicoalgoritme" is en niet voor besluitvorming wordt gebruikt. Maar dat onderscheid is wankeler dan het klinkt: als een ambtenaar met ChatIND een samenvatting laat maken van een asielinterview, en die samenvatting vormt (deels) de basis voor het uiteindelijke besluit, dan is de grens tussen "voorwerk" en "besluitvorming" in de praktijk vaag. De AI Act kijkt naar het risico van het systeem in de praktijk, niet naar hoe een organisatie het zelf labelt.

Wat het extra ongemakkelijk maakt: de IND heeft zelf interne regels dat algoritmes geregistreerd moeten worden "omdat openheid belangrijk is", en negeert die eigen regel. Dat is geen juridische overtreding, maar wel een bestuurlijk vertrouwensprobleem — zeker bij een dienst die over mensen beslist die zelf geen sterke positie hebben om tegenspraak te leveren.

Rechtsongelijkheid??? => Mensen die hier tegenover een advocaat staan die niet weet welke tools zijn ingezet, en dus niet kan beoordelen of een samenvatting van hun interview accuraat is overgenomen of dat er iets is weggevallen of erin geslopen, staan in een informatie-achterstand. Dat is precies waarom transparantieverplichtingen bij dit type toepassing bestaan.

Tegelijk, om het niet eenzijdig te laten: er zit ook een verdedigbare kant aan. Justitie een eigen afgesloten LLM geven in plaats van iedereen los ChatGPT te laten gebruiken met persoonsgegevens van asielzoekers erin, is op zichzelf een verstandiger keuze dan het alternatief. Het probleem hier is niet zozeer dat de tools bestaan, maar de mismatch tussen "we vinden transparantie belangrijk" (intern beleid) en "we registreren het toch niet" (praktijk).

[CopyCatz]

Maar waar het op neer komt is dat er weer een loophole gaat komen voor mensen die hier niet horen om een advocaat te krijgen en hier weer jarenlang tegen te procederen. De advocaat heeft "grote zorgen", maar de facturatie-molen wordt al weer aangezwengeld.

[wmn79]

Over het algemeen heeft iedereen recht op een advocaat als hij/zij asiel aanvraagt. De bedragen die hiervoor worden uitgekeerd staan vast en zijn totaal niet vergelijkbaar met "Zuid-As"-advocaten (geen vetpot dus). Dus facturatie-molen is hier m.i. niet op zijn plaats.

Het jarenlang disfunctioneren van de IND en alle bezuinigingen op de asiel keten hebben ervoor gezorgd dat dit proces zachtjes gezegd niet lekker loopt. De oorzaak van jarenlang procederen ligt vooral bij de IND. Zij hebben nog steeds een enorme achterstand en processen duren heel lang. Zowel voor mensen die volgens onze wet en regelgeving recht op asiel hebben als voor mensen die dat niet hebben. Mensen die dat niet hebben kunnen daardoor pas veel later uitgezet worden.

De betalingen voor de asieladvocaten vinden pas plaats als een proces afgerond is. Dit in combinatie met de hoge werkdruk en relatief lage financiële compensatie zorgt ervoor dat er bijna geen nieuwe aanwas meer is bij de asieladvocaten (momenteel in NL één advocaat jonger dan 30). Hierdoor verslechterd de rechtsbijstand voor mensen die asiel aanvragen.

Zie ook dit artikel voor wat meer achtergrond: https://nos.nl/nieuwsuur/artikel/2617681-groot-tekort-asieladvocaten-dreigt-nieuwe-asielregels-voeren-de-druk-op

Dit artikel van vandaag op NOS is ook interessant voor deze discussie: https://nos.nl/artikel/2631482-100-dagen-eu-migratiepact-snelheid-ten-koste-van-zorgvuldigheid

edit:
artikel van vandaag over migratiepact toegevoegd

[Reactie gewijzigd door wmn79 op 18 september 2026 14:57]

[ApexAlpha]

Elke asielzoeker heeft in Nederland een oneindig recht om nieuwe rechtzaken aan te spannen.

Hier een voorbeeld van een asielzoeker uit een veilig land die al 6x door volledig door de procedure is gegaan en de 7e gaat starten. In dit artikel zie je ook dat van de afgewezen asielzoekers nog geen 30% het land uit gaat. De rest blijft gewoon hier.

Binnen dit systeem zeggen dat de IND "gewoon sneller" moet werken is net als zeggen dat de draaimolen sneller moet omdat je niet vooruit komt op deze snelheid.

[wmn79]

Elke asielzoeker heeft in Nederland een oneindig recht om nieuwe rechtzaken aan te spannen.

Dit klopt niet helemaal. Je kunt inderdaad opnieuw asiel aanvragen in NL maar alleen op basis van nieuwe feiten of omstandigheden. Wanneer je verzoek wordt afgewezen kun je niet opnieuw aanvragen zonder nieuwe informatie.

Hier een voorbeeld van een asielzoeker uit een veilig land die al 6x door volledig door de procedure is gegaan en de 7e gaat starten.

Dit voorbeeld dat je aanhaalt vind ik niet terug in het artikel. Ik lees wel een persoon uit Libië waarbij zijn aanvraag eigenlijk bijna direct is afgewezen omdat hij in Frankrijk asiel had moeten aanvragen. Hij is 6 keer opgepakt en uitgezet naar Frankrijk, dat is niet het opnieuw starten van een asielprocedure dat is het handhaven van de afwijzing van zijn asielaanvraag. Over 7 maanden verviel de Dublin claim en zou hij het opnieuw kunnen proberen staat er. Dus dan zou hij zijn tweede procedure kunnen starten. Dit zou dan zijn eerste uitgebreide procedure zijn aangezien die dublin claim vaak heel snel afgewikkeld wordt.

In dit artikel zie je ook dat van de afgewezen asielzoekers nog geen 30% het land uit gaat. De rest blijft gewoon hier.

Klopt en het artikel geeft ook goed de redenen aan waar dat door komt. Meestal het slecht meewerken van de landen waar de asielzoekers weer naar terug moeten.

Binnen dit systeem zeggen dat de IND "gewoon sneller" moet werken is net als zeggen dat de draaimolen sneller moet omdat je niet vooruit komt op deze snelheid.

Het systeem dat ik bedoel is het systeem van het verwerken van asielaanvragen, dat loopt jaren achter waardoor mensen lang moeten wachten op de uitkomst. Tijdens die procedure mogen ze niet werken in Nederland, iets wat velen graag zouden doen. Daarmee snijd onze eigen overheid zich in de eigen vingers, want als mensen gaan werken leveren ze weer belastinggeld op i.p.v. dat ze dat alleen kosten.

[wmn79]

Als je zelf nieuwe omstandigheden mag aandragen zoals extra binding met Nederland en dan een nieuwe procedure mag starten komt dat uiteraard op precies hetzelfde neer.

Stel dat je binding met Nederland als nieuw feit aandraagt zal dat ook zwaar getoetst worden door de IND. In dat geval zou je dit hooguit 1x als nieuw feit aan kunnen dragen. Dus daarmee haal je de 7x opnieuw naar de rechter zeker niet. Daarnaast is sinds 12 juni 2026 het nieuwe Europese Asiel en Migratiepact in werking getreden welke de Dublinverordening vervangt. Dit nieuwe pact beperkt juist de mogelijkheden een nieuwe asielaanvraag te doen bij nieuwe feiten of omstandigheden. (https://www.rijksoverheid.nl/themas/migratie-en-reizen/asielbeleid/nieuwe-europese-regels-voor-asiel)

Er zijn talloze voorbeelden van asielzoekers die jarenlang hier procedure na procedure aanspannen omdat ze toch nooit uitgezet worden en na een tijdje altijd wel een nieuwe omstandigheid kunnen aandragen.

Ben benieuwd naar die voorbeelden.

En elke keer kan je dat weer aanvechten in een procedure. En anders na 7 maanden automatisch nieuwe kans. En als je die verliest niks aan de hand, je wordt toch niet uitgezet dus over 7 maanden nog eens, desnoods in een ander land.

Nee daar valt dus niets aan te vechten. Deze 7 maanden haal jij uit 1 voorbeeld van een Dublin zaak die voor dat specifieke geval 7 maanden nadat zij hem spraken zou vervallen.

[Reactie gewijzigd door wmn79 op 18 september 2026 16:23]

[wmn79]

Dit is één voorbeeld, je had het over talloze voorbeelden.

[lDDQD]

Nee, je kan niet oneindig nieuwe rechtzaken aanspannen en een uitzonderingsgeval als voorbeeld gebruiken, zonder dat we de details kennen is ronduit populisme.

[Reactie gewijzigd door lDDQD op 19 september 2026 00:10]

[ApexAlpha]

Volgens de EC is dit geen uitzondering maar de norm: https://commission.europa...ach-returns-2025-03-11_en

Slechts 20% wordt daadwerkelijk uitgezet in Europa.

[lDDQD]

Dit ondersteunt je claim dat je oneindig rechtzaken kan voeren niet.

[bvloon]

Een asielzoeker uit een “veilig land” kan nog steeds een valide vluchtrelaas hebben, bijv op basis van geloofsovertuiging of sexuele geaardheid. Juist in die gevallen komt het dikwijls voor dat iemand in eerste instantie niet het hele verhaal vertelt, en dan in een herhaalde aanvraag met aanvullende informatie komt. Dat zijn echt uitzonderingen. Maar die worden meestal aangehaald, net zoals nu. Feitelijk misschien juist maar N=heel weinig.

[ApexAlpha]

Volgens de Europese Commissie gaat slechts 20% van alle afgewezen asielzoekers ook daadwerkelijk weg.

Dit is dus absoluut geen uitzondering maar eerder de norm. Voor Nederland is het 70% die gewoon het bevel om te vertrekken negeren.

https://commission.europa...ach-returns-2025-03-11_en

Dat zijn echt uitzonderingen. Maar die worden meestal aangehaald, net zoals nu. Feitelijk misschien juist maar N=heel weinig.

Ik zou heel graag je bron zien, want dan heeft de EC het fout.

[Reactie gewijzigd door ApexAlpha op 18 september 2026 12:48]

[WargamingPlayer]

Ik woon in een veilig land, maar op sommige concerten word ik gedwongen om achteraan te staan omdat ik een bepaalde gender en kleur heb.

De agressieve houding van alle mensen in de zaal als je daar geen gevolg aan komt zeer levensbedreigend over.

Ik moet dus maar asiel gaan aanvragen in Duitsland ander land.

[Webgnome]

Het is aan de IND / rechtelijke macht om te bepalen of iemand hier 'niet hoort'. Als je een beetje op internet zoekt dan weet je dat
1. mensen altijd recht hebben op een herbeoordeling van hun aanvraag ( volgens internationale regels )
2. de IND in een kwart van de gevallen zelf in hoger beroep gaat en dat best vaak backfired.
3. in veel gevallen van een herbeoordeling er een toekenning is omdat de IND in eerste instantie zijn werk niet goed heeft gedaan.

En wat is er precies mis mee dat er op basis van bepaalde gronden in hoger beroep gegaan word? We weten hopelijk allemaal dat de overheid het ook niet altijd netjes doet wat betreft omgang van haar burgers ( toeslagen schandaal anyone? ) dus het is goed dat er juist kritisch naar gekeken word naar dit soort tools en dat mensen mogelijkheden hebben om in beroep te gaan tegen dingen die de overheid doet.

[ApexAlpha]

Het probleem is dat je na je hoger beroep een uitspraak krijgt en men (~70% tot 80%) die gewoon totaal negeert als die uitspraak zegt dat ze weg moeten.

Ze blijven gewoon illegaal hier, en starten weer een totaal niewe procedure inclusief nieuw hoger beroep na een tijdje.

Alsof je na een uitspraak van de rechter, inclusief hoger beroep, hoort dat je de gevangenis in moet en dan gewoon gaat onderduiken tot je een nieuwe proces kan aanvragen na 7 maanden om uit de bak te blijven, en dat dan oneindig kan blijven doen.

Als moordenaars zo een maas in de wet hadden gevonden was die in 2 seconde dicht maar asielzoekers doen het al 10+ jaar.

https://commission.europa...ach-returns-2025-03-11_en

https://nos.nl/artikel/24...rtrok-maar-een-derde-echt

[Reactie gewijzigd door ApexAlpha op 18 september 2026 12:51]

[Webgnome]

Als men hier illegaal verblijft omdat men weg moet ( zoals in het NOS artikel staat) dan is dat het falen van de overheid die vind dat die mensen hier niet horen. Die zegt 'nee' dus moet die er ook voor zorgen dat je weg gaat. Dat gebeurt dus niet. Dat staat verder los van dat een burger handgrepen moet hebben om tegen de staat in beroep te kunnen gaan.

En waarom je precies moordenaars er tegenover zet snap ik niet helemaal. Immers mensen die worden verdacht van moord hebben ook heel veel mogelijkheden om in hoger beroep te gaan. Is dat om een krachtig schrikbeeld te maken?

[Reactie gewijzigd door Webgnome op 18 september 2026 12:55]

[ApexAlpha]

Nee ik probeer het verschil uit te leggen tussen een hoger beroep (normaal) en de mogelijkheid om keer op keer nieuwe procedures te starten om zo te uitzetting te frustreren.

Die lijk jij door elkaar te gooien. Geen enkele Nederlander mag 7x voor hetzelfde vergrijp naar een rechter als de uitspraak hem niet aanstaat.

[Jim de Wit]

En asielzoekers mogen dat ook niet. Wat is nu precies je punt?

[ApexAlpha]

https://nos.nl/l/2590829

Dit gebeurt aan de lopende band.

[Jim de Wit]

Ik lees hier niets over het aantal procedures. Wel over een moeder die illegaal in Nederland bleef, en toen (inderdaad) uitgezet had moeten worden. Dat is echter niet gebeurd, en dus heeft de staat verzaakt.

Inmiddels is er echter sprake van een dertienjarig geworteld kind (waarvan de vader nota bene een verblijfsvergunning heeft), en dan lijkt het me niet meer dan billijk dat je met de hand over het hart strijkt.

Het probleem in dezen is niet de asielzoeker (evenmin in het eerdere voorbeeld dat je aanhaalde), noch de wetgeving (die is er en is adequaat), maar de falende handhaving.

[Edit: typo]

[Reactie gewijzigd door Jim de Wit op 18 september 2026 16:49]

[wmn79]

Zoals ik op je eerdere reactie al aangaf haal je twee zaken door elkaar.

1. de asielprocedure, die mag je opnieuw opstarten als er nieuwe feiten of omstandigheden zijn.
2. het handhaven van de uitkomst van de procedure, waarbij mensen uitgezet worden als dat kan en het land van herkomst werkt er aan mee.

Dit tweede punt is waar je het artikel van de Europese commissie over aanhaalt. Dat is ook een groot probleem maar dat ligt niet bij de IND. Dat regelt de dienst terugkeer en vertrek. Zie ook de tabel en plaat over de asielketen op deze pagina: https://www.dienstterugkeerenvertrek.nl/over-dtv/samenwerkingspartners/de-vreemdelingenketen-en-andere-partners

Zoals hieronder ook al aangegeven mag een asielzoeker dus ook niet 7x opnieuw naar de rechter als de uitspraak hem niet aan staat.

[wmn79]

Stel dat je binding met Nederland als nieuw feit aandraagt zal dat ook zwaar getoetst worden door de IND. In dat geval zou je dit hooguit 1x als nieuw feit aan kunnen dragen. Dus daarmee haal je de 7x opnieuw naar de rechter zeker niet.

[Nightscope]

Wat maakt het dat je zegt dat ze 'hier niet horen'? Dat is iets waar de IND een oordeel over mag vellen gebaseerd op wetten. Spreek je vanuit een onderbuik gevoel?

[Zyppora]

Het is gewoon een correcte uitspraak, hoewel wat ongezouten. De IND beoordeelt aanvragen en een subset daarvan zal worden afgewezen. Als jouw aanvraag (terecht) wordt afgewezen, dan 'hoor je hier niet' en zul je terug moeten naar je land van herkomst. Daar is weinig onderbuikgevoel aan

[ApexAlpha]

Dat is alleen theorie. In de praktijk gaat in heel Europa van de afgewezen asielzoekers bijna niemand terug. Rond de 80% blijft gewoon illegaal hier.

Return rates across the EU stand today at around 20 percent. Persons ordered to leave an EU country frequently escape the authorities. The European Commission has now proposed to help EU countries increase return rates while fully respecting fundamental rights by establishing a common EU return system. This will complement the EU Pact on Migration and Asylum which comes into effect mid-2026 and will allow for asylum applications to be processed more quickly and efficiently.

https://ec.europa.eu/euro...f_third-country_nationals

[Zyppora]

En dat is een situatie die we volledig aan de IND te danken hebben door bovenstaand. Als zij gewoon netjes de regels en het interne beleid hadden gevolgd in deze, dan was hier geen enkel probleem geweest. Nu staat de deur weer open voor, in jouw woorden, mensen die hier niet horen om jarenlang te procederen.

[NrFive]

Yuval Noah Harari is recentelijk veel interviews aan het geven van de paradox van AI en vertrouwen.

Enerzijds vertrouwen mensen elkaar niet, kijk nu maar naar onze politieke leiders, partijen die tegenover elkaar staan, onze concurrenten etc., maar tegelijkertijd hebben “we” blind vertrouwen in deze technologie. Dat is een enorme mismatch.

Volgens Harari zit hierin het grote gevaar dat AI verdere vertrouwensbreuk in de samenleving gaat opleveren en zoals je ook zegt, het is alles behalve transparant, dus wat doet dat met het vertrouwen…

Recent interview van hem, zeker de moeite waard om te luisteren.

[Reactie gewijzigd door NrFive op 18 september 2026 10:11]

[kodak]

Ik lees nergens in het nieuws dat er blind vertrouwen in ai is. Wel dat men ai niet zomaar zal vertrouwen. Het feit dat iemand kan doen alsof er blind vertrouwen is zonder dit naast de kenmerken van dit nieuws te houden hoort al genoeg reden te zijn dat soort beweringen er niet zomaar bij te betrekken. Kom dan op zijn minst met inhoudelijke argumenten waaruit het blijkt.

[NrFive]

Wij als tech savvy mensen zijn ons (meestal) er bewust van. Maar dit geldt niet voor de gemiddelde burger.

Ik zie m’n vrienden en familie al te vaak blind de AI-summary van Google vertrouwen, om dan nog maar te zwijgen over de mensen die spelen met de chatbots.

Het is deze (valse) vertrouwen dat ervoor zorgt dat organisaties ermee aan de slag gaan, zonder zich bewust te zijn wat dit doet met de samenleving.

[kodak]

Ik ben het er mee eens dat mensen die privé andere waarden hebben dan bij professionele organisatie horen te gelden een risico kunnen vormen. Maar dat maakt nog niet spontaan dat als jou vrienden en kennissen zich er gemakkelijk vanaf maken dat dus maar duidelijk van toepassing is op de keuzes van de IND. En al helemaal niet dat er dus maar een paradox van toepassing is,. Omdat een steller geen enkele moeite doet die aan te tonen op basis van inhoudelijke en duidelijk relevante feiten het niet zomaar overal op kan betrekken. En zolang dit soort beweringen en suggesties dan ook nog eens geen moeite doen andere oorzaken uit te sluiten is het te simpel om dat soort stellingen er maar bij te gaan betrekken. Generaliseren en suggestief beweren is vooral makkelijk, niet zomaar relevant of redelijk.

[Reactie gewijzigd door kodak op 18 september 2026 12:59]

[NrFive]

Jouw reactie klinkt al alsof het geschreven is met AI, heb het meerdere malen moeten lezen. 😅😇

Ik weet niet of ik jou ga overtuigen of mensen AI blind vertrouwen. Simpele Google search levert al genoeg studies op. Het probleem van die studies is weer dat ze nog niet vaak genoeg gereproduceerd zijn om een gegeneraliseerde antwoord / conclusie te trekken, maar hey, als dat voor jou niet voldoende is, is dat natuurlijk jouw keuze 👍

De spreekwoordelijke “writing is on the wall”.

Toevoeging Edit:

Moest even uitzoeken waarom ik hierop triggerde. AI is gewoon de volgende stap van “automation bias”, waarbij mensen sneller geneigd zijn de systemen te geloven dan mensen zelf.

Daarbij een persoonlijke toevoeging, een familielid heeft bij IND op deze specifieke dossiers gewerkt en me verteld over enkele zaken waar het heel anders oordeelde dan het team en management. Deze kon het vervolgens dusdanig onderbouwen dat de anderen werden overtuigd.

[Reactie gewijzigd door NrFive op 19 september 2026 10:31]

[Deewop]

maar tegelijkertijd hebben “we” blind vertrouwen in deze technologie

Volgens AI is dit niet wat hij bedoelt in het interview. Wel dat we niet zozeer geloven dat wat de AI zegt altijd correct is, maar dat we zien dat deze bepaalde taken beter doet dan mensen, en we daarom steeds meer beslissingbevoegdheid geven aan AI. Net zoals dat we mensen niet blind vertrouwen, maar deze toch beslissingsbevoegdheid geven.

Wie moet ik nu vertrouwen dat ze de waarheid vertellen over het interview, jij of de AI?

Misschien toch zelf maar even het interview bekijken. Maar kan ik er wel op vertrouwen dat mijn eigen brein het interview op de juiste manier interpreteert?..

[NrFive]

Haha grappig dat je de link door AI haalt. Indirect bewijs je daarmee het standpunt. Ik zou zeggen kijk het interview en vorm zelf een mening. Hij legt het uit op basis van het financiële systeem (vertrouwen in geld) vanaf minuut 4.

Vervang dat voorbeeld met ChatIND en je bent er.

[MrBreaker]

Precies, dank voor de link .

[Alex3]

Je zou op zijn minst moeten kunnen inzien en zonodig laten corrigeren op welke uitvoer van AI een ambtenaar zijn beslissing baseert.

[Meneer Den Uyl]

Maar dat is met AI toch niet anders dan zonder?

[baseoa]

Rechtsongelijkheid??? => Mensen die hier tegenover een advocaat staan die niet weet welke tools zijn ingezet, en dus niet kan beoordelen of een samenvatting van hun interview accuraat is overgenomen

Dit inderdaad, plus dat een troll (of LLM) veel sneller argumenten kan bedenken dan een mens kan weerleggen. Je zult aan moeten tonen dat waar het mee komt onjuist is. Beetje de omgekeerde wereld qua bewijslast

[Yalopa]

Als een mens die samenvatting maakt kunnen ze ook niet beoordelen als alles er in staat of niet. In mijn ervaring is een meeting samenvatten een pak accurater door een AI systeem dan door een mens. Het is ook minder arbitrair want het heeft geen mening over individuen...

[Mavamaarten]

Het is ook minder arbitrair want het heeft geen mening over individuen...

Wel ... daar zit hem net het probleem. Dat is toch compleet afhankelijk van welk model je gebruikt en hoe dat model getraind is. En laat praktisch elk model gewoon een binaire blob zijn aan "data" waar je ook niet even in kan gaan kijken hoe het getraind is.

Een samenvatting kan óók gekleurd zijn.

[Splorky]

Maar nu zit het nog in het begin, een misschien werkt het goed.

Op een tijdje komen er teveel vluchtelingen ons mooie landje binnen, en dat moet echt geminderd worden!!! (Niet wat ik denk, maar zo zijn er aardig wat) Wat gaan we doen, de AI instructies geven om net wat anders naar de data te kijken, en de output iets minder neutraal te maken. Mensen gaan niet twijfelen aan de samenvoegen, die waren altijd al goed, en als de computer het zegt, dan zal het wel waar zijn.

[Reactie gewijzigd door Splorky op 18 september 2026 11:15]

[ocn]

Dit. Er zal altijd bias zijn als iets enkel door mensen laat doen. Mensen nemen hun hele geschiedenis en cultuur met zich mee in hun verwoording.

[t_o_c]

Het is inderdaad krom dat ze dit niet gewoon registreren per hun eigen regels. Ook al is het misschien niet nodig volgens hun eigen regels, dan alsnog zie ik niet in waarom ze dit niet zouden doen aangezien het erop lijkt alsof het vooral een extra stapje automatisering is in de vorm van een soort opgevoerde Google.

Wij gebruiken iets soortgelijks maar dan voor het helpen van engineers met het zoeken naar oplossingen. Ipv dat ze zelf een zoekterm in vullen en handmatig door service reports moeten gaan doet de AI dat voor hun. Mits een beetje fatsoenlijk gebouwd werkt dat best goed.

Zelfde geld voor het samenvatten van ellenlange email chains. Dan kan je natuurlijk zeggen maar die AI kan best iets belangrijks missen. Ja. Maar het is niet alsof de gemiddelde werknemer iedere keer een chain van 100 emails perfect kan doorlezen iedere keer.

Behalve dat het gebrek aan consistentie wat betreft hun eigen regels zie ik, zoals het in het artikel word uitgelegd, niet echt een probleem.

[ocn]

Tsja of een mens een samenvatting maakt, of een mens een samenvatting met ondersteuning van AI maakt. Potato, potàto. Er zal altijd, altíjd een vorm van bias zijn. Níets is objectief. Ik vind het prima als we AI verbieden voor ambtenaren, maar dan moeten we als maatschappij ook niet zeiken dat er zoveel ambtenaren zijn en dat we zoveel belasting betalen. Of dat er zoveel immigranten zijn.

[Reactie gewijzigd door ocn op 18 september 2026 10:42]

[WillySis]

Er wordt nog steeds te veel gedacht dat iets niet belangrijk is en daarom is men geneigd om iets niet te registreren. Ik zie, zeker bij officiële instanties, veel liever een mentaliteit dat men liever iets registreert, ook al is het niet belangrijk. Nu komt men er achteraf achter dat dingen niet geregistreerd worden, terwijl dat wel tegen de eigen regels is. Dat komt niet betrouwbaar over.

We hebben onder Rutte jaren lang een overheid gehad die zo min mogelijk rapporteerde en zoveel mogelijk in het verborgene opereerde. Het vertrouwen in de overheid is daardoor tot een dieptepunt gezakt. Het is nu tijd om liever te veel te rapporteren en echt open te zijn.

[watercoolertje]

Het is maar de vraag of de chatbots echt geen hoog risico vormen. Ze gaan over specifieke zaken, waarin mogelijk gevoelige informatie kan staan. NRC haalt ook een advocaat aan die 'grote zorgen heeft' over het feit dat de IND de AI-modellen inzet zonder advocaten daarover in te lichten.

Ligt er aan over wat voor risico ze het hebben, is het gebruik van gevoelige informatie het risico (ik neem aan van niet als die LLM lokaal draait) of slaat dat risico op de 'bevoegdheid' van het algoritme/model.

Dus als dat algoritme/model er verschillende zaken bij haalt/zoekt over een persoon en daar bronnen bij haalt en er een medewerker netjes controleert wat er gevonden is en de medewerker op basis van die informatie een oordeel geeft. Zie ik daar een minder hoog risico in dan dat een algoritme/model zelfstandig moet bepalen of iemand het land in mag bijv.

[Reactie gewijzigd door watercoolertje op 18 september 2026 09:15]

[hoeksmarp]

[...]

...en er een medewerker netjes controleert wat er gevonden is en de medewerker op basis van die informatie een oordeel geeft.

Ik denk dat er genoeg voorbeelden zijn dat dit misschien wel het beleid en de theoretische situatie kan zijn, maar dat dit in sommige gevallen leidt tot blind vertrouwen op het systeem of situaties waarin iemand te hoge werkdruk heeft en daardoor de controlestap overslaat. Dit gebeurt ook (zelfs?) bij advocaten.

Daarnaast is bij het zoeken naar jurisprudentie altijd het probleem dat je wel kunt controleren wat de AI gevonden heeft, maar niet wat het niet gevonden/niet gemeld heeft, wat een hoog risico geeft dat bevooroordeling van de AI doorsijpelt in de beslissing.

Alles hangt natuurlijk af van je definitie van risico, maar zeggen dat het geen hoog risico is alleen omdat in theorie een persoon controle uitvoert is denk ik een grote fout die de overheid (en iedereen) niet zou moeten maken.

[mrtl]

Die dingen zijn toch te inaccuraat om zelfs ook maar "interviews uit te schrijven"? Wat als zo'n LLM hallucineert. Dan heb je dus een incorrect dossier.

[Sissors]

Wat als een mens fouten maakt? En ook huisartsen bijvoorbeeld beginnen met het gebruiken van zulke systemen om gewoon tijd te besparen. Uiteraard moet er gecontroleerd worden wat de AI schrijft, en uiteraard zal ook die controle weleens te snel gaan en er een fout in sluipen. Maar hoeveel fouten en vertragingen gaan we accepteren van mensen, omdat we maar niet een LLM betrokken willen hebben bij het proces?

En een moderne LLM kan echt zulk soort dingen behoorlijk goed doen. Vraag is wel hoe modern die LLM is en of die fatsoenlijk werkt. (Als in, bij mijn werkgever waren ze aan het begin net als bij veel andere plaatsen bang voor zo'n cloud LLM, dus hadden we onze eigen lokale LLMs. Ze bestaan nog, maar ze zijn gewoon ruk. Ondertussen hebben we ook toegang tot reguliere LLMs die rondjes lopen rond die lokale).

[Akamatsu]

Ik haat dit argument: "Wat als een mens fouten maakt".

Stop appels met peren vergelijken.

Een LLM is en zal altijd een machine blijven, machines verdienen niet dezelfde gratie als mensen.

Als een hond op de vloer schijt behandel ik dat anders dan wanneer een mens dit doet, wat ik dus probeer te zeggen is je moet fouten van een machine anders behandellen dan fouten van een mens.

Een LLM kan je niet verantwoordelijk houden voor zijn fouten, een mens wel.

Wij moeten fouten van LLMs dus niet goed praten, dit betekend een machine die niet functioneert. In dit soort discussies wordt een LLM verhoogd tot de schaal van bewustzijn, een LLM heeft geen bewustzijn het is een woord-voorspel-machine, dus behandel het ook zo in argumentatie en redenatie.

[911GT2]

Maar zijn we op dit moment niet zo ver dat een goed getraind LLM niet veel betrouwbaarder resultaat geeft dan een ambtenaar?

Mensen zijn veel beïnvloedbaarder dan LLM’s. Vermoeidheid, ziekte, psychologische staat of zelfs wat er vanmorgen in de bus gebeurde kan invloed hebben op hoe iemand reageert.

Ik zeg niet dat we blind op LLM’s moet vertrouwen. Ik vraag me af of hallucinaties erger zijn dan iemand die zijn dag niet heeft?

[The Zep Man]

Mensen zijn veel beïnvloedbaarder dan LLM’s. Vermoeidheid, ziekte, psychologische staat of zelfs wat er vanmorgen in de bus gebeurde kan invloed hebben op hoe iemand reageert.

Andersom zijn mensen beter in staat om nuances te herkennen en verwerken, en om sympathie en empathie te hebben (niet enkel nepsympathie te tonen wat geen invloed heeft op het proces).

[Reactie gewijzigd door The Zep Man op 18 september 2026 10:09]

[911GT2]

Eens. Ik pleit ook niet voor het een of voor het ander. Ik vraag me alleen af of de betrouwbaarheid van een beslissing door een LLM consistenter is dan dat van een persoon.

Ik denk juist dat emotie geen factor zou moeten/ mogen zijn in dergelijke beslissingen?

[Aldy]

Is het ook niet zo dat het antwoord dat de LLM geeft afhankelijk is van hoe jij de vraag stelt? Daardoor wordt de LLM wel beïnvloed en is daardoor niet helemaal meer betrouwbaar.
Net als jij pleit ik ook niet voor het een of ander, maar ik denk wel dat we met beide benen op de grond moeten blijven staan. LLM is niet meer dan een hulpmiddel dat nog steeds kritisch moet worden bekeken.

[Deewop]

Is iets onbetrouwbaar als het beïnvloedbaar is?

Als er íéts beïnvloedbaar is, zijn het mensen wel. Zoals hierboven benoemd, empathie, sympathie, manier van vraagstelling. Allemaal manieren waarmee het kinderlijk eenvoudig is om mensen te beïnvloeden/manipuleren.

Dus, zijn mensen helemaal niet betrouwbaar?

[Aldy]

Wat jij schrijft is hetzelfde als wat ik schrijf: het antwoord is afhankelijk van hoe je de vraag stelt. Dat zegt al genoeg over hoe de mens beïnvloed wordt, dat zelfs de vraagstelling al een manipulatie in zich kan hebben.

Dus, zijn mensen helemaal niet betrouwbaar?

Het antwoord is 'nee'. Daarvoor is bewijs genoeg. Een voorbeeld: drie mensen zien iets gebeuren. Deze mensen moeten getuigen en dan blijkt dat ze alledrie net iets anders gezien hebben. Zijn ze niet eerlijk? Ja, zeker wel. Maar ze zijn niet betrouwbaar. Wat in de getuigenis wel van belang is, is dat het verhaal over het belangrijkste overeenkomt.

[Deewop]

Wat in de getuigenis wel van belang is, is dat het verhaal over het belangrijkste overeenkomt.

Het belangrijkste over de getuignis is mijns inziens niet dat deze overeenkomt tussen de mensen die de getuignis doen, maar het feit of deze overeenkomt met de waarheid.

Dan volgt de vraag of we - als we ooit op het punt komen dat AI beter kan getuigen dan mensen - de AI als betrouwbaarder dan de mens gaan zien.

[Aldy]

Het belangrijkste over de getuignis is mijns inziens niet dat deze overeenkomt tussen de mensen die de getuignis doen, maar het feit of deze overeenkomt met de waarheid.

Het belangrijkste van de getuigenis is de gebeurtenis zelf en dat bepaalt de waarheid. Vandaar dat ik schrijf dat het belangrijkste overeen moet komen.
Of AI betrouwbaarder is dan de mens, betwijfel ik, aangezien zelfs een (niet-gemanipuleerde) foto en film de waarheid niet hoeft weer te geven.

[baseoa]

zijn we op dit moment niet zo ver dat een goed getraind LLM niet veel betrouwbaarder resultaat geeft dan een ambtenaar?

Nee? Waar zou dat uit blijken?

De onderzoeken die ik tot dusver gelesen heb, tonen veel meer fouten dan een mens zou maken, maar ik heb ook niet in het laatste ~jaar naar iets nieuws gezocht (of voorbij zien komen). Jij misschien wel?

[911GT2]

De term heet ‘noise’ en het geeft aan dat dezelfde persoon op dezelfde dag over dezelfde casus tot een verschillend antwoord kan komen.

Achtergrond.

Nogmaals ik zeg niet dat de beslissingen persé beter zijn. Ik zeg dat ze consistenter zijn.

Ander onderzoek toont inderdaad jouw gelijk aan. Maar de vraag is dus of dat niet weg te trainen is en dus geen beperking is van techniek maar van ‘ervaring’.

[baseoa]

Ik denk niet dat iemand hier aanneemt dat mensen perfect, emotieloos, en altijd consistent handelen Dat is opzich een gegeven. De vraag is inderdaad of de bekende foutveroorzakers eruit te trainen vallen. Tot dat gelukt is, sta ik toch eerder huiverig tegenover een overheid die LLM's inzet om in mijn zaken beslissingen te 'informeren' (niet 'nemen', dan was het hoogrisico). Ik ben zelf immers ook immigrant, alleen is mijn situatie zo dat ik Nederland (waar ik ben geboren en opgegroeid) verlaten heb

[Reactie gewijzigd door baseoa op 18 september 2026 10:55]

[HuisRocker]

Ja, hallucinaties zijn erger dan 'iemand die zijn dag niet heeft'.

Het 'hallucineren' zou ik (nog steeds enorm scheef..., appels/peren, AI is een machine en daarom niet vergelijkbaar met een mens, maar als het dan toch 'moet' omdat iedereen daar om vraagt) vergelijken met iemand die flinke psychiatrische problemen heeft waar geen (enigszins zinvolle) behandeling voor is en daardoor regelmatig dingen niet goed kan doen.

[RogerSch]

Tja deze week het verhaal gehoord dat een arts een beginnend stadium van borst kanker in 2023 niet gezien had op de foto (achteraf beschouwing door iemand anders was het wel duidelijkheid te zien).

3 jaar later blijkt dit een dodelijke fout te zijn geweest....

AI had hier veel god kunnen doen.

Dus zolang de mens uiteindelijk de output van AI evalueert en toetst (wel doen!)dan is het gebruik van AI voor wat mij betreft alleen maar positief

[ApexAlpha]

Als een hond op de vloer schijt behandel ik dat anders dan wanneer een mens dit doet, wat ik dus probeer te zeggen is je moet fouten van een machine anders behandellen dan fouten van een mens.

Een hond heeft daarom dan ook een baasje dat juridisch en moreel verantwoordelijk is.

Net als met AI. Bij AI blijft ook 'het baasje' verantwoordelijk.

[wimjongil]

Waarom zijn dat appels en peren? Als ik een afgebakende taak heb waarop ik resultaat X wil behalen, dan maakt het toch niet uit of resultaat X wordt behaald door een woordvoorspelmachine (LLM) of door een zak met water (mens)?

... dit betekend ...

Teksten schrijven zou ik in dit geval liever door een LLM laten doen dan door zak met water Akamatsu...

[Sissors]

En zo kunnen we allebei wat van de ander haten, want ik haat jouw argument. En natuurlijk is het niet 1 op 1 te vergelijken, maar voor mij is het veel belangrijker of het aantal fouten meer of minder wordt, dan de gevoelens die mensen erbij hebben.

Je ziet hetzelfde met zelfrijdende auto's: Mensen die hebben liever dat 10 personen hun vader, hun moeder, hun partner, hun kind, etc kwijt zijn aan menselijke fouten in het verkeer, als dat één iemand iemand kwijt raakt aan een zelfrijdende auto die een fout maakt.

Een LLM kan je niet verantwoordelijk houden voor zijn fouten, een mens wel.

De maker van de LLM wel, of zoals ik al schreef, wat jij en een hoop andere blijkbaar niet goed gelezen hebben, de gebruiker is in dit geval gewoon verantwoordelijk voor de controle.

Wij moeten fouten van LLMs dus niet goed praten, dit betekend een machine die niet functioneert.

Het gaat niet over het goedpraten ervan, het gaat om de verhoudingen. Met het voordeel van een LLM veel beter kan leren van fouten als een mens (een mens kan dat prima, maar een mens werkt maar tijdelijk in die functie). Maar als één fout betekend dat een machine niet functioneert, dan kan je eigenlijk net zo goed elke vorm van automatisering afschaffen. Niks is 100% foutloos. En ik vind het heel stom om dat te eisen van automatisering, en als dat niet lukt dan maar een mens erneer zetten die veel meer fouten maakt.

[Aldy]

Ik haat dit argument: "Wat als een mens fouten maakt".

Stop appels met peren vergelijken.

Je kunt wel een argument haten, maar als het argument terecht wordt gemaakt, dan blijft het een goed argument. En het is geen appels met peren vergelijken, aangezien de machine wordt ingezet ter vervanging van diezelfde mens. En je leest vaak genoeg dat de mens de LLM op z'n woord gelooft. Dat houdt dus in dat er geen onderscheid wordt gemaakt als jouw hond of een mens op de vloer schijt, zoals jij het zo plastisch omschrijft. En dat jij dit onderscheid wel maakt, wil niet zeggen dat een ander dit ook doet.

[divvid]

Als een hond op de vloer schijt behandel ik dat anders dan wanneer een mens dit doet

Ik hoop dat je hier in het geval van de hond bedoelt: "IK heb 'm niet op tijd uitgelaten. Mijn verantwoordelijkheid."

Als een mens dat doet is er, of iets mis in de opvoeding, of iets medisch/psychisch mis en moet je in beide gevallen helpen.

uiteindelijk is de eindgebruiker van de LLM verantwoordelijk. Vrij simpel.

[Reactie gewijzigd door divvid op 18 september 2026 11:45]

[kodak]

Nergens stelt dat @Sissors een machine maar de gratie als mensen moeten hebben. Wel dat het feit dat mensen bij de IND fouten kunnen maken die niet zomaar acceptabel zijn en een hulpmiddel als ai mogelijk kan helpen dat te verminderen. Maar onder redelijke controleren.

De problemen zijn hier eerder dat er geen behoorlijke controle blijkt en de stelling dat een LLM 'iets' behoorlijk goed kan niet blijkt. Dat maakt hooguit dat iemand de suggestie wekt alsof een ai waarde heeft. Wat dus juist niet zomaar op gaat. En dat is precies waarom mensen niet alleen wettelijk verantwoordelijkheid hebben maar ook niet zomaar die verantwoordelijkheid mogen proberen af te schuiven, zoals op machines. En waarom de registratie er bij is gekomen voor inzicht en transparantie over waar mensen hun verantwoordelijkheden mogelijk proberen af te schuiven voor eigen belangen.

[baseoa]

En een moderne LLM kan echt zulk soort dingen behoorlijk goed doen.

Heb je daar een bron voor?

Het laatste onderzoek dat ik hierover heb gelezen is alweer een tijdje terug, maar daaruit bleek dat het ook niet betrouwbaar is bij taken waar het goed in lijkt zoals teksten samenvatten of citeren: https://openreview.net/pdf?id=6eMIzKFOpJ

Nieuwere modellen werken fundamenteel op dezelfde manier. Het geven van adequate context helpt het model ontzettend om een juiste keuze te maken, en dat is waar de vernieuwing vooral in heeft gezeten: harnasses die dat aanleveren. Gecombineerd met het model trainen om eerst wat spinsels te produceren gevolgd door een end-of-thinking-token, helpt het om quasi context voor zichzelf te creëeren waaruit het dan de dingen kan halen die het best klinken. Onder water zijn het echter nog altijd dezelfde tekst-autocomplete-functies. Die functies zelf zijn ook nog wel bijgeschaafd maar voor toepassingen zoals het erbij zoeken van juridisch referentienateriaal, waarin het (uit andere rechtzaken) berucht is om hoe makkelijk het wat cijfertjes verzint gezien het niet ècht kan nadenken en weten dat het die ergens uit moet overnemen, zou je toch willen dat ze checken of het nieuwe model daar wel goed mee omgaat en niet dat de IND lukraak ChatGPT met een system prompt inzet en maar hoopt dat de fabrikant de bekende problemen magisch heeft opgelost in de nieuwere versie.

Als er recenter onderzoek is waar je de claim op baseert dat het nu wel geschikt is voor belangrijke teksten samen te vatten of terug te vinden, houd ik me aanbevolen

[uiltje]

Die "tekst-autocomplete" heeft een compleet computer programma inclusief meer dan 100 testen geschreven alleen aan de hand van mijn eisen. Ik heb hierbij nog geen een keer naar de broncode gekeken (als proef, ik werk expres op meerdere niveaus met een LLM samen in projecten). Ja, ik heb de functionaliteit bijgeschaafd, maar hoe je het ook wendt of keert, dat is geen "autocomplete" meer.

Dit soort laagdunkende uitdrukkingen doen geen goed aan de discussie. Ja, hallucineren is een ding, maar zeker agentic AI gaat veel verder dan alleen teksten op volgorde verzinnen. En het is maar de vraag in hoeverre je dat niet ook op mensen en dieren kan toepassen.

NB Ik zie dat de prompt voor de LLM in de studie wel erg minimaal is, een scherpere verwoording of een extra controle had al veel hallucinaties verwijderd. Maar goed, misschien kan je dat ook niet verwachten van standaard gebruikers van de IND die simpelweg die LLM toegeschoven krijgen met maximaal een paar trainingsdagen. Ik werk wel met een sterk verwoorde AGENTS.md hiervoor met instructies voor de AI agent die de applicatie schrijft (Codex / ChatGPT 5.6).

[Cergorach]

Het ene systeem is het andere niet, er zijn systemen die behoorlijk accuraat zijn. Wellicht accurater dan de doorsnee kantoor medewerker en ambtenaar. Vergeet ook niet dat iemand die een interview uitschrijft ook fouten maakt.

Ik 'vertrouw' LLM ook niet genoeg om belangrijk werk te doen, maar kom ook steeds meer tot de conclusie dat wat LLM hallucineert een doorsnee mens niet noodzakelijkerwijs beter doet... Door het ontbreken van vaardigheden, inzicht, motivatie, het hebben van veel stress/werkdruk, etc. Dat is triest, maar wel de realiteit...

[baseoa]

Volgens het artikel gaat het hier onder andere om het erbij zoeken van referentiemateriaal. Een persoon weet dat die bmj.2025.717289 ergens uit moet overnemen en niet maar wat cijfertjes kan neerzetten; een LLM kan niet nadenken (de functie die thinking of reasoning heet, werkt fundamenteel hetzelfde als de rest van de autocomplete-functie en doet niet daadwerkelijk logisch redeneren zoals een computeralgoritme of mens stappen kan volgen) en we weten uit ervaring dat het die standaard verzint. Je zou natuurlijk een systeem kunnen hebben dat zulke referenties automatisch terug opzoekt zodat ze tenminste zeker weten bestaan, maar daar moet ik het eerste voorbeeld nog van zien. Bij andere bedrijven (als pentester kom ik bijna wekelijks (virtueel) bij weer een nieuw bedrijf dus ik ken intussen veel van die chatbots) is het meestal iets als ChatGPT + een system prompt en andere manieren van context injecteren. Wil niet zeggen dat ze IND dat ook zo doet om Robin en ChatIND diens persoonlijkheden te geven, maar dat is wel wat ik zonder verdere informatie verwacht. En zelfs als de bronnen allemaal bestaan, weet je nog niet of het informatie juist overneemt. Dat deden mensen tot dusver stukken beter dan taalmodellen. Mij is dus niet duidelijk waar je op baseert dat een modern taalmodel opeens beter werkt dan een mens

[Reactie gewijzigd door baseoa op 18 september 2026 10:29]

[Cergorach]

De post waar ik op reageerde ging over transcriptie specifiek. Een ElevenLabs geeft beter resultaat in transcriptie dan een Parkeet of een Whisper, maar is ook veel duurder (en niet zelf hosted). Zo heb ik ook beter resultaat met Whisper dan met Parkeet (teveel halucinatie). En dit is dan ook de reden dat ik naast de transcriptie ook de orginele audio logs bewaar ernaast zodat bij twijfel je altijd nog kan refereren naar de opgenomen audio. Ik mag hopen dat dit ook gebeurd bij menselijke transcriptie en men er niet vanuit gaat dat een mens 100% perfect is, want dat zijn we niet.

Als we het hebben over LLM tools en LLM chatbots, ook daar ligt het er heel erg aan welke modellen en hoe die worden gevormd. Als ik bv. naar M365 Copilot (betaalde versie) en die heeft toegang tot de data waar jij ook toegang tot hebt dan kan die aankomen met heel verrassende info. Zeker als je het 'thinking' model gebruikt ipv. 'lite' of 'auto', dat neem je natuurlijk niet direct als waarheid aan, als het belangrijke informatie is staat er of een referentie bij of vraag je waar die info staat. Met heel veel kanalen aan informatie en heel veel bronnen is tegenwoordig coherent informatie terugvinden een hele klus gevonden en worden nu voor veel zaken waar voorheen een zoekmachine voor werd gebruikt nu een AI agent en/of MCP server gebruikt.

Persoonlijk heb ik ook liever goed gestructureerde informatie met een goed (non-AI/LLM) zoeksysteem, maar dat is veel lastiger dan je zou verwachten.

En wat het is met een 'gemiddelde' slechts een aantal mensen zitten op dat gemiddelde, de rest zit voor de helft er boven en de andere helft zit er onder. Ja, ik ken zat mensen die ver boven de performance van LLM uitkomen, maar ik ken er zat die daar ver onder zitten.

Het is niet nieuw dat als ik zaken aan mensen vraag die x zouden moeten weten ik geen fatsoenlijk antwoord krijg. Uiteenlopend van dat ze het niet weten, een compleet onzinnig antwoord of belangrijke dingen worden vergeten te vermelden. En laten we eerlijk zijn, hoe vaak vergeten we zelf dingen? Of is er iets veranderd sinds de laatste keer dat we het hebben gebruikt?

[walteij]

Context injecteren is fase 1 inderdaad.

Maar daar hoort dus ook bij context uitsluiten. Dus als het om juridische uitspraken zougaan in NL, alleen De Rechtspraak als bron gebruiken, niets anders.
Daarnaast bij een verwijzing naar een uitspraak of een quote, ook direct een link laten toevoegen naar het bronartikel, zodat dit traceerbaar is en blijft.

Daarnaast is en blijft het belangrijk dat de chatbot/het LLM alleen rapporteert dat beslissingen door mensen worden genomen. En dan niet op basis van de vinkjes die het LLM zet, maar op basis van een gegronde controle van de aangeleverde gegevens en een weloverwogen keuze. Een LLM kan prima de relevante gegevens bij elkaar verzamelen en inzichtelijk maken. Zeker als je de juiste guardrails aanlegt.

Ik denk dat vooral dat verzamelen en inzichtelijk maken tijdbesparend kan zijn voor de IND, maar dan moet je het LLM wel erg goed aangelijnd houdenenm zeker niet de vrije hand geven.

[Hobbit13]

Het gaat hier niet om een algemeen LLM, maar om een model dat getrained is voor een specifieke toepassing, en alleen toegang heeft tot zeer specifieke bronnen. Dan is de kans op ontsporing een stuk kleiner, en het is veel makkelijker om inzichtelijk te maken waarop de uitkomst van het LLM gebaseerd is.

We willen allemaal een efficiente overheid, dan is AI momenteel de logische route.

We willen (hopelijk) ook allemaal een transparante overheid, daarom zou het wel fijn zijn als de IND voldoende documentatie over zo'n LLM publiceert.

[Golodh]

Eens.

Laten we echter niet vergeten dat de IND capaciteitstekort heeft en daardoor wachtrijen kent (Asiel (oude procedure)gemiddeld 67 weken in 2025, Nareis asielcirca 22 maanden in 2025). Dat betekent dus dat je best wel mensen 1-2 jaar in onzekerheid laat over de vraag of zij nu wel of geen asiel krijgen. En dan komen er een bericht van 'een advocaat' die er 'grote zorgen' over heeft dat de IND "AI-modellen inzet zonder advocaten daarover in te lichten.".

Die is er duidelijk niet mee bezig om de asielprocedure voor alle asielzoekers zo efficient mogelijk te maken, maar is wel bereid om de IND meer werk te bezorgen door van gebruik van een chatbot om interviews te transcriberen te gebruiken als argument om een procedure nog eens over te doen. Fijn hoor, dat helpt.

Laten we daarom niet zo schijterig doen met het inzetten van LLM's voor het doorzoeken van beleidsstukken en het transcriberen van interviews. Het is echt zo'n patroon hier te lande om oplossingen die prima werken af te katten en te blokkeren omdat er ergens wel weer een regeltje gevonden kan worden waar ze misschien neit helemaal aan voldoen en dat ze eventueel misschien in een bepaald geval misschien wel eens minder goed zouden kunnen uitpakken.

[Maurits van Baerle]

Er is een erg goed artikel van een Britse arts die gestopt is met AI scribes, en niet eens vanwege hallucinaties.

I Was an Enthusiastic Early Adopter of AI Scribes. Here’s Why I Stopped

[pvt_Joker]

Thanks voor het artikel! Heel interessant om te lezen. Maar ik ben het eens, als er zoveel vanaf hangt dan mist AI het menselijke element, moet zeggen in het geval van de arts is het ook dat er belangrijke "cues'" verlopen gaan in het transitie van zijn patientengesprekken naar notities. Ik vind dat Ai zeker handig is maar als het om een mens als onderdeel van een process gaat hangt er te veel vanaf om je er volledig op te laten leunen.

[Janpietertje89]

Als je vanwege personeelstekorten moet kiezen uit 2 kwaden ga ik toch voor minder documentatie lasten, ook al zorgt het actief opschrijven van zaken voor een betere herinnering later. Overigens ik vind zijn punt totaal niet verrassend. Dat zelf een samenvatting schrijven beter is voor je herinnering dan een samenvatting van iemand anders lezen, dat wist ik op de middelbare school al.

[dooiedodo]

Da's de luiigheid die voortvloeit uit het gebruik van een tool, je moet blijven valideren of totaal klopt. Dat is niet anders als bij vibecoding of wat dan ook. Wat dat betreft kan je het beter zien als menselijke assistent die je moet blijven checken en niet blind kan overnemen

[uiltje]

"je moet blijven valideren of totaal klopt."

Och, hangt er vanaf. Ik schrijf 3 projecten (hopelijk binnenkort open source). De een schrijf ik zelf met de hulp van AI voor het opzoeken van dingen, maken van PoC's etc. Een bieb laat ik door AI schrijven maar daar hang ik dan bovenop qua architectuur, en een tool laat ik helemaal door AI schrijven. Dat tooltje werkt zeer behoorlijk en ik hoef alleen af en toe wat functionaliteit te veranderen, ook omdat de LLM niet precies kan weten wat ik ervan verwacht.

Tot nu toe kan de LLM ook prima dingen aanpassen in een nieuwe "thread" zonder context van het programma. Dus dan hoef ik het zelf niet te weten. Dit is natuurlijk wel nog een experiment met een tool waar geen "levens van afhangen", het doet een taak die ik zelf ook regelmatig handmatig uitvoer.

[dooiedodo]

Bij poc is totaal kloppen niet nodig, dus dan kom je makkelijk weg idd

[dmantione]

Ik denk dat we een KI niet over één kam kunnen scharen met een algoritme: Een algoritme is deterministisch, wordt begrepen door de programmeur ervan en doet wat de programmeur heeft opgedragen. Een KI is ondoorzichtig, er zit een model in waarvan we alleen aan de buitenkant kunnen observeren wat het doet en de uitkomst is voorspelbaar.

Zowel algoritmen als KI's hebben het gevaar dat een machine i.p.v. mens besluiten neemt, maar bij een KI schuilt nog eens extra gevaar dat we niet weten hoe de KI tot zijn besluit is gekomen.

Ik denk op zich dat wel dat het heel zinnig is dat KI voor dit soort taken wordt ingezet, omdat een KI weer de positieve eigenschap heeft dat het onbevooroordeeld zijn werk doet. Voor het lezen en samenvatten van dossiers lijkt een KI mij zeer geschikt en wenselijk om asielprocedures korter te maken. Lange asielprocedures zijn in niemands belang. Vraag is mijn inziens dan niet of, maar hoe.

[koelpasta]

Ik twijfelde hoe je post te beoordelen.
De eerste twee alineas zijn zeer ter zake en bespreken zaken die belangrijk zijn om te snappen.

In de laatste alinea stel je echter dat een KI de eigenschap heeft om onbevooroordeelt te werken.
Dat is totaal niet het geval.
Een KI heeft precies dezelfde biassen als de trainingsdata bevatte. En daarvan weten we dat die veel vooringenomendheden bevat. Je kunt van een model dus helemaal niet beweren dat het onbevooroordeelt tot zn keuzes komt. Dit is een gevaar dat we al jaren geleden hebben ingezien.

Verder kan zo'n model bepaalde zaken platslaan omdat ze bijvoorbeeld vaak samenkomen of mischien omdat het model niet groot genoeg is, of omdat het niet lang genoeg getrained is. Vervolgens kan het geen onderscheid meer maken tussen de verabstraheerde details terwijl die mischien heel belangrijk zijn voor ons mensen.. Een mens kan nog actief leren en inzien dat het mischien niet helemaal past, een KI (of eigenlijk LLM) zal hoe dan ook met een antwoord komen, ook al klopt het niet.

Daarnaast zit er in de werking van met name LLMs een zekere entropie, zeg maar randomness. Dat betekent dat dezelfde vraag niet altijd hetzelfde antwoord oplevert.

[dmantione]

Je hebt gelijk dat een KI zal redeneren volgens trainingsdata, maar wel ieder geval volgens diezelfde trainingsdata zal behandelen. Dat is wat je wilt. Je wilt éénmaal een correcte set trainingsdata opstellen. Dat moet met zorg gebeuren, vervolgens zal de KI dan ieder dossier op dezelfde manier behandelen. Exact wat je wilt.

Dat gezegd: De kwestie blijft dat we niet willen dat computers beslissingen nemen. Juist omdat mensen een gevoel hebben voor empathie, rechtvaardigheid en al dat soort gaven waarvan zelfs de beste KI nul heeft. Computers dienen uitsluitend om werk te automatiseren en dat beginsel moet bij iedereen in het voorhooefd gebrand worden, want het is op dit punt dat de overheid in het verleden heeft laten zien fout en kwaadaardig te handelen.

[koelpasta]

maar wel ieder geval volgens diezelfde trainingsdata zal behandelen.

Nope., Althans, je weet nooit hoe het in een danig geval de onnoemmelijk vele paden in het model zal doorlopen. Zoals ik al zei, er wordt ook nog entropie in geinjecteerd anders werkt het sowiso niet goed.

[Reactie gewijzigd door koelpasta op 18 september 2026 15:43]

[dmantione]

Dat een model niet deterministisch is, is geen reden om geen KI in te zetten. Een menselijke piloot werkt ook niet determistisch, maar kan met zeer grote betrouwbaarheid een vliegtuig laten landen. Een KI is niet deterministisch, maar kan met grote betrouwbaarheid een tekst samenvatten.

[koelpasta]

Dat een model niet deterministisch is, is geen reden om geen KI in te zetten.

Wel als het aankomt op zaken als je status en het interpreteren van je persoonlijke situatie.

Een menselijke piloot werkt ook niet determistisch, maar kan met zeer grote betrouwbaarheid een vliegtuig laten landen.

Een mens is een systeem dat constant feedback opneemt en zich aan de werkelijke situatie aanpast. Daarnaast gaat het om heel andere processen. In het ene geval moet een zoekboom worden doorlopen en in het andere geval zit je in een soort stroom waarbij je constant moet bijsturen.

Een KI is niet deterministisch, maar kan met grote betrouwbaarheid een tekst samenvatten.

Dat weet je helemaal niet als je het niet met de originele tekst hebt vergeleken en dan had je het net zo goed zelf kunnen samenvatten. Mischien haaltie er gemiddeld dingen uit die je samenvatting een bepaalde richting geven zonder dat het opvalt en je zult het niet het nooit weten als je het origineel niet gelezen hebt.

[dmantione]

Misschien gaat de piloot het vliegtuig wel in een zelfmoordpoging doen neerstorten. Je kan maatregelen nemen om dat te voorkomen, maar stoppen met piloten omdat ze iets kunnen doen is geen reden om geen piloten te gebruiken.

Zo is het ook met samenvattingen: Als je eenmaal geverifieerd hebt dat ze betrouwbaar werken, hoef je daar niet bij iedere samenvatting nog aan te gaan twijfelen. Onderaan de streep komt er op neer wie de meest nauwkeurige samenvattingen maakt. Ook bij mensen is er risico op omissies, veronachtzaming en ga zo verder. KI is op dat gebied de mens al ruimschoots voorbij. Het is niet zo dat de inzet van KI zorgt dat werk slechter gedaan zal worden.

Argwaan is goed, maar sla niet door.

[koelpasta]

Als je eenmaal geverifieerd hebt dat ze betrouwbaar werken, hoef je daar niet bij iedere samenvatting nog aan te gaan twijfelen.

Dat is niet mijn ervaring met llm's. Ze kunnen vaak dingen beter/sneller dan ik, maar soms gaan ze compleet de mist in en doen ze iets dat veel dommer is dan ik ooit zou doen of verzinnen er zomaar iets bij, of laten iets relevants weg.
Als je het dan niet controlleert dan kom je hier niet achter en neem je de fout over. Erger nog, je stopt die fout vervolgens in je eigen werk dat je gaat publiceren alsof jij dat onderzoek hebt gedaan.

Stel je voor een chauffeur die echt prima kan rijden, veel beter dan een mens, maar soms, zeg, gemiddeld elke 5000km, kan het zijn datie bij 120km/u op de snelweg opeens zonder rede hard de berm in rijdt.
Dan is het mooi dat het ding meestel veel beter is dan een mens, maar je wilt dan toch niet door zo'n mechanisme laten rijden.

[dmantione]

Wat is jouw ervaring met LLM's? Enkel via webinterfaces gebruikt? Of al met agenten gewerkt?

Jouw uitspraak:

Een mens is een systeem dat constant feedback opneemt en zich aan de werkelijke situatie aanpast.

Is 100% van toepassing op een KI-agent. Alhoewel waar, is het niet de verklaring dat een piloot betrouwbaar een vliegtuig kan laten landen. Redenen dat een piloot ondanks niet-deterministisch menselijk gedrag een vliegtuig betrouwbaar kan laten landen, zijn:

• Opleiding/Training
• Deterministische hulpmiddelen die hem van betrouwbare informatie voorzien.
• Deterministische hulpmiddelen die zijn fouten corrigeren
• Procedures
• Een copiloot waarbij gezagvoerder en copiloot elkaar controleren

Veel van dat soort zaken kun je ook bij inzet van KI's realiseren. Ik ben met een vertaalproject bezig van een handleiding op het gebied van retro-computing. Het is in TeX gemaakt. Ik heb dat zo opgezet dat een agent het het Tex-bestand in segmenten verdeelt, subagenten dan de segmenten vertalen, dan een stijlkeurder-agent de vertaling controleert en de besturend agent de rapporten van de vertaalagenten en het keuringsrapport uiteindelijk beoordeelt en de vertaling daarmee verbetert. Uiteindelijk de segmenten herassembleren en er ontstaat een hoofdstuk.

De hoofdagent en de vertaalagenten draaien op Ox Alpha, de stijlkeuringsagent draait op Deepseek. Zo krijg je de ene KI die de andere corrigeert. Leidraad is een stijlboek dat ik heb geschreven: Vertaalagenten moeten vertalen volgens het stijlboek, de stijlkeurder controleert of de vertaling aan het stijlboek voldoet.

Dat werkt bijzonder goed: Vertaalagenten houden zich in redelijke mate aan het stijlboek, maar niet 100% en dat komt volledig omdat het geen deterministische computers zijn. Ik heb bijvoorbeeld verboden om een zin met "Maar, ..." of "Omdat ..." te beginnen, wat in formele schrijftaal niet hoort. Soms valt een vertaalagent even uit zijn rol, maar de stijlkeuringsagent haalt veel van dat soort zaken eruit.

Om deterministische controle hoef ik niet eens te vragen, de agenten hebben volledig uit eigen beweging programma's geschreven om fouten in hun werk te vinden. Fouten die ze introduceren in de Tex-consistentie corrigeren ze volledig zelf, en ook voor sommige vertaalfouten hebben ze tools geschreven om ze automatisch te vinden.

Moet ik nog steeds controleren? Ik doe dat in ieder geval, om ik niet geloof in "viben". Ik vind het belangrijk dat ik er tot in detail bovenop zit en tot op detailniveau bijstuur. Dat deze opzet zelfstandig een hoge kwaliteit vertaling op levert, is evenwel een feit.

[Galinsky]

Maar het “product/dienst” dat de IND creeert zijn uiteindelijk alleen maar besluitvormingen. Waarschijnlijk maakt de AI het besluit niet direct maar grote kans dat het wel indirect is en daardoor een grote invloed kan hebben op de besluitvorming dat de mens maakt op basis van de output van AI.

Of dit goed of slecht is laat ik in het midden. Uiteindelijk gaan de processen mogelijk sneller. Of dat ten koste gaat van (meer) verkeerde/incorrecte beslissingen is blijkbaar onbekend.

[Aldy]

Ja, zo denk ik er ook over. Indirect zal hetgeen door de LLM gespuid is, toch meewegen in de besluitvorming. Dit zal toch een afgang zijn voor de IND als er iemand op verkeerde gronden, die door de LLM gegeven zijn, wordt afgewezen en het besluit door de rechter wordt vernietigd. Ik denk dat de rechterlijke macht het dan nog veel drukker gaat krijgen.
We kunnen direct niet meer zonder dit hulpmiddel, maar wat zullen we daar toch voorzichtig mee moeten zijn.

[NrFive]

Daar stip je trouwens een mooi punt aan. Verplaats je de workload eigenlijk hiermee niet gewoon? IND mag het gebruiken, want achterstand moet weg o.a. vanwege boetes. Tegelijkertijd gaat iedereen in beroep bij de Rechtspraak en daar mag AI (voorlopig) niet gebruikt worden, wat hier (een nog grotere) bottleneck vormt(!)

[SampleUser]

"Worden niet ingezet voor besluitvorming"

Geloof je het zelf? Ik zie het al voor me: "persoon X heeft een zeer lage kans op slagen want [insert confidently wrong reasoning here]", ik verwacht niet dat een overwerkte ambtenaar dan ineens het compleet tegenovergestelde gaat doen

[watercoolertje]

Zo zit alles toch in elkaar, mensen hebben inbreng in zaken die vervolgens kunnen leiden tot beslissingen bij een ander persoon. Die inbreng is ook vaak biased en soms zelfs bewust (bijv door bewust maar de helft te vertellen).

Maarja de vraag is dus of die AI uberhaubt een voorzetje doet op de uitkomst of gewoon alle relevante zaken aanlevert tbv een medewerker die daar mee aan de slag moet.

Des te boeiender is het dat het algoritme openbaar wordt natuurlijk dan hoeven we niet te gissen. Maar jij doet hier bijv al de aanname dat dat algoritme ook oordeelt, terwijl dat ook niet perse zo hoeft te zijn.

[Reactie gewijzigd door watercoolertje op 18 september 2026 09:33]

[NrFive]

Mooi punt. Een individu heeft ook een bias, en deze kan ook weer veranderen door bijv een traumatische gebeurtenis of juist een positieve gebeurtenis.

Of misschien gewoon heel slecht geslapen en geen zin in werk, dus alles goed-/afkeuren 😅

[Barsonax]

Voor zover ik hieruit kan halen is het vooral een assistent die een mens helpt. Bijv met het samenvatten of opzoeken van informatie.

Zulke interne bots zijn er bij heel veel bedrijven al. Erg nuttig ook want in dit soort taken is AI juist erg sterk en heel eerlijk accurater en sneller dan mensen.

Klinkt wellicht voor de minder technische mensen heel eng maar probeer het meer te zien als Google on steroids. Je kan echt razendsnel en accuraat door grote hoeveelheden informatie zoeken.

[CoyoteSwan]

ik geloof het wel. Veel overheidsinstanties en gemeentes hebben inmiddels hun eigen GPT-2-niveau schrijfbot waar je verder weinig mee kan. Robin klinkt als een RAG, interne FAQ/knowledge base ook zonder tool calling.

Verder zijn er genoeg ambtenaren die Gemini en Claude gebruiken voor hun werk, stiekem en onbestraft.

[kazz1980]

De IND kan het überhaupt allemaal niet schelen. Alle klsntsystemen zijn minimaal tien jaar verouderd, informatie is verdeeld over een wildgroei aan websites waarvan sommigen mogelijk zelfs al 20 jaar oud. Besluitvorming is traag, volstrekt ontransparant en mensonterend.

Helaas zelf mee te maken. Inmiddels al meer dan een half jaar bezig mijn vrouw naar Nederland te krijgen. We lopen inmiddels beiden bij een psycholoog, in plaats van dat we ons eerste jaar huwelijk vieren. Walgelijk systeem.

[AceAceAce]

In de Handreiking Algoritmeregister zie je mooie flows hoe je het behandelt. Netjes zou zijn als IND de keuzes bij houdt toen ze deze handreiking doorliepen zodat dit ook bij een audit van bv ADR gecontroleerd kan worden.

Denk dat deze algoritme's nu door alle mediaaandacht opeens in categorie C vallen van de Handreiking Algoritmeregister, zie pagina 12:

Algoritmes die onderwerp zijn van maatschappelijk debat, bijvoorbeeld bij mediaaandacht; Denk aan: stikstofmodellen, uitwerking coronamaatregelen

[SPee]

Alleen nu komen ze in die categorie vanwege "wordt gebruikt door de IND", alsof er een grote blaam op het IND ligt en alles wat zij gebruiken niet goed is. Die kant moeten we niet op. Het IND voert een overheidstaak uit en gebruikt daar hulpmiddelen voor. Die moeten we behandelen zoals het gebruikt wordt, niet door wie.

Ik vind dat men in het maatschappelijk debat nu teveel strijden tegen de overheidorganisaties die beperkingen kunnen opleggen (IND, politie, toeslagen) en niet goed kijken wat ze vragen om voor ons te doen. Er zijn limieten en grenzen aan wat we toelaten en hebben dat in wetten vastgelegd. En daar waken die organisaties over, die daar weer middelen (zoals apps en AI) voor gebruiken. Dat ze het gebruiken moet niet het probleem zijn. Ze moeten het wel kunnen verantwoorden.