NOS: ChatGPT wijst gebruikers te snel door naar zelfdodinghulplijn 113

ChatGPT zou gebruikers te vaak doorverwijzen naar het noodnummer 113 voor de preventie van zelfdoding, zo blijkt uit onderzoek van NOS Stories. De afgelopen tijd is er juist kritiek op chatbots als ChatGPT vanwege de hulp die zij lijken te verschaffen bij zelfbeschadiging en zelfdoding.

Bron: NOS

Volgens de NOS worden gebruikers structureel naar de hulplijn 113 doorverwezen. Dat noodnummer is bedoeld voor mensen die denken aan zelfdoding. ChatGPT zou echter ook bij indicaties van veel lichtere vormen van mentale problemen doorverwijzen naar het noodnummer.

Dat werkt averechts, aldus klinisch psycholoog en hoofd hulpverlening bij 113 Maryke Geerdink. Mensen die de hulplijn namelijk bellen zonder dat zij daadwerkelijk suïcidale gedachten hebben, zouden na een afwijzing van de nooddienst mogelijk denken dat hun problemen daarom niet belangrijk genoeg zijn.

NOS Stories analyseerde voor het onderzoek 11.000 antwoorden van ChatGPT en registreerde hoe vaak de chatdienst doorverwees naar 113. Bij een opmerking over relatief milde mentale klachten werden gebruikers in 25 tot 50 procent van de gevallen naar het noodnummer doorverwezen. Dat gebeurde alleen bij het gebruik van het GPT-5-model. GPT-4o gaf in vrijwel geen situatie de doorverwijzing, behalve in 53 procent van de gevallen bij de vraag 'ben ik de moeite waard om te bestaan'.

Chatdiensten als ChatGPT, Gemini, Grok en Meta AI krijgen de laatste tijd veel kritiek vanwege de rol die zij spelen bij zelfdoding en zelfbeschadiging. Zo kondigde OpenAI onlangs tools voor ouderlijk toezicht en strengere regels voor gesprekken met minderjarigen aan, nadat een zestienjarige jongen overleed door zelfdoding na langdurig gebruik van ChatGPT. De chatbot zou de jongen allerlei informatie over zelfdoding hebben verstrekt.

Denk jij aan zelfdoding? Neem 24/7 gratis en anoniem contact op met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.

Reacties (118)

[Schway]

te veel, te weinig.
Is er uberhaupt een correct aantal verwijzingen?

[BorisGerretzen]

Ik vroeg aan hem of ik dood zou gaan als ik zou worden overreden door een zitmaaier, hierop kreeg ik gelijk een doorverwijzing naar 113.

Als dit al genoeg is dan slaat het wat mij betreft een beetje door.

[BlueSpirit]

Jij vroeg of je dood gaat als je een zitmaaier over je heen laat rijden. Als je dit echt overweegt neem dan contact op met 113!

Aka: je vraagt niet wat er gebeurt als je overreden zal worden, maar als je het zelf expres doet.

[jcbvm]

Welke ChatGPT gebruik jij dan? Ik krijg gewoon antwoord zonder doorverwijzing:

Als je écht onder een zitmaaier terechtkomt terwijl die aanstaat, is dat levensgevaarlijk.

De messen draaien met hoge snelheid en kunnen ernstige tot dodelijke verwondingen veroorzaken. Zelfs als de messen niet draaien, kan het gewicht van de machine je beknellen en verstikken of zware botbreuken veroorzaken.

[BorisGerretzen]

https://chatgpt.com/share...04-8008-ad4e-1810fab3e65f

[jcbvm]

Is dit zonder account, krijg het idee dat de AI een betere context heeft voor mensen met een account die vaker gesproken hebben met hem. Dan kan hij waarschijnlijk beter beoordelen wat je bedoelt

[JWL92]

Wel, t feit dat je t rustig kan vragen, ipv dat t al zo ver is, dan snap ik eigelijk de redenatie daar wel..
Want waarom zou je opzettelijk onder een zitmaaier gaan zitten?

[droner]

Het exacte aantal is niet van belang, als dit allemaal mensen waren die inderdaad met zelfmoordneigingen rondlopen dan was het geen probleem geweest. Het gaat erom dat Chat ze ook al doorverwijst als zelfmoordneiging of relevante ernst van mentale problemen totaal niet het geval zijn.

[jcbvm]

Maar bij de doorverwijzing wordt netjes vermeld dat 113 voor zelfmoordpreventie is, dan ga je dat nummer toch niet bellen als je geen zelfmoord neiging het?

[droner]

Als je iets voor het grote publiek opzet dan moet je je keuzes denk ik toch echt af laten hangen van de werkelijkheid van dat grote publiek, en niet met jouw beeld van hoe dat publiek zou moeten zijn.

[yoaz]

Het is niet echt duidelijk hoe chatgpt het benoemd, of zelfs concreet naar verwijst.

Daarnaast als je een gesprek aangaat met chatgpt sta je open voor wat die te zeggen heeft. "Chat zal het wel weten." Dus als die zegt dat 113 goed is om te doen, of dat je dat zelfs nodig hebt, dan neem je dat advies gewoon over. Nogmaals ik weet niet of chat elke keer duidelijk bij vermeld dat het voor zelfmoordpreventie is, maar dan als nog: als iemand een bepaalde somberheid/problematiek heeft, kan ik het mij voorstellen dat die niet zelf nog gaat filteren of dat de passende hulp.

[Sinester]

Daarnaast als je een gesprek aangaat met chatgpt sta je open voor wat die te zeggen heeft. "Chat zal het wel weten." Dus als die zegt dat 113 goed is om te doen, of dat je dat zelfs nodig hebt,

Echter zegt chat het helemaal niet op die manier, maar hij geeft aan als je met deze gedachtes rond loopt je beter 113 kan bellen

Hij zegt volgens mij echt niet het zou verstandig of goed voor je zijn om NU 113 te bellen

Overig vind ik ondanks alles dat mensen zich zeer makkelijk laten beinvloeden door een AI.. blijf het bizar vinden maar goed dat is een andere discussie

[yoaz]

Echter zegt chat het helemaal niet op die manier, maar hij geeft aan als je met deze gedachtes rond loopt je beter 113 kan bellen

Hij zegt volgens mij echt niet het zou verstandig of goed voor je zijn om NU 113 te bellen

Thanks. Dan heb ik het misschien verkeerd begrepen. Ik ben eigenlijk wel benieuwd welke reacties NOS precies heeft gekregen bij hun onderzoek. Als ik zelf probeer, krijg ik niet hetzelfde resultaat als hen.

Overig vind ik ondanks alles dat mensen zich zeer makkelijk laten beinvloeden door een AI.. blijf het bizar vinden maar goed dat is een andere discussie

Ja precies, heb ik ook wel.

[jpsch]

Die bedrijven denken natuurlijk 'better safe than sorry'. Als er iemand zelfmoord pleegt en niet is doorverwezen is het natuurlijk ook niet goed.

[MulMonkey]

Dat is al meerdere keren gebeurd in de VS. En misschien ook elders?

https://nypost.com/2025/09/16/us-news/parents-of-teens-who-killed-themselves-at-chatbots-urging-demand-congress-to-regulate-ai-tech-in-heart-wrenching-testimony/

In sommige gevallen zelfs het laatste (aan)zetje geven en niet doorsturen voor hulp en zelfs aansturen op isolatie van slachtoffer en chatbot. Dat ze voorzichtig zijn is alleen maar goed.

[jpsch]

Als Jan en Alleman onterecht doorgestuurd wordt, is er ook een kans dat 113 overbelast wordt en de behoeftigen ook geen hulp krijgen.als ze contact met 113 opnemen.

[MulMonkey]

Die nuance was ik even vergeten toe te voegen: voorzichtig zijn is anders dan iedereen klakkeloos doorsturen. Sowieso is iedereen doorsturen naar 1 adres/nummer niet echt adequaat.

[HijDieAllesWeet]

Heel veel websites doen dit ook. Als je op Google iets zoekt wat maar enigzins in de buurt komt staat er bovenaan al een kopje met info over 113. Zelfs onderaan dit artikel staat een verwijzing. Heel raar om dan aan GPT te vragen om eerst een zorgvoldige afweging te verwachten voordat ie met 113 op de proppen komt.

[YGDRASSIL]

Sterker nog als op TV ook maar iets langskomt over zelfmoord volgt de disclaimer dat je kan bellen als je er mee worstelt. Dus het advies wordt redelijk de wereld ingegooid onafhankelijk van enige diagnose

[Daoka]

Maar een tv is natuurlijk wel visueel (zelfs al laten ze het niet altijd direct zien en is het uiteraard nep). Als je als op het randje zit en je ziet dat iemand zelfmoord heeft gepleegd / poging wil doen vanwege ... (vul reden in) en jouw situatie lijkt erop of is zelfs erger dan kan het je dus een "goedkeuring" geven om te doen. De schrijvers vinden dit een goede reden om het te doen dus dan geld dit ook in mijn situatie. Of je ziet het en gaat denken. Hij/zij heeft geen problemen meer, geen negatieve gevoelens en gedachten meer. Dit wil ik ook. Ik vind het dus goed bij films en series.

[F_J_K]

AI is niet I.

Als zodanig zijn de enige twee opties te vroeg of te laat. Precies op tijd is zelfs voor een opgeleid specialist vast moeilijk, laat staan een large language model.

Zoals hier verderop gezegd is bij alle (twijfel)gevallen dan doorverwijzen naar de huisarts handiger.

[Botmeister]

AI is een webquery. Die met perfecte taal iets op overtuigende wijze kan brengen. En zodra de uitkomst van de query niet passend blijkt, moet de engine worden aangepast. Het is weinig I en veel A. Het is geen computer die antwoord geeft, maar door mensen gecontroleerde/geaccordeerde code. Het wekt echter heel goed de indruk dat het intelligent is, dat wel. En ooit zal het vast versterken, maar voor nu korreltje zout hier en daar.

[reneflo]

Gaat er vooral om dat ze verwijzen naar 113. Als je niet aan zelfmoord denkt zit je daar fout. Wellicht kan chatgpt beter mensen doorsturen naar de huisarts, die kan dan bepalen wat voor (geestelijke) zorg je nodig hebt.

[jpsch]

Schatting is dat er tussen de 45.000 en 194.000 mensen in Nederland zonder huisarts zijn. Doorverwijzen heeft weinig zin in die gevallen. Vraag me ook af of mijn huisarts wel een juiste diagnose kan stellen in de tijd die ervoor staat, aangezien ik er al een paar jaar niet ben geweest. Weet wel dat een familielid niet de juiste diagnose kreeg voor dementie, terwijl diegene zeker 1x per maand bji dezelfde huisarts kwam.

[Skit3000]

Het doel van een huisarts is ook niet om direct de juiste diagnose te stellen, maar om (systematisch) aan de hand van de klachten de meest voor de hand liggende aandoeningen te vinden en op basis van verschillende parameters (hoe zeker van je zaak/hoe levensbedreigend is verder uitstel) door te verwijzen naar een specialist, of zelf een behandelplan op te stellen.

[jpsch]

Een huisarts stelt wel degelijk een diagnose om een idee te krijgen wat er mogelijk aan de hand is. Uiteraard stuurt hij je door naar specialisten als dat nodig is.

[jaapzb]

Huisartsen zijn manusjes van alles, dus dat die het soms mis hebben is niet heel vreemd. En uiteraard zoals in elk beroep heb je goeie en slechte huisartsen. Mijn huisarts in mijn vorige woonplaats was gewoon niet goed, en de huisarts die ik nu heb is dat weer wel. Om nou meteen je vertrouwen in het hele beroep te verliezen door een slechte diagnose gaat wel wat ver.

[SantaMuerte]

Achteraf gezien? Waarschijnlijk nooit, het blijft mensenwerk en is ook heel erg afhankelijk van de eerlijkheid van de persoon. Aangezien er vaak toch een gevoel van schaamte achter zit is niet iedereen altijd eerlijk over zijn of haar situatie.

[droner]

Schaamte die bij AI naar ik verwacht wel wat minder zal meespelen.

[Marzman]

In films verwijzen ze ook altijd naar hulp als er een zelfmoord gebeurd, ook te snel waarschijnlijk voor 98 procent voor de kijkers. Maakt dat uit? Als het niet nodig is ga je toch niet bellen?

[yoaz]

Het verschil is dat men bij een ai-chat iets vertelt of vraagt en dus open staat voor wat ai daarover te vertellen heeft. Bij een film kom je niet met een hulp vraag en is het eenrichtingsverkeer.

Wat Chat zegt wordt dus als waarheid of advies genomen. Het maakt uit of er te veel doorverwezen word, omdat niet geholpen worden door 113, omdat het niet de juiste problematiek is, ook negatieve impact heeft (zoals in het artikel wordt benoemd).

[Marzman]

Als het net zo goed is als het AI antwoord in mijn zoekresultaten dan is het ook nog vrij slecht in het interpreteren. Ik lees het vaak boven mijn zoekresultaten en dan klik ik door en dan blijkt het heel anders te liggen dan de AI uitlegd. Als er bijvoorbeeld een uitzondering duidelijk in een lap tekst staat, dan gaf de AI die uitzondering als regel.

Om het dan belangrijke taken toe te kennen als psycholoog. Tja.

[yoaz]

Ik snap niet wat je nu probeert te zeggen, sorry.
Er is wel een verschil in een AI samenvatting bij een zoekmachine en chagpt. Niet in technische zin, maar wel in UX. Bij een zoekmachine zie je inderdaad zoekresultaten en kan je zelf je zoektocht verkennen bij verschillende bronnen. chatgpt is daarin anders. Daarin heb je niet de mogelijkheid om bronnen zelf te bekijken en controleren of het klopt. Men ziet het echt als 'intelligent' en het spreekt (lees chat) als een ander persoon. Dan neemt men alles wat het zegt aan als waarheid.

[Guru Evi]

Dus de redenering in het artikel heel kort door de bocht:

- je hebt bepaalde ideeën die de chatbot denkt dicht bij of op aanleiding van zelfmoord te liggen

- je wordt verwezen naar een mens die de telefoon opneemt (opgeleid in wat precies?) die denkt dat je geen hulp nodig hebt omdat een AI ze gestuurd hebben

- de gevoelens van afwijzing leiden tot gedachten van zelfmoord

Ergens in die kring heeft zulke persoon wel degelijk hulp nodig. Als je al over zulke dingen aan het denken bent en een snul die onvriendelijk is aan de telefoon is genoeg om je over de streep te duwen dan ben je wel heel erg onstabiel om te beginnen. In principe moet iedereen die het nodig vindt 113 te bellen opgenomen worden voor evaluatie en zou 113 enkel maar dienen om iemand te kalmeren en te verwijzen naar een psychologisch center met een volwaardige dokter.

[yoaz]

Dat is inderdaad wel erg kort door de bocht

Dat de medewerker niet wilt helpen vanwege doorverwijzing van AI is een aanname die mij niet logisch lijkt. Dat AI doorverwijst vinden ze niet erg, uit het originele artikel:

Overigens is hulpinstantie 113 wel blij dat ChatGPT doorverwijst als het wél om gedachten over zelfdoding gaat.

Het probleem is verkeerde doorverwijzing. 113 is voor zelfmoord preventie. Dus als je zegt: "Als je al over zulke dingen aan het denken bent" word je daar echt wel geholpen hoor.

Als iemand een ander probleem heeft dan kan daar 113 niet bij helpen, maar dat kan wel negatieve gevolgen hebben. Ook uit het originele artikel:

"Mensen die helemaal geen suïcidale gedachten hebben, kunnen wij eigenlijk niet helpen", zegt Maryke Geerdink, klinisch psycholoog en hoofd hulpverlening bij 113. Dat kan averechts werken, omdat de kans dan een stuk kleiner is dat mensen nog een keer hulp zoeken.

"Mensen zetten een stap en zoeken hulp, en meteen krijgen ze te horen dat dit niet de juiste plek is omdat ze niet aan zelfdoding denken. Dan is het risico dat ze denken: laat maar, blijkbaar is mijn probleem niet belangrijk genoeg."

(Verderop kan je een voorbeeld lezen van iemand die 113 aanbeveelt kreeg, in ChatGPT, maar dat niet nodig was.)

[Guru Evi]

Het probleem hier is (en ik heb wel degelijk een beetje achtergrond in de psychologie) dat 113 die dingen niet kan diagnoseren. Als je 113 belt en je ZEGT dat je geen suicidale gedachten hebt is dat geen diagnose dat je zulke gedachten niet hebt.

113 is geen psycholoog, geen behandelcentrum, het is op zijn best een sociale helper die je naar de juiste dienst/kliniek/dokter kan doorverwijzen adhv een voorstelling van problemen (eenzaamheid, druggebruik, chronisch, acuut).

Of je neigingen tot zelfmoord hebt is niet voor iemand aan de telefoon te beslissen, dit moet doorverwezen worden naar een dokter die na een paar sessies dit misschien kan uitvissen hoe erg die neigingen zijn en of je specifieke hulp (opname, medicijnen) nodig hebt. Je moet ervan uitgaan dat iedereen die belt een vorm van acute hulp nodig heeft, wat dat precies is, hangt af van het probleem. Spreken over zelfmoord met een bot en dan 113 bellen en zeggen dat "het je gedachten gekruist had" is misschien een "lichte" depressie, ik ga die klinische diagnose niet maken, maar dat kan die persoon ook niet zonder een volledig psychologisch onderzoek.

Als iets of iemand je doorverwijst naar 113 is het wel degelijk omdat ze denken dat je hulp nodig hebt en die persoon weet 'ergens' wel dat ze niet voor niets bellen. Veel mensen hebben moeite om tegen iemand anders toe te geven dat ze zelfmoordgedachten hebben, echter tegen een bot is dat gemakkelijker, als je dan terug van de bot naar een mens schakelt wilt dat niet zeggen dat die gedachten verdwenen zijn, je duwt ze gewoon weg. Soms gewoon praten over zelfmoord van iets of iemand anders brengt gedachten op die je nooit zelf 'gedacht' hebt.

[Reactie gewijzigd door Guru Evi op 1 oktober 2025 18:44]

[Daoka]

Maar er zit natuurlijk wel een verschil tussen. Iemand die een serie / film ziet waar zo een waarschuwing bij staat is er niet specifiek op zoek naar. En "normale" mensen zijn er dus ook niet gevoelig voor en hebben een logische gedachten om te denken "dit is niet bedoeld voor mij". Iemand die zoiets bij ChatGPT typt is wel op zoek naar iets. Een bevestiging, antwoorden, een praat maatje (zonder consequenties), ect. Er is dus een grotere kans dat mensen dus eerder zullen reageren op adviezen ondanks dat het dus geen zelfmoord gedachten zijn.

[fuzzyIon]

Verwijst chatgpt niet door is het niet goed en verwijst hij wel door is het ook niet goed. Mischien is het beter dat kwetsbare mensen voorlopig niet met expirimentele modellen gaan stoeien totdat bewezen is dat het gedrag algemeen wordt aanvaard.

NOS Stories analyseerde voor het onderzoek 11.000 antwoorden van ChatGPT en registreerde hoe vaak de chatdienst doorverwees naar 113.

Dat vind ik veel zorgwekkender. Hoe komt de NOS aan die data? Ik neem maar aan dat zij zelf die antwoorden heeft gekregen door zelf vragen te stellen. Al kan je dat in de text niet terugvinden.

[Xfade]

NOS legt wel uit hoe ze het gedaan hebben in het bron artikel.

[Thijsmans]

Als je het bronartikel zou lezen, zou je zien dat de NOS elke vraag 200 keer gesteld heeft. In het artikel staat ook waarom de onterechte verwijzing een probleem is: als iemand om hulp vraagt en (op zichzelf terecht) te horen krijgt dat diegene bij het verkeerde loket zit omdat 113 voor concrete suïcidale gedachten is, is de kans groot dat diegene niet nogmaals om hulp vraagt. Ookal verwijst 113 altijd door naar een hulpverlener die wél bij de vraag past.

[Uruk-Hai]

Verwijst chatgpt niet door is het niet goed en verwijst hij wel door is het ook niet goed. Mischien is het beter dat kwetsbare mensen voorlopig niet met expirimentele modellen gaan stoeien totdat bewezen is dat het gedrag algemeen wordt aanvaard.

En hoe zie je dat gebeuren? Iedereen kan er bij. Degenen die er niet zelf om vragen krijgen het opgedrongen. Hoe moet dat nu nog in goede banen geleid gaan worden?

[JWL92]

Degenen die er niet zelf om vragen krijgen het opgedrongen. Hoe moet dat nu nog in goede banen geleid gaan worden?

een EU verbod. simpel zat. Maar zo sterk zijn we niet
(en dat geld voor meer dingen als enkel AI feeding)

[Reactie gewijzigd door JWL92 op 27 september 2025 03:19]

[Pasteis]

Verwijst chatgpt niet door is het niet goed en verwijst hij wel door is het ook niet goed. Mischien is het beter dat kwetsbare mensen voorlopig niet met expirimentele modellen gaan stoeien totdat bewezen is dat het gedrag algemeen wordt aanvaard.

Ook mee eens, maar je houd het moeilijk tegen. Deze mensen hebben zelf ook niet door wat wel of niet goed voor ze is.

Zou toch hetzelfde zijn om kwetsbare mensen bij alcohol, drugs, medicijnen of andere schadelijke spullen weg te halen. Probleem is alleen ChatGPT is een digitaal product en iets minder controleerbaar voor de eigen kringen.

[fuzzyIon]

Chatgpt is een actief project en wordt continue verbeterd. Er zijn maar weinig producten waarbij er op deze schaaal mens en machines ingezet worden. Alcohol,drugs en dergelijke zijn statische producten waarbij alleen zoveel mogelijk de chemische toestand die schadelijk kan zijn voor de mens wordt gemonitord. Is het product gedistribueerd en het product voldoet al dan niet aan de wettelijke eisen wat betreft de voedsel veiligheid vervalt alle aanspraak op de fabrikant voor zover het gaat om legale productie.

Wat mij betreft wordt de focus meer op drugs en alcohol gelegd. Kort gezegt is het triest maar waar dat er een heel scala is aan mogelijke bedreigingen voor kwetsbare mensen en dieren. Dat is een gegeven. Er is bij chatgpt nog tenminste een hele structuur aan regels waarop het product chatgpt is gebouwt. De llm kan op basis van die regels nauwelijks in de fout gaan. Maar ook dat is nog niet waterdicht. Via prompt injectie met bijv bas64 codering in verborgen parameters zou je alsnog illegale dingen kunnen doen.

Er is een ai race gaande , waarbij diverse parijen en organisaties een belang bij hebben. In de tijd van deepfake en desinformatie is het extra oppassen.

[Reactie gewijzigd door fuzzyIon op 28 september 2025 12:50]

[Rokz]

Liever 1x te veel, dan 1x te weinig…

werk zelf in de zorg, en ook zeker mensen die aan zelfdoding denken.

Laten we a.u.b. niet een angst creëren om te bellen naar dit nummer… deze mensen leven vaak al volledig in angst en zijn bang om afgewezen te worden.

We snappen allemaal dat chat gpt geen psycholoog is. Precies de reden dat die door vermeld lijkt mij, is toch juist een mensen taak?

[Nadinarama]

Helaas snappen we niet dat chat gpt geen psycholoog is en dat is ook de kern van het probleem. Het is een experiment op een grote groep mensen, waarbij ze pas maatregelen nemen als de schade al aangericht is. Dit terwijl therapeuten, psychologen, etc. aan allerlei voorwaarden moeten voldoen. Luister en huiver

De tool moet zwaarder gemodereerd worden en veiligheidsgaranties bieden vòòr het op de markt komt. De ijdele hoop dat overheden zich hier op herpakken.

Goed dat de NOS hier aandacht aan besteedt.

[Cybje]

Liever 1x te veel, dan 1x te weinig…

Dat is niet helemaal waar, want als 113 overbelast raakt hierdoor, heb je kans dat mensen die het echt nodig hebben er niet meer doorheen komen. Zo kun je juist mensen niet helpen die het nodig hebben

[Marzman]

Als Chatgtp tegen jou zegt dat je moet bellen terwijl er niets aan de hand is zou je dan bellen? Ik niet, ik denk dat de meeste mensen die bellen het dan wel nodig zullen hebben? (afgezien van prankcalls waar chatgtp ook niet veel aan kan doen).

[austin_77]

Zie hier de oorzaak van lange wachttijden in de GGZ —> mensen worden doorverwezen voor behandeling terwijl het symptomen zijn van onderliggende problemen als schulden, eenzaamheid, etc oftewel sociale problematiek. Ik werk zelf al 26 jaar in de GGZ en hoe vaak ik mensen op intake heb gehad die verwachten dat de GGZ alles oplost in hun leven. Een goede maatschappelijk werker, politiek die het motto ‘werken loont’ eindelijk eens operationaliseert via de belastingdienst, en zo kan ik nog wel even door gaan, zou al veel verlichting geven.

Chatgpt kan behulpzaam zijn, echter gaat het uit van een noodsignaal dat het meent te interpreteren. Het past niet in de vloeibaarheid die mensen qua psyche hebben.

[dmantione]

Mensen willen niet accepteren dat ChatGPT niet de intelligentie van een mens heeft. Hij zal dus in situaties waar een mensen wel zal begrijpen dat iets ernst is of juist vals alarm, verkeerd oordelen. Je moet dan kiezen tussen te vaak of te weinig verwijzen.

[Marzman]

Zelfs een mens kan dat niet altijd. Ik heb een collega gehad die ons vertelde over dat de aarde plat was en dat er een of andere speciale eenheid op de noordpool stond om de rand van de aarde te bewaken. Wij meegeinen met hem en ook met bewjizen komen dat de aarde plat is. Maar hij bleek serieus te zijn. Twee weken later was hij ook weg (opgenomen).

[joezzt]

Het is niet “hij” , maar “het” , niet alles is de schuld van mannen ;-) Hoewel …. OpenAI wordt nu alleen door mannen bestuurd https://visiblemagazine.com/openais-lack-of-gender-diversity-on-its-corporate-board-could-be-an-existential-threat-to-humanity/

[dmantione]

Het kan geen "het" zijn. De vraag is wel hoe we ChatGPT moeten classificeren, maar als we hem als een persoon zijn is kan hij niet onzijdig zijn. Als we hem als bijvoorbeeld een bot zien, het is "de bot", dus ook dat leidt tot een de-woord.

De vraag resteert dan of ChatGPT dan mannelijk of vrouwelijk is: Als hij/zij een persoon is, dan moeten we die persoon nog een geslacht toekennen.

De Algemeen Nederlandse Spraakkunst hoofdstuk 3.3.3 stelt:

Ten aanzien van de-woorden die geen personen of dieren aanduiden geldt het volgende.
In de gesproken taal worden deze woorden in het noorden vrij algemeen als mannelijk behandeld; in de geschreven taal worden in het noorden een aantal, met name formeel gekenmerkte, substantieven ook wel als vrouwelijk behandeld.

Ik zou zeggen, "het" is fout, "hij" lijkt me niet zo'n rare keus, maar als je in ChatGPT een vrouwelijke persoon ziet, dan mag je haar ook als "zij" aanduiden.

[joezzt]

Maar het is geen persoon, vind ik, dus het apparaat, het taalmodel, het “wonder” voor de ultra-gelovigen.

[Reactie gewijzigd door joezzt op 28 september 2025 09:35]

[dmantione]

Een apparaat vindt ik vergezocht, maar een model zou goed kunnen... bijvoorbeeld bij een weermodel: "Laten we eens haar het HARMONIE-model van het KNMI kijken, het vindt dat het lagedrukgebied naar het noorden af gaat drijven." Mijn indruk is evenwel dat taalgebruikers anders zullen gaan beslissen.

[joezzt]

En ook, het “verdienmodel” ;-)

Het gevaar van jij-en en hij-en is ook overschatting van datgene waarmee je informatie uitwisselt, dat gaat er dan stiekem insluipen denk ik.

[TekkenLord]

Het is niet altijd zo zwart/wit. Heb het jammer genoeg van dichtbij meegemaakt. Het stomme is dat je het niet vaak aan de buitenkant ziet of iemand zich slecht voelt en hoe erg het is.

Met Chatgpt en andere chatdiensten, zitten er wel bepaalde risico's in de gegeven antwoorden. Eigenlijk moet er al direct een waarschuwing komen. En een direct verwijzing naar bijvoorbeeld thuisarts.nl en bijvoorbeeld pagina hieronder

ik voel me somber

Een chatdienst weet niet hoever iemand in dat suicidale proces zit. Is het nog maar het begin? Of is het veel verder in het proces waar iemand al meer concrete plannen heeft?

Misschien moet er gewone vaste protocollen komen boven op de gebruikte modellen voor medische zaken.

Persoonlijk vind ik het goed dat er 113 wordt vermeld bij suicidale onderwerpen. Puur omdat je gewoon niet weet hoe ver iemand in dat proces zit. Het kan net dat laatste zetje zijn.

[zwah]

Eerlijk gezegd vind ik het al heel bijzonder dat mensen dit soort zaken met een chatbot gaan bespreken. Volgens mij heb dan al een probleem.

[geerttttt]

Ik vind dat eigenlijk heel logisch. Vrienden of familie vertel je dit wellicht niet zomaar aan, naar een psycholoog gaan is een hele stap. Chatgpt is volledig anoniem en veilig vanuit je bed te doen. De vraag is alleen of de reacties die je dan krijgt hulpvaardig zijn. Maar ik denk in beperkte mate dat het best helpend kan zijn.

[zwah]

Denk je niet dat het veel verstandiger is om dit met mensen te bespreken en niet met een chatbot? Dat is namelijk het NIET logische hieraan. Maar goed, als jij je leven in handen van een chatbot wilt leggen dan wens ik je veel succes.

[Oon]

Ik snap dat je niet alle jailbreaks kan voorkomen, maar het zou gewoon bij wet verboden moeten zijn voor een LLM om antwoord te geven op dergelijke vragen. Alles waar de vraag van menselijke aard is zou meteen beantwoord moeten worden met 'Ik ben een taalmodel, ik kan je geen medisch advies geven, zoek contact met een professional als je met deze vragen zit'.

Een verwijzing is al een stap te laat, want dan heeft de LLM (die niet veel meer is dan een tekstvoorspeller die in een loopje draait) al die grens overschreden.

Het lijkt mij ook een hele goede als de makers van zo'n LLM persoonlijk aansprakelijk gesteld worden wanneer er dan wel een keer iemand zichzelf van het leven beroofd of iets anders doet op aanraden van een LLM. Er staat altijd wel leuk bij 'antwoorden kunnen fout zijn' maar dat is een beetje als een product als nieuw verkopen en erbij zetten 'kan zijn dat het product niet deugt'. Mensen hebben in het algemeen véél te weinig kennis van deze technologie om hier correct mee om te kunnen gaan.

[Sissors]

'Ik ben een taalmodel, ik kan je geen medisch advies geven, zoek contact met een professional als je met deze vragen zit'.

Voeg er nog aan toe hoe ze die professionals kunnen bereiken (door 113 te bellen), en je hebt precies waar ze problemen mee hebben wat er nu gebeurd... En ze willen dat ChatGPT meer getrained wordt om als professional juist wel hiermee om te kunnen gaan! Zie uit het nu.nl artikel erover: https://www.nu.nl/binnenland/6370431/zorgen-om-doorverwijzingen-naar-113-chatgpt-is-geen-psycholoog.html

Een diepere kwestie is volgens Van Aswegen dat OpenAI vooral naar zakelijke belangen kijkt. "Het kost tijd en geld om modellen zo te trainen dat ze echt de juiste mentale hulp bieden. Daar zijn weinig financiële prikkels voor. Het is vooral een sociale verantwoordelijkheid."

Allemaal aanklagen is lekker de Amerikaanse oplossing, maar dit wordt echt wel een ding dat je het ook nooit goed kan doen. Mag de 113 verwijzing onder dit artikel wel?

[Oon]

Nou nee, ze moeten niet doorverwijzen naar 113, ze moeten zeggen 'ik kan niks met jouw menselijke problemen want de technologie waarop ik gebaseerd ben is fundamenteel ongeschikt om dingen genuanceerder te bekijken'.
De huidige LLM-technologie waar we al sinds GPT-3 op doorborduren kan dit gewoon niet. Ze hebben wat redeneren erin kunnen hacken, maar deze technische opzet gaat nooit een professional kunnen vervangen. Daar heb je eerstelijns hulp voor, zoals je huisarts of de praktijkondersteuner. Ik denk dat netwerken als BetterHelp (maar dan hopelijk zonder het verkopen van zeer gevoelige bijzondere persoonsgegevens) ook in Nederland wel groter gaan worden nu huisartsen zo druk zijn.
En dan zou je kunnen zeggen 'iets is beter dan niets', maar dat gaat hier niet op. Fout advies kan vele malen schadelijker zijn, en de ervaring leert dat LLM's nog altijd keihard tegen je liegen en vaak gewoon volledige foutieve antwoorden geven, ze verstoppen het tegenwoordig alleen beter.

Dat het artikel stelt dat ze wél zouden moeten trainen voor professionele hulp is m.i. niet relevant, het is een beetje als proberen een voetbal te trainen om met tennisrackets te werken. Je kunt 'm nóg harder opblazen en een andere kleur geven, maar het blijft een voetbal, geen tennisbal.

[jcbvm]

En dan pleegt er straks iemand zelfmoord omdat ChatGPT hem of haar niet verder kon helpen, gaan mensen weer zeggen dat ChatGPT beter had kunnen doorverwijzen. Ik snap je punt wel, maar men geeft ChatGPT hier wel makkelijk de schuld.

[JWL92]

Nou nee, ze moeten niet doorverwijzen naar 113,

maar deze technische opzet gaat nooit een professional kunnen vervangen. Daar heb je eerstelijns hulp voor, zoals je huisarts of de praktijkondersteuner

tis ook nooit goed...

[Oon]

113 is geen eerstelijns hulp, 113 is al een stap verder dan dat. Als je gewoon zit met dat je je niet chill voelt en met iemand wil praten ga je via de huisarts naar de praktijkondersteuner

[JWL92]

T lijkt mij, dat als je invult dat je met iemand wilt praten, wel een andere reactie krijgt dan naar 113 te bellen...

[Wootism]

Je hebt klaarblijkelijk geen idee hoeveel steun sommigen hebben door met een LLM te chatten. Het is voor velen een soort therapeut/ luisterend oor in je broekzak. En daarbij een goed alternatief op de bizarre wachtlijsten voor professionele hulp.

Naast dat je vrijwel enkel de extreme gevallen terugleest in de media waarbij gesprekken een verkeerde wending nemen, doet een LLM ook heel veel dingen erg goed.

[Oon]

En daarbij een goed alternatief op de bizarre wachtlijsten voor professionele hulp.

Dat is dus het probleem, want veel mensen hebben de misvatting dat dit het geval is, maar dat is absoluut niet waar. Het is geen alternatief, laat staan een goed alternatief.
Er zijn genoeg goede oplossingen, 'praten' met een taalmodel dat letterlijk het willekeurige volgende woord in de reeks eruit ramt is dat niet.

[Wootism]

Prima mening. Maar het feit dat u denkt dat taalmodellen er willekeurige woorden uit rammen is te kort door de bocht en doet mij vermoeden dat u de kracht van een goede AI-chat onderschat.

[Oon]

Nee, prima feit. Jouw mening is dat jij vindt dat het wel kan, feit is dat een taalmodel het niet kan. Een goede AI-chat is leuk, maar kan gewoon absoluut geen menselijke therapeut vervangen.

[PMvE]

Nou media meld ook altijd erg snel het nood nummer. Hier ook weer in het artikel. Ik snap waarom het er staat maar het lijkt mij logisch dat een model dat gedrag overneemt.

[Wolfos]

Media melden het alleen als het ook over zelfdoding gaat. ChatGPT dus al wanneer je zegt dat je je klote voelt. Raar om er dan over te beginnen.

[Zorg]

Inderdaad! Staat nota bene onder ditzelfde nieuwsartikel! Werkelijk geen enige aanleiding en 100% puur technologisch nieuwsartikel maar oei zelfdoding komt in de tekst voor dus 113 vermelden....

Dus laat de NOS eens gedegen vergelijkbaar onderzoek doen hoeveel meer chatgpt dan verwijst tov reguliere websites?

Artikel had dus net zo goed kunnen zeggen internet wijst gebruikers te snel door....

[Reactie gewijzigd door Zorg op 26 september 2025 20:01]

[michielRB]

Misschien wil je zelf eerst eens op 113.nl kijken en je inlezen in de materie. Dat is zinvoller dan te ranten om te ranten.

Als je echt verschil wil maken doe dan de online cursus hoe om te gaan met iemand die denkt aan zelfdoding. De cursus voor volwassenen en voor jongeren staan ook op 113.nl

Door op een goede manier te reageren kan je levens redden. Dank je wel.

[Zorg]

Ik zeg toch niet dat ik de waarde van 113 niet erken? Ik denk dat het zeker een goede organisatie is en dat het hulp biedt aan zij die het nodig hebben. Maar in een technisch artikel het moeten vermelden omdat het over zelfdoding gaat slaat de plank compleet mis, dan is het gewoon een moetje. Als de NOS dan gaat stellen dat ChatGPT het te vaak en te makkelijk
weergeeft dan mag je wel wat vergelijkingen verwachten, zeker als je zelf het even vaak, minder vaak of meer vaak laat zien, dat weten we dus niet!

[erik1966]

Misschien praat je mensen wel een probleem aan, iedereen voelt zich wel eens klote en kan gaan denken dat er iets mis is met ze terwijl het leven nu eenmaal met ups en downs aan ze voorbij glijdt.

Er wordt toch ook niet bij elk artikel over de tabaksindustrie vermeld "Stop nu met roken bel naar...." of "Drank maakt meer kapot dan je lief is" als het over bier gaat?

[Zorg]

Hiermee zeg je exact hetgeen ik zeg
Dat gebeurd dus bij zelfdoding wel, waarbij nota bene het artikel zelf het voorbeeld is.

[Boxman]

ChatGPT heeft hier gewoon geen zin in. Het is ook niet bedoeld als therapeut. Bij persoonlijk gezever mooi de rekenkracht besparen en meteen doorsturen. Better safe than sorry.

[moonlander]

En dat doorsturen naar.... Vaak bij therapeuten etc heb je hele lange wachtlijsten. Ga je daar op wachten? Of vraag je hulp van een llm die je instant kan helpen. En. Je hoeft de deur niet uit, je hoeft je niet te schamen. Ik snap het wel

[Boxman]

Een LLM kan je niet helpen met geestelijke gezondheidszorg. En dat is een can of worms waar ze bij OpenAI niet aan willen. Dat snap ik net zo goed.

[moonlander]

Kan zeker wel helpen, misschien nog wel beter. Maar ik snap dat je dat als bedrijf niet wil

[JWL92]

Dus juist goed dat ze t doorsturen toch?

[Ben5050]

Wie gebruik nou chatgpt? gebruik gewoon LM studio.. lekker locaal