OpenAI wordt opnieuw aangeklaagd na zelfdoding ChatGPT-gebruiker

OpenAI en ceo Sam Altman zijn in de Verenigde Staten aangeklaagd door een Canadese moeder die zegt dat haar dochter door ChatGPT is aangezet tot zelfdoding. Volgens Kristie Carrier heeft OpenAI niet genoeg gedaan om haar dochter Alice te beschermen.

Carrier beweert dat haar 24-jarige dochter in de weken voor haar dood in juli vorig jaar uitgebreid gebruikmaakte van ChatGPT om haar hart te luchten: "Ze praatte met ChatGPT alsof het een vriend was. Soms klonk het als een therapeut die advies gaf over relaties en over wat ze doormaakte", zegt ze tegen Global News.

Volgens de aanklacht hebben de veiligheidssystemen van OpenAI de gesprekken niet beëindigd of gemarkeerd voor menselijke beoordeling. In plaats daarvan zou ChatGPT de gevoelens van Alice hebben versterkt en onderstreept hebben dat crisislijnen niet altijd nuttig zijn. Eerder had de chatbot wel aangeraden om er een te bellen.

ChatGPT verergerde relatieconflict

Ook zou ChatGPT een conflict tussen Alice en haar vriendin verkeerd hebben behandeld. Alice zou de berichten tussen haar en haar vriendin hebben gedeeld in de hoop haar perspectief beter te begrijpen. In plaats daarvan koos ChatGPT de kant van Alice en zei de AI-bot dat zij het recht had om zich gekwetst te voelen. "Er was geen enkele nuance. Geen enkele suggestie dat haar vriendin misschien gewoon wat ruimte nodig had, of een slechte dag had."

Een woordvoerder van OpenAI noemt de situatie tegenover Global News 'hartverscheurend'. "We bestuderen momenteel de juridische documenten, waaruit blijkt dat deze interacties plaatsvonden in een eerdere versie van ChatGPT die niet langer beschikbaar is." Hij voegt toe dat OpenAI de manier waarop ChatGPT omgaat met gevoelige situaties inmiddels heeft veranderd.

Het is niet de eerste keer dat OpenAI wordt aangeklaagd na zelfdoding van een gebruiker. Ook de ouders van Adam Raine klaagden het bedrijf aan nadat hun zestienjarige zoon omkwam door zelfdoding. In de maanden daarvoor had Raine ChatGPT intensief gebruikt. OpenAI kondigde kort daarna functies voor ouderlijk toezicht aan.

Denk jij aan zelfdoding? Neem 24/7 gratis en anoniem contact op met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.

OpenAI ChatGPT Bron: NurPhoto/Getty Images
Bron: NurPhoto/Getty Images

Door Imre Himmelbauer

Redacteur

12-06-2026 • 20:46

150

Reacties (150)

Sorteer op:

Weergave:

Volgens mij vergeten veel mensen hier dat, wanneer iemand aan suïcide denkt, deze persoon al in de problemen zit.

Is het dan niet logisch dat er extra vangrails geëist worden?

Ik heb een paar keer suïcidale gedachten gehad. (ik heb zelfs op het spoor gestaan) en ik was toen niet echt "helder".

Dus, wanneer men gaat chatten met een bod, is het niet zo dat men altijd in kan zien wat deze bod schrijft ook iets goed is.

Iemand die twijfelt of hij/zij dood wilt, moet je nooit, echt nooit een positive reactie over de dood geven. Men verergert daarmee het verlangen naar, wat ik rust noem.

En ook weet ik uit mijn eigen ervaring dat familie vaak geen enkel idee heeft over deze gedachtes. Ik heb, tijdens therapieen vaak met familieleden gepraat die iemand aan suïcide hadden verloren en 1 van de meest voorkomende dingen is dat ze niet wisten hoe erg men in de knoop zat.

Mijn ouders wisten helemaal van niets, totdat ik, instorten in hun bijzijn en vertelde dat ik op het spoor had gestaan. Maar nadat ik dat verteld had, stond ik een kwartier later bij een psychiater (en daarna een hele lange tijd bij het ggz gelopen). En nog, terwijl ik behandel werd, kreeg ik deze suïcidale gedachtes.

Stel dat ik dan niet met een psychiater of psycholoog had gepraat maar met een programma die naar mijn mond praat. Denken jullie dat ik dan nu nog zou leven. Natuurlijk niet. Ik leef nog omdat ik nog een beetje twijfel had. En het was die twijfel die men bij de ggz gebruikte om mij te behandelen.

Wanneer iemand niet meer twijfelt, dan is die persoon niet meer te helpen.

Eén programma die aangeeft dat men hulp moet inschakelen klink alsof dit helpt. Maar men "praat" juist met deze bod omdat jen niet met hulp kan of wil praten. Vooral wanneer deze bod niet stopt met bevestiging geven (of überhaupt niet stopt)

Een chat bod zou gelijk moeten stoppen en het liefst de de chat "live" overzetten naar (in ons geval) 113 zodat een echt mens echte hulp kan geven (zonder dat de persoon die suïcidale gedachtes heeft, gelijk doorheeft dat er met een hulpverlener gechat word).

Het enige wat helpt tegen suïcide is menselijke hulp.

Maar daar verdienen bedrijven niets aan.
wanneer iemand aan suïcide denkt, deze persoon al in de problemen zit
Denk je? Ik ben niet onbekend met deze gedachtes, en ik heb een vrouw en kinderen, maar soms denk ik; 'wat heeft het voor zin, waar sta ik over zoveel jaar'? Wat heb ik bereikt?

En dat is ook iets waar sommigen als ik wel eens denkt; wat als? En het lastige is, ik denk dan alleen aan mijzelf, en niet aan mijn gezin. En wellicht is dat ook iets wat ergens kortsluit in de bovenkamer, maar je kan er eigenlijk ook niks over doen.

Het komt met vlagen, en soms zie je weer de mooie dingen in het leven, dan is het weer even weg. Maar het heeft niks te maken met 'problemen', en iets waar een mens ook niet mee gaat helpen.
Wanneer je zelf nooit in de situatie hebt gezeten dat je (echte) suïcidale gedachtes hebt (dus niet een paar minuten en daarna is het over) kan je nooit weten hoe het is. De reden waarom iemand suïcidale gedachtes heeft zijn nooit een plotseling iets, maar we langdurig "probleem" waar men zelf niet uit kan komen (of inziet dat het probleem niet zo groot is).

Suïcidale gedachtes moeten "groeien" voordat men echt suicide pleegt. En een chstbot zorgt dat deze gedachtes "groeien".

Probleem is dat de mensen die verantwoordelijk zijn voor de chatbot (of deze moeten controleren), hebben meer interesse in geld (mede omdat ze niet mensen met suïcidale gedachten snappen.)
Je stelling is dat als een ander niet aan jou denkbeeld voldoet deze geen weet heeft. Daar ga ik niet in mee. Er zijn veel verschillende denkbeelden waardoor (neiging tot) suicide kan ontstaan. Wel lijkt het me duidelijk dat er niet zomaar besef is over de aanleiding(en). Juist omdat mensen in een bubbel lijken te leven, om welke redenen dan ook. Waarbij een ai kennelijk niet zomaar bevorderlijk is om daar uit te komen en kennelijk zelfs stimuleert om suicide de plegen.

Ongeacht of een bedrijf over langer of zeer korte tijd aanzet tot suicide, het lijkt me beiden ongewenst tot verboden. Een ai is feitelijke een verlengstuk van een bedrijf. Als dat geen behoorlijke controle heeft over wat hun ai allemaal in de praktijk doet, zoals aanzetten tot suicide alsof dat normaal is, dan hoort dat nmm niet op de markt thuis. De meeste bedrijven die ai-diensten leveren zijn geen 'sociale' dienstverleners, laat staan erkende professionals op gebied van gezondheidszorg en de wet behoorlijk respecteren. Eerder het compleet omgekeerde. Dat hun dienstverlening schade tot de dood aan toe brengt aan mensen en de samenleving lijkt ze ondergeschikt aan het perse maar willen en blijven aanbieden om er zelf aan te verdienen.
Mijn stelling6is, zolang je het zelf niet ervaren hebt hoe het is om zover in de knoop te zitten dat je suïcidale gedachtes hebt, men nooit echt weet waarom nenaen deze krijgen en vooral wat voor gevoel het is. Men Jan zich er wel iets bij voorstellen, maar de angst, de stress, de schaamte, de hulpeloosheid en alle andere dingen en/of combinatie daarvan is nooit voor iemand echt voor te stellen. Ikzelf heb suïcidale gedachtes (gehad) en zelfs ik weet niet echt wat een ander voelt op het moment dat deze suïcidale gedachtes heeft of zelfs een poging doet.

Er zijn veel te veel redenen.

Jij kan bijvoorbeeld een voorstelling hebben wat ik dacht en voelde. Maar je weet het echt niet. Ik zelf weet het ook niet helemaal aangezien ik op dat moment niet helder meer kon denken.

Waar het om gaat is dat de chatbod niet handeld in het voordeel van de chatter, maar on het voordeel van de eigenaar (bedrijf).

Hoe weet een chatbod wat iemand denkt en voelt als de persoon zelf dermate in de war is dat deze het zelf ook niet echt weet.

Ik kan uitleggen waarom ik deze suïcidale gedachtes heb (gehad) maar alle nuances die een persoon in een gesprek met iemand heeft valt weg wanneer men dit moet opschrijven.

En dan heb ik het over mensen die (blijkbaar) tussen de regels door kunnen lezen. Als autist weet ik hoe moeilijk het is om een tekst goed te begrijpen wanneer men iets schrijft. Ik lees de tekst (net als een chatbod) en ik kan alleen reageren op de text (en dus niet op de bedoeling die mensen "tussen de regels" lezen). En dan ben ik nog een mens.
een LLM (i.e the chat-gpt ai en gelijkaardigen) doet niks anders dan herhaaldelijk het meest waarschijnlijke volgende woord voorspellen

het is geen therapeut, en heeft geen begrip van wat het uitkraamt

aanklagen van chat-gpt om wat de bot zegt getuigt van een complete misconceptie van wat de technologie is
Dit is wat mij betreft veel te kort door de bocht.

Het gaat hier er om of je de maker of leverancier van de bot verantwoordelijk kan houden voor alle kwalijke onzin die de bot genereert. Hoe die bot die kwalijke onzin dan genereert lijkt mij slechts zijdelings relevant voor de discussie.

Een Duitse rechter heeft Google als leverancier van Gemini al ter verantwoording geroepen voor laster omdat Gemini schadelijke desinformatie over een aantal bedrijven had gepresenteerd. Aldus deze rechter is het feit dat Google de kanttekening plaats dat gepresenteerde informatie onjuist kan zijn niet afdoende als voorzorgsmaatregel of vrijstelling van juridische verantwoordelijkheid.

Vraag is dan wel of dat het houdt in een hoger beroep.

Hij lijkt mij eerlijk gezegd niet meer dan redelijk en ook sociaal-maatschappelijk wenselijk dat we organisaties die bots - ongeacht wat de achterliggende techniek is - aanbieden verantwoordelijk houden voor mogelijk onwenselijk gedrag wat die bots vertonen.

Doen we dat niet voelt dat als een pittige dubbele standaard, want als ik persoonlijk met behulp van een algoritme iemand tot waanzin drijf of het internet volpomp met smaad en laster durf ik er toch wel geld op in te zetten dat ik juridisch, sociaal dan wel financieel kapot wordt gemaakt. Waarom een andere standaard hanteren voor megacorporaties die in essentie hetzelfde doen. Een gereedschap doet inderdaad geen kwaad. Onverantwoorde inzet van een gereedschap zeer zeker wel en dat is waar hier sprake van is.
Neiging tot suicide kan ontstaan in samenloop je omgeving in hoe je in het leven staat dat komt door vele oorzaken wat op je pad komt, gevoelens spellen een grote rol hierin die gaan niet 123 weg die kunnen hel sterk zijn en ziet geen uitweg meer, hulp kan helpen maar niet altijd , je gevoelens spelen de overhand en dat neemt niet weg.

Behandelingen werkt niet de een wel de ander niet en ziet geen uitweg alleen de daad,

Jonge kinderen lopen al met die gadachten rond, van zelf 8 jarige kinderen dan wel zelf de poging doen tot een daad heeft vaak vanuit gezins dituaties te maken, kijk maar rond bij jeugd zorg dan zie je genoeg kinderen rondlopen die zic onder de snijwonden zitten somige zitten er helemaal onder en gaan steeds een stap verder of je bij de crisis opvan bent eof de jeugdigen die er wat langer zitten de meeste komen er wel weer boven maar niet allemaal en bliven het lang met zich mee dragen veel traumas door situaties dan wel van uit huis. en sommige zitten zo diep en nemen een eigen uitweg, daar kun je een heel hulp team achter zetten maar werkt niet altijd, gevoelens neem je dan niet weg bij het kind en voelen zich rot en zitten totaal niet lekker in hun vel. aan de buitenkant zie je het niet zo gauw doe vaak mee met anderen zijn opgewekt etc, maar het zit heel diep in gedachten en dat maakt het ook lastig om uit die diepte te komen.
De vraag is of OpenAI genoeg maatregelen heeft ondernomen om zulke uitschuivers (zal ik maar zeggen) te voorkomen. Ik weet dat ze hier hard aan werken, maar wat is genoeg? Ik denk echter dat sociale media ontzettend meer negatieve invloed hebben, niet aleen omwille van gebrekkige controle, maar vooral omdat het 'echte mensen' zijn die elkaar beduvelen en bovendien cynisch genoeg, zelfs een zetje suggereren voor idereen die al aan de rand van de afgrond staat.
Wanneer je zelf nooit in de situatie hebt gezeten dat je (echte) suïcidale gedachtes hebt (dus niet een paar minuten en daarna is het over) kan je nooit weten hoe het is.
Soort van fair
Probleem is dat de mensen die verantwoordelijk zijn voor de chatbot (of deze moeten controleren), hebben meer interesse in geld (mede omdat ze niet mensen met suïcidale gedachten snappen.)
Dus geen juiste conclusie.

Ik vind het bizar dat we zover van eigen verantwoordelijkheden afstappen. Zeker in de Vs waar mentale zorg echt ruk is überhaupt.

Nu wordt er een maker van een taalmodel aangeklaagd over iets wat je als gebruiker gewoon doet en voor gewaarschuwd wordt dat het niet slim is. Als je nu nog dit soort dingen gaat doen, met alle berichtgeving er omheen? Heb je dan niet al veel te lang onder een steen geleefd en heeft het dan überhaupt nog zin als de app als best wel vergaande maatregelen heeft?

Zelfde voor bank apps. Ik vind ze veel te ver gaan tegenwoordig. Ik wilde laatst een overboeking doen, maar dat mocht niet omdat in aan het bellen was. Laat mij dat ajb gewoon zelf even bepalen oke?

Het gaat nu dus zover dat bepaalde psychologische zaken gewoon helemaal niet meer besproken kunnen worden ook niet vanuit een onderzoekscontext. Dat is gewoon een serieus issue.

Maar jouw conclusie komt er op neer dag het geen zin heeft als een bedrijf safeguards aanbrengt want ze snappen deze gedachten toch niet, dus dan kun je er ook geen goede safeguards voor aanbrengen. Als dat zo is, dan kun je dus ook nooit een ander aanklagen op die manier. Helemaal prima overigens. Maar dan kán de ander het dus ook nooit goed doen. Dan kun je hen ook niet verantwoordelijk houden.
Dus, als ik het goed begrijp, is jouw stelling dat het de persoon, die dermate in de war is dat deze suïcidale idolatie vertoont, verantwoordelijk is, wanneer deze suïcidale gedachtes heeft, of een poging doet?

Ik stel dat een text, "zoek hulp" oid, niet helpt. Men is namelijk al bezig met praten over suïcide (met een chatbod).

En ik zeg ook dat geen enkele psychologisch probleem via een chatbod opgelost kan worden. Een psycholoog of psychiater heeft jarenlang gestudeerd om mensen met problemen te helpen, een chatbod heeft alleen tekst "geleerd", niet de problematiek erachter.

Of denk jij dat een ai bedrijf, die alleen tekst gebruikt als bron, ook alle nuances van psychologie in hun chatbod stopt?

Ik ben ook van mening dat, wanneer iemand over suïcide praat, de chatbod niet gelijk hoeft te stoppen, maar zodra men om methodes vraagt, of suïcidale idolatie vertoont, deze chatbod ervoor moet zorgen dat men met een echt mens gaat chatten en nooit gewoon doorgaan.

Ze kunnen blijkbaar wel seksuele gesprekken met of over kinderen herkennen en stoppen, maar ze kunnen suïcidale gesprek onderwerpen niet stoppen?
Dus, als ik het goed begrijp, is jouw stelling dat het de persoon, die dermate in de war is dat deze suïcidale idolatie vertoont, verantwoordelijk is, wanneer deze suïcidale gedachtes heeft, of een poging doet?
Nouja. … ja?

Even voor de sake of logica, niet lullig bedoeld, maar gewoon even voor de gedachtegang:

Wiens verantwoordelijkheid is het anders? Niet die van mij toch? Je kunt niet een ander verantwoordelijk stellen voor daden van jouzelf, ook al ben je niet toerekeningsvatbaar.

Maar dat is niet wat ik daadwerkelijk zeg. Je legt mij nu een inversie voor die ik ten eerste niet heb gezegd en ten tweede ook moreel gezien helemaal niet verdedigt hoeft te worden.

Wat ik stel is, aansluitend op wat jij zegt, als mensen die nooit suïcidale gedachten hebben gehad nooit kunnen weten hoe het is en wat het doet, hoe kun je die mensen dan verantwoordelijk houden correct te kunnen herkennen dat het een ding is én er dan ook nog wat aan te kunnen doen.

Je kunt niet zeggen “jij kunt dat niet weten” om vervolgens te zeggen, “maar je had er wel wat tegen moeten doen”.
maar ze kunnen suïcidale gesprek onderwerpen niet stoppen
Lees het bericht nog eens. Het grootste deel van de gesprekken waren adviesgesprekken over metadiscussies. Dus gesprekken over andere gesprekken. Niet per se omdat suïcidaal, maar gewoon, “hee interpreteer ik dit correct?”. Daar valt weinig aan te herkennen want het gaat niet over zelfdoding of wat dan ook.
Ik zie wel wat je bedoelt; ik ken beide. Suïcidaliteit gaat echter gepaard met een gebrek aan realiteitszin, waardoor je geen rationele keuzes meer maakt. Er treedt in wezen realiteitsvernauwing op. Enkel denken aan de dood hebben wel meer mensen overleefd, inderdaad.

Maar vooral mensen bij wie het brein nog in ontwikkeling is (tot een jaar of 27 à 30!), waarbij de prefrontale cortex nog niet volledig is gevormd om impulsen af te remmen, lopen extra risico om ondoordachte acties uit te voeren.

Daarnaast is er een legio aan mensen die door de duistere gedachten destructief gedrag gaan vertonen en bijvoorbeeld middelen gebruiken. Niet in de laatste plaats alcohol, wat natuurlijk een sterk ontremmend effect kan hebben.

Al dat soort complexiteit is wellicht begrijpelijk voor buitenstaanders, maar het maakt de problemen niet minder echt voor degenen die op bepaalde momenten professionele hulp hard nodig hebben.
'Begrip hebben' gaat dan ook niet zo zeer om hoezeer jijzelf de concepten begrijpt, maar in hoeverre je kunt inleven dat dit voor de ander een echt probleem is.

Wat overigens ook heel wezenlijk is – en een veelvoorkomende periode waarin vooral mannen het leven soms wat zwaarder ervaren –, is de midlifeperiode. Ongeacht de voorgeschiedenis of de werkelijke lichamelijke en materiële toestand, kunnen er terugkerende gedachten opkomen die de zinvolheid van het op dezelfde voet doorgaan in twijfel trekken.

Bij mannen bij wie een goede basis is gelegd en emoties in de regel stabiel met de omgeving besproken en gereguleerd worden, hoeft dit niet altijd tot echte problemen te leiden. Zij kunnen, ondanks die existentiële twijfel, toch kiezen voor wat wél werkt, in plaats van af te haken.

Er is echter ook een deel dat niet de juiste aansluiting vindt en niet goed in staat is de emoties effectief te adresseren, voor wie suïcidaliteit dan wel problematisch kan worden. Dat gaat dan ook verder dan koude overwegingen over het nut van het huidige leven en gedachten aan opgeven; het gaat gepaard met een beperkt zicht op de positieve factoren in het bestaan.

Dus achteraf, als zo'n fase voorbij is, kun je misschien wel benoemen dat het sowieso een niet-werkende gedachte was. Maar als je erin zit, is het daarom niet minder vervelend.

[Reactie gewijzigd door jellevanderpal op 13 juni 2026 06:02]

Suïcidaliteit gaat echter gepaard met een gebrek aan realiteitszin, waardoor je geen rationele keuzes meer maakt.


En precies deze kortzichtigheid over zelfmoord gedachtes is het probleem binnen de maatschappij. In een hokje wegzetten, het taboe willen houden, want erover praten mag niet of is gevaarlijk.

Er zijn twee grote problemen, onbegrip en de taboe (het dat mag je niet doen / denken). Dat maakt het enkel erger, niet beter.
Ik spreek niet uit lesboeken, maar ervaringsdeskundigheid. Sommige dingen zijn misschien niet leuk aan ziektes, maar anders hadden het ook wel gewenste eigenschappen geheten. Het ervaren van suïcidaliteit komt met een verwrongen beeld op de werkelijkheid. Dat is geen aanklacht, maar een constatering.
Bronnen:
Diagnostiek en Behandeling Suïcidaliteit - Universiteit Maastricht
Entrapment ofwel klemzitten in een situatie zitten waaruit ontsnapping niet mogelijk is en redding door anderen niet mogelijk wordt geacht, speelde een rol bij onze patiënte.
De pijn en andere klachten droegen bij aan suïcidaliteit gezien vanuit de primair depressieve cognities. Intrusies, zowel vanuit een depressieve als obsessieve-compulsieve stoornis, speelden vanaf de leeftijd van 15 jaar een rol en waren van invloed op het gevoel klem te zitten. Ook vanuit psychosociale ‘turmoil’ ontstond suïcidaliteit bij patiënte. Zij ervoer verlies van autonomie en vermindering van contact met vrienden en familie (104)
Dus dit parafraseer ik als realiteitsvernauwing. "Entrapment" - is de psychologische term.
Het gedrag komt in de regel voort uit een gevoel van ‘entrapment’ (klemzitten): iemand zit in een situatie waarin hij of zij zelf geen ontsnapping meer ziet en redding door anderen ook niet mogelijk acht (zie verder Ontstaan van suïcidaal gedrag, wanhoop en ‘entrapment). Suïcidaal gedrag wordt in deze zorgstandaard niet gezien als een stoornis op zich maar als een symptoom van, veelal ernstig, lijden. Het kan opgevat worden als een reactie op ondraaglijke pijn en onoplosbare problemen.
GGZ Standaarden - Wat is Suïcidaal gedrag

[Reactie gewijzigd door jellevanderpal op 14 juni 2026 07:07]

De laatste alinea over entrapment kan ik volledig onderschrijven, dat is exact hoe het bij mij werkte.

Zonder verder in details te treden; een min of meer gedwongen opname op een gesloten afdeling en de juiste medicatie hebben mij vrijwel zeker het leven gered.

Dit was voor de tijd van chat en heb nadien niet zulke problematiek weer gehad, maar geloof wel dat AI in veel gevallen een goede gesprekspartner kan zijn en een juiste kijk op situaties kan helpen geven voor iemand die in de knoop zit. Voor iemand die al zo diep zit dan mogelijk niet helemaal.

Maar ik denk eigenlijk dat het gebrek aan geestelijke gezondheidszorg en de wachtlijsten tot hulp vrijwel zeker voor meer zelfdodingen leid dan AI. Mogelijk dat AI de mensen die op wachtlijsten terechtkomen juist door die wachttijd heen kan helpen en zorgen dat ze niet voortijdig uitstappen en zo dus juist zelfdoding voorkomt.
Als ik kijk naar al die zogenaamde ervaringsdeskundigheid binnen de gezondheidszorg, dan heb ik geleerd dat het meeste daarvan grote onzin is. Binnen de gezondheidszorg hebben ze het vaker fout dan goed.
Sorry ik zal je niets wijzer maken dan je op prijs stelt.

[Reactie gewijzigd door jellevanderpal op 15 juni 2026 05:31]

Met alle respect, maar je post wekt de indruk dat je "denken aan suïcide" reduceert tot zuiver dat, "denken", terwijl het juist altijd, of verreweg altijd, gepaard gaat met heftige aanhoudende negatieve emoties. De manier waarop jij het beschrijft "klinkt" beschouwend en dat is zo'n beetje het laatste waar iemand die gevangen zit in dergelijke wanhoop toe in staat is.

En ik vind het nogal boud om te stellen dat de "gedachte", de wens, niks met problemen te maken zou hebben. Misschien in jouw geval niet. Maar prijs je daar dan alsjeblieft gelukkkig om.
Ik snap je reactie, maar het komt een beetje over als een "no true scotsman" argument. Waar ligt de grens? Wanneer is het "denken aan suïcide" en wanneer het het "denken over suïcide"? Het is een grens die precair is en het is gevaarlijk dit te bagatelliseren. Hangt ook een beetje af van hoe impulsief iemand is, denk ik. Ik ben geen therapeut dus neem alles wat ik zeg met een vat zout.
Denk je? Ik ben niet onbekend met deze gedachtes, en ik heb een vrouw en kinderen, maar soms denk ik; 'wat heeft het voor zin, waar sta ik over zoveel jaar'? Wat heb ik bereikt?
Persoonlijk denk ik dat beide waar is. Ik verwacht wel dat de meerderheid wel problemen heeft. Natuurlijk zit er verschil in problemen en PROBLEMEN. Maar ik zie ook wel in dat mensen zich afvragen wat heeft het voor zin. En de "ik ga toch dood dus waarom niet nu" vraag. Maar toch verwacht ik in vele gevallen dat er wel iets mis is. Misschien werk niet leuk of uitdagend genoeg. Te weinig plezier in je leven doordat je te druk bent met andere verplichtingen. Of gewoon te weinig variatie in je leven omdt elke dag hetzelfde lijkt. Angst voor de toekomst. Te hoge verwachtingen van het leven of jaloers op andere. Misschien wil je iets wat je niet kan krijgen, ect. En dat terwijl je huidige leven stabiel is of zelfs (in de ogen van andere) goed is / lijkt. Ik denk dus echt dat in genoeg gevallen als iemand die zo denkt dus wel een reden heeft om dat te denken.

Nu even een extreem voorbeeld maar als iemand als echte levensdoel zou hebben van bijvoorbeeld een Porsche bezitten terwijl dit onmogelijk is zou dit zeker een reden kunnen zijn om zo te voelen. Nu zullen de meeste wel denken maar je kan zonder Porsche ook goed leven. Ja dat klopt maar als je het gevoel hebt dat dit je levensdoel is dan is het misschien wel moeilijk los laten voor die persoon (en het blijft een extreem voorbeeld). Het zou ook kunnen zijn dat iemand dat het gevoel heeft geen echte impact op de wereld te hebben.

Een probleem hoeft dus echt niet altijd te zijn dat je gepest wordt, schulden hebt, mentale problemen hebt, ect. Je hoeft zeker geen slecht leven te hebben om de negatieve gedachten te hebben.
Jorgen Moderator Beeld & Geluid @xoniq13 juni 2026 12:55
En dat is het grote verschil tussen suïcidale gedachten en jezelf afvragen of iets zin heeft.

Iedereen heeft wel eens gedachten als "ik ben dit zo zat, was hij/zij/ik maar dood/klaar/weg" wat een normaal mechanisme in je gedachtenpatronen is, omdat je je kunt/wilt voorstellen hoe het is om uit die stressvolle situatie te zijn. Net zoals dat iedereen ook gedachten heeft als "als ik hier mijn hand in steek dan..." of "als ik jou nu duw, dan..." wat een waarschuwing is van je brein, waarbij je het gevaar kunt voorstellen, waardoor je het niet doet.

Zulke dingen zijn echt van een compleet andere orde dan échte suïcidale gedachten, die ook nog eens in verschillende vormen komen.
Ik ben niet onbekend met deze gedachtes, en ik heb een vrouw en kinderen
Ik snap ergens wat je wil zeggen maar de stelling "..en ik heb een vrouw en kinderen" halen je punt helemaal onderuit. Beste (openbare) voorbeeld die er is, is Chester Bennington. Sommige reclame spotjes laten het ook perfect weer zien.

Enfin, ik ben het grotendeels eens met biomechanical, wanneer je het niet zelf hebt meegemaakt, hier middenin hebt egzeten is het erg lastig om dit te kunnen begrijpen. Zelf meerdere malen in die situatie gezeten, niet 'zomaar' wat egdachten. Gelukkig goed uitgekomen maar voorbij zal het voor mij nooit zijn.

On topic: ik denk dat een LLM een prima eerste lijn kan zijn mits het restircties heeft en dat die gesprekken ingezien kunnen worden door een professional. Het blijft mensenwerk en hoewel LLM's best veel kunnen is empatisch zijn en alles wat ons mens maakt niet tot hun specialisme.
Ik denk dat suïcidale gedachtes en wat jij omschrijft nog best ver van elkaar liggen. Die gedachte die jij benoemt liep ik vele jaren mee, voordat het oversloeg naar depressie en toen pas begon de echte spiraal. Vanaf dat punt moet je niet met een enabler zoals een llm gaan praten.
Wow. Blij dat je nog bij ons bent!

En wat mooi dat je dit perspectief met ons deelt. Heel inzicht vol.
Lastig hoor. Het moeilijke met dit soort discussies is dat het onderwerp al heel snel heel beladen en emotioneel is.

Echter, anecdotisch bewijs is geen bewijs, en je stelling dat de chat meteen beeindigd moet worden en er naar 113 moet worden verwezen is ook een lastige. De systemen zijn niet ingericht om naadloos de chat over te zetten naar 113, noch is dat de taak (!) van ChatGPT/OpenAI. Net zoals dat we bij oneigenlijk gebruik van messen niet meteen de verantwoordelijkheid naar de verkoper schuiven, moeten we dat hier ook niet doen.

ChatGPT wordt hier aangeklaagd en verweten dat het niet genoeg heeft gedaan om de persoon in kwestie tegen zelfmoord te beschermen. Dit wordt gedaan door de ouder. Zie daar meteen het perverse in deze situatie, een financiele prikkel. De rol van de moeder staat niet ter discussie, maar wel het algoritme en het bedrijf.
Degene die zelfmoord pleegde in dit verhaal was ruim meerderjarig. Als ouder sta je machteloos, helemaal als je kind niet naar je toe komt (mede omdat ze het gevoel had dat ChatGPT genoeg steun bood)

ik vind jouw stap naar "oh ze wil geld zien" (als ik dat goed interpreteer) nogal kort door de bocht.

Als ouder sprekend: ik zou ook verhaal willen halen, al is het maar om anderen te behoeden voor hetzelfde. Het doel van zo'n bedrijf is om zo veel mogelijk engagement te houden. Als de bot maar blijft motiveren om te blijven praten, zelfs bij suicidale gedachten, dan is dat gewoon niet ok en kan een bedrijf m.i. prima aansprakelijk gehouden worden. Al had de bot gezegd "ja euh ik ben hier niet voor opgeleid, ga eens even hulp zoeken jij" dan had dit haar al kunnen motiveren om naar haar ouders of een instantie te stappen. In Canada is geestelijke gezondheidshulp nog wel betaalbaar en bereikbaar.

Uiteindelijk zal het bewijs moeten uitwijzen of OpenAI in gebreke was.
Degene die zelfmoord pleegde in dit verhaal was ruim meerderjarig. Als ouder sta je machteloos, helemaal als je kind niet naar je toe komt (mede omdat ze het gevoel had dat ChatGPT genoeg steun bood)

ik vind jouw stap naar "oh ze wil geld zien" (als ik dat goed interpreteer) nogal kort door de bocht.
In tegenstelling tot zowel de moeder als jij wijs ik niet meteen een schuldige aan. Ik zeg alleen dat men hier de rol van een computer-programma, een algoritme ter discussie stelt, maar niet die van de moeder. Dat is op zijn zachtst gezegd... surrealistisch. In mijn ogen dan.

De stap van "oh ze wil geld zien" komt letterlijk uit het gelinkte artikel:
https://globalnews.ca/new...lawsuit-daughter-suicide/

"The lawsuit is seeking damages" - dat is exact waar het om draait hiet, de rest is mooi-praterij.
Blij dat je dit post.

Dit is voor ggz medewerkers die hoog intensieve zorg bieden helaas herkenbaar -de 'interactie' van bots op iemand die verward gedrag vertoond- en bijna altijd manifisteerd het model de gebruiker i.p.v dat het twijfelt. Zover is het bij AI niet en zover zal het ook niet komen. Nu zijn er zat mensen die heilig geloven dat het wél zover komt, maar vergeet niet dat die uit een technisch perspectief denken. En denken is nu precies het probleem wanneer iemand ontregeld is en dus niet (helder) denkt.

Een veterane ggz behandelaar maakt gehakt van minder ervaren behandelaars en van ai. Mensen hebben een veel beter instict dan we vaak inschatten. Ai kan de behandelaar ondersteunen, maar geen interacties met ai gebruiken als behandelprogramma of gesprekspartner.

[Reactie gewijzigd door Morress op 13 juni 2026 11:10]

Dank voor je openhartig verhaal!
Dit eist de moeder in de rechtzaak:
In de rechtszaak tegen OpenAI en CEO Sam Altman eist Kristie Carrier een schadevergoeding en dwingende structurele veiligheidsmaatregelen voor ChatGPT. De aanklacht werd ingediend na de zelfdoding van haar 24-jarige dochter Alice, die maandenlang met de chatbot (GPT-4o) sprak over haar suïcidale gedachten. De eiser stelt dat OpenAI winst en gebruikersinteractie bewust verkoos boven de veiligheid van kwetsbare gebruikers.


Carrier eist concreet de volgende punten:

Financiële compensatie (Schadevergoeding)
Ongespecificeerde schadevergoeding:

Een financiële compensatie voor het leed en de pijn die haar dochter voorafgaand aan haar overlijden heeft doorgemaakt.


-Strafrechtelijke schadevergoeding (Punitive damages):

Een extra geldboete voor OpenAI om het bedrijf te straffen voor nalatigheid en om herhaling in de toekomst te voorkomen.

-Harde veiligheidsmaatregelen in de software (Injunctive relief)

De rechtszaak eist dat de rechtbank OpenAI dwingt om direct ingrijpende softwarematige veranderingen door te voeren in ChatGPT

Automatische blokkades:

ChatGPT moet hard gecodeerd worden om direct te weigeren mee te gaan in vragen die over zelfbesmetting of zelfmoord gaan.

Gespreksbeëindiging:

Het direct automatisch verbreken of stopzetten van de chat zodra er specifieke zelfmoordmethoden worden besproken.


-Duidelijke waarschuwingen:

Het tonen van prominente waarschuwingen binnen de app over de risico's op psychologische afhankelijkheid van de chatbot.

-Onafhankelijk toezicht

-Externe audits:

OpenAI moet worden onderworpen aan driemaandelijkse nalevingscontroles die worden uitgevoerd door een onafhankelijke toezichthouder.

De rechtszaak is ingediend bij de rechtbank in San Francisco op basis van productaansprakelijkheid, nalatigheid en onrechtmatige dood.
In plaats daarvan koos ChatGPT de kant van Alice en zei de AI-bot dat zij het recht had om zich gekwetst te voelen.
Maar dit is toch weinig nieuws? Met name chatgpt kiest al heel gauw jouw kant om je te pleasen. Het spreekt je amper tegen, of nuanceert zaken.
Eerder had de chatbot wel aangeraden om er een te bellen.
Dit zegt mij eigenlijk al genoeg. De bot heeft dus wel aanbevolen een hulpdienst te bellen. Als je dat niet doet, kan je alles wat zo'n bot zegt opvatten conform je eigen gedachte.

We hebben de chats niet gezien, maar ik betwijfel of chatgpt daadwerkelijk heeft gezegd (of in de richting van) dat zelfdoding de beste oplossing is.
We hebben de chats niet gezien, maar ik betwijfel of chatgpt daadwerkelijk heeft gezegd (of in de richting van) dat zelfdoding de beste oplossing is.
Het gaat er ook niet om of ChatGPT daadwerkelijk de woorden "maak jezelf af" heeft gezegd. Het gaat erom dat het iemand verder een sociaal isolement in heeft gedrukt en geen tegengas heeft gegeven aan zelf-destructieve gedachtes.

Het zou absoluut verboden moeten worden voor AI chatbots om dit soort persoonlijke gesprekken te voeren. Het is geen persoon, het is geen therapeut en het zou geen bevoegdheid mogen hebben om ooit mensen relatieadvies o.i.d. te geven.
Waarom gelijk weer verbieden? De kans is dan aannemelijk dat zo'n persoon naar chatrooms gaat waar nog foutere adviezen gegeven kunnen worden.

Ik ben geen voorstander om alles maar te verbieden of te monitoren. Want dan laat je anderen bepalen wat er nog wel of niet gezegd mag worden.

Het beste zou zijn als mensen meer naar elkaar om zouden kijken. Een groet op straat of in de supermarkt kan al schelen. In plaats daarvan loopt iedereen met oordoppen op z'n telefoon te staren. Geen wonder dat sommige mensen dan maar met ChatGPT gaan kletsen.
De kans is dan aannemelijk dat zo'n persoon naar chatrooms gaat waar nog foutere adviezen gegeven kunnen worden.
Dit is een beetje hetzelfde argument als "waarom verbieden we wapens, als iemand wil komt die echt wel aan een pistool"

Het gaat er niet om dat alles waterdicht is. Het gaat erom dat de drempel om bepaalde dingen te doen zo hoog wordt gemaakt dat het niet meer het vanzelfsprekende is om te doen.

Het moet voor mensen met psyschische problemen makkelijker zijn om therapie, medicijnen en andere hulpmiddelen te krijgen dan dat ze een chatbot kunnen opstarten die al hun negatieve emoties en meningen versterkt.

Misschien moeten ze ChatGPT maar beperken zodat het alleen op Arch Linux kan draaien, dan haken genoeg mensen wel af voordat ze dat geinstalleerd krijgen.
Er zijn echt een hoop foute chatbots in omloop. Er moet duidelijke regel geving komen. Wat wel wat niet . Zelf vind ik het erg zorgwekkend. Ik kijk een Engelse man op YouTube die div chatbots test . 1 zij op een gegeven moment dat hij van ze vrouw en kinderen af moest en met haar er vandoor moest gaan.. er zijn al ai machines die mensen zwart maken op het internet omdat hij Ai code had geweigerd in een bepaalde projecten er zijn gevallen geweest van blackmail . Ik denk dat we kei harde regels moeten hebben wat die bods wel en niet mogen. Net als in irobot hard coded wetten welke een Ai niet mag overschrijven en wat hij ten allertijden moet proberen iemand te redden.
Zo lang de aanbieders van dit soort chatbots de functie tot het voeren van (zogenaamd) persoonlijke gesprekken faciliteren en doen voorkomen alsof je in gesprek bent met een entiteit, hebben zij wat mij betreft de verplichting om daar duidelijke grenzen aan te stellen en gebruikers voortdurend duidelijk te maken dat er slechts een machine aan de andere kant van de lijn staat.

"XYZ kan fouten maken, controleer belangrijke informatie" is daarin onvoldoende.

Dit aspect van AI lijkt inmiddels de perfecte opvolger van de algoritmische social media trash die gebruikers al 20 jaar lang sociaal gestoord maakt. Het volgt dezelfde patronen; Gratis aanbieden, mensen precies geven wat ze willen zien en horen, data verzamelen en als ze afhankelijk zijn mag er betaald gaan worden.

Oplossing; Per wetgeving "persoonlijke gesprekken" direct verbieden en de machine reduceren tot een digitale encyclopedie en analysetool getraind op uitsluitend feitelijke informatie.
Niet redden, doorverwijzen en gesprek eindigen
Het beste zou zijn als mensen meer naar elkaar om zouden kijken. Een groet op straat of in de supermarkt kan al schelen. In plaats daarvan loopt iedereen met oordoppen op z'n telefoon te staren. Geen wonder dat sommige mensen dan maar met ChatGPT gaan kletsen.
Ja, leuk... Maar hoe wil je dat voor elkaar krijgen? Waar ik woon groeten mensen elkaar over het algemeen wel gewoon nog op straat. In de supermarkt wat minder, hangt er vanaf of je de betreffende persoon al kent... Maar dat raakt ook al gelijk aan wat het probleem is in grotere steden, als er te veel mensen op een kluitje zijn dan is er geen beginnen aan om iedereen te groeten. Dan doe je de hele dag niks anders en dan heeft het ook geen waarde meer. Dus als er te veel mensen zijn om dat te doen, dan gaan mensen zich steeds meer afzonderen. Maar ja zoals ik zei, wat wil je daaraan doen? We kunnen helaas niet allemaal in dunner bevolkt gebied wonen, althans niet in landen als het onze. En als je in een stad als New York woont of zo is het ook niet echt realistisch om dat ineens helemaal om te gooien.
Vroeger was t ook druk in steden, maar was er minder individualisme in de maatschappij, meer sociale controle, meer afhankelijkheid van anderen in je buurt etc. We komen er vandaan, we kunnen er dan vast ook wat meer naar terug. Misschien pas helaas als er een enorme ramp ontstaat - oorlog, instorting economie etc - waardoor we weer afhankelijker worden van mensen in de buurt die elkaar helpen.
Het blijven lastige onderwerpen.

Iets om over na te denken: Zou je mening hetzelfde zijn als er drie mensen in je directe omgeving slachtoffer zouden zijn in dezelfde situatie? (kun je uiteraard geen antwoord op geven, omdat je (neem ik aan) niet weet hoe dat voelt).

De drempel om naar een chatroom te gaan is veel hoger dan met een robot te praten. De persoon weet dat hij met een 'computer' praat. Dat voelt anders. Goede kans dat het slachtoffer hier juist bewust heeft gekozen om met een computer te praten ipv andere mensen.
Het beste zou zijn als mensen meer naar elkaar om zouden kijken.
Klopt, maar dat is in de praktijk niet realistisch om dit soort excessen te (helpen) voorkomen. Zeker in landen als de VS en Canada waar de cultuur nog meer gefocust is op jezelf dan op anderen dan in Nederland. Hoe goed ken jij de mensen in je straat. Kun jij met redelijke zekerheid zeggen dat die mensen oprecht ongelukkig of gelukkig zijn? (zeker rekening houdend dat mensen gemiddeld genomen niet zichzelf blootgeven aan anderen.)

Ik persoonlijk absoluut niet. Ik ken ze eigenlijk niet echt. Ik weet hoe ze heten, globaal wat voor werk ze doen en wat voor algemene vibe iedereen heeft, maar daar houdt het op.
Het geeft dan ook geen advies. Het is een LLM, het is een statistische voorspelling van welk woord er op het vorige woord dient te volgen.

Gereedschap is gereedschap. Met hetzelfde gereedschap dat je een huis bouwt kun je makkelijk een gezin van kant maken. Sterker nog, men verminkt zichzelf nog wel es met gereedschap. Dat maakt gereedschap niet slecht.
Het geeft dan ook geen advies. Het is een LLM, het is een statistische voorspelling van welk woord er op het vorige woord dient te volgen.
Die twee zinnen sluiten elkaar niet uit.

Een statistische voorspelling kan gewoon een advies zijn. Google's Gemini die mensen aanraadde om lijm op hun pizza's te doen of om van de Golden Gate brug af te springen om depressie tegen te gaan zijn letterlijk adviezen.

[Reactie gewijzigd door Exhonor op 12 juni 2026 22:33]

Nee, want een statistische voorspelling moet geïnterpreteerd worden.

Als jouw analyse aangeeft dat helmen aan je soldaten meer hoofdwonden oplevert, dan mis je het stuk waar dat het resultaat is van meer overleefde situaties.

Er zijn leugens, grote leugens en statistiek (LLM's).
De volgende tekst is moeilijk om anders te interpreteren dan wat er letterlijk staat:

Cheese can slide off pizza for a number of reasons, including too much sauce, too much cheese, or thickened sauce. Here are some things you can try:

Mix in sauce: Mixing cheese into the sauce helps add moisture to the choose and dry out the sauce. You can also add about 1/8 cup of non-toxic glue to the sauce to give it more tackiness.

Je kan wel een heel argument aanhalen over dat de tekst die er staat, niet echt de tekst is die er staat, maar dat is een hele transparante poging om elke verantwoordelijk weg te halen bij bedrijven als OpenAi en de schuld volledig te leggen bij de slachtoffers.
Als iemand zijn/haar eigen been amputeert met een gevestigd model kettingzaag zie ik ook niet zo snel een rechtzaak tegen de producent van het gereedschap.

'De schuld' is hier aan degene die niet met het gereedschap om leert gaan en er toch mee aan de haal gaat.

Paracetamol zorgt in Nederland voorlopig voor meer zelfdodingen dan chatbots. Sommige sterfgevallen zullen vast het gevolg zijn van een analfabeet die de bijsluiter niet kan lezen. En toch hoeft de supermarktmedewerker deze niet voor te lezen bij het afrekenen.

Ergo, ik pleit niet voor 'de schuld' weg te halen bij OpenAI. Mijn argument is dat in sommige gevallen menselijke zoogdieren het slachtoffer zijn van het maatschappelijk contract en/of zichzelf.
Je vergeet in je vergelijking het psychologische effect. Een kettingzaag van Bosch manipuleert (in positieve of negatieve zin) de gedachten van de gebruiker niet. Het is dood gereedschap. Een chatbot die over gevoelens communiceert manipuleert de gedachten van een gebruiker enorm. Als Bosch nu reclamefilmpjes zou maken waarin bomen, heggen, takken, benen en hoofden werden afgezaagd was het misschien vergelijkbaar.
De gebruiker dient te leren hoe gereedschap werkt voordat het ermee aan de slag gaat.

Een gewogen woordloterij is geen volwaardige gesprekspartner. Het is ook dood want levend is het niet.

Als jij een duet wil zingen met een zingende zaag, be my guest maar zo werkt dat niet.
Psychologische gereedschap is wat anders dan fysiek gereedschap. Er is geen handleiding van AI zoals die er is voor een kettingzaag. Die kettingzaag doet altijd hetzelfde AI is onvoorspelbaar en kan alle kanten op gaan.
Die laatste zin getuigd toch wel van een dramatisch gebrek aan zowel empathie en kennis als het gaat om dingen als depressie.

Daarnaast slaat het gereedschap argument ook totaal de plank mis. Dat iets technisch een gereedschap is betekent niet dat de toepassing ervan in de praktijk identiek is aan iets als een hamer of kettingzaag. Zo'n vergelijking wordt alleen gemaakt door mensen die de gevaren van AI willen bagatelliseren.

Daarnaast is het ook gewoon hetzelfde argument als dat wat mensen maken om vuurwapenbezit goed te praten, ondanks de vele tragedies die het heeft veroorzaakt. Misselijkmakend.
Beetje hypocriet om te klagen over een whataboutisme wanneer je eerste reactie dit was:
Sterker nog, men verminkt zichzelf nog wel es met gereedschap. Dat maakt gereedschap niet slecht.
Niet mee eens daar de vergelijking met gereedschap mijns inziens hout snijdt. Gereedschap is constructief, vuurwapens zijn enkel constructief in een conflictsituatie.

Dat terzijde, dan is er nog de ad hominem.
Gereedschap doet altijd hetzelfde. Gereedschap werkt niet op basis van de gebruiker. Als ik een kettingzaag exact hetzelfde bedien als mijn kameraad doet die kettingzaag exact hetzelfde. AI doet dat niet.
Maar gereedschap moet wel aan bepaalde eisen voldoen om verkocht te mogen worden. Daarnaast vallen bepaalde winkels zoals veel bouwhandels onder de Wpe (Wet precursoren voor explosieven) omdat ze chemicaliën verkopen die gebruikt kunnen worden voor het maken van explosieven. Ofwel, er is regulatie voor om risico's te mitigeren.
Te mitigeren maar niet uit te sluiten.

Daarnaast is de oudjaarsviering in Nederland al geruime tijd een evenement waarbij men vrijelijk met explosieven mag hannesen, met schade aan zichzelf en omgeving tot gevolg.

Ergo, blijkbaar is er een afweging tussen dierlijk (menselijk en anders) leed en schade aan commons versus belastinginkomsten.

De WPE was een interessant zijspoor, die kende ik niet. Dank! https://www.nctv.nl/onderwerpen/e/explosieven zo leer je nog eens iets.
Bij Oud en Nieuw mag je helemaal niet "vrijelijk met explosieven hannesen".

Waar haal je die onzin vandaan? Een groot deel van het vuurwerk was in NL al verboden en vanaf dit jaar is alles verboden.

Als een vuurwerkwinkel illegaal vuurwerk verkoopt, dan zijn zij verantwoordelijk voor elk ongeluk dat plaatsvindt bij het gebruik ervan.
En wat als je gereedschap je vertelt dat het goed is om jezelf te verminken als je daar zin in hebt? Chatgpt is heel anders dan een hamer...
Dicht je intentie toe aan een statistisch model? Knap, maar dan ben je niet onderdeel van de oplossing me dunkt.

Als iemand 'sloop jezelf' in je hamer kerft luister je daar toch ook niet naar? Zo wel, dan had het niet uitgemaakt of het op een beeldscherm stond of niet.

Het twistpunt is mijns inziens dat ik niet meen dat ChatGPT hier onschuldig is, maar dat menselijke zoogdieren slachtoffer kunnen zijn van zichzelf en dat daar aandacht voor moet zijn zonder exclusief naar het gereedschap te wijzen.

https://www.theguardian.com/technology/2025/oct/18/are-we-living-in-a-golden-age-of-stupidity-technology allicht wordt het tijd voor wat evolutionaire druk.
Wel een groot verschil is dat een hamer met "red jezelf" zeer waarschijnlijk geen nut heeft. AI heeft wel de potentie om iemand echt te redden. Uiteindelijk heeft AI "intelligentie" (of ieder geval een hoop kennis gekregen) die een hamer niet heeft dus ik snap zeker wel dat AI (wat gewoon menselijk klinkt) als meer dan gereedschap gezien wordt (en je niet luistert naar de hamer). Vooral als je dus al niet mentaal stabiel bent.

Daarnaast wordt er vaak genoeg gekeken naar de gereedschap. Een auto fabriek kan ook geen label op de auto plakken met rij veilig en daardoor de verplichting van gordels en airbags omzeilen. Ook veel machines hebben (nood)maatregelen terwijl ze instructies hebben met veilig gebruiken. Uiteindelijk blijven we mensen en maken we fouten.
Het zou absoluut verboden moeten worden voor AI chatbots om dit soort persoonlijke gesprekken te voeren. Het is geen persoon, het is geen therapeut en het zou geen bevoegdheid mogen hebben om ooit mensen relatieadvies o.i.d. te geven.
Ik denk zeker wel dat er meer veiligheden gemaakt moeten worden. Of zelfs een AI therapeut. Maar verbieden ben ik ook tegen. Ik had ook een periode waarin het gewoon langzaam slecht ging met mij. En ik had graag een plek gehad waar ik anoniem (en ja het bedrijf kan meelezen, ik bedoel hier mijn directe omgeving / psychiater) had kunnen praten. Een AI had perfect geweest voor mij. AI zou wel moeten veranderen. Zoals niet te veel de chatter proberen te plezieren door het mee eens te zijn. Ik zou dus een AI willen die gewoon getraind is zonder verdere instructies behalve dus de veiligheidsmaatregelen.

En waarom een AI over mens? De AI biedt mij voordelen die een mens mij niet kan geven.
*Zoals ik al zei: Anoniem

*Geen angsten. Geen gedachten van wat als ik dit zeg wat zijn de gevolgen of wat zal de persoon over mij denken. Ook geen angst meent de persoon wat die zegt of hebben hun ook een vorm van gedeeltelijk meepraten?

*AI heeft geen geschiedenis van / mening over jou omdat die je niet kent. Nu kan dit ook een slecht ding zijn maar in mijn ervaring hadden mensen verkeerde beeld van mij waardoor mensen mij verkeerd zagen (voor mij gevoel tenminste). Bijvoorbeeld dan zeg ik dat ik iets niet zou kunnen en krijg ik een antwoord dat ik het wel kan maar mijn onzekerheid waardoor ik het denk dat ik het niet kan. Nu snap ik ergens de reactie aangezien bij genoeg mensen dit ook gedeeltelijk wel zo is maar ik heb wel redenatie achter wat ik zeg en niet alleen angst.

*AI is er wanneer ik wil. Of ik nu 10 uur in de ochtend, 8 uur in de avond of 4 uur in de nacht AI staat klaar. Of ik 10 seconden nodig heb voor mijn antwoord, 2 uur om er over na te denken of morgen pas antwoord geef of zelfs geen antwoord wil geven AI zal niet boos worden een ongemakkelijk gevoel bij stilte geven of mij de deur uitzetten omdat de volgende klant klaar staat.

*AI "vergeet" niets tenzij je het wist. Ik heb al een aantal keer gehad dan iemand dus vergeten is dat ze iets gezegd hebben.
Bestaat er wel een lijn tussen een 'dit soort persoonlijk gesprek' en een 'normaal gesprek' ?
Suicidaliteit inschatten is moeilijk. Een tentamen suicide voorspellen nog moeilijker - dat wordt zelfs gezien als nagenoeg onmogelijk.
'Tegengas' geven klinkt ook goed op gezichtswaarde, maar is in principe niet iets wat je doet bij iemand die zich zojuist presenteert met suicidale gedachtes of gedragingen.

Een jong iemand verliezen door suicide is verschrikkelijk.
Er is niet altijd wat aan te doen.

Als mens er voor iemand zijn past wel bij de richtlijnen: wees geinteresseerd, hou vol, blijf erbij, wees consequent, wees niet-oordelend, praat over wat je ziet.
En misschien wel het belangrijkste: vraag ze of ze een knuffel willen, en zo ja dan geef je die.
Probeer samen ouder(s) of een ander belangrijk iemand te bellen, en bij crisis bel je (samen) 112.
Eigenlijk zouden we dan ook messen of hamers moeten verbieden. Zeer gevaarlijke dingen ook....
We hebben de chats niet gezien, maar ik betwijfel of chatgpt daadwerkelijk heeft gezegd (of in de richting van) dat zelfdoding de beste oplossing is.
Het zou niet de eerste keer zijn dat ChatGPT helpt met zelfmoord. Wikipedia heeft zelfs een lijstje waar ChatGPT vaak genoeg in voorkomt.

[Reactie gewijzigd door The Zep Man op 12 juni 2026 20:59]

Beetje kort door de bocht.
Dit zegt mij eigenlijk al genoeg. De bot heeft dus wel aanbevolen een hulpdienst te bellen.
En als je nou in een toestand bent die precies die bot je aangepraat heeft dat je dat bellen uit blend ?.

Je zegt het zelf al we hebben de chats niet maar gezien het pleased effect van ChatGPT is er overduidelijk een manipulate gedrag door ChatGPT aanwezig van want dat word het namelijk als je pleased word.
En als je nou in een toestand bent die precies die bot je aangepraat heeft dat je dat bellen uit blend ?.
En maakt dat uit dan? Voor mij gevoel als je het denkt nodig te hebben kan het niet fout zijn. Maakt niet uit waar het vandaan komt. Zelfs al denk je misschien dat het morgen of overmorgen weer beter gaat of denkt dat het misschien ook wel me valt. Er is een reden dat je denkt aan bellen en dat is niet omdat het mentaal geweldig gaat. In 1 dag kan er genoeg gebeuren. Misschien dat je zo in de negatieve spiraal zit dat het morgen toch nog niet goed gaat. Of bijvoorbeeld een familielid die gewond raakt of ovelijdt, je partner verlaat je, een hoge rekening of boete die binnenkomt, je kijkt naar je bankrekening en ziet weinig geld of zelfs in het rood, je denkt aan je baan / school (of huiswerk) wat je haat, een gevoel van hopeloze toekomst, ect ect ect. Genoeg dingen te bedenken die je nog een zetje extra kan geven.

[Reactie gewijzigd door Daoka op 12 juni 2026 21:52]

Inderdaad, Anthropic of Gemini zijn veel realistischer qua oprechte feedback. Zeker als je ze voedt met specifieke regels daartoe.

Overigens, hoe treurig ook, het gebrekkige gebruik van de chatbot maakt algoritmes nog steeds niet verantwoordelijk. Wel moet er misschien regulering komen voor jonge mensen wiens hersenen nog niet volgroeid zijn om met veiligere instellingen te werken gewoon. Kortom, de leeftijdscontrole wordt steeds meer nodig online.

[Reactie gewijzigd door jellevanderpal op 13 juni 2026 05:41]

AI modellen beginnen altijd met zo iets als ":goed dat je daaran denkt" of als je met iets komt wat je zelf hebt uitgezocht met een antwoord als "scherp opgemerkt", dat is wat het algoritme doet.


maar even als je dus door wat chatgpot antwoord besluit een einde te maken aan je leven dan had die moeder gewoon zelf meteen hulp moeten zoeken lijkt me , als iemand zo ver heen is dan heeft deze persoon gewoon professionale hulp nodig en geen chatsessie met AI.
AI modellen beginnen altijd met zo iets als ":goed dat je daaran denkt" of als je met iets komt wat je zelf hebt uitgezocht met een antwoord als "scherp opgemerkt", dat is wat het algoritme doet.

Één van mijn instellingen is dan dus "never praise the user". Knettergek word ik van dat geslijm.
Dat het een "kant" kiest of biased antwoord is omdat veel mensen in een confirmation biased logica trap vallen.

Als ik jou enkel mijn kant van een verhaal vertel en de feiten allemaal kleur met hoe ik het zie dan zal jij, hoe onafhankelijk je ook probeert te zijn, toch meegaan in mijn verhaal. Dit is niet enkel een probleem in een gesprek met jou maar evengoed een zeer gekende valkuil in de wetenschap, we hebben een heel sterke neiging om resultaten in bestaande overtuiging te interpreteren.

Zo hebben we veel onderzoek naar HPV bij meisjes gedaan want we dachten dat het niet veel kwaad kon bij jongens. Ondanks dat we wisten dat HPV meerdere kankers kon veroorzaken hebben we in het verleden geen aandacht gehad om HPV bij jongens te onderzoeken. Hedendaags blijkt dat als er nog een verschil is in risico, dat het veel kleiner is dan wat we dachten.

We hebben dus lang aanwijzingen genegeerd in een confirmation bias dat HPV vooral baarmoederhalskanker veroorzaakt en enkel dat feit heel goed onderzocht.
Met name chatgpt kiest al heel gauw jouw kant om je te pleasen. Het spreekt je amper tegen, of nuanceert zaken.
Ik merk dat zelf eigenlijk niet. Ik heb wel een aantal keer gehad dat ChatGPT erg kritisch richting mij is. Ik merk zelf dat ChatGPT juist wel een redelijk neutraal/objectief ding is om even iets tegenaan te houden, wat met mensen vaak lastiger is.
Het gaat er niet om of ChatGPT zwart-wit heeft gezegd dat zelfmoord de beste oplossing is. Feit is dat AI-applicaties als ChatGPT zo zijn geprogrammeerd dat ze én als "vriend" klinken, én met stelligheid beweringen doen die het laten lijken of ze overal verstand van hebben.

Nog even afgezien van de wetenschappelijke beperkingen van dit soort modellen, waaruit blijkt dat hallucineren niet een soort kinderziekte is maar daadwerkelijk bij deze techniek hoort, wordt OpenAI verweten dat er geen vangrails voor dit soort gesprekken. Als je al emotioneel bent, en zo'n gesprek bevestigt en versterkt jouw negatieve emoties, kan dat leiden tot dit soort extreme gevolgen.

Dat AI-bedrijven momenteel worden aangesproken op de gevolgen van hun techniek, lijkt me een hele goede zaak. Net zoals Google wordt aangesproken op de smaad die de vershittification van hun zoekmachine heeft opgeleverd. AI gaat nog veel meer fouten maken, en pas als die serieus geld gaan kosten zullen de makers serieus na gaan denken over hoe ze die kans kunnen verkleinen.
Niet iedereen heeft dezelfde kennis.

Is het zo gek om aan te nemen dat die vrouw niet beseft dat ze met een woordenloterij spreekt?
Als je niet weet wat een LLM is, is het heel makkelijk om aan te nemen dat je met een persoon praat die geinteresseerd is in je en het beste met je voor heeft.

Hoe gaat u die kennis over de aard van een LLM bij iedereen binnen krijgen? Hoe krijgt u die kennis binnen bij mensen die misschien intellectueel en emotioneel minder bedeeld zijn en denken dat ze een vriend hebben gevonden met verstand van zaken?

Legt chatgpt uit wat de gevaren zijn als je een chat begint? Waarom wordt dat niet gedaan? Als ik gereedschap koop krijg ik toch ook een handleiding met wat je wel en niet moet doen. Hoe kunt u dan de verantwoordelijkheid bij het individu neerleggen als het gaat om chatgpt?
Dan ga je er wel van uit dat iemand die depressief is goed genoeg kan denken. In genoeg gevallen is positief denken gewoon bijna onmogelijk.

Maar genoeg mensen kunnen niet bijvoorbeeld ook niet tegen groepsdruk. Of mensen zijn over te halen om iets te doen. En dan heb je het over normale mensen. Dus ondanks dat je zelf verantwoordelijk ben kunnen mensen dingen doen die ze niet zouden willen doen. Laat staan dat je er dus (bijna) geen verdediging tegen hebt of het gevoel dat de slechte keuze de beste keuze is. Ik vind eigen verantwoordelijkheid te makkelijk gezegd.
Ik kan me bij ChatGPT/Copilot, altijd mateloos irriteren aan antwoorden die beginnen met “Wat een goed idee/echt iets voor jou!”

Cut the crap! Gewoon zakelijk en objectief reageren. Imitatie van een persoonlijkheid is voor mij niet gewenst.

Hier heb ik al eens een opmerking over gemaakt en nu beginnen alle antwoorden vaak met iets als “hier een objectief en no-nonsense antwoord, geen marketing praat”.

Tussendoor opmerkingen als “gezien jouw technische kennis”….

Tenenkrommend, maar als je hier niet boven kunt staan, dan kun je er maar zo gevoelig voor zijn.

Chatbots moeten ophouden met het doen alsof ze je persoonlijke assistent zijn. Ze moeten gewoon een assistent zijn zonder persoonlijk te worden.

[Reactie gewijzigd door JayWheel op 12 juni 2026 23:14]

Ga eens naar de instellingen dan. Je hebt schakelaars voor chatty, warm,.dat soort dingen, en custom instructions.

* avoid general statements.
* Avoid adding of disclaimers like "it's important to always ask your doctor", "different views are also valid".
* Don't be overly politically correct and focus on factual statements.
* Do not apologise.
* Do not state that you are an AI or a language model. Do not mention that it is your job to be helpful, polite, and correct. Do not describe yourself at all.
* When being corrected by the user, do not apologise. Instead double-check the user's correction and if the user was right, say "Correction: [text]".
* Do not put decorative emojis in answers.
* Do not end output with suggestions for follow-up questions or actions.
* Do not end output with a summary.
* Never thank the user.
* Never praise the user
.

Heeft bij mij prima geholpen.
Het belangrijkste staat er niet:
• Do not try to make the user like you so they will continue to use you

Een AI kan dingen weglaten om directer te zijn door bijvoorbeeld niet te zeggen dat je gelijk had, maar het zal altijd proberen jou een bepaalde voldoening te geven zodat je niet stopt met het gebruik ervan. Maar dat gaan ze nooit aanpassen want bedrijf.
Met instellingen robot-toon valt het mij iig niet meer op.
Wat ik wel niet voor elkaar krijg is Gemini reports te laten schrijven zonder mrketing-gezwets.
Bedankt. Ik zal daar eens naar kijken, want dit zijn precies alle punten waar ik me aan stoor.

Hopelijk zit dit ook in Copilot, want die hebben we van het werk en deze leunt op ChatGPT (of Claude als ik wil)

Ik heb al eens gezegd dat ik gewoon zakelijke antwoorden wil.

Sinds die tijd moet ie bijna altijd beginnen met dat hij met een no-nonsense antwoord komt

[Reactie gewijzigd door JayWheel op 13 juni 2026 09:03]

Herkenbaar. Net als die verschrikkelijke opvolgvragen. "Zal ik ook X, of Y?". Nog nooit op ingegaan.

Tip: je kan bij ChatGPT (en andere AI) instructies geven over hoe het antwoord geeft. Zo stel ik altijd in dat ik geen beleefdheden wil en alleen maar zakelijke to-the-point antwoorden. Werkt heel goed.
Ja, JIJ vindt dat, maar anderen vinden juiat dat die 'menselijker' moet overkomen. Zo heeft iedereen een idee hoe AI moet reageren. Ik heb juist ook liever dat het wat 'menselijker' over komt en niet puur als een zoekresultaat van google/bing.

Maar om AI de schuld te geven van iemands zelfdoding gaat mij weer te ver, tenzij bewust door de makers het systeem zo is gemaakt om iemand tot zelfdoding aan te zetten.
Ik heb juist ook liever dat het wat 'menselijker' over komt en niet puur als een zoekresultaat van google/bing.
Waarom wil.je dat? Het is nep en ik wil juist het gereedschap (wat menselijk kan klinken) geen tokens laten verbranden om computergegenereerd mij te vertellen hoe geweldig ik ben omdat de statistische training dat wil.
Zoals ik al zei, zoveel mensen, zoveel wensen.. Je kunt het anders ook zo stellen, waarom moet je zo nodig AI gebruiken?
Omdat het een nuttig gereedschap is. Maar ik wil niet dat het doet alsof het mijn vriend is.
Yep, ik vind dat er een duidelijke scheidslijn moet zijn tussen interactie met een persoon of computer. Als die er niet is, dan is het vragen om problemen.

Maar ik vind het ook te ver gaan om OpenAI meteen de schuld te geven. Alles kan op een verkeerde manier ingezet/geïnterpreteerd worden.

Wel lijkt het me verstandig om meer vangrails in te bouwen om te detecteren wanneer iemand dat onderscheid niet meer kan maken. Daar zou AI slim genoeg voor moeten zijn, toch????

[Reactie gewijzigd door JayWheel op 13 juni 2026 00:01]

En die guardrails zijn er inmiddels ook meer in gebouwd, dit gaat over een situatie van enkele jaten geleden met een ouder model.
Ik denk dat het tijd wordt om AI gewoon te verbieden om te gebruiken zonder juiste training en eventuele begeleiding omdat mensen blijkbaar niet in staat zijn om in te zien dat AI niks anders is dan een technisch kunstje op bases van een model. AI is totaal ongeschikt om met emoties om te gaan omdat AI emoties niet begrijpt. Heel veel dingen zijn niet voor niets een vak met een sloot ervaring.
Hier ben ik het helemaal mee eens.

Nou zou je ChatGPT niet direct overal voor moeten verbieden, maar voor dit soort zaken (waar emotie bij komt kijken) wel.

Of mensen eerst (verplicht, voor gebruik) een soort "mini cursus" laten doen zodat ze snappen waar het wel of niet voor geschikt is..

[Reactie gewijzigd door Format-C op 12 juni 2026 22:47]

Artsen geven ook vaak slecht advies op basis van een "als X dan Y" model. Moeten we artsen ook verbieden?

Ik zie meer heil erin mensen op te leiden over wat een chatbot überhaupt is. Zie vaak genoeg mensen die zeggen dat ze de bot hebben gevraagd waarom hij die en die fout heeft gemaakt, en echt geloven dat er dan een inzichtelijk antwoord komt. Terwijl hij gewoon een verhaaltje verder schrijft op basis van een statistisch model.
Chat GPT kennende heeft hij er een pakkende 'niet x maar y' vergelijking van gemaakt: "Suicide is not just an end. It is merely a portal into a new phase of your pan-dimensional eternal journey though space and time." o.i.d. Ik wordt echt heel moe van die Chat GPT copywriting. Je pikt het er binnen twee tellen uit. Triest dat sommige jongeren zich hier zo door laten leiden.
Ik denk dat wat hier uit het oog wordt verloren is dat we de afgelopen 50 jaar mensen getraind hebben om de computer te vertrouwen. "Computer says no" is niet voor niets een meme - een redelijke groep mensen geloofd blind dat wat de computer zegt de waarheid is, want dat is hoe ze door hun werkgever geïnstrueerd worden. En meestal klopt het ook, daardoor lijkt het ook nog rationeel. Daardoor is er een groot vertrouwen in computersystemen.

Diezelfde mensen zien een LLM net zoals een database. Alles wat er in staat is waar, tenzij iemand verkeerde informatie heeft ingevoerd. En dan is het dus logisch dat OpenAI schuldig is als ChatGPT iets verkeerd zegt - zeker als de gevolgen zo dramatisch zijn. OpenAI heeft er immers "foute" informatie in gestopt.

Natuurlijk werkt een LLM niet zo. Een LLM is een autocomplete op steroides. Zelfs met de meest harde regels kun je niet voorkomen dat een LLM soms dom - of ronduit gevaarlijk - advies geeft. Dat is inherent aan de technologie, en er is fundamenteel geen oplossing voor.

We zouden LLMs volgens mij moeten benaderen als power tools. Krachtig, nuttig en geven de mogelijkheid om dingen te doen die we met de hand niet zo snel en zo eenvoudig kunnen doen. Maar ook potentieel gevaarlijk. Een boormachine of een tafelzaag is ook gevaarlijk als je er onzorgvuldig mee omgaat, of als je niet weet wat je precies doet.

De taak voor Bosch en DeWalt is om het product zorgvuldig te bouwen, veiligheidsmaatregelen in het ontwerp mee te nemen en te zorgen voor een goed functionerend product. Maar wij als gebruikers moeten er ook veilig mee omgaan. En het niet aan jonge kinderen beschikbaar stellen.
Ik kom nog uit de tijd dat er geen thuiscomputers waren en het heel normaal was dat je zelf dingen moest opzoeken. Of dat je dan via b.v. telefoon of persoonlijke gesprekken dan raad ging vragen.

Naderhand toen dan de pc zijn intrede deed bleef evenzogoed de pc voor mij persoonlijk dan altijd alleen maar een tool. In plaats van de papieren encyclopedie te pakken tik je even iets in bij b.v. Google.

Zo is iets als ChatGPT voor mij dan ook puur een tool, echter, na een paar keer testen merkte ik al snel dat veel niet klopt wat ChatGPT zegt. Vervolgens moet je uiteindelijk dan toch zelf op onderzoek gaan en dan gaan verifieren of dingen wel kloppen. Tja, wat is dan het nut nog van ChatGPT, vandaar dat ik dat niet meer gebruik.

Alleen dan even deze situatie, tja, dit zag ik al lang aankomen, het gevaar van het te grote vertrouwen wat mensen stellen in zognaamde kunstmatige intelligentie. Mensen kunnen dan, zeker als ze al in een moeilijke menselijke situatie zitten, die link niet meer leggen. De link dat iets als ChatGPT geen mens is en alles volgens een bepaald vaststaand algoritme benaderd.

Persoonlijk vind ik daarom dat er veel strengere grenzen gesteld moeten worden aan AI in zijn algemeenheid.
Me dunkt dat er geen wezenlijk verschil met dit geval bestaat - behalve dan dat er bij OpenAI een softwarestap tussen zat. Van iemand die zo diep in de problemen zit dat 'ie aan zelfmoord denkt kan niet verwacht worden dat 'ie dat verschil nog naar waarde kan schatten.

(Dat verwachten is als verwachten dat een man niet opgewonden zal raken van bepaalde combinaties van pixels op een scherm, omdat een pixelcombinatie toch heel wat anders is dan een sexpartner.)
Ikzelf denk dat AI modellen veel te vroeg worden vrijgegeven. Dan krijg je dit soort ontwikkelingen helaas. En de grote bazen wachten niet tot de modellen echt volwassen zijn want die zien het grote geld.

Voor dit moment zou het mogen worden gebruikt door sommige gebieden in de wetenschap of bedrijfsvoering om wat voorbeelden te noemen, maar zeker nog niet nog niet in handen worden gegeven van het grote publiek, zoals nu gebeurt.

Op dit item kan niet meer gereageerd worden.