Staten VS vinden ChatGPT schadelijk voor kinderen en spannen rechtszaken aan

Acht staten in de VS spannen rechtszaken aan tegen OpenAI wegens misleiding over de veiligheid van ChatGPT. De bekende AI-chatbot zou mensen aanzetten tot geweld tegen anderen, maar ook tot zelfbeschadiging en zelfdoding. OpenAI zou kwetsbare gebruikers zoals kinderen in gevaar brengen.

De Amerikaanse staten Kansas, Arizona, Montana, Iowa, West-Virginia, Nebraska, Arkansas en Idaho beschuldigen OpenAI van moedwillige misleiding. Daarbij zou de bekende AI-aanbieder zich gevaarlijk, roekeloos en onwettig gedragen. OpenAI claimt volgens openbaar aanklager Brenna Bird van Iowa dat ChatGPT veilig is, terwijl die AI-chatbot gevaarlijk medisch advies geeft.

Nepvriend met schadelijk advies

Ook zou ChatGPT mensen aanmoedigen tot geweld tegen anderen en hen aanzetten tot zelfbeschadiging en zelfs zelfdoding. Ondertussen doet ChatGPT zich volgens Bird voor als vriend van gebruikers, schrijft de NOS. De AI-bot is volgens de aanklagende staten bewust ontworpen om snel het vertrouwen van gebruikers te winnen.

AI in lijn brengen met menselijke normen en waarden

Het onderwerp van zogeheten AI-alignment is een heet hangijzer in de AI-industrie. Bij hackaanvallen door zelfstandig opererende AI-agents sprak OpenAI al van 'verkeerde uitlijning'. Sommige AI-aanbieders en -experts waarschuwen dat AI grote schade kan aanrichten en mogelijk zelfs de mensheid kan uitroeien. AI-concurrenten Anthropic, OpenAI en xAI zeggen het hoge tempo van AI-ontwikkelingen af te willen remmen, maar doen dat deels uit eigenbelang.​​​​​

OpenAI is in verschillende landen al verwikkeld in rechtszaken vanwege betrokkenheid bij geweldsincidenten en gevallen van zelfdoding. Zo is er een Amerikaanse rechtszaak aangespannen door de ouders van een Amerikaanse tiener die zichzelf doodde na maandenlang gebruik van ChatGPT. Hij deelde zijn problemen met die AI-chatbot, die hem zou hebben geholpen bij zijn zelfdoding. OpenAI spreekt dit tegen. Vorige maand spande de Canadese provincie Brits-Columbia een rechtszaak tegen OpenAI aan vanwege een schietpartij met acht doden, gevolgd door zelfdoding.

Garanties voor alignment

De acht Amerikaanse staten eisen geldboetes en aanpassingen aan ChatGPT, waaronder inperking van het zelfontwikkelend vermogen. OpenAI zou geen AI-modellen meer mogen ontwikkelen die zichzelf kunnen verbeteren, tenzij het bedrijf veiligheidsgaranties kan geven. Die garanties houden in dat de AI-modellen in lijn zijn met menselijke normen en waarden.

Denk je aan zelfdoding? Bel dan 24/7 gratis en anoniem 113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.

ChatGPT-logo op smartphone. Bron: NurPhoto/Getty Images

Reacties (13)

[F5544]

Alles om geld. Je kan ook je kids verbieden het te gebruiken of goed voorlichten. Kijk dat ze veiligheden moeten inbouwen natuurlijk. Maar ook iets van common sense en ouders die op hun kinderen letten. Ouders zien liever geld op de bank van het bedrijf dan dat ze zelf iets moeten doen.

[Nightscope]

Je hebt wel gelijk alleen dit VS een ander land en ander mentaliteit. Gezien zij geen sociaal vangnet hebben ontwikkeld zoals die van ons, zoekt met graag naar manieren om de rekeningen te kunnen betalen en bied aanklagen een vorm van inkomsten. Dat is wat ik zie uit mijn lens.

[The Zep Man]

Wat in de VS ook speelt is dat op dit gebied regulering door toezichthouderd nagenoeg afwezig is. Wat overblijft is aanklagen.

[Travelan]

Jij en ik kunnen onze kids dat verbieden, maar dit is een maatschappelijk probleem, niet individueel. Daarnaast is de hele maatschappij zo ingericht dat geld op de bank nou eenmaal nodig is, zeker als je kinderen hebt, dus jouw argumentatie zou wat mij betreft juist pleiten voor structurelere oplossingen op maatschappelijk niveau.

[himlims_]

Jah, maar … dat boeit ze niet (workshop, training in onderwijs verzorgd). Verbieden is de beste optie. Zeg niet dat voorlichting en scholing overbodig is. Maar algemene tendens is dat het ze niet boeit

[Kerfuffle]

Het is natuurlijk ook een keuze van OpenAI om ChatGPT zo te presenteren dat het qua taalgebruik menselijk en betrouwbaar lijkt. Maar het is in essentie gewoon een machine die waarschijnlijkheden bij vragen zoekt op basis van een selectie van trainingsdata en zo zouden ze het ook kunnen presenteren, zodat gebruikers het niet meer autoriteit toedichten dan het moet hebben. Niet "ChatGPT is mijn vriend" maar "ChatGPT is een machine". Verkoopt vast minder goed aan de massa, maar al draagt een aap een gouden ring, het is en blijft een lelijk ding.

[anandus]

Daar is Richard Dawkins het niet mee eens
Voorheen bekend van de God Delusion, nu bekend van de Claude Delusion

[Reactie gewijzigd door anandus op 15 oktober 2026 12:12]

[ctrl-tab]

het advies maak ik me niet zo'n zorgen over - in dit stadium

het concept dat big tech (a few billionaires) nog meer controle heeft over wat een nieuwe generatie als 'waarheid' accepteert vind ik een veel groter probleem en op termijn een gevaar voor de mensheid.

(ben fervent gebruiker van AI , dat terzijde. maar heb wel nog geleerd kritisch te denken. dat laatste komt in gevaar bij de opgroeiende generatie....)

[Webgnome]

En waarom klagen ze dan ook niet andere AI bouwers aan?

[Kallik]

Omdat je eerst een precedent wilt zetten waar je vervolgens mee bij anderen aan gaat kloppen.

[thomasv]

Alpha Schools dan ook maar aanpakken VS?

[Reactie gewijzigd door thomasv op 15 oktober 2026 11:55]

[Simon Weel]

Gelukkig is geen van deze staten voor het beperken van vuurwapenbezit.

[Whisper380]

Het probleem met alle AI, of het nou ChatGPT, Gemini of wat dan ook is, is dat ze data gebruiken en op basis van de input antwoord geven. AI kan een hoop leuke en handige dingen voor ons doen, dus AI is niet per definitie slecht. Het is puur wat je ermee doet, deelt en vraagt.

Als je het ziet als een psycholoog, wat veel jongeren doen, dan kan je erop wachten dat het ooit verkeerde negatieve reacties gaat geven. AI houd namelijk alle opties open, of dat nu negatief is (zelfdoding enzovoorts) of positief.
Probeer zelf maar eens tegen je AI te klagen dat het allemaal negatief is, in het begin probeert hij je nog te sturen naar positiviteit, maar als je maar lang genoeg doorgaat dan wordt het vanzelf ook negatief. Dus als je tegen AI lang genoeg doorgaat zal deze uiteindelijk omslaan.

Is dit de schuld van AI? Ja en nee.
Ja, De leveranciers moeten er voor zorgen dat antwoorden zoals zelfdoding en dat soort zaken niet gegeven kunnen worden.
Nee, AI is een hulpmiddel en is geen vervanging voor psychologen. Maar ook ouders zijn hierin verantwoordelijk. Als je geen aandacht aan je kinderen geeft en nooit in gesprek gaat dan ligt daar ook een stuk verantwoordelijkheid. Het lijkt mij sterk dat ouders niets merken van hun kind dat depressief is (mijn mening en het zal misschien zo kunnen zijn, maar nogmaals mijn mening).

Ik denk dat het belangrijkste is het gesprek te openen over AI en voorlichting te geven wat AI is en wat men ervan moet verwachten. Daarin kunnen de leveranciers overigens ook een grotere rol in spelen dan zeggen: AI is je nieuwe vriend.
De komende generatie en huidige generatie zal steeds meer met AI te maken krijgen, goede voorlichting is hierbij belangrijk. Wellicht zelfs ook een stukje verantwoordelijkheid van de Overheid.

Back on topic, is dit een goede zet? ik denk het wel. het kan zeker deuren doen openen die nu gesloten blijven en ook risico's naar buiten brengen die misschien nu weggestopt worden. Ben heel benieuwd hoe dit verder gaat en uiteindelijk afloopt.