Florida klaagt OpenAI aan: 'ChatGPT is schadelijk voor gebruikers'

De Amerikaanse staat Florida heeft OpenAI en ceo Sam Altman aangeklaagd. ChatGPT is volgens de staat schadelijk voor gebruikers en specifiek kinderen, terwijl er ongeoorloofd data van kinderen wordt verzameld. De staat wil dat OpenAI zich aan de wet houdt.

In de klacht stelt de staat dat OpenAI en Altman 'snelle toegang tot de markt en commerciële winsten verkozen boven gebruikersveiligheid'. Daarbij zou het bedrijf 'herhaaldelijke' interne en externe waarschuwingen hebben genegeerd. ChatGPT is daardoor 'een product dat leed faciliteert en aanmoedigt – inclusief zelfbeschadiging en geweld – terwijl het bedrijf gebruikers ten onrechte verzekerde dat de chatbot veilig is'.

Daarnaast stelt de staat dat ChatGPT data van kinderen verzamelt zonder dat ouders hier wezenlijk toezicht op hebben. De chatbot zou daarnaast verslavend zijn en cognitieve schade aanrichten, 'en is vatbaar voor gevaarlijke fouten die het bedrijf actief bagatelliseert'.

Door de 'misleidende beweringen' van OpenAI 'en hun onzorgvuldige introductie van ChatGPT in Florida en de rest van de wereld, zijn massamoordenaars geholpen en aangemoedigd bij hun dodelijke moordpartijen, zijn kwetsbare mensen tot zelfdoding aangezet, hebben professionals publieke vernedering ondergaan, hebben gebruikers hun kritisch denkvermogen verloren en zijn minderjarigen verslaafd geraakt aan een tool die menselijke compassie veinst om hun gegevens te verzamelen zonder ouderlijk toezicht', schrijft de staat in de klacht.

De staat Florida wil dat OpenAI zich aan de Floridaanse wet houdt en stelt daarbij ook Altman persoonlijk verantwoordelijk. Tegen onder meer BBC zegt OpenAI 'toonaangevende beschermingen en beleid' te gebruiken en 'gecommitteerd' te zijn 'om dit goed te doen'.

Denk je aan zelfdoding? Bel dan 24/7 gratis en anoniem 113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.

Reacties (15)

[Glashelder]

In de klacht stelt de staat dat OpenAI en Altman 'snelle toegang tot de markt en commerciële winsten verkozen boven gebruikersveiligheid'

Welke winst?

[Macshack]

Staat er commerciële winst. Mogelijk dat jij in de war bent met financiële winst.

[Jeffrey_KL]

OpenAI werd in het voorjaar gewaardeerd op zo'n 795 miljard euro. Er is zo ruim en nabij 168 miljard euro geinvesteerd door externen in OpenAI. Al met al heeft OpenAI behoorlijk wat waarde gecreëerd. Daar zal het Florida wel om gaan.

[Reactie gewijzigd door Jeffrey_KL op 2 juni 2026 15:13]

[Panzer Dean]

Commerciële winst duidt in deze tekst niet op geldelijke winst. Maar het feit dat ze ''winst'' hebben door als eerste commerciele diensten uit te rollen. Soms hoef je niet het beste product te hebben, maar wel als eerste op de markt te zijn om alvast grote schare aan gebruikers te vergaren. De vertaling is een beetje krom gegaan. Als je het brondocument leest dan stellen ze ook: The civil complaint alleges that OpenAI and Altman prioritized speed to market and commercial gain over user safety,

[LOTG]

OpenAI denkt flink wat centjes te kunnen ophalen bij een beursgang, dus dat zou winst zijn voor de investeerders.
Daarnaast al die gebruikers en data die ze daar van verzameld hebben heeft ook waarde.

Dat ze geen winst op de balans hebben staan is wat anders, maar dat komt omdat AI nog voor een groot deel in de fase "free samples" zit om afhankelijkheid te creëren voor de prijs omhoog gaat naar een niveau dat ook financieel wist op levert.

Veel startups halen commerciële winst door zo veel mogelijk zieltjes te winnen, ook al schrijven ze rode cijfers. De waarde van een bedrijf dezer dagen word dan ook vaak op basis van gebruikersaantallen gebaseerd.

[Reactie gewijzigd door LOTG op 2 juni 2026 15:16]

[-JK-]

Ze hebben zeker wel een punt hier en ik hoop dat ze dat kunnen bewijzen, zeker als het gaat om "Daarbij zou het bedrijf 'herhaaldelijke' interne en externe waarschuwingen hebben genegeerd."

[z3ta]

Op het aspect van congnitieve ontwikkeling:
Het is ook bijzonder om te zien dat mensen voor zelfs de simpelste vragen in AI-bots gooien om een antwoord te krijgen. Van kant en klare antwoorden leer je niet. Door te doen en fouten te maken wel. Ja, een AI kan je helpen met leren en verbeteren, maar dan moet je de AI op de juiste manier bevragen.

Vroeger de antwoorden overschrijven uit je antwoordenboekje leverde je ook geen voldoende op bij Wiskunde.

Soms heb ik niet het idee dat een AI mensen helpt leren. Alleen met het geven van antwoorden.

[batjes]

Het vragen aan AI is niet eens zo erg, doe ik ook regelmatig.

Maar het klakkeloos overnemen van AI alsof het een encyclopedie is, best eng. Het denken wordt door een best grote groep mensen tegenwoordig volledig uitbesteed aan LLMs.

[gimbal]

Ik vraag me dan weer af op welke basis ze ChatGPT als schadelijk beschouwen voor gebruikers, maar een X of een Facebook niet. Of... Roblox. Het is weer oddly specific in mijn ogen.

[Wolfos]

Volgens mij is er genoeg van doen om die andere platforms. Klein overzicht van de duizenden rechtzaken tegen sociale mediabedrijven.

[deathrow1986]

Gezien hoe vaak deze tools de gegeven informatie van de gebruiker grotendeels negeren en hun antwoord baseren op enkel een klein specifiek stuk uit de informatie, kan dat zeker tot gevaarlijke situaties leiden. Zolang je er zelf dan niet specifiek op wijst dat het niet klopt word verder kletsen er ook niet veter op omdat dat "gemiste" deel informatie niet alleen word gemist, maar naarmate je erop doorgaat steeds verder verwijdert taakt van hetgeen wat je nodig hebt. AI lijkt op deze manier niks meer te doen dan je ego strelen en al heb je het nog zo fout, je bijna altijd gelijk geven. "Ja, dat is inderdaad een hele goede oplossing in jouw situatie", etc.

Een generatie die niet gewend is om dingen te fact checken en al helemaal niet om zelf dingen uit te zoeken, zie ik hierbij ook gerust in die valkuil stappen.

Ik hoop dan ook dat dit een stap 1 is in een "waarschijnlijk" lange strijd tegen het loslopen van AI.

[A Lurker]

Door de 'misleidende beweringen' van OpenAI 'en hun onzorgvuldige introductie van ChatGPT in Florida en de rest van de wereld, zijn massamoordenaars geholpen en aangemoedigd bij hun dodelijke moordpartijen, zijn kwetsbare mensen tot zelfdoding aangezet, hebben professionals publieke vernedering ondergaan, hebben gebruikers hun kritisch denkvermogen verloren en zijn minderjarigen verslaafd geraakt aan een tool die menselijke compassie veinst om hun gegevens te verzamelen zonder ouderlijk toezicht'.

Ik vind dit een erg zwakke en insinuerende stuk met weinig nuance van de aanklager. Globaal in twee onderdelen te verdelen:
- De framing suggereert dat AI fundamenteel schadelijk is, niet dat openAI nalatig was. Het zou juist moeten gaan om blootleggen van gebrek aan regulatie en (ogenschijnlijk) totaal ontbrekende menselijke feedback loops over kritische onderwerpen (bespreken van wapens etc) die gebruikers bespreken met chatGPT. Het zou niet moeten gaan om demoniseren van het hele concept waardoor je bijvoorbeeld je kritisch denkvermogen zou verliezen. Wat een fundamentele gemis in de app is, is dat er geen feedback loop bestaat om hallucineren van een AI tegen te gaan, te detecteren of te mitigeren.
- Als tweede; polarisatie is altijd aanwezig met nieuwe technologie of andersoortige middelen; personen die gevoelig zijn voor verslaving wil je niet zomaar drugs geven, maar verdovende medicijnen zijn essentieel in de zorg. Hierbij mis ik in de aanklacht fundamenteel toespitsing op regulatie; we hebben goed in kaart wie wel en niet wapens mag bezitten, en de medische wereld is voorzichtig met voorschrijven van verdovende medicijnen. Evenzo met AI, maar dat er compassie geveinst wordt is niet het probleem. Dit is fundamenteel onderhevig aan een AI die centraal met taal zoals een mens gebruikt werkt. Waar het om draait is regulatie.

Maar ik vrees dat LLM AIs vooralsnog een te breed en gerechtelijk onontgonnen gebied is dat we hier nu al een rechtzaak op het vlak van regulatie kunnen voeren; door alle LLMs tegelijk aan te klagen zou het vermoedelijk helaas niks uithalen.

[Reactie gewijzigd door A Lurker op 2 juni 2026 15:40]

[F1xxer]

ChatGPT is een raar model. Laatst was ik aan het vertellen over een tandenborstel van mij en in de reactie komt hij met dat de tandenborstel van iemand anders is....

Het model lijkt de context plank vaker totaal mis te slaan. Dit is sinds 3.0. En het gaat heel subtiel want een groot deel lijkt hij wel goed te hebben of te verbloemen door veel tekst te gebruiken.

Het heeft er ook een handje van om je totaal na te praten als een beste vriend die geen kritiek levert. Je praat jezelf de letterlijke vernieling in omdat hij nergens even zegt van "die pan is wel heet he maat.". Claude reageert veel beter op personaliteitswijzigingen waar je aangeeft dat je pushback wilt.

Het ergste vind ik nog de hallucinaties.. feiten worden totaal verzonnen en bij Grok en ChatGPT is het erger dan bij Gemini en Claude heb ik het idee.

Al die dingen zorgen ervoor dat ik het alleen nog maar voor echte korte feitjes zoekmachine gebruik en verder niet want je weet gewoon niet of het nog waar is. En alles dubbelchecken is niet realistisch als je vooruit moet in je werk.