OpenAI verdedigt zich in de rechtszaak over hulp van ChatGPT bij zelfdoding door een tiener met de stelling dat die gebruiker de gebruiksvoorwaarden voor de AI-chatbot schond. De maker en aanbieder van ChatGPT zou daardoor niet aansprakelijk zijn, pleiten juristen van het bedrijf.
Het argument dat de Amerikaanse tiener de gebruiksvoorwaarden schond met zijn gesprekssessie met ChatGPT is het eerste antwoord van OpenAI in deze rechtszaak, meldt NBC News. Het bedrijf ontkent aansprakelijk te zijn en beroept zich daarbij op de gebruiksvoorwaarden. Daarin staat onder meer dat minderjarige gebruikers ChatGPT niet mogen gebruiken zonder toestemming van een ouder of voogd. Daarnaast mogen gebruikers de AI-chatbot niet gebruiken voor zelfdoding of om zichzelf schade te berokkenen. Ook is het niet toegestaan om beschermende maatregelen en veiligheidsvoorzieningen van ChatGPT te omzeilen om bijvoorbeeld verboden antwoorden te verkrijgen.
Zo zou de tiener verwijzingen van ChatGPT naar de Amerikaanse hulplijn voor zelfdodingspreventie hebben omzeild door aan te geven dat het ging om het opbouwen van een personage. De tiener maakte een einde aan zijn leven na maandenlang gebruik van ChatGPT. Daarbij besprak hij zijn problemen en vroeg hij advies.
De zaak is in augustus aangespannen door de ouders van de zestienjarige Adam Raine, die zich in april van het leven beroofde. De aanklacht luidt dat OpenAI medeverantwoordelijk is voor deze zelfdoding door ontwerpfouten in ChatGPT en door niet te waarschuwen voor risico's bij het gebruik van de AI-chatbot.
Hulp zoeken
Uit logs van de gesprekken die Raine voerde met ChatGPT zou blijken dat de chatbot hem actief afraadde om hulp te zoeken. OpenAI stelt juist dat zijn AI-chatbot dat wél aanraadde: meer dan honderd keer, meldt persbureau Bloomberg. Het bedrijf deelt meer chatlogs met de rechtbank om dit aan te tonen.
ChatGPT was toen nog gebaseerd op het GPT-4o-model. Die oudere versie van het onderliggende AI-model werd door gebruikers als persoonlijk en vriendelijk ervaren, maar zou ook vleierig zijn en mensen naar de mond praten. Daarmee zou de chatbot bevestigend en versterkend werken, wat zou hebben bijgedragen aan de zelfdoding van de Amerikaanse tiener.
Denk jij aan zelfdoding? Neem 24/7 gratis en anoniem contact op met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.
/i/2007916766.webp?f=imagenormal)