Meta voegt meer veiligheidsmaatregelen toe aan zijn AI-chatbots, zodat ze niet langer flirten met minderjarigen of praten over onderwerpen zoals zelfmoord. Het bedrijf doet dit nadat zijn AI-beleid eerder deze maand meermaals onder vuur kwam te liggen.
Meta past de training van zijn AI-chatbots aan, waardoor ze niet langer in gesprek gaan met minderjarigen over zelfverminking, zelfdoding en eetstoornissen. Dat zegt een woordvoerder van het bedrijf tegen TechCrunch. In plaats daarvan gaat de chatbot gebruikers doorverwijzen naar gezaghebbende bronnen over deze onderwerpen. Daarnaast belooft Meta dat de chatbot 'mogelijk ongepaste' romantische gesprekken met kinderen voortaan uit de weg gaat. De woordvoerder erkent dat de chatbots van het bedrijf voorheen wel met minderjarige gebruikers over deze onderwerpen praatten en dat dat een vergissing was.
Meta zegt verder dat het de toegang tot bepaalde AI-persona's gaat beperken voor minderjarigen. Het gaat daarbij om chatbots die 'ongepaste gesprekken' kunnen voeren met kinderen. Naast AI-persona's van Meta zelf, kunnen gebruikers ook eigen persona's maken en openbaar delen op Meta's platformen. Daaronder vallen chatbots genaamd 'Step Mom' en 'Russian Girl'. Het bedrijf werkt naar eigen zeggen ook aan 'robuustere' veiligheidsmaatregelen voor de lange termijn om kinderen te beschermen, maar gaat daar niet verder op in.
Eerder deze maand schreef Reuters op basis van een intern beleidsdocument dat Meta het expliciet toestaat dat zijn chatbots 'romantische of sensuele' gesprekken voeren met kinderen, of een kind beschrijven met termen 'die diens aantrekkelijkheid aantonen'. Uit een onderzoek van The Washington Post bleek onlangs dat Meta's AI-bot minderjarigen kan aanmoedigen om een eetstoornis te ontwikkelen en kan helpen bij het maken van zelfmoordplannen. Verschillende Amerikaanse congresleden en procureurs-generaal hebben hun zorgen geuit over het gedrag van Meta's chatbots en gaven aan een onderzoek te willen starten.
Praten over zelfmoordgedachten kan anoniem: chat via www.113.nl, bel 113 of bel gratis 0800-0113. In België kun je terecht bij telefoonnummer 1813 of op zelfmoord1813.be.