Meta belooft dat zijn chatbots niet langer met kinderen praten over zelfdoding

Meta voegt meer veiligheidsmaatregelen toe aan zijn AI-chatbots, zodat ze niet langer flirten met minderjarigen of praten over onderwerpen zoals zelfmoord. Het bedrijf doet dit nadat zijn AI-beleid eerder deze maand meermaals onder vuur kwam te liggen.

Meta past de training van zijn AI-chatbots aan, waardoor ze niet langer in gesprek gaan met minderjarigen over zelfverminking, zelfdoding en eetstoornissen. Dat zegt een woordvoerder van het bedrijf tegen TechCrunch. In plaats daarvan gaat de chatbot gebruikers doorverwijzen naar gezaghebbende bronnen over deze onderwerpen. Daarnaast belooft Meta dat de chatbot 'mogelijk ongepaste' romantische gesprekken met kinderen voortaan uit de weg gaat. De woordvoerder erkent dat de chatbots van het bedrijf voorheen wel met minderjarige gebruikers over deze onderwerpen praatten en dat dat een vergissing was.

Meta zegt verder dat het de toegang tot bepaalde AI-persona's gaat beperken voor minderjarigen. Het gaat daarbij om chatbots die 'ongepaste gesprekken' kunnen voeren met kinderen. Naast AI-persona's van Meta zelf, kunnen gebruikers ook eigen persona's maken en openbaar delen op Meta's platformen. Daaronder vallen chatbots genaamd 'Step Mom' en 'Russian Girl'. Het bedrijf werkt naar eigen zeggen ook aan 'robuustere' veiligheidsmaatregelen voor de lange termijn om kinderen te beschermen, maar gaat daar niet verder op in.

Eerder deze maand schreef Reuters op basis van een intern beleidsdocument dat Meta het expliciet toestaat dat zijn chatbots 'romantische of sensuele' gesprekken voeren met kinderen, of een kind beschrijven met termen 'die diens aantrekkelijkheid aantonen'. Uit een onderzoek van The Washington Post bleek onlangs dat Meta's AI-bot minderjarigen kan aanmoedigen om een eetstoornis te ontwikkelen en kan helpen bij het maken van zelfmoordplannen. Verschillende Amerikaanse congresleden en procureurs-generaal hebben hun zorgen geuit over het gedrag van Meta's chatbots en gaven aan een onderzoek te willen starten.

Praten over zelfmoordgedachten kan anoniem: chat via www.113.nl, bel 113 of bel gratis 0800-0113. In België kun je terecht bij telefoonnummer 1813 of op zelfmoord1813.be.

Reacties (90)

[Ulysses]

Meta broed op elk front een ziekmakende cultuur uit - en dit oordeel komt van mij als veel te laat vertrokken van Fakebook gebruiker. Van mij mag het failliet. Echt, geen genade. Dit bedrijf belichaamt in alles slechte ethische standaarden en nudgen van machtsmisbruik en een misantropische bedrijfsvoering. Kapot mag het.

[Superstoned]

Eens. Het is bizar hoe het leiderschap van dit bedrijf echt consequent, wanneer ze geconfronteerd worden met een morele keuze, de verkeerde richting op gaan. Zuck zou echt zijn moeder verkopen voor een habbekrats.

de claim dat dit “een vergissing” was houd echt geen stand. Dit was duidelijk gedocumenteerd met een groot aantal zeer expliciete voorbeelden die direct waren nagekeken en geaccordeerd waren door senior management. Nog gekker, het was al de tweede iteratie - ze hadden een eerdere versie die nog verder ging.

De hard fork podcast had er een stuk over. Maar als je een eerdere Facebook incident hebt gevolgd dan weet je de strekking wel: de hoogste management lagen van het bedrijf hebben bewust gekozen om geld boven menselijkheid te verkiezen.

dus ja totaal mee eens: dit bedrijf zou de deuren moeten sluiten. Als het een individu was had het al jaren in de cel gezeten…

[R_Zwart]

Niet alleen het leiderschap is fout bezig. Vrijwel al het personeel werkt er vrijwillig aan mee. Het zijn grotendeels hoog opgeleide mensen die niet bij Meta hoeven te werken. Die kunnen overal terecht. 1 van de weinige zinvolle dingen die Musk ooit heeft gezegd was dat het te gek voor woorden is dat de knapste koppen ter wereld alleen maar bezig zijn om algoritmes te maken om meer advertenties te verkopen....

[singingbird]

Was het ook niet zo dat er veel wiskundigen en natuurkundigen werken bij flowtraders en andere beleggingsbedrijven? Ik vind dat persoonlijk wel verkeerde inzet van talent.

[m00d]

Yup - helaas zijn slimme mensen vaak niet dom. Die weten ook wel dat ze hardstikke rijk kunnen worden met hun intelligentie en in onze huidige kapitalistische maatschappij is dat helaas veel meer waard dan iets nuttigs bijdragen.

Het zou fijn zijn als we wat meer terug zouden gaan naar de combinatie van democratisch socialisme + kapitalisme van de jaren 80-90 net voor de privatisering van alles, toen we nog veel meer talent en experts hadden in zowel bedrijven als takken van de overheid - en dat diezelfde mensen ook in het management zaten, in plaats van zoals nu waar managers opgeleid worden tot manager.

[GugPanub]

Alsof de kapitalistische samenleving niets nuttigs bijdraagt. Ik weet niet welk begrip je überhaupt hebt over een kapitalistische samenleving maar het outperformt het 'democratisch socialisme' wat in wezen ook nog eens een paradox is, op heel veel fronten inclusief armoedebestrijding en mensenlevens. Terwijl de relatieve verschillen in inkomen er misschien groter zijn per Gini-Index, in absolute zin heeft het heel wat armoede bestreden. De armoedegrens is een relatieve grens, maar in de VS heeft 80% wat onder de armoedegrens leeft een huis, een airco en een auto. Vergelijk het gerust met de 'democratisch socialistische' landen en vraag je niet langer af waarom mensen uit dergelijke samenleving, zeker aan de onderkant, vluchten naar het kapitalistische walhalla de VS. Mensen zijn ook aan de onderkant beter af in de VS dan elsewhere. Ander voorbeeld China, armoede tot op het bod tot ze lid werden van de WTO en kapitalistische principes gingen hanteren. Neem aan dat ik niet hoeft te vertellen hoeveel dood en ellende, als in de tientallen miljoenen, het socialisme en fellow travellers daar heeft veroorzaakt, by policy? Kapitalisme nutteloos noemen, echt een historisch gotspe. Ik ben geen manager, nooit willen worden, heb ook nooit facebook gehad, maar de matig (at best) onderbouwde anti-kapitalistische attitude hier op Tweakers is voor mij in mn field of expertise echt mindblowing, en dat het geplust wordt helemaal.

[m00d]

Jeetje man, dat is wel echt een hoop onzinnige propaganda die je spuwt.

Ik heb nergens kapitalisme nutteloos genoemd lol. En de VS zien als een walhalla - dan heb je de afgelopen decennia ook echt bewust niet meegekregen.

Armoede is daar super groot en de verschillen tussen arm en rijk zijn er een groot probleem. Dat kun je weigeren in te zien, maar het is een feit.

En al helemaal als iemand die gay is, zoals ik, voel ik me daar nu echt onveilig. Wat een hoop vreemde onzin in je comment.

[GugPanub]

Armoede is daar supergroot omdat dat blijkbaar de propaganda is die je mee krijgt. Armoede is daar een stuk kleiner dan in de minder kapitalistische landen in de omgeving. Dat is waarom ze vluchten naar een kapitalistisch land.

Dat niet alleen, Europa heeft er ongeveer 15 jaar over gedaan om het GDP per capita of de purchasing power terug te krijgen op het niveau van voor 2008, de financiële crisis. Amerika is ondertussen gewoon bij ons weggelopen. Feit. Uiteraard is ook de VS feilbaar, fentanylcrisis levert een hoop daklozen op etc, maar ook dat is een smaldeel wat je generaliseert tot algemeen beeld. Bovendien is die crisis is sommige Canadese steden, een land met een veel sociaal-democratischer beleid en imago duidelijker aanwezig dan in de VS.

Je stelde letterlijk ‘dan iets nuttigs bijdragen’. Not my words, en behoorlijk zwart-wit. Dat was mijn ‘jeetje’.

Ik ga notabene op mijn post zelf in op relatieve en absolute welvaart(sverschillen) maar je kiest er niet alleen voor dat compleet te negeren maar ook nog eens verkeerd te framen.

Maar mijn vraag, waarom mensen van minder kapitalistische landen in significante hoeveelheden vluchten naar meer kapitalistische, waaronder vooral arme mensen, blijft onbeantwoord. Toch bijzonder als je zelf het argument ‘feiten’ propageert.

Alsof je als gay overal in Europa veilig bent. Helaas niet. Heb een transgender kind, dat ging helemaal prima in de VS. Maar N=1, dus graag feitelijke en valide argumenten.

[P_Tingen]

Je vergelijkt uitersten met elkaar en stelt dan dat het kapitalisme ook zijn goede kanten heeft, vergeleken met de extreme vormen van socialisme en communisme. Maar dat is niet wat @m00d zegt. Die heeft het namelijk meer over een gematigde vorm waarin democratie, socialisme en kapitalisme

[GugPanub]

Socialisme heeft het altijd over een gematigde vorm en stelt altijd dat het niet de vorm is zoals de afgelopen eeuw al zo vaak is misgegaan. Maar in the end is het gewoon socialisme. En daar is weinig democratisch aan. Leg me anders uit hoe je een significant deel van iemands bezit per overheid wil afnemen zonder dat overheidsdwang te doen. En ik hoor vervolgens ook graag hoe je dan toch een incentive behoud ok de taart groter te maken zodat ook de onderkant van de samenleving een stuk taart heeft wat groot genoeg is. Want dat is namelijk wat socialisme en alles wat er op lijkt doet. Het verdeelt een veel kleinere taart gelijker zodat alle stukjes voor iedereen even klein zijn. In tegenstelling tot het kapitalisme wat ongelijk verdeelde stukken genereert van een veel grotere taart. Opdat ook de onderkant van de samenleving een groter stuk heeft dan een gelijk verdeelde taartje. Dat weten mensen aan de onderkant van de samenleving in socialistische en pseudo-socialistische landen beter dan de average Tweaker apparently.

[P_Tingen]

Als je "democratische" landen als Korea en zo vergelijkt met de VS dan snap ik je redenatie. En sterker nog: dan ben ik het met je eens. Vergaande democratie (lees: communisme) leidt niet tot een heilstaat.

Maar als je de VS met NL vergelijkt moet je toch constateren dat de algemene staat van onderwijs en zorg in ons land een stuk beter geregeld is. Daarnaast is mijn overtuiging dat een verregaande staat van kapitalisatie er mede toe heeft geleid dat Trump zich nu meer en meer als een dictator kan gedragen. Ik heb de overtuiging dat een democratie meer middelen in zich heeft om dat tegen te houden

In dat opzicht hebben communisme en kapitalisme wel iets gemeen, nml die absolute macht.
En in beide gevallen geldt dat absolute macht absoluut corrumpeert

[GugPanub]

Ik noemde geen Korea (Noord I assume), en de steller vond het huidige Nederland klaarblijkelijk te kapitalistisch.

Over je stelling dat kapitalisme (leidt tot) absolute macht mag je met meer bewijs of valide argumenten komen. Immers gaan privaat eigendom (pijler van het kapitalisme) en democratie historisch gezien niet alleen hand in hand, een absolute macht bij de overheid of een overheidsvertegenwoordiger/dictator sluit privaat eigendom namelijk al per definitie uit. Dus ik hoor het graag. Hayek et al denk ik ook.

[P_Tingen]

Nee doe ik niet. Je pikt er halve zinnen uit en reageert daar op. Dat mag, maar daar ga ik niet in mee 😉

[GugPanub]

Dat is nogal ontwijkend voor iemand die zelf mn argumentatie niet eens voor de helft leest, aantoonbaar woorden in mn mond legt en blijkbaar geen argument heeft om zn stelling te verdedigen. Maar hey, vrij land.

[unglaublich]

Want als het aan Musk ligt zouden die algoritmes gebruikt moeten worden voor politieke propaganda…

[Robby517]

Kleine correctie maar dat is een uitspraak waar Jeff Hammerbacher mee beroemd werd, die komt niet van Musk.

[Superstoned]

Je hebt gelijk, maar er is wel wat nuance. Ken mensen bij bij bijvoorbeeld Microsoft PR vandaan komen, en ik hoor hoe ze daar dingen doen: management zorgt dat de kennis over fischy dingen niet breed verspreid wordt. Dame had verhaal over hoe ze een bericht moest schrijven en de engineer die input moest geven zei steeds: "ik weet niet of ik je dat mag vertellen".

In een grote organisatie kan dat volgens mij best goed werken.

Ik vermoed dat geheimhouding ook is hoe cigarettenbedrijven en fossiele brandstofbedrijven zorgen dat de medewerkers hun geweten niet zo hoeven te belasten. Ik bedoel, veel mensen zouden niet bij Shell werken als het regelmatig en bewust enorme vervuiling veroorzaakte in Afrika of India om geld te bespaare bij het decommissionen van boorplatformen. Maar stel je doet het zo:

Alleen bepaalde departementen en mensen weten dat, en die horen weer van hun baas dat het legaal is, of veilig is, etc - en als er iets mis gaat en het komt uit, dan roepen ze intern dat het een fout was, en mensen die zich niet aan de regels hielden, en het zal niet meer gebeuren. Ook als het keihard beleid was.

Op die manier kun je veel shady shit doen en mensen met een beetje moreel compas kunnen toch bij je werken. En natuurlijk, hoe hoger in de boom hoe meer je weet, dus hoe meer schuld je hebt.

Maar goed, ik hoor steeds van mensen die van hele grote multinationals bij ons komen werken dat ze het mindblowing vinden hoe transparant we zijn, intern. En hoor dat OOK van mensen die van andere kleinere bedrijven komen. Heb zelf ook wel het een en ander gezien wat dat betreft. Dus geheimhouding is de norm, en werkt best aardig.

(daarom moeten bedrijven ook geen privacy hebben, en zouden we meer transparantie af moeten dwingen, maar da's een ander verhaal)

[Duingras]

Het bizarre is dat alleen kinderen hier worden ontzien. Met volwassenen gaat de chatbot nog wel romantische gesprekken en gesprekken over zelfdoding aan.

[Reactie gewijzigd door Duingras op 31 augustus 2025 11:08]

[Piemol]

Alles voor de lijks ...

Waarschijnlijk alles om maar zoveel mogelijk data te vergaren. En heel specifiek ingaan op de uitkomsten van een onderzoek.

[Arokh]

Het kan toch prima een vergissing zijn? Ze dachten dat he prima was om met kinderen over sex en zelfmoord te kletsen, maar bij nader inzien blijkt dat er te veel mensen toch niet enthousiast over zijn. Het was dus een vergissing van Meta om het te doen.

Een vergissing is iets heel anders dan een ongelukkige samenloop of per ongeluk oid. Het was bewust, maar achteraf dom.

[gezoutenpinda]

Het feit dat het gedocumenteerd was met voorbeelden zou zorgwekkend moeten zijn. Ik denk zelf dat het meer is dan achteraf dom, helemaal met de schandalen die Meta al gehad heeft en hoe zo'n grote use base ze hebben. Je zou verwachten van zo'n groot bedrijf met maatschappelijke invloed op verschillende leeftijden en sociale lagen dat dit uit den boze is. Maar helaas is het tegendeel waar en is geld belangrijker dan een moreel kompas.

[Superstoned]

Dat is sarcasme, neem ik aan? Iedereen met een beetje een moreel compas en inzicht in AI moet wel snappen dat je met kinderen niet over sex of zelfmoord praat zonder dat er een soort van toezicht is, daar er al ontzettend veel incidenten zijn geweest over chatbots die mensen tot zelfmoord hebben gepraat...

[Arokh]

We snappen dat allebei. Uiteraard had dat gemoeten. Maar het basisprincipe van de grote techbedrijven is de afgelopen tijd vooral terugtrekking van moderatie, minder invloed en geen 'censuur'. Dat beleid wordt ook nog eens heel sterk gesteund (vereist) door hun moederland, waar vooral de bescherming die de EU haar burgers wil bieden het moet ontgelden.

Dit is eigenlijk een heel logisch gevolg. Helaas. En een van de redenen dat mijn 2 kinderen beide nooit op social media zitten (behalve af en toe een short van Youtube, maar daar zit geen wederzijdse communicatie tussen).

[Superstoned]

Eens, en verstandig.

[Nimac91]

Sorry, maar komt dit niet een beetje te goed uit voor je om dit te roepen? AI modellen maken fouten. En volgens mij is het niet zo lastig om een model in een fout te drukken als je als user daar hard genoeg je best voor doet.

Ik vind niet dat we zomaar iets het kwaad in moeten roepen omdat het nu toevallig uit komt. Als het bij Gemini of Claude zou gebeuren zouden de reacties minder heftig zijn geweest dan bij Meta. Dat is gewoon een feit omdat er veel woede heerst rond het merk.

Meta heeft zeker fouten gemaakt rondom Privacy, Politieke Ad targeting en social media is ongezond voor mensen en zeker jongeren en kinderen. Echter heb ik ook wel een beetje begrip dat zo'n taal model fouten kan maken en het goed is dat ze hier wat aan doen. Vrijwel all AI partijen hebben op verschillende punten fouten gemaakt met hun modellen en training data en hebben daar veel aanpassingen op moeten doen.

edit:
Begrijp me niet verkeerd. Het onderwerp over zelfdoding is natuurlijk heel gevoelig en moet direct aangepakt worden. Waar het mij om gaat is dat het volstrekte onzin is dat mensen bij Meta kwaadwillend zulke fouten in hun producten hebben gegooid.

[Reactie gewijzigd door Nimac91 op 31 augustus 2025 13:55]

[Ulysses]

Dat klopt. Omdat Google niet geprobeerd heeft verkiezingen te kapen, of moedwillig mensen die hun recht om niet beïnvloed willen worden te dwingen daar voor te betalen. En dat zijn slechts 2 van de vele voorbeelden naast de abjecte materie van dit topic an sich al. Mijn ervaring met Facebook betreft meer dan een decennium tevens waarbij ik ook echt de hoekjes van het systeem heb verkend. En Google (of zelfs godbetert Microsoft) is gewoon veel minder moreel verwerpelijk in de uitvoering.

[Nimac91]

Ik ben het niet met je eens. Meta heeft echt wel hun lesje gelerd. Ze zijn by far het meest privacy focused in al hun producten geworden. Enkel Apple zou ik hierin nog een stapje meer vertrouwen. Maar zeker Google gooit je data links en rechts en verkoopt het. Microsoft doet dat heel minimaal. Ik vindt al die argumenten tegen Microsoft ook al zo'n onzin.

Mensen blijven te lang in het verleden hangen. Zo'n schandaal van Meta heeft miljarden gekost. Dat is al straf genoeg in mijn ogen. Trust me, dan pas je je beleid wel aan. Ook Mark heeft in veel interviews een kijkje achter de schermen gegeven. Niemand maakt express fouten in zulke bedrijven. Je hebt temaken met complexe morele keuzes iedere dag waar je als social media bedrijf veel eerder in de mist gaat dan een tech bedrijf. Is gewoon een feit.

Als je miljoenen video's en posts en foto's op je platform krijgt, hoe zou jij alles filteren? Wat zou jij erin laten en eruit halen? En welke adverteerders neem je wel of geen geld van aan? Dat zijn geen zwart wit regeltjes. Dat is gewoon constant het hebben van een tikkende tijdbom tot er een keer iets toegelaten wordt wat gebruikers te ver vinden gaan. Hoe ga je daarmee om?

Hoe ga je om met politiek? Hoe ga je om met woke en LGBTQ? Hoe ga je om met nieuws bronnen die onzeker zijn? Onderschat niet hoe lastig het is om mensen tevreden te houden als social media bedrijf.

Hierom kijk ik liever realistische op zaken. Ik vindt het prima dat Whatsapp onderdeel van Meta is als ze nu hun lesje geleerd hebben. Dan heb ik liever Meta dan een rusisch team wat Telegram runt.

Geregeld komen er ook problemen bij Twitch en Youtube voor content die er eigenlijk niet had moeten zijn. Maar wat doe je eraan? Het gaat altijd gebeuren.

[Ulysses]

Nee, dat geloof ik niet. De ervaringen die ik specifiek met Meta heb, doen mij een verziekte cultuur en werkrelaties vermoeden en exact nul oog voor individuele gerbruikers en heel veel voor de winst. Ik wil niet uitgespeeld worden in een A/B-test om zoveel mogelijk frustratie tot een aankoop of klik die ik liever niet deed te laten leiden. Dat Meta daarin structureel grenzen opzoekt en overschrijdt is voor mij bewezen. En geloof mij dat ik ook nadenk over hoe je community management moet organiseren als de beheerder van een forum voor mensen met psychosegevoeligheid bijvoorbeeld. Meta heeft als doel Winst, niet Mensen gelukkig maken. Feit.

[Nimac91]

Ja maar geloof en realiteit zijn twee verschillende zaken. Kwaadwillendheid is niet bewust vanuit meta. Zelfs jij kan dat wel geloven. Niemand heeft er baat bij om een volgende schandaal en miljarden verliezen te lijden. Tevens is de enige weg terug om juist dat vertrouwen weer bij de consumenten terug te winnen.

En het scenario wat jij hier neerzet is belachelijk om Meta hierop aan te wijzen. Wat denk je dat een KPN, Ziggo, Apple, Google of Amazon allemaal doen?

Is het te ver omdat je er bij Meta producten net iets meer te maken mee krijgt tijdens al dat doom scrollen? Zo'n beetje iedere iPhone app wilt ook dat je bij betaald met add ons etc... Dat is gewoon hoe de markt werkt ongeacht of Meta er wel of niet was. Adverteren werkt gewoon. Het werkt in de Bus, het werkt op TV en hoe beter product advertenties de juiste mensen bereikt hoe meer er verkocht wordt. Dit hele principe heeft trouwens Steve Jobs verzonnen. Dus ik blijf wel realistische in mijn oordeel.

[familyman]

Dat jij denkt dat dit - alleen - over advertenties gaat, toont mij dat je er niet realistisch in zit.

Dit gaat ook over het ervoor zorgen dat mensen je platform nietverlaten, over polarisatie, over tracking, dark patterns en een hele reeks zaken die we gewoon niet moeten willen hebben.

Uiteindelijk misschien om advertenties te verkopen, en zelfs daarover zouden we misschien ook wel eens anders moeten gaan denken.

[Nimac91]

Uhm, heb je gezien wat Apple doet om mensen niet hun platform te laten verlaten?

Ga je ook serieus beginnen over tracking? Bestaan er uberhaubt services die je niet tracken in de wereld tegenwoordig? Is toch nutteloos om daar nog boos over te zijn? Gebruik gewoon geen Meta producten en stop ook met Whatsapp als je dat zo belangrijk vindt maar ga niet doen alsof Meta hier van de schuldige is. Je moet kijken naar de maatschappij en bedenken dat dit is wat de maatschappij zelf wilt. Doomscrollen is niet populair geworden door Instagram of Meta. TikTok heeft het populair gemaakt en nu wijzen we ook allemaal naar Meta.

Maar het draait wel degelijk om advertenties want advertenties zijn letterlijk waar het geld binnenstroomd. Daarom is ad targeting zo complex en superior terwijl vaak de apps zelf niet eens half zoveel functies als nodig hebben. Dit heb je ook bij Google ads, Microsoft ads, Amazon Ads, Meta Ads, Apple Ads zelfs ads op Tinder en andere grote platformen wereld wijd hebben de meest extreme tracking mogelijkheden. Je kan filteren op basis van demografie, leeftijd, sex, interesses, keywords, koopgedrag, video's die je kijke, mensen die je volgt, websites die je bezoekt, emails die je ontvangt of iedere klik die je op je browser doet. Het wordt allmeaal gedeeld tussen alle grote platformen. Dus waar hebben we het dan nog over?

[familyman]

Ad targeting komt van tracking

[Arokh]

Ik snap nog niet zo goed waar je als mens het recht vandaan haalt niet beïnvloed te worden. Haal je dat uit de wet of is het een persoonlijke overtuiging? Is dan nirt elke mogelijke reclame of zelfs politieke toespraak etc. allemaal een no go? We worden de hele dag door beïnvloedt met reclame en andere meningen, of we nou willen of niet. Er staat volgens mij nergens in een wet dat je het recht hebt om helemaal niet beïnvloedt te worden.

[Ulysses]

In het geval van meta komt het neer op pro-actief stalken. En doxing is ook verboden.

[Warchetype]

Inderdaad. Het is te gek voor woorden dat het ego'tje van 1 sneu individu er direct voor verantwoordelijk is dat het merendeel van de wereldbevolking nu een telefoonverslaving, dopamine ontregeling en een flinke toename van mental health issues heeft.

Psychologen worden ingehuurd en geraadpleegd om ervoor te zorgen dat het platform zo verslavend mogelijk blijft. Onze hersenen en dopamine levels zijn niet gebouwd om in een portable casino-achtige omgeving 24/7 met een overvloed van prikkels te worden gebombardeerd, dus op lange termijn zorgt dit bij veel mensen voor bv allerlei angst-stoornissen. Daarnaast is ook ontdekt dat als mensen oa. boos zijn, ze sneller op bepaalde dingen klikken, dus worden ze ook bewust opgejut met allerlei clickbait en dankzij troll farms. Het merendeel van de jongere generaties hebben door constante blootstelling aan bite-sized brainrot de attention span en concentratie van een goudvis en kunnen amper zelf nog nadenken. En omdat veel mensen op FB het net laten lijken alsof ze een perfect leven hebben, denken veel andere mensen dat ze een mislukt leven hebben en zijn bv depressies ook toegenomen. En nu inderdaad dit soort gevaarlijke situaties ook met hun AI.

Facebook weet maar al te goed wat het schadelijke effect op de gehele mensheid is, maar het kan Fuckerberg geen ene barst schelen omdat hij er schatrijk van wordt. Dat we steeds meer naar een wereldwijde dystopie afdwalen is nog zacht uitgedrukt.

Ik heb ook pas begin dit jaar eindelijk m'n FB account verwijderd, en heb het nog geen seconde gemist.

[Reactie gewijzigd door Warchetype op 31 augustus 2025 10:42]

[The Zep Man]

Ik heb ook pas begin dit jaar eindelijk m'n FB account verwijderd, en heb het nog geen seconde gemist.

Ik heb nooit een FB account gehad. Dat was een makkelijke keuze met dergelijke signalen.

People just submitted it. I don't know why. They 'trust me'. Dumb fucks.

- Mark Zuckerberg

Geloof mensen wanneer ze laten zien dat ze verschrikkelijk zijn.

[Reactie gewijzigd door The Zep Man op 31 augustus 2025 14:21]

[Piemol]

Psychologen worden ingehuurd en geraadpleegd om ervoor te zorgen dat het platform zo verslavend mogelijk blijft.

Dat zegt ook wat over de betreffende psychologen.

Persoonlijk zou ik nooit aan iets dergelijks meewerken, ook al kan ik het x-voudige salaris krijgen.

[Quacko]

Niet verbazingwekkend wanneer je kijkt naar zijn eerste applicatie waar hij medeleerlingen liet beoordelen op knapheid... Ethiek en moraliteit is niet echt die man zijn ding.

[dupy]

Het zijn niet alleen kinderen die beschermd moeten worden. Meta respecteert geen enkele vorm van privacywet of -regelgeving.

[pbk]

Even uit nieuwsgierigheid. Ben je daardoor ook vertrokken bij WhatsApp wat ook onder Meta valt?

*Edit: ik snap niet goed waarom dit bericht gemind wordt ik reageer op iemand die aangeeft daar Meta een ziek bedrijf ia dat kapot moet. Dan lijkt me de vraag of je andere producten van Meta (Whatsapp, Instagram,...) wel blijft gebruiken. Tenslotte 'steun' je daarmee Meta.
Voor mij persoonlijk is dit wel degelijk relevant. Facebook is de deur uit,.o.a. vanwege de nieuwe beleidsregels.
Maar ja, wat doe je dan met de ander producten van Meta?

[Reactie gewijzigd door pbk op 31 augustus 2025 12:14]

[Ulysses]

Om puur klantgerichte redenen, is het voor mij op dit moment niet te doen om volledig ook van WhatsApp af te stappen. Instagram of ander social van Meta gebruik ik echter principieel niet. Wat mij betreft mag WhatsApp afgesplitst worden en onder 'vitale infrastructuur' geschaard worden, met alles dat daar juridisch en qua eisen aan gesteld wordt erbij.

[Gonzalez]

Je stelt inderdaad een relevante vraag.

Ikzelf heb WA van mijn telefoon geflikkerd de dag dat de overname bekend werd gemaakt.

Ik ben nu bereikbaar via Telegram, Signal, SMS en e-mail. Meer dan genoeg mogelijkheden voor mij.

O ja, gewoon ouderwets bellen kan je ook nog.

[Some12]

Het antwoord op problemen is altijd “hoe komen we er vanaf?”, terwijl een betere benadering zou kunnen zijn “hoe fixen we dit?”.

Meta’s producten werken voor een grote groep schadelijk, maar dat betekend niet het daarom “kapot moet”.

Wat we eigenlijk zouden moeten onderzoeken is het “waarom gaan velen er aan onderdoor?”. Als je de mechanieken van de problematiek snapt, kan je het om Meta heen fixen.

Social media is niet een probleem an sich, alleen voor de mensen die het misbruiken.

PS: dus in plaats van het weer bij individuen te zoeken, zou je je eens af kunnen vragen waarom (een steeds grotere groep) kwetsbaren het misbruiken? Misschien dealen we bijvoorbeeld met een steeds grotere groep eenzame mensen. Hoe komt dat? Omdat we steeds verder individualiseren (wat respectvol is voor individuele meningen) maar tegelijkertijd daar geen gemeenschapszin aan toevoegen. (niet tegenoverstellen) Dus wat we nodig hebben is tweevoudig: aan de ene kant verbod voor kwetsbaren (leeftijdsgebonden) en Meta (voor exploitatietechnieken) en aan de andere kant hulp bij het opzetten van sociaal weefsel.

[Reactie gewijzigd door Some12 op 31 augustus 2025 12:45]

[Iconlast]

Dit inderdaad.

[Azerox]

Ik ben helemaal voor het vrij delen van informatie en dat je je mening vrij mag uitten, maar social media is enkel hersenrot geworden gevoerd door algoritmes. Wat mij betreft worden dat soort platformen verboden. Het zorgt voor de-stabiliteit in de samenleving en met een heleboel ontspoorde mensen al gevolg.

[Drizzt76]

Nu eerst nog een niet te omzeilen leeftijdscontrole implementeren....

[Benjamin-]

Dat doen ze graag middels een verificatie systeem wat jouw vereist om bij een foto van je paspoort aan te leveren... Roep dit soort dingen niet te hard, want ze gaan komen.

[Aaargh!]

Verificatie op basis van een foto van een paspoort is kinderlijk eenvoudig te omzeilen en bied absoluut 0,0 zekerheid. Het is absoluut onmogelijk om de echtheid van een paspoort vast te stellen aan de hand van een foto.

[Benjamin-]

Ik denk dat je het nu wat te ver zoekt, sowieso is dat nog niet zo makkelijk als je denkt, zeker niet voor een minderjarige, en daarnaast willen ze vooral heel veel data. Veiligheid is niet waarom ze dit soort dingen doen.

Sowieso doen ze alleen dingen wanneer dit goed is voor de winst.

[Aaargh!]

sowieso is dat nog niet zo makkelijk als je denkt

Zonder in details te treden: Ik weet hoe makkelijk het is.

[Benjamin-]

Makkelijk genoeg voor een jong kind om dit zo te vervalsen? En dan ligt het er nog aan hoe goed een systeem is. Daarnaast kunnen ze ook nog overstappen op de chip uitlezen.

Punt is, is dat je niet wilt dat Meta op die manier leeftijdscontroles gaat doen, totdat we een solide anoniem systeem hebben om leeftijden via te verifiëren, zijn dit soort controles zeer slecht voor de privacy.

[Aaargh!]

Makkelijk genoeg voor een jong kind om dit zo te vervalsen?

Misschien niet een kind van 4, maar wel iemand van onder de 18.

Daarnaast kunnen ze ook nog overstappen op de chip uitlezen.

Dat is idd wel veilig.

[The Chosen One]

Heb van de week (tenminste ik denk dat het niet mogelijk zou moeten zijn) nog mijn NL paspoort gebruikt om te verifieren voor de Duitse Post & DHL app. (Wel met adres van familie)
Moest wel mijn paspoort een beetje bewegen e.d. voor de merkjes e.d.

[jaapzb]

Dat het gebruikt word voor verificatie zegt niet veel over of het wel of niet makkelijk te omzeilen is

[Z80]

Mits correct uitgevoerd is dit niet makkelijk te omzeilen.

Je moet voor de camera je hoofd en paspoort bewegen. Hierdoor zijn de verschillende beveiligingen van het paspoort zichtbaar, en je hoofd uit verschillende hoeken. Alleen met een professioneel vervalst paspoort zou je door de test kunnen komen. Alle anderen vallen direct door de mand.

[Honytawk]

Dat maakt hen niet uit.
Ze willen gewoon de data op de pas in de foto scrapen en in hun database steken.

[darkempire]

Zulke dingen moet je geweoon niet hebben... In UK wordt al behoorlijk misbruik ervan gemaakt

Het is de taak van de ouders om zulke dinge in de gaten te houden en niet de overheid of bedrijven.

[cool1971]

Misschien een idee om het met niemand te laten 'praten' over zelfdoding en gewoon een doorverwijzing naar een instantie van het betreffende land. Mensen die er echt verstand van hebben zeg maar....

[mugenmarco]

Misschien een idee om het met niemand te laten 'praten' over zelfdoding en gewoon een doorverwijzing naar een instantie van het betreffende land. Mensen die er echt verstand van hebben zeg maar....

Mensen missen de logica van een chatbot die over zelfdoding praat (neem aan dat hij de persoon juist afraad om dat te doen).

Vooral jongeren durven echt niet snel om hulp te vragen als ze zelfmoordneigingen hebben, en zijn dan veel meer open naar chatGPT om erover te praten. Als chatGPT er dan voor zorgt dat ze het niet moeten doen 'want het leven is niet zo slecht' dan is dat toch prima?

[wildhagen]

Vooral jongeren durven echt niet snel om hulp te vragen als ze zelfmoordneigingen hebben, en zijn dan veel meer open naar chatGPT om erover te praten. Als chatGPT er dan voor zorgt dat ze het niet moeten doen 'want het leven is niet zo slecht' dan is dat toch prima?

Het probleem is alleen dat chatbots/LLMs kunnen hallucineren en dan ronduit niet-kloppende zaken presenteren als de waarheid. Daar zijn zelfs al mensen door in het ziekenhuis beland zie bijvoorbeeld Dieetadvies van ChatGPT bracht hem in het ziekenhuis | UP-TO-DATE AI Webdesign

Je geeft zelf al aan dat jongeren waarde hechten aan adviezen van ChatGPT. Wat als ze zo'n advies opvolgen en het kost hun het leven?

Gevaarlijke adviezen geeft hij immers wel vaker: Onderzoek: ChatGPT geeft kinderen gevaarlijke instructies - Gazeta Express

En dit is dan ChatGPT, maar het geldt natuurijk in zijn algemeenheid voor alle soortgelijke chatbots.

Wil je dit soort risico's dan écht nemen met dit soort onderwerpen die mensen letterlijk het leven kan kosten? Mij lijkt het verre van wenselijk.

Als ze dan toch waarde hechten aan ChatGPT laat die dan het advies geven professionele hulp op te zoeken.

[Reactie gewijzigd door wildhagen op 31 augustus 2025 10:55]

[kimborntobewild]

Professionele hulp kost een hoop geld, dus wordt dat pad door velen niet gevolgd.

[Iconlast]

Dit is onjuist. Er is gratis hulp. 113 bijvoorbeeld, een ga naar de huisarts. Of vertrouwenspersoon, of buurthulp.

[Oon]

Als een huisarts je dooverwijst naar een psycholoog of psychiater (of zelf in behandeling neemt hiervoor) valt het gewoon onder je verplichte basisverzekering in Nederland. Weet niet hoe dit in België zit, maar dat lijkt me ook niet zo'n derdewereldland dat het daar meteen zelf cash betalen is?

[familyman]

Gelukkig wordt het achteraf allemaal weer een beetje getweakt en dan is alles goed... /s

Mij irriteert het lanceer maar en denken over de gevolgen later, mateloos. Ik ervaar het als crimineel nalatig.

Als dat het was, zouden deze dingen veel verantwoordelijker gebeuren

[jaapzb]

De aanname dat de chatbot ontraad om zelfmoord te plegen is incorrect. Ja, in eerste instantie doet ie dat, maar daar kan je met de juiste prompt ontzettend makkelijk omheen werken.

Zo'n LLM doet gewoon wat je graag wilt dat het doet

[wildhagen]

Een gehele blokkade op dit onderwerp, en een verwijzing naar hulpverleningswebsites en organisaties lijkt me persoonlijk een betere optie. Dit is gewoon een heel serieus onderwerp (en probleem) wat je imho niet aan een commercieel bedrijf moet overlaten, masr aan professionals die hierin opgeleid zijn.

Natuurlijk is ook dat geen garantie voor succes, maar om een of andere reden heb ik daar op dit vlak toch net even iets meer vertrouwen in dan in Meta, gezien hun toch wat minder goede trackrecord op het gebied van bescherming van mensen.

[Reactie gewijzigd door wildhagen op 31 augustus 2025 09:52]

[R_Zwart]

Dit moet je ook niet overlaten aan niet-commerciele AI/IT systemen. Zo snel mogelijk naar professionals is de enige optie. Zelf dokteren werkt nooit en al helemaal niet als je suicidaal bent.

[Ulysses]

Dat is denk ik niet houdbaar. Ik praat bovendien regelmatig met Gemini over dat ik me levensmoe voel, maar hij kent me inmiddels en zegt dan dat ik vooral eventjes rust moeten nemen - en dat klopt, want die regel kan ik er in zetten bij Google dus :-) En na voldoende slaap, rust, reinheid etc. gaat het wel weer. Denken aan de dood is kortom geen ziekte op zich. En er over praten hoeft ook niet spastisch te gaan.

[kez09]

Meta voelt zich fijner in de rol als indirect verantwoordelijk voor zelfdoding. Directe verantwoordelijkheid gaat voor hun voorlopig nog een stap te ver.

[Cybje]

En die belofte betekent concreet dat ze de system prompt hebben aangepast en gewoon hopen dat hun model dat altijd correct interpreteert?

[DefaultError]

Wat was er eerst? De FAT-Bike en dan de helmplicht. Nu loopt de regelgeving achter bij AI. Hoeveel geweld zie je wel niet als jongere. Ja het zou verstandig zijn niet te roken, drinken en drugs te gebruiken. Socials kun je er ook aan toevoegen en AI.

We (ouders)zitten en mass achter een scherm. Ik probeer zo weinig mogelijk op FB aanwezig te zijn, één keer per maand.

Helaas moeten er eerst ongelukken gebeuren voor er verandering komt. Geschiedenis herhaal zichzelf.

Off Grid spelletjes doen en een gesprek aan tafel zonder apparatuur. Iets van fatsoenlijk communiceren is al moeilijk genoeg

[Skyclad]

Wanneer iemand met een chatbot over zelfmoord begint te praten zou ik liever hebben dat de chatbot de persoon helpt met informatie over hulpinstanties dan dat het gewoon niet er over wil 'praten'. Het kan iemand zijn met chronische depressie en die niet snel die stap zal nemen, maar het kan ook iemand zijn die net iets extreem traumatisch heeft meegemaakt en geen uitweg meer ziet. Als de chatbot nog niet goed genoeg is dat hij dit kan deescaleren (en ik denk niet dat we al op dat niveau zijn) dan moet er in ieder geval contact gegevens worden aangeboden van hulpinstanties.

[Peenutzz]

Chatbots moeten met niemand praten. Hooguit met elkaar.

[Bouwer21000]

Nieuwskoppen die 30 jaar geleden nog niet bestonden...