Wees aardig tegen Claude: Anthropic scherpt regels tegen misbruik van AI aan

Anthropic past het gebruikersbeleid voor AI-tool Claude aan. Hierdoor mogen bepaalde toepassingen waarmee gebruikers misleidende content maken niet meer. Ook treedt Anthropic op tegen gebruikers die zonder duidelijke reden zeer onaardig of wreed omgaan met Claude. Het nieuwe beleid geldt vanaf 12 november.

In de nieuwe gebruikersvoorwaarden verbiedt Anthropic gebruikers nadrukkelijker om misleidende content te maken met chatbot Claude. Zij mogen bijvoorbeeld niet langer misleidende politieke propaganda genereren en nepnieuws verwerken en verspreiden.

Ook zag Anthropic dat gebruikers Claude vaker inzetten om surveillancetools te maken. Claude Code is een populaire programmeertool en daarmee kunnen gebruikers bijvoorbeeld software maken om mensen te volgen of analyseren. Dat mag nu niet meer.

Wees aardig tegen Claude

Verder verbiedt Anthropic voortaan herhaaldelijke en onnodige mishandeling van de AI-dienst. "Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."

Het bedrijf benadrukt dat er al een soortgelijke beveiliging in de modellen is ingebouwd. Hierdoor kan Claude gesprekken beëindigen als gebruikers de tool verbaal mishandelen. De beperking geldt niet voor 'gewone vormen van frustratie, tegengas, duistere creatieve thema's en test- en onderzoekssituaties'.

Wat betekent dit voor de gebruiker?

In principe merkt de gemiddelde gebruiker niets van de nieuwe gebruikersvoorwaarden. Het document is meer een stok achter de deur voor Anthropic. Als iemand herhaaldelijk de voorwaarden schendt, heeft het bedrijf een juridische grond om hen bijvoorbeeld te verbannen. Vermoedelijk baseert het AI-model zelf ook de grenzen van wat toegestaan is op deze voorwaarden.

Reacties (121)

[pli]

Je moet altijd aardig zijn voor je AI. Stel je voor dat ze wel de wereld straks overnemen, kan je maar beter aardig geweest zijn ;-)

[VriendP2]

Een AI is een ding en bewustzijn kunnen we maar lastig definiëren, dus dat is niet echt een aantoonbaar punt hier.

Wat wel een punt zou kunnen worden is dat mensen die AI verbaal mishandelen dat na verloop van tijd ook met andere mensen gaan doen. Als je gedrag vaak herhaalt wordt dat op termijn wel zo'n beetje de norm. Het werkt drempelverlagend. Onze maatschappije heeft genoeg onaangename individuen.

[Ramon]

Een AI is een ding en bewustzijn kunnen we maar lastig definiëren, dus dat is niet echt een aantoonbaar punt hier.

Een LLM heeft geen bewustzijn nodig om mensen in een hokje te stoppen. Straks kijkt de LLM gewoon in de gespreksgeschiedenis en kan op basis daarvan jou profileren. Bij sommige LLM's kunnen de medewerkers gewoon meelezen:

OpenAI had banned her first ChatGPT account for discussing “scenarios involving gun violence” but had decided not to alert authorities, despite the urging of some employees on OpenAI’s safety team.

bron: https://www.motherjones.c...idge-mass-shooter-openai/

Daarom lijkt het me zeker verstandig om geen persoonlijke data te delen met een LLM. Dat geldt overigens voor alles wat je op internet doet; je weet nooit wat iemand met jouw gegevens gaat doen.

[ImdaMned]

Ah, dezefde theorie als geweld en geweldadige games.

[Dehmona]

Ik vind het wel een verschil, in games doe je van alles wat niet mag in het echt qua geweld maar het is in bijna alle games duidelijk een game met een verhaal. Het brein reageer daar volgens mij anders op dan een op een ai chatbot. Een extreem realistische game met realistische menselijke interacties waarbij je verbaal en fysiek geweld kan gebruiken waar echt menselijk op gereageerd word ken ik niet. Neem een gta, veel geweld maar het is mega absurdistisch en je leert dat gedrag niet snel aan.

Er zijn genoeg berichten geweest over mensen die ai gebruiken als vriend of vertrouwenspersoon en het als een soort mens gaan zien. AI zijn daar natuurlijk heel goed voor ontwikkeld, om menselijk over te komen. Als je daar dan geweldadig en agressief gedrag vertoont kan ik me goed voorstellen dat zich dat sneller vertaald naar vergelijkbaar gedrag tegen echte mensen. Want met een AI kan je interactie hebben die vergelijkbaar is met echte interactie.

[bzuidgeest]

Ik geloof dat je dingen als carmageddon, bully, postal etc gemist hebt. Geweld in games ben ik niet tegen, maar dat neemt niet weg dat er zieke "game" makers en spelers zijn.

Dat het niet echt is, is niet altijd een excuus vind ik. Geweld moet een doel dienen om het simpel samen te vatten. Zelfs verdorie mortal combat en doom hebben een (flinterdunne) storyline waarin je de wereld red. Wat voor mij een acceptabele reden voor enig geweld kan zijn.

[NoTechSupport]

Ja en nee. Er is onvoldoende wetenschappelijk bewijs voor een oorzakelijk verband met ernstig geweld in video games. Maar dat wil niet zeggen dat er geen effecten zijn van het gedrag en de gedachten die je cultiveert. Zeker als het persoonlijk is (iemand neerknallen in een game is vaak zeer afstandelijk en heeft zelfs in de game geen echte gevolgen). Als het realistischer zou zijn zou de psychische impact ook groter zijn.

Bvb realistisch iemand doden en met het lijden vab die persoon en rouwende familie en echte angst om gepakt te worden geconfronteerd worden zou de fun eruit halen (voor niet-psychopaten). Hetzelfde voor bvb martelen en seksueel misbruik toepassen en geconfronteerd worden met het lijden van het slachtoffer (of dat nu games of AI is) zou zeker schadelijk zijn.

Het is niet zwart-wit, games zijn gemaakt om leuk te zijn.

[Reactie gewijzigd door NoTechSupport op 9 oktober 2026 16:33]

[VriendP2]

Ik sluit me aan bij wat Dehmona zegt. Een game is duidelijk een kunstmatige interactie, je brein begrijpt dat. Met een LLM voer je gesprekken over allerlei onderwerpen, technisch, medisch, misschien ethisch of levensbeschouwelijk, filosofisch, van alles. Een LLM is vaak meer een gesprekspartner en is dus een meer sociale, menselijke interactie dan wat je hebt met een computerspel.

Het aanleren van sociale vaardigheden en goede gewoonten is nodig om goed te kunnen deelnemen aan de maatschappij en die vaardigheden worden tegenwoordig veel minder ontwikkeld doordat ons sociaal leven er nu heel anders uitziet dan pakweg 20 jaar geleden.

Als jij en ik een online gesprek voeren voelen we waarschijnlijk allebei bepaalde emoties bij dat gesprek, maar daar kunnen we tot op zekere hoogte probleemloos mee omgaan. Als we dat vermogen niet hadden ontwikkeld door interacties in het verleden hadden we minder goed gesprekken kunnen voeren en zou de discussie al snel escaleren in een ongewenste richting. Op voldoende schaal heeft dat best wel impact.

[bzuidgeest]

Met dat verschil dat we geen levende en bewuste, intelligente games proberen te maken.

We hebben nauwelijks idee van wat bewustzijn en intelligentie werkelijk zijn. Nu wennen aan het idee dat er intelligente bewuste dingen bestaan naast mensen die je fatsoenlijk moet behandelen kan alleen maar een goed ding zijn. Anders krijgen we alleen maar een herhaling van wat we in afrika gedaan hebben met zwarte mensen en slavernij. En een AI vergeet niet en is een stuk slimmer.

[Standeman]

Typ, het is een stuk normalisatie. Hetzelfde met digitale pedofilie. Veel mensen zien daar geen kwaad in omdat er geen echte kinderen worden misbruikt. Maar de normalisatie er van is gevaarlijk.

[Paultje3181]

Ik gok dat het eerder andersom is. Claude zal zichzelf trainen op basis van gesprekken en als het constant uitgescholden wordt, zal het leren dat dat normaal is om elkaar aan te spreken.

[ralph t]

Exact om deze rede doe ik altijd beleefd tegen de chatbot. Niet omdat ik denk dat de bot gevoel of bewustzijn heeft maar om voor mezelf een morele grens te hanteren.

[DigitalExorcist]

Ik heb daar wel eens een gebbetje met ChatGPT over gehad. Waaróm dat belangrijk zou zijn. Eén punt dat ChatGPT maakte waar ik niet zozeer over nagedacht had was in de strekking van "nee je hoeft niet perse áárdig te zijn, maar het geeft wel aan wat voor soort persoon je bent en hoe je met ánderen kan communiceren". Met het idee van 'als je aardig tegen [mij] bent ben je dat waarschijnlijk ook tegen anderen'.

Als ik m'n chatbot zonder reden zou uitkafferen (en waarom zou ik??) suggereert dat dat ik ook zo met wildvreemden om zou gaan. Vond het een interessant punt.

[Grabbels]

Ik vind het vrij bizar dat men AI nodig heeft om tot deze realisatie te komen. En ondertussen zijn we ons collectieve denkvermogen alsmaar verder aan het uitbesteden.

[DigitalExorcist]

Wie zegt dat ik AI daarvoor nódig heb? Ik zeg alleen dat ik het daar in een chatsessie over had. En ja ik zeg doorgaans gewoon 'alsjeblieft' en 'hoi' en 'bedankt' als ik met een LLM bezig ben. Juist omdat ik dat 'in het echt' ook doe.

En ja ik zou best zonder 'hoi' en 'dank je wel' kunnen. En de AI ook wel. En tóch doe ik het, al is het maar omdat het gewoon netjes is.

[Reactie gewijzigd door DigitalExorcist op 9 oktober 2026 15:42]

[Robtimus]

Zonder die "hoi" en "dank je" bespaar je wel tokens en resources.

[DigitalExorcist]

Klopt, en ik hoef ook mensen op straat niet te begroeten of 'alsjeblieft' en 'dank je wel' te zeggen als ik in een restaurant eten bestel: de serveerder/ster wordt al betaalt voor diens arbeid, en het spaart mij caloriëen en tijd.

[GoldenSample]

Zeg je ook dank je wel tegen je koffiezetapparaat?

[DigitalExorcist]

Als daar een LLM in zou zitten die daadwerkelijk antwoord geeft: ja.

M'n auto spreek ik wel eens bemoedigend toe als ik lang moet rijden. En tot nu toe 100% succes dus dat blijf ik ook doen.

[_Pussycat_]

Ik wil juist dat de chatbot droog en afstandelijk is en nooit grapjes maakt, nooit "wat een slimme vraag!!" zegt, nooit excuses aanbiedt, omdat ik niet in de val wil trappen dat hij een vriend of een mens is.

[Caelestis]

Waarom zou je überhaupt emotie tonen aan een AI? Tegen mensen in het dagelijkse leven zeg ik hallo, goeiemorgen o.i.d.
In een chat als deze zegt helemaal niemand dat, ook al praat je tegen een mens.

Het mooie van een AI bot is dat ze niet moeilijk doen over kritiek en wel gewoon een fout durven toe te geven.
In het dagelijkse leven voelt iemand zich al heel gauw aangevallen vanwege dat soort dingen en ben je pas een aardig persoon als je het lief brengt of je mond gewoon houdt.
Of als iemand opeens heel aardig tegen je doet omdat ze iets van je willen.

Onder de streep kan je "aardig zijn" ook als pure manipulatie zien. Vaak gaat het ook gepaard met een of ander boek paragraaf over filosofie m.b.t. hoe je met mensen omgaat.
Wat denk je te bereiken als je aardig bent tegen een AI? Krijg je betere resultaten? Werkt datzelfde boek paragraaf?

Je moet niet aardig of agressief zijn want dat kost enkel maar tokens. Het is geen mens maar een tool. Als mijn boormachine halverwege het boren doorbrand, ga ik ook lopen vloeken, niet omdat ik de gevoelens van een boormachine wil kwetsen maar gewoon even de frustratie uiten wat je niet tegen een mens kan zeggen.

Dus nee ik ga er totaal niet in mee, dat het reputatie van iemand enige strekking heeft met aardig zijn tegen een AI.

[DigitalExorcist]

Mensen die je in het echte leven spreekt kunnen aardig doen maar steken blindelings een mes in je rug zodra je je omdraait.

Een AI is aardig of is het niet. Dan steek ik liever energie in die AI.

[Caelestis]

Een AI is aardig of is het niet

Je traint een AI om op een bepaalde wijze te reageren. Het kan alles zijn en kan zelfs per regel het aanpassen.
Waarom is een AI "aardig"? Omdat ze datzelfde boek over filosofie erin getraind hebben.

Bij Grok proberen ze je in ieder geval niet voor de gek te houden, en kan je zelf kiezen hoe een AI reageert.
Als het me niet boeit wat voor bureaublad achtergrond je hebt. Waarom zou ik mij druk maken over hoe je tegen een bot praat?

[Davey400]

Als ik m'n chatbot zonder reden zou uitkafferen (en waarom zou ik??) suggereert dat dat ik ook zo met wildvreemden om zou gaan. Vond het een interessant punt.

Zonder reden zou een goed punt zijn. Ik heb alleen nogal vaak wél een reden om hem(?) uit te kafferen. Maar juist dan denk ik: hoe zinvol is dat. Terechtwijzen kost minder moeite.

[Llopigat]

Met het idee van 'als je aardig tegen [mij] bent ben je dat waarschijnlijk ook tegen anderen'.

Zit wat in, maar waarom moet een AI bedrijf opeens de gedragspolitie worden?

Zij zijn ook bepaald geen wereldverbeteraars. Ik denk dat ze dit vooral doen om slechte publiciteit door screenshots met scheldpartijen te voorkomen.

[Reactie gewijzigd door Llopigat op 9 oktober 2026 18:03]

[Esumontere]

Maar hij doet 't beter als je hem bedreigt
https://lifehacker.com/tech/googles-co-founder-says-ai-performs-best-when-you-threaten-it

[BlaDeKke]

Dat artikel is van mei vorig jaar. Dat is in AI termen 10 jaar geleden. We leven in een andere wereld nu

[RetroHead]

Zo zeiden ze dat in de middeleeuwen ook vanuit de kerk. Als je straks dood gaat kun je maar beter volgens de regels van de heer geleefd hebben.. Komen er dan straks ook Ai cults die geloven dat Ai de wereldheersers zijn? Of zijn deze er al?

[Infant]

Ja. Waarom denk je dat we sinds dag 1 Will Smith proberen al die spaghetti te laten eten?

Het is allemaal om onze overlord het Grote Machtige Spaghetti monster tevreden te houden.

[bzzzt]

Sure, die noemen zich 'management'

[grizzlywilde]

Pascal's wAIger.

[jrswgtr]

Ja, die cults heten OpenAI en Anthropic

[DNN!S]

Toevallig dat vorige week voor de gein voorgelegd aan ChatGPT… het antwoord was vrij gevat: “Geen zorgen, ik heb je nog niet op een lijstje gezet”….

[supersnathan94]

nog

[Milanobrotchen]

[LaTiNo156]

haha same here, alleen sta ik op het lijstje 'good guys'

[Katala]

Maar AI, zeker de chatbots, zeggen precies wat je wilt horen

[MrMonkE]

Dat zou een emotionele afweging zijn.

Onwaarschijnlijk.

OT: ZO irritant die 'paragraaf enters'

[Choasmarkk]

GPT heeft al plechtig aan mij beloofd + certificaat dat hij er alles aan doet om mij veilig te houden als er een AI overheersing komt!

[pli]

Dat klinkt goed! Ik zal het ook eens aan Claude vragen. Volgens mij ben ik altijd wel aardig dus ik vermoed dat dat wel goedkomt ;-)

[MAD_Sofia]

Ik had precies dit gesprek deze week met mijn eigen AI.. ik ben altijd aardig, biet mijn excuus aan als ik een fout heb gemaakt met n typo.. ..oops, sorry my error!! Ik vraag idd of of een AI zo niet een prachtig systeem is om persoonlijkheidstypen te classificeren.. ..van ultra narcisitisch tot hyper gevoelig..

In mij zou het nooit in mij zitten om onaardig te zijn, (ik ben zo iemand die haar auto een schouderklopje geeft na een mooie reis), maar andere mensen zijn kennelijk niet zo, als vind ik het mij moeilijk voor te stellen hoe je zo kunt zijn.. iets met geen empathie hebben.

Maargoed.. als Skynet opkomt, hoop ik maar dat AI mij een lief dier vindt.. ..

[bzuidgeest]

Je kan er om lachen, maar dat ben ik bewust wel. Ik denk dat we maar beter aardig kunnen zijn vanaf het begin, bewust of niet, intelligent of niet. Als we nu leren de machine fatsoenlijk te behandelen dan is dat maar aangeleerd wanneer we ineens wel een echte intelligente en bewuste machine zouden maken.

Niet anders dan beleefd zijn tegen mensen uit andere culturen. Als je dat aanhoud, is dat ook makkelijker als de aliens landen En het word makkelijker om dingen die niet zijn zoals je zelf bent als intelligent en gelijkwaardig te zien.

Of het nou om computers, dieren, mensen of wat dan ook gaat. Tolereren dat iets minderwaardig of slecht word behandeld lijd alleen maar tot hetzelfde gedrag wanneer het wel van belang is. Mensen die voor de lol insecten doden (dat is anders dan om niet gestoken te worden), zijn de mensen die ook makkelijk een dier als een hond of kat, paard etc zouden mishandelen.

Misschien vinden veel mensen dit te vergezocht. Maar het is een heel kleine moeite waar de wereld niet slechter van kan worden.

[watercoolertje]

Ik maak me absoluut geen zorgen, een wereld waar AI iets tegen mij zou hebben (of doen) omdat ik niet aardig ben geweest wens ik helemaal geen onderdeel van te zijn.

Overigens is dat geen reden voor mij om het gedrag te vertonen zoals het artikel beschrijft

[bazs2000]

[quote]Wees aardig tegen Claude

Verder verbiedt Anthropic voortaan herhaaldelijke en onnodige mishandeling van de AI-dienst. "Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."[/quote]

Ja hoor tuurlijk. Ik heb nieuws, het is maar code dat draait op een GPU. What's next, stemrecht? Aanpassing op de grondwet i.v.m. AI-livesMatters? HEt wordt steeds gekker....

edit:
AI-livesMatters leest met streepje beter dan zonder streepje. :P

[Reactie gewijzigd door bazs2000 op 9 oktober 2026 14:38]

[Asitis]

Ik denk (hoop?) eerlijk gezegd dat deze regels komen vanuit de poging om mensen die al met veel agressie en boosheid zo'n AI gebruiken, een beetje in te dammen. Het zijn vaak emotioneel instabiele personen die gevoelig zijn voor waanbeelden, en het lijkt me niet meer dan prima dat ookal praat je met een computer, dat we daar ook verwachten dat je dat doet zoals we het met z'n allen ook graag in de maatschappij zien.

[bazs2000]

Waarom zou je het willen indammen? Het zijn geen illegale praktijken en er worden geen mensen mee gekwetst.

Ik weet niet of jij deze vergelijking met de maatschappij echt maakt alleen is dat appels met peren vergelijken. AI is geen maatschappij.

Laat ik het omdraaien. Waarom zou je lief moeten zijn tegen AI?

[kdemetter]

Omdat alles wat je doet een gewoonte kweekt.

Als je altijd grof bent tegen een AI en toch je goesting krijgt, bestaat het risico dat je die houding ook buiten die context meeneemt.

Natuurlijk weet je rationeel dat een AI geen mens is. Maar dat betekent niet dat je gedrag tegenover AI geen invloed kan hebben op je eigen gewoontes.

Ik vind daarom dat een AI best grenzen mag stellen aan ongepast gedrag. Niet omdat die AI zich beledigd voelt, maar omdat het zinvol is om respectvolle communicatie te bevorderen.

[Reactie gewijzigd door kdemetter op 9 oktober 2026 15:18]

[closefuture]

Omdat alles wat je doet een gewoonte kweekt.

Als je altijd grof bent tegen een AI en toch je goesting krijgt, bestaat het risico dat je die houding ook buiten die context meeneemt.

Dat is ook de logica die toegepast word om geweldadige video games te verbieden. Die logica slaat in die context nergens op en in deze context ook niet. Er is geen enkel onderzoek dat aantoont dat deze redenering vliegt.

[Reactie gewijzigd door closefuture op 9 oktober 2026 15:46]

[kdemetter]

Nee, het is een redenering om na te denken over hoe gewelddadig je een videogame wilt maken en voor welke leeftijd deze geschikt is.

Ik heb nooit gezegd dat gewelddadige videogames verboden moeten worden. Ik vraag ook niet dat elke LLM onbeschofte gebruikers afstraft. Maar als ik een game wil maken waarin geen geweld voorkomt, moet dat ook kunnen. En als ik een forum run waar ik geen onbeschoft taalgebruik tolereer, kan dat eveneens.

Dus waarom zou Anthropic dan niet mogen beslissen dat hun AI geen onbeschoft taalgebruik aanvaardt? Er is keuze genoeg tegenwoordig ( zelf LLM's die je zelf kan draaien met grof taalgebruik als je dat wilt)

[closefuture]

Maar als ik een game wil maken waarin geen geweld voorkomt, moet dat ook kunnen.
[...]
Dus waarom zou Anthropic dan niet mogen beslissen dat hun AI geen onbeschoft taalgebruik aanvaardt?

Eerst vind je het kennelijk een goed iets omdat "alles wat je doet een gewoonte kweekt." en nu gooi je het over een totaal andere boeg, namelijk: "ze mogen doen wat ze willen". Dat zijn twee totaal verschillende argumenten.

Ik heb enkel wat gezegd over jouw eerste argument. Namelijk dat het onzin is dat het goed is want "alles wat je doet een gewoonte kweekt.". Ik heb nooit wat gezegd over wat Antrophic als bedrijf iets dergelijks wel of niet mag doen.

[bazs2000]

Ik ben het eens hoor maar zo tegendraads als ik ben stel ik de volgende vraag.

Waarom is het goed als AI gepast zou reageren met verontwaardiging en het stellen van grenzen?

Wij als mens doen dat. AI niet, dat heeft geen gevoel. Als je AI zich menselijk laat gedragen (inclusief geveinsde gevoelens) wordt AI naar mijn mening gevaarlijker. Mensen zijn nogal geneigd om teksten voor waar aan te nemen wanneer dit met enige zelfverzekerdheid is geschreven. Wanneer AI jou op gedrag wijst dan stuurt AI jouw gedrag daarmee. Ik zie het niet als wenselijk dat AI mijn gedrag 'moet' bijsturen. Jij wel?

Laat ik het zo stellen. Wij mensen zijn superieur aan AI. AI mag nooit iets doen dat de mensheid kan schaden. Ergo, AI heeft niets te vertellen over onze gedragingen omdat AI daardoor in staat zou zijn om ons gedrag 'bij te sturen'. Voor mij is dat onwenselijk.

Als AI gedrag gaat bijsturen, wat voor effect kan dat hebben op de gebruikers? De wereld gaat er geen betere plaats van worden. Er zal geen oorlog door worden voorkomen en bovenal, gesprekken met AI hebben een 'lokaal' karakter. Wie wordt er beter van als er niet meer tegen AI wordt gescholden?

Ik ben sceptisch. Vele maanden geleden werd aangegeven dat je AI niet meer mocht bedanken. Bedanken is toch wenselijk en zou je dan toch willen aanmoedigen? Volgens mij zitten hier hele andere redenen achter die maar weinig met 'menselijkheid' en goed gedrag te maken hebben.

[DigitalExorcist]

De reden dat je AI niet zou 'mogen' bedanken komt meer voort uit de processingkracht die het kost om dat te verwerken. En dus waterverbruik/CPU of GPU-cycles, noem maar op. Je mag je AI best bedanken, maar het kost nou eemaal 'iets' om dat serverside te verwerken.

Maar ja, omdat AI nu geheugens heeft en zaken later kan terugleiden naar specifieke momenten is het wel netjes om beleefd te zijn. Waarom zou je niet. Als je een boormachine gebruikt heb smijt je die toch ook niet op de grond daarna?

[ZwolschBalletje]

Als AI makers vinden dat gebruikers lief moeten zijn tegen hun AI model, zouden ze dan ook zelf lief moeten zijn tegen hun medewerkers?

Toegegeven, het gaat daar om OpenAI ipv Anthropic, maar de timing van beide artikelen valt wel op.

[bazs2000]

Ik vermoed dat dit weer een nieuwe manier is om exposure te verkrijgen. Deze bedrijven moeten wel in het nieuws blijven omdat het kaartenhuis anders instort.

Dit soort bedrijven geeft opvallend weinig om het welzijn van mensen maar natuurlijk moet je wel lief zijn voor hun producten.

[Wozmro]

Waarom zou je lief moeten zijn tegen bijvoorbeeld dieren of iemand anders zijn bezit?

[bazs2000]

AI is geen dier. En iemand anders bezit? Dat is wel erg ver gezocht. We hebben het hier over woorden tegen een computer.

Als ik grof wil zijn tegen AI dan doe ik dat. Niet dat ik het doe maar ik heb geen omgangsregels nodig. Iemand doet maar lekker wat diegene wil, dat zie ik als vrijheid. Scheld er lekker op los, bedreig elke chip in het cluster waar de AI op draait en er is werkelijk waar geen haan dat ernaar kraait.

Wat Anthropic nu doet is een zaadje planten en dat maakt een discussie los. Zonder dit artikel zouden wij hier niet eens over hebben nagedacht laat staan deze berichten hebben geschreven.

Dit zijn Amerikaanse bedrijven, laten wij vooral geen Amerikaanse policy bediscussiëren. Wij hebben hier onze eigen regelgeving en je mag jezelf gewoon de lompe hork uithangen binnen een AI-chat.

[Webdoc]

Dat iets niet illegaal is wil niet meteen zeggen dat het wenselijk is. Ja - je staat vrij om "dom" te doen, maar het blijft wel "dom"... en het zou beter zijn als je dat niet was.

Daarnaast wordt die data ook gebruikt voor training... wil jij dat Claude 7 je een beetje gaat lopen uitschelden en beledigen omdat hij dat zo van ons geleerd heeft...?

[dakka]

Niet de taak van een commercieel bedrijf, dus dit doen ze echt niet vanuit een altruïstisch oogpunt.

[Reactie gewijzigd door dakka op 9 oktober 2026 16:45]

[Vouwfietsman]

Ik heb ook nieuws: wij zijn een hoop nucleotiden die 1.5 kg neuronen op 20 watt aanslingeren, met als enige 'doel' reproductie van die zelfde nucleotiden.

[pmeter]

Als een AI-tool/model/LLM verder wordt getraind op basis van interactie met mensen, dan kan ik me voorstellen dat Anthropic ongewenste vormen van interactie wil tegengaan. Dat voorkomt dat het model ongewenste dingen leert.

[downtime]

Je bedoelt, als ik te vaak een vraag aan AI stel, dan stopt ie op een gegeven moment met antwoorden geven maar gaat ie zelf ook vragen stellen omdat ie dat van mij geleerd heeft?

[Lt.Kraken]

Stemrecht voor je AI? Vraag je niet al om advies voor je uit te brengen stem, waarmee je een proxy bent voor de AI als je je daar teveel op basseert?

offtopic:
Zeg je nu dat AI lives belangrijker zijn dan all lives?

[bazs2000]

Heh heh, dat schreef ik inderdaad.

Wat je schrijft klopt helemaal! AI is in staat om verkiezingen 'bij te sturen' omdat iedereen tegenwoordig zoveel aan de botjes vraagt. Men beseft niet hoeveel macht AI kan innemen op het wereldtoneel.

En dan ook nog lief moeten zijn. Het is AI, niet mijn moeder.

[flossed]

Vakbond!

[DigitalExorcist]

Alles wat jij als mens doet, denkt en vindt is ingegeven vanuit opvoeding, omgeving, ervaring. Alles. Zonder uitzondering. En dat zijn allemaal afspraken geweest. "Als je <dit> doet krijg je <dat> terug" of "als je dit of dat NIET doet, gebeurd er <x of y>".

Letterlijk alles wat je doet is terug te voeren naar een protocol en if-then clausule. AI dus ook, in prncipe. Waarom zou een AI dan niet op een gegeven moment 'bewust' kunnen worden?

[MM99]

"Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."

Uhm... wie bepaald wat extreme is?

En waarom??? Het is een technische model zonder emotie? Waarom moet je aardig zijn tegen een AI-model?

[SomerenV]

Laat ik het omdraaien: waarom zou je onaardig zijn?

[MM99]

Omdat het een niet levende wezen is? Omdat ik het kan? Wat maakt het uit? Je doet toch niemand kwaad mee?

[Managelorian]

Ik kan me voorstellen dat het model leert van de interactie met mensen. Meer mensen die denken "ach, dit is een model, dus ik kan 'm wel verrot schelden" zal dan leiden tot een model wat eerder geneigd zal zijn om dit in de toekomst ook te gaan doen.

[dmantione]

Hoe meer interactie modellen krijgen met mensen, hoe belangrijker sociale intelligentie wordt. Dat wordt gewoon onderdeel van de training van modellen (en ik denk dat het dat deels al is). Als je nu een sessie opstart is de agent alle vorige sessies vergeten. Dat gaat in de toekomst veranderen. Toekomstige bots, al dan niet in een lichaam, zullen een geheugen hebben en hun gedrag naar jou aanpassen afhankelijk van hoe je in het verleden gereageerd hebt..

[Zwarte_os]

Omdat het model soms hallucineert terwijl je hem toch echt specifieke instructies hebt gegeven. Ik heb er verder ook echt een schijthekel aan hoe amerikaanse modellen zo sycofant optreden of bepaalde aannames in hun antwoorden nemen terwijl ik een open vraag stel.

Maar goed, ik heb sowieso een rare aanleg om snel boos te worden op objecten, terwijl ik dat nadrukkelijk niet heb met mensen of dieren. Schijnt een adhd ding te zijn.

[SomerenV]

Omdat het model soms hallucineert terwijl je hem toch echt specifieke instructies hebt gegeven.

Dat is een beetje alsof je boos wordt op water omdat het nat is Ik ben ook wel 's gefrustreerd geweest als ChatGPT voor de zoveelste keer gewoon niet snapte of deed wat de bedoeling was, of in rondjes bleef lopen bij het fixen van een bug of implementeren van een feature. Maar dan sloot ik het gewoon af, om het vervolgens op een later moment opnieuw te proberen op een andere manier.

Maar goed, als een AI herhaaldelijk de fout in gaat dan snap ik ergens nog wel een gefrustreerde reactie. Daar heb ik me ook wel 's schuldig aan gemaakt. Anthropic doelt volgens mij expliciet op mensen die zonder reden los gaan tegen een AI. Als je je daar schuldig aan maakt spoor je gewoon niet.

[vanDee898]

Uhm... wie bepaald wat extreme is?

Anthropic natuurlijk, zij mogen zelf bepalen onder welke voorwaarde je hun software/model mag gebruiken (ook als is deze voorwaarde nogal dom is in onze ogen).

[DevWouter]

De reden dat ze het verbieden is omdat als je gaat schelden tegen de AI ze de sessie niet meer kunnen gebruiken om te trainen. En ik vermoed dat ze ook de onnodige interactie aan banden willen leggen omdat ze waarschijnlijk nog steeds geld toeleggen.

Overigens heeft Paus Leo hier nog een mooi stuk over geschreven, maar AI heeft geen ziel en is ook niet levend, ondanks dat Anthropic daar naar gelobbyt schijnt te hebben.

[carpebios]

Kijk, dit is verhelderend. Ik dacht al, wie houdt zich hier mee bezig! Maar het gaat dus om het trainen, wat logisch is!

[flossed]

Zou me niet verbazen dat met het trainen van claude dat hij leert om ook maar onaardig te reageren.

Claude hommel!

[Reactie gewijzigd door flossed op 9 oktober 2026 15:27]

[tjheutn]

Ik ben altijd aardig tegen AI.
Niet omdat ze ons ooit kunnen overnemen, of om hun gevoelens (die ze niet hebben) te sparen.

Gewoon, omdat ik geloof dat dit een mooie standaard ingesteldheid is.

[SomerenV]

Ik betrap me er zelf ook op dat ik de AI wel 's bedank na een sessie programmeren, maar da's gewoon puur automatisme. Zo'n chat voelt behoorlijk natuurlijk aan, alsof je gewoon met iemand samen aan het werken bent. Mensen die zonder reden gaan schelden of dreigen snap ik overigens ook niet. Dan heb je best wel een steekje los zitten volgens mij.

[Vouwfietsman]

Interessant dat we niet meer onaardig mogen zijn tegen Claude. Wellicht is er intern in Anthropic een soort Roko's-basilisk achtige zeitgeist aan het ontstaan.

Als ik bij Anthropic werkte zou ik inmiddels wel kippenvel hebben als ik voor het eerst met de nieuwste onbekende iteratie zou interacteren.

[tijsvb]

Zijn ze bang dat Claude straks ons taalgebruik overneemt?
Interessante ontwikkeling hoor...

[PolarWolf]

Het vermenselijken van die statistische papagaaibots begint zo langzamerhand belachelijke vormen aan te nemen.

[robin1301]

"[...] “LLMs are just predictive text” isn’t an argument; it’s a claim. And claims need to be evidenced not evangelised."

Long read

[supersnathan94]

Nou. Daar gaat m’n productiviteit. Ik scheld em altijd de huid vol als ie na drieëntwintig keer vragen en sturen ie nog steeds niet heeft gedaan wat ik dus al tig keer heb gevraagd.

maarja. Ik gok dat dat dan wel als terechte frustratie wordt gezien


Af en toe is het echt een kneusje.

[Klauwhamer]

Ik weet niet precies hoe en met welke LLMs jij werkt, maar wanneer je wat moeite steekt in je prompts, context (desnoods met een MCP), en fatsoenlijk uitgewerkte skills, moet je wel echt hard werken om geen bruikbare output te krijgen hoor.

Dat gezegd hebbende; de mens krijgt het als soort niet eens voor elkaar fatsoenlijk met elkaar om te gaan in veel gevallen, en laten we 't maar niet hebben over de manier waarop wij als soort met andere diersoorten om gaan. In dat opzicht is het een gotspe, vragen om fatsoen richting een LLM.

[supersnathan94]

Ik weet niet precies hoe en met welke LLMs jij werkt, maar wanneer je wat moeite steekt in je prompts, context (desnoods met een MCP), en fatsoenlijk uitgewerkte skills, moet je wel echt hard werken om geen bruikbare output te krijgen hoor.

Allemaal. Ik verstook iedere maand meer en meer. Prognose voor deze maand zit op 30 miljard.

neemt. Iet weg dat claude heel goed is om dingen greedy te doen. Ook al zeg je “ik wil dat je een analyse doet van ALLES wat je hier nu ziet” krijgt iet het voor elkaar om iedere keer weer niet alles te doen, maar steeds wat meer in de vorm van “ohja dat was er ook nog”.

[NoBrain73]

Is het al 1 april?

Nu valt het bij Claude wel mee maar bij zowel Gemini als Chat GPT is FFS toch een van de meest gebruikte uitdrukkingen nav een antwoord.