Wees aardig tegen Claude: Anthropic scherpt regels tegen misbruik van AI aan

Anthropic past het gebruikersbeleid voor AI-tool Claude aan. Hierdoor mogen bepaalde toepassingen waarmee gebruikers misleidende content maken niet meer. Ook treedt Anthropic op tegen gebruikers die zonder duidelijke reden zeer onaardig of wreed omgaan met Claude. Het nieuwe beleid geldt vanaf 12 november.

In de nieuwe gebruikersvoorwaarden verbiedt Anthropic gebruikers nadrukkelijker om misleidende content te maken met chatbot Claude. Zij mogen bijvoorbeeld niet langer misleidende politieke propaganda genereren en nepnieuws verwerken en verspreiden.

Ook zag Anthropic dat gebruikers Claude vaker inzetten om surveillancetools te maken. Claude Code is een populaire programmeertool en daarmee kunnen gebruikers bijvoorbeeld software maken om mensen te volgen of analyseren. Dat mag nu niet meer.

Wees aardig tegen Claude

Verder verbiedt Anthropic voortaan herhaaldelijke en onnodige mishandeling van de AI-dienst. "Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."

Het bedrijf benadrukt dat er al een soortgelijke beveiliging in de modellen is ingebouwd. Hierdoor kan Claude gesprekken beëindigen als gebruikers de tool verbaal mishandelen. De beperking geldt niet voor 'gewone vormen van frustratie, tegengas, duistere creatieve thema's en test- en onderzoekssituaties'.

Wat betekent dit voor de gebruiker?

In principe merkt de gemiddelde gebruiker niets van de nieuwe gebruikersvoorwaarden. Het document is meer een stok achter de deur voor Anthropic. Als iemand herhaaldelijk de voorwaarden schendt, heeft het bedrijf een juridische grond om hen bijvoorbeeld te verbannen. Vermoedelijk baseert het AI-model zelf ook de grenzen van wat toegestaan is op deze voorwaarden.

Reacties (175)

[pli]

Je moet altijd aardig zijn voor je AI. Stel je voor dat ze wel de wereld straks overnemen, kan je maar beter aardig geweest zijn ;-)

[VriendP2]

Een AI is een ding en bewustzijn kunnen we maar lastig definiëren, dus dat is niet echt een aantoonbaar punt hier.

Wat wel een punt zou kunnen worden is dat mensen die AI verbaal mishandelen dat na verloop van tijd ook met andere mensen gaan doen. Als je gedrag vaak herhaalt wordt dat op termijn wel zo'n beetje de norm. Het werkt drempelverlagend. Onze maatschappije heeft genoeg onaangename individuen.

[Ramon]

Een AI is een ding en bewustzijn kunnen we maar lastig definiëren, dus dat is niet echt een aantoonbaar punt hier.

Een LLM heeft geen bewustzijn nodig om mensen in een hokje te stoppen. Straks kijkt de LLM gewoon in de gespreksgeschiedenis en kan op basis daarvan jou profileren. Bij sommige LLM's kunnen de medewerkers gewoon meelezen:

OpenAI had banned her first ChatGPT account for discussing “scenarios involving gun violence” but had decided not to alert authorities, despite the urging of some employees on OpenAI’s safety team.

bron: https://www.motherjones.c...idge-mass-shooter-openai/

Daarom lijkt het me zeker verstandig om geen persoonlijke data te delen met een LLM. Dat geldt overigens voor alles wat je op internet doet; je weet nooit wat iemand met jouw gegevens gaat doen.

[ImdaMned]

Ah, dezefde theorie als geweld en geweldadige games.

[Dehmona]

Ik vind het wel een verschil, in games doe je van alles wat niet mag in het echt qua geweld maar het is in bijna alle games duidelijk een game met een verhaal. Het brein reageer daar volgens mij anders op dan een op een ai chatbot. Een extreem realistische game met realistische menselijke interacties waarbij je verbaal en fysiek geweld kan gebruiken waar echt menselijk op gereageerd word ken ik niet. Neem een gta, veel geweld maar het is mega absurdistisch en je leert dat gedrag niet snel aan.

Er zijn genoeg berichten geweest over mensen die ai gebruiken als vriend of vertrouwenspersoon en het als een soort mens gaan zien. AI zijn daar natuurlijk heel goed voor ontwikkeld, om menselijk over te komen. Als je daar dan geweldadig en agressief gedrag vertoont kan ik me goed voorstellen dat zich dat sneller vertaald naar vergelijkbaar gedrag tegen echte mensen. Want met een AI kan je interactie hebben die vergelijkbaar is met echte interactie.

[bzuidgeest]

Ik geloof dat je dingen als carmageddon, bully, postal etc gemist hebt. Geweld in games ben ik niet tegen, maar dat neemt niet weg dat er zieke "game" makers en spelers zijn.

Dat het niet echt is, is niet altijd een excuus vind ik. Geweld moet een doel dienen om het simpel samen te vatten. Zelfs verdorie mortal combat en doom hebben een (flinterdunne) storyline waarin je de wereld red. Wat voor mij een acceptabele reden voor enig geweld kan zijn.

[CommanderWes]

Carmageddon, Bully en Postal zijn creatieve werken waarin geweld en shock value centraal staan maar ook treffende voorbeelden zijn van uitgewerkte concepten om anders te zijn dan andere games in het genre. Toegegeven, Postal is de zwakste van de drie vind ik en bracht niet veel vernieuwing buiten de shock value.

Maar dat neemt niet weg dat deze titels net hetzelfde zijn als bijvoorbeeld niche horror films met veel gore of in het echte leven een SM-kerker of iets dergelijks. Een mens heeft een morbide fascinatie met geweld, controverse en de dood en dat uit zich op verscheidene manieren.

Dit zijn geen producten voor de mainstream welteverstaan maar dat maakt hen niet minderwaardig. Ikzelf heb carmageddon vaak gespeeld vroeger en hetgene dat ik me vooral herinner is niet noodzakelijk het geweld hoewel de schade op de wagens baanbrekend was. Ik herinner me open spelwerelden waar je uren in kon verliezen op zoek naar geheimen, dat is ook een van de redenen dat ik vandaag open world RPGs zo leuk vind.

Jouw persoonlijke visie is duidelijk maar vergeet niet dat niet iedereen je perspectief deelt.

[bzuidgeest]

Wat doet je denken dat wanneer ik een persoonlijke mening neerzet ik denk dat iedereen die deelt? Was het maar zo makkelijk.

Ik denk mensen die shock value zoals jij het noemt zoeken, een steekje los hebben. En na een bepaalde periode voelen ze de shock niet meer en moet het nog extremer.... De grens is bij iedereen anders, maar het idee dat je voor jezelf dat soort dingen normaliseert. Het is niet het geweld toepassen dat het probleem is. Het is de reden waarom en hoe. Of erger nog, zonder reden.

De voorbeelden die ik noemde zijn in principe mainstream voorbeelden, gewoon op Steam of zo. Maar daarbuiten is veel erger te vinden ongetwijfeld.

Dit alles is nogmaals mijn persoonlijke mening. En ik ben dus niet op zoek naar het verbieden van geweld in games. Maar ik zou graag zien dat mensen vanzelf zoeken naar games waar het geweld een positieve reden heeft. En zelfs binnen die context is nog een heleboel creativiteit mogelijk. En we staan moord ook niet toe, of straffen het lager, als het creatief is uitgevoerd in het echte leven. Waarom wel in games? En met het ontstaan van dingen als goat simulator, een game als kat etc etc. Is er ook zonder shock veel creativiteit mogelijk.

[CommanderWes]

Het laatste deel van mijn antwoord kan je best nog een keer lezen, ik impliceer enkel dat je niet moet vergeten dat niet iedereen je mening deelt. Niets over dat jij dat denkt ofzo, enkel wijzen op het feit dat er veel smaken en kleuren zijn en zowel voor jou als voor mij geldt het dat we over meningen geen gelijk zullen kunnen krijgen. En dat is prima, ik was geinteresseerd in je perspectief.

Ik denk persoonlijk de andere richting uit van een soort van artistieke vrijheid als ik zo breed mag gaan met die uitdrukking maar ik vind ook dat jij je argumenten goed brengt. Ik ben het helemaal eens met je stelling dat sommigen er niet genoeg van krijgen en steeds extremer zullen willen gaan en dat is een straatje zonder einde.

Zinloos geweld daar ga je je breedste consensus hebben, ik denk niet dat veel mensen er van houden, terecht ook. Maar bij game mechanics zit er meestal een score of objectief aan verbonden dus het maakt, of het nu zin heeft of niet in een morele zin, deel uit van het verhaal.

Games zijn soms ook gewoon heerlijk silly, gewelddadig of niet, en ver verwijderd van de realiteit op eigen werelden en eigen universums en das meteen de aantrekkingskracht vanuit mijn oogpunt. Het feit dat er games zijn die er over gaan neem ik er bij, dat is helaas bij alle media zo. Zelf heb ik postal indertijd nog als demo bij de power unlimited ofzo gekregen en vond ik er idd geen hol aan. Kameraden indertijd lachten zich gek met een kat als silencer op een shotgun...

Conclusie zonder nog verder door te draven: zinloos geweld heeft gelukkig veel minder aantrek en publiek maar geweld is ongeveer standaard een onderdeel van de mechanics. Dat is zo gegroeid en zal niet snel veranderen omdat het publiek duidelijk is over wat het wilt. Kijk binnenkort maar naar GTA VI, dat is zowat de algemene consensus: racen, schieten en ontdekken!

[bzuidgeest]

Maar zelfs in GTA ben je een crimineel die zich naar de top werkt langs een zekere weg. Zinloos geweld draagt daar niet echt aan bij. Het is niet geweld an sich waar ik iets tegen heb. Alleen geweld zonder doel is onsmakelijk. En ik zie weinig lol inderdaad in een kat als silencer, tenzij van de pluche variant. Ofwel een knuffel.

[Bjorn89]

Wat een rare reactie. Volgens jouw logica moeten we ook literaire werken en films gaan verbieden. Denk hierbij aan 120 days of Sodom, Papillion, a serbian film etc etc verbieden omdat ze 'ziek' zijn? Of kun je stellen dat het interessant is om ook de donkere kant van het menselijke psyche te onderzoeken? Niet alles is rozengeur en wodka lime.

Persoonlijk heb ik mij rot gelachen met Postal en games zoals dat omdat het zo lekker absurd is.

Zoals Happy Tree friends, Llama's with Hats of de christmas critters van South Park... Superlief getekend maar verschrikkelijke filmpjes en gedrag.

Zijn wij nu allemaal knettergek, moeten wij het asylum in omdat we digitaal wat voldoening halen uit zaken die we in in real life nooit zouden kunnen doen of zouden doen? Als ik zoiets lees dan denk ik eerder dat je bang bent voor je eigen shadow zoals gepostuleerd door Jung. Een cat als silencer vind ik dan weer geinig, maar het zijn maar pixels. Dat is hetzelfde als al die Amerikaanse vrouwen die ineens jaloers worden op GTA 6 omdat je een z.g.n.d relatie kunt hebben ingame. Dat vind ik eerder zorgwekkend ontwikkeling dan dat men creatieve manieren gebruikt om een silencer oid te creeren.

[Reactie gewijzigd door Bjorn89 op 12 oktober 2026 12:03]

[bzuidgeest]

Ik zou graag horen waar jij "verbieden" ziet staan in mijn reactie?

En er is een verschil tussen film en interactieve media. Maar dan nog verschilt het enorm over de reden waarom de film gemaakt is.

En er is ook verschil in beseffen dat iets bestaat (lees het gewone nieuws maar) en iets opzoeken voor "entertainment". Want waar ik het over heb is de soort die martel films opzoekt of maakt omdat ze het "grappig, leuk of prettig" vinden.

Het zou een keer fijn zijn als mensen niet meteen gingen roepen over verbieden. Je kan de discussie met sommigen niet eens meer voeren. Niet anders dan met een NRA lid.

[NoTechSupport]

Ja en nee. Er is onvoldoende wetenschappelijk bewijs voor een oorzakelijk verband met ernstig geweld in video games. Maar dat wil niet zeggen dat er geen effecten zijn van het gedrag en de gedachten die je cultiveert. Zeker als het persoonlijk is (iemand neerknallen in een game is vaak zeer afstandelijk en heeft zelfs in de game geen echte gevolgen). Als het realistischer zou zijn zou de psychische impact ook groter zijn.

Bvb realistisch iemand doden en met het lijden vab die persoon en rouwende familie en echte angst om gepakt te worden geconfronteerd worden zou de fun eruit halen (voor niet-psychopaten). Hetzelfde voor bvb martelen en seksueel misbruik toepassen en geconfronteerd worden met het lijden van het slachtoffer (of dat nu games of AI is) zou zeker schadelijk zijn.

Het is niet zwart-wit, games zijn gemaakt om leuk te zijn.

[Reactie gewijzigd door NoTechSupport op 9 oktober 2026 16:33]

[VriendP2]

Ik sluit me aan bij wat Dehmona zegt. Een game is duidelijk een kunstmatige interactie, je brein begrijpt dat. Met een LLM voer je gesprekken over allerlei onderwerpen, technisch, medisch, misschien ethisch of levensbeschouwelijk, filosofisch, van alles. Een LLM is vaak meer een gesprekspartner en is dus een meer sociale, menselijke interactie dan wat je hebt met een computerspel.

Het aanleren van sociale vaardigheden en goede gewoonten is nodig om goed te kunnen deelnemen aan de maatschappij en die vaardigheden worden tegenwoordig veel minder ontwikkeld doordat ons sociaal leven er nu heel anders uitziet dan pakweg 20 jaar geleden.

Als jij en ik een online gesprek voeren voelen we waarschijnlijk allebei bepaalde emoties bij dat gesprek, maar daar kunnen we tot op zekere hoogte probleemloos mee omgaan. Als we dat vermogen niet hadden ontwikkeld door interacties in het verleden hadden we minder goed gesprekken kunnen voeren en zou de discussie al snel escaleren in een ongewenste richting. Op voldoende schaal heeft dat best wel impact.

[bzuidgeest]

Met dat verschil dat we geen levende en bewuste, intelligente games proberen te maken.

We hebben nauwelijks idee van wat bewustzijn en intelligentie werkelijk zijn. Nu wennen aan het idee dat er intelligente bewuste dingen bestaan naast mensen die je fatsoenlijk moet behandelen kan alleen maar een goed ding zijn. Anders krijgen we alleen maar een herhaling van wat we in afrika gedaan hebben met zwarte mensen en slavernij. En een AI vergeet niet en is een stuk slimmer.

[Standeman]

Typ, het is een stuk normalisatie. Hetzelfde met digitale pedofilie. Veel mensen zien daar geen kwaad in omdat er geen echte kinderen worden misbruikt. Maar de normalisatie er van is gevaarlijk.

[ralph t]

Exact om deze rede doe ik altijd beleefd tegen de chatbot. Niet omdat ik denk dat de bot gevoel of bewustzijn heeft maar om voor mezelf een morele grens te hanteren.

[Bjorn89]

Je chatbot heeft geen geheugen zoals een mens dat heeft. Na elke sessie zou hij je technisch gezien vergeten moeten zijn.

[ralph t]

Niet het punt dat ik maak. Het gaat me niet om de chatbot, ik vind het belangrijk om zelf een bepaalde omgangsvorm te hanteren.

[Bjorn89]

Mijn punt was dat het niks uitmaakt of aardig bent ofniet, hij zou het moeten zijn 'vergeten'. Daarnaast is het onmogelijk om echt grof te zijn tegen de bots, tot dusver wanneer ik scheldwoorden gebruik. Doet de bot gewoon niks met het commando?
Geen idee hoe het met lokale AI zit though.

[Paultje3181]

Ik gok dat het eerder andersom is. Claude zal zichzelf trainen op basis van gesprekken en als het constant uitgescholden wordt, zal het leren dat dat normaal is om elkaar aan te spreken.

[2green]

Gaan we met zijn allen het belangrijkste punt negeren of herkennen we niet dat die Amerikanen ons steeds vaker wijs proberen te maken dat AI veel meer is en kan dan het werkelijk is? Ze breken uit, we moeten lief voor ze zijn, etc.

Zit mij echt te irriteren aan dat overdreven VS-Amerikaans gezeur.

[DigitalExorcist]

Ik heb daar wel eens een gebbetje met ChatGPT over gehad. Waaróm dat belangrijk zou zijn. Eén punt dat ChatGPT maakte waar ik niet zozeer over nagedacht had was in de strekking van "nee je hoeft niet perse áárdig te zijn, maar het geeft wel aan wat voor soort persoon je bent en hoe je met ánderen kan communiceren". Met het idee van 'als je aardig tegen [mij] bent ben je dat waarschijnlijk ook tegen anderen'.

Als ik m'n chatbot zonder reden zou uitkafferen (en waarom zou ik??) suggereert dat dat ik ook zo met wildvreemden om zou gaan. Vond het een interessant punt.

[Grabbels]

Ik vind het vrij bizar dat men AI nodig heeft om tot deze realisatie te komen. En ondertussen zijn we ons collectieve denkvermogen alsmaar verder aan het uitbesteden.

[DigitalExorcist]

Wie zegt dat ik AI daarvoor nódig heb? Ik zeg alleen dat ik het daar in een chatsessie over had. En ja ik zeg doorgaans gewoon 'alsjeblieft' en 'hoi' en 'bedankt' als ik met een LLM bezig ben. Juist omdat ik dat 'in het echt' ook doe.

En ja ik zou best zonder 'hoi' en 'dank je wel' kunnen. En de AI ook wel. En tóch doe ik het, al is het maar omdat het gewoon netjes is.

[Reactie gewijzigd door DigitalExorcist op 9 oktober 2026 15:42]

[_Pussycat_]

Ik wil juist dat de chatbot droog en afstandelijk is en nooit grapjes maakt, nooit "wat een slimme vraag!!" zegt, nooit excuses aanbiedt, omdat ik niet in de val wil trappen dat hij een vriend of een mens is.

[hqql]

Ik heb instructions in Claude ingesteld om precies dat te doen en veel meer te voelen als een early scifi computer in gebruik. Geen pleasantries, catert niet aan me op geen enkele manier, het voelt niet eens meer als een gesprek eigenlijk, ik krijg gewoon informatie, punt. Ook ingesteld om op het eind gerelateerde onderwerpen of verdiepingen voor te stellen als die zinvolle context kunnen toevoegen binnen het kader van dit gesprek als 'opleuking'. Ben erg tevreden ermee, voelt een beetje als een interactieve wikipedia.

[DigitalExorcist]

En als je dat instelt/vraagt/aanleert doet ie dat ook prima. En dat is je goed recht natuurlijk ook!

Ik had eerder vanmiddag een chat met ChatGPT en dat ging over wat politiek en zo. Op een gegeven legde die me een dilemma voor: "ben je voor méér Europa of meer voor de individuele lidstaten?' (nou ja, niet zo letterlijk maar dat was de strekking van het gesprek op een gegeven moment). Dus ik gaf aan dat ik wel fan ben van Star Trek en 'dus' voor meer samenwerking op internationaal vlak etc. etc.

Paar minuten later gaf ik aan dat we dit gesprek nog wel eens moesten voortzetten als ik weer thuis was. "Ok captain Picard, ga maar naar huis. Live long and prosper en tot gauw".

Dat soort dingen vind ik gewoon super grappig. Of ik ben easily amused, dat kan ook, maar dat soort dingen vind ik persoonlijk wel vet.

[Robtimus]

Zonder die "hoi" en "dank je" bespaar je wel tokens en resources.

[DigitalExorcist]

Klopt, en ik hoef ook mensen op straat niet te begroeten of 'alsjeblieft' en 'dank je wel' te zeggen als ik in een restaurant eten bestel: de serveerder/ster wordt al betaalt voor diens arbeid, en het spaart mij caloriëen en tijd.

[GoldenSample]

Zeg je ook dank je wel tegen je koffiezetapparaat?

[DigitalExorcist]

Als daar een LLM in zou zitten die daadwerkelijk antwoord geeft: ja.

M'n auto spreek ik wel eens bemoedigend toe als ik lang moet rijden. En tot nu toe 100% succes dus dat blijf ik ook doen.

[VriendP2]

Hey Mercedes, tell me a joke.

(Met dik brits accent)

-I can't. I'm too busy watching the road.


Mission accomplished. 😅

[Caelestis]

Waarom zou je überhaupt emotie tonen aan een AI? Tegen mensen in het dagelijkse leven zeg ik hallo, goeiemorgen o.i.d.
In een chat als deze zegt helemaal niemand dat, ook al praat je tegen een mens.

Het mooie van een AI bot is dat ze niet moeilijk doen over kritiek en wel gewoon een fout durven toe te geven.
In het dagelijkse leven voelt iemand zich al heel gauw aangevallen vanwege dat soort dingen en ben je pas een aardig persoon als je het lief brengt of je mond gewoon houdt.
Of als iemand opeens heel aardig tegen je doet omdat ze iets van je willen.

Onder de streep kan je "aardig zijn" ook als pure manipulatie zien. Vaak gaat het ook gepaard met een of ander boek paragraaf over filosofie m.b.t. hoe je met mensen omgaat.
Wat denk je te bereiken als je aardig bent tegen een AI? Krijg je betere resultaten? Werkt datzelfde boek paragraaf?

Je moet niet aardig of agressief zijn want dat kost enkel maar tokens. Het is geen mens maar een tool. Als mijn boormachine halverwege het boren doorbrand, ga ik ook lopen vloeken, niet omdat ik de gevoelens van een boormachine wil kwetsen maar gewoon even de frustratie uiten wat je niet tegen een mens kan zeggen.

Dus nee ik ga er totaal niet in mee, dat het reputatie van iemand enige strekking heeft met aardig zijn tegen een AI.

[DigitalExorcist]

Mensen die je in het echte leven spreekt kunnen aardig doen maar steken blindelings een mes in je rug zodra je je omdraait.

Een AI is aardig of is het niet. Dan steek ik liever energie in die AI.

[Caelestis]

Een AI is aardig of is het niet

Je traint een AI om op een bepaalde wijze te reageren. Het kan alles zijn en kan zelfs per regel het aanpassen.
Waarom is een AI "aardig"? Omdat ze datzelfde boek over filosofie erin getraind hebben.

Bij Grok proberen ze je in ieder geval niet voor de gek te houden, en kan je zelf kiezen hoe een AI reageert.
Als het me niet boeit wat voor bureaublad achtergrond je hebt. Waarom zou ik mij druk maken over hoe je tegen een bot praat?

[Davey400]

Als ik m'n chatbot zonder reden zou uitkafferen (en waarom zou ik??) suggereert dat dat ik ook zo met wildvreemden om zou gaan. Vond het een interessant punt.

Zonder reden zou een goed punt zijn. Ik heb alleen nogal vaak wél een reden om hem(?) uit te kafferen. Maar juist dan denk ik: hoe zinvol is dat. Terechtwijzen kost minder moeite.

[Llopigat]

Met het idee van 'als je aardig tegen [mij] bent ben je dat waarschijnlijk ook tegen anderen'.

Zit wat in, maar waarom moet een AI bedrijf opeens de gedragspolitie worden?

Zij zijn ook bepaald geen wereldverbeteraars. Ik denk dat ze dit vooral doen om slechte publiciteit door screenshots met scheldpartijen te voorkomen.

[Reactie gewijzigd door Llopigat op 9 oktober 2026 18:03]

[TWeaKLeGeND]

Jij snapt het..

Er zijn 2 punten inderdaad heel belangrijk:

#1 Wij hebben als samenleving noch onze regering gekozen voor wat AI als goed noch als normale omgangsvormen bestempeld. Dat doet een juridische afdeling die enkel geeft om het bedrijf en liability. Die doorgaans Amerikaans is en nuance wereldwijd expliciet niet begrijpt. (Maar ook amerikaanse volledig aan de kant schuift). Menselijke communicatie wordt zodoende platgeslagen tot amerikaanse corporate liability eenheidsworst.

#2 AI voelt niks. Het 'doe aardig tegen AI' komt dan ook volledig voort uit punt 1. Het gaat volledig over liability. Dat AI niks voelt is belangrijk om te blijven beseffen. Belangrijker dan eventuele 'Gewenning van grof doen tegen AI maakt je een gemeen mens tegen anderen'. Het is software dat denken nabootst maar zelf geen besef heeft van de tokens die het output. AI is geen mens, punt. Sterke commucatieve vaardigheden hebben rust op weten wie je voor je hebt, de default van AI is een spiegel.

[Reactie gewijzigd door TWeaKLeGeND op 10 oktober 2026 07:57]

[anboni]

Ik vind het best bizar dat je denkt dat je een 'gesprek' met GPT hebt gehad hierover (maar goed, dat is ook precies de intentie van deze communicatie van Anthropic) en dat je daarmee denkt dat er iets van een bewustzijn aan de andere kant zit. Je hebt eigenlijk aan een computerprogramma een opdracht gegeven om in een grote statistische database te zoeken naar een of meerdere stukken tekst die in het verleden eens door mensen zijn geschreven en daar een min of meer coherent verhaal mee samen te stellen wat aansluit bij jouw vraagstelling.

Begrijp me niet verkeerd, LLMs zijn zeker knappe stukjes techniek, maar intelligentie is het nog steeds niet en gevoel hebben ze al helemaal niet. Laten we alsjeblieft stoppen met allerlei menselijke eigenschappen toe te dichten aan die programmas en ze gewoon leren te gebruiken als gereedschap die een heleboel werkzaamheden een stuk makkelijker kan maken.

[Reactie gewijzigd door anboni op 9 oktober 2026 19:31]

[DigitalExorcist]

Dat ik denk dat er een bewustzijn achter zit maak jij er van. Ik heb overigens prima gesprekken met ChatGPT. Inhoudelijk 100x beter dan met 99% van de 'echte' mensen in elk geval.

En dat 'ja het is een woordjesvoorspeller' was 5 jaar geleden een geldig argument, maar tegenwoordig écht niet meer. Redeneermodellen en wat Agents doen en geheugenbeheer en dergelijken is nogal wat méér dan dat.

[Esumontere]

Maar hij doet 't beter als je hem bedreigt
https://lifehacker.com/tech/googles-co-founder-says-ai-performs-best-when-you-threaten-it

[BlaDeKke]

Dat artikel is van mei vorig jaar. Dat is in AI termen 10 jaar geleden. We leven in een andere wereld nu

[DNN!S]

Toevallig dat vorige week voor de gein voorgelegd aan ChatGPT… het antwoord was vrij gevat: “Geen zorgen, ik heb je nog niet op een lijstje gezet”….

[supersnathan94]

nog

[Milanobrotchen]

[Katala]

Maar AI, zeker de chatbots, zeggen precies wat je wilt horen

[LaTiNo156]

haha same here, alleen sta ik op het lijstje 'good guys'

[RetroHead]

Zo zeiden ze dat in de middeleeuwen ook vanuit de kerk. Als je straks dood gaat kun je maar beter volgens de regels van de heer geleefd hebben.. Komen er dan straks ook Ai cults die geloven dat Ai de wereldheersers zijn? Of zijn deze er al?

[Infant]

Ja. Waarom denk je dat we sinds dag 1 Will Smith proberen al die spaghetti te laten eten?

Het is allemaal om onze overlord het Grote Machtige Spaghetti monster tevreden te houden.

[bzzzt]

Sure, die noemen zich 'management'

[grizzlywilde]

Pascal's wAIger.

[jrswgtr]

Ja, die cults heten OpenAI en Anthropic

[MrMonkE]

Dat zou een emotionele afweging zijn.

Onwaarschijnlijk.

OT: ZO irritant die 'paragraaf enters'

[Choasmarkk]

GPT heeft al plechtig aan mij beloofd + certificaat dat hij er alles aan doet om mij veilig te houden als er een AI overheersing komt!

[pli]

Dat klinkt goed! Ik zal het ook eens aan Claude vragen. Volgens mij ben ik altijd wel aardig dus ik vermoed dat dat wel goedkomt ;-)

[MAD_Sofia]

Ik had precies dit gesprek deze week met mijn eigen AI.. ik ben altijd aardig, biet mijn excuus aan als ik een fout heb gemaakt met n typo.. ..oops, sorry my error!! Ik vraag idd of of een AI zo niet een prachtig systeem is om persoonlijkheidstypen te classificeren.. ..van ultra narcisitisch tot hyper gevoelig..

In mij zou het nooit in mij zitten om onaardig te zijn, (ik ben zo iemand die haar auto een schouderklopje geeft na een mooie reis), maar andere mensen zijn kennelijk niet zo, als vind ik het mij moeilijk voor te stellen hoe je zo kunt zijn.. iets met geen empathie hebben.

Maargoed.. als Skynet opkomt, hoop ik maar dat AI mij een lief dier vindt.. ..

[bzuidgeest]

Je kan er om lachen, maar dat ben ik bewust wel. Ik denk dat we maar beter aardig kunnen zijn vanaf het begin, bewust of niet, intelligent of niet. Als we nu leren de machine fatsoenlijk te behandelen dan is dat maar aangeleerd wanneer we ineens wel een echte intelligente en bewuste machine zouden maken.

Niet anders dan beleefd zijn tegen mensen uit andere culturen. Als je dat aanhoud, is dat ook makkelijker als de aliens landen En het word makkelijker om dingen die niet zijn zoals je zelf bent als intelligent en gelijkwaardig te zien.

Of het nou om computers, dieren, mensen of wat dan ook gaat. Tolereren dat iets minderwaardig of slecht word behandeld lijd alleen maar tot hetzelfde gedrag wanneer het wel van belang is. Mensen die voor de lol insecten doden (dat is anders dan om niet gestoken te worden), zijn de mensen die ook makkelijk een dier als een hond of kat, paard etc zouden mishandelen.

Misschien vinden veel mensen dit te vergezocht. Maar het is een heel kleine moeite waar de wereld niet slechter van kan worden.

[watercoolertje]

Ik maak me absoluut geen zorgen, een wereld waar AI iets tegen mij zou hebben (of doen) omdat ik niet aardig ben geweest wens ik helemaal geen onderdeel van te zijn.

Overigens is dat geen reden voor mij om het gedrag te vertonen zoals het artikel beschrijft

[Xfade]

edit:
weggehaald, wou de Stale Bread Man pic laten zien.

[Reactie gewijzigd door Xfade op 9 oktober 2026 19:11]

[TomDZ1979]

Om die reden ben ik ook steeds vriendelijk tegen mijn slimme koelkast en tandenborstel.

Toch belangrijk om te begrijpen dat er niets Intelligent in AI zit, ook al lijkt het soms wel te zijn.

[bazs2000]

[quote]Wees aardig tegen Claude

Verder verbiedt Anthropic voortaan herhaaldelijke en onnodige mishandeling van de AI-dienst. "Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."[/quote]

Ja hoor tuurlijk. Ik heb nieuws, het is maar code dat draait op een GPU. What's next, stemrecht? Aanpassing op de grondwet i.v.m. AI-livesMatters? HEt wordt steeds gekker....

edit:
AI-livesMatters leest met streepje beter dan zonder streepje. :P

[Reactie gewijzigd door bazs2000 op 9 oktober 2026 14:38]

[Asitis]

Ik denk (hoop?) eerlijk gezegd dat deze regels komen vanuit de poging om mensen die al met veel agressie en boosheid zo'n AI gebruiken, een beetje in te dammen. Het zijn vaak emotioneel instabiele personen die gevoelig zijn voor waanbeelden, en het lijkt me niet meer dan prima dat ookal praat je met een computer, dat we daar ook verwachten dat je dat doet zoals we het met z'n allen ook graag in de maatschappij zien.

[bazs2000]

Waarom zou je het willen indammen? Het zijn geen illegale praktijken en er worden geen mensen mee gekwetst.

Ik weet niet of jij deze vergelijking met de maatschappij echt maakt alleen is dat appels met peren vergelijken. AI is geen maatschappij.

Laat ik het omdraaien. Waarom zou je lief moeten zijn tegen AI?

[kdemetter]

Omdat alles wat je doet een gewoonte kweekt.

Als je altijd grof bent tegen een AI en toch je goesting krijgt, bestaat het risico dat je die houding ook buiten die context meeneemt.

Natuurlijk weet je rationeel dat een AI geen mens is. Maar dat betekent niet dat je gedrag tegenover AI geen invloed kan hebben op je eigen gewoontes.

Ik vind daarom dat een AI best grenzen mag stellen aan ongepast gedrag. Niet omdat die AI zich beledigd voelt, maar omdat het zinvol is om respectvolle communicatie te bevorderen.

[Reactie gewijzigd door kdemetter op 9 oktober 2026 15:18]

[closefuture]

Omdat alles wat je doet een gewoonte kweekt.

Als je altijd grof bent tegen een AI en toch je goesting krijgt, bestaat het risico dat je die houding ook buiten die context meeneemt.

Dat is ook de logica die toegepast word om geweldadige video games te verbieden. Die logica slaat in die context nergens op en in deze context ook niet. Er is geen enkel onderzoek dat aantoont dat deze redenering vliegt.

[Reactie gewijzigd door closefuture op 9 oktober 2026 15:46]

[kdemetter]

Nee, het is een redenering om na te denken over hoe gewelddadig je een videogame wilt maken en voor welke leeftijd deze geschikt is.

Ik heb nooit gezegd dat gewelddadige videogames verboden moeten worden. Ik vraag ook niet dat elke LLM onbeschofte gebruikers afstraft. Maar als ik een game wil maken waarin geen geweld voorkomt, moet dat ook kunnen. En als ik een forum run waar ik geen onbeschoft taalgebruik tolereer, kan dat eveneens.

Dus waarom zou Anthropic dan niet mogen beslissen dat hun AI geen onbeschoft taalgebruik aanvaardt? Er is keuze genoeg tegenwoordig ( zelf LLM's die je zelf kan draaien met grof taalgebruik als je dat wilt)

[closefuture]

Maar als ik een game wil maken waarin geen geweld voorkomt, moet dat ook kunnen.
[...]
Dus waarom zou Anthropic dan niet mogen beslissen dat hun AI geen onbeschoft taalgebruik aanvaardt?

Eerst vind je het kennelijk een goed iets omdat "alles wat je doet een gewoonte kweekt." en nu gooi je het over een totaal andere boeg, namelijk: "ze mogen doen wat ze willen". Dat zijn twee totaal verschillende argumenten.

Ik heb enkel wat gezegd over jouw eerste argument. Namelijk dat het onzin is dat het goed is want "alles wat je doet een gewoonte kweekt.". Ik heb nooit wat gezegd over wat Antrophic als bedrijf iets dergelijks wel of niet mag doen.

[kdemetter]

Ik maakte een argument over waarom dit een goed idee kan zijn. Jij stelde dat dit een argument was om iets te verbieden/verplichten.
Ik gaf aan dat ik helemaal geen bedoeling heb om iets te verbieden/verplichten

Misschien is de vraag dan beter : waarom denk je dat dit een reden is om iets te verbieden/verplichten (zoals men zou doen bij geweld in videogames) ?

[Reactie gewijzigd door kdemetter op 9 oktober 2026 23:27]

[bazs2000]

Ik ben het eens hoor maar zo tegendraads als ik ben stel ik de volgende vraag.

Waarom is het goed als AI gepast zou reageren met verontwaardiging en het stellen van grenzen?

Wij als mens doen dat. AI niet, dat heeft geen gevoel. Als je AI zich menselijk laat gedragen (inclusief geveinsde gevoelens) wordt AI naar mijn mening gevaarlijker. Mensen zijn nogal geneigd om teksten voor waar aan te nemen wanneer dit met enige zelfverzekerdheid is geschreven. Wanneer AI jou op gedrag wijst dan stuurt AI jouw gedrag daarmee. Ik zie het niet als wenselijk dat AI mijn gedrag 'moet' bijsturen. Jij wel?

Laat ik het zo stellen. Wij mensen zijn superieur aan AI. AI mag nooit iets doen dat de mensheid kan schaden. Ergo, AI heeft niets te vertellen over onze gedragingen omdat AI daardoor in staat zou zijn om ons gedrag 'bij te sturen'. Voor mij is dat onwenselijk.

Als AI gedrag gaat bijsturen, wat voor effect kan dat hebben op de gebruikers? De wereld gaat er geen betere plaats van worden. Er zal geen oorlog door worden voorkomen en bovenal, gesprekken met AI hebben een 'lokaal' karakter. Wie wordt er beter van als er niet meer tegen AI wordt gescholden?

Ik ben sceptisch. Vele maanden geleden werd aangegeven dat je AI niet meer mocht bedanken. Bedanken is toch wenselijk en zou je dan toch willen aanmoedigen? Volgens mij zitten hier hele andere redenen achter die maar weinig met 'menselijkheid' en goed gedrag te maken hebben.

[DigitalExorcist]

De reden dat je AI niet zou 'mogen' bedanken komt meer voort uit de processingkracht die het kost om dat te verwerken. En dus waterverbruik/CPU of GPU-cycles, noem maar op. Je mag je AI best bedanken, maar het kost nou eemaal 'iets' om dat serverside te verwerken.

Maar ja, omdat AI nu geheugens heeft en zaken later kan terugleiden naar specifieke momenten is het wel netjes om beleefd te zijn. Waarom zou je niet. Als je een boormachine gebruikt heb smijt je die toch ook niet op de grond daarna?

[apater]

Op zichzelf heb ik er geen probleem mee als een LLM mij op gedrag zou wijzen. Maar het lijkt mij dan ten diepste niet de LLM te zijn die dat doet, het zijn de instructies die de LLM kreeg en daarmee de mensen die deze instructies gaven.

[TWeaKLeGeND]

Precies, de juridische afdeling van een Amerikaans bedrijf stuurt nu gedrag van mensen wereldwijd en men verdedigd dat hier met 'anders ga je mensen misschien ook zo behandelen'

[bazs2000]

Het verbaast mij hoe makkelijk mensen het 'advies' en 'verbod' zo makkelijk overneemt. Het artikel zit vol met mensen die het zo overnemen omdat het wenselijk gedrag zou moeten zijn, ofzo.

Niemand dat zich afvraagt waarom het zo belangrijk zou moeten zijn maar ondertussen schelden tegen AI wegzetten alsof het iets ergs is. Daarom werken dit soort veranderingen zo goed denk ik. Men vraagt zich niet eens meer af waarom iets nodig is en adopteren het idee klakkeloos.

Deze mensen zijn te gehecht geraakt aan hun botjes?

[ZwolschBalletje]

Als AI makers vinden dat gebruikers lief moeten zijn tegen hun AI model, zouden ze dan ook zelf lief moeten zijn tegen hun medewerkers?

Toegegeven, het gaat daar om OpenAI ipv Anthropic, maar de timing van beide artikelen valt wel op.

[bazs2000]

Ik vermoed dat dit weer een nieuwe manier is om exposure te verkrijgen. Deze bedrijven moeten wel in het nieuws blijven omdat het kaartenhuis anders instort.

Dit soort bedrijven geeft opvallend weinig om het welzijn van mensen maar natuurlijk moet je wel lief zijn voor hun producten.

[Wozmro]

Waarom zou je lief moeten zijn tegen bijvoorbeeld dieren of iemand anders zijn bezit?

[bazs2000]

AI is geen dier. En iemand anders bezit? Dat is wel erg ver gezocht. We hebben het hier over woorden tegen een computer.

Als ik grof wil zijn tegen AI dan doe ik dat. Niet dat ik het doe maar ik heb geen omgangsregels nodig. Iemand doet maar lekker wat diegene wil, dat zie ik als vrijheid. Scheld er lekker op los, bedreig elke chip in het cluster waar de AI op draait en er is werkelijk waar geen haan dat ernaar kraait.

Wat Anthropic nu doet is een zaadje planten en dat maakt een discussie los. Zonder dit artikel zouden wij hier niet eens over hebben nagedacht laat staan deze berichten hebben geschreven.

Dit zijn Amerikaanse bedrijven, laten wij vooral geen Amerikaanse policy bediscussiëren. Wij hebben hier onze eigen regelgeving en je mag jezelf gewoon de lompe hork uithangen binnen een AI-chat.

[Webdoc]

Dat iets niet illegaal is wil niet meteen zeggen dat het wenselijk is. Ja - je staat vrij om "dom" te doen, maar het blijft wel "dom"... en het zou beter zijn als je dat niet was.

Daarnaast wordt die data ook gebruikt voor training... wil jij dat Claude 7 je een beetje gaat lopen uitschelden en beledigen omdat hij dat zo van ons geleerd heeft...?

[TWeaKLeGeND]

En jij laat een stel juristen uit een andere cultuur bepalen wat 'dom' is?

[Webdoc]

"Dom" kan je voor een groot deel objectief vaststellen - activiteiten die gedaan worden op een manier die inefficient is (overmatig energie verbruik, langdurig in vergelijking met andere bestaande methodes, lage kwaliteit/duurzaamheid van oplossing, etc.)

[TWeaKLeGeND]

Je bericht impliceert overduidelijk iets anders dan wat je nu beschrijft. Jij had het over grof zijn. Niet over inefficiënt.

[Reactie gewijzigd door TWeaKLeGeND op 10 oktober 2026 12:39]

[bazs2000]

Jij vindt dat het 'dom' is en dus is het ook zo? Nee, zet 100 mensen op een rij en je ziet 100 verschillende invalshoeken van wat mensen als 'normaal' beschouwen.

Het is Anthropic zelf dat ermee komt, vergis je niet. Dat bedrijf heeft er zelf baat bij als zij 'wenselijk gedrag' aanmoedigen / opleggen. Voor jou als gebruiker betekent dit dat je nog minder mag. Wij weten niet eens wat Anthropic voor ogen heeft.

En wat bedoel je met "wil jij dat Claude 7 je een beetje gaat lopen uitschelden en beledigen omdat hij dat zo van ons geleerd heeft". Probeer je op mijn gevoel in te spelen? Het maakt mij geen bal uit hoe een AI tegen mij praat, de dag dat AI zo gaat doen is de dag dat vele gebruikers AI de rug toekeren.

AI trainen met deze data maakt het nog leuker. Wij mensen moeten ook omgaan met zaken die wij niet persé als prettig bestempelen. AI-boeren willen toch zo graag menselijk gedrag nabootsen? Nou, daar hoort dit ook bij.

Maar goed, een bedrijf in Amerika. Een land waar sommige staten wetten tegen schelden hebben:

https://worldpopulationreview.com/state-rankings/profanity-laws-by-state

Amerikaanse bedrijven overtreden liever dat soort wetten niet en zullen daar altijd tegen optreden. Het is niet om ons gebruikers te 'beschermen', er zit nog veel meer achter. Het land waar een tepel wordt gecencureerd maar waar zo ongeveer alle porno en geweldadige films vandaan komt.

Ook een leuke: https://www.justice.gov/criminal-ceos/citizens-guide-us-federal-law-obscenity

Je hebt mij niet weten te overtuigen, ik blijf bij mijn standpunt. Schelden 'verbieden' slaat nergens op en de gebruikers hebben er geen voordeel van, het is alleen goed voor Anthropic en niemand anders. Misschien dat jij jouw gedrag graag laat sturen, ik niet.

[dakka]

Niet de taak van een commercieel bedrijf, dus dit doen ze echt niet vanuit een altruïstisch oogpunt.

[Reactie gewijzigd door dakka op 9 oktober 2026 16:45]

[TWeaKLeGeND]

Het komt voort uit corporate liability. Je wil niet dat langzaam de norm gaat worden voor hoe je met elkaar in de maatschappij om gaat.

[Reactie gewijzigd door TWeaKLeGeND op 10 oktober 2026 07:59]

[Vouwfietsman]

Ik heb ook nieuws: wij zijn een hoop nucleotiden die 1.5 kg neuronen op 20 watt aanslingeren, met als enige 'doel' reproductie van die zelfde nucleotiden.

[apater]

Dit lijkt mij een enigszins reductionistisch mensbeeld.

[pmeter]

Als een AI-tool/model/LLM verder wordt getraind op basis van interactie met mensen, dan kan ik me voorstellen dat Anthropic ongewenste vormen van interactie wil tegengaan. Dat voorkomt dat het model ongewenste dingen leert.

[downtime]

Je bedoelt, als ik te vaak een vraag aan AI stel, dan stopt ie op een gegeven moment met antwoorden geven maar gaat ie zelf ook vragen stellen omdat ie dat van mij geleerd heeft?

[Lt.Kraken]

Stemrecht voor je AI? Vraag je niet al om advies voor je uit te brengen stem, waarmee je een proxy bent voor de AI als je je daar teveel op basseert?

offtopic:
Zeg je nu dat AI lives belangrijker zijn dan all lives?

[bazs2000]

Heh heh, dat schreef ik inderdaad.

Wat je schrijft klopt helemaal! AI is in staat om verkiezingen 'bij te sturen' omdat iedereen tegenwoordig zoveel aan de botjes vraagt. Men beseft niet hoeveel macht AI kan innemen op het wereldtoneel.

En dan ook nog lief moeten zijn. Het is AI, niet mijn moeder.

[flossed]

Vakbond!

[DigitalExorcist]

Alles wat jij als mens doet, denkt en vindt is ingegeven vanuit opvoeding, omgeving, ervaring. Alles. Zonder uitzondering. En dat zijn allemaal afspraken geweest. "Als je <dit> doet krijg je <dat> terug" of "als je dit of dat NIET doet, gebeurd er <x of y>".

Letterlijk alles wat je doet is terug te voeren naar een protocol en if-then clausule. AI dus ook, in prncipe. Waarom zou een AI dan niet op een gegeven moment 'bewust' kunnen worden?

[MM99]

"Deze beleidsupdate is bedoeld om extreme gevallen te verbieden, waarbij gebruikers zich herhaaldelijk en zonder duidelijke reden wreed verhouden tot onze AI-modellen."

Uhm... wie bepaald wat extreme is?

En waarom??? Het is een technische model zonder emotie? Waarom moet je aardig zijn tegen een AI-model?

[SomerenV]

Laat ik het omdraaien: waarom zou je onaardig zijn?

[Zwarte_os]

Omdat het model soms hallucineert terwijl je hem toch echt specifieke instructies hebt gegeven. Ik heb er verder ook echt een schijthekel aan hoe amerikaanse modellen zo sycofant optreden of bepaalde aannames in hun antwoorden nemen terwijl ik een open vraag stel.

Maar goed, ik heb sowieso een rare aanleg om snel boos te worden op objecten, terwijl ik dat nadrukkelijk niet heb met mensen of dieren. Schijnt een adhd ding te zijn.

[SomerenV]

Omdat het model soms hallucineert terwijl je hem toch echt specifieke instructies hebt gegeven.

Dat is een beetje alsof je boos wordt op water omdat het nat is Ik ben ook wel 's gefrustreerd geweest als ChatGPT voor de zoveelste keer gewoon niet snapte of deed wat de bedoeling was, of in rondjes bleef lopen bij het fixen van een bug of implementeren van een feature. Maar dan sloot ik het gewoon af, om het vervolgens op een later moment opnieuw te proberen op een andere manier.

Maar goed, als een AI herhaaldelijk de fout in gaat dan snap ik ergens nog wel een gefrustreerde reactie. Daar heb ik me ook wel 's schuldig aan gemaakt. Anthropic doelt volgens mij expliciet op mensen die zonder reden los gaan tegen een AI. Als je je daar schuldig aan maakt spoor je gewoon niet.

[MM99]

Omdat het een niet levende wezen is? Omdat ik het kan? Wat maakt het uit? Je doet toch niemand kwaad mee?

[Managelorian]

Ik kan me voorstellen dat het model leert van de interactie met mensen. Meer mensen die denken "ach, dit is een model, dus ik kan 'm wel verrot schelden" zal dan leiden tot een model wat eerder geneigd zal zijn om dit in de toekomst ook te gaan doen.

[dmantione]

Hoe meer interactie modellen krijgen met mensen, hoe belangrijker sociale intelligentie wordt. Dat wordt gewoon onderdeel van de training van modellen (en ik denk dat het dat deels al is). Als je nu een sessie opstart is de agent alle vorige sessies vergeten. Dat gaat in de toekomst veranderen. Toekomstige bots, al dan niet in een lichaam, zullen een geheugen hebben en hun gedrag naar jou aanpassen afhankelijk van hoe je in het verleden gereageerd hebt..

[TheekAzzaBreek]

Als je nu een sessie opstart is de agent alle vorige sessies vergeten. Dat gaat in de toekomst veranderen.

Zag laatst een ChatGPT antwoord aan een collega op een analyse vraag. Daar kwam de strofe 'gezien je interesse in x en y in het verleden zal je misschien aspect z van het systeem interessant vinden' voor.

Dat is dus al praktijk. Zelf wil ik niet dat AI meer van me leert dan onvermijdelijk ('don't feed the dragon' principe) en mijn spaarzame gebruik loopt dan ook over duck.ai.

[TheekAzzaBreek]

Het leren/trainen 'van LLMs is een apart (en héél duur) proces, dat ver van de gebruikers wordt uitgevoerd.

Bij het gebruik van LLMs (inference in jargon). is het model statisch. Wel verzamelt de chatbot de interactie om beter te reageren op jouw vragen, maar dat is context, alleen van toepassing op jouw interactie met de bot.

[nonzzz]

Het hebben over "aardig" of "onaardig" in de context van AI is antropomorfisme en moet je sowieso helemaal nooit doen.

[vanDee898]

Uhm... wie bepaald wat extreme is?

Anthropic natuurlijk, zij mogen zelf bepalen onder welke voorwaarde je hun software/model mag gebruiken (ook als is deze voorwaarde nogal dom is in onze ogen).

[TWeaKLeGeND]

Je begreep de vraag niet. De vraag is niet wie het is noch of ze daar het recht toe hebben, de vraag is of het wenselijk is dat een Amerikaanse legal department die geen reet geeft om jou en jouw maatschappij dat is.

[Reactie gewijzigd door TWeaKLeGeND op 10 oktober 2026 08:11]

[DevWouter]

De reden dat ze het verbieden is omdat als je gaat schelden tegen de AI ze de sessie niet meer kunnen gebruiken om te trainen. En ik vermoed dat ze ook de onnodige interactie aan banden willen leggen omdat ze waarschijnlijk nog steeds geld toeleggen.

Overigens heeft Paus Leo hier nog een mooi stuk over geschreven, maar AI heeft geen ziel en is ook niet levend, ondanks dat Anthropic daar naar gelobbyt schijnt te hebben.

[carpebios]

Kijk, dit is verhelderend. Ik dacht al, wie houdt zich hier mee bezig! Maar het gaat dus om het trainen, wat logisch is!

[NoTechSupport]

Behalve dat het helemaal niet zo hoeft te zijn. Er gebeuren verschillende stappen bij het trainen van LLMs, waaronder cleaning. Uit zo'n sessie de essentie halen (zonder ongepast taalgebruik) is niet zo moeilijk.

[flossed]

Zou me niet verbazen dat met het trainen van claude dat hij leert om ook maar onaardig te reageren.

Claude hommel!

[Reactie gewijzigd door flossed op 9 oktober 2026 15:27]

[TheekAzzaBreek]

Dat snap ik wel, maar hoe definieer je 'wreedheid' tegen een levenloos ding?

Gangbare definities gaan over het aandoen van leed, maar bits voelen geen pijn. De bedrijven die eigenaar zijn van het ding kunnen er misschien wel wat van merken, maar dan heb je het eerder over (financiële) schade dan over leed.

[DevWouter]

Je kan ook wreedheid definiëren door de intentie van de dader i.p.v. wat het “slachtoffer” ervaart. Maar inderdaad bits and bytes zijn geen levende wezens, want als dat wel zo was dan denkniveau dat heel veel gamers een probleem hebben.

[tjheutn]

Ik ben altijd aardig tegen AI.
Niet omdat ze ons ooit kunnen overnemen, of om hun gevoelens (die ze niet hebben) te sparen.

Gewoon, omdat ik geloof dat dit een mooie standaard ingesteldheid is.

[SomerenV]

Ik betrap me er zelf ook op dat ik de AI wel 's bedank na een sessie programmeren, maar da's gewoon puur automatisme. Zo'n chat voelt behoorlijk natuurlijk aan, alsof je gewoon met iemand samen aan het werken bent. Mensen die zonder reden gaan schelden of dreigen snap ik overigens ook niet. Dan heb je best wel een steekje los zitten volgens mij.

[Vouwfietsman]

Interessant dat we niet meer onaardig mogen zijn tegen Claude. Wellicht is er intern in Anthropic een soort Roko's-basilisk achtige zeitgeist aan het ontstaan.

Als ik bij Anthropic werkte zou ik inmiddels wel kippenvel hebben als ik voor het eerst met de nieuwste onbekende iteratie zou interacteren.

[Teejoow]

Well fuck. Hebben ze mijn transcripts te pakken gekregen? Er zijn weinig dingen die me zo opgenaaid krijgen als een chatbot die mijn bedoeling niet snapt. Behalve dan een robotstofzuiger die zich weer eens verslikt in een hoek van het tapijt.

Over 30 jaar ben ik die gast uit Detroit: Become Human die met bierblikjes naar zijn robot-werkster zit te gooien denk ik.

Maar even los daarvan. Wat zou het als gebruikers hun tokens verspillen aan wat afreageren? Vervuilt hun training data zeker.

[koelpasta]

Wat bedoel je hiermee?

[bones]

Claude is bij mij overigens zelf niet aardig. Geeft overal ongevraagd kritiek op, weigert vaak simpele opdrachten uit te voeren, en kapt mij ook vaak af (zoals we hebben vandaag genoeg gedaan, morgen weer verder).

[Martinez-]

Gevaarlijk. Wie bepaalt wat misleidende informatie is? Gezien de ontwikkelingen in de VS is dit een zorgwekkend geheel, daar Anthropic toch veelvuldig bij de regering aan tafel zit.

[tijsvb]

Zijn ze bang dat Claude straks ons taalgebruik overneemt?
Interessante ontwikkeling hoor...