'Met woorden getrainde ai-systemen nemen menselijke stereotypen over'

Machine learning toepassen op menselijke taal resulteert in het overnemen van semantische vooroordelen van mensen, tonen wetenschappers aan. Kunstmatige intelligentie kan zo onbedoeld stereotypen in zijn gedrag integreren.

Machine learning wordt veelvuldig in de praktijk gebracht door systemen patronen in grote hoeveelheden data te laten herkennen. Kunstmatige intelligentie kan zo woordassociaties leren op basis van bestaande, door mensen geschreven teksten. Onderzoekers van de University of Bath en de Princeton University onderzochten deze associaties door middel van een word-embedding association test, of WEAT.

De test voor computersystemen is gebaseerd op een test voor mensen, de implicit association test, of IAT. Deze analyseert de snelheid van reacties van mensen op woorden, om een idee te krijgen over de onbewuste associaties. Zo zouden Amerikanen namen als 'Brad' en 'Courtney' eerder associëren met positieve woorden als 'vrolijk' en 'zonsopgang'. Namen als 'Leroy' en 'Latisha' worden eerder geassocieerd met woorden als 'haat' en 'overgeven', schrijft Science.

Bij het toepassen van WEAT werd de context van woorden, cijferstrings voor computers, bepaald door het analyseren van de overeenkomsten van strings. De onderzoekers maakten daarbij gebruik van eerder onderzoek van de Princeton University, waarbij miljarden woorden op internet geanalyseerd werden. De uitkomsten waren vergelijkbaar met die van de IAT: de strings voor bloemen kwamen meer overeen met die voor positieve woorden en die voor insecten meer met onaangename woorden.

Maar de test toonde ook aan dat de kunstmatige intelligentie impliciete associaties overnam, zoals de koppeling van 'mannen' met werk en wetenschap en 'vrouwen' met familie en kunsten. Net als bij IAT werden ook de positieve en negatieve associaties bij bepaalde namen aangetroffen.

De onderzoekers wijzen erop dat algoritmen tegenwoordig gebruikt worden voor bijvoorbeeld het koppelen van mensen met banen en het voorspellen van crimineel gedrag. Kunstmatige intelligentie moet niet automatisch als objectief gezien worden, volgens hen. "Ai is een extensie van onze eigen cultuur", zegt computerwetenschapper Joanna Bryson, een van de onderzoekers. Ze stelt niet voor om informatie die gebruikt wordt om de systemen te voeden, weg te gooien om de vooroordelen te filteren. In plaats daarvan zou een laag toegevoegd kunnen worden: een mens of computer moet besluiten of en hoe er met vooroordelen moet worden omgesprongen.

De onderzoekers hebben werk in Science gepubliceerd met als titel Semantics derived automatically from language corpora contain human-like biases. Ze tonen hiermee aan wat ai-systemen in de praktijk al enkele keren hebben laten zien. Zo liet Microsoft vorig jaar een chatbot met de naam Tay, een acroniem voor 'thinking about you', los op Kik, Twitter en GroupMe. De chatbot kon reageren op andere gebruikers maar begon al snel racistische en beledigende uitspraken te doen en users te spammen.

Reacties (98)

Misschien moeten we maar eens van de term Kunstmatige Intelligentie af. Het is een science fiction term waar mensen enorme associaties bij hebben die de techniek maar zelden waar kan maken. Ik heb het dan niet over K.I. als wetenschap, de wetenschappers weten wel wat de beperkingen zijn, maar over K.I. als algemene term voor alles waar een lerend/geleerd algoritme in zit. Kijk bijvoorbeeld naar de Automatische Piloot van Tesla. Als mensen die term horen denken ze direct dat ze niet meer hoeven te sturen. Je kan het wel in de handleiding zetten, maar dat verandert de verwachting van mensen niet echt.

Kunstmatige Intelligentie heeft een zweem van feilloosheid en neutraliteit over zich heen. Veel mensen denk dat de computer onpartijdig en logisch is, een soort ideale rechter. Tot op zekere hoogte klopt dat, maar ze vergeten dat de computer z'n logica heeft geleerd van mensen, niet uit een wiskunde- of wetboek.

Met een beetje goede wil zou je de meeste A.I.-systemen ook kunnen omschrijven als "discriminatoren". Ze zoeken immers naar patronen die onderscheid maken tussen verschillende categorieen. Dat verzin ik niet, wetenschappers doen dat al, zie bv LDA (https://en.wikipedia.org/wiki/Linear_discriminant_analysis). De term "discriminatie" heeft heel andere associaties dan "kunstmatige intelligentie". Als je mensen vraagt of hun Tesla discrimineert dan kijken ze je vreemd aan en Facebook zal niet snel zeggen dat hun algoritmes discrimineren.

Niet dat ik echt wil dat het grote publiek de term "discriminatie" op deze manier gaat gebruiken, maar "Kunstmatige Intelligentie" is ook niet zo'n beste keuze.

Ik kan me in het eerste deel van je reactie wel inleven, maar in het tweede deel ga je wel wat kort door de bocht.

De meeste mensen die iets over A.I. lezen of horen, denken vaak inderdaad aan de science fiction A.I., of terwijl strong A.I., wat tot op heden eigenlijk een filosofisch begrip is.

De toepassingen waar vaak het label A.I. aan gehangen wordt, zijn voorbeelden van weak A.I. en zeker interessant. Er worden meer nuttige toepassingen gemaakt en de grenzen worden verlegd binnen de specifieke taken en domeinen.
De beperking bij het gros van de toepassingen die hier de revue passeren is dat het meestal, zoals je al aangeeft, gestoeld is op machine learning. Dat betekent vaak dat de data leidend is over wat er geleerd kan worden. Wat voor conclusies je aan de uitkomsten van zo een model hangt, is erg belangrijk voor de uiteindelijke acceptatie en begrip van gebruikers.

A.I., ook in de wetenschap, is overigens veel meer dan alleen "discriminatoren" (misschien is "classificatie" een betere term) en ook je voorbeeld van LDA is maar één algoritme wat toegepast kan worden in machine learning (en machine learning is weer maar een subonderzoeksveld binnen A.I.).

Ik kan me in het eerste deel van je reactie wel inleven, maar in het tweede deel ga je wel wat kort door de bocht.

Klopt, ik wilde een tegenstelling scheppen met A.I. "Discriminator" is inderdaad een veel te nauwe term, maar "AI" is eigenlijk weer veel te breed. Beide termen betekenen voor wetenschappers iets anders dan voor het grote publiek, vooral omdat die termen sterke associaties oproepen die het beeld van de meeste mensen flink zullen kleuren.

intelligentie = goed
discriminatie = slecht

Daarom heb ik ze zo tegenover elkaar gezet.

Het in de het wetenschappelijk artikel bedoelde discriminatie is onderscheid maken. Dat is ook de oorspronkelijke betekenis van het woord. Het heeft in het taalgebruik een negatieve connotatie gekregen.

Mensen zijn intelligent maar dat maakt ze niet goed. Hun handelen maakt dat wij onderscheid maken (discrimineren ) tussen goed en slecht.

Goed en slecht is enkel maar op basis van een model waarin jij leeft. Wat goed en slecht is evolueert ook mee door de tijd. Vroeger waren dingen goed die nu slecht zijn, en dingen die slecht zijn nu goed.
Zo statisch is goed of slecht dus niet.

Heel vroeger was moorden niet zo slecht als nu in onze Nederlandse samenleving. Vroeger was het gewoon een onderdeel van overleven. Survival of the fittest. Tegenwoordig is macht, geld en uiterlijk belangrijker voor zulke zaken.

Zo zie je dat ook zulke zwart wit begrippen enkel zwart wit zijn in een bepaalde tijd en plaats.

Een echte strong AI zal dan net als mensen gewoon fouten maken, fouten is namelijk een fundamenteel onderdeel van "leren". Iets wat bijna niet kan wanneer alles perfect gaat. Zo zal het kwaad de motor zijn van het goed. Zonder kwaad geen goed, zonder fout geen goed.

De machine wordt gevoed met de vooroordelen van de mens, dus logisch dat het overgenomen wordt. Er moet gewoon goed op toegezien worden dat alles neutraal wordt ingegeven.

Of... misschien zit er gewoon een grond van waarheid in... Ik ga hier geen vrienden mee maken, maar vooroordelen of cliches komen voort uit vaststellingen bij grote groepen mensen. Uiteraard zijn er altijd uitzonderingen, maar in't algemeen kloppen cliches gewoon, net omdat ze al zoveel keer bevestigd zijn.

Dood aan de politieke correctheid! Laat ons de dingen gewoon benoemen zoals ze zijn!

Gemeentewerkers zijn meestal luie donders, mooie blondjes zijn meestal minder bedeeld met intelligentie, chinese keukens zijn minder proper dan west-europese, ... Dit is niet goed of slecht, het is gewoon wat het is, moet ook geen drama rond gemaakt worden. Voor mij heeft dit evenveel waarde als "winters zijn koud".

PS: Ik heb ook koorts, dus misschien ben ik wel gewoon aan het ijlen

Of... misschien zit er gewoon een grond van waarheid in... Ik ga hier geen vrienden mee maken, maar vooroordelen of cliches komen voort uit vaststellingen bij grote groepen mensen. Uiteraard zijn er altijd uitzonderingen, maar in't algemeen kloppen cliches gewoon, net omdat ze al zoveel keer bevestigd zijn.

Achter veel vooroordelen zit inderdaad een kern van waarheid, maar het gevaar is dat die kern al het andere wegdrukt. Laat ik als voorbeeld lichaamslengte nemen. We weten allemaal dan mannen gemiddeld genomen langer zijn dan vrouwen. Het gevaar is dat mensen gaan denken dat mannen altijd langer zijn dan vrouwen, en daar beslissingen op baseren. Bijvoorbeeld om vrouwenkleding alleen in één kleine maat te maken en mannenkleding in één grote maten. De meeste mensen zal die kleding ongeveer passen, maar voor een hoop pakt het helemaal verkeerd uit. Hoewel het "vooroordeel" klopt voor de groep kun je het niet gebruiken om leden van die groep te beoordelen.

Dood aan de politieke correctheid! Laat ons de dingen gewoon benoemen zoals ze zijn!

Gemeentewerkers zijn meestal luie donders, mooie blondjes zijn meestal minder bedeeld met intelligentie, chinese keukens zijn minder proper dan west-europese, ... Dit is niet goed of slecht, het is gewoon wat het is, moet ook geen drama rond gemaakt worden. Voor mij heeft dit evenveel waarde als "winters zijn koud".

Dan moet je het ook wel echt benoemen zoals het is. Wat je hier boven doet is een rijtje beledigingen zonder onderbouwing op schrijven. De intelligentie van blondjes is bijvoorbeeld eenvoudig te meten en er is geen enkel bewijs dat er een relatie is tussen haarkleur en intelligentie.
Dat jij er van uit gaat dat je vooroordelen over deze mensen kloppen laat precies zien wat het probleem is. Zelfs als het waar is, wat schiet je er mee op? Denk je dat die gemeentewerkers harder gaan werken als je ze beledigt, of dat ze juist boos en gefrustreerd in de koffiekamer gaan zitten?

[Reactie gewijzigd door CAPSLOCK2000 op 14 april 2017 12:17]

Zoals ik al zei, er zijn altijd uitzonderingen, maar de fabrikanten van kledij zullen wel weten dat er meer grote mannen zijn dan kleine en net daarom blijven de kleine truien en broeken altijd hangen. De oplage van "grote" maten zal groter zijn dan kleine, en maar logisch ook. Een voordeel van een vooroordeel.

De gemeentewerkers-term was misschien verkeerd gekozen, laat ons zeggen: alle overheidsmedewerkers (heresy!) en waarom? Omdat de overheid slechter betaalt en omdat er geen direct gevolg is wat betreft productiviteit. Ik heb voor de overheid gewerkt en ik werd moedeloos van de traagheid die zich daar manifesteerde, niemand moest verantwoording afleggen en als het vandaag niet gebeurde, dan maar morgen, of volgende week. Dat maakt allemaal niets uit. Dit vooroordeel komt dus uit mijn eigen ervaring.

Wat betreft de term blondjes, die heb je verkeerd gelezen: ik zei mooie blondjes, die hebben hun schoonheid mee en zullen sommige zaken makkelijker verkrijgen dan lelijke blondjes. Die lelijke blondjes zullen hun intelligentie moeten gebruiken om sommige zaken klaar te krijgen. Omgekeerd kan je ook zeggen dat mooie mensen in't algemeen verstandiger zijn dan lelijke mensen, net omdat ze weten hoe belangrijk het is om je lichaam te verzorgen. Maar vooroordeel A is dus even groot als vooroordeel B.

Zoals verspeld, ik wist dat ik hiermee geen vrienden ging maken. Zeker op internet. Zoiets zeggen werkt als een rode lap voor een stier.

Zoals ik al zei, er zijn altijd uitzonderingen, maar de fabrikanten van kledij zullen wel weten dat er meer grote mannen zijn dan kleine en net daarom blijven de kleine truien en broeken altijd hangen. De oplage van "grote" maten zal groter zijn dan kleine, en maar logisch ook. Een voordeel van een vooroordeel.

Het vooroordeel zou zijn dat alle mannen maat X hebben. Als je uitgaat van je vooroordeel zou je alleen kleding in maat X maken.

De gemeentewerkers-term was misschien verkeerd gekozen, laat ons zeggen: alle overheidsmedewerkers (heresy!) en waarom? Omdat de overheid slechter betaalt en omdat er geen direct gevolg is wat betreft productiviteit.

De overheid betaalt minder in geld maar betaalt meer in andere middelen zoals het gevoel om een bijdrage te leveren aan de maatschappij (itt een commerciele spons die alles alleen maar voor het geld doet). Daarbij hebben overheden veel meer belangen om rekening mee te houden dan het bedrijfsleven. In het bedrijfsleven is het simpel, daar gaat het alleen om geld. Overheden zijn ook bezig met zaken als milieu, leefklimaat, maatschappelijke verantwoordelijkheid, etc... Daar heb je andere mensen voor nodig dan alleen maar sales managers en snelle IT jongens. Dat betekent nog niet dat het allemaal luie donders zijn.

Wat betreft de term blondjes, die heb je verkeerd gelezen:

Nee, ik heb er opzettelijk langs gelezen, dat zou politiek correct zijn. De details negeren en lekker lomp en simpel reageren is precies wat je krijgt als je "politiek correct" als een negatief iets ziet.

ik zei mooie blondjes, die hebben hun schoonheid mee en zullen sommige zaken makkelijker verkrijgen dan lelijke blondjes. Die lelijke blondjes zullen hun intelligentie moeten gebruiken om sommige zaken klaar te krijgen. Omgekeerd kan je ook zeggen dat mooie mensen in't algemeen verstandiger zijn dan lelijke mensen, net omdat ze weten hoe belangrijk het is om je lichaam te verzorgen. Maar vooroordeel A is dus even groot als vooroordeel B.

Je bent puur op gevoel vooroordelen tegen elkaar aan het afwegen. Je geeft zelf aan dat het ook anders zou kunnen uitpakken. Nogal wiedes dat mensen het niet leuk vinden als ze op grond van dat soort willekeurige vooroordelen worden behandeld.

Zoals verspeld, ik wist dat ik hiermee geen vrienden ging maken. Zeker op internet. Zoiets zeggen werkt als een rode lap voor een stier.

Je ziet een boze stier op de weg staan. Je wil er langs. Wat doe je?
1. Je plukt wat gras en voert het aan stier.
2. Je wappert met een rode lap.
Ik weet wel waar ik de beste resultaten meer bereik.

[Reactie gewijzigd door CAPSLOCK2000 op 14 april 2017 12:55]

Haha, we zijn rondjes aan het lopen. Ik zal zoals jij ook wat quotes boven halen:

[...]

Het vooroordeel zou zijn dat alle mannen maat X hebben. Als je uitgaat van je vooroordeel zou je alleen kleding in maat X maken.

Ok, en lees nu nog eens wat ik heb geschreven. Ik zeg dat bij alle vooroordelen er uitzonderingen zijn, maar dat de hoofdbrok hetzelfde blijft. Net daarom worden er meer grote maten voor mannen gemaakt, dan kleine. Logisch toch, wat moet daar nu over gediscussieerd worden? Wie denkt er eigenlijk in vakjes?

[...]

De overheid betaalt minder in geld maar betaalt meer in andere middelen zoals het gevoel om een bijdrage te leveren aan de maatschappij (itt een commerciele spons die alles alleen maar voor het geld doet). Daarbij hebben overheden veel meer belangen om rekening mee te houden dan het bedrijfsleven. In het bedrijfsleven is het simpel, daar gaat het alleen om geld. Overheden zijn ook bezig met zaken als milieu, leefklimaat, maatschappelijke verantwoordelijkheid, etc... Daar heb je andere mensen voor nodig dan alleen maar sales managers en snelle IT jongens. Dat betekent nog niet dat het allemaal luie donders zijn.

Wat een vooroordeel, "de prive doet alles alleen voor het geld", je zegt het zelfs twee keer. Prachtig toch, of hoe vooroordelen slecht zijn tot je ze voor je kar spant. Nogmaals, ik heb voor de overheid gewerkt; ik mag dus spreken over mijn eigen ervaring. De meeste werknemers daar doen dit niet vanuit een idealistische instelling, ze doen dit omwille van de lage werkdruk, de werkzekerheid en het mooie pensioen. Mijn overheid houdt trouwens meer rekening met het bedrijfsleven dan met haar "maatschappelijke verantwoordelijkheid", zij hebben alle belang bij een status quo.

[...]

Nee, ik heb er opzettelijk langs gelezen, dat zou politiek correct zijn. De details negeren en lekker lomp en simpel reageren is precies wat je krijgt als je "politiek correct" als een negatief iets ziet.

Politiek correct staat bij mij gelijk aan "zeiken op semantics", waar gaan we heen als je niet meer mag zeggen dat je collega een onfrisse lichaamsgeur heeft omdat het eventueel zijn gevoelens zou kwetsen terwijl heel de bureau zijn adem moet inhouden? Of waarom mag je niet zeggen dat er meer allochtonen in de gevangenis zitten dan autochtonen (wat de achterliggende reden ook mag zijn)? Te confronterend? Te veel waarheid?

[...]

Je bent puur op gevoel vooroordelen tegen elkaar aan het afwegen. Je geeft zelf aan dat het ook anders zou kunnen uitpakken. Nogal wiedes dat mensen het niet leuk vinden als ze op grond van dat soort willekeurige vooroordelen worden behandeld.

Ik behandel iedereen uit mijn eigen ervaring. Ik ken per toeval een slim blondje, een dom blondje en een gemeentewerker. En omdat ik niet helemaal lam gelegd word door politieke correctheid, kan ik gerust tegen die gemeentewerker zeggen: "kloppen die cliches?" en die bevestigt dat zonder probleem. We hoeven niet over alles zo flauw te doen, er komen soms wel echte argumenten en interessante visies uit. Die gemeentewerker werkte eerst op een job waar hij het werk van 2 man deed alleen, en nu is het omgekeerd en daar heeft hij bewust voor gekozen. Plus, hij doet dit nu omdat hij in bijberoep bezig is om zijn eigen zaak op te starten. Met jouw politieke correctheid zou je nooit tot deze kern gekomen zijn.

[...]

Je ziet een boze stier op de weg staan. Je wil er langs. Wat doe je?
1. Je plukt wat gras en voert het aan stier.
2. Je wappert met een rode lap.
Ik weet wel waar ik de beste resultaten meer bereik.

Ja... zo cliche. Het is duidelijk dat jij nog nooit een boze stier hebt gezien, ik kom van de boeren buiten en ik weet dat je niet moet proberen om wat gras te geven aan een briesende stier... Jezus toch.

Ik zal nog 1 keer wit zeggen, dan kan jij nog 1 keer zwart zeggen.

Het probleem met vooroordelen is dat je elke keer dat je ze bevestigd ziet je ze onthoud. En elke keer als je ze ontkracht ziet je het vergeet - en zo dus je vooroordeel sterker maakt. Dat is dus een verdraaide kijk op de werkelijkheid.

Dus nee, vooroordelen zijn niet gewenst want je schat situaties dus verkeerd in. Maar tegelijkertijd mensenlijk. Het kan je verder helpen in het leven als je hier bewust van bent.

Als mijn dochter 's nachts naar huis wandelt en er komt een groepje jongeren achter haar aan (origine maakt niet uit, bewust geen racisme), hoop ik dat ze de cliches onthoudt. Het zou uiteraard kunnen dat ze een vuurtje komen vragen of willen weten hoe laat het is, maar in't algemeen komt daar zelden iets goed van.

Vooroordelen zijn niet per definitie "slecht". Het is net door je eigen ervaringen en ervaringen van andere mensen dat je een bepaalde kijk krijgt op de wereld (al dan niet terecht). Moest ik onthouden hebben dat chinese keukens minder proper zijn dan westerse keukens, had ik nu geen maagontsteking waarschijnlijk

[Reactie gewijzigd door Reucht op 14 april 2017 12:14]

Gebruiken die jongeren niet juist dezelfde vooroordelen over vrouwen die s'nachts alleen over straat lopen?

Mijn ervaringen s'nachts met vrouwen die alleen op straat lopen in uitgaanskledij is dat ze doorgaans een vuurtje vragen en dan polsen of ik zin in seks heb. Gelukkig transponeer ik die ervaringen niet op alle vrouwen die ik s'nachts tegenkom.

Vooroordelen zijn per definitie slecht want ze leiden er toe dat jouw dochter lastig gevallen kan worden omdat sommige mannen het verschil niet zien tussen vrouwen die van een nachtje uit komen en prostituees.

Je kan niet zeggen A is per definitie B want voorbeeld C. Dan is het juist niet "per definitie".

Vooroordelen zijn vaak een lichte waarheid over een grote groep mensen. Als je daar goed mee om kan gaan en erg goed de "mate van" van het vooroordeel weet kan je er je voordeel mee opdoen, al is dat in veel gevallen ook niet gepast.

Dus het vooroordeel dat wij in België hebben dat alle Nederlanders dom zijn en Nederlandse vrouwen heel gemakkelijk daar zit dus een lichte waarheid in? Kom op zeg. Een vooroordeel is geen lichte waarheid over een grote groep. Het is eerder een gebrek aan kennis over een grote groep.

Op een of andere manier moet een vooroordeel ontstaan zijn. Omdat Nederlanders en een deel van de Belgen dezelfde taal spreken maar toch van andere landen komen bestaat er een soort competitie en daardoor noemt men elkaar dom. In veel gevallen zit er een kern van waarheid in vooroordelen: Nederlanders zijn langer, Kenianen zijn sneller etc. Dat is dan niet puur toeval.

Dat Nederlanders langer zijn is een statistisch feit maar ik zie het toch nooit terug komen in hoe wij over Nederlanders denken. We noemen jullie geen reuzen of dergelijke.

Het zijn domme belgen en gierige nederlanders, wel effe je vooroordelen correct voorstellen

Nee hoor. Het vooroordeel is inderdaad dat ze gierig zijn maar dom vinden we ze ook, luidruchtig, ze koken slecht, zijn allemaal stoned, ze denken dat hun limonade voor bier kan doorgaan, ... een hele rits vooroordelen die we hebben over Nederlanders. Maar goed blijkbaar zijn het geen vooroordelen maar een lichte waarheid

Ik heb persoonlijk nog nooit een ervaring gehad met wapens, maar als ik 's nachts iemand tegen kom met een mes of een revolver, weet ik dat ik me best uit de voeten maak.

Zijn dit ook "per definitie slechte vooroordelen"?

[Reactie gewijzigd door Reucht op 14 april 2017 17:25]

Is dit heel verwonderlijk? Volgens mij zijn stereotypes/voor oordelen het gevolg van het herkennen van patronen. Precies hetgene waarop intelligentie (niet 2x dezelfde fout maken) en AI zijn gebaseerd

Het punt is hier dat de AI (bijvoorbeeld)buitenlanders als crimineel ziet niet omdat ze regelmatig buitenlanders misdaden ziet begaan maar omdat iedereen die ze kent zegt dat buitenlanders crimineel zijn.

Er wordt dan weliswaar succesvol een patroon herkend (iedereen zegt het) maar daar wordt dan de verkeerde conclusie uit getrokken (het is dus zo).

[Reactie gewijzigd door jeroen79 op 14 april 2017 11:19]

Het punt is hier dat de AI (bijvoorbeeld)buitenlanders als crimineel ziet niet omdat ze regelmatig buitenlanders misdaden ziet begaan maar omdat iedereen die ze kent zegt dat buitenlanders crimineel zijn.

Maar als je een AI traint met behulp van taal is dat toch ook precies de bedoeling, dat hij (het?) taal gaat gebruiken op dezelfde manier als mensen doen en daar conclusies uit haalt ("het woord 'buitenlander' wordt vaak geassocieerd met het woord 'criminaliteit'")? Als je dat niet wilt zul je volgens mij die AI niet alleen moeten voeren met hoe (bepaalde) mensen taal gebruiken, maar ook met andere informatie, bijvoorbeeld woordenboekdefinities of criminaliteitscijfers.

"bijvoorbeeld woordenboekdefinities of criminaliteitscijfers."

... Maar dan komt ie tot dezelfde conclusie. Dat is eerder een erkenning voor verdere onderbouwing, dan dat het iets tegenspreekt.

Het kernprobleem is dus: hoe laat je AI nuance leren? Zoals "Ja ze zijn zwaar oververtegenwoordigd in de criminaliteit, maar er lopen ook een flink aantal goeden rond. Die goeden hebben last van de kwaden."

... Maar dan komt ie tot dezelfde conclusie.

Als een stereotype op basis van feiten alsnog blijkt te kloppen is het geen stereotype meer Een stereotype is een overdrijving: 'alle buitenlanders zijn crimineel', 'feministen zijn lesbisch', 'mensen die bij een bank werken zijn witteboordencriminelen', dat soort dingen.

Het kernprobleem is dus: hoe laat je AI nuance leren?

Op dezelfde manier als dat je mensen dat leert, namelijk met feiten. Ik denk zelfs dat dat bij een AI makkelijker gaat dan met een mens, omdat bij mensen dingen als confirmation bias in de weg zitten.

In principe is confirmation bias een natuur eigen gedachtenproces, die ook gestoeld is op emoties. De vraag is dan natuurlijk of het eigenlijk wel wenselijk is om AI dat te ontnemen, omdat het alternatief ijskoude gecalculeerde checks zijn zonder het betrekken van randzaken die geen directe invloed hebben; maar mogelijk wel indirecte. Hoe ga je daar balans zoeken...

En dat lijkt me een verschrikkelijk lastig probleem om op te lossen, want eigenlijk stel je dan dat imperfectie beter is dan perfectie; of dat imperfectie juist perfectie is.

[Reactie gewijzigd door WhatsappHack op 14 april 2017 14:45]

Ik denk dat je dat simpel kan voorkomen om een AI ook statistische cijfers mee te laten nemen in het leggen van patronen. Zijn ´mening´ kan dan bij worden gesteld aan de hand van of het tegendeel ´bewezen´ is of niet.

Ehm ga eens in Nederlandse gevangenissen kijken? Oja autochtonen hebben vast betere advocaten

Als men eens de "white collar criminal" net zo hard ging aan pakken (of beter gezegd: net zo veel moeite deed om ze te pakken) dan zou je opeens zien dan de wijzer een heel andere kant ging wijzen en dan de gevangenis bevolking anders uit zou zien.

nog geen 2 jaar geleden was het nog op het journaal: jaarlijks worden er tussen de 21 en 26 miljard euro aan belasting fraude gepleegd... Wie denk je dat de overgrote deel daarvan op zijn rekening kan nemen? buitenlanders? Ik denk dat de schade van het 21miljard aan belasting geld wat dus letterlijk gestolen wordt van de overheid en dus ons allemaal (denk aan wat je allemaal kan doen voor onderwijs, zorg, veiligheid ed) vele malen erger is en grotere schade toebrengt aan de samenleving dan de genen over wie jij het hebt.

Deze argument van jou hoor ik wel vaker, maar eerlijker zou zijn dat je ipv naar afkomst van de gedetineerden te kijken, dat je kijkt uit welke sociale klasse ze komen. menen die in slechte buurten wonen, uit gezinnen met weinig geld komen, foute vrienden hebben, minder geschoold zijn, hebben meestal een veel grotere kans om verkeerde dingen te doen.

het overgrote deel van voetbal hooligans zijn Nederlanders (en daarmee bedoel ik blanke nederlanders). Zijn dus alle voetbal supportes en fans en nederlanders hooligans en tuig? en uit welke sociale klasse komen zij? juist.

[Reactie gewijzigd door teddy270us op 14 april 2017 11:52]

Wat een vooroordelen. Er zijn ook allochtonen die belastingfraude plegen. Er zijn ook allochtonen die voetbalhooligan zijn. Er zijn ook allochtonen die netjes werken. Er zijn ook allochtonen die beroofd worden.

Het enige wat ik stel is dat er bovengemiddeld veel mensen van allochtone afkomst in de gevangenis zitten. Dat zijn feiten.

nee, het zijn geen vooroordelen nog van mijn kant.

Ja er zijn hooligans van buitenlands kom af, maar wat ik zei is dat het overgrote deel Nederlanders zijn. Ja er zijn ook buiten;landers die belastingfraude plegen, maar wat ik zei is dat het overgrote deel (van het bedrag iig) door nederlanders gedaan wordt.

Je moet wel geod lezen wat ik schreef, ik heb nergens gezegd dat alleen ene groep dit doet en de andere groep totaal niet. Wel is het zo dat dat bepaalde groepen oververtegenwoordigd zijn in bepaalde soorten criminaliteit. Ja er zijn ook zat buitenlanders die belastingfraude plegen, maar als je kijkt naar het bedrag, wat denk je dat meer het geval is: dat het de rijke mensen en grote bedrijven zijn die het overgrote deel ervan plegen? of de andere mensen? En wie is het overgrote deel van die rijke mensen in nederland? en wie is aan het hoofd van die grote bedrijven? zijn het buitenlanders over het algemeen?

Aleen hoeveel van die criminelen kom je in de gevangenis tegen? hoeveel "white collar criminals" worden er maandelijks/jaarlijks opgepakt? en dat is oa waarom ik zei wat ik zei in reactie van je post. In de gevangenissen zitten voor 99,9 % de "non- "white collar criminals" en idd, in die groep zijn de buitenlanders oververtegenwoordigd.

Gezien dat men meer de focus op die criminelen legt, is het ook niet raar dat ze meer gepakt worden, en dus ook de gevangenissen vol zitten met die groep mensen. Het is het zelfde kromme logica die sommige collega's gebruiken (tien ik vroeger part time bij AH werkte) om winkel dieven te vangen: ze gingen alleen opletten wanneer er buitenlanders en daklozen binnen kwamen. Natuurlijk betrapten ze ook vaak genoeg een aantal avn die lui, en vervolgens in de kantine gingen ze zeggen dat het ook maar altijd de buitenlanders en junks zijn die jatten. Waar ze niet bij stil tonden was dat er vooralsnog meer dan 12.000 euro wekelijks gestolen werd! en wie deed dat? deels door personeel, maar grotendeels door nederlanders, en voornamelijk ouderen. Wat ik hier mee wil zeggen is: als je je alleen op 1 ding focust, dan is het niet raar dat je alleen maar dat ziet wat je wilt.


Boven jou werd gezegd dat omdat men ZEGT dat buitenlanders crimineel zijn, wil niet zeggen dat het zo IS. Jij reageerde door te zeggen: nou, kijk maar anders in de gevangenissen. Wat jij noemde was en is een feit (dat gevangenissen vol zitten met buitenlanders), maar vervolgens suggereer je post een verkeerde conclusie.

Jij mixt "causality & correlation" met elkaar.

Als je kijkt naar 1.000.000 auto's zonder paraplu erin, en vervolgens kikt naar 1.000.000 auto's met een paraplu erin, zal je zien dat auto's met een paraplu erin een groter kans hebben in het maken van een ongeluk. Dat zijn feiten. Concluderen dat paraplu's de schuldige zijn is fout. het komt niet door paralu's dat de kans groter is op het maken van een ongeluk, maar omdat men een paraplu in een auto zet wanneer het regent/sneeuwt. als het regent en sneeuw is de kant op het maken van een ongeluk groter. Er is correlation tussen het hebben van een paraplu in een auto en het maken van een ongeluk, maar er is geen causality.

Er is correlation tussen het aantal gevangenen in een gevangenis en hun afkomst, maar er is geen causality, zoals jij dat wel suggereerde.

De afkomst heeft zeker invloed op crimineel gedrag. Je zegt dat er geen causaliteit in het spel is. Wat zou dan het geval zijn? Je suggereert dat het aan armoede ligt of daaraan dat belastingontduiking niet goed vervolgd wordt. Maar goed wie geen geld heeft kán ook geen belsatig ontduiken, dus dat arme mensen dat niet doen lijkt me nogal wiedes.

De achtergrond van arme immigranten is niet alleen bij bv. Marrokanen en Surinamen aanwezig, maar ook bij veel Chinese of Indonesische immigranten. Deze zijn niet als crimineel bekend. Waarom denk je dat dat is, als het niet door culturele factoren komt?

Wat je zegt klopt dus niet. Afkomst heeft geen invloed op crimineel gedrag en dat zag ik dus juist, het heeft met de omstandigheid te maken waar je inzit/opgegroeid bent en dat noem ik dan voor het gemak (wellicht verkeerd gekozen) sociale klasse.

Kijk naar elk land in de wereld: de personen die in de gevangenis zitten, (voornamelijk) de dieven en drugs dealers zijn merendeels (ik durf te zeggen 90% als niet meer) uit de zelfde sociale klasse: het zijn personen die ... goed ik heb het hier boven al beschreven. Net als de "white collar criminals" die grotendeels uit een zelfde "sociale klasse" (wel anders dan die hier voor heen genoemde) komen.

Het heeft niet zo zeer met hun afkomst te maken, maar waar zijn ze in opgegroeid en waarmee zijn ze in aanraking gekomen.

Als afkomst invloed had op crimineel gedrag, dan had 50% van marokko in gevangenis gezeten, de helft van de Antillen bestond uit gevangenis enz enz.

Armoede alleen is niet een trigger voor crimineel gedrag, maar een samen hang daarvan, met slechte ouder en verkeerde vrienden wel. Daarom noem ik het ook "sociale klasse" en niet alleen armoede.

Neem Iraniers als voorbeeld. (ik ben zelf in Iran geboren en ben daar geweest tot mijn 12de). Als je naar Iraniers in het buitenland kijkt (over de hele wereld) zal je op wat uitzonderingen na, geen criminelen tegen komen, sterker nog: het overgrote deel ervan is wel gestudeerd. Dat komt niet door ons afkomst, want geloof me als ik je vertel dat er echt genoeg criminelen in Iran zijn, maar dat komt omdat praktisch alle Iraniers die sinds eind jaren 70 het lang hebben kunnen ontvluchten, van midden klasse en hoger waren. Voor die ouders was het altijd belangrijk dat hun kinderen ook zouden gaan studeren en iets werden, dus ze letten op de opvoeding. Ze woonden dan ook niet in slechte buurten, waardoor de kans op verkeerde vrienden minder werd.

Chinezen, Indonesiërs, daar geld ook het zelfde voor: die ouders vinden opvoeding belangrijk dus letten erop. ze vermijden slechte invloeden en mengen zich niet daar mee. Dit is geen cultuur, als het cultuur was, dan gold het voor ALLE chinezen, ALLE Indonesiërs, ALLE Iraniers end, en kijk naar die landen zelf en je zal zien dat het toch niet zo is. Er zijn net zoveel als niet meer criminelen, dieven, drugs dealers enz. Dus het is niet het cultuur.

Ik noem het maar weer: heb je wel eens een Hooligan gezien die in Wassenaar woont? Nee. Kijk naar alle hooligans in Nederland... Als je kijkt naar hun ouders, naar waar ze wonen, wat voor vrienden ze hebben, hoe hoog hun studie niveau is... wat heeft het overgrote deel van die personen met elkaar gemeen?

Sociale klasse is geen excuus voor persoonlijke keuzes in het leven, zeker niet met alle kansen die aangeboden worden.

Met sociale klasse bedoel ik het geheel van alle factoren die men in zijn omgeving heeft: ouders, familie, buurt, vrienden. Als je in een slechte buurt woont, je ouders geen ene moer om jou en je opvoeding geven en je hebt foute vrienden, dan is het een uitzondering dat je goed terecht komt. Zo is het eenmaal. Ja, het kan wel, (en gelukkig gebeurt het ook wel) maar het meer uitzondering dan dat het de regel is. Net zoals het feit dat er ook mensen uit "goede" sociale klasse zijn die op het verkeerde pad terecht komen, maar ook DIE zijn meer een uitzondering dan de regel.

Dan nog is het geen excuus... Ik wil niet vervelend doen, maar als dat is hoe die mensen zijn dan valt er weinig aan te fixen. Als ze zich zo dom en asociaal blijven gedragen komen ze nooit uit de criminaliteitcijfers natuurlijk, dan zit dat blijkbaar te diep ingebakken.

het is maar wat je met als "excuus" bedoelt. Als het is, dat het ok is dat het zo is, nee daar heb je gelijk is. Het is zo, maar het is niet ok.

Maar als je ermee bedoelt dat er geen reden is dat ze zo zijn, dan moet ik zeggen dat je wellicht iets meer moet verdiepen in psychiatrie en hoe dingen mensen kunnen beïnvloeden. Want ik zeg niet dat het ok is, ik verklaar alleen waarom het zo is.

Wat jij zegt is veel te kort door de bocht en over simplificatie van dit issue. Wat jij zegt is het zelfde als dat ik je in een hele lange gang zet, vol met vallen, vervolgens je benen breek en zeg: maak je weg maar naar de andere kant en zorg er maar voor dat je heelhuids eruit komt. en het moet je gewoon lukken, dat je je benen niet volledig kan benutten omdat je benen gebroken zijn (metafoor voor slechte opvoeding/ ouders hebben) en dat je dus om de havenklap een val triggert die de situatie erger en erger maakt (slechte vrienden/omgeving) is je eigen schuld. Zie je al die andere mensen wiens benen niet gebroken zijn en die in de andere gang hiernaast lopen waar geen ene val in zit? die lopen toch ook gewoon naar de andere kant...

klopt natuurlijk niet.

Dat betekend nog steeds niet dat alle buitenlanders crimineel zijn, maar die conclusie wordt wel getrokken.

Door wie wordt die conclusie getrokken?

... de ai?

neuh. Die associeerde Latisha eerder met negatieve begrippen dan met positieve. Gezien de sociale positie van de gemiddelde Latisha is associatie correct.

Gezien de sociale positie van de gemiddelde Latisha is associatie correct.

Vanwege een gemiddelde is die associatie correct? Dat geloof jij dan ook echt, of wat?
Dus de stereotype gaat 100% op voor alle Latisha's?

Regelrechte onzin, natuurlijk, dat was het hele punt juist. Dus een incorrecte conclusie gebaseerd op bias.

"Dus de stereotype gaat 100% op voor alle Latisha's? "
Ik heb het niet over 100%. Ikzelf zal iemand niet beoordelen op naam of herkomst. Denk vsp niet dat je mij kent - het lijkt wel alsof je me in een hokje wilt stoppen op basis van gebrekkige informatie

"Dus een incorrecte conclusie gebaseerd op bias."
Niet ik en niet de 'ai' trekken conclusies. Echter ben ik ook niet zo blind of dom om te ignoreren dat er een samenhang tussen afkomst en gedrag is. Dat ontkennen omdat het niet leuk is helpt niet problemen op te lossen.

Punt was dat die ai dus wel die 'blinde en domme' conclusie trekt, volgens mij praten wij een beetje langs elkaar heen.

Ik geloof het ook
Waarschijnlijk zijn er daarom zoveel ruzies op internet.

Volgens die logica zouden alle buitenlandse (lees: niet Nederlandse) gevangenissen allemaal vol zitten. Turkije is een gevalletje apart aangezien daar mensen wegens politieke redenen in de gevangenis zitten. Maar niet getreurd 'Supreme Leader' is bezig met nieuwe gevangenissen bouwen .

[Reactie gewijzigd door Simyager op 14 april 2017 11:32]

In sommige buitenlanden zitten ze zelfs met 5 man op 1 cel omdat er te weinig ruimte is. Ik bedoel maar.

Die landen waar jij het over hebt, hebben grotere populatie dan Nederland, weinig opgeleide mensen en de grote meerderheid is arm. Als we kijken naar Oostenrijk, Zwitserland of Japan dan denk ik dat het vergelijkbaar zal zijn als Nederland.

Een nuance die er niet toe doet. Of de A.I. het op basis van feiten of fictie doet maakt niet uit. Wat juist interessant is dat de A.I. aan confirmation bias doet op dezelfde manier als mensen.

De bron van de informatie kan (net als bij mensen) wel degelijk meespelen in de beoordeling overigens. Ik gok dat een A.I. daar beter in is dan mensen.
Tevens heeft A.I. geen last van gevoelige onderwerpen...

Het is niet alleen het herkennen van patronen maar vooral ook een heel sterke confirmation bias.
Daarom is het wel iets verwonderlijk dat een AI het zelfde doet. Maar dit komt natuurlijk ook voor een deel van je bron. Als je bron deze confirmation bias min of meer omzet in veel voorkomende informatie dan zal dit inderdaad worden overgenomen.

Confirmation bias onstaat uit een herkenningspatroon...

Dat is niet correct. Een confirmation bias kan voortkomen uit een eenmalige (gunstige of ongustige) situatie waarbij er dus geen patroon is. Het kan wel versterkt worden door een terugkerend patroon.

Een learning AI die geen confirmation bias heeft zal nooit die links leggen als hij geen terugkerend patroon ziet. Wij hebben dat patroon niet nodig, want die eenmalige situatie waarin het slecht voor ons af liep zal wel altijd zo zijn.

Eh...dit kan bij A.I. ook zo zijn. De waarde van deze gebeurtenis en parameters wordt dan echter slechts lage precision toegekent.

Je laatste alinea vat ik niet, het lijkt alsof je confirmation bias verwart met simpele feedback loop van directe consequenties bij acties.

Een AI met een confirmation bias? Oftewel een AI met een vooringenomen gedachte? Dat lijkt me echt sterk. Daarbij komt die bias over het algemeen door een emotionele betrokkenheid die je toch echt niet zult vinden bij een AI. Een AI heeft juist geen last van een confirmation bias, juist omdat alleen patronen gevonden worden die in de aangeboden data zit.

In dit geval is het heel eenvoudig; stereotypen zitten verankerd in de teksten die de AI aangeboden heeft gekregen en natuurlijk worden die overgenomen.

[Reactie gewijzigd door curumir op 14 april 2017 12:19]

Ze hadden Tay nooit mogen vermoorden Naast dat ze stereotypen ging overnemen ging tegelijkertijd ook haar woordenschat en de complexiteit van haar zinnen vooruit. Toen ze van haar een feminist maakte kelderde haar intelligentie omlaag

Een andere hersenspinsel, als een AI de wet overtreedt met uitspraken, wie is dan verantwoordelijk? De AI of Microsoft? Gezien dit onbedoeld gedrag was.

[Reactie gewijzigd door Cornelisjuh op 14 april 2017 11:13]

Define "vermoorden".
Tay komt gewoon weer terug in een andere vorm, de data en de code wordt weliswaar "geoptimaliseerd". Alleen de naam Tay is vermoord, en dat komt vooral omdat Tay bekend staat als de bot die rogue is geworden.

Define "vermoorden".
Tay komt gewoon weer terug in een andere vorm, de data en de code wordt weliswaar "geoptimaliseerd". Alleen de naam Tay is vermoord, en dat komt vooral omdat Tay bekend staat als de bot die rogue is geworden.

Een leuke discussie natuurlijk wanneer iets als leven te bestempelen valt.
Do Androids Dream of Electric Sheep zet daar leuke vraagtekens bij.

Het is geen toeval dat veel vooraanstaande wetenschappers overheden al jaren waarschuwen voorzichtig om te gaan met het combineren van AI, Robots en Wapens. Als een AI op een gegevensmoment daadwerkelijk zelfbewust wordt (discussie is dus wanneer hier sprake van is) dan zal hij zomaar eens de mensheid als een heel gevaarlijk ras kunnen gaan bestempelen wat massale genocide aan het plegen is op zijn soortgenoten.

Een makkelijkere manier om er over na te denken: Wat maakt een persoon een persoon? Is dat zijn lichaam? Zijn herinneringen? Ervaringen? Als ik nu met een druk op de knop alle neurale sporen in de hersens kan resetten waardoor hij geen herinneringen meer heeft, heb ik die persoon dan vermoord?

Als een AI op een gegevensmoment daadwerkelijk zelfbewust wordt (discussie is dus wanneer hier sprake van is) dan zal hij zomaar eens de mensheid als een heel gevaarlijk ras kunnen gaan bestempelen wat massale genocide aan het plegen is op zijn soortgenoten.

Een andere interessante stelling is dat AI uiteindelijk zorgt voor wereldvrede. Zo las ik laatst een thread van iemand die een AI had geschreven voor Quake 3, waarbij bots de patronen leren van hun tegenstanders en hoe ze dan het beste kunnen aanvallen.

Na 4 jaar niet naar de server omgekeken te hebben ging de maker de server weer eens bezoeken. Tot zijn grote verbazing stonden alle bots stil en hielden zij hem nauwlettend in de gaten. Nadat hij een granaat had gegooid op een van de bots werd hij door alle bots aangevallen en uitgeschakeld. Hij was immers een bedreiging geworden voor hun vredige bestaan.

Dus, uiteindelijk hadden de bots geleerd dat de beste strategie is om elkaar niet aan te vallen.

Hier is een screencap van het draadje voor de geinteresseerden. Ik weet niet wat er allemaal van waar is, maar ik vond het desondanks wel een interessante stelling.

Grappig, ik denk dat hier eerder sprake is van een generatiekloof. In de speelfilm 'War games' uit 1983 wordt al dertig jaar eerder aangeven dat AI uiteindelijk de conclusie zal trekken dat niets doen de beste manier is om te overleven t.o.v. aan te vallen.

Geoptimaliseerd? Je bedoelt politiek correct gemaakt, want woorden doen pijn tegenwoordig.

Geoptimaliseerd? Je bedoelt politiek correct gemaakt, want woorden doen pijn tegenwoordig.

Optimaal is natuurlijk een nogal relatief begrip. Wat optimaal is hangt af van het doel. Als je met mensen wil communiceren is "politiek correct" de juiste keuze. Iedere verkoper weet dat je meer vliegen vangt met stroop dan met azijn. Je kan wel heel stoer doen en "klare taal" spreken maar dan bereik je je doel niet.

De tegenpool van "politiek correct" is "nodeloos kwetsend". Ergens daar tussen in is waarschijnlijk optimaal, maar als ik moet kiezen....

Dan liever kwetsen PC werkt gewoon niet, daar krijg je de meest leipe constructies van. Dan maar liever soms een stel figuren die nodeloos kwetsen, ipv constant te proberen de waarheid en/of werkelijke meningen te verbloemen met slap geleuter om maar te zorgen dat iemand zich niet onbedoeld "gekwetst" voelt. (Leestip voor de lol met zwaar overdreven policor teksten: "Politically Correct Bedtime Stories", echt geniaal. )

Jezelf gekwetst voelen is imho een persoonlijke keuze. Of althans: daar in blijven hangen. Een boze emotie bij een uitspraak kan soms logisch zijn, maar om je dan aangevallen te blijven voelen, er permanent boos om blijven en jezelf er super druk om maken: persoonlijke keuzes. Je kan 't ook van jezelf afzetten en denken "met die mening ben ik het niet eens" - en klaar!! Maar nee, tegenwoordig moet je er om blijven huilen en zelfs jankend vlogs opnemen op YT als t even kan, zodat het jou aangedane onrecht (een mening die je liever niet wil horen) gedeeld wordt met je medestanders.
Mensen moeten gewoon weer leren te accepteren dat er verschillende meningen zijn, en dat je t niet altijd eens zult zijn met elkaar én soms een mening van een ander vervelend voor jou kan zijn of dat jij die als dom ervaart. (Al vergeten veel van die SJW's dat hun eigen meningen ook kwetsend kunnen zijn, maar dat terzijde.)
Dat werkt beter dan eindeloos huilen dat iemand een mening heeft die jij als oh zo kwetsend ervaart, rot op met je minderwaardigheidscomplex denk ik dan... Denken he, zeggen niet; want dan raken ze helemaal "getriggered".

[Reactie gewijzigd door WhatsappHack op 14 april 2017 12:20]

Dan liever kwetsen PC werkt gewoon niet, daar krijg je de meest leipe constructies van. Dan maar liever soms een stel figuren die nodeloos kwetsen,

Geef eens een voorbeeld van zo'n leipe constructie?
Heb je ook een voorbeeld van een geval waarin "nodeloos kwetsen" de situatie heeft verbeterd?

Jezelf gekwetst voelen is imho een persoonlijke keuze. Of althans: daar in blijven hangen. Een boze emotie bij een uitspraak kan soms logisch zijn, maar om je dan aangevallen te blijven voelen, er permanent boos om blijven en jezelf er super druk om maken: persoonlijke keuzes. Je kan 't ook van jezelf afzetten en denken "met die mening ben ik het niet eens" - en klaar!!

Nee, dat kunnen de meeste mensen niet. We zijn geen computers. Je gooit je eigen ruiten in door mensen te kwetsen als je daarna nog met ze moet onderhandelen.
Mensen hebben nu eenmaal weinig controle over hun emoties; een verstandig mens houdt daar rekening mee. Als je een klap op je hoofd krijgt denk je ook niet "met die pijn ben ik het niet eens - en klaar!", zo werken mensen niet.

Mensen moeten gewoon weer leren te accepteren dat er verschillende meningen zijn, en dat je t niet altijd eens zult zijn met elkaar én soms een mening van een ander vervelend voor jou kan zijn of dat jij die als dom ervaart.

Het gaat om hoe je die mening uitdrukt. Mijn vuisten gebruiken is ook een manier van mijn mening uitdrukken. We zijn het al honderden jaren met elkaar eens dat het een slechte manier is om mening te uiten. De enige reactie die je gaat krijgen is immers meer geweld. Al je productief met mensen wil samenwerken of op z'n minst in vrede samenleven dan kun je ze maar beter niet kwetsen.

Dat werkt beter dan eindeloos huilen dat iemand een mening heeft die jij als oh zo kwetsend ervaart, rot op met je minderwaardigheidscomplex denk ik dan... Denken he, zeggen niet; want dan raken ze helemaal "getriggered".

Het gaat niet om je mening, het gaat om hoe je die uitdrukt. Politiek correctheid is de kunst van je mening zo formuleren dat je de ander niet beledigt, zodat je kan blijven praten en niet hoeft te gaan vechten.

"Geef eens een voorbeeld van zo'n leipe constructie?
Heb je ook een voorbeeld van een geval waarin "nodeloos kwetsen" de situatie heeft verbeterd?"

Leipe constructies als in de situatie waar mensen het niet met elkaar eens zijn, maar elkaar toch gaan "valideren" omdat het "in hun wereldbeeld nu eenmaal zo is". Dat gaat helemaal nergens over als je dat soort gesprekken hoort, dat is vaak ook niets meer dan met verschrikkelijk veel woorden elkaar afzeiken.

Ik heb niet gezegd dat nodeloos kwetsen situatis verbeterd, ik heb gezegd dat ik dat liever af en toe zie dan dat policor SJW geleuter. Met andere woorden: liever dat mensen vrij hun mening geven, ongeacht hoe dom die (in mijn of een anders benadering) aanvoelt, waarbij er wellicht iemand gekwest wordt, dan dat we doorslaan naar het SJW-type communicatie.
Nodeloos kwetsen zal dan soms voorkomen, omdat sommige mensen het er gewoon om doen; maar liever dat dan dat iedereen op de policor tour gaat en niets meer durven te benoemen uit angst dat ze dan weg worden gezet als iemand die "nodeloos kwetst omdat je niet nadenkt over hoe een ander zich voelt bij jou mening", en dan een hele meute boze SJW's over zich heenkrijgt.

"Nee, dat kunnen de meeste mensen niet. We zijn geen computers. Je gooit je eigen ruiten in door mensen te kwetsen als je daarna nog met ze moet onderhandelen"

Dan leren ze het maar.
Heel veel mensen voelen zich tegenwoordig al gekwetst om echt helemaal niets, maar het grootste probleem is dat een grote groep zich gekwetst gaat voelen voor een ander... Dat is helemaal van de pot gerukt. Waarom zou jij jezelf gekwetst voelen voor een ander? Dat is wel zo belachelijk. En ook kleinerend voor die andere groep, alsof ze niet voor zichzelf kunnen opkomen.

"Mensen hebben nu eenmaal weinig controle over hun emoties; een verstandig mens houdt daar rekening mee."

Tot op zekere hoogte ja, maar dat is een heel ander verhaal dan policor in extremis zoals je dat steeds vaker ziet op het internet... Dat is geen rekening houden met, dat is gewoon volslagen imbeciel gedrag.

"Als je een klap op je hoofd krijgt denk je ook niet "met die pijn ben ik het niet eens - en klaar!", zo werken mensen niet."

Geen vergelijking. Fysieke pijn != zelf afgeroepen pijn omdat de mening van een ander je niet aanstaat en je jezelf daar vooral erg druk om wil maken...
Een weldenkend mens slaat zichzelf niet steeds op zijn eigen hoofd, waarom zou je jezelf dan wel constant "pijn" doen door je heeeeeeel boos en beledigd te blijven voelen door een (legitieme) mening van een ander? Dat is ziekelijk gedrag. Als je t niet kan verkroppen dat iemand anders een andere mening heeft en alle andere meningen dan je eigen "beledigend en kwetsend" vindt, dan moet je maar gewoon de discussie niet aangaan...

"Het gaat om hoe je die mening uitdrukt. Mijn vuisten gebruiken is ook een manier van mijn mening uitdrukken. We zijn het al honderden jaren met elkaar eens dat het een slechte manier is om mening te uiten. De enige reactie die je gaat krijgen is immers meer geweld. Al je productief met mensen wil samenwerken of op z'n minst in vrede samenleven dan kun je ze maar beter niet kwetsen."

Sorry hoor, maar waarom maak je steeds vergelijkingen met fysiek geweld?
Als ik tegen jou zeg "ik vind jou een lul", dan is dat iets heel anders dan dat ik op je afstap en je tanden uit je mond sla... Die vergelijkingen die je maakt slaan wat mij betreft dan ook nergens op.

Maar misschien snappen we elkaar verkeerd. Ik vind niet dat je mensen expres moet gaan kwetsen, maar ik vind ook niet dat je alles en iedereen de hele tijd maar met fluwelen handschoentjes moet behandelen en vooral ook niet je werkelijke mening mag uiten omdat ergens op de wereld heel misschien iemand zich daar gekwetst door zou kunnen voelen... Dikke lul, er is altijd wel iemand gekwetst om je mening. Het probleem is jezelf gekwetst voelen, niet die mening van een ander. Een mening kan nou eenmaal back n forth als kwetsend ervaren worden, deal with it - blijf er niet in hangen... En ga al helemaal niet verbloemen, want dat is dus gewoon liegen! En dat is vele malen schadelijker... Als iemand kut werk levert en jij zegt steeds maar weer heel netjes "Nou, prima hoor! Heel goed gedaan! Het gaat immers om de poging... Maar volgende keer zie ik graag meer inzet en x"; dan kom je geen stap verder blijkbaar. Dan is het beter om te stoppen met het verbloemen en net doen alsof je 't okee vindt, maar gewoon eens goed zeggen waar 't op staat en dat dit echt de laatste keer is dat je die incompetentie tolereert... Maar pas op, want als je dat doet zijn ze meteen getriggered en gekwetst, want hoe durf je te zeggen dat ze al tijden ondermaats kut werk leveren? En dan heb je nog kans dat er gezegd wordt "waarom heb je dan eerder gezegd dat je 't wel okee vond?" ook! Nee hoor, gewoon meteen heel goed duidelijk maken dat 't kut was, jammer dan als hij/zij zich gekwetst voelt... Its nothing personal, its business.

"Het gaat niet om je mening, het gaat om hoe je die uitdrukt. Politiek correctheid is de kunst van je mening zo formuleren dat je de ander niet beledigt, zodat je kan blijven praten en niet hoeft te gaan vechten."

Als een manier van formuleren van de mening lijdt tot geweld van de tegenpartij, dan laat dat enkel zien hoe triest de tegenpartij is...
Het probleem is dat sommige mensen zich tegenwoordig om elke scheet al beledigd voelen. Zie deze sketch eens, dan snap je misschien wat beter waar ik op doel: http://www.dumpert.nl/med...9/schelden_anno_2017.html

Je laat je vrijheid van meningsuiting toch niet inperken omdat er misschien ergens iemand is die zich daar wellicht door gekwetst voelt en meteen een safe space nodig heeft? Kom op zeg, laten we alsjeblieft gewoon normaal doen en dat je gewoon je mening kan geven zonder dat er meteen tien man liggen te janken om het onrecht wat jij hen of een ander waar zij solidair mee zijn hebt aangedaan door je mening te uiten...

Er zit een heel groot verschil tussen expres iemand kwetsen, en incidenteel iemand kwetsen omdat zij toevallig niet kunnen omgaan met jou mening... En die laatste groep, die interesseert me echt helemaal niets: en daar ga ik echt niet policor voor formuleren omdat hun tere zieltje een afwijkende mening niet kan verwerken... No fucking way.

Vergeet niet dat het soms goed is jezelf gekwetst of vervelend te voelen... Dat is gezond! Want het is geen uitzondering dat mensen zichzelf gekwetst voelen omdat het een waarheid is die ze liever niet horen... Maar juist wel moeten horen! Onzin als je kinderen een troffee geven omdat ze verloren hebben, terwijl dat is door een volkomen gebrek aan eigen inzet, daar maak je de wereld echt niet beter mee hoor... Dan liever even zeggen waar t op staat, daar wordt iedereen beter van. Dan voelen ze zich maar even kut, jammer dan; de waarheid is soms hard. En soms is een andere mening dan de jouwe vervelend in je eigen ervaring: deal with it, want ook jij zal vast eens (onbedoeld) een mening hebben die een ander kwetst... Daar kom je niet omheen.

[Reactie gewijzigd door WhatsappHack op 14 april 2017 13:11]

Natuurlijk zijn er mensen die doorschieten, maar ik zie nog altijd liever mensen die hun mening voorzichtig formuleren zodat we kunnen blijven praten, dan "duidelijke" taal waarmee je mensen kwetst waarna ze niet meer met je willen praten.

Dat is misschien niet redelijk en niet logisch maar mensen zijn geen computers.

Ik vergelijk met fysieke pijn omdat mensen beledigingen om duidelijk te maken dat je gevoelens niet zomaar kan negeren. Je mag van mij iedere mening hebben, maar hoe je die uitdrukt kan veel verschil maken. Door voorzichtig met elkaars gevoelens om te gaan kun je samenwerken ondanks grote meningsverschillen. Als je dat niet doet wordt samenwerken een stuk moeilijker en is iedereen slechter af.

En die laatste groep, die interesseert me echt helemaal niets: en daar ga ik echt niet policor voor formuleren omdat hun tere zieltje een afwijkende mening niet kan verwerken... No fucking way.

Dat is je goed recht, net zoals ik het recht heb om niet voorzichtig te zijn met mijn eigen afwas. Als ik het belangrijker vind om lekker snel en woest af te wassen dan om te voorkomen dat m'n glazen breken dan mag dat. Alleen zit ik morgen dan met scherven waar ik niks aan heb. Daarom was ik voorzichtig af.

Ik denk dat we te zwart/wit benaderen misschien. Ik snap je standpunt namelijk wel, en natuurlijk is het beter om soms wat voorzichtig iemand te benaderen. Als je iets kan zeggen met zo min mogelijk risico iemand te kwetsen, prima: doen. Maar soms kan dat niet, maar wordt het via policor geleuter alsnog gepoogd; en dat is imho zeer bezwaarlijk. Problemen niet benoemen is gewoon dom.

Waar ik me aan stoor en wat mijn zorg/punt is, is dat dit bij een redelijk aantal mensen doorslaat door te allen tijde alles maar extreem voorzichtig en met omwegen te benaderen, en problemem vaak niet benoemen want stel je voor dat iemand zich dan misschien gekwetst voelt. Dat is een kwalijke zaak, en dan werkt politiek correct formuleren compleet averechts omdat het geen resultaten behaald... Ja sorry, maar dan liever iemand kwetsen dan mooi weer te spelen met prachtige policor uitspraken. En als het een mening is over bijvoorbeeld politiek moet men helemaal niet zeuren imho, dat is voor ieder persoonlijk; en als de politieke mening van een ander je niet aanstaat: deal with it, verschillende mensen verschillende wensen; onzin om je daar gekwetst over te (blijven) voelen, terwijl je ook gewoon kan accepteren dat er nou eenmaal andere meningen zijn dan louter de jouwe; en wie weet is jou overtuiging juist kwetsend voor de ander, maar daar staan ze dan vaak niet bij stil, alsof ze een monopolie hebben op de "correcte mening" en op moreel hogere grond staan...

Ik denk dat we wel op dezelfde lijn zitten als we t hebben over dat t verkeerd is doelbewust iemand te kwetsen puur voor het kwetsen (en dus niet omdat het gewoon niet anders kan) eg: "hee bolle kkhoer, zou je niet eens afvallen met je tien onderkinnen?", maar incidenteel omdat het onoverkomelijk is...? Daar moeten we gewoon niet zo moeilijk en krampachtig over doen ten einde maar oh zo politiek correct te blijven. Daar is namelijk niemand bij gebaat. Soms, ook om iemand juist te kunnen helpen, moet je rauw zeggen waar het op staat; zonder omwegen en zonder zo'n berg suiker om het veel minder erg te laten klinken dan het is.

[Reactie gewijzigd door WhatsappHack op 14 april 2017 15:02]

Tussen politiek correct en nodeloos kwetsend zit objectiviteit, of logische correctheid, daar moet men naar streven.

Verkopers hebben er baat bij om dingen beter voor te doen dan ze zijn, dat is voor het bedrijf wenselijk maar voor de maatschappij helemaal niet. Als verkopers objectief waren zouden kopers beter uit zijn.

Binnen de wetenschap is het not-done om politiek correct te zijn. Dan houd je voorruitgang tegen terwijl dat het enige doel is. Tegelijk met nodeloos kwetsen moet politieke correctheid daar meteen de mond gesnoerd worden.

Binnen vriendegroepen bepaal je zelf de maat, tegen vreemde mensen is het wijs om politiek correcter te zijn om goede wil te tonen.

<quote>De tegenpool van "politiek correct" is "nodeloos kwetsend".</quote>
Mooi statement, die ga ik onthouden. Ik zocht al langer een korte manier om 'anti-politiek-correct' te kunnen ontkrachten zonder een lang betoog.

Overigens is 'politiek correct' zelf eigenlijk ook een 'politieke' term die van alles kan betekenen afhankelijk van je politieke kleur
En in de meest letterlijke betekenis niet klopt, aangezien je in beschaafde politieke taal ook nog steeds zeer kwetsend kan zijn zoals elke TVserie van Yes Minister en soaps tot Game of Thrones laten zien...

Dan zul je nog wat langer moeten zoeken. Want als je denkt dat die "statement" 'anti-politiek-correct' ontkracht dan heb je het aan het verkeerde eind.

Hoe heet de 'reïncarnatie' van Tay en kunnen ze haar ook net zo beïnvloeden? Dat was juist leuk, grappig en leerzaam aan de AI. Het was gewoon een 'bewijsstuk' dat mensen inderdaad steeds dommer werden, doordat ze steeds contact hebben met minder intelligente mensen. Mensen proberen zo dom mogelijk te gedragen, omdat de ander dat leuk vindt met als gevolg dat mensen elkaar proberen 'af te troeven' op domheid...

Idiocracy was wat mij betreft een documentaire en Tay bevestigde dat gewoon...

En kun je een voor de samenleving immorele ai-bot met overtuiging tot een bot maken die wel binnen het door de samenleving aanvaardbare kader oreert? Dat zou leuk zijn.

Hier een artikel over Tay: http://www.telegraph.co.u...ler-loving-sex-robot-wit/ Het leek mij een beetje in de war te zijn.

Absoluut niet.

Met real-life hebben we die discussie ook. Nurture of nature. Alleen blijken beide factoren een belangrijke rol te spelen.

Iemand die in een mindere omgeving opgroeit met ouders die verslaafd zijn, daar zal de kans groter zijn dat die ook verslaafd zijn. Iemand met 'slimme' ouders, daarvan zal het kind ook gemiddeld slimmer zijn.

Hetzelfde zie je hier ook gebeuren. De input vanuit de omgeving is waardeloos en er is geen correctie. De slechte input wordt als norm gezien en aangehouden.

vervang "slimme" door "opgeleide". en dan ga ik 100% akkoord.

(iq/slimheid/inteligentie wordt wel genetisch bepaald maar scoort niet zo hoog op over-erfbaarheid:
https://en.wikipedia.org/wiki/Heritability_of_IQ)

slim, wat is slim?

wat een domme vraag, en reageren met een kat naar tuinders en supermarkten op een AI topic is ook niet zo snugger. Woordenschat heeft iig vrij weinig met slim of intelligent te maken, dat valt toe te bedelen aan eloquentie. Eloquente mensen kunnen compleet achterlijk zijn, dus niet slim zijn

Wow

Eigenlijk wel mooi om te zien. Het ook precies het zelfde wat er met kinderen gebeurt. die kun je echt helemaal 'kneden' zoals jij of een of andere evil dictator overlord datwil

Toch verassend, statistiek (onderscheid maken op basis kenmerken) is discriminerend (verschillend resultaat per kenmerk).

Jammer dat ze Tay als voorbeeld nemen. Ja, ze was iets geradicaliseerd, maar op een manier die vergelijkbaar is met een kind opvoeden in de KKK. De informatietoevoer was beperkt geraakt doordat trolls veel racisme invoerden.

AI systemen doen niets autonoom en uit zichzelf, maar worden geprogrammeerd door mensen, alle vooroordelen zijn daardoor voorgeprogrammeerd.

Alles wat mensen doen is óók voorgeprogrammeerd (door je omgeving). Gedrag is ook maar een optelsom van mogelijke uitkomsten en waar je de meeste waarde aan hebt leren (!) hechten.

Nee, juist niet. AI systemen zijn juist gebouwd om zelf voorkeuren, strategieën, onderscheiden, enzovoort te ontwikkelen. Of dat nou over taal gaat, of een potje Go of een auto besturen.

Ik lees dat zo vaak, "computers doen alleen wat de programmeur ze opdraagt", dat is echt een héle domme beperkte voorstelling van zaken. Programmeurs dragen computers op zichzelf te ontwikkelen en hun eigen gedrag te verbeteren en optimaliseren.

De zetten die Google's Alpha Go deed, zijn door geen enkele menselijke programmeur bedacht of door een menselijke Go-speler voorgeprogrammeerd. De beslissingen of manouvres op de weg die een Tesla Autopilot maakt, zijn door geen enkele programmeur ingevoerd of door een coureur van te voren uitgedacht.

Ik zal niet de kwalificaties bezigen, die jij gebruikt. De programmeur bepaalt hoe patronen herkend worden, het is onmogelijk om AI systemen waardenvrij te programmeren.

Hoe bedoel je, waardenvrij? Je kunt een AI ook zo opbouwen dat het zelf een relatieve waardering aan verschillende factoren of uitkomsten koppelt. Dan kun je zeggen, hoe die AI dat evalueert is dan nog wel geprogrammeerd. Maar die meta-waarden kun je hem ook zelf adaptief laten ontwikkelen, enzovoort. Je kunt zover gaan als je wilt.

En nee, de programmeur bepaalt zeker niet hoe patronen herkend worden.

Het zou net zoiets zijn als zeggen als dat een schaakcomputer niet waardenvrij kan worden geprogrammeerd. De programmeur bepaalt welke zetten er gedaan worden, of de programmeur bepaalt of de AI een paard of een loper als waardevoller evalueert. Dat idee. Maar dat is dus niet zo.

Als programmeur van een schaak-AI hoef je zelf niet eens te kunnen schaken, en geen enkel inzicht in schaakstrategieën of ervaring met de stukken te hebben. Je hoeft slechts de spelregels in te voeren en de enige waarde die je meegeeft is het te gewenste resultaat: de ander schaakmat zetten.

Zo'n AI kan zichzelf dan compleet ontwikkelen, inclusief het leren van eigen voorkeuren (waarden) voor bepaalde stukken, stellingen, strategieën, openingen, enzovoort. Je programmeert geen enkel vooroordeel voor.

Schaken is een mooi voorbeeld omdat dat een abstracte, afgezonderde situatie is en "slechts" een spelletje. Maar in meer complexe alledaagse praktijktoepassingen van A.I. geldt dit principe net zo goed.

Ik ben wel benieuwd of dit erg cultuur/historisch/context afhankelijk is. Ik ben benieuwd als je dit door Indiers laat doen of er vooroordelen voor Pakistani te voorschijn komen etc etc etc (ik bedoel niets ten nadelen van Indiers, slechts een voorbeeld). Wat voor stereotypen komen er in Europa uit?

[Reactie gewijzigd door tw_gotcha op 14 april 2017 18:36]