Dat is nogal een filosofische vraag. Wat maakt het uit of een emotie 'echt' is, dus voortkomend uit een menselijk wezen of een robot/AI, als we het niet van elkaar kunnen onderscheiden?
Wel, neurologisch zal er geen onderscheid zijn. Allerlei wetenschappelijke tests laten zien dat je als mens reageert op bepaalde situaties, ongeacht of de situatie kunstmatig is of echt.
De vraag is eigenlijk: doet jij het of doet het jou? Doe jij je ademhaling? Als jij je arm omhoog wilt doen, hoe doe je dat dan? Probeer dat nu maar eens uit. Doe je arm omhoog. Deed je het? Wat maakte dat je dat deed?
Als je zweet, doe jij dat dan? Je hart slaat, Sla jij je hart? Welke bewuste actie onderneem jij daarin? En als een bacterie in je bloed ontmantelt wordt door je immuunsysteem, gaat dat automatisch?
Heb je dat geleerd? Nee. En toch doe je het. Of doet het jou? Wie is hier de baas? Welke controle heb je? En wil je die? En toch neem jij niet exponentieel toe. Je hebt een lichaam, het gevolg van miljoenen jaren menselijke evolutie. En toch heb je geen controle over je eigen lichaam behalve waar het moet gaan en of je je stoelgang nog even uitstelt...
Als je een AI programmeert, waarom zou het dan een exponentiële leercurve ondergaan? Zou het niet slimmer zijn om bepaalde basisprincipes aan te leren waarmee het dan nieuwe situaties aan kan? Is dat niet hoe een mens werkt? We hoeven niet oneindig veel te weten, we moeten weten wat te doen in bepaalde situaties en kunnen dan extrapoleren welke actie het beste past in de huidige situatie.
En ik vind dat menselijk, natuurlijk en voldoende in de acceptatie van de menselijke faalbaarheid.
Maar op het moment dat een machine van invloed is op mij als mens vanuit het idee dat die menselijke faalbaarheid onacceptabel is, dan hebben we een probleem. Want dat is waar het over gaat hier in de kern der dingen.
We willen auto-auto's omdat we als mens niet goed genoeg zijn (en fabrikanten kunnen weer winst maken met de verkoop van dat soort machines). Wel, als een auto-auto toch slachtoffers maakt dan zijn we niet opgeschoten en waren we niet technorealistisch. Laten we dan de menselijke factor behouden en niet bang zijn voor onszelf en ons falen.
Het is anders een domme wisseltruc. We willen geen slachtoffers in het verkeer en die zullen er dus niet zijn als we de machine alten rijden. Want dan is geen mens verantwoordelijk en als er niemand verantwoordelijk is, zijn er niet echt slachtoffers van menselijk falen! Niemand rijdt immers?! Het is software glitch en machine failure. En dus faalt geen mens en is er dus geen echt verkeersslachtoffer.
Ja, het is ingewikkeld. Maar dit is wat er achter zit. De mens wil niet falen en lijden onder de andere mens. Liever gaan we dood door de machine, want dat verschoont onszelf van verantwoordelijk en moreel handelen.
Daarom ook moet de robot er zo nodig komen. Want de robot is een betere mens!

Hij produceert meer, is goedkoper, doet altijd wat gedaan moet worden, protesteert niet, hoeft geen secundaire arbeidsvoorwaarden zoals een kerstpakket of werkkleding door de baas betaald.
We zijn als mens dus zo ziek van onszelf dat we liever onszelf uitrangeren. Zorgrobots, auto-auto's, alles wordt gedaan voor ons, door nep-mensen die beter werken. De zorgrobot moet zo menselijk worden dat er geen verschil is tussen 'echt' en nep. En wat je dan dus zegt is, er is geen bestaanslegitimatie voor de natuurlijke mens. De robot kan alles beter, zelfs inspelen op emoties.
Als het bestaan voor de mens op Aarde zinloos is en robots beter presteren dan de mens zelf, dan zijn we voor onszelf nutteloos en verloren en kunnen we beter raciale zelfmoord plegen. Dan laten we Aarde aan robots, die beter presteren, uitgerust zijn met neurale zelflerende code en geen moraal kennen. Maar dat is niet nodig want ze maken geen fouten, zoals klimaat verandering, of moord. Want een logische beslissingsboom zal zoiets niet doen, omdat het schadelijk is voor Aarde en de robots.
Dit is het gevolg van moderne wetenschap. Het isoleren en reduceren van de mens van de natuur tot het extreme. Tot voorbij het punt dat we niet meer weten hoe te zijn in de wereld.