Omdat we van een mens verwachten dat ie zich moreel gedraagt.
Ik heb dat punt vaak gemaakt en wordt doorgaans weggemod. Maar ik blijf er bij dat ik liever door een mens wordt dood gereden dan door een auto-auto. Ik vind het onmogelijk te verkroppen dat er in die auto die mij plat rijdt een mens zit die zich overgaf aan technologie en daarop vertrouwde en gedachteloos, zielloos en zonder enige interesse en verantwoordelijkheid(sgevoel) deelneemt aan mijn dood.
Een mens kan een schuldgevoel hebben, een Tesla niet. Een mens kan spijt hebben en zijn leven beteren. Een Tesla niet. Een ander mens kan de wereld verbeteren en zo mijn dood zin geven. Een Tesla niet.
Neem de vader die nu actief is om kinderen te behoeden niet met de GSM te spelen als ze fietsen, die zijn kind verloor omdat die niet oplette. De GSM van zijn zoon, wat draagt die bij aan een betere wereld? Het is die vader die zich inzet, de mens. Wat kan die vader doen met die GSM? Gebruiken? Dat laat een bittere smaak achter. Verkopen? Dat ding dat je zoon hielp doden? Hij kan er met een hamer op slaan en volledig tot kruimels slaan en die resten verbranden tos slakken en dan in een zuurbad gooien zodat het oplost. En die GSM voelt daar niets bij. Die GSM is waardeloos voor zichzelf en voor de wereld.
Elke mens kent verantwoordelijkheidsgevoel dat hem afremt op gekke dingen te doen. Het feit dat er maar zo weinig slachtoffers vallen in het verkeer is een wonder, gezien de hardheid van de materialen van de auto, de zachtheid van de menselijke huid en ingewanden, de snelheden die we toestaan. En dat is omdat de meeste mensen anderen in acht nemen. Een Tesla niet.
De menselijke waarden rijden mee in het verkeer. Bij een weg vol Tesla's niet.
De AI kan geen morele beslissingen maken, allen reageren op hoe die geprogrammeerd is. Dit is precies het punt waarom Will Smith in "I, Robot' zo'n wantrouwen heeft richting robots. De robot had het kind moeten redden uit de zinkende auto maar koos voor hem.
Maar iedereen die deze film ziet associeert zich met deze hoofdpersoon. Ik vrees een wereld waarin we allemaal rondgereden worden, alsof we in een achtbaan stappen, waarin we in een voertuig zitten dat (en niet die*) een fout maakt en een hobbel veroorzaakt in de vorm van een kind dat geplet wordt onder de wielen, waar we dan uitstappen en de verantwoordelijkheid en empathie niet voelen richting de huilende ouders omdat 'de auto het deed, niet ik, want ik reed immers niet, ga maar klagen bij Tesla...'
* die, dit, dat, deze. Mensen zijn 'die', dingen zijn 'dat'. Een AI is 'dat'.
En wat ik nu al zie is hoe mensen de AI antropomorfiseren, menselijke eigenschappen toebedelen en menen dat de AI het allemaal beter kan. Als menselijke empathie en verantwoordelijkheid teloor gaan omdat machines die overnemen, machines die niets voelen en dus geen verantwoordelijkehid zouden moeten mogen dragen, dan ontstaat er een schaal van verloedering, een desinteresse richting elkaar en als we die verantwoordelijkheid leggen bij corporaties, die per definitie amoreel zijn, wat voor samenleving heb je dan?
Een mens die geen verantwoordelijkheid wil voor de levens van een ander, zoals in het verkeer, die is controleerbaar, manipuleerbaar en een willig slachtoffer voor elke willekeur die een corporatie over hem uitstort. Zo'n mens voelt niets voor het leed van een ander, omdat niemand schuldig is en beoordeelbaar is. Menselijk leed en sterfte wordt een zaak van statistiek en gelaten acceptatie, een zaak van vertrouwen en hopen dat de achtbaan vandaag jou niet naait.
Sorry, het is triest dat dit uitgelegd moet worden.