Ahem. In theorie kan zelfs een neutrino nog een bit omgooien, waardoor de boel nog de mist in gaat terwijl *alles* 100% correct werkt.
Goede post, en goede opmerkingen. Ik wil hier nog aan toevoegen dat er kwa falen nog een verschil is tussen electronische (met name computer zoals wij die nu bouwen) en biologische systemen.
Electronische systemen werken over het algemeen perfect of helemaal niet bij hardware falen. Het bekende voorbeeld van de enkele omgegooide bit is treffend. 1 enkele verkeerde instructie in je stream van miljarden kan je hele systeem plat leggen. Dit kan inderdaad een neutrino of kosmisch deeltje uit het heelal zijn.
Biologische systemen daarentegen falen in grudaties. Een enkele kapotte hersencel zal niet tot functie verlies lijden. Een heleboel kapotte wel, maar dan nog neemt het functioneren geleidelijker af.
Dit komt met name omdat -in hele grote lijnen- hersennen van biologische wezens extreem massive parallel zijn, waarbij functioneren heel algemeen gezegd bepaald wordt door "meerderheid" en "gemiddelden". De echte AI'er / neuroloog zal het met deze ultra simpele omschrijving wel niet helemaal eens zijn, maar heel makkelijk gezien kun je het concept wel zo ongeveer benaderen.
Mischien dat in de toekomst nog eens systemen ontworpen gaan worden die de beste eigenschappen van de huidige electronica en biologie combineerd.
Als iets electronisch' crasht wordt er wel eens voor de grap geroepen dat het 'aardstralen' zijn. Maar dat is dichter bij de waarheid dan je denkt.
Er zijn natuurlijk fail-safe systemen te bedenken, maar absolute veiligheid is een asymptoot: je kunt er steeds dichter en dichter bij komen, maar het nooit helemaal bereiken.