Hoofd Autopilot Tesla: claims Musk over voortgang autopilot zijn onrealistisch

Het hoofd van Autopilot Software bij Tesla, CJ Moore, heeft tegen de Californische Dienst Wegverkeer gesteld dat Elon Musks bewering dat Tesla voor het einde van het jaar L5-autonoom rijden zal bereiken, 'niet overeenkomt met de werkelijkheid van de techniek'.

De juridische non-profit PlainSite vroeg de notulen van het gesprek, dat plaatsvond op 9 maart, tussen de Californische Department of Motor Vehicles en Tesla op door middel van een wob-verzoek. De zin "Elons tweet komt niet overeen met de werkelijkheid van de techniek" is weggelakt, maar kan met een copy-paste in een ander document gewoon gelezen worden.

De uitspraak is een antwoord op, volgens het verslag, de vraag om 'vanuit een ingenieursperspectief te reageren op berichten van Elon over L5-mogelijkheid tegen het einde van het jaar'. Op welke uitspraken van Musk exact gedoeld wordt, is dus niet helemaal duidelijk. Volgens The Register gaat het om een Twittergesprek tussen @comma_ai en Musk rond de afgelopen jaarwisseling. Daarin zei Musk "Tesla Full Self-Driving zal dit jaar op een veiligheidsniveau werken dat ver boven dat van de gemiddelde bestuurder ligt, daar heb ik alle vertrouwen in".

Moore vertelt verder dat Tesla's momenteel op L2-autonomie zitten. Om naar hogere niveaus te komen, zouden de wagens 1 tot 2 miljoen mijlen per chauffeur moeten kunnen afleggen voor iedere ingreep die de chauffeur moet doen. Hoeveel afstand per ingreep nu afgelegd wordt, noemt Tesla niet in het gesprek. Musk zou de huidige stijgende lijn in de ontwikkeling van de automatische piloot hebben geëxtrapoleerd om bij zijn standpunt te kunnen komen.

Een belangrijk punt lijkt wel te zijn dat Elon Musk niet specifiek spreekt over L5-autonomie, maar over 'een veiligheidsniveau in vergelijking tot de gemiddelde bestuurder'. De tweet van comma waar Musk op reageert, spreekt wel van L5 self driving. Op de uitnodiging van comma om er een weddenschap van te maken reageerde de Tesla-voorman niet.

Level 5-autonomie in zelfrijdende auto's is het hoogste niveau. Daarin hoeft de menselijke bestuurder niet te dienen als een eventueel terugvalpunt voor besturing van de wagen. De wagen moet zichzelf overal heen kunnen brengen onder alle omstandigheden, binnen redelijke kaders.

Reacties (306)

Verstandige keuze. Eerste jaren ben je nu eenmaal nog het neural net aan het trainen. L5 capable met 99.999% success rate betekend nog wel dat je 1x in de zoveel ritten moet ingrijpen.
Je wilt niet dat mensen hun aandacht verslappen en in die 0.001% zit.

Alleen de vraag, als het veiliger is dan een menselijke bestuurder. Vanaf wanneer gaan we l2/l5 op elke auto willen installeren.

vanaf de safety-rate hoger is dan die van gewone bestuurders en dat is waarschijnlijk een pak lager als ik zie hoeveel overtredingen en/of onveilige situaties die creëren. Je moet maar eens als passagier met een doordeweekse chauffeur meerijden er op letten hoe vaak dingen als stopborden, voetgangers aan oversteekplaatsen, voorrangsregels, richtingaanwijzers en snelheidslimieten genegeerd worden, maar er wel aandacht aan de telefoon, radio en andere inzittenden wordt geschonken.

“Zo goed als een mens” is simpelweg niet genoeg. De burger accepteert de fouten van een mede-mens met mogelijk de dood als gevolg. Maar zeker niet van een computer.

“Een fout is menselijk” is een mooi spreekwoord, waarmee al veel wordt gezegd. Een computer kan geen spijt, berouw, angst of onzekerheid tonen. En daarmee is de acceptatie voor fouten vrijwel nihil.

Klopt jammer genoeg compleet. Jaren geleden met een studie medische natuurwetenschappen begonnen en een anecdote van het VUmc daar was dat ze een systeem hadden opgezet dat iets (niet veel) beter dan doktoren bepaalde zaken kon diagnosticeren. Dat systeem maakte echter nog steeds - net zoals de doktoren - veel fouten, en veel (allegedly oudere meer ervaren) artsen reageerde met 'als het dit niet weet te herkennen, wat is het nut dan?'. Het idee dat het statistisch iets beter was dan de mens was blijkbaar niet genoeg. Heb toen niet gevraagd waarom ze het niet zijn blijven gebruiken als 'dubbele' check samen met de mens, maar het idee dat "Zo goed als een mens" simpelweg niet genoeg is voor veel mensen klopt zeker.

En trouwens, buiten het sociale aspect is er ook het legale aspect. Bij software zul je straks 3 of 4 grote bedrijven hebben die 'verantwoordelijk' zullen zijn voor alle verkeersongelukken. Vorig jaar waren er 610 verkeersdoden en we accepteren dat, en laten we zeggen dat er evenveel verschillende mensen voor verantwoordelijk zijn die 'niemand' van ons kent. Zelfs als software straks dat getal weet te verminderen naar 400 verkeersdoden per jaar zal het nog steeds veel legale en sociale spanning opleveren dat die 400 verkeersdoden plotseling een heel duidelijk 'verantwoordelijk' gezicht hebben. Wat mij betreft zou een bedrijf for-the-time-being niet verantwoordelijk moeten zijn zolang het aantal doden minder is dan het pre-autonomous gemiddelde, maar dat gaat zuur landen in sommige groepen.

Wat mij betreft zou een bedrijf for-the-time-being niet verantwoordelijk moeten zijn zolang ...

Waarom voor de time being? Nu is een autofabrikant toch ook niet aansprakelijk, maar de bestuurder? De bestuurder verzekert zich en is er een ongeluk, dan wordt de schade vergoed door de bestuurder. Dit is vaak een risicoaansprakelijkheid, niet zozeer een schuldaansprakelijkheid (bijvoorbeeld 185 WVW, maar ook bijv. geen voorrang verleend is meestal aansprakelijk, ook al heb je er een goede verklaring voor). Elke bestuurder verzekert zich verplicht voor deze aansprakelijkheid. Waarom afwijken van dit systeem. Het werkt goed. Voor slachtoffers is het duidelijk wie ze aansprakelijk moeten stellen, en ze krijgen snel hun schade vergoed.

Als je nu bijvoorbeeld door de rem trapt omdat die ondeugdelijk is, dan zul je, middels de verkoper, uiteindelijk de fabrikant wel aansprakelijk kunnen stellen. Dat duurt alleen lang en is, voor enkele casus, erg omslachtig en lastig te bewijzen. In de toekomst is software een belangrijk onderdeel van de auto. Ik zie niet waarom we dat anders moeten behandelen dan een rem. Stel regels waaraan de software moet voldoen en leg verder de aansprakelijkheid bij de bestuurder van het motorvoertuig. Zelfs als dat een bestuurder in juridische zin, eerder dan in praktische zin is.

[Reactie gewijzigd door bassekeNL op 9 mei 2021 09:46]

Nu is een autofabrikant toch ook niet aansprakelijk, maar de bestuurder

En straks is de autofabrikant de bestuurder. En zover ik weet is het de bestuurder en niet de eigenaar die verantwoordelijk is momenteel. Zie dus niet veel waarom dat zou veranderen. Plus, je wilt niet dat de eigenaar van de auto de fabrikant moet aanklagen, liever gewoon de aansprakelijkheid direct bij de ontwikkelaar van de artificiële bestuurder leggen. Aan de andere kant wil je 'belonen' als er overall minder verkeersdoden zullen zijn, dus ik kan me tijdelijk (het 'voor de time being'-gedeelte) voorstellen dat er een buffer is waar een gedeelte van die verantwoording niet bij de fabrikant zou liggen. Uiteindelijk is het gewoon een 'spel' van wie betaald voor de schade van ongelukken en hoe de markt te motiveren om veiliger te worden en te voorkomen dat veiligere autos minder gekocht zullen worden.

Er is altijd iemand die de auto opdrachten geeft. En dat wordt doorgegeven aan de wielen en je komt op je bestemming aan. Straks voer je het in op je dashboard. Vroeger ging dat door middel van draaien aan een stuur, en trappen op een pedaal, en middels een mechanische verbinding werd dat overgebracht.

Nu zitten we in een overgangssituatie: steeds meer functies zijn electronisch, en worden met software beinvloed. Auto's remmen al zelf, adaptive powersteer en cruise control. Wanneer wordt de autofabrikant dan precies aansprakelijk? Ik vind dat moeilijk.

En daar komt het 'spel' zoals je het noemt om de hoek. Het is een methode om te zorgen dat degene die schade lijdt die schade vergoed krijgt. Het is belangrijk dat het voor die slachtoffers een goed systeem blijft. Want autofabrikant aansprakelijk klinkt simpel, maar is het juridisch niet, want wie is de fabrikant? Als een omvergereden voetganger in tractie ligt, moet die niet eerst moeten gaan uitzoeken welke juridische entiteit de exploitant (of maker, of installateur? Wie is eigenlijk aansprakelijk) van de software was die de auto controleerde. En dat is nog afgezien van allerlei bewijsperikelen.

Hoe je systeem ook inricht, uiteindelijk is degene "van wie de auto is", ook degene die betaalt, of dat nu middels verzekeringspremies is, of dat het verdisconteerd wordt in de aanschafprijs. En die bestuurder heeft overeenkomst met een dealer, en middels een keten van overeenkomsten, een verbinding met de fabrikant. Als de software van je rempedaal het niet doet ben je als bestuurder aansprakelijk voor schade. En dat vind ik als slachtoffer een fijn idee. Het interesseert me niet op wie je die schade wilt of kunt verhalen en waarom.

Kanttekening: Eigenaar van de auto zal straks typisch gezien een bedrijf zijn, want 'robotaxis' zullen waarschijnlijk een stuk goedkoper zijn dan prive autobezit. Dus in jouw geval zou je dan nog steeds de persoon in de auto aansprakelijk stellen?

En wat betreft driver-assist features tegenover autonome autos, voor mij is er een duidelijke lijn tussen de twee. Zolang je wilt dat er een persoon met een rijbewijs achter het letterlijke stuur zit is het gewoon de verantwoordelijkheid van de bestuurder (en misschien zouden we de driver assist features van Tesla moeten verbieden, want er is meer en meer aanwijzingen voor dat Waymo gelijk had en dat het enkel voor meer in plaats van minder ongelukken zorgt).

Totaal met je eens dat het voor slachtoffers simpel moet zijn, maar als je van ontelbaar veel spelers gaat naar 3 of 4 zelfrijdende software systemen dan maakt dat het mijn inziens enkel makkelijker. En ook totaal met je eens dat direct of indirect de inzittende in autos moeten betalen voor de schade die door autos werdt veroorzaakt. Een simpel systeem dat minder ongelukken motiveerd zal de kunst zijn te ontwerpen.

(en misschien zouden we de driver assist features van Tesla moeten verbieden, want er is meer en meer aanwijzingen voor dat Waymo gelijk had en dat het enkel voor meer in plaats van minder ongelukken zorgt).

Waar haal je deze stelling vandaan? Cijfers van Tesla, inclusief hun verzekeringstarieven tonen toch het tegendeel.

Driver-assist features en safety features staan los van elkaar. Buiten een lange essay die verschillende publieke cijfers met elkaar vergelijkt is er een redelijk simpel argument: Tesla heeft enkel cijfers uitgebracht die Autopilot (=primair op snelwegen) vergeleek met accident rates overal om te 'bewijzen' dat autopilot veiliger was. Als Tesla cijfers kon publiceren met een positieve directe vergelijking van accident rates zouden ze dat direct doen, want het zou hun extreem helpen gezien de steeds negatieve perceptie van Autopilot zowel door experts als het publiek.

Wat ik dus probeer te zeggen is: Tesla safety features zijn geweldig. Tesla driver assist features zijn gevaarlijk (software is niet goed genoeg om veilig te zijn, maar te goed om gebruiker aandacht er constant bij te houden (exact hetzelfde probleem wat Waymo 7 jaar geleden had)). Netto kan - en is het waarschijnlijk - het effect desalniettemin positief.

Ik heb nog geen experts negatief horen praten over Autopilot, in de zin dat het gevaarlijk zou zijn, of meer ongevallen zou veroorzaken. Integendeel: alle experts zijn het eens dat Tesla mijlenver voor staat op de concurrentie.
Tesla kon tot noch toe geen overall cijfers geven, gezien Autopilot niet 100% van de tijd aan staat. En Tesla is de enige die zo'n specifieke data heeft. Niemand kan het aantal ongevallen per gereden snelwegkm berekenen, want die data ontbreekt gewoon.
Duidelijk te zien dat de cijfers 'slechter' werden toen city streets actief werden. Ondertussen zie je daar ook veel verbetering.

Trouwens niet vergeten dat bij Tesla veiligheid de nummer 1 prioriteit is. Het is niet zomaar dat al hun modellen als veiligste wagens in hun categorie uit de testen komen.

[Reactie gewijzigd door robindemey op 10 mei 2021 19:36]

Integendeel: alle experts zijn het eens dat Tesla mijlenver voor staat op de concurrentie.

Het is lastig om goede objectieve experts te quoten, dus laten we het op twee manieren doen:
1) Navigant Consulting maakt voor verschillende industrieen een analyse van alle grote spelers. Dit doen ze ook van autonome autos: https://www.cnet.com/a/im...vigant-av-leaderboard.jpg Hierin staat Tesla letterlijk op de slechtste positie van iedereen.
2) De meeste experts werken voor teams die autonome autos maken, en consistent hebben deze experts voor een andere stack aan technieken gekozen dan Tesla. Als er ook maar iemand was die dacht dat Tesla voorliep dan zouden ze de stack van Tesla kopieren, maar in plaats daarvan zie je juist dat zaken zoals LIDAR juist goedkoper en preciezer worden en iedereen daarop double downed.

En big picture: Waymo heeft op dit moment taxis zonder chauffeur rondrijden op publieke wegen binnen een geofence (=level 4). Tesla is op level 2. Tesla heeft niet eens een eigen netwerk van autos (zoals de meeste concurrentie heeft) die op een hoger autonoom niveau rijden.

En wat betreft cijfers: Tesla kon altijd heel makkelijk cijfers vergelijken van autopilot gebruikers en niet-autopilot gebruikers op exact dezelfde stukken weg. En die vergelijking hebben ze ook 100% zeker gemaakt... en die vergelijking hebben ze besloten niet te publiceren. En het gaat niet om de tijd dat Autopilot aan staat, het gaat net zo goed om de tijd net nadat Autopilot is uit gegaan. Tesla verdedigt zich publiek altijd met 'Oh, maar Autopilot stopte x seconden voor dit ongeluk, dus het is niet onze schuld', maar als gebruikers niet snel van 'lui beetje opletten' tot 'ongeluk voorkomen' weten te switchen (zoals bijv. dus onderzoek van Waymo uitwees dat mensen dat niet kunnen) dan is dat net zo goed een directe consequentie van Tesla Autopilot.

[Reactie gewijzigd door David Mulder op 10 mei 2021 19:47]

Dit is een goede insteek:

• de eigenaar van de auto is verantwoordelijk voor verkeersovertredingen, aanrijdingen, enz.
• de eigenaar heeft voor al deze zaken een verzekering afgesloten
• de kwaliteit van de software bepaalt uiteindelijk de hoogte van de verzekeringspremie

De verzekeringsmaatschappijen maken kansberekeningen per automerk/software combinatie en geven lijsten met verzekeringspremie (ongevallenstatistieken) per merk/software versie. Op basis daarvan kun je zelf je auto kiezen. Bijvoorbeeld: sterkere motor/meer snelheid maar ook meer ongevallen -> hogere premie of duurdere auto met minder ongevallen -> lagere premie, enz.

Aangezien de bereider geen invloed op de kans op ongevallen heeft kan o.a. de leeftijdscorrectie voor de premie vervallen (het rijbewijs wordt overbodig)

Nabrander: Uiteindelijk kun je ook kiezen om zelf te rijden en kijken wat de premie in dat geval is.

[Reactie gewijzigd door janbaarda op 9 mei 2021 12:04]

Bij een volledig zelfrijdende auto is er geen (menselijke) bestuurder. Dat kleine detail schijn je te missen.

Art 1 sub n WVW: bestuurder van een motorrijtuig: degene die het motorrijtuig bestuurt of degene die, overeenkomstig de bij algemene maatregel van bestuur gestelde voorwaarde, wordt geacht het motorrijtuig onder zijn onmiddellijk toezicht te doen besturen;

edit: verkeerde sub aangehaald, m ipv n

[Reactie gewijzigd door bassekeNL op 11 mei 2021 08:37]

En momenteel zijn er dan ook geen zelfrijdende autos, dus hoe is de wet over autos met bestuurders relevant?

Ik reageerde op @Marcel Br met de juridische definitie van bestuurder. Lijkt me relevant in een juridische discussie, gezien zijn opmerking.

Een juridische definitie van een bestuurder van een NIET zelfrijdende auto terwijl hij reageert dat een zelfrijdend eauto geen bestuurder heeft 😉

Wat mij betreft zou een bedrijf for-the-time-being niet verantwoordelijk moeten zijn zolang het aantal doden minder is dan het pre-autonomous gemiddelde

Ik ben het hier niet compleet met je eens. Ik vind dat het bedrijven aan bepaalde eisen moeten voldoen voordat zoiets zou kunnen. Dingen waar ik aan denk is bijvoorbeeld de werkdruk van de medewerkers. De bedrijven mogen geen eisen stellen aan release dates. Dus niet dat een stukje software snel in elkaar gezet wordt om binnen de een bepaalde datum te kunnen uitgeven of dat als ze binnen dit termijn het redden dat de programmeurs 1 of andere grote beloning ontvangen. Elke ongeluk moet goed worden geanalyseerd en publiekelijk hierover vermelden wat hun oplossing is om dit nog eens te voorkomen (mits mogelijk). En zo zullen er wel meer dingen te bedenken zijn.

Ik ben het volledig oneens met wat @kaasboer09 stelt. Menselijke fouten zijn niet geprogrammeerd. Als een bedrijf een technische oplossing ontwikkelt, gaat het - als het goed is - om een grondig doordenken van het probleem. Als daarbij fouten worden gemaakt, is het bedrijf natuurlijk verantwoordelijk. Wat dat betreft begrijp ik wat @David Mulder zegt, maar ik zou graag nog wat verder gaan.
Snelheid bij het ontwikkelen van een IT-oplossing is een veel groter risico dan vertrouwen op het zelflerend vermogen van de mens.
Ik ben van mening dat er duidelijke waarborgen ontwikkeld moeten worden die het risico op fouten in software reduceren tot een fractie van het 'menselijk rendement' of, met andere woorden in dit geval, de mogelijkheid van reduceren van het aantal verkeersdoden.

Uiteraard zal het goed ontwikkeld moeten zijn. Maar uiteindelijk hoe goed een auto ook geprogrammeerd is er zullen zeker nog wel situaties zijn die onmogelijk voor te programmeren zijn. Ook hoeft er niet altijd doden te vallen natuurlijk
Denk bijvoorbeeld aan dat je in een bos rijd en ineens springt er een dier op de weg. Grote kans dat de auto dit niet ziet. Uiteraard is die er ook voor de mens ook een grote kans dat die het niet op tijd ziet. En ik weet ook niet hoe goed de auto's er nu of in de toekomst er rekening mee kunnen houden. Maar op dit moment verwacht ik dat de mens meer kans dat die iets ziet tussen de bomen en erop reageer. Maar is de fabrikant dan verantwoordelijk om de schade te betalen aangezien de product gefaald heeft gefaald en toch in een ongeluk is gekomen?

Dat is een leuk voorbeeld dat je aanhaalt.
Zelf denk ik dat mensen meer onvoorspelbaar zullen reageren op zo een voorval dan een automatische piloot welke voor zulke situaties "er verschijnt vanuit het niets iets voor de auto en komt in botsing met de auto" een routine geprogrammeerd kan hebben.
De automatische piloot kan in zulke gevallen namelijk een routine geprogrammeerd hebben die uitwijkt naar vluchtstrook en auto tot stilstand brengt.. maar pas wanneer/als er geen andere voertuigen in deze route bevinden!

Een menselijke bestuurder heeft de 'reflex' om óf vol op de rem te trappen óf vol het stuur om te gooien en uit te wijken.. ook wanneer er een andere bestuurder toevallig recht naast/tegenover ze rijd waarmee zij vervolgens in botsing zouden kunnen komen wat dus tot meer schade/letsel leid.

Ik zou dus zo'n automatische piloot (mits geprogrammeerd om veilig en verantwoord om te kunnen gaan met zulk soort onvoorziene situaties) veel meer vertrouwen dan mijn eigen 'fight or flight' reflex reactie welke ik, ook al zou ik dat wel willen, NIET kan trainen om 'de meest veilige en verantwoorde handeling uit te kunnen voeren op zo een moment'.

Hetzelfde geld voor dingen als gladheid en uitglijden. Menselijke bestuurders kunnen zichzelf daar niet (veilig) op voorbereiden (buiten het periodiek doen van een slipcursus) maar een autopiloot kan, ook al slipt ie 10 jaar NIET uit, áls het een keertje wel gebeurt gewoon direct vertrouwen op de routines/training die het heeft over hoe het beste om te gaan met zo een situatie.
Computers 'verleren' dingen niet, mensen wel. In JUIST dit soort situaties die erg weinig voorkomen kan een autopiloot dus veel consistenter en veiliger en beter reageren dan een menselijke bestuurder (in theorie natuurlijk).

[Reactie gewijzigd door Ayporos op 9 mei 2021 11:10]

Zoals jij het uitlegt klopt het wel. Maar wat ik bedoelde is dat de mens meer kans heeft om van een afstand al beweging te zien tussen de bomen en kan herkennen dat er een potentiële gevaarlijke situatie aankomt en dus hier al op reageren. Ik verwacht niet dat een auto op een afstand van 10 meter tussen de bomen de beweging zal herkennen als een dier zoals bijvoorbeeld een hert. Of konijn die naast de weg ligt te slapen en ineens van schrik op de weg springen. Uiteraard zal een mens dit ook niet altijd optijd zien of herkennen. Maar ook al zou de auto beter reageren bij de onverwachte situatie denk ik dus dat de mens dit beter kan anticiperen wanneer we dit wel gezien hebben.

Dat is in der daad wel een goed punt. Als ik een kruispunt bijv. nader dan zie ik al ver voor ik bij het kruispunt ben of er evt. voetgangers zijn of kleine kinderen/honden die wellicht 'onverwacht' mijn pad kunnen kruisen en daar fixeer ik dan extra op tot ik ze voorbij ben.
Dat lijkt me idd een érg moeilijk iets voor een autopiloot om te kunnen herkennen.
De vraag is echter wel of dit 'eerder kunnen herkennen van potentieel gevaarlijke situaties' ook daadwerkelijk zich uit in een snellere reactie van een mens t.o.v. een autopiloot (die de gevaarlijke situatie pas later herkent wanneer het daadwerkelijk op het punt staat een botsing te veroorzaken).. en daar ben ik niet zo zeker van dat een menselijke bestuurder in zo'n geval beter uit de bus komt (tenzij ze bijvoorbeeld 'extra' snelheid minderen om zo het tijdsvenster dat ze hebben om te kunnen reageren als/wanneer er iets fout gaat te vergroten)

[Reactie gewijzigd door Ayporos op 9 mei 2021 15:08]

Ik denk het wel in sommige situaties. Zie ik een konijn langs de weg ga ik van te voren al me snelheid aanpassen en/of op de andere baan rijden zodat er meer afstand is en voor de konijn de gevaar minder erg voelt en dus mogelijk minder schrikt van de situatie. Ik weet niet of een auto slim genoeg is om op de andere weghelft te rijden in zo een situatie. Ik verwacht op dit moment niet dat de auto een dier herkent en de mogelijke gevolgen hiervan kan bedenken. Ik denk meer dat de auto dit dan meer als een voorwerp zal zien en dus geen gevaar herkent tot er ineens beweging is.

[Reactie gewijzigd door Daoka op 9 mei 2021 15:33]

Er was een video van Waymo anderhalf jaar geleden ongeveer waar ze toonde hoe ze proberen voor alle actors die de auto ziet te voorspellen wat alle mogelijke dingen zijn die hij zal doen en hoe groot de kans is voor ieder. Dus zaken zoals 'er is een grotere kans dat een kind de weg op rent als een volwassenen, maar een volwassene die is gekleed als road maintenance is de kans wel weer groter, etc.'. Uiteindelijk zou ik verwachten dat met genoeg data die modellen redelijk goed zullen worden. En een groot voordeel van AIs zou kunnen zijn dat als er een kind op de stoep met een bal speelt dat het ze niet zal afleiden van de dronken fietser.

Ja dat is ook wat ik denk idd... een menselijke bestuurder zal snel de neiging hebben om zich 'teveel' te focussen op het 'meest voor de hand liggende' gevaar.. en dus het minder voor de hand liggende gevaar welicht over het hoofd zien.

Zelf merk ik dit ook erg als ik bijvoorbeeld achter een onvoorspelbare bestuurder rijd (iemand die onnodig remt), na de 1e keer dat zo een persoon ineens zonder goede reden op de rem trapt ben ik de rest van de tijd dat ik achter zo'n persoon rijd extra gefocussed op wat die persoon doet en daardoor mis ik dan wellicht andere relevante factoren rondom me... Vandaar dan ook dat ik écht maar ook écht een schurft hekel heb aan mensen die zonder reden remmen.

Klopt helemaal. En wat velen vergeten is volgende: als jij 10 jaar/250.000km ervaring hebt, kan uw zoon of dochter daar niet beter door rijden. Ze moeten die ervaring zelf opdoen. En zelfs uw ervaring is regiogebonden.
AV's leren elkaar op. Dus elke km ervaring gaat naar de fleet.
Met 1 miljoen wagens op de weg, gaat het leren steeds sneller. Per km leert een AV misschien trager dan een mens, maar ze doen miljarden km per jaar!

Laat een AV nu net veel beter reageren, aangezien die veel meer 'ogen' en 'aandacht' op de weg heeft, zal hij:
1. Sneller de situatie opmerken
2. Sneller reageren

Een computer analiseert en reageert nu eenmaal sneller dan ons brain.

Ik zeg niet dat een computer niet beter kan zijn in de meeste situaties. Wel verwacht ik bepaalde scenario's waar de mens beter zou kunnen zijn. Zoals mijn voorbeeld van een konijn in het gras naast de weg. Bijvoorbeeld https://www.bol.com/nl/p/...20-4bb0-921f-9faa2acc58b3
Dit is dan niet langs de weg natuurlijk. Maar heeft een computer op een meter of 2 hier genoeg aan om dit te herkennen als konijn van welke kant die het ook zou zien? Of is de konijn te veel verborgen om het te herkennen? De meeste mensen verwacht ik wel dat ze dit zullen herkennen mits ze het zien.

De eerste paar keer dat EEN Tesla dat ziet, zal die het niet herkennen. Tesla stuurt dat door naar de taggers en voila...
Eigenschappen worden gelinkt aan het 'voorwerp'. Zoals: konijn staat gekend voor zomaar uit het gras te springen, zeker in het donker...

[Reactie gewijzigd door robindemey op 10 mei 2021 22:29]

Het ging mij er meer om dat kan die het herkennen als het zo half verborgen is. Wij mensen zien dit als een kop van een konijn. Of een hert die achter een boom staat waardoor de vorm van het hert dus incompleet is.
https://c7.alamy.com/comp...ree-in-forest-2CA62F8.jpg
Zal de Tesla hier een boom en hert herkennen?

Zeker. Deze is wel heel duidelijk.
De AI wordt steeds slimmer. Dus zal steeds meer in de buurt van de mensen komen.

Wat is een fout? Als een autonome auto een dodelijke crash maakt zal dit beschouwd worden als een fout.

Dat is een probleem want zelfs al maakt de autonome auto geen fouten, dan nog is een dodelijke crash onvermijdbaar. Immers van het moment je u in het verkeer begeeft begin je niet anders te doen dan risico analyses uit te voeren waarbij het risico nooit nul is.

Mocht ik willen gaan rijden, zeer aandachtig met 0 risico, dat gaat niet. Dan moet ik ervan uitgaan dat iedereen dronken is, niemand zich aan gelijk welke regel gaat houden, overal olie op de weg ligt, achter elke geparkeerde wagen zal net als ik passeer een kind komen, uit iedere zijstraat zal een fietser zonder te kijken aan 25 per uur de baan oversteken en ga maar door.

Maar ook mijn eigen wagen zal ieder moment zijn banden laten klappen, de autostrade kan plots stoppen of plots een bocht maken van 90 graden, en ga maar door. Als ik snachts 120 rijd op een autostrade dan is wat ik zie met mijn lichten niet voldoende om een noodstop te maken, als het regent kan het zijn dat ik zelfs geen gat in het wegdek zie vlak voor mij.

Om bij het laatse voorbeeld te blijven, autonome auto rijd op autosnelweg in slechte weer condities in een gat wat net ontstaan is in het wegdek waardoor die vervolgens gaat slingeren en een dodelijke crash veroorzaakt, is dat een fout? Ik vrees dat de publieke opinie ja gaat zeggen.

Ai zorgt er net voor dat 90-95% van de 'code' niet van de programmeurs komt.

Met je eens maar vlak ook de claimcultuur in de USA niet uit. Als de Tesla een fout maakt is Tesla aansprakelijk en daar is veel meer te halen dan bij een chauffeur.

Wat veel mensen vergeten zijn verzekeringen. Dat is eigenlijk de belangrijkste schakel in het geheel. Mocht level 5 worden toegelaten door de wetgever dan zijn er nog steeds de verzekeraars. In het geval van een ongeluk met level 5 zul je een verzekering moeten hebben. De verzekeraar zijn tot in de kleinste puntjes een risicoanalyse van level 5 systemen gaan uitvoeren. Hebben ze er geen vertrouwen in is het maar de vraag of je een verzekering krijgt of dat de premie misschien zo hoog is dat je denkt laat maar zitten.

Mocht het toch verzekerd zijn dan kun je er idd op wachten als er een fout gemaakt wordt door het systeem dat de verzekeraar gaat kijken of ze de fabrikant aansprakelijk zullen stellen.
Ook hier de meeste fabrikanten hebben een aansprakelijkheidsverzekering en als ze die hebben zal ook die naar het systeem kijken. Te veel claims premie omhoog.

Het meest frapante aan het artikel is eigenlijk dit. [quoteDe tweet van comma waar Musk op reageert, spreekt wel van L5 self driving. De uitnodiging van comma om er een weddenschap van te maken, reageerde de Tesla-voorman niet op.[/quote]
Musk die normaal grote bek heeft is nu ineens heel stil. Geen weddenschap ? Is hij niet overtuigd van het feit dat ze level 5 eind van het jaar kunnen aanbieden ?

Daarbij level 5 in de USa is weer iets anders dan level 5 in hartje parijs. d.w.z beide zijn level 5 maar eerste met brede straten in de USA is eenvoudiger dan in grote drukken smalle Europese grote steden.

Als een computer een fout maakt, is dat nog steeds een menselijke fout. Het is immers een mens die de computer geprogrammeerd heeft. Het zal uiteraard minder geaccepteerd worden.

Zo kun je het zien maar met steeds meer zelflerende systemen is het toch echt het systeem zelf dat dan een fout maakt.

Als ouders geef je kinderen ook een opvoeding, maar ontsporen ze is dat dan altijd ook jou fout ?

Waarom zouden we fouten van een computer niet accepteren, als het risico op een ongeluk daarmee omlaaggaat van (bijvoorbeeld) procenten naar tienden van procenten? Computers zijn nooit feilloos maar mensen zijn dat helemaal niet. En computers hebben geen last van vermoeidheid, agressie, alcohol, korte lontjes, net ruzie met je mokkel, haast, dementie, verkeer ingetrapte pedalen etc etc.

Maar een computer kan net als een mens een storing krijgen. Of uitvallen etc.

Ja het zijn dan Mili percentages, maar alsnog het kan gebeuren.

En dan komt het onderhoud, auto moet schoon gehouden worden om optimaal gebruik te kunnen maken van de systemen. Systeem updates bijvoorbeeld, zijn mensen die dat niet doen. Conditie van de weg waarop het voertuig rijd, klein steentje op de sensor. Allemaal factoren die ervoor kunnen zorgen dat het systeem niet optimaal reageert.

Wil dit zeggen dat ik ertegen ben. Absoluut niet, echter moet je wel realistisch kijken naar de randzaken. Er zijn zat momenten dat een computer net als een mens kan falen

Mensen kunnen flauw vallen, een herseninfarct of een aanval van suiker of epilepsie krijgen, ze kunnen een black-out krijgen, ze kunnen ontsteken in razernij etc etc.

Risicoloos leven en dus risicoloos reizen en rijden bestaat niet. Geloof jij dat de autopilot van je vliegtuig foutvrij is? Hint, dat is ie niét. Maar gemiddeld doet ie het niet slecht vergeleken met een piloot die 8 uur lang level moet vliegen en last kan krijgen van van alles.

Van leven ga je dood, deal with it 😂

Autopilot van een vliegtuig heeft een aanmerkelijk simpelere opgave.

1. Geen medeweggebruiker binnen de 1-2 seconde reactietijd en welke zich onvoorspelbaar gedragen.
2. Geen onbekende obstakels.
3. Bakens die direct feedback geven over de omstandigheden (wind, temp).

Door defecte altimeter (oid)boort een vliegtuig zich nog wel eens in de grond, maar dat gebeurd met een piloot achter de stick ook als de info niet klopt of de besturing anders reageerde dan verwacht.

Zelfs op een mooie snelweg heb je mafketels die even twee rijbanen van links naar rechts schieten omdat ze eraf moeten of even langs een medeweggebruiker willen maar er links niet langs kunnen. En dan vooral laat richting aangeven...

Je autopilot moet dus continue voorbereid zijn op eratic behaviour. Dat is een heel ander speelveld dan dat van een Drwamliner die van a naar b moet

Autopilot van een vliegtuig heeft een aanmerkelijk simpelere opgave.

1. Geen medeweggebruiker binnen de 1-2 seconde reactietijd en welke zich onvoorspelbaar gedragen.
2. Geen onbekende obstakels.
3. Bakens die direct feedback geven over de omstandigheden (wind, temp).

4. Vooraf gefilled flightplan.
5. ATC die meekijkt en corrigeert.
6. Niet alleen horizontale separatie, ook vertikale.

Je verwart Autopilot met Full Self Driving!!!
Autopilot is zoals autopiloot in een vliegtuig: een drive assist.
Full Self Driving is bedoeld om uiteindelijk autonoom te kunnen rijden.

Geloof jij dat de autopilot van je vliegtuig foutvrij is? Hint, dat is ie niét.

En daarom zitten er dus piloten in en vliegt het vliegtuig niet zonder... En een automatische piloot voor een vliegtuig is een miljoen keer makkelijker dan dat voor een wagen.

Rechtdoor vliegen is vrij triviaal voor een automaat ja en je hebt vrij weinig voetgangers boven de oceaan. Maar een volgeladen airbus laten landen op de automaat bij een lekkere gusty crosswind is al weer iets meer werk. Maar toegeven, navigeren door een dorpskern met kinderen en geparkeerde autos lijkt mij complexer. Neemt niet weg dat we voor heel veel zaken gewoon vertrouwen op computers, hoe vaak stap jij in een lift en vraag je je af "maakt de computer geen fouten?"... Ik stap inmiddels gedachteloos in geautomatiseerd vervoer zoals de DLR in Londen... Waarom? Omdat ik erop vertrouw dat de computer minder fouten maakt dan een mens die behalve technische (programmeer)fouten ook nog eens beïnvloed wordt door fysiek onverwachte zaken zoals ziekte en emotie.

Maar een volgeladen airbus laten landen op de automaat bij een lekkere gusty crosswind is al weer iets meer werk.

De autopilot heeft vrij lage crosswind limitations en beperkingen voor gusts. De input snelheid is namelijk beperkt / gedempt mede omdat het als piloot ook mogelijk moet zijn om over te nemen als je iets geks ziet gebeuren. Dus hij stuurt vrij langzaam en dat werkt alleen met steady of zachte wind.

https://www.thedrive.com/...ci-fi-movie-like-showdown

Klinkt leuk maar ga jij zitten in een auto zonder stuur, zonder dat je kan ingrijpen, wetende dat het systeem een fout kan maken ?

Vliegtuigen vliegen voor groot deel op automatische piloot, bij landen en opstijgen is het normaal handmatig. Kijk je naar air crash investigation zien je vaak dat een ramp soms voorkomen is door handmatig ingrijpen omdat de systemen verkeerd zaten.

Ja hoor. Ik stap met een gerust hart in een taxi of bus of bij een ander in de auto. Ik vertrouw erop dat de bestuur-unit competent is.

Vreemd eigenlijk dat we wel dagelijks kilometers in het verkeer maken zonder dat we kunnen ingrijpen maar dat, zodra we praten over een level 5 het opeens alleen veilig kan zijn als we kunnen ingrijpen.

Wie zegt dat het stuur moet/gaat verdwijnen?

Bij level 5 heb je dat niet nodig dus waarom zou het er moeten zitten ?

Ook in de DLR in Londen (die eigenlijk voltijd autonoom rijdt in een hele veilige en beperkte omgeving) is er een manual override zodat in geval van storing de trein toch gereden kan worden, al was het maar naar het dichtstbijzijnde station.

Hoe autonoom ook, je wil niet midden op de snelweg stil komen te staan omdat de computer een brain fart Heeft. Of überhaupt geen brains meer.

Daarbij verwacht ik dat level5 voorlopig beperkt zal zijn voor bepaalde trajecten. Level5 hoeft niet per definitie “level 5 onder alle omstandigheden en in elke situatie” te betekenen net zoals mijn huidige auto dat ook niet kan met level2. Soms moet ik zelfs op de snelweg het stuurwiel overnemen, al was het maar omdat de camera’s de strepen niet meer kunnen zien.

https://www.just-auto.com...nytime-soon_id196671.aspx
[quoteLevel 5 is the highest level of vehicle autonomy as defined by the Society of Automotive Engineers (SAE). It refers to vehicles that can pilot themselves in all driving environments at all times with absolutely no input or oversight from a human. In many cases, concept level 5 autonomous vehicles don't even include physical controls to permit a human to take over – instead, completely turning over the interior to passenger space.[/quote]
De definitie zoals jij die wil geven is dus gewoon geen level 5. Level 5 is duidelijk volledig autonoom onder ALLE omstandigheden.

Ik ken de definitie van level-5 ja, thanks.

De DLR lightrail is ook autonoom onder alle omstandigheden (lees: gedurende de taken die normaal van het systeem verwacht worden tijdens dagelijks gebruik). Maar dat wil toch niet zeggen dat er geen noodsituaties kunnen optreden (bv: CPU fried, camera defect, brainfart, iets anders) waarbij handmatig verplaatsen gewenst is? Het lijkt mij stupide om een machine te maken die echt alleen op eigen initiatief kan bewegen en niet middels externe input.

Er staat toch ook duidelijk: In many cases, concept level 5 autonomous vehicles don't even include physical controls to permit a human to take over.

Dus sommige zullen misschien nog een stuur hebben.
Je begon over beperkte omgeving, dan is het dus geen level 5.
Wel of geen stuur is een keuze die jij uiteindelijk maakt als je een auto koopt of huurt.

Ik vraag me af of level-5 ook echt meteen opgeleverd zal worden als "under all circumstances". Ik vermoed meer dat het met restricties zal zijn zoals "alleen op dit type wegen" of "alleen onder deze condities".

Ik snap dat de globale definitie van level 5 aangeeft dat de auto in beginsel geen stuur meer zal hebben, maar ik zie dat simpelweg niet gebeuren, zeker niet onder ALLE omstandigheden.

We shall see.

Zie link hierboven hoe de auto-industrie / Society of Automotive Engineers het zelf omschrijft.

all driving environments at all times with absolutely no input or oversight from a human.

Vrij vertaald level 5 is dat pas als de auto ten alle tijde in alle omstandigheden zonder menselijke bestuurder of controle door die bestuurder kan werken.

Dat lijkt me heel duidelijk. Zodra er een beperking is, dus bepaalde weg of nog steeds iemand achter het stuur is het geen level 5, daar zijn geen uitzonderingen op mogelijk.

Musk is dus weer heel erg voorbarig.

Wat wel een discussie kan zijn is als er level 5 is, hoe betrouwbaar is de hardware en wat doet deze als er een fout in het systeem zit. Dat is echter weer een totaal andere vraag / discussie.

Musk is dus weer heel erg voorbarig.

Zoals gewoonlijk . Maar FSD rijdt nu al op particuliere wegen, zonder lijnen, in het donker met lichten uit. Dus staat toch al ver. Eenmaal Dojo klaar is, zal de evolutie steeds sneller gaan.

Ontwikkeling in deze gaat exponentieel.
Dit jaar, volgend jaar... Wat maakt het uit. Is niet te voorspellen denk ik. En hangt ervan af hoeveel 9's na de komma men wenst.

Ben wel benieuwd naar de bron dat een autopilot van een vliegtuig niet foutvrij is?

Dat was toch het probleem vande 737max die verschillende malen is gecrasht

Dat was naar mijn weten een sensor fout en een automatisch systeem dat eigenlijk tijdens de hele vlucht actief is. Zowel met auto pilot als normaal vliegen. Vandaar ook dat de ingreep van de piloot lastig ging omdat het systeem constant actief hoort te zijn en lastig te deactiveren was.

En omdat de moderne piloten niet meer wisten hoe ze dit moesten corrigeren omdat ze te veel gewend waren aan autopilot

Dat piloten niet wisten hoe ze dit moesten corrigeren was vanwege de onbekendheid met deze functie. De fabrikant had het bestaan hiervan zo veel mogelijk verborgen, tijdens hun geslaagde lobby om te voorkomen dat piloten lessen nodig zouden hebben om in dit nieuwe model te vliegen. Daardoor konden piloten vanuit het oude model meteen door naar het nieuwe, zonder goed / überhaupt op de hoogte te zijn van deze functie.

Redslow, daar is zo'n wagen op geprogrammeerd hé. Sensoren te vuil: melding en aan de kant. Systeem updates gaan automatisch, conditie van de weg niet veilig: auto neemt andere weg of stopt/vertraagd.

Allemaal zaken waar mensen zich meestal overschatten: moe, dronken, nachtblind...

Computers doen exact wat geprogrammeerd is.
Als we nu ontdekken dat de door 'ons' geprogrammeerde software fouten bevat, dan is dat niet de verantwoordelijkheid van de computer maar van het bedrijf onder wiens toezicht de software is ontwikkeld.

Ik snap de hele discussie omtrent 'het vaccin' ook niet. Als je doelt op de trombose incidenten: het risico dat je trombose is groter door roken of de pil. Het risico dat je dood gaat door een corona vaccin is kleiner dan dat je omkomt in het verkeer. Hoezo denken we daar over na, we doen dagelijks zonder nadenken mee aan het verkeer en accepteren het risico: van leven ga je dood.

En als je puur de risico's van corona zelf afzet tegen de risico's van het vaccin dan is het ook een no-brainer, hoezo denken we daar over na?

Veel van deze vaccins zijn niet niet geadviseerd vanwege de enorm kleine kans op bijwerkingen. Voor mij is het een totale no-brainer dat het nuttig is, maar ethische commissies zien schijnbaar toch liever mensen doodgaan aan Covid.

Zie het ook als een veiligheidssysteem: mensen die niet in staat zijn om nog deftig te rijden (om wat voor reden dan ook, hetzij tijdelijk dan wel permanent) kunnen op deze manier zich veiliger in het verkeer begeven. Dat zie je nu al bij de lagere trappen van autonomie dat ze kunnen remmen en op het rijvak blijven zodanig dat ongelukken al vermeden zijn, waar anders dronken of slaperige mensen zich in een object of andere weggebruiker hebben geboord.

“Zo goed als een mens” is simpelweg niet genoeg. De burger accepteert de fouten van een mede-mens met mogelijk de dood als gevolg. Maar zeker niet van een computer.

Dat is nu ongetwijfeld waar, maar dat hoeft niet zo te blijven.

Op het moment dat je kan aantonen dat autopilots voor een spectaculaire daling in verkeersslachtoffers zorgen zou dat sentiment wel eens gaan schuiven.

Ik denk niet dat alleen de daling van het aantal verkeersslachtoffers zorgt voor een positief sentiment richting de software die voor de daling zorgt.
Computers werken op basis van een doordacht concept - daar mogen we toch vanuit gaan? Fouten door computers zijn feitelijk fouten in het ontwerp van het concept. Dat zijn fouten met een grotere impact dan fouten die een medemens maakt, want die zijn niet structureel.
Wat dat betreft ben ik het dus met @kaasboer09 eens.

Alsof iedereen die ooit een BSOD heeft gehad, direct ook Windows de deur uit heeft gedaan, of fouten/bugs in software leiden direct tot faillissementen van uitgevers omdat mensen ze niet "accepteren"?

Bovendien zit achter ieder stuk software nog steeds een mens

Die emoties je noemt gaan misschien over vergeving enzo, maar zijn verder niet echt relevant voor feitelijke acceptatie.

Bovendien zit achter ieder stuk software nog steeds een mens

Historisch gezien heb je gelijk, naar de toekomst kijkende niet.

Zelflerende systemen gaan zelf conclusies trekken op basis van data die ze krijgen. Ja in de basis zit de mens er achter maar met een zelflerend systeem is de invloed van de mens, naar mate de dataset groter gaat worden, steeds beperkter.
Het enige dat de mens kan en moet doen is kijken als het zelflerende systeem tot een andere conclusie komt het systeem voor die situatie een uitzondering geven waar de mens bepaald dan moet je dit of dat doen.

De burger accepteert de fouten van een mede-mens met mogelijk de dood als gevolg.

Spreek voor jezelf! Mensen die dodelijke fouten maken tijdens het rijden mogen wat mij betreft hun rijbewijs direct inleveren en opnieuw gaan lessen. Of het nou per ongeluk was of niet.

Volgens mij mis je het punt dat Kaasboer09 probeert te maken.
Een fout maken is menselijk, of jij dat nou wel of niet accepteert doet niet ter zake.
Een mens werkt nogal complex en is veel onvoorspelbaarder dan een computer.
Jij kan vanavond achter het stuur opeens een black-out krijgen of een beroerte, zonder dat je daar wat aan kan doen. Als je dan iemand daardoor doodrijdt, dan denk ik niet dat het eerlijk zou zijn om jouw rijbewijs af te nemen.

Een computersysteem wordt minder snel vergeven voor een crash o.i.d., want "je mag toch verwachten dat" dat niet tijdens het rijden gebeurd.
Dit in tegenstelling tot een mens: je kaan nooit verwachten dat een mens (en ik neem even aan dat jij een mens bent) een perfecte rit maakt, of dat er niets gebeurt onderweg.

Fabrikanten van autonome auto's gaan waarschijnlijk ook zeker niet te vroeg over op L5, omdat er bij ongelukken uiteraard direct even gekeken wordt wiens verantwoordelijkheid dit nu eigenlijk was. Het laatste wat je wil als bedrijf (of software engineer?) is dat je aansprakelijk gesteld wordt van meerdere dodelijke ongelukken.

Re doodrijden in eerste alinea- rijbewijzen kunnen wel degelijk worden afgepakt vanwege per ongeluk doodrijden van iemand als de oorzaak een gebeurtenis is waarvoor je een medische indicatie hebt en/of je zelf had kunnen merken dat de gebeurtenis er aa was aan het komen.

Bv als je epilepsie hebt en je voelt de eerste symptomen aankomen, of als je van nature een ijzertekort hebt en je voelt je heel erg vermoeid worden tijdens het rijden, dan kan wel degelijk het als verwijtbaar handelen gezien worden als je een ongeluk veroorzaakt indien je de tijd had om veilig langs de kant te gaan parkeren. Idem dito als je te lang aan het rijden bent geweest en al lang vermoeid bent (zie bv sommige vrachtwagenchauffeurs die bij een ongeluk betrokken zijn geweest na een onafgebroken rit van 8+ uur).

Dat kan zeker, en terecht. Maar dat is gegeven dat je had kunnen weten dat er iets aan de hand was. En dat is niet altijd het geval.

Dat is waar. Maar volgens mij is de hoeveelheid mensen die een ongeluk veroorzaken vanwege een acute medische oorzaak waarvan ze niet afwisten en het niet konden voorkomen relatief verwaarloosbaar (als het 1 op de 10 miljoen is per jaar lijkt het me al veel).

Uiteraard is die kans veel kleiner, kijk gewoon om je heen op een willekeurig ritje op de snelweg. Het is tegenwoordig mode om links in te halen en net op tijd nog rechts uit te voegen, bumper kleven, etc. Allemaal zaken waar iemand niet goed op kan anticiperen danwel op tijd op kan reageren mocht dat een keer mis gaan. De kans dat daar iets mee gebeurt is vele malen groter.

Max 4,5 uur rijden waarna 45 minuten rust. De boetes zijn tegenwoordig zo duur dat je haast een lening voor moet afsluiten. Dan nog de digitale tacho. Nagenoeg onmogelijk hier nog mee te knoeien.
En als er 8+uur gereden word dan vaak door de oostblok chauffeurs.

Bij mijn vrachtwagen kan ik die bots en remassistent aan de ene kant wel accepteren. Deze heeft mij jammer genooeg heel vaak moeten helpen of bijstaan ( nee ik was wakker en geen tefoongebruik).
Dat criminelen dit gebruiken nu om een truck te stoppen en overvallen hoor je alleen niet.... En het gebeurd....

Dit lijkt een beetje op de vaccinatie risico's. Het ziek worden aan Corona en er eventueel aan overlijden is een hoger risico dan het krijgen van die terminale variant van trombose.

Toch accepteren mensen het krijgen van Corona redelijk makkelijk, maar het risico op die trombose niet.

Zoals met de autopilot, verwacht een mens dat hij of zij "beter" en "sterker" wordt van een vaccin. Een risico dat dat dus niet gebeurt, weegt gevoelsmatig gewoon zwaar.

Een mens werkt nogal complex en is veel onvoorspelbaarder dan een computer.

Ja en Nee.

Ook jij bekijkt een computer met kennis uit het verleden. We gaan nu naar zelflerende systemen. De computer gaat dan op basis van data, in dit voorbeeld data van mensen conclusies trekken en deze overnemen. Wat we echter nog niet weten is hoe het systeem in kritische situaties gaat doen. Het kan goed zijn dat op basis van de dataset en informatie een systeem een totaal andere reactie kan geven dan wij als mens zouden doen. Positief en negatief.

Nee, dat doe ik niet. Ik weet er toevallig wat van, want ik ben er dagelijks mee bezig. Mensen zijn écht onvoorspelbaarder.

Proficiat. Voorspelbaarheid van een computer is dat wat jij hem als mens aan beperkingen meegeeft. Geef je geen beperkingen in ontwikkeling zal een systeem ook onvoorspelbaar zijn.

Ik denk dat dat niet van toepassing is. Een auto ontwerpen wordt op geen enkel vlak zonder beperkingen gedaan natuurlijk

Punt blijft dat we als mens beperkingen hebben. We kunnen een systeem wel beperkingen meegeven maar er zijn altijd situaties waar wij als mens in die beperkingen geen rekening mee gehouden hebben.
Je kan dan situaties krijgen waar een systeem een keuze moet maken, met beperkingen te maken krijgt maar onvoorspelbaar kan reageren.

We hebben het hier over het level5 deel van de auto waarbij het dus om computer gaat. Zou zeggen hou de komende 15 jaar in de gaten, je zal zien dat we onvoorspelbare dingen te zien krijgen. Vergelijkbaar met sommige (bijna)ongelukken met vliegtuigen waar systemen soms ook onverklaarbare dingen doen.

Begrijp me niet verkeerd, ik ben het helemaal met je eens: uiteraard krijgen we gekke situaties.
Het enige wat ik toevoegde aan de discussie is dat mensen nóg onvoorspelbaarder zijn, implicerende dat als een groot deel L5 wordt, de waarschijnlijkheid groot is dat het verkeer (meetbaar) beter voorspelbaar c.q. veiliger wordt.
Ongelukken die gebeuren door het missen van "beperkingen", daar ben ik niet zo heel bang voor. Je kan een simpel if-else statement meegeven dat ervoor zorgt dat in onvoorspelbare situaties (je else clausule), de auto kiest voor een optie die hij altijd achter de hand heeft: stoppen met inachtneming van de omgeving (bijvoorbeeld: alarmlichten aan, naar de vluchtstrook sturen en stoppen). Uiteraard ff een bugreport naar Tesla sturen .
Gaat dit altijd goed? Nee, maar je kan er gif op innemen dat een bovengemiddelde chauffeur het minder goed had aangepakt, omdat die chauffeur in principe ook een routine volgt om te autorijden, maar dan minder consistent dan de autonome auto.

In mijn eerste reactie doelde ik dan ook wat meer op verantwoordelijkheid: waarom zou bijvoorbeeld Tesla de boot naar L5 te vroeg nemen? Dat gaan ze pas doen als ze erop vertrouwen dat het érg veilig is, meetbaar véél veiliger dan een mens en perfect in alle tests. Daarna heel wat kilometers in het echt testen natuurlijk, en blijven tweaken tot dat ook veilig blijkt, en pas dan kunnen ze er eens aan gaan denken het product in te pakken en te verzenden.
Zeker omdat de wetten nog niet zo ver zijn: wie is er verantwoordelijk als je Model S tegen een voetganger aanrijdt op Autopilot? Is dat de bestuurder, of is dat Tesla, omdat ze in de handleiding zetten dat er geen menselijk ingrijpen nodig is tijdens de rit? Of de software engineers, omdat hun software een dodelijk ongeluk heeft geresulteerd?

Tegen de tijd dat een Tesla de bestuurder trakteert op de krant en een kopje koffie, dan kan je ervan uitgaan dat die onvoorspelbaarheid écht minder is dan wanneer een mens had gereden, anders hadden ze het product echt niet durven te lanceren.

waarom zou bijvoorbeeld Tesla de boot naar L5 te vroeg nemen? Dat gaan ze pas doen als ze erop vertrouwen dat het érg veilig is, meetbaar véél veiliger dan een mens en perfect in alle tests

Hier moet ik je helaas geen gelijk geven. Tesla net als andere bedrijven hebben een commercieel belang bij het uitrollen van level 5. De eerste heeft een voorsprong die commercieel te benutten is. Zodra het om geld gaat worden veiligheid en principes wel eens overboord gezet.
Tesla heeft bijv op kwaliteitsgebied, lees afwerking niet een al te beste naam. Auto's moesten geproduceerd worden en reparaties doen we maar achteraf. Met level 5 moet je niet achteraf willen repareren.

Wat is met afvraag is wie bepaald wanneer een systeem echt level 5 is. Is er een testmethode die scenario's test om dit vrij te geven. Afgezien van de wetgever zullen verzekeraars ook hun goedkeuring willen geven.

Oké, maar wat gebeurt er dan als die veiligheid niet helemaal lekker zit (naar wil en geweten, immers wist Tesla van bepaalde fouten) en de autopilot rijdt in op iemand?
Dan komen er rechtzaken tegen Tesla. Die hebben dus ook een financieel belang om de veiligheid op orde te krijgen lijkt mij?

edit: Op softwaregebied heeft Tesla (nog) wel een betere naam gelukkig

[Reactie gewijzigd door Dr.Breen op 11 mei 2021 15:57]

Dat is een afweging die men intern moet maken, wachten en commercieel nadeel of kleine fouten op de koop toenemen en achteraf verbeteren met updates en hopen dat er niets gebeurt.

Autofabrikanten hebben uit het verleden idd geleerd dat boetes uiteindelijk veel hoger zijn dat terugroepactie of uit te keren schadebedrag. Neemt niet weg dat er door iemand uiteindelijk een beslissing zal worden genomen live te gaan.

Zoals is me al afvroeg, neem ik aan dat het extern sowieso getest zal worden in verschillende situaties. Ben benieuwd wie dat gaat doen en uiteindelijk een goedkeuring zal geven. Daarbij blijft het de vraag hoe perfect het systeem is ?

Alsof jij nooit een inschattingsfout hebt gemaakt Waar mensen zijn worden fouten gemaakt, jij kan als mens nooit 100% correct rijden alleen anticiperen op de fouten van andere bestuurders dus om nou te zeggen dat de persoon hun rijbewijs in moeten leveren puur omdat ze een fout gemaakt in het verkeer waar uiteindelijk een dode is gevallen is compleet een verkeerde gedachte (tenzij als er alcohol of drugs in het spel zijn dan sta ik wel achter jouw statement)

En juist dat anticiperen op fouten is waar ik excelleer ten opzichte van autopilot!

Uhh nee, hoe goed je reactiesnelheid ook is, je hebt een bepaalde tijd nodig om op de rem te trappen. Dat zit gewoon ingebakken. Dan moet je ook nog 100% gefocused zijn ten alle tijden om die minimale tijd uberhaupt te kunnen halen. De Tesla computer heeft je dan al lang stil gezet.

Hij heeft het niet over reactietijd maar anticiperen; voorspellen wat er gaat gebeuren. Ook dat kan een Tesla best aardig volgens mij. Uiteindelijk kan een mens realistischerwijs maar enkele tienduizenden uren ervaring gebruiken om situaties te herkennen en te voorspellen, een computermodel kan gebaseerd zijn op een veelvoud daarvan.

Ja dat snap ik, maar anticiperen doe je ook om gefocussed zo snel mogelijk een actie te ondernemen, of dat nu op de rem trappen is of ontwijken. Beiden kan een computer vele malen sneller.

Ik zeg niet dat er geen relatie is, maar het zijn totaal verschillende dingen. Anticiperen die je om een reactiesnelheid te hebben die negatief is. Bijvoorbeeld, als je ziet dat de persoon achter je met zijn telefoon bezig is en in mindere mate met de weg, dan kan je alvast in een andere baan gaan rijden of heel langzaam aan langzamer gaan rijden, om te voorkomen dat die persoon bij plotseling remmen in je achterbak zit. Als je niet anticipeert maar wel een reactietijd van 0s hebt dan is er niets dat je kan doen om dat te voorkomen als de persoon voor je opeens vol in de ankers gaat.

[Reactie gewijzigd door 84hannes op 8 mei 2021 20:05]

Ah check, dank voor dat voorbeeld, dat is idd net wat anders.

Tov de huidige misschien ja maar het is een kwestie van tijd voordat een computer dat beter kan. Dat zie je ook met spelletje waar mensen voorheen konden winnen van de snelste computers maar die tijd is al even voorbij. Neurale netwerken kunnen de beste menselijke spelers al verslaan en dit is pas het begin.

Had jij deze zien aankomen?

https://youtu.be/_8AUbbX-VhE

anticiperen is misschien waar je nu nog beter bent dan een ai systeem. Uiteindelijk zullen we als mens door de techniek ingehaald worden. De techniek kan veel seller reageren dan jij als mens. Als mens heb je gewoon een bepaalde reactietijd die langer is dan een systeem.

Maar ook als mens heb je een ander probleem, situatiestress. Wat doe je als mens als je echt in een situatie komt, paniek, onder druk snel moeten reageren. De ene mens blijft koel, de ander denkt koel te blijven maar heeft het nog nooit meegemaakt. Een systeem kent geen stress of emotie (tenminste de huidige systemen niet)

Grote probleem met autorijden is dat als alle auto's geen bestuurder zouden hebben de auto's onderling kunnen communiceren en ze dus ook geen rekening moeten houden met menselijk falen. De uitdaging voor level 5 is dat het rekening moet houden met menselijke bestuurders die niet voorspelbaar kunnen reageren.

Ooit gehoord van het gezegde ongeluk zit in een klein hoekje.

Het hoeft niet altijd Drank, Drugs of Gedrag te zijn wat een ongeluk veroorzaakt, er zijn helaas genoeg mensen die dat kunnen betuigen in de realiteit, ook ongelukken helaas met dodelijke afloopt, waarbij de "dader" eigenlijk net zo goed slachtoffer is, en daar dagelijks mee kampen.

ik hoop ook je inziet je Hopelijk door je ervaring je zelf nooit in zo'n situatie probeert te belanden, maar je hebt daar niet 100% invloed op ook, mag hopen je dat zelf ook wel in kan zien.
Vind je dan ook in zulke situaties jij gelijk ook maar als crimineel moet worden aangepakt, wat dat is wat jij zegt, en het kom over jij jezelf zo goed vind rijden dat het jou nooit zal overkomen, en wie dat wel doet moet gestraft worden.

Niet alle dodelijke ongelukken is verwijtbaar, soms is een ongeluk precies dat.. een ongeluk, nare samenloop van omstandigheden waarbij niemand echt "schuldig" is, ook niet diegene die het heeft "veroorzaakt" en soms heeft zelfs diegene die is overleden de veroorzaker. Ook gelijk rijbewijs afpakken maar, boven op de trauma die zo iemand oploopt ?

Iets genuanceerder standpunt kan wel, het is helaas niet zo zwart wit in het verkeer.

Een foutje bij 120km/u is altijd potentieel dodelijk.

Jij bent dus perfect begrijp ik? Een normaal mens kan niet 100% foutloos zijn.

Ik vrees dat je jezelf overschat.
Check bijvoorbeeld deze link even:
https://lifetime-reliabil...rror_rate_table_insights/

Hier worden de gemiddelde fouten die een mens maakt per taak weergegeven.
Een mens maakt bijvoorbeeld gemiddeld één fout per 1000 simpele routinematige taken.
Autorijden bevat een hele hoop van deze taken, en ook nog enkele die we nog vaker verkeerd doen.
Zo doen we gemiddeld al iets verkeerd bij één op de 100 routinetaken waar nauwkeurigheid vereist is.
(parkeren, door een smalle straat rijden,...)

[Reactie gewijzigd door Robbedem op 9 mei 2021 01:16]

Ik maak geen fouten die voor anderen potentieel dodelijk zijn nee. En zodra ik dat wel doe is het tijd om te stoppen met rijden.

Maar eigenlijk zeg je: Ik heb tot nu toe nog geen fouten gemaakt die voor anderen potentieel dodelijk zijn.

De arrogantie van jou zit hem er in dat je schrijft ik maak geen fouten. Gisteren niet vandaag misschien wel. Punt is in een kritische situatie, hoog stressniveau, kunnen mensen wel eens totaal anders reageren dan ze vooraf dachten.

Maar wie weet ben je wel de perfecte mens of hebben we hier met de eerste ai robot op tweakers te maken ?

Ik heb nog geen potentieel dodelijke fouten gemaakt nee, en zodra ik dat wel doe knip ik mijn rijbewijs door.

potentieel. dodelijke. fouten.

Iedereen maakt fouten, maar voor ze zo gevaarlijk zijn dat iemand mogelijk overlijd moet je toch een flinke stapel fouten laten accumuleren voor het zo ver komt. Als een dom foutje meteen voor een catastrofe zorgt heb je niet voldoende marge gehouden.

Als je dit arrogant van mij vind zegt dat meer over hoe we als maatschappij onze risico's beheren dan hoe goed ik wel niet kan rijden.

Wederom, een stoepje pakken of verkeerd voorsorteren doe ik ook af en toe, maar dat hoeft geen probleem te zijn.

Als een dom foutje meteen voor een catastrofe zorgt heb je niet voldoende marge gehouden.

vrachtwagen, dode hoek. gebeurt helaas te vaak, geen opzet maar dodelijke gevolgen.

Dus je je bent arrogant of een robot die geen fouten maakt. uiteindelijk kan iedereen bewust/onbewust in een situatie terecht komen met zware gevolgen. De massa zal het nooit gebeuren maar het kan iedereen gebeuren.

Vrachtwagens die nog een dode hoek hebben moeten wat mij betreft ook per direct aangepast worden. Zo moeilijk is het niet om wat camera's te plaatsen of een old school dodehoekspiegel er bij te hangen. Zijn die niet sowieso al verplicht?

(de voor en zijkanten dan, ik begrijp dat je niet zomaar ff een camera achterop alle trailers kan hangen omdat die steeds uitgewisseld worden en compatible moeten zijn met de trekker)

ja je wil een boel moet dit en dat, die zaken zijn er soms ook al maar gaf het puur als voorbeeld dat voor deze chauffeurs onbewust ongeluk met dodelijke afloop in een klein hoekje kan zitten.
volgens jou redenering zelf schuld en meteen rijbewijs inleveren.

Zei iedereen voordat die een fout maakte waardoor er een ongeluk plaatsvond.

Zelfs als je met 'maar 30km/u' rijd door een 'max. 50km/u' straat met daarlangs geparkeerde auto's heb je ongeveer elke seconde opnieuw een theoretische mogelijkheid een klein kind dood te rijden dat zich 'al spelende op het allerlaatste moment voor je auto werpt' vanachter 1 van die geparkeerde auto's.

Je hebt het dan nooit kunnen zien en het was al over voor je überhaupt kon reageren...

Nu kun je letterlijk alleen nog zeggen dat je dan nog langzamer had moeten rijden om dit te voorkomen. Maar, en wees eerlijk, rijd jij altijd met minder dan 30 door letterlijk iedere max. 50 straat met daarlangs geparkeerde auto's?

Gelukkig is de kans dat het je gaat gebeuren relatief klein, maar het kan gebeuren, en dat is waar het hier om gaat. Dat stellig ontkennen is niets meer of minder dan 'je kop in het zand steken'.

In die situatie ben jij niet degene die het heeft veroorzaakt, hoe vervelend ook. In die situatie is de kans groot dat het ongeluk zich niet anders had voltrokken dan met gebruik van Autopilot.

Er zijn erg veel mensen op de wereld die in al hun jaren autorijden nooit een ongeluk hebben gehad. Dat heeft natuurlijk met veel factoren te maken, maar anticiperen is daar een belangrijk onderdeel van alsmede je motorische vaardigheden. Voor de laatste zijn veel systemen, maar op dat eerste gebied lopen veel mensen nog steeds voor op Autopilot.

Er komt natuurlijk een tijd dat dat niet meer het geval is, maar toch.

In die situatie ben jij niet degene die het heeft veroorzaakt, hoe vervelend ook. In die situatie is de kans groot dat het ongeluk zich niet anders had voltrokken dan met gebruik van Autopilot.

Dan ben je toch echt niet goed op de hoogte van de wettelijke aansprakelijkheid in zo'n geval als dit...
Artikel 185 zegt dat een 'bestuurder van een motorvoertuig' bij een aanrijding met een 'zwakkere verkeersdeelnemer' te maken krijgt met de zogenaamde risicoaansprakelijkheid. De praktische betekenis; minimaal 50% schuld, en ja, zelfs wanneer je met overtuigend bewijs kunt aantonen dat je het ongeluk onmogelijk had kunnen voorkomen.

Iemand is aansprakelijk op grond van zijn hoedanigheid of rol van verkeersdeelnemer, niet op grond van schuld!

Er is een verschil tussen aansprakelijkheid en schuld. Je bent aansprakelijk om de doodsimpele reden dat jij er wettelijk gezien voor verzekerd moet zijn, niet omdat je schuldig bent.

Overigens verleg je de discussie naar een definitie van schuld in plaats van waar het werkelijk over ging, namelijk het verschil tussen Autopilot en mens.

En die (nogal kromme) zienswijze, zoals ook bij wet vastgelegd in artikel 185, is precies waarom zoveel fietsers en voetgangers in de grote steden nooit om zich heen kijken en nergens voor stoppen.

Schuld en aansprakelijkheid kan je theoretisch inderdaad los van elkaar gaan zien maar niet zonder in de praktijk chaos te kweken...

Dat heeft werkelijk niks te maken met dom bezig zijn, maar met de limitaties die ieder mens sowieso heeft. Je reactiesnelheid, niet altijd 100% de focus kunnen hebben (ook al probeer je op te letten), etc. etc. Een kind wat per ongeluk oversteekt terwijl jij net even over je shouder keek voor de straat links van je... om maar 1 van de 100000-en situaties te schetsen.

“als die op dat moment Corona heeft heb je mazzel, dat is dan de doodsoorzaak)….”

Dit nogsteeds?

Heeeey, die boom heeft ook een leven

Ach, een goeie boom wint het doorgaans wel van een auto.

Heb jij wat tegen bomen?

Nee dat is geen poging tot moord, daar is gewoon een andere term voor genaamd dood door schuld.

Leuk dat je het zo erg vind als poging tot moord maar het voldoet gewoon niet aan die definitie.

Hoezo voldoet het niet? Je neemt door dronken achter het stuur te stappen bewust andermans leven niet serieus. Wat mij betreft mag de straf voor aangeschoten / dronken rijden wel tienmaal omhoog, liefst ook nog eens afhankelijk van het salaris.

Liever nog trouwens: gewoon onvoorwaardelijke celstraf.

In de Nederlandse wet vereist 'moord' de intentie om een specifiek iemand te doden, het nemen van een onverantwoord risico ten op zichte van (onbekende) anderen voldoet daar evident niet aan. 'Dood door schuld' vereist nalatigheid, precies wat er hierboven wordt omschreven.

https://nl.wikipedia.org/wiki/Dood_door_schuld

[Reactie gewijzigd door Jefrey Lijffijt op 8 mei 2021 18:01]

Moord is het inderdaad niet, maar ik hoop dat je ook niet met slechts dood door schuld wegkomt. Doodslag past echter ook niet heel goed.

Gelukkig bestaat het strafverzwarende roekeloosheid. En daar mag het van mij best onder vallen als het dat nog niet doet.

[Reactie gewijzigd door KSU4reqY op 8 mei 2021 20:57]

Nee dat is geen poging tot moord, daar is gewoon een andere term voor genaamd dood door schuld.

Leuk dat je het zo erg vind als poging tot moord maar het voldoet gewoon niet aan die definitie.

Als je geen alcohol hebt gedronken, en rijdt dan iemand dood, dan is het een ongeluk, dood door schuld.

Als je te veel alcohol drinkt en vervolgens toch gaat rijden, en iemand doodrijdt, dan is het geen ongeluk, en ook geen dood door schuld, maar gewoon moord.

Je stelt nu voorbedachte rade gelijk aan risico, jammer voor jou zijn die niet gelijk aan elkaar.

Je moet maar eens als passagier met een doordeweekse chauffeur meerijden er op letten hoe vaak dingen als stopborden, voetgangers aan oversteekplaatsen, voorrangsregels, richtingaanwijzers en snelheidslimieten genegeerd worden, maar er wel aandacht aan de telefoon, radio en andere inzittenden wordt geschonken.

Precies. Er wordt steeds over menselijke foutjes gesproken maar het verkeer zou al stukken veiliger worden als een computer even goed de verkeerssituatie zou kunnen begrijpen en zich simpelweg aan de regels zou houden.

Mensen overschatten zichzelf / onderschatten het gevaar van zombie-rijden, houden tegen beter weten in te weinig afstand, geven bewust uit gemakszucht geen richting aan, rijden te hard omdat ze het leuker vinden, etc.

Er wordt nogal eens gezegd dat er altijd ongelukken kunnen gebeuren en dat zal best, maar de meeste ongevallen zijn gewoon te wijten aan dom gedrag. Als je er een gewoonte van maakt te whatsappen onder het rijden, is het een kwestie van tijd.

[Reactie gewijzigd door laptopleon op 8 mei 2021 19:36]

L5 is 100% autonoom, zonder ingrijpen (menselijke) bestuurder. Zodra een bestuurder moet ingrijpen, is het L4.

Zodra een bestuurder moet ingrijpen, is het L4.

Neen.
Level 5 is volledig autonoom zonder bestuurder, ten alle tijden, in alle omstandigheden en op elke weg die je kunt verzinnen.

Als je hier ergens een restrictie in aanbrengt (bijv. Alleen overdag, alleen in een bepaalde stad, niet bij vorst) is dat level 4. Maar nog autonoom en nog steeds zonder bestuurder.

Als de wagen in principe autonoom rijdt, maar er een bestuurder aanwezig moet zijn om >op verzoek van de wagen< binnen bijv. 30sec. het stuur te overnemen, dan is dat level 3. Als de wagen autonoom onderweg is, mag deze best de krant lezen en hoeft niet op het verkeer te letten. > De nieuwe MB S Klasse.

Bij Level 2 praten we over hulpsystemen welke de bestuurder helpen, maar deze de wagen ten alle tijden en voortdurend moet controleren en onder controle moet hebben. > Tesla autopilot.

Om het riedeltje compleet te maken: level 1 is bijv. ACC only.

Level 5 is nog ver weg en zeker niet eind van dit jaar volgens het musk sprookje.

Ik weet niet hoe je bij je voorbeeld van "binnen bijv. 30sec." komt, maar bij leven 3 moet een bestuurder constant klaar zitten om in te kunnen grijpen.

Ook wel logisch als je bedenkt hoeveel afstand je per seconde in een auto af kan leggen en dat centimeters (millisecondes) al letterlijk het verschil tussen leven en dood kunnen betekenen

Ik denk dat de kans dan groter is dat je als bestuurder een verkeerde beslissing neemt omdat je denkt te moeten ingrijpen, dan dat de auto echt een fout maakt. Dus, tegen die tijd moet je nooit willen ingrijpen.

[Reactie gewijzigd door honey op 8 mei 2021 14:24]

Ik denk dat het een slecht idee is, om de twee te mixen

OF zelfrijdend, en autonoom, OF hoogstens assisted driving ( L3 )
Je kan er niet op gaan vertrouwen dat een voertuig kan inschatten of die fietser de weg opschiet om de andere twee in te halen.
Ja, dat gebeurt, niet alleen wielridders met te strakke broekjes die thuis niets te zeggen hebben, ook scholieren die "ineens" besluiten om met 4 naast elkaar te rijden, en er één de rijbaan op duikt.

Of die twijfelende bestuurder, die niet snel genoeg doorheeft dat hij toch geen voorrang heeft, maar er toch FF snel voor schiet.

Mens en machine mengen niet zo goed, zeker niet op dat niveau

Mens en machine mengen niet zo goed, zeker niet op dat niveau

Dan is de oplossing dat er alleen nog maar machines aan het verkeer deelnemen en de mens het huis niet uitkomt.

Oh wait, die situatie zitten we nu bijna in. Dan zit Musk dus ook in dat hele complot

Nooit Wall-E gezien zeker ?

Want dat was een heel stuk realistischer, dan wat Musk soms uitspreekt

Wat je beschrijft zal je situatie over een heel aantal jaren zijn.

We zitten nu menselijke bestuurders en overgang van menselijk naar volledig autonoom. Probleem in de tussenfase is dat volledig autonoom rekening zal moeten blijven houden met de menselijke bestuurders.

Als alle voertuigen autonoom zijn, communiceren deze onderling en is het duidelijk waar de ene heen wil, wat de ander wil doen.

Probleem blijft natuurlijk nog steeds de mens als voetganger en fietser. Die onvoorspelbaarheid zal altijd een factoor blijven.

Het was eigenlijk pure sarcasme.
Maar als ik er dieper over nadenk, het is niet mogelijk om de menselijke factor er helemaal uit te halen.

Ten eerste omdat de mens anders niet meer buiten kan komen.
Ten tweede omdat de machine toch door de mens geprogrammeerd moet worden. En degenen die dan roepen: machine learning? Ook dat is een programma geschreven door mens.

Komt ook nog eens bij dat machines ook fouten maken of storingen hebben.

Level 5 is een utopie en op geen enkel vlak hebben we in onze hele geschiedenis een utopie bereikt.

[Reactie gewijzigd door Zwatelaar op 9 mei 2021 11:37]

Ten tweede omdat de machine toch door de mens geprogrammeerd moet worden. En degenen die dan roepen: machine learning? Ook dat is een programma geschreven door mens.

Hier ga je toch echt fout. Machine learning kan heel ver gaan. De mens kan de basis parameters meegeven eventueel beperkingen. Het zelflerende systeem gaat dan zoeken naar de beste oplossing.

Dacht 20 jaar geleden als voorbeeld gezien. soort streepjes die als eerst bij een bal moesten komen. Winnaar kon zichzelf ontwikkelen, meer streepjes ander vorm. Uiteindelijk zag je vormen die de bal omsloten zodat andere er niet bij konden komen. Een andere vorm rigte zich niet op de bal maar vernietigen van de tegenstander, agressie dus. Dan moet je daarvoor weer beperkende parameters gaan ingeven. De vraag is echter te veel beperkingen kan weer een negatieve invloed hebben op ontwikkeling en mogelijkheden.

We staan pag aan het begin van machine learning, de term ai wil ik het niet eens noemen. Het gaat met toenemende cpu/gpu snelheid echter steeds sneller. Wie weet doet quantum computing nog een schepje er bovenop.

Machine learning heeft gigantische potentie, zal ik zeker niet ontkennen. Echter, denken dat een perfect systeem mogelijk is, is nastereven van een droom. In theorie mogelijk, echter praktijk is altijd weerbarstiger. Daar valt niet tegenop te programmeren, al dan niet door ML.

Zeg je met de kennis van nu. Zaken die nu mogelijk zijn waren 30 jaar geleden ondenkbaar en toch zijn ze mogelijk geworden.

Zou zeggen denk is aan de combinatie mens/machine daar is men al mee bezig, nu om invaliden te laten lopen. Dat wil niet zeggen dat het zich verder kan ontwikkelen.

Tesla is niet zozeer bezig met een NN trainen, maar om de training van zo'n net efficiënter te doen. Bijvoorbeeld door automatisch labelen. En ze zijn bezig met een supercomputer die specifiek gemaakt is voor het trainen van een NN.

Ondertussen bouwen ze de hardware wel in iedere auto in. Dat betekent een enorme voorsprong qua data verzameling. En voor die laatste duizendste procenten randgevallen heb je enorm veel data nodig.

Bijkomend voordeel is dat als er een nieuw NN is getraind, je dat naar een miljoen auto's kan uploaden. Eerst een paar weken in schaduw mode om te verifiëren. En daarna kan het met een druk op de knop worden aangezet (als de eigenaar van de auto betaalt).

Tesla heeft de meeste data. Klopt,
Maar tesla heeft ook een heel minimale sensorsuite met weinig redundantie.
Alleen cameras en radars,

Meer data is goed maar je moet het ook in genoeg modaliteiten hebben.

Probleem met alleen cameras is als je tegen de zon in rijdt zie je weinig, en ziet de omgevallen witte truck er dus uit als de hemel, en omdat er geen lidar is ziet men de truck niet en dus crasht het.

Daar kan software weinig aan doen.
De sensorsuite heeft die redundantie gewoonweg niet.

Anyways als iemand die werkt in de industrie word ik altijd moet van Musk zijn uitspraken hierover, hij zegt al 4-5 jaar dat het volgend jaar klaar is, en hij zit er elke keer naast.

Het is realistisch iig nog 3-4 jaar van ons verwijderd.

Sterker nog. De radar wordt in de huidige modellen niet meer geplaatst.

De radar data was niet meer betrouwbaar genoeg om de camera's te overrulen als ze het niet eens waren.

En hoe kom je er bij dat je niets ziet zonder lidar als je tegenlicht hebt? Hoe denk je dat mensen auto rijden? Ik heb geen lasers in mn hoofd zitten. Mijn 2 camera's passen hun diafragma aan zodat ik weer kan zien. En een digitale camera kan dat als het goed is vele malen beter.

Dat musk onrealistische tijdlijnen belooft klopt. Maar hij heeft wel gelijk dat een systeem dat lidar nodig heeft, nooit beter wordt dan een mens.

Omdat onze ogen een veel hogere dynamic range hebben dan cameras.

Neem maar eens een foto met tegenlicht met de zon.

Je ogen zien veel meer dan de camera. In de camera is er gewoon clipping met under en over exposure. Dus dan zie je dingen gewoon niet.

En ik weet dat wij geen lasers in onze ogen hebben, maar wij hebben wel een paar duizend keer meer compute power om het gebrek aan lidar te compenseren.

Ik zeg nergends dat het nooit met alleen cameras kan. Maar nu kan dat iig nog niet.

En een systeem dat lidar heeft kan juist beter zijn dan een mens.
Het heeft meer manieren om dingen te zien.

Zelfde met infrarood dat door rook en mist kan zien, waar wij dat niet kunnen. Waarom zou dat het systeem slechter maken?

Zien dove mensen beter? Nee. Reageren die beter op visuele stimulus? Nee.
Meer modaliteiten zorgen voor redundantie en overlap zorgt voor zekerheid. Vooral als er iets mis is, wat druppels of modder op een camera etc.

Redundantie is goed, in servers en met perceptie systemen.

[Reactie gewijzigd door freaq op 9 mei 2021 06:08]

Als de camera's zeggen de weg is vrij, maar de lidar zegt er is een obstakel. Wat doet je auto dan? Een onterechte noodstop is ook levensgevaarlijk.

En een foto is wat anders dan video. Een foto is overbelicht als de lichtsterkte*sluitertijd te groot is. Daar zit je dan aan vast en die foto ben je kwijt. Bij een videocamera heb je geen sluiter. De electronica bepaalt hoe lang de sensor wordt belicht iedere frame. En als de electronica snel genoeg is en het algoritme dat de tijd per frame bepaalt slim genoeg is, is je overbelichting na 1 frame verdwenen.

Verder is een viezo camera niet anders dan een vieze spiegel of ruit. Ik moet soms ook met een krabber aan de gang voordat ik kan rijden. Het wordt misschien wel een probleem als we auto's zonder bestuurder willen laten rijden. Dan is het misschien beter om een autonome taxi te hebben met een storingsdienst dan de auto in eigen bezit te hebben.

Als de lidar een muur ziet en de camera niks kan dat tot van allerlij reacties leiden.

Oa aanpassen sluitertijd, iso waarde van de camera om meer informatie te krijgen,

Rustig afremmen uit voorzorg terwijl meer informatie verzameld wordt, etc.

Het is iig beter dan vol gas een omgevallen witte trailer in rijden, wat nu al een paar keer is gebeurd bij Tesla.

Je diafragma aanpassen gaat ook ten koste van de sluitertijd, en laat dat nu enorm belangrijk zijn om zaken in een paar honderste van een seconde te analyseren. Een digitale camera verandert daar niets aan, de werking is nog steeds hetzelfde als in het analoge tijdperk.

Verder, een Tesla kan momenteel geen gebruik maken van simpele adaptive cruise control, of nog maar gewone cruise control als het hard regent of sneeuwt, omdat Musk blijft vasthouden aan cameras.

Elke keer dat ik in felle zon rijdt, krijg ik berichten dat een of meerdere cameras verblind zijn, Musk moet dit ook weten en toch weigert hij steevast om lidar toe te voegen.

Of mijn simpele regensensor, die na 4 jaar nog steeds in beta stadium verkeert omdat ze het gewoon niet goed kunnen detecteren met een camera omdat Musk een euro of 2 wou besparen op een standaard Bosch regensensor die elke andere fabrikant gebruikt.

Vroeg of laat gaat Musk zijn trots moeten inslikken en toegeven dat hij fout was.

Waar weinig over gesproken wordt qua techniek en wat naar mijn mening een wezenlijke sensor is, is thermisch infrarood. Met thermisch infrarood is het mogelijk voor systemen om te herkennen of iets dood of levend is.
De camera's waar je het nu over hebt zijn leuk maar het is de software die moet bepalen wat zie, ik mens, dier, object of iets dat er op lijkt.
Des te meer type sensoren des te meer data een systeem kan krijgen. Alleen camera's is leuk maar er zijn situaties lage zoon, sneeuw, veel wit en lage zon waar alleen een camera het moeilijk heeft.
Je opmerking een systeem dat lidar nodig heeft kun je ook lezen lidar als toevoeging op camera's voor meer data.

Maar niet getreurd we staan pas aan het absolute begin van deze ontwikkeling. Probleem is mensen als Musk die roepen dan en dan klaar en keer op keer betrappen we Musk op deze leugen. Ontwikkelingen hebben tijd nodig.

Wat voegt het toe om te zien of iets warm of koud is? Als er iemand midden en de weg ligt, wil je er dan overheen rijden als je thermal camera zegt dat hij al dood is?
Het voegt alleen maar ruis toe. Nu moet je NN bij iedere warmtebron gaan beslissen of het leeft. Om daar vervolgens niets mee te doen.

pff moet ik je echt uitleggen wat het voordeel is van het zien van warmte ?

Iets dat op een persoon lijkt hoeft dat niet te zijn, het warmtebeeld kan je echter bevestigen dat het een levend persoon is. Daarnaast stel je de vraag waarom er op duurste merken nu een optie nachtzicht met thermisch infrarood zit.
Met thermisch infrarood kun je ook in het donker goed zien. Normale camera en in het donker kijken, leuk maar je zicht blijft beperkt.

Waarom moet je in het donker kunnen zien? Het is streng verboden om in het donker te rijden. Daarom moet je verlichting voeren. En dan werkt een camera gewoon.

En wat maakt het uit of iets een persoon is of een pop? Je auto moet in beide gevallen remmen en/of uitwijken indien mogelijk.

Laat maar, als je niet verder kan zien of denken waar je rekening mee moet houden lijkt me een discussie met jou totaal zinloos

De visie van Musk is dat mensen ook alleen maar ogen hebben en geen lidar. De radar en ultrasone sensoren zijn al extra en daarbij zijn de camera’s geoptimaliseerd voor beeldherkenning (en heeft een moderne tesla er 8, drie aan de voorkant, vier die naar de zijkant kijken en één achterop) en dat is meer dan de twee camera’s die een mens aan boord heeft. Een mens kan ook prima diepte zien en insecten herkennen dus waarom zou je daar lidar voor nodig hebben?

Mensen hebben de meeste geavanceerde cpu aan boord.

Duizenden keren sneller, dus wij zijn erg goed met diepte inschatten en objecten herkennen ed.

Lidar zou niet nodig zijn met zulk goede compute, maar we hebben het hier over veel tragere hardware. En dan is een groundtruth depth sensor erg handig, vooral als je bijv een foto van een auto op een vrachwagen ziet.

Een camera is mogelijk te foppen, maar de lidar ziet het platte oppervlak.

Of als je tegen de zon in rijdt, camera is over/under exposed en kan niet veel zien. Lidar wel.
Had de tesla crash in die omgevallen witte truck op de snelweg voorkomen.
Daar was de camera niet in staat de witte (geclipde) lucht van de vrachtwagen te onderscheiden.

Kortom, er is een goede reden om lidar te gebruiken.

Ik snap waarom tesla het niet doet,
(Kosten, betrouwbaarheid, productie, aerodynamica etc) maar laten we even eerlijk zijn. De enige echt robuust zelfrijdende auto’s op het moment zijn waymo, en evt cruise en zoox, en die gebruiken allemaal lidar, met 10-20x de compute aan boord van een tesla.

Die computer in je hoofd is misschien snel. Maar er draaien ook meerdere programma's op. Het grootste nadeel is dat het OS soms prioriteit geeft aan iets anders dan "op de weg letten.exe". En dan heb je nog malware als alcohol en drugs die je computer enorm sloom maken.

Dat van de witte vrachtwagen is een probleem die je oplost door de exposure van de camera beter te regelen. Niet door een veredelde afstandsmeter toe te voegen.

Die auto's van waymo en GM werken alleen in hun netjes afgebakende zandbak. Waarvan iedere millimeter in kaart is gebracht. Zodra er daar een verkeersbord wordt aangepast of een lijntje op de weg verplaatst gaat het fout. En buiten de zandbak kan de auto helemaal niets.

Zucht.
Ook de Tesla computer draait ook van allerlei ander spul, maar dat doet er niet toe.

Wat er wel toe doet is dat men om vanuit een paar camera viewpoints een robuuste 3d interpretatie van de wereld te maken (nadruk op robuust) men veel meer power nodig heeft dan nu beschikbaar is.

En dan heb ik het niet over 2-3x maar 20-100x om dat echt robuust te doen.

En men heeft betere cameras nodig die niet over/under exposen, dus met grotere dynamic range, zoals onze ogen hebben.

Dan zou het kunnen.
Maar met de huidige hardware kan dat gewoon niet.

Ik werk in de branche, ik heb tesla aandelen. Vind het verder een goed bedrijf. Maar laten we even voorbij fanboyisme stappen.

Alleen cameras is op dit moment gewoon niet genoeg. Klaar. Mischien over 10-15 jaar wel, sure, maar nu niet.

[Reactie gewijzigd door freaq op 11 mei 2021 16:01]

Schreef hierboven al Thermisch infrarood (nu gewoonweg te duur) is een perfecte aanvulling op camera. Daarnaast ben ik het met je eens lidar is een aanvulling en zou je gewoon als backup of extra data kunnen zien in de gevallen waar een normale camera problemen heeft.

Prijs is zoals je aangeeft waar het om draait maar over 5 of 10 jaar in meer massa productie zullen de kosten voor de verschillende type sensors al veel lager zijn.

Grappig is dat we pas aan het begin van deze ontwikkeling staan en sommige doen alsof tesla als aan het einde is en de oplossing heeft. als je niet weet waar het bij ontwikkeling om gaat dan is het het verbeteren van systemen. Uiteindelijk zal er een mis van systemen zijn en voordat we allemaal met een level 5 rijden zijn we nog heel wat jaren verder.

Ja valt erg op hoe mensen tesla verdedigen hier.

Ik bedoel prima auto’s zou er graag een hebben, maar wel zonder full self driving, iig tot het echt werkt.

Ach ev begint nu pas echt op gang te komen en er zijn idd genoeg mensen die de droom of het idee hebben dat er maar 1 merk tesla is. Als ze over 5-10 jaar wakker worden zullen ze heel veel merken zien rondrijden.

Level 5 autonoom, daar staan we niets eens aan het begin, het is er nog niet. Ook daar zal er 1 de eerste zijn en volgen er meer. De auto markt is geen markt die door 1 of 2 merken totaal beheerst zal gaan worden. Sterker nog je ziet er nu ev tijdperk er aan komt steeds meer nieuwe merken en verschuiving van marken die nu ineens voorlopen met ev technologie. Ook hier tesla zal 1 van de vele zijn.

Alleen de vraag, als het veiliger is dan een menselijke bestuurder. Vanaf wanneer gaan we l2/l5 op elke auto willen installeren

Dat is een beetje het verneukeratieve. Natuurlijk is zo'n AI vele malen beter dan een mens op een aantal gebieden. Zo'n computer let altijd op en ziet altijd alles wat om de auto heen gebeurt. Dat kan een mens gewoon niet. Ik zag bv een paar dagen terug zo'n TeslaCam filmpje, waarbij de Tesla rechts rijdt, en op de linkerbaan komt een snelle auto die als ie vlakblij de Tesla is, een gekke beweging maar richting de Tesla. De AI van de Tesla remt vervolgens nét genoeg om die slingerende auto vóór zich te krijgen, waar ie dan ook meteen het hoekje om gaat om tegen de vangrail te botsen. Vervolgens wordt de Tesla alsnog geraakt, maar iets gecontroleerder. Had de AI niet ingegrepen, was ie ge-t-boned door die slingerende auto. No way dat een mens dat überhaupt gezien had (je moet maar nét in je spiegel kijken) en dan de tegenwoordigheid van geest hebben om de remmen. Achteraf had een noodstop van de Tesla beter geweest (er reed niemand dicht achter de Tesla geloof ik) maar dat is achteraf altijd moeilijk te bepalen.

Punt is dat een AI veel meer overzicht heeft en altijd vele malen sneller kan reageren. Maar soms komt ie in situaties die niet voorzien zijn, en waar ie ook niet goed lijkt te weten wat ie moet doen. Het is maar net de vraag hoe vaak dat voorkomt. Filmpjes van een autopilot op snelwegen vind ik niet zo boeiend. omdat het daar veel overzichtelijker is. Doorgaans rijdt iedereen dezelfde kant op, met ongeveer dezelfde snelheid. De banen zijn overzichtelijk. Ik ben nou juist benieuwd hoe zo'n autopilot het doet in Amsterdam bijvoorbeeld. Het liefst in slecht weer, waar je op bepaalde wegen de belijning niet goed ziet (nou weet ik dat ie ook kijkt naar de stroom auto's) en bij wegwerkzaamheden is het bijvoorbeeld voor een mens soms al onduidelijk waar je heen moet enzo. Borden die niet meer gelden, uitgeveegde belijning, het is soms echt een zoekplaatje. Wat doet zo'n ding dan? Gaat ie gewoon stilstaan of tergend langzaam rijden om uit te vogelen wat ie moet doen?
Ik geloof wel dat zo'n Tesla AI nooit zomaar iemand zal doodrijden, en dat de verkeersveiligheid er wel mee gediend is. Maar volledig autonoom rijden, overal en niet alleen in woestijnstaten, is wel een dingetje hoor. Ik denk dat we voorlopig zo'n systeem als watchdog moeten gebruiken. Op de snelweg kan ie denk ik wel makkelijk zelf rijden, maar in een stad is het volgens mij nog te complex. Zoveel onberekenbare factoren. En in Europa hebben we compleet andere situaties als in de US. Al die fietsers bv; er zullen nog vele miljoenen km's gereden moeten worden in de Europese steden voordat je zoiets hier toe kan laten.

Meer overzicht en vel malen sneller is bijna altijd prima voor autopilot in een vliegtuig, maar heel vaak onvoldoende voor de straat, waar ook morele beslissingen moet worden genomen. Rij ik 1 kind dood of een groep volwassenen? Rij ik in op een groep of rij ik van de weg af met mijn eigen dood als gevolg? AI kan dit niet beslissen, en zal het (morele keuzes maken) ook nooit kunnen doen.

Dat vind ik een non-discussie. Als jij ergens rijdt en er steeks plotseling iemand over, en het is zodanig krap dat je een beslssing moet nemen die altijd iemand het leven kost, heb jij NOOIT de tijd om een goede beslissing te nemen. Een computer gaat er ook een nemen (of niet, als het ook niet meer snapt) maar het is niet erger of minder erg als dat een mens wat doet. We VINDEN het zogenaamd erg omdat een computer een zogenaamde kille beslissing neemt. Nou, dan een mens die gewoon uit paniek een ruk aan het stuur geeft. Nee, die discussie is leuk om eerstejaars foilsofiestudenten wakker te houden, maar ik vind het nergens over gaan.

Een computer, of laten we concreet een Tesla pakken, heeft te allen tijden een 360 beeld van de omgeving. Dat zal op bepaalde momenten misschien niet ideaal zijn want een computer weet ook niet alles, maar een mens ZIET niet alles. Ook ervaren rijders, waar ik mijzelf onder schaar, hebben wel een goed overzicht, maar niet 100% en 360. Als ik naast jou ga zitten en ik roep op een willekeurig moment wie er een paar meter achter je zit op de linker baan, wéét die Tesla computer het direct. Jij moet kijken. En als er een met een noodgang op je af komt, kan die Tesla al gaan nadenken over een ontwijkende manoeuvre. Wij moeten toevallig in de spiegel kijken om het naderende gevaar te zien. Wij zijn gefocussed op wat er voor ons en schuin naast ons gebeurt. Voor de rest is het maar deels overzicht. En misschien zijn zelfs ervaren bestuurders vaker wat lakser. En als er mensen in de auto zitten te kletsen, of je luistert muziek, ben je toch een beetje afgeleid.

Ík weet ook wel dat die computers voorlopig nog niet goed genoeg zijn om ons compleet te vervangen. Dat geloof ik niet. Maar als extra paar ogen zijn ze zeer zeker geschikt. Ze zien gewoon alles en nadenken gaat in een split second, geen paniekreacties enzo. Veel efficiënter omdat ie dat 360 overzicht heeft. Hij weet precies dat ie kan remmen (en hoe hard) en uitwijken om geen extra brokken te maken of een zachte crash die minder is dan wat je had gehad als ie niet had ingegrepen. Ik denk dus dat ze heel erg geschikt zijn als achtervang om ons te assisteren als het nodig is. Op de snelweg autopilot en in de stad als extra paar ogen om dat spelend kind of die verwarde lachgaspatient te ontwijken.

Het zien van 'success rate' als een lineaire ontwikkeling die naar 100% moet is best wel een kort door de bocht versimpeling. Het gaat uiteindelijk niet om hoeveel missers een auto maakt maar wanneer en wat de gevolgen zijn. Een parkeerongelukje is niet net zo erg als met 100km/u tegen een betonnen muur aan rijden.
Bovendien vraag ik me af of het frustreren van het verkeer (waardoor ongeduldige mensen vreemde dingen gaan doen en mogelijk ongelukken veroorzaken) door de autopilot meegeteld worden. Ik vind het geen 'succes' als ik 3x per jaar aangereden word omdat de autopilot onvoorspelbare dingen doet die de verkeersdeelnemers om mij heen niet kunnen anticiperen.

Helaas is het niet zo dat je maar oneindig lang je neural netwerk kunt bijleren met data en dat het dan vanzelf goed komt.

Deels kan dit wel doordat er steeds meer "edge cases" bij komen en je dat kan leren aan het neural netwerk of je kan kijken hoe die hier mee om gaat. Zo kan je continu blijven verbeteren tot in het oneindige. Echter is elke edge case weer zo vaak nodig om goed verwerkt te worden.

Nee dat kan niet.
Er is een maximum aantal neuronen in zo’n netwerk en op sen gegeven moment kunnen ze niet meer complexiteit aan.

Tenzij je het netwerk uitbreidt, maar dat kost meer compute, of langer om uit te voeren.

Tesla herschrijft hun NN regelmatig en dat nieuwe NN leert dan alles opnieuw.

Het belangrijkste hierbij is dat je een grote bak met gelabelde data hebt om je NN mee te trainen. En die bak wordt steeds groter.

Tesla ontwerpt hun eigen chipset voor NN computers en met hun huidige generatie hadden ze al een sprong gemaakt van 21x het aan frames verwerkings vermogen T.O.V. wat ze hadden van Nvidea in 2016-2017.
Ze zijn bezig met een nieuwe versie die weer 2-3x sneller is dan hun huidige NN computer dat is echt geen limitatie.

Daarbij word hun data voor het trainen steeds uitgebreider en beter voor het trainen.

De code die ze er in stoppen word daarbij ook nog eens continu kleiner omdat ze steeds efficiënter kunnen coderen.

Allemaal redenen waarom Tesla wel continu kan blijven verbeteren met hun NN. Ze hebben alles hier voor gemaakt om dat te kunnen doen. Van data vergaren tot de computers en alles er tussen in.

Meer (goede)data is altijd beter. Dat klopt. Maar het is niet zo dat je door het toevoegen van data aan een model uiteindelijk gegarandeerd uitkomt daar waar je wilt zijn. Tenminste nog niet met de techniek van vandaag.

Een ingreep per miljoen mijl (1.6 miljoen km) is niet veel. De gemiddelde auto is na een kwart tot een derde al versleten. Dit komt eigenlijk neer op een ingreep bij een niet te voorziene gebeurtenis als een plotseling overstekend beest, klapband of omwaaiende boom of een rare actie van een mede weggebruiker.

L5 is nog redelijk verre toekomst. Een auto moet dan eigenlijk onder alle omstandigheden veilig kunnen rijden, ook wanneer er geen gedetailleerde kaarten beschikbaar zijn. Volledig autonoom op de snelweg is realistischer.

ook wanneer er geen gedetailleerde kaarten beschikbaar zijn.

Nou ben ik erg blij dat Tesla daar gelukkig niet op vertrouwd.

Daarbij kunnen Tesla's dik over de helft komen voor die afstand voor je deze een nieuwe accu zou moeten geven wat ook wel weer aangenaam is haha.

Grap is wel dat dat ook op de snelweg is.
En daar gebeuren per km gewoon minder ongelukken.

Dat soort staistieken van oa tesla zijn daarom niet echt te vergelijken met normale averages of met die van waymo et al welke in veel complexere omgevingen rijden.

Het argument dat een tesla op autopilot minder ongelukken maakt per km dan menselijke bestuurder is daarom ook een oneerlijke vergelijking.

Zoals men zegt, there are lies, damned lies and statistics.

En dit is de laatste, heel zorgvuldig gekozen biased statistics.

Ik heb inmiddels bijna 25 jaar mijn rijbewijs en heb al die tijd schadevrij gereden. Als mijn moeder naast mij zit verslapt haar aandacht geen moment. Kan ik haar uitlenen als test chauffeur?

Het kan sneller gaan dan men nu denkt doordat het aantal auto's met L4 systemen op de weg toe zal nemen. Steeds meer automerken zijn er mee bezig. Als er genoeg mensen een auto rijden die assisteert dan wordt het steeds veiliger op de weg (vooral als de auto's met elkaar communiceren).
Mensen gebruiken de automatische piloot op hun Tesla nu al te veel. Lekker handig (want mensen zijn lui). Dat gedrag neemt alleen maar toe als ze de perceptie hebben dat het veilig is. En dan wordt het een self fulfilling prophecy: als iedereen op de snelweg zijn automatische piloot gebruikt dan is iedereen veel voorspelbaarder in zijn rijgedrag.

Denk dat L5 er voorlopig niet in zit, maar een niveau daaronder dat door iedereen gebruikt wordt omdat het "veiliger" is wel.

Je bent je ervan bewust dat gemiddeld genomen een vrouw veiliger rijdt dan een man?

Verder ben je de volgende stereotype nog vergeten: Jochie van ergens begin 20 in een VW met een pet en de stoel in ligstand met als doel zo snel mogelijk van A naar B te geraken. (IPV veilig van A naar B te geraken).

Ok, ik ben de laatste die vrouwen wil gaan minachten, maar jouw stelling wordt te vaak onjuist gebruikt (mijn vrouw werkt bij een grote verzekeraar).

Je hebt gelijk wanneer je zegt dat vrouwen minder ongevallen hebben, maar vrouwen rijden véél minder km dan mannen. Hoe meer km je rijdt, hoe meer kans op een ongeval natuurlijk. Gemiddeld per km gezien klopt jouw stelling dan ook niet, per gereden km hebben mannen minder ongevallen dan vrouwen.
En ja, dat is relevant, want anders kan je ook stellen dat pinguins minder auto ongelukken maken dan mannen

Kosten per ongeval zijn wel beduidend hoger bij mannen, zij nemen grotere risico's.

Pinguïns maken toch ook minder auto ongelukken dan mannen?

Ik had die opmerking over mannen vs vrouwen inderdaad niet moeten maken. Want je kunt de rijvaardigheid alleen vergelijken wanneer je een identieke situatie creëert.

Zo spreek jij over ongelukken per gereden Km, maar ook dat zegt niets over wie van de twee veiliger in het verkeer is bij een identieke situatie. (het zou zomaar kunnen zijn dat mannen meer snelweg kilometers maken).

[Reactie gewijzigd door 12345j op 9 mei 2021 10:17]

Ik heb het niet over stereotypes, dit is praktijk waar ik het over heb. Als ik vandaag 2 keer niet op de rem had getrapt dan had mijn auto nu schade van 1 dame en oude opa.

Dus hoe stereotype wil je het hebben... Maar dit is zoals ik het vandaag heb mee gemaakt. En zo zit ik elke dag op de weg te verbazen hoe sommige nog een rijbewijs hebben.

Ok, Dus je komt hier op Tweakers jou rij ervaring van de dag te delen?

Ik zie je zeggen : 'Ook oudere mensen denken dat de weg voor hun gemaakt is'.
Nu ben ik benieuwd hoe jij weet wat 'oudere mensen' in het algemeen denken, klinkt mij toch als een vorm van stereotypering.

[Reactie gewijzigd door 12345j op 9 mei 2021 10:17]

Elon roept wel veel meer gekke dingen via Twitter. Volgens mij is het gewoon alles wat hij zegt met een korreltje zout te nemen.

Maar goed er zijn genoeg mensen die hem 1 op 1 volgen en op zijn woord geloven. De gevolgen zie je oa bij Dogecoin de (meme)coin dat puur als grap is bedoeld, waar geen team meer achter zit en bijna 50% van alle circulerende coins door een handje vol wallets in bezit is..

[Reactie gewijzigd door downcom op 8 mei 2021 14:11]

Punt is dat men in Amerika Musks uitspraken niet met een korreltje zout neemt/wil nemen. Als je puur kijkt naar zijn uitspraak 'een veiligheidsniveau in vergelijking tot de gemiddelde bestuurder', dan kun je denken dat het niet zo'n boude uitspraak is, hij noemt er geen normen bij. De gemiddelde bestuurder die ik van de week tegen kwam haalde doodleuk twee autos voor mij in en ging daarna op de rem staan om de smartphone er bij te pakken. Voor dat type bestuurder is een auto die zelf afstand houd en constante snelheid aanhoud een verbetering van de veiligheid (de huidige stand van techniek). Omdat Musk de uitspraak doet als antwoord op een vraag doet op een vraag of level 5 gehaald wordt, zijn er mensen die dat direct als een bevestiging zien dat gaat lukken. Musk maakt de fout om antwoord te geven op een vraag met daarin een meetbaar gegeven. Voordat Tesla (of welk ander bedrijf) zover is dat hun auto volledig autonoom kan rijden in alle landen waar je hun auto's op kenteken kunt zetten, zijn we wel een tijdje verder. Zou me niets verbazen als dit gewoon een manier is om weer 'bewijs' te verzamelen dat er weer een paar aandeelhouders benadeelt zijn.

De gemiddelde bestuurder die ik van de week tegen kwam haalde doodleuk twee autos voor mij in en ging daarna op de rem staan om de smartphone er bij te pakken.

Om deze bestuurder “de gemiddelde bestuurder” te kunnen noemen moet van alle bestuurders evenveel beter en evenveel nog slechter zijn. Dan pas is het gedrag van deze gek gemiddeld.

Zolang dat niet het geval is, is dit dus een extreem uiterste en ligt het gemiddelde dus daar heel ver vandaan. En neem maar van mij aan, dat geldt ook voor de werkelijkheid. En zo ook de uitspraak van Elon Musk: niet vies van een “beetje” grootspraak.

[Reactie gewijzigd door Zwatelaar op 8 mei 2021 16:03]

Je haalt mediaan en gemiddelde door elkaar

Dan nog is dit niet de gemiddelde bestuurder

Agreed! Haha

Het fanboyisme rond Musk neemt naderhand gevaarlijke vormen aan... Dat de man baanbrekend werk levert met zijn teams en een visionair is waar de komende decennia nog over gepraat gaat worden, dat staat buiten kijf. Maar misschien moet de man net daarom wat minder brainfarts op de wereld loslaten...
Hij heeft teveel invloed en alles wat hij zegt of doet, wordt als dusdanig geïnterpreteerd.

Alleen al op twitter.

Iedere verbale scheet die de beste man liet werd binnen luttele seconden 1000'en keren geliked, of ge'retweet.

Ik heb de unfollow een klap gegeven.

Zodra je dit soort mensen gaat beteugelen, raak je mooie innovaties kwijt. Het is juist mooi in balans. Hij wil dingen die niet kunnen, maar daardoor worden onmogelijke zaken wel sneller mogelijk.

Een paar goede ideeën.......

- 1995 Zip2 opgericht (eerste 'online gouden gids'), verkocht voor 307 miljoen
- 1999 X.Com (wat later fuseerde confinity) Paypal de eerste online Bank, verkocht voor 1,5 miljard
- 2002 SpaceX, heeft verder geen uitleg nodig hoop ik..
- 2004 Via investering raad van bestuur Tesla, -> hij is nu de 'rijkste' man op aarde, slimme investering
- 2008 CEO tesla -> Hele auto-industrie op zijn kop gezet.
- 2015 Open AI -> Stichting die fundamenteel onderzoek doet naar AI (Grootste dreiging voor beschaving)

Vanavond weer lekker zappen!

[Reactie gewijzigd door Siebelouis op 8 mei 2021 18:58]

Nogmaals gelukkig heb ik geen aandelen in enig bedrijf van Musk.

De Tesla aanhangers hebben geen tijd voor de zapper, ze zitten constant te kijken naar de koers van Bitcoin en hun aandelen Musk. Daarnaast de hele dag zoveel mogelijk fora spammen om hun aandelen omhoog te lullen.

Een hele andere kijk op Elon:
https://www.facebook.com/RBReich/videos/469133774312335/

Facebook als bron, sluit lekker aan bij RTL

Hoezo moet ik mijn aandelen omhoog lullen? Net alsof die paar Tesla aandeeltjes die jij kan kopen mijn rendement van 1400% significant zal wijzigen. Welterusten!

(You jelly?)

[Reactie gewijzigd door BFmango op 9 mei 2021 19:04]

Volgens mij mag hij niet bewust liegen/misleiden over dingen die Tesla aangaan want dat is een beursgenoteerd bedrijf waar hij een bestuurder van is.

De dogecoin-situatie is nog best complex. En over heel veel coins is heel veel aan te merken. Maar uiteindelijk zijn vrijwel alle cryptomunten om een verscheidenheid aan redenen twijfelachtig. Uiteindelijk is het allemaal "wat de gek ervoor geeft" aan de ene kant en een munteenheid aan de andere kant, en in dat opzicht is dogecoin niet anders.

BTC is om allerlei andere redenen twijfelachtig; geen ingebouwde inflatie, zeer kostbare transacties, en uiteindelijk heeft BTC behalve adaptatie niets heel erg unieks wat het zo veel waardevoller maakt. Heel leuk dat de ingebouwde schaarste heel groot is in BTC, maar dat is een kunstmatig mechanisme dat er volgens mij eerder voor gaat zorgen dat BTC een onhoudbaar vehikel wordt in z'n huidige vorm.

Als Musk door allerlei vormen van hype DOGE ontzettend groot maakt, dan is het een soort self-fulfilling prophecy, of je het nou leuk vindt of niet. Wie weet wat er gebeurt als er een wallet op de maan wordt neergelegd bij de maanmissie die SpaceX waarschijnlijk gaat uitvoeren. Allemaal enorm veel PR voor DOGE, wat nu al vaak "de coin voor de little man" wordt genoemd.

"Geen ingebouwde inflatie". Uhm, ja dat is juist de bedoeling. Een van nature deflationair waardemiddel, waarbij verwachte schaarste het vertrouwen geeft in waarde behoud. Net zoals goud, maar dan digitaal. Bitcoin zal nooit gebruikt worden als betaalmiddel, maar daar is het inmiddels ook helemaal niet voor bedoeld. Hoezo gaat Bitcoin een onhoudbaar vehikel worden? Wat zijn je argumenten daarvoor?

Wat zijn jouw argumenten voor dat bitcoin juist wel een nuttig vehikel is uiteindelijk?

Er komen zo veel coins bij die praktisch beter voor betalingen in te zetten zijn zoals ETH. Ook wordt er bij ETH gewerkt aan een manier om de milieu-impact te verkleinen.

BTC als een vervanging voor goud zien vind ik bijna komisch. Wat de gek ervoor geeft in het kwadraat. Goud is in ieder geval nog nodig voor elektronica, BTC heeft geen enkele onderliggende waarde. Wat ermee gaat gebeuren gaan we de komende tijd wel zien, wie weet stijgt de munt nog tot de miljoen, maar het kan ook zomaar inkakken als we ETH als waardevollere munt gaan zien, en als er hogere belastingen komen op kapitaal, iets wat in de VS nu lijkt te gaan gebeuren, en waar men in NL ook naar kijkt. Ook de waarde van je coins moet je in box 3 aangeven en die kun je alleen in euro's betalen

En jij leeft al sinds 2009 onder een steen. Hoeveel moet het nog in waarde stijgen en acceptatie krijgen voordat je snapt dat je er 180 graden naast zit.
In 2017, noemden we dit argumenten van no-coiners.
Ben bang dat dit fenomeen altijd zal blijven. Het real2real/vynil hoekje van de crypto.

Je leest niet goed wat ik zeg.

Ik zeg in ieder geval niet dat je niet veel geld kunt verdienen met beleggen in crypto currency.

En onder andere door het handelen van centrale banken in Europa en de VS zou het zomaar kunnen dat het vertrouwen in fiat currency enorm afneemt, waar weer ten goede komt aan crypto.

Maar de rest van wat ik zeg, daar sta ik nog steeds achter en is volgens mij ook niet in strijd met de werkelijkheid op dit moment. Ook zeg ik nergens dat het niet nog veel groter kan worden en veel breder geaccepteerd kan worden. Dus graag niet mijn woorden uit hun verband trekken en al helemaal niet met dooddoeners waarbij je inhoudelijk helemaal niets zegt in je reactie. Kom terug met inhoud graag.

Maar de rest van wat ik zeg, daar sta ik nog steeds achter en is volgens mij ook niet in strijd met de werkelijkheid op dit moment.

Het eerste wat je zegt is dat je, achter je mening staat.
Dat partijen, die nu floreren, tegen Bitcoin staan is natuurlijk niet gek, dat is al na dag 1 van het ontstaan van Bitcoin. Bitcoin blijft een uitvinding en geen product. Net als het uitbannen van het wiel of extra belasten. Mooie vergelijking is p2p. Natuurlijk kan het, alleen wie heeft daar nou voordeel bij....en dat lukt alleen als alle landen het doen. En dan kun je gelijk de hele wereld omdopen tot één communistisch rijk.....

Verder blijft economie een geloof met twee hoofdstromingen, daar zal Bitcoin denk ik weinig aan veranderen. Het enige is dat Austrian school of economics voor het eerst van theorievoorbeeld naar wereldwijd praktijkvoorbeeld gaat. Het enige dat vast staat is dat open source werkt, Bitcoin vaste geprogrammeerde waarden heeft, zich kan aanpassen aan nieuwe ontwikkelingen en erg op TCP/IP lijkt.

Off-topic maar: het feit dat euro’s en dollars aan inflatie onderhevig zijn maakt inflatie niet per definitie goed, zeker niet als je het wil gebruiken als store-of-value. Immers, tien euro is over tien jaar minder waard (das bijna een wetmatigheid). Door de deflatie van Bitcoin weet je vrijwel zeker dat het geld wat je er nu in steekt over tien jaar niet ineens minder waard is. Immers, er is maar een beperkt aantal Bitcoin beschikbaar, er komen er nooit meer dan 21 miljoen en er is simpelweg niet genoeg voor elke aardbewoner. Alleen dát feit maakt Bitcoin steeds meer waard, hoewel dat paradoxaal is: mensen verkopen hem niet omdat hij over tien jaar waarschijnlijk meer waard is en omdat er te weinig te koop is gaat de prijs omhoog en oddments de prijs omhoog gaat verkopen mensen niet. Ergo!, ideale store-of-value en inflatie kan je daarbij missen als kiespijn. Net als bij aandelen: geen mens kocht nog aandelen als ze een ingebouwde inflatie hadden.

Grotendeels ben ik het eens met wat je zegt. Vergeet echter niet dat er ook andere crypto currencies zijn zoals ETH die praktischer zijn dan BTC.

De vraag is of je BTC als op zichzelf staand fenomeen kunt zien. Ik denk het niet en denk dat het goed mogelijk is dat andere munten praktischer blijken te zijn.

Dit effect wordt nog verergerd doordat landsgrenzen minder een rol spelen bij crypto dan bij fiat, wat het veel makkelijker maakt om te switchen. Maar er spelen veel zaken mee die allemaal invloed op de situatie hebben. Het is lastig te voorspellen.

Tevens sorry voor de offtopic hier

Zelfs met euro's en dollars is het ook "wat de gek er voor geeft". Dit is ook pijnlijk te zien aan het gemak waarmee, bijvoorbeeld, de ECB euro's bijdrukt. In betere tijden moesten die euro's nog gedekt worden met een equivalent goud, maar de wil om de schulden van bepaalde landen dragelijk te maken is groter dan de wil om een stabiele munt te maken...

Met het verschil dat fiat erg landsgebonden zijn en het wisselen tussen verschillende cryptos niet.

Het ding is... mensen belonen het wel door die Tesla's te kopen.. ook dat hij alle corona maatregelen onzin vindt wordt beloond door Tesla te kopen..

Teslas op autopilot rijden nog steeds elke paar maanden tegen een stilstaande auto aan op de snelweg.

Ik geloof niet zo heel erg in LIDAR (60 GHz beeldende radar is de echte toekomst) maar zonder een beetje diepte visie die niet van gevoelige detectie over meerdere frames afhangt gaat het ze niet lukken om dat op te lossen. Dat kunnen mensen wel, maar wij kunnen abstract nadenken en een MLP of andere huidige "AI" zal dat nooit kunnen (geen arbitraire recursie, en we hebben geen idee hoe een ANN te trainen die arbitrair recursief over iets kan malen).

Tesla had al lang geleden naar stereo cameras moeten gaan (bijv. cameras op de hoeken van de voorruit, met eentje in het midden om het wat waarschijnlijker te maken dat je altijd twee camera's hebt om mee te werken). Zonder stereo of LIDAR is het veel te moeilijk om bijna 100% zeker te weten dat er iets stilstaand aankomt op de snelweg, radar helpt niet ... zelfs 1% valse positieven is al genoeg dat mensen het gewoon uitzetten en dat wil Tesla niet, dus rijden Teslas op autopilot voorlopig elke paar maanden tegen een stilstaande auto aan.

PS. wat overigens erg riskant is ... niet alleen voor personeel wat op de snelweg moet werken, maar ook voor Tesla. Als er een keer een politie/brandweerman/ambulance-personeel word kapotgereden op deze manier, dan zijn de poppetjes aan het dansen. Dat word een gevalletje Uber.

[Reactie gewijzigd door Pinkys Brain op 8 mei 2021 16:34]

Tegen die tijd voorzie ik de YT 'pranks' al online komen
Met grote verkeersborden de autopilot frustreren.

Niet inrijden, stopborden of éénrichtingsverkeer

Ik zie nu in sommige woonwijken al clandestiene '30km' borden langs de weg staan. Schijnt een heel goede manier te zijn om auto's met verkeersbordherkenning af te remmen.

Zodat iedereen het uitzet.
Lekker slim bezig.

Wat een ongelooflijk domme actie, om dit filmpje hier te posten in een draad over auto-pilot.

Dit is exact (EXACT...) de manier waarop des-informatie wordt gelegitimeerd en ook exact de manier waarop men tegenwoordig via social media het publieke debat probeert te beinvloeden.

Het enige dat je te weten kunt komen over deze crash is informatie uit het filmpje, waarin te zien is hoe een Tesla met een heel erg veel te hoge snelheid achterop een vrachtwagen klapt. Geen context, geen resultaten van een onderzoek naar het log van de auto, geen onderzoek naar de medische achtergrond van de chauffeur, geen gegevens over bloedonderzoek, geen gegevens over wat er aan het ongeluk vooraf ging.

Wat een ongelooflijk domme actie om dat filmpje hier te posten.

Wat is de relevant is van dat filmpje? Gewoon een gek die veel te snel rijdt.

Teslas op autopilot rijden nog steeds elke paar maanden tegen een stilstaande auto aan op de snelweg.

Elke zoveel maanden rijdt er wel een idioot tegen een stilstaande auto terwijl zijn auto op cruisecontroll staat en hij te dom is om op te letten en te reageren op waarschuwingen.

Tesla had al lang geleden naar stereo cameras moeten gaan

Zoals ze hebben gedaan in 2016 bedoeld u? Hebben al zeer lange tijd 2 camera's die naar voren kijken. Verder kunnen ze prima diepte zien met hun camera systemen doormiddel van alles dat ze het neural netwerk hebben geleerd.

PS. wat overigens erg riskant is ... niet alleen voor personeel wat op de snelweg moet werken, maar ook voor Tesla. Als er een keer een politie/brandweerman/ambulance-personeel word kapotgereden op deze manier, dan zijn de poppetjes aan het dansen. Dat word een gevalletje Uber.

Nogmaals, Dit is de verantwoordelijkheid van de bestuurder. Autopiloot IS GEEN autonoom iets. Het is een adaptive cruisecontroll met lane assist. Als je denkt dat dit betekent dat je niet hoeft op te letten ben je harstikke dom bezig, ga je tegen wat Tesla over dat systeem zegt in en tegen de wet.

Met een paar cm tussen de cameras gaat stereoscopisch diepte inschatten niks worden en schatten over meerdere frames met kunstmatige stupiditeit is geen goed alternatief ... is veel fout-gevoeliger. Als ze op level 4 willen komen dan zullen ze toch ooit moeten stoppen tegen stilstaande autos rammen.

Het smoesje dat de bestuurder op moeten blijven letten werkt alleen maar totdat ze politie/brandweerman/ambulance-personeel kapotrijden ... dan gaat iedereen wakker worden en zeggen "dit systeem veroorzaakt stelselmatig dat mensen niet opletten omdat mensen nou eenmaal zo in elkaar zitten, en Tesla wist dat".

[Reactie gewijzigd door Pinkys Brain op 9 mei 2021 18:05]

Met een paar cm tussen de cameras gaat stereoscopisch diepte inschatten niks worden en schatten over meerdere frames met kunstmatige stupiditeit is geen goed alternatief ... is veel fout-gevoeliger. Als ze op level 4 willen komen dan zullen ze toch ooit moeten stoppen tegen stilstaande autos rammen.

Leuk dat u deze claims maakt en alles echter is dit inmiddels al achterhaald en is wel degelijk bewezen dat ze met hun methode van camera detectie zeer goed diepte kunnen bepalen.

Het smoesje dat de bestuurder op moeten blijven letten werkt alleen maar totdat ze politie/brandweerman/ambulance-personeel kapotrijden ... dan gaat iedereen wakker worden en zeggen "dit systeem veroorzaakt stelselmatig dat mensen niet opletten omdat mensen nou eenmaal zo in elkaar zitten, en Tesla wist dat".

Sorry, maar dit gebeurt al zeer regelmatig over de hele wereld. Echter als het geen Tesla is bereikt het het nieuws niet.
Die bestuurders die tegen een stil staand object aan knallen zijn simpelweg 100% zelf schuldig. Iedereen hoort te weten dat AP geen volledig zelf rijdend systeem is en overal staan hier waarschuwingen voor. Als je zo dom bent dat je dit wel denkt, niets hebt gelezen over het systeem hoe het naar behoren gebruikt moet worden en veiligheids systemen gaat overbruggen zodat het systeem maar blijft werken, ja. dan doe je het toch echt 100% zelf.

Hoe vaak gebeurt het wel niet dat iemand door rood rijd? In slaap valt achter het stuur? dronken op de weg zit en ga zo maar door? Het gebeurt met elk merk auto echter alleen met Tesla is het nieuws waardig...
Dus niks zodat Tesla het goed kan lullen. Het is er niet voor bedoeld en het gebeurt overal.

En toch ramt een Tesla op autopilot elke paar maanden een stilstaande auto op de snelweg, vorige maand nog. Ons NN is veel beter met een oog dan ANNs met een camera, en toch heeft evolutie ons twee ogen gegeven. Tesla kan alleen wat sneller, dus de camera's moeten verder uit elkaar dan onze ogen.

De bestaande autopilot of volledig handmatig rijden zijn niet de enige alternatieven. Autopilot kan ook wat later en wat irritanter ingrijpen als je uit je baan slipt door onoplettendheid, en je voor de rest gewoon zelf de auto op het midden van de baan laten houden. Level 3 had nooit toegelaten moeten worden.

Het valse dilemma waar de bestaande autopilot wel alleen vergeleken word met rijden volledig zonder ondersteuning gaat groot onderkent worden als Tesla ooit een politie/brandweerman/ambulance-personeel kapotrijd op autopilot. Dat mensen die er niet zo hard over nadenken het valse dilemma niet zien is een ding, maar Tesla had het wel moeten zien ... maar verkoopt liever autos en neemt die geramde wagen elke paar maanden voor lief. Ook het risico dat het volledig uit de klauwen loopt en ze een gevalletje zoals uber op hun dak krijgen.

[Reactie gewijzigd door Pinkys Brain op 10 mei 2021 01:30]

En toch ramt een Tesla op autopilot elke paar maanden een stilstaande auto op de snelweg,

Omdat deze niet geprogrammeerd is om hier voor te stoppen en de berstuurders te achterlijk zijn on op te letten!
Hoe vaak moet dat nog herhaald worden?
Je gaat toch ook niet met een koffiemok je brood smeren? Daar is die ook niet voor bedoeld.

Daarbij is AP van Tesla een level 2 systeem niet een level 3 systeem. Daar is Tesla ook heel duidelijk over. 3 het de gevaarlijkste level van autonoom rijden en daarom gaat Tesla geen level 3 uitbrengen. Ze springen direct van level 2 naar 4 en dat kan doordat hun FSD een compleet ander programma is die veel meer kan en beter ontwikkeld is.

Deze draait al in shadow mode op alle Tesla's en leery dus ook al miljarden kilometers of dit wel goed gaat of niet.
En dat doen ze dus niet met echte mensen achter het stuur (op FSD Beta na nu waar mensen er voor tekenen om op te letten en alles) zodat er geen ongelukken gebeuren als het fout gaat. Tevens laten ze die Beta op level 2 lopen zodat de testers ook echt verplicht bij wet zijn om volledig op te letten.

Dat. Alse dilema komt door mensen zoals u en mensen die te beroert zijn om zaken te gebruiken zoals het hoort i.p.v. zoals het niet hoort.

Als een persoon iemand dood schiet met een AK-47 is dat toch ook niet de schuld van kalasnikof? Om maar even een extreem voorbeeld te noemen.
Tesla heeft meerdere veiligheids maatregelen in acht genomen om te voorkomen dat mensen misbruik maken van hun systemen zoals het niet is bedoeld.
Als diegene er vervolgens aan doet om alles te omzeilen (dat gaat ze toch altijd wel lukken) zodat hij/zij het kan gebruiken zoals het niet bedoeld is is diegene in de fout. Niet Tesla.

Nogmaals mensen doen dit al met elk merk. Dus om Tesla uit te zonderen überhaupt slaat nergens op.

U lijkt bijna een geobsedeerde Tesla hater die foutieve informatie probeert te verspreiden en persee moet haten. Wat heeft Tesla u ooit aan gedaan?

Het is een kwestie van tijd. Steeds beter lerende computers, betere en kleinere sensoren, snellere en kleinere chips. Alles gaat elkaar versterken zoals je met elke technologische revolutie ziet. Op een dag knipper je met je ogen en dan is de A.I. zover dat je auto's hebt van Level 4 autonomie.
Maar dan zijn we ook zover dat een hele hoop banen door de AI kunnen worden overgenomen. Het gaat niet dit decennium gebeuren en misschien niet eens het volgende. Maar vanaf 2040 gaan er hele rare dingen gebeuren.

Tijd en geld. Het lijkt mij allang mogelijk vrachtauto's een vaste route tussen Rotterdam en Duisburg autonoom te laten rijden. Al dan niet op een aparte baan naast de bestaande snelwegen. Vanaf de haven naar een terminal in Duisburg en dan het laatste stukje door lokale chauffeurs. Toch gebeurd dit niet. Het voelt voor mij steeds meer als een (nog niet bestaand) antwoord op een probleem dat er niet is.

Op een aparte baan een vaste route rijden klinkt meer als een trein dan een autonome auto.

Je moet even uitzoomen. AI is geen lineare ontwikkeling maar exponentieel. Van dichtbij denk je dat het een lineare ontwikkeling is.
Het probleem is kostenefficiency en met een zelfrijdend voertuig kan je in principe 24 uur per dag rijden. Geen chauffeur die moe wordt, ziek is, ongelukken maakt. Geen ruimte meer nodig voor een cabine maar de motor kan in de trailer verwerkt gaan worden waardoor deze groter kunnen worden etc etc etc. Je kunt meerdere trailers aan elkaar koppelen voor betere efficiency op de weg, etc etc etc.

Zodra dit op de markt komt, gaan álle grote transportbedrijven om. Het beroep chauffeur bestaat over 30 jaar echt niet meer, net zoals we geen koetsiers meer hebben.
Maar zelfrijdende voertuigen zijn maar één aspect van deze groei in AI en niet eens de meest disruptieve.

Ik zeg niet dat het niet gaat gebeuren. En als het lukt zou het zeker disruptief zijn. Maar overtuigd ben ik ook niet. Ik kom enkel op de A12 tussen Alphen en Utrecht. Asfalt genoeg. Trek je die door kom je in Duisburg. Er rijden erg veel vrachtwagens tussen de haven in Rotterdam en het Ruhrgebied. Stel je neemt op dat traject 1 baan voor zelfrijdende vrachtwagen. Eventueel in colonne met 1 chauffeur per X aantal vrachtwagens. En een soort luchtverkeersleiding. Een netwerkje van terminals daar zodat een mens de laatste mijl kan rijden. Dat moet met de huidige techniek prima mogelijk zijn. Toch is het er niet.

Zelfs die ene rijstrook zou denk ik meer verkeer aankunnen als er nu aan vrachtwagen rijden op de hele snelweg. Dan zou je een heel groot deel van de chauffeurs kunnen besparen. Toch doen we dit niet.

edit: je zou kunnen werken met een soort bruggen zodat ze direct op de meest linkerbaan kunnen invoegen. Dan kan de rest van het verkeer gewoon de op en afritten aan de rechterkant gebruiken zoals het nu is.

[Reactie gewijzigd door borbit op 8 mei 2021 16:14]

Om de vraag te vervullen wat wat jij hier schetst zijn er treinen met snel aftakelbare wagons, die dan bovenop vrachtwagens worden gezet voor het laatste stukje.

Het grote verschil / voordeel van vrachtwagens ten opzichte van treinen is juist dat ze flexibel zijn: ze kunnen desgewenst zo voor een ander traject en eindbestemming worden ingezet.

Autonoom rijden is dus pas echt interessant als het echt volledig autonoom is. Overigens vraag ik me af of het vwb vrachtvervoer zo hard gaat als hierboven veel gesteld: een chauffeur bewaakt ook de goederen die hij vervoert. Een vrachtwagen zonder personeel zal een mooi doelwit zijn voor dieven.

Ik hoop zelf echt snel op een echt autonoom rijdend voertuig. dan kan ik tenminste lekker gaan stappen of tafelen en dan met wat glaasjes teveel gewoon instappen en me naar huis laten rijden in mijn eigen auto. Of onderweg wat werk doen of een film kijken.

De zelfrijdende trailer wordt door AI 24-7 gemonitord. Zodra er al een klepje opengaat wat niet de bedoeling is, wordt dit doorgegeven, gefilmd, etc, etc. Waarschijnlijk zijn de meeste goederen in de toekomst sowieso te tracken. Geen chauffeur die daar invloed op zou hebben, behalve dat zij zelf het grootste veiligheidslek zijn.
Ik ben het met je eens dat autonoom pas echt traction krijgt vanaf L4 waarbij er geen stuur meer noodzakelijk is. Maar dan gaat het ook echt goed los. Bijna geen enkele particulier zal meer een auto bezitten. Je roept er simpelweg ééntje op, die brengt je (desnoods slapend) naar je bestemming en je hebt daar ook geen parkeerprobleem. Maar ik gok dat we daar nog enkele tientallen jaren vanaf zijn.

Ja precies. De chauffeur op een vrachtwagen is nu nog goedkoper dan een robot die af en toe de spanbanden aantrekt. En ik zie dat niet zo snel veranderen. Zeker als je voor vracht gewoon een spoorbaan aan kunt leggen (waar kennelijk nu ook nog wenselijk is dat iemand het bestuurt, een autonome goederentrein lijkt mij zeer zeker mogelijk)

De taxi vervangen zou ook kunnen voor als je lam uit de kroeg komt. Maar als barman vaak genoeg blij geweest dat er een nette meneer in pak langs komt om die hem / haar naar huis brengt.

Een autistische jongen / meisje die met een busje naar school moet? Zie ik ook zeker de waarde van de bestuurder.

Voor de rest is er gewoon een stadsbus. Daar heb je ook liever iemand die alles in goede banen lijdt. In de tussentijd kan ie prima sturen.

Zelf naar werk rijden? Helemaal prima dat je het grootste deel van de tijd zelf iets anders kan doen. De krant lezen / op je laptop werken / dutje doen, prima. Maar het laatste stukje zelf doen? Waarom niet?

Ik denk dat je teveel vanuit de huidige stand van de techniek denkt.
Ja, er zijn tal van manieren de wegcapaciteit beter te benutten met de huidige technieken. Echter, vanaf L4 autonomie AI zal dat vanzelf gaan en véél efficiënter dan een chauffeur, 'luchtverkeersleiders' en wie er allemaal bij nodig zijn, ooit zouden kunnen. Daar is nu geen behoefte aan want de stroom goederen is niet constant en ook niet star qua herkomst en bestemming. Het beter benutten van wegcapaciteit is nu nog geen probleem waarom vervoerders autonome voertuigen zouden willen hebben.

Het gaat erom dat vervoerders straks hun voertuigenpark 24 uur per dag inzetbaar hebben tegen veel lagere kosten wegens het ontbreken van dure chauffeurs. Dat daar wellicht de wegcapaciteit beter benut gaat worden is een bijeffect waar we niet eens zeker van zijn dat die gaat optreden. Het zou namelijk zomaar kunnen dat autonome voertuigen zó populair worden dat ze een deel van de functie van het OV gaan overnemen en een deel die voertuigkilometers van spoor en busbanen op de gewone weg komt. Maar dat is een hele andere discussie

Daar is nu geen behoefte aan want de stroom goederen is niet constant en ook niet star qua herkomst en bestemming.

Tussen de haven in Rotterdam (Antwerpen) en de grote industriegebieden (blauwe banaan) in de buurt. De stroom is zeker constant en star tussen herkomst en bestemming. Maar vooralsnog hebben de verzenders / ontvangers nog steeds graag een mens die de container van A naar B begeleid.

[Reactie gewijzigd door borbit op 8 mei 2021 17:43]

Klinkt allemaal heel leuk als toekomstmuziek. Maar ik moet het allemaal nog maar zien.

Voorlopig gaat dit echt niet gebeuren. Als ik bij iemand aankom met een steigerinstallatie willen ze al amper helpen uitladen, laat staan dat er straks een autonome wagen voor komt rijden en dat ze het zelf allemaal moeten doen. Nee... er zal nog veel moeten veranderen, en niet alleen de techniek.

Handjes die in- en uitladen zijn een stuk makkelijker en goedkoper dan een chauffeur. Het is natuurlijk toekomstmuziek maar mijn inziens onvermijdelijk. Maar chauffeurs zijn lang niet de enigen die wat gaan merken van deze disruptie.

Dat zal je vies tegenvallen, scheelt een storm op een glas water.

..tenzij je met kinderen gaat werken

Zelfs die ene rijstrook zou denk ik meer verkeer aankunnen als er nu aan vrachtwagen rijden op de hele snelweg. Dan zou je een heel groot deel van de chauffeurs kunnen besparen. Toch doen we dit niet.

Dat doen we al eeuwen; dat heet een trein.

Musk heeft het niet over L5 gehad, wel dat het veel veiliger is. Dat zijn twee verschillende dingen.

Hoeveel veiliger het is blijft ook een raadsel: de getallen die Tesla opgeeft zijn grotendeels snelwegkilometers, niet alle soorten kilometers. Daarnaast is het feit dat iemand een Tesla rijdt impliciete selectiebias.

Het enige dat je zou kunnen doen is snelwegkilometers van Tesla zelf vergelijken met en zonder FSD. En zelfs dáár zit selectiebias in, bijv. omdat een ander type mensen (sowieso meer veiligheid-minded) wél FSD neemt.

Helaas geeft Tesla alleen algemene kilometeraantallen weer, men splitst snelweg niet uit waardoor de claim niet echt te vergelijken is. Hetzelfde geldt voor AP City Driving. Getallen zijn niet goed te vergelijken nu en worden maar heel beperkt vrijgegeven.

Verder wil ik best geloven dat het nu al veiliger is. Het grote probleem lijkt te zijn dat het erop lijkt dat we liever een 10% kans willen hebben om door een mens aangereden te worden dan een 5% kans om door een machine aangereden te worden. Mensen durven niet op statistieken te vertrouwen. Juist daarom is het belangrijk dat Tesla hier radicaal transparant in is. De situatie is trouwens ook wel een beetje te vergelijken met die rondom vaccinaties rondom covid.

Verder wil ik best geloven dat het nu al veiliger is. Het grote probleem lijkt te zijn dat het erop lijkt dat we liever een 10% kans willen hebben om door een mens aangereden te worden dan een 5% kans om door een machine aangereden te worden. Mensen durven niet op statistieken te vertrouwen. Juist daarom is het belangrijk dat Tesla hier radicaal transparant in is. De situatie is trouwens ook wel een beetje te vergelijken met die rondom vaccinaties rondom covid.

Met als verschil dat vaccinaties, pokkebriefjes, mondkapjes, ... al meer dan honderd jaar bestaan, en met contact tracing duidelijk is wie waarvoor verantwoordelijk is. Op zich is daar niets nieuws aan, ondanks dat men dat wel denkt sinds een jaar.

Autonoom rijden is nieuw, en daardoor reist de vraag: als een volledig autonome auto iemand doodrijdt, (wat statistisch minder vaak zal gebeuren, maar nog steeds zal gebeuren) welke persoon mag zich verantwoorden voor de rechter? Als het komt door een gebrek aan het volgen van correct en veilig programmeren of een kapotte sensor die tijdens regulier en correct onderhoud niet is opgevallen (vergelijkbaar met het ontbreken van veilig gedrag door een mens tijdens het rijden), welke persoon wordt er aangeklaagd voor doodslag?

Over het nieuwsartikel:
Zolang er nog een bestuurder in de auto nodig is, kan niet gesproken worden van autonoom rijden. Het is een vorm van rijassistentie, ondanks wat de marketingnaam suggereert.

[Reactie gewijzigd door The Zep Man op 8 mei 2021 14:32]

Met autonoom rijden reist de vraag: als een auto iemand doodrijdt, (wat statistisch minder vaak zal gebeuren, maar nog steeds zal gebeuren) welke persoon mag zich verantwoorden voor de rechtbank?

Dit hangt ook een beetje samen met het vaccinatie-verhaal: mensen willen controle hebben op allerlei manieren, terwijl techniek door menselijke fouten kan falen.

Uiteindelijk zal het dan om financiële genoegdoening gaan zonder celstraffen e.d. En dat is iets wat mensen moeilijk vinden, want mensen willen vaak een schuldige kunnen aanwijzen. Terwijl deze techniek er misschien wel voor zorgt dat er geen schuldigen meer zijn, en dat enkel domme pech overblijft. Iets waar we ons in het westen niet comfortabel bij voelen...

Uiteindelijk zal het dan om financiële genoegdoening gaan zonder celstraffen e.d.

Dus organisaties komen met meer weg dan personen door af te kopen? Dit zal maatschappelijk niet geaccepteerd worden zodra het eerste vijfjarige kind wordt doodgereden.

Terwijl deze techniek er misschien wel voor zorgt dat er geen schuldigen meer zijn, en dat enkel domme pech overblijft.

Ook bij domme pech moet iemand zich verantwoorden voor de rechter. En al blijkt dat de domme pech enkel 'ik lette niet goed op' is, dan moeten alsnog gevolgen gedragen worden.

[Reactie gewijzigd door The Zep Man op 8 mei 2021 14:36]

Je bevestigt mijn punt eigenlijk. Mensen maken fouten. Techniek kan programmeerfouten bevatten.

Dat is wat anders dan met drank op iemand doodrijden wat strafbaar is. Bij andere ongevallen waarbij je niets fout hebt gedaan wordt nu ook vaak enkel gekeken naar financiële compensatie als er duidelijk is dat jou als persoon niets te verwijten is. In NL in ieder geval. Dat is dan een civiel iets, niet een straf-iets.

Het is ook niet nuttig om iemand om pech-redenen in de gevangenis op te sluiten. Shit happens. Dat moeten we juist accepteren, en in feite doen rechters dat dus ook al.

Dat is wat anders dan met drank op iemand doodrijden wat strafbaar is.

Als blijkt dat een programmeur dronken geprogrammeerd heeft, of een dronken monteur leest niet goed een foutmelding van een sensor uit, dan heb je dezelfde situatie.

Dit is een extreem voorbeeld, maar het is niet plots omdat een organisatie iets doet dat er anders naar gekeken moet of zou moeten worden. Iemand moet de verantwoording en de gevolgen dragen van onzorgvuldig gedrag.

[Reactie gewijzigd door The Zep Man op 8 mei 2021 14:45]

Dit is een extreem voorbeeld, maar het is niet plots omdat een organisatie iets doet dat er anders naar gekeken moet of zou moeten worden.

Dat is dus ook niet zo. Er wordt nu (in NL iig) al gekeken naar de daadwerkelijke schuldvraag. Is die er niet, dan is het alleen nog een financiële kwestie.

Wat er hiermee gaat gebeuren is dat er minder gevallen komen met aanwijsbare schuld of nalatigheid; dus minder aanrijdingen bij dronkenschap, minder aanrijdingen door mobiele afleiding... en meer gevallen door pech.

En dat laatste vinden we dus verdomde oncomfortabel. En op die manier is dat ook te vergelijken met dood door covid-besmetting versus dood door vaccinatie-bijwerking: het eerste is de oude situatie en die laten zoals het is, het tweede is een situatie die statistisch gezien beter is maar waarmee je wellicht zelf een keuze maakt waar je een (extreem kleine) kans op nadeel door ondervindt. Het is hetzelfde soort dilemma waarbij mensen zich dan toch prettiger voelen bij de eerste keuze.

Ongeacht of dit principe al heel veel jaar bestaat trouwens.

Precies dit! Al zou de autopilot nog zo veilig zijn, en dat er maar 5% kans op ongeval is. Wie zouden ze dan moeten aanklagen? Waar kan je je geld halen. Liever door een mens aangereden worden dan door een autopilot. Bezotte wereld. Stap liever bij een autopilot in dan 90% van de Nederlanders met een “rijbewijs”

Statistisch gezien worden statistieken veel vaker verkeerd gebruikt dan goed.
(Datzelfde geldt voor onderzoeksrapporten in het algemeen. Veel te vaak te subjectief).

Ik DURF wel degelijk op statistieken te vertrouwen. Ik vertrouw er op dat ze onbetrouwbaar gepresenteerd worden.

Hoeveel veiliger het is blijft ook een raadsel: de getallen die Tesla opgeeft zijn grotendeels snelwegkilometers, niet alle soorten kilometers. Daarnaast is het feit dat iemand een Tesla rijdt impliciete selectiebias.

Dat heeft meer te maken omdat u er op de verkeerde manier naar kijkt.
Tesla geeft altijd de zelfde soort kilometers aan elk kwartaal. Op zich zelf zijn deze kilometers onmogelijk te vergelijken met bv het nationale gemiddelde. Echter zijn deze kilometers zeer zeker wel goed te vergelijken met de zelfde soort kilometers die ze het zelfde kwartaal een jaar eerder hebben gereden zodat weersomstandigheden ook meer het zelfde zijn in de vergelijking.

En als we op die manier naar de gereden kilometers per kwartaal kom je toch wel uit op iets dat kan aangeven of er vooruitgang is over lange tijd heen.

Verre weg van perfect maar een betere indicatie die minder partijdig is dan het te proberen te vergelijken op andere gronden.

Aangezien Autopilot in steeds meer situaties ingeschakeld kan worden is het wel degelijk moeilijk om de getallen echt met elkaar te vergelijken. Bovendien, zelfs als dat wel zo was dan is een YoY-vergelijking nog steeds op dezelfde manier problematisch als ik in mijn vorige post beschreef.

Nee want daar gaat het juist om. Ze zetten elk kwartaal een nieuwe benchmark die ze moeten gaan verbeteren over tijd. En als elke variant van kijken van Tesla beter word kan je gaan spreken over vooruitgang in veiligheid. Tuurlijk komen er steeds meer mogelijkheden bij. En als het dan ook nog eens zo is dat er minder ongelukken gebeuren in alle scenario's dan weet je dat er vooruitgang is.

Punt is en blijft dat een vergelijking met "gewone" auto's heel moeilijk blijft als niet alle kilometers zelfrijdend zijn maar alleen de "makkelijkste". Het getal is gewoon echt moeilijk te vergelijken.

Aangenomen dat er steeds meer kilometers zelfrijdend mogelijk zijn bij Tesla (zoals in de VS nu ook in de stad) is het wel zo dat het getal van Tesla zelf relevanter wordt omdat de YoY vergelijking daarvan over steeds moeilijkere kilometers gaat. Het zou me zelfs niet eens verbazen als het aantal ongevallen dan licht omhoog gaat; ook het aantal ongevallen per km van andere weggebruikers gaat omhoog als je ook naar moeilijkere km's kijkt.

[...] maar kan met een copy-paste in een ander document gewoon gelezen worden.

Knullig.

Ik ben benieuwd of Tesla binnenkort op zoek moet gaan naar een nieuw hoofd voor de afdeling Autopilot.

Denk het niet. Musk weet zelf ook dat je op een andere manier naar bestuursorganen dan naar het publiek moet communiceren. Naar het bestuursorgaan toe zo min mogelijk bedreigend en zo min mogelijk grote sprongen en veranderingen laten zien in je bewoordingen.

Elon past de Steve Jobs techniek toe. Je moet je engineers of ontwikkelaars instrueren om iets te maken, waarvan ze zelf denken dat het onrealistisch is. Uiteindelijk krijgen ze het alsnog voor elkaar.

Ach, het niveau van 'de gemiddelde bestuurder' hier in Nederland ligt niet eens zo hoog.

Als je het volgende meeneemt in het gemiddelde:
* Mensen die dagelijks alleen hun vaste korte ritje naar het werk doen
* Mensen die nooit onbekende wegen opzoeken, of drukke wegen
* De mensen die 1x per maand de auto pakken
* Het feit dat in Nederland er bijna geen gevaarlijke plekken meer zijn waardoor iedereen kwa alertheid 'lui' is geworden (afgezien van wat gevaarlijke 'hippe' weginrichtingen, zoals plekken waar stoep, fietspad en weg allemaal dezelfde kleur hebben, of aparte variaties van rotondes)

Ga eens Duitsland in, of een ander land, dan pas leer je weer nadenken over kruisingen, voorrang, gas geven bij invoegstroken, 2x KIJKEN bij spoorwegovergangen, etc.


In NL is de weginrichting zo 'luxe', dat bestuurders eigenlijk te weinig uitgedaagd worden om zelf nog écht na te denken. Denk aan kruisingen zonder duidelijke voorrang, denk aan korte invoegstroken, denk aan spoorwegovergangen zonder waarschuwing...
Hierdoor zijn we redelijk 'lui' geworden, en dat merk je maar al te goed, en nu de algemene snelheid overdag naar beneden is gegaan merk ik echt dat nog meer mensen met hun telefoons aan het spelen zijn.

[Reactie gewijzigd door alexnauta op 8 mei 2021 14:46]

Dit zijn altijd van die vreemde redeneringen:
L5 gaan we echt niet halen, jamaar, mensen zijn ook niet perfect.
Wat is dat nu weer voor argument?

Elke Tesla Fanboy wist dit al.
Elon beloofde vaak release datums die geen waarheid bleken.
Model S refresh en FSD V9 of beta knop zijn er nog steeds niet. Het komt er wel maar maar altijd veel later.
Ik gok over 2 jaar op Level 4. Level 5 lijkt mij erg moeilijk omdat er zoveel verschillende situaties bestaan.

Elon beloofde vaak release datums die geen waarheid bleken.

SpaceX belooft nog dit jaar te realiseren dat je binnen het uur van New York naar Tokio kan met een raket via low earth orbit. Zie je het gebeuren?

Ik volg SpaceX op de voet maar deze claim heb ik nog niet eerder gehoord.
Wie, waar en wanneer is dit gezegd dan?

Als SpaceX al in een baan om de aarde komt met hun Starship is dat heel wat. Mensen misschien eind volgend jaar maar echt niet eerder.

Daarom Is Mhr. Musk ook de baas en de hoofd autopilot niet
Je moet de mensen wel een beetje blijven kietelen van wat er aan komt , dat de datum niet goed is maakt niet zoveel uit ze moeten het gevoel hebben dat het er bijna is
Volgens mij gaat hier het artikel toch over , maar in de comments zitten ze al 4 straten verder met denken