Autonome Uber-auto die dodelijk ongeval veroorzaakte had noodrem gedeactiveerd

De autonoom rijdende Uber-auto die in maart voor een fataal ongeluk zorgde, had zijn noodremmen niet geactiveerd. Uber schakelt de noodremmen uit om mogelijk 'grillig gedrag' van het voertuig te voorkomen.

Op het moment vlak voor het raken van de voetganger die de weg overstak, bepaalde het systeem voor autonoom rijden van Uber dat een noodremprocedure ingezet moest worden om een aanrijding te voorkomen. Hoewel het voertuig, een aangepaste Volvo XC90, over noodremfunctionaliteit beschikt, had Uber deze uitgeschakeld omdat deze volgens het bedrijf tot potentieel 'grillig gedrag' zou kunnen leiden.

De bestuurder wordt in gevallen van noodremmen geacht in te grijpen, maar krijgt daarvoor geen notificatie. Het systeem van Volvo, City Safety genaamd, heeft ook functies om de alertheid van de bestuurder te monitoren, maar ook deze is uitgeschakeld als Ubers computerbesturing is geactiveerd. Uber houdt de chauffeur verantwoordelijk voor het in de gaten houden van diagnostische berichten die op het dashboard verschijnen en voor het taggen van opvallende evenementen.

Dat blijkt uit voorlopige bevindingen van het onderzoek dat de National Transportation Safety Board houdt naar aanleiding van het dodelijke ongeval. Een auto die in autonome modus reed met behulp van Ubers systeem, reed in maart een overstekende vrouw in de Amerikaanse staat Arizona aan, die aan haar verwondingen overleed.

Reacties (256)

Het voertuig heeft radar, lidar en camera's. De radar, lidar detecteerde de fietser 6 seconde voor het ongeluk. In eerste instantie werd de fietser echter geclassificeerd als onbekend object, daarna als voertuig en daarna als fietser. Het verspelde pad van de fietser varieerde ook. Het systeem wist 1,3 seconde voor het ongeluk dat een noodremming nodig was. Het systeem mocht echter niet harder dan 6,5m/s² remmen. Dat was immers echter uitgeschakeld, en vertrouwde daarvoor op de bestuurder.
Het systeem was niet ingericht om de bestuurder te waarschuwen.

De bestuurder moest tijdens deze rit dus berichten van het systeem op het middenconsole in de gaten houden en raar gedrag van het systeem taggen. En natuurlijk ingrijpen als iets fout gaat. De bestuurder keek dan ook naar het middenconsole om deze berichten in de gaten te houden en daardoor dus niet op de weg!

Ik denk dat Uber toch nog even naar de tekentafel moet... Misschien had het ongeluk niet voorkomen geweest als het systeem vanaf 1,2 seconde een noodremming had mogen maken, maar ik verwacht dat het ongeluk een stuk minder ernstig was geweest in dat geval.

[Reactie gewijzigd door Groentjuh op 25 mei 2018 10:37]

Het blijft een beetje koffiedik kijken.. 'wat als...'
Maar het is wel erg zot dat de auto dus blijkbaar het ongeluk technisch bezien mogelijk had kunnen voorkomen - maar dat alle benodigde systemen daarvoor uitgeschakeld waren... Klinkt dus toch als menselijk falen in plaats van de techniek die een grote misser gemaakt heeft. Vanuit Uber is het ook erg vreemd dat zowel notificatie systeem als noodrem procedure uitgeschakeld zijn... Dan kun je met enig gezond verstand toch wel bedenken dat er iets mis kan gaan...? (of denk ik nu te simpel).

Ik verdedig niets, maar we weten niet hoe grillig het systeem nog was. Als je elke 5 seconden een melding krijgt dat er direct gevaar is, dan negeer je die melding na een paar minuten al. Of ie dan uit staat, of gewoon genegeerd wordt, maakt helaas ook weinig verschil.

Maar dan is het wel menselijk falen van de chauffeur.... Nu is het falen ook menselijk maar dan op een ander niveau, iemand heeft beleid gemaakt dat auto niet mag noodremmen, dat waarschuwingen aan moeten staan en dat chauffeur dus eigenlijk ten allen tijden naar een console moet kijken zodat vreemd/afwijkend/slecht gedrag gecorrigeerd kan worden.... Dus technisch gezien had dit slachtoffer niet dood hoeven te zijn, maar is dit wel omdat iemand het belangrijker vind dat de auto spoel rijdt dan dat er mensenlevens behouden blijven...

Daar zou ik enigszins in kunnen komen... Maar dat Uber het zelf maar uitzet omdat het niet werkt? Dan had er toch ergens een lampje moeten gaan branden (niet van de auto, maar bij de mensen van Uber) dat er nog werk aan de winkel is voor de auto de straat op kan!

Wat een raar systeem.

Een noodrem uitschakelen omdat deze anders raar rijgedrag kan vertonen is toch een work around en geen oplossing? Dan moet die rem aangepast worden zodat die in een noodgeval kan remmen.
Dat kan je toch niet maken in mijn beleving?

Dat is hetzelfde als de batterij uit jouw brandmelder halen, want hij piept anders af en toe..

Ik vind dat Uber hier een beste berisping voor mag krijgen als dit zo is. Wat daarnaast meespeelt is dat zij daarmee eisen dat een bestuurder niet meer op het verkeer let om zich heen, maar diegene moet wel ingrijpen. Lekker dan als je niet op aan het letten bent op jouw omgeving. Krijg je een melding op dat display maar je hebt geen overzicht mbt de situatie om jou heen.

Dit lijkt mij een prima recept voor ongelukken.

[Reactie gewijzigd door Mit-46 op 25 mei 2018 14:38]

Klopt, eigenlijk zouden er dus 2 personen in de wagen moeten zitten. Een chauffeur en een co-pilot die het dashboard in de gaten houdt (en bedient of feedback geeft). Maar ja, dat kost 2x zoveel aan salarissen en verzekeringen.......

Een noodrem uitschakelen omdat deze anders raar rijgedrag kan vertonen is toch een work around en geen oplossing?

Dat is niet een auto die je op de weg tegen wilt komen. Hij is ook niet te herkennen aan een L. @helonaut's oplossing kan helpen, maar zou nog steeds door professionals gedaan moeten worden. Niet randoms voor AI data laten zorgen...

Als de bestuurder 1,3 seconde van te voren een melding kreeg en redelijk aan het opletten was, was het waarschijnlijk alsnog te laat. Reactietijd is in de meeste gevallen niet minder dan een halve seconde. En 0.8 seconde met de noodrem remmen in plaats van 6,5m/s² is niet veel. Want als er geen downforce is, kun je niet heelzo veel harder remmen dan 1g (10m/s²

Onzin, even een testje erbij gepakt: (toegegeven, het gaat hier wel om sportauto's met dus waarschijnlijk wel iets meer dan 1G downforce, maar wel gewoon straatauto's).
De beste had er 30,7mtr voor nodig om van 100km/h naar 0 te komen.
100km/h = 100.000mtr/h/60=1666mtr/min./60=27,7778mtr/sec. =30,7/27.7778=1,1sec van 100km/h naar 0.

ervanuitgaande dat hij de gemiddelde reactiesnelheid had en de auto de toegestane 25Mph/40km/h (bbk) reed, had hij dus 1,3-0,5=0,8sec de tijd gehad om van 40km/h naar 0 te komen, en met goede remmen had hij dus in 40000/60/60=11,11=11,11/27,778=0,39999sec. stil kunnen staan.

Ervanuitgaande dat niet iedereen brembo's onder zijn auto heeft zitten (ja echt, er zijn die mensen, ik snap ze niet, maar ze schijnen te bestaan ) had de auto iig significant langzamer kunnen rijden in de 0,8seconden (ruim 2x zoveel tijd als benodigd was geweest met goede remmen!) om iig 99% zeker te zijn dat het geen dodelijk ongeval meer was geweest.

* zion kijkt even naar zijn 4*4 Brembo's met geventileerde schijven en knikt tevree

[Reactie gewijzigd door zion op 25 mei 2018 11:29]

Informatief, maar helaas terug naar de rekentafel, de auto reed 40 mijl per uur, niet kilometer.
Maar zelfs dan nog. Daarnaast is de 0,8 seconde effectieve remtijd niet realistisch.

Test maar eens hoe snel je reageert als iemand een bal naar je hoofd gooit terwijl je naar een mobiel zit te kijken. Knappe jongen die de bal weet te vangen/afweren als je maar 1.3 seconden vantevoren een 'stay alert' te horen krijgt van degene die hem gooit.

De bestuurder krijgt in dit geval op het display een melding dat ze een actie moet ondernemen, en heeft dus geen oog op de weg. Het zal dus significant langer duren om na het zien van de (generieke?) waarschuwing eerst de ogen op de weg te richten, dan voldoende inschatting te kunnen maken van de situatie op de weg en dan daarop te reageren.
0.4 seconde is namelijk de tijd die het kost om (bij alertheid) een knop in te drukken op basis van visuele of auditieve input. Niet als je met een andere taak bezig bent en niet voor complexere taken.

Test maar eens hoe snel je reageert als iemand een bal naar je hoofd gooit terwijl je naar een mobiel zit te kijken. Knappe jongen die de bal weet te vangen/afweren als je maar 1.3 seconden vantevoren een 'stay alert' te horen krijgt van degene die hem gooit.
De bestuurder krijgt in dit geval op het display een melding dat ze een actie moet ondernemen, en heeft dus geen oog op de weg.

Mij lijkt het logischer dat de bestuurder gewoon naar de weg kijkt, zoals de bestuurder van een "gewone" auto. Dan kan hij dadelijk ingrijpen indien nodig.
Of mag dit niet omdat het de testen teveel verstoort?

Wegens kostenbesparingen maar 1 persoon in de auto, die zowel de console als de weg in de gaten dient te houden?

Vergeet niet dat het gaat om een dodelijk ongeval... Als er te laat, maar wel volle kracht op de rem getrapt was was de aanrijding misschien niet voorkomen, maar is het wel goed mogelijk (doch absoluut niet zeker!) dat de snelheid op het moment van impact lager geweest was waardoor de fietser niet aan de verwondingen was komen te overlijden.

http://edu.hethooghuis.nl...ets/reactie/rttest01.html

0.34 seconde haal ik gemiddeld!

0.2312 seconde haal ik zelfs gemiddeld!
Maar met deze test weet je natuurlijk waar je op moet letten, wat je moet doen en heb je je handen op de goede plek.

0.2362 haal ik. Dat is dan inderdaad met goed opletten. Als ik het nonchalanter doe haal ik rond de 0.27.
(http://prntscr.com/jmg5fp). Is misschien ook nog wel een verschil tussen je ping van de connectie en de aansluiting van de muis (kabel/bluetooth)

Kan me goed voorstellen dat je al die meldingen ook begint te negeren op een duur. Zeker als er veel meldingen voorbij komen wat het systeem rapporteert en je zelf moet filteren wat 'belangrijk' is, ben je in de praktijk hopeloos te laat.

Eigenlijk gewoon dom van Uber om die noodrem uit te schakelen. Ik heb als passagier liever dat hij kneiterhard remt en zo een ongeval voorkomt, dan dat hij comfortabel remt maar er wel op botst..

Dat ligt aan het aantal false-positives.
Stel jij gaat 's morgens naar het werk met Uber en 's avonds weer naar huis.
Elke rit heb je, zeg 1, noodrem terwijl het niet nodig was. Dan heb je risico's op aanrijdingen van achteren en daar wordt je echt heel snel flauw van. Dan zet je dat uit.

Het zelfde met mobiel gebruik achter het stuur. Iedereen doet het en als het fout gaat zegt iedereen, wat een malloot om dat te doen achter het stuur. Levens gevaarlijk!

Slechte website, op mobiel haal ik 0.645 terwijl ik op de laptop 0.246 haal. Op mijn desktop zou ik waarschijnlijk nog beter halen wegens 144hz scherm.

Teveel factoren voor zo'n reactietest.

Mobiele browsers hanteren vaak ook een 300ms input delay.

Kom ik ook net achter idd, sorry mannen

ik haal 0.19339999999999996 gem
Op een 144hz ips 4ms monitor XD
Niet slecht voor deze 34 yrige
Maar idd mobiel is altijd trager.
Maar het gaat er om dat je zelf kan meten hoe je er voor staat

[Reactie gewijzigd door dragnar12 op 25 mei 2018 14:41]

Dit is het wetenschappelijk onderzoek wat hierop aansluit:

https://www.ncbi.nlm.nih....5_fnhum-09-00131-g002.jpg

Als 34-jarige is ongeveer 225 ms de gemiddelde SRT (Simple Reaction Time). De standaarddeviatie is bij die leeftijd ongeveer 23 ms. Jij zit met 0.193 ms gemiddeld, dus méér dan een volledige standaarddeviatie onder het gemiddelde! Een resultaat wat nog steeds wel eens voorkomt, maar toch wel best snel is!!

Is dit goede resultaat puur toeval? Of hebben we hier met een ex Unreal Tournament / andere snelle shooter speler te maken? Of misschien een tafeltennisser / andere snelle sport?

ik haal gemiddeld 0.275 op m'n 60hz scherm in firefox.. als je de inputlag (draadloze muis) meerekent is dat toch best een prima score lijkt me zo? Dat is overigens 'semi-casual' reactietijd.

Als ik echt triggerhappy hyperalert naar dat ding staar haal ik ~0.200 met als laagste score 0.196.

Ik speelde vroeger overigens wel veel UT en CS, maar heb toch al een aantal jaren geen twitchshooters meer gespeeld (tenzij je Overwatch hierbij meeteld, wat ik nog wel speel)

ex semi pro cs 1.3-1.6 speler met nog een redelijk aantal uur in cs:go
En jha ook unreal instagib gespeeld (2de geworden in drome lan 2 vs 2 )
En quake enz ook veel gespeeld.
Merk wel dat ik veel trager ben als vroeger

[Reactie gewijzigd door dragnar12 op 26 mei 2018 01:41]

Aha. Dat verklaart wat.

Als we naar het wetenschappelijk onderzoek kijken (link) dan zien we dus geen bolletjes onder de 170 ms. Wil je zeggen dat jij daar vroeger wel onder zat? Dat is wel extreem snel dan, vrijwel alle andere mensen kunnen niet zo snel.

Overigens staat er in het paper genoeg over trager worden zodra je ouder wordt. Link paper: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4374455/
Maar de effecten lijken toch niet zo groot te zijn. We hebben het over een 20 ms trager worden over 40 jaren tijd.

Er lijkt toch niet echt wetenschappelijk bewijs te zijn voor het echt heel veel trager gaan reageren, zodra men ouder wordt. 20 ms is vrijwel niks eigenlijk. Een verkeerde monitor kopen kan 16 ms lag toevoegen. Een verkeerde TV kopen kan 50 ms lag toevoegen. Wat te ver weg van de servers wonen kan 20 ms tot 200 ms aan lag toevoegen, afhankelijk van de ping. En dan ouderdom: over een periode van 40 jaar worden we gemiddeld zo'n 20 ms trager. Das toch vrijwel niks??? Niet iets om je normaal gesproken druk over te maken zou ik zeggen... Maar bij extreem competitief gamen kan het wel nog een verschil maken, ja. Die 0,02 seconde.

Hoeveel trager denk je dat je nu bent als vroeger?

mwa ik werd vroeger altijd geband op servers ( waar ik speelde met snipers ).
Werd altijd als cheater uitgemaakt.
Of elke sniper werd verboden XD.
Het verschil dat ik nu merk is meer dit.
Als ik op een plek aim in plaats van bijna direct op de hoek zoals ik dat vroeger deed.
Moet ik nu een stuk naast de hoek aimen ( meer als eerst ) omdat mijn reactie anders te traag is.
schoten die ik vroeger makkelijk maakte zijn nu bijna niet te doen.
Als ik een hoek houd en dan moet bij aimen is dit ook trager.
Fliks ( zeer snel van een hoek naar een andere hoek ( zijn nu te vaak te traag ) nog wel steeds op de plek waar ik wilde schieten maar ben meestal al dood voor ik er ben.
Ik was van 1.3 tot 1.6 een gesponsorde lan/inet speler ( niet betaald ) maar mijn toegang tot sommige lans werden betaald en merchandise zoals drinken snoep en een jas kreeg ik gratis .
.
De monitors die ik heb gebruikt waren slechter als nu denk aan 12-20 ms lcd,s.
Het ergste is gewoon dat ik zie wat er gebeurt reageer en te laat ben.
terwijl ik dat vroeger zo goed als niet had.
.
Als het over is en ik speel het in mijn hoofd terug.
Zie ik mezelf gewoon te lang naar de tegenstander kijken voor dat ik reageer.
.
Dit met een toetsenbord die sneller reageert. ( wooting ) 1,5 mm activation point.
144 hz tn pannel < vorige week ( zit nu op 4ms ips 165 hz )
En een veel betere muis g903 en g502.
.
Ik denk dat ik nu zo'n 20-40% trager ben als vroeger.
Ik zie mezelf gewoon trager zijn echt vaag.
Als ik er over denk als ik nu op 200ms zit zou ik vroeger op de 150-160 gezeten hebben gevoels matig.
Ik maak gewoon zelf actief vaak mee dat het gewoon niet allemaal meer zo is als vroeger
Speel nog steeds op lem/supreme nivo ( top 5% of zo iets ) maar toch 0.02 sec ( of langer ) is veel tijd in een game waar 1 kogel al je dood kan zijn
Het is niet dat ik super traag ben.
Maar gewoon net de adge kwijt ben die ik vroeger wel had.
Het is net dat kleine beetje
.
Was in het echte leven ook wel bekend om mijn reactievermogen.
zoals het automatisch opvangen van dingen die van tafel vielen dingen die om vielen enz of vliegen grijpen uit de lucht enz ( niet met stokjes hoor )

Misschien is het wel omdat iedereen betere hardware heeft ( en er sneller door reageert ) dat het voor mij anders aanvoelt.
I do not know maar ik weet dat het anders is nu

[Reactie gewijzigd door dragnar12 op 26 mei 2018 04:34]

Haal 0.24379999999999996. is niet slecht volgens mij voor een bijna 70 jarige.
Rij nog wel veel motor, moet je af en toe vlug schakelen en niet alleen met het schakelpedaal.
Kon wel redelijk tafeltennissen toen ik nog "jong" was.

Voor een 66-jarige zou dat echt precies gemiddeld zijn:
https://www.ncbi.nlm.nih....5_fnhum-09-00131-g002.jpg
Zeker niet slecht dus, maar ook niet beter dan gemiddeld Maar indien de gebruikte monitor bijvoorbeeld wat input lag heeft, is er dus eigenlijk iets beter gescoord, dan zou de score dus licht beter dan gemiddeld zijn.

0.34 seconde haal je gemiddeld? Met een uitroepteken erachter? Waarom het uitroepteken? Ik heb dat testje net 50 keer gedaan, en alle 50 keren (ruim) onder de 0.30 seconden gescoord. Ik kan het me nauwelijks voorstellen dat iemand een keer 0.34 seconde haalt, laat staan als gemiddelde.

Of ligt dit gewoon aan je hardware? Hele trage oude computer, of gebruik je een TV ofzo met gigantische input lag?

Wat dat testje doet is wetenschappelijk onderzocht:

https://www.ncbi.nlm.nih....5_fnhum-09-00131-g002.jpg

Je ziet dat voor een 25-jarige zo'n 220ms een gemiddeld resultaat is. En voor een 25-jarige is het redelijk absurd om boven de 300 ms te scoren. Voor een 65-jarige is zo'n 240ms normaal, en metingen van 0.34 seconden zijn dan nog steeds zéér zelden. Je ziet dat leeftijd duidelijk een factor is, maar een best wel kleine factor. Een 65-jarige doet het gemiddeld maar zo'n 0,02 seconden langzamer dan een 25-jarige.

De 0.34 seconde die jij gemiddeld haalt is dus een redelijk absurd hoog resultaat. Ik ben wel benieuwd of dat aan je hardware ligt, of dat jij gewoon traag reageert?

Je hebt gelijk, doe het nu op de laptop op de zaak en dan haal ik 0,23. Toch maar eens kijken wat er aan de hand is thuis haha,

0,2 seconden minimaal, niet 0,4
https://www.sciencealert....llar-bill-in-your-fingers

[Reactie gewijzigd door sko op 25 mei 2018 13:44]

Deze discussie over exacte tijd kan lang duren. Laat ik stellen dat een gemiddelde van 0.2 seconden niet klopt, of op zijn minst een flinke afronding naar beneden is (zie ook de (te hacken) test waar het artikel in kwestie naar refereert, in het bijzonder de top10 en de tabel met totaalgegevens).

Die discussie even negerend. Hier de conclusie van een wetenschappelijk artikel waarbij onderzocht is hoe hoog/laag onze reactiesnelheid in het verkeer is:

Human perception-brake reaction time (RT) studies have reported a wide variety of results. By analyzing a large number of data sets, however, it is possible to estimate times under specific conditions. The most important variable is driver expectation, which affects RTs by a factor of 2. When fully aware of the time and location of the brake signal, drivers can detect a signal and move the foot from accelerator to brake pedal in about 0.70 to 0.75 sec. Response to unexpected, but common signals, such as a lead car's brake lights, is about 1.25 sec, whereas RTs for surprise events, such as an object suddenly moving into the driver's path, is roughly 1.5 sec. These times are modulated somewhat by other factors, including driver age and gender, cognitive load, and urgency.

Kilk voor het onderzoek.

Conclusie, met zo'n 1.5 seconden terwijl je naar de weg aan het kijken bent had de bestuurder van de Uber absoluut niet tijdig kunnen beginnen te remmen, laat staan de auto tot stilstand kunnen brengen.

Toegegeven, de bestuurder hoefde geen gas te geven dus hoefde haar voet niet eerst van de gaspedaal af te halen, maar ze stond ook niet klaar om te remmen en keek ook niet naar de weg. Compenseert ruimschoots lijkt me.

[Reactie gewijzigd door Ubartu op 25 mei 2018 14:26]

Test maar eens hoe snel je reageert als iemand een bal naar je hoofd gooit terwijl je naar een mobiel zit te kijken. Knappe jongen die de bal weet te vangen/afweren als je maar 1.3 seconden vantevoren een 'stay alert' te horen krijgt van degene die hem gooit.

1.3 seconden? Da's echt een eeuwigheid. Ik weet niet hoe jouw middelbare school was maar voor mij is 1.3 seconden na 6 jaar oefenen meer dan genoeg tijd om alles te ontwijken, van (sneeuw)ballen en tassen tot minder hygienische projectielen.

Ik ga graag de uitdaging met je aan.
PM je adres en waar je je dagelijks ophoudt, gooi ik als je het niet verwacht binnen nu en een jaar (laten we redelijk blijven) een bal naar je hoofd en geef ik je ruim een seconde voor ie je hoofd raakt een 'stay alert'.

Er zit een denkfout in je berekening: je geeft aan dat er 1.1 seconde nodig is, maar dit is bij gelijkblijvende snelheid, iets wat niet gebeurt tijdens een vertraging. Bij een gelijkmatige vertraging kun je volgens mij het getal verdubbelen.

Bij een negatieve versnelling van ~ -12.6m/s^2 afremt, dan heb je 2.2 seconde nodig om van 27.8m/s naar 0 m/s af te remmen, over een afstand van ~30.7 m (vul de waardes maar hier in)

Volgens mij zijn dat remacties die bij sportwagens horen. Hier vind je info dat een BMW M3 (2009) 31 meter nodig heeft om vanuit 100km/h naar 0km/h af te remmen.

De maximale vertraging of versnelling is meer afhankelijk van de f waarde van de banden, de wrijving die ze met het asfalt op kunnen brengen, mits de remmen "goed" zijn. En Volvo monteert over het algemeen echt wel remmen die het aankunnen om maximaal te kunnen remmen, zeker in een auto die maar met 1 persoon gevuld is waar er 7 in kunnen (In een toyota previa was dat ooit een drama, afstand ging van iets van 39 meter, met 1 persoon naar meer dan 50, met 7 man, als ik het me goed herinner). Als het je lukt je wielen te blokkeren dan zijn je remmen in ieder geval sterk genoeg, of het nu brembo's zijn of chinese rommel. Die f waarde is bij goede banden meestal ongeveer gelijk, alleen als je de echte cup/sport banden neemt is deze lichtjes hoger waarschijnlijk. Wat nog beter was geweest is als de auto ook nog gestuurd had en zo het ongeluk ontweken, kijk maar naar de schade, 2 meter opzij en er was niets gebeurd......
Het is diep triest dat dergelijke dodelijke experimenten op willekeurige mensen gedaan mogen worden.

Als de bestuurder 1,3 seconde van te voren een melding kreeg en redelijk aan het opletten was, was het waarschijnlijk alsnog te laat. Reactietijd is in de meeste gevallen niet minder dan een halve seconde. En 0.8 seconde met de noodrem remmen in plaats van 6,5m/s² is niet veel. Want als er geen downforce is, kun je niet heelzo veel harder remmen dan 1g (10m/s²

Als de bestuurder de weg in de gaten had gehouden, had die wss sneller dan 0,8 sec voor de impact op de rem geduwd.
Maar dan kan je de vraag stellen: op welk moment mag of kan je een zelfrijdende wagen corrigeren.
Zelf heb ik een wagen met adaptieve cruise control. Als er een andere auto plots van rijstrook verandert en me hindert, reageert mijn auto ook redelijk laat en bruusk. Terwijl ik zelf veel eerder anticipeer.

De bestuurder moest tijdens deze rit dus berichten van het systeem op het middenconsole in de gaten houden en raar gedrag van het systeem taggen. En natuurlijk ingrijpen als iets fout gaat. De bestuurder keek dan ook naar het middenconsole om deze berichten in de gaten te houden en daardoor dus niet op de weg!

Waardoor je je meteen moet afvragen: waarom wordt dit soort informatie gepresenteerd op een middenconsole en niet bijvoorbeeld op het voorruit? Dan dwing je de bestuurder om ook naar de weg te kijken.

Middenconsole of voorruit, notificaties moeten dan natuurlijk wel aan staan...

[Reactie gewijzigd door The Zep Man op 25 mei 2018 10:48]

Ik betwijfel of head-up display een positieve invloed heeft op verkeersveiligheid. Ik ben geen specialist terzake en weet niet of hier ooit studies over gebeurd zijn, maar die enkele keren dat ik het zag was het vooral erg storend.
Je kijkt niet naar de weg als je naar je voorruit kijkt.

Het leger gebruikt voor diverse zaken al tijden HUDS, voornamelijk in de helmen van piloten, welke toch echt ook moeten kijken waar ze heen gaan

Alleen ligt de focus dan veel dichter bij je oog. Als ik moet focussen op mijn voorruit, heb ik veel minder zicht op het verkeer voor mij.

Bij een goede HUD zie je de data meters voor je auto, dus je ogen hoeven daardoor niet te focussen van voorruit naar weg of vice versa. Dat lukt bij sommige auto's beter dan andere.
Echter, de geprojecteerde data kan nog steeds wel afleidend zijn, vooral als je er actief instellingen daarop doet. Eigenlijk moet je er eerst wel wat mee getraind hebben zoals bij gevechtspiloten standaard is.

Ik kan hier werkelijk weinig zinnigs over zeggen want ik heb nooit gevlogen in een straaljager, maar het komt me voor dat een helm geen voorruit is en dat piloten een gedegen opleiding hebben gehad om te vliegen met zo'n ding op hun hoofd. Ik betwijfel trouwens of een piloot ten alle tijde moet kijken waar hij vliegt: weinig spelende kinderen daarboven

Ik betwijfel trouwens of een piloot ten alle tijde moet kijken waar hij vliegt: weinig spelende kinderen daarboven

Ik ben ook geen piloot, maar kan me wel voorstellen dat daarboven en met name in gevechtssituaties de gevaren minstens op gelijk niveau zijn als op de grond. Er is wel meer fysieke ruimte om hen heen maar ook meer snelheid, korte termijn variabelen, grotere wapens en weerkundige veranderingen. Alles schaalt mee. Als je met een straaljager op hoge snelheid in gevecht bent met andere straaljagers op vergelijkbare snelheid of misschien zelfs sneller, dan lijkt me dat je continue naar buiten wilt blijven kijken. Een korte afwijking bij het sturen of je hebt even gemist dat je tegenstander recht op je afkomt omdat je de console moest checken, kan denk ik wel fatale gevolgen hebben voor jezelf, de missie, het leven op de grond. Of bij het landen op een schip met veel variabelen en hoge precisie. Je moet ook blijven checken waar je overheen vliegt, want alles komt wel ergens naar beneden. Wellicht op een druk marktplein of een ziekenhuis. Ik denk dat de piloot meer contact heeft met buiten dan een normale lijnvlucht dat een geplande route volgt op de automatische piloot en over luchtwegen waar de andere vliegtuigen (doorgaans) gewoon rekening mee houden. Ook niet onderschatten, maar wel wat anders dan een gevechtsvliegtuig.

even ter info:
een straaljager zonder HUD ziet geen steek, zit nou niet echt een achteruitkijk spiegeltje op en dergelijke.
daarnaast is de helm van een straaljager piloot meer dan een HUD [krengen kosten een ton ofzo]. Piloten kunnen targets locken door ernaar te kijken alsook dat ze sort of "door hun toestel heenkijken".

Helm-systemen zijn een alternatief voor heads-up systemen. Een HUD projecteert op de voorruit. Het belangrijke verschil is dat helm-gebaseerde systemen meedraaien met het hoofd van de piloot.

Klein verschil, piloten hoeven over het algemeen geen rekening te houden met overstekende fietsers.

Bij de wat duurdere HUDS zoals jij beschrijft kan de gebruiker het scherm scherp zien terwijl zijn ooglens op de verte gefocust staat. Hierbij kijkt het alsof het scherm zich op afstand bevind en hoeven de ogen niet te schakelen tussen focusafstand.

Bij auto HUDS is dat meestal niet het geval. Je lens moet dus heen en weer focussen tussen omgeving en voorruit, wat meer tijd kost.

Door het focuspunt van de HUD-projectie enkele meters vóór de neus van de auto te leggen wordt de informatie als het ware "boven de weg" getoond. Dit zorgt ervoor dat je als bestuurder je ogen veel minder hoeft te her-focussen om essentiële voertuiginformatie waar te kunnen nemen.

Je kijkt dus niet naar de voorruit, je kijkt door de vooruit heen naar een virtuele projectie boven de weg.

Een goede HUD bevat dan ook alleen informatie die essentieel is voor het besturen van het voertuig (snelheid en waarschuwingen van veiligheidssystemen); infotainment-meuk (zoals wie er aan de telefoon hangt en welke artiest nu speelt) hoort er niet op thuis.

Overigens praat ik hier over een echte geprojecteerde en geïntegreerde HUD, er bestaan ook fake "HUD's" waarbij je je smartphone (of een ander display) laat reflecteren in de voorruit, die zijn levensgevaarlijk.

Ik snap dat je in twijfel trekt of een heads-up display (HUD) een wondermiddel is waardoor je altijd je aandacht erbij houdt. Dat is ook niet zo en hangt in sterke mate af van hoe de informatie op je HUD wordt gepresenteerd.

Van belang is:
- Hoeveel informatie? alleen een snelheidsmeter is natuurlijk veel effectiever en veiliger dan wanneer ook je halve entertainmentsysteem meelift en een halve Spotifyscherm inclusief album art op je HUD projecteert.
- Wat voor soort informatie? Alleen getallen? Of ook kaartjes en icoontjes. Meest afleidend zullen animaties en filmpjes zijn. Hangt eigenlijk ook sterk samen met voorgaande punt.
- Waar wordt dit geprojecteerd? Onderin (waar alleen het wegdek is) of echt pontificaal centraal in je blikveld (waardoor je als het ware dwars door de projectie heen moet kijken om in de verte te zien?). Bij mij weten is er echt geen enkele autofabrikant zo dom geweest om het op die laatste manier te doen, maar misschien iemand anders toch zo'n voorbeeld kan geven of dat dat bijvoorbeeld in het leger wél zo gedaan wordt.

Dat een HUD beter kan werken wordt wel duidelijk als je wel eens een FPS hebt gespeeld. Moet je je indenken dat de informatie op je ammo geprojecteerd wordt op je toetsenbord (er zijn van die keyboard met zo'n kleine display) en dat je helemaal naar beneden moet kijken i.p.v. dat het lekker handig op je scherm zit.

Waar het uiteindelijk toch om gaat: als je je blik actief op je HUD richt, dan zal je aandacht niet op de weg zijn, daar heb je gelijk in, MAAR wat er op de weg gebeurt valt dan nog wel in je perifere blikveld (je ziet de vreemde bewegingen in je ooghoeken), waardoor je sneller je aandacht kan verleggen indien nodig. Dit is compleet anders dan wanneer je blik heel ver naar beneden gericht is (op bijvoorbeeld een middenconsole). Heb je wel eens je telefoon als navigatiemiddel op de passagiersstoel gelegd omdat je geen navigatieapparaat in een houder had? Dat werkt echt voor geen meter en is zelfs gevaarlijk.

Had in dit geval de bestuurder sneller gereageerd als er een HUD aanwezig was? Dat zullen we nooit weten, maar is zeker niet ondenkbaar.

[Reactie gewijzigd door Eskimo0O0o op 25 mei 2018 12:03]

Klopt, Volvo gaat hierin zelfs nog een stap verder dan Tesla. Telsa gelooft niet in lidar en vertrouwt enkel op camera's en radar.

Op dit moment is city safety heeft meest betrouwbare en geavanceerde remsysteem wat er is.
Tot 50km/h wordt een ongeluk volledig voorkomen en boven de 50 km/h wordt de impact verlaagt.

Ik kan me overigens voorstellen dat City Safety uit stond ook ivm lidar-storing met de nieuwe lidar-tech van Uber?

Ik niet, radar is low resolution en minder accuraat dan lidar, maar in mist, stof, regen en rook presteert radar veel beter, daarnaast is radar meer long range. Ik vind beide complementair. Uber gbruikt alleen lidar, Volvo gebruikt radar, lidar en camera's...

Volvo gebruikt voor City Safety volgens mij alleen lidar. Sowieso geen radar (die alleen voor adaptive cc, zviw). Of misschien toch ook camera's voor City Safety?

Zeker ook camera’s! Dat wordt bij mij iedere beurt gereinigd... De XC90 maakt ook gebruik van radar, omdat het niet alleen om city safety gaat. De XC90 is de eerste auto die 100% scoort op actieve veiligheidssystemen bij de NCAP crashtest. Er zitten meerdere autobrake systemen op die functies en middelen combineren!

Het enige dat schuurt bij mij in het geval van dit ongeluk is dat dit soort situaties altijd de situaties waren waarvan we zeiden dat het nooit meer voor zou komen als auto's zelfrijdend worden.

Wat het systeem ook was, elke aanpassing die gedaan is dat de auto in dit scenario niet uitwijkt of genoeg afremt is wat mij betreft verkeerd. Nog los van het moeten ingrijpen van de 'bestuurder'. Niet harder dan X mogen remmen? Leg mij maar uit waarom.

Vermoedelijk omdat Uber's systeem nogal matig werkt, en daardoor bij een normale configuratie met regelmaat de noodrem inzet wanneer dat niet nodig is. De verstandige reactie op zo'n situatie is wachten met je auto de weg opsturen totdat je je syteem op orde hebt, maar Uber is al enige tijd als een gek alles aan het doen om als eerste die autonome taxi te hebben, en zet het verstand daar klaarblijkelijk zo nu en dan bij aan de kant.

De snelheid van het voertuig was 43mijl/h, en zou teruggebracht zijn bij een noodstop (waar het systeem 1,2 seconden voor zou kunnen gebruiken) naar 22mijl/h. De kans is erg groot dat de mevrouw dan niet overleden was. De impact zou veel minder sterk zijn geweest.

Overigens: Het systeem is zo ongeregeld dat het detecteert dat een noodstop nodig ia op 1,3 seconden voor impact. Die marge zou natuurlijk eenvoudig aangepast kunnen worden naar 1,6 seconden indien gewenst.

Het is overigens een schande dat de testrijder zowel de systemen op losse monitors beneden in de gaten moest houden EN de weg. Dat kan niet. En dat blijkt. Ze hadden verplicht 2 berijders moeten hebben waarvan 1 op de weg focust en 1 op de monitors. Dat vind ik het sterkst verwijtbaar aan Facebook.

Daarnaast vind ik de politie verwijtbaar dat ze DIRECT na het ongeluk verklaarden dat niemand er iets aan kon doen, en iedereen het ongeluk gehad zou hebben, wat niet waar is. En iedereen stond klaar de testrijder te veroordelen omdat ze 'op de telefoon zat', wat dus ook niet waar was . Ze hield, zoals ze moest, de monitors in de gaten die laag zitten.

De bestuurder keek dan ook naar het middenconsole om deze berichten in de gaten te houden en daardoor dus niet op de weg!

Volgens mij keek de bestuur(d/st)er tijdens dit specifieke ongeval op zijn/haar mobiel en uberhaupt niet naar de middenconsole of de weg.

--edit-- heb net de beelden (https://www.youtube.com/watch?v=RASBcc4yOOo) nog eens bekeken, maar daaruit is niet op te maken dat ze op haar mobiel kijkt. Ze kijkt inderdaad meer richting middenconsole. Echter, in een ander artikel (welke ik nu niet meer zo snel kan vinden) stond dat ze met haar mobiel in de weer was.

[Reactie gewijzigd door PdeBie op 25 mei 2018 11:55]

De spijker op zijn kop. Dat je tests doet in het publiek okay. MAAR niet voordat je een fatsoenlijke risicoanalyse inlevert bij de (lokale) overheid. Nu zijn de medewegebruikers gewoon betatesters en proefkonijnen.
ongeacht de discussie over of de autonomobiel de toekomst is of niet. de schuld van het ongeluk ligt volledig bij Uber. het zijn hun systemen en die zijn gewoon slecht klaar. een simpel testje om middernacht op een verlaten industrieterrein met een dummy en de straatlantaarns uit had dit probleem aan het licht kunnen brengen.

Testen doe je zo: https://youtu.be/LSX3qdy0dFg

Nu zijn de medewegebruikers gewoon betatesters en proefkonijnen.

Het zal op een bepaald moment toch moeten; er wordt al tientallen jaren aan autonome auto's gewerkt (zie de DARPA challenge). In dit geval had die fietser ook nooit op de weg gemoeten.

Tuurlijk, maar Uber heeft hier toch wel heel erg de schijn tegen. Het lijkt er zeer sterk op dat ze het niet zo nauw met de veiligheid genomen hebben om de ervaring beter te maken (zolang je dus niet verongelukt).

Luister je zorgt van TEVOREN dat alles op zijn minst naar behoren werkt en dat je van tevoren garant kan staan dat deze tests worden uitgevoerd zonder andere mensen in gevaar te brengen. Dit ongeval is niet veroorzaakt door een zeldzame bug in de software of dat soort flauwekul maar gewoon structureel foutieve apparatuur. Dat maakt dit ongeluk geen toeval. Er is iemand overleden omdat basistests in het donker kennelijk niet binnen het R&D budget van Uber pastte destijds. Dit was helemaal geen bijzondere situatie en er zijn miljoenen donkere oversteekplaatsen in de wereld. Dat dit tot de mogelijke scenarios zou kunnen horen had iedereen zich kunnen bedenken.

en kom niet met het dat slappe verhaal van ja een gewone auto met een bestuurder had geen andere afloop kunnen hebben. die autonome auto's zijn gemaakt omdat ze dit soort dingen kunnen voorkomen. (Ze moeten verbetering bieden over een menselijke bestuurder) als dat niet het geval is dan moet je er niet aan beginnen en het rijexamen eens herzien. want dat is tegenwoordig opgezet om geld te verdienen ipv bekwame bestuurders op te leveren.

Kortom dit is gewoon makkelijk want gratis testdummies. en dat is simpelweg onacceptabel. punt uit.

Heb je het dan over het Volvo City Safety systeem of van Uber?
Heb je een bron van deze data, ik vind het erg interessant!

Ik heb min of meer een samenvatting gemaakt van wat er in de "voortijdige bevindingen" staat, omdat ik vond dat deze informatie te weinig in het artikel terug kwam.

Om jouw vraag te beantwoorden vanuit dat document:
Volvo City Safety systeem staat uit tijdens autonoom rijden en aan als de bestuurder zelf rijdt.
Bij systeem voor autonoom rijden staat noodremmingen uit om potentieel 'grillig gedrag' te voorkomen.

The systems included a collision avoidance function with automatic emergency braking, known as City Safety, as well as functions for detecting driver alertness and road sign information. All these Volvo functions are disabled when the test vehicle is operated in computer control but are operational when the vehicle is operated in manual control.
[...]
At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver was needed to mitigate a collision. According to Uber, emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior. The vehicle operator is relied on to intervene and take action.

[Reactie gewijzigd door Groentjuh op 25 mei 2018 13:46]

Hoorde van een collega die Tesla rijdt dat hij soms merkt aan het rijgedrag dat er een update van de autonomie-software is geweest. De ergste "screw-up" die hij in een paar jaar door de autonomie-software heeft meegemaakt is dat deze een totaal onnodige (en dus gevaarlijke) forse rem-actie uitvoerde toen hij in de schaduw van een viaduct reed.

Met de software moeten we dus nog een paar jaartjes experimenteren voordat deze "feilloos" is.
Is natuurlijk triest dat dit soort dodelijke ongevallen gebeuren tijdens deze pilots. Over 15 jaar zullen we echter terugkijken naar de tijd dat wij als mensen autonoom de auto bestuurden met alle ongevallen van dien.

De APKs zullen ook wel iets in complexiteit toenemen mogen we aannemen.

Dit is helemaal niets nieuws, dat werd al bekend gemaakt nog geen week na het ongeluk zelf. Het systeem van de volvo zelf was uitgeschakeld dus omdat het niet fatsoenlijk samenwerkte met het Uber systeem (en blijkbaar was het Ubersysteem dus helemaal niet zo uber.....) Er werd ook uitgegaan dat de bestuurder zelf op zou letten omdat het om testritten gingen.. Je kunt dus hier ook uit opmaken dat de bestuurster verantwoordelijk is voor het dodelijk ongeluk, want zij lette niet op, zij zat (zoals velen vaak) op der telefoon te kijken ipv de ogen op de weg..

Men moet echt dringend de wetgeving aanpassen. Er moet altijd een mens achter 't stuur zitten die juridisch gezien de volledige controle kan overnemen. Als er geen mens achter de stuurpositie zit en die heeft geen controle - dan moet bij eender't welke fout de eigenaar opdraaien voor alle schade (en moet de conclusie altijd heten - schuldig over heel de lijn).
Dat wil ik van onze politici - niet meer - niet minder. Op zich ben ik niet tegen automatisch rijdende auto's - zolang er een mens verantwoordelijk blijft en die verantwoordelijkheid ondubbelzinnig vast staat.

Dat is flinke nalatigheid van Uber om deze veiligheidsmiddelen uit te zetten

Als dit een normale auto zou zijn geweest, bestuurd door een mens dan was dit ongeluk ook niet te voorkomen geweest. De vrouw die werd aangereden stak uit het niets in het donker over en was pas zichtbaar toen ze midden op de weg stond en de auto er al bijna bovenop zat. Ook was er geen oversteekplaats en was het geen plek waar voetgangers normaal oversteken. Het autonome systeem had mogelijk het ongeluk kunnen voorkomen, maar een persoon zeker niet.

De camera die het filmde gaf de indruk dat het echt donker was. Dat is het echter niet: https://www.youtube.com/watch?v=CRW0q8i3u6E op 0:33.
Een beetje oplettende bestuurder had die wel gewoon gezien.

Hoe donker het was maakt natuurlijk niets uit. Als de systemen niet meer voldoende informatie hadden kunnen verzamelen dan hadden ze acuut de besturing aan de rijder moeten geven. Dat was op dat moment niet het geval.

Hoe donker het was maakt natuurlijk niets uit.

Sowieso heeft een auto toch werkende koplampen ? En maak voor het autonome deel dan maar een 'nachtkijk'-functie.
Er zijn gebieden plenty waar geen of nauwelijks verlichting is en van alles kan oversteken.

Er is nog veel te doen.

Dat weet ik nog niet zo zeker, er zijn meerdere filmpjes gemaakt door locals, bijvoorbeeld deze (betreffende wegdeel rond 33 seconde), waar deze weg veel lichter is dan het op de video van Uber lijkt. Waarschijnlijk had een oplettende auto de overstekende persoon wel gewoon op tijd gezien. Ook lijkt het in de video van Uber of de fiets reflectoren heeft op de banden (dit weet ik niet zeker). Als dat het geval geweest was dan was de persoon nog zichtbaarder.
Uiteraard blijft het gek dat een persoon zomaar de weg oversteekt als er een auto aan komt...

Dat weet ik nog niet zo zeker, er zijn meerdere filmpjes gemaakt door locals, bijvoorbeeld deze (betreffende wegdeel rond 33 seconde), waar deze weg veel lichter is dan het op de video van Uber lijkt.

Als je de 2 filmpjes vergelijkt zie je dat het goed verlichte deel van die slingers met lampjes boven de weg heeft. Het ongeluk vond plaats nadat deze slingers zijn opgehouden (nog zichtbaar in het filmpje van Uber als je achteruitkijkt). Dat is dus niet helemaal een eerlijk vergelijk wat betreft verlichting......wel dezelfde weg maar ander deel en anders verlicht.

edit: typo

[Reactie gewijzigd door Distael op 25 mei 2018 10:41]

Zoals ik aangaf is het betreffende deel waar het ongeluk plaatsvond op ongeveer 33 seconde van de video. Het is daar inderdaad iets minder licht, maar zeker niet donker.

Zoals ik aangaf is het betreffende deel waar het ongeluk plaatsvond op ongeveer 33 seconde van de video. Het is daar inderdaad iets minder licht, maar zeker niet donker.

Juist de techniek zou beter moeten 'zien' dan ik. Donker of niet.

Naast de opmerkingen over dat je de lichtsituatie waarschijnlijk verkeerd inschat, heeft een auto ook koplampen. Bij 80 km/u heb je bij de slechtst mogelijke remmen op een auto een remweg van 32m. Natuurlijk zit er ook reactietijd bij, weet je niet of de bestuurder de maximale remkracht weet te benutten, maar toch: Je koplampen reiken verder dan 32m. Een moderne auto heeft hulpmiddelen, de mijne bijvoorbeeld noodstopassistentie: Als de computer registreert dat je het rempedaal door de vloer trapt, helpt de computer mee de maximale remkracht van de remmen te benutten en de auto stil te zetten. Enkele tientallen meters is ook genoeg om met het stuur enkele meters uit kunnen te wijken.

Mij lijkt het daarom zeer aannemelijk dat een menselijke bestuurder het ongeval had kunnen voorkomen, maar zelfs als dat niet het geval was, zou de botsing op in ieder geval nog op veel lagere snelheid hebben plaatsgevonden, waardoor de overlevingskans aanzienlijk hoger was geweest.

Een mens had het in ieder geval geprobeerd met remmen en uitwijken. Het autonome systeem ook. Maar Uber vond het nodig het noodremsysteem uit te schakelen.
Geen excuus: dood door schuld.

Maar omdat een auto zonder noodremsysteem ook de weg op mag ben je niet extra strafbaar omdat het noodremsysteem uit staat. Je kan ook gewoon met je VW kever de weg op die al die systemen niet heeft. De wet schrijft enkel voor dat je auto moet voldoen aan de voertuigeisen, dat doet de kever ook.

Als je dan een ongeval veroorzaakt door onoplettendheid (zoals nu) dan ben je strafbaar vanwege "veroorzaken verkeersongeval met dood of letsel door schuld".

Het is een ieder die aan het verkeer deelneemt verboden zich zodanig te gedragen dat een aan zijn schuld te wijten verkeersongeval plaatsvindt waardoor een ander wordt gedood of waardoor een ander zwaar lichamelijk letsel wordt toegebracht of zodanig lichamelijk letsel dat daaruit tijdelijke ziekte of verhindering in de uitoefening van de normale bezigheden ontstaat.

[Reactie gewijzigd door The Third Man op 25 mei 2018 10:28]

Het lijkt er nu op dat Uber de autonome navigatie ondeugelijk vindt, en ze de veiligheidssystem uitgeschakeld om dit feit te verbergen. Dan stuur je moedwillig een ondeugelijk testsysteem de openbare weg op. Met een autonoom testvoertuig lijkt mij een noodremsysteem een kritiek onderdeel, en dient de bestuurder als back-up mochten alle systemen falen. Als een autonoom systeem standaard al faalt, zou die niet de weg op mogen zijn gestuurd.

Een noodrem valt in Arizona wel zeker onder de eisen:

Requires all automated driving systems to be in compliance with all federal and state safety standards, including:

The vehicle must achieve a reasonably safe state, such as bringing the vehicle to a complete stop, upon experiencing a failure of the vehicle’s automated driving system.

"Dan stuur je moedwillig een ondeugelijk testsysteem de openbare weg op"

Elk testsysteem is ondeugelijk, daarom is de bestuurder geacht 100% actief mee te rijden. Het is niet zoiets als wel/niet zwanger...

" Een noodrem valt in Arizona wel zeker onder de eisen: "

Een noodrem als het 'driving system' uitvalt, dat staat er letterlijk: " upon experiencing a failure of the vehicle’s automated driving system."

Een voetganger op de weg is geen 'failure of the system', immers als het systeem niet *weet* dat het een verkeerde meting doet dan kan het ook niet in een failure state zijn. Failure is als er iets daadwerkelijk stuk gaat, dus een sensor die uitvalt of de boordcomputer die vast loopt.

Als je het noodremsysteem moet uitschakelen om "grillig gedrag" te voorkomen gaat er echt iets fout. Je moet voorkomen dat het noodremsysteem ten onrechte getriggerd wordt, zolang dat een probleem is kan je auto de weg niet op. De oplossing om het dan maar uit te schakelen zodat het niet geactiveerd kan worden is heel hele rare keuze.

Wellicht ingegeven door enorme druk om testauto's de weg op te sturen om investeerders te "bewijzen" dat ze het kunnen.

"zolang dat een probleem is kan je auto de weg niet op"

Dat is willekeur, want een slechte sensor kan ook Volvo's eigen systeem in een normale Volvo 'grillig gedrag' laten vertonen, en toch mag je er de weg mee op. Je kan niet je eigen eisen stellen bij wat wel/niet voldoende is om de weg op te mogen, aangezien de wetgeving daarvoor is. Als de wetgeving dit toelaat dan mag het. Of het wijs is, is wat anders.

" De oplossing om het dan maar uit te schakelen zodat het niet geactiveerd kan worden is heel hele rare keuze."

Dat is het zeker, maar raar maakt niet illegaal. Uber kan hierdoor makkelijker aansprakelijk gesteld worden.

[Reactie gewijzigd door The Third Man op 25 mei 2018 11:13]

Juridisch mag het wel, daar heb je gelijk in, ik bedoel dat het uit design oogpunt een slechte keuze is.

Ook volvo's systeem zou geen grillig gedrag moeten vertonen omdat de sensor vies is. Dat moet ondervangen worden.

Een testsysteem is niet per definitie ondeugdelijk, sterker nog, voordat je systemen als dit 'in het wild' loslaat, zou je er vanuit laboratorium-testen zover als mogelijk zeker moeten zijn dat het systeem 100% werkt. Dat je dan nog aanvullende testen doet 'in de echte wereld' is gezien de aard van het systeem logisch.

Wat hier zeer discutabel is, is dat Uber zowel de notifications voor gedetecteerde noodstop situaties als ook de monitoring van de bestuurder uitgezet heeft. In andere woorden: het systeem gaat autonoom rijden maar het voorkomen van aanrijdingen staat uit, gevaarlijke situaties signaleren staat uit en het systeem om te kijken of dit wel verantwoord is (in de gaten houden of de bestuurder oplet) staat uit. En daarnaast is de opdracht aan de bestuurder om naar de displays van het systeem te kijken om afwijking te signaleren...dus niet op de weg letten.

Het lijkt er zeer sterk op dat Uber hier doelbewust probeert alle verantwoordelijkheid voor ongevallen bij de bestuurder neer te leggen terwijl ze feitelijk de opdracht geven aan die bestuurder om niet naar de weg maar naar het systeem te kijken. Als dit voor de rechter komt kan ik me heel goed voorstellen dat het oordeel dan is dat Uber hier verantwoordelijkheid draag.

Ik denk dat het buiten kijf staat dat Uber verantwoordelijkheid draagt, zeker in de context van hoe het systeem ingesteld was. Dat maakt het echter niet zo dat de auto niet de weg op had mogen gaan zoals hierboven gesteld was, dat is waar ik op reageer.

" zou je er vanuit laboratorium-testen zover als mogelijk zeker moeten zijn dat het systeem 100% werkt. "

Je kan niet zover mogelijk zeker zijn dat iets 100% is. Want 100% is pas 100% als je er geheel zeker van bent. In de werkelijkheid ben je zover mogelijk zeker dat het *voldoende* werkt, immers dat is bij elk soort veiligheidssysteem het geval, zie ook de luchtvaart en de spoorwegen. Meestal gebruiken die nog meerdere systemen om de kans van een fout van bijvoorbeeld 5 % naar 1% of lager te krijgen. Maar 0% wordt het niet je kan dus ook niet zeker zijn dat iets 100% werkt. Elk systeem heeft een foutkans.

[Reactie gewijzigd door The Third Man op 25 mei 2018 11:17]

We hebben een autonome wagen waarvan de software op een bepaald moment (terecht) beslist dat een noodstop nodig is. De hardware negeert dat commando (omdat het noodstopsysteem uitgeschakeld is). Dat is toch een duidelijk 'failure of the system' (niet van het softwaresysteem, maar 'the system' beperkt zich niet tot de software).

Failure achteraf ja. Maar op het moment zelf moet het systeem toch *weten* dat hij dat niet doet omzichzelf in een failure state te zien en vervolgens een stop in te zetten? Als het systeem denk 'alles ok' dan heeft het niet door dat het een fout maakt en stopt het niet vanzelf.

Hij had een fractie van een seconde na het noodstopcommando met een IMU of iets vergelijkbaars moeten weten dat hij niet aan het remmen was. Voor elk tussen mensen rijdend ding controleer je toch met een onafhankelijke relatief fail-safe sensor of je snelheids- en richtingscommando's min of meer correct uitgevoerd worden?

Dan moet je het rapport nog een keer lezen denk ik.

At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver was needed to mitigate a collision (see figure 2).
According to Uber, emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior. The vehicle operator is relied on to intervene and take action.

Dus het systeem werkte als verwacht, immers de emergency braking was uitgeschakeld (dit gaat over het eigen systeem, 'self-driving-sytem', niet Volvo) en dan moet de bestuurder dus altijd ingrijpen.

We zitten dus met software die een beslissing kan nemen om een noodstop uit te voeren en dat ook gedaan heeft en hardware waar die functionaliteit uitgeschakeld is. Daar zijn we het over eens.

De vraag is of een systeem dat beslist dat het wil stoppen, maar dat niet kan omdat de hardware daarvoor (bewust) uitgeschakeld is, nog voldoet aan de wettelijke eisen. Ik vind van niet, jij lijkt te vinden van wel en uiteindelijk doet dat er niet toe en zal een rechter daar over moeten oordelen. :-)

Maar omdat een auto zonder noodremsysteem ook de weg op mag

'Een auto'.. Wellicht dat er voor testauto's een wetsartikel bij moet.
IS er een noodremsysteem dan moet het aan staan. Het is een test, test dan noodsituaties.!

Nou, blijkbaar had deze auto dan zelf een noodstop gemaakt
Of dat voldoende was geweest, is uiteraard erg lastig achteraf in te schatten...

Volgens mij stond op de site van de NOS gister dat de auto de voetgangster al zes seconden voor de botsing had waargenomen. Het lijkt me dan ook waarschijnlijk dat de auto op tijd een noodstop had moeten kunnen maken. Of uber is hier dus nalatig door het noodsysteem uit te schakelen, of de bestuurder had haar aandacht volledig bij de weg moeten hebben (wat sowieso had gemoeten natuurlijk).

Het lastige aan zo'n bestuurder is dat het heel lastig is 'ineens' de controle over te moeten nemen. Zeker als er een noodsituatie is. Dat weten psychologen al jaren (zoals elders hier ook aangegeven, o.a. bij piloten bekend), dus het is eigenlijk een heel slecht systeem om een bestuurder 'voor als het mis gaat' te hebben...

Bij niet-autonome besturing was de kans op een ongeluk ook groot geweest als ineens uit het 'niets' een voetganger opduikt, maar als je dan al met je voet bij de rem zit en je handen al aan het stuur hebt, scheelt dat aardig wat, ipv dat je ook nog ineens extra aandacht moet geven aan zowel je handelingen als de situatie die is ontstaan. En met die specifieke Volvo's zou dan het standaard noodstopsysteem wel gewerkt hebben.

Ik kan niet modereren, maar van mij had je +3 gehad. De bestuurder zit niet 8u lang met de handen aan het stuur of voeten bij de pedalen just in case. Dus als het systeem 6s vooraf gewaarschuwd zou hebben, duurt het 1seconde voor die reageert, dan nog 1 seconde voor die het stuur vast heeft en gaat remmen, dan heb je ineens nog maar 4s om tot stilstand te komen.

Inderdaad. En dan ga je nog van de 'best case' uit; dat de waarschuwing uberhaupt voldoende opviel en dat dat inderdaad in die ene seconde lukte om door te dringen tot de bestuurder.

Tuurlijk is uber hier nalatig, het noodremsysteem uitschakelen om ongewenste activatie te voorkomen is een hele rare keuze.

Uit ervaring weet ik dat city safety de noodrem zo hard in trapt dat die een hoop kan halen.

Dat is mijn ervaring met dat systeem ook. Toen een voetganger al telefonerend zonder te kijken achter een bestelwagen uit kwam, hing ik al in mijn gordel voor mijn voet de rem volledig ingedrukt had (en hij maakt geen domme menselijke fouten zoals niet lang genoeg vol blijven remmen).

Het had het ongeval mogelijk niet vermeden, maar een paar meter noodstop kan de gevolgen wel serieus verminderen.

Dat heeft meer te doen met de video, vergeet niet dat een camera stukken slechter contrast laat zien dan wij dat zien met ons oog. Probeer maar eens een foto te maken van de sterren, succes zonder flink goede camera en meerdere exposures.

Maar de ingebouwde systemen van Volvo wel. Deze waren nu ook uitgeschakeld.

Dat is niet waar. De omgeving was goed verlicht en iemand die goed oplet had het absoluut voorkomen. En een ingeschakeld noodremsysteem ook. Alleen Uber niet, omdat ze EN 2 (!) veiligheidssystemen actief uitschakelden EN de bestuurder vroegen om de monitors onderin de auto in de gaten te houden (waardoor ze onmogelijk de weg in de gaten kon houden).

Hele grove fout van Uber dus.

Ja het was geen voetgangers oversteek plaats. Dus dan neem je als voetganger sowieso een risico.

Zeker wel, Als Volvo's City Safety had aangestaan (uitgezet door Uber), weet ik zeker dat het op zijn minst geen dodelijk ongeval meer was geweest.

Dat blijft een welles/nietes discussie... Misschien had een normale auto het wel op tijd gezien - misschien ook niet.
Maar feit is dat de computer de fietser wel degelijk op tijd gezien heeft en heeft willen ingrijpen... Echter dit kon het neit doen omdat die functionaliteit uitgeschakeld was...

Aan de andere kant, veiligheidsmaatregelen die om de haverklap voor niets afgaan zijn minder dan nutteloos: ze trainen mensen dat het wel weer vals alarm zal zijn.

dan hadden ze de weg misschien niet op moeten gaan..?

Iedereen heeft het altijd over de autonome auto... maar die weg ziet er uit als een buiten bebouwde kom weg. Welke idioot gaat daar ook zonder te kijken oversteken terwijl er een auto aan komt?

Ik zie geen zebrapad dus wie is hier nu eigenlijk fout? ik kan hier op de N2 ook wel zomaar opeens gaan oversteken als er een auto aan komt. Is de bestuurder dan schuldig?

Makkelijk gezegd... geef de autonome maar weer de schuld. Zelf opletten hoeft blijkbaar tegenwoordig niet meer. Dat neemt niet weg dat veiligheidsfuncties uiteraard NOOIT uitgezet mogen worden.

Je hebt gelijk maar ook ongelijk. De oversteker zat fout, in het pikkedonker oversteken zonder te kijken terwijl er gewoon een auto met lampen aan, aankomt. Hoe kun je dat niet zien? Zelfs 1 seconde voor de aanrijding lijkt de oversteker nergens op te reageren. Dronken? Onder invloed? Mentale problemen? Geen idee.

Maar dat is de discussie niet. Vervang de oversteker door een spontaan overstekend kind. Verwacht je niet dat een autonoom voertuig iets moet doen wanneer het overduidelijk een mens ziet, en een impact aan kan zien komen?

Ik acht de bestuurder niet volledig schuldig. Ik verwacht als absoluut minimum van een autonoom voertuig dat het:

A ) Andere verkeersdeelnemers kan zien
B ) Een impact kan aan zien komen, en actief ingrijpt

Diegene verantwoordelijk voor het op de weg sturen van een voertuig wat het bovenstaande minimum niet kan leveren, is wat mij betreft volledig schuldig en verantwoordelijk.

[Reactie gewijzigd door Knippr op 25 mei 2018 11:13]

Donker was het niet, die camera eelden van Uber zijn erg slecht.

Geen zebrapad maar wel een voetpad wat precies daar ophoud (en nog op 3 andere plekken), dus wel degelijk een plek waar mensen oversteken.

Of de voetganger goed of fout zat is een ander verhaal, het gaat hier natuurlijk om het feit dat een mens het misschien beter (of slechter) had gedaan dan een computer, en hoe we daar mee om moeten gaan.

Dan is het niet slim om voetgangers op het breedste gedeelte te laten oversteken.
Dit kruis lijkt meer op een wisselstrook voor auto's in geval van onderhoud aan de weg.

Geen zebrapad maar wel een voetpad wat precies daar ophoud (en nog op 3 andere plekken), dus wel degelijk een plek waar mensen oversteken.

niet dus -> Foamy in 'nieuws: Autonome Uber-auto die dodelijk ongeval veroorzaakte had no...

Scherp van Foamy, maar zoals gezegd gaat het daar uiteindelijk niet om.

Volgens mij is het bedoelt voor auto's / nooddiensten om om te kunnen keren. Maar idd daar ging het niet om.

Systeem had ruim zes seconden voor impact de voetganger gesignaleerd, en wilde op 1.3s een noodingreep doen ( wat dus niet kon omdat dit systeem door Uber was uitgeschakeld ). Vind het trouwens wel een aardige delta tussen detectie en moment van ingreep, hoop dat daar nog aardig wat te winnen is want 1.3s met 43mph start snelheid dan hou je nog aardig wat snelheid over volgens mij.

Het gaat niet om wie er fout is. Het gaat er om wat er fout is gegaan. Aan beide kanten ligt een fout.
Je zit op Tweakers, het gaat om de techniek van een autonoom voertuig.

[Reactie gewijzigd door Christoxz op 25 mei 2018 10:29]

Het gaat er niet om wie er fout is. Het gaat erom dat de auto met de veiligheidsfuncties ingeschakeld een dodelijke afloop had kunnen voorkomen.

We geven ook het autonome niet de schuld. In het artikel staat letterlijk dat de software de noodrem wilde inschakelen, dus dat is goed. Uber is in dit geval fout geweest door (in dit geval levensreddende) veiligheidsfuncties uit te schakelen.

Ik denk dat dit een fout in het artikel is. Voor zover mij bekend hebben deze moderne Volvo’s juist al af fabriek een noodremsysteem voor dit soort gevallen en is dát door Uber uitgeschakeld omdat zij tot de conclusie zijn gekomen dat dat interfereert met hun software. Lijkt dus op een foute keuze van Uber.

Dat is toch precies wat ik zeg?...

Dat "kruis" in de afbeelding, laat duidelijk zien dat het bedoeld is voor voetgangers om daar te lopen. De vergelijking met de N2 zou ik daarom niet zo durven maken. Uiteraard ben je als voetganger zelf ook verantwoordelijk, maar ik geloof dat in dit geval alle partijen (inclusief de bestuurder van de "autonome" auto) nalatig zijn geweest.

Dat "kruis" is voorzien van borden die aangeven dat het daar verboden is te wandelen ;-) https://goo.gl/maps/o88dnq3fKR42

Oh dat is wel een behoorlijk rare aanleg dan. Die borden zullen er dan staan omdat menig mensen het verwarren voor een acceptabel oversteekpunt I guess (waaronder ikzelf), maar het blijkbaar te gevaarlijk is om daadwerkelijk over te steken (anders hadden we dit artikel ook niet).

Bedankt voor de opheldering

[Reactie gewijzigd door thomasv op 25 mei 2018 12:06]

Ik denk dat die vragen die je daarover stelt op zijn plaats zijn, maar als weggebruiker moet je erop verdacht zijn dat andere weggebruikers fouten maken en domme dingen doen en daar naar kunnen handelen. Hier is een weggebruiker geweest die niet eens een poging ondernam een ongeluk af te wenden en dat is natuurlijk onacceptabel.

Mijn inziens is dit Uber zeer aan te rekenen, maar het gaat verder: Ik denk dat je kan stellen dat deze auto niet wegwaardig was en dus nooit goedkeuring had moeten kunnen krijgen op de openbare weg te rijden. Ik denk dat de procedures waarop dat gebaseerd wordt aan de hand hiervan ook onder de loep genomen moeten worden, anders is het een kwestie van tijd voor de volgende programmeur eventjes voor een testje een systeem uitschakelt om even geen last van een bugje te hebben.

" Ik denk dat je kan stellen dat deze auto niet wegwaardig was "

Ik denk van wel, want hij had een vergunning, ongeacht het wel of niet inschakeling van Volvo's autoremsysteem. Dit omdat de afspraak is dat er een chauffeur meerijdt die zowel in 'manual mode' als 'computer mode' moet opletten. Net als bij Tesla's Autopilot. Dat de chauffeur hierin verzaakt maakt de auto niet niet-wegwaardig. Is een VW kever ook niet-wegwaardig omdat die niet vanzelf stopt als de bestuurder op z'n telefoon zit?

dmantione heeft een goed punt want in de VS is het verboden de weg op te gaan met een auto waarbij een standaard veiligheidssysteem niet werkt. Het kan zijn dat Uber hiervoor dispensatie heeft natuurlijk.

Dat lijkt me sterk, want een storing aan je City Safety maakt je auto niet onveilig, immers de andere auto's hebben helemaal geen auto-remsysteem. Ook bijvoorbeeld dit artikel geeft niet aan dat het illegaal is om met een niet-werkend ABS de weg op te gaan.

geldt dit ook voor een test met een autonome auto?

Zover mij bekend bevat de vergunning die Arizona heeft afgegeven voor de tests van Uber niet een clausule die eist dat de ingebouwde systemen van de autofabrikant ingeschakeld moeten zijn.

Maar Uber verplichtte de bestuurder de monitors onderin de auto in de gaten te houden. Niemand kan dat tegelijk met de weg in de gaten houden. Dat blijkt wel weer.

Er hadden 2 bestuurders verplicht in moeten zitten. Dan was er wellicht niets gebeurt. Maar ja, dat is duurder natuurlijk.

Het lijkt me inderdaad geen geschikte situatie om over te steken, al doet het parkje in het midden anders vermoeden. In de VS hebben ze dan ook mogelijk andere regelgeving omtrent het oversteken en zijn zebrapaden misschien minder gebruikelijk; dat zijn echter aannames van mijn kant.

Desalniettemin mogen dergelijke veiligheidsmaatregelen nooit uitgeschakeld worden mijns inziens, zeker niet op het moment dat de betreffende technologie nog in de testfase zit. Dan is er gewoon sprake van nalatigheid.

Dat zijn wel goede aannames. Ik heb er de laatste keer dat ik er was (door 8 staten gereden, 5000KM gemaakt en weken rondgereden) extra op gelet. Midden in New York of Boston heb je natuurlijk veel zebrapaden enzo. Perfect geregeld. Maar op plekken zoals deze, waar het ongeluk gebeurde: Zebrapaden zijn er vaak helemaal niet, en soms stopt een voetpad of fietspad opeens, en gaat aan de andere kant van de weg door. Dan wordt er dus wel verwacht van je dat je daar oversteekt, al is er geen zebrapad. Heel frustrerend als fietser of voetganger.

We worden ook getraind om op te letten voor spelende kinderen en voortijdig te stoppen wanneer we vermoeden dat een kind mogelijk de weg op gaat (omdat z'n bal de weg opgerold is of w/e).

Er kan ook gesteld worden dat kinderen maar beter moet opletten en ze aanrijden als ze zomaar de weg oprennen een goede levensles is.
Toch hebben we als maatschappij besloten dat dat niet acceptabel is.

In Amerika zijn er bijna nergens zebra paden te vinden met de uitzondering van kruispunten en worden mensen geacht hun gezonde verstand te gebruiken met het oversteken van lokale wegen.

Klopt. En dat heeft er over het algemeen ook voor gezorgd dat automobilisten extra goed opletten op overstekers, want je wilt echt niet iemand aanrijden. Bij ons kun je er vaker vanuit gaan dat er niet zomaar iemand oversteekt op een gekke plek. Maar als je geen keus hebt (wat daar vaak zo is) moet je wel op een 'gekke' plek oversteken. Mijn ervaring is dat autos graag voor je stoppen, je voor laten gaan etc.

Of een autonoom voertuig zo galant kan zijn (wat ook weer verwacht mag worden) is de vraag.

Hooguit een les voor de ouders om ze niet zonder leiband uit te laten. Als je dood bvent valt er niet veel meer te leren.

Buiten de bebouwde kom kunnen ook beesten oversteken. Hoort de auto gewoon te remmen en/of ontwijken om zoveel mogelijk schade te voorkomen.

Juist ontwijken zou door een oplettende weggebruiker makkelijk gedaan kunnen worden.

Je ziet geen tegenliggers in het dashcam filmpje, er is geen middenberm obstakel, dus er is alle tijd en ruimte voor een oplettende automobilist om slechts een beetje naar links uit te wijken en een botsing te vermijden.
Er hoeft hier totaal niet een noodstop gemaakt te worden.

Dit soort handelingen zou een autopilot auto ook zonder nadenken en sneller moeten kunnen doen.
En dan maakt het in dit geval ook niet uit of het noodremsysteem wel of niet werkte.

Het is de USA. De infrastructuur (wegen e.d.) hebben de kwaliteit en inrichting van een 3e wereldland. Een voordeel is wel: als autonoom rijden daar nou flink getest wordt is het in NL een stuk eenvoudiger gezien de staat van ons wegennet.

Maar het hele land is wel ingericht op auto's en zoveel fietsers die gewend zijn voorrang te nemen als hier zijn er daar niet.

Iedereen heeft het altijd over de autonome auto... maar die weg ziet er uit als een buiten bebouwde kom weg. Welke idioot gaat daar ook zonder te kijken oversteken terwijl er een auto aan komt?

Alle mensen doen af en toe, al dan niet onbewust (vlugge shortcut of onoplettendheid) domme dingen. De reden dat we dat meestal zonder kleerscheuren overleven is omdat andere mensen nog altijd proberen ongevallen te vermijden, ook als ze niet in fout zijn. Dus ja, een autonoom systeem moet er op voorzien zijn dat er onverwachte uitermate stomme dingen gebeuren...

Ja maar dan zijn ze misschien niet de eerste met een zelfrijdende auto! Second place is first loser, weet je wel...

veiligheidsmaatregelen die om de haverklap voor niets afgaan moeten gewoon gerepareerd worden. Uitzetten is geen optie. Die auto had gewoon de weg niet opgemogen.

Stil dat je brandalarm de hele tijd afgaat terwijl er geen brand is, dan zet je hem toch ook niet uit? Dan vervang je hem of zorgt ervoor dat het gerepareerd wordt.
Of als je airbaglampje de hele tijd een storing geeft, schakel je de airbag toch ook niet uit?

[Reactie gewijzigd door SunnieNL op 25 mei 2018 10:27]

" Uitzetten is geen optie. "

Dat heb je misschien verkeerd geinterpreteerd, want dat was ook niet het geval. De laatste zin in het rapport zegt ook:

The system is not designed to alert the operator.

Dus de auto stuurt, remt en geeft gas autonoom in 'computer mode', maar daarbij moet de bestuurder net als bij normaal rijden opletten. Dat heeft de bestuurder niet gedaan.

" Die auto had gewoon de weg niet opgemogen."

Je mag met de auto de weg op als die aan voertuigeisen voldoet. Als je met een uitgeschakeld zelfremsysteem de weg op mag (wat 90% of meer auto's in Nederland ook niet hebben) dan geldt dat hier ook, omdat de bestuurder alsnog verantwoordelijk is. Dat die dan niet oplet is hetzelfde als wanneer een normale bestuurder in een normale auto niet oplet, en dat dat voor ongelukken zorgt is vrij bekend.

ik lees heel erg goed... "Hoewel het voertuig, een aangepaste Volvo XC90, over noodremfunctionaliteit beschikt, had Uber deze uitgeschakeld omdat deze volgens het bedrijf tot potentieel 'grillig gedrag' zou kunnen leiden."

Dat grillig gedrag moeten ze juist oplossen. Dat er een bestuurder in zit doet er hier niets toe. Het systeem moet namelijk straks ook zonder bestuurder rijden. Dus moeten ze het probleem gewoon oplossen voordat ze gaan testen (ook al gebeurd dat testen met bestuurder). Overigens ontstaat dat grillig gedrag meestal omdat de bestuurder (analoog of digitaal) gewoon niet lekker rijdt. Dan treedt City Safety namelijk in aktie om een potentieel ongeluk te voorkomen.

Daarnaast, doordat ze City Safety in de Volvo hebben uitgeschakeld, treedt ook de voetgangersairbag niet op die in de volvo's zit ingebouwd. Deze wordt namelijk door City Safety geactiveerd op het moment dat een kans bestaat op een aanrijding.

[Reactie gewijzigd door SunnieNL op 25 mei 2018 10:46]

"Het systeem moet namelijk straks ook zonder bestuurder rijden. "

Het systeem moet namelijk ook zonder het systeem van Volvo rijden, dat is juist onderdeel van de ontwikkeling van hun eigen systeem. Als je dat alleen werkend krijgt met een sensor van Volvo ernaast is je eigen systeem niet 100% afdoende. Dus hun ontwikkeling is logischerwijs gericht op het 100% afdoende maken van hun eigen implementatie.

"Dat er een bestuurder in zit doet er hier niets toe. "

Wel voor de wet.

" Het systeem moet namelijk straks ook zonder bestuurder rijden. "

Straks is niet nu. En zolang je in een testbedrijf zit ben je niet met een 100% afgerond product aan het rijden maar met deelsystemen met elk hun bugs en problemen die opgelost en getest moeten worden. Dus blijf je met een bestuuder zitten totdat het geheel is opgelost.

Als het systeems traks zonder bestuurder moet kunnen rijden en zonder Volvo systeem, is het wel handig dat je er een noodrem in stopt voordat het ding überhaupt de weg op gaat.

Maargoed, jij bent het er niet mee eens. Je bent hetzelfde als Uber in dit geval... "ja maar er zat toch een bestuurder in... die had.. "
Ik vind dat het niet de verantwoordelijkheid van de bestuurder is dat je geen noodrem inbouwt in auto's die straks autonoom moeten rijden. Als dat nu nog niet af is, dan hoor je het ding gewoon de weg niet op te sturen om te testen.


"ja sorry familie dat we uw zoon hebben doogereden met onze testauto die straks autonoom moet gaan rijden. De noodremfunctie is nog niet af, maar er zat een bestuurder in die op de rem had moeten trappen en dat heeft die niet gedaan. Dat is niet onze schuld, wij hadden hem alleen maar ingehuurd".

Ik zeg in het geheel niet dat Uber niet verantwoordelijk is, de chauffeur rijdt in hun opdracht...

Het enige wat ik zeg is dat de auto niet op basis hiervan de toegang tot de weg ontzegd had hoeven worden. Daar heb je immers een wettelijk kader voor nodig en dat is er niet. Ik vind persoonlijk ook dat bejaarden >80 jaar niet de weg op mogen tenzij bij uitzondering, maar dat is slechts mijn mening en je kan dan niet bij een ongeluk van een 85-jarige zeggen 'die had nooit de weg op mogen gaan'. Dat 'mogen' is in de context van de wet, niet jouw persoonlijke emotie erbij.

Het kan natuurlijk zijn (en in Amerika is dat in principe ook zo) dat het bij wet verboden is om actieve veiligheidssystemen uit te schakelen. Dus het kan best dat hij niet de weg op had gemogen.

Al helemaal omdat Uber wel het systeem uitschakelde, maar er niet iets voor in de plaats zet. Als ze nou een Uber noodstopsysteem hadden ingebouwd dat getest moest worden dan hadden ze nog een punt gehad...

" maar er niet iets voor in de plaats zet. "

Dat hebben ze wel gedaan, de bestuurder is ervoor verantwoordelijk gemaakt. Het is niet zo dat de bestuurder hier niet van wist.

Bij de Volvo systemen is de bestuurder ook 100% verantwoordelijk, geholpen door het systeem.

Bij Uber is de bestuurder 100% verantwoordelijk, niet geholpen door een systeem.

Ik zie hierin de toegevoegde waarde van hun software dan niet.

Omdat dit een testbedrijf is, niet een eindgebruikersversie, met een testchauffeur, niet een willekeurig persoon met rijbewijs B. Daarom is er ook een console met statusmeldingen in het midden, zie het rapport https://www.ntsb.gov/news...ses/Pages/NR20180524.aspx

Het uiteindelijke doel is wel level 4 of level 5 rijden, maar dat wil nog niet zeggen dat je daar geen tig aan testritten vooraf bij moet hebben met een chauffeur erbij (level 2 of 3 dus). Dat was hier het geval.

[Reactie gewijzigd door The Third Man op 25 mei 2018 17:06]

Je redenering loopt mank.

Het is een test-voertuig.
Die wordt voortdurend aangepast.

Hier hebben ze een functionaliteit uitgezet maar geen waarborg ingebouwd dat de chauffeur singnaal krijgt. En al zou die dat krijgen, als het grillig was geweest dan verslapt de concentratie na verloop van tijd.


Die chauffeur zit er niet voor niets maar was met andere zaken bezig. Voertuig heeft naast de gebruikelijke remmen ook een noodstop dat ten alle tijde kan worden ingedrukt.


Het uitzetten van de functionaliteit had weer duidelijk moeten worden gecommuniceerd en/of zelfs een extra chauffeur erbij.

test-voertuig in een productie omgeving....

dan mag je wel aan wat voorwaarden voldoen. Die chauffeur is niet actief aan het rijden (dat kan immers niet als de auto 80% van alles zelf doet). Al zou het systeem reageren met een waarschuwing dat hij een noodremhandeling moet uitvoeren, dan is hij altijd te laat.
Als je actief rijdt duurt het manueel remmen al enkele seconden (als je al manueel een noodrem kan maken) op het moment dat je ziet dat je dat moet doen. Het voordeel is dan dat je voet snel bij de rem is en dat een groot gedeelte bijna automatisch gaat bij een ervaren bestuurder. Als je niet actief rijdt raak je nog extra seconden kwijt omdat je eerst moet verwerken dat er iets in het display staat, dan moet bedenken wat het inhoud, dan de handeling moet gaan inzetten en hem daarna pas doorvoert.

Overigens geef je aan dat het systeem een noodstop heeft. Maar je weet niet of dat ook noodremmen zijn. Een noodstop van een systeem schakelt het systeem uit, wat niet hoeft in te houden dat de rijdende auto dan ook een noodstop maakt (ik denk namelijk dat dit niet het geval zal zijn maar dat op dat moment manueel gereden moet worden en op de rem moet worden getrapt). Als dat nodig zou zijn om in te grijpen dan duurt alles nog veel langer (dus noodstop indrukken, dan hard de rem intrappen)

De mevrouw heeft ondanks de enorm belemmerende situatie binnen 2 seconden het rempedaal hard ingedrukt. Dat vind ik nog knap eigenlijk. Het hielp natuurlijk niet meer.

Het systeem moet namelijk ook zonder het systeem van Volvo rijden, dat is juist onderdeel van de ontwikkeling van hun eigen systeem. Als je dat alleen werkend krijgt met een sensor van Volvo ernaast is je eigen systeem niet 100% afdoende. Dus hun ontwikkeling is logischerwijs gericht op het 100% afdoende maken van hun eigen implementatie.

Ik moet ook kunnen rijden zonder het systeem van Volvo. Desondanks staat dat bij mij gewoon aan. Als het dan toch eens heeft moeten ingrijpen, kan ik achteraf nog altijd kijken wat ik beter had moeten doen en proberen te zorgen dat het niet nog eens gebeurt. Bij mij speelt reactietijd een rol en ga ik uiteraard nooit elke situatie kunnen voorkomen, maar bij een continu verbeterd autonoom systeem ga je op een bepaald moment zien dat je altijd vroeger dan het systeem reageert (en dan maakt het niet uit dat je het laat aan staan), dat je ongeveer gelijk reageert (en dan kan je aan je logs zien of je het zelf ook correct gedaan zou hebben) of dat je soms te laat reageert (en dan zou je het beter aan laten staan). Met de gegevens die publiek beschikbaar zijn over hoe vaak Uber backup-chauffeurs nog moeten ingrijpen, zou ik dat niet geriskeerd hebben, zeker omdat er duidelijke wetenschappelijke evidentie is dat een chauffeur die bijna nooit moet ingrijpen minder alert is dan een gewone chauffeur (geldt trouwens voor alle menselijke activiteiten).

Laten we eerlijk zijn, dat systeem van Volvo gaat ook niet om de haverklap op de rem staan.

" Ik moet ook kunnen rijden zonder het systeem van Volvo. Desondanks staat dat bij mij gewoon aan."

Maar heb jij ook examen moeten doen terwijl het aan stond? Of mocht jij ook examen doen in een auto zonder dat systeem? Dan is toch een eigenschap van jouw certificering dat jij veilig kan rijden zonder dat systeem, dat vertegenwoordigt toch je 'rijbewijs'?

Op dezelfde manier moet het systeem van Uber aan kunnen tonen dat het zonder het systeem van Volvo kan functioneren, anders kan je het nooit certificeren voor auto's waar het systeem van Volvo niet aanwezig is.

" zeker omdat er duidelijke wetenschappelijke evidentie is dat een chauffeur "

Je bedoelt denk ik 'bewijs', want evidentie is een anglicisme, maar dat bewijs slaat op gemiddelde bestuurders, niet op bestuurders die specifiek zijn aangesteld om een testbedrijf te rijden.

Aan de andere kant, veiligheidsmaatregelen die om de haverklap voor niets afgaan zijn minder dan nutteloos: ze trainen mensen dat het wel weer vals alarm zal zijn.

Klopt, maar dan moet je die dingen niet zelfstandig laten rijden, omdat het blijkbaar niet goed werkt. Uber is dan ook flink nalatig als ze dit standaard doen. Natuurlijk blijft de bestuurder verantwoordelijk, maar ga geen veiligheidssystemen uitschakelen.

Dit was dan ook geen autonoom rijdende auto maar een auto die een aantal zaken overnam van de bestuurder. Hierdoor is de bestuurder nog steeds de bestuurder en de auto een hulpmiddel
Je bent geen bestuurder meer als het stuur en de pedalen zijn verwijderd imho

nee, dit was een autonoom rijdende auto met een bestuurder die ingrijpt als iets mis gaat.
Als die niet autonoom rijdt dan zit de bestuurder zelf aan het stuur, gas en remmen. Dat was in dit geval niet het geval. De mens zat er in om in te grijpen als het autonome deel niet goed reageert. De bestuurder is het hulpmiddel in dat geval.

Maar ondertussen moest de bestuurder van Uber de monitoren onderin de auto in de gaten houden. En dan kun je niet op de weg letten. Uber had 2 mensen in de auto moeten zetten.

Je kunt niet 100% een auto moeten besturen en tegelijk monitoren in de gaten houden, ook in Amerika mag je dat niet. Aandacht moet op de weg zijn.

Moest de bestuurder de monitoren in de gaten houden? Gezien alles netjes in logs komt, zou het monitoren van de monitoren niet nodig moeten zijn

Wellicht dat tzt de monitoren verwijderd worden. Maar tot dan.. mag je wel naar monitoren kijken maar niet op je telefoon.

Volgens het rapport moest dat inderdaad. Ik ben het met je eens dat dat niet zou moeten, zeker niet op deze manier.

Juridisch is dat wel zo, maar het gaat zo tegen alle psychologie in datr dit soort systemen de boel alleen maar gevaarlijker maken.

Mensen ja, maar een testchauffeur kan getraind worden om die alarmen wel serieus te nemen. We hebben het hier over een testbedrijf, niet over een eindproduct voor de 'gewone mens'.

Dit is een gewone functie die in deze Volvo's (en veel andere nieuwe luxe auto's zit).: https://www.youtube.com/watch?v=Xj2duGl1Rkg . Ik vind het maar een rare smoes van Uber dat deze voor grillig rijgedrag zorgt terwijl er zoveel meer van deze Volvo's rondrijden waar dit probleem nog nooit geconstateerd is. Misschien dat het systeem een sensor gebruikt die interfereert met het systeem van Uber? Maar het klinkt toch wel als een rare zet zonder verdere uitleg.

Dat is flinke nalatigheid van Uber om deze veiligheidsmiddelen uit te zetten.

Als deze systemen "grillig" gedrag vertonen, kan het zijn dat de noodrem-functie onbedoeld wordt geactiveerd, iets wat niet handig is op de snelweg (met gevaarlijke situaties tot gevolg). Ik verwacht dat Uber een bewuste keuze heeft gemaakt om deze functie uit te schakelen, al weet ik niet precies wat deze inhoudt.

Voordat er allerlei verwijten worden gemaakt, het is niet "gefaald" als er een (dodelijk) ongeval plaatsvindt door een autonome auto. Het autonoom rijden faalt niet zolang de autonome voertuigen minder (dodelijke) ongelukken veroorzaakt dat door menselijke bestuurders (wat waarschijnlijk nog steeds zo is).

Het helpt Uber en het autonoom rijden in het algemeen niet om direct een vinger te wijzen, zonder te weten wat er precies gebeurd is.
De daadwerkelijke omschrijving van de "noodrem" is niet genoemd.
Er is niet omschreven wat Uber verstaat onder "grillig gedrag" en met welke reden besloten is dat dit grillige gedrag minder wenselijk is dan het uitschakelen van de noodrem.

Als bestuurder in de auto heb je ook een verantwoordelijkheid, ik zou de autonome auto niet puur alleen laten rijden, maar actief opletten om tijdig te kunnen ingrijpen. Dat lijkt hier niet gebeurd te zijn.
Daarbij is de auto in mijn ogen goed herkenbaar als autonoom voertuig, door de apparatuur op het dak. Als overstekende voetganger zou je daar rekening mee kunnen houden bij het oversteken: steek niet over bij twijfel, of kijk naar de bestuurder of deze actief oplet en de controle over het voertuig heeft.

"Voordat er allerlei verwijten worden gemaakt, het is niet "gefaald" als er een (dodelijk) ongeval plaatsvindt door een autonome auto."

Zeg je dat ook wanneer een autonome auto je vrouw doodrijd? De uitkomst bij een puur menselijke fout en een autonome fout is gelijk, daarin ga ik mee, maar het is absoluut niet te verkopen dat iemand doorgereden wordt door een software fout.

Tja sorry, bugje, opgelost in volgende patch.

[Reactie gewijzigd door Knippr op 25 mei 2018 11:29]

Zeg je dat ook wanneer een autonome auto je vrouw doodrijdt?

Ja: het blijft nog steeds evengoed veiliger als wanneer menselijke bestuurders rijden.
Als het blijkt dat er een softwarefout was en dat de reden is van het doodrijden, dan zou ik wel uitzoeken of dit voorkomen had kunnen/moeten worden. Maar dan nog: autonoom lijkt me nog steeds veiliger dan met menselijke bestuurders.

[Reactie gewijzigd door Nas T op 25 mei 2018 11:44]

Wauw, en is een menselijk foutje net zo erg of minder erg of erger dan een computerfoutje?

PS, ik geloof er niets van dat het je zo koud zou laten als je eigen partner of kind doodgereden wordt omdat een bedrijf prematuur een auto wil testen in een omgeving waar de auto duidelijk nog niet aan toe is.

Het laat me niet koud, maar een individueel geval verandert in dit geval niets aan het geheel.
Ik zou het verschrikkelijk vinden, ik zou de behoefte hebben om te weten waar de schuld zou liggen, maar ik zou niet de behoefte voelen om iets te ontkennen wat niet ontkent hoeft te worden, zelfs al zou het me persoonlijk zo raken.

Autonoom zou veiliger moeten zijn als die daadwerkelijk een noodstop kan maken.
Als je de software wel laat opmerken dat hij een noodstop moeten maken, maar het doorvoeren ervan uitschakelt wordt het wel ff een ander dingetje

Autonome auto's zijn eigenlijk relatief vaak bij ongelukken betrokken. Het merendeel is van de aard "auto stopt voor oranje en wordt achterop aangereden" maar toch.

Een botsing om de miljoen kilometer is best wel veel.

Dat geeft eigenlijk aan hoe slecht wij mensen dus met de regels omgaan...

Dat is flinke nalatigheid van Uber om deze veiligheidsmiddelen uit te zetten

Niet noodzakelijk, want het gaat om systemen die op 99% van de auto's niet aanwezig zijn en kunnen storen met de systemen van Uber. Als Uber kan aantonen dat ze inderdaad conflicteren met Uber's eigen systeem, is het tragisch maar begrijpelijk.

Merk immers nogmaals op dat als dit geen autonoom bestyuurbare auto was (of een auto-pilot van Tesla) iedereen meteen de overstekende voetganger/fietser de schuld gegevenz ou hebben. Immers 's nachts een N-weg oversteken en niet links- en rechts kijken is gewoon dom.

Wat wel een blamage is, is kennelijk dat de Uber experimentele techniek slechter is dan de commerciele van Volvo.

Noodremmen zijn toch altijd grillig, of dit nu ouderwets zonder abs in de remmen of met abs en schokkende beweging, of je uitwijkingsmanouvre moet doen. Het is om een gevaarlijke situatie te vermijden of te verminderen. Dan is t maar grillig.

Met "grillig" wordt denk ik bedoelt dat het autonome systeem te pas en te onpas de noodremmen activeerde omdat het bijvoorbeeld iets detecteerde wat er niet was. Dus om het voor de overige weggebruikers niet gevaarlijk te maken is dat uitgeschakeld. Nu ik dit allemaal zo lees werd deze uberauto vooral gebruikt om data te verzamelen denk ik, en niet om autonoom rijden te testen.

Maar mijn persoonlijke conclusie blijft toch dat deze uberauto gewoon nog niet de weg op had gemogen.

Met andere woorden: De functionaliteit van Volvo die veel eenvoudiger is had wel tot remming over gegaan terwijl het geavanceerde systeem van Uber geen enkel probleem heeft waargenomen. Ik hoop echt dat Uber terug naar de tekentafel gaat en van 0 af herbegint. Want zoiets kan natuurlijk niet.

....ik hoop dat Uber zwaar op zijn kloten krijgt en strenge regulering/wetgeving/keuring/certificering wordt ingevoerd, waaraan je moet voldoen voordat je als fabrikant je "Proof of Concept" de weg op stuurt met alle potentiele gevaren van dien.

Ook een Tesla, dat met update versie zoveel.zoveel tussen neus en lippen door even wat aanpassingen doet aan kritische- en veiligheidssystemen van hun voertuigen....ik krijg er rillingen van. Je maakt mij niet wijs dat die aanpassing door en door getest en gekeurd is als je kijkt naar de frequentie waarmee die updates worden vrijgegeven.

Effectief is dat hele autonoom rijden gewoon een rijdende test-werkplaats die bij lange na niet klaar is voor overgang tot productie.

[Reactie gewijzigd door max op 25 mei 2018 10:53]

Daar ben ik het 100% mee eens, ook word ik ronduit misselijk van mensen die dit experimenteren met mensenlevens goedpraten. Of in het kader van "ja maar mensen zorgen ook voor ongelukken dus autonome auto's mogen dat ook", simpelweg whataboutism (ja alweer).

Hoe haal je het überhaupt in je kop om een noodstop moedwillig onmogelijk te maken. Keer op keer kun je de ongelukken voorspellen, hoe moet dat met een kind wat zomaar de weg op rent?

Dan nog niet te spreken dat een auto totaal geen beslissingen kan maken die enorm belangrijk zijn. Iedereen zal hoe vervelend het ook mag zijn eerder een kat doodrijden dan een kind, als er geen andere optie is. De auto zal nooit een uitwijkingsmanoeuvre starten als de auto daarmee een ongeluk kan voorkomen omdat de auto dan andere regels "aan zijn laars lapt".

Dit en soortgelijke situaties maken de ontwikkeling van een autonome auto veel gecompliceerder en er wordt door veel te veel mensen (ook hier op Tweakers) hier veel te makkelijk over gedacht naar mijn idee.

Ondanks dat het niet mijn bedoeling is autonome auto's vol te bashen (want laten we wel wezen, de ontwikkeling is natuurlijk best mooi, in ieder geval naar mijn idee), maar ze worden in een veel te vroeg stadium de weg opgelaten waardoor ze meer kwaad doen dan goed. Bedrijven zoals Tesla en Uber plukken uiteindelijk de vruchten van alle ongevallen want hierdoor hebben zij hun auto's kunnen ontwikkelen en klauwen met geld hieraan verdienen.

En je gaat mij niet vertellen dat het met dit soort nalatigheid nooit hun bedoeling was geweest, ze weten heel goed welk risico erbij komt kijken en dat ongelukken "bij het ontwikkelproces" horen.

Natuurlijk mogen anderen hier anders over denken, maar dit is mijn mening van verhaal.

Edit: Nu wil ik niet vervelend zijn, maar hoor graag waarom mijn hele reactie offtopic / irrelevant zou zijn, dit is zo ontopic als maar kan...

[Reactie gewijzigd door jetspiking op 25 mei 2018 11:25]

Hoe haal je het überhaupt in je kop om een noodstop moedwillig onmogelijk te maken. Keer op keer kun je de ongelukken voorspellen, hoe moet dat met een kind wat zomaar de weg op rent?

Geen idee waarom je een +3 kreeg; je mist de essentie van het artikel.

Eé'n van de grote problemen met semi-autonome systemen is dat je effectief twee bstuurders hebt, de mens en de AI. Maar bij Uber's proef met de XC90 was het nog erger. Daar had je 3 bestuurders: de mens, de Uber AI en de Volvo noodrem-AI. Zo'n drievoudige interactie kan inderdaad leiden tot "grillig gedrag".

Het is dus ook redelijk dat de Volvo-AI gepassiveerd is als de Uber-AI ingeschakeld is. En na zo'n ongeluk ga je alle data vergelijken, dus ook de data van de Volvo AI.

Dat neemt toch niet weg dat een cruciaal deel in de auto niet naar behoren functioneerde (sterker nog, gewoonweg niet).

Als ik als derde partij het stuursysteem lever aan fabrikant X kun je niet zeggen die schakelen we uit (extreem voorbeeld, maar wel exact wat hier gebeurt!).

Edit: Aanvulling: Hier bedoel ik dus mee dat je niet zomaar cruciale dingen kunt uitzetten of weglaten in een auto, in mijn ogen is dat dus precies het probleem bij de autonome auto's, of het nu gaat om hardware, software of combinaties hiervan.

[Reactie gewijzigd door jetspiking op 25 mei 2018 11:36]

Hier bedoel ik dus mee dat je niet zomaar cruciale dingen kunt uitzetten of weglaten in een auto, in mijn ogen is dat dus precies het probleem bij de autonome auto's, of het nu gaat om hardware, software of combinaties hiervan.

Nee, maar je kunt wel discussiëren over de grens van 'cruciale dingen'. Getuige het aantal auto's dat op de weg rijdt zonder automatisch noodstopsysteem kunnen we veilig stellen dat dit geen cruciaal systeem is.

Een dergelijk noodremsysteem is niet cruciaal; 90% van de auto's heeft het niet. Het valt ook niet onder de APK hier in Nederland

En al was het cruciaal: Uber heeft een alternatief systeem geïnstalleerd. Juist bij cruciale onderdelen wil je geen dubbele systemen. Dan moet je namelijk een oplossing vinden voor interferentie-problemen tussen die twee.

Maar dat verklaard niet waarom Uber
A het Volvo systeem uitschakelt (ja, dat is logisch)
Maar
B geen eigen noodremsysteem implementeert.

Daar zit hem de fout van Uber. Een onvergeeflijke fout. Dit had op een gesloten testcircuit getest kunnen worden. Niet op de openbare weg.

De reden dat Uber geen noodremsysteem installeert is dat ze een gewoon remsysteem hebben. De essentie van het Volvo noodremsysteem is dat het 80% van de fouten van de bestuurder oplost. Dat hoeft dus helemaal niet goed te zijn. Het Uber systeem moet ruim boven de 99% zitten, anders heb je na een kort ritje met een paar stoplichten al brokken.

Overigens hád Uber wel degelijk een noodremsysteem: de backup-chauffeur.

Maar Uber verwacht van de bestuurder dat ze de monitoren in de gaten houdt (zie rapport), en kan er dus nooit op vertrouwen dat ze tegelijk 100% gefocust blijft op de weg. (precies de reden dat de wetgever vindt dat je geen appjes mag sturen als je autorijdt, in 2 seconden kan het voorbij zijn).

Dus Uber had geen noodremsysteem, ze hadden niets. En daarom ging het fout.

Nee, de essentie van dit artikel is dat Uber willens en wetens is gaan testen met een systeem dat compleet onveilig was, iets wat jij weg lijkt te willen poetsen "want Vooruitgang (Moet)". Leuk en aardig dat ook de Volvo systemen had die in de weg zaten, maar dan hadden ze dat vtvoren moeten bedenken, of terug moeten gaan naar de "teken"tafel tot dit adequaat was ondervangen.

De auto zal nooit een uitwijkingsmanoeuvre starten als de auto daarmee een ongeluk kan voorkomen omdat de auto dan andere regels "aan zijn laars lapt".

Hoe weet jij dat? Dit lijkt me niet zo heel moeilijk te programmeren...

Sterker nog, YouTube staat gewoon vol met compilaties van Tesla's die juist dergelijke uitwijkingsmanoeuvres uitvoeren..

Sowieso bizar, +3 voor een post vol onwetendheid en onwaarheden. Experimenteren met mensenlevens doen de miljoenen zondagsrijders die met een overdreven hoge inschatting van hun eigen rijvaardigheden dagelijks de weg op gaan.

Een kind wat plotseling de weg op rent gaat 9 van de 10 keer dood bij een menselijke bestuurder en daar kraait geen haan naar. Maar als het 1 op de 100 keer gebeurd bij een autonoom voertuig is het onacceptabel en nalatig?

Je verwacht denk ik geen +3 voor je eigen post? Of heb je cijfers die goed onderbouwen of het echt 90% fout gaat, en 1% bij autonoom fout gaat...

Ik geloof helemaal niets van je cijfers, eerder nog dat het op dit moment andersom is.

De cijfers zijn uiteraard iets overdreven, maar de trend klopt wel zo'n beetje. Autonome voertuigen zitten nu ongeveer op het nivo van een gemiddelde chauffeur die goed wakker is, niet gedronken heeft en geen afleiding in de auto heeft.

Mensen hebben ook nogal de neiging gewoontedieren te zijn; als ze 99 keer door een straat hebben gereden zonder kinderen te zien dan nemen ze de honderste keer ook niet aan dat er kinderen zijn. Dat is soms overigens een voordeel: als je 99 keer wél kinderen hebt gezien, en de honderdste keer niet, dan kijk je nog eens heel goed omdat je die kinderen eigenlijk wel op die plek verwacht. Maar het kind wat op een onlogische plek opduikt is niet veilig.

Ik heb het verkeerd gesteld, dat is nu nog niet het geval, dus die auto's horen naar mijn mening nog niet op de weg.

Of in het kader van "ja maar mensen zorgen ook voor ongelukken dus autonome auto's mogen dat ook", simpelweg whataboutism

Ik ben niet met je eens dat dit een kwestie van whataboutism is. Het doel van zelfrijdende auto's is dat ze veiliger zijn dan mensen. Onderaan de streep is het dus simpelweg gesteld 10 ongelukken met mensen, 5 ongelukken met AI (onder vergelijkbare omstandigheden) = winst!

Het is in dit geval dus prima om de kwaliteiten van mensen te betrekken in de kwaliteit van zelfrijdende auto's aangezien het hele doel van deze dingen is om beter te zijn dan mensen.

Neemt overigens niet weg dat we wel voorzichtig moeten blijven met hoe we deze auto's op de weg zetten natuurlijk.

Ja maar het probleem is dat mensen niet geprogrammeerd kunnen worden om ongelukken te voorkomen, auto's wel! Die hele vergelijking is dus verkeerd, autonome auto's moeten helemaal geen ongelukken meer kunnen maken (onstaan he, dus logischerwijs kunnen ze er wel in betrokken zijn, niemand en zelfs autonome auto's kunnen lastig / niet anticiperen op een vrachtwagen die vol van achteren besluit in je te rijden), ongelukken onstaan immers door een fout van mensen zelf.

Maar ja, mag je dan pas die autos gaan verkopen als ze 100% gegarandeerd veilig zijn? Dat is ook niet wat we bij een rijbewijs afgifte doen he, mensen worden 1x geexamineerd (en theorie hoeft niet 100% correct te zijn!) en daarna voor tientallen jaren de weg op gestuurd, zonder elk jaar wen examen en nieuw theoriebewijs.

dat is best wel te eisen vind ik van analoge bestuurders, die veroorzaken gewoon te veel ongelukken. Ik zeg niet dat autonoom rijden nu al veilig genoeg is, maar ieder leven dat gered wordt omdat er minder analoog gereden wordt us er één, dus als de computer het met 1000 doden doet, en de mens met 10000 doden per jaar, dan denk ik wel: Waarom in hemelsnaam dat autonome verbieden en die 100000 doden te accepteren terwijl het beter zou kunnen.

Sowieso, het verkeer is enorm moeilijk, maar op een rechte weg zonder verkeer overstekende wezens ontwijken bij varierende lichtcondities, DAT kun je toch wel testen op een testtraject (ipv de openbare weg) totdat het echt enorm goed werkt (veel beter dan menselijke bestuurders).

Dat vind ik dus ook en hier is in mijn ogen gewoon belachelijk weinig aan gedaan, dit had voorkomen moeten en kunnen worden, de software had al veel beter en sneller een mens hierin moeten kunnen herkennen.

Dit is exact wat ik bedoel, we spreken niet over een alpha versie van weet ik het wat, het gaat hier om mensenlevens.

Hoe kun je in godsnaam slachtoffers gaan goedpraten onder het mom van "minder slachtoffers dan mensen maken, dus winst". Ik begrijp werkelijk niet hoe dit ooit in iemand op kan komen.

Het mag toch duidelijk zijn dat autonome auto's moeten streven naar absoluut 0 slachtoffers. Ik zou zeggen voer een jaar lang iedere dag testen uit, komt de auto daar zonder ook maar één fout doorheen, pas dan mag de auto de weg op.

Maar wanneer geld belangrijker is dan een mensenleven krijg je dit soort onzin.

Wel, als je Consumer Reports kunt geloven, dan heeft de Tesla 3 een groot probleem met de remmen en een remafstand te vergelijken met die van een pick-up. Elon Musk's antwoord: de pers probeert me onderuit te halen! Fake news! Sad!

Dat is Elon Musk's antwoord helemaal nooit geweest. Dat maak je er zelf van omdat je hem kennelijk associeert met de Trump fanbase.

[Reactie gewijzigd door Cilph op 25 mei 2018 11:24]

Maar Tesla heeft al gewezen op het feit dat alle (!) andere rapporten over de remweg erop wezen dat de 3 tot de topklasse behoorde. Ze moeten dus uitzoeken wat er aan de hand is.

Alle ongelukken en problemen met geautomatiseerde voertuigen worden enorm onder het licht gehouden maar de harde feiten (bijvoorbeeld dat het aantal ongelukken met de testauto's van Uber 800% onder de normale norm ligt en dat Tesla's met afstand de auto's zijn die het minste ongelukken veroorzaken) zie je vrijwel nooit terug.

Natuurlijk is elk ongeval er een te veel, zeker als, zoals in dit geval, het feitelijk vermeden had kunnen worden. Maar computers rijden beter dan mensen en worden elk jaar beter (terwijl wij met zijn allen steeds slechter zijn gaan rijden). Het aantal ongelukken gaat afnemen als er minder handen aan het stuur zijn.
Tijdens de ontwikkeling van dat soort systemen zullen er ongelukken gebeuren en zullen er fouten gemaakt worden. Dat is zo bij deze techniek maar ook bijvoorbeeld bij bouwkunde (In Nederland zijn enkele gebouwen ingestort omdat ze nieuwe technieken gebruikten die niet correct bleken te werken), dat gebeurt bij de ontwikkeling van medicijnen etc etc et. Als maatschappij accepteren we dat als prijs van ontwikkeling. Niemand zal zeggen dat medicijnen niet meer ontwikkeld mogen omdat Softenon meer dan 10.000 geboorteafwijkingen heeft veroorzaakt. We proberen het alleen beter te doen.

Denken dat ze automatisch rijden volledig kan testen op afgesloten circuits is onzin. Daarom moet dat op de weg, onder gecontroleerde, gecertificeerde en toegestane wijze. Het is aan overheden om te bepalen wat hier wel en niet mag.

De software van Uber heeft wel degelijk een noodstop afgeroepen. Alleen deze functionaliteit was uitgeschakeld. Dus er waren 2 veiligheidssystemen omzeilt.

Als je het actief formuleert wordt het wat duidelijker: Uber heeft 2 veiligheidssystemen omzeild.

Nee, dat staat zo niet in het artikel.

bepaalde het systeem voor autonoom rijden van Uber dat een noodremprocedure ingezet moest worden om een aanrijding te voorkomen.

Uber's software heeft dus zelf wel de situatie beoordeeld, maar gefaald om de noodremprocedure in gang te zetten.

Ik ben absoluut geen voorstander van Uber en hun gang van zaken, maar op deze wijze berichten is wel gericht op verwarring en sensatie i.p.v. een duidelijke feitelijke weergave van feiten.

Uber's software heeft dus zelf wel de situatie beoordeeld, maar gefaald om de noodremprocedure in gang te zetten.

Ik ben absoluut geen voorstander van Uber en hun gang van zaken, maar op deze wijze berichten is wel gericht op verwarring en sensatie i.p.v. een duidelijke feitelijke weergave van feiten.

Uber's software is blijkbaar geschreven in de veronderstelling dat er een noodremsysteem aanwezig is (en dat lijkt me logisch), maar dat is uitgeschakeld (en notificaties die sowieso al maar een mager alternatief zijn, waren er ook niet). De oorspronkelijke noodstopsystemen van de wagen waren blijkbaar ook uitgeschakeld. Sorry, maar zo had de wagen niet autonoom op de weg mogen rijden.

Vergelijk het met de veiligheidssystemen (Sick scanners, lichtgordijnen, schakelaars die controleren of gevaarlijke zones zoals tandwielkasten en dergelijke afgesloten zijn...) van om het even welke productiemachine. Het gebeurt ook dat die niet naar behoren werken, waardoor de machine niet optimaal werkt. In de praktijk gebeurt het waarschijnlijk regelmatig dat die dan (in het beste geval even) uitgeschakeld worden, maar als daar een ongeval door gebeurt, heeft dat ook serieuze consequenties voor de cowboys die dachten dat dat ok was.

Nee, niet gefaald, Uber heeft het gedeactiveerd. Zowel het Volvo systeem, als hun eigen noodstop.

Misschien moet Uber het houden bij taxi ritten aanbieden en de zelfrijdende auto's aan fabrikanten overlaten. Wanneer zij die af hebben kan Uber die dan kopen. Net zoals ze nu auto's kopen bij fabrikanten.

Uber is nooit opgericht om het bij taxiritten met chauffeurs te houden, het is bedoeld om geld te verdienen aan het vervoeren van mensen van A naar B. Als dat goedkoper kan met autonome wagens dan is het logisch dat je daar zelf in gaat investeren in plaats van wachten totdat de ander ermee komt en je de hoofdprijs voor het gebruik mag betalen. Early bird gets the worm. Dat er dan ongelukken gebeuren is een slechte zaak maar het is ook wat kortzichtig om er dan meteen uit te stappen. De eerste vliegtuigen vielen ook massaal uit de lucht.

Hm ik had al een vermoeden, hier want als je 50kmh rijdt kan je redelijk plotseling stil staan. alhoewel er word gezegd dat je niet plotseling kan stil staan.

Volgensmij moet dat inderdaad kunnen. Volvo zegt dat ze tot 45km/u botsingen met zijdelings overstekende fietsers en overstekende voetgangers kunnen voorkomen en daarboven heel erg verminderen (qua impact voor de fietser

City Safety werkt toch helemaal niet bij die snelheden?? Even los van dat het een slechte zaak is dat het is uitgeschakeld wmb!

Werkt wel, garandeert alleen niet dat je stilstaat voor het object. Dan nog scheelt het in het letsel want de auto is al flink afgeremd als die het object raakt.

De auto reed in de stad, dus dan is city safety gewoon aktief. Voordeel is dan ook dat de voetgangersairbag geactiveerd wordt als ze een mogelijke aanrijding detecteren (al probeert city safety met de noodrem dit te voorkomen)

Op hogere snelheden schakelt city safety uit maar gaat het systeem over op 'botsing gevaar bij hoge snelheden' en geeft daarbij ook waarschuwingen. Alleen is het dan mogelijk dat de noodrem niet meer voldoende is (al weet ik uit ervaring dat die sneller reageert dan een mens ooit kan reageren). Voetgangersairbag is dan ook actief. Bij mogelijk botsinggevaar zie ik namelijk mijn motorkap zich opmaken voor een botsing (klapt iets omhoog bij het raam)
(helaas uit ervaring mee moeten maken toen een auto bedacht in de laatste 2 meter voordat de vangrail weer begon nog ff mijn baan op te komen met 70 terwijl ik daar 130 al voorgesorteerd reed en mijn auto vol in de remmen ging en zich opmaakte voor een botsing)

[Reactie gewijzigd door SunnieNL op 25 mei 2018 11:02]