Zelfrijdende auto's blijken met nepsignalen om de tuin te leiden

Het is met een simpele opstelling mogelijk om het afstandsmeetsysteem dat veel autonome voertuigen gebruiken, te misleiden. Het lidar-systeem blijkt met laserpulsen die 'echo's' uitzenden van bijvoorbeeld andere auto's, te foppen.

Dat zegt beveiligingsexpert Jonathan Petit tegen ieee.org. Petit schreef in hoedanigheid van onderzoeksfellow van de Ierse University of Cork een paper over de opstelling die gepresenteerd wordt tijdens de Black Hat Europe-conferentie in november. Om het lidar-systeem, dat door veel autonome auto's gebruikt wordt, te misleiden, zijn slechts een laser met een laag vermogen, een Raspberry Pi of vergelijkbare singleboardcomputer en een goede timing nodig. Met het systeem is het mogelijk om een object te spoofen. Het lukte de onderzoeker om objecten virtueel te laten verschijnen op een afstand van honderd meter. Ook is het heel makkelijk om het echoprofiel van echte objecten te kopiëren en er meerdere schijnbare objecten van te maken.

Lidar-systemen werken door met pulsen van laserlicht een 3d-beeld van de omgeving van de auto te vormen. Via een andere laser is het makkelijk om dat systeem in de war te brengen. Petit nam daartoe de pulsen op die een lidar-apparaat uitzendt. Hij kon deze pulsen later weer afspelen. Het enige lastige was om het signaal dat terug naar het lidar-systeem in de auto gestuurd moest worden, goed te timen. Lukte dat, dan dacht het lidar-systeem dat er een object was.

De remedie is om de laserpulsen van het lidar-systeem in auto's te versleutelen. Dan is het spoofen van objecten ineens een stuk moeilijker en in de praktijk vrijwel onmogelijk. Daarnaast stelt Petit dat een systeem in een auto niet op zichzelf moet staan; het systeem moet via andere data kunnen begrijpen of iets wel of niet mogelijk is. Het is bijvoorbeeld lastig om een beeld voor twee lidar-systemen te spoofen als de timing verschillend is. Petit besluit dat het nooit 'te vroeg is om te gaan nadenken over beveiligingsproblemen en hoe ze op te lossen'. De huidige generatie autonome auto's maakt bijvoorbeeld nog geen gebruik van versleutelde lidar-systemen of dubbele checks.

Update: eerder stond er nog dat ook een Arduino voldoende zou zijn om een dit uit te kunnen voeren, uit een post van BasilFX blijkt dat dit niet kan omdat een Arduino te traag is met een 16MHz-processor. Dit staat nog wel zo in het bron-artikel. Helaas is de paper nog niet publiek beschikbaar.

Reacties (177)

[s.flake]

Dus: sensors zijn te verwarren met signalen waarvoor ze ontworpen zijn ze op te pikken.
Goh, dat had ik nou nooit verwacht. Of doen we dit al sinds het bestaan van sensoren, mn in oorlogssituaties?

Zullen we met 500w halogeen lampen in mensen hun "sensoren" schijnen op de snelweg, eens kijken of die ook tot stoppen overgaan omdat ze denken dat er mischien iets op de weg staat.

[BasilFX]

Jonathan Petit is mijn afstudeerbegeleider geweest toen ik voor hem onderzoek deed naar bovengenoemd onderwerp aan de Universiteit van Twente. Mijn thesis heeft ook de basis gediend voor het werk dat hij nu gaat publiceren. Het doel van mijn thesis is niet alleen het aanstippen van de zwakheden geweest, maar ook het probleem onder woorden brengen. Ik heb mij alleen beperkt tot het hardwarelaag (perceptie), niet tot de applicatielaag (sensor fusion, reasoning).

Tijdens dit onderzoek heb ik gekeken naar diverse sensoren, en wat de literatuur er van zegt. Mijn bevinding is dat de huidige literatuur geen tot weinig aandacht besteed aan security van sensoren (no shit). GPS is wellicht de enige uitzondering, maar ook hier is eerst een 500 W zender gebruikt (hypothetisch) om een sensor te beïnvloeden, voordat men aan beveiligingsmaatregelen ging werken.

Het grote verschil met die zender is wel dat het een aanval is die voor de bestuurder praktisch onzichtbaar is. En dat is met een 500 W halogeenlamp toch minder het geval. Maar stel dat die lamp nu alleen maar infraroodlicht uitstraalt, dan wordt het al een ander verhaal (camera wordt verblind d door IR-light, spoofen van matrixborden, verbergen van objecten, etc.). Wat nu als jij je auto naar de garage brengt, en de 'evil mechanic' een lidar jammer/spoofer aanbrengt op jouw achterbumper? Dat is ook een van de aspecten geweest van mijn afstudeeronderzoek.

Er zijn op dit moment geen commerciële sensoren verkrijgbaar waarbij je gegarandeerd level 5 autonomous driving cadeau krijgt. Zodra een sensor het niet meer kan, dan moet je het als bestuurder dus zelf maar oplossen. Dat is geen motivatie om onderzoek te doen naar veiligheid. En toch zijn er prototypes van autonome auto's (o.a. Bus 2.0 en de DAVI) waar zulke sensoren de basis dienen.

Overigens een kleine nuance aan het artikel, door verkeert overnemen: een Arduino is helaas niet voldoende. Om lidar voor de gek te houden moet je pulsen kunnen genereren in de orde van 1-10 nanoseconden. Daar is een 16 MHz Arduino te traag voor.

[veltnet]

Heeft zo'n auto met lidar dan geen last van tegenliggers die ook lidar gebruiken?

[BasilFX]

Dat is op dit moment een probleem. Ook een speed gun (o.a. gebruikt door de politie) ondervindt hier in principe hinder van. Zelfs de zon kan hier invloed op hebben.

Lidar gebruikt in principe 'gewoon' licht in het infrarode spectrum. Ik heb hier wel een plaatje van hoe dat er uit ziet als je een IR-camera gebruikt om het signaal te visualiseren (904 nm, uit mijn thesis).

Lidar werkt d.m.v. time of flight. De zender stuurt een ping (lichtpuls), en wacht op de pong. Deze wachttijd is ongeveer 1,3 µs voor een bereik van 200 meter. Dit doet ie meerdere keren per rotatie (meest lidars hebben een roterende laser om rondom te scannen). Zo lang een tegenligger niet in die 1.3 µs ook een ping stuurt, gaat het in principe goed. Maar dat is ook de truc om te jammen of te spoofen.

[Reactie gewijzigd door BasilFX op 22 juli 2024 19:31]

[SED]

Wat nu als jij je auto naar de garage brengt, en de 'evil mechanic' een lidar jammer/spoofer aanbrengt op jouw achterbumper?

Wat nu als een evli mechanic je remleidingen deels doorzaagt.. of je stuurwiel losdraait of je wielmoeren niet aantrekt..
Geen enkele systeem zal je tegen kwaadwillende kunnen beschermen.

[ANdrode]

Een klassieke fysieke aanval heeft meestal geen invloed op derden (enkel op de auto zelf). Dit aanvalsmodel wel - en dat is schrikken .

[PuzzleSolver]

De motivatie om zo'n middel te gebruiken moet je dan eerst bekijken. Willekeurige mensen van de weg afhelpen lijkt mij alleen interessant voor terroristen en het lijkt me dat die wel effectievere middelen hebben. Dus wat moet zo'n "evil mechanic" voor motivatie hebben om dit te doen. Het is waarschijnlijk net zo makkelijk om een ak-47 onder je bumper te monteren die willekeurig afgaat. En het doorsnijden van remleiding kan ook heel veel invloed hebben op derden als je op een groep scholieren afrijd en je remmen doen het niet.

Dat iets te misbruiken valt betekent niet dat mensen het zonder motivatie gaan doen. Anders zou het best wel chaos zijn in de wereld.

[Teijgetje]

Dat iets te misbruiken valt betekent niet dat mensen het zonder motivatie gaan doen.
Anders zou het best wel chaos zijn in de wereld.

Dat iets te misbruiken valt betekent regelmatig dat mensen dat gaan doen.
Want het is best wel een chaos in de wereld.

(changed that for you. )

[Keneo]

Wanneer ik niet kan remmen om jou niet aan te rijden omdat mijn remkabels doorgezaagd zijn heeft dit toch wel invloed op jou?

[Grrrrrene]

Of als je een wiel verliest of je stuur niks doet...

Het is inderdaad wel opvallend hoe we bij elektronische systemen direct bang zijn voor sabotage, terwijl een voetangel op de weg, een aardappel in je uitlaat of een doorgeknipte kabel of remleiding ook vormen van levensgevaarlijke sabotage zijn die al jaren mogelijk zijn en waar niemand zich druk over maakt.

Ik vind het niet erg verbazingwekkend dat je sensoren kunt foppen door ze nepsignalen te sturen die niet van echte te onderscheiden zijn.

[Verwijderd]

Wat nu als een evli mechanic je remleidingen deels doorzaagt.. of je stuurwiel losdraait of je wielmoeren niet aantrekt

Veel te veel gedoe. Dat vereist fysieke toegang tot de auto en dan ben je mogelijk te achterhalen
Gewoon een flinke hoeveelheid kraaiepoten strooien op de snelweg.
Dat kan al veel schade en risicovolle situaties creeeren en het is relatief simpel om anoniem uit te voeren

[Fire69]

Wat is me nu afvroeg (ik heb geen technische kennis van lidar!), als binnen 10 jaar alle auto's zelfrijdend zouden zijn, en ze allemaal lustig lidar-signalen in het rond gooien, is dat dan op zich ook al niet storend? Als ze geen gebruik maken van encryptie of zo?

[q-enf0rcer.1]

Lijkt mij dat een identiteit meegeven aan het signaal hier voldoende voor is. Encryptie is alleen nodig om extra veiligheid in te bouwen om hacks zoals in dit artikel te voorkomen.

[Septillion]

Nu het bronartikel is aangepast op de Arduino, mag ik dan nog opmerken dat een Raspberry Pi ook absoluut niet geschikt is. "Raspberry Pi" en "goede timing" (orde van nanoseconde zoals aangestipt door BasilFX) is geen combinatie. Raspberry Pi draait een OS waardoor timing kritische zaken niet te doen zijn op de IO. Er is gewoon hardware nodig die tijd kritisch de signalen kan opwekken in de ns range. Niets Arduino, Raspberry Pi of single board computer.

[Reactie gewijzigd door Septillion op 22 juli 2024 19:31]

[cdwave]

RPi draait doorgaans een Linux OS omdat dat kan (want hij heeft een applicatie processor met MMU). Maar het hoeft niet, je kunt er ook een RTOS of bare metal applicatie op draaien.

[cdwave]

Om pulsen van 1 ns te genereren heb je geen CPU nodig die in die range opereert. Wel heb je randapparatuur nodig die dat wel kan. Wat mij zo te binnen schiet is dat je het video kanaal zou kunnen gebruiken. Een HD video signaal loopt op een pixelklok van 148 MHz (ongeveer 6 ns), als dit met een LVDS (gangbare LCD) interface wordt uitgestuurd heb je een bitrate per kanaal die dan eens 6 tot 8 keer zo hoog is.
Met de videointerface van een redelijk bescheiden systeem zou je dus best pulsen in de nanoseconden range kunnen genereren met heel nauwkeurige timing. De CPU hoeft niet veel te doen, dus die 16MHz is meer dan genoeg.

Ik zou wel geneigd zijn een FPGA te gebruiken voor dit soort signalen, die zijn best wel sterk in het maken van leuke pulsjes in realtime systemen. Er zijn ook programmeerbare signaalgenerators die zoiets kunnen doen vanuit de SPI interface van een doorsnee Arduino.

Puur op kloksnelheid roepen dat een bepaald systeem dit niet zou kunnen is dus wel erg voorbarig.

[BasilFX]

Mee eens. In mijn thesis raad ik overigens ook geen specifieke hardware aan. Dat een Arduino en Raspberry Pi genoemd zijn, is een vrije interpretatie geweest van de auteur die Jonathan geïnterviewd heeft.

Wel is het uitzenden van pulsen slechts één ding. Om te spoofen moet je kunnen synchroniseren met een het patroon van een lidar. Daarvoor moet je dus ook ontvangen op die snelheid. Uit hobby-ervaring weet ik dat een Arduino dat niet trekt.

[letatcest]

Heb dat van de Arduino even aangepast. Dank. De paper is nog niet beschikbaar (althans: ik heb hem niet kunnen vinden ). In het bronartikel wordt een Arduino nog wél genoemd.

[Verwijderd]

Dat is interessant. En dan vraag ik me af waarom men met alle geweld proeven wil gaan doen, was dat in Gelderland, waar politici zo snel mogelijk met de eer willen strijken om vooruitstrevend te zijn? Men zou zelfs de verzekeringsaspecten regelen, zodat daarover geen problemen ontstaan als het mis gaat.

Zoals altijd wordt er een nieuwe technologische variatie bedacht en zonder schroom ingevoerd, doorgedrukt. Net als met ICT zitten we straks weer met een hi-tech probleem, waar we dan weer in rap tempo nieuwe techjes voor moeten uitvinden.

Dan is de cyclus weer rond, technologie als doel, waarbij technologie problemen veroorzaakt, die danw eer opgelost moeten worden door technologie, waarop men zo vertrouwt. En die zorgt weer voor een nieuwe onvoorzien probleem.

En zo blijven als een dolle hond achter onze staart aanrennen. Maar niemand heeft me nog bewezen dat de autonome auto überhaupt nuttig is, of zelfs veiliger. Gezien jouw onderzoek en mijn inzicht in hoe technologie doorgaans de samenleving in geramd wordt houdt ik mijn hart vast.

[brain75]

Waarom jammer?

Technologie staat soms vol van gaten waarvan je bij publicatie denkt: dat men daar niet eerder op gekomen is. Van een hoop zaken denken we dat het vanzelfsprekend is dat men daaraan gedacht heeft (zoals in dit geval de beveiliging van deze sensoren), en als dat dan niet zo blijkt...... ik vind 'no shit' dan best een juiste term. Misschien wat populair uitgedrukt voor een onderzoeker, maar onderzoekers zijn soms net mensen

[Durandal]

Omdat vanuit een probleem vaak het kortste en smalste pad naar een werkende oplossing geengineerd wordt, in plaats van het breedste pad.
Je begint, probeert iets, en als dat werkt bouw je er op voort. Zo stapel je een toren van blokjes die om valt als je ergens aan trekt.
Je engineert iets, en wat niet werkt los je op.

Dat is de foute methodiek maar wel de meest gebruikte. Er kunnen dan ineens externe zaken bijkomen (sabotage, interferentie) waar je niet voor hebt ontwikkeld en dan ga je voor gaas.
Toegegeven producten zouden anders veel duurder zijn.

Het wordt overigens wel lachen met die zelfrijdende (? - rijden toch allemaal zelf? ik heb nog nooit een auto achterop op mijn fiets hoeven nemen..) auto's. Je kan er van uit gaan dat die systemen er alles aan doen om te voorkomen dat ze iemand aanrijden. Je kan dan lekker het verkeer gaan frustreren door af en toe even een schijnbeweging te maken op het voetpad, of altijd oversteken waar je wilt. Ze stoppen toch wel.. (hopelijk)
Dat probleem is volgens mij ook nog niet helemaal doordacht.

[Reactie gewijzigd door Durandal op 22 juli 2024 19:31]

[Get!em]

Het wel degelijk van belang.. zeker in gemixte omgeving waar niet iedereen dezelfde spoof ziet. (echte rijders niet, autonome auto's wel..).

Overigens is het dubbele sensor analyse door onder andere Volvo al lang in de praktijk gebracht:
Die gebruikt oa voor het voetgangers systeem, adaptive cruise en full brake systeen zowel een Radar (in de grille) als een Laser (achter de middenspiegel).
Matchen de twee zaken niet, dan doet het systeem niets, of alleen een waarschuwing.

Ik heb met zowel een Volvo gereden met alleen een Laser, als ook met eenzelfde Volvo met Radar en Laser.
De eerste heeft dus echt veel last van objecten die er in het echt niet zijn. Zo kan bijv de reflectie van de infraroodlampen van de camera's in de portalen boven de snelweg, al verwarrend zijn voor de laser alleen. In combinatie met de Radar is er bij die portalen niks aan de hand.

[T-men]

Niet alleen autonome systemen reageren zo. Ook gewone mensen kunnen 'gespoofde' objecten op de weg zien.

Kijk maar eens naar deze video: https://www.youtube.com/watch?v=nS8nPigov0g

2 mannetjes trekken een 'onzichtbaar touw' over de weg recht voor een aankomende auto.
Vrijwel elke bestuurder remt braaf af om in de verwachting dat er een echt touw is, zelfs al kunnen ze het touw niet zien (alleen het uitstekende acteerwerk )

Wat ik wil zeggen, natúúrlijk moet je niet op je achterhoofd gevallen zijn en wanneer valse objecten eenvoudig onderschept kunnen worden dan moet je dat doen !

Maar door het toevoegen van objecten maak je op een hele ingewikkelde manier alleen maar iets wat je met een kartonnen doos ook zou kunnen maken.
En de enige reactie zal zijn dat de auto op een veilige manier het object probeert te ontwijken. En ja, daar kan misbruik van gemaakt worden, maar waarom zou je dat met zo'n ingewikkelde manier doen als het ook veel eenvoudiger én goedkoper kan met die spreekwoordelijke kartonnen doos.

Ik denk niet dat je in de praktijk (!) veel gespoofde lidar-objecten tegen gaat komen, echt niet !

(maar een mens kan zich uiteraard vergissen )

[robvanwijk]

Maar door het toevoegen van objecten maak je op een hele ingewikkelde manier alleen maar iets wat je met een kartonnen doos ook zou kunnen maken.
En de enige reactie zal zijn dat de auto op een veilige manier het object probeert te ontwijken. En ja, daar kan misbruik van gemaakt worden, maar waarom zou je dat met zo'n ingewikkelde manier doen als het ook veel eenvoudiger én goedkoper kan met die spreekwoordelijke kartonnen doos.

Het nadeel van een echte, fysieke doos is dat ie zich braaf aan de natuurwetten moet houden; een fictief object kan zomaar uit het niets op elke plek verschijnen.

Denk bijvoorbeeld aan een snelweg. Met deze truc kun je vlak voor een auto een object laten "verschijnen" waarvan de automatische besturing denkt dat ie het moet ontwijken. Een noodstop (zo hard remmen als fysiek mogelijk is) kan best wel eens een flinke botsing veroorzaken. Misschien dat andere automatische auto's snel genoeg reageren, maar het zou me niks verbazen als de gemiddelde menselijke bestuurder te laat is en er vol bovenop knalt.

Het is lastig te voorspellen hoe deze systemen reageren in situaties die eigenlijk helemaal niet kunnen, maar een test waarvan ik liever niet heb dat een kwajongen die uit gaat voeren is wat er gebeurt als je het spookobject echt vlak voor een auto neerzet. Zou je hem zo ver kunnen krijgen dat ie de frontale botsing zo graag wil vermijden dat de automatische piloot een ruk aan het stuur geeft en de auto de volgende rijbaan in gooit (en daar een ongeluk veroorzaakt)...!?

Ik denk niet dat je in de praktijk (!) veel gespoofde lidar-objecten tegen gaat komen, echt niet !

Je komt in de praktijk ook niet veel stoeptegels tegen die door psychopate idioten ahem, "ettertjes" van viaducten worden gegooid. Toch proberen we dat aantal nog verder omlaag te krijgen. Hier ook: nee, het zal vast geen dagelijks verschijnsel worden, maar als je het helemaal onmogelijk kunt maken (waarbij je als bonus waarschijnlijk het systeem ook voor normaal gebruik nog net wat robuuster maakt)... waarom niet?

[supersnathan94]

De kartonnen doos is een oude truc om automobilisten voor de gek te houden bij een voetgangers oversteekplaats. Net in de dode zone voor de bumper doen alsof er een groot object staat waar je echt wel overheen moet stappen met veel moeite. Staan een aantal filmpjes van op youtube. Dat is de vergelijking met het artikel. De sensor (bestuurder in dit geval) ontvangt informatie over een object wat niet bestaat en reageert daarop zonder dat er ook maar iets aan de hand is.

[djwice]

Wat als je de auto kan laten denken dat hij tussen twee kwaden moet kiezen. Een virtueel, de ander echt
..

[cdwave]

Als je het systeem weet te overtuigen dat er tien kindertjes op de weg staan kiest het er misschien wel voor om zijn bestuurder om zeep te helpen door tegen de lantaarnpaal te knallen. Want een is minder dan tien.

[akooijman]

Objecten zien die er niet zijn is lastig, maar te overkomen.
Het wordt pas eng voor de 130km/h rijdende Volvo(rijder) als met zo'n eenvoudig kunstje echte objecten onzichtbaar gemaakt kunnen worden voor het systeem....

[Sissors]

Aan de ene kant vind ik dat je gelijk hebt, maar tegelijkertijd denk ik ook dat ze echt eens met ontwerpers van militaire radarsystemen/lidarsystemen moeten gaan praten (ze hebben flinke overlap in hoe ze functioneren). Die gaan natuurlijk niet elk trucje prijsgeven, maar de standaard zaken, zoals het randomizen van het interval wat je gebruikt voor detectie, patronen van je radar sensoren veranderen, etc, lijkt me toch een heel erg goed idee.

[bbob]

Misschien een leuke mart vor dit sort bedrijven om hun technologie aan de man te brengen. Probleem kan misschien zijn dat de US overheid ze het stempel wapen geeft en ze niet geëxporteerd mogen worden.

Men staat in het algemeen denk ik niet genoeg stil bij de echt problemen van zelfrijdende auto's. Er zijn zeker dubbele systemen nodig en dan kun je ook nog denken aan lasrer, rader in combinatie met dubbele camera's om alles samen te voegen. Dit vereist misschien echter nog zo veel cpu vermogen dat we daar nog een paar jaar op moeten wachten voor het echt realiteit zal worden.

[i-chat]

camera input kan op met rasberrypi-achtige hardware, het zou me verbazen als er meer verwerking nodig is voor een hele zelfrijdende auto met 3dubbel-uitgevoerde sensors, dan een enkele cpu kan leveren, en dan heb ik het niet eens over een core i7 - maar meer een tig-core arm soc.

[terror538]

Ik gok dat je je daar nogal in kunt vergissen, goede object herkenning lijkt mij ook belangrijk en volgens mij is daar wel meer cpu power voor nodig.
Zo wil je niet dat de auto vol in de ankers gaat op de snelweg als er een gans neerstrijkt maar wel als er een persoon opduikt.

[bbob]

Denk dat er ook heel veel cpu kracht voor nodig in om realtime in zeg full hd resolutie van alles te herkennen. samenvoegen van beelden, daar rasters over plaatsen, afstand meten, wat te doen, eventuele uitwijk mogelijkheden, herkennen van verkeersborden, voorrrang van rechts geven, fietsers die zich niet aan de regels houden, de software c.q systemen moeten dat allemaal herkennen.

[cdwave]

Alsof embedded systemen niet meer rekenkracht dan een i7 zouden kunnen hebben. Die multicore ARM komt als het op ruwe rekenkracht aankomt al best aardig in de buurt (factor 10 ofzo).

Dit bord bijvoorbeeld heeft ongeveer evenveel gigaflops tot zijn beschikking als die I7. Maar dan wel met een TDP van 7W. En dat zijn nog de "kleine" versies van de chipset.

[n00bs]

Exact, daarbij is dit juist ook weer handig om te gebruiken om snel specifieke stukken weg/gebouwen etc af te schermen voor autonome voertuigen. Zo zou je ook een baan voor onderhoud op de snelweg snel en eenvoudig kunnen afsluiten voor autonome voertuigen.

[T-men]

Dat kun je ook gewoon door een echt hekje op de weg te zetten, of als het per-sé radiografisch moet met een klein radio baken.

Een heel object gaan zitten spoofen lijkt me wat overkill.

Een hekje is bovendien ook eenvoudig te spotten door een niet-autonome bestuurder, wat ook wel handig is bij een afgesloten weg.

[i-chat]

true maar nu zou je kunnen kiezen om het object te spoefen, zo'n 20 meter voor het feitelijke hekje, op die manier geven autonome bestuurders, hun menselijke (en vaak tragere) mede-weggebruikers extra ruimte...

[satya]

Zoals je zegt we doen dit al sinds het ontstaan en gebuikt van diverse typen sensoren, in de militaire industrie is dit al vele jaren meer van gebruikelijk. Een radar geleide raket die bijvoorbeeld op zijn doel af vliegt stuur je net wat eerder hetzelfde radarsignaal op af zodat het doel dichter bij is dan werkelijk. De raket ontploft dan (hopelijk) eerder dan bij het doel zelf. En zo is er nog veel meer van dat soort zaken met diverse signaalsoorten.

Versleutelen zoals genoemd zal niet helpen, of je moet je signaal random uit gaan sturen.

[Durandal]

Je kan het signaal alleen wat eerde terug sturen als je het wat eerder ontvangt. Dan moet je ontvanger dus dichter bij staan.
In een vliegtuig kan je dus een reflector achter je aan slepen bijvoorbeeld.

Wil je zo'n reflector spoofen of valse informatie aan de raket geven dan moet het signaal voorspelbaar zijn. Een random signaal (wat ze bedoelen met encryptie denk ik) kan je niet voorspellen dus ook niet spoofen.

[CharlesND]

Ik snap niet dat deze wat zure reactie van s.flake zo hoog gewaardeerd wordt. Lidar is ontwikkeld uit militaire technologie en helemaal niet zo makkelijk te verwarren en dat het een onderzoeker met vrij simpele middelen lukt is echt wel opvallend.

Hij zal tweakers wel een saaie website vinden.

Al dat nieuws over nieuwe nog snellere processoren -goh, dat had hij nou nooit verwacht van nieuwe processoren-, nieuwe nog scherpere lenzen en betere sensors -goh, dat had hij nou nooit verwacht van nieuwe lenzen en sensors- en steeds veelzijdiger en meer geavanceerdere smartwear -goh, dat had hij nou nooit verwacht van nieuwe smartwear- mag voor s.flake oninteressant en voor de hand liggend zijn, wat mij betreft mag Tweakers daar veel en uitgebreid over berichten!

[tibi]

s.flake ik snap je punt.
ik denk dat het heel goed is om zaken te onderzoeken en te benoemen. en ik begrijp van BasilFX dat dat veel te weinig gebeurt.
maar je kan nu ook al mensen in de war brengen en zo kan je straks ook auto's in de war brengen. de vraag is, gaat iemand het doen?
je kan namelijk beveiligen tot je een ons weegt maar dat doen we niet. tenminste mijn huis is geen bunker, als je er met een vrachtwagen tegen aan rijdt dan ben je zo binnen.

[Toettoetdaan]

Het klink een beetje overdreven, maar het is heel terecht om hier nu al naar te kijken.

Ik vraag mij ook af in hoeverre medeweg gebruikers een autonome auto zullen uittesten.
(Lees: proberen te beïnvloeden door het creëren van gevaarlijke situaties)

[Verwijderd]

Wat dat uittesten van auto's betreft. Zodra voetgangers er achter zijn dat een autonome toch wel stopt als je oversteekt kan je lol op in Amsterdam. Die autonome auto komt dan echt geen meter meer vooruit.

[Douweegbertje]

Maar wat maakt dat uit? Ik denk namelijk ook niet dat auto's midden in een drukke stad de toekomst is. Je ziet het overigens steeds vaker, steden waar geen enkele auto meer in komt. De garages staan aan de buitenkant, en er is fatsoenlijk OV richting het centrum.

[kozue]

Noem mij 1 grote stad met *fatsoenlijk* OV. Alle OV die ik heb gezien is omslachtig en duur. Voor mij is OV de toekomst niet. Hooguit een tijdelijk lapmiddel tot er iets voor in de plaats komt dat geen fortuin kost en je daadwerkelijk heen brengt waar je moet wezen, ipv de dichtsbijzijnde stad.

[satya]

Rotterdam, er buiten parkeren en voor een habbekrats naar het centrum. Hetzelfde geld voor Utrecht. Weet niet het het met andere steden zit, maar de reis per openbaar vervoer naar het Centrum is voor Rotterdam & Utrecht goedkoper dan 4 uur parkeren in datzelfde centrum. En zelfs ik met auto van de zaak maak daar gaarne gebruik van.

[supersnathan94]

Op het moment dat een stad de keuze heeft voor lopen of OV dan zal het heel snel goedkoper worden. Kijk naar de metro in Parijs. De systeem werkt heel erg goed en is absoluut niet duur als je veel langere ritten maakt. Je auto ergens kwijt kunnen is uiteindelijk een duurdere grap en je bent een stuk langer onderweg.

[Dazzyreil]

Zoiets heet een fiets.

[nst6ldr]

Dat is lang niet altijd een optie. Als je bijvoorbeeld orders moet rondrijden of in net pak naar een klant moet ga je dat niet op de fiets doen, net zo min met een bus of tram.

[Verwijderd]

Ik denk dat autonome auto's juist in de binnenstad toekomst hebben. Je bestelt een autonome auto op een bepaalde tijd, deze komt voorrijden en vervoerd je waar je heen wilt. Heb je hem niet meer nodig dan rijdt hij zelfstandig door naar een parkeerplaats of een volgende klant. Parkeren gebeurt dan niet meer in de binnenstad.

[mrdemc]

Een beetje een drogreden. Ik mag hopen dat elke bestuurder als een gek op z'n rem trapt als er een achterlijke gladiool de weg op rent... Het gaat toch echt om de remafstand die je nodig hebt waarvoor je als voetganger even wacht met oversteken tot de auto voorbij is of jou voor laat gaan. Als er een auto met 30-50 km/u aan komt rijden en je stapt zo'n 5-10 meter voor die auto de weg op; flinke rem die een auto dan op tijd kan stoppen.

[Verwijderd]

Autonome auto's hebben een kortere remweg want de reactietijd is veel korter. Met 30-50 km/u staat een moderne auto zo stil. En als voetganger hoef je je niet meer af te vragen heeft de bestuurder mij gezien.

Dus, ja, je moet even weten welke afstand nog veilig is, maar dan kan je ook veilig voor een auto langs.

[mrdemc]

Maar dan moet je wel zeker weten dat de auto autonoom rijdt en niet toevallig de bestuurder de besturing heeft overgenomen. Je moet wel heel goed kunnen schatten welke afstand het is en hoe hard de bestuurder rijdt. Al met al; Ik zou het risico niet nemen

[Reactie gewijzigd door mrdemc op 22 juli 2024 19:31]

[Verwijderd]

Heb je wel eens in Amsterdam auto gereden? Nu nemen voetgangers en vooral fietsers al meer risico dan ik (en ik vermoed jij ook) zouden nemen.

[mrdemc]

Ik zal eerlijk zeggen dat ik nog nooit in Amsterdam heb gereden met de auto (nja, niet in het centrum in ieder geval) alhoewel ik wel in steden als Den Haag, Utrecht en Rotterdam met regelmaat door en langs het centrum ben gereden. Er zijn inderdaad een hoop mensen hun leven niet zeker zoals zij door de straten banjeren zonder enige oplettendheid m.b.t. hun omgeving (in tegelstelling tot hun aandacht richting hun mobiel of reisgenoot).

[Reactie gewijzigd door mrdemc op 22 juli 2024 19:31]

[ThaStealth]

Nu nog niet, maar als het gemeengoed is, is het te laat (= waar Petit voor waarschuwt). Daarom beter om het nu al mee te nemen in ontwerpen, dan kan het straks veel problemen schelen.

[PdeBie]

Ik heb ooit een artikel gelezen (kan hem even niet zo snel vinden) waarbij er bestuurders waren die een test kolonne autonome auto's zagen en deze bewust 'pesten', omdat die autonome auto toch wel remt/uitwijkt. Ze namen gewoon voorrang op de autonome auto's, want ze wisten dat zo'n autonome auto er alles aan zal doen om een ongeluk te voorkomen.

Serieus gevaarlijke situaties dus die zeker te weten misbruikt zal worden door de verkeershufters van de weg.

--edit--
soortgelijk artikel gevonden op Bright:
http://www.bright.nl/de-z...het-mietje-van-de-snelweg

Meneer de motorrijder: "Ik was op een weg tussen een Google-auto en een willekeurige truck. En toen, deels voor het experiment en deels voor mijn ongeduld, gokte ik 't erop en sneed de Google auto af, iets harder dan nodig was. Deze liet me zonder mokken ertussen."

Bewijs dat dit zeer gevaarlijke situaties op gaat leveren.

[Reactie gewijzigd door PdeBie op 22 juli 2024 19:31]

[Stoney3K]

Ik heb ooit een artikel gelezen (kan hem even niet zo snel vinden) waarbij er bestuurders waren die een test kolonne autonome auto's zagen en deze bewust 'pesten', omdat die autonome auto toch wel remt/uitwijkt. Ze namen gewoon voorrang op de autonome auto's, want ze wisten dat zo'n autonome auto er alles aan zal doen om een ongeluk te voorkomen.

Serieus gevaarlijke situaties dus die zeker te weten misbruikt zal worden door de verkeershufters van de weg.

Want een echte bestuurder zou het er op wagen en die motorrijder tussen de vrachtwagen en zijn eigen auto sandwichen?

Zo'n zelfrijdende auto reageert exact zoals een bestuurder zou moeten reageren, als een motorrijder hem afsnijdt dan is het logisch dat ie op de rem gaat en hem ruimte geeft, want het alternatief was doorrijden en de motorrijder met opzet rammen.

Misschien dat een macho in een Audi het van zijn ego niet mag om een motorrijder voor te laten als die voordringt, maar een zelfrijdende auto gaat geen gevaarlijke situaties veroorzaken omdat ie zich groot wil voordoen op de weg. En juist ego's zijn vaak een oorzaak van veel verkeersongevallen...

[PdeBie]

Het gaat erom dat verkeershufters zwaar misbruik hiervan zullen maken. oh, het is toch een autonoom. HOP die wagen ervoor. Autonoom voertuig in de remmen en kans op aanrijding van achter of wellicht een slippartij door gladheid, omdat hij plotseling moet remmen. Dit alles door die verkeershufter die dacht 'hij remt toch wel'.

Als die motorrijder hem er bewust voor gooit en jij remt te laat en rijdt hem aan is het niet jouw fout, maar die van de motorrijder. Dat is niet bewust rammen wat jij zegt.

[Reactie gewijzigd door PdeBie op 22 juli 2024 19:31]

[PepijnK]

Het gaat erom dat verkeershufters zwaar misbruik hiervan zullen maken. oh, het is toch een autonoom. HOP die wagen ervoor. Autonoom voertuig in de remmen en kans op aanrijding van achter of wellicht een slippartij door gladheid, omdat hij plotseling moet remmen. Dit alles door die verkeershufter die dacht 'hij remt toch wel'.

Als die motorrijder hem er bewust voor gooit en jij remt te laat en rijdt hem aan is het niet jouw fout, maar die van de motorrijder. Dat is niet bewust rammen wat jij zegt.

Een verkeershufter op een motor, of een brugklasser op de fiets. Ik zie het verschil niet. Beide zijn zeer kwetsbaar en beiden gedragen zich op een manier die vooral voor henzelf fysiek gevaarlijk is maar de financiele aansprakelijkheid op een ander afschuift.

Door de bouw van een nieuwe middelbare school langs mijn woon-werk route is er voor mij geen alternatieve route meer mogelijk waar ik niet te maken heb met scholieren die met 5 naast elkaar al append over de weg zwalken.
Sinds het schooljaar weer is begonnen heb ik wekelijks meerdere near-miss incidenten met fietsende scholieren. En als ik het lef heb om te toeteren om een ongeluk te voorkomen, dan krijg ik een heel nieuw woordenboek over me uitgestort.

Met autonome auto's gaan die scholieren zich alleen nog maar meer onkwetsbaar voelen in het verkeer en zich ook zo gedragen, met alle gevolgen van dien.

Ik heb niet voor niets onlangs een dashcam ingebouwd. Ik wil niet onder Art. 185 WVW aansprakelijk worden gehouden voor het onbezonnen gedrag van een scholier.

[PdeBie]

Dat zie je hier ook veel inderdaad. Die jongelui kijken soms helemaal nergens naar en als je er dan wat van zegt krijg je de vinger naar je toe. Ze achten zichzelf veilig, de automobilist is toch schuldig, maar ze snappen niet dat als ze onder een auto komen de gevolgen heel ernstig kunnen zijn.

[CAPSLOCK2000]

Een verkeershufter op een motor, of een brugklasser op de fiets. Ik zie het verschil niet. Beide zijn zeer kwetsbaar en beiden gedragen zich op een manier die vooral voor henzelf fysiek gevaarlijk is maar de financiele aansprakelijkheid op een ander afschuift.

<knip>

Met autonome auto's gaan die scholieren zich alleen nog maar meer onkwetsbaar voelen in het verkeer en zich ook zo gedragen, met alle gevolgen van dien.

Je hebt helemaal gelijk hoor, maar alle hufters en brugklassers opvoeden gaat niet lukken, die blijven toch wel de grens op zoeken. De rest van het verkeer dan maar zo veilig mogelijk maken is dan de beste oplossing.

[Stoney3K]

Als die motorrijder hem er bewust voor gooit en jij remt te laat en rijdt hem aan is het niet jouw fout, maar die van de motorrijder. Dat is niet bewust rammen wat jij zegt.

Als die motorrijder zich daardoor dood rijdt, dan maakt dat totaal niks meer uit. Dat wil ik gewoon niet op mijn geweten hebben, en een bouwer van een autonome auto ook niet.

Bij je rij-examen zou je hetzelfde reageren: Ook al zit de ander in dat geval fout, je rijdt niet blindelings door om hem te straffen omdat ie zich niet aan de regels houdt. Als iemand anders een fout maakt en een ongeluk uitlokt, moet je nog altijd een gevaarlijke situatie voorkomen.

[PdeBie]

Nee, natuurlijk wil je dat niet op je geweten hebben. Maar het is geen bewust rammen wat jij zegt.

Natuurlijk trap je dan op je rem. En dat doen die autonome auto's ook.
Alleen nogmaals, er zullen wegmisbruikers zien die hier zwaar misbruik van gaan maken, wetende dat zo'n autonome auto ALTIJD reageert in tegenstelling tot een 'gewone' bestuurder.

Die wegmisbruikers doen dat nu namelijk ook al. Ik zie het bijna elke week wel op de A15 bij afslag Echteld. Ze gooien hem gewoon twee banen naar rechts. Kan ze niks schelen wat het verkeer op de rechterbaan doet. Ik heb mijn hart daar regelmatig in mijn keel gehad.

[Quilt]

Die autonome auto's zijn uitgerust met een batterij aan opnameapparatuur.
Dat kan wel eens een duur spelletje worden.

[Gallant]

Ehm dat heb je al bij de wat duurdere auto's. Deze hebben een systeem aan boord dat remt als een object zich voor de auto kruist, voorrang of geen voorrang de auto stopt.

Feit is dat de problemen ontstaan zodra de mensen zich in het verkeer gaat mengen. Dus de transitie periode van mens naar autonome besturing is er een met valkuilen. Het beste is een volledige transitie maar dat is niet meteen realiseerbaar.

Ontopic:
Een extra beveiligingslaag is geen overbodige luxe en ook heel goed mogelijk. Naast dat de auto realtime analyse doet van de omgeving zou er continue een data evaluatie moeten plaats vinden. Data systemen hebben constant contact met elkaar. Auto's, kaart informatie van de wegbeheerder, andere auto's, verkeersystemen enz. Al deze data moet in overeenstemming zijn met de realtime omgevingsdata. Als een autonome auto een abnormality constateerd wordt dit doorgegeven aan de wegbeheerder. De wegbeheerder krijgt dus een uitbreiding van zijn taak namelijk het up to date houden van het weg informatie systeem. Dat was in feite al de taak van de wegbeheerder maar nu verplaats zich dat naar het digitale zoals dat op zoveel gebieden gebeurt.

[Thomqa]

Wow, daar had ik nog nooit aan gedacht. Ik vind dat echt shockerend!

[GORby]

Och, die zelfrijdende auto's registreren toch al alles... Misschien dat ze dan ook wel dergelijk asociaal rijgedrag automatisch gaan melden aan de politie, met beeldmateriaal erbij

[PdeBie]

troll? Of een ordinaire wegmisbruiker? Ik hoop op het eerste om eerlijk te zijn.

[Luuk.vanRiel]

Deze autos zouden ervoor zorgen dat alles sneller gaat lopen in het verkeer. Afstanden tot anderen kunnen verkleind worden en deze autos weten precies hoe hard ze kunnen gezien de situatie, weersomstandigheden en wegdek. Zou me niet te druk maken dat ze straks traag rijden. Denk dat ze gewoon mooi meerijden met de rest van het normale verkeer.

[Dorank]

De link van PdeBie laat perfect zien dat autonome voertuigen niet werken op plekken waar er over verkeer is (voetgangers, (brom)fietsers en motoren). Dus de eerst komende 50 jaar zal je ze buiten de snelwegen niet effectief kunnen gebruiken, iets wat ik als motorrijder betreuren zal precies vanwege de aangehaalde URL.

[Soldaatje]

Dat zal gewoon strafbaar zijn, net als met een laserpen in een cockpit schijnen, kan je een aantal jaar voor zitten.

[Birdymaniac]

dat iets strafbaar is heeft nog nooit iemand tegengehouden

[Beremboy]

Nee het heeft nog nooit iedereen tegengehouden, en dat is wel een groot verschil

[stresstak]

Nee het heeft nog nooit iedereen tegengehouden,

Je hoeft ook niet iedereen met een laserpen te tergen. Een paar piloten is genoeg voor een bericht in de krant.

[maniak]

Uiteraard, maar moeilijk te handhaven...

[TKroon]

Dat gebeurt met name tijdens de nadering. En dan is het wel degelijk in de meeste gevallen de echte piloot die het toestel aan de grond zet.

Dus het is niet om de piloot in bescherming te nemen, maar ook alles en iedereen aan boord en op de grond.

[CivLord]

Misschien om die ene piloot die toch zelf aan de knuppel zit omdat zijn boordsystemen niet (goed) werken.
Heel veel regels zijn er niet voor de standaardsituatie maar voor bijzondere situaties die zich voor kunnen doen.

Vergelijk het met het maximale promillage alcohol in het bloed. Automobilisten kunnen prima met twee, drie of zelfs vier keer meer alcohol op een auto besturen. Het probleem komt pas wanneer ze plotseling ergens op moeten reageren, omdat de alcohol het reactievermogen beïnvloedt.

[Webaccess]

Is het terecht om hier nu al naar te kijken? Ik denk het wel.
Het doel is uiteindelijk dat de auto's autonoom gaan rijden, maar als het uitgangspunt is dat iedereen zich aan de regels gaat houden gaat het niet werken.

Volgens mij hebben we met alle elektronica (PC en internet in het bijzonder) ondertussen wel geleerd dat security intrinsiek onderdeel van het ontwerp moet zijn. Ga er vanuit dat het systeem gesaboteerd gaat worden en neem dit in het ontwerp mee.

Zonder deze voorbereiding is het wachten op de:
- Alles gaat voor je aan kant box
- Iedereen laat je voor uitbreiding

Voor de duidelijkheid, er is niks mis met het testen zonder dat alles geregeld is. Hoe werken de componenten met elkaar, hoe moeten we de gegevens van de sensoren interpreteren, hoe werken de verschillende auto's onderling. Maar ga niet achteraf kijken naar beveiliging.
(Wanneer krijgen we de eerste virusscanner voor autonome auto's)

[Verwijderd]

Er zitten ook grenzen aan de beveiliging... Je kunt ook met een laser iemand in het gezicht schijnen. Ik garandeer je dat het verblinden van een menselijke bestuurder een véél grotere uitwerking heeft dan het verblinden van de lidar. Niettemin hebben we in onze auto's geen bescherming tegen het verblinden van de bestuurder met een laser ingebouwd. En daar hoor ik niemand moeilijk over doen... Je moet dus ook kijken wat nog reëel is qua beveiliging.

[croxz]

The perfect crime: laat een auto verdwijnen en het slachtoffer rijdt zich erop dood zonder dat er enig bewijs achter blijft.

[Verwijderd]

Maar dát kan dus NIET. Lidar meet de reflectie van objecten. Je kunt natuurlijk doodeenvoudig doen alsof er méér objecten zijn, door op het goede moment een lichtpuls in de sensor te schijnen. De lidar weet zonder extra maatregelen niet dat het geen reflectie van zijn eigen uitgezonden puls is. Een lichtpuls toevoegen is dus heel simpel. Maar ándersom, een ontvangen lichtpuls verwijderen gaat je niet lukken. Je kunt dus niet een object laten verdwijnen van de lidar... alleen objecten toevoegen.

Het gevaar is dus niet heel erg groot... Je kunt het de auto onmogelijk maken te rijden. En je kunt 'm een nood-reactie laten uithalen, door hard te remmen voor een niet-bestaand object. Maar dat zal het systeem nog altijd op een veilige manier doen.

NB: Je kunt op dit moment ook de menselijke bestuurder van een auto met laserstralen beschijnen. En dat met vermoedelijk veel gevaarlijker consequenties dan een niet-bestaand object voor de lidar te construeren. Wat dat betreft is dit dus echt geen punt om je zorgen over te maken.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 19:31]

[Cloud]

Weet je dat wel zeker?

Er zijn materialen die zoveel em-straling opnemen dat er eigenlijk niets meer terugkomt. Bijvoorbeeld Vantablack. Zoals ik het zie zou een object, ingepakt in dit materiaal niet zichtbaar zijn voor de lidar van de Google auto, simpelweg omdat er helemaal niets terugkomt. En volgens mij niet alleen lidar maar ook infrarood en zelfs radar-straling.

Nu is een ongeluk overdag nogal lastig te regelen want voor de persoon in de auto lijkt het alsof je op een zwart gat afrijdt (dat zul je echt wel zien, het menselijk brein schijnt er nogal vreemd op te reageren). Die persoon zal dus nog in kunnen grijpen door de auto een noodstop te laten maken. Maar als je zoiets 's nachts op een onverlichte buitenweg zou doen, zou je het denk ik wel voor elkaar kunnen krijgen.

[stresstak]

Maar 's nachts op een onverlichte buitenweg kan ik wel meer mogelijkheden bedenken om zo'n rijdende robot te tackelen. Zonder dat er enig ander verkeer is.

[Eskimo0O0o]

In theorie is het natuurlijk mogelijk om stealth objecten te creëren (je weet de hoek en richting van waaruit de auto komt, daar kun je de hoeken van je stealth object op aanpassen, evt met speciale coatings etc).

En voordat er weer mensen gaan roepen dat je op die manier in theorie mensen kunt omleggen met grote stealthobjecten op de snelweg: dat kan nu ook al gewoon door 's nachts grote zwartgeverfde betonblokken op de snelweg te leggen en dat gebeurt ook niet (bij gebrek aan reden en overvloed aan alternatieve makkelijkere en succesvollere manieren om mensen om te leggen), dus waarom zou dit dan opeens anders zijn over een X aantal jaar?

[croxz]

Ik zie het, ik had niet goed gelezen.

[DigitalExorcist]

Behalve dat uit de blackbox van het wrak gehaald kan worden dat er 'ineens' een auto verdween. Softwarefout? Mogelijk. Maar ook dat moet terug te vinden zijn in de logs. Geen softwarefout? Sabotage.

En dan hebben die auto's nog camera's en dergelijken. En 'manuele interventie'.

[Mopperman]

het voegt extra objecten toe, dus als je dit goed timed kan het systeem denken dat er plots een auto of ander object voor je staat en in de remmen schieten, daardoor kunnen er ongelukken komen dorodat er bijv. iemand achterop knalt.

[Zenomyscus]

Het klink een beetje overdreven, maar het is heel terecht om hier nu al naar te kijken.

Ik vraag mij ook af in hoeverre medeweg gebruikers een autonome auto zullen uittesten.
(Lees: proberen te beïnvloeden door het creëren van gevaarlijke situaties)

Dat mag wat mij betreft gewoon bestraft worden. Het schijnen met een laserlamp op een helicopter mag ook niet en een bouwlamp aan een viaduct hangen ook niet. Neemt niet weg dat er zoveel mogelijk tegen gedaan moet worden. Er zijn altijd mensen die het leuk vinden om het toch te doen. En dan bedoel ik niet alleen het kraken van een dergelijke auto of het blokkeren van sensoren, want ook bakstenen worden regelmatig van een viaduct gegooid. Er is helaas altijd wel iemand die het gaat misbruiken, de truc is het zoveel mogelijk te beperken en misbruik te straffen.

[gordian]

Het lijkt me veel vervelender als je objecten zou kunnen laten verdwijnen. Een extra object toevoegen kan natuurlijk ook schade aanrichten omdat het voertuig dan ineens zou moeten uitwijken.

[Verwijderd]

Het lijkt me veel vervelender als je objecten zou kunnen laten verdwijnen.

En dat is dus onmogelijk, je kan geen reflecties laten verdwijnen door extra signalen toe te voegen.

Overigens lijkt me dit weer een onderzoek ten bate van het onderzoek. Ik kan zo honderden manieren bedenken waarop ik het huidige verkeer kan hinderen en daarom maken we ons in het geheel geen zorgen. Van bakstenen van een viaduct (kunnen we ons allemaal nog wel herinneren) to kraaiepootjes op de weg. Allemaal mogelijk (en met encryptie niet te verhinderen) en al gebeurd maar niet iets waar we van wakker liggen.

Dit is NIET gebeurt, behoorlijk ingewikkeld om uit te voeren en het is al nieuws.

[Dorank]

Het is wel degelijk belangrijk nieuws aangezien het weer aantoont dat er niet goed wordt nagedacht over de implicaties van de nieuwe technieken. Het zou al helpen als de er een random (niet voorspelbaar) patroon in de pulsen zit en en in de reflecties wordt gecontroleerd of dat patroon ook daadwerklijk van het voertuig afkomstig is. Dat lijkt me toch heel erg voor de hand liggend en essentieel om te implementeren.

[gwie]

In dat geval zou het patroon echter verstoord kunnen worden waardoor objecten die er wel degelijk zijn niet herkend worden.

[Dorank]

Om het patroon te verstoren zul je echter en het patroon moeten kunnen ontvangen en nog iets terug moeten kunnen sturen. Dat maakt het al moeilijker dan de in het artikel aangehaalde methode voor het verzinnen van objecten.

BTW ik mag hopen dat lidar niet het enige detectie mechanisme is, maar dat er ook nog gewoon passief optisch wordt gecontroleerd (met minimaal 2 IR cameras).

[Verwijderd]

[...]
En dat is dus onmogelijk, je kan geen reflecties laten verdwijnen door extra signalen toe te voegen.

Natuurlijk kan dat wel. Je kan virtueel objecten toevoegen en je kan ze ook virtueel verwijderen.
Maakt niet uit hoe het werkelijk er uit ziet. Het gaat om het misleidende signaal.

[Stoney3K]

[...]


En dat is dus onmogelijk, je kan geen reflecties laten verdwijnen door extra signalen toe te voegen.

Dat kan dus wel, als je genoeg signaal toevoegt dat de sensor in verzadiging raakt en dus een 'wit' beeld ziet, waardoor de nuttige informatie in de ruis verdwijnt.

Het is dan aan het systeem om te beoordelen of een verzadigde sensor als 'niets' gezien wordt of als een defect/noodsituatie. Als de sensor namelijk zelf zijn versterking aanpast en dus gaat verzwakken, dan verdwijnt het lidar-beeld uit het sensorplaatje.

[Toettoetdaan]

Of hij staat een uur stil voor het stoplicht omdat de auto voor hem geëmuleerd is door een Raspberry Pi

[SuperDre]

maarja, een auto laten stoppen is interessanter voor overvallers...

[JeffreyGorissen]

Slim dat ze er nu al mee bezig zijn, kon me al een heel nieuwe soort van carjacking voorstellen. Virtuele auto staat stil, zelfrijdende auto remt af en stopt, BAM rijp om te stelen.

[TheGhostInc]

Virtuele auto staat stil, zelfrijdende auto remt af en stopt,

Bestuurder schakelt over op handmatig omdat de auto zonder reden remt en rijdt over carjacker heen... BAM!

Overigens zijn er wel wat steden/locaties waarbij je rode stoplichten gewoon negeert omdat je anders inderdaad meteen wordt overvallen, dan kan een autonome auto ineens heel gevaarlijk worden.

[ikweethetbeter]

Bestuurder schakelt over op handmatig omdat de auto zonder reden remt en rijdt over carjacker heen... BAM!

Ja, dat zou logisch zijn. Echter, de Google auto heeft geen stuur en andere handmatige bedieningselementen meer...

[JustSomeWords]

Om een zelfrijdende auto te jatten zal je sowieso ook een override nodig hebben van de systemen. Anders kan je na net gecarjacked te zijn de controle terugnemen en hem linea recta naar het politiebureau laten rijden

edit: zinsopbouw

[Reactie gewijzigd door JustSomeWords op 22 juli 2024 19:31]

[Dennahz]

Overigens zijn er wel wat steden/locaties waarbij je rode stoplichten gewoon negeert omdat je anders inderdaad meteen wordt overvallen

Noem eens een voorbeeld? Lijkt mij toch sterk dat je gewoon op klaarlichte dag, in de drukte, wordt overvallen in je auto.

[Verwijderd]

In Johannisburg in Zuid-Afrika was het vlak na het afschaffen van de apartheid in sommige plekken inderdaad gevaarlijker voor rood te stoppen, dan door te rijden. Daar rijdt men ook standaard met de deuren op slot. Dit is geen grap, maar de harde realiteit. Voor lange tijd was Johannisburg dan ook een van de gevaarlijkste steden ter wereld.

In Nederland is dat natuurlijk helemaal niet aan de orde.

[stresstak]

Lijkt mij toch sterk dat je gewoon op klaarlichte dag, in de drukte, wordt overvallen in je auto.

Het hangt er vanaf of je weet hoe gevaarlijk de betreffende stad of wijk is en of je de weg weet.
Een voormalig schoolgenote is op zo'n manier aan haar eind gekomen in Miami. Verkeerde wijk, verkeerd moment. Overvallen. Dood dus..

[ManIkWeet]

GTA V = Real life

[Dennahz]

Zoals hij het schetst wel ja

[The Reeferman]

Hier, dit is dan op een motor, maar ik denk niet dat het voor de dief veel had uitgemaakt als je daar in je auto zit met iets waardevols.
https://www.youtube.com/watch?v=zYxN6PS7mXM

[Dennahz]

Justice! En ja, geef me maar -1. Ik vind dit gerechtigheid.

[Standeman]

En iemand moedwillig aanrijden (poging tot doodslag) is gelukkig ook niet strafbaar

[TheGhostInc]

Als je de carjacker gewoon netjes uit zijn lijden verlost en als trofee op de motorkap bindt zal niemand er echt een probleem van maken.

[Verwijderd]

Overigens zijn er wel wat steden/locaties waarbij je rode stoplichten gewoon negeert omdat je anders inderdaad meteen wordt overvallen, dan kan een autonome auto ineens heel gevaarlijk worden.

Wat wil je anders doen? Door rood rijden? Dat is al helemaal dom

[Sissors]

Waarom zou je daarbij in hemelsnaam moeilijk gaan doen met de sensoren te spoofen? Makkelijkere optie: Zet een echte auto stil, zelfrijdende auto (of een reguliere auto, als er een auto voor me stil staat geef ik meestal niet vol gas) zal ook erachter stil gaan staan.

[CivLord]

Waarom zou je daarbij in hemelsnaam moeilijk gaan doen met de sensoren te spoofen?

Omdat het kan? Wanneer het met wat simpele hardware te doen is, is er altijd wel een technisch aangelegde puber die het leuk vindt om anderen op deze manier te 'plagen'.

[Sissors]

In mijn woordenboek staat carjacking niet onder 'plagen', maar een ernstig misdrijf. Het voor de 'grap' doen, is inderdaad een realistischer gevaar hiervan. Of desnoods iemand die ongelukken wil veroorzaken (ik kan er ook niet bij met mijn hoofd dat ze zoiets niet gerandomized hebben. Misschien moeten ze sowieso eens met ontwerper van bijvoorbeeld militaire radarsystemen gaan praten hoe je die dingen veilig tegen allerlei soorten jamming krijgt).

Mijn punt was echter dat het voor carjacking redelijk zinloos is.

[CivLord]

Ik ga niet uit van carjacking. Dat is inderdaad veel serieuzer dan plagen.
Ik dacht meer aan het veroorzaken van uitwijkmanoeuvres voor obstakels die er niet zijn.

[kwikstaart]

Ik zie een KIT-scene voor me. Zwarte vrachtwagen a la knightrider staat ergens geparkeerd. Door alle signalen te misleiden wordt zelfrijdende auto in deze vrachtwagen gereden. Klep dicht, wegrijden.

[steven1191]

en daarna kun je er alsnog niks mee, en makkelijk op te sporen gezien het zelf rijdend is.

[BlaDeKke]

Sommige mensen zijn meer waard dan een wagen. Als iedereen autonoom rijdt. Die 'belangrijke' mensen dan ook.

Ik wil in elk geval niet wakker worden tijdens het rijden en beseffen dat ik in een container zit. Dat ze nadien niets met men auto zijn baart me eens zoveel zorgen. Die auto kan me gestolen worden dan...

[Verwijderd]

Nog niet eens over nagedacht maar nooit meer een boete voor beschonken rijden.
Maar slapen in je autonome auto dan heb je wel veel vertrouwen in het systeem. Denk dat je de eerste paar dagen het toch wel ff aankijkt of het wel goed gaat allemaal

[steven1191]

ook die "belangrijke" mensen zijn makkelijker te traceren gezien alles via computers gaat draaien. Dit maakt een doelwit, maar tegelijkertijd ook traceerbaar voor beveiliging.

[PdeBie]

Want ze kunnen die belangrijke persoon ondertussen niet even snel overzetten in een niet traceerbare auto?

[steven1191]

hoe kunnen andere auto's erop inschatten als zijnde zelf rijden en niet traceerbaar?

[BlaDeKke]

Doormiddel van het systeem dat nu gehacked is. Of versta ik je vraag fout? Je bedoeld toch hoe kunnen autonome en manuele auto's op dezelfde baan rijden?

[steven1191]

Als een auto niet traceerbaar is, hoe kan een autonome auto dan inschatten waar die niet traceerbare auto zou rijden?
Maak je gebruik van sensoren, ben je voor andere voertuigen namelijk alsnog detecteerbaar en dus traceerbaar

[BlaDeKke]

Jep, dat stapje verder had ik nog niet bedacht. Kortzichtig van me.

[Annihlator]

Ja, want je zal bij deze situatie geen rekening houden met het feit dat je niet wilt dat het slachtoffer/c.q. autonome-auto alarm slaat... deze actie haal je niet uit zonder ook een paar extra millimeter staalplaat aan te brengen als signaalisolatie...

[supersnathan94]

Op het moment dat je een sensorisch onzichtbare vrachtwagen hebt (wat dus militaire vliegtuigen niet eens hebben, althans niet volledig onzichtbaar), dan heb je daar inderdaad ook wel aan gedacht.

[Luuk.vanRiel]

En is het niet zo dat deze autonome autosystemen nog in ontwikkeling zijn en zulke ontdekkingen er dus voor zorgen dat wanneer het op de markt komt er vrijwel geen exploits inzitten.

[kozue]

Signaaljammer op de plaats van delict en weg traceerbaarheid. Alleen dingen/personen die gevolgd *willen* worden worden ook echt gevolgd.

[The Reeferman]

Die zijn wel verboden, was een tijdje geleden nog een inval in een spyshop in Amsterdam omdat ze deze verkochten. En die ANPR systemen die op sommige doorgaande routes op elk kruispunt hangen.

[stresstak]

Die zijn wel verboden, was een tijdje geleden nog een inval in een spyshop in Amsterdam

O gelukkig. Ze zijn er wel maar zijn verboden. Een pak van mijn hart.

[kozue]

En hoeveel autodieven zullen zich er druk om maken dat ze verboden zijn? Ik dacht dat diefstal zelf al verboden was...

[ATS]

Slopen voor onderdelen, netzoals veel andere gestolen auto's tegenwoordig in onderdelen en niet als geheel verkocht worden.

[moeilijkenaam]

Ik snap het niet helemaal - hoe zou je lidar kunnen versleutelen?

[Orion84]

In een puls licht, net zoals in een radiogolf, kan je informatie verwerken. Door bij het uitzenden wat onvoorspelbare informatie in de puls te verwerken en bij de reflectie te checken of die informatie nog klopt met wat er was uitgezonden, wordt het lastig voor een aanvaller om zelf extra reflecties te gaan genereren. Want dan moet je dus eerst de puls opvangen, checken wat de juiste reflectie zou zijn en die versturen, wat waarschijnlijk niet snel genoeg kan. In de huidige setting waar gewoon een simpele puls licht gestuurd wordt, kan je van tevoren bepalen hoe de reflectie er uit moet zien die je moet spoofen.

Tenminste ik gok dat ze op iets dergelijks doelen. Daadwerkelijk versleutelen zie ik ook niet helemaal wat daarmee bedoeld zou moeten worden.

[stresstak]

Tenminste ik gok dat ze op iets dergelijks doelen. Daadwerkelijk versleutelen zie ik ook niet helemaal wat daarmee bedoeld zou moeten worden.

Ik denk ook dat coderen bedoeld wordt. Waarbij alleen gereageerd wordt op eigen signalen die terugkomen ?

[Douweegbertje]

Helemaal technisch weet ik dat ook niet, maar de basis is vrij simpel. Je stuurt "iets" aan signalen naar buiten, en verwacht deze ook weer terug. In zekere zin accepteert hij nu alles wat terug komt. Je kan vast wel iets van een vorm van uniekheid toepassen op de verstuurde "stralen" waardoor je ook alleen deze vorm weer terug accepteert. Dat maakt het dus vrijwel onmogelijk voor een 'random' iemand, om een zelfde soort straal terug te sturen.

[Verwijderd]

Helemaal technisch weet ik dat ook niet, maar de basis is vrij simpel. Je stuurt "iets" aan signalen naar buiten, en verwacht deze ook weer terug.

Wel als er geen object is, is er geen reflectie en komt het signaal niet terug.
Encryptie kan wel redelijk eenvoudig met frequencies etc.

[kiang]

Het is ook makkelijk menselijke chauffeurs om te tuin te leiden/te voorkomen dat ze goed kunne sutren: laserpennetjes, speigels, doen schrikken, etc etc etc.

Het is goed dat naar de mogelijke 'kwetsbaarheden' wordt gekeken, maar laten we nu neit doen alsof dit een onoverkomelijke achilespees is van zelfrijdende auto's: momenteel zijn er wetten die verbieden chauffeurs af te leiden of te hinderen, met zelfrijdende auto's horen eenzelfde soort wetten natuurlijk ook te bestaan.

Dit soort onderzoek is imo dus vooral goed om te weten wat moet verboden worden, en niet zozeer een goed argument om zelfrijdende auto's van de baan te houden.

[Verwijderd]

Het is ook makkelijk menselijke chauffeurs om te tuin te leiden/te voorkomen dat ze goed kunne sutren: laserpennetjes, speigels, doen schrikken, etc etc etc.

Het is goed dat naar de mogelijke 'kwetsbaarheden' wordt gekeken, maar laten we nu neit doen alsof dit een onoverkomelijke achilespees is van zelfrijdende auto's: momenteel zijn er wetten die verbieden chauffeurs af te leiden of te hinderen, met zelfrijdende auto's horen eenzelfde soort wetten natuurlijk ook te bestaan.

Dat zegt ook niemand, maar zeker wel een pleidooi een een systeem zo veilig mogelijk te maken (in dit geval encryptie) en er een tweede back-up systeem te gebruiken. dat het andere controleert/ondersteund. Zoals bijvoorbeeld camera's en IR camera's.

Dit soort onderzoek is imo dus vooral goed om te weten wat moet verboden worden, en niet zozeer een goed argument om zelfrijdende auto's van de baan te houden.

Dit onderzoek laat zien dat de autonome auto nog lang niet klaar is. Zo'n onderzoek zal er alleen voor zorgen dat de autonoom rijdende auto kritisch gevolgd wordt en er (hopelijk) voor gezorgd wordt dat er alleen veilige auto rijdende auto's op de weg komen en niet auto's al la Chrysler.

nieuws: Hackers kunnen op afstand remmen uitschakelen op Chrysler-auto's

[Verwijderd]

Tot er encryptie wordt toegepast in de lidar. Als extra beveiliging kun je ook optische fase detectie inzetten die ook in het infraroodspectrum werkt zodat het s'nachts en met mist ook werkt.

[Verwijderd]

Lidar in het infraroodspectrum?

[Verwijderd]

nee fasedetectie (techniek die camera's gebruiken om de afstand tot een object te meten) dat werkt met aanwezig licht geen laser nodig dus.

[cedal]

Het geeft me een goed gevoel en best wel wat vertrouwen dat ze er al mee bezig zijn. Voorkomt een hoop narigheid en ik denk dat de overheid met dit soort rapporten dan ook misschien wat minder moeilijk doet mocht de tijd daar zijn.

[kh65]

Maar je kunt nu ook al een zelfrijdende mens flink om de tuin leiden met laserstralen of andere lampen...
Wat is het grote verschil? Dat een mens misschien nog denkt 'dit is niet in de haak, ik toch anders reageren'?

[ISaFeeliN]

Goed dat ze er al naar kijken, zoals eerder gezegd. Maar ik moet wel gelijk denken: jammer toch eigenlijk dat we zo onze eigen vijand zijn... Al die nodige beveiligingen, overal. Wat een bak energie kost dat toch, dat gevecht met onszelf..