Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Baidu gaat ritjes met zelfrijdende taxi's aanbieden in Peking

Baidu breidt zijn vloot met robottaxi's uit naar Peking, waardoor Chinezen in de hoofdstad een ritje kunnen krijgen met een zelfrijdende auto, al rijden er voorlopig nog wel menselijke chauffeurs mee. Eerder werd er al in kleinere Chinese steden getest.

Volgens de Chinese techgigant bestrijken de robottaxi's een netwerk van wegen met een totale lengte van 700 kilometer in de stad Peking. Met de taxidienst, die de naam Apollo Go draagt, kunnen klanten op ongeveer honderd verschillende plaatsen in de stad in te stappen of uit te stappen.

Wie een ritje wil maken met de zelfrijdende taxi's moet zich registreren op Baidu Maps of op de website van Apollo Go. Er zijn voorlopig echter maar 40 zelfrijdende taxi's, maar er zijn wel plannen voor uitbreiding als de initiële introductie goed verloopt.

De komst van de Apollo Go-taxi's naar Peking volgt nadat Baidu vorige maand begon met testen in twee kleinere Chinese steden. Een jaar geleden begon Baidu met de eerste tests met zelfrijdende auto's, toen nog op testwegen met een totale lengte van 50 kilometer; het bedrijf kreeg toestemming om de robottaxi's commercieel in te zetten nadat er meer dan een half miljoen kilometer met succes was afgelegd.

Door Bauke Schievink

Admin Mobile / Nieuwsposter

12-09-2020 • 12:39

96 Linkedin

Reacties (96)

Wijzig sortering
Lijkt me goed om te melden dat het hier gaat over een gebied dat ze tot op centimeter gemapt hebben en dat bij elke wijziging aangepast moet worden. De auto kan alleen klanten oppikken op vooraf geselecteerde plekken en je kan alleen naar bepaalde plekken rijden. De auto komt niet naar je rijden om snel even stil te staan waar het niet mag (zoals taxi's wereldwijd doen, met stilzwijgende toestemming van politie). Andere al bekende limitaties zijn dat als de stoplichten het niet doen de bijrijder alles zal moeten doen, in het donker bij regen, is er geen service.

Daar tegen poseer ik de trip die ik eind vorige maand maakte in mijn Tesla S. Rome-Berlijn en weer terug met wat andere dingen. 3200 Km in totaal.

Tijdens die trip stond de auto 92% van de tijd op full self-drive . Aangezien ik wat test loopt mijn software een paar weken voor wat anderen in Europa hebben maar de auto stopt voor stoplichten (en gaat weer rijden), neemt afslagen/opritten van snelwegen, haalt langzamere auto's in. Allemaal zonder enige input. Zelfs bij wegwerkzaamheden (hoe slim van Tesla om gele lijnen voorrang te geven boven witte!)

In die trip heb ik vier maal de controle overgenomen omdat ik er niet zeker van was dat het goed zou gaan. Eenmaal maakte de auto een echte fout en moest ik acuut ingrijpen (een wegrestaurant over de weg op een heuveltop, de auto zag geen weg alleen een gebouw. Doorgegeven aan Tesla en die staat nu in de lijst met uitzonderingen.

Een taxi die op een parcours, met bijrijder, onder beperkte omstandigheden zelf kan rijden vind ik persoonlijk niet zo indrukwekkend.
Hoewel ik het wel met je eens ben dat Tesla koploper is op het gebied van auto pilot, vind ik je vergelijk van je trip Rome Berlijn met 92% self drive met deze robot taxi in een mega drukke stad niet opgaan.

Je zal hoogstwaarschijnlijk 95% van je trip op snelwegen of soortgelijk gereden hebben. Dat is vele malen minder dynamisch dan in een stad waar deze auto's gaan opereren.

Mijn auto, een Audi A5, kan ook een hoop op de snelweg. Maar in de stad heb ik er weinig aan. Ik rij op de snelweg ook vrijwel geheel op autopilot, waar hij dan geen auto's in kan halen of afslagen kan nemen. In het buitenland kan hij wel anticiperen op bochten etc (in Nederland is het (predictive driving) helaas verboden om een of andere reden).

Je sluit af met een taxi op parcours, niet zo indrukwekkend. Het gaat om een miljoenen stad. En dat vind ik dus wel indrukwekkend.
De Audi kan in principe best inhalen en afslagen nemen, maar Audi gebruikt zijn bestuurders niet als proefpersonen.

Tesla is geen koploper in zelfstandig rijden, dat is Waymo. Waymo is, net als Audi, een stuk terughoudender met het loslaten van hun experimentele software op de echte wereld.
Je sluit af met een taxi op parcours, niet zo indrukwekkend. Het gaat om een miljoenen stad. En dat vind ik dus wel indrukwekkend.
Zijn verhaal is iets overdreven maar zijn punt is: Dit chinese systeem is waarschijnlijk erg gesloten en opereert enkel in een vooraf bepaalde omgeving. Hoewel dat een idee prima is voor publiek transport dat steeds weer hetzelfde rondje doet, heeft dit weinig echte waarde voor volledig zelfrijdende auto's.

Daarnaast moet je voorzichtig zijn met 'nieuws' wat van een fabrikant komt (laat staan China). Ik heb even gezocht en kan totaal geen onafhankelijke testen of zelfs nieuws vinden. De enige video die ik kan vinden laat niet veel indrukwekkends zien. Zoals al gezegd is er een vaste standplaats om in te stappen, de auto rijd met een slakkengang weg en alarmlichten aan. De kaart is duidelijk voorgeconfigureerd en werkt zeer traag bij (al zal dit enkel visueel zijn maar een Tesla doet dit nu al beter).
heeft dit weinig echte waarde voor volledig zelfrijdende auto's.
Ik denk dat je de video die je linkt zelf niet goed bekeken hebt. Ja in eerste instantie rijd ie met een slakkengang weg. Maar een minuut later rijd ie gewoon op normale snelheid in het zeer drukken verkeer.

Dat drukke onvoorspelbare verkeer in de stad is veel moeilijker dan wat een Tesla doet. Daarom lijkt me dit juist wel veel waarde geven voor volledig zelfrijdende auto's.
Ja, ik heb de video meerdere keren gekeken. Ze rijden 3.2 KM en enkel op de grote wegen volgens de routeplanner. Ze starten vanaf een 4 baan's weg waar bijna geen verkeer rijd en rijden zo te zien enkel met het verkeer mee.

Ik kan met 100% zekerheid zeggen dat mijn model 3 dit nu ook al prima kan. Echter claimt Tesla geen L4 autonomie wat men in dit filmpje wel doet.
Maar wat als er nu iets onder dat restaurant over de snelweg staat? Gaat de Tesla dat nog wel zien!
Heeft Tesla een dergelijke commerciele service dan? Neen
Wie zegt dat Baidu niet getzelfde kan als Tesla, maar ze willen het risico niet lopen dat er iets fout gaat? Je zegt zelf dat je 4 keer moet ingrijpen op 3000km, waarvan waarschijnlijk nog autosnelweg. Dat is een belabberd resultaat om een autonome service aan te bieden.

Je doet wel heel positief over Tesla, er zijn verschillende merken die even ver staan in self driving, maar die testen niet op hun bestuurders maar zijn conservatiever. En ja, ik heb ook een aantal Tesla's, met een MX zitten we zelfs ook in de test groep, maar ik blijf wel met beide voeten op de grond. Ik heb een ongeval gehad waar ik niet meer kon ingrijpen omdat auto ineens versnelde in de file en botste op voorligger. Daar sta je dan en mag je opdraaien voor alle kosten. Eigenlijk onverantwoord dat de overheid dit toestaat. Sindsdien rijd ik zelden nog autopilot, ik heb ook een verantwoordelijkheid naar de andere bestuurders.
Ik heb een ongeval gehad waar ik niet meer kon ingrijpen omdat auto ineens versnelde in de file en botste op voorligger. Daar sta je dan en mag je opdraaien voor alle kosten
Heb je wat meer info over wat er gebeurd is? Ik denk dat ik niet de enige ben die daarin geïnteresseerd is.
Ik weet niet of je ooit gereden hebt in China / Beijing maar als dit daadwerkelijk het geval is vind ik het zeer indrukwekkend. Ik heb heden ten dagen een chauffeur omdat men zich totaal niet aan de regels houdt, en dan moet je denken aan delivery services die overal door het rood gaan, die op de verkeerde kant van de weg rijden, zo door het verkeer snijden, fietsers die altijd de weg kwijt zijn, voetgangers die achterlijke dingen doen. Ik kan zo nog wel even doorgaan, maar ik denk dat je wel onderhand het beeld van China wel door hebt. Het is hier een grote chaos dag en nacht. Zelfs mijn chauffeur moet ik soms nog corrigeren omdat die rare fratsen uithaalt.

Dus als dit functioneerd en deze tech komt in een gewone auto hebben ze mij zo als klant.
Ik dacht dat men in China een camera-systeem heeft (face recognition), die bijhoudt wat je allemaal fout doet, en dat het je punten kost als je iets fout doet. Heeft dat dan geen effect?
Enkel op specifieke kruispunten hebben ze camera's hangen en dat weerhoudt nog steeds een legio er niet van om zich als een stelletje zwak begaafde in het verkeer te mengen.
Een wegrestaurant over de weg op een heuveltop, de auto zag geen weg alleen een gebouw.
Wat moet ik me hierbij voorstellen? Een restaurant die als een viaduct over de weg hangt? En als de Tesla geen weg ziet, maar alleen een gebouw, zou die dan niet automatisch moeten stoppen? Wat hield het acuut ingrijpen in?

(Ik snap het oprecht niet. Wil begrijpen wat je bedoelt, want vind de techniek razend interessant!).

Edit: een van de vragen anders geformuleerd.

[Reactie gewijzigd door altijdprijs op 12 september 2020 20:29]

hoe slim van Tesla om gele lijnen voorrang te geven boven witte!
Niks slims aan; en zeker niet met uitroepteken. Dat is echt basisfunctionaliteit voor autopilot-systemen. En dan moet je trouwens alsnog weer rekening houden met daar weer uitzonderingen op. 100,000% Autopilot is nog decades van ons verwijderd. Je kunt niet elke uitzondering in software zetten. Veel uitzonderingen zijn onmogelijk te voorspellen. Als er niemand in de auto zit met een rijbewijs, dan moet een auto met autopilot op afstand bediend kunnen worden vanuit een centrale.
Het leuke is dat ik anderhalf jaar geleden, op weg naar Oostenrijk dus op Duitse snelwegen met veel werkzaamheden, juist merkte dat Tesla dit nog niet goed kon. Het algoritme heeft hier dus van geleerd en is verbeterd.

Het zal nog wel een tijd duren voordat je echt geen bestuurder meer nodig hebt, maar dat zelflerende zal steeds sneller gaan naarmate er meer auto's met autonomie rondrijden.

Ja en die onfeilbaarheid hebben we nu ook niet. Dus of we moeten verwachten dat er nooit meer iets mis zal gaan is denk ik niet realistisch.

[Reactie gewijzigd door bilgy_no1 op 13 september 2020 09:09]

Het algoritme heeft hier dus van geleerd en is verbeterd.
Ik neem aan dat het niet is aangeleerd door een algoritme, maar dat Tesla het er dan gewoon aan de software heeft toegevoegd.
Ja en die onfeilbaarheid hebben we nu ook niet. Dus of we moeten verwachten dat er nooit meer iets mis zal gaan is denk ik niet realistisch.
Ik wil niet doodgereden worden door een stuk software. Dan doe ik dat liever zelf... ;)
Waar nooit over gesproken wordt, en wat volgens mij een noodzaak is om op grote schaal (ook onverharde landweggetjes) autopilot te kunnen gebruiken, is dat de auto's op afstand via een centrale bediend kunnen worden, als de software van de auto het zelf even niet meer weet.
Je onderschat het verschil tussen 92% en 100% nogal.
Zelfrijdend en gedeeltelijk zelfrijdend scheelt waarschijnlijk minstens 15 jaar ontwikkeling.

Tesla heeft, na een jaar of vijf ontwikkelen en testen, autopilot in 2015 geïntroduceerd.
Het is nu 2020 en de boodschap is nog steeds: handjes aan het stuur! Zelfs op de snelweg moet je als chauffeur zeer alert blijven, er zou zomaar eens een wegrestaurant kunnen staan. Ja, het is knap wat Tesla doet, maar ze zitten nog niet eens volledig op level 3 zelfrijdend.
Zelfrijdend en gedeeltelijk zelfrijdend scheelt waarschijnlijk minstens 15 jaar ontwikkeling.
Het scheelt sowieso al langer dan 15 jaar; want gedeeltelijk zelfrijdend is nu al reeds langer dan 15 jaar. Reken meer op 50..100 jaar verschil.
Als je het handgas dat honderd jaar geleden gebruikelijk was meetelt wel.
Ik doel op de modernere manieren van zelfrijdend, denk aan het niveau Tesla of Waymo.
Wat voor tech gebruiken deze auto's?

In vergelijking met bijvoorbeeld Tesla die camera's + lerend algoritme heeft? Waar haalt Baidu de data vandaan?
Baidu heeft geen lerende auto's. Bij dit systeem worden de auto's voorgeprogrammeerd. Net zoals ze al jaren op Schiphol doen. Daarom kunnen ze nu al aanbieden op 1 gebied, maar elk gebied moet handmatig toegevoegd worden.
Denk dat je dan toch even wat beter mag inlezen op het systeem van baidu, wantvals je dat voorgeprogrammeerd noemt, dan geldt dat ook voor Tesla en waymo...
De aanpak van Waymo en Tesla is juist totaal anders: Waymo probeert alles in te programmeren, Tesla pakt het aan als een big-data probleem.
Het verschil tussen die twee is de technologie waarmee een 3d-model van de omgeving wordt opgebouwd. Optische camera's bij Tesla, Lidar bij Waymo.

Op basis van dat model, in combinatie met gedetailleerde kaartinfo, doen ze vervolgens hetzelfde: de auto de juiste keuzes leren maken in alle mogelijke verkeerssituaties.
Daar mag je even over uitweiden. Ook individuele Tesla's "leren" niet. Het leren gebeurt op het hoofdkwartier en de resultaten daarvan worden met updates weer teruggestuurd naar alle auto's. Elke Tesla (per type en softwareversie natuurlijk) is qua kennis identiek.

Ik snap dus even niet hoe de auto's van Baidu anders zijn. Zij rijden toch ook zelfstandig van A naar B, blijven tussen de lijntjes en ontwijken andere weggebruikers?
Mooie ontwikkeling, kan niet snel genoeg alle aso taxi-chauffeurs vervangen die veel te hard over de wegen scheuren.
Ik woon al 5 jaar in China en Beijing en rij scooter ( auto is zo goed als niet te krijgen als buitenlander)....... Verschil tussen een taxichauffeur en een normale bestuurder is echt 0 :+

Ik heb er wel is over nagedacht om een go-pro tijdens me rit naar het werk te gebruiken puur om aan familie en vrienden te laten zien wat voor acties er zijn :+ ( mensen die oversteken op de snelweg , met de vrachtwagen tegen het verkeer in , Afslag gemist ... dan zetten we hem in ze achteruit).

Taxi chauffeurs zijn vaak de betere chauffeurs omdat schade aan de auto etc hun geld kost.

Er zijn nogal veel die denken dat rijden en op wechat( chinese whatsapp) zitten standaard is ondanks dat je er wel een boete voor kan krijgen.

Maatje heeft een tesla in Beijing en die gaf aan dat de automatische optie juist wel goed werkt in de stad ik gok dat met de juiste machine learning elke situatie ooit wel is voorkomt.

Zou ook grote voordelen opleveren alleen vraag ik me wel af wat ze gaan doen met alle taxichauffeurs ( uber chauffeurs) want dat zijn vaak net de middenklasse en die moeten dan toch een andere baan gaan zoeken.

[Reactie gewijzigd door Zyphlan op 12 september 2020 13:55]

Haha.. Jaa die vrachtwagens op z'n achteruit in in de snelweg. Is dagelijkse kost in China, maar is in NL ook in opkomst.

https://www.dumpert.nl/item/7981199_877fc274
Of hele families zonder verlichting op een 125cc, baby in het midden, lekker over de vluchtstrook.

Op een gegeven moment vallen dat soort dingen niet eens meer op...
Lekker om een hele groep over 1 kam te scheren. Laten we het eens vertalen naar onze beroepsgroep: "het zal tijd worden om al die systeembeheerders te automatiseren. Ze zijn te lui om problemen snel op te lossen.". Klinkt opeens een stuk raarder, vind je ook niet?
Onze mening wordt nu eenmaal beïnvloed door ervaring, en zeker wanneer je weinig gebruik maakt van een bepaalde dienst kun je het compleet verkeerd treffen.

Mijn laatste 5 taxi-ritten in NL;
- extra onnodige omweg, niet volgens de navigatie of enige logica
- 30 km/u te hard rijden binnen de bebouwde kom
- regelmatig rechts inhalen
- geen nederlands kunnen spreken
- toeteren voor overstekende personen
- poging tot misleiding

Generalisatie is niet goed, maar kom op, er zitten wel veel rotte peren tussen.

Tevens, er zijn zeker genoeg die zeuren over "die systeembeheerders altijd ...", zo wereldvreemd is dat voorbeeld niet :+
Onze mening wordt nu eenmaal beïnvloed door ervaring, en zeker wanneer je weinig gebruik maakt van een bepaalde dienst kun je het compleet verkeerd treffen.
Generalisatie is niet goed, maar kom op, er zitten wel veel rotte peren tussen.
Velen hebben deze ervaring in Nederland. Excuses, met ruime ervaring denk ik dat in Nederland het grootste hufter volk op de taxi's zit, nog vele malen ergen dan in de VS of in Spanje of Italie.
Vooral dan ook mijn buitenlandse collega's als ze vanaf Schiphol naar centrum Amsterdam of andere steden moesten. Soms honderden euro's meer betalen, grote bek, onbeschoft en huftergedrag.

In China en vooral ook Japan of Korea heb ik totaal andere ervaringen. Dit dus meer een niche product dan noodzaak ivm onbetrouwbaar onguur volk - de inzet van onbemande taxi's zie ik eerlijk gezegd ook voorlopig alleen maar goed slagen in bovenstaande Aziatische landen, alleen al als je kijkt naar wetgeving.
Je vergeet de taxi prijzen in NL nog.... Laatste keer dat ik er gebruik van maakte ( noodgedwongen omdat ik de laatste trein overstap van IC naar boemel gemist had) kostte me €22 voor een ritje van nog geen 5 km.
De taxi van dienst was niet eens een strakke jonge Mercedes maar een 5e hands Fiat met de nodige butsen en krassen. ( ok, ik overdrijf nu maar het was een Fiat van een model dat al even uit productie was.)
Verzachtende omstandigheid was wel dat de chauffeur vertelde dat dit zijn eerste rit sinds 2 1/2 uur was en dat de wachturen niet betaald werden.
Inderdaad, en waar men hier ook aan voorbijgaat is dat je er weer een hele bak andere problemen bij krijgt. Een alcoholslot voor de passagiers bv. om ellende te voorkomen, camera's met menselijke bewaking tegen vandalisme en drugsgebruik, voetgangers die zien dat er geen chauffeur is en expres oversteken. Ik denk dat we een menselijke chauffeur gauw zullen missen. Werkgelegenheid, veiligheid op straat, en nog veel meer.
En als je bezopen bent wil je toch wel tegen iemand aanlullen toch? Lijkt me dodelijk saai een chauffeurloze taxi.
Raar?
Steeds meer systeembeheertaken worden al geautomatiseerd. Deze trend zal niet stoppen.
Denk dat er meet 'normale' bestuurders over de weg scheuren dan taxi bestuurders.
Mooi nieuws! Kan niet wachten tot de hele taxi-vloot wereldwijd zelfrijdend is. Heb misschien 10% van de keren wel genoten van een chauffeur, de overige keren niet. Plus veelste duur. Dus dan kan je tenminste ritjes voor een schappelijke prijs krijgen. :) Mooie ontwikkelingen.
Ja dat denk jij maar dat dat lekker goedkoop is: meeste is durfkapitaal.

Zodra ze marktleider zijn en de rest failliet is zullen de beursgenoteerde bedrijven net zoveel vragen als ze willen.

En een ander nadeel van zelfrijdende auto’s is dat AI geen empathisch vermogen kan hebben te anticiperen wat mensen gaan doen in de omgeving. Een automatische piloot op een vliegtuig hoeft dit niet te kunnen.
En een ander nadeel van zelfrijdende auto’s is dat AI geen empathisch vermogen kan hebben te anticiperen wat mensen gaan doen in de omgeving.
Even koud gezegd: empathie is geen onderdeel van een rijbewijs voor mensen. Een sociopaat kan ook zijn rijbewijs halen.

Bij zelfrijdende auto's wordt het simpelweg statistiek: wie veroorzaakt er meer ongelukken (met gewonden/dodelijke afloop), mensen of zelfrijdende auto's? Als het antwoord 'mensen' is, dan is er eigenlijk geen argument meer om niet te gaan voor zelfrijdende auto's.

[Reactie gewijzigd door The Zep Man op 13 september 2020 14:11]

Ik houd niet van koude rekenkunstjes. Maar als we dat gaan doen, dan ook graag op de menselijke manier: mensen verantwoordelijk houden indien er ongelukken plaatsvinden en eventuele rijbevoegdheid invorderen indien een rechtbank dat nodig acht.

Wie gaan we dan verantwoordelijk houden? De persoon die een zelfrijdende auto heeft ingesteld? Het bedrijf dat die dingen aanstuurd? Of toch het bedrijf dat de aansturende unit heeft ontworpen/gefabriceerd?
Interessant punt: de statistiek moet inderdaad wel gecorrigeerd worden voor ongepast slecht gedrag. Alle ongelukken veroorzaakt door verwijtbaar (crimineel) gedrag vormen een categorie op zich. Deze mensen / dat gedrag proberen we ook nu al van de weg te houden, d.w.v. rijexamens, intrekken van rijbewijzen, etc.

De juiste vraag: wie veroorzaakt er meer ongelukken (in de verschillende ernstigheden): zelfrijdende auto's of mensen die we dit vergeven? (Echt 'n ongeluk(je) dus.)

En dan de vervolgvraag: zijn we net zo vergevingsgezind naar die AI toe? Moet de menselijke maat de standaard blijven, of verwachten we (op termijn) veel meer van de AI's, simpelweg omdat zij het wel kunnen? D.w.z. is op enig moment een AI-implementeren / gebruiken die aanzienlijk achterblijft bij de state of the art en daardoor meer ongelukken maakt, ook verwijtbaar, crimineel gedrag? Trekken we van zo'n AI inderdaad dan ook de rijbevoegdheid in? (Uiteraard niet per instance, maar het totale gebruik ervan in voertuigen.)
Dit is erg ingewikkelde materie en daarom ook nog niet opgelost. Wat we nu zien rond autonome auto's is identiek aan wat we zien bij vliegtuigen: Die moeten veel veiliger zijn dan auto's. Of bussen. Uitsluitend om te voldoen aan ons brakke risico-perceptie. Dit gebeurt ook met autonome auto's.
@Quadrupeltje zegt hierboven letterlijk: "rij maar eerst eens als echte test 10jr zonder enig ongeluk" en ik heb vergelijkbare opmerkingen hier al vaker voorbij zien komen. Wat men zich kennelijk niet realiseert is dat elke vorm van vervoer volgens die criteria al lang verboden had moeten worden. We stellen kennelijk heel andere criteria op voor autonome auto's dan voor auto's met een mens.

De belofte van AI is duidelijk: minder ongelukken, minder doden, minder schade. Die belofte is niet uitsluitend marketingblahblah, maar ook de uitkomst van een heel simpele waarneming, namelijk dat techniek zich continu ontwikkeld. We verwachten en zien die ontwikkelingen in de medische wereld, in onze PC's, in de ruimtevaart, in de landbouw, in de bouw, bij militaire toepassingen. Maar het is kennelijk vreselijk lastig om diezelfde ontwikkeling te accepteren als het gaat om technieken die het menselijk brein voorbij streven.
Voorbij streven is denk ik niet het grootste issue. De angst zit 'm in het ontbreken van de menselijke maat, simpelweg één mens tegenover je: heb je te maken met zo'n ongeluk (of bijna ongeluk), wie spreek je dan aan? Nu al zijn de ervaringen denk ik erg slecht met het aanspreken van grote organisaties en het aanspreken op fouten in software in het bijzonder.

We zijn er met z'n allen immers flink zoet mee: bugs en data lekken vinden, onderbouwen, en melden, onder bredere aandacht brengen als de andere partij er niet snel genoeg iets mee doet, eigen geloofwaardigheid opbouwen om niet terzijde geschoven te worden, artikelen over dit alles hier op Tweakers (etc.). Dat hebben we allemaal niet nodig voor 'Pietje reed me aan'. Straks wel..
Dit is een interessante discussie. Ik snap je punt: als we het niet goed regelen, dan is het inderdaad "wij" (de gewone, aangereden burger), tegen "hunnie" (de grote fabrikanten). Dat is wat we niet willen en daarom is het zo belangrijk dat verantwoordelijkheden worden geregeld.

De schuldvraag wordt deels ook eenvoudiger doordat bij een eventueel ongeval veel data beschikbaar zal zijn ter analyse.

Maar het is misschien ook goed om een stap terug te doen en je af te vragen of de huidige situatie nu beter is: we zijn bij elke individuele auto afhankelijk van de kennis, kunde, emoties, gedrag en persoonlijkheid van de automobilist. Het is nu misschien wel makkelijker om de schuldvraag bij een ongeval vast te stellen, maar is het niet beter om het ongeval te vermijden? En dat is wel wat AI zou kunnen bewerkstelligen...
Interessant punt maak je.

Als er AI komt dat het op alle punten beter doet dan een mens, ben ik voor.

Met ook als kanttekening dat ik zelf ook de acties van zo’n ding kan anticiperen. Dat het ding mij snapt is cool, maar ik moet mij als fietser in het verkeer ook in kunnen schatten van wat het AI aan het doen is. Anders voel ik mij niet veilig.

Echter is software wel gewoon mensenwerk, (ook neuraal) en ik ben bang dat als er geen strenge controlle is op wat men maakt, dat bedrijven wel eens wat ‘bochten af kunnen snijden’ in de naam van winst. (Voorbeeld is bijvoorbeeld de nieuwe Boeing)

Stel nou dat bedrijven ongelukjes in de software gewoon kunnen bestempelen als een onbedoeld ongeluk en er dan gewoon mee wegkomen.

PS: maar ik heb er nog even over nagedacht. Dat AI op een heel overtuigende manier beelden kan namaken uit een training en altijd wakker zijn en supersnel kan processen, maakt het nog niet dat het bijster slim is.

De huidige AI is, vergeleken met de capabiliteit van een mensenbrein, belabberd te noemen op zijn best.

Het is op papier misschien leuk dat het complexe uitwijk-manoeuvres kan maken, maar het kan het verschil tussen een lifter en een verward persoon niet eens maken.

[Reactie gewijzigd door Some12 op 12 september 2020 18:42]

Dit is nog steeds uitgaande van de huidige situatie. Ik ben het met je eens dat het huidige niveau van AI niet toerijkend is voor volledig zelfstandige auto's, maar we gaan op dit moment wel heel snel naar een situatie waarin dat niveau voldoende is om een grotere algemene veiligheid te bieden dan de menselijke bestuurder. En uiteindelijk is dat het doel: als AI het aantal dodelijke ongelukken ook maar met 1% weet te verminderen, dan is het wat mij betreft geslaagd.
Het is al lang gebleken uit onderzoek dat de meeste ongelukken in het verkeer door menselijk falen komt en zelden door technische gebreken (die soms ook nog eens door de bestuurder genegeerd werden en dat dus tot een ongeluk heeft geleden).
Die discussie is al voorbij, het bedrijf die de software leverd.
Daarom zijn de betere zelfrijdende bedrijven ook gelijk de verzekeraar.
Bij menselijke chauffeurs accepteren we honderden verkeersdoden per jaar, alleen al in Nederland. De tolerantie bij zelfrijdende auto's zal heel veel lager zijn. Waarschijnlijk ongeveer nul.
Mee eens, ben alleen wel bang dat de zelfrijdende taxi's nog vrij lang een premium zullen vragen. Is toch wel een luxe product en de R&D kosten zullen ergens mee terug verdiend moeten worden.
De grootste kostenpost van een taxi is de chauffeur. Die kosten zijn dus vrij eenvoudig terug te verdienen zodra er geen chauffeur meer nodig is.
Dan tref ik zeker altijd de verkeerde, want ik hoor juist van veel taxichauffeurs dat ze er nauwelijks aan verdienen, in ieder geval in Nederland en de VS. Dus zo duur kunnen ze niet zijn.

Het staat zelfs in de top 10 van slechtst betaalde beroepen:
https://zakelijk.infonu.n...ht-betaalde-beroepen.html

[Reactie gewijzigd door TheVivaldi op 12 september 2020 13:12]

Desondanks blijven de uurlijkse loonkosten de grootste kostenpost om een taxi te laten rijden. Wat weer niet persé iets zegt over of die chauffeur zelf vindt dat hij genoeg verdient.

Een bron die dit onderschrijft; 58% kosten komt voort uit vergoeding chauffeurs.

The cost structure of any urban car service company has four components: vehicle costs (typically 18 percent of total, including acquisition, financing, maintenance, and licensing), corporate costs (15 percent, including dispatching, advertising, overhead functions such as IT and legal, and returns to shareholders), fuel (9 percent), and driver compensation (58 percent, including benefits).

https://americanaffairsjo...bers-path-of-destruction/

Dat is ook niet zo moeilijk te verklaren. Stel de chauffeur kan gemiddeld 40 km/u rijden. Dan maakt hij 320 km in 8 uur werken. Als de auto 1/14 rijdt is daarmee 23 liter diesel gemoeid, x €1,25 per liter = €28,75. Enkel als de chauffeur minder dan €3,60 per uur zou kosten qua loonkosten zou de chauffeur niet meer kosten dan de brandstof. Dat is onmogelijk gezien het wettelijk minimum brutoloon. En dan moet die chauffeur ook nog betaald worden als hij stilstaat. Zelfs met de hoge ritkosten vraag ik me af hoe het een winstgevend verdienmodel kan zijn.

[Reactie gewijzigd door nms2003 op 12 september 2020 13:35]

JE bron is gebaseerd op de US, waar het financieel toch heel anders gaat.

Daarnaast is mijn ervaring van toen ik taxichauffeur was dat je iets meer kilometer op een dag rijd. Dit was wel regiotaxi, dus misschien is het daar wat anders. Neemt niet weg dat de chauffeur een groot deel van de kosten is in Nederland, maar dat geld zeker niet voor de hele wereld.

3,60 per uur zou een hoog salaris zijn in veel landen. In Beijing, met een van de hoogste minimumlonen in China, is het minimumloon ongeveer 3 euro per uur. (ter vergelijking, in EU land Bulgarije zit het minimumloon iets onder de 2 euro per uur, Beijing is zeker niet meer een van de goedkope gebieden op aarde voor arbeid tegenwoordig).
Ja, maar daar kost een taxirit in verhouding met hier ook goedkoper.
Dus de procentuele winstmarge zal grotendeels gelijk zitten
Neen, de arbeidskosten zijn dan procentueel veel lager.

Hier krijgt een (goede) werknemer ongeveer 250 - 300 per maand (6 daagse werkweek, één vrije dag per twee weken komt ook nog veel voor).

Een beetje auto (uitgeklede toyota corolla) zit al gauw in de richting van 10 - 15.000 (3 - 4 jaarsalarissen). Benzine kost mij ongeveer 0.70 per liter.

Je ziet hier wat vaker (zeer) oude taxi's en meer chauffeurs per taxi zodat de auto liefst 7x24 uur in bedrijf is.
Enkel als de chauffeur minder dan €3,60 per uur zou kosten qua loonkosten zou de chauffeur niet meer kosten dan de brandstof. Dat is onmogelijk gezien het wettelijk minimum brutoloon.
Het is niet helemaal onmogelijk: ik had het naast Nederland ook over de VS. En ik heb toch altijd begrepen dat daar geen minimumloon is...

[Reactie gewijzigd door TheVivaldi op 12 september 2020 17:05]

Dat komt omdat je de winstmarge als iets absoluuts ziet. Een taxichauffeur met eerst een bak geld investeren (en dus lenen) om aan een auto te komen en een licentie/vergunning. Dat drukt z'n winstmarge enorm.

Daarnaast kunnen zelfrijdende taxi's in principe 24/7 rijden, terwijl de chauffeur slechts dagdelen rijdt.

[Reactie gewijzigd door Lekkere Kwal op 12 september 2020 13:19]

Het is een vrij simpel rekensommetje. De gemiddelde taxichauffeur rijdt 50.000 km/jaar en rijdt ook een redelijk vette auto. Laten we er van uitgaan dat zijn auto hem 1000 euro kost, per maand, inclusief alles. Een bijstandsuitkering ligt rond de 1500 euro als je een partner hebt die niet werkt. Bijstandsniveau is het absolute minimum dat nodig is om een dak boven je hoofd en eten in je buik te hebben.
Ik kan er flink naast zitten, maar je knappe jongen die durft te zeggen dat de chauffeur minder dan 50% van de totale kosten is.
Het hangt er natuurlijk vanaf over wat voor bedrijf we het hebben. Er zijn ook chauffeurs die met een "taxi van de zaak" rijden om het maar even zo te noemen. Helemaal als het om taxibusjes gaat, maar het komt ook met auto's wel voor. Dus dan is de chauffeur daar niks aan kwijt per maand.

Maar precies zoals ik al dacht is de chauffeur inderdaad niet de grootste kostenpost.

[Reactie gewijzigd door TheVivaldi op 12 september 2020 17:13]

Omdat de chauffeur niet veel verdient, wil dat nog niet zeggen dat het niet de grootste kostenpost is voor een taxibedrijf.
Als een chauffeur heel weinig betaald krijgt, dan lijkt me dat niet de grootste kostenpost als je bedenkt wat er allemaal nog meer bij komt kijken (aanschaf auto die zich moet terugverdienen, onderhoud, systeemupdates (taxi's gebruiken immers eigen ritprijssystemen), wegenbelasting, brandstof (nog even uitgaande van brandstofauto's), en zo kan ik nog een en ander noemen).
betaald krijgen en de werkelijke kosten die de werkgever kwijt is, is wel een groot verschil. Je hebt in principe al 3 chauffeurs nodig om 1 auto de hele dag bemant te houden, dan ook nog rekening houden met dat een chauffeur ziek kan worden of vakantie heeft maar toch doorbetaalt moet worden.
Bij een groot taxibedrijf is dat wel degelijk een grote kostenpost.
Je moet echt de kosten van chauffeurs niet onderschatten, ja in vergelijking met de rest is het niet de grootste kostenpost, maar wel een kostenpost die je liever kwijt bent, weer een factor waar je geen rekening mee hoeft te houden en die ook niet elk jaar meer en meer gaat kosten (loonsverhoging, verhoging van de werkgeverlasten) zonder er iets voor terug te krijgen..
Dat ontken ik ook allemaal niet. Maar lees nu eens terug: hierboven werd gesteld dat een chauffeur de grootste kostenpost zou zijn. Dat is het enige wat ik betwistte, niets meer en niets minder.
Met een minimumloon heb je in Nederland 22.000 aan loon. Tel daar werkgeverslasten bij op en je komt op 25-27k per jaar aan kosten voor salaris.

Dus zelfs als je een goede bak koopt van 50k met nog 10k aan apparatuur erin ben je daar na twee jaar al bijna doorheen.
Blijven de jaren daarna alleen je onderhoud, brandstof enzo over. Voor 25k kan je alsnog heel veel onderhoud plegen voor je loonkosten dus uberhaupt een kleiner aandeel kunnen hebben.
Dat is allemaal leuk en aardig, maar ik had het niet alleen over Nederland. In bijv. de VS is er geen minimumloon, dus liggen de kosten al heel anders.
Maar ook in de VS ga je niet werken als je niet op z'n minst ergens een krakkemikkig hutje kan regelen om te slapen en jezelf van eten en drinken te voorzien. Dus ook daar zal je alsnog snel aan flinke loonkosten zitten.
Een snelle google search leert mij dan ook dat het gemiddelde salaris van taxichauffeurs in de VS dan ook tussen de 25-35k ligt
Maar is dat een vast salaris of zijn dat fooien? Want in de VS krijgen obers, maar ook taxichauffeurs veel (en vaak ook relatief hoge) fooien. Daarom ook dat de salarissen bij die beroepen vaak laag zijn. Dus die 25K kan voor een aardig deel uit fooien bestaan.

[Reactie gewijzigd door TheVivaldi op 13 september 2020 14:30]

er zijn landen waar ze niet per uur betaald worden, maar per rit en zelf moeten instaan voor de licentie/wagen. Niet zoals hier in België bvb met luxe-auto's en een vaste vergoeding
Daar komt bij, als je dat hoort van Uber chauffeurs dan zou je het artikel van mijn vorige post eens moeten lezen...
Dan moeten ze misschien iets goedkoper auto’s gaan rijden.

Ik wil alleen veilig van A naar B die veel te duren BENZ is interesseert echt niemand behalve de bestuurder.
Dat ben ik geheel met je eens :)
58% besparing op de taxichauffeur.
Software is bijna gratis onbeperkt schaalbaar.
En de hardware kost bijna niets (en zit in bijna elke auto al standaard voor andere functies), paar camera's, gpu en klaar.
Mee eens, ben alleen wel bang dat de zelfrijdende taxi's nog vrij lang een premium zullen vragen. Is toch wel een luxe product en de R&D kosten zullen ergens mee terug verdiend moeten worden.
Een luxe product?
Zouden mensen geld over hebben om door een robot gereden te worden in plaats van een mens? Als ze het allebei goed doen: who cares?
De grote klap komt ook door die robotaxis elektrisch te maken. Even een voorbeeld:

Een Tesla Model 3 kan 600.000 km rijden voor de batterij 'op' is (dwz <75% van de oorspronkelijke capaciteit). Zo'n auto kost grofweg 60.000*. Dat is dus ongeveer €0,10 per kilometer. Stroom voegt €0,05 per kilometer toe (consumentenprijs, grootgebruikers nog minder). Reserveren voor onderhoud moet ook, maar is lager dan bij een fossiele taxi, want veel minder onderhoudsgevoelige onderdelen. En dan nog iets voor verzekering, wegenbelasting, vergunning en ander klein bier. Laten we zeggen dat het al met al op €0,30 aan kosten komt, plus natuurlijk een mooie marge, dus dat je €0,60 betaalt per kilometer.

Laten we dat vervolgens vergelijken met de maximale taxitarieven, bijvoorbeeld in Amsterdam:

€2,40 per kilometer, plus €0,40 per minuut

Rekenend met 25 km/h (stad, inclusief verkeerslichten etc), komt er dus nog een euro per km bij. Oftewel ongeveer €3,40 per kilometer in totaal. Plus het starttarief van ruim €3,00...

De menselijke fossiele taxi kost dus al snel ruim 6x meer kilometer. Dat verschil zit niet alleen in de chauffeur uiteraard, maar ook in zaken als onderhoud.

*ik heb hier nog niet eens met een speciale (hufter proof) robotaxi gerekend. Die zou nog wel goedkoper kunnen zijn dan de genoemde €60.000 die puur en alleen gaat om een idee te hebben van de orde grootte voor een elektrische auto.

[Reactie gewijzigd door bilgy_no1 op 13 september 2020 09:44]

eerlijk gezegd deel ik je mening wel, maar acht ik de wereld nog lang niet klaar voor deze autonome revolutie.

er zijn al talloze voorbeelden over ongelukken en doden door dit autonoom rijden. en wie is er aansprakelijk??? wie word er bestraft???

juist...niemand
iedereen wast zn hand in onschuld en geeft een of ander software/hardware foutje de schuld...en de nabestaanden kunnen niks of nergens terecht.(niet dat het nu beter is met een paar uurtjes taakstraf voor iemand doodrijden)

de wetten en regelgeving lopen zoals al jaren een eeuw achter op wat de technologiesector levert.

fijn dat je niet meer bang hoeft te zijn dat de chauffeur heeft gezopen, maar nu moet je oppassen of de programmeur of een ander in de productie-keten niet gezopen heeft.

zorg eerst maar dat er in elke wet staat wie verantwoordelijk is, wat de straffen zijn en rij maar eerst eens als echte test 10jr zonder enig ongeluk...en breng t dan op de markt. tot nu toe is zelfs 1jr nog niet gehaald.
er zijn al talloze voorbeelden over ongelukken en doden door dit autonoom rijden
Die zijn er niet. Althans, geen "talloze". Er zijn een paar doden die breed uitgemeten werden in de pers omdat het ging om Tesla's die op auto-pilot reden en er was een vrouw die aangereden werd door een experimentele Waymo auto.
Er zijn simpelweg nog veel te weinig gegevens om iets te zeggen over de veiligheid van autonome auto's. Er wordt door flink wat organisaties onderzoek gedaan, maar het feit dat daar nog weinig uit komt geeft al aan dat het verschil (kennelijk) erg klein is.
en wie is er aansprakelijk??? wie word er bestraft??? juist...niemand
En dat is ook helemaal logisch omdat in al die gevallen er geen eenvoudige oorzaak aan te wijzen was. Bij de ongelukken met de Tesla's was het steeds de automobilist die, tegen de instructies in, teveel vertrouwde op de autopilot. Bij het ongeluk met de Waymo auto was het de medewerker van Waymo die niet op zat te letten in een experimentele auto.
Natuurlijk is het een interessante vraag en het moet ook geregeld worden. Maar die toevoeging "juist...niemand" is veel te gemakkelijk als het gaat om de huidige situatie.
rij maar eerst eens als echte test 10jr zonder enig ongeluk
Die is grappig. Welk vervoerssysteem dat op dit moment toegelaten is op de openbare weg voldoet daar dan aan?
Hmm.. bij dat Waymo Uber ongeluk hadden volgens mij toch echt straffen uitgedeeld moeten worden, en niet aan de medewerker in de auto. Heb je de opname vanuit zijn perspectief gezien? De instructie die hij had was goed op de console-output letten, want er zouden ernstige zaken in kunnen worden gemeld. Je ziet de beste man dat dan ook doen: ijverig meelezen met één doorlopend uitgespuugde brij van debug-info. Tot hij daar inderdaad iets onrustbarends in spot.. en al geen tijd van naar buiten kijken en reageren meer heeft. Schandelijk dat ze die wagens met zo'n interface de weg op sturen én dan wel de standaard city-brake (en soortgelijke voorzieningen) van die Volvo's afslopen |:(.

Edit: Uber inderdaad. We hebben 't wel gek genoeg over hetzelfde ongeluk! Of 't een vrouw was zou ik niet durven zeggen trouwens, 'n fors persoon, dat zag ik wel. Dat spelletje op de telefoon heb ik ook niet gezien. Wel een video waarin je mee kijkt met waar de medewerker geacht werd naar te kijken en dat haalt alle aandacht helaas bij de weg weg.

Spelletje.. TV Show.. of (alleen) de debugging output.. plot thickens. Hebben de posters hieronder gezien wat er op dat schermpje gebeurde, of zijn dit aannames?

[Reactie gewijzigd door Gwaihir op 13 september 2020 17:08]

We hebben het over verschillende ongelukken denk ik. Waar ik aan refereerde was een ongeluk waarbij een vrouwelijke medewerker in de auto zat, die in het donker een overstekende vrouw aanreed. De medewerkster zat een spelletje te spelen op haar telefoon en lette niet op.
Wat er uiteindelijk is gedaan (juridisch gezien) weet ik niet, ik weet wel dat Waymo daarna langere tijd geen test-ritten meer heeft uitgevoerd.
Dat was geen Waymo toch?
Je hebt gelijk, dat was een auto van Uber. Maar nu ben ik in de war: er is geen enkel dodelijk ongeluk gelinkt met Waymo....
Juist WEL aan de medewerker in de auto, DIE was verantwoordelijk, ZIJ werd betaalt om het systeem in de gaten te houden tijdens de testritten, maar dat deed ze niet, ze zat op haar telefoon een tvshow te kijken.. Als het was gebeurd met een productie auto en er werd gezegd dat je rustig kunt gaan slapen tijdens dat de auto rijdt, DAN was het een ander verhaal geweest, maar in dit geval was zij gewoon degene die verantwoordelijk was omdat zij niet aan het opletten was.
talloze is idd wellicht wat overdreven.

maar als ik je post zo zie, zijn er meer dan jij denkt iig.

maar mijn punt was meer dat er gewoon nog geen/voldoende wetgeving is, geen standaarden, etc is.
zoals uber die besluit om van 7 sensors naar 1 sensor te gaan en iemand doodrijd. een standaard en wetgeving hadden dat voorkomen. een tesla die een voetganger niet detecteert en doodrijd had met wat langer testen voorkomen kunnen worden. nu is elke verkeersdeelnemer een onbewust en ongewild proefkonijn van deze auto's, met dodelijke gevolgen.

ook de ai die we nu hebben is verre van slim, en of je dat een 1500kg ijzeren karos moet laten besturen is maar de vraag. je mag pas in een auto rijden als je 18jr bent en een kind van 5 is nog slimmer dan de huidige ai. dus wat dat betreft vind ik die 10jr helemaal zo gek nog niet.
We zijn het redelijk met elkaar eens. Het ging mij erom dat jouw opmerking leek te suggereren dat autonome auto's gevaarlijk zijn. Dat is niet zo, feit is dat we dat gewoon nog helemaal niet weten en alles wat je er over roept per definitie met een korrel zout genomen moet worden.
Ook een feit is dat alle cijfers die we nu hebben betrekking hebben op de huidige situatie. Als je praat over de veiligheid van autonome auto''s dan is het belangrijk om te kijken naar wat je mag verwachten in de toekomst.

En wat betreft je laatste opmerking: ik heb in een Tesla gezeten tijdens een lange rit van Zwitserland naar Italie, waarbij grote stukken op de autopilot werden gereden. En ik heb naast mijn zoon gezeten, die net een week zijn rijbewijs heeft. Het gevoel tijdens die rit was in beide gevallen exact, maar dan ook exact hetzelfde.
Interessanter is: in beide gevallen dacht ik: wat een gaaf begin, nog een paar jaar en we hebben er heel veel plezier van.
Bij menselijke chauffeurs krijgt meestal ook niemand de schuld. De verzekering dekt de materiële schade, de veroorzaker wordt alleen bij opzet of ernstige nalatigheid aangesproken.
Waarom zou dat bij een zelfrijdende auto anders moeten?
Nou, je krijgt wel degelijk schuld, wat toch gevolgen heeft voor oa je verzekering.
De norm die je stelt is onrealistisch hoog:
Zou je een bus- of taxichauffeer ook pas een rijbewijs geven na 10 jaar zonder ongeluk rondrijden?
Verder zijn niet alle ongelukken toe te schrijven aan de bestuurder.
De norm die je stelt is onrealistisch hoog: Zou je een bus- of taxichauffeer ook pas een rijbewijs geven na 10 jaar zonder ongeluk rondrijden?
eerlijk gezegd, t liefst wel.
maar een mensenleven is te kort om dit soort termijnen te stellen. dat geld voor deze technologie totaal niet. of t nou nu op de markt komt of over een x aantal ongeluksvrije jaren...

[Reactie gewijzigd door Quadrupeltje op 13 september 2020 13:51]

"In February, Waymo announced its cars have driven 5 million miles on public roads since its beginnings as the Google Self Driving program in 2009. Crash reports (which companies developing autonomous tech must make public in California) show Waymo cars have been involved in upward of 30 minor crashes but have caused just one: In 2016, a Lexus SUV in autonomous mode changed lanes into the path of a public bus." [wired.com]

Één aanrijding door schuld van Waymo in 7.5 miljoen (echte) kilometers, dat halen weinig menselijke bestuurders.
De andere 29: je kunt niet altijd voorkomen dat iemand tegen je aanrijdt, geen voorrang verleent of iets anders fout doet, daar kun je de zelfrijdende auto waarschijnlijk niet de schuld van geven.
Ik kan niet wachten tot ik een zelfrijdende auto heb. Bestemming intikken, en gaan met die banaan. Lekker relaxed.
Totdat concurrent B het voor minder kan aanbieden en zo meer klanten weet te binden, dan zal taxibedrijf A toch ook omlaag moeten gaan. Hoe dan ook ik denk dat de prijzen wel gaan zakken.
Ik las “rijles” in plaats van “ritjes”. De meest rare nieuws van vandaag :D
Na TikTok weer een mooie illustratie van Chinese innovatie!

Eens kijken of het Westen ook iets van een zelf-rijdende taxi kan maken.


Om te kunnen reageren moet je ingelogd zijn


Apple iPhone SE (2020) Microsoft Xbox Series X LG CX Google Pixel 4a CES 2020 Samsung Galaxy S20 4G Sony PlayStation 5 Nintendo Switch Lite

'14 '15 '16 '17 2018

Tweakers vormt samen met Hardware Info, AutoTrack, Gaspedaal.nl, Nationale Vacaturebank, Intermediair en Independer DPG Online Services B.V.
Alle rechten voorbehouden © 1998 - 2020 Hosting door True