Nieuws over aankomende 3D-Autopilot

[curry684]

redundantie helpt in het algemeen robuustheid

Dat is dus precies de grote hamvraag. Voor klassieke redundantie (clustering, hot spares, failover e.d.) staat dat buiten kijf. Maar daar heb je het hier niet over, hier gaat het om compleet verschillende bronnen waardoor het een groot raadsel is welke van de 2 je moet vertrouwen als ze elkaar tegenspreken. Ik denk zelf dus, als hierboven uiteengezet, dat in de praktijk de camera altijd leidend zal moeten zijn, wat de facto de Lidar overbodig maakt.

Dat vision soms nu nog bepaalde objecten niet op tijd herkent is te fixen met training, betere code en veel data. Dat Lidar niet kan zien waar de weg en zijn markeringen zijn niet.

 

[Cely]

Nou ja heel simpel bekeken, wat heb je nodig om te kunnen leren rijden? Twee ogen en een goed werkend stel hersenen, toch? Ja mensen maken met alleen dit tot hun beschikking ook fouten, maar volgens me is niet de doel om foutloos te rijden maar op zijn minste net zo goed (of slecht) als mensen.

Dus wat volgens me de expert zeggen daarmee is : met vision alleen kun je wel zelfstandig rijden. Het probleem is het namaken van dat analysis van beelden en gewenste gedrag dat ons hersenen zo goed weten te doen. Dat is dus een software uitdaging.

Natuurlijk alle extra sensors (dus ook lidar) zouden kunnen helpen, maar maakt het ook duurder. Afhankelijk van de toepassing kan het zin hebben, als je bijv toch beter dan een mens wilt kunnen rijden of in situaties waar een paar ogen niet voldoende zijn (het feit dat camera soms ook slecht beeld hebben kan invloed hebben maar daar is er dus al redundancy in het aantal cameras).

Het enige "geloof" dat te pas komt is hoe lang het nog duurt voordat we FSD hebben, niet zo zeer of het gaat lukken met vision alleen. Time will tell .

 

[AntoniusJR]

Dat is dus precies de grote hamvraag. Voor klassieke redundantie (clustering, hot spares, failover e.d.) staat dat buiten kijf. Maar daar heb je het hier niet over, hier gaat het om compleet verschillende bronnen waardoor het een groot raadsel is welke van de 2 je moet vertrouwen als ze elkaar tegenspreken. Ik denk zelf dus, als hierboven uiteengezet, dat in de praktijk de camera altijd leidend zal moeten zijn, wat de facto de Lidar overbodig maakt.

Inderdaad dat is de hamvraag.

Redundantie in sensor modaliteiten (en sensoren) is niet of/of.
Sensor fusie maakt het mogelijk waarnemingen van diverse bronnen optimaal te combineren in een en/en manier.
Dat betekent dus niet dat Lidar "de facto" overbodig is, wel dat Lidar uitermate ondersteunend kan zijn is om

• de betrouwbaarhed van waarnemingen te verhogen tot voor FSD benodigd niveau, en bv
• kan helpen meerdere hypothesen naast elkaar in leven te houden, in plaats van premature keuzes te maken
• Tijdelijke uitval van cameras (bv verblinding) kan opvangen.

Mijn kennis over sensor fusie houdt wel op bij particle filters Particle filter - Wikipedia maar ook daar zullen flinke stappen zijn gezet.

Is het nodig om eerder/eerst op de markt te zijn? Afwachten maar ....

Overigens als op 9 September de Lucid Air wordt geintroduceerd (met Lidar), ben ik benieuwd of MobilEye dat hun 'flagship' ADAS/AD auto gaan maken. Dan hebben we iets te vergelijken.

 

[curry684]

Dat betekent dus niet dat Lidar "de facto" overbodig is, wel dat Lidar uitermate ondersteunend kan zijn is om

• de betrouwbaarhed van waarnemingen te verhogen tot voor FSD benodigd niveau, en bv
• kan helpen meerdere hypothesen naast elkaar in leven te houden, in plaats van premature keuzes te maken
• Tijdelijke uitval van cameras (bv verblinding) kan opvangen.

Ik sluit dit absoluut niet uit, dus in zoverre zit ik ook met popcorn te wachten wat de grote jongens ermee gaan doen. Het is als geheel natuurlijk een enorm hypothetische discussie met net zoveel economische factoren erin als technische - mijn vorige posts moeten in zoverre ook gelezen worden als "Lidar heeft mijns inziens bij lange na niet genoeg toegevoegde waarde zolang het sensoren zijn die je auto 10k duurder maken, en minder aerodynamisch, en minder aantrekkelijk". Als ze een tientje kosten en volledig naadloos kunnen integreren wordt het mogelijk een ander verhaal, maar dat zie ik nog niet snel gebeuren, ik verwacht dat vision eerder level 3 capable is dan Lidar betaalbaar voor in een mass market vehicle niveautje Polo (ID.2).

Lucid claimt overigens inderdaad zowel enorm goede aerodynamica als Lidar, maar ik heb met heel veel dingen van Lucid wel een eerst-zien-dan-geloven scepsis met een snufje Faraday Future erin.

 

[bugboy]

Ja, dieren (en mensen) hebben geen Lidar, maar ook geen GPS, geen radar, geen digitale wegenkaart, geen 8 ogen, en gebruiken meer zintuigen dan alleen hun ogen. En toch vliegen vogels zich soms toch nog te pletter (bv bij ons tegen de ramen).

In de natuur is het acceptabel (en zelfs gewenst) dat een groot aantal dieren het niet overleven. Bij een zelfrijdende auto verwachten we een nagenoeg onfeilbaar systeem. We willen geen bevolkingsregulering door AI denk ik.

 

[Cely]

In de natuur is het acceptabel (en zelfs gewenst) dat een groot aantal dieren het niet overleven. Bij een zelfrijdende auto verwachten we een nagenoeg onfeilbaar systeem. We willen geen bevolkingsregulering doorAI denk ik.

Nou ja wat bedoel je met onfeilbaar? Volgens me is dat sowieso niet haalbaar, fouten zullen er altijd in blijven, hoe veel vinden we acceptabel is eerder de vraag.

Wat ik hier ook boven zei, volgens me is dat voor een gewone auto niet de doel. Het enige wat het moet doen is net zo slecht/goed als een mens rijden, liever beter. Maar zodra het statistic gezien net zo vaak en het liefsten klein beetje minder een ongeluk veroorzaakt dan een mens, dan waarom niet hem laten rijden?...

We komen natuurlijk daarmee wel op ethische en filosofische vragen ermee, van is het beter om een mens of een AI een fout te laten maken... Los van het feit dat sommige situaties is een ongeluk niet te voorkomen (de ernst ervan en wie gewond raakt dan weer wel...).

 

[bugboy]

Het valt mij altijd op dat het volledig is geaccepteerd dat mensen fouten maken met fatale afloop. Gebeurt er een ongeluk door een machine (of dat nu AI is of niet), dan zijn de rapen gaar. Ik verwacht niet dat dit op korte termijn zal veranderen.

 

[curry684]

Bijkomend probleem in die discussie is dat het praktisch bezien onmogelijk is om een auto volledig veilig volledig zelfrijdend te maken zolang er nog auto's zijn die door mensen bestuurd worden. Op de snelwegen rondom LA, Parijs, Antwerpen of zelfs de A10 is het in de spits simpelweg niet mogelijk om alle benodigde baanwisselingen te maken zonder enig risico op aanrijdingen, omdat je de ruimte simpelweg niet krijgt. Dat is een van de grootste uitdagingen feitelijk - hoe laat je een computer rijden als een debiel omdat ie anders niet op de goede baan kan komen terwijl je hem wel erop afrekent als ie daardoor een krasje krijgt.

 

[Hbrink]

Het valt mij altijd op dat het volledig is geaccepteerd dat mensen fouten maken met fatale afloop. Gebeurt er een ongeluk door een machine (of dat nu AI is of niet), dan zijn de rapen gaar. Ik verwacht niet dat dit op korte termijn zal veranderen.

Ik ben het principieel met @Cely eens: beter dan een mens, dan invoeren. Maar @bugboy heeft gelijk: dat is nu niet geaccepteerd en dat voorzie ik ook niet in de eerste 10 jaar. Kijk nu maar naar de ongevallen statistieken: Tesla is al veiliger, maar ik heb daar nog geen applaus voor gehoord.

 

[curry684]

Het valt mij altijd op dat het volledig is geaccepteerd dat mensen fouten maken met fatale afloop. Gebeurt er een ongeluk door een machine (of dat nu AI is of niet), dan zijn de rapen gaar. Ik verwacht niet dat dit op korte termijn zal veranderen.

De achterliggende overwegingen hiervan zijn bekende ethische vraagstukken, de cognitieve biassen.

Allereerst is er de 'status quo bias' die mensen een grote voorkeur geeft voor conservatisme, de 'veiligheid' van de situatie behouden zoals hij al tientallen jaren is. Er gaan nu 650 mensen per jaar dood, dat weten we, zijn we aan gewend, en is dus prima, een geaccepteerde fact of life. Niks meer aan doen.

Vervolgens hebben we 'omission bias': mensen nemen liever verantwoordelijkheid voor omitteren (niets doen) dan committeren (iets doen). Dat er nu 650 mensen per jaar doodgaan in het verkeer is een geaccepteerd feit en vinden we allemaal prima. Als een Tesla er eentje doodrijdt is dat schandalig, want 'iemand heeft dat moordwapen op de weg gelaten'. Dat die ene dode er statistisch voor zorgt dat 2 anderen niet dood gaan is irrelevant voor de morele beoordeling van dat die eerste wel heel erg dood is door een Tesla, en dus moet die Tesla weg. En dat is dan weer de moderne invulling van het trolleyprobleem. liever 2 lijken door wegkijken dan het bloed van 1 aan je handen.

 

[BMW740iL]

Als een Tesla er eentje doodrijdt is dat schandalig, want 'iemand heeft dat moordwapen op de weg gelaten'. Dat die ene dode er statistisch voor zorgt dat 2 anderen niet dood gaan is irrelevant voor de morele beoordeling van dat die eerste wel heel erg dood is door een Tesla, en dus moet die Tesla weg. En dat is dan weer de moderne invulling van het trolleyprobleem. liever 2 lijken door wegkijken dan het bloed van 1 aan je handen.

Als een Tesla op autopilot er eentje doodrijdt vind ik dat schandalig. Jij niet?

Met welke statistiek is het relevant, dat die ene dode door een Tesla-op-autopilot er statistisch voor zorgt dat 2 anderen niet dood gaan?

 

[Cely]

Trolley probleem dus. Natuurlijk is het vreselijk als iemand dood gaat aan een fout, van een mens of van een zelfrijdende auto. Maar als gemiddeld een zelfrijdende auto minder fout maakt, is dat niet een goede reden om die toch wel te laten rijden?

Ik vind het trouwens grappig want wat @curry684 zegt klopt wel over het algemeen, men kent nogal een aversie voor iets doen liever dan wel doen, alleen dat zagen we echter tijdens de corona crisis toch anders gebeuren, toch maar ingrepen ipv van laten gebeuren, op zijn eigen niveau ook een trolley probleem vind ik. Dus misschien ligt het nog niet eens zo strak in deze verwachte gedachtes...

Zolang de mens kan ingrijpen en verantwoordelijk is voor de rijgedrag van zijn auto is er weinig discussie. Dat is het moment wanneer het vertrouw voor zulke systeem moet groeien. Zodra de verantwoordelijkheid schuif naar AI moet de wetgeving en opinie er klaar voor zijn. Ik woonde vorig jaar nog op de TU/e een leuke conference over deze onderwerpen, zeer boeiend, over bijv wetgeving/filosofie rondom wanneer een artificial intelligent agent een beslissing maakt maar ook over mens-robot samenwerking in het kader van rijden*. Kortom, er wordt nu al volop erover getheoretiseerd en dat is maar goed want binnenkort moet er ook concrete plannen gemaakt worden.

*Bijv dat laatste paper : Automated cars meet human drivers: responsible human-robot coordination and the ethics of mixed traffic

 

[bugboy]

Het probleem is dat bij een 95% autonome auto de mens te weinig hoeft te doen en daarom niet meer oplet. Daarom zie je ook die ongelukken bij proeven met autonome auto's, waarbij wel een bestuurder aanwezig is. Het is niet voor niets dat juist de meeste (dodelijke) ongelukken gebeuren op provinciale wegen. Daar verveel je je dood en raak je snel afgeleid. Ik merk ook dat ik op deze wegen met EAP ingeschakeld erg passief achter het stuur zit. Ik weet zeker dat mijn reactievermogen dan veel hoger is, dan als ik actief aan het rijden ben.

Als een (deels) autonome auto over de hele linie minder (zware) ongevallen maakt dan zou je er de voorkeur aan moeten geven vanuit een statistische benadering. Maar is meer dan statistiek. Als een mens een fout maakt dan kan Tesla dat afschuiven op die persoon. Als het de auto is dan is Tesla verantwoordelijk.

 

[AntoniusJR]

Allereerst is er de 'status quo bias' die mensen een grote voorkeur geeft voor conservatisme, de 'veiligheid' van de situatie behouden zoals hij al tientallen jaren is. Er gaan nu 650 mensen per jaar dood, dat weten we, zijn we aan gewend, en is dus prima, een geaccepteerde fact of life. Niks meer aan doen.

Dit is dus niet prima en ook niet waar.
Er wordt flink aangetrokken om dit terug te brengen (al tientallen jaren) maar de oorzaken zijn complex.
Daarbij heeft L3 op de snelweg heeft maar een kleine potentie hier.

Van die 650 doden zijn ruwweg een derde 200-250 inzittenden van autos. Rest met name fietsers (ook weer een derde) en dan voetgangers/invalidenvoertuigen/scooters etc CBS Statline

Van die inzittenden is weer ruwweg (uit mijn hoofd) een derde betreffende autos op de snelweg, ofwel minder dan 100 (?~60 staat me bij).

Zaken als AEB, dodehoekspiegel bij vrachtauto's, dubbele lijnen op provinciale wegen, verbod op appen bij Fietsers zijn allemaal maatregelen die uit analyses van het SWOV (Wetenschappelijk Onderzoek Verkeersveiligheid | SWOV) komen en nodig zijn.

Doorvoeren en vervanging wagenpark is langzaam. Daarintegen is de mobiele telefoon weer een grote oorzaak dat het aantal doden/ongelukken weer oploopt, ook met autopilot.

Gisteren weer zo'n geval in de USA, een dokter, niet te geloven: Tesla driver on Autopilot admits to watching a movie when crashing into police car - Electrek

Niet voor niets dat in de ISO SOTIF standard (ISO/PAS 21448:2019) nu "reasonable foreseeable misuse" moet meegenomen worden.
Net als met seatbelts moeten mensen dus tegen zich zelf blijkbaar beschermd worden (is blijkbaar effectief om tenminste de maatschappelijke schade te beperken).

 

[Cely]

Inderdaad, hoe we overbruggen het periode waarin men nog genoeg moet opletten terwijl hij meestal niets hoeft te doen is wel een interessante... Wel al veel ervaring met tour controle of dit soort banen hoe we daar toch de mens scherp kunnen houden terwijl er meestal niets gebeurt, dus misschien is er hier ook iets van te leren en toe te passen.

Wat ik ook zie bijv met de huidige AP is dat soms geeft hij wel aan "en nu kan ik het niet meer zelf, opletten" (bijv bij slecht weer of een scherpe bocht of als er op eens geen zicht meer is door verblind camera's). Op dat moment moet je per direct ingrepen en dus van een mogelijk wat passieve oplettende houding naar actief en de waarschuwing komt eigenlijk een beetje laat om dat te kunnen doen.

Ik zat zelfs laatst tijdens een lange reis naar Parijs erover te denken dat AP zou moeten zelf inschatten als een situatie veel of minder van de bestuurder ga vragen binnen de komende 30sc bijv, zo van "nu weet ik het echt zeker", "nu weet ik het maar let even mee op" en "ok rij zelf maar ik weet het niet meer". Want eigenlijk zitten we nu vooral in dat tweede niveau (we moeten constant opletten) maar er komen momenten waar de auto toch echt zelf kan rijden op vele plekken met genoeg zekerheid, dus waar we als bestuurder nog steeds de verantwoordelijkheid hebben, maar we even wat relaxer in kunnen zitten.

Als we als bestuurder een seintje hebben als de situatie waarschijnlijk onzekerder wordt voordat we per direct moeten ingrijpen zou het helpen... Nu hoe de auto die inschatting zelf kan doen is de volgende vraag haha...

Als je de ontwikkeling rondom AP volgt kan je zelf die inschatting maken meestal (en nog steeds het fout hebben) maar ik denk dat het meeste mensen zich daar niet mee bezig houden, dus daarom dacht ik dat het communiceren aan de bestuurder van de zekerheid van AP een goeie zou zijn om die probleem te voorkomen (al kom je daarmee ook in een legal vraagstuk denk ik zolang er op het vlak van lvl3 geen wetgeving is).

 

[curry684]

Dit is dus niet prima en ook niet waar.

Het was niet mijn mening he maar een demo van hoe status quo bias werkt

 

[bugboy]

Ik zat zelfs laatst tijdens een lange reis naar Parijs erover te denken dat AP zou moeten zelf inschatten als een situatie veel of minder van de bestuurder ga vragen binnen de komende 30sc bijv, zo van "nu weet ik het echt zeker", "nu weet ik het maar let even mee op" en "ok rij zelf maar ik weet het niet meer".

Dat zou ik ook een goede toevoeging vinden, maar kan wel de suggestie wekken dat je anders niet hoeft op te letten.

 

[AntoniusJR]

Het was niet mijn mening he maar een demo van hoe status quo bias werkt

Niet persoonlijk dan, maar dan toch even voor die "demo" mensen die denken dat de NL overheid de status quo in stand houdt :

Het is (te) makkelijk overheid en met name RDW te bashen, op basis van -laten we het maar erg optimistisch noemen - wereldbeeld noemen over de kwaliteiten van FSD en de mate van positieve impact daarvan op verkeersveiligheid in de context van het verkeer en wegsituaties in NL, en afwezigheid van zij-effecten.

Als er 1 instantie is die zich uitermate op Autoonoom Rijden heeft voorbereid en allerlei proeven heeft gedaan om een duidelijke strategie te bepalen is het de RDW wel. Maar niet kritiekloos; ze hebben wel (mede) de verkeersveiligheid te bewaken in een drukbevolkt land als Nederland. Er zijn nog flinke hobbels te nemen, zie ook: KPMG: “Nederland na Singapore best voorbereid op komst zelfrijdende auto”

"Hoewel de autonome voertuigen van nu al zeer geavanceerd zijn, moeten er in Nederland nog flinke hobbels worden genomen voordat deze zelfstandig de weg op kan. Als wij in dit stadium al willen profiteren van autonome voertuigen kan dat alleen in afgesloten gebieden of daartoe aangewezen wegen en rijstroken. In een dichtbevolkt land als Nederland is dit lastig te realiseren. Dat betekent dat autonoom rijden in Nederland voorlopig nog wel even op zich laat wachten.”​

Dus ook na de rewrite van de AP zal het nog wel even duren in Nederland (oeff - weer on topic )

 

[Phil V]

Ik denk dat het nu al mogelijk is om wagens volautomatisch te laten rijden, maar de rijstijl zal nooit aanvaard worden door de generatie die altijd al zelf gereden heeft. Grote afstand met de voorligger: hij zou ineens kunnen remmen. Traag in de bochten: er zou in de bocht een obstakel kunnen staan dat nu nog niet zichtbaar is. Hoe vaak negeren wij die risico’s niet, omdat de kans verwaarloosbaar klein is naar onze mening. Een AP kan dat niet negeren, hij moet 100% feilloos zijn.

 

[hvandijk]

Om false positive's te vermijden, worden stilstaande objecten momenteel boven een snelheid van 70km/u niet waargenomen/de opdracht gegeven om dit te negeren.

Interessant, werkt dat zo? Hoe weet je dat?

Viaducten staan natuurlijk wel stil he