Abstract-Fully autonoma fordon (AV), dvs. AV med autonomi nivå 5, förväntas dominera vägtransporter i den nära framtiden och bidra med biljoner dollar till den globala ekonomin. Den allmänna allmänheten, statliga organisationer och tillverkare alla har betydande oro när det gäller motståndskraft och säkerhetsstandarder för det autonoma körsystemet (ADS) AVS. I detta arbete föreslog och utvecklade vi (a) "Kayotee" -ett felinjektionsbaserat verktyg för att systematiskt injicera fel i programvara och hårdvarukomponenter i ADS för att bedöma säkerheten och tillförlitligheten hos AV:er på fel och fel, och (b) en ontologimodell för att karakterisera fel och säkerhetsöverträdelser som påverkar AV:s tillförlitlighet och säkerhet. Kayotee kan karakterisera felutbredning och resiliens på olika nivåer -a) hårdvara, b) programvara, c) fordonsdynamik och d) trafikresiliens. Vi använde Kayotee för att studera en egenutvecklad ADS-teknik byggd av Nvidia corporation och använder för närvarande Kayotee till andra open-source ADS-system. Säkerhet och tillförlitlighet hos autonoma fordon är en viktig fråga för alla berörda parter. Vårt tidigare arbete [1] kännetecknade en California Department of Motor Vehicles (DMV) datauppsättning på rapporterade AV vägtester och visade att så många som 36% av urkopplingar orsakades av datorsystemproblem och 64% berodde på maskininlärningsproblem. AV-forskningen har traditionellt fokuserat på att förbättra maskininlärning och artificiell intelligens. Eftersom dessa modeller används i stor skala på datorplattformar är fokus dock att bedöma motståndskraften och säkerhetsegenskaperna hos den beräkningsstacken som driver AV. Effekterna av fel och fel i hårdvaran (GPU, processorer och andra processenheter) som kör AV programvara stacken är inte väl förstådd. Nyligen utfört arbete [2]-[5] fokuserar uteslutande på de djupa neurala nätverkens (DNN:er) motståndskraft mot maskinvarufel och fel utan att redovisa den inneboende resiliensen i programvarustacken. [6], [7] studera säkerheten hos AV genom att injicera sensorrelaterade permanenta fel som Gaussian brus, ocklusion, etc. till offentligt tillgängligt autonomt körsystem (t.ex. CARLA [8] och Open Pilot [9]). Dessa autonoma drivsystem (ADS) är dock alltför enkla med få sensorer och är inte representativa för en produktionsADS. Dessutom har sådana studier begränsad omfattning eftersom de inte kan karakterisera felmaskering och spridning av transienta och permanenta fel i ADS. Vi tror att vårt arbete är det första som studerar effekterna av övergående fel, intermittenta fel och permanenta fel (med vissa begränsningar) på AV säkerhet och tillförlitlighet.
Flera senaste arbeten försöker bedöma säkerheten i neurala nätverk, särskilt riktade autonoma körsystem REF.
Kayotee: A Fault Injection-based System to Assess the Safety and Reliability of Autonomous Vehicles to Faults and Errors
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}