Autonoma cyberfysiska system (CPS) förlitar sig på korrekt drift av många komponenter, med toppmoderna metoder som bygger på maskininlärning (ML) och artificiell intelligens (AI) komponenter i olika stadier av avkänning och kontroll. Detta dokument utvecklar metoder för att uppskatta den nåbara uppsättningen och verifiera säkerhetsegenskaper för dynamiska system under kontroll av neurala nätverksbaserade styrenheter som kan implementeras i inbäddad programvara. De neurala nätverksregulatorer vi anser är feedfore neurala nätverk som kallas multilayer perceptrons (MLP) med allmänna aktiveringsfunktioner. Eftersom sådana feedforward-nätverk är minneslösa, kan de vara abstrakt representerade som matematiska funktioner, och analysen av nätverkets räckvidd uppgår till en uppskattning (bild) av denna funktion förutsatt en uppsättning ingångar. Genom att diskretisera indatauppsättningen av MLP till ett begränsat antal hyper-rektangulära celler, utvecklar vår strategi en linjär programmering (LP) baserad algoritm för över-uppskattning av utdatauppsättningen av MLP med dess indata som en förening av hyperrektangulära celler. Genom att kombinera over- approximation för den utgående uppsättningen av en MLP-baserad controller och nåbara set beräkningsrutiner för vanliga differens/differentialekvation (ODE) modeller, har en algoritm utvecklats för att uppskatta den nåbara uppsättningen av det slutna loop systemet. Slutligen, säkerhetsverifiering för neurala nätverk styrsystem kan utföras genom att kontrollera förekomsten av skärningspunkter mellan den uppskattade tillgängliga uppsättningen och osäkra regioner. Metoden implementeras i en datorprogramprototyp och utvärderas på numeriska exempel.
I linje med detta studerar författarna i Ref problemet med säkerhetsverifiering för dynamiska system med feed-forward NN med allmänna aktiveringsfunktioner.
Reachability Analysis and Safety Verification for Neural Network Control Systems
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}