I detta dokument presenteras Verisig, ett hybridsystem för att kontrollera säkerhetsegenskaper hos slutna system med hjälp av neurala nätverk som styrenheter. Även om det finns tekniker för att verifiera in-/utgångsegenskaper hos själva det neurala nätverket, kan dessa metoder inte användas för att verifiera egenskaper hos det slutna kretsloppet (eftersom de arbetar med bitvis-linjära begränsningar som inte fångar icke-linjär växtdynamik). För att övervinna denna utmaning, fokuserar vi på sigmoid-baserade nätverk och utnyttja det faktum att sigmoiden är lösningen på en quadratic differentialekvation, vilket gör att vi kan omvandla det neurala nätverket till ett likvärdigt hybridsystem. Genom att komponera nätverkets hybridsystem med anläggningens, omvandlar vi problemet till ett hybridsystemverifieringsproblem som kan lösas med hjälp av toppmoderna tillgänglighetsverktyg. Vi visar att tillgänglighet är decidable för nätverk med ett dolt lager och decidable för allmänna nätverk om Schanuel förmodar är sant. Vi utvärderar tillämpligheten och skalbarheten av Verisig i två fallstudier, en från förstärkning lärande och en där neurala nätverket används för att approximera en modell prediktiv controller.
I REF omvandlas DNN till ett likvärdigt hybridsystem.
Verisig: verifying safety properties of hybrid systems with neural network controllers
{'venue': None, 'journal': None, 'mag_field_of_study': ['Computer Science']}