Neurala nätverk har i stor utsträckning använts för att lösa komplexa verkliga problem. På grund av komplikationen, icke-linjär, icke-konvex karaktär av neurala nätverk, formella säkerhetsgarantier för utdata beteenden i neurala nätverk kommer att vara avgörande för deras tillämpningar i säkerhetskritiska system. I detta dokument, den utgående nåbara uppsättningen beräknings- och säkerhetsverifieringsproblem för en klass av neurala nätverk som består av Rectified Linear Unit (ReLU) aktiveringsfunktioner tas upp. En lager för lager metod är utvecklad för att beräkna utdata nåbara set. Beräkningen är formulerad i form av en uppsättning manipulationer för en union av polyhedra, som effektivt kan tillämpas med hjälp av polyhedron beräkningsverktyg. Baserat på resultatet nåbara beräkningsresultat, kan säkerhetsverifieringen för ett ReLU neuralt nätverk utföras genom att kontrollera skärningspunkterna i osäkra regioner och utdata nåbara set som beskrivs av en union av polyhedra. Ett numeriskt exempel på ett slumpmässigt genererat ReLU neuralt nätverk ges för att visa effektiviteten av den metod som utvecklats i detta dokument.
I REF är en nivå-för-lager metod utvecklad för utdata nåbar uppsättning beräkning av ReLU neurala nätverk.
Reachable Set Computation and Safety Verification for Neural Networks with ReLU Activations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}