På grund av den ökande utbyggnaden av Deep Neural Networks (DNN) i verkliga säkerhetskritiska domäner, inklusive autonoma fordon och kollisionsundvikande system, håller formellt kontroll av DNN:s säkerhetsegenskaper, särskilt under olika angripares kapacitet, på att bli avgörande. De flesta befintliga säkerhetstestmetoder för DNNs försöker hitta kontradiktoriska exempel utan att ge några formella säkerhetsgarantier om att sådana kontradiktoriska exempel inte existerar. På senare tid har flera projekt använt sig av olika typer av lösningar för tillfredsställande Modulo Theory (SMT) för att formellt kontrollera DNN:s säkerhetsegenskaper. Alla dessa tillvägagångssätt är dock begränsade av de höga omkostnader som orsakas av lösaren. I detta dokument presenterar vi en ny riktning för att formellt kontrollera DNN:s säkerhetsegenskaper utan att använda SMT-lösare. Istället utnyttjar vi intervallet aritmetiskt för att beräkna rigorösa gränser för DNN-utgångarna. Vårt tillvägagångssätt, till skillnad från befintliga lösarbaserade tillvägagångssätt, är lätt att parallellisera. Vi presenterar ytterligare symbolisk intervallanalys tillsammans med flera andra optimeringar för att minimera överskattningar av utgångsgränser. Vi designar, implementerar och utvärderar vårt tillvägagångssätt som en del av ReluVal, ett system för formell kontroll av säkerhetsegenskaper hos Relu-baserade DNNs. Våra omfattande empiriska resultat visar att ReluVal överträffar Reluplex, ett toppmodernt lösningsbaserat system, med i genomsnitt 200 gånger. På en enda 8-kärnig maskin utan GPU, inom 4 timmar, ReluVal kan verifiera en säkerhetsfastighet som Reluplex anses inkonclusive på grund av timeout efter körning i mer än 5 dagar. Våra experiment visar att symbolisk intervallanalys är en lovande ny riktning mot att noggrant analysera olika säkerhetsegenskaper hos DNNs.
Wang m.fl. REF är de första att använda symboliskt intervall aritmetisk för att bevisa säkerhetsegenskaper neurala nätverk.
Formal Security Analysis of Neural Networks using Symbolic Intervals
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}