Vi presenterar en metod för verifiering av feed-forward neurala nätverk där alla noder har en bitvis linjär aktiveringsfunktion. Sådana nätverk används ofta i djupinlärning och har visat sig vara svåra att verifiera för moderna satisfiability modulo teori (SMT) och heltal linjär programmering (ILP) lösare. Utgångspunkten för vårt tillvägagångssätt är att lägga till en global linjär approximation av det övergripande nätverksbeteendet till verifieringsproblemet som hjälper till med SMT-liknande resonemang över nätverkets beteende. Vi presenterar en specialiserad verifieringsalgoritm som använder denna approximation i en sökprocess där den drar ytterligare nodfaser för de icke-linjära noderna i nätverket från partiella nodfasuppdrag, liknande enhetsutbredning i klassisk SAT-lösning. Vi visar också hur man kan dra ytterligare konfliktklausuler och säkra nodfixturer från resultaten av de analyssteg som gjorts under sökningen. Det resulterande tillvägagångssättet utvärderas för kollisionsundvikande och handskrivna fallstudier för igenkänning av siffror.
På samma sätt föreslår författarna i REF en metod för verifiering av feed-forward neurala nätverk.
Formal Verification of Piece-Wise Linear Feed-Forward Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}