Att förstå egenskaper hos djupa neurala nätverk är en viktig utmaning i djupt lärande. I detta dokument tar vi ett steg i denna riktning genom att föreslå ett rigoröst sätt att kontrollera egenskaper hos en populär klass av neurala nätverk, Binarized Neural Networks, med hjälp av välutvecklade medel för Boolesk satisfiability. Vårt huvudsakliga bidrag är en konstruktion som skapar en representation av ett binariserat neuralt nätverk som en boolesk formel. Vår kodning är den första exakta Booleska representationen av ett djupt neuralt nätverk. Med hjälp av denna kodning utnyttjar vi kraften hos moderna SAT-lösare tillsammans med en föreslagen motexempelsstyrd sökprocedur för att verifiera olika egenskaper hos dessa nätverk. Ett särskilt fokus kommer att ligga på den kritiska egenskapen robusthet mot motgångar. För denna egenskap, våra experimentella resultat visar att vår strategi skalar till medelstora djupa neurala nätverk som används i bildklassificering uppgifter. Såvitt vi vet är detta det första arbetet med att verifiera egenskaper hos djupa neurala nätverk med hjälp av en exakt Boolesk kodning av nätverket.
Slutligen anpassar författarna till REF Boolean satisfiability för att verifiera robustheten i binarized Neural Networks (BNN).
Verifying Properties of Binarized Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}