Abstract-Deep Neural Networks (DNN) används alltmer i en mängd olika tillämpningar, många av dem med betydande säkerhets- och säkerhetsproblem. Detta dokument introducerar DeepCheck, en ny metod för att validera DNN baserat på kärnidéer från programanalys, särskilt från symboliskt utförande. Tanken är att översätta en DNN till ett absolut nödvändigt program, vilket möjliggör programanalys för att hjälpa till med DNN-validering. En grundläggande översättning skapar dock program som är mycket komplexa att analysera. DeepCheck introducerar nya tekniker för lätt symbolisk analys av DNN och tillämpar dem i samband med bildklassificering för att ta itu med två utmanande problem i DNN analys: 1) identifiering av viktiga pixlar (för tilldelning och kontradiktorisk generering), och 2) skapande av 1-pixel och 2-pixel attacker. Experimentella resultat med hjälp av datauppsättningen MNIST visar att DeepChecks lätta symboliska analys är ett värdefullt verktyg för DNN-validering.
I REF används symbolisk körning för att hitta viktiga bildpunkter för datamängden MNIST.
Symbolic Execution for Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}