Vi presenterar en ny strategi för att bedöma robustheten i neurala nätverk baserat på att uppskatta andelen ingångar för vilka en egendom kränks. Vi uppskattar sannolikheten för att egendomen kränks enligt en inmatningsmodell. Vårt tillvägagångssätt skiljer sig kritiskt från den formella verifieringsramen genom att det ger en informativ uppfattning om hur robust nätet är, snarare än bara det konventionella påståendet att nätverket inte är kontrollerbart. Dessutom ger det en möjlighet att skala till större nätverk än formella verifieringsmetoder. Även om ramverket fortfarande ger en formell garanti för tillfredsställande närhelst det framgångsrikt finner en eller flera överträdelser, kommer dessa fördelar till priset av att endast tillhandahålla en statistisk uppskattning av otillfredsställande när någon överträdelse upptäcks. Nyckeln till den praktiska framgången med vår strategi är en anpassning av uppdelning på flera nivåer, en Monte Carlo metod för att uppskatta sannolikheten för sällsynta händelser, till vår statistiska robusthet ram. Vi visar att vår strategi kan efterlikna formella verifieringsförfaranden för referensproblem, samtidigt som den expanderar till större nätverk och ger tillförlitlig ytterligare information i form av korrekta uppskattningar av sannolikheten för överträdelser.
Webb m.fl. I REF föreslogs en Monte Carlo-baserad metod för att uppskatta förhållandet mellan kontradiktoriska exempel.
A Statistical Approach to Assessing Neural Network Robustness
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}