Trots hög noggrannhet har neurala nät visat sig vara mottagliga för kontradiktoriska exempel, där en liten störning i en inmatning kan leda till att den missmärks. Vi föreslår mått för att mäta robustheten i ett neuralt nät och utforma en ny algoritm för att approximera dessa mått baserat på en kodning av robusthet som ett linjärt program. Vi visar hur våra mätvärden kan användas för att utvärdera robustheten hos djupa neurala nät med experiment på MNIST och CIFAR-10 dataset. Vår algoritm genererar mer informativa uppskattningar av robusthetsmått jämfört med uppskattningar baserade på befintliga algoritmer. Dessutom visar vi hur befintliga strategier för att förbättra robustheten "överpassar" till kontradiktoriska exempel som genereras med hjälp av en specifik algoritm. Slutligen visar vi att våra tekniker kan användas för att ytterligare förbättra neurala nät robusthet både enligt de mätvärden som vi föreslår, men också enligt tidigare föreslagna mätvärden.
I REF föreslog de kontradiktorisk frekvens och kontradiktorisk svårighetsgrad som robusthetsmått och koda robusthet som ett linjärt program.
Measuring Neural Net Robustness with Constraints
{'venue': '30th Conference on Neural Information Processing Systems (NIPS 2016), Barcelona, Spain', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}