Den robusta neurala nätverk till kontradiktoriska exempel har fått stor uppmärksamhet på grund av säkerhet implikationer. Trots olika angreppsmetoder för att skapa visuellt omärkliga kontradiktoriska exempel har mycket lite utvecklats mot ett omfattande mått av robusthet. I detta dokument ger vi en teoretisk motivering för att omvandla robusthetsanalys till ett lokalt Lipschitz konstantuppskattningsproblem, och föreslår att använda Extreme Value Theory för effektiv utvärdering. Vår analys ger en ny robusthetsmätare kallad CLEVER, som är kort för Cross Lipschitz Extreme Value för nEtwork Robustness. Den föreslagna CLEVER poäng är attack-agnostiskt och beräkningsbart möjligt för stora neurala nätverk. Experimentella resultat på olika nätverk, inklusive ResNet, Inceptivv3 och MobileNet, visar att (i) CLEVER är i linje med robusthetsindikationen mätt med 2 och ❌ normer av kontradiktoriska exempel från kraftfulla attacker, och (ii) försvarade nätverk med hjälp av defensiv destillation eller avgränsade ReLU verkligen uppnå bättre CLEVER poäng. Såvitt vi vet är CLEVER den första attackoberoende robusthetsmätaren som kan appliceras på alla neurala nätverksklassificeringar.
CLEVER score REF användes för att uppskatta robustheten i neurala nätverk.
WORKS: AN EXTREME VALUE THEORY APPROACH