Det senaste arbetet har visat att alla klassificerare som klassificerar väl under Gaussiskt buller kan utnyttjas för att skapa en ny klassificerare som är bevisligen robust mot kontradiktoriska störningar i 2 norm. Befintliga garantier för sådana klassificeringar är dock underoptimala. I detta arbete ger vi den första snäva analysen av denna "randomiserade utjämningsteknik". Vi visar sedan att denna extremt enkla metod överträffar med bred marginal alla andra bevisligen 2 -robust klassificerare som föreslås i litteraturen. Dessutom utbildar vi en ImageNet-klassare med t.ex. en påvisbar topp-1-noggrannhet på 49 % under kontradiktoriska störningar med 2 norm mindre än 0,5 (=127/255). Inget annat bevisbart kontradiktoriskt försvar har visat sig vara genomförbart på Im-ageNet. Medan randomiserad utjämning med Gaussiskt brus endast ger robusthet i 2 norm, den empiriska framgången med metoden tyder på att bevisbara metoder baserade på randomisering vid testtid är en lovande riktning för framtida forskning om kontraversarially robust klassificering. Kod och utbildade modeller finns på http://github.com/locuslab/smoothing.
Augmentation med Gaussian brus har använts som en regularizer för utjämning av beslutsgränsen för klassificeringen och visades vara en påvisbar adversarial försvar REF.
Certified Adversarial Robustness via Randomized Smoothing
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}