Det är väl känt att klassificeringsgrundare är sårbara för kontradiktoriska störningar. För att försvara sig mot kontradiktoriska störningar har olika certifierade robusthetsresultat erhållits. Befintliga certifierade robustheter är dock begränsade till topp 1-prognoser. I många tillämpningar i verkligheten är topk-prognoser mer relevanta. I detta arbete strävar vi efter att härleda certifierad robusthet för top-k förutsägelser. I synnerhet är vår certifierade robusthet baserad på randomiserad utjämning, som förvandlar alla klassificerare till en ny klassiator genom att lägga till buller till ett inmatningsexempel. Vi antar randomiserad utjämning eftersom den är skalbar till storskaliga neurala nätverk och tillämpas på alla klassificerare. Vi får en tight robusthet i 2 norm för topk förutsägelser när du använder randomiserade utjämning med Gaussian brus. Vi finner att generaliseringen av den certifierade robustheten från topp 1 till topp-k förutsägelser står inför betydande tekniska utmaningar. Vi utvärderar också empiriskt vår metod på CI-FAR10 och ImageNet. Till exempel kan vår metod få en ImageNet-klassificerare med en certifierad topp-5 noggrannhet på 62,8% när 2 -normerna av de kontradiktoriska perturbationer är mindre än 0,5 (=127/255). Vår kod finns tillgänglig för allmänheten på: https
Jia m.fl. REF härledde en tight certifierad robusthet av top-k förutsägelser för randomiserad utjämning med Gaussian buller.
Certified Robustness for Top-k Predictions against Adversarial Perturbations via Randomized Smoothing
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}