Djupa nätverk har nyligen visat sig vara sårbara för allmänna störningar: det finns mycket små bild-agnostiska perturbationer som orsakar att de flesta naturliga bilder felklassas av sådana klassificeringar. I detta dokument föreslår vi en kvantitativ analys av hur robusta klassificeringarna är för universella störningar, och drar en formell koppling mellan robustheten till universella störningar och beslutsgränsens geometri. I synnerhet etablerar vi teoretiska gränser för klassificeringens robusthet under två beslutsgränsmodeller (platta och böjda modeller). Vi visar i synnerhet att de djupa nätens robusthet mot universella störningar drivs av en viktig egenskap hos deras krökning: det finns gemensamma riktningar längs vilka beslutsgränsen för de djupa nätverken systematiskt är positivt böjd. Under sådana förhållanden bevisar vi existensen av små universella störningar. Vår analys ger dessutom en ny geometrisk metod för beräkning av universella störningar, förutom att förklara deras egenskaper.
Moosavi-Dezfooli m.fl. REF visar att det finns små universella störningar under vissa krökningsvillkor för beslutsgränserna.
Analysis of universal adversarial perturbations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}