Det senaste arbetet har visat att neurala nätverk är sårbara för kontradiktoriska exempel, d.v.s. ingångar som är nästan oskiljaktiga från naturliga data och ändå felaktigt klassificerade av nätverket. Några av de senaste rönen tyder i själva verket på att förekomsten av kontradiktoriska attacker kan vara en inneboende svaghet hos modeller för djupt lärande. För att ta itu med detta problem, studerar vi den kontrariska robustheten i neurala nätverk genom linsen för robust optimering. Detta tillvägagångssätt ger oss en bred och enande syn på en stor del av det tidigare arbetet med denna fråga. Dess principiella natur gör det också möjligt för oss att identifiera metoder för både träning och angrepp på neurala nätverk som är tillförlitliga och, i viss mening, universella. I synnerhet anges en konkret säkerhetsgaranti som skulle skydda mot alla motståndare. Dessa metoder låter oss träna nätverk med avsevärt förbättrad motståndskraft mot ett brett spektrum av kontradiktoriska attacker. De föreslår också begreppet säkerhet mot en första ordningens motståndare som en naturlig och bred säkerhetsgaranti. Vi anser att robusthet mot sådana väldefinierade klasser av motståndare är en viktig språngbräda mot fullt motståndskraftiga modeller för djupt lärande. * Författare beställer alfabetiskt.
Teori: REF använde ramen för robust optimering och visade resultat av kontradiktorisk träning.
Towards Deep Learning Models Resistant to Adversarial Attacks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}