Abstrakt. Djupa neurala nätverk har nyligen visat enorma prestanda i olika applikationer inklusive vision och talbehandling uppgifter. Vid sidan av deras förmåga att utföra dessa uppgifter med så hög noggrannhet har det emellertid visat sig att de är mycket mottagliga för kontradiktoriska attacker: en liten förändring av inmatningen skulle leda till att nätverket felar med stort förtroende. Detta fenomen avslöjar ett inneboende fel i dessa nätverk och deras förmåga att generalisera väl. Därför är det en viktig utmaning för nätverksutbildningen att ge robusthet åt kontradiktoriska attacker, vilket har lett till omfattande forskning. I detta arbete föreslår vi ett teoretiskt inspirerat nytt tillvägagångssätt för att förbättra nätverkens robusthet. Vår metod tillämpas legalisering med hjälp av Frobenius norm av Jacobian av nätverket, som tillämpas som efterbehandling, efter regelbunden utbildning har avslutats. Vi visar empiriskt att det leder till ökad robusthet resultat med en minimal förändring i det ursprungliga nätverkets noggrannhet.
Den frobenius norm av Jacobian av nätverket har visat sig förbättra modellens stabilitet i REF.
Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}