Djupa neurala nätverk har visat sig anmärkningsvärt effektiva för att lösa många klassificeringsproblem, men har kritiserats nyligen för två stora svagheter: orsakerna bakom deras förutsägelser är oförutsebara, och förutsägelserna själva kan ofta luras av små motgångar. Dessa problem utgör stora hinder för införandet av neurala nätverk inom områden som kräver säkerhet eller öppenhet. I detta arbete utvärderar vi effektiviteten av försvar som differentierar i vilken grad små förändringar i ingångar kan förändra modellprognoser. Över flera attacker, arkitekturer, försvar och datauppsättningar, finner vi att neurala nätverk tränade med denna indatagradient legalisering uppvisar robusthet att överföra kontradiktoriska exempel som genereras för att lura alla de andra modellerna. Vi finner också att kontradiktoriska exempel som genereras för att lura gradient-regulariserade modeller lurar alla andra modeller lika väl, och faktiskt leder till mer "legitima", tolkningsbara felklassificeringar som klassas av människor (som vi bekräftar i ett mänskligt ämne experiment). Slutligen visar vi att regularisering av inmatningsgradienter gör dem mer naturligt uttolkbara som motiv för modellprognoser. Vi avslutar med att diskutera detta förhållande mellan tolkningsförmåga och robusthet i djupa neurala nätverk.
REF visar att utbildning neurala nätverk med ingångsgradient legalisering kan öka robustheten till överförd kontrarimala exempel som skapats för att fejka alla de andra modellerna.
Improving the Adversarial Robustness and Interpretability of Deep Neural Networks by Regularizing their Input Gradients
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}