Ett växande problem med tillförlitlig maskininlärning är att utbilda modeller som ger robusta tolkningar för sina förutsägelser. Vi tar ett steg mot att lösa detta problem genom linsen av axiomatisk tillskrivning av neurala nätverk. Vår teori är baserad i det senaste arbetet, Integrerade Gradients (IG) [STY17], i axiomatiskt atttribuera ett neuralt nätverk output förändring till dess ingång förändring. Vi föreslår utbildningsmål i klassiska robusta optimeringsmodeller för att uppnå robusta IG-attribueringar. Våra mål ger principiella generaliseringar av tidigare mål utformade för robusta förutsägelser, och de degenereras naturligt till klassisk soft-marginal träning för ett lager neurala nätverk. Vi generaliserar också tidigare teori och bevisar att målen för olika robusta optimeringsmodeller är nära besläktade. Experiment visar hur effektiv vår metod är och pekar också på spännande problem som tyder på behovet av bättre optimeringstekniker eller bättre neurala nätverksarkitekturer för robust tillskrivningsutbildning.
En metod som kallas robust tillskrivning legalisering REF, som också använder robust optimering, föreslås för att lösa detta problem.
Robust Attribution Regularization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}