Djuplärande algoritmer har i allt högre grad visat sig sakna robusthet till enkla kontradiktoriska exempel (AdvX). En lika oroande iakttagelse är att dessa kontradiktoriska exempel överför mellan olika arkitekturer som är utbildade på olika datauppsättningar. Vi undersöker överförbarheten av kontradiktoriska exempel mellan modeller med hjälp av vinkeln mellan input-output Jacobians av olika modeller. För att visa relevansen av detta tillvägagångssätt utför vi fallstudier som involverar gemensamt utbildning par av modeller. Dessa fallstudier rättfärdigar empiriskt de teoretiska intuitionerna för varför vinkeln mellan gradienter är en grundläggande kvantitet i AdvX överförbarhet. Dessutom betraktar vi asymmetrin i AdvX-överföringen mellan två modeller av samma arkitektur och förklarar den i form av skillnader i gradientnormer mellan modellerna. Slutligen ger vi en enkel ändring av befintliga utbildningsupplägg som minskar överförbarheten av kontradiktoriska exempel mellan par av modeller.
I REF föreslog författarna att man skulle optimera avståndet mellan olika modellers lutningar i utbildningen så att överförbarheten av kontradiktoriska attacker kan minskas.
Reducing Adversarial Example Transferability Using Gradient Regularization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}