Vi studerar problemet med att lära sig klassificerare robusta till universella motsträviga perturbationer. Medan tidigare arbete närmar sig detta problem genom robust optimering, kontradiktorisk utbildning, eller input transformation, vi istället formulera det som en två-spelare nollsummespel. I denna nya formulering spelar båda spelarna samtidigt samma spel, där en spelare väljer en klassificerare som minimerar en klassificeringsförlust medan den andra spelaren skapar en motstående perturbation som ökar samma förlust när den appliceras på varje prov i träningssetet. Genom att observera att utföra en klassificering (respektive skapa kontradiktoriska prover) är den bästa responsen till den andra spelaren, föreslår vi en ny utvidgning av en spel-teoretisk algoritm, nämligen fiktivt spel, till området för utbildning robusta klassificerare. Slutligen visar vi empiriskt på robustheten och mångsidigheten i vår strategi i två försvarsscenarier där universella attacker utförs på flera bildklassificeringsdata -CIFAR10, CIFAR100 och ImageNet.
En ny preprint REF modellerar problemet med att försvara mot universella perturbationer som en två-spelare min-max spel.
Playing the Game of Universal Adversarial Perturbations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}