Motståndskraftiga exempel väcker frågor om huruvida neurala nätverksmodeller är känsliga för samma visuella egenskaper som människor. De flesta av de föreslagna metoderna för att mildra kontradiktoriska exempel har därefter besegrats av starkare attacker. Motiverade av dessa frågor tar vi en annan strategi och föreslår istället att upptäcka kontradiktoriska exempel baserade på klass-villkorliga rekonstruktioner av input. Vår metod använder det återuppbyggnadsnätverk som föreslås som en del av Capsule Networks (CapsNets), men är tillräckligt allmänt för att tillämpas på vanliga konvolutionsnätverk. Vi finner att kontradiktoriska eller på annat sätt korrumperade bilder resulterar i mycket större rekonstruktionsfel än normala ingångar, vilket leder till en enkel detektionsmetod genom att begränsa återuppbyggnadsfelet. På grundval av dessa resultat föreslår vi den rekonstruktiva attacken som både syftar till att orsaka en felklassificering och ett lågt återuppbyggnadsfel. Medan denna attack producerar oupptäckta kontradiktoriska exempel, vi finner att för CapsNets de resulterande perturbationer kan orsaka bilderna att framträda visuellt mer som målklassen. Detta tyder på att CapsNets använder funktioner som är mer i linje med människans uppfattning och ta itu med den centrala frågan som uppstår av kontradiktoriska exempel.
För att övervinna denna begränsning, Qin et al. REF använde återuppbyggnadsnätet av kapselnät för att upptäcka kontradiktoriska exempel.
Detecting and Diagnosing Adversarial Images with Class-Conditional Capsule Reconstructions
{'venue': 'ICLR 2020', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}