I detta dokument utvecklar vi förbättrade tekniker för att försvara mot kontradiktoriska exempel i stor skala. För det första genomför vi den senaste versionen av kontradiktorisk utbildning i aldrig tidigare skådad skala på ImageNet och undersöker om den fortfarande är effektiv i denna inställning-en viktig öppen vetenskaplig fråga (Athalye et al., 2018). Därefter introducerar vi förbättrade försvar med hjälp av en teknik som vi kallar logit pairing, en metod som uppmuntrar logits för par av exempel att vara liknande. När det appliceras på rena exempel och deras kontradiktoriska motsvarigheter, förbättrar logit-parning noggrannheten på kontradiktoriska exempel över vanilj kontraversär träning; vi finner också att logit-parning på rena exempel endast är konkurrenskraftig med kontrarisär träning i form av noggrannhet på två datauppsättningar. Slutligen visar vi att kontradiktorisk logit parning uppnår toppmoderna försvar på Imagenet mot PGD white box attacker, med en noggrannhetsförbättring från 1,5% till 27,9%. Adversarial logit pairing också framgångsrikt skadar den nuvarande state of the art försvar mot svarta box attacker på Imagenet (Tramèr et al., 2018), minska dess noggrannhet från 66,6% till 47,1%. Med denna nya precisionsdroppe paras kontradiktorisk logit ihop med Tramèr et al. (2018) för state of the art on black box attacker på ImageNet.
Adversarial logit paring (ALP) REF är en typ av kontradiktorisk utbildning som uppmuntrar logit förutsägelser av ett nätverk för en ren bild och dess kontradiktoriska motsvarighet att vara liknande.
Adversarial Logit Pairing
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}