Även om framsteg har gjorts när det gäller att förstå robustheten hos maskininlärningsklassificerare för provtidsmotståndare (evasionsattacker), är grundläggande frågor fortfarande olösta. I detta dokument använder vi optimala transporter för att karakterisera minsta möjliga förlust i ett kontradiktoriskt klassificeringsscenario. I denna inställning får en motståndare ett slumpmässigt namngivet exempel från en av två klasser, stör exemplet som är föremål för en kvartersrestriktion, och presenterar det modifierade exemplet för klassifieraren. Vi definierar en lämplig kostnadsfunktion så att den minsta transportkostnaden mellan fördelningen av de två klasserna avgör den minsta förlusten 0 - 1 för varje klassificeringskategori. När klassificeringen kommer från en begränsad hypotesklass ger den optimala transportkostnaden en lägre gräns. Vi tillämpar vårt ramverk på fallet med Gaussian data med normbundna motståndare och tydligt visa matchande gränser för klassificering och transport problem samt optimalitet linjära klassificerare. Vi karakteriserar också urvalet komplexitet av lärande i denna miljö, härleda och utvidga tidigare kända resultat som ett specialfall. Slutligen använder vi vårt ramverk för att studera gapet mellan den optimala klassificeringsprestandan som är möjlig och som för närvarande uppnås av toppmodernt välutbildade neurala nätverk för datauppsättningar av intresse, nämligen MNIST, Fashion MNIST och CIFAR-10.
Andra relevanta arbeten REF använder optimal transport för att härleda lägre gränser för det kontradiktoriska klassificeringsfelet.
Lower Bounds on Adversarial Robustness from Optimal Transport
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}