I detta arbete, initierar vi en formell studie av förmodligen ungefär korrekt (PAC) lärande under undanflykt attacker, där motståndarens mål är att felklassificera den motsträviga perturbed prov punkt x, dvs h( x) = c( x), där c är marken sanningsbegreppet och h är den lärda hypotesen. Tidigare arbete med PAC-inlärning av kontradiktoriska exempel har alla modellerade kontradiktoriska exempel som korrumperade ingångar där motståndarens mål är att uppnå h( x) = c( x), där x är den ursprungliga otämjda instansen. Dessa två definitioner av kontradiktorisk risk sammanfaller för många naturliga distributioner, såsom bilder, men är i allmänhet ojämförliga. Vi bevisar först att för många teoretiskt naturliga inmatningsutrymmen av hög dimension n (t.ex., isotropisk Gaussian i dimension n under l 2 perturbationer), om motståndaren tillåts att tillämpa upp till en sublinjär o( x ) mängd perturbationer på testfallen, PAC lärande kräver prov komplexitet som är exponentiellt i n. Detta är i motsats till resultaten bevisat med hjälp av den korrumperade-input ramen, där provet komplexitet robust inlärning är bara polynomiellt mer. Vi formaliserar sedan hybridattacker där undanflyktsattacken föregås av en förgiftningsattack. Detta kanske påminner om "fällor attacker" där en förgiftningsfas också är inblandad, men skatteflyktsfasen här använder felregion definition av risk som syftar till att felklassificera de perturbed fall. I detta fall visar vi PAC lärande är ibland omöjligt tillsammans, även när det är möjligt utan attack (t.ex. på grund av den avgränsade VC-dimensionen).
REF-studie PAC-lärande under felregionens inställning och visar en lägre gräns för urvalskomplexitet som är exponentiell i indatadimensionen.
Lower Bounds for Adversarially Robust PAC Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}