Generera kontradiktoriska exempel är ett spännande problem och ett viktigt sätt att förstå den fungerande mekanismen för djupa neurala nätverk. De flesta befintliga metoder genererade perturbationer i bildutrymmet, dvs. varje pixel kan ändras självständigt. I detta dokument uppmärksammar vi dock särskilt den delmängd av kontradiktoriska exempel som motsvarar meningsfulla förändringar i 3D-fysiska egenskaper (som rotation och översättning, belysning, etc.). Dessa motståndare utgör utan tvekan en allvarligare oro, eftersom de visar möjligheten att orsaka neurala nätverk misslyckande genom enkla perturbationer av verkliga 3D-objekt och scener. I samband med objektklassificering och visuellt frågesvar, förstärker vi state-of-the-art djupa neurala nätverk som tar emot 2D indata bilder med en rendering modul (antingen differential eller inte) framför, så att en 3D-scen (i det fysiska utrymmet) återges till en 2D-bild (i bildutrymmet), och sedan mappas till en förutsägelse (i utdatautrymmet). De motsträviga perturbationerna kan nu gå bortom bildrymden och ha tydliga betydelser i 3D:s fysiska värld. Även om motståndare till bild-rymden kan tolkas som per-pixel albedo förändring, bekräftar vi att de inte kan förklaras väl längs dessa fysiskt meningsfulla dimensioner, som ofta har en icke-lokal effekt. Men det är fortfarande möjligt att framgångsrikt attackera bortom bildrymden på det fysiska rummet, även om detta är svårare än bild-rymd attacker, återspeglas i lägre framgångsfrekvenser och tyngre störningar som krävs.
Zeng m.fl. REF undersökte undergruppen av kontradiktoriska exempel som motsvarar meningsfulla förändringar av 3D-fysiska egenskaper (dvs. rotations-, översättnings- och belysningsförhållanden), och påpekade att den kontradiktoriska attacken i 3D fysiska rymden är svårare än traditionell 2D bildutrymme.
Adversarial Attacks Beyond the Image Space
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}