Abstract-djupa neurala nätverk-baserade klassificerare är kända för att vara sårbara för kontrarisiva exempel som kan lura dem till felklassificering deras ingång genom tillägg av små-magnitude perturbations. Nyligen genomförda studier har dock visat att sådana kontradiktoriska exempel inte är särskilt effektiva i den fysiska världen - de antingen helt misslyckas med att orsaka felklassificering eller bara fungerar i begränsade fall där en relativt komplex bild är störd och tryckt på papper. I detta dokument föreslår vi en ny attackalgoritm-Robust Physical Perturbations (RP 2 )-som genererar störningar genom att ta bilder under olika förhållanden i beaktande. Vår algoritm kan skapa rumsligt betingade perturbationer som efterliknar vandalism eller konst för att minska sannolikheten för upptäckt av en tillfällig observatör. Vi visar att kontradiktoriska exempel som genereras av RP 2 uppnår hög framgång under olika förutsättningar för verkligt vägmärkesigenkänning genom att använda en utvärderingsmetod som fångar fysiska världsförhållanden. Vi insåg fysiskt och utvärderade två attacker, en som gör att ett stopptecken blir felaktigt klassificerat som ett hastighetsbegränsningstecken i 100% av testförhållandena, och en som gör att ett högersvängstecken blir felaktigt klassificerat som antingen ett stopp eller tillagt körfältstecken i 100% av testförhållandena.
RP 2 föreslogs för att göra ett kontradiktoriskt exempel på verkliga vägmärken REF.
Robust Physical-World Attacks on Machine Learning Models.
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}