Abstrakt. Med tanke på möjligheten att direkt manipulera bildpixlar i det digitala inmatningsutrymmet, kan en motståndare enkelt generera omärkliga perturbationer för att lura en Deep Neural Network (DNN) bildklassificering, som visats i tidigare arbete. I detta arbete föreslår vi ShapeShifter, en attack som tar itu med det mer utmanande problemet med att skapa fysiska motgångar för att lura bildbaserade objektdetektorer som Snabbare R-CNN. Att attackera en objektdetektor är svårare än att attackera en bildsorterare, eftersom den måste vilseleda klassificeringsresultaten i flera avgränsande lådor med olika skalor. Att utvidga den digitala attacken till den fysiska världen ger ytterligare ett lager av svårigheter, eftersom det kräver att perturbationen är tillräckligt robust för att överleva verkliga störningar på grund av olika visningsavstånd och vinklar, ljusförhållanden och kamerabegränsningar. Vi visar att förväntan om omvandlingsteknik, som ursprungligen föreslogs för att öka robustheten av kontradiktoriska perturbationer i bildklassificeringen, framgångsrikt kan anpassas till objektdetekteringsinställningen. ShapeShifter kan generera tvärgående perturbed stoppskyltar som konsekvent felupptäcktes av Faster R-CNN som andra objekt, utgör ett potentiellt hot mot autonoma fordon och andra säkerhetskritiska datorseendesystem.
Verkliga kontradiktoriska objekt måste vara mycket mer uppenbara än digitala attacker för att vara robusta mot naturliga störningar REF.
ShapeShifter: Robust Physical Adversarial Attack on Faster R-CNN Object Detector
{'venue': 'Joint European Conference on Machine Learning and Knowledge Discovery in Databases, pp. 52-68, 2018', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}