Djupa neurala nätverk (DNN) är sårbara för kontradiktoriska exempel-skadligt skapade ingångar som orsakar DNNs att göra felaktiga förutsägelser. Det senaste arbetet har visat att dessa attacker generaliseras till den fysiska domänen, för att skapa störningar på fysiska objekt som lurar bilden klassificerare under en mängd olika verkliga förhållanden. Sådana attacker utgör en risk för djupt lärande modeller som används i säkerhetskritiska cyberfysiska system. I detta arbete utsträcker vi fysiska attacker till mer utmanande objektdetekteringsmodeller, en bredare klass av djupt lärande algoritmer som ofta används för att upptäcka och märka flera objekt i en scen. Genom att förbättra en tidigare fysisk attack på bildklassificerare skapar vi perturbed fysiska objekt som antingen ignoreras eller felmärks av objektdetekteringsmodeller. Vi genomför en försvinnande attack, där vi orsakar en stoppskylt att "försvann" enligt detektorn-antingen genom att täcka skylten med en kontradiktorisk stoppskylt affisch, eller genom att lägga adversariska klistermärken på skylten. I en video inspelad i en kontrollerad labbmiljö, den state-of-the-art YOLO v2 detektor misslyckades med att känna igen dessa kontradiktoriska stopptecken i över 85% av videoramarna. I ett utomhusexperiment lurades YOLO av affisch- och klistermärkena i 72,5% respektive 63,5% av videoramarna. Vi använder också Faster R-CNN, en annan objektdetekteringsmodell, för att visa överförbarheten av våra kontradiktoriska perturbationer. Den skapade affischen perturbation kan lura Faster R-CNN i 85,9% av videoramarna i en kontrollerad labbmiljö, och 40,2% av videoramarna i en utomhusmiljö. Slutligen presenterar vi preliminära resultat med en ny Skapelseattack, där ofarliga fysiska klistermärken lurar en modell att upptäcka icke-existerande föremål.
Eykholt m.fl. föreslog den fysiska attacken till YOLO V2 objektdetektor REF.
Physical Adversarial Examples for Object Detectors
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}