Det har på ett bra sätt visats att kontradiktoriska exempel, dvs. naturliga bilder med visuellt omärkliga perturbationer läggs till, orsakar djupa nätverk att misslyckas med bildklassificeringen. I detta dokument utvidgar vi kontradiktoriska exempel till semantisk segmentering och objektdetektering som är mycket svårare. Vår observation är att både segmentering och detektion baseras på att klassificera flera mål på en bild (t.ex. målet är en pixel eller ett mottagligt fält i segmentering, och ett objektförslag i detektion). Detta inspirerar oss att optimera en förlustfunktion över en uppsättning mål för att generera motstående störningar. Baserat på detta föreslår vi en ny algoritm som heter Dense Adversary Generation (DAG), som gäller de toppmoderna nätverken för segmentering och detektion. Vi finner att de kontradiktoriska perturbationer kan överföras över nätverk med olika utbildningsdata, baserat på olika arkitekturer, och även för olika igenkänningsuppgifter. Särskilt överföringsförmågan mellan nätverk med samma arkitektur är viktigare än i andra fall. Dessutom visar vi att summering av heterogena störningar ofta leder till bättre överföringsprestanda, vilket ger en effektiv metod för svart-box kontraversarial attack.
REF ) föreslår en ny attackmetod kallad Dense Adversary Generation (DAG), som genererar en grupp kontradiktoriska exempel för ett gäng toppmoderna segmenterings- och detektionsdjupa nätverk.
Adversarial Examples for Semantic Segmentation and Object Detection
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}