Den senaste tidens forskning har visat att maskininlärningssystem är spröda mot motsträviga störningar. Studierna har dock i huvudsak begränsats till perturbationer på bilder och mer allmänt, klassificering som inte behandlar tidsmässigt varierande ingångar. I denna artikel frågar vi "Är kontradiktoriska störningar möjliga i realtid video klassificeringssystem och i så fall, vilka egenskaper måste de uppfylla?" Sådana system kan tillämpas i övervakningstillämpningar, smarta fordon och smart äldreomsorg och därför kan felklassificering vara särskilt skadligt (t.ex. kan en missmatchning på en äldrevårdsanläggning missas). Vi visar att redovisning av tidsstrukturen är nyckeln till att generera kontradiktoriska exempel i sådana system. Vi utnyttjar de senaste framstegen inom generativt kontraversarialt nätverk (GAN) arkitekturer för att redogöra för tidsmässiga korrelationer och generera kontrarimala prover som kan orsaka felklassificeringsfrekvenser på över 80 % för riktad verksamhet. Ännu viktigare, proverna lämnar också andra aktiviteter i stort sett opåverkade gör dem extremt smygande. Slutligen finner vi också överraskande att i många scenarier, kan samma perturbation tillämpas på varje ram i ett videoklipp som gör motståndarens förmåga att uppnå felklassificering relativt lätt.
Nyligen visade REF att vi kan använda en Generative Adversarial Networks (Gans) som arkitektur för att generera perturbationer i realtid video klassificerare.
Adversarial Perturbations Against Real-Time Video Classification Systems
{'venue': 'Network and Distributed Systems Security (NDSS) Symposium 2019 24-27 February 2019, San Diego, CA, USA', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}