Maskininlärning möjliggör en myriad av innovationer, inklusive nya algoritmer för cancerdiagnos och självkörande bilar. Den breda användningen av maskininlärning gör det viktigt att förstå i vilken utsträckning maskininlärningsalgoritmer utsätts för angrepp, särskilt när de används i tillämpningar där fysisk säkerhet eller säkerhet är i fara. I detta dokument fokuserar vi på biometriska ansiktssystem, som i stor utsträckning används för övervakning och åtkomstkontroll. Vi definierar och undersöker en ny klass av attacker: attacker som är fysiskt realiserbara och diskreta, och tillåter en angripare att undvika erkännande eller imitera en annan individ. Vi utvecklar en systematisk metod för att automatiskt generera sådana attacker, som realiseras genom att trycka ett par glasögonramar. När de bärs av angriparen vars bild levereras till en toppmodern ansiktsigenkänningsalgoritm, gör glasögonen det möjligt för henne att undvika att bli igenkänd eller att imitera en annan individ. Vår undersökning fokuserar på white-box ansiktsigenkänningssystem, men vi visar också hur liknande tekniker kan användas i svart-box scenarier, samt för att undvika ansiktsdetektering.
Partikelsvärmoptimering användes i REF för att attackera modeller för ansiktsigenkänning av svarta lådor.
Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition
{'venue': "CCS '16", 'journal': None, 'mag_field_of_study': ['Computer Science']}