De flesta befintliga maskininlärningsklasser är mycket sårbara för kontradiktoriska exempel. Ett kontradiktoriskt exempel är ett urval av indata som har modifierats mycket lite på ett sätt som är avsett att få en maskin som lär sig klassificering att felklassificera den. I många fall kan dessa modifieringar vara så subtila att en mänsklig iakttagare inte ens lägger märke till ändringen alls, men klassifieraren gör ändå ett misstag. Motståndskraftiga exempel utgör säkerhetsproblem eftersom de kan användas för att utföra en attack på maskininlärningssystem, även om motståndaren inte har någon tillgång till den underliggande modellen. Hittills har allt tidigare arbete antagit en hotmodell där motståndaren kan mata in data direkt i maskininlärningsklassen. Detta är inte alltid fallet för system som fungerar i den fysiska världen, till exempel de som använder signaler från kameror och andra sensorer som en ingång. Detta dokument visar att även i sådana fysiska världsscenarier är maskininlärningssystem sårbara för kontradiktoriska exempel. Vi demonstrerar detta genom att mata in kontradiktoriska bilder från mobilkamera till en ImageNet Inception-klassificering och mäta systemets klassificeringsnoggrannhet. Vi finner att en stor del av kontradiktoriska exempel klassificeras felaktigt även när de uppfattas via kameran.
Kurakin m.fl. REF studerar överförbarheten av attacker till den fysiska världen genom att trycka sedan fotografera den kontradiktoriska bilden.
Adversarial examples in the physical world
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}