Djupa neurala nätverk är mottagliga för kontradiktoriska attacker. I datorseende, välgjorda perturbationer till bilder kan orsaka neurala nätverk att göra misstag såsom att förväxla en katt med en dator. Tidigare kontradiktoriska attacker har utformats för att försämra prestandan hos modeller eller orsaka maskininlärning modeller för att producera specifika utgångar som valts i förväg av angriparen. Vi introducerar attacker som istället programmera om målmodellen för att utföra en uppgift som valts av angriparen-utan angriparen behöver ange eller beräkna önskad utdata för varje test-tidsinmatning. Denna attack finner en enda motstridig perturbation, som kan läggas till alla test-tid ingångar till en maskininlärning modell för att få modellen att utföra en uppgift som valts av motståndaren-även om modellen inte var tränad för att göra denna uppgift. Dessa störningar kan därför betraktas som ett program för den nya uppgiften. Vi demonstrerar adversarial omprogrammering på sex ImageNet klassificeringsmodeller, repurposing dessa modeller för att utföra en beräkning uppgift, samt klassificeringsuppgifter: klassificering av MNIST och CIFAR-10 exempel presenteras som indata till ImageNet modellen.
De attacker som istället programmera om målmodellen för att utföra en uppgift som valts av angriparen-utan angriparen behöver ange eller beräkna önskad utdata för varje test-tidsinmatning infördes i REF.
Adversarial Reprogramming of Neural Networks
{'venue': 'International Conference on Learning Representations 2019', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}