Motsträviga exempel är vanligtvis konstruerade genom att störa en befintlig datapunkt inom en liten matrisnorm, och aktuella försvarsmetoder är inriktade på att skydda mot denna typ av angrepp. I detta dokument föreslår vi obegränsade kontradiktoriska exempel, en ny hotmodell där angriparna inte är begränsade till små normbundna perturbationer. Olika från perturbation-baserade attacker, föreslår vi att syntetisera obegränsade kontrariska exempel helt från grunden med hjälp av villkorliga generativa modeller. Speciellt tränar vi först en extraklassificerare Generative Adversarial Network (AC-GAN) för att modellera klass-villkorlig distribution över dataprover. Sedan, beroende på en önskad klass, vi söker över AC-GAN latent utrymme för att hitta bilder som sannolikt under den generativa modellen och är felklassificerade av en mål klassificerare. Vi visar genom mänsklig utvärdering att obegränsade kontradiktoriska exempel som genereras på detta sätt är legitima och tillhör den önskade klassen. Våra empiriska resultat på datauppsättningarna MNIST, SVHN och CelebA visar att obegränsade kontradiktoriska exempel kan kringgå stark kontradiktorisk utbildning och certifierade försvarsmetoder utformade för traditionella kontradiktoriska attacker.
Sång och al. REF optimerar över det latenta utrymmet för en villkorad GAN för att generera obegränsade kontradiktoriska exempel för en genusklassificerare.
Constructing Unrestricted Adversarial Examples with Generative Models
{'venue': 'NeurIPS', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}