Generera kontradiktoriska exempel är ett viktigt steg för att utvärdera och förbättra robustheten i inlärningsmaskiner. Hittills fungerar de flesta befintliga metoder bara för klassificering och är inte utformade för att ändra det verkliga prestandamåttet på det aktuella problemet. Vi introducerar ett nytt flexibelt tillvägagångssätt som heter Houdini för att ta fram kontradiktoriska exempel som är särskilt anpassade för det slutliga prestationsmåttet för den aktuella uppgiften, oavsett om den är kombinatorisk eller inte. Vi tillämpar Houdini framgångsrikt på en rad tillämpningar såsom taligenkänning, posering och semantisk segmentering. I samtliga fall uppnår attackerna baserade på Houdini högre framgångsgrad än de som baseras på de traditionella surrogat som används för att träna modellerna samtidigt som man använder en mindre märkbar adversariell perturbation.
Houdini by Cisse REF är ett tillvägagångssätt för att ta fram kontradiktoriska exempel som är särskilt anpassade för uppgiftsförluster, och det kan tillämpas på en rad tillämpningar.
Houdini: Fooling Deep Structured Prediction Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}