På grund av deras komplexa natur är det svårt att beskriva hur maskininlärningsmodeller kan missköta sig eller utnyttjas när de används. Det senaste arbetet med kontradiktoriska exempel, dvs. indata med mindre störningar som resulterar i väsentligt olika modellprognoser, är till hjälp för att utvärdera robustheten hos dessa modeller genom att exponera de kontradiktoriska scenarier där de misslyckas. Men dessa skadliga störningar är ofta onaturliga, inte semantiskt meningsfulla, och inte tillämpliga på komplicerade domäner som språk. I detta dokument föreslår vi en ram för att generera naturliga och läsliga kontradiktoriska exempel genom att söka i semantiskt utrymme av tät och kontinuerlig datarepresentation, utnyttja de senaste framstegen i generativa kontrariska nätverk. Vi presenterar genererade motståndare för att visa potentialen i det föreslagna tillvägagångssättet för svart-box klassificerare i ett brett spektrum av applikationer såsom bildklassificering, textförnimmelse, och maskinöversättning. Vi inkluderar experiment för att visa att de genererade motståndarna är naturliga, läsbara för människor, och användbara för att utvärdera och analysera svart-box klassificerare.
REF-sök efter kontradiktoriska exempel i black-box i utrymmet för kodade meningar och skapa kontradiktoriska exempel genom att störa den latenta representationen tills modellen är lurad.
Generating Natural Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}