Skapande av kontradiktoriska exempel har blivit en viktig teknik för att utvärdera robustheten i djupa neurala nätverk (DNN). De flesta befintliga verk fokuserar dock på att angripa problemet med bildklassificering eftersom dess ingångsutrymme är kontinuerligt och utdatautrymme är ändligt. I detta dokument studerar vi det mycket mer utmanande problemet med att skapa kontradiktoriska exempel för sekvens-till-sekvens (seq2seq) modeller, vars ingångar är diskreta textsträngar och utgångar har ett nästan oändligt antal möjligheter. För att ta itu med de utmaningar som orsakas av det diskreta ingångsutrymmet föreslår vi en projicerad gradientmetod kombinerad med grupplasso och gradientreglering. För att hantera det nästan oändliga utdatautrymmet designar vi några nya förlustfunktioner för att utföra icke-överlappande attack och riktad sökordsattack. Vi tillämpar vår algoritm för maskinöversättning och textsammanfattning uppgifter, och verifiera effektiviteten av den föreslagna algoritmen: genom att ändra mindre än 3 ord, kan vi göra följande 2seq modell för att producera önskade resultat med hög framgång hastighet. Å andra sidan är vi medvetna om att, jämfört med de välvärderade CNN-baserade klassificeringarna, är följande 2seq-modeller i sig mer robusta än kontradiktoriska attacker.
REF utvecklar en algoritm för att angripa 2:a Seq-modeller med särskilda begränsningar för innehållet i de kontradiktoriska exemplen.
Seq2Sick: Evaluating the Robustness of Sequence-to-Sequence Models with Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}