Abstract-Machine lärande modeller används ofta för att lösa komplexa säkerhetsproblem, samt för att fatta beslut i känsliga situationer som att styra autonoma fordon eller förutsäga finansiella marknadens beteenden. Tidigare insatser har visat att många modeller för maskininlärning är sårbara för kontradiktoriska manipulationer av deras indata i form av kontradiktoriska prover. Sådana ingångar skapas genom att noggrant utvalda perturbationer läggs till legitima ingångar för att tvinga maskininlärningsmodellen att missköta sig, till exempel genom att ge fel klass om maskininlärningsuppgiften av intresse är klassificering. I själva verket, så vitt vi vet, allt tidigare arbete med kontradiktoriska prover hantverk för neurala nätverk anses modeller som används för att lösa klassificeringsuppgifter, oftast i datorseende applikationer. I detta dokument undersöker vi kontradiktoriska ingångssekvenser för återkommande neurala nätverk som behandlar sekventiella data. Vi visar att de klasser av algoritmer som tidigare introducerats till craft adversarial prover felklassificeras av feed-forward neurala nätverk kan anpassas till återkommande neurala nätverk. I ett experiment visar vi att motståndare kan tillverka kontradiktoriska sekvenser som vilseleder både kategoriska och sekventiella återkommande neurala nätverk.
Motstående provgenerering gäller också återkommande neurala nätverk, där vissa ord i en sekvens ersätts enligt gradienterna REF.
Crafting adversarial input sequences for recurrent neural networks
{'venue': 'MILCOM 2016 - 2016 IEEE Military Communications Conference', 'journal': 'MILCOM 2016 - 2016 IEEE Military Communications Conference', 'mag_field_of_study': ['Computer Science']}