Känsligheten för kontradiktoriska attacker har varit en kritisk fråga för djupa neurala nätverk. För att ta itu med denna fråga krävs ett tillförlitligt sätt att utvärdera ett näts robusthet. Nyligen har flera metoder utvecklats för att beräkna robusthet kvantifiering för neurala nätverk, nämligen certifierade lägre gränser för den minsta kontrariska perturbation. Sådana metoder utformades dock för nätverk för vidarematning, t.ex. Multiskiktsperceptron- eller konvolutionsnät. Det är fortfarande ett öppet problem att kvantifiera robustheten för återkommande nätverk, särskilt LSTM och GRU. För sådana nätverk finns det ytterligare utmaningar när det gäller att beräkna kvantifieringen av robusthet, t.ex. hantering av indata i flera steg och samverkan mellan portar och stater. I detta arbete föreslår vi POPQORN (Propagatedoutput Quantified Robustness for RNNs), en allmän algoritm för att kvantifiera robustheten hos RNNs, inklusive vanilj RNNs, LSTMs, och GRUs. Vi visar dess effektivitet på olika nätverksarkitekturer och visar att robustheten kvantifiering på enskilda steg kan leda till nya insikter.
POPQORN REF ) är en allmän algoritm för att kvantifiera robustheten hos återkommande neurala nätverk, inklusive RNNs, LSTMs och GRUs.
POPQORN: Quantifying Robustness of Recurrent Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}