Förstärkt lärande (RL) har gjort stora framsteg under de senaste åren med anställning av effektiva djupa neurala nätverk (DNN) på de politiska nätverken [16, 23]. Med den stora effektiviteten kom allvarliga sårbarhetsproblem med DNNs att små motsträviga störningar på inmatningen kan ändra nätets utdata [34]. Flera arbeten har påpekat att lärda agenter med ett DNN-policynätverk kan manipuleras mot att uppnå den ursprungliga uppgiften genom en sekvens av små störningar på inmatningstillstånden [10]. I detta dokument visar vi dessutom att det också är möjligt att införa en godtycklig kontradiktorisk belöning för nätverket för brottsoffrens politik genom en serie attacker. Vår metod innefattar den senaste kontradiktoriska attacktekniken, Adversarial Transformer Network (ATN) [1], som lär sig att generera attacken och är lätt att integrera i policynätverket. Som ett resultat av vår attack är offrets agent vilseledd för att optimera för den kontradiktoriska belöningen över tiden. Våra resultat exponerar allvarliga säkerhetshot för RL-applikationer i säkerhetskritiska system inklusive drönare [8], medicinsk analys [26], och självkörande bilar [31].
Tretschk m.fl. Ref syftade också till att beräkna en sekvens av perturbationer, som genereras av en inlärd feed-forward DNN, så att de perturbed stater missrikta offret politik att följa en godtycklig kontraarial belöning över tiden.
Sequential Attacks on Agents for Long-Term Adversarial Goals
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}