Djupt förstärkande lärande har visat lovande resultat när det gäller policyer för inlärningskontroll för komplexa, sekventiella beslutsuppgifter. Dessa neurala nätverksbaserade strategier är dock kända för att vara sårbara för kontradiktoriska exempel. Denna sårbarhet utgör ett potentiellt allvarligt hot mot säkerhetskritiska system som autonoma fordon. I detta dokument föreslår vi en försvarsmekanism för att försvara förstärkningslärande agenter från kontradiktoriska attacker genom att utnyttja en åtgärdskonditionerad ramförutsägelsemodul. Vår kärnidé är att de kontradiktoriska exemplen på en neural nätverksbaserad policy inte är effektiva för modellen med ramprognoser. Genom att jämföra den åtgärdsfördelning som produceras av en policy från bearbetning av den aktuella observerade ramen till den åtgärdsfördelning som produceras av samma policy från bearbetning av den förutsedda ramen från den åtgärdsskyddade ramförutsägelsemodulen, kan vi upptäcka förekomsten av kontradiktoriska exempel. Förutom att upptäcka förekomsten av kontradiktoriska exempel, vår metod tillåter agenten att fortsätta utföra uppgiften med hjälp av den förutsagda ramen när agenten är under attack. Vi utvärderar vår algoritms prestanda med hjälp av fem spel i Atari 2600. Våra resultat visar att den föreslagna försvarsmekanismen uppnår god prestanda mot basalgoritmer i att upptäcka kontradiktoriska exempel och i att tjäna belöningar när agenterna är under attack.
Ur en helt annan synvinkel tog REF itu med problemet genom att jämföra den agent som agerade utifrån den aktuella observationen med den agent som agerade enligt en förutsagd aktuell observation.
Detecting Adversarial Attacks on Neural Network Policies with Visual Foresight
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}