En politik för fördjupat lärande (RL) är känd för att vara sårbar för negativa störningar i deras observationer, liknande kontradiktoriska exempel för klassificeringsgrundare. En angripare kan dock vanligtvis inte direkt ändra en annan agents iakttagelser. Detta kan få en att undra: är det möjligt att attackera en RL-agent helt enkelt genom att välja en kontradiktorisk politik som agerar i en mångagentisk miljö för att skapa naturliga observationer som är kontradiktoriska? Vi demonstrerar förekomsten av kontradiktoriska strategier i nollsummespel mellan simulerade humanoida robotar med proprioceptiva observationer, mot toppmoderna offer tränade via självspel för att vara robusta mot motståndare. Den kontradiktoriska politiken vinner tillförlitligt mot offren men genererar till synes slumpmässigt och okoordinerat beteende. Vi finner att denna politik är mer framgångsrik i högdimensionella miljöer, och framkallar väsentligt olika aktiveringar i nätverket för brottsofferpolitik än när offret spelar mot en normal motståndare. Videor finns tillgängliga på https://adversarialpolies.github.io/.
Enligt detta antagande, Gleave et al. REF visar att det finns en kontradiktorisk politik i nollsummespel mellan humanoida robotar mot svarta boxoffer som utbildats genom toppmodern förstärkningsutbildning.
Adversarial Policies: Attacking Deep Reinforcement Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}