Maskininlärning klassificerare är kända för att vara sårbara för indata illvilligt konstruerade av motståndare för att tvinga felklassificering. Sådana kontradiktoriska exempel har studerats ingående i samband med tillämpningar för datorseende. I detta arbete visar vi motreaktioner attacker är också effektiva när det gäller att rikta neurala nätverk politik för att förstärka lärande. Specifikt visar vi befintliga kontradiktoriska exempel hantverkstekniker kan användas för att avsevärt försämra test-tid prestanda utbildade policyer. Vår hotmodell anser att motståndare kan införa små störningar i politikens råa insats. Vi karakteriserar graden av sårbarhet över uppgifter och träningsalgoritmer, för en subklass av adversarialexempel attacker i white-box och black-box inställningar. Oavsett den inlärda uppgiften eller träningsalgoritmen, observerar vi en betydande nedgång i prestanda, även med små motsträviga störningar som inte stör människans uppfattning. Videor
I REF har intressanta resultat presenterats om kontradiktorisk attack på förstärkning av inlärningsalgoritmer.
Adversarial Attacks on Neural Network Policies
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}