Även om olika tekniker har föreslagits för att generera kontradiktoriska prover för vit-box attacker på text, har liten uppmärksamhet ägnats åt en svart-box attack, vilket är ett mer realistiskt scenario. I det här dokumentet presenterar vi en ny algoritm, DeepWordBug, för att effektivt generera små textstörningar i en svart-box-miljö som tvingar en djuplärande klassificerare att felklassificera en textinmatning. Vi utvecklar nya scoring strategier för att hitta de viktigaste orden för att ändra så att de djupa clasfier gör en fel förutsägelse. Enkla tecken-nivå transformationer tillämpas på de högst rankade orden för att minimera redigeringsavståndet för perturbationen. Vi utvärderade DeepWordBug på två verkliga textdataset: Enron spam e-post och IMDB filmrecensioner. Våra experimentella resultat indikerar att DeepWordBug kan minska klassificeringsnoggrannheten från 99% till 40% på Enron och från 87% till 26% på IMDB. Våra resultat visar starkt att de genererade kontradiktoriska sekvenserna från en djuplärande modell på liknande sätt kan undgå andra djupa modeller. 50 2018 IEEE Symposium om säkerhet och integritet Workshops
För inställning av svarta rutor utvecklar REF poängfunktioner för att ta reda på vilka verk som ska ändras.
Black-Box Generation of Adversarial Text Sequences to Evade Deep Learning Classifiers
{'venue': '2018 IEEE Security and Privacy Workshops (SPW)', 'journal': '2018 IEEE Security and Privacy Workshops (SPW)', 'mag_field_of_study': ['Computer Science']}