Abstract-Med den snabba spridningen av maskininlärning tekniker, dela och anta offentliga maskininlärning modeller blir mycket populär. Detta ger angripare många nya möjligheter. I den här artikeln föreslår vi en trojanattack mot neurala nätverk. Eftersom modellerna inte är intuitiva för människan att förstå, är attacken smygande. Deploying trojanska modeller kan orsaka olika allvarliga konsekvenser, inklusive att riskera människoliv (i applikationer som autonom körning). Vi först invertera neurala nätverket för att generera en allmän trojan trigger, och sedan omskola modellen med omvända konstruerade träningsdata för att injicera skadliga beteenden till modellen. De skadliga beteenden aktiveras endast av ingångar stämplade med trojan utlösaren. I vår attack behöver vi inte manipulera den ursprungliga träningsprocessen, som vanligtvis tar veckor till månader. I stället tar det minuter till timmar att genomföra vår attack. Dessutom behöver vi inte de dataset som används för att träna modellen. I praktiken delas dataseten vanligtvis inte på grund av integritets- eller upphovsrättsproblem. Vi använder fem olika applikationer för att visa kraften i vår attack, och utföra en djup analys av de möjliga faktorer som påverkar attacken. Resultaten visar att vår attack är mycket effektiv och effektiv. De trojaniserade beteenden kan framgångsrikt utlösas (med nästan 100% möjlighet) utan att påverka dess testnoggrannhet för normal inmatning och även med bättre noggrannhet på offentliga dataset. Dessutom tar det bara lite tid att attackera en komplex neuron nätverksmodell. I slutändan diskuterar vi också ett eventuellt försvar mot sådana attacker.
Nyligen, REF föreslår en ny algoritm för att generera specifika trigger och prov indata för att injicera Trojan, utan att få tillgång till ursprungliga träningsdata.
Trojaning Attack on Neural Networks
{'venue': 'NDSS', 'journal': None, 'mag_field_of_study': ['Computer Science']}