Abstrakt. Djupa neurala nätverk (DNN) ger utmärkta prestanda inom ett brett spektrum av klassificeringsuppgifter, men deras utbildning kräver höga beräkningsresurser och läggs ofta ut på tredje part. Nyligen arbete har visat att outsourcade utbildning inför risken att en skadlig tränare kommer att returnera en bakdörr DNN som beter sig normalt på de flesta ingångar men orsakar riktade felklassificeringar eller försämrar exaktheten i nätverket när en utlösare som bara känd för angriparen är närvarande. I den här artikeln ger vi de första effektiva försvaren mot bakdörrar attacker mot DNNs. Vi genomför tre bakdörrar attacker från tidigare arbete och använder dem för att undersöka två lovande försvar, beskärning och finjustering. Vi visar att det inte heller i sig räcker att försvara sig mot sofistikerade angripare. Vi utvärderar sedan finbeskärning, en kombination av beskärning och finjustering, och visar att det framgångsrikt försvagar eller till och med eliminerar bakdörrar, d.v.s., i vissa fall minskar antalet attacker framgång till 0% med bara en 0,4% nedgång i noggrannhet för rena (non-trigger) ingångar. Vårt arbete ger det första steget mot försvar mot bakdörrar attacker i djupa neurala nätverk.
Finbeskärning REF föreslog det första försvaret mot bakdörrar attacker på DNNs med hjälp av en kombination av beskärning och finjustering, där neuroner sorteras genom deras aktivering för att rengöra ingångar, och beskärning i ordning minst aktiverade.
Fine-Pruning: Defending Against Backdooring Attacks on Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}