Abstract-Medan neurala nätverk visar starkare kapacitet i mönsterigenkänning nuförtiden, de blir också större och djupare. Till följd av detta ökar också de ansträngningar som krävs för att utbilda ett nätverk dramatiskt. I många fall är det mer praktiskt att använda ett neuralt nätverk immateriella (IP) som en IP-leverantör redan har utbildat. Eftersom vi inte känner till utbildningsprocessen kan det finnas säkerhetshot i neural IP: IP-leverantören (attack) kan bädda in dold skadlig funktionalitet, dvs.. Neural trojaner, in i neural IP. Vi visar att detta är en effektiv attack och ger tre begränsning tekniker: ingång anomali upptäckt, omskolning, och input förbehandling. Alla tekniker har visat sig vara effektiva. Indata anomali detektion metod kan upptäcka 99,8% av Trojan triggers även med 12,2% falskt positivt. Omskolning tillvägagångssätt kan förhindra 94,1% av Trojan triggers från att utlösa Trojan även om det kräver att neural IP vara omkonfigurerbar. I input förbehandling, 90,2% av Trojan triggers blir ineffektiva och inget antagande om neural IP behövs.
Liu m.fl. REF föreslog tre försvar: inmatning anomali upptäckt, omskolning, och input förbehandling, och kräver den förgiftade utbildningsdata.
Neural Trojans
{'venue': '2017 IEEE International Conference on Computer Design (ICCD)', 'journal': '2017 IEEE International Conference on Computer Design (ICCD)', 'mag_field_of_study': ['Computer Science']}