En ny typ av arbete har avslöjat en ny form av dataförgiftning: så kallade bakdörrsattacker. Dessa attacker är särskilt farliga eftersom de inte påverkar ett nätverk beteende på typiska, godartade data. Nätet avviker i stället endast från den förväntade uteffekten när det utlöses av en störning som planterats av en motståndare. I den här artikeln, identifierar vi en ny egendom av alla kända bakdörrar attacker, som vi kallar spektral signaturer. Denna egenskap gör att vi kan använda verktyg från robust statistik för att förhindra attackerna. Vi visar hur effektiva dessa signaturer är när det gäller att upptäcka och ta bort förgiftade exempel på verkliga bilduppsättningar och toppmoderna neurala nätverksarkitekturer. Vi anser att förståelse för spektralsignaturer är ett viktigt första steg mot att utforma ML-system som är säkra mot sådana bakdörrsattacker.
Backdoor försvar i ML: Ett nyligen utfört arbete REF innebär att använda verktyg från robust statistik för att analysera inlärd representation av klasser.
Spectral Signatures in Backdoor Attacks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}