Ett antal onlinetjänster idag förlitar sig på maskininlärning för att extrahera värdefull information från data som samlats in i det vilda. Detta utsätter inlärningsalgoritmer för hotet om dataförgiftning, d.v.s. en koordinatattack där en bråkdel av träningsdata kontrolleras av angriparen och manipuleras för att undergräva inlärningsprocessen. Hittills har dessa attacker endast utformats mot en begränsad klass av binära inlärningsalgoritmer, på grund av den inneboende komplexiteten i den lutningsbaserade procedur som används för att optimera förgiftningspunkter (alias. exempel på kontradiktorisk utbildning). I detta arbete utvidgar vi först definitionen av förgiftningsattacker till flerklassiga problem. Vi föreslår sedan en ny förgiftningsalgoritm baserad på idén om bakåtgradientoptimering, d.v.s. att beräkna graden av intresse genom automatisk differentiering, samtidigt som vi också vänder inlärningsproceduren för att drastiskt minska attackens komplexitet. Jämfört med nuvarande förgiftningsstrategier, vår strategi kan rikta en bredare klass av lärande algoritmer, tränas med gradientbaserade förfaranden, inklusive neurala nätverk och djupinlärning arkitekturer. Vi utvärderar empiriskt dess effektivitet på flera program exempel, inklusive spamfiltrering, malware upptäckt, och handskriven sifferigenkänning. Vi visar slutligen att, på samma sätt som kontradiktoriska testexempel, kan kontradiktoriska utbildningsexempel också överföras över olika inlärningsalgoritmer.
En förlängning till flera klasser klassificerare föreslogs i REF, där författarna också utarbetade en effektiv algoritm för att beräkna förgiftningspunkter genom back-gradient optimering, vilket gör det möjligt att förgifta ett bredare utbud av lärande algoritmer, inklusive neurala nätverk och djupinlärningssystem.
Towards Poisoning of Deep Learning Algorithms with Back-gradient Optimization
{'venue': "AISec '17", 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}