Abstract-Poisoning attack identifieras som ett allvarligt säkerhetshot mot maskininlärning algoritmer. I många tillämpningar, till exempel, djupt neurala nätverk (DNN) modeller samla offentliga data som indata för att utföra omskolning, där indata kan förgiftas. Även om förgiftning attack mot stöd vektor maskiner (SVM) har studerats i stor utsträckning tidigare, finns det fortfarande mycket begränsad kunskap om hur sådan attack kan genomföras på neurala nätverk (NN), särskilt DNNs. I detta arbete undersöker vi först möjligheten att tillämpa traditionell gradientbaserad metod (kallas som den direkta gradientmetoden) för att generera förgiftade data mot NNs genom att utnyttja gradienten hos målmodellen w.r.t. de normala uppgifterna. Vi föreslår sedan en generativ metod för att påskynda genereringshastigheten av de förgiftade data: en auto-encoder (generator) som används för att generera förgiftade data uppdateras av en belöning funktion av förlusten, och mål NN modell (discriminator) får förgiftade data för att beräkna förlusten w.r.t. de normala uppgifterna. Våra experimentresultat visar att den generativa metoden kan påskynda den förgiftade datagenereringshastigheten med upp till 239.38× jämfört med den direkta gradienten metoden, med något lägre modell noggrannhet nedbrytning. En motåtgärd är också utformad för att upptäcka sådana förgiftning angrepp metoder genom att kontrollera förlusten av målmodellen.
För att påskynda processen att generera förgiftningsfall utvecklar REF en generator som producerar gifter.
Generative Poisoning Attack Method Against Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}