Maskininlärning har tillämpats på ett brett spektrum av tillämpningar och vissa av dem finns tillgängliga online som programgränssnitt (API) med antingen gratis (prövning) eller betald prenumeration. I denna uppsats studerar vi kontradiktorisk maskininlärning i form av back-box attacker på online classifier API:er. Vi börjar med en djupt lärande baserad undersökande (inferens) attack, som syftar till att bygga en klassificering som kan ge liknande klassificeringsresultat (märkningar) som målklassaren. För att minimera skillnaden mellan etiketterna som returneras av den inferred classifiern och målklassaren, visar vi att den djupt lärande baserade undersökande attacken kräver ett stort antal märkta träningsdataprover. Dessa etiketter kan samlas in genom att ringa online API, men vanligtvis finns det en viss strikt prisbegränsning på antalet tillåtna API-samtal. För att minska effekten av begränsade utbildningsdata, utvecklar vi en aktiv inlärningsmetod som först bygger en klassificering baserad på ett litet antal API-samtal och använder denna klassificering för att välja prover för att ytterligare samla in sina etiketter. Sedan byggs en ny klassificeringsapparat med hjälp av fler träningsdataprover. Denna uppdateringsprocess kan upprepas flera gånger. Vi visar att denna aktiva inlärningsmetod kan bygga en kontradiktorisk klassificering med en liten statistisk skillnad från målgruppen med endast ett begränsat antal utbildningsdataprover. Vi överväger vidare undandragande och orsakande (förgiftande) attacker baserade på den inferred clasfier som byggs av den undersökande attacken. Evasionsattack avgör prover som målklassifieraren sannolikt felklassificerar, medan orsaksattack ger felaktiga träningsdataprover för att minska tillförlitligheten hos den omtränade klassifieraren. Framgången med dessa attacker visar att kontradiktorisk maskininlärning framträder som ett möjligt hot i det realistiska fallet med begränsade träningsdata. Index Terms-Adversarial maskininlärning, djupinlärning, aktivt lärande, undersökande attack, undandragande attack, orsakande attack.
Dessa attacker kan inledas separat eller kombineras, dvs. orsakande och undandragande attacker kan inledas genom att dra nytta av slutsatserna från en undersökande attack REF.
Active Deep Learning Attacks under Strict Rate Limitations for Online API Calls
{'venue': '2018 IEEE International Symposium on Technologies for Homeland Security (HST)', 'journal': '2018 IEEE International Symposium on Technologies for Homeland Security (HST)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}