Maskininlärning modeller utplacerade på molnet är mottagliga för flera säkerhetshot inklusive extraktion attacker. Motståndare kan missbruka en modells förutsägelse API för att stjäla modellen och därmed äventyra modellens sekretess, sekretess för utbildningsdata och intäkter från framtida frågebetalningar. Detta arbete introducerar en modell extraktion monitor som kvantifierar extraktion status av modeller genom att kontinuerligt observera API fråga och svar strömmar av användare. Vi presenterar två nya strategier som mäter antingen informationsvinsten eller täckningen av funktionen utrymme spänns av användarens frågor för att uppskatta inlärningshastigheten hos enskilda och samverkande motståndare. Båda metoderna har låga beräkningsunderlag och kan enkelt erbjudas som tjänster till modellägare för att varna dem för toppmoderna utvinningsattacker. Vi demonstrerar empiriska resultat av dessa metoder för beslut träd och neurala nätverk modeller med hjälp av öppen källkod dataset och BigML MLaaS plattform.
Ett statiskt försvar kan kvantifiera modellen för extraktionsstatus genom att kontinuerligt övervaka användarfrågor med hjälp av mätvärden och varning när informationsvinsten är mer än ett givet tröskelvärde REF.
Model Extraction Warning in MLaaS Paradigm
{'venue': "ACSAC '18", 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}