Nyligen har maskininlärning (ML) introducerat avancerade lösningar till många domäner. Eftersom ML-modeller ger affärsfördelar till modellägare, har skyddet av immateriella rättigheter för ML-modeller framgått som ett viktigt övervägande. Sekretess för ML-modeller kan skyddas genom att utsätta dem för kunder endast via förutsägelse API:er. Modellextrahering attacker kan dock stjäla funktionaliteten hos ML-modeller med hjälp av den information som läckt till kunder genom resultaten returneras via API. I detta arbete ifrågasätter vi om modellutvinning är ett allvarligt hot mot komplexa, verkliga ML-modeller. Vi utvärderar den aktuella toppmoderna modellextraheringsattacken (knockoffattacken) mot komplexa modeller. Vi återgav och bekräftar resultaten i Knockoffs attackpapper. Men vi visar också att resultatet av denna attack kan begränsas av flera faktorer, inklusive ML-modell arkitektur och granularitet API-svar. Dessutom introducerar vi ett försvar baserat på särskiljande frågor som används för Knockoff attack från välvilliga frågor. Trots begränsningarna i Knockoff attacken, visar vi att en mer realistisk motståndare kan effektivt stjäla komplexa ML modeller och undvika kända försvar.
Emellertid, Atli et al. REF visade att resultatet av Knockoff-attacken är begränsat.
Extraction of Complex DNN Models: Real Threat or Boogeyman?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}