Abstract-Under de senaste åren, Convolutional Neural Networks (CNN) har uppnått state-of-the-art prestanda på en mängd olika problem. Många företag använder resurser och pengar för att generera dessa modeller och tillhandahålla dem som ett API, därför är det i deras bästa intresse att skydda dem, dvs. att undvika att någon annan kopierar dem. Nyligen genomförda undersökningar visade att de senaste CNN:erna är sårbara för kontradiktoriska attacker, och denna svaghet tyder på att CNN inte behöver verka inom problemområdet (PD). Därför antar vi att de inte också behöver utbildas med exempel på PD för att fungera i det. Med tanke på dessa fakta undersöker vi i detta dokument om en måltavla CNN kan kopieras genom att övertyga den att erkänna sin kunskap genom slumpmässiga icke-märkta data. Kopian är tvåfaldig: i) målnätverket är fråga med slumpmässiga data och dess förutsägelser används för att skapa en falsk dataset med kunskap om nätverket; och ii) ett copycat nätverk utbildas med falska dataset och bör kunna uppnå liknande prestanda som målnätverket. Denna hypotes utvärderades lokalt i tre problem (facial uttryck, objekt, och crosswalk klassificering) och mot en molnbaserad API. I kopieringsattackerna användes bilder från både icke-problemdomänen och PD. Alla copycat nätverk uppnådde minst 93,7% av prestandan för de ursprungliga modellerna med icke-problem domändata, och minst 98,6% med hjälp av ytterligare data från PD. Dessutom kopierade copycat CNN framgångsrikt minst 97,3% av prestandan för Microsoft Azure Emotion API. Våra resultat visar att det är möjligt att skapa en copycat CNN genom att helt enkelt fråga ett målnätverk som svart-box med slumpmässig icke-märkt data.
I REF tränade författarna vad de kallade ett copycat-nätverk med hjälp av Non-Problem Domänbilder och stulna etiketter för att uppnå imponerande resultat i de tre problemen med ansiktsuttryck, objekt och crosswalk klassificering.
Copycat CNN: Stealing Knowledge by Persuading Confession with Random Non-Labeled Data
{'venue': '2018 International Joint Conference on Neural Networks (IJCNN)', 'journal': '2018 International Joint Conference on Neural Networks (IJCNN)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}