Abstrakt. På grund av bristen på tillräckligt med träningsdata och höga beräkningskostnader för att träna ett djupt neuralt nätverk från grunden, överföring lärande har i stor utsträckning använts i många djup-neural-nätverk-baserade applikationer, såsom ansiktsigenkänning, bildklassificering, taligenkänning, etc. En allmänt använd överföring lärande innebär att ta en del av en förskolad modell, lägga till några lager i slutet, och omskola de nya skikten med en liten datauppsättning. Detta tillvägagångssätt, även om det är effektivt och allmänt används, medför en säkerhetssårbarhet eftersom de förutbildade modeller som används vid överföringsutbildning vanligtvis är tillgängliga offentligt för alla, inklusive potentiella angripare. I detta dokument visar vi att utan någon ytterligare kunskap utöver den förtränade modellen, kan en angripare starta en effektiv och effektiv brute force attack som kan skapa fall av input för att utlösa varje målklass med stort förtroende. Observera att vi antar att angriparen inte har tillgång till någon målspecifik information, inklusive prover från målklasser, omtränad modell, och sannolikheter som tilldelats av Softmax till varje klass, och därmed kallas mål-agnostisk attack. Dessa antaganden gör alla tidigare attacker opraktiska, så vitt vi vet. För att utvärdera den föreslagna attacken utför vi en uppsättning experiment på ansiktsigenkänning och taligenkänningsuppgifter och visar hur effektiv attacken är. Vårt arbete kastar ljus över en grundläggande säkerhetsutmaning att överföra lärande i djupa neurala nätverk.
REF utvecklar en mål-agnostisk attack mot hantverksinstanser som utlöser specifika produktionsklasser och kan användas vid överföring av inlärningsinställningar.
A Target-Agnostic Attack on Deep Models: Exploiting Security Vulnerabilities of Transfer Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}