Deep neural network (DNN) arkitekturbaserade modeller har hög expressiv kraft och inlärningsförmåga. Men de är i huvudsak en svart låda metod eftersom det inte är lätt att matematiskt formulera de funktioner som lärs inom dess många lager av representation. Många forskare har insett detta och börjat utforma metoder för att utnyttja nackdelarna med djupt lärande baserade algoritmer som ifrågasätter deras robusthet och avslöjar deras singularitet. I detta dokument försöker vi reda ut tre aspekter som rör robustheten hos DNN:s för ansiktsigenkänning: (i) bedöma effekterna av djupa arkitekturer för ansiktsigenkänning när det gäller sårbarheter för attacker inspirerade av allmänt observerade förvrängningar i den verkliga världen som hanteras väl av ytliga inlärningsmetoder tillsammans med inlärningsbaserade motståndare; (ii) upptäcka singulariteter genom att karakterisera onormala filterresponsbeteenden i de dolda skikten av djupa nätverk; och (iii) göra korrigeringar till bearbetningsledningen för att lindra problemet. Vår experimentella utvärdering med hjälp av flera öppna DNN-baserade ansiktsigenkänningsnätverk, inklusive OpenFace och VGG-Face, och två allmänt tillgängliga databaser (MEDS och PaSC) visar att prestandan hos djupt lärande baserade ansiktsigenkänningsalgoritmer kan lida mycket i närvaro av sådana snedvridningar. Den föreslagna metoden jämförs också med befintliga detektionsalgoritmer och resultaten visar att den kan upptäcka attackerna med mycket hög noggrannhet genom att på lämpligt sätt utforma en klassificering med hjälp av responsen från de dolda skikten i nätverket. Slutligen lägger vi fram flera effektiva motåtgärder för att mildra effekterna av kontradiktoriska attacker och förbättra den övergripande robustheten hos DNN-baserat ansiktsigenkänning.
REF föreslog en teknik för automatisk upptäckt av kontradiktoriska attacker genom att använda det onormala filtersvaret från det dolda lagret av det djupa neurala nätverket.
Unravelling Robustness of Deep Learning based Face Recognition Against Adversarial Attacks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}