Djupt lärande drar nytta av stora datauppsättningar och beräkningseffektiva träningsalgoritmer för att överträffa andra metoder vid olika maskininlärningsuppgifter. Men brister i utbildningsfasen av djupa neurala nätverk gör dem sårbara för kontradiktoriska prover: ingångar tillverkade av motståndare i syfte att orsaka djupa neurala nätverk att felklassificera. I detta arbete formaliserar vi utrymmet för motståndare mot djupa neurala nätverk (DNNs) och introducerar en ny klass av algoritmer för att skapa kontradiktoriska prover baserat på en exakt förståelse av kartläggningen mellan ingångar och utgångar av DNNs. I ett program för datorseende visar vi att våra algoritmer på ett tillförlitligt sätt kan producera prover som är korrekt klassificerade av människor men som är felklassificerade i specifika mål av en DNN med 97 % kontradiktorisk framgång samtidigt som de endast modifierar i genomsnitt 4,02 % av indatafunktionerna per prov. Vi utvärderar sedan sårbarheten hos olika provklasser för motstående perturbationer genom att definiera ett hårdhetsmått. Slutligen beskriver vi förarbete som beskriver försvar mot kontradiktoriska prover genom att definiera ett prediktivt mått på avståndet mellan en godartad input och en målklassificering.
Nicolas Papernot m.fl. REF formulerade en klass av algoritmer genom att använda kunskap om djup neurala nätverk (DNN) arkitektur för att skapa kontradiktoriska prover.
The Limitations of Deep Learning in Adversarial Settings
{'venue': '2016 IEEE European Symposium on Security and Privacy (EuroS&P)', 'journal': '2016 IEEE European Symposium on Security and Privacy (EuroS&P)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}