Målet med detta papper är att analysera de geometriska egenskaperna hos djupa neurala nätverk klassificerare i inmatningsutrymmet. Vi studerar specifikt topologin för klassificeringsregioner som skapats av djupa nätverk, samt deras tillhörande beslutsgräns. Genom en systematisk empirisk undersökning visar vi att toppmoderna djupnät lär sig sammanhängande klassificeringsregioner, och att beslutsgränsen i närheten av datapunkter är platt längs de flesta riktningar. Vi drar vidare en väsentlig koppling mellan två till synes orelaterade egenskaper hos djupa nätverk: deras känslighet för additiva störningar i ingångarna och krökning av deras beslutsgräns. De riktningar där beslutsgränsen är böjd karakteriserar i själva verket de riktningar som klassificeringsgivaren är mest sårbar för. Slutligen utnyttjar vi en grundläggande asymmetri i krökning av beslutsgränsen för djupa nät, och föreslår en metod för att skilja mellan originalbilder och bilder som är störda med små kontradiktoriska exempel. Vi visar hur effektivt detta rent geometriska tillvägagångssätt är för att upptäcka små motsträviga perturbationer i bilder och för att återställa etiketterna på perturbedbilder.
Fawzi m.fl. föreslå att analysera några geometriska egenskaper hos djupa neurala nätverk klassificerare REF, inklusive krökning av dessa gränser.
Classification regions of deep neural networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}