Djupa neurala nätverk (DNN) ger toppmoderna resultat på olika uppgifter och används i stor utsträckning i verkliga tillämpningar. Det upptäcktes dock att maskininlärningsmodeller, inklusive de bäst presterande DNN:erna, lider av ett grundläggande problem: de kan oväntat och tillitsfullt missklassificera exempel som bildas av något perturbing annars korrekt igenkända ingångar. Olika metoder har utvecklats för att effektivt generera dessa så kallade kontradiktoriska exempel, men de flesta förlitar sig på att stiga lutningen av förlust. I det här dokumentet introducerar vi det nya logits optimerade målsökningssystemet (LOTS) för att direkt manipulera djupa funktioner som fångas upp i det näst sista lagret. Med hjälp av LOTS analyserar och jämför vi DNN:s kontradiktoriska robusthet med hjälp av det traditionella Softmax-skiktet med Openmax, som är utformat för att ge öppen igenkänning genom att definiera klasser som härrör från djupa representationer, och som påstås vara mer robusta mot kontraariska störningar. Vi visar att Openmax ger mindre sårbara system än Softmax till traditionella attacker, men vi visar att det kan vara lika mottagliga för mer sofistikerade kontradiktoriska genereringsmetoder som direkt arbetar med djupa representationer.
Det visades också att openmax är mer robust mot kontradiktoriska exempel REF.
Adversarial Robustness: Softmax versus Openmax
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}