Neurala nätverk är kända för att vara sårbara för kontradiktoriska exempel: ingångar som är nära naturliga ingångar men klassificeras felaktigt. För att bättre förstå utrymmet för kontradiktoriska exempel, undersöker vi tio nya förslag som är utformade för att upptäcka och jämföra deras effektivitet. Vi visar att alla kan besegras genom att bygga nya förlustfunktioner. Vi drar slutsatsen att kontradiktoriska exempel är betydligt svårare att upptäcka än tidigare uppskattat, och de egenskaper som tros vara inneboende i kontradiktoriska exempel är i själva verket inte det. Slutligen föreslår vi flera enkla riktlinjer för att utvärdera framtida förslag till försvar. Tillstånd att göra digitala eller papperskopior av hela eller delar av detta arbete för personligt bruk eller klassrum beviljas utan avgift, förutsatt att kopiorna inte görs eller distribueras för vinst eller kommersiella fördelar och att kopiorna är försedda med detta meddelande och den fullständiga hänvisningen på första sidan. Upphovsrätt till delar av detta verk som ägs av andra än upphovsmannen måste hedras. Abstraktering med kredit är tillåten. För att kopiera på annat sätt, eller återpublicera, för att posta på servrar eller för att omfördela till listor, krävs tidigare specifik behörighet och/eller avgift. Begär tillstånd från authoritys@acm.org.
Ref-undersökningar tio nya förslag som utformats för att upptäcka kontradiktoriska exempel.
Adversarial Examples Are Not Easily Detected: Bypassing Ten Detection Methods
{'venue': "AISec '17", 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}