Neurala nätverk ger toppmoderna resultat för de flesta maskininlärningsuppgifter. Tyvärr, neurala nätverk är sårbara för kontradiktoriska exempel: med tanke på en input x och någon målklassificering t, är det möjligt att hitta en ny input x som liknar x men klassificeras som t. Detta gör det svårt att tillämpa neurala nätverk i säkerhetskritiska områden. Defensiv destillation är ett nyligen föreslaget tillvägagångssätt som kan ta ett godtyckligt neuralt nätverk, och öka dess robusthet, minska framgången av nuvarande attacker förmåga att hitta kontradiktoriska exempel från 95% till 0,5%. I detta dokument visar vi att defensiv destillation inte avsevärt ökar robustheten i neurala nätverk genom att införa tre nya attackalgoritmer som är framgångsrika på både destillerade och odestillerade neurala nätverk med 100% sannolikhet. Våra attacker är anpassade till tre avståndsmått som använts tidigare i litteraturen, och jämfört med tidigare kontradiktoriska algoritmer är våra attacker ofta mycket effektivare (och aldrig värre). Dessutom föreslår vi att vi använder förtroendefulla kontradiktoriska exempel i ett enkelt överförbarhetstest som vi visar kan också användas för att bryta defensiv destillation. Vi hoppas att våra attacker kommer att användas som riktmärke i framtida försvar försök att skapa neurala nätverk som motstår kontradiktoriska exempel.
I REF föreslog författarna en ny uppsättning attacker för L 0, L 2, och L ∞ avståndsmått för att konstruera övre gränser på robustheten i neurala nätverk och därmed visa att defensiv destillation är begränsad i hantering av kontradiktoriska exempel.
Towards Evaluating the Robustness of Neural Networks
{'venue': '2017 IEEE Symposium on Security and Privacy (SP)', 'journal': '2017 IEEE Symposium on Security and Privacy (SP)', 'mag_field_of_study': ['Computer Science']}