Trots den förbättrade noggrannheten hos djupa neurala nätverk har upptäckten av kontradiktoriska exempel gett upphov till allvarliga säkerhetsproblem. De flesta befintliga metoder för att skapa kontradiktoriska exempel kräver viss kunskap (arkitektur, parametrar osv.) om det nätverk som finns. I detta dokument fokuserar vi på bildsorterare och föreslår en funktionsstyrd blackbox-strategi för att testa säkerheten hos djupa neurala nätverk som inte kräver någon sådan kunskap. Vår algoritm använder objekt detektion tekniker som SIFT (Scale Invariant Feature Transform) för att extrahera funktioner från en bild. Dessa funktioner omvandlas till en mutabel Saliency fördelning, där hög sannolikhet tilldelas pixlar som påverkar sammansättningen av bilden med avseende på det mänskliga visuella systemet. Vi formulerar skapandet av kontradiktoriska exempel som ett stokastiskt spel med två spelare, där den första spelarens mål är att minimera avståndet till ett kontradiktoriskt exempel genom att manipulera funktionerna, och den andra spelaren kan vara samarbetsvillig, kontraarisk eller slumpmässig. Vi visar att teoretiskt sett kan tvåspelarspelet konvergera till den optimala strategin, och att den optimala strategin representerar en globalt minimal negativ bild. För Lipschitz nätverk identifierar vi också villkor som ger säkerhet garantier för att det inte finns några kontradiktoriska exempel. Med hjälp av Monte Carlo trädsökning utforskar vi gradvis speltillståndsutrymmet för att söka efter kontradiktoriska exempel. Våra experiment visar att, trots svart-box-inställningen, manipulationer som styrs av en perception-baserad Saliency distribution är konkurrenskraftiga med state-of-the-art metoder som förlitar sig på vit-box saliency matriser eller sofistikerade optimeringsförfaranden. Slutligen visar vi hur vår metod kan användas för att utvärdera robustheten hos neurala nätverk i säkerhetskritiska applikationer som trafikteckenigenkänning i självkörande bilar.
Wicker m.fl. REF extraherade funktioner från bilder och beräknade kontradiktoriska exempel med hjälp av ett tvåspelarvänt stokastiskt spel.
Feature-Guided Black-Box Safety Testing of Deep Neural Networks
{'venue': 'Lecture Notes in Computer Science', 'journal': 'Lecture Notes in Computer Science', 'mag_field_of_study': ['Computer Science']}