Abstrakt. Djupa neurala nätverk har blivit allmänt använda, få anmärkningsvärda resultat inom områden som datorseende, taligenkänning, naturliga språkbehandling, ljudigenkänning, sociala nätverk filtrering, maskinöversättning, och bio-informatik, där de har producerat resultat jämförbara med mänskliga experter. Dessa nätverk kan dock lätt "spolas" genom kontradiktoriska störningar: minimala ändringar av korrekt klassificerade indata, som gör att nätverket felklassificerar dem. Detta fenomen är ett problem för både säkerhet och trygghet, men det är för närvarande oklart hur man kan mäta ett näts robusthet mot sådana störningar. Befintliga tekniker är begränsade till att kontrollera robustheten kring ett fåtal enskilda inmatningspunkter, vilket endast ger mycket begränsade garantier. Vi föreslår ett nytt tillvägagångssätt för att automatiskt identifiera säkra regioner i inmatningsutrymmet, inom vilket nätverket är robust mot kontradiktoriska störningar. Metoden är datastyrd och bygger på klusterbildning för att identifiera väldefinierade geometriska regioner som kandidatsäkra regioner. Vi använder sedan verifieringstekniker för att bekräfta att dessa regioner är säkra eller för att tillhandahålla motexempel som visar att de inte är säkra. Vi introducerar också begreppet målinriktad robusthet som, för en viss målmärkning och region, säkerställer att en NN inte kartlägger någon input i regionen till målmärkningen. Vi utvärderade vår teknik på MNIST dataset och på ett neuralt nätverk implementation av en controller för nästa generations Airborne Collision Avoidance System för obemannade luftfartyg (ACAS Xu). För dessa nätverk identifierades flera regioner som var helt säkra och vissa som bara var säkra för specifika etiketter. Den upptäckte också flera motgångar av intresse.
Gopinath m.fl. I Ref föreslogs också ett nytt tillvägagångssätt för att automatiskt identifiera säkra regioner med märkta insatsvaror.
DeepSafe: A Data-driven Approach for Checking Adversarial Robustness in Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}