Djupa neurala nätverk har framträtt som ett allmänt använt och effektivt medel för att ta itu med komplexa, verkliga problem. Ett stort hinder för att tillämpa dem på säkerhetskritiska system är dock den stora svårigheten att ge formella garantier om deras beteende. Vi presenterar en ny, skalbar och effektiv teknik för att verifiera egenskaper hos djupa neurala nätverk (eller tillhandahålla motexempel). Tekniken är baserad på den simplex metod, utökad för att hantera den icke-konvexa rektifierade linjära enhet (ReLU ) aktivering funktion, vilket är en viktig ingrediens i många moderna neurala nätverk. Verifieringsförfarandet tar itu med neurala nätverk som helhet, utan att göra några förenklade antaganden. Vi utvärderade vår teknik på en prototyp djup neural nätverk implementation av nästa generations Airborne Collision Avoidance System för obemannade luftfartyg (ACAS Xu). Resultat visar att vår teknik framgångsrikt kan bevisa egenskaper hos nätverk som är en storleksordning större än de största nätverk verifieras med hjälp av befintliga metoder.
Reluplex REF är tillämpligt på neurala nätverk med ReLu-aktiveringsfunktioner.
Reluplex: An Efficient SMT Solver for Verifying Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}