Trots de enorma framsteg som har gjorts under det senaste årtiondet när det gäller att utveckla användbara tillämpningar för maskininlärning, har deras bredare antagande hindrats av bristen på starka garantier som kan göras om deras beteende. I detta dokument överväger vi hur formella verifieringsmetoder som utvecklats för traditionella programvarusystem kan användas för kontroll av förstärkning av inlärningskompatibla system, en särskilt viktig klass av maskininlärningssystem. I stället för att upprätthålla säkerheten genom att undersöka och förändra strukturen i ett komplext neuralt nätverk implementation, vår teknik använder blackbox metoder för att syntetisera deterministiska program, enklare, mer tolkningsbara, approximationer av nätverket som ändå kan garantera önskade säkerhetsegenskaper bevaras, även när nätverket är utplacerad i oförutsedda eller tidigare oobserverade miljöer. Vår metodik ramar in problemet med neurala nätverk verifiering i termer av ett motexempel och syntax-styrda induktiv syntes förfarande över dessa program. Syntetiseringsförfarandet söker efter både ett deterministiskt program och en induktiv invariant över ett oändligt tillstånd övergångssystem som representerar en specifikation av en ansökans kontrolllogik. Ytterligare specifikationer som definierar miljörelaterade begränsningar kan också tillhandahållas för att ytterligare förfina sökytan. Syntetiserade program utplacerade i samband med ett neuralt nätverk implementation dynamiskt upprätthålla säkerhetsförhållanden genom att övervaka och förhindra potentiellt osäkra åtgärder som föreslås av neurala tillstånd att göra digitala eller hårda kopior av hela eller en del av detta arbete för personligt eller klassrum användning beviljas utan avgift, förutsatt att kopior inte görs eller distribueras för vinst eller kommersiella fördelar och att kopior bär detta meddelande och den fullständiga hänvisning på första sidan. Upphovsrätt till delar av detta verk som ägs av andra än ACM måste hedras. Abstraktering med kredit är tillåten. För att kopiera på annat sätt, eller återpublicera, för att posta på servrar eller för att omfördela till listor, krävs tidigare specifik behörighet och/eller avgift. Begär tillstånd från authoritys@acm.org. PLDI '19, juni 22ś26, 2019 CCS-koncept · Programvara och dess konstruktion → Automatisk programmering; Formell programvaruverifiering.
REF använder ett syntesförfarande för att generera ett säkert deterministiskt program som kan upprätthålla säkerhetsförhållandena genom att övervaka den utplacerade DNN och förhindra potentiellt osäkra åtgärder.
An inductive synthesis framework for verifiable reinforcement learning
{'venue': 'PLDI 2019', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}