Abstrakt. Förstärkning av inlärningsalgoritmer upptäcker policyer som maximerar belöningen, men garanterar inte nödvändigtvis säkerhet under inlärnings- eller genomförandefaser. Vi inför ett nytt tillvägagångssätt för att lära oss optimal politik samtidigt som vi genomdriver egenskaper som uttrycks i temporal logik. Med tanke på den tidslogiska specifikation som lärsystemet ska följa föreslår vi därför att man syntetiserar ett reaktivt system som kallas sköld. Skölden introduceras i den traditionella inlärningsprocessen på två alternativa sätt, beroende på var skölden genomförs. I den första, skölden agerar varje gång den lärande agenten är på väg att fatta ett beslut och ger en lista över säkra åtgärder. På det andra sättet introduceras skölden efter inlärningsagenten. Skölden övervakar åtgärder från eleven och korrigerar dem endast om den valda åtgärden orsakar en överträdelse av specifikationen. Vi diskuterar vilka krav en sköld måste uppfylla för att bevara konvergensgarantierna för eleven. Slutligen visar vi på mångsidigheten i vår strategi för flera utmanande förstärkande inlärningsscenarier.
Säkerhetsskydd i förstärkande inlärning infördes först i REF.
Safe Reinforcement Learning via Shielding
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}