Maskininlärning (ML) tekniker tillämpas i allt högre grad på beslutsfattande och kontroll problem i Cyber-Physical Systems, bland vilka många är säkerhetskritiska, t.ex. kemiska anläggningar, robotik, autonoma fordon. Trots de betydande fördelarna med ML-teknik tar de också upp ytterligare säkerhetsfrågor eftersom 1) de mest uttrycksfulla och kraftfulla ML-modellerna inte är transparenta och beter sig som en svart låda och 2) de träningsdata som spelar en avgörande roll för ML-säkerhet är vanligtvis ofullständiga. En viktig teknik för att uppnå säkerhet för ML-modeller är "Safe Fail", dvs. en modell väljer ett förkasta alternativ och tillämpar backup-lösningen, en traditionell styrenhet eller en mänsklig operatör till exempel, när den har lågt förtroende för en förutsägelse. Datadrivna modeller producerade av ML-algoritmer lär sig av träningsdata, och därför är de bara lika bra som de exempel de har lärt sig. Som påpekades i [17] fungerar ML-modeller bra i "träningsutrymmet" (dvs. har utrymme med tillräckliga träningsdata), men de kunde inte extrapolera utanför övningsutrymmet. Som observerats i många tidigare studier, en funktion utrymme som saknar träningsdata i allmänhet har en mycket högre felfrekvens än den som innehåller tillräckliga träningsprover [31]. Därför är det viktigt att identifiera träningsutrymmet och undvika extrapolering utanför träningsutrymmet. I detta dokument föreslår vi en effektiv Feature Space Partitioning Tree (FSPT ) för att ta itu med detta problem. Med hjälp av experiment visar vi också att det finns ett starkt samband mellan modellprestanda och FSPT-poäng.
Fokusering på design-tid tekniker, ett tillvägagångssätt för att identifiera regioner av input utrymme som saknar utbildning data och potentiellt större fel presenteras i REF.
Towards Safe Machine Learning for CPS: Infer Uncertainty from Training Data
{'venue': 'In Proceedings of the 10th ACM/IEEE International Conference on Cyber-Physical Systems (ICCPS), 2019. ACM, New York, NY, USA, pages 249-258', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Engineering', 'Mathematics']}