Abstract-Machine lärande algoritmer påverkar allt mer våra beslut och interagerar med oss i alla delar av vårt dagliga liv. Därför, precis som för kraftverk, motorvägar och otaliga andra konstruerade sociotekniska system, måste vi överväga säkerheten hos system som inbegriper maskininlärning. I detta dokument diskuterar vi först definitionen av säkerhet när det gäller risker, epistemisk osäkerhet och de skador som oönskade resultat orsakar. Sedan undersöker vi dimensioner, såsom valet av kostnadsfunktion och lämpligheten av att minimera den empiriska genomsnittliga utbildningskostnaden, där vissa tillämpningar i verkligheten kanske inte är helt kompatibla med den grundläggande principen för modern statistisk maskininlärning: empirisk riskminimering. I synnerhet noterar vi en framväxande dikotomi av applikationer: de där säkerheten är viktig och riskminimering är inte hela historien (vi namnger dessa typ A-tillämpningar), och de där säkerheten inte är så kritisk och riskminimering är tillräcklig (vi namn dessa typ B-tillämpningar). Slutligen diskuterar vi hur fyra olika strategier för att uppnå säkerhet inom ingenjörskonsten (säker design, säkerhetsreserver, säkra fel och rättssäkerhetsgarantier) kan kartläggas i maskininlärningssammanhanget genom tolkningsbarhet och kausalitet av prediktiva modeller, mål bortom förväntad förutsägelsenoggrannhet, mänskligt engagemang för märkning av svåra eller sällsynta exempel, och användarupplevelsedesign av programvara.
I synnerhet är de grundläggande statistiska ML-principerna för empirisk riskminimering och genomsnittliga förluster inte fullt tillämpliga när man överväger säkerhet, som diskuteras i REF.
Engineering safety in machine learning
{'venue': '2016 Information Theory and Applications Workshop (ITA)', 'journal': '2016 Information Theory and Applications Workshop (ITA)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}