Abstrakt. Djupa neurala nätverk har visat sig vara ett mycket effektivt sätt att utföra klassificeringsuppgifter. De utmärker sig när indata är högdimensionell, förhållandet mellan input och utdata är komplicerat, och antalet märkta utbildningsexempel är stor [Szegedy et al., 2015, Jozefowicz et al., 2016, Graves et al., 2013. Men det är svårt att förklara varför ett lärt nätverk fattar ett särskilt klassificeringsbeslut i ett visst testfall. Detta beror på att de förlitar sig på distribuerade hierarkiska representationer. Om vi kunde ta den kunskap som förvärvats av det neurala nätet och uttrycka samma kunskap i en modell som bygger på hierarkiska beslut istället, skulle det vara mycket lättare att förklara ett visst beslut. Vi beskriver ett sätt att använda ett tränat neuralt nät för att skapa en typ av mjukt beslutsträd som generaliserar bättre än man lärt sig direkt från träningsdata.
Det kanske mest relaterade arbetet är modellen i REF som använder en typ av mjukt beslutsträd för att efterlikna input-output-funktionerna hos en utbildad DNN.
Distilling a Neural Network Into a Soft Decision Tree
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}