Problemet med att förklara beteendet hos djupa neurala nätverk har fått mycket uppmärksamhet under de senaste åren. Medan flera tilldelningsmetoder har föreslagits, kommer de flesta utan starka teoretiska grunder. Detta väcker frågan om huruvida de tillgodohavanden som blir resultatet är tillförlitliga. Å andra sidan antyder litteraturen om kooperativ spelteorin Shapley värden som ett unikt sätt att tilldela relevans poäng så att vissa önskvärda egenskaper är uppfyllda. Tidigare arbeten om tillskrivningsmetoder visade också att förklaringar baserade på Shapleyvärden bättre stämmer överens med den mänskliga intuitionen. Tyvärr är den exakta utvärderingen av Shapley värden oöverkomligt dyrt, exponentiellt i antalet inmatningsfunktioner. I detta arbete, genom att utnyttja de senaste resultaten på osäkerhet förökning, föreslår vi en ny, polynom-tid approximation av Shapley värden i djupa neurala nätverk. Vi visar att vår metod producerar betydligt bättre approximationer av Shapley värden än befintliga state-of-theart tillskrivningsmetoder.
I REF, en polynom-tids approximation av SV föreslås för djupa neurala nätverk.
Explaining Deep Neural Networks with a Polynomial Time Algorithm for Shapley Values Approximation
{'venue': 'PMLR 97 (2019) 272-281', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}