SmoothGrad och VarGrad är tekniker som förbättrar den empiriska kvaliteten på standardlönekartor genom att addera buller till inmatningen. Det fanns dock få verk som ger en strikt teoretisk tolkning av dessa metoder. Vi formaliserar analytiskt resultatet av dessa bullerskapande metoder. Som ett resultat av detta observerar vi två intressanta resultat från de befintliga bullerskapande metoderna. Först, SmoothGrad gör inte lutningen av poängfunktionen jämn. För det andra är VarGrad oberoende av gradienten för poängfunktionen. Vi tror att våra fynd ger en ledtråd för att avslöja sambandet mellan lokala förklaringsmetoder för djupa neurala nätverk och högre ordning partiella derivat av poängfunktionen.
REF analyserar de teoretiska egenskaperna hos SmoothGrad och VarGrad.
Noise-adding Methods of Saliency Map as Series of Higher Order Partial Derivative
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}