Vi föreslår Guidad Zoom, ett tillvägagångssätt som använder rumslig jordning för att göra mer informerade förutsägelser. Det gör det genom att se till att modellen har "de rätta skälen" för en förutsägelse, definieras som skäl som överensstämmer med dem som används för att fatta liknande korrekta beslut vid utbildningstidpunkten. Orsaken / bevis på vilken ett djupt neuralt nätverk gör en förutsägelse definieras som den rumsliga jordning, i pixel utrymme, för en viss klass villkorlig sannolikhet i modellens utgång. Guidad Zoom ifrågasätter hur rimliga de bevis som används för att göra en förutsägelse är. I toppmoderna djupsinniga klassifikationsmodeller är toppk (k = 2, 3, 4,... ) noggrannheten vanligtvis betydligt högre än topp-1-noggrannheten. Detta är mer uppenbart i finkorniga dataset, där skillnaderna mellan klasser är ganska subtila. Vi visar att Guidade Zoom resulterar i förfining av en modells klassificeringsnoggrannhet på tre finkorniga klassificeringsdata. Vi undersöker också komplementariteten av olika grundtekniker, genom att jämföra deras ensemble med en kontradiktorisk raderingsmetod som iterativt avslöjar nästa mest diskriminativa bevis.
Bargal m.fl. REF använder sig av en förklaring genom att se till att modellen har "de rätta skälen" för en förutsägelse, definierad som skäl som överensstämmer med dem som används för att fatta liknande korrekta beslut vid utbildningstidpunkten.
Guided Zoom: Questioning Network Evidence for Fine-grained Classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}