Djupa neurala nätverk (DNN) har uppnått aldrig tidigare skådad prestanda på ett brett spektrum av komplexa uppgifter, snabbt överträffar vår förståelse av karaktären av deras lösningar. Detta har lett till ett ökat intresse för metoder för att göra moderna neurala system mer tolkningsbara. I detta arbete föreslår vi att man tar itu med tolkningsproblemet i moderna DNN med hjälp av den rika historien om problembeskrivningar, teorier och experimentella metoder som utvecklats av kognitiva psykologer för att studera det mänskliga sinnet. För att utforska det potentiella värdet av dessa verktyg valde vi en väletablerad analys av utvecklingspsykologi som förklarar hur barn lär sig ordetiketter för objekt, och tillämpade den analysen på DNNs. Med hjälp av datauppsättningar av stimuli inspirerade av de ursprungliga kognitiva psykologi experiment, finner vi att state-of-the-art en skott lärande modeller tränas på ImageNet uppvisar en liknande fördomar som observerats hos människor: de föredrar att kategorisera objekt efter form snarare än färg. Storleken på denna form förskjutning varierar kraftigt mellan arkitektoniskt identiska, men olika sådda modeller, och även varierar inom frön under hela utbildningen, trots nästan likvärdig klassificering prestanda. Dessa resultat visar förmågan hos verktyg från kognitiv psykologi för att exponera dolda beräkningsegenskaper DNNs, samtidigt som de ger oss en beräkningsmodell för mänskligt ordinlärning.
Helt nyligen, Ritter et al. undersökt tolkningsproblemet i DCNNs med hjälp av metoderna för kognitiv psykol-ogy REF.
Cognitive Psychology for Deep Neural Networks: A Shape Bias Case Study
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}