I ett försök att förstå betydelsen av de mellanliggande representationer fångas av djupa nätverk, har de senaste tidningarna försökt koppla specifika semantiska begrepp till individuella neurala nätverk filter svar, där intressanta korrelationer ofta hittas, till stor del genom att fokusera på extrem filter svar. I detta dokument visar vi att detta tillvägagångssätt kan gynna lätttolkade fall som inte nödvändigtvis är representativa för det genomsnittliga beteendet hos en representation. En mer realistisk men svårare att studera hypotes är att semantiska representationer distribueras, och därmed filter måste studeras i samband. För att undersöka denna idé samtidigt som den möjliggör systematisk visualisering och kvantifiering av flera filtersvar, introducerar vi Net2Vec-ramverket, där semantiska begrepp kartläggs till vektoriska inbäddningar baserade på motsvarande filtersvar. Genom att studera sådana inbäddningar, kan vi visa att 1., i de flesta fall, flera filter krävs för att koda för ett koncept, att 2., ofta filter är inte koncept specifika och hjälpa koda flera begrepp, och att 3., jämfört med enstaka filter aktiveringar, filter inbäddningar kan bättre karakterisera betydelsen av en representation och dess förhållande till andra begrepp.
I REF studerar författarna samarbetet mellan filter för att lösa ett problem och upptäcker att flera filter ofta krävs för att koda ett koncept, och enskilda filter är inte konceptspecifika.
Net2Vec: Quantifying and Explaining How Concepts are Encoded by Filters in Deep Neural Networks
{'venue': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'journal': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science', 'Mathematics']}