1 Medan den universella approximations egenskapen innehar både för hierarkiska och grunda nätverk, visar vi att djupa (hierarkiska) nätverk kan approximera klassen av kompositionsfunktioner med samma noggrannhet som grunda nätverk men med exponentiellt lägre antal utbildningsparametrar samt VC-dimension. Detta teorem slår fast en gammal gissning av Bengio om djupets roll i nätverken. Vi definierar sedan en allmän klass av skalbara, skiftinvarianta algoritmer för att visa en enkel och naturlig uppsättning krav som motiverar djupa konvolutionella nätverk.
REF visade att djupa nätverk kan approxima klassen av kompositionsfunktioner med samma noggrannhet som grunda nätverk, men med ett exponentiellt lägre antal param-eters.
Learning Functions: When Is Deep Better Than Shallow
{'venue': None, 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}