Vi studerar prov komplexiteten i lärande neurala nätverk, genom att tillhandahålla nya gränser på deras Rademacher komplexitet antar norm begränsningar på parametermatrisen för varje lager. Jämfört med tidigare arbete har dessa komplexitetsgränser ökat beroendet av nätdjupet, och enligt vissa ytterligare antaganden är de helt oberoende av nätstorleken (både djup och bredd). Dessa resultat härleds med hjälp av några nya tekniker, som kan vara av oberoende intresse.
Golowich m.fl. studera provet komplexitet djupa neurala nätverk och presentera övre gränser på Rademacher komplexitet neurala nätverk i termer av normen för viktmatrisen i varje lager REF.
Size-Independent Sample Complexity of Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}