Vi visar nya övre och nedre gränser på VC-dimensionen av djupa neurala nätverk med ReLU aktiveringsfunktionen. Dessa gränser är tighta för nästan hela sortimentet av parametrar. Låta W vara antalet vikter och L vara antalet lager, vi bevisar att VC-dimensionen är O(W L log(W )) och W L log(W/L)). Detta förbättrar både de tidigare kända övre och nedre gränserna. När det gäller antalet U av icke-linjära enheter, visar vi ett snävt band (W U ) på VC-dimensionen. Alla dessa resultat generaliseras till godtyckliga linjära aktiveringsfunktioner.
Dessutom, för resultat baserade på klassiska teorier, Harvey et al. REF gav en nästan-tät gräns för VC-dimension av neurala nätverk, att VC-dimensionen för ett nätverk med W-vikter och L-lager kommer att ha en O(W L log W ) men  på (W L log W L ) VC-dimension.
Nearly-tight VC-dimension bounds for piecewise linear neural networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}