Abstract-Tre viktiga egenskaper hos ett klassificeringsmaskineri är: i) systemet bevarar viktig information om indata; ii) utbildningsexempelen förmedlar information om osedda data; och iii) systemet kan behandla olika punkter från olika klasser. I detta arbete visar vi att dessa grundläggande egenskaper ärvs av arkitekturen i djupa neurala nätverk. Vi bevisar formellt att dessa nätverk med slumpmässiga Gaussiska vikter utför en distansbevarande inbäddning av data, med en särskild behandling för i-klass och out-of-class data. Liknande punkter vid inmatningen av nätverket kommer sannolikt att ha samma Teoretisk analys av djupa nätverk här presenteras utnyttjar verktyg som används i komprimerad sensation och ordbok lärande litteratur, vilket gör en formell koppling mellan dessa viktiga ämnen. De resultat som härletts gör det möjligt att dra slutsatser om nätverkets metriska inlärningsegenskaper och deras förhållande till dess struktur; och ge gränser för den erforderliga storleken på utbildningen uppsättningen så att utbildningsexempel skulle representera troget osedda data. Resultaten valideras med toppmoderna utbildade nätverk.
Djupa nätverk med slumpmässiga vikter har studerats i REF, med bevisad representation stabilitet.
Deep Neural Networks with Random Gaussian Weights: A Universal Classification Strategy?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}