Modellparametrarna för konvolutionella neurala nätverk (CNN) bestäms genom backpropagation (BP). I detta arbete föreslår vi en tolkningsbar feedforward (FF) design utan någon BP som referens. FF-designen har ett datacentrerat tillvägagångssätt. Den härleder nätverksparametrar för det aktuella skiktet baserat på datastatistik från utgången av det föregående skiktet på ett one-pass sätt. För att konstruera convolutionella lager utvecklar vi en ny signaltransform, kallad Saab (Subspace approximation med justerad skevhet). Det är en variant av den huvudsakliga komponentanalysen (PCA) med en extra snedvektor för att förinta aktiveringens icke-linjäritet. Flera Saab transformerar i kaskad ger flera konvolutionella lager. När det gäller fullt anslutna (FC) skikt, vi konstruera dem med hjälp av en kaskad av flerstegs linjära minst kvadrat regressorer (LSR). Den klassificering och robusthet (mot motangrepp) prestanda för BP- och FF-designade CNN som tillämpas på MNIST och CIFAR-10 dataset jämförs. Slutligen kommenterar vi förhållandet mellan BP och FF-design.
Konstruktionen av FC lager uppnås genom kaskaden av flera rättade linjära minst-kvadrat regressorer (LSRs) REF.
Interpretable Convolutional Neural Networks via Feedforward Design
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}