Vi beskriver klassen av konvexa konvolutionella neurala nätverk (CCNN), som fångar parametern delning av konvolutionella neurala nätverk på ett konvext sätt. Genom att representera de ickelinjära konvolutionsfiltren som vektorer i en reproducerande kärna Hilbert-utrymme, kan CNN-parametrarna representeras som en lågrankad matris, som kan slappnas av för att erhålla ett konvext optimeringsproblem. För att lära sig två-lagers konvolutionella neurala nätverk, bevisar vi att den generalisering fel som erhålls av en konvexiserad CNN konvergerar till den bästa möjliga CNN. För att lära sig djupare nätverk utbildar vi CCNN på ett lagermässigt sätt. Empiriskt, CCNNs uppnå prestanda konkurrenskraftig med CNNs tränas genom backpropagation, SVMs, fullt anslutna neurala nätverk, staplade denoiserande auto-encoders, och andra baslinjemetoder.
REF slappnar av klassen av CNN-filter till en reproducerande kärna Hilbert utrymme och bevisa generalisering fel som är bundet för avslappning.
Convexified Convolutional Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}