Att lära sig rika och olika representationer är avgörande för prestandan hos djupa konvolutionella neurala nätverk (CNN). I detta dokument överväger vi hur man kan använda privilegierad information för att främja den inneboende mångfalden i en enda CNN-modell så att modellen kan lära sig bättre representationer och erbjuda en starkare generaliseringsförmåga. I detta syfte föreslår vi en ny grupp ortogonala konvolutionella neurala nätverk (GoCNN) som lär sig lösa representationer inom varje skikt genom att utnyttja den privilegierade informationen och förbättra representationsmångfalden effektivt. Vi tar bildklassificering som ett exempel där bildsegmentering annoteras som privilegierad information under utbildningsprocessen. Experiment på två referensdataset -ImageNet och PASCAL VOC - visar tydligt den starka generaliseringsförmågan hos vår föreslagna GoCNN-modell. På ImageNet-datasetet förbättrar GoCNN prestandan hos den senaste ResNet-152-modellen med ett absolut värde på 1,2 % medan man endast använder privilegierad information på 10 % av utbildningsbilderna, vilket bekräftar GoCNN:s effektivitet när det gäller att utnyttja tillgänglig privilegierad kunskap för att utbilda bättre CNN.
I det djupa lärandet, det ortogonala konvolutionella neurala nätverket (GoCNN) REF föreslås av Chen et al. kan lära sig förgrundens och bakgrundens egenskaper i ortogonalitet och förbättra mångfalden av funktioner.
Training Group Orthogonal Neural Networks with Privileged Information
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}