I detta dokument föreslår vi ett nytt experimentellt protokoll och använder det för att jämföra dataeffektivitet - prestanda som en funktion av utbildningsmängd storlek - av två djupt lärande algoritmer, konvolutionella neurala nätverk (CNN) och hierarkiska informationsbevarande graf-baserad långsam funktionsanalys (HiGSFA), för uppgifter i klassificering och överföring lärande scenarier. Algoritmerna är utbildade i olika stora undergrupper av datamängderna MNIST och Omniglott. HiGSFA överträffar standard CNN-nätverk när modellerna är utbildade på 50 och 200 prov per klass för MNIST-klassificering. I andra fall presterar CNN bättre. Resultaten tyder på att det finns fall där girigt, lokalt optimalt bottom-up lärande är lika eller mer kraftfullt än globalt gradientbaserat lärande.
Det mest relevanta arbetet vi hittade är det av REF som föreslår ett experimentellt protokoll för att jämföra dataeffektiviteten i ett CNN (Convolution Neural Network) med HiGSFA (Hierarkical Information-bevarande Graph-baserad Slow Feature Analysis).
Measuring the Data Efficiency of Deep Learning Methods
{'venue': 'In Proceedings of the 8th International Conference on Pattern Recognition Applications and Methods - Volume 1: ICPRAM (2019) pages 691-698', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}