Vi undersöker prestandaprofilen för Convolutional Neural Network (CNN) utbildning om den nuvarande generationen av NVIDIA Graphics Processing Units (GPU). Vi introducerar två nya Fast Fourier Transform convolution implementationer: en baserad på NVIDIA: s cuFFT-bibliotek, och en annan baserad på en Facebook-författare FFT genomförande, fbfft, som ger betydande speedups över cuFFT (över 1,5×) för hela CNNs. Båda dessa convolution implementationer är tillgängliga i öppen källkod, och är snabbare än NVIDIA: s cuDNN genomförande för många vanliga convolutional lager (upp till 23,5× för en syntetisk kärna konfiguration). Vi diskuterar olika prestandasystem för konvolutioner och jämför områden där enkla tidsdomänkonvolutioner överträffar Fourier frekvensdomänkonvolutioner. Detaljer om algoritmiska tillämpningar av NVIDIA GPU hårdvaruspecifika uppgifter vid genomförandet av fbfft tillhandahålls också.
Dessutom, Vasilache et al. I REF införs två nya FFT-baserade genomföranden för mer betydande upptrappningar.
Fast Convolutional Nets With fbfft: A GPU Performance Evaluation
{'venue': 'ICLR 2015', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}