Abstract-Supervised learning of Convolutional Neural Networks (CNNs), även känd som övervakad Deep Learning, är en computationally krävande process. För att hitta de lämpligaste parametrarna för ett nätverk för en viss applikation krävs många utbildningar. Därför är det viktigt att minska träningstiden per session för att fullt ut kunna utnyttja CNN i praktiken. Medan många forskargrupper har tagit itu med utbildningen av CNNs som använder GPUs, hittills inte mycket uppmärksamhet har ägnats Intel Xeon Phi coprocessor. I denna uppsats undersöker vi empiriskt och teoretiskt potentialen hos Intel Xeon Phi för övervakad inlärning av CNNs. Vi utformar och genomför ett parallelliseringssystem kallat CHAOS som utnyttjar både tråd- och SIMD-parallelismen hos samprocessorn. Vårt tillvägagångssätt utvärderas på Intel Xeon Phi 7120P med hjälp av MNIST-datauppsättningen med handskrivna siffror för olika trådräkningar och CNN-arkitekturer. Resultat visar en 103,5x hastighet upp när du tränar vårt stora nätverk för 15 epoker med 244 trådar, jämfört med en tråd på coprocessorn. Dessutom utvecklar vi en prestandamodell och använder den för att bedöma vårt genomförande och besvara frågor om vad.
Andre Viebke m.fl. även utnyttjad tråd-och SIMD-parallelism av Intel Xeon Phi-processorer för att påskynda utbildningen av CNNs REF.
The Potential of the Intel (R) Xeon Phi for Supervised Deep Learning
{'venue': '2015 IEEE 17th International Conference on High Performance Computing and Communications, 2015 IEEE 7th International Symposium on Cyberspace Safety and Security, and 2015 IEEE 12th International Conference on Embedded Software and Systems', 'journal': '2015 IEEE 17th International Conference on High Performance Computing and Communications, 2015 IEEE 7th International Symposium on Cyberspace Safety and Security, and 2015 IEEE 12th International Conference on Embedded Software and Systems', 'mag_field_of_study': ['Computer Science']}