För närvarande bygger det stora flertalet byggstenar, tekniker och arkitekturer för djupt lärande på verkligt värderade operationer och representationer. Men den senaste tidens arbete med återkommande neurala nätverk och äldre grundläggande teoretisk analys tyder på att komplexa tal kan ha en rikare representationskapacitet och kan också underlätta buller-robust minne hämtningsmekanismer. Trots sina attraktiva egenskaper och potential för att öppna upp helt nya neurala arkitekturer, komplexa-värderade djupa neurala nätverk har marginaliserats på grund av avsaknaden av de byggstenar som krävs för att utforma sådana modeller. I detta arbete, tillhandahåller vi de viktigaste atomkomponenterna för komplexa-värderade djupa neurala nätverk och tillämpa dem på konvolutionella feed-forward nätverk. Mer exakt, vi förlitar oss på komplexa konvolutioner och presentera algoritmer för komplexa batch-normalisering, komplexa vikt initialiseringsstrategier för komplexa-värderade neurala nät och vi använder dem i experiment med end-to-end utbildningsprogram. Vi visar att sådana komplexa modeller kan uppnå jämförbara eller bättre resultat än sina verkliga motsvarigheter. Vi testar djupt komplexa modeller på flera datorseende uppgifter och på musik transkription med MusicNet dataset där vi uppnår toppmodern prestanda.
Från det beräkningsmässiga perspektivet, komplexa-värderade neurala nätverk har en konkurrenskraftig prestanda med sina verkliga-värderade motsvarigheter REF.
Deep Complex Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}