Abstrakt. I detta dokument presenterar vi en ny strategi för djupt lärande, djupt sammansmälta nät. Den centrala idén med vårt tillvägagångssätt är djup fusion, d.v.s. att kombinera de mellanliggande representationerna av basnätverk, där den sammanslagna produktionen fungerar som ingång för den återstående delen av varje basnätverk, och utföra sådana kombinationer djupt över flera mellanliggande representationer. Det resulterande djupt sammansmälta nätet har flera fördelar. För det första kan den lära sig flerskaliga representationer eftersom den drar nytta av fördelarna med fler basnätverk, som skulle kunna bilda samma sammanslagna nätverk, förutom den ursprungliga gruppen av basnätverk. För det andra, i vårt föreslagna sammanslagna nät som bildas av ett djupt och ett grunt basnät, förbättras båda informationsflödena från det tidigare mellanskiktet i det djupa basnätet till utdata och från inmatningen till det senare mellanskiktet i det djupa basnätet. Slutligen är de djupa och grunda basnätverken gemensamt inlärda och kan dra nytta av varandra. Mer intressant, det väsentliga djupet av ett sammansmält nät som består av ett djupt basnät och ett grunt basnät minskas eftersom det sammanslagna nätet kan bestå av ett mindre djupt basnät, och därmed utbildning det sammanslagna nätet är mindre svårt än utbildning det ursprungliga djupa basnätet. Empiriska resultat visar att vår strategi uppnår överlägsen prestanda över två närbesläktade metoder, ResNet och Highway, och konkurrenskraftig prestanda jämfört med toppmoderna.
De djupt funna nät Ref kombinerar de mellanliggande representationerna av basnät, där den sammanslagna produktionen fungerar som inmatning av den återstående delen av varje basnät, och utför sådana kombinationer djupt över flera mellanliggande representationer.
Deeply-Fused Nets
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}