Vi presenterar en funktion vektorbildning teknik för dokument -Sparse Composite Document Vector (SCDV) -som övervinner flera brister i den nuvarande fördelning stycke vektor representationer som används i stor utsträckning för text representation. I SCDV, är ord inbäddade grupperas för att fånga flera semantiska sammanhang där ord förekommer. De kedjas sedan ihop för att bilda dokument ämnesvektorer som kan uttrycka komplexa, multi-topic dokument. Genom omfattande experiment på flerklassiga och flermärkta klassificeringsuppgifter överträffar vi den tidigare toppmoderna metoden NTSG (Liu et al., 2015a). Vi visar också att SCDV inbäddningar presterar bra på heterogena uppgifter som ämnessammanhållning, kontextkänsligt lärande och informationsinsamling. Dessutom uppnår vi en betydande minskning av utbildnings- och prognostiderna jämfört med andra representationsmetoder. SCDV uppnår bäst av båda världarna - bättre prestanda med lägre tid och utrymme komplexitet.
Dessutom studerades kluster semantiskt utrymme i REF för att lära sig kontextinformation för ord och för uppgifter som ämnessammanhållning och informationshämtning.
SCDV : Sparse Composite Document Vectors using soft clustering over distributional representations
{'venue': 'EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}