Korta textmeddelanden som tweets är mycket bullriga och glesa i deras användning av ordförråd. Traditionella textrepresentationer, som tf-idf, har svårt att förstå den semantiska betydelsen av sådana texter, vilket är viktigt i tillämpningar som händelsedetektering, åsiktsutvinning, nyhetsrekommendation, etc. Vi konstruerade en metod baserad på semantiska ordinslag och frekvensinformation för att komma fram till lågdimensionella representationer för korta texter som är utformade för att fånga semantisk likhet. För detta ändamål har vi utformat en viktbaserad modell och ett inlärningsförfarande baserat på en ny medianbaserad förlustfunktion. I denna artikel diskuteras detaljerna i vår modell och optimeringsmetoderna, tillsammans med de experimentella resultaten på både Wikipedia och Twitter data. Vi finner att vår metod överträffar de grundläggande tillvägagångssätten i experimenten, och att den generaliserar väl på olika ord inbäddningar utan omskolning. Vår metod kan därför behålla det mesta av den semantiska informationen i texten och är tillämplig utanför boxen.
REF utvärderas med Wikipedia och Twitter data.
Representation learning for very short texts using weighted word embedding aggregation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}