Vektorrepresentation av ord förbättrar prestandan i olika NLP-uppgifter, men de högdimensionella ordvektorerna är mycket svåra att tolka. Vi tillämpar flera rotationsalgoritmer på vektorrepresentationen av ord för att förbättra tolkningen. Till skillnad från tidigare metoder som framkallar gleshet, de roterade vektorerna kan tolkas samtidigt som den uttrycksfulla prestandan hos de ursprungliga vektorerna bevaras. Dessutom kan alla förbyggda ordvektor representation roteras för förbättrad tolkningsbarhet. Vi tillämpar rotation på skipgram och handske och jämför uttryckskraft och tolkningsbarhet med de ursprungliga vektorerna och de glesa överkompletta vektorerna. Resultaten visar att de roterade vektorerna överträffar de ursprungliga och de glesa överkompletta vektorerna för tolknings- och expressivitetsuppgifter.
Rotationsalgoritmer baserade på undersökande faktoranalys (EFA) för att bevara prestandan hos det ursprungliga ordet inbäddningar samtidigt förbättra deras tolkningsbarhet föreslogs i REF.
Rotated Word Vector Representations and their Interpretability.
{'venue': 'EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}