Vi föreslår en ny modell för att lära sig tvåspråkiga ordrepresentationer från icke-parallella dokumentanpassade data. Efter de senaste framstegen i ordrepresentation lärande, vår modell lär sig täta real-värderade ord vektorer, det vill säga tvåspråkiga ord inbäddningar (BWES). Till skillnad från tidigare arbete med att framkalla BWEs som i hög grad förlitat sig på parallella meningsjusterade corpora och/eller lättillgängliga översättningsresurser som ordböcker, visar artikeln att BWes kan läras enbart på grundval av dokumentjusterade jämförbara data utan några ytterligare lexiska resurser eller syntaktisk information. Vi presenterar en jämförelse av vårt tillvägagångssätt med tidigare toppmoderna modeller för att lära sig tvåspråkiga ordrepresentationer från jämförbara data som bygger på ramen för flerspråkig probabilistisk temamodellering (MuPTM), samt med distribuerade lokala sammanhangsberäknande modeller. Vi visar nyttan av de inducerade BWES i två semantiska uppgifter: (1) tvåspråkig lexicon extraktion, (2) föreslå ordöversättningar i samband med polysemösa ord. Våra enkla men effektiva BWE-baserade modeller överträffar betydligt MuPTM-baserade och kontextberäknade representationsmodeller från jämförbara data samt tidigare BWE-baserade modeller, och får de bästa rapporterade resultaten för båda uppgifterna för alla tre testade språkpar.
REF inducerar tvåspråkiga ord inbäddade från dokumentjusterade jämförbara data som har slagits samman och blandas fram ett pseudo-tvåspråkigt dokument.
Bilingual Distributed Word Representations from Document-Aligned Comparable Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}