Vi introducerar en neural nätverksmodell som gifter ihop idéer från två framstående delar av forskning om domänanpassning genom representationsinlärning: strukturell korrespondensinlärning (SCL, (Blitzer et al., 2006)) och autoencoder neurala nätverk (NNs). Vår modell är en treskikts NN som lär sig att koda icke-pivot funktioner i ett inmatningsexempel till en lågdimensionell representation, så att förekomsten av pivot funktioner (funktioner som är framträdande i båda domäner och förmedla användbar information för NLP-uppgiften) i exemplet kan avkodas från den representationen. Den lågdimensionella representationen används sedan i en inlärningsalgoritm för uppgiften. Dessutom visar vi hur man injicerar förtränade ordinslag i vår modell för att förbättra generaliseringen över exempel med liknande pivotfunktioner. Vi experimenterar med uppgiften att korsdomänklassificera känslor på 16 domänpar och uppvisar betydande förbättringar jämfört med starka baslinjer. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.
Slutligen, REF föreslår neural strukturell korrespondens lärande (NSCL), som gifter SCL och autoencoder tekniker genom att använda ett neuralt nätverk för att skapa en dold representation av en text, och sedan använda denna representation för att förutsäga förekomsten av pivots.
Neural Structural Correspondence Learning for Domain Adaptation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}