Modernt naturligt språk bearbetning och förståelse applikationer har haft ett stort uppsving att använda neurala nätverk modeller. Detta är dock inte fallet för de flesta språk, särskilt de med låga resurser, med otillräckliga kommenterade utbildningsdata. Flerspråkiga överföringsmetoder förbättrar prestandan på ett målspråk med låga resurser genom att använda märkta data från andra (källa)språk, vanligtvis med hjälp av flerspråkiga resurser som parallellkorpora. I detta arbete, föreslår vi en noll-resurs flerspråkig överföring lärande modell 1 som kan använda utbildningsdata på flera källspråk, utan att kräva mål språkutbildning data eller tvärspråkig övervakning. Till skillnad från de flesta befintliga metoder som bara bygger på språkinvarianta funktioner för tvärspråkig överföring, använder vår strategi både språkinvarianta och språkspecifika funktioner på ett sammanhängande sätt. Vår modell utnyttjar kontradiktoriska nätverk för att lära sig språk-invarianta funktioner och mix-of-experts modeller för att dynamiskt utnyttja förhållandet mellan målspråket och varje enskilt källspråk. Detta gör det möjligt för vår modell att effektivt lära sig vad man ska dela mellan olika språk i den flerspråkiga installationen. Det resulterar i betydande prestandavinster jämfört med tidigare konst, vilket visas i en omfattande uppsättning experiment över flera textklassificering och sekvens taggning uppgifter inklusive en storskalig real-world industri dataset.
REF överför information om känslor från flera källspråk genom att gemensamt lära sig språk invarianta och språkspecifika funktioner.
Zero-Resource Multilingual Model Transfer: Learning What to Share
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}