Medan ett av de första stegen i många NLP-system är att välja vilka förtränade ord inbäddningar att använda, hävdar vi att ett sådant steg är bättre kvar för neurala nätverk att räkna ut av sig själva. I detta syfte introducerar vi dynamiska meta-bäddar, en enkel men effektiv metod för övervakad inlärning av inbäddade ensembler, vilket leder till toppmodern prestanda inom samma modellklass på en mängd olika uppgifter. Vi visar därefter hur tekniken kan användas för att sprida nytt ljus över användningen av ordinslag i NLP-system.
Kiela m.fl. REF införde dynamiska metabäddar, vilket var en effektiv metod för övervakad inlärning av inbäddade ensembler.
Dynamic Meta-Embeddings for Improved Sentence Representations
{'venue': 'EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}