Sekvensmärkning arkitekturer använder ord inbäddningar för att fånga likhet, men lider vid hantering tidigare osynliga eller sällsynta ord. Vi undersöker tecken-nivå förlängningar till sådana modeller och föreslår en ny arkitektur för att kombinera alternativa ord representationer. Genom att använda en uppmärksamhetsmekanism kan modellen dynamiskt bestämma hur mycket information som ska användas från en ord- eller teckennivåkomponent. Vi utvärderade olika arkitekturer på en rad sekvensmärkningsdatauppsättningar, och utökningar på teckennivå upptäcktes för att förbättra prestandan på varje riktmärke. Dessutom gav den föreslagna uppmärksamhetsbaserade arkitekturen de bästa resultaten även med ett mindre antal utbildningsbara parametrar.
Dessutom införs uppmärksamhetsmekanismen i NER för att dynamiskt bestämma hur mycket information som ska användas från ett ord eller teckennivåkomponent REF.
Attending to Characters in Neural Sequence Labeling Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}