Namngiven enhetsigenkänning (NER) är en viktig uppgift inom språkteknik. Befintliga neurala modeller för NER förlitar sig främst på dedikerade ordnivå representationer, som lider av två huvudsakliga brister: 1) ordförrådets storlek är stor, vilket ger stora minneskrav och utbildningstid, och 2) de kan inte lära morfologiska representationer. Vi antar en neural lösning baserad på dubbelriktade LSTMs och villkorliga slumpmässiga fält, där vi förlitar oss på subword enheter, nämligen tecken, fonemes, och bytes, för att åtgärda ovanstående brister. Vi utförde experiment på en stor datauppsättning som omfattade fyra språk med upp till 5,5 miljoner uttalanden per språk. Våra experiment visar att 1) med ökande träningsdata, prestanda av modeller som enbart tränas på underordsenheter kommer närmare modeller med dedikerade ordnivå inbäddningar (91.35 vs 93.92 F1 för engelska), samtidigt som man använder en mycket mindre ordförrådsstorlek (332 vs 74K), 2) subword enheter förbättra modeller med dedikerade ordnivå inbäddningar, och 3) kombinera olika subword enheter förbättrar prestanda.
REF använder tecken, phonemes, och bytes som underordsfunktioner, och på liknande sätt tagga enheter vid gränser på ordnivå.
Neural Named Entity Recognition from Subword Units
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}