Moderna neurala nätverksmodeller har uppnått toppmoderna prestanda på relationsextraktion (RE) uppgifter. Även om distansövervakning (DS) automatiskt kan generera utbildning etiketter för RE, effektiviteten av DS är mycket beroende av dataset och relationstyper, och ibland kan det införa stora märkningsbuller. I detta dokument föreslår vi en ram för djup mönsterdiagnos, DIAG-NRE, som syftar till att diagnostisera och förbättra neural relationsextraktion (NRE) modeller utbildade på DS-genererade data. DIAG-NRE innehåller tre steg: (1) Den djupa mönster extraktion stadium använder förstärkning inlärning för att extrahera regelbundna uttryck stil mönster från NRE modeller. (2) Mönsterförfiningsfasen bygger upp en mönsterhierarki för att hitta de mest representativa mönster och låter mänskliga granskare utvärdera dem kvantitativt genom att notera ett visst antal mönstermatchade exempel. På så sätt minimerar vi både antalet etiketter för att kommentera och svårigheten att skriva heuristiska mönster. (3) Den svaga etiketten fusionssteg smälter samman flera svaga märkningskällor, inklusive DS och förfinade mönster, för att producera bullerreducerade etiketter som kan träna en bättre NRE-modell. För att visa den breda tillämpligheten av DIAG-NRE använder vi den för att diagnostisera 14 relationstyper av två offentliga datauppsättningar med en enkel hyperparameterkonfiguration. Vi observerar olika bullerbeteenden och får betydande F1 förbättringar på alla relationstyper som lider av stora märkningsljud.
Mer nyligen föreslås ett ramverk för djup mönsterdiagnos Ref för fjärrövervakad relationsextraktion, som använder RL för att extrahera relationsspecifika mönster.
DIAG-NRE: A Deep Pattern Diagnosis Framework for Distant Supervision Neural Relation Extraction
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}