Detta dokument fokuserar på hur man kan dra nytta av externa kunskapsbaser (KBs) för att förbättra återkommande neurala nätverk för maskinavläsning. Traditionella metoder som utnyttjar kunskap från KBs kodar kunskap som diskreta indikatorfunktioner. Inte bara gör dessa funktioner generalisera dåligt, men de kräver uppgiftsspecifika funktioner för att uppnå bra prestanda. Vi föreslår KBLSTM, en ny neural modell som utnyttjar kontinuerliga representationer av KBs för att förbättra inlärningen av återkommande neurala nätverk för maskinavläsning. För att effektivt integrera bakgrundskunskap med information från den för närvarande behandlade texten använder vår modell en uppmärksamhetsmekanism med en vaktpost för att anpassa sig till om bakgrundskunskap och vilken information från KBs är användbar. Experimentella resultat visar att vår modell uppnår noggrannhet som överträffar de tidigare toppmoderna resultaten för både enhetsextrahering och händelseextrahering på den allmänt använda ACE2005-datauppsättningen.
Däremot utnyttjar KBLSTM REF kontinuerliga representationer av kunskapsbaser för att förbättra inlärningen av återkommande neurala nätverk för maskinavläsning.
Leveraging Knowledge Bases in LSTMs for Improving Machine Reading
{'venue': 'ACL 2017', 'journal': None, 'mag_field_of_study': ['Computer Science']}