Framgången för många uppgifter i naturligt språk (NLP) är bunden av antalet och kvaliteten på kommenterade uppgifter, men det finns ofta brist på sådana utbildningsuppgifter. I denna artikel ställer vi frågan: "Kan vi kombinera ett neuralt nätverk (NN) med regelbundna uttryck (RE) för att förbättra övervakad inlärning för NLP?". Som svar på detta utvecklar vi nya metoder för att utnyttja den rika expressiviteten hos RE på olika nivåer inom en NN, vilket visar att kombinationen avsevärt ökar inlärningseffektiviteten när ett litet antal utbildningsexempel finns tillgängliga. Vi utvärderar vår strategi genom att tillämpa den på talspråksförståelse för avsiktsdetektering och slotfyllning. Experimentella resultat visar att vår strategi är mycket effektiv när det gäller att utnyttja tillgängliga utbildningsdata, vilket ger ett tydligt uppsving för RE-unaware NN.
REF utnyttjar uttryckligheten i regelmässiga uttrycksregler på olika nivåer i ett neuralt nätverk, i syfte att använda den information som tillhandahålls genom reglerna för att förbättra nätverkets prestanda.
Marrying up Regular Expressions with Neural Networks: A Case Study for Spoken Language Understanding
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}