Vi presenterar en anpassning av RNN-sekvensmodeller till problemet med flermärkningsklassificering för text, där målet är en uppsättning etiketter, inte en sekvens. Tidigare sådana RNN modeller definierar sannolikheter för sekvenser men inte för uppsättningar; försök att få en viss sannolikhet är eftertänksamheter av nätverkets design, inklusive pre-specificera etikettordning, eller relatera sekvenssannolikheten till den inställda sannolikheten på ad hoc sätt. Vår formulering är härledd från en principiell uppfattning om uppsättning sannolikhet, som summan av sannolikheter för motsvarande permutation sekvenser för uppsättningen. Vi tillhandahåller ett nytt utbildningsmål som maximerar denna uppsättning sannolikhet, och ett nytt förutsägelsemål som finner den mest sannolika satt på ett testdokument. Dessa nya mål är teoretiskt tilltalande eftersom de ger RNN-modellen frihet att upptäcka den bästa etikettordningen, som ofta är den naturliga (men annorlunda bland dokument). Vi utvecklar effektiva förfaranden för att ta itu med de beräkningssvårigheter som är förknippade med utbildning och förutsägelser. Experiment med referensdata visar att vi överträffar de senaste metoderna för denna uppgift.
Senast lägger REF fram nya utbildningsmål som bygger på fastställda sannolikheter för att effektivt modellera uppsättningens matematiska egenskaper.
Adapting RNN Sequence Prediction Model to Multi-label Set Prediction
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}