Textgenerering är en viktig uppgift i NLP. Nyligen har flera kontradiktoriska generativa modeller föreslagits för att förbättra problemet med exponeringsfördel i textgenerering. Även om dessa modeller vinner stor framgång, lider de fortfarande av problemen med belöningen sparhet och läge kollaps. För att ta itu med dessa två problem använder vi oss i detta dokument av omvänt förstärkande lärande (IRL) för textgenerering. Mer specifikt lär sig IRL-ramen en belöningsfunktion på utbildningsdata, och sedan en optimal politik för att maximera den förväntade totala belöningen. I likhet med de kontradiktoriska modellerna optimeras belönings- och policyfunktionen i IRL växelvis. Vår metod har två fördelar: (1) belöningsfunktionen kan ge tätare belöningssignaler. (2) Produktionspolitiken, som är tränad genom "entropireglerad" politik, uppmuntrar till att skapa mer diversifierade texter. Experimentella resultat visar att vår föreslagna metod kan generera texter av högre kvalitet än de tidigare metoderna.
Ett annat arbete använder RL för att lösa problemet med kontradiktoriska generativa modeller för textgenerering REF.
Toward Diverse Text Generation with Inverse Reinforcement Learning
{'venue': 'IJCAI', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}