Sequence-to-sequence neural nätverksmodeller för generering av konversationssvar tenderar att generera säkra, alldagliga svar (t.ex., Jag vet inte) oavsett input. Vi föreslår att den traditionella objektiva funktionen, dvs. sannolikheten för produktion (respons) givet indata (meddelande) inte är lämplig för svarsgenerering uppgifter. Istället föreslår vi att Maximum Mutual Information (MMI) används som objektiv funktion i neurala modeller. Experimentella resultat visar att de föreslagna MMI-modellerna ger mer varierande, intressanta och lämpliga svar, vilket ger betydande vinster i BLEU-poäng på två konversativa datauppsättningar och i mänskliga utvärderingar.
Löjtnant m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m för m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m. REF var den första att ta itu med frågan om produktion mångfald i neurala sekvensgenerering ram; de föreslog att använda maximal ömsesidig information som den objektiva funktionen i neurala modeller för att producera mer varierande och intressanta svar i konversation modellering.
A Diversity-Promoting Objective Function for Neural Conversation Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}