Vi presenterar Meena, en multi-turn open-domain chatbot tränas end-to-end på data mined och filtreras från offentliga sociala medier samtal. Denna 2.6B parameter neurala nätverk är helt enkelt tränas för att minimera komplexiteten hos nästa token. Vi föreslår också en mänsklig utvärderingsmått kallas Sensibleness and Specificity Genomsnitt (SSA), som fångar viktiga element i en mänsklig-liknande multi-turn konversation. Våra experiment visar ett starkt samband mellan perplexitet och SSA. Det faktum att den bästa perplexity end-to-end tränade Meena poäng högt på SSA (72% på multi-turn evaluation) tyder på att en mänsklig nivå SSA på 86% är potentiellt inom räckhåll om vi kan bättre optimera perplexitet. Dessutom får den fullständiga versionen av Meena (med en filtreringsmekanism och trimmad avkodning) 79% SSA, 23% högre i absolut SSA än de befintliga chatbots vi utvärderade. Samtal med Meena och med flera andra chattrobotar finns på https. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Jämförelse av olika avkodningsmetoder från villkorade språkmodeller. I ACL. Nitish Shirish Keskar, Bryan McCann, Lav R. Varshney, Caiming Xiong och Richard Socher. 2019 är det dags. Ctrl: En villkorlig transformator språkmodell för kontrollerbar generation. ArXiv, abs/1909.05858.
Bland autoregressiva modeller för öppen dialog fann en samtidig arbetsreferens ett starkt samband mellan perplexitet och ett mänskligt utvärderingsmått som ger vett och specificitet.
Towards a Human-like Open-Domain Chatbot
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}