Pågående innovationer i återkommande neurala nätverk arkitekturer har gett en stadig tillströmning av till synes state-of-t heart resultat på språkmodellering riktmärken. Dessa har dock utvärderats med hjälp av olika kodbaser och begränsade beräkningsresurser, som utgör okontrollerade källor till experimentell variation. Vi omvärderar flera populära arkitekturer och legaliseringsmetoder med storskalig automatisk hyperparameterinställning av svarta lådor och kommer fram till den något överraskande slutsatsen att standard LSTM-arkitekturer, när de är korrekt reglerade, överträffar nyare modeller. Vi etablerar en ny state of the art på Penn Treebank och Wikitext-2 corpora, samt starka baslinjer för Hutter Prize datasetet.
I REF omvärderas flera toppmoderna språkmodellarkitekturer med hjälp av storskalig automatisk hyperparameterinställning av svarta lådor.
On the State of the Art of Evaluation in Neural Language Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}