I detta papper jämför vi olika typer av återkommande enheter i recidiverande neurala nätverk (RNN). Speciellt fokuserar vi på mer sofistikerade enheter som implementerar en gating mekanism, såsom en lång korttidsminnesenhet (LSTM) och en nyligen föreslagen gated återkommande enhet (GRU). Vi utvärderar dessa återkommande enheter på uppgifter polyfonisk musik modellering och talsignal modellering. Våra experiment visade att dessa avancerade återkommande enheter verkligen är bättre än mer traditionella återkommande enheter som tanh enheter. Vi fann också att GRU var jämförbart med LSTM.
RNN drivs vanligtvis av de återkommande enheterna såsom h REF.
Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}