Vi introducerar "NoBackTrack" algoritmen för att träna parametrarna för dynamiska system såsom återkommande neurala nätverk. Denna algoritm fungerar i en online, minneslös inställning, vilket kräver ingen backpropagation genom tiden, och är skalbar, undvika den stora beräknings- och minneskostnaden för att upprätthålla den fulla lutningen av nuvarande tillstånd med avseende på parametrarna. Algoritmen upprätthåller i huvudsak, vid varje gång, en enda sökriktning i parameterutrymme. Utvecklingen av denna sökning riktning är delvis stokastisk och är konstruerad på ett sådant sätt att varje gång ge en opartisk slumpmässig uppskattning av lutningen av förlustfunktionen med avseende på parametrarna. Eftersom lutningsberäkningen är opartisk, uppdateras parametern i genomsnitt med tiden som den ska. Den resulterande gradient uppskattningen kan sedan matas till ett lätt Kalman-liknande filter för att ge en förbättrad algoritm. För återkommande neurala nätverk, de resulterande algoritmer skala linjärt med antalet parametrar. Preliminära tester på en enkel uppgift visar att den stokastiska approximationen av lutningen som införs i algoritmen inte verkar införa för mycket buller i banan, jämfört med att upprätthålla den fulla lutningen, och bekräfta den goda prestandan och skalbarheten av Kalman-liknande versionen av NoBackTrack. Betrakta problemet med att träna parametrarna för ett dynamiskt system över en variabel h  på R n som utsätts för evolutionsekvationen där f är en fast funktion av h och en ingångssignal x(t), beroende på parametrar. Målet är online minimering av en förlustfunktion t l t (t), y(t) mellan en önskad utdata y(t) vid tidpunkten t och en förutsägelse 1 1 Förutsägelsen kanske inte lever i samma uppsättning som y. Ofta kodar en sannolikhetsfördelning över de möjliga värdena för y, och förlusten är logaritmisk förlust l = − log p på (y).
NoBackTrack REF bibehåller en online-skattning av lutningen via slumpmässig rang-en reduktionsteknik.
Training recurrent networks online without backtracking
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}