Vi presenterar Spectral Inference Networks, ett ramverk för att lära sig eigenfunktioner av linjära operatörer genom stokastisk optimering. Spectral Inference Networks generalize Slow Feature Analysis till generiska symmetriska operatörer, och är nära relaterade till Variarationella Monte Carlo metoder från beräkningsfysik. Som sådan kan de vara ett kraftfullt verktyg för oövervakad representation lära sig från video eller par av data. Vi härleder en träningsalgoritm för Spectral Inference Networks som tar itu med biasen i gradienterna på grund av ändlig batch storlek och möjliggör online-inlärning av flera eigenfunktions. Vi visar resultat av utbildning Spectral Inference Networks om problem i kvantmekanik och funktionsinlärning för videor på syntetiska dataset samt Arcade Learning Environment. Våra resultat visar att Spectral Inference Networks exakt återställer eigenfunktioner hos linjära operatörer, kan upptäcka tolkningsbara representationer från video och hitta meningsfulla delmål i förstärkande inlärningsmiljöer.
En annan ny metod, SPIN REF lär sig eigenfunktioner av linjära operatörer med djupt lärande metoder och kan tillämpas på SFA-problemet också.
Spectral Inference Networks: Unifying Spectral Methods With Deep Learning.
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}