Ickelinjär oberoende komponentanalys (ICA) ger en tilltalande ram för oövervakad funktionsinlärning, men de modeller som föreslås hittills är inte identifierbara. Här föreslår vi först en ny intuitiv princip för oövervakad djupinlärning från tidsserier som använder datans icke-stationära struktur. Vår inlärningsprincip, tidskontrastiv inlärning (TCL), finner en representation som möjliggör optimal diskriminering av tidssegment (fönster). Förvånansvärt nog visar vi hur TCL kan relateras till en icke-linjär ICA-modell, när ICA omdefinieras till att inkludera tidsmässiga nonstationariteter. I synnerhet visar vi att TCL kombinerat med linjär ICA uppskattar den ickelinjära ICA-modellen upp till punktvisa omvandlingar av källorna, och denna lösning är unik - vilket ger det första identifierbarhetsresultatet för ickelinjär ICA som är rigorös, konstruktiv och mycket allmän.
Om Ref författare utnyttja tidskontrastiv förlust för att lära representationer utnyttja tidsstrukturen för data.
Unsupervised Feature Extraction by Time-Contrastive Learning and Nonlinear ICA
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}