Nuvarande toppmoderna klassificerings- och detektionsalgoritmer bygger på övervakad utbildning. I detta arbete studerar vi oövervakad funktionsinlärning i samband med tidssammanhängande videodata. Vi fokuserar på funktionsinlärning från omärkt videodata, med antagandet att intilliggande videoramar innehåller semantiskt liknande information. Detta antagande utnyttjas för att utbilda en konvolutionell pooling auto-encoder som regleras av långsamhet och sparsamhet. Vi etablerar en koppling mellan långsam funktionsinlärning till metrisk inlärning och visar att den utbildade kodaren kan användas för att definiera en mer tidsmässigt och semantiskt sammanhängande metriska. Vårt huvudantagande är att dataprover som är timliga grannar också sannolikt kommer att vara grannar i det latenta rummet. Till exempel, intilliggande ramar i en videosekvens är mer sannolikt att vara semantiskt liknande än icke-angränsande ramar. Detta antagande leder naturligtvis till att de funktioner som infördes i SFA (Wiskot & Sejnowski (2002)) blir långsamma. Temporal samstämmighet kan utnyttjas genom att anta en tidigare på de funktioner som extraheras från temporal datasekvensen. En sådan föregångare är att särdragen bör variera långsamt med avseende på tiden. I den diskreta tidsinställningen motsvarar detta föregående att minimera en L p-norm för skillnaden mellan funktionsvektorer för tidsnära ingångar. Betrakta en videosekvens med T-ramar, om z t representerar funktionen vektorn extraheras från ramen vid tiden t då den tröghet föregående motsvarar minimering T t=1 z t − z t−1 p. För att undvika den degenererade lösningen z t = z 0 för t = 1... T, införs en andra term som uppmuntrar dataprover som inte är timliga grannar att separeras med minst ett avstånd av m-enheter i funktionsutrymme, där m är känd som marginalen. I tidsinställningen motsvarar detta minimering av max(0, m − z t − z t p ), där  skat − t  på > 1. Tillsammans bildar de två termerna den förlustfunktion som införs i Hadsell et al. (2006) som en dimensionsreduktions- och datavisualiseringsalgoritm känd som DrLIM. Anta att det finns en differentierad kartläggning från ingångsutrymme till funktionsutrymme som fungerar på individuella tidsprover. Betrakta denna kartläggning av G och anta att det parametriseras av en uppsättning utbildningsbara koefficienter som betecknas med W. Det vill säga z t = G W (x t ). Funktionen per prov förlust kan skrivas som: Den andra kontrastiva termen i ekvation 1 agerar bara för att undvika den degenererade lösningen där G W är en konstant kartläggning, det garanterar inte att den resulterande funktionen utrymme är informativ med avseende på inmatningen. Dessa diskriminerande kriterier beror endast på parvisa avstånd i representationsutrymmet som är ett geometriskt svagt begrepp i höga dimensioner. Vi föreslår att denna motsatsterm ersätts med en term som straffar återuppbyggnadsfelet för båda dataproven. Införa en rekonstruktion termer inte bara förhindrar den ständiga lösningen, men också agerar för att uttryckligen bevara information om input. Detta är en användbar egenskap hos funktioner som erhålls med hjälp av oövervakad inlärning; eftersom den uppgift som dessa funktioner kommer att tillämpas på inte är känd a priori, skulle vi vilja bevara så mycket information om inmatningen som möjligt.
Goroshin m.fl. REF utbildade en legaliserad hög kapacitet (dvs. djup) neural nätverk baserad autoencoder med hjälp av en temporal koherency före på angränsande ramar.
Unsupervised Feature Learning from Temporal Data
{'venue': 'ICLR', 'journal': 'CoRR', 'mag_field_of_study': ['Computer Science']}