I andan av den enorma framgången för djupa Convolutional Neural Networks som generiska funktionsextraktorer från bilder, föreslår vi Timenet: ett flerskiktat återkommande neurala nätverk (RNN) tränas på ett oövervakat sätt för att extrahera funktioner från tidsserie 1. Fasta-dimensionella vektorrepresentationer eller inbäddningar av meningar med variabel längd har visat sig vara användbara för en mängd olika dokumentklassificeringsuppgifter. Timenet är encoder nätverk av en auto-encoder baserat på sekvens-till-sekvens modeller som omvandlar varierande längd tidsserie till fasta-dimensionella vektor representationer. När Timenet är utbildad på olika uppsättningar av tidsserier, kan det sedan användas som en generisk off-the-shelf-funktionsextraktor för tidsserier. Vi tränar Timenet på tidsserier från 24 datauppsättningar som tillhör olika domäner från UCR Time Series Classification Archive, och utvärderar sedan inbäddningar från Timenet för klassificering på 30 andra datauppsättningar som inte används för utbildning av Timenet. Vi observerar att en classifier inlärd över inbäddningar som erhållits från en förtränad Timenet ger betydligt bättre prestanda jämfört med (i) en classifier inlärd över inbäddningar som erhållits från encoder nätverk av en domän-specifik auto-encoder, samt (ii) en närmaste granne clasfier baserat på den välkända och effektiva Dynamic Time Warping (DTW) avståndsmått. Vi observerar också att en klassiator som är utbildad på inbäddningar från Timenet ger konkurrenskraftiga resultat jämfört med en DTW-baserad klassifier även vid användning av betydligt mindre uppsättning märkta träningsdata, vilket ger ytterligare bevis för att Timenet-inbäddningar är robusta. Slutligen visar t-SNE visualiseringar av Timenet inbäddningar att tidsserier från olika klasser bildar väl åtskilda kluster.
Transfer Learning via Feature Extraction TimeNet-baserade funktioner har visat sig vara användbara för olika uppgifter inklusive EKG-klassificering REF.
TimeNet: Pre-trained deep recurrent neural network for time series classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}