Förmågan att förutsäga framtida miljötillstånd är en central pelare i intelligensen. I sin kärna kräver effektiva förutsägelser en intern modell av världen och en förståelse av de regler genom vilka världen förändras. Här utforskar vi de interna modeller som utvecklats av djupa neurala nätverk utbildade med hjälp av en förlust baserad på att förutsäga framtida ramar i syntetiska videosekvenser, med hjälp av ett CNN-LSTM-deCNN ramverk. Vi visar först att denna arkitektur kan uppnå utmärkt prestanda i visuella sekvens förutsägelser uppgifter, inklusive state-of-theart prestanda i en standard " studsa bollar" dataset (Sutskever et al., 2009). Med hjälp av ett vägt medelvärdesfel och motstående förlust (Goodfellow et al., 2014) extrapolerar samma arkitektur framgångsrikt ut-of-the-plan rotationer av datorgenererade ansikten. Dessutom, trots att vi är utbildade end-to-end för att förutsäga endast pixel-nivå information, våra Prediktiva Generativa Nätverk lär sig en representation av den latenta strukturen av de underliggande tredimensionella objekten själva. Viktigt är att vi finner att denna representation är naturligt tolerant mot objektomvandlingar, och generaliserar väl till nya uppgifter, såsom klassificering av statiska bilder. Liknande modeller som endast är utbildade med en förlust av återuppbyggnad misslyckas med att generalisera lika effektivt. Vi hävdar att förutsägelse kan tjäna som en kraftfull oövervakad förlust för att lära rika interna representationer av objektfunktioner på hög nivå.
Lotter m.fl. REF använder negativ förlust i ett LSTM-nätverk för att förutsäga visuella sekvenser.
Unsupervised Learning of Visual Structure using Predictive Generative Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Biology']}