Vi föreslår en ny metod för att direkt lära sig en stokastisk övergång operatör vars upprepade tillämpning ger genererade prover. Traditionella oriktade grafiska modeller närmar sig detta problem indirekt genom att lära sig en Markov kedja modell vars stationära distribution lyder detaljerad balans med avseende på en parameteriserad energifunktion. Energifunktionen ändras sedan så att modellen och datadistributionerna matchar, utan någon garanti för antalet steg som krävs för att Markov-kedjan ska konvergera. Dessutom är den detaljerade balansen villkor mycket restriktiv: energibaserade modeller som motsvarar neurala nätverk måste ha symmetriska vikter, till skillnad från biologiska neurala kretsar. Däremot utvecklar vi en metod för direktinlärning godtyckligt parameteriserade övergångsoperatörer som kan uttrycka nonquilibrium stationära distributioner som bryter detaljerad balans, vilket gör det möjligt för oss att lära oss mer biologiskt rimlig asymmetriska neurala nätverk och mer allmänna icke-energibaserade dynamiska system. Det föreslagna utbildningsmålet, som vi härleder via principiella variationsmetoder, uppmuntrar övergångsoperatören att "gå tillbaka" (föredrar att återgå till sina steg) i flerstegsbanor som startar vid datapunkter, så snabbt som möjligt tillbaka till de ursprungliga datapunkterna. Vi presenterar en serie experimentella resultat som illustrerar sundheten i den föreslagna metoden, Variational Walkback (VW), på MNIST, CIFAR-10, SVHN och CelebA datauppsättningar, visar överlägsna prover jämfört med tidigare försök att lära sig en övergång operatör. Vi visar också att även om varje snabb träningsbana är begränsad till ett begränsat men variabelt antal steg, fortsätter vår övergångsoperatör att generera goda prover långt förbi längden på sådana banor, vilket visar matchningen mellan dess icke-ekvilibrium stationär distribution till datadistributionen. Källa
Till exempel, i REF, en stokastisk generativ RNN utbildas för att lära sig en process som konvergerar till den fullständiga datadistributionen inom ett litet antal steg ges en enkel initiering.
Variational Walkback: Learning a Transition Operator as a Stochastic Recurrent Net
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}