Generativa Adversarial Networks (GAN) [6] är en effektiv metod för att utbilda generativa modeller av komplexa data såsom naturliga bilder. De är dock notoriskt svåra att träna och kan lida av problemet med saknade transportsätt där modellen inte kan ge exempel i vissa regioner i rymden. Vi föreslår ett iterativt förfarande, som kallas AdaGAN, där vi vid varje steg lägger till en ny komponent i en blandningsmodell genom att köra en GAN-algoritm på ett omviktat prov. Detta är inspirerat av att öka algoritmer, där många potentiellt svaga enskilda prediktorer girigt aggregeras för att bilda en stark sammansatt prediktor. Vi bevisar att ett sådant stegvis förfarande leder till konvergens till den verkliga fördelningen i ett begränsat antal steg om varje steg är optimalt, och konvergens i en exponentiell takt annars. Vi illustrerar också experimentellt att detta förfarande tar upp problemet med saknade transportsätt. Algoritm 1: Adagan, en meta-algoritm för att konstruera en "stark" blandning av T individuella GAN, tränad sekventiellt. Blandningsviktschemat ChooseMixtureWeight och träningssetet UpdateTrainingWeights ska tillhandahållas av användaren. Avsnitt 3 ger ett fullständigt exempel på denna familj. Insats: Utbildningsprov S N := {X 1,. ...,............................................................. Utgång: Blandning generativ modell G = G T. W 1 = (1/N,. .,, 1/N) för t = 2,...., T do #Välj en blandning vikt för nästa komponent β t = VäljMixtureWeight(t) #Uppdatera vikter av träningsexempel #Uppdatera den övergripande generativa modellen #Notering nedan innebär att bilda en blandning av G t‐1 och G c t. G t = (1 − β t )G t‐1 + β t G c t änd för
Inspirerad av att öka algoritmer, Adagan REF föreslår en iterativ procedur, som gradvis adresserar avslöjade datalägen genom att införa nya GAN-komponenter med hjälp av provet omviktning teknik.
AdaGAN: Boosting Generative Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}