Ett centralt problem i maskininlärning innebär att modellera komplexa data-uppsättningar med hjälp av mycket flexibla familjer av sannolikhetsfördelningar där lärande, provtagning, slutsatser, och utvärdering är fortfarande analytiskt eller beräkningsbart dragbar. Här utvecklar vi en strategi som samtidigt uppnår både flexibilitet och dragbarhet. Den väsentliga idén, inspirerad av icke-equilibrium statistisk fysik, är att systematiskt och långsamt förstöra strukturen i en datadistribution genom en iterativ framåt diffusionsprocess. Vi lär oss sedan en omvänd diffusionsprocess som återställer strukturen i data, vilket ger en mycket flexibel och dragbar generativ modell av data. Detta tillvägagångssätt gör det möjligt för oss att snabbt lära, ta prover från och utvärdera sannolikheter i djupa generativa modeller med tusentals lager eller tidssteg.
Ett annat tillvägagångssätt genererar bilder med hjälp av en iterativ framåt diffusion process REF.
Deep Unsupervised Learning using Nonequilibrium Thermodynamics
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}