Det har tidigare varit hypoteser, och stöds med vissa experimentella bevis, att djupare representationer, när väl utbildad, tenderar att göra ett bättre jobb på att lösa de underliggande faktorerna till variation. Vi studerar följande relaterade antaganden: bättre representationer, i betydelsen bättre disentangling, kan utnyttjas för att producera snabbare blandning Markov kedjor. Följaktligen skulle blandning vara effektivare på högre representationsnivåer. För att bättre förstå varför och hur detta sker föreslår vi ett sekundärt antagande: de högre nivåernas prover fyller mer enhetligt det utrymme de upptar och de högdensitetsgrenrören tenderar att utvecklas när de representeras på högre nivåer. Papperet diskuterar dessa hypoteser och testar dem experimentellt genom visualisering och mätningar av blandning och interpolering mellan prover.
Liknande verk som REF förmodade att bättre representationer kan utnyttjas för att producera snabbare blandning av Markov-kedjor, därför hjälper en djupare modell alltid.
Better Mixing via Deep Representations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}