Vi presenterar en ny modellarkitektur som utnyttjar djuplärande verktyg för att utföra exakta Bayesian slutsatser om uppsättningar av högdimensionella, komplexa observationer. Vår modell är bevisligen utbytbar, vilket innebär att den gemensamma fördelningen över observationer är invariant under permutation: denna egendom ligger i hjärtat av Bayesian inference. Modellen kräver inga variationsbaserade approximationer för att tränas, och nya prover kan genereras beroende på tidigare prover, med kostnadslinjär i storleken på konditioneringssetet. Fördelarna med vår arkitektur visas på lärande uppgifter som kräver generalisering från korta observerade sekvenser medan modellering sekvensvariabilitet, såsom villkorlig bildgenerering, få-shot lärande, och anomali upptäckt.
Den BRUNO modellen REF utför exakt Bayesian inference på uppsättningar av data sådan att den gemensamma fördelningen över observationer är permutation invariant på ett autoregressivt sätt, på så sätt att nya prover kan genereras beroende på tidigare och en ström av nya datapunkter kan lätt införlivas vid testtid.
BRUNO: A Deep Recurrent Model for Exchangeable Data
{'venue': 'NeurIPS', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}