Många nyligen tagna Markov-kedjan Monte Carlo (MCMC)-provtagare utnyttjar kontinuerlig dynamik för att definiera en övergångskärna som effektivt utforskar en måldistribution. Samtidigt har fokus legat på att ta fram skalbara varianter som tar del av data och använder stokastiska gradienter i stället för fulldatagradienter i de dynamiska simuleringarna. Sådana stokastiska gradienter MCMC-provtagare har dock släpat efter sina motsvarigheter med fullständiga data när det gäller dynamikens komplexitet, eftersom det är icke-trivialt att visa konvergens i närvaro av det stokastiska gradientbullret. Även med enkel dynamik, krävs ofta betydande fysisk intuition för att ändra det dynamiska systemet för att redogöra för den stokastiska lutning buller. I detta papper ger vi ett allmänt recept för att konstruera MCMC samplers-inklusive stokastisk lutning versioner-baserade på kontinuerliga Markov processer som specificeras via två matriser. Vi kan på ett konstruktivt sätt bevisa att ramverket är fullständigt. Det vill säga, alla kontinuerliga Markov-processer som ger prover från måldistributionen kan skrivas i vårt ramverk. Vi visar hur tidigare kontinuerlig-dynamiska provtagare kan vara trivialt "uppfinna" i vårt ramverk, undvika komplicerade provtagare-specifika bevis. Vi använder också vårt recept för att enkelt föreslå en ny state-adaptive sampler: stokastisk lutning Riemann Hamiltonian Monte Carlo (SGRHMC). Våra experiment på simulerade data och en streaming Wikipedia analys visar att den föreslagna SGRHMC provtagare ärver fördelarna med Riemann HMC, med skalbarheten av stokastiska gradient metoder.
REF undersökte en familj av SGHMC-metoder och föreslog en ny statad adaptiv provtagare på Riemann-grenröret.
A Complete Recipe for Stochastic Gradient MCMC
{'venue': 'NIPS', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}