Dirichletprocessen (DP) är ett grundläggande matematiskt verktyg för Bayesian nonparametrisk modellering, och används i stor utsträckning i uppgifter som densitetsuppskattning, behandling av naturligt språk och tidsseriemodellering. Även om MCMC inference metoder för DP ofta ger en guld standard i termer asymptotic noggrannhet, kan de vara beräkning dyrt och är inte uppenbart parallelliserbara. Vi föreslår en omparameterisering av Dirichletprocessen som framkallar villkorliga oberoenden mellan atomerna som bildar det slumpmässiga måttet. Detta villkorade oberoende gör det möjligt för många av Markovs kedjeövergångsoperatörer för DP-slutsatser att simuleras parallellt över flera borrkärnor. Tillämpas på blandning modellering, vår strategi gör det möjligt för Dirichlet processen att samtidigt lära sig kluster som beskriver data och superkluster som definierar granulariteten av parallellisering. Till skillnad från tidigare metoder, kräver vår teknik inte ändring av modellen och lämnar den verkliga bakre fördelningen invariant. Det lämpar sig också naturligt för en distribuerad mjukvaruimplementering i form av Map-Reduce, som vi testar i klusterkonfigurationer på över 50 maskiner och 100 kärnor. Vi presenterar experiment som utforskar de parallella effektivitets- och konvergensegenskaperna hos vår strategi för både syntetiska och verkliga data, inklusive körs på 1MM datavektorer i 256 dimensioner.
På samma sätt föreslog Lovell REF en reparameterisering av den underliggande modellen för att exponera ytterligare parallellism genom villkorat oberoende.
ClusterCluster: Parallel Markov Chain Monte Carlo for Dirichlet Process Mixtures
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}