Vi fastställer minimax lägre gränser och maximal sannolikhet konvergens av parameteruppskattning för medel-kovarians multivariat Gaussiska blandningar, form-rate Gamma blandningar, och vissa varianter av finita blandningsmodeller, inklusive inställningen där antalet blandningskomponenter begränsas men okänt. Dessa modeller tillhör vad vi kallar "svagt identifierbara" klasser, som uppvisar specifika interaktioner mellan blandningsparametrar som drivs av algebraiska strukturer av klassen av kärna densiteter och deras partiella derivat. Följaktligen visas att både minimax-gränsvärdena och den maximala sannolikhetsparameterns skattningsgrader i dessa modeller vanligtvis är mycket långsammare än de vanliga n −1/2 eller n −1/4 konvergenstakterna. 1. Vad är det för fel på dig? Inledning. Lokaliseringsskala Gaussiska blandningar är en av de mest använda modelleringsverktygen i statistik. Shape-rate Gamma blandningar är också ett användbart modellering val för icke-negativa värderade data. Ändå är konvergensbeteenden hos de parametrar som uppstår i dessa modellklasser fortfarande till stor del öppna frågor [19, 21, 10]. Vi försöker ta upp dessa frågor i detta dokument. För finita blandningar av Gaussians, vissa fakta är kända när endast en typ av parameter varierar (såsom medelvärdet/lokaliseringen eller variansen/skalan men inte båda). Specifikt, om antalet blandningskomponenter som genererar data anges, är den optimala hastigheten för parameteruppskattning standard n −1/2, där n är provstorleken. Om antalet blandningskomponenter är okänt men begränsas av en känd konstant, då konvergensen n −1/4 för uppskattning av blandningsfördelningen uppnås genom ett förfarande som fastställts av Chen [5]. För multidimensionella parametrar fastställdes (log n/n) 1/4 hastighet av den bakre koncentrationen av blandningsfördelningen av Nguyen [22], under Wasserstein avstånd W 2. Ho och Nguyen [16] utvidgade resultaten av [5] och [22] till ett bredare spektrum av starkt identifierbara modeller, som medger allmänna satser för blandningsmåttet under maximal sannolikhetsuppskattning (MLE): (log n/n) 1/2 för exakta blandningar enligt W 1 metrisk, och (log n/n) 1/4 för överkondenserade finita blandningar enligt W 2 metrisk.
Den estimator analyseras i REF är den maximala-likelihood estimator (MLE), som innebär icke-konvex optimering och är typiskt approximerad av Förväntning-Maximization (EM) algoritm.
Convergence rates of parameter estimation for some weakly identifiable finite mixtures
{'venue': None, 'journal': 'Annals of Statistics', 'mag_field_of_study': ['Mathematics']}