Vi anser att PAC lärande av sannolikhetsfördelningar (alias. Uppskattning av densiteten), där vi får en i.i.d. prov som genereras från en okänd målfördelning och vill ge en distribution som ligger nära målet i det totala variationsavståndet. Låt F vara en godtycklig klass av sannolikhetsfördelningar, och låt F k betecknar klassen av k-blandningar av element av F. Förutsatt att det finns en metod för att lära F med prov komplexitet m F ( ska), tillhandahåller vi en metod för att lära F k med prov komplexitet O(k log k · m F (ε) / till 2 ). Vår blandning lärande algoritm har egenskapen att, om F-learner är korrekt och agnostic, då F k -learner skulle vara korrekt och agnostic också. Detta allmänna resultat gör det möjligt för oss att förbättra de mest kända prov komplexitet övre gränser för en mängd olika viktiga blandning klasser. För det första visar vi att den klass av blandningar av k axel-alignerade Gaussians i R d är PAC-lärbar i den agnostiska inställningen med O (kd/ ska 4) prover, som är tight i k och d upp till logaritmiska faktorer. För det andra visar vi att klassen av blandningar av k Gaussians i R d är PAC-lärbar i den agnostiska inställningen med prov komplexitet O(kd 2 / på 4 ), vilket förbättrar de tidigare kända gränserna för O(k 3 d 2 / till 4 ) och O(k 4 d 4 / på 2 ) i dess beroende av k och d. Slutligen visar vi att klassen av blandningar av k log-concave distributioner över R d är PAClearnable med O (d (d+5)/2 ε − (d+9)/2 k) prover.
För uppskattning av densiteten av blandningar av Gaussians med hjälp av TV-avståndet, den nuvarande bästa prov komplexitet övre gränser (i termer av k och d) är O(kd 2 /ε 4 ) för allmänna Gaussians och O (kd/ε 4 ) för axeljusterade Gaussians, båda på grund av REF.
Sample-Efficient Learning of Mixtures
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}