Abstract Probabilistic subjekt modellering av textsamlingar har nyligen utvecklats främst inom ramen för grafiska modeller och Bayesian inference. I detta dokument introducerar vi ett alternativt semi-probabilistiskt tillvägagångssätt, som vi kallar additiv legalisering av ämnesmodeller (ARTM). Istället för att bygga en rent probabilistisk generativ textmodell legaliserar vi ett illvilligt problem med stokastisk matris factorization genom att maximera en viktad summa av log-likelihood och ytterligare kriterier. Detta tillvägagångssätt gör det möjligt för oss att kombinera probabilistiska antaganden med språkliga och problemspecifika krav i en enda multiobjektiv ämnesmodell. I den teoretiska delen av arbetet härleder vi den regulariserade EM-algoritmen och ger en pool av regularizers, som kan appliceras tillsammans i vilken kombination som helst. Vi visar att många modeller som tidigare utvecklats inom Bayesianskt ramverk kan härledas lättare inom ARTM och i vissa fall generaliseras. I den experimentella delen visar vi att en kombination av sparning, utjämning och inredning förbättrar flera kvalitetsåtgärder på en gång med nästan ingen förlust av sannolikheten.
Additiv reglering av ämnesmodeller, ARTM REF är en icke-bayesiansk ram för lärande multiobjektiva ämnesmodeller.
Additive regularization of topic models
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science']}