I detta dokument studeras hur man införlivar det externa ordet korrelationskunskap för att förbättra samstämmigheten i ämnesmodellering. Befintliga ämnesmodeller antar att ord genereras självständigt och saknar mekanismen för att utnyttja de rika likheterna mellan ord för att lära sig sammanhängande ämnen. För att lösa detta problem bygger vi en Markov Random Field (MRF) legaliserad Latent Dirichlet Allocation (LDA) modell, som definierar en MRF på latent ämne lager av LDA för att uppmuntra ord som heter som liknar att dela samma ämne etikett. Enligt vår modell är ämnestilldelningen för varje ord inte oberoende, utan påverkas snarare av ämnesetiketterna för dess korrelerade ord. Liknande ord har bättre chans att sättas in i samma ämne på grund av legaliseringen av MRF, varför samstämmigheten i ämnen kan ökas. Dessutom kan vår modell rymma den subtilitet som huruvida två ord är lika beror på vilket ämne de visas i, vilket gör att ord med flera sinnen kan sättas in i olika ämnen på rätt sätt. Vi härleder en variationell inferens metod för att härleda de bakre sannolikheterna och lära modellparametrar och presentera tekniker för att hantera den svårbearbetade partitionsfunktionen i MRF. Experiment på två datauppsättningar visar hur effektiv vår modell är.
Xie och Al. REF föreslog en Markov Random Field legaliserad LDA-modell (MRF-LDA), som använder den externa kunskapen för att förbättra samstämmigheten i ämnesmodellering.
Incorporating Word Correlation Knowledge into Topic Modeling
{'venue': 'HLT-NAACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}