Vi föreslår en ny hierarkisk Bayesiansk n-grammodell av naturliga språk. Vår modell använder sig av en generalisering av de allmänt använda Dirichlet distributioner som kallas Pitman-Yor processer som producerar power-law distributioner närmare liknar dem i naturliga språk. Vi visar att en approximation till den hierarkiska Pitman-Yor språkmodellen återvinner den exakta formuleringen av interpolerade Kneser-Ney, en av de bästa utjämningsmetoderna för n-gram språkmodeller. Experiment bekräftar att vår modell ger korsentropiresultat som är överlägsna interpolerade Kneser- Ney och jämförbara med modifierade Kneser- Ney.
Teh REF föreslår en ny hierarkisk Bayesian n-gram modell av naturliga språk, som använder sig av en generalisering av de allmänt använda Dirichlet distributioner som kallas Pitman-Yor processer som producerar makt-lag distributioner närmare liknar dem i naturliga språk.
A Hierarchical Bayesian Language Model Based On Pitman-Yor Processes
{'venue': 'International Conference On Computational Linguistics And Annual Meeting Of The Association For Computational Linguistics', 'journal': None, 'mag_field_of_study': ['Computer Science']}