Man kan behöva bygga en statistisk tolk för ett nytt språk, med endast en mycket liten märkt trädbank tillsammans med rå text. Vi hävdar att bootstraping en parser är mest lovande när modellen använder en rik uppsättning redundanta funktioner, som i nya modeller för poängberoende parser (McDonald et al., 2005). Med utgångspunkt i Abneys analys av Yarowsky-algoritm (2004) utför vi bootstrappning genom entropireglering: vi maximerar en linjär kombination av villkorad sannolikhet på märkta data och förtroende (negativ Rényi entropy) på omärkta data. I de första experimenten överträffade detta EM för utbildning av en enkel funktionsfattig generativ modell, och förbättrade också prestandan hos en funktionsrik, villkorat uppskattad modell där EM inte lätt kunde ha tillämpats. För våra modeller och träningsset, mer toppade mått av förtroende, mätt av Rényi entropy, överträffade jämnare sådana. Vi diskuterar hur vår funktionsuppsättning kan utökas med cross-linguala eller cross-domain funktioner, för att införliva kunskap från parallella eller jämförbara corpora under bootstrappa.
REF tillämpar entropireglering vid tolkning av beroende.
Bootstrapping Feature-Rich Dependency Parsers with Entropic Priors
{'venue': '2007 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL)', 'journal': None, 'mag_field_of_study': ['Computer Science']}