Vi presenterar en ny semi-övervakad utbildningsmetod för villkorade slumpmässiga fält (CRF) som kan användas för att träna sekvenssegmentorer och etiketter från en kombination av märkta och omärkta träningsdata. Vår strategi bygger på att utvidga den minsta ramen för legalisering av entropi till det strukturerade förutsägelsefallet, vilket ger ett utbildningsmål som kombinerar omärkt villkorlig entropi med märkt villkorlig sannolikhet. Även om utbildningsmålet inte längre är konkavt, kan det fortfarande användas för att förbättra en inledande modell (t.ex. som erhållits genom övervakad utbildning) genom iterativ uppstigning. Vi tillämpar vår nya utbildningsalgoritm på problemet med att identifiera gen och protein som nämns i biologiska texter, och visar att inkorporering av omärkta data förbättrar prestandan hos den övervakade CRF i detta fall.
Jiao m.fl. föreslå delvis övervakade villkorade slumpmässiga fält REF ) som försöker maximera den villkorliga log-likelihood på träningsdata och samtidigt minimera den villkorliga entropi av klassetiketter på omärkta data.
Semi-Supervised Conditional Random Fields For Improved Sequence Segmentation And Labeling
{'venue': 'International Conference On Computational Linguistics And Annual Meeting Of The Association For Computational Linguistics', 'journal': None, 'mag_field_of_study': ['Computer Science']}