Abstrakt. Detta dokument visar att noggrannheten hos inlärda textklassificeringar kan förbättras genom att utöka ett litet antal märkta utbildningsdokument med en stor samling omärkta dokument. Detta är viktigt eftersom det i många texter är dyrt att få utbildningsetiketter, medan det är lätt att få tillgång till stora mängder omärkta dokument. Vi introducerar en algoritm för lärande från märkta och omärkta dokument baserat på kombinationen av Förväntning-Maximization (EM) och en naiv Bayes klassificerare. Algoritmen tränar först en klassificerare med hjälp av de tillgängliga märkta dokumenten och märker probabilistiskt de omärkta dokumenten. Den utbildar sedan en ny klassificerare med hjälp av etiketterna för alla dokument, och itererar till konvergens. Denna grundläggande EM-procedur fungerar bra när uppgifterna överensstämmer med modellens generativa antaganden. Dessa antaganden kränks dock ofta i praktiken, och dåliga resultat kan leda till detta. Vi presenterar två tillägg till algoritmen som förbättrar klassificeringsnoggrannheten under dessa förhållanden: (1) en viktningsfaktor för att modulera bidraget från omärkta data, och (2) användningen av flera blandningskomponenter per klass. Experimentella resultat som erhållits med hjälp av text från tre olika verkliga uppgifter visar att användningen av omärkta data minskar klassificeringsfelet med upp till 30 %.
Ref visade empiriskt att en kombination av ett litet märkt dataset med ett stort omärkt dataset från samma eller olika domäner kan minska klassificeringsfelet för textdokument med upp till 30 %.
Text Classification from Labeled and Unlabeled Documents using EM
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science']}