Vi studerar graden av konvergens i generaliseringsfel som kan uppnås genom aktivt lärande under olika typer av märkningsbuller. Dessutom studerar vi det allmänna problemet med modellval för aktivt lärande med en inbäddad hierarki av hypotesklasser och föreslår en algoritm vars felfrekvens tydligt konvergerar till det bästa möjliga felet bland klassificeringspersoner i hierarkin i en takt som är anpassad till både komplexiteten hos den optimala klassificeringen och bullerförhållandena. I synnerhet anger vi tillräckliga villkor för att dessa satser ska bli dramatiskt snabbare än de som kan uppnås genom passivt lärande. 1. Vad är det för fel på dig? Inledning. Aktivt lärande avser en familj av kraftfulla övervakade inlärningsprotokoll som kan producera mer exakta klassificeringar samtidigt som man använder ett mindre antal märkta datapunkter än traditionella (passiva) inlärningsmetoder. Här studerar vi en variant som kallas poolbaserat aktivt lärande, där en inlärningsalgoritm ges tillgång till en stor pool av omärkta data (dvs. endast kovariaterna är synliga), och tillåts begära etiketten (responsvariabeln) för några specifika datapunkter från den poolen. Målet är att lära sig en funktion som exakt förutsäger etiketterna på nya punkter, samtidigt som antalet etikettförfrågningar minimeras. Således är detta en typ av sekventiell design scenario för en funktion estimering problem. Detta kontrasterar mot passiv inlärning, där de märkta uppgifterna provtas slumpmässigt. Genom att mer noggrant välja vilka punkter som ska märkas kan det aktiva lärandet i jämförelse ofta avsevärt minska den totala ansträngning som krävs för att kommentera data. Detta kan vara särskilt intressant för uppgifter där omärkta data finns tillgängliga i överflöd, men märkningsinformation kommer endast genom betydande ansträngningar eller kostnader.
I poolbaserad aktiv inlärning REF väljer inlärningsalgoritmen prover som ska märkas från en pool av omärkta data.
Rates of convergence in active learning
{'venue': 'Annals of Statistics 2011, Vol. 39, No. 1, 333-361', 'journal': None, 'mag_field_of_study': ['Mathematics']}