Abstrakt. Ett av de överraskande återkommande fenomen som observerats i experiment med boosting är att testfelet hos den genererade klassificeringsmaskinen vanligtvis inte ökar när dess storlek blir mycket stor, och ofta observeras att minska även efter att träningsfelet når noll. I detta dokument visar vi att detta fenomen är relaterat till fördelningen av marginalerna i utbildningsexempelen med avseende på den genererade regeln om röstningsklassificering, där marginalen i ett exempel helt enkelt är skillnaden mellan antalet korrekta röster och det maximala antalet röster som mottas av en felaktig etikett. Vi visar att tekniker som används i analysen av Vapniks stödvektorklassning och av neurala nätverk med små vikter kan tillämpas på röstningsmetoder för att relatera marginalfördelningen till testfelet. Vi visar också teoretiskt och experimentellt att boosting är särskilt effektivt när det gäller att öka marginalerna i övningsexempelen. Slutligen jämför vi vår förklaring med dem som grundar sig på snedförskjutningen.
Framgången med att öka har tillskrivits fördelningen av "marginalerna" för utbildningsexempel REF.
Boosting the margin: A new explanation for the effectiveness of voting methods
{'venue': 'ICML', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}