Vi studerar en enkel inlärningsalgoritm för binär klassificering. Istället för att förutsäga med den bästa hypotesen i hypotesklassen, dvs. hypotesen som minimerar träningsfelet, förutspår vår algoritm med ett vägt genomsnitt av alla hypoteser, viktat exponentiellt med avseende på deras träningsfel. Vi visar att förutsägelsen av denna algoritm är mycket stabilare än förutsägelsen av en algoritm som förutspår med den bästa hypotesen. Genom att låta algoritmen avstå från att förutsäga vissa exempel visar vi att de förutsägelser den gör när den inte lägger ned sin röst är mycket tillförlitliga. Slutligen visar vi att sannolikheten att algoritmen avstår är jämförbar med generaliseringsfelet för den bästa hypotesen i klassen.
REF studerade en enkel ensemblemetod för binär klassificering.
Generalization bounds for averaged classifiers
{'venue': 'THE ANNALS OF STATISTICS', 'journal': None, 'mag_field_of_study': ['Mathematics']}