Abstract-Recently utvecklade metoder för lärande glesa klassificeringar är bland de toppmoderna i övervakad lärande. Dessa metoder lär sig klassificeringar som införlivar viktade summor av basfunktioner med sparty-främjande priors som uppmuntrar viktuppskattningar att antingen vara betydande stora eller exakt noll. Ur ett lärande-teoretiskt perspektiv styr dessa metoder kapaciteten hos den inlärda klassificeringen genom att minimera antalet basfunktioner som används, vilket resulterar i bättre generalisering. I detta dokument presenteras tre bidrag som rör inlärningssnavigatorer. Först introducerar vi en sann multiklass formulering baserad på multinomiell logistisk regression. För det andra, genom att kombinera ett bundet optimering tillvägagångssätt med en komponent-wise uppdateringsprocedur, härleder vi snabba exakta algoritmer för att lära sig sparse flera klasser klassificerare som skala gynnsamt i både antalet träningsprover och funktionen dimensionalitet, vilket gör dem tillämpliga även för stora datamängder i högdimensionella funktionsutrymmen. Såvitt vi vet är dessa de första algoritmerna som utför exakt multinomiell logistisk regression med en sparsitetsfrämjande tidigare. För det tredje visar vi hur icke-triviala generaliseringsgränser kan härledas för vår klassificering i binärfallet. Experimentella resultat på standardriktvärden visar på de föreslagna metodernas noggrannhet, sparsamhet och effektivitet.
En direkt multiclass formulering som kallas SSLR introduceras i REF, där metoden är baserad på multinomial logistisk regression med en sparsity-främjande tidigare.
Sparse multinomial logistic regression: fast algorithms and generalization bounds
{'venue': 'IEEE Transactions on Pattern Analysis and Machine Intelligence', 'journal': 'IEEE Transactions on Pattern Analysis and Machine Intelligence', 'mag_field_of_study': ['Computer Science', 'Medicine']}