Random Fourier-funktioner är en allmänt använd, enkel och effektiv teknik för att skala upp kärnmetoder. Den befintliga teoretiska analysen av tillvägagångssättet är dock fortfarande inriktad på specifika inlärningsuppgifter och ger vanligtvis pessimistiska gränser som står i strid med de empiriska resultaten. Vi tar itu med dessa problem och ger den första enhetliga riskanalysen av lärande med slumpmässiga Fourier funktioner med hjälp av kvadratfel och Lipschitz kontinuerliga förlustfunktioner. I våra gränser är avvägningen mellan beräkningskostnaden och den förväntade riskkonvergensen problemspecifik och uttrycks i termer av legaliseringsparametern och antalet effektiva grad av frihet. Vi studerar både den standardiserade slumpmässiga Fourier-metoden för vilken vi förbättrar de befintliga gränserna på det antal funktioner som krävs för att garantera motsvarande minimax riskkonvergens för kärnryggens regression, samt en databeroende modifiering som tar prov som är proportionell mot hävstångspoängen och ytterligare minskar det antal funktioner som krävs. Eftersom hävstångspoäng är dyra att beräkna, utformar vi ett enkelt approximationssystem som tydligt minskar beräkningskostnaden utan förlust av statistisk effektivitet. Föravtryck. Pågående arbete.
REF ger den skarpaste gränsen för det antal slumpmässiga funktioner som krävs; i synnerhet, med funktioner för att lära sig exaktheten i kärnans regression.
Towards A Unified Analysis of Random Fourier Features
{'venue': None, 'journal': 'arXiv: Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}