I den här artikeln anser vi oregulariserade online-lärande algoritmer i en Reproducing Kernel Hilbert Spaces (RKHS). För det första härleder vi explicita konvergenstalgoritmer för oregulariserade inlärningsalgoritmer online för klassificering i samband med en allmän α-aktiverande förlust (se definition 1 nedan). Våra resultat utökar och förfinar resultaten i [30] för den minsta kvadratförlusten och det senaste resultatet [3] för förlustfunktionen med en Lipschitzkontinuerlig lutning. Dessutom fastställer vi ett mycket allmänt villkor för de stegstorlekar som garanterar konvergensen av den sista iteraten av sådana algoritmer. För det andra fastställer vi för första gången konvergensen av den oregulariserade pairwise inlärningsalgoritmen med en allmän förlustfunktion och härleder explicita värden under antagande av polynomiskt sönderfallande stegstorlekar. Konkreta exempel används för att illustrera våra viktigaste resultat. De viktigaste teknikerna är verktyg från konvex analys, förfinade ojämlikheter i Gaussiska genomsnitt [5], och en induktionsstrategi.
Nyligen fastställdes ett allmänt villkor för stegstorlekarna som (2.3) för konvergensen av algoritmen (1.1), i den bemärkelsen lim t→∞ A t = 0, med förlustfunktioner som uppfyller antagandet 1 REF.
Unregularized Online Learning Algorithms with General Loss Functions
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}