Kernelbaserad online-inlärning har ofta visat toppmoderna resultat för många online-inlärningsuppgifter. Den lider dock av en stor brist, det vill säga det obundna antalet stödvektorer, vilket gör den icke skalbar och olämplig för tillämpningar med storskaliga datauppsättningar. I detta arbete studerar vi problemet med begränsat kärnbaserat online-inlärning som syftar till att begränsa antalet stödvektorer genom en fördefinierad budget. Även om flera algoritmer har föreslagits i litteraturen, är de varken beräkningseffektiva på grund av sin intensiva budget underhållsstrategi eller effektiva på grund av användningen av enkla Perceptron algoritm. För att övervinna dessa begränsningar föreslår vi en ram för begränsat kärnbaserat online-inlärning baserat på en online lutning nedstigning. Vi föreslår två effektiva algoritmer med begränsad nedstigning på nätet (BOGD) för skalbar kärnbaserad onlineinlärning: (i) BOGD genom att upprätthålla stödvektorer med enhetlig provtagning, och (ii) BOGD++ genom att upprätthålla stödvektorer med hjälp av icke-uniform provtagning. Vi presenterar teoretisk analys av ånger bundet för båda algoritmerna, och fann lovande empiriska prestanda både vad gäller effektivitet och effektivitet genom att jämföra dem med flera välkända algoritmer för begränsad kärnbaserad online-inlärning på storskaliga datauppsättningar.
För att hantera detta problem har forskarna REF föreslagit en begränsad nedstigningsalgoritm för onlinegradient (BOGD) för att hålla antalet lagrade SVs lägre än en fördefinierad tröskel.
Fast Bounded Online Gradient Descent Algorithms for Scalable Kernel-Based Online Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}