Villkorliga gradienter (alias Frank-Wolfe algoritmer) bildar en klassisk uppsättning metoder för begränsad smidig konvex minimering på grund av deras enkelhet, avsaknad av projektion steg, och konkurrenskraftiga numeriska prestanda. Medan vaniljen Frank-Wolfe algoritm bara garanterar en värsta fallhastighet av O(1/ ), olika senaste resultaten har visat att för starkt konvexa funktioner, metoden kan ändras något för att uppnå linjär konvergens. Detta lämnar dock fortfarande ett stort gap mellan sublinjär O(1/ ) konvergens och linjär O(log 1/ ) konvergens för att nå en - ungefärlig lösning. Här presenterar vi en ny variant av villkorliga gradienter, som dynamiskt kan anpassa sig till funktionens geometriska egenskaper med hjälp av omstarter och därmed smidigt interpolerar mellan de sublinjära och linjära regimerna.
Omstartsteknikerna anpassar sig dynamiskt till funktionens geometriska egenskaper och fyller i gapet mellan sublinjär och linjär konvergens för FW-metoden REF.
Restarting Frank-Wolfe
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Computer Science', 'Mathematics', 'Philosophy']}