Abstract-Vi studerar Frank-Wolfe metoder för icke konvexa stokastiska och ändliga-summa optimeringsproblem. Frank-Wolfe-metoder (i det konvexa fallet) har fått ett enormt nytt intresse för maskininlärning och optimering på grund av deras projektionsfria egendom och deras förmåga att utnyttja strukturerade begränsningar. Men vår förståelse av dessa algoritmer i den icke konvexa inställningen är ganska begränsad. I detta dokument föreslår vi icke konvexa stokastiska Frank-Wolfe-metoder och analyserar deras konvergensegenskaper. Dessutom, för objektiva funktioner som bryts ner i en ändlig-summa, vi utnyttja idéer från variansreduktion för konvex optimering för att få nya varians reducerade nonconvex Frank-Wolfe metoder som har bevisligen snabbare konvergens än den klassiska Frank-Wolfe metoden.
REF studerade vidare konvergenshastigheten för icke-konvex stokastisk Frank-Wolfe-algoritm i den finita-sol optimeringsinställningen.
Stochastic Frank-Wolfe methods for nonconvex optimization
{'venue': '2016 54th Annual Allerton Conference on Communication, Control, and Computing (Allerton)', 'journal': '2016 54th Annual Allerton Conference on Communication, Control, and Computing (Allerton)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}