Detta dokument etablerar global konvergens och ger globala gränser för konvergensgraden för Heavy-ball metoden för konvex optimering. När den objektiva funktionen har Lipschitz-kontinuerlig lutning, visar vi att Cesáro genomsnittet av iteraterna konvergerar till optimal hastighet av O(1/k) där k är antalet iterationer. När den objektiva funktionen också är starkt konvex, visar vi att Heavy-ball itererar konvergera linjärt till den unika optimal. Numeriska exempel bekräftar våra teoretiska resultat.
REF analyserar momentum och tillhandahåller globala konvergensegenskaper för funktioner med Lipschitz-kontinuerliga gradienter.
Global convergence of the Heavy-ball method for convex optimization
{'venue': '2015 European Control Conference (ECC)', 'journal': '2015 European Control Conference (ECC)', 'mag_field_of_study': ['Mathematics', 'Computer Science']}