Sammanfattning I detta dokument etablerar vi konvergensen av den proximala växelriktningsmetoden för multiplikatorer (ADMM) och blockkoordinatnedstigning (BCD) för icke-separerbara minimeringsmodeller med kvadratiska kopplingstermer. De nya konvergensresultat som presenteras i detta dokument besvarar flera öppna frågor som har varit föremål för omfattande diskussioner. Vi utvidgar först den 2-blocks proximala ADMM till linjärt begränsad konvex optimering med en kopplad kvadratisk objektiv funktion, ett område där teoretisk förståelse för närvarande saknas, och bevisar att sekvensen som genereras av den proximala ADMM konvergerar i punktvis sätt till en primal-dual lösning par. Dessutom tillämpar vi slumpmässigt permuterad ADMM (RPADMM) för icke-separat multi-block konvex optimering, och bevisa dess förväntade konvergens för en klass av icke-separerbara quadratic programmeringsproblem. När den linjära begränsningen försvinner minskar 2-blocksproximal ADMM och RPADMM till 2-blocks cyklisk proximal BCD-metod och slumpmässigt permuterad BCD (RPBCD). Vår studie ger det första iterat konvergensresultatet för 2-blocks cykliskt proximalt BCD utan att anta gränsen för iteraterna. Vi fastställer också teoretiskt det förväntade iteratkonvergensresultatet för multi-block RPBCD för konvex quadratic optimering. Dessutom visar vi att RPBCD kan ha en sämre konvergenshastighet än cykliskt proximalt BCD för 2-blocks konvexa quadratic minimeringsproblem. Även om resultaten på RPADMM och RPBCD är begränsade till quadratic minimization modeller, de ger några intressanta insikter: 1) slumpmässig permutation gör ADMM och BCD mer robust för multi-block konvex minimering problem; 2) cyklisk BCD kan överträffa RPBCD för "nice" problem, och därför RPBCD bör tillämpas med försiktighet när lösa allmänna konvexa optimeringsproblem.
Chen och Al. diskuterade de kvadratiska kopplade termer REF.
Extended ADMM and BCD for Nonseparable Convex Minimization Models with Quadratic Coupling Terms: Convergence Analysis and Insights
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Mathematics', 'Computer Science']}