Abstract-This paper consensus optimering problem där olika summor av en global objektiv funktion finns tillgängliga vid noder av ett nätverk som kan kommunicera med grannar endast. Den proximala metoden för multiplikatorer anses vara ett kraftfullt verktyg som bygger på proximal primal nedstigning och dubbla uppstigningsuppdateringar på en lämpligt definierad förstärkt Lagrangian. Strukturen på den utökade Lagrangian gör detta problem odeponibelt, vilket utesluter distribuerade implementationer. Detta problem åtgärdas regelbundet genom användning av multiplikatormetoden med alternerande riktning. Den exakta andra ordningen metoden (Esom) introduceras här som ett alternativ som förlitar sig på: För det första, användningen av en separat kvadratisk approximation av den förstärkta Lagrangian, och för det andra, en trunkerad Taylor serie för att uppskatta lösningen av den första ordningen villkor som införts på minimeringen av den fyrkantiga approximationen av den förstärkta Lagrangian. De sekvenser av primära och dubbla variabler som genereras av ESOM visas konvergera linjärt till sina optimala argument när den aggregerade kostnadsfunktionen är starkt konvex och dess gradienter är Lipschitz kontinuerlig. Numeriska resultat visar fördelar med ESOM i förhållande till decentraliserade alternativ för att lösa minst-squares och logistiska regressionsproblem. Index Terms-Decentraliserad optimering, metod för multiplikatorer, multi-agent nätverk, andra-order metoder.
ESOM-metoden REF utför en andra orderuppdatering på den primära och variabla och första orderuppdateringen på den dubbla variabeln för att uppnå en linjär konvergenshastighet till den exakta lösningen utan att kräva en intern optimeringsmetod.
A Decentralized Second-Order Method with Exact Linear Convergence Rate for Consensus Optimization
{'venue': 'IEEE Transactions on Signal and Information Processing over Networks', 'journal': 'IEEE Transactions on Signal and Information Processing over Networks', 'mag_field_of_study': ['Mathematics', 'Computer Science']}