Blockkoordinatmetoden (BCD) används ofta för att minimera en kontinuerlig funktion f av flera blockvariabler. Vid varje iteration av denna metod, är ett enda block av variabler optimerad, medan de återstående variablerna hålls fast. För att säkerställa konvergensen av BCD-metoden måste det underproblem som ska optimeras i varje iteration lösas exakt till sin unika optimala lösning. Tyvärr är dessa krav ofta alltför restriktiva för många praktiska scenarier. I detta dokument studerar vi en alternativ inexact BCD metod som uppdaterar variabla block genom att successivt minimera en sekvens av approximationer av f som är antingen lokalt snäva övre gränser för f eller strikt konvexa lokala approximationer av f. Vi fokuserar på att karakterisera konvergensegenskaper för en ganska bred klass av sådana metoder, särskilt för de fall där de objektiva funktionerna är antingen icke-differentiable eller nonconvex. Våra resultat förenar och utökar de befintliga konvergensresultaten för många klassiska algoritmer såsom BCD-metoden, skillnaden mellan konvexa funktioner (DC) metod, förväntan maximization (EM) algoritm, liksom den alternerande proximal minimization algoritm.
I REF anser författarna att minimeringen av en möjligen nonsmooth funktion av Gauss-Seidel metoder varigenom, vid varje iteration, ett enda block av variabler uppdateras genom att minimera en global övre konvex approximation av funktionen.
A Unified Convergence Analysis of Block Successive Minimization Methods for Nonsmooth Optimization
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Computer Science', 'Mathematics']}