Abstrakt. I denna uppsats studerar vi en algoritm för att lösa ett minimeringsproblem som består av en differential (eventuellt icke-konvex) och en konvex (eventuellt icke-differential) funktion. Algoritmen iPiano kombinerar framåt-bakåt delning med en tröghetskraft. Det kan ses som en icke-smooth split version av Heavy-ball metoden från Polyak. En noggrann analys av algoritmen för den föreslagna klassen av problem ger en global konvergens av funktionsvärdena och argumenten. Detta gör algoritmen robust för användning på icke-konvexa problem. Konvergensen resultat erhålls baserat på Kurdyka-Lojasiewicz ojämlikhet. Detta är en mycket svag begränsning, som användes för att bevisa konvergens för flera andra gradientmetoder. Först bevisas ett abstrakt konvergensteorem för en generisk algoritm, och sedan visas iPiano uppfylla kraven i detta teorem. Dessutom fastställs en konvergensnivå för den allmänna problemklassen. Vi demonstrerar iPiano på datorseende problem: bild denoiserande med inlärda tidigare och diffusion baserad bildkomprimering. Nyckelord. icke-konvex optimering, Heavy-ball metod, tröghet framåt-bakåt uppdelning, Kurdyka-Lojasiewicz ojämlikhet, bevis på konvergens 1. Inledning. Gradienten metoden är verkligen en av de mest grundläggande men också en av de mest enkla algoritmer för att lösa smidiga konvexa optimeringsproblem. Under de senaste decennierna har lutningsmetoden ändrats på många sätt. En av dessa förbättringar är att överväga så kallade flerstegssystem [38, 35]. Det har visat sig att sådana system avsevärt ökar prestandan hos den enkla lutningsmetoden. Utlöst av praktiska problem med signalbehandling, bildbehandling och maskininlärning har intresset ökat för så kallade sammansatta objektiva funktioner, där den objektiva funktionen ges av summan av en smidig funktion och en icke-smooth funktion med en enkel att beräkna proximal karta. Detta initierade utvecklingen av den så kallade proximal lutning eller framåt-bakåt metod [28], som kombinerar explicita (framåt) lutning steg w.r.t. den släta delen med proximala (bakåt) steg w.r.t. Den icke-släta delen. I detta dokument kombinerar vi begreppen multi-steg system och proximal gradient metod för att effektivt lösa en viss klass av icke-konvexa, icke-smooth optimeringsproblem. Även om överföringen av kunskap från konvex optimering till icke-konvexa problem är mycket utmanande, strävar den efter att hitta effektiva algoritmer för vissa icke-konvexa problem. Därför anser vi att underklassen av icke-konvexa problem
Till exempel, i REF, författarna har analyserat global konvergens av algoritmen iPiano, som liknar en icke-smooth split version av tung-boll momentum metod.
iPiano: Inertial Proximal Algorithm for Non-Convex Optimization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}