Vi anser att optimeringsalgoritmer som successivt minimerar enkla Taylor-liknande modeller av den objektiva funktionen. Metoder för Gauss-Newton typ för att minimera sammansättningen av en konvex funktion och en smidig karta är vanliga exempel. Vårt huvudsakliga resultat är ett uttryckligt samband mellan stegstorleken på en sådan algoritm och lutningen av funktionen vid en närliggande punkt. Följaktligen kan vi (1) visa att stegstorlekarna kan användas på ett tillförlitligt sätt för att avsluta algoritmen, (2) bevisa att så länge stegstorlekarna tenderar att noll, är varje gränspunkt för iteraterna stationär, och (3) visa att förhållanden, som liknar klassisk kvadratisk tillväxt, innebär att stegstorlekarna linjärt avgränsade avståndet för iteraterna till lösningens uppsättning. Den senare så kallade felbundna egendomen används vanligtvis för att fastställa linjära (eller snabbare) konvergensgarantier. Analoga resultat håller när stegstorleken ersätts av kvadratroten av minskningen i modellens värde. Vi kompletterar papperet med tillägg till när modellerna minimeras endast inexakt.
Subsekvenskonvergens följer av det allmänna resultatet av Ref under antagandet att avståndet för efterföljande iterater tenderar att vara noll.
Nonsmooth optimization using Taylor-like models: error bounds, convergence, and termination criteria
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Mathematics']}