Vi visar att accelererade optimeringsmetoder kan ses som särskilda fall av multi-steg integration system från numerisk analys, tillämpas på lutningen flöde ekvation. I jämförelse med de senaste framstegen i denna riktning är den differentialekvation som behandlas här det grundläggande gradientflödet och vi visar att flerstegssystem gör det möjligt att integrera denna differentialekvation med hjälp av större stegstorlekar, vilket intuitivt förklarar accelerationsresultaten.
Scieur m.fl. REF tolkar acceleration som en multistegs integrationsmetod från numerisk analys tillämpad på gradientflödesdifferentialekvationen.
Integration Methods and Accelerated Optimization Algorithms
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Mathematics']}