Motiverad av tillämpningar i spelteori, optimering, och Generative Adversarial Networks, det senaste arbetet av Daskalakis et al [8] och uppföljningsarbete av Liang och Stokes [11] har visat att en variant av den allmänt använda Gradient Descent/Ascent procedur, som kallas "Optimistic Gradient Descent/Ascent (OGDA)", uppvisar senaste-itrate konvergens till sadelpunkter i okoncentrerad konvex konvexa min-max optimeringsproblem. Vi visar att samma sak gäller i det mer allmänna problemet med begränsad min-max optimering under en variant av den icke-regelbundna multiplikativa-Weights-Update metoden som kallas "Optimistic Multiplicative-Weights Update (OMWU)". Detta besvarar en öppen fråga om Syrgkanis et al [19]. Beviset på vårt resultat kräver fundamentalt annorlunda tekniker än de som finns i icke-regelbunden inlärningslitteratur och ovan nämnda uppsatser. Vi visar att OMWU monotont förbättrar Kullback-Leibler skillnaden mellan nuvarande iterat till (lämpligt normaliserad) min-max lösning tills den kommer in i ett område av lösningen. Inom det området visar vi att OMWU blir en upphandlande karta som konvergerar till den exakta lösningen. Vi tror att våra tekniker kommer att vara användbara i analysen av den sista iteraten av andra lärande algoritmer.
Motiverad av träning Generativa Adversarial Networks (Gans) har de senaste resultaten visat att vissa algoritmer utan motstycke konvergerar i termer av det sista iteratet till sadelpunkter i konvex-konkav min-max optimeringsproblem [14, REF.
Last-Iterate Convergence: Zero-Sum Games and Constrained Min-Max Optimization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}