Minmax optimering, särskilt i dess allmänna nonconvex-nonconcave formulering, har funnit omfattande tillämpningar i moderna maskininlärning ramar såsom generativa kontrariska nätverk (GAN), kontraarial utbildning och multi-agent förstärkning lärande. Gradientbaserade algoritmer, särskilt lutningsstigning (GDA), används ofta i praktiken för att lösa dessa problem. Men trots GDA:s praktiska popularitet har dess teoretiska beteende ansetts mycket oönskat. I själva verket, bortsett från möjligheten av icke-konvergens, senaste resultaten [Daskalakis och Panageas, 2018, Mazumdar och Ratliff, 2018, Adolphs et al., 2018 visar att även när GDA konvergerar, dess stabila gränspunkter kan vara poäng som inte är lokala Nash equilibria, alltså inte spel-teoretiskt meningsfull. I detta dokument inleder vi en diskussion om lämpliga optimala åtgärder för minmaxoptimering, och introducerar en ny uppfattning om lokal optimalitet-lokal minmax-som ett lämpligare alternativ till begreppet lokal Nash jämvikt. Vi etablerar gynnsamma egenskaper hos lokala minmax punkter, och visar, viktigast av allt, att som förhållandet mellan stigningen steg storlek till nedstigning steg storlek går till oändlighet, stabila gränspunkter för GDA är exakt lokala minmax poäng upp till några degenererade punkter, visar att alla stabila gränspunkter i GDA har en spel-teoretisk betydelse för minmax problem.
I ett relaterat arbete föreslår REF en ny uppfattning om lokal optimalitet, kallad lokal minimax, avsedd för allmänna sekventiella maskininlärning spel.
Minmax Optimization: Stable Limit Points of Gradient Descent Ascent are Locally Optimal
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}