Min-max sadel-point problem har breda tillämpningar i många uppgifter inom maskininlärning, t.ex. distributionsmässigt robust lärande, lärande med icke-dekomponerbara förlust, eller lärande med osäkra data. Även om konvex-konkav sadel-punkt problem har studerats brett med effektiva algoritmer och solida teorier tillgängliga, är det fortfarande en utmaning att utforma bevisligen effektiva algoritmer för icke-konvexa sadel-punkt problem, särskilt när den objektiva funktionen innebär en förväntan eller en storskalig ändlig summa. Motiverad av den senaste litteraturen om icke-konvex icke-konvex minimering studerar denna uppsats en familj av icke-konvexa min-max-problem där minimeringskomponenten är icke-konvex (svag konvex) och maximeringskomponenten är konkav. Vi föreslår en proximally guidad stochastic subgradient metod och en proximally guidad stochastic varians-reducerad metod för förväntade och ändliga-sum sadel-punkt problem, respektive. Vi etablerar beräkningskomplex av båda metoderna för att hitta en nästan stationär punkt av motsvarande minimering problem.
Rafique m.fl. REF anses vara svagt konvexa och konkava min-max-problem och fler tillämpningar inom maskininlärning (t.ex. distributionsmässigt robust inlärning).
Non-Convex Min-Max Optimization: Provable Algorithms and Applications in Machine Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}