Detta dokument presenterar en lägre gräns för optimering av en ändlig summa av n funktioner, där varje funktion är L-smooth och summan är μ-starkt konvex. Vi visar att ingen algoritm kan nå ett fel ε vid minimering av alla funktioner från denna klass i färre än en (n + n(σ − 1)log(1/ε)) iterationer, där σ = L/μ är ett surrogat tillståndsnummer. Vi jämför sedan denna lägre gräns till övre gräns för nyligen utvecklade metoder som specialiserar sig på denna inställning. När de funktioner som ingår i denna summa inte är godtyckliga, utan baserade på i.i.d. slumpmässiga data, sedan kontrasterar vi ytterligare dessa komplexa resultat med de för optimala första ordningen metoder för att direkt optimera summan. Slutsatsen vi drar är att en hel del försiktighet är nödvändig för en korrekt jämförelse. För fullständighetens skull ger vi också ett fristående bevis på det klassiska resultatet att optimera smidiga och starkt konvexa funktioner under en första ordningens orakel.
Lägre gränser för konvexa finita-summa problem studeras i REF.
A Lower Bound for the Optimization of Finite Sums
{'venue': None, 'journal': 'arXiv: Machine Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science']}