Intressanta teoretiska associationer har etablerats genom senaste uppsatser mellan områdena aktivt lärande och stokastisk konvex optimering på grund av den gemensamma roll feedback i sekventiella frågemekanismer. I detta dokument fortsätter vi denna tråd i två delar genom att för första gången utnyttja dessa relationer för att ge nya algoritmer inom båda områdena, vilket ytterligare motiverar studien av deras skärningspunkt. Först, inspirerad av en nyligen genomförd optimeringsalgoritm som var anpassningsbar till okända enhetliga konvexitetsparametrar, presenterar vi en ny aktiv inlärningsalgoritm för endimensionella trösklar som kan ge minimax-hastigheter genom att anpassa sig till okända bullerparametrar. Därefter visar vi att man kan utföra d-dimensionell stokastisk minimering av jämna konvexa funktioner när man endast beviljar oraklet tillträde till bullriga gradientskyltar längs en koordinat istället för verkliga gradienter, genom att använda en enkel randomiserad koordinat nedstigningsprocedur där varje linjesökning kan lösas genom 1-dimensionellt aktivt lärande, vilket på ett bevisligt sätt uppnår samma felkonvergens som med hela den realvärderade gradienten. Kombinera dessa två delar ger en algoritm som löser stokastisk konvex optimering av enhetligt konvexa och smidiga funktioner med endast bullriga gradienttecken genom att upprepade gånger utföra aktivt lärande, uppnår optimala hastigheter och är anpassningsbar till alla okända konvexitets- och jämnhetsparametrar.
REF använder aktivt lärande som subrutin för att förbättra stokastisk konvex optimering.
Algorithmic Connections Between Active Learning and Stochastic Convex Optimization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}