Sammanfattning Optimering av icke-smootha, icke-konvexa funktioner utan tillgång till gradienter är ett särskilt utmanande problem som ofta uppstår, till exempel i modellparameteroptimeringsproblem. Optimering av parametrar på två nivåer är en standardinställning inom områden som problem med variationsreglering och övervakad maskininlärning. Vi presenterar effektiva och robusta derivatfria metoder som kallas randomiserade Itoh-Abe-metoder. Dessa är generaliseringar av Itoh-Abe-metoden med diskret lutning, ett välkänt system från geometrisk integration, som tidigare endast har beaktats i en jämn miljö. Vi visar att metoden och dess gynnsamma energiavledningsegenskaper är väl definierade i nonsmooth-miljön. Dessutom bevisar vi att när den objektiva funktionen är lokalt Lipschitz kontinuerlig, itererar nästan säkert konvergera till en ansluten uppsättning av Clarke stationära punkter. Vi presenterar ett genomförande av metoderna och tillämpar dem på olika testproblem. De numeriska resultaten visar att de randomiserade Itoh-Abe-metoderna är överlägsna de senaste derivatfria optimeringsmetoderna för att lösa icke-smooth-problem samtidigt som de förblir konkurrenskraftiga i fråga om effektivitet.
I REF studeras tillämpningen av en derivatfri diskret gradientmetod för icke konvexa, nonsmooth-funktioner, och metoden konvergerar till en uppsättning stationära punkter i Clarkes subdifferentiella ramverk.
A geometric integration approach to nonsmooth, nonconvex optimisation
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Mathematics']}