Abstrakt. I detta arbete presenterar vi en globaliserad stokastisk semismooth Newton metod för att lösa stokastiska optimeringsproblem som innebär smidiga icke konvexa och icke-smooth konvexa termer i den objektiva funktionen. Vi antar att endast bullriga lutning och hessisk information om den smidiga delen av den objektiva funktionen finns tillgänglig via anropande stokastiska första och andra ordningen orakel. Den föreslagna metoden kan ses som en hybrid metod som kombinerar stokastiska semismooth Newton steg och stokastiska proximal gradient steg. Två inexakta tillväxtförhållanden är inkorporerade för att övervaka konvergensen och acceptansen av semismooth Newton steg och det visas att algoritmen konvergerar globalt till stationära punkter i förväntan. Dessutom, under standardantaganden och utnyttjande av slumpmässiga matriskoncentrationsskillnader, bevisar vi att den föreslagna metoden lokalt förvandlas till en ren stokastisk semismooth Newton metod och konvergerar r-superlinearly med hög sannolikhet. Vi presenterar numeriska resultat och jämförelser på l 1 -regulariserad logistisk regression och nonconvex binär klassificering som visar effektiviteten i vår algoritm.
I REF utvecklas en stokastisk variant av den halvsmooth Newton-metoden och konvergensen etableras i förväntan och nästan säkert.
A Stochastic Semismooth Newton Method for Nonsmooth Nonconvex Optimization
{'venue': None, 'journal': 'arXiv: Optimization and Control', 'mag_field_of_study': ['Mathematics', 'Computer Science']}