I detta dokument anser vi att effektiv, differentierad privat empirisk riskminimering ur optimeringsalgoritmers synvinkel. För starkt konvexa och smidiga mål, visar vi att lutning nedstigning med utdata perturbation inte bara uppnår nästan optimal nytta, men också avsevärt förbättrar körtiden för tidigare state-of-the-art privata optimeringsalgoritmer, för både  till-DP och ( till, δ)-DP. För icke-konvexa men smidiga mål, föreslår vi en RRPSGD (Random Round Private Stochastic Gradient Descent) algoritm, som tydligt konvergerar till en stationär punkt med integritetsgaranti. Förutom de förväntade bruksgränserna, ger vi också garantier i hög sannolikhet form. Experiment visar att vår algoritm konsekvent överträffar befintlig metod i både bruks- och körtid.
Den slumpmässiga runda privata stokastisk lutning nedstigning (RRPSGD) som utvecklats av REF är den första differentialt privata icke konvexa optimeringsalgoritmen med nyttogarantin.
Efficient Private ERM for Smooth Objectives
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}