Privacy-bevarande maskininlärning algoritmer är avgörande för den allt vanligare inställningen där personuppgifter, såsom medicinska eller finansiella register, analyseras. Vi tillhandahåller allmänna tekniker för att producera integritetsbevarande approximationer av klassificeringar inlärda via (regulariserad) empirisk riskminimering (ERM). Dessa algoritmer är privata enligt definitionen av personlig integritet på grund av Dwork et al. (2006). Först tillämpar vi utdata perturbation idéer av Dwork et al. (2006), till ERM klassificering. Sedan föreslår vi en ny metod, objektiv perturbation, för integritetsbevarande maskininlärning algoritm design. Denna metod innebär perturbing den objektiva funktionen innan optimizing över klassificerare. Om förlusten och regularizern uppfyller vissa konvexitetskriterier och differentieringskriterier, bevisar vi teoretiska resultat som visar att våra algoritmer bevarar integriteten, och tillhandahåller generaliseringsgränser för linjära och icke-linjära kärnor. Vi presenterar vidare en integritetsbevarande teknik för att justera parametrarna i generella maskininlärningsalgoritmer, vilket ger integritetsgarantier från början till slut för utbildningsprocessen. Vi tillämpar dessa resultat för att producera integritetsbevarande analoger av legaliserad logistisk regression och stödja vektormaskiner. Vi får uppmuntrande resultat genom att utvärdera deras resultat på verkliga demografiska och riktvärden. Våra resultat visar att både teoretiskt och empiriskt, objektiv perturbation är överlägsen den tidigare state-of-the-art, output perturbation, i att hantera den inneboende kompromissen mellan integritet och lärande prestanda.
REF föreslog perturbing den objektiva funktionen innan optimering för empirisk riskminimering.
Differentially Private Empirical Risk Minimization
{'venue': None, 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science', 'Medicine']}