Den iterativa karaktären av förväntan maximization (EM) algoritmen utgör en utmaning för integritetsbevarande uppskattning, eftersom varje iteration ökar mängden buller som behövs. Vi föreslår en praktisk privat EM-algoritm som övervinner denna utmaning med hjälp av två innovationer: 1) ett nytt moment perturbation formulering för differentially privat EM (DP-EM), och 2) användningen av två nyligen utvecklade kompositionsmetoder för att binda integritet "kostnaden" för flera EM iterationer: moment revisorer (MA) och noll-medel koncentrerad differential integritet (zCDP). Både MA och zCDP band momentgenererande funktionen av integritetsförlust slumpmässig variabel och uppnå en förfinad svans bundet, vilket effektivt minska mängden additivt buller. Vi presenterar empiriska resultat som visar fördelarna med vårt tillvägagångssätt, samt liknande prestanda mellan dessa två kompositionsmetoder i DP-EM-inställningen för Gaussiska blandningsmodeller. Vår strategi kan enkelt utvidgas till många iterativa inlärningsalgoritmer, öppna upp olika spännande framtida riktningar.
Författarna till REF presenterar en algoritm för differentialt privat förväntan maximering.
DP-EM: Differentially Private Expectation Maximization
{'venue': 'AISTATS', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}