Differentiell integritet (DP) är en populär mekanism för utbildning maskininlärning modeller med begränsat läckage om förekomsten av specifika punkter i träningsdata. Kostnaden för differentiell integritet är en minskning av modellens noggrannhet. Vi visar att denna kostnad inte bärs lika: DP-modellernas noggrannhet sjunker mycket mer för de underrepresenterade klasserna och undergrupperna. Till exempel uppvisar en DP könsklassificeringsmodell mycket lägre noggrannhet för svarta ansikten än för vita ansikten. Kritiskt nog är denna skillnad större i DP-modellen än i den icke-DP-modellen, dvs. om den ursprungliga modellen är orättvis blir orättvisan värre när DP tillämpas. Vi visar denna effekt för en mängd olika uppgifter och modeller, inklusive känsloanalys av text och bildklassificering. Vi förklarar sedan varför DP-utbildningsmekanismer som lutningsklippning och bullertillägg har en oproportionerlig effekt på de underrepresenterade och mer komplexa undergrupperna, vilket resulterar i en varierande minskning av modellens noggrannhet.
Slutligen noterar vi att en nyligen publicerad rapport från REF visade att noggrannheten hos differentierade privata modeller sjunker mycket mer för de underrepresenterade klasserna och undergrupperna.
Differential Privacy Has Disparate Impact on Model Accuracy
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}