Dataförgiftning attacker syftar till att manipulera den modell som produceras av en inlärningsalgoritm genom att motsträvigt ändra träningssetet. Vi anser att olika privatliv är en försvarsåtgärd mot denna typ av angrepp. Vi visar att sådana elever är resistenta mot dataförgiftningsattacker när motståndaren bara kan förgifta ett litet antal föremål. Men detta skydd bryts ned när motståndaren förgiftar fler uppgifter. För att illustrera detta utformar vi attackalgoritmer som riktar in sig på mål- och utåtriktade elever, två standardmetoder för differentiellt privat maskininlärning. Experiment visar att våra metoder är effektiva när angriparen tillåts förgifta tillräckligt många träningsobjekt.
REF designa data förgiftning attack algoritmer som riktar mål och utgång.
Data Poisoning against Differentially-Private Learners: Attacks and Defenses
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}