Federated learning distribuerar modellutbildningar bland en mängd agenter, som, guidade av sekretessbekymmer, utför utbildning med hjälp av sina lokala data men delar endast modellparameteruppdateringar, för iterativ aggregering på servern. I detta arbete utforskar vi hotet om modellförgiftningsattacker på federerad inlärning initierad av en enda, icke-samarbetande skadlig agent där det kontradiktoriska målet är att få modellen att missklassificera en uppsättning utvalda ingångar med stort förtroende. Vi utforskar ett antal strategier för att genomföra denna attack, börjar med att enkelt öka den skadliga agentens uppdatering för att övervinna effekterna av andra agenters uppdateringar. För att öka anfallet föreslår vi en omväxlande minimeringsstrategi, som alternativt optimerar för träningsförlusten och det kontradiktoriska målet. Vi följer upp med hjälp av parameteruppskattning för de godartade agenternas uppdateringar för att förbättra attackens framgång. Slutligen använder vi en svit av tolkningstekniker för att generera visuella förklaringar av modellbeslut för både godartade och skadliga modeller, och visar att förklaringarna är nästan visuellt oskiljaktiga. Våra resultat visar att även en starkt begränsad motståndare kan utföra modellförgiftning attacker samtidigt upprätthålla stealth, vilket belyser sårbarheten i den federerade inlärningsmiljö och behovet av att utveckla effektiva försvarsstrategier.
Förgiftande attacker för federerat lärande undersöks vidare i REF, där det kontradiktoriska målet är att få modellen att felklassificera valda insatser med stort förtroende.
Analyzing Federated Learning through an Adversarial Lens
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}