Det senaste arbetet har undersökt hur man kan träna maskininlärningsmodeller som inte diskriminerar någon undergrupp av befolkningen som bestäms av känsliga attribut som kön eller ras. För att undvika olika behandling bör känsliga egenskaper inte beaktas. För att undvika olika effekter måste däremot känsliga egenskaper undersökas, t.ex. för att lära sig en rättvis modell, eller för att kontrollera om en viss modell är rättvis. Vi introducerar metoder från säker multi-part beräkning som gör att vi kan undvika båda. Genom att kryptera känsliga attribut visar vi hur en resultatbaserad rättvis modell kan läras in, kontrolleras eller få sina utdata verifierade och hållna på konto, utan att användarna avslöjar sina känsliga attribut.
REF var det första som föreslog att man skulle lära sig en rättvis prediktor utan att lämna ut information om skyddade attribut med hjälp av säker multipartsberäkning (MPC).
Blind Justice: Fairness with Encrypted Sensitive Attributes
{'venue': 'Proceedings of the 35th International Conference on Machine Learning, PMLR 80:2630-2639, 2018', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}