Maskininlärningssamhället har blivit alltmer engagerat i potentialen för partiskhet och diskriminering i prediktiva modeller, och detta har motiverat ett växande arbete med vad det innebär för ett klassificeringsförfarande att vara "rättvist". I synnerhet undersöker vi spänningen mellan att minimera felskillnader mellan olika befolkningsgrupper samtidigt som kalibrerade sannolikhetsberäkningar bibehålls. Vi visar att kalibrering endast är kompatibel med en enda felbegränsning (dvs. lika falskt negativa frekvenser över grupper), och visa att alla algoritmer som uppfyller denna avkoppling är inte bättre än att randomisera en procentandel av förutsägelser för en befintlig klassificerare. Dessa oroande resultat, som utvidgar och generaliserar befintliga resultat, bekräftas empiriskt på flera datauppsättningar. * Lika bidrag, alphebetisk ordning.
REF studerar spänningen mellan att minimera felskillnader mellan olika befolkningsgrupper samtidigt som kalibrerade sannolikhetsuppskattningar bibehålls.
On Fairness and Calibration
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}