De senaste försöken att uppnå rättvisa i prediktiva modeller fokuserar på balansen mellan rättvisa och noggrannhet. I känsliga tillämpningar som hälso- och sjukvård eller straffrätt är denna kompromiss ofta oönskad, eftersom varje ökning av fel i prognoserna kan få förödande konsekvenser. I detta arbete hävdar vi att rättvisa förutsägelser bör utvärderas i samband med uppgifterna, och att orättvisa som orsakas av otillräckliga provstorlekar eller omätta prediktiva variabler bör hanteras genom datainsamling, snarare än genom att begränsa modellen. Vi bryter ner kostnadsbaserade mått på diskriminering till bias, varians och buller, och föreslår åtgärder som syftar till att uppskatta och minska varje term. Slutligen genomför vi fallstudier om förutsägelser om inkomst, dödlighet och granskningsbetyg, vilket bekräftar värdet av denna analys. Vi anser att datainsamling ofta är ett sätt att minska diskrimineringen utan att offra noggrannheten.
REF sönderdela förlustdifferensen i tre komponenter-bias, varians och buller.
Why Is My Classifier Discriminatory?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}