Maskininlärning kan påverka personer med juridiska eller etiska konsekvenser när det används för att automatisera beslut inom områden som försäkring, utlåning, uthyrning och prediktivt polisarbete. I många av dessa scenarier har tidigare beslut fattats som på ett orättvist sätt är partiska mot vissa subbefolkningar, t.ex. sådana som tillhör en viss ras, ett visst kön eller en viss sexuell läggning. Eftersom dessa tidigare data kan vara partiska, måste maskininlärning prediktorer redogöra för detta för att undvika att fortsätta eller skapa diskriminerande metoder. I detta dokument utvecklar vi en ram för att modellera rättvisa med hjälp av verktyg från kausal inference. Vår definition av kontrafaktisk rättvisa fångar intuitionen att ett beslut är rättvist mot en individ om det är detsamma i a) den verkliga världen och b) en kontrafaktisk värld där individen tillhörde en annan demografisk grupp. Vi visar vår ram för ett verkligt problem med rättvisa förutsägelser om framgång i juridikskolan. * Lika bidrag, författaren ordning beslutat slumpmässigt.
Kontrafaktisk rättvisa REF, särskilt, kräver att förutsägelsen om en maskininlärning modell för en individ att vara samma som i den kontrafaktiska världen, där individen hade tillhört en annan social grupp.
Counterfactual Fairness
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}