Vi föreslår ett kriterium för diskriminering av ett specificerat känsligt attribut i övervakad inlärning, där målet är att förutsäga ett visst mål baserat på tillgängliga funktioner. Förutsatt att data om prediktor, mål och medlemskap i den skyddade gruppen finns tillgängliga, visar vi hur man optimalt justerar alla inlärda prediktorer för att ta bort diskriminering enligt vår definition. Vårt ramverk förbättrar också incitamenten genom att flytta kostnaderna för dålig klassificering från missgynnade grupper till beslutsfattaren, som kan svara genom att förbättra klassificeringsnoggrannheten. I linje med andra studier är vår uppfattning glömsk: den beror endast på den gemensamma statistiken över prediktorn, målet och det skyddade attributet, men inte på tolkningen av enskilda egenskaper. Vi studerar de inneboende gränserna för att definiera och identifiera förutfattade meningar som bygger på sådana omedvetna åtgärder och beskriver vad som kan och inte kan härledas från olika omedvetna tester. Vi illustrerar vår idé med hjälp av en fallstudie av FICO poäng.
Utjämnade odds, föreslås av REF, är en rättvisa metrisk för en specificerad känslig attribut i övervakad lärande.
Equality of Opportunity in Supervised Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}