Social diskriminering sägs förekomma när ett ogynnsamt beslut för en individ påverkas av hennes medlemskap till vissa skyddade grupper som kvinnor och etniska minoritetsgrupper. Sådana diskriminerande beslut finns ofta i historiska uppgifter. Trots de senaste arbetena inom diskrimineringsmedveten datautvinning finns det fortfarande behov av robusta, men ändå lättanvända, metoder för diskrimineringskontroll. I detta dokument använder vi oss av avvisande alternativ vid klassificering, ett allmänt beslutsteoretiskt ramverk för hantering av fall vars etiketter är osäkra, för modellering och kontroll av diskriminerande beslut. I synnerhet tillåter detta ramverk en formell behandling av intuitionen att fall nära beslutsgränsen är mer benägna att diskrimineras i ett dataset. Utifrån denna ram presenterar vi tre olika lösningar för diskrimineringsmedveten klassificering. Den första lösningen åberopar probabilistisk avstötning i en eller flera probabilistiska klassificeringar medan den andra lösningen bygger på avvisande av ensembler i klassificerande ensembler. Den tredje lösningen integrerar en av de två första lösningarna med situationsprövning som är ett förfarande som vanligen används i domstol. Alla lösningar är enkla att använda och ger starka motiveringar för besluten. Vi utvärderar våra lösningar utförligt på fyra verkliga dataset och jämför deras resultat med tidigare föreslagna diskrimineringsmedvetna klassificeringar. Resultaten visar att våra lösningar är överlägsna både vad gäller prestanda och flexibilitet. Våra lösningar är särskilt effektiva när det gäller att avlägsna olaglig diskriminering från förutsägelserna.
I REF ändras prognoserna för probabilistiska klassificerings- och ensemblemodeller för fall nära beslutsgränsen tills den statistiska pariteten har uppfyllts.
Exploiting Reject Option in Classification for Social Discrimination Control
{'venue': 'Inf. Sci.', 'journal': 'Inf. Sci.', 'mag_field_of_study': ['Computer Science']}