Algoritmiska beslutsfattande system är allestädes närvarande i ett brett utbud av online- och offlinetjänster. Dessa system är beroende av komplexa inlärningsmetoder och stora mängder data för att optimera servicefunktionaliteten, tillfredsställelsen hos slutanvändaren och lönsamheten. Det finns dock en växande oro för att dessa automatiserade beslut, även i avsaknad av avsikt, kan leda till en brist på rättvisa, dvs. deras resultat kan oproportionerligt skada (eller gynna) vissa grupper av människor som delar en eller flera känsliga attribut (t.ex. ras, kön). I detta dokument introducerar vi en flexibel mekanism för att utforma rättvisa klassificeringar genom att utnyttja ett nytt intuitivt mått på beslutsgräns (o)rättvisa. Vi omedelbart denna mekanism med två välkända klassificeringar, logistisk regression och stöd vektor maskiner, och visa på verkliga data att vår mekanism möjliggör en finkornig kontroll av graden av rättvisa, ofta till en liten kostnad när det gäller noggrannhet. En Python genomförande av vår mekanism är tillgänglig på öde-computing.mpi-sws.org
REF visar att på logistiska regressions- och stödvektormaskiner kan ungefärliga rättvisa begränsningar tillämpas med en kostnad för noggrannhet.
Fairness Constraints: Mechanisms for Fair Classification
{'venue': 'AISTATS', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}