Automatiserade datadrivna beslutssystem används i allt större utsträckning för att hjälpa eller till och med ersätta människor i många miljöer. Dessa system fungerar genom att lära av historiska beslut, ofta tagna av människor. För att maximera nyttan av dessa system (eller, klassificeringar), deras utbildning innebär att minimera fel (eller felklassificeringar) över de givna historiska data. Det är dock fullt möjligt att den optimalt utbildade klassifieraren fattar beslut för personer som tillhör olika samhällsgrupper med olika felklassificeringsgrad (t.ex. är felklassificeringsgraden för kvinnor högre än för män), vilket innebär att dessa grupper missgynnas på ett orättvist sätt. För att ta hänsyn till och undvika sådan orättvisa inför vi i detta dokument ett nytt begrepp om orättvisa, olikartad misshandel, som definieras i termer av felklassificeringsgrader. Vi föreslår sedan intuitiva åtgärder för olika behandling av beslutsgränsbaserade klassificeringar, som lätt kan införlivas i deras formulering som konvex-konkav begränsningar. Experiment på syntetiska såväl som verkliga dataset visar att vår metodik är effektiv för att undvika olika dålig behandling, ofta till en liten kostnad i form av noggrannhet.
I REF infördes ett nytt begrepp om otillbörlighet, olika behandling som definieras i termer av felaktig klassificering.
Fairness Beyond Disparate Treatment&Disparate Impact: Learning Classification without Disparate Mistreatment
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}