Maskininlärningsmodeller används i stor utsträckning i beslutsfattandet, särskilt för förutsägelseuppgifter. Dessa modeller kan vara partiska eller orättvisa mot en viss känslig grupp av antingen en viss ras, ett visst kön eller en viss ålder. Forskarna har satsat på att karakterisera en särskild definition av rättvisa och se till att de tillämpas i modellerna. I detta arbete har vi främst att göra med följande tre definitioner, Diversparate Impact, Demographic Parity och Equalized Odds. Forskare har visat att Equalized Odds inte kan tillfredsställas i kalibrerade klassificerare om inte klassifieraren är perfekt. Därför är den främsta utmaningen att garantera en viss grad av rättvisa och samtidigt garantera så mycket noggrannhet som möjligt. Rättvisa begränsningar är komplexa och behöver inte vara konvexa. Att införliva dem i en algoritm för maskininlärning är en stor utmaning. Därför har många forskare försökt komma på en surrogatförlust som är konvex för att bygga rättvisa klassificeringar. Dessutom försöker vissa papper att bygga rättvisa representationer genom att förbehandla uppgifterna, oavsett vilken klassificering som används. Sådana metoder, kräver inte bara en hel del orealistiska antaganden utan kräver också mänskliga konstruerade analytiska lösningar för att bygga en maskininlärning modell. Vi föreslår istället en automatiserad lösning som är allmängiltig över alla krav på rättvisa. Vi använder ett neuralt nätverk som är utbildad på partier och direkt upprätthåller rättvisebegränsning som förlustfunktionen utan att ändra den ytterligare. Vi har också experimenterat med andra komplexa prestandamått som H-medelförlust, Q-medelförlust, F-mått, utan behov av surrogatförlustfunktioner. Våra experiment visar att nätverket uppnår liknande prestanda som toppmodernt. Således kan man bara plug-in lämplig förlustfunktion som per nödvändig rättvisebegränsning och prestandamått på klassifieraren och träna ett neuralt nätverk för att uppnå det.
Alternativt, i REF rättvisa problem hanteras genom att införliva rättvisa begränsningar uttryckligen i optimeringen av det neurala nätverket under utbildningen.
A Neural Network Framework for Fair Classifier
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}