Vad innebär det för en algoritm att vara partisk? I amerikansk lag kodas oavsiktliga fördomar via olika effekter, vilket inträffar när en urvalsprocess har vitt skilda resultat för olika grupper, även om den verkar vara neutral. Denna rättsliga bestämning beror på en definition av en skyddad klass (etnicitet, kön) och en uttrycklig beskrivning av processen. När datorer är inblandade är det svårare att fastställa olika effekter (och därmed fördomar). Det kanske inte är möjligt att avslöja processen. Dessutom, även om processen är öppen, kan det vara svårt att förklara i en rättslig miljö hur algoritmen fattar sina beslut. I stället för att kräva tillgång till processen föreslår vi att man gör slutsatser baserade på de data som används. Vi presenterar fyra bidrag. För det första kopplar vi samman olika effekter med ett mått på klassificeringsnoggrannhet som, även om den är känd, har fått relativt lite uppmärksamhet. För det andra föreslår vi ett test för olika effekter baserat på hur väl den skyddade klassen kan förutses från de andra attributen. För det tredje beskriver vi metoder med vilka data kan göras opartiska. Slutligen lägger vi fram empiriska bevis som stöder effektiviteten i vårt test för olika effekter och vår strategi för att både dölja partiskhet och bevara relevant information i data. Intressant nog liknar vårt tillvägagångssätt vissa faktiska urvalsmetoder som nyligen har blivit föremål för rättslig granskning.
I REF föreslår författarna en metod för att certifiera olika effekter baserat på förutsägbarheten hos de skyddade attributen från icke-skyddade attribut.
Certifying and Removing Disparate Impact
{'venue': "KDD '15", 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}