Rättvisa är ett kritiskt drag i beslutsfattandet. I takt med att modeller för maskininlärning i allt högre grad används inom känsliga tillämpningsområden (t.ex. Utbildning och sysselsättning) för beslutsfattande är det av avgörande betydelse att de beslut som tas av sådana modeller är fria från oavsiktlig partiskhet. Men hur kan vi automatiskt bekräfta att godtyckliga maskininlärningsmodeller är rättvisa? För en viss maskininlärningsmodell och en uppsättning känsliga indataparametrar upptäcker vår Aeqitas-strategi automatiskt diskriminerande indata som belyser rättvisebrott. Kärnan i Aeqitas är tre nya strategier för att använda probabilistisk sökning över inmatningsutrymmet med målet att avslöja rättviseöverträdelse. Vår Aeqitas-strategi utnyttjar inneboende robusthet i vanliga maskininlärningsmodeller för att utforma och implementera skalbara testgenereringsmetoder. Ett tilltalande inslag i våra genererade testingångar är att de systematiskt kan läggas till den underliggande modellens utbildningsuppsättning och förbättra dess rättvisa. Därför utformar vi en helautomatisk modul som garanterar att modellen blir rättvisare. Vi implementerade Aeqitas och vi har utvärderat det på sex toppmoderna klassiatorer. Våra ämnen inkluderar också en klassificering som utformades med rättvisa i åtanke. Vi visar att Aeqitas effektivt genererar indata för att avslöja rättvisebrott i alla ämnesklassificeringar och systematiskt förbättrar rättvisa för respektive modeller med hjälp av de genererade indata. I vår utvärdering genererar Aeqitas upp till 70 % diskriminerande insatser (w.r.t. Det totala antalet insatser som genereras) och utnyttjar dessa insatser för att öka rättvisan upp till 94 %. • Programvara och dess konstruktion → Testning och felsökning av programvara;
AEQUITAS REF syftar till att avslöja brott mot rättvisan i maskininlärningsmodeller.
Automated Directed Fairness Testing
{'venue': 'Automated Directed Fairness Testing. In Proceedings of the 2018 33rd ACM/IEEE International Conference on Automated Software Engineering (ASE 18), September 3-7, 2018, Montpellier, France', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}