Abstract-I en värld där traditionella uppfattningar om integritet alltmer utmanas av de myriader företag som samlar in och analyserar våra data, är det viktigt att beslutsfattande enheter hålls ansvariga för orättvisa behandlingar som härrör från oansvarig dataanvändning. Tyvärr innebär bristen på lämpliga metoder och verktyg att det i praktiken kan vara svårt att identifiera orättvisa eller diskriminerande effekter. Vi inför den omotiverade ramen (UA), en principiell metod för upptäckt av orättvis, diskriminerande eller kränkande användarbehandling i datadrivna tillämpningar. UA-ramverket förenar och rationaliserar ett antal tidigare försök att formalisera algoritmisk rättvisa. Det kombinerar unikt flera undersökande primitiver och rättvisa mätmetoder med bred tillämplighet, granular utforskning av orättvis behandling i användarundergrupper, och införlivandet av naturliga begrepp av nytta som kan förklara observerade skillnader. Vi omedelbart UA-ramverket i FairTest, det första omfattande verktyget som hjälper utvecklare att kontrollera datadrivna program för orättvis användarbehandling. Det möjliggör skalbara och statistiskt rigorösa undersökningar av samband mellan tillämpningsresultat (t.ex. priser eller premier) och känsliga användarattribut (t.ex. ras eller kön). Dessutom tillhandahåller FairTest felsökningskapacitet som låter programmerare utesluta potentiella missöden för observerade orättvisa effekter. Vi rapporterar om användning av FairTest för att undersöka och i vissa fall ta upp olika effekter, stötande märkning och ojämna frekvenser av algoritmiska fel i fyra datadrivna applikationer. Som exempel, våra resultat avslöjar subtila fördomar mot äldre befolkningar i fördelningen av fel i en prediktiv hälsa ansökan och offensiv ras märkning i en bild tagger.
Andra relevanta insatser är FairTest Ref, en metod och en ram för att identifiera "omotiverade sammanslutningar" som kan motsvara orättvis, diskriminerande eller kränkande användarbehandling i datadrivna tillämpningar.
FairTest: Discovering Unwarranted Associations in Data-Driven Applications
{'venue': '2017 IEEE European Symposium on Security and Privacy (EuroS&P)', 'journal': '2017 IEEE European Symposium on Security and Privacy (EuroS&P)', 'mag_field_of_study': ['Computer Science']}