Rättvisa är en allt viktigare fråga eftersom modeller för maskininlärning används för att stödja beslutsfattande i tillämpningar med stora insatser som hypotekslån, uthyrning och fängelsestraff. Detta dokument introducerar en ny öppen källkod Python verktygslåda för algoritmisk rättvisa, AI Fairness 360 (AIF360), släpptes under en Apache v2.0 licens (https://github.com/ibm/aif360). Huvudsyftet med denna verktygslåda är att underlätta övergången av rättvisa forskningsalgoritmer att använda i en industriell miljö och att tillhandahålla en gemensam ram för rättvisa forskare att dela och utvärdera algoritmer. Paketet innehåller en omfattande uppsättning rättvisa mätvärden för datauppsättningar och modeller, förklaringar till dessa mätvärden och algoritmer för att mildra fördomar i datauppsättningar och modeller. Den innehåller också en interaktiv webbupplevelse (https://aif360.mybluemix.net) som ger en mild introduktion till begreppen och möjligheterna för företagaranvändare, samt omfattande dokumentation, användarvägledning och branschspecifika handledningar för att göra det möjligt för datavetare och praktiker att införliva det lämpligaste verktyget för sina problem i sina arbetsprodukter. Paketets arkitektur har utformats för att överensstämma med ett standardparadigm som används inom datavetenskap och därigenom ytterligare förbättra användbarheten för utövare. Sådana arkitektoniska konstruktioner och abstraktioner gör det möjligt för forskare och utvecklare att utöka verktygslådan med sina nya algoritmer och förbättringar, och att använda den för prestationsbenchmarking. En inbyggd testinfrastruktur upprätthåller kodkvalitet.
När maskininlärning blir mer allmänt används för beslutsfattande i statliga och finansiella system, så rättvisa blir en större oro och Bellamy et al. har utvecklat en öppen källkodsram för att underlätta övergången av rättvisa algoritmer till industriella användningsområden REF.
AI Fairness 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}