Förutsägbara modeller används i allt högre grad för att fastställa tillgången till tjänster som kredit, försäkring och sysselsättning. Trots potentiella produktivitets- och effektivitetsvinster har flera potentiella problem ännu inte lösts, särskilt risken för oavsiktlig diskriminering. Vi presenterar en iterativ procedur, baserad på ortogonal projektion av indata attribut, för att möjliggöra tolkning av svart-box prediktiva modeller. Genom vårt iterativa förfarande kan man kvantifiera det relativa beroendet av en svart lådasmodell på dess indataattribut.Den relativa betydelsen av indata till en prediktiv modell kan sedan användas för att bedöma rättvisa (eller diskriminerande omfattning) av en sådan modell.
Adebayo och Kagal föreslår en metod baserad på ortogonal projektion av funktioner för att diagnostisera fördomar i en svart låda prediktiv modell REF.
Iterative Orthogonal Feature Projection for Diagnosing Bias in Black-Box Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}