Klassificeringsmodeller används ofta för att fatta beslut som påverkar människor: om man ska godkänna en låneansökan, förlänga ett jobberbjudande eller tillhandahålla försäkringar. I sådana tillämpningar bör enskilda personer ha möjlighet att ändra modellens beslut. När en person till exempel nekas ett lån genom en kreditvärderingsmodell bör han eller hon kunna ändra modellens insatsvariabler på ett sätt som garanterar godkännande. I annat fall kommer denna person att nekas lånet så länge modellen används, och ännu viktigare kommer att sakna myndighet över ett beslut som påverkar deras levebröd. I detta dokument föreslår vi att man granskar en linjär klassificeringsmodell när det gäller användning, som vi definierar som en persons förmåga att ändra modellens beslut genom indatavariabler (t.ex. inkomst kontra kön, ålder eller civilstånd). Vi presenterar ett heltal programmering verktygslåda för att: (i) mäta genomförbarheten och svårigheten att utnyttja i en målgrupp, och (ii) generera en lista över genomförbara förändringar för en individ för att få ett önskat resultat. Vi visar hur våra verktyg kan informera praktiker, beslutsfattare och konsumenter genom att granska kreditscoring-modeller som byggts med hjälp av verkliga dataset. Våra resultat illustrerar hur användningen kan påverkas väsentligt av gemensamma modelleringsmetoder och motiverar behovet av att garantera användningen som ett politiskt mål för reglering i algoritmiskt beslutsfattande.
Motiverad av mål som liknar kontrafaktiska förklaringar föreslår REF en revisionsåtgärd som kallas användning, definierad som en persons förmåga att få ett önskat resultat från en fast modell.
Actionable Recourse in Linear Classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}