Eftersom algoritmer i allt högre grad används för att fatta viktiga beslut som påverkar människors liv, allt från sociala förmåner till att förutsäga risken för kriminell recidivism, har farhågor väckts om att algoritmiskt beslutsfattande är rättvist. De flesta tidigare arbeten på algoritmisk rättvisa normativt föreskriva hur rättvisa beslut bör fattas. Däremot undersöker vi användare beskrivande för hur de uppfattar och resonerar om rättvisa i algoritmiskt beslutsfattande. Ett viktigt bidrag till detta arbete är den ram vi föreslår för att förstå varför människor uppfattar vissa egenskaper som rättvisa eller orättvisa att användas i algoritmer. Vårt ramverk identifierar åtta egenskaper hos funktioner, såsom relevans, viljestyrka och tillförlitlighet, som latenta överväganden som informerar människors moraliska bedömningar om rättvisa funktionsanvändning i beslutsfattande algoritmer. Vi validerar vårt ramverk genom en rad scenariobaserade enkäter med 576 personer. Vi finner att, baserat på en persons bedömning av de åtta latenta egenskaperna hos en egenskap i vårt exemplar scenario, kan vi exakt (> 85%) förutsäga om personen kommer att bedöma användningen av funktionen som rättvis. Våra resultat har viktiga konsekvenser. På en hög nivå visar vi att människors orättvisa farhågor är flerdimensionella och hävdar att framtida studier måste ta itu med orättvisa frågor bortom diskriminering. På en låg nivå finner vi avsevärda meningsskiljaktigheter i människors rättvisa domar. Vi identifierar grundorsakerna till meningsskiljaktigheterna och noterar möjliga vägar för att lösa dem.
REF studerar varför människor uppfattar användningen av vissa egenskaper som orättvis när de gör recidivistiska förutsägelser om tilltalade.
Human Perceptions of Fairness in Algorithmic Decision Making: A Case Study of Criminal Risk Prediction
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}