Algoritmer används nu regelbundet för att avgöra om de svarande som väntar på rättegång är för farliga för att släppas tillbaka till samhället. I vissa fall är det betydligt mer sannolikt att svarta svarande än vita svarande felaktigt klassas som en hög risk. För att minska sådana skillnader har flera tekniker nyligen föreslagits för att uppnå algoritmisk rättvisa. Här omformulerar vi algoritmisk rättvisa som begränsad optimering: målet är att maximera allmänhetens säkerhet och samtidigt uppfylla formella krav på rättvisa som syftar till att minska rasskillnader. Vi visar att för flera tidigare bedömningar av rättvisa, de optimala algoritmer som resultatet kräver kvarhållande svarande över race-speci c risk trösklar. Vi visar vidare att den optimala okonstruerade algoritmen kräver att man tillämpar en enda, enhetlig tröskel för alla svarande. Obegränsad algoritm maximerar därmed allmänhetens säkerhet samtidigt som den tillfredsställer en viktig förståelse för jämlikhet: att alla individer hålls till samma standard, oavsett ras. Eftersom de optimala begränsade och oöverskådliga algoritmerna i allmänhet skiljer sig åt, finns det spänning mellan att förbättra allmänhetens säkerhet och att tillfredsställa rådande begrepp om algoritmisk rättvisa. Genom att undersöka data från Broward County, Florida, visar vi att denna trade-o kan vara stor i praktiken. Vi fokuserar på algoritmer för pretrial release beslut, men de principer vi diskuterar gäller för andra områden, och även för mänskliga beslutsfattare som genomför strukturerade beslutsregler. 1 Vi anser rasskillnader eftersom de har stått i centrum för många nyligen hållna debatter inom straffrätten, men samma logik gäller för en rad möjliga revben, inklusive kön.
Corbett-Davies m.fl. REF omformulerar algoritmisk rättvisa som begränsad optimering i samband med brottmål och beslut om frigivning före rättegång: målet är att maximera allmänhetens säkerhet och samtidigt uppfylla formella krav på rättvisa som syftar till att minska rasskillnader.
Algorithmic Decision Making and the Cost of Fairness
{'venue': "KDD '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}