Allestädes närvarande system som använder artificiell intelligens eller "AI" har ökat uppmärksamheten på hur dessa system bör regleras. Valet av hur man reglerar AI-system kommer att kräva vård. AI-system har potential att syntetisera stora mängder data, vilket möjliggör större nivåer av personalisering och precision än någonsin tidigare-ansökningar sträcker sig från kliniskt beslutsstöd till autonom körning och prediktivt polisarbete. Som sagt, våra AIs fortsätter att släpa i sunt förnuft resonemang [McCarthy, 1960], och därmed finns det legitima farhågor om avsiktliga och oavsiktliga negativa konsekvenser av AI-system [Bostrom, 2003, Amodei et al., 2016, Sculley et al., 2014. Hur kan vi dra nytta av vad AI-system har att erbjuda, samtidigt hålla dem ansvariga? I detta arbete fokuserar vi på ett verktyg: förklaring. Frågor om en laglig rätt till förklaring från AI-system diskuterades nyligen i EU:s dataskyddsförordning [Goodman and Flaxman, 2016, Wachter et al., 2017a], och därmed tänka noga på när och hur förklaring från AI-system kan förbättra ansvarighet är lägligt. Bra val om när man ska begära förklaring kan bidra till att förhindra negativa konsekvenser från AI-system, medan dåliga val kanske inte bara misslyckas med att hålla AI-system ansvariga men också hindra utvecklingen av välbehövliga välgörande AI-system. Nedan går vi kort igenom aktuella samhälleliga, moraliska och rättsliga normer kring förklaringar, och fokuserar sedan på de olika sammanhang under vilka det för närvarande krävs en förklaring enligt lagen. Vi finner att det finns stora variationer runt när förklaring krävs, men det finns också viktiga konsistenser: när kräva förklaring från människor, vad vi vanligtvis vill veta är om och hur vissa indata faktorer påverkade det slutliga beslutet eller resultatet. Dessa sammansättningar gör att vi kan lista de tekniska överväganden som måste beaktas om vi önskade AI-system som kan ge typer av förklaringar som för närvarande krävs av människor enligt lagen. Tvärtemot populär visdom av AI-system som obeskrivliga svarta lådor, vi finner att denna nivå av förklaring bör i allmänhet vara tekniskt möjligt men kan ibland vara praktiskt betungande-det finns vissa aspekter av förklaring som kan vara enkelt för människor att ge men utmanande för AI-system, och vice versa. Som ett tvärvetenskapligt team av juridiska forskare, datavetare och kognitiva forskare, rekommenderar vi att AI-system för närvarande kan och bör hållas till en liknande standard av förklaring som människor för närvarande är; i framtiden kan vi vilja hålla en AI till en annan standard.
Doshi-Velez m.fl. REF diskuterar samhälleliga, moraliska och juridiska förväntningar på AI förklaringar, ger riktlinjer för innehållet i en förklaring, och rekommenderar att förklaringar av AI-system hålls till en liknande standard som människor.
Accountability of AI Under the Law: The Role of Explanation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}