Abstrakt. Snabb ökning av data inom olika områden har resulterat i breda tillämpningar av maskininlärning (ML) baserade intelligenta system i prediktiva beslutsfattande scenarier. Tyvärr ser dessa system ut som en "svart låda" för användare på grund av deras komplexa arbetsmekanismer och därför avsevärt påverka användarens förtroende för människa-maskin interaktioner. Detta beror delvis på den nära kopplade osäkerheten i ML-modellerna som ligger till grund för de prediktiva rekommendationerna om beslutsfattande. När sådana analysdrivna intelligenta system används inom moderna komplexa högriskområden (t.ex. luftfart) påverkas användares beslut, förutom förtroende, också av högre nivåer av kognitiv belastning. I detta dokument undersöks effekterna av osäkerhet och kognitiv belastning på användarnas förtroende för prediktivt beslutsfattande för att utforma effektiva användargränssnitt för sådana ML-baserade intelligenta system. Vår användarstudie av 42 försökspersoner i ett upprepat faktoriellt designexperiment visade att både osäkerhetstyper (risk och tvetydighet) och kognitiv arbetsbelastning påverkade användarnas förtroende för prediktivt beslutsfattande. Osäkerhetspresentation leder till ökat förtroende men endast under låga kognitiva belastningsförhållanden när användarna hade tillräckliga kognitiva resurser för att bearbeta informationen. Presentation av osäkerhet under hög belastning (när kognitiva resurser saknades) leder till minskat förtroende för systemet och dess rekommendationer.
Tidigare arbete REF undersökte faktorer som påverkar användarsystemets tillit, t.ex. modellosäkerhet och kognitiv belastning.
Effects of Uncertainty and Cognitive Load on User Trust in Predictive Decision Making
{'venue': 'INTERACT', 'journal': None, 'mag_field_of_study': ['Computer Science']}