Prediktiva modeller är allestädes närvarande i automatiserade och assisterade beslutsscenarier. Men för det mesta används de som svarta lådor som ger ut en förutsägelse utan att helt eller delvis förstå hur olika funktioner i modellen förutsägelse undvika algoritmisk transparens. Rankings beställer över objekt som kodar implicita jämförelser vanligtvis lärt sig med hjälp av en familj av funktioner med lärande-till-rank modeller. I detta dokument fokuserar vi på hur vi bäst kan förstå de beslut som fattas av en rankare på ett post-hoc modell agnostiskt sätt. Vi arbetar på begreppet tolkningsbarhet baserat på förklaringsbarheten av rankningar över ett tolkningsbart funktionsutrymme. Dessutom utbildar vi en trädbaserad modell (inre tolkningsbar) med hjälp av etiketter från rangern, kallad sekundärutbildningsdata för att ge förklaringar. Följaktligen är vi en empt att studera hur väl en delmängd av funktioner, potentiellt tolkningsbara, förklarar den fullständiga modellen under olika träningsstorlekar och algoritmer. Vi gör experiment på inlärningen för att ranka dataset med 30k frågor och rapportera resultat som tjänar visa i vissa miljöer kan vi lära oss en trogen tolkningsbar rankning.
Närmast till vårt arbete är det senaste arbetet av Singh och Anand REF som försökte approxima en redan utbildad inlärning för att rangordna modellen efter en delmängd av (de ursprungliga funktionerna) tolkningsbara funktioner med hjälp av sekundär utbildning data från utgången av den ursprungliga modellen.
Posthoc Interpretability of Learning to Rank Models using Secondary Training Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}