Graph Neural Networks (GNN) är ett kraftfullt verktyg för maskininlärning på grafer. GNNs kombinerar nodfunktionsinformation med grafstrukturen genom att använda neurala nätverk för att skicka meddelanden genom kanter i grafen. Att införliva både grafstruktur och funktionsinformation leder dock till komplexa icke-linjära modeller och att förklara förutsägelser gjorda av GNNs är fortfarande en utmanande uppgift. Här föreslår vi GnnExplaler, en allmän modellagnostisk metod för att ge tolkningsbara förklaringar för förutsägelser av någon GNN-baserad modell på någon grafbaserad maskininlärning uppgift (node och grafklassificering, länkförutsägelse). För att förklara en viss nodes förutsedda etikett ger GnnExplainer en lokal tolkning genom att lyfta fram relevanta egenskaper samt en viktig subgrafstruktur genom att identifiera de kanter som är mest relevanta för förutsägelsen. Dessutom ger modellen entydiga förklaringar när den ges en enda förutsägelse samt multi-intance förklaringar som syftar till att förklara förutsägelser för en hel klass av fall/noder. Vi formaliserar GnnExplaler som en optimeringsuppgift som maximerar den ömsesidiga informationen mellan förutsägelsen av den fullständiga modellen och förutsägelsen av förenklad förklararmodell. Vi experimenterar på syntetiska såväl som verkliga data. När det gäller syntetiska data visar vi att vår strategi kan belysa relevanta topologiska strukturer från bullriga grafer. Vi visar också GnnExplaner att ge en bättre förståelse av förtränade modeller på verkliga uppgifter. GnnExplaler ger en mängd olika fördelar, från identifiering av semantiskt relevanta strukturer för att förklara förutsägelser till att ge vägledning när felsökning graf neurala nätverk modeller.
Ref föreslog GNNExplaler för att förklara länkförutsägelse.
GNN Explainer: A Tool for Post-hoc Explanation of Graph Neural Networks.
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}