Den befintliga grafen neurala nätverk (GNNs) baserat på den spektral grafen convolutional operatör har kritiserats för dess prestandanedbrytning, vilket är särskilt vanligt för modellerna med djupa arkitekturer. I detta dokument identifierar vi ytterligare det uppskjutna animeringsproblemet med de befintliga GNN. Ett sådant problem uppstår när modellens djup når den suspenderade animeringsgränsen och modellen inte längre svarar på träningsdata och blir inte lärbar. Analys av orsakerna till det tillfälliga animeringsproblemet med befintliga GNN kommer att tillhandahållas i detta dokument, medan flera andra perifera faktorer som kommer att påverka problemet också kommer att rapporteras. För att lösa problemet introducerar vi ramverket GRESNET (Graph Residual Network) i detta dokument, som skapar i stor utsträckning anslutna motorvägar för att involvera nodernas råa funktioner eller mellanliggande representationer i grafen för alla modellskikt. Olika från de andra inlärningsinställningarna, de omfattande kopplingarna i grafdata kommer att göra att de befintliga enkla återstående inlärningsmetoder misslyckas att fungera. Vi bevisar effektiviteten i den införda nya grafen resttermer ur normbevarande perspektiv, vilket kommer att bidra till att undvika dramatiska förändringar i nodens representationer mellan sekventiella lager. Detaljerade studier om ramverket GRESNET för många befintliga GNN, inklusive GCN, GAT och LOOPYNET, kommer att rapporteras i tidningen med omfattande empiriska experiment på verkliga riktmärkesdata.
En teoretisk analys av orsakerna till ett sådant problem ges också i REF, som också introducerar grafen restinlärning som den potentiella lösningen.
GResNet: Graph Residual Network for Reviving Deep GNNs from Suspended Animation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}