Diagram neurala nätverk aggregera funktioner i vertex kvarter för att lära vektor representationer av alla hörn, med hjälp av övervakning från vissa märkta hörn under utbildning. Prediktorn är då en funktion av vektor representation, en förutsägelser görs oberoende på omärkta noder. Denna allmänt antagna strategi förutsätter implicit att vertex etiketter är oberoende efter konditionering i sina stadsdelar. Vi visar att detta starka antagande är långt ifrån sant på många verkliga grafdatauppsättningar och starkt begränsar prediktiv kraft på ett antal regressionsuppgifter. Med tanke på att traditionella grafbaserade halvövervakade inlärningsmetoder fungerar på motsatt sätt genom att explicit modellera korrelationen i förutsedda resultat, kanske denna begränsning inte är så förvånande. Här behandlar vi denna fråga med en enkel och tolkningsbar ram som kan förbättra någon graf neural nätverk arkitektur genom att modellera korrelation struktur i regression resultat rest. Specifikt modellerar vi den gemensamma fördelningen av utfallsrester på hörn med en parameteriserad multivariat Gaussian, där parametrarna uppskattas genom att maximera den marginella sannolikheten för de observerade etiketterna. Vår modell uppnår avsevärt ökar prestandan hos graf neurala nätverk, och de inlärda parametrar kan också tolkas som styrkan i korrelation mellan anslutna hörn. För att vi ska kunna skala till stora nätverk, designar vi linjära tidsalgoritmer för lågvariabla, opartiska modellparameteruppskattningar baserade på stokastisk spåruppskattning. Vi tillhandahåller också en förenklad version av vår metod som gör starkare antaganden om korrelationsstruktur men är extremt lätt att implementera och ger bra praktisk prestanda i flera fall.
Parallellt med vårt arbete, Ref anser regressions uppgifter genom att modellera den gemensamma GNN rest av ett mål som (y − på) som en multivariat Gaussian, definiera förlustfunktionen som marginal sannolikhet endast över märkta noder.
Outcome Correlation in Graph Neural Network Regression
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}