Nyligen, Weisfeiler-Lehman (WL) graf isomorfism test användes för att mäta den uttryckskraft av graf neurala nätverk (GNN). Det visades att det populära budskapet som passerar GNN inte kan skilja mellan grafer som är oskiljaktiga genom 1-WL test Xu et al., 2019). Tyvärr är många enkla fall av grafer oskiljaktiga genom 1-WL-testet. I en sökning efter mer uttrycksfulla graf lärande modeller bygger vi på den senaste k-order invariant och equivariant graf neurala nätverk (Maron et al., 2019a,b) och presentera två resultat: För det första visar vi att sådana k-order nätverk kan skilja mellan icke-isomorphic grafer så bra som k-WL tester, som är bevisligen starkare än 1-WL testet för k > 2. Detta gör dessa modeller strikt starkare än meddelandepasserande modeller. Tyvärr kommer den högre uttrycksfullheten hos dessa modeller med en beräkningskostnad för bearbetning av högorder tensorer. För det andra, att sätta vårt mål att bygga en påvisbart starkare, enkel och skalbar modell visar vi att ett reducerat 2-ordernätverk med just skalad identitetsoperatör, förstärkt med en enda kvadratisk operation (matris multiplikation) har en påvisbar 3-WL expressiv kraft. Olika uttryckt, föreslår vi en enkel modell som interleaves tillämpningar av standard Multilayer-Perceptron (MLP) tillämpas på funktionen dimension och matris multiplikation. Vi validerar denna modell genom att presentera toppmoderna resultat på populär grafklassificering och regressionsuppgifter. Såvitt vi vet är detta den första praktiska invariant/equivariantmodellen med garanterad 3-WL expressivitet, strikt starkare än meddelandepasserande modeller.
I Ref föreslogs en andra ordningens tensor GNN-modell som har samma effekt som tredje ordningens WL-test.
Provably Powerful Graph Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}