Att kombinera abstrakt, symboliskt resonemang med kontinuerligt neuralt resonemang är en stor utmaning när det gäller att lära sig representation. Som ett steg i denna riktning föreslår vi en ny arkitektur, kallad neurala ekvivalensnät, för problemet med att lära sig kontinuerliga semantiska representationer av algebraiska och logiska uttryck. Dessa nätverk är utbildade för att representera semantisk ekvivalens, även av uttryck som är syntaktiskt mycket olika. Utmaningen är att semantiska representationer måste beräknas på ett syntaxstyrt sätt, eftersom semantik är kompositionella, men samtidigt kan små förändringar i syntax leda till mycket stora förändringar i semantik, vilket kan vara svårt för kontinuerliga neurala arkitekturer. Vi utför en uttömmande utvärdering av uppgiften att kontrollera likvärdighet på en mycket varierande klass av symboliska algebraiska och booleska uttrycksformer, vilket visar att vår modell avsevärt överträffar befintliga arkitekturer.
I REF lär man sig kontinuerliga semantiska representationer av symboliska uttryck med hjälp av trädbaserad NN som representerar logiska relationer.
Learning Continuous Semantic Representations of Symbolic Expressions
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}