Vi introducerar neurala nätverk för end-to-end differentiable teorem visar att fungerar på täta vektor representationer av symboler. Dessa neurala nätverk är konstruerade rekursivt genom att ta inspiration från bakåt kedja algoritm som används i Prolog. Specifikt ersätter vi symbolisk förening med en differentierad beräkning av vektor representationer av symboler med hjälp av en radiell bas funktion kärna, vilket kombinerar symboliskt resonemang med lärande subsymboliska vektor representationer. Genom att använda lutning nedstigning, det resulterande neurala nätverket kan tränas att härleda fakta från en given ofullständig kunskapsbas. Den lär sig att (i) placera representationer av liknande symboler i närheten i ett vektorutrymme, (ii) använda sådana likheter för att bevisa fakta, (iii) framkalla logiska regler, och (iv) använda tillhandahålls och inducerade logiska regler för komplexa multi-hop resonemang. Vi visar att denna arkitektur överträffar ComplEx, en state-of-the-art neural link förutsägelse modell, på fyra referens kunskapsbaser och samtidigt framkallar tolkningsbara funktionsfria första-order logik regler.
Genom att dela med sig av en liknande anda introducerar REF ett system för end-to-end-differentiable logikbevisning för kunskapsbas (KB-resonemang).
End-to-end Differentiable Proving
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}