Idag, det dominerande paradigmet för utbildning neurala nätverk innebär att minimera uppgiftsförlust på en stor datauppsättning. Att använda världskunskap för att informera en modell och ändå behålla förmågan att utföra end-to-end-utbildning är fortfarande en öppen fråga. I detta dokument presenterar vi en ny ram för att introducera deklarativ kunskap till neurala nätverksarkitekturer för att vägleda utbildning och förutsägelser. Vårt ramverk sammanställer systematiskt logiska uttalanden till beräkningsgrafer som förstärker ett neuralt nätverk utan extra inlärbara parametrar eller manuell omdesign. Vi utvärderar vår modelleringsstrategi på tre uppgifter: maskinförståelse, naturlig språkuppfattning och textuppskärning. Våra experiment visar att kunskapsbaserade nätverk kan förbättras kraftigt jämfört med baslinjerna, särskilt när det gäller system med låga datamängder.
REF presenterade ett ramverk för att omvandla deklarativ knowlegde till första ordningen logik som förbättrar neurala nätverk utbildning och förutsägelse.
Augmenting Neural Networks with First-order Logic
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}