Många modeller för grundad språkförståelse har nyligen föreslagits, bland annat (i) generiska modeller som enkelt kan anpassas till varje given uppgift med liten anpassning och (ii) intuitivt tilltalande modulära modeller som kräver bakgrundskunskap för att kunna omedelbart. Vi jämför båda typerna av modeller i hur mycket de lånar sig till en viss form av systematisk generalisering. Med hjälp av ett syntetiskt VQA-test utvärderar vi vilka modeller som kan resonera om alla möjliga objektpar efter träning på endast en liten delmängd av dem. Våra resultat visar att generaliseringen av modulmodeller är mycket mer systematisk och att den är mycket känslig för modulens layout, d.v.s. till hur exakt modulerna är anslutna. Vi undersöker vidare om modulmodeller som generaliserar väl kan göras mer end-to-end genom att lära sig deras layout och parametrisering. Vi finner att end-to-end metoder från tidigare arbete ofta lära sig en fel layout och en falsk parametrization som inte underlättar systematisk generalisering. Våra resultat tyder på att, förutom modularitet, systematisk generalisering i språkförståelse kan kräva explicita regularizers eller tidigare.
REF introducerar en syntetisk visuell fråga svar dataset kallas SQOOP, som används för att testa om en elev kan svara på frågor om alla möjliga objekt par efter att ha utbildats på en delmängd.
Systematic Generalization: What Is Required and Can It Be Learned?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}