Faktoriseringsmaskiner (FMs) är en övervakad inlärningsmetod som förbättrar den linjära regressionsmodellen genom att införliva den andra ordningens funktionsinteraktioner. Trots effektivitet kan FM hindras av dess modellering av alla funktionsinteraktioner med samma vikt, eftersom inte alla funktionsinteraktioner är lika användbara och prediktiva. Till exempel, interaktioner med värdelösa funktioner kan även införa ljud och negativt försämra prestanda. I detta arbete förbättrar vi FM genom att särskilja betydelsen av olika funktionsinteraktioner. Vi föreslår en ny modell som heter Attentional Factorization Machine (AFM), som lär sig vikten av varje funktion interaktion från data via ett neuralt uppmärksamhetsnätverk. Omfattande experiment på två verkliga datauppsättningar visar effektiviteten i AFM. Empiriskt, Det visas på regressionsuppgift AFM bättre FM med en 8,6% relativ förbättring, och konsekvent överträffar state-of-the-art djupe learning methods Wide & Deep [Cheng et al., 2016] och DeepCross [Shan et al., 2016] med en mycket enklare struktur och färre modellparametrar. Vårt genomförande av AFM är offentligt tillgängligt på https://github. kom/hexiangnan/attentionell faktoriseringsmaskin
Dessutom har uppmärksamhet Factorization Machines REF föreslagits som använder ett uppmärksamhetsnätverk för att lära sig vikten av funktionsinteraktioner.
Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}