Sekventiell dynamik är ett viktigt inslag i många moderna recommender-system, som försöker fånga "kontext" av användarnas aktiviteter på grundval av åtgärder som de har utfört nyligen. För att fånga upp sådana mönster har två tillvägagångssätt förökat sig: Markov Chains (MC) och Recurrent Neural Networks (RNN). Markov Chains antar att en användares nästa åtgärd kan förutses på grundval av bara deras sista (eller sista) åtgärder, medan RNNs i princip gör det möjligt att avslöja mer långsiktiga semantik. Generellt sett presterar MC-baserade metoder bäst i extremt glesa dataset, där modellparsimonin är avgörande, medan RNN:er presterar bättre i tätare dataset där högre modellkomplexitet är överkomligt. Målet med vårt arbete är att balansera dessa två mål genom att föreslå en självuppmärksamhetsbaserad sekventiell modell (SASRec) som gör att vi kan fånga långtidssemantik (som en RNN), men med hjälp av en uppmärksamhetsmekanism gör sina förutsägelser baserade på relativt få åtgärder (som en MC). Vid varje tillfälle försöker SASRec identifiera vilka objekt som är'relevanta' från en användares actionhistorik och använda dem för att förutsäga nästa objekt. Omfattande empiriska studier visar att vår metod överträffar olika toppmoderna sekventiella modeller (inklusive MC/CNN/RNN-baserade metoder) på både glesa och täta datauppsättningar. Modellen är dessutom en storleksordning som är effektivare än jämförbara CNN/RNN-baserade modeller. Visualiseringar på uppmärksamhetsvikter visar också hur vår modell adaptivt hanterar dataset med olika densitet, och avslöjar meningsfulla mönster i aktivitetssekvenser.
Baserat på den enkla och parallelliserade själv-attention mekanism, Kang et al. I Ref föreslogs en sekventiell modell baserad på egenhändighet, som överträffar MC/RNN/RNN-baserade sekventiella rekommendationsmetoder.
Self-Attentive Sequential Recommendation
{'venue': '2018 IEEE International Conference on Data Mining (ICDM)', 'journal': '2018 IEEE International Conference on Data Mining (ICDM)', 'mag_field_of_study': ['Computer Science']}