Många prediktiva uppgifter för webbapplikationer måste modellera kategoriska variabler, såsom användar-ID och demografi som kön och yrken. För att tillämpa standard maskininlärning tekniker, dessa kategoriska prediktorer alltid omvandlas till en uppsättning binära funktioner via enhot kodning, vilket gör den resulterande funktionen vektor mycket gles. För att dra lärdom av sådana glesa data är det viktigt att ta hänsyn till samspelet mellan olika funktioner. Faktoriseringsmaskiner (FM) är en populär lösning för att effektivt använda andra ordningens funktionsinteraktioner. FM-modeller har dock interaktioner på ett linjärt sätt, vilket kan vara otillräckligt för att fånga den icke-linjära och komplexa inbyggda strukturen hos verkliga data. Medan djupa neurala nätverk nyligen har tillämpats för att lära sig icke-linjära funktionsinteraktioner i industrin, såsom Wide & Deep av Google och DeepCross av Microso, den djupa strukturen under tiden gör dem till kult att träna. I detta dokument föreslår vi en ny modell Neural Factorization Machine (NFM) för förutsägelse under sparse sets. NFM kombinerar sömlöst linjäriteten hos FM i modellering av interaktion med andra ordningens funktioner och icke-linjäriteten hos neurala nätverk i modellering av interaktion med högre ordning. Konceptuellt är NFM mer uttrycksfullt än FM eftersom FM kan ses som ett specialfall av NFM utan dolda lager. Empiriska resultat på två regressionsaktiviteter visar att NFM med endast ett dolt lager avsevärt överträffar FM med en relativ förbättring på 7,3%. Jämfört med de senaste djupinlärningsmetoderna Wide&Deep och DeepCross använder vår NFM en ytligare struktur, men den är mycket lättare att träna och tona i praktiken.
Neural Factorization Machine REF kombinerar linjäriteten av FM och icke-linjäriteten av neurala nätverk.
Neural Factorization Machines for Sparse Predictive Analytics
{'venue': "SIGIR '17", 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}