Abstrakt. Förutsäga användarnas svar, såsom klick-genom-hastighet och konverteringshastighet, är avgörande i många webbapplikationer, inklusive webbsökning, personlig rekommendation, och online-reklam. Olika från kontinuerliga råa funktioner som vi brukar hitta i bilden och ljuddomäner, indatafunktioner i webbutrymme är alltid av multi-field och är mestadels diskret och kategorisk medan deras beroenden är föga kända. Större modeller för användarens svarsförutsägelse måste antingen begränsa sig till linjära modeller eller kräva manuell uppbyggnad av kombinationsfunktioner med hög order. Den förra förlorar förmågan att utforska funktionsinteraktioner, medan den senare resulterar i en tung beräkning i det stora funktionsutrymmet. För att ta itu med problemet föreslår vi två nya modeller med hjälp av djupa neurala nätverk (DNN) för att automatiskt lära sig effektiva mönster från kategoriska funktionsinteraktioner och göra förutsägelser om användarnas annonsklick. För att få våra DNNs att fungera effektivt föreslår vi att utnyttja tre funktionsomvandlingsmetoder, dvs. faktoriseringsmaskiner (FM), begränsade Boltzmann maskiner (RBM) och denoiserande auto-encoders (DAEs). I detta dokument presenteras strukturen på våra modeller och deras effektiva träningsalgoritmer. De storskaliga experimenten med verkliga data visar att våra metoder fungerar bättre än de stora toppmoderna modellerna.
Olika funktionsomvandlingsmetoder som ger täta funktioner har undersökts i samband med djupa neurala nätverk vilket resulterar i förbättring över stora state-of-the-art modeller REF.
Deep Learning over Multi-field Categorical Data: A Case Study on User Response Prediction
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}