Modeller som tillämpas på realtid respons uppgift, som klick-genom-hastighet (CTR) förutsägelse modell, kräver hög noggrannhet och rigorös svarstid. Därför är topppresterande djupa modeller av hög djup och komplexitet inte väl lämpade för dessa applikationer med begränsningar på inferencetiden. För att få neurala nätverk av bättre prestanda med tanke på tidsbegränsningarna föreslår vi ett enhetligt ramverk som utnyttjar ett boosternät för att hjälpa till att träna det lätta nätet för förutsägelse. Vi dubbar hela processen raket uppskjutning, där boosternätet används för att vägleda lärandet av vårt ljusnät under hela utbildningsprocessen. Vi analyserar olika förlustfunktioner som syftar till att driva ljuset nätet att bete sig på samma sätt som booster nätet, och anta förlusten med bästa prestanda i våra experiment. Vi använder en teknik som kallas lutning block för att förbättra prestandan hos ljust nät och boosternät ytterligare. Experiment på referensdatauppsättningar och verkliga industriella reklamdata visar effektiviteten i vår föreslagna metod.
I stället för att överföra en förskolad lärare till en elev, Zhou et al. föreslå en enhetlig ram som utnyttjar ett boosternät för att hjälpa träna det lätta nätet för inference REF.
Rocket Launching: A Universal and Efficient Framework for Training Well-performing Light Net
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}