Trots de imponerande förbättringar som uppnås av oövervakade djupa neurala nätverk i datorseende och NLP uppgifter, har sådana förbättringar ännu inte observerats i rangordning för informationshämtning. Orsaken kan vara rankningsproblemets komplexitet, eftersom det inte är uppenbart hur man lär sig av frågor och dokument när ingen övervakad signal finns tillgänglig. Därför föreslår vi i detta dokument att man utbildar en neural rankningsmodell med hjälp av svag övervakning, där etiketter erhålls automatiskt utan annoterare eller externa resurser (t.ex. klickdata). I detta syfte använder vi resultatet av en oövervakad rankningsmodell, såsom BM25, som en svag övervakningssignal. Vi tränar vidare en uppsättning enkla men effektiva rankningsmodeller baserade på feed-forward neurala nätverk. Vi studerar deras eektivitet under olika inlärningsscenarier (punktvisa och parvisa modeller) och med hjälp av olika indata representationer (dvs. från kodning av frågedokument par till täta / sparse vektorer till att använda ord inbäddning representation). Vi utbildar våra nätverk med hjälp av tiotals miljoner utbildningsinstanser och utvärderar det på två standardsamlingar: en homogen nyhetssamling (Robust) och en heterogen storskalig webbsamling (ClueWeb). Våra experiment visar att genom att använda lämpliga objektiva funktioner och låta nätverken lära sig input representation baserad på svagt övervakade data leder till imponerande prestanda, med över 13% och 35% MAP förbättringar jämfört med BM25 modellen på Robust och ClueWeb samlingar. Våra Ndings föreslår också att övervakade neurala ranking modeller kan mycket benet t från förträning på stora mängder svagt märkta data som lätt kan erhållas från oövervakade IR-modeller.
De oövervakade hämtningspoängen, t.ex. från BM25, har använts som relevansetiketter för att träna neurala rankingmodeller REF.
Neural Ranking Models with Weak Supervision
{'venue': "SIGIR '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}