En vanlig modell för frågesvar (QA) är att ett bra svar är ett som är nära relaterat till frågan, där relationen ofta bestäms med hjälp av allmänna lexiska modeller såsom ordinslag. Vi hävdar att ett bättre tillvägagångssätt är att söka svar som är relaterade till frågan på ett relevant sätt, beroende på informationsbehovet av frågan, som kan avgöras genom uppgiftsspecifika inbäddningar. Med kausalitet som användningsfall implementerar vi denna insikt i tre steg. För det första skapar vi kausala inbäddningar kostnadseffektivt genom att bootstrappa orsak-effekt par extraheras från fri text med hjälp av en liten uppsättning frömönster. För det andra utbildar vi dedikerade inbäddningar över dessa data, genom att använda uppgiftsspecifika sammanhang, d.v.s. sammanhanget av en orsak är dess effekt. Slutligen utvidgar vi en toppmodern omklassificeringsmetod för kvalitetssäkring för att införliva dessa kausala inbäddningar. Vi utvärderar kausala inbäddade modeller både direkt med en tillfällig implikation uppgift, och indirekt, i en nedströms kausal QA uppgift med hjälp av data från Yahoo! Svar. Vi visar att explicit modellering kausalitet förbättrar prestandan i båda uppgifterna. I QA-uppgiften uppnår vår bästa modell 37,3% P@1, betydligt bättre än en stark baslinje med 7,7% (relativ).
REF gav upphov till en kausalitetsspecifik inbäddning och visade att dessa särskilda inbäddningar är till hjälp i en efterföljande kausal QA-uppgift.
Creating Causal Embeddings for Question Answering with Minimal Supervision
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}