Vi föreslår en enkel domänanpassningsmetod för neurala nätverk i en övervakad miljö. Övervakad domänanpassning är ett sätt att förbättra generaliseringsprestandan på måldomänen genom att använda källkodsdomändatasetet, förutsatt att båda dataseten är märkta. Nyligen har återkommande neurala nätverk visat sig vara framgångsrika på en mängd olika NLP-uppgifter såsom bildtextgenerering; dock är de befintliga domänanpassningsteknikerna begränsade till (1) anpassa modellparametrarna genom måldatauppsättningen efter utbildningen av källdatauppsättningen, eller (2) utforma nätverket för att ha dubbel utgång, en för källdomänen och den andra för måldomänen. Omformulera idén om den domänanpassningsteknik som föreslås av Daumé (2007), föreslår vi en enkel domänanpassningsmetod, som kan tillämpas på neurala nätverk tränas med en cross-entropy förlust. På bildtextning av dataset visar vi prestandaförbättringar jämfört med andra domänanpassningsmetoder.
Det enklaste tillvägagångssättet är Fine Tune, där modellen först tränas på källdomänen och sedan finjusteras på måldomänen REF.
Domain Adaptation for Neural Networks by Parameter Augmentation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}