Överför lärande är en viktig teknik som generaliserar modeller tränas för en inställning eller uppgift till andra inställningar eller uppgifter. Till exempel i taligenkänning kan en akustisk modell som är tränad för ett språk användas för att känna igen tal på ett annat språk, med lite eller ingen omskolningsdata. Överföringslärande är nära relaterat till lärande med flera uppgifter (språkligt kontra flerspråkigt) och studeras traditionellt i namnet "modellanpassning". Nyligen gjorda framsteg i djupinlärning visar att överföringsinlärning blir mycket enklare och effektivare med abstrakta funktioner på hög nivå som lärts av djupa modeller, och "överföringen" kan genomföras inte bara mellan datadistributioner och datatyper, utan också mellan modellstrukturer (t.ex. grunda nät och djupnät) eller till och med modelltyper (t.ex. Bayesianska modeller och neurala modeller). I detta granskningsdokument sammanfattas en del av den senaste tidens framstående forskning i denna riktning, särskilt för tal- och språkbehandling. Vi rapporterar också några resultat från vår grupp och lyfter fram potentialen i detta mycket intressanta forskningsområde 1.
En detaljerad översikt över överföringslärande i tal- och språkbehandling ges av Wang et al. Hoppa över det.
Transfer learning for speech and language processing
{'venue': '2015 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA)', 'journal': '2015 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA)', 'mag_field_of_study': ['Computer Science']}