Talöversättning har traditionellt kontaktats genom kaskadmodeller som består av en talkännare tränad på en korpus av transkriberat tal, och ett maskinöversättningssystem utbildat på parallella texter. Flera av de senaste verken har visat genomförbarheten av att kollapsa kaskaden till en enda, direkt modell som kan tränas på ett end-to-end-sätt på en corpus av översatta tal. Men experimenten är ofullständiga om huruvida kaskaden eller den direkta modellen är starkare, och har bara genomförts under orealistiskt antagande att båda är utbildade på lika stora mängder data, ignorera andra tillgängliga taligenkänning och maskinöversättning corpora. I detta dokument visar vi att direkttalande översättningsmodeller kräver mer data för att fungera bra än kaskad modeller, och även om de tillåter att inkludera hjälpdata genom multi-task utbildning, de är fattiga på att utnyttja sådana data, vilket gör dem till en allvarlig nackdel. Som ett botemedel föreslår vi att man använder endto-end-utbildbara modeller med två uppmärksamhetsmekanismer, det första som skapar källtal för källtextanpassningar, den andra modelleringskällan för att rikta in sig på textanpassning. Vi visar att sådana modeller naturligt sönderdelas i multitask-trainable igenkännings- och översättningsuppgifter och föreslår en uppmärksamhet-passing teknik som lindrar felförökning frågor i en tidigare formulering av en modell med två uppmärksamhetssteg. Vår föreslagna modell överträffar alla undersökta baslinjer och kan utnyttja extra träningsdata mycket mer effektivt än direkta uppmärksamhetsmodeller.
REF notera att kaskadmodeller missgynnas när de begränsas till att endast utbildas i talöversättningsdata.
Attention-Passing Models for Robust and Data-Efficient End-to-End Speech Translation
{'venue': 'Transactions of the Association for Computational Linguistics', 'journal': 'Transactions of the Association for Computational Linguistics', 'mag_field_of_study': ['Computer Science']}