Befintliga djupa multitask lärande (MTL) närmar sig anpassa skikt som delas mellan uppgifter i en parallell beställning. En sådan organisation begränsar avsevärt de typer av delad struktur som man kan lära sig. Behovet av parallellbeställning för djup MTL testas först genom att jämföra den med permuterad beställning av delade lager. Resultaten visar att en flexibel beställning kan möjliggöra effektivare delning och därmed motivera utvecklingen av en mjuk beställningsmetod, som lär sig hur delade lager tillämpas på olika sätt för olika uppgifter. Djup MTL med mjuk beställning överträffar parallella beställningsmetoder över en rad domäner. Dessa resultat tyder på att kraften i djup MTL kommer från att lära sig mycket allmänna byggstenar som kan monteras för att möta kraven i varje uppgift.
REF introducerades som en metod för att lära sig att applicera lager på olika sätt på olika djup för olika uppgifter, samtidigt som man lär sig skikten själva.
Beyond Shared Hierarchies: Deep Multitask Learning through Soft Layer Ordering
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}