Vi presenterar en metod för att lära sig glesa representationer som delas över flera uppgifter. Denna metod är en generalisering av den välkända single-task 1-norm legalisering. Det är baserat på en ny icke-konvex regularizer som kontrollerar antalet inlärda funktioner som är gemensamma för alla uppgifter. Vi bevisar att metoden är likvärdig med att lösa ett konvext optimeringsproblem där det finns en iterativ algoritm som konvergerar till en optimal lösning. Algoritmen har en enkel tolkning: den utför växelvis ett övervakat och ett oövervakat steg, där den i det tidigare steget lär sig uppgiftsspecifika funktioner och i det senare steget lär sig gemensamma tväruppdrag glesa representationer för dessa funktioner. Vi tillhandahåller också en förlängning av algoritmen som lär sig glesa icke-linjära representationer med hjälp av kärnor. Vi rapporterar experiment på simulerade och verkliga datamängder som visar att den föreslagna metoden både kan förbättra prestandan i förhållande till att lära sig varje uppgift självständigt och leda till några inlärda funktioner som är gemensamma för alla relaterade uppgifter. Vår algoritm kan också användas, som ett specialfall, för att helt enkelt välja-inte lära-ett fåtal gemensamma variabler över alla uppgifter.
Ett exempel på en modell baserad på detta antagande är multi-task funktionsinlärning (MTFL) REF, där en uppsättning relaterade uppgifter lär gemensamma funktioner (eller representationer) delas över flera uppgifter.
Convex multi-task feature learning
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}