Få-shot lärande är ett utmanande problem där systemet krävs för att uppnå generalisering från bara några få exempel. Meta-learning tar itu med problemet genom att lära sig förkunskaper som delas över en fördelning av uppgifter, som sedan används för att snabbt anpassa sig till osynliga uppgifter. Modell-agnostic meta-learning (MAML) algoritm formulerar förkunskaper som en gemensam initiering över uppgifter. Att med våld dela en initiering leder dock till konflikter mellan uppgifter och äventyrar därmed initieringens kvalitet. I detta arbete, genom att observera att omfattningen av kompromisser skiljer sig mellan uppgifter och mellan lager av ett neuralt nätverk, föreslår vi en ny initiering idé som använder uppgiftsberoende lagervis förmildring, som vi kallar selektiv glömska. Det föreslagna dämpningssystemet kontrollerar dynamiskt hur mycket av förkunskaperna varje skikt kommer att utnyttja för en given uppgift. De experimentella resultaten visar att den föreslagna metoden lindrar konflikterna och ger enastående resultat som ett resultat. Vi visar vidare att den föreslagna metoden, L2F, kan tillämpas och förbättra andra state-of-the-art MAML-baserade ramar, vilket illustrerar dess allmängiltighet.
Istället för att med våld dela en initiering mellan uppgifter, Baik et al. REF använde uppgiftsberoende skiktvis dämpning, som dynamiskt kunde kontrollera hur mycket av förkunskaperna varje skikt skulle utnyttja för en given uppgift.
Learning to Forget for Meta-Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}