Försök att utbilda en omfattande artificiell intelligens som kan lösa flera uppgifter har hindrats av ett kroniskt problem som kallas katastrofal glömska. Även om att helt enkelt spela upp alla tidigare data lindrar problemet, kräver det stort minne och ännu värre, ofta ogenomförbart i verkliga tillämpningar där tillgången till tidigare data är begränsad. Inspirerad av hippocampus generativa natur som ett korttidsminnessystem i primathjärnan föreslår vi Deep Generative Replay, ett nytt ramverk med en kooperativ dubbelmodellarkitektur bestående av en djup generativ modell ("generator") och en uppgiftslösande modell ("solver"). Med endast dessa två modeller, kan träningsdata för tidigare uppgifter enkelt provtas och blandas med dem för en ny uppgift. Vi testar våra metoder i flera sekventiella inlärningsinställningar med bildklassificeringsuppgifter.
REF föreslog en arkitektur med dubbla modeller bestående av en djup generativ modell som fungerar som ett minne och en uppgiftslösningsmodell, en ny generativ modell skapas när uppgiften ändras.
Continual Learning with Deep Generative Replay
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}