Standard artificiella neurala nätverk lider av den välkända frågan om katastrofal glömska, vilket gör kontinuerlig eller livslångt lärande problematiskt. På senare tid har många metoder föreslagits för fortlöpande lärande, men på grund av skillnader i utvärderingsprotokoll är det svårt att direkt jämföra deras resultat. För att möjliggöra mer meningsfulla jämförelser identifierade vi tre distinkta scenarier för fortlöpande lärande baserat på om uppgiftsidentiteten är känd och, om den inte är det, om den behöver härledas. Utföra split och permuterade MNIST aktivitet protokoll enligt vart och ett av dessa scenarier, fann vi att regularization-baserade metoder (t.ex. elastisk vikt konsolidering) misslyckades när uppgift identiteten behövde härledas. Generativ replay kombinerat med destillation (dvs. med hjälp av sannolikheter i klassen som "mjuka mål") uppnådde däremot överlägsen prestanda i alla tre scenarierna. Dessutom minskade vi beräkningskostnaden för generativ replay genom att integrera den generativa modellen i huvudmodellen genom att utrusta den med generativa återkopplingsanslutningar. Denna Replay-through-Feedback metod avsevärt förkortad träningstid med ingen eller försumbar förlust i prestanda. Vi anser att detta är ett viktigt första steg mot att göra den kraftfulla tekniken för generativ replay skalbar till verkliga kontinuerligt lärande applikationer. * Alternativt
REF integrerar den generativa modellen i huvudnätverket genom att införa återkopplingsanslutningar som är utbildade för att rekonstruera indata från dolda tillstånd och därmed avlägsna behovet av en separat generativ modell.
Generative replay with feedback connections as a general strategy for continual learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}