Trots de senaste genombrotten i tillämpningar av djupa neurala nätverk, en miljö som innebär en ihållande utmaning är att "en-shot lärande." Traditionella gradientbaserade nätverk kräver mycket data att lära sig, ofta genom omfattande iterativ utbildning. När nya uppgifter hittas måste modellerna på ett ineffektivt sätt lära om sina parametrar för att på ett tillfredsställande sätt kunna införliva den nya informationen utan katastrofala störningar. Arkitekturer med utökad minneskapacitet, såsom Neural Turing Machines (NTMs), erbjuder förmågan att snabbt koda och hämta ny information, och därmed kan potentiellt undanröja nackdelarna med konventionella modeller. Här visar vi förmågan hos ett minnesaugmenterat neuralt nätverk att snabbt assimilera nya data, och utnyttja dessa data för att göra korrekta förutsägelser efter bara några få prover. Vi introducerar också en ny metod för att komma åt ett externt minne som fokuserar på minnesinnehåll, till skillnad från tidigare metoder som dessutom använder minnesplatsbaserade fokusmekanismer.
Memory Augmented Neural Network (MANN) som utvecklats i REF gör det möjligt att koda och hämta information om synliga fall på ett effektivt sätt.
One-shot Learning with Memory-Augmented Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}