Vi introducerar en metod för att automatiskt välja den väg, eller kursplan, som ett neuralt nätverk följer genom en läroplan för att maximera inlärningseffektivitet. Ett mått på det belopp som nätverket lär sig av varje dataprov ges som en belöningssignal till en icke-stationär multiarmad banditalgoritm, som sedan bestämmer en stokastisk kursplan. Vi anser att en rad signaler härrör från två tydliga indikatorer på inlärningsframsteg: ökningstakten i förutsägelsenoggrannheten och ökningstakten i nätverkens komplexitet. Experimentella resultat för LSTM-nätverk på tre kursplaner visar att vårt arbetssätt avsevärt kan påskynda lärandet, i vissa fall halvera den tid som krävs för att uppnå en tillfredsställande prestationsnivå.
Nyligen använder REF en icke-stationär multi-armad bandit för att automatiskt välja läroplanen eller kursplanen som ett neuralt nätverk följer för att maximera inlärningseffektivitet.
Automated Curriculum Learning for Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}