Abstrakt. Uppmärksamhetsmodeller har haft en betydande positiv inverkan på det djupa lärandet inom en rad olika uppgifter. Tidigare försök att integrera uppmärksamhet med förstärkt inlärning har dock inte lett till några betydande förbättringar. Vi föreslår den första kombinationen av självuppmärksamhet och förstärka lärande som är kapabel att producera betydande förbättringar, inklusive nya state of the art results in the Arcade Learning Environment. Till skillnad från de modeller för selektiv uppmärksamhet som använts i tidigare försök, som begränsar uppmärksamheten genom förutfattade meningar av betydelse, utnyttjar vårt genomförande de markovianska egenskaper som är inneboende i statsinsatsen. Vår metod ger en trogen visualisering av policyn, med fokus på agentens beteende. Våra experiment visar att de utbildade policies använder flera samtidiga foci av uppmärksamhet, och kan modulera uppmärksamhet över tid för att hantera situationer med partiell observerbarhet.
I andra tidigare försök att integrera uppmärksamhet med RL, författarna har i stort sett använt handgjorda funktioner som indata till uppmärksamhet modellen REF.
Reinforcement Learning with Attention that Works: A Self-Supervised Approach
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}