Koordinatnedstigningsmetoder minimerar vanligtvis en kostnadsfunktion genom att uppdatera en slumpmässig beslutsvariabel (motsvarande en koordinat) åt gången. Helst skulle vi uppdatera den beslutsvariabel som ger den största minskningen i kostnadsfunktionen. Men att hitta denna koordinat skulle kräva att kontrollera alla av dem, vilket effektivt skulle förneka den förbättring i beräkningsförmåga som koordinat nedstigning är avsedd att ge. För att ta itu med detta föreslår vi en ny adaptiv metod för att välja en koordinat. För det första finner vi en lägre gräns på det belopp som kostnadsfunktionen minskar när en koordinat uppdateras. Vi använder sedan en multiarmad banditalgoritm för att lära oss vilka koordinater som resulterar i den största nedre gränsen genom att koppla detta lärande med konventionella koordinatnedstigningsuppdateringar förutom att koordinaten väljs i proportion till den förväntade minskningen. Vi visar att vår strategi förbättrar konvergensen mellan koordinatmetoder både teoretiskt och experimentellt.
För att lösa detta problem utnyttjade en nyligen genomförd studie REF en banditalgoritm för att lära sig en bra approximation av belöningsfunktionen, vilket kännetecknar hur mycket kostnadsfunktionen minskar när motsvarande koordinat uppdateras.
Coordinate Descent with Bandit Sampling
{'venue': None, 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science']}