Vi studerar online ångra minimisering algoritmer i en expert inställning. I denna inställning väljer algoritmen en fördelning över experter vid varje steg och får en vinst som är ett vägt genomsnitt av experternas momentana vinster. Vi anser att det är ett bikriterium som inte bara undersöker standardbegreppet beklagande till den bästa experten, utan också beklagandet till genomsnittet av alla experter, beklagandet av varje given fast blandning av experter, eller beklagandet till den sämsta experten. Denna studie leder både till ny förståelse för begränsningarna i befintliga algoritmer utan motstycke och till nya algoritmer med nya prestandagarantier. Mer specifikt visar vi att alla algoritmer som endast uppnår O( ❌ T ) kumulativ ånger till den bästa experten på en sekvens av T-försök måste, i värsta fall, lida ånger  på genomsnittet, och att för en bred klass av uppdateringsregler som innehåller många befintliga no-regret algoritmer (såsom Exponential Weights och Följ Perturbed Leader), produkten av ångra till det bästa och ångra till genomsnittet är, i värsta fall,  och (T ). Vi beskriver och analyserar sedan två alternativa nya algoritmer som både uppnå kumulativ ånger endast ❌ T log T ) till den bästa experten och har bara konstant ångra till någon given fast distribution över experter (dvs utan beroende av antingen T eller antalet experter N ). Nyckeln till den första algoritmen är den gradvisa ökningen av "aggressiviteten" av uppdateringar som svar på observerade skillnader i expertprestationer. Den andra algoritmen är en enkel twist på vanliga exponentiellt uppdaterade algoritmer.
Förutom att förbättra resultatet av REF, vi också svara på frågan som lämnats öppen av författarna: "Det är för närvarande okänt om det är möjligt att stärka Theorem 6 för att säga att någon algoritm med ångra O( ε T log T ) till den bästa experten måste ha ångra  och (T) till genomsnittet för vissa konstant  på > 0".
Regret to the best vs. regret to the average
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}