Den hörnsten som ligger till grund för djupt lärande är garantin för att lutningens lutning på ett mål konvergerar till lokala minima. Tyvärr, denna garanti misslyckas i inställningar, såsom generativa kontrariska nät, där det finns flera interagerande förluster. Beteendet av gradient-baserade metoder i spel är inte väl förstådd - och blir allt viktigare som kontradiktoriska och multiobjektiva arkitekturer förökar sig. I den här artikeln utvecklar vi nya tekniker för att förstå och kontrollera dynamiken i allmänna spel. Det viktigaste resultatet är att bryta ner den andra ordningens dynamik i två komponenter. Den första är relaterad till potentiella spel, som minskar till lutning nedstigning på en implicit funktion; den andra avser Hamiltonska spel, en ny klass av spel som lyder en bevarandelag, liknar bevarandelagar i klassiska mekaniska system. Dekomposition motiverar Simplectic Gradient Adjustation (SGA), en ny algoritm för att hitta stabila fasta punkter i allmänna spel. Grundläggande experiment visar att SGA är konkurrenskraftig med nyligen föreslagna algoritmer för att hitta stabila fasta punkter i GANs - whilst samtidigt tillämpas på - och har garantier i - mycket mer allmänna spel.
I REF visar författarna att inlärningsdynamik av lutning nedstigning kan cykla i vissa klasser av spel.
The Mechanics of n-Player Differentiable Games
{'venue': 'PMLR volume 80, 2018', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}