Vi visar att lutning nedstigning konvergerar till en lokal minimerare, nästan säkert med slumpmässig initiering. Detta bevisas genom att tillämpa Stable Manifold Theorem från dynamisk systemteori.
REF visade att även utan att lägga till buller, i gränsen lutning nedstigning konvergerar till (andra ordningen) lokalt minimum med slumpmässig initiering.
Gradient Descent Converges to Minimizers
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}