Vi tillhandahåller en ny algoritm för att ungefär faktor stora matriser med miljontals rader, miljoner kolumner, och miljarder icke-noll element. Vårt tillvägagångssätt vilar på stokastisk lutning nedstigning (SGD), en iterativ stokastisk optimeringsalgoritm. Vi utvecklar först en ny "stratifierad" SGD variant (SSGD) som gäller allmänna förlustminimeringsproblem där förlustfunktionen kan uttryckas som en viktad summa av "stratumförluster". Vi skapar tillräckliga förutsättningar för konvergens av SSGD med hjälp av resultat från stokastisk approximationsteori och regenerativ processteori. Vi specialiserar oss sedan SSGD för att få en ny matris-faktorisering algoritm, kallad DSGD, som kan distribueras fullt ut och köras på webbskala dataset med, t.ex., MapReduce. DSGD kan hantera ett brett utbud av matris factorizations. Vi beskriver de praktiska tekniker som används för att optimera prestandan i vårt DSGD-implementation. Experiment tyder på att DSGD konvergerar betydligt snabbare och har bättre skalbarhetsegenskaper än alternativa algoritmer.
Gemulla m.fl. REF tillhandahåller en ny algoritm för att ungefär faktor stora matriser med miljontals rader, miljoner kolumner och miljarder icke-nollelement.
Large-scale matrix factorization with distributed stochastic gradient descent
{'venue': 'KDD', 'journal': None, 'mag_field_of_study': ['Computer Science']}