Abstract-Matrix factorization, när matrisen har saknade värden, har blivit en av de ledande teknikerna för rekommendationssystem. För att hantera webscale dataset med miljontals användare och miljarder av betyg, skalbarhet blir en viktig fråga. Alternating Least Squares (ALS) och Stochastic Gradient Descent (SGD) är två populära metoder för att beräkna matris factorization. Det har varit en nyligen flurry av aktivitet för att parallellisera dessa algoritmer. På grund av kubiktidens komplexitet i målrangen är ALS dock inte skalbart till storskaliga datauppsättningar. Å andra sidan genomför SGD effektiva uppdateringar men lider vanligtvis av långsam konvergens som är känslig för parametrarna. Koordinatnedstigning, en klassisk optimeringsmetod, har använts för många andra storskaliga problem, men dess tillämpning på matris factorization för recommender system har inte undersökts grundligt. I detta dokument visar vi att koordinatmetoder har en effektivare uppdateringsregel jämfört med ALS, och är snabbare och har stabilare konvergens än SGD. Vi studerar olika uppdateringssekvenser och föreslår CCD++ algoritmen, som uppdaterar rank-en faktorer en efter en. Dessutom kan CCD++ enkelt parallelliseras på både flerkärniga och distribuerade system. Vi visar empiriskt att CCD++ är mycket snabbare än ALS och SGD i båda inställningarna. På ett syntetiskt dataset med 2 miljarder betyg är CCD++ 4 gånger snabbare än både SGD och ALS med ett distribuerat system med 20 maskiner.
Yu, Hsieh, Si och Dhillon i REF jämför ALS metoder till Stochastic Gradient Descent (SGD) metoder och Samordna Descent metoder.
Scalable Coordinate Descent Approaches to Parallel Matrix Factorization for Recommender Systems
{'venue': '2012 IEEE 12th International Conference on Data Mining', 'journal': '2012 IEEE 12th International Conference on Data Mining', 'mag_field_of_study': ['Computer Science']}