Vi föreslår en allmän algoritmisk ram för begränsad matris och tensor factorization, som ofta används i signalbehandling och maskininlärning. Det nya ramverket är en hybrid mellan alternerande optimering (AO) och den alternerande riktningsmetoden för multiplikatorer (ADMM): varje matrisfaktor uppdateras i sin tur, med ADMM, därav namnet AO-ADMM. Denna kombination kan naturligt tillgodose en stor variation av begränsningar på faktorn matriser, och nästan alla möjliga förlust åtgärder för monteringen. Beräkning caching och varmstart strategier används för att säkerställa att varje uppdatering utvärderas effektivt, medan den yttre AO ramverket utnyttjar den senaste utvecklingen i block koordinat nedstigning (BCD)-typ metoder som bidrar till att säkerställa att varje gränspunkt är en stationär punkt, samt snabbare och mer robust konvergens i praktiken. Tre specialfall studeras i detalj: icke-negativ matris / tensor faktorisering, begränsad matris / tensor avslutning, och ordbok lärande. Omfattande simuleringar och experiment med verkliga data används för att visa på effektiviteten och den breda tillämpligheten av det föreslagna ramverket.
En hybrid omväxlande optimering och ADMM metod föreslogs för NMF, liksom tensor factorization, under en mängd olika begränsningar och förlust åtgärder i REF.
A Flexible and Efficient Algorithmic Framework for Constrained Matrix and Tensor Factorization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}