Kernel Principal Component Analysis (KPCA) är en viktig teknik i maskininlärning för att extrahera den ickelinjära strukturen av data och förbehandla den för nedströms lärande algoritmer. Vi studerar den distribuerade inställningen där det finns flera servrar, var och en håller en uppsättning punkter, som vill beräkna de viktigaste komponenterna i föreningen av sina poänguppsättningar. Vårt huvudresultat är en kommunikations- och beräkningseffektiv algoritm som tar som inmatning godtyckliga datapunkter och beräknar en uppsättning globala huvudkomponenter med relativ-terror approximation för polynomkärnor. Även om det senaste arbetet visar hur man gör PCA i en distribuerad inställning, så är kärnans inställning betydligt mer utmanande. Även om "kärntricket" är användbart för effektiv beräkning, är det oklart hur man använder det för att minska kommunikation. Det största problemet med tidigare arbete är att den uppnår kommunikation i proportion till datapunkternas dimension, vilket om den genomförs enkelt i kärninställningen skulle ge kommunikation antingen i proportion till funktionsutrymmets dimension, eller till antalet exempel, som båda skulle kunna vara mycket stora. Vi tar istället en rondell strategi, med hjälp av en noggrann kombination av omedvetna subrymd inbäddningar för kärnor, omedvetna hävstång score approximation, adaptiv provtagning, och skissning för låg rang approximation för att uppnå vårt resultat. Vi visar också att vår algoritm har en stark prestanda på storskaliga datauppsättningar.
REF utökade kärnan PCA till den distribuerade inställningen och föreslog en kommunikationseffektiv distribuerad kärn-PCA-algoritm.
Distributed Kernel Principal Component Analysis
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}