Vi introducerar en distribuerad algoritm för att lösa problem med storskalig Support Vector Machines (SVM). Algoritmen delar upp utbildningen i ett antal processnoder var och en kör självständigt ett SVM sub-problem i samband med dess delmängd av träningsdata. Algoritmen är en parallell (Jacobi) block-update system härledd från konvex konjugat (Fenchel Duality) form av det ursprungliga SVM-problemet. Varje uppdateringssteg består av en modifierad SVM-lösare som kör parallellt över underproblemen följt av en enkel global uppdatering. Vi härleder gränser för antalet uppdateringar som visar att antalet iterationer (oberoende SVM-tillämpningar på underproblem) som krävs för att få en lösning av noggrannhet är O(log(1/ )). Vi demonstrerar effektiviteten och tillämpligheten av våra algoritmer genom att köra på storskaliga experiment på standardiserade datauppsättningar samtidigt som resultaten jämförs med de toppmoderna SVM-lösarna.
Hazan m.fl. REF presenterar en metod för parallell SVM-inlärning baserad på det parallella Jacobi blockuppdateringsschemat som härrör från konvex konjugatet Fenchel duality.
A Parallel Decomposition Solver for SVM: Distributed dual ascend using Fenchel Duality
{'venue': '2008 IEEE Conference on Computer Vision and Pattern Recognition', 'journal': '2008 IEEE Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}