Maskininlärning och datautvinning (MLDM) algoritmer blir allt viktigare för att analysera stora mängder data som genereras av simuleringar, experiment och mobila enheter. Med ökande datavolym blir distribuerade minnessystem (såsom tätt anslutna superdatorer eller molndatasystem) viktiga när det gäller att utforma in-minnes- och massivt parallella MLDM-algoritmer. Ändå är majoriteten av programvara med öppen källkod MLDM begränsad till sekventiell körning med några stöd för multi-core/manycore utförande. I detta dokument utökar vi nyligen föreslagna Google TensorFlow för utförande på storskaliga kluster med Message Passing Interface (MPI). Vår strategi kräver minimala förändringar av TensorFlow körtid - vilket gör det föreslagna genomförandet generiskt och lätt att använda för allt större användare av TensorFlow. Vi utvärderar vårt genomförande med hjälp av ett InfiniBand-kluster och flera välkända dataset. Vår utvärdering visar hur effektivt vårt föreslagna genomförande är.
Vishnu m.fl. REF förlängde Google TensorFlow för utförande på storskaliga kluster med MPI.
Distributed TensorFlow with MPI
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}