Fjärrprocedursamtal (RPC) är ryggraden i många moderna distribuerade system. Googles gRPC är en av de mest populära RPC-ramverk med öppen källkod som finns i samhället. gRPC är den huvudsakliga kommunikationsmotorn för Googles Deep Learning ramverk TensorFlow. TensorFlow använder främst gRPC för att kommunicera tensorer och administrativa uppgifter mellan olika processer. Spänningsuppdateringar under träningsfasen är kommunikationsintensiva och därmed är TensorFlows prestanda starkt beroende av det underliggande nätverket och kommunikationsmotorns effektivitet. Träna djupt lärande modeller på TensorFlow kan ta betydande tid från flera minuter till flera timmar, även flera dagar. Därför behöver systemforskare ägna mycket tid åt att förstå hur kommunikationen påverkar den övergripande prestandan. Det är uppenbart att det saknas riktmärken för systemforskare. Därför föreslår vi TFgRPC-Bench micro-benchmark svit som gör det möjligt för systemundersökningar att snabbt förstå effekterna av de underliggande nätverk och kommunikationstid på djup inlärning arbetsbelastning. För att uppnå detta analyserar vi först egenskaperna hos TensorFlow arbetsbelastning över gRPC genom att träna populära djupt lärande modeller. Sedan föreslår vi tre mikroriktmärken som tar hänsyn till dessa arbetsbelastningsegenskaper. Dessutom utvärderar vi GRPC med TF-gRPC-Bench micro-benchmark suite på olika kluster över Ethernet, IPoIB och RDMA, och presenterar resultaten.
När det gäller kommunikationsprestanda, Ref. REF utformade en referenssvit för att studera TensorFlows kommunikationsprestanda.
Designing a Micro-Benchmark Suite to Evaluate gRPC for TensorFlow: Early Experiences
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}